이 포스트는 Strang Ch.10 §10.1 을 뼈대로 복소수의 기본 연산, 복소평면, 켤레와 절댓값, 극형식 \(z = re^{i\theta}\), Euler 공식 \(e^{i\theta} = \cos\theta + i\sin\theta\), De Moivre 정리, 1의 \(n\) 제곱근을 한다 체로 정리한다. 각 개념의 “왜 이렇게 정의하는가”, “어떤 문제를 풀기 위해 태어났는가”를 기하학적 직관과 함께 다루며, 이후 Hermitian·Unitary·FFT에서 이 언어가 어떻게 쓰이는지 미리 연결 고리를 만든다.
Mathematics
Machine Learning
저자
Kwangmin Kim
공개
2026년 04월 13일
1 개요
실수 체계 \(\mathbb{R}\) 에서 \(x^2 = -1\) 은 해를 갖지 않는다. 실수를 제곱하면 항상 0 이상이기 때문이다. 그러나 이 “해가 없다”는 사실은 선형대수에서 심각한 결함을 만든다. 예로 가장 단순한 \(2\times 2\) 회전 행렬
의 특성방정식은 \(\lambda^2 - 2\cos\theta\,\lambda + 1 = 0\) 이다. 판별식 \(4\cos^2\theta - 4 = -4\sin^2\theta \leq 0\) 으로, \(\theta \neq 0, \pi\) 이면 실수 해가 없다. “회전은 모든 방향을 바꾼다”는 당연한 기하학적 사실이 실 고유값 부재로 나타난다.
이 빈자리를 채우려면 수 체계를 확장해야 한다. 확장의 씨앗은 단 하나의 규칙이다.
\[
i^2 = -1
\]
이 한 줄로부터 복소수 체계 \(\mathbb{C}\) 가 자라 나오고, 회전 행렬은 \(\lambda = e^{\pm i\theta}\) 라는 깔끔한 고유값을 얻는다. 더 나아가 푸리에 변환·양자역학·신호처리 가 모두 이 확장 위에 얹힌다.
이 포스트는 Strang (2009) Introduction to Linear Algebra Ch.10 §10.1 의 흐름을 따라 복소수의 기본 연산·극형식·Euler 공식을 정리한다. 각 단계에서 “왜 이렇게 정의하는가”를 기하학적으로 해석하여 이후 Hermitian·Unitary·FFT 포스트의 기반을 다진다.
2 정의와 기본 연산
정의: 복소수 (Complex Number)
\(a, b \in \mathbb{R}\) 에 대해
\[
z = a + bi, \qquad i^2 = -1
\]
의 형태로 쓰는 수를 복소수라 하고, \(a = \text{Re}(z)\) 를 실부, \(b = \text{Im}(z)\) 를 허부라 한다. 복소수 전체 집합은 \(\mathbb{C}\) 이다.
실수는 \(b = 0\) 인 복소수 — 즉 \(\mathbb{R} \subset \mathbb{C}\)
순허수(pure imaginary)는 \(a = 0\) 인 복소수
2.1 덧셈과 뺄셈
실부·허부를 각각 더한다.
\[
(a + bi) + (c + di) = (a + c) + (b + d)i
\]
이는 2차원 벡터 \((a, b), (c, d)\) 의 덧셈과 구조가 동일하다. 복소수를 \(\mathbb{R}^2\) 의 점으로 볼 수 있는 첫 번째 근거다.
2.2 곱셈
\(i^2 = -1\) 규칙 외에는 일반 대수와 동일하게 분배법칙으로 전개한다.
\[
(a + bi)(c + di) = ac + adi + bci + bd\,i^2 = (ac - bd) + (ad + bc)i
\]
핵심은 허부 제곱이 실부로 “넘어온다” 는 점이다. \(bd \cdot i^2 = -bd\) 가 실부에 음수로 들어간다. 이 단 한 가지 규칙이 복소수 곱셈의 모든 구조를 결정한다.
검증 예시: \((1 + i)^2 = 1 + 2i + i^2 = 1 + 2i - 1 = 2i\). 즉 \(1 + i\) 를 제곱하면 순허수가 된다.
2.3 나눗셈: 켤레를 곱해서 유리화
복소수 \(1/z\) 는 직접 계산하기 어렵지만, 분모·분자에 \(\bar{z}\) 를 곱하면 분모가 실수가 되어 실수 나눗셈으로 바뀐다.
예: \(1/(3 + 2i) = (3 - 2i)/13\). 분모의 \(i\) 를 제거하는 이 기법은 고등학교의 무리식 유리화 (\(\sqrt{\cdot}\) 를 제거하는 것) 와 수학적으로 동일한 아이디어다.
직관: 왜 “\(i^2 = -1\)” 하나로 모든 것이 결정되는가
수 체계 확장은 “가능한 한 적은 규칙 추가로 원하는 성질을 얻는” 것이 핵심이다. \(i^2 = -1\) 은
덧셈·곱셈의 결합법칙·교환법칙·분배법칙 을 모두 보존한다 (체(field) 구조 유지)
모든 다항식에 근의 존재를 보장한다 (대수학의 기본정리: \(n\) 차 다항식은 \(\mathbb{C}\) 에서 \(n\) 개 근을 가진다)
\(\mathbb{R}\) 을 부분집합으로 포함한다 (\(b = 0\) 이면 실수 연산과 일치)
추가 규칙 없이 이 세 가지를 동시에 얻는 최소 확장이 복소수다. 더 큰 확장(사원수 quaternion, 팔원수 octonion) 도 있지만 거기서는 교환법칙 등이 깨진다. 복소수는 “가환체(commutative field) 를 유지하는 최대 확장”이라는 독특한 지위를 갖는다.
3 복소평면과 기하학적 해석
3.1 좌표계
복소수 \(z = a + bi\) 를 평면 위의 점 \((a, b)\) 와 동일시한다.
실축 (가로): 실수 전체
허축 (세로): 순허수 전체
원점: \(0 + 0i\)
덧셈은 벡터 덧셈(평행이동), 절댓값 곱하기는 원점 기준 크기 조절, 켤레는 실축 기준 반사다. 곱셈은 조금 더 흥미롭다 — 극형식에서 자연스럽게 드러난다.
3.2 켤레 (Conjugate)
정의: 켤레
\(z = a + bi\) 의 복소 켤레는
\[
\bar{z} = a - bi
\]
이다. 기호는 \(\bar{z}\) 또는 \(z^*\) (물리·공학에서 흔히 사용).
기하적 의미: 복소평면에서 실축에 대한 대칭. \((a, b)\) 가 \((a, -b)\) 로 반사된다.
\(\theta = \pi\): \(e^{i\pi} = -1\) → \(e^{i\pi} + 1 = 0\) (Euler 항등식, 수학사상 가장 아름다운 식 중 하나)
\(\theta = 2\pi\): \(e^{2\pi i} = 1\)
직관: Euler 공식은 왜 놀라운가
\(e^x\) 는 원래 “지수적 성장”을 표현한다. \(\cos, \sin\) 은 “주기적 진동”을 표현한다. 두 언어가 서로 아무 관련 없어 보이는데, 지수의 허수 입력이 정확히 진동을 만들어 낸다.
물리적 해석: \(e^{i\theta}\) 는 각속도 1로 원 운동하는 점의 위치다. \(e^{i\omega t}\) 는 각속도 \(\omega\) 원 운동이며, 이 회전을 실축에 투영하면 \(\cos\omega t\) (횡파), 허축에 투영하면 \(\sin\omega t\) (세로파)다. 즉 진동은 회전의 그림자다. 한 가지 회전 개념만 이해하면 코사인·사인 덧셈정리·이중각 공식 등이 모두 지수 법칙에서 자동으로 나온다.
이 통합이 신호처리·양자역학에서 \(e^{i\omega t}\) 를 기본 단위로 쓰는 이유다. 삼각함수보다 수식 조작이 훨씬 간단하다.
4.3 극형식 곱셈: 크기 곱, 각도 합
\(z_1 = r_1 e^{i\theta_1}, z_2 = r_2 e^{i\theta_2}\) 에 대해 지수 법칙 \(e^a \cdot e^b = e^{a+b}\) 가 복소에서도 성립하므로
Discrete Fourier Transform (DFT) 은 길이 \(n\) 신호를 “주파수 성분”으로 분해하는 변환이다. 기저가 되는 것이 1의 \(n\) 제곱근들이다: 신호 \(\mathbf{c} = (c_0, \dots, c_{n-1})\) 의 \(k\)-번째 주파수 성분은
이다. \(\omega_n\) 의 제곱근들이 “직교 주파수 격자”를 이루며, 이 격자의 대칭성이 FFT의 \(O(n\log n)\) 알고리즘을 가능하게 한다. \(\omega_n^n = 1\), \(\omega_n^{2k} = (\omega_n^2)^k = \omega_{n/2}^k\) 같은 대수 관계가 재귀 분할의 뼈대다.
6 복소 고유쌍 원리
실 행렬 \(A\) 의 고유값이 복소일 수 있고, 그 경우 반드시 켤레쌍으로 나타난다.
6.1 왜 그런가
\(A\mathbf{v} = \lambda\mathbf{v}\) 에서 \(A\) 가 실이면 양변에 켤레를 취하면 \(\overline{A}\bar{\mathbf{v}} = \bar{\lambda}\bar{\mathbf{v}}\). \(A\) 가 실이므로 \(\overline{A} = A\), 따라서
\[
A \bar{\mathbf{v}} = \bar{\lambda}\, \bar{\mathbf{v}}
\]
즉 \((\lambda, \mathbf{v})\) 가 고유쌍이면 \((\bar{\lambda}, \bar{\mathbf{v}})\) 도 고유쌍이다.
\(\lambda = i\) 에 대해 \(\mathbf{v} = (1, -i)^\top\) (또는 \((i, 1)^\top\), 상수배)
\(\lambda = -i\) 에 대해 \(\bar{\mathbf{v}} = (1, i)^\top\)
검증: \(\mathbf{R}_{\pi/2}\begin{pmatrix}1\\-i\end{pmatrix} = \begin{pmatrix}i\\1\end{pmatrix} = i\begin{pmatrix}1\\-i\end{pmatrix}\) (좌변 두 번째 성분: \(1 = -i \cdot i = -i^2 = 1\) ✓).
6.3 일반화: 실 스펙트럼과 복소 스펙트럼의 공존
\(A\) 가 \(n \times n\) 실 행렬이면 고유값 \(n\) 개 중
일부는 실수 (불변 축 방향)
나머지는 복소 켤레쌍으로 짝지어 존재 (불변 평면에서의 회전)
예: \(3 \times 3\) 실 행렬의 고유값은 (실 3개) 또는 (실 1개 + 복소 켤레쌍 1개) — 복소만 있는 경우는 불가능(홀수 차수 다항식은 실근 하나를 반드시 갖는다).
이것이 실 동역학계가 지수적 성장/감쇠 (실 \(\lambda\)) + 진동 (복소 켤레쌍) 의 조합으로 구성되는 이유다. 미분방정식 \(\dot{\mathbf{x}} = A\mathbf{x}\) 의 해 \(\mathbf{x}(t) = e^{At}\mathbf{x}_0\) 에서 복소 고유값 \(\lambda = \alpha + i\beta\) 는 \(e^{\alpha t}(\cos\beta t + i\sin\beta t)\) 형태의 진동 해를 만든다.
7 응용: ML/DL·과학에서의 위치
분야
복소수의 역할
신호처리
DFT/FFT의 기저 \(\omega_n^k\) — 주파수 분해
양자역학
파동함수 \(\psi \in \mathbb{C}\), 확률 \(|\psi|^2\), 위상 간섭
제어공학
\(s = \sigma + i\omega\) 평면 — 극·영점 배치, 안정성
딥러닝
복소값 신경망, 스펙트럼 GNN, FFT 기반 convolution
전자공학
AC 회로의 임피던스 \(Z = R + iX\) — 저항·리액턴스
유체역학
2D 포텐셜 유동 \(w = \phi + i\psi\) — 흐름과 스트림 함수
정수론
리만 제타 함수의 비자명 영점
7.1 구체적 사례: 위상이 정보다
MRI, SAR (합성개구레이더), 무선 통신에서 측정 신호는 복소값이다. “크기 \(|z|\)” 뿐 아니라 “위상 \(\arg z\)” 에 정보가 담긴다. 위상만 유지하고 크기를 평균으로 대체해도 이미지 복원이 가능할 정도로 (Oppenheim 1981 의 고전 실험), 위상 정보의 비중이 크다. 실수 처리만 하면 이 절반의 정보를 버리는 셈이다.
7.2 구체적 사례: 스펙트럼 반경의 복소 증명
수치 선형대수의 “스펙트럼 반경 \(\rho(B) < 1\) 이면 \(B^k \to 0\)” 정리는 복소 Jordan 형식을 통해 증명된다. 실 Jordan 형식은 2×2 블록 안에 “회전 + 스케일링”을 넣어야 하므로 복잡하지만, 복소에서는 대각 (또는 Jordan 블록) 하나로 끝난다. 즉 복소 확장은 증명의 언어를 단순화한다.