Hermitian 행렬과 Unitary 행렬 (Hermitian and Unitary Matrices)
실 대칭·직교의 복소 일반화와 스펙트럼 정리
실 대칭 행렬 \(A = A^\top\) 이 선형대수의 가장 좋은 행렬인 이유는 고유값이 실수이고 고유벡터가 직교하여 \(A = Q\Lambda Q^\top\) 로 완벽히 진단되기 때문이다. 복소 세계에서 이 세 장점을 그대로 이어받는 것이 Hermitian 행렬 \(A = A^H\) 이고, 실 직교 행렬 \(Q^\top Q = I\) 의 복소 짝이 Unitary 행렬 \(U^H U = I\) 다. 이 포스트는 Strang §10.2 를 뼈대로 켤레전치 \(^H\) 의 정의, 복소 내적, Hermitian의 세 가지 핵심 성질과 증명, 스펙트럼 정리 \(A = U \Lambda U^H\), Unitary의 기하학적 의미, Skew-Hermitian과 정규(normal) 행렬, 양자역학·신호처리에서의 역할까지를 직관과 수식으로 정리한다.
Mathematics
Machine Learning
Deep Learning
저자
Kwangmin Kim
공개
2026년 04월 13일
1 개요
Strang의 §10.2 는 한 문장으로 요약된다.
복소 벡터나 행렬을 전치할 때는 켤레까지 함께 취한다.
\(z^\top\) 이 아니라 \(\bar{z}^\top\), \(A^\top\) 이 아니라 \(\bar{A}^\top\) 이라는 작은 치환이 실 선형대수의 모든 “좋은 정리”를 복소 세계로 자연스럽게 이전시킨다. 이 켤레전치 \(A^H\) 와 함께 자라 나오는 두 특수 행렬이
Unitary 행렬: \(U^H U = I\) — 실 직교 \(Q^\top Q = I\) 의 복소판
이다. 실 세계에서 대칭과 직교가 스펙트럼 정리를 지탱하듯, 복소 세계에서는 Hermitian과 Unitary가 같은 역할을 한다.
이 포스트는 Strang (2009) Introduction to Linear Algebra Ch.10 §10.2 “Hermitian and Unitary Matrices” 의 흐름을 따르되, 각 정리의 증명을 단계별로 전개하고 양자역학·신호처리에서의 물리적 의미를 함께 다룬다. 끝에는 Hermitian·Unitary 를 포괄하는 더 넓은 집합인 정규 행렬(normal matrix) 도 짧게 짚는다.
켤레 대칭(conjugate symmetric) — 즉 \(\mathbf{u}\) 와 \(\mathbf{v}\) 를 바꾸면 켤레가 된다. 값이 실수이면 순서 바꿈의 영향이 없지만, 값이 복소수면 부호(허부)가 뒤집힌다.
3.3 직교성
\(\mathbf{u}^H \mathbf{v} = 0\) 이면 \(\mathbf{u}\) 와 \(\mathbf{v}\) 는 직교한다. 복소에서의 직교는 기하학적 직관이 조금 미묘하다 — 실수 성분만 보면 직각처럼 보이지 않을 수도 있지만, 내적이 0이면 정의상 직교다.
예시 (Strang §10.2 Example 1): \(\mathbf{u} = (1, i)^\top\), \(\mathbf{v} = (i, 1)^\top\) 에 대해
\[
\mathbf{u}^H \mathbf{v} = \bar{1}\cdot i + \bar{i}\cdot 1 = i + (-i) = 0
\]
직교다. 켤레를 빼고 \(\mathbf{u}^\top \mathbf{v} = 1\cdot i + i\cdot 1 = 2i\) 로 계산하면 틀린 값(영이 아님)이 나온다. 켤레가 없으면 직교성 판정도 깨진다.
직관: 왜 “한쪽만 켤레”인가
길이 정의 \(\mathbf{z}^H \mathbf{z} = |z_1|^2 + \cdots + |z_n|^2\) 가 양수가 되려면 각 항이 \(|z_i|^2 = z_i \bar{z}_i\) 형태여야 한다. 따라서 내적을 정의할 때 두 인자 중 한 쪽만 켤레하면 길이 호환이 된다. 양쪽 모두 켤레하면 다시 \(\sum \bar{z}_i^2\) 로 돌아가 문제 재발, 양쪽 모두 켤레하지 않으면 \(\sum z_i^2\) 로 문제 재발. “한쪽만”이 유일한 답이다.
어느 쪽을 켤레할지는 규약이다. 수학자는 주로 둘째 인자를 켤레(원래 Hermitian의 표기), 물리학자는 첫 인자를 켤레(Dirac의 bra-ket \(\langle\psi|\phi\rangle\) 에서 bra 가 켤레). Strang과 이 포스트는 첫 인자 켤레 규약 (\(\mathbf{u}^H \mathbf{v}\)) 을 사용한다.
4 Hermitian 행렬
4.1 정의와 예시
정의: Hermitian 행렬
\(A = A^H\) 를 만족하는 정방 복소 행렬을 Hermitian 행렬이라 한다. 성분 조건:
\[
a_{ij} = \overline{a_{ji}}
\]
특히 대각 원소는 \(a_{ii} = \overline{a_{ii}}\) 이므로 실수여야 한다.
\(U\) 는 orthonormal 열을 갖는 unitary 행렬 (\(U^H U = I\)), 열이 고유벡터
실 대칭의 \(A = Q \Lambda Q^\top\) 의 복소판이다.
증명 스케치: 성질 3으로 다른 고유값의 고유벡터는 직교. 같은 고유값이 중복되면 그 고유공간 안에서 Gram-Schmidt (복소판)로 orthonormal 기저를 잡는다. 전체를 unitary \(U\) 로 묶으면 \(A U = U \Lambda\), 양변에 \(U^H\) 곱하면 \(U^H A U = \Lambda\), 정리하면 \(A = U \Lambda U^H\).
직관: 양자역학의 핵심
양자역학은 관측 가능량(위치·운동량·에너지 등)을 Hermitian 연산자\(\hat{O}\) 로 모델링한다. 측정값은 \(\hat{O}\) 의 고유값이며, 이 고유값이 실수이므로 물리적으로 측정 가능한 수가 된다. 측정 직후 상태는 해당 고유벡터로 “붕괴”하며, 서로 다른 측정값의 고유벡터가 직교하므로 이들을 기저로 하여 상태를 분해할 수 있다.
즉 Hermitian 의 세 성질 (실 고유값·직교 고유벡터·spectral 분해)이 정확히 양자역학 측정 공리의 수학적 골격이다. 실수 세계만 다뤘다면 양자역학 자체가 성립하지 않는다.
5 Unitary 행렬
5.1 정의
정의: Unitary 행렬
\(U^H U = I\) 를 만족하는 정방 복소 행렬을 Unitary 행렬이라 한다. 등가적으로
\[
U^{-1} = U^H
\]
실 직교 행렬 \(Q^\top Q = I\) 의 복소판이다. 예: 푸리에 행렬 \(F_n / \sqrt{n}\), 양자 게이트 (Hadamard, Pauli, CNOT 등), 복소 회전.
\[
U = V \Lambda V^H, \qquad V^H V = I,\; \Lambda = \text{diag}(e^{i\theta_1}, \dots, e^{i\theta_n})
\]
고유값이 모두 단위원 위이므로 \(\Lambda\) 는 “대각 위상 행렬”이 된다. 이는 양자 시간 진화 \(U(t) = e^{-iHt/\hbar}\) 를 대각화해 해석하는 기초다.
직관: Unitary 는 “각도계를 흔들지 않는 변환”
Unitary 변환은 복소 공간의 기저를 회전·반사한다. 모든 벡터 쌍의 상대적 길이·각도가 보존되므로, 보는 좌표계만 바뀌고 물리는 그대로다.
양자역학에서 상태 벡터 \(|\psi\rangle\) 의 시간 진화 \(|\psi(t)\rangle = U(t)|\psi(0)\rangle\) 가 unitary 여야 하는 이유가 정확히 이것이다. 모든 가능한 결과의 확률 합이 1이어야 하고, 이는 \(\|\psi\| = 1\) 유지를 요구한다. Unitary 만이 이 보존을 만들어 낸다.
실 공간의 “자(ruler)를 회전시켜도 길이 측정은 그대로”를 복소 공간으로 옮긴 개념이다.
6 Skew-Hermitian: 허수 고유값의 주인
6.1 정의
\(K^H = -K\) 인 행렬을 skew-Hermitian 이라 한다. 실 반대칭(skew-symmetric) 의 복소판이다. 성분 조건: \(k_{ij} = -\overline{k_{ji}}\), 특히 대각 원소는 \(k_{ii} = -\overline{k_{ii}}\) 이므로 순허수여야 한다.
6.2 성질: 고유값이 순허수
정리: Skew-Hermitian 의 모든 고유값은 순허수 (\(\lambda = i\mu, \mu \in \mathbb{R}\)).
\[
\mathbf{z}^H K \mathbf{z} = \lambda\, \mathbf{z}^H \mathbf{z}
\]
좌변 켤레: \((\mathbf{z}^H K \mathbf{z})^H = \mathbf{z}^H K^H \mathbf{z} = -\mathbf{z}^H K \mathbf{z}\). 자기 자신의 음수 켤레 = 순허수. 우변의 \(\mathbf{z}^H\mathbf{z}\) 는 양의 실수. 따라서 \(\lambda\) 는 순허수. \(\square\)
6.3 Hermitian ↔︎ Skew-Hermitian ↔︎ Unitary 의 다리
놀라운 사실: \(H\) 가 Hermitian이면 \(e^{iH}\) 가 Unitary다.
\[
U = e^{iH}, \quad U^H = e^{-iH^H} = e^{-iH}, \quad U^H U = e^{-iH} e^{iH} = I
\]
역으로 unitary \(U\) 의 로그 \(\log U\) 는 skew-Hermitian (\(K\) = \(iH\) 로 쓰면 \(K^H = -K\)). 이 지수/로그 관계가 양자역학 시간 진화의 기본 공식\(U(t) = e^{-i\hat{H} t/\hbar}\) 의 수학적 배경이다. Hamiltonian \(\hat{H}\) 가 Hermitian이어야 시간 진화 \(U(t)\) 가 unitary이고, 그래야 확률이 보존된다.
7 정규 행렬 (Normal Matrix): 더 넓은 우산
7.1 정의와 특성
\(A^H A = A A^H\) 를 만족하는 행렬을 정규(normal) 행렬이라 한다. 조건은 “자기 자신과 수반이 교환 가능”이라는 것. 다음 모두 정규다.
Hermitian: \(A^H = A\), \(A^H A = A^2 = A A^H\). 당연
Skew-Hermitian: \(K^H = -K\), \(K^H K = -K^2 = K K^H\)
Unitary: \(U^H U = I = U U^H\)
7.2 일반 스펙트럼 정리
정리: \(A\) 가 정규 행렬\(\iff\)\(A = U \Lambda U^H\) (unitary 대각화 가능).
즉 “unitary 대각화 가능”의 정확한 특성이 정규성이다. Hermitian·skew-Hermitian·unitary 는 모두 정규의 특수 경우이고, 이들을 합쳐 고유값 조건으로 구분할 수 있다.
행렬 클래스
정의
고유값 위치
Hermitian
\(A = A^H\)
실축 (\(\mathbb{R}\))
Skew-Hermitian
\(K^H = -K\)
허축 (\(i\mathbb{R}\))
Unitary
\(U^H U = I\)
단위원 (\(|\lambda| = 1\))
일반 정규
\(A^H A = A A^H\)
일반 복소평면
“복소평면의 특정 기하 구조”와 “행렬 클래스”가 1:1 대응한다. 이 표가 복소 선형대수 스펙트럼 이론의 가장 우아한 요약이다.
8 응용
8.1 양자역학
대상
수학적 표현
역할
상태
단위 길이 \(|\psi\rangle \in \mathbb{C}^n\)
확률 진폭
관측 가능량
Hermitian 연산자 \(\hat{O}\)
측정값 = 고유값 (실수)
측정 결과 분포
\(|\langle e_i | \psi \rangle|^2\)
고유벡터 기저에서의 사영 제곱
시간 진화
Unitary \(U(t) = e^{-i\hat{H}t/\hbar}\)
확률 보존
양자 게이트 (Pauli \(X, Y, Z\), Hadamard \(H\), CNOT)
\(2\times 2\) 또는 \(4\times 4\) unitary
양자 논리 회로 연산
예: Pauli-Z 게이트 \(Z = \begin{pmatrix}1 & 0\\ 0 & -1\end{pmatrix}\) 는 Hermitian이자 Unitary이다 (\(Z = Z^H = Z^{-1}\)). 이는 “자기 자신이 수반이자 역원”이라는 드문 성질이며, \(Z^2 = I\) 로 자기역원이다.
8.2 신호처리
이산 푸리에 변환 행렬 \(F_n\) (정규화 \(F_n/\sqrt{n}\)) 은 unitary다. 즉 시간 도메인 → 주파수 도메인 변환이 에너지를 보존한다 (Parseval 정리):