유니터리 행렬(Unitary Matrix)은 복소수 행렬의 일종으로, 실수 행렬에서의 직교행렬(orthogonal matrix)에 해당하는 개념입니다. 벡터의 길이와 내적을 보존하며, 복소수 공간에서 회전 또는 반사를 표현하는 데 사용됩니다. 이 글에서는 유니터리 행렬의 정의, 주요 성질, 판별 기준, 그리고 다양한 응용 예시를 소개합니다.
1. 유니터리 행렬의 정의
복소수 정방행렬 \( U \in \mathbb{C}^{n \times n} \)가 다음 조건을 만족하면 유니터리 행렬이라 합니다:
\[ U^\dagger U = UU^\dagger = I \]
- \( U^\dagger \): 켤레전치(conjugate transpose), \( (U^*)^T \)
- \( I \): 단위행렬
즉, 유니터리 행렬은 자신의 켤레전치가 역행렬과 같음:
\[ U^{-1} = U^\dagger \]
2. 유니터리 행렬의 성질
2-1. 벡터의 길이 보존
모든 벡터 \( x \in \mathbb{C}^n \)에 대해:
\[ \|Ux\| = \|x\| \Rightarrow (Ux)^\dagger (Ux) = x^\dagger x \]
2-2. 내적 보존
\[ \langle Ux, Uy \rangle = \langle x, y \rangle \]
즉, 벡터 간의 각도 관계도 유지
2-3. 고유값의 절댓값은 1
\[ |\lambda| = 1 \]
유니터리 행렬의 고유값은 복소수 단위원 위에 존재 (회전 의미)
2-4. 유니터리 행렬의 곱/켤레전치도 유니터리
- \( U_1, U_2 \) 유니터리이면 \( U_1U_2 \)도 유니터리
- \( U^\dagger \)도 유니터리
2-5. 유니터리 행렬은 정규행렬
\[ UU^\dagger = U^\dagger U \Rightarrow \text{정규행렬의 특수한 경우} \]
3. 유니터리 행렬의 판별법
3-1. 켤레전치 곱 결과가 단위행렬인지 확인
\[ U^\dagger U = I \]
3-2. 열벡터들이 정규직교(orthonormal)인지 확인
모든 열벡터 \( u_i \)가 \( \langle u_i, u_j \rangle = \delta_{ij} \) 만족
4. 예제
예시 1: 2차 복소수 회전
\[ U = \begin{bmatrix} \cos \theta & \sin \theta \\ -\sin \theta & \cos \theta \end{bmatrix} \quad \text{(실수 직교행렬, 유니터리 포함)} \]
예시 2: 복소수 유니터리 행렬
\[ U = \frac{1}{\sqrt{2}} \begin{bmatrix} 1 & i \\ i & 1 \end{bmatrix} \quad \Rightarrow U^\dagger U = I \]
5. 응용 분야
5-1. 양자역학
상태벡터의 시간 진화 연산자는 유니터리:
\[ |\psi(t)\rangle = U(t)|\psi(0)\rangle \quad \text{where } U(t) = e^{-iHt/\hbar} \]
5-2. 신호 및 영상 처리
푸리에 변환(DFT)은 유니터리 행렬로 구성되어 에너지를 보존
5-3. 머신러닝
RNN이나 LSTM의 기울기 폭발 문제 해결 위해 유니터리/직교 가중치 사용
5-4. 수치해석
QR 분해에서 Q는 유니터리 행렬로 수치적으로 안정적인 분해 방식 제공
결론
유니터리 행렬은 복소수 공간에서 거리, 각도, 에너지 등을 보존하는 고급 선형 변환입니다.
자기 켤레전치가 역행렬인 성질을 통해 다양한 계산 안정성과 기하학적 직관을 제공합니다. 특히 고유값이 단위 원 위에 존재하고, 내적 보존을 통해 회전 또는 반사를 의미하는 데 유용합니다.
양자역학, 영상처리, 신호이론, 딥러닝 등 실용적인 분야에서 광범위하게 활용되는 강력한 수학 도구입니다.