1부 수학 기초 1.3

행렬 고유값 문제

1.2가 남긴 질문은 하나였다 — 좌표를 잘 고르면 행렬을 얼마나 단순하게 만들 수 있는가. 이 장이 그 답이고, 답의 형태는 놀랄 만큼 단순하다. 사상이 방향을 바꾸지 않는 방향이 있으면, 그 방향들을 축으로 삼으면 된다. 그 축에서 사상은 늘이거나 줄이는 일밖에 하지 않는다.

A\mathbf{x} = \lambda \mathbf{x}

이 한 줄이 장 전체다. 주어진 것은 정사각 행렬 $A$ 뿐이고, 스칼라 $\lambda$ 와 영이 아닌 벡터 $\mathbf{x}$ 를 둘 다 찾아야 한다. 미지수가 곱해져 있어서 선형 방정식이 아니고, 그래서 1.2의 가우스 소거를 그대로 들이댈 수 없다. 이 장의 전반부는 이 비선형성을 행렬식 하나로 바꿔치기하는 요령에서 출발한다.

같은 방정식이 문맥에 따라 세 가지 얼굴로 나온다.

기하 — $A$ 가 방향을 보존하는 방향은 어디인가. 늘어난 배율이 $\lambda$ 다.
대수 — 동차 연립방정식 $(A - \lambda I)\mathbf{x} = \mathbf{0}$ 이 자명하지 않은 해를 가질 $\lambda$ 는 무엇인가.
물리 — 계가 한 가지 방식으로만 움직이는 상태는 무엇인가. 정규모드의 진동수, 관성 주축, 정상 상태의 에너지가 전부 $\lambda$ 다.

세 얼굴이 하나라는 것을 확인하는 것이 1절의 일이고, 그 뒤로는 “ $A$ 가 어떤 종류의 행렬이면 답이 얼마나 착해지는가”를 좁혀 간다. 실수 대칭 → 에르미트 → 정규로 넓혀 가면서 매번 같은 결론이 반복된다 — 정규직교 고유기저가 있고, 그 기저에서 행렬이 대각이 된다. 그 결론이 성립하지 않는 행렬(결손 행렬)이 어디서 나오고 무엇이 망가지는지도 함께 본다.

이 장이 뒤에서 어디로 흘러가는지만 미리 적어 둔다. 상수 계수 연립 미분방정식은 고유값 문제로 풀리고(1.4), 스투름–리우빌 이론은 이 장의 유한 차원 정리를 미분 연산자로 옮긴 것이며(1.6), 양자역학의 관측량은 전부 에르미트 연산자다(1.10). 반도체 쪽으로는 결정 안의 밴드 구조가 주기 퍼텐셜에 대한 고유값 문제이고, 유효질량은 텐서의 주축에서 읽는 값이며, 격자 진동의 포논 분지는 질량–용수철 계의 정규모드다. 소자 시뮬레이션이 수십만 차원 야코비 행렬의 고유값으로 수렴 여부를 판정하는 것도 같은 이야기다.

고유값 방정식과 특성 다항식

방향이 살아남는 방향

간단한 실험이 개념을 그대로 보여 준다. $A = \begin{bmatrix} 5 & -2 \\ -2 & 2 \end{bmatrix}$ 에 두 벡터를 곱해 보자.

A\begin{bmatrix} 1 \\ 1 \end{bmatrix} = \begin{bmatrix} 3 \\ 0 \end{bmatrix}, \qquad A\begin{bmatrix} 1 \\ 2 \end{bmatrix} = \begin{bmatrix} 1 \\ 2 \end{bmatrix}

첫 번째는 방향이 완전히 달라졌다. 두 번째는 아무 일도 일어나지 않았다 — 배율 1로 살아남았다. $(1, 2)$ 가 이 행렬의 고유벡터이고 고유값은 1이다. 하나 더 있다.

A\begin{bmatrix} -2 \\ 1 \end{bmatrix} = \begin{bmatrix} -12 \\ 6 \end{bmatrix} = 6\begin{bmatrix} -2 \\ 1 \end{bmatrix}

이 방향은 여섯 배로 늘어난다. 평면 전체를 놓고 보면 이 변형은 한 방향으로는 그대로 두고 그에 수직인 방향으로는 6배 늘이는 일이었다. 나머지 모든 벡터가 방향이 꺾여 보이는 것은 두 성분이 서로 다른 배율로 늘어나기 때문이다.

그림 1.3-1. A = [[5,−2],[−2,2]]가 평면에 하는 일. 왼쪽의 일반적인 벡터는 A를 곱하면 방향이 꺾여 Av가 v와 나란하지 않다. 오른쪽 두 고유방향 위에서는 방향이 그대로 살아남고 길이만 각각 1배·6배가 된다 — 그 배율이 고유값이다. 두 고유방향이 서로 수직인 것은 A가 대칭이기 때문이며, 3절에서 증명한다.직접 작도

기호 — 이 장의 약속

이 장은 1.2보다 기호가 적은 대신, 같은 글자가 책마다 다른 뜻으로 쓰이는 자리가 많다. 행렬 하나에 이름이 여럿 붙고( $A$ , $H$ , $Q$ , $U$ ), 중복도가 대소문자로만 갈리며, 이차 형식과 직교행렬이 같은 $Q$ 를 놓고 다툰다. 시작하기 전에 한 번에 정리해 둔다.

기호	읽는 법	무엇을 가리키는가
$\lambda$	람다	고유값. 스칼라 하나
$\mathbf{x},\ \mathbf{c}$	굵은 소문자	고유벡터. 열벡터이고 $\mathbf{x} \neq \mathbf{0}$
$A$		일반 정사각 행렬 ( $n \times n$ )
$I$		단위행렬. $\lambda I$ 로만 등장한다
$p_A(\lambda)$	특성 다항식	$\det(A - \lambda I)$
$\sigma(A)$	스펙트럼	고유값 전체의 집합
$\rho(A)$	스펙트럼 반지름	$\max_\lambda \lvert\lambda\rvert$
$E_\lambda$	고유공간	$N(A - \lambda I)$ — 고유벡터 + 영벡터
$m_\lambda$	대수적 중복도	$p_A$ 에서 근 $\lambda$ 의 중복도
$g_\lambda$	기하적 중복도	$\dim E_\lambda$
$\Delta_\lambda$	결손	$m_\lambda - g_\lambda \ (\ge 0)$
$D$		대각행렬 $\operatorname{diag}(\lambda_1, \dots, \lambda_n)$
$X$		고유벡터 행렬 — 열이 고유벡터. $X^{-1}AX = D$
$S$	대칭 행렬	$S^{\mathsf{T}} = S$ (실수)
$H$	에르미트 행렬	$H^{\dagger} = H$
$Q$	직교 행렬	$Q^{\mathsf{T}} = Q^{-1}$ (실수)
$U$	유니터리 행렬	$U^{\dagger} = U^{-1}$
$q(\mathbf{x})$	이차 형식	$\mathbf{x}^{\mathsf{T}}A\mathbf{x}$ (7절)
$f(A)$		행렬의 다항식·함수 (1절·5절)
$A^{\mathsf{T}},\ A^{\dagger}$	전치 · 켤레전치	1.2.1행렬과 행렬식

주의

짚고 갈 함정이 다섯이다.

① 중복도의 대소문자 짝. Kreyszig는 기하적 중복도를 $M_\lambda$ 로 적어 $m_\lambda$ 와 대소문자로만 구분되게 만든다. 이 백과는 $g_\lambda$ 로 바꿔 쓴다 — 아래 ‘중복도와 결손’ 참고.

② $Q$ 가 이차 형식이 아니다. Kreyszig·Boas는 이차 형식을 $Q(\mathbf{x})$ 로 쓴다. 이 백과는 $Q$ 를 직교행렬로 고정하고 이차 형식은 $q(\mathbf{x})$ 로 쓴다. 7절이 “직교행렬로 이차 형식을 대각화하는” 절이라 두 물건이 같은 식 안에서 만나기 때문이다.

③ 대각행렬 $D$ 와 특성 다항식. 다른 책의 $D(\lambda)$ 는 특성 행렬식이지 대각행렬이 아니다. 이 백과에서 $D$ 는 언제나 대각행렬이고, 인수 $(\lambda)$ 가 붙는 일이 없다.

④ 대각화 식의 방향이 책마다 다르다. Kreyszig와 Boas는 $X^{-1}AX = D$ (열이 고유벡터인 $X$ )로 쓰고, Arfken은 $UAU^{-1} = D$ (열이 고유벡터인 것은 $U^{-1}$ )로 쓴다. 같은 정리인데 $U$ 가 서로 역이다. 이 백과는 $X^{-1}AX = D$ 쪽으로 통일한다 — 5절에서 다시 못박는다.

⑤ 허수단위 $i$ 와 인덱스 $i$ . 복소 성분이 나오는 4절·8절·9절에서는 인덱스를 $\mu, \nu$ 로 바꿔 쓴다. 2절에서 질량을 $m$ , 질량행렬을 $M$ 으로 쓰는데, 대수적 중복도 $m_\lambda$ 는 언제나 아래첨자 $\lambda$ 를 달고 나오므로 혼동되지 않는다.

방정식을 행렬식으로 바꾼다

$\lambda\mathbf{x} = \lambda I \mathbf{x}$ 로 적으면 우변을 좌변으로 넘길 수 있다.

A\mathbf{x} - \lambda I \mathbf{x} = (A - \lambda I)\mathbf{x} = \mathbf{0}

여기서 $I$ 를 끼워 넣은 것이 요점이다 — 행렬에서 스칼라를 뺄 수는 없고, 대각선에서만 뺄 수 있다. $A - \lambda I$ 를 $A$ 의 특성 행렬이라 한다.

이제 $\mathbf{x} = \mathbf{0}$ 이 아닌 해를 원한다. 1.2.2가우스 소거와 선형계의 해에서 동차계 $M\mathbf{x} = \mathbf{0}$ 이 자명하지 않은 해를 가질 필요충분조건은 $\det M = 0$ 이었다(계수가 $n$ 보다 작다는 말과 같다). 그러므로

\boxed{\;p_A(\lambda) \equiv \det(A - \lambda I) = 0\;}

이것이 특성 방정식이고, 좌변의 행렬식을 특성 행렬식(천체역학에서 온 옛 이름으로 세큘러 행렬식), 전개해서 얻은 $\lambda$ 의 다항식을 특성 다항식이라 한다.

$n \times n$ 행렬의 특성 다항식은 정확히 $n$ 차다. 대각 성분에서 $\lambda$ 가 하나씩 나오므로 최고차항이 $(-\lambda)^n$ 이고, 나머지 항은 차수가 더 낮다. 대수학의 기본정리에 따라 복소수 범위에서 근이 중복을 세어 정확히 $n$ 개 있다.

손으로 푸는 절차

앞의 행렬로 처음부터 끝까지 해 보자. Kreyszig와 Boas가 나란히 첫 예제로 드는 행렬이다.

A = \begin{bmatrix} 5 & -2 \\ -2 & 2 \end{bmatrix}

① 특성 방정식.

p_A(\lambda) = \det\begin{bmatrix} 5 - \lambda & -2 \\ -2 & 2 - \lambda \end{bmatrix} = (5-\lambda)(2-\lambda) - 4 = \lambda^2 - 7\lambda + 6 = 0

$(\lambda - 1)(\lambda - 6) = 0$ 이므로 $\lambda_1 = 1$ , $\lambda_2 = 6$ 이다.

② 각 고유값마다 동차계를 푼다. $\lambda_1 = 1$ 일 때

(A - 1\cdot I)\mathbf{x} = \begin{bmatrix} 4 & -2 \\ -2 & 1 \end{bmatrix} \begin{bmatrix} x_1 \\ x_2 \end{bmatrix} = \mathbf{0} \;\Longrightarrow\; 2x_1 - x_2 = 0

두 방정식이 서로 상수배라서 한 줄만 남는다. 이것은 사고가 아니라 설계다 — 두 줄이 독립이면 행렬식이 0이 아니고, 그러면 해는 $\mathbf{x} = \mathbf{0}$ 뿐이었을 것이다. 행렬식을 0으로 만든 목적이 바로 이 종속성을 만들어 내는 데 있었다. 해는 $x_2 = 2x_1$ , 즉 $\mathbf{x}_1 = (1, 2)^{\mathsf{T}}$ 의 스칼라배 전부다.

$\lambda_2 = 6$ 일 때는

\begin{bmatrix} -1 & -2 \\ -2 & -4 \end{bmatrix}\mathbf{x} = \mathbf{0} \;\Longrightarrow\; x_1 + 2x_2 = 0 \;\Longrightarrow\; \mathbf{x}_2 = \begin{bmatrix} -2 \\ 1 \end{bmatrix}

③ 검산은 원래 식으로. $A\mathbf{x}_1 = (1,2)^{\mathsf{T}} = 1 \cdot \mathbf{x}_1$ , $A\mathbf{x}_2 = (-12, 6)^{\mathsf{T}} = 6 \cdot \mathbf{x}_2$ . 특성 방정식을 잘못 풀어도 이 검산은 통과하지 못한다.

Boas는 같은 계산을 기하로 읽는다. $2x_1 - x_2 = 0$ 과 $x_1 + 2x_2 = 0$ 은 원점을 지나는 두 직선의 방정식이고, 고유벡터는 그 직선 위의 모든 점이다. 고유벡터가 “하나”가 아니라 “직선 하나”인 이유가 여기서 눈에 보인다.

주의

고유벡터는 스칼라배까지만 정해진다. $\mathbf{x}$ 가 고유벡터면 $c\mathbf{x}$ ( $c \neq 0$ )도 같은 고유값의 고유벡터다. 동차 방정식의 해집합이 원래 그렇다. 그래서 “이 행렬의 고유벡터는 $(1,2)$ 이다”라는 말은 엄밀히는 방향을 말하는 것이고, 책마다 $(1,2)$ , $(-1,-2)$ , $(1/\sqrt5,\, 2/\sqrt5)$ 로 달리 적혀 있어도 같은 답이다.

계산 결과를 남길 때는 정규화해 길이를 1로 맞추는 것이 관례다. 그래도 부호(복소수라면 위상 $e^{i\theta}$ )의 자유도는 남는다. 수치 라이브러리가 같은 행렬에 대해 실행할 때마다 부호가 뒤집힌 고유벡터를 돌려주는 일이 흔한 것은 버그가 아니라 이 자유도 때문이다.

고유공간

한 고유값에 딸린 고유벡터들에 영벡터를 더하면 부분공간이 된다.

E_\lambda = \{\mathbf{x} : A\mathbf{x} = \lambda\mathbf{x}\} = N(A - \lambda I)

확인은 한 줄이다. $A\mathbf{w} = \lambda\mathbf{w}$ 이고 $A\mathbf{x} = \lambda\mathbf{x}$ 이면 $A(c\mathbf{w} + d\mathbf{x}) = \lambda(c\mathbf{w} + d\mathbf{x})$ 이므로 덧셈과 스칼라배에 닫혀 있다. 이것을 $\lambda$ 에 대응하는 고유공간이라 하고, 그 차원을 $\lambda$ 의 기하적 중복도라 부른다. 고유공간은 특성 행렬의 핵(1.2.6선형 변환)이므로, 1.2의 계수–퇴화차수 정리가 그대로 적용된다.

\dim E_\lambda = n - \operatorname{rank}(A - \lambda I)

다항식의 계수가 말해 주는 것

특성 다항식을 근으로 인수분해하면

p_A(\lambda) = (-1)^n (\lambda - \lambda_1)(\lambda - \lambda_2)\cdots(\lambda - \lambda_n)

이고, $\lambda = 0$ 을 넣으면 $p_A(0) = \det A$ 이므로

\det A = \lambda_1 \lambda_2 \cdots \lambda_n

$\lambda^{n-1}$ 의 계수를 양쪽에서 비교하면(좌변은 대각 성분의 곱에서만 나온다)

\operatorname{tr} A = \lambda_1 + \lambda_2 + \cdots + \lambda_n

행렬식은 고유값의 곱, 대각합은 고유값의 합. 계산을 하나도 하지 않고 답의 절반을 검산할 수 있는 관계다. 앞의 예에서 $\operatorname{tr} A = 7 = 1 + 6$ 이고 $\det A = 6 = 1 \times 6$ 이다. $2 \times 2$ 에서는 이 둘이 특성 방정식 전체를 결정한다.

\lambda^2 - (\operatorname{tr} A)\,\lambda + \det A = 0

고유값 대수 — 한 번 풀면 따라오는 것들

$A\mathbf{x} = \lambda\mathbf{x}$ 하나에서 파생 관계가 줄줄이 나온다. 전부 원래 식에 무언가를 곱하는 것으로 끝난다.

행렬	고유값	고유벡터	확인
$A + kI$	$\lambda + k$	그대로	$(A + kI)\mathbf{x} = (\lambda + k)\mathbf{x}$
$kA$	$k\lambda$	그대로	양변에 $k$
$A^m$	$\lambda^m$	그대로	$A$ 를 $m$ 번 적용
$A^{-1}$	$1/\lambda$	그대로	양변에 $A^{-1}$ , $\lambda \neq 0$
$f(A)$	$f(\lambda)$	그대로	위 셋의 조합 (스펙트럼 사상 정리)
$A^{\mathsf{T}}$	$\lambda$ (같다)	다르다	$\det(A^{\mathsf{T}} - \lambda I) = \det(A - \lambda I)$

마지막 줄이 함정이다. 전치는 행렬식을 바꾸지 않으므로 특성 다항식이 같고 따라서 고유값이 같다. 그러나 고유벡터는 일반적으로 다르다. $A^{\mathsf{T}}\mathbf{y} = \lambda\mathbf{y}$ 를 전치하면 $\mathbf{y}^{\mathsf{T}}A = \lambda\mathbf{y}^{\mathsf{T}}$ — $\mathbf{y}$ 는 $A$ 에 왼쪽에서 곱해지는 고유벡터다. 이것을 왼쪽 고유벡터라 하고, 8절에서 비정규 행렬을 다룰 때 다시 나온다. $A$ 가 대칭이면 둘이 같아지므로 이 구분이 사라진다.

스펙트럼 사상 정리를 하나만 확인해 두자. $f(t) = t^2 - 3t + 2$ 이면 $f(A)\mathbf{x} = (A^2 - 3A + 2I)\mathbf{x} = (\lambda^2 - 3\lambda + 2)\mathbf{x}$ 이므로 $f(A)$ 의 고유값은 $f(\lambda)$ 다. 여기서 $f$ 를 특성 다항식 $p_A$ 자신으로 잡으면 $p_A(A)\mathbf{x} = p_A(\lambda)\mathbf{x} = \mathbf{0}$ — 고유기저가 있는 한 $p_A(A) = O$ 이다. 행렬은 자기 자신의 특성 방정식을 만족한다(케일리–해밀턴 정리). 고유기저가 없는 경우까지 포함한 일반 증명은 다른 길로 가야 하지만, 결론은 모든 정사각 행렬에서 성립한다.

\text{예: } A = \begin{bmatrix} 5 & -2 \\ -2 & 2\end{bmatrix},\quad A^2 - 7A + 6I = \begin{bmatrix} 29 & -14 \\ -14 & 8\end{bmatrix} - \begin{bmatrix} 35 & -14 \\ -14 & 14\end{bmatrix} + \begin{bmatrix} 6 & 0 \\ 0 & 6\end{bmatrix} = O

이 정리의 실용적 값어치는 $A^n$ 과 $A^{-1}$ 을 낮은 차수로 줄여 준다는 데 있다. 위 식에서 $A^2 = 7A - 6I$ 이므로 $A$ 의 모든 거듭제곱이 $A$ 와 $I$ 의 조합으로 적히고, 양변에 $A^{-1}$ 을 곱하면 $A^{-1} = (7I - A)/6$ 이다.

중복도와 결손

특성 방정식의 근이 겹치면 두 가지 “몇 개”가 갈라진다.

기호	이름	정의
$m_\lambda$	대수적 중복도	특성 다항식에서 근 $\lambda$ 의 중복도
$g_\lambda$	기하적 중복도	고유공간의 차원 $\dim E_\lambda = n - \operatorname{rank}(A - \lambda I)$
$\Delta_\lambda$	결손(defect)	$m_\lambda - g_\lambda$

언제나 $1 \le g_\lambda \le m_\lambda$ 이고, 따라서 $\Delta_\lambda \ge 0$ 이다. 그리고 $\sum_\lambda m_\lambda = n$ 이다(다항식의 차수).

세 경우를 예로 붙여 둔다.

\underbrace{\begin{bmatrix} 2 & 0 \\ 0 & 2 \end{bmatrix}}_{m = 2,\; g = 2,\; \Delta = 0} \qquad \underbrace{\begin{bmatrix} 1 & 1 \\ 0 & 1 \end{bmatrix}}_{m = 2,\; g = 1,\; \Delta = 1} \qquad \underbrace{\begin{bmatrix} 0 & 1 \\ 0 & 0 \end{bmatrix}}_{m = 2,\; g = 1,\; \Delta = 1}

왼쪽은 $2I$ 라서 모든 벡터가 고유벡터이고 고유공간이 평면 전체다. 가운데와 오른쪽은 $A - \lambda I$ 의 계수가 1이라 고유공간이 직선 하나뿐이다. 가운데 행렬(전단 변환)을 보면 사정이 눈에 보인다 — $x$ 축 위의 벡터만 제자리에 남고, 나머지는 전부 $x$ 방향으로 밀린다. 다른 불변 방향이 있을 자리가 없다.

$\Delta_\lambda > 0$ 인 행렬을 결손 행렬(defective matrix)이라 한다. 결손이 있으면 고유벡터를 $n$ 개 모을 수 없고, 따라서 대각화가 불가능하다(5절). 8절에서 왜 이런 행렬이 물리에도 등장하는지, 그리고 결손 대신 무엇을 쓸 수 있는지 다시 본다.

실행렬의 복소 고유값

특성 다항식의 계수가 실수라도 근은 복소수일 수 있다. 실계수 다항식의 복소근은 켤레쌍으로만 나오므로, 실행렬의 복소 고유값도 언제나 켤레쌍이다. 대표적인 예가 90° 회전 행렬이다.

A = \begin{bmatrix} 0 & 1 \\ -1 & 0 \end{bmatrix},\qquad p_A(\lambda) = \lambda^2 + 1 = 0 \;\Longrightarrow\; \lambda = \pm i

고유벡터도 복소수다. $\lambda = i$ 에서 $-ix_1 + x_2 = 0$ 이므로 $\mathbf{x} = (1, i)^{\mathsf{T}}$ .

의문

실수 고유벡터가 하나도 없다는 것이 기하적으로 무슨 뜻인가? 평면에서 방향이 보존되는 벡터가 정말로 없다는 뜻이다. 회전은 모든 방향을 돌려 버리므로 당연하다. 그러니 여기서 복소수는 계산 편의가 아니라, “실수 안에서는 답이 없다”는 사실의 정직한 표현이다.

그러면 복소 고유값 $\lambda = re^{i\theta}$ 는 무엇을 말해 주는가. 크기 $r$ 은 늘어나는 배율, 편각 $\theta$ 는 도는 각이다. 실 $2 \times 2$ 블록으로 되돌리면 $r$ 배 확대와 $\theta$ 회전의 합성으로 정확히 분해된다. 3절에서 3차원 직교행렬의 고유값이 $1,\, e^{i\theta},\, e^{-i\theta}$ 로 나오는 것도 같은 이야기이고, 그때 $\theta$ 가 곧 회전각이다.

그래프로 보는 특성 다항식

그림 1.3-2. 특성 다항식 p(λ) = det(A − λI)의 그래프. 고유값은 곡선이 가로축을 지나는 자리다. 왼쪽은 근이 서로 떨어져 있어 교점이 뚜렷하지만, 오른쪽처럼 두 근이 붙으면 곡선이 축에 닿기만 하고(중근) 그 부근에서 거의 평평해진다. 계수가 조금만 흔들려도 교점이 크게 움직이거나 아예 사라져 복소근이 되는 것이 이 평평함의 결과다.직접 작도

주의

특성 다항식으로 고유값을 구하는 것은 손으로 푸는 $2 \times 2$ · $3 \times 3$ 에서만 쓰는 방법이다. 실제 수치 계산에서는 절대 이 경로를 쓰지 않는다. 다항식의 근은 계수의 작은 오차에 극도로 민감할 수 있어서, 행렬 성분이 정확해도 계수를 거쳐 가는 동안 정밀도가 무너진다.

극단적인 예가 알려져 있다. $\lambda = 1, 2, \dots, 20$ 을 근으로 갖는 다항식에서 $\lambda^{19}$ 계수를 $2^{-23}$ 만큼 흔들면 큰 근 몇 쌍이 복소수로 튀어나가고, 이동량이 원래 값의 10%를 넘는다(윌킨슨의 예). 반면 같은 고유값을 가진 대각행렬의 성분을 같은 크기만큼 흔들면 고유값도 딱 그만큼만 움직인다. 문제가 민감한 게 아니라 경로가 민감한 것이다.

실무의 표준 경로는 행렬을 유니터리 변환으로 계속 두들겨 삼각형에 가깝게 만드는 방식이다 (QR 알고리즘, 대칭 행렬이면 야코비 회전이나 삼중대각화). 그때 특성 다항식은 한 번도 등장하지 않는다. 자세한 것은 1.14 수치해석에서 다룬다.

고유값 문제의 응용

탄성막 — 주방향과 늘어남

1.2.6선형 변환의 선형 변환을 물리적 변형으로 읽는 데서 시작한다. $x_1x_2$ 평면을 덮은 탄성막의 점 $\mathbf{x}$ 가 변형 후 $\mathbf{y} = A\mathbf{x}$ 로 옮겨진다고 하자.

A = \begin{bmatrix} 5 & 3 \\ 3 & 5 \end{bmatrix}

대부분의 점은 원점에서 뻗은 방향이 꺾인다. 꺾이지 않는 방향을 묻는 것이 $A\mathbf{x} = \lambda\mathbf{x}$ 이고, 그 방향을 주방향(principal direction)이라 한다.

p_A(\lambda) = (5-\lambda)^2 - 9 = 0 \;\Longrightarrow\; \lambda = 8,\ 2

$\lambda = 8$ 에서 $-3x_1 + 3x_2 = 0$ 이므로 $\mathbf{x} = (1,1)^{\mathsf{T}}$ — 양의 $x_1$ 축에서 $45^\circ$ . $\lambda = 2$ 에서 $\mathbf{x} = (-1,1)^{\mathsf{T}}$ — $135^\circ$ . 막은 한 대각선 방향으로 8배, 그에 수직인 방향으로 2배 늘어난다.

경계인 단위원 $x_1^2 + x_2^2 = 1$ 이 어떤 모양이 되는지도 곧바로 나온다. 주방향을 축으로 하는 새 좌표 $(z_1, z_2)$ 에서 경계점은 $z_1 = 8\cos\varphi$ , $z_2 = 2\sin\varphi$ 이므로

\frac{z_1^2}{8^2} + \frac{z_2^2}{2^2} = 1

타원이고, 반축의 길이가 곧 고유값이다. 원이 타원이 된다는 사실 자체는 놀랍지 않지만, 그 타원의 축 방향과 길이가 고유벡터와 고유값 그 자체라는 것이 요점이다. 7절의 주축 변환이 이 관찰을 이차 형식의 언어로 정리한 것이고, 특잇값 분해(1.14)는 $A$ 가 대칭이 아닐 때 같은 그림을 되살리는 장치다.

질량–용수철 — 정규모드

벽–용수철–질량–용수철–질량–용수철–벽의 배치를 보자. 질량은 둘 다 $m$ , 용수철 상수는 셋 다 $k$ 다. 평형에서의 변위를 $x$ , $y$ 라 하면 퍼텐셜 에너지는

V = \tfrac{1}{2}kx^2 + \tfrac{1}{2}k(x-y)^2 + \tfrac{1}{2}ky^2 = k(x^2 - xy + y^2)

이고, 힘은 퍼텐셜의 기울기에 음의 부호를 붙인 것이다(1.1.2기울기·발산·회전).

m\ddot{x} = -\frac{\partial V}{\partial x} = -2kx + ky, \qquad m\ddot{y} = -\frac{\partial V}{\partial y} = kx - 2ky

모든 질량이 같은 진동수로 흔들리는 해를 찾는 것이 정규모드의 정의다. $x = x_0 e^{i\omega t}$ , $y = y_0 e^{i\omega t}$ 를 넣으면 $\ddot{x} = -\omega^2 x$ 이므로 시간 부분이 통째로 약분되고

\lambda \begin{bmatrix} x \\ y \end{bmatrix} = \begin{bmatrix} 2 & -1 \\ -1 & 2 \end{bmatrix} \begin{bmatrix} x \\ y \end{bmatrix}, \qquad \lambda \equiv \frac{m\omega^2}{k}

미분방정식이 대수 방정식이 되었다. 지수함수를 넣어 시간 미분을 곱셈으로 바꾼 것이 전부인데, 이 한 수가 진동 문제를 전부 고유값 문제로 바꾼다(1.4에서 다시).

$\lambda^2 - 4\lambda + 3 = 0$ 에서 $\lambda = 1, 3$ 이므로

\omega_1 = \sqrt{\frac{k}{m}}\ \ \text{(고유벡터 } (1,1)), \qquad \omega_2 = \sqrt{\frac{3k}{m}}\ \ \text{(고유벡터 } (1,-1))

그림 1.3-3. 두 질량 세 용수철 계의 정규모드. 낮은 진동수 모드에서는 두 질량이 같은 방향으로 함께 움직여 가운데 용수철이 늘어나지도 줄어들지도 않고, 그래서 복원력이 작다. 높은 진동수 모드에서는 서로 반대로 움직여 가운데 용수철이 두 배로 변형되고, 그만큼 복원력이 커진다. 고유벡터의 부호 패턴이 곧 모드의 모양이고, 고유값이 진동수의 제곱이다.직접 작도

질량이 다르면 — 일반화 고유값 문제

Boas의 예로 확인해 보자. 질량 $2m$ , $3m$ 이고 용수철 상수가 $2k$ , $6k$ , $3k$ 이면

V = \tfrac{1}{2}k(8x^2 - 12xy + 9y^2), \qquad T = \tfrac{1}{2}m(2\dot{x}^2 + 3\dot{y}^2)

이고, 행렬로 적으면 강성행렬 $K$ 와 질량행렬 $M$ 이 분리되어 나온다.

K = k\begin{bmatrix} 8 & -6 \\ -6 & 9\end{bmatrix}, \qquad M = m\begin{bmatrix} 2 & 0 \\ 0 & 3\end{bmatrix}, \qquad K\mathbf{x} = \omega^2 M \mathbf{x}

$K\mathbf{x} = \omega^2 M\mathbf{x}$ 를 일반화 고유값 문제라 한다. $M = I$ 면 보통의 고유값 문제로 돌아간다. 그냥 $M^{-1}$ 을 곱하면

M^{-1}K = \frac{k}{m}\begin{bmatrix} 4 & -3 \\ -2 & 3\end{bmatrix}

— 비대칭이다. 고유값은 $\lambda = m\omega^2/k = 1, 6$ 으로 제대로 나오지만 고유벡터 $(1,1)$ 과 $(3,-2)$ 는 직교하지 않는다.

해법은 질량을 좌표에 흡수하는 것이다. $\mathbf{X} = M^{1/2}\mathbf{x}$ 로 바꾸면 ( $M$ 이 대각이고 성분이 양수라 제곱근이 성분별로 정의된다)

K\mathbf{x} = \omega^2 M\mathbf{x} \;\Longrightarrow\; \underbrace{M^{-1/2}KM^{-1/2}}_{\text{대칭이다}}\mathbf{X} = \omega^2 \mathbf{X}

이 되고, 실제로

M^{-1/2}KM^{-1/2} = \frac{k}{m}\begin{bmatrix} 4 & -\sqrt{6} \\ -\sqrt{6} & 3\end{bmatrix}

대칭이 회복되었다. 특성 방정식이 $\lambda^2 - 7\lambda + 6 = 0$ 으로 아까와 같으므로 진동수는 변하지 않고(당연하다 — 좌표를 바꿨을 뿐이다), 새 좌표에서의 고유벡터 $(\sqrt2, -\sqrt3)$ , $(3\sqrt2, 2\sqrt3)$ 은 직교한다.

직관

$M^{-1/2}KM^{-1/2}$ 가 하는 일은 각 자유도의 눈금을 질량의 제곱근으로 다시 새기는 것이다. 운동에너지가 $\tfrac12 m \dot{\mathbf{X}}^{\mathsf{T}}\dot{\mathbf{X}}$ 꼴이 되도록 — 즉 모든 자유도가 같은 질량을 갖도록 — 좌표를 고른 것이고, 그러면 직교성이 물리적 의미를 회복한다.

이 변환은 질량 가중 좌표라는 이름으로 분자 진동 계산과 유한요소 해석의 표준 전처리다. 포논 계산에서 동역학 행렬을 $D_{\alpha\beta} = \Phi_{\alpha\beta}/\sqrt{m_\alpha m_\beta}$ 로 정의하는 것이 정확히 같은 조작이고, 그렇게 해야 동역학 행렬이 에르미트가 되어 진동수의 제곱이 실수임이 보장된다.

삼원자 분자 — 0 고유값이 말해 주는 것

$\text{CO}_2$ 처럼 일직선 위에 원자 셋이 놓인 계를 보자. 바깥 두 원자의 질량이 $m$ , 가운데가 $M$ 이고 용수철 상수는 둘 다 $k$ 다. 축 방향 변위를 $x, y, z$ 라 하면

\lambda \begin{bmatrix} x \\ y \\ z\end{bmatrix} = \begin{bmatrix} 1 & -1 & 0 \\ -\tfrac{m}{M} & \tfrac{2m}{M} & -\tfrac{m}{M} \\ 0 & -1 & 1 \end{bmatrix} \begin{bmatrix} x \\ y \\ z\end{bmatrix}, \qquad \lambda = \frac{m\omega^2}{k}

고유값은 $\lambda = 0,\ 1,\ 1 + 2m/M$ 이고 고유벡터는 차례로

\begin{bmatrix} 1 \\ 1 \\ 1\end{bmatrix}, \qquad \begin{bmatrix} 1 \\ 0 \\ -1\end{bmatrix}, \qquad \begin{bmatrix} 1 \\ -\tfrac{2m}{M} \\ 1\end{bmatrix}

읽는 법이 중요하다.

$\lambda = 0$ — $\omega = 0$ 이니 진동이 아니다. 고유벡터가 $(1,1,1)$ , 즉 세 원자가 똑같이 움직이는 것이므로 분자 전체의 병진이다. 용수철이 하나도 변형되지 않으니 복원력이 없고, 그래서 진동수가 0이다.
$\omega^2 = k/m$ — 가운데가 정지하고 바깥 둘이 반대로 움직인다. 대칭 신축 모드.
$\omega^2 = (k/m)(1 + 2m/M)$ — 바깥 둘이 같은 방향, 가운데가 반대 방향. 비대칭 신축 모드이고, 무게중심이 정지하도록 진폭비가 $-2m/M$ 으로 정해진다.

직관

0 고유값은 대칭성의 흔적이다. 이 계의 퍼텐셜은 세 원자를 통째로 옮겨도 변하지 않는다(병진 불변). 그 불변 방향으로는 복원력이 0일 수밖에 없고, 그것이 $\lambda = 0$ 으로 나타난다. 즉 연속 대칭 하나마다 0 고유값(영모드)이 하나씩 대응한다.

결정으로 넘어가면 이 관찰이 그대로 확대된다. 무한한 격자에서도 전체 병진은 에너지를 바꾸지 않으므로 $\mathbf{q} \to 0$ 에서 진동수가 0으로 가는 분지가 반드시 존재한다 — 음향 포논이 그것이다. 반대로 단위 격자 안에서 원자들이 서로 반대로 움직이는 모드는 $\mathbf{q} \to 0$ 에서도 복원력이 남아 유한한 진동수를 갖는다 — 광학 포논. 위의 세 모드가 각각 음향 분지의 극한, 그리고 광학 분지 둘의 축소판이다.

한편 $\lambda = 0$ 이 있다는 것은 행렬이 특이하다는 뜻이기도 하다. 진동수만 원한다면 병진 자유도를 미리 제거해(무게중심을 고정해) 차원을 하나 줄이는 편이 수치적으로 안전하다.

주의

위 $3 \times 3$ 행렬은 대칭이 아니다 — 가운데 행만 $m/M$ 으로 나뉘어 있다. 그 결과 세 고유벡터가 정규직교 집합을 이루지 못한다. 진동 모드 둘은 서로 직교하지만 ( $(1,0,-1) \cdot (1,-2m/M,1) = 0$ ), 병진 모드와 비대칭 신축 모드의 내적은 $2 - 2m/M$ 이라 일반적으로 0이 아니다. 앞 항목의 질량 가중 좌표 $Y = y\sqrt{M/m}$ 을 쓰면 고유벡터가 $(1, \sqrt{M/m}, 1)$ , $(1,0,-1)$ , $(1, -2\sqrt{m/M}, 1)$ 이 되고, 이제 세 개가 서로 직교한다 — 첫째와 셋째의 내적이 $1 - 2 + 1 = 0$ 이다.

첫 고유벡터의 가운데 성분이 다른 둘과 달라 보이지만, 실제 변위가 다르다는 뜻이 아니다 — 그 축의 눈금이 다르게 새겨져 있을 뿐이다. 8절에서 “비정규 행렬의 고유벡터는 직교하지 않는다”를 다룰 때 이 예가 다시 나온다.

관성 텐서와 유효질량 — 주축

강체의 각운동량과 각속도는 벡터지만 평행하지 않다.

\mathbf{L} = I\boldsymbol{\omega}

$I$ 는 $3 \times 3$ 관성 텐서다. 두 벡터가 나란해지는 회전축, 즉 $I\boldsymbol{\omega} = \lambda\boldsymbol{\omega}$ 를 만족하는 $\boldsymbol{\omega}$ 가 관성 주축이고, 그때의 $\lambda$ 가 주관성모멘트다. 주축을 벗어난 축으로 강체를 돌리면 $\mathbf{L}$ 이 축을 따라오지 않아 베어링에 주기적인 힘이 걸린다 — 바퀴 균형을 잡는 일이 곧 주축을 축과 맞추는 일이다.

반도체에서 같은 구조가 유효질량 텐서로 나온다. 밴드 끝 부근에서 전자의 에너지를 전개하면

E(\mathbf{k}) = E_0 + \frac{\hbar^2}{2}\,\mathbf{k}^{\mathsf{T}} \big(m^{*}\big)^{-1} \mathbf{k}

이고, 역유효질량 텐서 $(m^{*})^{-1}$ 의 고유벡터가 등에너지면의 주축, 고유값의 역수가 그 방향의 유효질량이다. 실리콘 전도대에서 이 텐서의 고유값이 두 종류로 갈려( $m_\ell$ 하나, $m_t$ 둘) 등에너지면이 회전타원체가 되고, 그래서 전자의 이동도가 방향에 따라 달라진다. 7절의 주축 변환이 이 계산의 수학이고, 텐서로서의 성격은 1.13에서 다룬다.

정상 상태 — 마르코프 과정

상태가 확률적으로 옮겨 다니는 계에서, 시간이 지나도 비율이 변하지 않는 분포를 묻는 것도 고유값 문제다. 전이 확률 행렬 $A$ (각 열의 합이 1)에 대해

A\mathbf{x} = \mathbf{x} \qquad (\lambda = 1)

$\lambda = 1$ 이 반드시 고유값이라는 것은 1절의 전치 관계로 곧장 나온다. 열의 합이 1이면 $A^{\mathsf{T}}$ 의 행의 합이 1이므로 $A^{\mathsf{T}}(1,1,\dots,1)^{\mathsf{T}} = (1,1,\dots,1)^{\mathsf{T}}$ 이고, $A^{\mathsf{T}}$ 와 $A$ 는 고유값이 같다. Kreyszig의 예에서

A = \begin{bmatrix} 0.7 & 0.1 & 0 \\ 0.2 & 0.9 & 0.2 \\ 0.1 & 0 & 0.8 \end{bmatrix} \;\Longrightarrow\; \mathbf{x} \propto \begin{bmatrix} 2 \\ 6 \\ 1 \end{bmatrix}

장기적으로 세 상태의 비가 $2:6:1$ 로 수렴한다는 뜻이다. 여기서 $A^{\mathsf{T}}$ 의 고유벡터 $(1,1,1)$ 과 $A$ 의 고유벡터 $(2,6,1)$ 이 다르다는 점을 확인해 두자 — 1절에서 말한 왼쪽 고유벡터와 오른쪽 고유벡터의 차이가 실제로 벌어지는 자리다.

수렴 속도는 두 번째로 큰 고유값의 크기가 정한다. $\lvert\lambda_2\rvert$ 가 1에 가까울수록 느리게 수렴하고, 이 관찰이 반복법의 수렴 판정(1.14)과 그대로 같은 이야기다.

미분방정식과 슈뢰딩거 방정식

마지막 둘은 예고편이다.

연립 상미분방정식. $\dot{\mathbf{y}} = A\mathbf{y}$ 에 $\mathbf{y} = \mathbf{x}e^{\lambda t}$ 를 넣으면 $\lambda\mathbf{x} = A\mathbf{x}$ 다. 고유값이 해의 시간 의존성을 통째로 결정한다 — $\operatorname{Re}\lambda < 0$ 이면 감쇠, $> 0$ 이면 발산, 허수부는 진동. 위 진동 문제에서 $\ddot{\mathbf{y}} = A\mathbf{y}$ 에 $e^{\omega t}$ 를 넣어 $\omega^2 = \lambda$ 를 얻은 것과 같은 수법이고, 자세한 것은 1.4에서 다룬다.

시간 무관 슈뢰딩거 방정식.

H\psi = E\psi

$H$ 는 해밀토니안 연산자, $\psi$ 는 파동함수, $E$ 는 그 상태의 에너지다. 이 장의 관점에서 이것은 무한 차원 고유값 문제이고, 기저를 유한 개로 잘라 행렬로 바꾸면 이 장의 방법이 그대로 적용된다. 그때 $H$ 가 에르미트라는 사실이 에너지가 실수임을 보장하고(4절), 고유함수의 완비성이 임의의 상태를 에너지 고유상태로 전개할 수 있게 한다(9절). 반도체의 밴드 구조 계산, $k \cdot p$ 방법, 양자우물의 속박 준위가 전부 이 방정식을 행렬로 바꿔 대각화하는 일이다.

대칭·반대칭·직교 행렬

세 가지 모양

실수 정사각 행렬 $A = [a_{jk}]$ 에 대해

이름	정의	성분으로
대칭(symmetric)	$A^{\mathsf{T}} = A$	$a_{kj} = a_{jk}$
반대칭(skew-symmetric)	$A^{\mathsf{T}} = -A$	$a_{kj} = -a_{jk}$
직교(orthogonal)	$A^{\mathsf{T}} = A^{-1}$	열(과 행)이 정규직교

반대칭 행렬은 대각 성분이 전부 0이다 — $a_{jj} = -a_{jj}$ 이므로. 이것이 반대칭 행렬을 알아보는 가장 빠른 눈이다.

\begin{bmatrix} -3 & 1 & 5 \\ 1 & 0 & -2 \\ 5 & -2 & 4\end{bmatrix}, \qquad \begin{bmatrix} 0 & 9 & -12 \\ -9 & 0 & 20 \\ 12 & -20 & 0\end{bmatrix}, \qquad \frac{1}{3}\begin{bmatrix} 2 & 1 & 2 \\ -2 & 2 & 1 \\ 1 & 2 & -2\end{bmatrix}

차례로 대칭·반대칭·직교다. 그리고 모든 실수 정사각 행렬은 대칭 부분과 반대칭 부분으로 유일하게 쪼개진다.

A = \underbrace{\tfrac{1}{2}(A + A^{\mathsf{T}})}_{\text{대칭}} \;+\; \underbrace{\tfrac{1}{2}(A - A^{\mathsf{T}})}_{\text{반대칭}}

고유값이 놓이는 자리

대칭 행렬의 고유값은 전부 실수다.
반대칭 행렬의 고유값은 순허수이거나 0이다.
직교 행렬의 고유값은 크기가 1이다.

반대칭 행렬의 예로 앞의 $3 \times 3$ 을 풀면 고유값이 $0,\ \pm 25i$ 다. 홀수 차원 반대칭 행렬에는 언제나 $\lambda = 0$ 이 있다 — $\det A = \det A^{\mathsf{T}} = \det(-A) = (-1)^n \det A$ 이므로 $n$ 이 홀수면 $\det A = 0$ 이고, 따라서 특이행렬이다. 홀수 차원의 반대칭 행렬은 역행렬을 가질 수 없다.

주의

역은 성립하지 않는다. 고유값이 전부 실수라고 해서 대칭 행렬인 것은 아니다.

A = \begin{bmatrix} 3 & 4 \\ 1 & 3 \end{bmatrix} \;\Longrightarrow\; p_A(\lambda) = \lambda^2 - 6\lambda + 5 = (\lambda - 1)(\lambda - 5)

고유값이 $1$ 과 $5$ 로 둘 다 실수인데 $A$ 는 대칭이 아니다. 대칭성이 주는 것은 실수 고유값 하나만이 아니라 “실수 고유값 + 정규직교 고유기저”의 묶음이고, 이 행렬은 뒤쪽을 갖지 못한다. 정확한 진술은 5절에서 나온다 — 실수 고유값을 가지면서 직교 닮음으로 대각화되는 행렬이 곧 대칭 행렬이다. 조건 하나만 떼어 오면 역이 무너진다.

대칭 행렬의 고유벡터는 직교한다

이 증명은 짧고, 이 장에서 가장 많이 재활용된다.

$S$ 가 실수 대칭이고 $S\mathbf{x}_1 = \lambda_1\mathbf{x}_1$ , $S\mathbf{x}_2 = \lambda_2\mathbf{x}_2$ , $\lambda_1 \neq \lambda_2$ 라 하자. 내적을 두 방향으로 계산한다.

\lambda_1 (\mathbf{x}_1 \cdot \mathbf{x}_2) = (S\mathbf{x}_1)^{\mathsf{T}}\mathbf{x}_2 = \mathbf{x}_1^{\mathsf{T}}S^{\mathsf{T}}\mathbf{x}_2 = \mathbf{x}_1^{\mathsf{T}}S\mathbf{x}_2 = \lambda_2 (\mathbf{x}_1 \cdot \mathbf{x}_2)

가운데에서 $S^{\mathsf{T}} = S$ 를 딱 한 번 썼다. 양변을 빼면 $(\lambda_1 - \lambda_2)(\mathbf{x}_1 \cdot \mathbf{x}_2) = 0$ 이고, $\lambda_1 \neq \lambda_2$ 이므로 $\mathbf{x}_1 \cdot \mathbf{x}_2 = 0$ 이다. $\blacksquare$

직관

증명의 정체는 1.2.6선형 변환의 수반 연산자다. 대칭이라는 조건은 “ $S$ 를 오른쪽 인자에 적용하든 왼쪽 인자에 적용하든 내적 값이 같다”는 말이고, 그 자유로운 이동이 $\lambda_1$ 과 $\lambda_2$ 를 같은 수에 붙여 둘을 충돌시킨다. 4절의 에르미트, 8절의 정규, 9절의 자체 수반 연산자에서 글자만 바뀐 같은 증명이 세 번 더 나온다. 1.6 스투름–리우빌에서 고유함수가 직교하는 이유도 정확히 이것이다.

증명이 $\lambda_1 \neq \lambda_2$ 를 쓴다는 점에 주의할 것. 고유값이 겹치면(축퇴) 이 논증은 아무 말도 하지 않는다 — 그때는 고유공간 안에서 직교기저를 골라야 하고, 그 이야기가 6절이다.

직교 변환 — 길이를 보존하는 변환

$\mathbf{y} = Q\mathbf{x}$ 가 직교 변환이면 내적이 보존된다.

(Q\mathbf{a}) \cdot (Q\mathbf{b}) = \mathbf{a}^{\mathsf{T}}Q^{\mathsf{T}}Q\,\mathbf{b} = \mathbf{a}^{\mathsf{T}}\mathbf{b} = \mathbf{a} \cdot \mathbf{b}

$\mathbf{b} = \mathbf{a}$ 로 두면 길이도 보존된다. 각도도 보존되므로 직교 변환은 도형을 합동으로 옮긴다. 그리고 1.2.1행렬과 행렬식의 곱 성질에서

\det(Q^{\mathsf{T}}Q) = (\det Q)^2 = 1 \;\Longrightarrow\; \det Q = \pm 1

$+1$ 이면 회전, $-1$ 이면 반사가 섞인 변환이다.

3차원 직교행렬을 읽는 법

먼저 고유값의 모양을 못박는다. 직교행렬의 고유값은 크기가 1이고, 실행렬이므로 복소근은 켤레쌍이다. 3차원이면 근이 셋이니 적어도 하나는 실수여야 하고, 크기가 1인 실수는 $\pm1$ 뿐이다. 게다가 셋의 곱이 $\det Q$ 다. 따라서

\det Q = +1 \;\Longrightarrow\; \sigma(Q) = \{1,\ e^{i\theta},\ e^{-i\theta}\}, \qquad \det Q = -1 \;\Longrightarrow\; \sigma(Q) = \{-1,\ e^{i\theta},\ e^{-i\theta}\}

$\det Q = +1$ 일 때 반드시 고유값 1이 있다는 것은 오일러의 회전 정리다 — 3차원 회전에는 언제나 움직이지 않는 축이 있다. 직접 확인할 수도 있다.

\begin{aligned} \det(Q - I) &\;\overset{(1)}{=}\; \det Q^{\mathsf{T}}\,\det(Q - I) \;=\; \det\big(Q^{\mathsf{T}}Q - Q^{\mathsf{T}}\big) \\[4pt] &\;=\; \det(I - Q^{\mathsf{T}}) \;\overset{(2)}{=}\; \det(I - Q) \;\overset{(3)}{=}\; (-1)^3 \det(Q - I) \end{aligned}

(1)에서 $\det Q^{\mathsf{T}} = \det Q = +1$ 을, (2)에서 전치가 행렬식을 바꾸지 않음을, (3)에서 $3 \times 3$ 행렬에 $-1$ 을 곱하면 행렬식이 $(-1)^3$ 배가 됨을 썼다. 결국 $\det(Q-I) = -\det(Q-I)$ 이므로 $\det(Q - I) = 0$ , 즉 $\lambda = 1$ 이 고유값이다. 여기서 차원이 홀수라는 사실을 (3)에서 썼다는 점이 중요하다 — 짝수 차원에서는 부호가 뒤집히지 않아 이 논증이 통하지 않고, 실제로 2차원 회전에는 고정축이 없다(고유값이 $e^{\pm i\theta}$ 뿐이다).

이제 실용적인 절차가 나온다.

$\det Q$ 를 본다. $+1$ 이면 순수 회전, $-1$ 이면 반사가 섞였다.
축을 찾는다. $Q\mathbf{r} = \mathbf{r}$ 을 풀면 회전축, $Q\mathbf{r} = -\mathbf{r}$ 을 풀면 반사면의 법선이다.
각을 찾는다. 대각합은 닮음 불변량이므로, 축을 $z$ 축으로 놓은 좌표에서 계산해도 같다.

\operatorname{tr} Q = 1 + 2\cos\theta \ \ (\det Q = +1), \qquad \operatorname{tr} Q = -1 + 2\cos\theta \ \ (\det Q = -1)

고유값의 합으로 봐도 같다 — $1 + e^{i\theta} + e^{-i\theta} = 1 + 2\cos\theta$ .

Boas의 예로 해 보자.

F = \frac{1}{7}\begin{bmatrix} 2 & 6 & 3 \\ 6 & -3 & 2 \\ 3 & 2 & -6 \end{bmatrix}

$\det F = 1$ 이므로 회전이다. $\operatorname{tr} F = (2 - 3 - 6)/7 = -1$ 이므로 $1 + 2\cos\theta = -1$ , 즉 $\theta = 180^\circ$ . 축은 $F\mathbf{r} = \mathbf{r}$ 을 풀어 $\mathbf{r} = (3, 2, 1)$ . $(3,2,1)$ 축에 대한 $180^\circ$ 회전이라는 답이 세 줄로 나온다.

직관

결정학이 이 계산 위에 세워져 있다. 결정의 대칭 연산 — 회전, 반사, 회전반사 — 은 전부 $3 \times 3$ 직교행렬이고, 어떤 연산이 가능한지는 격자가 정한다. 격자 벡터를 기저로 삼으면 격자를 자기 자신으로 옮기는 회전의 성분이 전부 정수가 되고, 대각합은 닮음 불변량이므로 $1 + 2\cos\theta$ 도 정수여야 한다. 그러면 $\cos\theta$ 가 $-1, -\tfrac12, 0, \tfrac12, 1$ 다섯 값뿐이라 $\theta$ 가 $60^\circ, 90^\circ, 120^\circ, 180^\circ, 360^\circ$ 로만 제한되고, 그래서 결정에는 5회 회전축이 없다. 이 유한한 목록이 32개 점군과 230개 공간군의 출발점이고, 실리콘의 다이아몬드 구조가 왜 그런 대칭을 갖는지, 그 대칭이 밴드 구조의 축퇴(6절)를 어떻게 만드는지가 전부 여기서 이어진다. 군론으로서의 이야기는 1.13에서 다룬다.

실수 대칭 행렬의 결론

이 절의 성과를 한 문장으로 모으면 이렇게 된다.

\textbf{실수 대칭 행렬 } S \text{ 에는 } \mathbb{R}^n \text{ 의 정규직교 고유기저가 존재하고,} \quad Q^{\mathsf{T}}SQ = D

고유값이 실수라는 것(이 절), 서로 다른 고유값의 고유벡터가 직교한다는 것(이 절), 축퇴가 있어도 고유공간 안에서 직교기저를 고를 수 있다는 것(6절)이 합쳐진 결과다. 열이 그 정규직교 고유벡터인 행렬 $Q$ 는 직교행렬이므로 $Q^{-1} = Q^{\mathsf{T}}$ 이고, 따라서 대각화가 전치만으로 끝난다.

이것이 실무에서 대칭성을 그토록 아끼는 이유다. 역행렬을 구할 필요가 없고, 수치적으로도 직교 변환은 오차를 키우지 않는다(1.2.4역행렬의 조건수 이야기와 이어진다). 4절에서 복소수로 넓히면 같은 문장이 $U^{\dagger}HU = D$ 가 되고, 8절에서 한 번 더 넓히면 정규 행렬이 된다.

에르미트 행렬과 유니터리 변환

직관

3절의 세 문장 — 대칭이면 실수, 반대칭이면 순허수, 직교면 크기 1 — 은 서로 무관해 보였다. 복소수로 올라가면 셋이 한 줄의 계산에서 동시에 떨어진다. 필요한 것은 고유값을 이렇게 적어 두는 것뿐이다.

\lambda = \frac{\mathbf{x}^{\dagger}A\mathbf{x}}{\mathbf{x}^{\dagger}\mathbf{x}}

분모는 $\lvert x_1\rvert^2 + \cdots + \lvert x_n\rvert^2$ 이라 언제나 양의 실수다. 그러니 $\lambda$ 의 성격은 분자가 전부 결정하고, 분자에 켤레전치를 취해 보면 $A$ 의 대칭성이 곧바로 $\lambda$ 의 대칭성으로 번역된다. $A^{\dagger} = A$ 면 분자가 자기 켤레와 같아 실수, $A^{\dagger} = -A$ 면 자기 켤레의 음수라 순허수. 세 문장이 하나의 계산이었던 것이다.

세 가지 복소 행렬

1.2.1행렬과 행렬식에서 켤레전치 $A^{\dagger} = \bar{A}^{\mathsf{T}}$ 를 정의했다. 3절의 세 종류를 전치 대신 켤레전치로 다시 쓰면 그대로 복소판이 된다.

이름	정의	실수일 때
에르미트(Hermitian)	$A^{\dagger} = A$ , 즉 $a_{kj} = \overline{a_{jk}}$	대칭
반에르미트(skew-Hermitian)	$A^{\dagger} = -A$	반대칭
유니터리(unitary)	$A^{\dagger} = A^{-1}$	직교

대각 성분이 곧바로 제약을 받는다. 에르미트면 $a_{jj} = \overline{a_{jj}}$ 이므로 대각 성분이 실수이고, 반에르미트면 $a_{jj} = -\overline{a_{jj}}$ 이므로 $a_{jj} = i b$ 꼴 — 순허수이거나 0이다. 반대칭 실행렬의 대각이 0이었던 것이 이 조건의 실수 특수화다.

H = \begin{bmatrix} 4 & 1-3i \\ 1+3i & 7\end{bmatrix}, \qquad B = \begin{bmatrix} 3i & 2+i \\ -2+i & -i\end{bmatrix}, \qquad U = \frac{1}{\sqrt2}\begin{bmatrix} 1 & i \\ i & 1\end{bmatrix}

차례로 에르미트·반에르미트·유니터리다. 고유값을 구해 보면(대각합과 행렬식만 있으면 된다)

\sigma(H) = \{9,\ 2\}, \qquad \sigma(B) = \{4i,\ -2i\}, \qquad \sigma(U) = \Big\{\tfrac{1+i}{\sqrt2},\ \tfrac{1-i}{\sqrt2}\Big\} = \{e^{i\pi/4},\ e^{-i\pi/4}\}

각각 실축 위, 허축 위, 단위원 위다.

그림 1.3-4. 복소평면에서 고유값이 놓이는 자리. 에르미트(실수 대칭 포함)는 실축, 반에르미트(반대칭 포함)는 허축, 유니터리(직교 포함)는 단위원 위에만 놓인다. 세 자리는 원점과 ±1에서만 겹치고, 그 겹침이 곧 '에르미트이면서 유니터리인 행렬의 고유값은 ±1'이라는 뜻이다. 회색 점은 아무 조건이 없는 일반 행렬의 고유값으로, 평면 어디에나 놓일 수 있다.직접 작도

한 줄로 끝나는 증명

$A\mathbf{x} = \lambda\mathbf{x}$ 의 양변에 왼쪽에서 $\mathbf{x}^{\dagger}$ 를 곱한다.

\mathbf{x}^{\dagger}A\mathbf{x} = \lambda\,\mathbf{x}^{\dagger}\mathbf{x} \qquad\Longrightarrow\qquad \lambda = \frac{\mathbf{x}^{\dagger}A\mathbf{x}}{\mathbf{x}^{\dagger}\mathbf{x}}

$\mathbf{x}^{\dagger}\mathbf{x} = \sum_\mu \lvert x_\mu\rvert^2$ 은 양의 실수이므로 나눌 수 있다(고유벡터는 영벡터가 아니다). 이제 분자 $\mathbf{x}^{\dagger}A\mathbf{x}$ 는 $1 \times 1$ 행렬, 즉 수 하나다. 수 하나에 켤레전치를 취하면 그냥 켤레이므로

\overline{\mathbf{x}^{\dagger}A\mathbf{x}} = \big(\mathbf{x}^{\dagger}A\mathbf{x}\big)^{\dagger} = \mathbf{x}^{\dagger}A^{\dagger}\mathbf{x}

여기까지는 아무 조건도 쓰지 않았다. 이제 조건을 하나씩 넣는다.

(a) 에르미트. $A^{\dagger} = A$ 이므로 $\overline{\mathbf{x}^{\dagger}A\mathbf{x}} = \mathbf{x}^{\dagger}A\mathbf{x}$ — 분자가 자기 켤레와 같으니 실수다. 따라서 $\lambda$ 가 실수다.

(b) 반에르미트. $A^{\dagger} = -A$ 이므로 $\overline{\mathbf{x}^{\dagger}A\mathbf{x}} = -\mathbf{x}^{\dagger}A\mathbf{x}$ — 분자가 자기 켤레의 음수이니 순허수이거나 0이다. 따라서 $\lambda$ 도 그렇다.

(c) 유니터리. 여기만 방법이 다르다. $A\mathbf{x} = \lambda\mathbf{x}$ 의 켤레전치 $\mathbf{x}^{\dagger}A^{\dagger} = \bar{\lambda}\mathbf{x}^{\dagger}$ 를 원래 식에 곱하면

\mathbf{x}^{\dagger}\underbrace{A^{\dagger}A}_{=\,I}\mathbf{x} = \bar\lambda\lambda\,\mathbf{x}^{\dagger}\mathbf{x} \;\Longrightarrow\; \mathbf{x}^{\dagger}\mathbf{x} = \lvert\lambda\rvert^2\,\mathbf{x}^{\dagger}\mathbf{x} \;\Longrightarrow\; \lvert\lambda\rvert = 1 \qquad \blacksquare

실수 대칭·반대칭·직교는 각각 에르미트·반에르미트·유니터리의 특수한 경우이므로, 3절에서 미뤄 둔 세 정리가 여기서 한꺼번에 증명되었다.

왜 물리는 에르미트를 고르는가

직관

측정해서 나오는 값은 실수다. 그런데 양자역학은 상태를 복소 벡터로 적는다. 복소 세계에서 계산하면서 결과만은 반드시 실수로 떨어지는 장치가 필요하고, 그 장치가 에르미트 조건이다.

관측량 $A$ 에 대해 측정값의 평균은 $\langle A\rangle = \psi^{\dagger}A\psi$ 이고, 위 계산의 (a)가 바로 이것이 실수임을 보장한다. 그리고 개별 측정에서 나오는 값들은 $A$ 의 고유값이므로 그것도 실수다. 에르미트성은 편의가 아니라 물리적 요구를 수식으로 번역한 것이다.

같은 논리가 고전역학에도 있다. 동역학 행렬이 에르미트여야 $\omega^2$ 이 실수이고, 그래야 진동이 지수적으로 발산하지 않는다. 2절에서 질량 가중 좌표를 도입해 대칭성을 되살린 이유가 이것이었다 — 대칭성을 잃으면 실수라는 보장을 잃는다.

유니터리 변환 — 기저를 바꾸는 일

복소 벡터의 내적은 1.2.5벡터공간과 내적공간에서 정의했다.

\langle \mathbf{a}, \mathbf{b}\rangle = \mathbf{a}^{\dagger}\mathbf{b} = \sum_\mu \overline{a_\mu} b_\mu, \qquad \lVert \mathbf{a}\rVert = \sqrt{\mathbf{a}^{\dagger}\mathbf{a}}

유니터리 변환은 이 내적을 보존한다. 계산은 실수 직교 변환과 글자만 다르다.

(U\mathbf{a})^{\dagger}(U\mathbf{b}) = \mathbf{a}^{\dagger}U^{\dagger}U\mathbf{b} = \mathbf{a}^{\dagger}\mathbf{b}

따라서 길이도 각도도 보존된다. 그리고 $U^{\dagger}U = I$ 를 열 단위로 읽으면 열이 정규직교계 (유니터리계)라는 뜻이고, 행렬식은

\lvert \det U\rvert = 1

이다( $1 = \det(UU^{\dagger}) = \det U \cdot \overline{\det U} = \lvert\det U\rvert^2$ ). 직교행렬의 $\det = \pm1$ 이 복소로 가면 단위원 전체로 풀린다는 점에 주의할 것 — $\det U$ 는 $e^{i\alpha}$ 꼴이다.

Arfken은 이 사실을 뒤집어 유니터리 행렬의 정체를 밝힌다. 정규직교기저 $\{\phi_\mu\}$ 에서 다른 정규직교기저 $\{\phi'_\nu\}$ 로 옮길 때, 두 기저를 잇는 행렬의 성분은

u_{\nu\mu} = \langle \phi'_\nu, \phi_\mu\rangle

이고, 계수 벡터는 $\mathbf{c}' = U\mathbf{c}$ 로 변환된다. 되돌아오는 변환은 $v_{\nu\mu} = \langle \phi_\nu, \phi'_\mu\rangle = \overline{u_{\mu\nu}}$ , 즉 $V = U^{\dagger}$ 다. 갔다 돌아오면 제자리여야 하므로 $U^{\dagger}U = I$ — 유니터리성이 정의가 아니라 결론으로 나온다.

에르미트 행렬을 대각화해 보기

Boas의 예로 4절까지의 도구를 다 써 보자.

H = \begin{bmatrix} 2 & 3-i \\ 3+i & -1 \end{bmatrix}

$H^{\dagger} = H$ 인지 확인부터 — 대각이 실수이고 $\overline{3-i} = 3+i$ 이니 에르미트다.

고유값. $\operatorname{tr}H = 1$ , $\det H = -2 - (3-i)(3+i) = -2 - 10 = -12$ 이므로

\lambda^2 - \lambda - 12 = 0 \;\Longrightarrow\; \lambda = -3,\ 4

정리대로 실수다.

고유벡터. $\lambda = -3$ 에서 $5x + (3-i)y = 0$ 이므로 $\mathbf{x} = (2,\ -3-i)^{\mathsf{T}}$ . $\lambda = 4$ 에서 $-2x + (3-i)y = 0$ 이므로 $\mathbf{x} = (3-i,\ 2)^{\mathsf{T}}$ . 길이를 재면 둘 다 $\sqrt{4 + 10} = \sqrt{14}$ 다.

직교 확인. 복소 내적이므로 왼쪽 인자에 켤레를 취해야 한다.

\langle \mathbf{x}_1, \mathbf{x}_2\rangle = \overline{2}\,(3-i) + \overline{(-3-i)}\,2 = 2(3-i) + (-3+i)\,2 = 0 \quad\checkmark

대각화. 정규화한 고유벡터를 열로 세우면

U = \frac{1}{\sqrt{14}}\begin{bmatrix} 2 & 3-i \\ -3-i & 2\end{bmatrix}, \qquad U^{-1}HU = U^{\dagger}HU = \begin{bmatrix} -3 & 0 \\ 0 & 4\end{bmatrix}

$U^{-1}$ 을 따로 구할 필요가 없다는 것이 요점이다 — 켤레전치가 곧 역행렬이다.

주의

복소 내적에서 켤레를 어느 쪽에 붙이는지가 책마다 다르다. 이 백과는 수학·공학의 관례를 따라 왼쪽 인자에 켤레를 붙인다( $\langle\mathbf{a},\mathbf{b}\rangle = \mathbf{a}^{\dagger}\mathbf{b}$ , 즉 두 번째 인자에 대해 선형). 디랙 표기 $\langle\phi|\psi\rangle$ 도 같은 규약이다.

일부 수학 문헌은 반대로 첫 번째 인자에 대해 선형으로 잡는다. 직교성 판정( $=0$ )이나 노름은 어느 쪽이든 같은 답을 주지만, $\langle\mathbf{a},\mathbf{b}\rangle$ 과 $\langle\mathbf{b},\mathbf{a}\rangle$ 이 서로 켤레라서 부호나 위상이 걸린 식에서는 결과가 갈린다. 위 직교 확인에서 켤레를 오른쪽에 붙였다면 $2(3+i) + (-3-i)2 = 0$ 으로 역시 0이 나오지만, 9절의 스펙트럼 분해처럼 순서가 살아 있는 식에서는 조심해야 한다.

에르미트 형식

$\mathbf{x}^{\dagger}A\mathbf{x}$ 를 성분으로 펼치면

\mathbf{x}^{\dagger}A\mathbf{x} = \sum_{\mu}\sum_{\nu} \overline{x_\mu}\, a_{\mu\nu} x_\nu

이고, $A$ 가 에르미트면 이 값이 모든 $\mathbf{x}$ 에 대해 실수다(고유벡터일 필요가 없다 — 앞의 증명에서 $\mathbf{x}$ 가 고유벡터라는 사실을 쓴 적이 없다). 이것을 에르미트 형식이라 하고, $A$ 가 실수 대칭이면 7절의 이차 형식으로 내려온다. 반에르미트 형식의 값은 순허수이거나 0이다.

의문

실수 이차 형식 $\mathbf{x}^{\mathsf{T}}A\mathbf{x}$ 에서는 $A$ 의 대칭 부분만 값에 기여한다 (반대칭 부분의 기여가 $\mathbf{x}^{\mathsf{T}}A\mathbf{x} = -\mathbf{x}^{\mathsf{T}}A\mathbf{x} = 0$ 으로 스스로 사라진다). 그래서 이차 형식의 계수 행렬은 대칭으로 잡아도 손해가 없다 — 7절이 그 관례 위에서 시작한다.

복소에서도 같은 일이 벌어질까? 일반 $A$ 를 에르미트 부분 $\tfrac12(A + A^{\dagger})$ 와 반에르미트 부분 $\tfrac12(A - A^{\dagger})$ 로 쪼개면, 형식의 값도 실수부와 순허수부로 정확히 나뉜다. 실수와 달리 반에르미트 부분이 사라지지는 않고 허수부로 남는다. $A + A^{\dagger}$ 와 $i(A - A^{\dagger})$ 가 둘 다 에르미트라는 관찰(Arfken 5.4.1)이 이 분해의 정확한 표현이고, “모든 연산자는 두 에르미트 연산자의 조합”이라는 진술이 여기서 나온다.

닮음 변환과 대각화

닮음은 고유값을 보존한다

$\hat{A} = P^{-1}AP$ 이면 $\hat{A}$ 와 $A$ 는 닮았다고 한다( $P$ 는 가역). 그러면

\det(\hat{A} - \lambda I) = \det\big(P^{-1}(A - \lambda I)P\big) = \det P^{-1}\det(A - \lambda I)\det P = \det(A - \lambda I)

특성 다항식이 같으므로 고유값이 중복도까지 같다. 고유벡터는 좌표가 바뀐 만큼 함께 바뀐다 — $A\mathbf{x} = \lambda\mathbf{x}$ 에 왼쪽에서 $P^{-1}$ 을 곱하고 가운데에 $PP^{-1} = I$ 를 끼우면

P^{-1}A\,PP^{-1}\mathbf{x} = \lambda P^{-1}\mathbf{x} \;\Longrightarrow\; \hat{A}\,(P^{-1}\mathbf{x}) = \lambda\,(P^{-1}\mathbf{x})

$\mathbf{x}$ 가 $A$ 의 고유벡터면 $P^{-1}\mathbf{x}$ 가 같은 고유값에 대한 $\hat{A}$ 의 고유벡터다( $\mathbf{x} \neq \mathbf{0}$ 이고 $P^{-1}$ 이 가역이니 $P^{-1}\mathbf{x} \neq \mathbf{0}$ ).

고유벡터를 열로 세우면

이제 핵심 계산이다. $A$ 의 고유벡터 $\mathbf{x}_1, \dots, \mathbf{x}_n$ 을 열로 세운 행렬을 $X$ 라 하자. 행렬 곱을 열 단위로 읽으면(1.2.1행렬과 행렬식)

AX = A\big[\mathbf{x}_1\ \cdots\ \mathbf{x}_n\big] = \big[A\mathbf{x}_1\ \cdots\ A\mathbf{x}_n\big] = \big[\lambda_1\mathbf{x}_1\ \cdots\ \lambda_n\mathbf{x}_n\big] = XD

마지막 등호에서 $D = \operatorname{diag}(\lambda_1, \dots, \lambda_n)$ 이다. 오른쪽에서 대각행렬을 곱하는 것이 열마다 다른 수를 곱하는 연산이라는 사실이 여기서 쓰였다. 이제 $X$ 가 가역이면

\boxed{\;X^{-1}AX = D\;}

$X$ 가 가역일 조건은 열이 선형 독립인 것, 즉 $A$ 가 고유기저를 가질 것이다.

주의

$AX = XD$ 에서 $D$ 를 왼쪽으로 옮기면 안 된다. $XD$ 와 $DX$ 는 다른 물건이다 — 전자는 $X$ 의 열마다, 후자는 $X$ 의 행마다 다른 수를 곱한다. 고유벡터를 열로 세웠으니 열에 곱해져야 하고, 그래서 $D$ 가 오른쪽이다. 고유벡터를 행으로 세우는 관례를 쓰는 문헌에서는 식이 $XA = DX$ 로 뒤집힌다.

여기에 겹치는 함정이 하나 더 있다. Kreyszig와 Boas는 $X^{-1}AX = D$ 로 쓰고, Arfken은 $UAU^{-1} = D$ 로 쓴다. 두 식의 $X$ 와 $U$ 는 서로 역행렬이다 — Arfken에서 고유벡터가 열로 서 있는 것은 $U^{-1}$ 쪽이다. 어느 쪽이 맞고 틀리고가 아니라 어느 것을 “기저 변환 행렬”이라 부르느냐의 차이인데, 두 책을 나란히 놓고 계산하면 반드시 한 번은 뒤집힌다. 이 백과는 언제나 $X^{-1}AX = D$ 이고, $X$ 의 열이 고유벡터다.

언제 대각화되는가

$n$ 개의 독립인 고유벡터가 있어야 한다. 충분조건 하나가 곧바로 나온다.

정리. $A$ 의 고유값 $n$ 개가 서로 다르면 대응하는 고유벡터는 선형 독립이고, 따라서 $A$ 는 대각화 가능하다.

증명 (귀류법). 독립이 아니라 하자. $\{\mathbf{x}_1, \dots, \mathbf{x}_r\}$ 이 독립인 가장 큰 집합이라 하면 $r < n$ 이고 $\mathbf{x}_{r+1}$ 은 이들의 조합이다.

c_1\mathbf{x}_1 + \cdots + c_r\mathbf{x}_r + c_{r+1}\mathbf{x}_{r+1} = \mathbf{0} \qquad (\text{계수가 모두 } 0 \text{ 은 아니다})

양변에 $A$ 를 곱하면 $\sum_j c_j\lambda_j\mathbf{x}_j = \mathbf{0}$ 이다. 여기서 원래 식의 $\lambda_{r+1}$ 배를 빼면 $\mathbf{x}_{r+1}$ 항이 지워진다.

c_1(\lambda_1 - \lambda_{r+1})\mathbf{x}_1 + \cdots + c_r(\lambda_r - \lambda_{r+1})\mathbf{x}_r = \mathbf{0}

앞의 $r$ 개는 독립이므로 계수가 전부 0이어야 하고, 고유값이 서로 다르니 $\lambda_j - \lambda_{r+1} \neq 0$ , 따라서 $c_1 = \cdots = c_r = 0$ 이다. 그러면 원래 식이 $c_{r+1}\mathbf{x}_{r+1} = \mathbf{0}$ 으로 줄고 $\mathbf{x}_{r+1} \neq \mathbf{0}$ 이므로 $c_{r+1} = 0$ — 계수가 전부 0이 되어 가정에 모순이다. $\blacksquare$

주의

이것은 충분조건일 뿐 필요조건이 아니다. 고유값이 겹쳐도 대각화되는 행렬은 얼마든지 있다 — 극단적인 예가 $2I$ 로, 고유값이 하나뿐인데 모든 벡터가 고유벡터다. 정확한 필요충분조건은 모든 고유값에서 $g_\lambda = m_\lambda$ , 즉 결손이 하나도 없는 것이다(6절).

그리고 대각화가 불가능한 행렬은 실제로 존재한다.

A = \begin{bmatrix} 1 & 1 \\ 0 & 1\end{bmatrix}

고유값은 1뿐이고( $m = 2$ ) 고유벡터는 $(1,0)^{\mathsf{T}}$ 방향 하나뿐이다( $g = 1$ ). 열이 두 개인 가역 $X$ 를 만들 재료가 없으므로 어떤 $X$ 로도 대각화되지 않는다. 이런 행렬은 대각 대신 조르당 표준형 — 대각선 바로 위에 1이 붙은 블록 — 까지만 갈 수 있다. 1.4에서 특성방정식에 중근이 있을 때 해에 $t\,e^{\lambda t}$ 가 끼어드는 것이 정확히 이 1 하나의 흔적이다.

손으로 대각화하기

비대칭 예. $A = \begin{bmatrix} 6 & -3 \\ 4 & -1\end{bmatrix}$ 은 $\operatorname{tr} = 5$ , $\det = 6$ 이므로 $\lambda = 3, 2$ 다.

$\lambda = 3$ : $3x_1 - 3x_2 = 0 \Rightarrow \mathbf{x}_1 = (1,1)^{\mathsf{T}}$
$\lambda = 2$ : $4x_1 - 3x_2 = 0 \Rightarrow \mathbf{x}_2 = (3,4)^{\mathsf{T}}$

X = \begin{bmatrix} 1 & 3 \\ 1 & 4\end{bmatrix},\quad X^{-1} = \begin{bmatrix} 4 & -3 \\ -1 & 1\end{bmatrix},\quad X^{-1}AX = \begin{bmatrix} 4 & -3 \\ -1 & 1\end{bmatrix} \begin{bmatrix} 3 & 6 \\ 3 & 8\end{bmatrix} = \begin{bmatrix} 3 & 0 \\ 0 & 2\end{bmatrix}

두 고유벡터의 내적이 $1\cdot3 + 1\cdot4 = 7 \neq 0$ — 직교하지 않는다. $A$ 가 대칭이 아니니 당연하고, 그래서 $X^{-1}$ 을 실제로 계산해야 했다.

대칭 예. 1절의 $A = \begin{bmatrix} 5 & -2 \\ -2 & 2\end{bmatrix}$ 은 고유벡터가 $(1,2)$ 와 $(-2,1)$ 로 직교한다. 정규화해 열로 세우면

Q = \frac{1}{\sqrt5}\begin{bmatrix} 1 & -2 \\ 2 & 1\end{bmatrix}, \qquad Q^{\mathsf{T}}AQ = \begin{bmatrix} 1 & 0 \\ 0 & 6\end{bmatrix}

$Q^{-1}$ 을 구하는 대신 전치만 하면 된다. 3절에서 예고한 이익이 여기서 현금화된다. 게다가 $\det Q = (1 + 4)/5 = 1$ 이라 이 $Q$ 는 회전이고, 각은 $\cos\theta = 1/\sqrt5$ 에서 $\theta \approx 63.4^\circ$ 다. 대각화는 좌표축을 고유벡터 방향으로 돌려세우는 일이라는 Boas의 읽기가 이 숫자에서 확인된다.

대각화로 얻는 것

그림 1.3-5. 고유기저가 하는 일. 임의의 벡터를 고유벡터 방향으로 쪼개면(X⁻¹), 각 조각은 A를 적용해도 방향이 그대로이고 λ배만 된다(D). 다시 합치면(X) 결과가 나온다. A를 m번 적용하는 것은 가운데에서 λ를 m번 곱하는 일일 뿐이라, 행렬 곱 m번이 스칼라 거듭제곱 n개로 바뀐다. 이것이 대각화로 얻는 전부다.직접 작도

$X^{-1}AX = D$ 를 $A = XDX^{-1}$ 로 뒤집으면 거듭제곱이 무너진다.

A^2 = XDX^{-1} \cdot XDX^{-1} = XD^2X^{-1}, \qquad A^m = XD^mX^{-1}

가운데 $X^{-1}X = I$ 가 계속 지워지는 것이 전부다. 그리고 $D^m$ 은 대각 성분을 $m$ 제곱한 대각행렬이다. 거듭제곱급수로 정의되는 임의의 함수에 같은 논리가 그대로 적용된다.

f(A) = X\,f(D)\,X^{-1} = X\begin{bmatrix} f(\lambda_1) & & \\ & \ddots & \\ & & f(\lambda_n)\end{bmatrix}X^{-1}

$e^{At}$ , $A^{1/2}$ , $A^{-1}$ 이 전부 이 한 줄로 계산된다. 1.2에서 $e^{A}$ 를 급수로 정의만 해 두고 계산은 미뤘는데, 그 계산 방법이 이것이다.

따름정리 하나가 예쁘다. 행렬식은 대각 성분의 곱이므로

\det e^{A} = \prod_\mu e^{\lambda_\mu} = e^{\sum_\mu \lambda_\mu} = e^{\operatorname{tr} A}

**“지수의 행렬식은 대각합의 지수”**다. 대각화되지 않는 행렬에서도 성립한다 — 조르당 표준형도 상삼각이라 대각 성분이 고유값이고, 같은 계산이 그대로 통한다.

직관

파라미터 연계성. $A^m = XD^mX^{-1}$ 에서 $m$ 이 커지면 어떤 일이 벌어지는지 보라. 가장 큰 $\lvert\lambda\rvert$ 를 가진 성분이 다른 것들을 지수적으로 압도한다. 그래서

$\rho(A) < 1$ 이면 $A^m \to O$ — 반복법이 수렴한다.
$\rho(A) > 1$ 이면 발산한다.
$\dot{\mathbf{y}} = A\mathbf{y}$ 의 해 $e^{At}$ 에서는 $\operatorname{Re}\lambda$ 의 부호가 같은 역할을 한다.

스펙트럼 반지름 $\rho(A)$ 가 반복법 수렴 판정의 주인공인 이유가 이것이고(1.14), 2절의 마르코프 과정에서 두 번째 고유값이 수렴 속도를 정했던 것도 같은 이야기다. 소자 시뮬레이션에서 시간 적분의 안정 조건이 야코비 행렬의 고유값으로 적히는 것도 마찬가지다.

어떤 닮음을 쓸 것인가

$P$ 에 아무 가역행렬이나 쓸 수 있지만, 직교·유니터리로 고를 수 있으면 반드시 그렇게 한다.

닮음의 종류	식	가능한 행렬	얻는 것
일반 닮음	$X^{-1}AX = D$	고유기저가 있는 모든 행렬	대각화
직교 닮음	$Q^{\mathsf{T}}SQ = D$	실수 대칭	+ 역행렬 계산 불필요, 수치 안정
유니터리 닮음	$U^{\dagger}HU = D$	정규 행렬 (8절)	+ 에르미트성 보존

세 번째 줄의 “에르미트성 보존”이 물리에서 중요하다. 유니터리 닮음은 수반 관계를 그대로 옮기므로 에르미트는 에르미트로, 유니터리는 유니터리로 남는다. 일반 닮음은 그 구조를 깨뜨린다.

역방향도 성립한다. 고유값이 실수이면서 유니터리 닮음으로 대각화되는 행렬은 에르미트뿐이다.

증명. $U^{-1}MU = D$ 이고 $D$ 가 실수 대각행렬이라 하자. 켤레전치를 취하면

(U^{-1}MU)^{\dagger} = U^{\dagger}M^{\dagger}(U^{-1})^{\dagger} = U^{-1}M^{\dagger}U = D^{\dagger} = D

( $U^{\dagger} = U^{-1}$ 이고 $D$ 가 실수 대각이라 $D^{\dagger} = D$ .) 그러면 $U^{-1}MU = U^{-1}M^{\dagger}U$ 이고 양쪽에 $U$ 와 $U^{-1}$ 을 곱하면 $M = M^{\dagger}$ . $\blacksquare$

실수로 내리면 “실수 고유값 + 직교 닮음으로 대각화 $\iff$ 대칭”이 되고, 이것이 3절에서 “역은 성립하지 않는다”고 했던 자리의 정확한 진술이다. 실수 고유값만으로는 부족하고, 직교 대각화까지 함께 요구해야 대칭이 돌아온다.

주의

모든 닮음 변환이 “같은 벡터를 다른 기저에서 보는 일”인 것은 아니다. $P$ 가 유니터리가 아니면 $P$ 는 정규직교기저를 정규직교기저로 보내지 않고, 따라서 새 좌표계의 축이 서로 수직이 아니다. Arfken은 이 점을 강조한다 — 유니터리 닮음은 물리량을 그대로 두고 기술만 바꾸지만, 일반 닮음은 물리량 자체를 계통적으로 변형한다. 내적·노름·기댓값이 보존되는 것은 유니터리 쪽뿐이다.

한 걸음 더 나간 예가 그람–슈미트다. 비직교 기저 $\{\chi_i\}$ 를 정규직교화하는 상삼각 행렬 $T$ 에 대해 연산자의 표현은 $A' = T^{\dagger}AT$ 로 바뀌는데, $T^{\dagger} \neq T^{-1}$ 이므로 이것은 닮음 변환조차 아니다. 고유값이 보존된다는 보장이 없다. 겹침 행렬이 단위행렬이 아닌 기저에서 일반화 고유값 문제 $A\mathbf{c} = \lambda S\mathbf{c}$ 를 풀어야 하는 이유가 이것이고, 2절의 질량 가중 좌표가 같은 문제의 역학판이다.

동시에 대각화할 수 있는가

정리. 두 행렬이 공통의 완전한 고유벡터 집합을 가질 필요충분조건은 교환하는 것, $AB = BA$ 이다.

(⇐ 축퇴가 없는 경우.) $A\mathbf{c} = a\mathbf{c}$ 라 하자. 양변에 $B$ 를 곱하고 교환성을 쓰면

BA\mathbf{c} = a B\mathbf{c} \;\Longrightarrow\; A(B\mathbf{c}) = a(B\mathbf{c})

$B\mathbf{c}$ 가 같은 고유값 $a$ 에 대한 $A$ 의 고유벡터다. $a$ 가 축퇴가 아니면 그 고유공간이 1차원이므로 $B\mathbf{c}$ 는 $\mathbf{c}$ 의 상수배일 수밖에 없다 — 즉 $B\mathbf{c} = b\mathbf{c}$ 이고, $\mathbf{c}$ 가 $B$ 의 고유벡터이기도 하다.

(⇒) 공통 고유기저 $\{\mathbf{c}_\mu\}$ 가 있으면 임의의 $\mu$ 에 대해 $AB\mathbf{c}_\mu = a_\mu b_\mu \mathbf{c}_\mu = BA\mathbf{c}_\mu$ 이고, 기저 전체에서 같으므로 $AB = BA$ 다. $\blacksquare$

축퇴가 있으면 논증이 한 단계 늘어난다. $A$ 의 고유공간이 2차원 이상이면 그 안의 모든 벡터가 $A$ 의 고유벡터이므로, 그 부분공간 안에서 $B$ 의 고유벡터가 되는 것들을 골라 잡을 자유가 있다. $B$ 를 그 부분공간으로 제한해 다시 대각화하면 된다.

직관

축퇴가 있어야 선택의 여지가 생긴다는 것이 이 증명의 알맹이다. 축퇴가 없으면 고유벡터가 방향까지 완전히 정해져 있어서 $B$ 가 끼어들 틈이 없고, 축퇴가 있으면 그 자유도를 $B$ 가 소진한다.

양자역학이 이것을 그대로 쓴다. 교환하는 관측량은 동시에 확정값을 가질 수 있고, 그 확정값들의 조합이 상태를 유일하게 지목한다 — 좋은 양자수의 집합이 이렇게 만들어진다. $[A,B] = 0$ 이고 $[A,C] = 0$ 인데 $[B,C] \neq 0$ 이면 $B$ 와 $C$ 중 하나만 고를 수 있고, 어느 쪽을 고르느냐가 서로 다른 기술 방식이 된다(각운동량 결합에서 흔한 상황이다). 반대로 교환하지 않으면 동시 고유상태가 없고, 그것이 불확정성 관계의 대수적 뿌리다.

결정에서도 같은 구조가 나온다. 해밀토니안이 격자 병진 연산자와 교환하므로 둘의 공통 고유상태를 고를 수 있고, 그 상태가 블로흐 상태다. 파수 $\mathbf{k}$ 는 병진 연산자의 고유값에 붙은 표지이고, 밴드 지수는 남은 축퇴를 가르는 두 번째 표지다.

축퇴와 고유기저

고유공간이 넓어진다

$\lambda$ 가 $m_\lambda \ge 2$ 로 겹치면 축퇴(degenerate)라 한다. Boas의 예를 보자.

M = \begin{bmatrix} 1 & -4 & 2 \\ -4 & 1 & -2 \\ 2 & -2 & -2 \end{bmatrix}

$\operatorname{tr} M = 0$ , $\det M = 54$ 이고 고유값은 $\lambda = 6,\ -3,\ -3$ 이다 ( $6 - 3 - 3 = 0$ , $6 \times 9 = 54$ 로 검산된다). $\lambda = 6$ 의 고유벡터는 $(2, -2, 1)^{\mathsf{T}}$ 하나뿐이다.

$\lambda = -3$ 에서는 사정이 다르다.

M + 3I = \begin{bmatrix} 4 & -4 & 2 \\ -4 & 4 & -2 \\ 2 & -2 & 1 \end{bmatrix} \;\longrightarrow\; \text{계수 } 1,\quad 2x - 2y + z = 0

세 행이 전부 같은 벡터의 상수배라 조건이 한 줄만 남는다. 고유벡터 조건이 방정식 하나이므로 해는 평면 전체다 — $g_{-3} = 3 - 1 = 2$ . 그리고 이 평면의 법선 $(2,-2,1)$ 이 정확히 $\lambda = 6$ 의 고유벡터다. 대칭 행렬이니 서로 다른 고유값의 고유벡터가 직교해야 한다는 3절의 결과가 여기서 “평면과 그 법선”이라는 모습으로 나타난다.

m_{6} = g_{6} = 1, \qquad m_{-3} = g_{-3} = 2, \qquad \Delta = 0

결손이 없으므로 고유기저가 존재한다.

축퇴 부분공간에서 직교기저 고르기

평면 위의 아무 벡터나 고유벡터이므로, 직교하도록 두 개를 고르면 된다. 세 가지 방법이 있다.

① 눈으로. $2x - 2y + z = 0$ 에서 $(1, 1, 0)$ 이 바로 보인다( $2 - 2 + 0 = 0$ ). 그다음 $(-1, 1, 4)$ 도 조건을 만족하고( $-2 - 2 + 4 = 0$ ) 앞엣것과 내적이 $-1 + 1 + 0 = 0$ 이다.

② 외적으로 (3차원 한정). 평면 위의 벡터 하나를 아무렇게나 고른 뒤, 그것과 법선의 외적을 취하면 평면 위에 있으면서 첫 벡터에 수직인 벡터가 나온다.

③ 그람–슈미트로 (차원 무관). 조건을 만족하는 두 벡터를 아무렇게나 잡는다 — 예컨대 $\mathbf{a} = (1,1,0)$ , $\mathbf{b} = (-1, 0, 2)$ . 이 둘은 직교하지 않는다. 1.2.5벡터공간과 내적공간 의 절차를 한 단계 돌리면

\hat{\mathbf{e}} = \frac{(1,1,0)}{\sqrt2}, \qquad \mathbf{b} - (\hat{\mathbf{e}}\cdot\mathbf{b})\,\hat{\mathbf{e}} = (-1, 0, 2) - \Big(-\tfrac{1}{2}\Big)(1,1,0) = \Big(-\tfrac12, \tfrac12, 2\Big) \propto (-1, 1, 4)

①에서 눈으로 찾은 것과 같은 벡터가 나왔다. 차원이 3보다 크면 ②가 막히므로 ③이 유일한 일반 방법이다.

주의

축퇴 부분공간의 기저는 유일하지 않다. 위에서 $(1,1,0)$ 과 $(-1,1,4)$ 를 골랐지만, 이 평면 안에서 임의의 각도로 돌린 어떤 직교쌍이든 똑같이 정당하다. 그래서

수치 라이브러리마다, 실행마다 다른 고유벡터를 돌려줄 수 있다. 버그가 아니다.
두 계산 결과를 비교할 때는 개별 고유벡터가 아니라 고유공간(부분공간) 을 비교해야 한다.
고유값이 완전히 같지 않고 아주 가깝기만 해도 같은 일이 벌어진다. 이때 고유값 자체는 안정적으로 계산되지만 고유벡터는 미세한 섭동에 크게 흔들린다 — 두 고유값의 간격이 좁을수록 두 고유벡터가 섞이기 쉽기 때문이다.

고유값과 고유벡터의 조건수가 다르다는 것이 이 관찰의 정확한 표현이다. 실무에서 “고유값은 믿을 만한데 고유벡터가 이상하다”는 보고가 나오면 거의 언제나 근접한 고유값 쌍이 원인이다.

결손 — 자리가 채워지지 않을 때

축퇴가 있어도 대개는 고유공간의 차원이 중복도만큼 자라 준다. 그렇지 않은 경우가 결손이다.

\underbrace{\begin{bmatrix} 0 & 0 & 1 \\ 0 & 1 & 0 \\ 1 & 0 & 0\end{bmatrix}}_{\text{축퇴, 결손 없음}} \qquad\qquad \underbrace{\begin{bmatrix} 1 & 1 \\ 0 & 1 \end{bmatrix}}_{\text{축퇴, 결손 } 1}

왼쪽은 Arfken의 예다. 특성 방정식이 $(\lambda^2 - 1)(1 - \lambda) = 0$ 이라 $\lambda = 1, 1, -1$ 이고, $\lambda = 1$ 에서 남는 조건은 $-c_1 + c_3 = 0$ 한 줄뿐이라 고유공간이 2차원이다 ( $c_1 = c_3$ , $c_2$ 자유). 직교하는 두 벡터로 $(1,0,1)$ 과 $(0,1,0)$ 을 고르면 된다. $\lambda = -1$ 의 고유벡터 $(1,0,-1)$ 까지 합치면 정규직교 고유기저가 완성된다.

오른쪽은 1절에서 본 전단 행렬이다. $\lambda = 1$ 이 두 번 겹치는데( $m = 2$ ) 고유공간은 직선 하나뿐이다( $g = 1$ ). 자리가 하나 비고, 그 결손을 메울 방법이 없다.

정리를 한 줄로 모으면

A \text{ 가 대각화 가능} \iff \text{모든 } \lambda \text{ 에 대해 } g_\lambda = m_\lambda \iff \sum_\lambda g_\lambda = n

직관

왜 결손이 생기는가. 전단 행렬을 다시 보자.

\begin{bmatrix} 1 & 1 \\ 0 & 1 \end{bmatrix} \begin{bmatrix} x \\ y \end{bmatrix} = \begin{bmatrix} x + y \\ y \end{bmatrix}

$y$ 는 그대로이고 $x$ 가 $y$ 만큼 밀린다. $y = 0$ 인 벡터만 제자리에 남고, 나머지는 전부 오른쪽으로 밀리므로 방향이 바뀐다. 불변 방향이 하나밖에 있을 수 없는 기하인 것이다.

같은 것을 대수로 보면, 이 행렬은 $I + N$ 이고 $N^2 = O$ 인 멱영 부분을 품고 있다. 멱영 부분은 고유값을 하나도 만들지 않으면서(고유값이 전부 0) 공간을 한 칸씩 미는 일만 한다. 결손 행렬은 언제나 “대각 부분 + 멱영 부분”으로 쪼개지고, 그 정리된 형태가 조르당 표준형이다.

착한 행렬에는 결손이 없다

정리해 두면 이렇다.

행렬의 종류	고유기저	정규직교로 고를 수 있나
실수 대칭 $S$	항상 존재	예 — $Q^{\mathsf{T}}SQ = D$
에르미트 $H$	항상 존재	예 — $U^{\dagger}HU = D$
유니터리·직교	항상 존재	예 (복소수 범위에서)
정규 (8절)	항상 존재	예
고유값이 전부 다른 행렬	항상 존재	아니오 (직교하지 않을 수 있다)
결손 행렬	없다	—

축퇴가 말해 주는 것 — 대칭

반도체에서 이 구조가 두 번 결정적으로 쓰인다.

실리콘 전도대의 여섯 골짜기. 다이아몬드 구조의 입방 대칭 때문에 $\Delta$ 축을 따라 놓인 여섯 골짜기가 정확히 같은 에너지를 갖는다. 대칭 연산이 골짜기들을 서로 옮기므로 에너지가 같을 수밖에 없다. 여기에 스트레인을 걸어 입방 대칭을 깨면 여섯이 둘과 넷으로 갈라지고, 전자가 유효질량이 작은 쪽 골짜기로 몰려 이동도가 올라간다 — 스트레인 실리콘의 원리가 이 축퇴 풀림이다.
가전자대 꼭대기. $\Gamma$ 점에서 무거운 정공과 가벼운 정공 밴드가 축퇴되어 있고, 스트레인이나 양자우물의 구속이 이 축퇴를 풀어 두 밴드를 갈라놓는다.

의문

축퇴가 있을 때 고유벡터를 “고를 수 있다”고 했는데, 물리적으로 아무 선택이나 해도 되는가?

계산의 정합성만 따지면 그렇다. 그러나 실제로는 다른 물리량이 그 자유도를 소진한다. 5절의 동시 대각화가 말하는 바가 이것이다 — $A$ 의 축퇴 부분공간 안에서, $A$ 와 교환하는 다른 관측량 $B$ 의 고유벡터가 되도록 고르면 선택이 좁혀진다. 대칭 연산의 고유값(기약 표현의 표지)이 그 $B$ 의 역할을 하는 것이 군론적 분류이고, 실험적으로는 축퇴를 푸는 섭동(스트레인·자기장·전기장)이 “자연이 고른 기저”를 지목해 준다.

그래서 축퇴 부분공간을 다룰 때는 대개 섭동을 먼저 켜고 극한을 취하는 순서로 계산한다. 섭동을 끄고 아무 기저나 고른 뒤 나중에 섭동을 켜면 답이 어긋난다 — 축퇴 섭동론이 별도의 장치를 갖는 이유가 이것이다.

이차 형식과 주축 변환

직관

지금까지 행렬은 벡터를 벡터로 보내는 물건이었다. 이 절에서는 행렬이 벡터에서 수 하나를 뽑는 물건으로 등장한다.

q(\mathbf{x}) = \mathbf{x}^{\mathsf{T}}A\mathbf{x}

에너지가 이 꼴이다 — 용수철의 $\tfrac12 kx^2$ , 운동에너지의 $\tfrac12 mv^2$ , 전기장의 에너지 밀도. 자유도가 여럿이면 교차항 $x_1x_2$ 가 끼어들고, 그 교차항이 “자유도들이 서로 얽혀 있다”는 뜻이다. 주축 변환은 좌표를 돌려 교차항을 전부 없애는 일이고, 그러면 얽혀 있던 에너지가 독립된 조각들의 합으로 분해된다.

기하로는 등고선 $q(\mathbf{x}) = c$ 의 축을 찾는 일이고, 물리로는 정규모드를 찾는 일이며, 대수로는 대칭 행렬을 직교 닮음으로 대각화하는 일이다. 셋이 같은 계산이다.

계수 행렬은 대칭으로 잡는다

q(\mathbf{x}) = \mathbf{x}^{\mathsf{T}}A\mathbf{x} = \sum_{j=1}^{n}\sum_{k=1}^{n} a_{jk}x_jx_k

$n^2$ 개 항의 합이다. 그런데 $x_jx_k = x_kx_j$ 이므로 $a_{jk}$ 와 $a_{kj}$ 는 합으로만 값에 기여한다. 그래서 계수 행렬은 유일하지 않다.

3x_1^2 + 10x_1x_2 + 2x_2^2 \;=\; \mathbf{x}^{\mathsf{T}}\begin{bmatrix} 3 & 4 \\ 6 & 2\end{bmatrix}\mathbf{x} \;=\; \mathbf{x}^{\mathsf{T}}\begin{bmatrix} 3 & 5 \\ 5 & 2\end{bmatrix}\mathbf{x}

$4 + 6 = 10$ 이든 $5 + 5 = 10$ 이든 값은 같다. 관례는 교차항을 반씩 나눠 대칭으로 만드는 것이고, 이유가 분명하다 — 대칭 행렬이라야 실수 고유값과 직교 고유기저를 쓸 수 있기 때문이다. 일반 $A$ 에서 대칭 부분만 값에 기여한다는 것은 4절에서 확인했다.

주축 정리

$A$ 가 실수 대칭이면 3절·6절에 의해 정규직교 고유기저가 존재한다. 그 고유벡터를 열로 세운 직교행렬 $Q$ 에 대해 $Q^{\mathsf{T}}AQ = D$ 이므로 $A = QDQ^{\mathsf{T}}$ 이고, $\mathbf{x} = Q\mathbf{y}$ 로 좌표를 바꾸면

q = \mathbf{x}^{\mathsf{T}}A\mathbf{x} = (Q\mathbf{y})^{\mathsf{T}}A(Q\mathbf{y}) = \mathbf{y}^{\mathsf{T}}\underbrace{Q^{\mathsf{T}}AQ}_{=\,D}\mathbf{y} = \lambda_1 y_1^2 + \lambda_2 y_2^2 + \cdots + \lambda_n y_n^2

교차항이 전부 사라졌다. 이것이 주축 정리이고, $Q$ 가 직교행렬이므로 좌표 변환은 회전 (또는 회전+반사)이다. 길이와 각도가 보존되니 도형의 모양이 바뀌지 않고 보는 각도만 바뀐다.

그림 1.3-6. 이차 형식 17x² − 30xy + 17y² = 128의 등고선. 원래 좌표에서는 xy 교차항 때문에 타원이 기울어져 있고 축을 읽을 수 없다. 고유벡터 방향으로 좌표축을 45° 돌리면 교차항이 사라져 2y₁² + 32y₂² = 128, 즉 반축이 8과 2인 표준형 타원이 된다. 등고선에 그은 법선이 언제나 고유벡터 방향과 나란해지는 두 방향이 곧 주축이다.직접 작도

예를 하나 끝까지 해 보자.

q = 17x_1^2 - 30x_1x_2 + 17x_2^2 = 128 \;\Longrightarrow\; A = \begin{bmatrix} 17 & -15 \\ -15 & 17\end{bmatrix}

$p_A(\lambda) = (17-\lambda)^2 - 225 = 0$ 에서 $17 - \lambda = \pm15$ , 즉 $\lambda = 2, 32$ 다. 따라서

2y_1^2 + 32y_2^2 = 128 \qquad\Longleftrightarrow\qquad \frac{y_1^2}{8^2} + \frac{y_2^2}{2^2} = 1

반축이 8과 2인 타원이다. 방향까지 알고 싶으면 고유벡터를 구한다 — $\lambda = 2$ 에서 $(1,1)/\sqrt2$ , $\lambda = 32$ 에서 $(1,-1)/\sqrt2$ 이므로 $45^\circ$ 회전이다. 2절의 탄성막과 같은 그림이 이차 형식의 언어로 다시 나온 것이다.

3차원도 다를 것이 없다.

x^2 + 6xy - 2y^2 - 2yz + z^2 = 24 \;\Longrightarrow\; A = \begin{bmatrix} 1 & 3 & 0 \\ 3 & -2 & -1 \\ 0 & -1 & 1\end{bmatrix}

특성 방정식 $-\lambda^3 + 13\lambda - 12 = 0$ 의 근은 $\lambda = 1, -4, 3$ 이고 ( $\operatorname{tr} A = 0 = 1 - 4 + 3$ , $\det A = -12 = 1 \cdot(-4)\cdot 3$ 으로 검산된다)

x'^2 - 4y'^2 + 3z'^2 = 24

부호가 둘은 양수, 하나는 음수이므로 일엽쌍곡면이다. 축의 방향을 몰라도 모양은 고유값의 부호만으로 결정된다는 점이 요점이다.

부호가 모양을 정한다

$n = 2$ 에서 $(\lambda_1, \lambda_2)$ 의 부호	$q = c > 0$ 의 모양
둘 다 양수	타원
부호가 다름	쌍곡선
하나가 0, 하나가 양수	평행한 두 직선
둘 다 음수	실수 해가 없다

이 표를 일반화한 것이 정부호성이다.

이름	조건	고유값
양의 정부호 (positive definite)	모든 $\mathbf{x} \neq \mathbf{0}$ 에서 $q > 0$	전부 $> 0$
양의 준정부호	모든 $\mathbf{x}$ 에서 $q \ge 0$	전부 $\ge 0$
부정부호 (indefinite)	$q$ 가 양·음의 값을 모두 가짐	부호가 섞여 있음
음의 정부호	모든 $\mathbf{x} \neq \mathbf{0}$ 에서 $q < 0$	전부 $< 0$

증명은 주축 정리 한 줄이다. $q = \sum_\mu \lambda_\mu y_\mu^2$ 이고 $y_\mu$ 는 무엇이든 될 수 있으므로, $q$ 의 부호는 $\lambda$ 들의 부호가 그대로 결정한다.

무엇이 정부호인가

직관

양의 정부호 = 진짜 최솟값이다. 퍼텐셜 에너지를 평형점 근처에서 테일러 전개하면 1차항이 사라지고(평형이므로) 2차항이 남는데, 그 2차항이 헤세 행렬을 계수로 하는 이차 형식이다.

V(\mathbf{x}) \approx V_0 + \tfrac12 \mathbf{x}^{\mathsf{T}}H\mathbf{x}, \qquad H_{jk} = \frac{\partial^2 V}{\partial x_j \partial x_k}

$H$ 가 양의 정부호면 어느 방향으로 밀어도 에너지가 올라가므로 안정 평형이고, 부정부호면 어떤 방향으로는 에너지가 내려가므로 안장점이다. 2절의 정규모드에서 $\omega^2 > 0$ 이 나온 것이 이 조건과 같은 이야기다 — $H$ 의 고유값이 음수이면 $\omega$ 가 허수가 되어 지수적으로 달아난다.

헤세 행렬이 대칭인 것도 우연이 아니다. 편미분의 순서를 바꿔도 같다는 정리(1.1)가 곧 $H_{jk} = H_{kj}$ 이고, 그래서 퍼텐셜에서 나오는 이차 형식에는 언제나 주축이 존재한다.

물리·공학에서 나오는 정부호 행렬의 목록이 길다.

관성 텐서 — 회전 운동에너지 $\tfrac12\boldsymbol{\omega}^{\mathsf{T}}I\boldsymbol{\omega}$ 가 양수여야 하므로 양의 정부호. 주관성모멘트가 전부 양수인 이유다.
강성행렬 — 변형에 에너지가 들어야 하므로 양의 준정부호. 구속되지 않은 강체 운동 방향에서 0이 되고, 그것이 2절의 $\lambda = 0$ 모드였다.
겹침 행렬 $S_{\mu\nu} = \langle\chi_\mu, \chi_\nu\rangle$ — 임의의 함수의 노름 제곱이 $\mathbf{b}^{\dagger}S\mathbf{b}$ 로 적히므로 양의 정부호다(Arfken). 기저가 선형 종속이 되는 순간 고유값이 0으로 떨어지므로, $S$ 의 최소 고유값이 기저의 건강 상태를 재는 눈금이 된다.
공분산 행렬 — 임의의 선형 결합의 분산이 $\mathbf{a}^{\mathsf{T}}\Sigma\mathbf{a} \ge 0$ 이므로 양의 준정부호. 주성분 분석이 이 행렬의 주축 변환이고, 계측 데이터 분석(1.12·19부)에서 쓰인다.

반도체 쪽에서는 유효질량 텐서가 그대로 이 이야기다. 밴드 끝에서

E(\mathbf{k}) - E_0 = \frac{\hbar^2}{2}\,\mathbf{k}^{\mathsf{T}}\big(m^{*}\big)^{-1}\mathbf{k}

이고, 전도대 최소점에서는 $(m^{*})^{-1}$ 이 양의 정부호라 등에너지면이 타원체다. 실리콘에서 고유값이 $1/m_t,\ 1/m_t,\ 1/m_\ell$ 로 두 개가 같아(축퇴) 회전타원체가 되고, 긴 축이 골짜기 방향을 향한다. 가전자대 꼭대기에서는 부호가 뒤집혀 음의 정부호가 되고, 그래서 정공을 도입해 부호를 되돌린다. 등에너지면의 모양을 읽는 일이 곧 주축 변환이다.

레일리 몫 — 고유값의 변분적 성격

이차 형식을 길이로 나눈 양

R(\mathbf{x}) = \frac{\mathbf{x}^{\mathsf{T}}A\mathbf{x}}{\mathbf{x}^{\mathsf{T}}\mathbf{x}}

을 레일리 몫이라 한다. 4절에서 $\mathbf{x}$ 가 고유벡터일 때 이 값이 $\lambda$ 였다. 고유벡터가 아닐 때는 어떤 값이 될까.

$\mathbf{x} = \sum_\mu c_\mu \mathbf{q}_\mu$ 로 정규직교 고유기저에 전개하면

R(\mathbf{x}) = \frac{\sum_\mu \lambda_\mu \lvert c_\mu\rvert^2}{\sum_\mu \lvert c_\mu\rvert^2}

— 고유값들의 가중 평균이고, 가중치가 전부 음이 아니다. 따라서

\lambda_{\min} \le R(\mathbf{x}) \le \lambda_{\max}

이고, 등호는 $\mathbf{x}$ 가 해당 고유벡터일 때만 성립한다.

직관

이 부등식이 실용적으로 강력하다. 아무 시험 벡터나 넣어도 최소 고유값의 상한이 나온다. 그러니 시험 벡터를 이리저리 바꿔 가며 $R$ 을 최소화하면 $\lambda_{\min}$ 에 위에서부터 다가갈 수 있다. 이것이 변분법이고, 양자역학의 바닥상태 에너지 계산과 유한요소법의 근사가 전부 이 원리 위에 있다.

두 가지가 더 따라온다. 첫째, $R$ 의 값은 고유벡터 근처에서 2차로 정확하다 — 고유벡터를 $\varepsilon$ 만큼 틀리게 잡아도 고유값은 $\varepsilon^2$ 만큼만 틀린다. 어설픈 파동함수로도 에너지는 꽤 맞는 이유가 이것이다. 둘째, 이 성질을 뒤집어 반복 과정에서 고유값 추정치를 갱신하는 데 쓴다(레일리 몫 반복). 자세한 것은 1.14에서 다룬다.

9절에서 같은 부등식이 기댓값의 언어로 다시 나온다 — 측정값의 평균은 가능한 측정값들의 최솟값과 최댓값 사이에 있다는, 다시 보면 당연한 문장이다.

정규 행렬

정의와 예

$[A, A^{\dagger}] = AA^{\dagger} - A^{\dagger}A = O$ 인 행렬을 정규 행렬(normal matrix)이라 한다. 에르미트( $A^{\dagger} = A$ ), 반에르미트( $A^{\dagger} = -A$ ), 유니터리( $A^{\dagger} = A^{-1}$ )가 모두 정규이고, 실수판인 대칭·반대칭·직교도 마찬가지다.

셋 중 어느 것도 아닌 정규 행렬이 있다.

A = \begin{bmatrix} 1 & 1 \\ -1 & 1\end{bmatrix}, \qquad A^{\dagger} = \begin{bmatrix} 1 & -1 \\ 1 & 1\end{bmatrix}, \qquad AA^{\dagger} = A^{\dagger}A = 2I

대각 성분이 실수라 반에르미트가 아니고, $a_{12} \neq \overline{a_{21}}$ 이라 에르미트도 아니며, $A^{\dagger}A = 2I \neq I$ 이라 유니터리도 아니다. 정체는 $\sqrt2 \times$ ( $45^\circ$ 회전)이다 — 유니터리 행렬의 스칼라배는 정규이지만 유니터리가 아니다. 고유값은 $\lambda = 1 \pm i = \sqrt2\,e^{\pm i\pi/4}$ 로, 실축에도 허축에도 단위원에도 놓이지 않는다.

그림 1.3-7. 행렬의 종류와 포함 관계. 정규 행렬은 유니터리 닮음으로 대각화되는 행렬 전체와 정확히 일치하고, 그 안에 에르미트·반에르미트·유니터리가 서로 겹치며 들어앉는다. 그 바깥에도 대각화되는 행렬이 있지만(고유벡터가 독립이기만 하면 된다) 고유벡터가 직교하지는 않는다. 가장 바깥의 결손 행렬은 고유벡터가 모자라 어떤 방법으로도 대각화되지 않는다. 안쪽으로 갈수록 조건이 세지고, 그만큼 얻는 것이 많다.직접 작도

정규 $\iff$ 유니터리 대각화

정리. $A$ 가 유니터리 닮음으로 대각화되는 것과 $A$ 가 정규인 것은 동치다.

(⇒) $U^{\dagger}AU = D$ 이면 $A = UDU^{\dagger}$ 이고 $A^{\dagger} = UD^{\dagger}U^{\dagger}$ 이므로

AA^{\dagger} = UDD^{\dagger}U^{\dagger}, \qquad A^{\dagger}A = UD^{\dagger}DU^{\dagger}

대각행렬끼리는 언제나 교환하므로( $DD^{\dagger} = D^{\dagger}D$ — 성분별 곱이다) 두 식이 같다.

(⇐) 두 단계다.

단계 1: 정규 행렬과 그 켤레전치는 고유벡터를 공유한다. $A\mathbf{x} = \lambda\mathbf{x}$ , 즉 $(A - \lambda I)\mathbf{x} = \mathbf{0}$ 이라 하자. 왼쪽에서 $\mathbf{x}^{\dagger}(A^{\dagger} - \bar\lambda I)$ 를 곱하면

\mathbf{x}^{\dagger}(A^{\dagger} - \bar\lambda I)(A - \lambda I)\mathbf{x} = 0

여기서 $A - \lambda I$ 도 정규라는 사실을 쓴다(직접 전개하면 확인된다). 그러면 두 괄호를 바꿔 쓸 수 있고

\mathbf{x}^{\dagger}(A - \lambda I)(A^{\dagger} - \bar\lambda I)\mathbf{x} = 0 \;\Longrightarrow\; \big\lVert (A^{\dagger} - \bar\lambda I)\mathbf{x}\big\rVert^2 = 0

노름이 0이면 벡터가 0이므로 $A^{\dagger}\mathbf{x} = \bar\lambda\mathbf{x}$ . 같은 $\mathbf{x}$ 가 $A^{\dagger}$ 의 고유벡터이고, 고유값은 켤레다.

단계 2: 서로 다른 고유값의 고유벡터는 직교한다. 3절과 같은 계산인데, 이번에는 단계 1의 결과를 쓴다.

\lambda_\mu\,\langle \mathbf{x}_\nu, \mathbf{x}_\mu\rangle = \langle \mathbf{x}_\nu, A\mathbf{x}_\mu\rangle = \langle A^{\dagger}\mathbf{x}_\nu, \mathbf{x}_\mu\rangle = \overline{\bar\lambda_\nu}\,\langle \mathbf{x}_\nu, \mathbf{x}_\mu\rangle = \lambda_\nu\,\langle \mathbf{x}_\nu, \mathbf{x}_\mu\rangle

따라서 $(\lambda_\mu - \lambda_\nu)\langle\mathbf{x}_\nu, \mathbf{x}_\mu\rangle = 0$ 이고, 고유값이 다르면 직교한다. 축퇴가 있는 자리에서는 6절처럼 고유공간 안에서 직교기저를 고르면 된다. 정규직교 고유벡터를 열로 세우면 그 행렬이 유니터리다. $\blacksquare$

곧바로 따라오는 것들

단계 1의 “ $A\mathbf{x} = \lambda\mathbf{x}$ 이면 $A^{\dagger}\mathbf{x} = \bar\lambda\mathbf{x}$ ” 에 각 조건을 대입하면 4절의 정리들이 한 줄씩 재생산된다.

에르미트 $A^{\dagger} = A$ : $\lambda\mathbf{x} = \bar\lambda\mathbf{x}$ 이므로 $\lambda = \bar\lambda$ — 실수.
반에르미트 $A^{\dagger} = -A$ : $-\lambda = \bar\lambda$ — 순허수 또는 0.
유니터리 $A^{\dagger} = A^{-1}$ : $A^{-1}\mathbf{x} = \lambda^{-1}\mathbf{x}$ 이므로 $\bar\lambda = 1/\lambda$ , 즉 $\lvert\lambda\rvert^2 = 1$ — 크기 1.

세 번 따로 했던 증명이 하나로 합쳐졌다. 4절의 그림(고유값이 놓이는 자리)이 이제 완성된다 — 정규 행렬의 고유값은 평면 어디에나 놓일 수 있고, 세 특수한 경우가 각각 실축·허축·단위원으로 제한되는 것이다.

유니터리 행렬을 대각화해 보기

Arfken의 예가 여러 성질을 한 번에 보여 준다. 순환 치환 행렬

U = \begin{bmatrix} 0 & 0 & 1 \\ 1 & 0 & 0 \\ 0 & 1 & 0 \end{bmatrix}

은 $\mathbf{e}_1 \to \mathbf{e}_2 \to \mathbf{e}_3 \to \mathbf{e}_1$ 로 축을 돌린다. 열이 정규직교이므로 유니터리(실수이므로 직교)다.

\det(U - \lambda I) = -\lambda^3 + 1 = 0 \;\Longrightarrow\; \lambda^3 = 1

고유값은 $1,\ \omega,\ \omega^2$ 이고 $\omega = e^{2\pi i/3}$ 이다. 셋 다 단위원 위에 있고 ( $\lvert\lambda\rvert = 1$ ), 합이 $1 + \omega + \omega^2 = 0 = \operatorname{tr} U$ 이며, 곱이 $\omega^3 = 1 = \det U$ 다. 정리 셋이 동시에 확인된다. 고유벡터는

\lambda = 1: \begin{bmatrix} 1 \\ 1 \\ 1\end{bmatrix}, \qquad \lambda = \omega: \begin{bmatrix} 1 \\ \bar\omega \\ \omega\end{bmatrix}, \qquad \lambda = \omega^2: \begin{bmatrix} 1 \\ \omega \\ \bar\omega\end{bmatrix}

직관

읽는 법이 재미있다. $\lambda = 1$ 의 고유벡터 $(1,1,1)$ 은 변환에 꿈쩍하지 않으므로 회전축 이다. 3절의 방법으로 각을 구하면 $\operatorname{tr}U = 0 = 1 + 2\cos\theta$ 에서 $\theta = 120^\circ$ . 그리고 그 $120^\circ$ 가 $\omega = e^{2\pi i/3}$ 의 편각으로 이미 적혀 있다. 복소 고유값의 편각이 회전각이라는 3절의 관찰이 여기서 눈으로 확인된다.

나머지 두 고유벡터는 복소수라 실공간의 방향을 가리키지 않는다. 그러나 변환 아래에서 “방향이 유지되고 위상만 도는” 조합이라는 뜻은 그대로다. 결정의 3회 회전 대칭 아래에서 $(1, \bar\omega, \omega)$ 처럼 원자 변위를 조합해 만드는 것이 대칭 좌표이고, 격자 진동의 모드를 대칭에 따라 분류하는 표준 수법이 이것이다.

비정규 행렬 — 왼쪽과 오른쪽이 갈린다

2절의 삼원자 분자로 돌아가자. 질량을 나눠 얻은 행렬

A = \begin{bmatrix} 1 & -1 & 0 \\ -\tfrac{m}{M} & \tfrac{2m}{M} & -\tfrac{m}{M} \\ 0 & -1 & 1 \end{bmatrix}

은 대칭이 아니고, $AA^{\mathsf{T}} \neq A^{\mathsf{T}}A$ 이므로 정규도 아니다. 그래서 고유벡터가 정규직교계를 이루지 못했다. 이때 무엇으로 대신하는지가 이 항목의 요점이다.

$A^{\mathsf{T}}$ 의 고유벡터, 즉 왼쪽 고유벡터를 구해 보면

\lambda = 0: (1,\ \tfrac{M}{m},\ 1), \qquad \lambda = 1: (1,\ 0,\ -1), \qquad \lambda = 1 + \tfrac{2m}{M}: (1,\ -2,\ 1)

오른쪽 고유벡터 $(1,1,1)$ , $(1,0,-1)$ , $(1, -2m/M, 1)$ 과 비교하면 두 개가 다르다. 그런데 서로 다른 고유값끼리 짝지어 내적을 취하면 언제나 0이다. 예컨대

(1,\ \tfrac{M}{m},\ 1)\cdot(1,\ -\tfrac{2m}{M},\ 1) = 1 - 2 + 1 = 0

이것을 쌍직교성(biorthogonality)이라 한다. 오른쪽 고유벡터끼리는 직교하지 않지만, 왼쪽과 오른쪽을 교차로 짝지으면 직교한다 — 정규 행렬에서 왼쪽과 오른쪽이 일치해 하나로 보이던 것이, 비정규에서 두 벌로 갈라진 것이다.

직관

이 예에서 왼쪽 고유벡터의 정체가 뚜렷하다. 오른쪽 고유벡터에 질량행렬을 곱한 것이다. 질량행렬을 $\mathsf{M} = \operatorname{diag}(m,\ M,\ m)$ 이라 쓰면 $\mathsf{M}(1,1,1)^{\mathsf{T}} \propto (1,\ M/m,\ 1)^{\mathsf{T}}$ , $\mathsf{M}(1,-2m/M,1)^{\mathsf{T}} \propto (1,\ -2,\ 1)^{\mathsf{T}}$ 로 세 개가 모두 맞아떨어진다. 그래서 쌍직교성의 정체는

\mathbf{x}_\mu^{\mathsf{T}}\, \mathsf{M}\, \mathbf{x}_\nu = 0 \qquad (\mu \neq \nu)

즉 질량행렬을 저울로 삼은 직교성이다. 일반화 고유값 문제 $K\mathbf{x} = \lambda \mathsf{M}\mathbf{x}$ 에서 $K$ 와 $\mathsf{M}$ 이 대칭이고 $\mathsf{M}$ 이 양의 정부호면 언제나 이 관계가 성립한다.

2절에서 좌표를 $\mathsf{M}^{1/2}\mathbf{x}$ 로 바꿔 대칭성을 회복했던 것과 같은 이야기다 — 새 좌표에서 보통의 직교성이 되는 것이, 원래 좌표에서는 $\mathsf{M}$ 을 낀 직교성으로 보인다. 비정규로 보이던 것이 사실은 “저울을 잘못 들고 봤을 뿐”인 경우가 물리에서는 대단히 흔하고, 유한요소법의 모드 중첩법이 정확히 이 $M$ -직교성 위에서 돌아간다.

정규가 아니면 무엇이 나빠지는가

주의

비정규성은 수치적으로 실제 비용을 물린다.

① 고유값이 섭동에 민감해진다. 고유벡터 행렬 $X$ 가 직교에서 멀어질수록 $X$ 의 조건수 $\kappa(X)$ 가 커지고, 행렬 성분의 오차 $\varepsilon$ 이 고유값에서 $\kappa(X)\,\varepsilon$ 규모로 증폭될 수 있다. 정규 행렬은 $X$ 를 유니터리로 잡을 수 있어 $\kappa = 1$ 이고, 그래서 고유값이 성분 오차만큼만 움직인다 — 정규 행렬의 고유값 문제는 언제나 잘 조건화되어 있다.

② 고유값이 다 음수인데도 일시적으로 커질 수 있다. $\dot{\mathbf{y}} = A\mathbf{y}$ 에서 모든 $\operatorname{Re}\lambda < 0$ 이면 $t \to \infty$ 에서 해가 0으로 간다. 그러나 비정규 행렬에서는 가는 도중에 $\lVert\mathbf{y}\rVert$ 가 초기값의 몇 배로 부풀었다가 내려올 수 있다. 고유벡터들이 거의 평행해서, 서로 지워지도록 놓인 큰 성분들의 감쇠 속도가 조금씩 다르면 그 상쇄가 잠깐 풀리기 때문이다. 정규 행렬에서는 고유벡터가 직교라 이런 일이 원리적으로 일어나지 않는다.

③ 고유값만으로는 행동을 다 설명하지 못한다. ②의 결과로, 비정규 계에서는 “고유값이 다 안정 영역에 있다”가 “작은 교란이 커지지 않는다”를 함의하지 않는다. 이 간극을 다루려고 고유값 대신 의사스펙트럼(행렬을 $\varepsilon$ 만큼 흔들었을 때 고유값이 갈 수 있는 영역)을 보는 방법이 쓰인다.

소자 시뮬레이션에서 이 셋이 함께 나타난다. 드리프트–확산 방정식을 이산화하면 드리프트 항이 비대칭 기여를 만들어 야코비 행렬이 비정규가 되고, 격자가 거칠어 셀 페클레 수가 커질수록 비대칭성이 심해진다. 상류 차분(upwind)이나 슈아펫터–구멜 이산화를 쓰는 이유 중 하나가 이 비정규성을 다스리는 것이다. 자세한 것은 1.14와 20부에서 다룬다.

대각화 가능성의 전체 지도

이 절까지의 결과를 안쪽에서 바깥으로 정리하면 이렇게 된다.

조건	대각화	고유기저	대표
에르미트 · 반에르미트 · 유니터리	$U^{\dagger}AU = D$	정규직교	$H$ , $U$ , 실수 대칭·직교
정규 $[A, A^{\dagger}] = 0$	$U^{\dagger}AU = D$	정규직교	위 전부 + 그 스칼라배 등
결손 없음 ( $g_\lambda = m_\lambda$ )	$X^{-1}AX = D$	독립이지만 비직교 가능	고유값이 전부 다른 행렬
결손 있음 ( $\Delta_\lambda > 0$ )	불가능	개수가 모자람	$\begin{bmatrix}1&1\\0&1\end{bmatrix}$

가장 아래 줄에도 갈 곳은 있다. 대각까지는 못 가도 조르당 표준형(대각 블록에 1이 얹힌 꼴) 까지는 모든 행렬이 간다. 그리고 대각화를 포기하는 대신 다른 분해를 쓰는 길도 있다 — 정사각이 아니어도, 결손이 있어도 언제나 존재하는 특잇값 분해 $A = U\Sigma V^{\dagger}$ 가 그것이다. $A^{\dagger}A$ 가 언제나 에르미트라는 사실 위에 세워지므로 이 장의 정리가 그대로 재료가 되고, 자세한 것은 1.14에서 다룬다.

자체 수반 연산자와 스펙트럼 정리

자체 수반 연산자

1.2.6선형 변환에서 수반 연산자를

\langle f, Ag\rangle = \langle A^{\dagger}f, g\rangle \quad (\text{모든 } f, g\text{ 에 대해})

로 정의했고, 정규직교기저에서 그 행렬 원소가 켤레전치라는 것도 확인했다. $A^{\dagger} = A$ 이면 자체 수반(self-adjoint) 또는 에르미트 연산자다.

(A^{\dagger})_{\nu\mu} = \overline{a_{\mu\nu}} \qquad\Longrightarrow\qquad \textbf{에르미트 연산자의 행렬은 에르미트 행렬}

특히 대각 원소 $a_{\mu\mu} = \langle\phi_\mu, A\phi_\mu\rangle$ 가 실수다.

Arfken의 예로 위치와 운동량 연산자를 확인해 보자. 내적은 $\langle f, g\rangle = \int_{-\infty}^{\infty} \overline{f}g\,dx$ 다.

위치 $x$ . $\int \overline{f}\,(xg)\,dx$ 와 $\int \overline{(xf)}\,g\,dx$ 를 비교한다. $x$ 가 실수이고 곱의 순서를 바꿔도 되므로 두 적분이 같다 — 자체 수반이다.

운동량 $p = -i\,d/dx$ . 부분적분이 필요하다.

\int_{-\infty}^{\infty} \overline{f}\Big(-i\frac{dg}{dx}\Big)dx = \underbrace{\Big[-i\,\overline{f}g\Big]_{-\infty}^{\infty}}_{\text{경계항}} + \int_{-\infty}^{\infty} \overline{\Big(-i\frac{df}{dx}\Big)}\,g\,dx

부분적분에서 나온 $-$ 부호와, $i$ 를 켤레 안으로 넣을 때 생기는 $-$ 부호가 서로 상쇄된다. 그래서 경계항만 사라지면 자체 수반이다. 제곱적분 가능한 함수는 무한대에서 0으로 가므로 경계항이 사라진다.

주의

$p$ 안의 $i$ 는 장식이 아니다. 만약 $p = d/dx$ 였다면 부분적분의 $-$ 부호를 상쇄할 것이 없어 $p^{\dagger} = -p$ — 자체 수반이 아니라 반에르미트가 된다. 그러면 고유값이 순허수가 되어 운동량이 실수로 나오지 않는다. $-i$ 라는 인수는 미분 연산자를 관측량으로 만들기 위한 필수품이다.

더 중요한 함정은 그다음이다. 자체 수반성은 연산자만 보고 판정할 수 없다 — 내적과 정의역까지 함께 봐야 한다. 같은 $-i\,d/dx$ 를 유한 구간 $[-1, 1]$ 에서 보면 경계항

\Big[-i\,\overline{f}g\Big]_{-1}^{1}

이 일반적으로 사라지지 않아 자체 수반이 아니다. 경계항이 사라지도록 경계조건을 고르는 것이 자체 수반성의 나머지 절반이고, 이 관찰이 1.6 스투름–리우빌 이론의 출발점이다. 유한 차원 행렬에서는 이런 미묘함이 없어 보이지만, 그때도 “내적이 무엇인가”에 따라 수반이 달라지는 것은 마찬가지다 — 8절의 $\mathsf{M}$ -직교성이 그 예였다.

수반 연산자를 다루는 요령 두 가지를 적어 둔다.

① 자체 수반 연산자의 곱은 대개 자체 수반이 아니다. $A^{\dagger} = A$ , $B^{\dagger} = B$ 일 때

\langle f, AB\,g\rangle = \langle Af, Bg\rangle = \langle BAf, g\rangle \;\Longrightarrow\; (AB)^{\dagger} = BA

따라서 $AB$ 가 자체 수반일 필요충분조건은 $AB = BA$ , 즉 교환하는 것이다. 5절의 동시 대각화 정리와 같은 조건이 여기서 다시 나온다.

② 아무 연산자나 두 에르미트 연산자로 쪼갤 수 있다. $A + A^{\dagger}$ 와 $i(A - A^{\dagger})$ 는 언제나 에르미트이므로

A = \tfrac12\big(A + A^{\dagger}\big) + \tfrac{1}{2i}\cdot i\big(A - A^{\dagger}\big)

복소수를 실수부와 허수부로 쪼개는 것의 연산자판이다(3절의 대칭+반대칭 분해가 실수판이었다). 그래서 $AB - BA = iC$ 일 때 $C$ 가 에르미트라는 사실도 따라 나오고, 이것이 교환자에 붙는 $i$ 의 정체다 — 두 관측량의 교환자는 그 자체로는 반에르미트라서, $i$ 를 곱해야 다시 관측량이 된다.

스펙트럼 분해

에르미트 연산자에는 정규직교 고유기저 $\{\mathbf{c}_\mu\}$ 가 있다(4·6·8절). 그 기저에서 $H$ 는 대각이므로, 1.2에서 본 항등원 분해 $I = \sum_\mu \lvert\mathbf{c}_\mu\rangle\langle\mathbf{c}_\mu\rvert$ 를 양쪽에 끼우면 대각 항만 살아남는다.

\boxed{\; H = \sum_\mu \lvert \mathbf{c}_\mu\rangle\,\lambda_\mu\,\langle \mathbf{c}_\mu\rvert \;}

이것이 스펙트럼 분해다. 검산은 한 줄 — 임의의 $\mathbf{c}_\nu$ 에 적용하면 $\langle\mathbf{c}_\mu, \mathbf{c}_\nu\rangle = \delta_{\mu\nu}$ 때문에 $\mu = \nu$ 항만 남아 $\lambda_\nu\mathbf{c}_\nu$ 가 나온다.

$P_\mu = \lvert\mathbf{c}_\mu\rangle\langle\mathbf{c}_\mu\rvert$ 를 $\mathbf{c}_\mu$ 방향으로의 사영 연산자라 한다. 세 성질이 정의를 그대로 옮긴 것이다.

P_\mu^{\dagger} = P_\mu, \qquad P_\mu P_\nu = \delta_{\mu\nu}P_\mu, \qquad \sum_\mu P_\mu = I

직관

스펙트럼 분해를 말로 옮기면 “에르미트 연산자는 서로 수직인 방향들로의 사영에 고유값을 가중해 더한 것” 이다. 행렬을 성분의 배열이 아니라 방향과 배율의 목록으로 보는 관점이고, 이 관점에서 행렬의 함수가 자명해진다.

$H\mathbf{c}_\mu = \lambda_\mu\mathbf{c}_\mu$ 의 양변에 $H$ 를 곱하면 $H^2\mathbf{c}_\mu = \lambda_\mu^2\mathbf{c}_\mu$ 이므로 $H$ 의 모든 거듭제곱이 같은 고유벡터를 갖고, 따라서 급수로 정의되는 임의의 함수에 대해

f(H) = \sum_\mu \lvert\mathbf{c}_\mu\rangle\, f(\lambda_\mu)\,\langle\mathbf{c}_\mu\rvert

5절의 $f(A) = Xf(D)X^{-1}$ 을 기저 없이 적은 것이다. $H$ 가 특이하지 않으면 음의 거듭제곱까지 포함되어 $H^{-1}$ 의 고유값이 $1/\lambda_\mu$ 가 되고, 시간 발전 연산자 $e^{-iHt/\hbar}$ 도 이 한 줄로 정의된다. 그 연산자가 유니터리인 이유도 여기서 보인다 — $\lambda_\mu$ 가 실수이므로 $\lvert e^{-i\lambda_\mu t/\hbar}\rvert = 1$ 이고, 8절에 의해 고유값의 크기가 전부 1인 정규 행렬은 유니터리다.

축퇴가 있으면 사영을 고유공간 단위로 묶는다.

H = \sum_{\lambda \in \sigma(H)} \lambda\,P_\lambda, \qquad P_\lambda = \sum_{\mu \,\in\, E_\lambda} \lvert\mathbf{c}_\mu\rangle\langle\mathbf{c}_\mu\rvert

이렇게 적으면 6절에서 문제가 되었던 기저 선택의 자유가 사라진다. 고유공간 안에서 어떤 직교기저를 골라도 $P_\lambda$ 는 같은 연산자이기 때문이다. 축퇴가 있을 때 개별 고유벡터가 아니라 고유공간을 비교해야 한다고 했던 이유가 여기서 수식으로 확인된다.

기댓값 — 고유값의 가중 평균

정규화된 상태 $\psi = \sum_\mu a_\mu \mathbf{c}_\mu$ 에 대해

\langle H\rangle = \langle \psi, H\psi\rangle = \sum_\mu \lvert a_\mu\rvert^2 \lambda_\mu, \qquad \sum_\mu \lvert a_\mu\rvert^2 = 1

가중치가 음이 아니고 합이 1이므로 기댓값은 고유값들의 가중 평균이다. 따라서

\lambda_{\min} \le \langle H\rangle \le \lambda_{\max}

7절의 레일리 몫 부등식과 같은 식이고, 이번에는 물리적 해석이 붙는다 — 측정하면 고유값 중 하나가 나오고, 그 확률이 $\lvert a_\mu\rvert^2$ 이며, 평균이 기댓값이다. 4절에서 $\lambda = \mathbf{x}^{\dagger}A\mathbf{x}/\mathbf{x}^{\dagger}\mathbf{x}$ 로 시작했던 양이 여기서 이름을 얻는다.

바닥상태 에너지가 유한한 하한을 갖는다는 것도 이 부등식이다. 어떤 시험 파동함수를 넣어도 $\langle H\rangle \ge E_0$ 이므로, 시험 함수를 개선해 가며 최소화하면 $E_0$ 에 위에서부터 다가간다 — 변분법이 정당한 이유다.

양의 정부호와 특이

7절의 정부호성이 연산자 언어로 그대로 올라온다.

모든 고유값이 양수 $\iff$ 모든 $\psi \neq 0$ 에서 $\langle\psi, A\psi\rangle > 0$ — 양의 정부호.
고유값 0의 개수 $= n - \operatorname{rank} A$ (에르미트라 결손이 없으므로 대수적 중복도와 기하적 중복도가 같다). 그래서 0 고유값의 개수가 선형 종속의 정도를 잰다.

두 번째가 실무에서 요긴하다. 겹침 행렬 $S_{\mu\nu} = \langle\chi_\mu, \chi_\nu\rangle$ 의 고유값이 0에 가까워지면 그 기저는 사실상 종속이고, 그대로 밀고 나가면 1.2.4역행렬의 조건수 문제가 터진다. 그래서 양자화학·밴드 계산의 표준 절차가 $S$ 를 먼저 대각화해 작은 고유값을 걸러 내는 것이다.

무한 차원으로

의문

유한 차원의 정리가 무한 차원에서도 그대로 성립하는가? 대부분은 그렇고, 두 군데가 다르다.

① 완비성이 정리가 아니라 요구가 된다. 유한 차원에서 “고유벡터가 공간을 채운다”는 것은 개수를 세어 증명했다. 무한 차원에서는 셀 수가 없어서, 고유함수 집합이 완비인지가 따로 증명해야 할 정리가 된다. 그 증명을 특정 꼴의 미분 연산자에 대해 해내는 것이 1.6의 스투름–리우빌 이론이고, 결과로 푸리에 급수·르장드르 급수·베셀 급수의 전개 가능성이 나온다.

② 스펙트럼이 연속일 수 있다. 유한 차원의 스펙트럼은 언제나 유한 개의 점이다. 무한 차원에서는 고유값이 구간 전체를 채울 수 있고, 그때는 합 $\sum_\mu$ 가 적분 $\int d\lambda$ 로 바뀐다. 우물 안의 속박 상태는 이산 스펙트럼, 우물 밖의 산란 상태는 연속 스펙트럼 — 반도체로 옮기면 양자우물의 속박 준위가 이산, 밴드 안의 상태가 연속이다. 유한한 결정에서 상태 수가 유한하지만 워낙 많아 사실상 연속으로 다루는 것도 같은 이야기다.

두 차이를 빼면 나머지는 그대로다. 고유값은 실수, 서로 다른 고유값의 고유함수는 직교, 임의의 상태는 고유함수로 전개, 기댓값은 가중 평균.

이 장이 반도체에서 다시 나오는 곳

마지막으로 목적지를 적어 둔다.

밴드 구조. 주기 퍼텐셜 속의 슈뢰딩거 방정식을 평면파 기저로 전개하면 각 $\mathbf{k}$ 마다 하나씩 에르미트 행렬 고유값 문제가 생기고, 그 고유값이 밴드 $E_n(\mathbf{k})$ 다. 해밀토니안이 격자 병진과 교환하므로 동시 대각화가 가능하고(5절), 그 공통 고유상태가 블로흐 상태다.
$k \cdot p$ 방법. 밴드 끝 근처에서 몇 개의 밴드만 남긴 작은 에르미트 행렬을 세우고 대각화한다. 가전자대의 축퇴(6절)를 다루는 것이 이 방법의 핵심이고, 얻는 결과가 유효질량 텐서(7절)다.
격자 진동. 동역학 행렬을 질량 가중 좌표에서 세우면 에르미트가 되고(2절), 그 고유값의 제곱근이 포논 진동수, 고유벡터가 진동 모드다. $\mathbf{q} \to 0$ 에서 0으로 가는 분지가 음향 포논이다.
소자 시뮬레이션. 포아송·연속 방정식을 이산화한 야코비 행렬의 고유값이 반복법의 수렴과 시간 적분의 안정성을 결정한다. 이 행렬이 비정규라는 사실이 8절에서 말한 비용을 물린다.
계측 데이터. 공분산 행렬의 주축 변환(주성분 분석)이 다변량 공정 데이터의 표준 처리다.

전부 같은 한 줄 $A\mathbf{x} = \lambda\mathbf{x}$ 이고, 달라지는 것은 $A$ 가 무엇이냐뿐이다.