1부 수학 기초 1.6

Sturm–Liouville 이론

1.3은 두 개의 빚을 남기고 끝났다. 유한 차원에서는 개수를 세어 증명했던 완비성이 무한 차원에서는 따로 증명해야 할 정리가 된다는 것이 하나였고, 미분 연산자의 자체 수반성은 연산자만 보고 판정할 수 없다 — 경계조건까지 함께 봐야 한다 — 는 것이 다른 하나였다. 이 장이 그 두 빚을 갚는다.

1.5도 빚을 하나 남겼다. 르장드르·베셀·에르미트·라게르를 급수법으로 한 줄씩 따로 만들어 냈는데, 만들고 보니 전부 직교했다. 우연일 리가 없다. 이 장이 그 이유를 댄다 — 넷 다 같은 꼴의 고유값 문제였고, 직교성은 그 꼴에서 자동으로 따라 나온다.

출발점은 한 줄이다.

\frac{d}{dx}\left[p(x)\frac{dy}{dx}\right] + q(x)\,y + \lambda\,w(x)\,y = 0

$A\mathbf{x} = \lambda\mathbf{x}$ 의 미분 연산자판이라고 보면 된다. 행렬이 있던 자리에 미분 연산자가 들어앉고, 벡터가 있던 자리에 함수가 들어앉는다. 유한 차원에서 얻었던 결론이 거의 그대로 옮겨 온다 — 고유값은 실수이고, 서로 다른 고유값의 고유함수는 직교하며, 임의의 함수를 그 고유함수들로 전개할 수 있다. 다만 “거의”에 걸리는 것들이 있고, 그 걸리는 지점이 이 장의 알맹이다.

이 장은 두 덩어리다. 1~5절은 위 방정식을 정면에서 다룬다 — 어떤 방정식이 저 꼴로 바뀌는가(1절), 경계조건이 왜 고유값을 이산으로 만드는가(2절), 직교성과 실수성은 어디서 오는가(3절), 함수를 고유함수로 전개하면 무엇이 좋은가(4절), 그 전개가 정말 수렴하는가(5절).

6~8절은 갑자기 변분법으로 넘어간다. 뜬금없어 보이지만 그렇지 않다. 범함수

\begin{aligned} J[y] &= \int_a^b \left( p\,y'^2 - q\,y^2 \right) dx \\[2pt] K[y] &= \int_a^b w\,y^2\,dx = 1 \end{aligned}

에서 $J$ 를 $K = 1$ 이라는 구속 아래에서 최소화해 보면, 튀어나오는 오일러 방정식이 정확히 위의 스투름–리우빌 방정식이고 라그랑주 승수가 고유값 $\lambda$ 그 자체다. 전반부와 후반부는 같은 물건을 미분방정식 쪽에서 본 것과 최소화 문제 쪽에서 본 것이다. 그리고 후자의 시선이 8절에서 레일리–리츠라는 실용적인 계산법을 낳는다 — 오늘날 소자 시뮬레이터의 유한요소법이 그 직계 후손이다.

이 장이 어디로 흘러가는지도 적어 둔다. 1.7의 변수분리는 PDE 하나를 스투름–리우빌 문제 여러 개로 쪼개는 절차이고, 1.8의 그린 함수는 고유함수 전개로 구성된다. 양자역학의 속박 상태 문제는 통째로 이 장의 문제이며(5.3), 변분법은 바닥상태 에너지를 어림하는 표준 수단이다(5.8). 반도체 쪽으로는 유효질량 슈뢰딩거 방정식이 그 자체로 스투름–리우빌 꼴이고, 이종접합의 경계조건이 이 장이 말하는 자연 경계조건과 정확히 같은 것이며, TCAD의 푸아송 방정식 풀이가 리츠법의 후손이다.

자체 수반 형식과 에르미트 연산자

직관

1.3에서 에르미트 행렬이 그토록 좋았던 이유는 셋이었다 — 고유값이 실수, 고유벡터가 직교, 그리고 대각화가 항상 된다. 미분 연산자에도 같은 것을 원한다.

문제는 미분 연산자가 대부분 에르미트가 아니라는 것이다. $d/dx$ 하나만 놓고 봐도 부분적분을 하면 부호가 뒤집혀 $(d/dx)^\dagger = -d/dx$ 가 된다. 그런데 다행한 사정이 있다. 2계 선형 ODE는 적당한 함수를 곱해 주기만 하면 거의 언제나 에르미트 꼴로 바뀐다. 곱해 준 그 함수가 나중에 무게함수 $w$ 가 되고, 그래서 이 장의 직교성에는 항상 무게가 따라붙는다.

부분적분이 남기는 것은 둘이다 — 부호와 경계항. 이 절의 전반부가 부호를 처리하고, 후반부가 경계항을 처리한다.

수반 연산자를 손으로 구해 본다

1.2.6선형 변환에서 수반의 정의는 $\langle u, \mathcal{L}v\rangle = \langle \mathcal{L}^{\dagger}u, v\rangle$ 였다. 함수에 대한 내적은

\langle u, v\rangle = \int_a^b \overline{u(x)}\,v(x)\,dx

로 잡는다. 일반적인 2계 선형 연산자를

\mathcal{L}y = p_0(x)\,y'' + p_1(x)\,y' + p_2(x)\,y

로 두고, $\int_a^b u\,\mathcal{L}v\,dx$ 에서 미분을 $v$ 에서 $u$ 로 넘겨 보자(당분간 실수 계수·실수 함수로 둔다). 두 번째 항은 한 번, 첫 번째 항은 두 번 부분적분한다.

\begin{aligned} \int_a^b u\,p_0 v''\,dx &= \Big[u p_0 v' - (u p_0)' v\Big]_a^b + \int_a^b (u p_0)''\,v\,dx \\ \int_a^b u\,p_1 v'\,dx &= \Big[u p_1 v\Big]_a^b - \int_a^b (u p_1)'\,v\,dx \end{aligned}

경계항을 잠시 접어 두면 남는 적분이 수반 연산자의 정의다.

\mathcal{L}^{\dagger}u = (p_0 u)'' - (p_1 u)' + p_2 u

전개해서 정리하면 정체가 드러난다.

\mathcal{L}^{\dagger}u = p_0\,u'' + (2p_0' - p_1)\,u' + (p_0'' - p_1' + p_2)\,u

$\mathcal{L}^{\dagger} = \mathcal{L}$ 이 되려면 $u'$ 의 계수가 맞아야 하므로 $2p_0' - p_1 = p_1$ , 즉 다음 한 줄이다.

\boxed{\;p_0'(x) = p_1(x)\;}

$u$ 의 계수는 덤으로 따라온다 — $p_0' = p_1$ 이면 $p_0'' = p_1'$ 이라 $p_0'' - p_1' = 0$ 이다. 자체 수반 조건은 결국 계수 두 개 사이의 한 줄짜리 관계다.

조건의 정체는 완전미분이다

이 조건이 무엇을 뜻하는지는 대입해 보면 바로 보인다.

p_0 y'' + p_1 y' = p_0 y'' + p_0' y' = \big(p_0\,y'\big)'

앞의 두 항이 하나의 완전미분으로 묶인다. 자체 수반이란 미분 연산자가 " $\frac{d}{dx}(\text{무언가}\cdot\frac{d}{dx})$ " 꼴로 접힌다는 말이고, 그 접힌 꼴이 부분적분에서 좌우 대칭을 만들어 준다.

직관

왜 하필 $\frac{d}{dx}\big(p\frac{d}{dx}\big)$ 꼴인가. 물리에서 이 꼴이 나오는 자리를 보면 납득이 쉽다. 열전도에서 열유속은 $-\kappa\,dT/dx$ 이고, 에너지 보존은 “유속의 발산 = 생성률”이다. 그러니 방정식은 반드시 $\frac{d}{dx}\big(\kappa\frac{dT}{dx}\big) + \cdots = 0$ 이 된다. 확산에서도, 정전기학의 $\nabla\cdot(\varepsilon\nabla\phi) = -\rho$ 에서도 같다.

보존 법칙이 있는 곳에서는 방정식이 저절로 자체 수반 꼴로 태어난다. $p$ 는 그 자리에서 전도도·유전율·확산계수 같은 물성이다. $p$ 가 자리마다 다른 값을 갖는 것(이종접합, 적층 유전체)이 바로 $p(x)$ 가 상수가 아닌 경우다.

적분인자 — 어떤 2계 ODE든 자체 수반으로 만들 수 있다

$p_0' \neq p_1$ 이면 어떻게 하는가. 방정식 양변에 함수 $\mu(x)$ 를 곱해도 해는 바뀌지 않는다는 점을 쓴다. 곱한 뒤 자체 수반이 되려면 $(\mu p_0)' = \mu p_1$ 이어야 하므로

\frac{\mu'}{\mu} = \frac{p_1 - p_0'}{p_0} \qquad\Longrightarrow\qquad \mu(x) = \frac{1}{p_0(x)}\exp\!\int^x \frac{p_1(t)}{p_0(t)}\,dt

$\exp\big(\!-\!\int p_0'/p_0\big) = 1/p_0$ 을 썼다. 이렇게 얻은 계수가 스투름–리우빌 형식의 $p$ 와 $q$ 다.

p(x) = \mu\,p_0 = \exp\!\int^x \frac{p_1(t)}{p_0(t)}\,dt, \qquad q(x) = \mu\,p_2

$p_0 = 1$ 로 정리된 꼴 $y'' + f\,y' + (g + \lambda h)\,y = 0$ 에서는 더 간단하다 — $p = e^{\int f\,dx}$ , $q = pg$ , $w = ph$ 다(Kreyszig §11.5 연습 6). 1계 항의 계수를 적분해 지수에 올리는 것이 전부다. Arfken은 식 (8.15)에서 이 적분인자를 처음부터 $w$ 라 부른다 — $\mathcal{L}\psi = \lambda\psi$ 꼴에서 출발하면 곱해 준 함수가 그대로 무게가 되기 때문이다.

직관

$p$ 가 지수함수로 나온다는 사실이 공짜로 주는 것이 있다. 지수함수는 절대 0이나 음수가 되지 않으므로 $p > 0$ 이 자동으로 보장된다. 2절에서 “정규 스투름–리우빌 문제는 $p > 0$ 을 요구한다”고 할 텐데, 그 요구는 억지가 아니라 이 구성의 자연스러운 귀결이다.

단서가 하나 붙는다. $p_0(x)$ 가 0이 되는 자리에서는 $\mu$ 가 터진다. 르장드르의 $p_0 = 1-x^2$ 은 $x = \pm 1$ 에서, 베셀의 $p_0 = x^2$ 은 $x = 0$ 에서 0이다. 그 자리가 바로 2절에서 다룰 특이 스투름–리우빌 문제이고, 물리 문제의 좌표계에서 이런 자리는 대개 극이나 원점 — 좌표계가 만들어 낸 가짜 특이점이다.

스투름–리우빌 고유값 문제

정리하면 이 장이 다루는 대상은 하나다.

\mathcal{L} \equiv \frac{d}{dx}\left[p(x)\frac{d}{dx}\right] + q(x), \qquad \mathcal{L}\,y + \lambda\,w(x)\,y = 0

풀어 쓰면 앞머리에 적었던 그 식이다.

\frac{d}{dx}\left[p(x)\frac{dy}{dx}\right] + q(x)\,y + \lambda\,w(x)\,y = 0, \qquad a \le x \le b

여기에 양 끝의 경계조건이 붙어야 문제가 완성된다. 경계조건 없는 스투름–리우빌 문제는 문제가 아니다 — 2절에서 보겠지만, 고유값을 이산으로 만드는 것이 바로 경계조건이다.

주의

부호 관례가 책마다 — 같은 책 안에서도 — 다르다. 세 가지가 돌아다닌다.

\begin{aligned} &\text{Kreyszig §11.5:} && (p y')' + (q + \lambda r)\,y = 0 \\ &\text{Arfken §22.4 식 (22.98):} && (p y')' - q\,y + \lambda w\,y = 0 \\ &\text{Arfken 8장 · 양자역학 문헌:} && \mathcal{L}\psi = \lambda\psi, \quad \mathcal{L} = -\tfrac{d^2}{dx^2} + \cdots \end{aligned}

첫 줄은 무게를 $r$ 로 쓸 뿐 이 백과의 식과 같다. 둘째 줄은 $q$ 의 부호가 반대다 — Arfken은 변분법 장에서 범함수를 $\int(p\,y'^2 + q\,y^2)\,dx$ 로 놓기 때문에 오일러 방정식에 $-q$ 가 나온다. 셋째 줄은 $\lambda$ 를 반대쪽으로 넘긴 것으로, 그렇게 하면 연산자가 양의 정부호가 되어 $\lambda \ge 0$ 이 되기 쉽다. 슈뢰딩거 방정식 $-\frac{\hbar^2}{2m}\psi'' + V\psi = E\psi$ 가 이 꼴이고, Arfken이 8장 첫머리에서 진동하는 현을 $\mathcal{L}\psi = k^2\psi$ , $\mathcal{L} = -d^2/dx^2$ 로 적는 것도 같은 관례다.

이 백과는 Kreyszig의 꼴에서 무게만 $w$ 로 바꾼 $(py')' + qy + \lambda wy = 0$ 으로 통일한다. 다른 책을 볼 때는 $\lambda$ 앞의 부호와 $q$ 가 어느 쪽에 어떤 부호로 붙어 있는지를 먼저 확인할 것. 8절의 레일리 몫 $\Lambda = \int(p y'^2 - q y^2)\,dx \,/ \int w y^2 dx$ 에서 $-q$ 가 나오는 것도 이 약속 때문이다 — Arfken 식 (22.100)에는 같은 자리에 $+q$ 가 있다.

기호 — 이 장의 약속

이 장은 같은 글자가 앞 장들과 다른 뜻으로 쓰이는 자리가 많다. 특히 후반부의 변분법이 쓰는 기호가 전반부와 겹친다. 시작하기 전에 한 번에 정리해 둔다.

기호	읽는 법	무엇을 가리키는가
$\mathcal{L}$	스크립트 엘	스투름–리우빌 연산자 $\frac{d}{dx}\big(p\frac{d}{dx}\big) + q$
$p(x)$		미분에 붙는 계수. 정규 문제에서 $p > 0$ . 경계항의 주인
$q(x)$		미분 없이 붙는 계수. 부호 제한이 없다
$w(x)$	무게함수	내적에 끼어드는 무게. 정규 문제에서 $w > 0$
$\lambda_n$	람다	$n$ 번째 고유값
$y_n(x)$		$n$ 번째 고유함수
$\langle u, v\rangle_w$		$\int_a^b \overline{u}\,v\,w\,dx$ — 무게 붙은 내적
$\lVert y\rVert_w$	노름	$\sqrt{\langle y, y\rangle_w}$
$c_n$		전개 계수 (4절)
$S_N$	부분합	앞 $N$ 항까지의 합 (4·5절)
$J[y]$	범함수	대괄호는 “함수를 통째로 받는다”는 표시 (6절)
$F(x, y, y')$		범함수의 피적분함수 (6절)
$\delta$	델타	변분 (6절)
$\eta(x)$	에타	변분의 방향 함수 (6절)
$\alpha$	알파	변분의 크기 (6절)
$\Lambda[y]$	대문자 람다	레일리 몫 — 시험함수가 내놓는 어림값 (8절)
$\phi_k$	파이	리츠 기저함수 (8절)
$W(u, v)$	브론스키안	$uv' - vu'$ — 1.4.6브론스키안과 해의 독립성

주의

짚고 갈 짝이 여섯이다. 전부 대소문자나 서체로만 갈리는 것들이다.

① $p(x)$ 와 $P_\ell(x)$ . 소문자는 이 장의 계수, 대문자는 1.5의 르장드르 다항식이다. 하필 르장드르 방정식에서 $p = 1 - x^2$ 이고 그 해가 $P_\ell$ 이라 한 식 안에 둘이 같이 나온다.

② $w(x)$ 와 $W(u,v)$ . 소문자는 무게함수, 대문자는 브론스키안이다. 이 절의 경계항이 $\big[p\,W(u,v)\big]_a^b$ 이고 3절의 직교성이 $\int u v\,w\,dx = 0$ 이라, 둘이 두 절 걸러 연달아 나온다. Kreyszig는 무게를 $r(x)$ 로 적는다(§11.5 식 (1)) — 다른 책에서 무게 자리에 $r$ 이 보이면 그렇게 읽으면 된다.

③ $\lambda$ 와 $\Lambda$ . 참 고유값은 소문자, 시험함수가 내놓는 어림값(레일리 몫)은 대문자다. 8절 전체가 " $\Lambda \ge \lambda_1$ "이라는 한 줄이라, 둘을 구분하지 않으면 문장 자체가 성립하지 않는다.

④ $n$ 과 $N$ . 소문자는 고유값·고유함수의 번호( $\lambda_n$ , $y_n$ ), 대문자는 잘라 쓴 항의 개수( $S_N$ )다. 5절에서 “ $N \to \infty$ 일 때 $n$ 번째 항이…”라는 문장이 실제로 나온다.

⑤ $\delta$ 의 두 얼굴. 6절의 변분 $\delta y$ 와 3절의 크로네커 델타 $\delta_{mn}$ 은 다른 물건이다. 앞의 것은 뒤에 함수가 오고 뒤의 것은 아래첨자가 둘 달린다.

⑥ $L$ 과 $\mathcal{L}$ . 구간의 길이 $L$ 과 연산자 $\mathcal{L}$ 이 서체로만 갈린다. 이 장에서 연산자는 언제나 스크립트체이고, 뒤에 함수가 붙어 $\mathcal{L}y$ 로 나온다.

라그랑주 항등식 — 경계항 하나로 압축된다

자체 수반 꼴을 손에 넣었으니 부분적분을 다시 한다. 두 함수 $u, v$ 에 대해 $q$ 항은 $u\,q\,v - v\,q\,u = 0$ 으로 저절로 사라지므로 — $q$ 는 에르미트성에 아무런 영향이 없다 — 남는 것은 $p$ 항뿐이다.

u\,\mathcal{L}v - v\,\mathcal{L}u = u\,(p v')' - v\,(p u')' = \frac{d}{dx}\Big[\,p\,(u v' - v u')\,\Big]

이것이 라그랑주 항등식이다. 마지막 등호는 오른쪽을 미분해서 확인하면 된다 — $(p u v')' - (p v u')' = u'pv' + u(pv')' - v'pu' - v(pu')'$ 이고, 첫 항과 셋째 항이 상쇄된다.

양변을 적분하면 그린 항등식이 나온다.

\int_a^b \big(u\,\mathcal{L}v - v\,\mathcal{L}u\big)\,dx = \Big[\,p\,(u v' - v u')\,\Big]_a^b

괄호 안은 $u$ 와 $v$ 의 브론스키안 $W(u,v) = uv' - vu'$ 다. 그러니 경계항은 $\big[p\,W(u,v)\big]_a^b$ 로 읽어도 된다. 복소함수까지 허용하면 왼쪽이 내적의 차가 된다.

\langle u, \mathcal{L}v\rangle - \langle \mathcal{L}u, v\rangle = \Big[\,p\,\big(\overline{u}\,v' - v\,\overline{u}'\big)\,\Big]_a^b

에르미트냐는 경계에서 결정된다

주의

연산자만 보고는 에르미트인지 답할 수 없다. 위 식의 왼쪽이 0이어야 에르미트인데, 오른쪽은 연산자가 아니라 어떤 함수들 위에서 보느냐에 달려 있다. 같은 $\mathcal{L}$ 이 어떤 함수족 위에서는 에르미트이고 다른 함수족 위에서는 아니다.

1.3의 9절에서 $-i\,d/dx$ 가 무한 구간에서는 자체 수반인데 $[-1, 1]$ 에서는 아니라고 했던 것이 정확히 이 이야기다. 유한 차원 행렬에는 이런 미묘함이 없어 보이지만, 그때도 “내적이 무엇인가”에 따라 수반이 달라지는 것은 마찬가지였다.

Arfken은 이 차이에 이름을 붙여 둔다(§8.2). 미분방정식 이론의 “자체 수반”( $p_0' = p_1$ , 식 (8.9))은 경계항에 아무 요구도 하지 않으므로 힐베르트 공간의 “자체 수반”보다 약한 개념이다. 둘 사이를 메우는 것이 경계조건이고, 그래서 이 절이 경계항으로 끝난다.

경계항을 죽이는 길이 셋 있다.

그림 1.6-1. 경계항이 사라지는 세 가지 길. ①은 두 끝에서 각각 독립적으로 0이 되는 경우로 가장 흔한 정규 문제이고, ②는 두 끝의 기여가 같아 뺄셈으로 상쇄되는 경우이며, ③은 p 자체가 양 끝에서 0이라 경계조건을 걸 것도 없는 경우다. 셋 다 결과는 같지만 고유값의 성질은 조금씩 다르다 — ①은 축퇴가 없고, ②는 축퇴가 있을 수 있으며, ③은 연속 스펙트럼을 낳기도 한다.직접 작도

① 분리 경계조건. 양 끝에서 각각

\alpha_1 y(a) + \alpha_2 y'(a) = 0, \qquad \beta_1 y(b) + \beta_2 y'(b) = 0

를 요구한다( $\alpha_1, \alpha_2$ 가 동시에 0은 아니고, $\beta$ 도 마찬가지). 이러면 $u, v$ 가 둘 다 $x = a$ 에서 같은 관계를 만족하므로 $(u v' - v u')\big|_a = 0$ 이 된다 — 두 벡터 $(u(a), u'(a))$ 와 $(v(a), v'(a))$ 가 같은 직선 $\alpha_1 X + \alpha_2 Y = 0$ 위에 있어 나란하고, 나란한 두 벡터의 “행렬식”인 브론스키안이 0이라는 말이다. $x = b$ 에서도 같다.

② 주기 경계조건. $p(a) = p(b)$ 이고 $y(a) = y(b)$ , $y'(a) = y'(b)$ 면 두 끝의 값이 같아져 $[\cdots]_a^b$ 가 뺄셈으로 상쇄된다. 원둘레 위의 문제나 결정의 주기 퍼텐셜이 여기 속한다.

③ 특이 문제. $p(a) = 0$ 이면 $x = a$ 에서의 기여가 $p$ 때문에 저절로 0이다. 이때는 $y$ 에 경계조건을 걸 것도 없고, “ $y$ 가 그 점에서 유계일 것”만 요구한다. 르장드르( $p = 1-x^2$ , $x = \pm 1$ ), 베셀( $p = x$ , $x = 0$ ), 에르미트( $p = e^{-x^2}$ , $x \to \pm\infty$ )가 전부 여기다.

낯익은 방정식들이 전부 이 꼴이었다

1.5에서 급수법으로 하나씩 풀었던 방정식들을 적분인자로 자체 수반 꼴로 바꿔 본 결과다.

방정식	원래 꼴	$p$	$q$	$w$	구간	$\lambda$
단순 조화	$y'' + \lambda y = 0$	$1$	$0$	$1$	$[0, L]$	$\lambda$
르장드르	$(1-x^2)y'' - 2xy' + \ell(\ell+1)y = 0$	$1-x^2$	$0$	$1$	$[-1, 1]$	$\ell(\ell+1)$
버금 르장드르	위 식에 $-\frac{m^2}{1-x^2}y$ 추가	$1-x^2$	$-\frac{m^2}{1-x^2}$	$1$	$[-1, 1]$	$\ell(\ell+1)$
체비셰프	$(1-x^2)y'' - xy' + n^2 y = 0$	$\sqrt{1-x^2}$	$0$	$\frac{1}{\sqrt{1-x^2}}$	$[-1, 1]$	$n^2$
베셀	$x^2y'' + xy' + (k^2x^2 - n^2)y = 0$	$x$	$-\frac{n^2}{x}$	$x$	$[0, a]$	$k^2$
에르미트	$y'' - 2xy' + 2\alpha y = 0$	$e^{-x^2}$	$0$	$e^{-x^2}$	$(-\infty, \infty)$	$2\alpha$
라게르	$xy'' + (1-x)y' + \alpha y = 0$	$xe^{-x}$	$0$	$e^{-x}$	$[0, \infty)$	$\alpha$
버금 라게르	$xy'' + (k{+}1-x)y' + \alpha y = 0$	$x^{k+1}e^{-x}$	$0$	$x^k e^{-x}$	$[0, \infty)$	$\alpha$

두 줄만 실제로 계산해 보자.

베셀. $p_0 = x^2$ , $p_1 = x$ 이므로 $p_0' = 2x \neq p_1$ 이다. 적분인자는 $\mu = \frac{1}{x^2}\exp\int\frac{1}{x}dx = \frac{1}{x^2}\cdot x = \frac{1}{x}$ . 양변을 $x$ 로 나누면

x y'' + y' + \Big(k^2 x - \frac{n^2}{x}\Big)y = 0 \quad\Longrightarrow\quad \big(x\,y'\big)' - \frac{n^2}{x}\,y + k^2\,x\,y = 0

$p = x$ , $q = -n^2/x$ , $w = x$ , $\lambda = k^2$ 이다. 무게가 $x$ 가 된다는 것이 원통 좌표계의 넓이 요소 $r\,dr$ 과 정확히 같다는 점을 눈여겨볼 것 — 3절에서 무게함수의 정체를 이야기할 때 다시 나온다.

라게르. $p_0 = x$ , $p_1 = 1-x$ 이므로 $\mu = \frac{1}{x}\exp\int\frac{1-x}{x}dx = \frac{1}{x}\exp(\ln x - x) = e^{-x}$ 이고,

\big(x e^{-x}\,y'\big)' + \alpha\,e^{-x}\,y = 0

$p = xe^{-x}$ , $w = e^{-x}$ 다. $p$ 가 $x = 0$ 과 $x \to \infty$ 에서 모두 0이 되므로 특이 문제이고, 경계조건은 “양 끝에서 유계”뿐이다. 이 무게 $e^{-x}$ 가 3절 그림에서 직교성을 만들어 내는 주인공이다.

의문

1계 항이 사라진 자체 수반 꼴을 만드는 방법이 하나 더 있다 — 미지함수 자체를 바꿔치기하는 것이다. $y = v/\sqrt{p}$ 로 두면 $p$ 가 사라지고 $v'' + \big(\text{무언가}\big)v = 0$ 꼴이 된다 (리우빌 변환). 베셀 방정식에 이 변환을 걸면 큰 $x$ 에서 $v'' + k^2 v \approx 0$ 이 나오고, 그래서 베셀 함수가 멀리서 $\cos$ · $\sin$ 처럼 행동하며 $1/\sqrt{x}$ 로 감쇠한다는 사실이 설명된다. 1.5.8의 점근 꼴이 여기서 나온 것이다.

어느 쪽을 쓰는가. 직교성과 고유값을 논할 때는 자체 수반 형식이 편하고 — 무게가 명시적으로 드러난다 — 점근 행동이나 WKB 근사를 할 때는 리우빌 변환이 편하다. 같은 방정식의 두 얼굴이다.

ODE 고유값 문제와 경계 조건

직관

유한 차원에서 고유값을 찾는 절차는 명확했다 — 특성 다항식 $\det(A - \lambda I) = 0$ 을 풀면 근이 정확히 $n$ 개 나온다. 미분 연산자에는 행렬식이 없다. 그러면 고유값은 어떻게 걸러지는가.

답은 경계조건이다. 미분방정식 $\mathcal{L}y + \lambda w y = 0$ 자체는 $\lambda$ 가 무엇이든 해를 갖는다 — 2계 ODE니까 $\lambda$ 마다 2차원짜리 해공간이 있다(1.4.6브론스키안과 해의 독립성). 그중 양 끝의 조건을 동시에 만족하는 것이 있느냐가 관건이고, 그런 것이 있는 $\lambda$ 만 고유값으로 살아남는다. 대부분의 $\lambda$ 는 여기서 탈락한다.

살아남는 것이 왜 셀 수 있게 많은가 — 이산인가 — 가 이 절의 핵심 그림이다.

정규 스투름–리우빌 문제

가장 얌전한 경우에 이름을 붙인다. 구간 $[a, b]$ 가 유한하고, 그 구간 전체에서

p(x) > 0, \qquad w(x) > 0, \qquad p,\ p',\ q,\ w \text{ 가 연속}

이며, 경계조건이 분리형이면 — 즉

\alpha_1 y(a) + \alpha_2 y'(a) = 0, \qquad \beta_1 y(b) + \beta_2 y'(b) = 0

이면 — 이것을 정규(regular) 스투름–리우빌 문제라 한다.

셋 중 하나라도 깨지면 정규가 아니다. 구간이 무한하거나 $p$ 나 $w$ 가 끝에서 0이 되는 경우를 특이(singular) 문제라 하고, 나머지 조건은 다 만족하면서 경계조건만 주기형인 경우를 주기 문제라 따로 부른다. 셋의 성질이 조금씩 다르므로 이름을 구별해 둔다.

왜 고유값이 이산이 되는가

가장 단순한 예에서 그림이 전부 보인다. $p = w = 1$ , $q = 0$ , 구간 $[0, 1]$ , 양 끝에서 $y = 0$ 인 문제다.

y'' + \lambda y = 0, \qquad y(0) = y(1) = 0

먼저 왼쪽 조건만 쓴다. $y(0) = 0$ 을 만족하는 해는 크기를 $y'(0) = 1$ 로 고정하면 $\lambda$ 마다 딱 하나이고, $\lambda > 0$ 이면 그 해가 이것이다.

u(x;\lambda) = \frac{\sin\big(\sqrt{\lambda}\,x\big)}{\sqrt{\lambda}}

여기까지는 $\lambda$ 가 무엇이든 아무 문제가 없다. 남은 것은 오른쪽 조건 $u(1;\lambda) = 0$ 하나뿐이고, 이제 이것은 미분방정식이 아니라 $\lambda$ 에 대한 방정식이다.

그림 1.6-2. 왼쪽 조건만 만족시킨 해를 오른쪽 끝까지 밀어 보내면(①), 끝점 값 u(1)이 λ에 따라 양수도 음수도 된다. 그 값을 λ의 함수로 그린 것이 오른쪽(②)이고, 진동하는 곡선이 0을 지나는 자리가 고유값이다. 진동하는 함수의 영점이라 셀 수 있게 많고 무한히 많다 — 고유값이 이산이면서 무한 개인 이유가 여기 있다.직접 작도

$\sin\sqrt{\lambda} = 0$ 이므로 $\sqrt{\lambda} = n\pi$ , 즉

\lambda_n = n^2\pi^2, \qquad y_n(x) = \sin(n\pi x), \qquad n = 1, 2, 3, \dots

이 그림이 양자화의 정체다. 에너지가 왜 띄엄띄엄한가라는 질문의 답은 “자연이 그렇게 생겨서”가 아니라 “해가 진동하는데 양 끝을 동시에 맞춰야 해서”다. 진동하는 함수의 영점은 셀 수 있게 많고, 그래서 고유값도 셀 수 있게 많다.

구간을 $[0, L]$ 로 넓히면 $\lambda_n = n^2\pi^2/L^2$ 이 된다. 이것이 뒤에서 계속 쓰이므로 기억해 둘 것 — 우물이 넓어지면 고유값이 작아진다.

경계조건을 바꾸면 무엇이 달라지는가

같은 미분방정식 $y'' + \lambda y = 0$ 을 $[0, L]$ 에서 놓고 경계조건만 바꿔 본다.

경계조건	이름	고유값	고유함수	특징
$y(0) = y(L) = 0$	디리클레	$\big(\frac{n\pi}{L}\big)^2$ , $n \ge 1$	$\sin\frac{n\pi x}{L}$	$\lambda = 0$ 이 없다
$y'(0) = y'(L) = 0$	노이만	$\big(\frac{n\pi}{L}\big)^2$ , $n \ge 0$	$\cos\frac{n\pi x}{L}$	$\lambda = 0$ 과 상수 해가 있다
$y(0) = 0$ , $y'(L) + h\,y(L) = 0$	로빈	$\tan\sqrt{\lambda}L = -\frac{\sqrt{\lambda}}{h}$ 의 근	$\sin\sqrt{\lambda_n}\,x$	초월방정식 — 닫힌 꼴이 없다
$y(0) = y(L)$ , $y'(0) = y'(L)$	주기	$\big(\frac{2n\pi}{L}\big)^2$ , $n \ge 0$	$\sin$ 과 $\cos$ 둘 다	$n \ge 1$ 에서 2중 축퇴

읽어야 할 것이 셋이다.

① 디리클레에는 $\lambda = 0$ 이 없고 노이만에는 있다. $\lambda = 0$ 이면 $y'' = 0$ 이라 $y = Ax + B$ 인데, 양 끝에서 0이 되려면 $A = B = 0$ 이라 자명해뿐이다. 반면 노이만에서는 $y =$ 상수가 살아남는다. 물리로 옮기면 — 단열 경계(노이만)에서는 균일한 온도 분포가 정상 상태로 남고, 온도 고정 경계(디리클레)에서는 남지 않는다.

② 로빈에서는 닫힌 꼴이 사라진다. $\lambda$ 가 $\tan$ 안팎에 동시에 들어가 초월방정식이 되고, 근은 수치로만 구한다. 실제 문제가 대개 이쪽이다 — 대류 열전달 경계나 표면 재결합 경계조건이 전부 로빈이다.

③ 주기 경계조건은 축퇴를 낳는다. 같은 $\lambda$ 에 $\sin$ 과 $\cos$ 두 개의 독립인 고유함수가 붙는다. 분리 경계조건이었다면 일어나지 않을 일인데, 주기 경계조건이 두 끝을 “이어 붙여” 문제의 대칭성을 키웠기 때문이다. 결정의 주기 퍼텐셜에서 $+k$ 와 $-k$ 상태가 같은 에너지를 갖는 것이 정확히 이 축퇴다.

구간을 쪼개 잇는다 — 유한 우물

양 끝의 경계조건 말고 구간 안쪽의 한 점에서 잇는 조건이 하나 더 걸리는 경우가 있다. 퍼텐셜이 조각별로 다른 문제가 그렇다. Arfken은 중양성자(deuteron)로 이것을 보인다(예 8.3.3) — 핵력의 사거리가 짧아 $r < a$ 에서 $V = V_0 < 0$ , 밖에서 $V = 0$ 인 구형 우물로 모형화한 것인데, 반도체로 옮기면 장벽 높이가 유한한 양자우물이 정확히 같은 문제다.

구면 대칭이면 $u = r\psi$ 로 두어 1차원이 된다. 속박 상태는 $V_0 < E < 0$ 이고,

\begin{aligned} r < a:&\quad u_1'' + k_1^2 u_1 = 0, && k_1^2 = \tfrac{2\mu}{\hbar^2}(E - V_0) > 0 \\[2pt] r > a:&\quad u_2'' - k_2^2 u_2 = 0, && k_2^2 = -\tfrac{2\mu}{\hbar^2}E > 0 \end{aligned}

안쪽 해는 $u_1(0) = 0$ 에서 $A\sin k_1 r$ , 바깥 해는 무한대에서 사라져야 하니 $Be^{-k_2 r}$ 이다. 두 조각을 $r = a$ 에서 $u$ 와 $u'$ 가 연속이게 이어 붙이면 $A$ 와 $B$ 가 소거되고 한 줄이 남는다.

\tan k_1 a = -\frac{k_1}{k_2}

$k_1, k_2$ 가 둘 다 $E$ 의 함수라 이것은 $E$ 에 대한 초월방정식이다 — 로빈 경계조건의 $\tan$ 방정식과 같은 부류이고, 닫힌 꼴이 없다. 양변을 $E$ 의 함수로 그려 교점을 찾는데, Arfken이 넣은 값 ( $V_0 = -4.046\times10^{-12}$ J, $a = 2.5$ fm)으로는 교점이 하나뿐이고 $E \approx -2.2$ MeV다. 3차원 구형 우물은 너무 얕거나 좁으면 속박 상태가 아예 없을 수도 있다(1차원 대칭 우물은 아무리 얕아도 하나는 있다).

직관

이 계산에서 눈여겨볼 것은 답이 아니라 틀린 $E$ 를 넣으면 무슨 일이 생기는가다(Arfken 그림 8.4). 고유값이 아닌 $E$ 에 대해서도 안쪽 해 $A\sin k_1 r$ 은 멀쩡히 존재하고, $r = a$ 에서 매끄럽게 이어 붙일 수도 있다. 다만 그렇게 이어 붙인 바깥 해에 $e^{+k_2 r}$ 성분이 섞여 들어 무한대에서 발산한다. 고유값에서만 그 성분의 계수가 정확히 0이 된다.

2절 첫머리의 그림과 같은 이야기다 — 거기서는 오른쪽 끝 $u(1)$ 이 0이 아니었고, 여기서는 무한대에서 발산한다. 슈팅법으로 고유값을 찾는다는 것은 이 “발산하는 성분의 계수”가 0이 되는 $E$ 를 더듬는 일이고, 진동 정리의 마디 세기가 그 더듬기를 검산한다.

반도체 양자우물에서는 여기에 한 가지가 더 붙는다. 우물과 장벽의 유효질량이 다르므로 계면에서 연속이어야 하는 것은 $u'$ 가 아니라 $u'/m^*$ 이다 — 7절의 자연 경계조건이 그것을 말해 준다.

특이 문제 — 경계조건이 저절로 붙는다

$p$ 가 구간 끝에서 0이 되거나 구간이 무한하면 정규 문제가 아니다. 그런데 물리에서 나오는 방정식의 절반이 이쪽이다.

문제	어디가 특이한가	실질적 경계조건
르장드르	$p = 1-x^2$ 이 $x = \pm 1$ 에서 0	$y$ 가 $x = \pm 1$ 에서 유계
베셀	$p = x$ 가 $x = 0$ 에서 0	$y$ 가 원점에서 유계
에르미트	$p = e^{-x^2}$ , 구간이 무한	무게 $e^{-x^2}$ 에 대한 노름이 유한
라게르	$p = xe^{-x}$ 가 양 끝에서 0	양 끝에서 유계

직관

“유계일 것”이라는 조건이 왜 경계조건 노릇을 하는가. 2계 ODE의 두 해 중 하나는 특이점에서 발산하기 때문이다. 르장드르 방정식의 두 번째 해 $Q_\ell$ 은 $x \to \pm 1$ 에서 로그로 터지고, 베셀 방정식의 두 번째 해 $Y_n$ 은 원점에서 터진다(1.5.5프로베니우스법과 두 번째 해). 그러니 “유계”라는 요구가 두 해 중 하나를 골라내는 일을 하고, 그것이 바로 경계조건이 하는 일이다.

그리고 정확히 이 자리에서 $\ell$ 이 정수로 잘린다. 르장드르 방정식의 급수해는 $\ell$ 이 음이 아닌 정수가 아니면 무한급수로 남아 $x = \pm 1$ 에서 발산한다. 유계를 요구하는 순간 급수가 끊겨 다항식이 되고, $\lambda = \ell(\ell+1)$ 이라는 이산 고유값이 나온다. 1.5에서 “급수가 끊기는 조건”으로 얻었던 것이 여기서는 경계조건이 고유값을 걸러 낸 결과로 다시 읽힌다. 같은 사실의 두 얼굴이다.

에르미트는 조금 다르다(Arfken 예 8.3.2). 급수해는 모든 $x$ 에서 수렴한다 — 발산이 없다. 대신 끝나지 않는 급수는 $|x|$ 가 크면 $e^{x^2}$ 처럼 자라고, 무게 $e^{-x^2}$ 를 곱해도 $\int e^{2x^2}e^{-x^2}dx$ 가 발산해 노름이 무한이 된다. 그래서 경계조건은 “발산하지 않을 것”이 아니라 “노름이 유한할 것”이고, 그 요구가 $\lambda = 2n$ 에서 급수를 끊는다. 힐베르트 공간의 원소여야 한다는 요구 자체가 경계조건 노릇을 하는 예다.

특이 문제에서는 성질도 조금 달라진다. 고유값이 연속 스펙트럼을 이룰 수 있다. 유한 구간에 가둔 상태는 이산이지만, 무한 구간으로 풀어 놓은 상태는 연속이다. 우물 속의 속박 준위는 이산이고 우물 밖의 산란 상태는 연속이라는 것 — 반도체로 옮기면 양자우물의 서브밴드는 이산, 밴드 안의 상태는 연속 — 이 그 이야기다.

고유값에 대해 말할 수 있는 것

정규 스투름–리우빌 문제에 대해 다음이 성립한다. 실수성과 직교성은 3절에서 증명하고, 나머지는 결과만 적는다.

고유값은 전부 실수다. ( $w > 0$ 이 결정적이다.)
고유값은 아래로 유계이고, 위로는 무한히 뻗는다. 순서대로 늘어놓을 수 있다 — $\lambda_1 < \lambda_2 < \lambda_3 < \cdots \to \infty$ .
각 고유값에 고유함수가 (상수배를 빼면) 하나뿐이다. 축퇴가 없다.
고유함수는 무게 $w$ 에 대해 직교한다.
$n$ 번째 고유함수는 구간 안쪽에 마디를 정확히 $n-1$ 개 갖는다. (진동 정리)

2번의 “무한히 뻗는다”는 Kreyszig도 “상당히 일반적인 조건에서 고유값이 무한히 많다”고만 적고 증명은 문헌으로 넘긴다(§11.5). 이 백과도 같다 — 2절 첫머리의 그림이 그 사실의 직관이다.

의문

3번 — 정규 문제에 왜 축퇴가 없는가? 유한 차원에서는 축퇴가 흔했는데(1.3.6축퇴와 고유기저) 여기서는 왜 없는가.

이유는 2계 ODE의 해공간이 2차원인데 경계조건이 그중 1차원을 이미 잘라 먹기 때문이다. $x = a$ 에서의 조건 $\alpha_1 y(a) + \alpha_2 y'(a) = 0$ 을 만족하는 해는 상수배를 빼면 하나뿐이다. 그러니 같은 $\lambda$ 에 대해 독립인 고유함수가 둘일 수가 없다.

주기 경계조건에서 축퇴가 생기는 것은 이 논리가 깨지기 때문이다. 주기 조건은 두 끝을 묶는 조건이라 $x = a$ 하나만 보고 해를 특정할 수 없다. 그래서 위 목록 3번은 분리 경계조건에서만 성립한다.

진동 정리 — 고유값 번호는 마디 개수다

그림 1.6-3. 구간 안쪽 영점(마디)의 개수가 고유값 번호를 그대로 말해 준다. 고유값이 커지면 방정식 y'' = -λy가 더 강하게 되돌리는 힘을 만들어 함수가 더 빨리 진동하고, 그 결과로 마디가 늘어난다. 이 정리 덕에 수치해가 몇 번째 고유값을 잡았는지를 값이 아니라 모양으로 판정할 수 있다.직접 작도

이 정리가 실무에서 요긴한 이유는 수치해가 몇 번째 고유값을 잡았는지 검산할 수 있기 때문이다. 슈팅법으로 고유값을 찾다 보면 원하던 바닥상태가 아니라 세 번째 상태로 수렴해 있는 일이 흔한데, 마디를 세면 즉시 드러난다.

물리적으로도 곧바로 읽힌다. 마디가 많다 = 함수가 심하게 굽는다 = 운동에너지가 크다. 양자역학의 주양자수가 마디 개수와 맞물리는 것이 이 정리이고, 8절의 레일리 몫이 $\int p\,y'^2\,dx$ 를 분자에 두는 것도 같은 이야기다 — 굽으면 값이 커진다.

파라미터를 흔들면 고유값이 어디로 가는가

이 장의 네 함수 $p, q, w$ 와 구간 $[a, b]$ 가 각각 고유값을 어느 쪽으로 미는지는 8절의 레일리 몫

\lambda_1 = \min_y \frac{\displaystyle\int_a^b \big(p\,y'^2 - q\,y^2\big)\,dx}{\displaystyle\int_a^b w\,y^2\,dx}

한 줄이 전부 요약한다. 분자에 있으면 올리고 분모에 있으면 내린다.

무엇을 키우면	$\lambda$	왜	반도체에서
$p$	↑	굽는 비용이 비싸진다	유효질량이 작을수록 $p = \hbar^2/2m^*$ 가 커져 양자화 에너지가 크다
$q$	↓	분자에 $-q$ 로 들어간다	우물이 깊을수록 준위가 낮다
$w$	↓	분모가 커진다	질량 밀도가 크면 진동수가 낮다
구간 길이	↓	$y'$ 가 완만해도 된다	우물이 넓을수록 서브밴드 간격이 좁다

둘째 줄을 거꾸로 읽으면 이런 결론도 나온다. 중심력장의 지름 방정식에는 $q$ 에 원심 장벽 $-\hbar^2 l(l+1)/2Mr^2$ 이 음의 항으로 더해지는데, $q$ 가 내려가면 모든 준위가 올라가므로 **바닥상태는 언제나 $l = 0$ **이다(Arfken 연습 22.4.11). 수소 원자의 바닥상태가 $s$ 상태인 이유를 슈뢰딩거 방정식을 풀지 않고 말한 것이다.

직관

마지막 줄이 반도체에서 매일 쓰이는 관계다. 무한 우물 근사에서

E_n = \frac{\hbar^2}{2m^*}\left(\frac{n\pi}{L}\right)^2

이므로 $E_n \propto 1/(m^* L^2)$ 다. 우물 폭을 절반으로 줄이면 서브밴드 간격이 네 배로 벌어지고, 유효질량이 절반이면 두 배로 벌어진다. 게이트 길이를 줄여 온 역사가 채널을 얇게 만드는 역사이기도 했다는 점을 생각하면, 이 $1/L^2$ 이 왜 스케일링의 어느 지점부터 무시할 수 없어지는지가 보인다. 반전층이 얇아지면 캐리어가 2차원 서브밴드에 갇히고, 상태밀도가 계단꼴로 바뀌며, 문턱전압이 그만큼 밀린다.

그런데 실제 MOS 반전층은 삼각 우물에 가깝고( $q = -V$ 가 선형), 그때는 $\sin$ 이 아니라 에어리 함수가 답이 된다. 답의 모양은 달라도 이 절의 논리 — 경계조건이 고유값을 걸러 낸다 — 는 그대로다.

고유함수의 직교성과 실수 고유값

고유값이 실수인 이유

$\mathcal{L}y + \lambda w y = 0$ 의 켤레를 취한다. $p, q, w$ 가 실함수이므로 $\mathcal{L}$ 은 켤레를 통과하고

\mathcal{L}\overline{y} + \overline{\lambda}\,w\,\overline{y} = 0

이다. 즉 $\overline{y}$ 는 고유값 $\overline{\lambda}$ 의 고유함수다. 두 식을 그린 항등식에 $u = \overline{y}$ , $v = y$ 로 넣는다. 경계항은 0이므로

\int_a^b \big(\overline{y}\,\mathcal{L}y - y\,\mathcal{L}\overline{y}\big)\,dx = 0

이고, $\mathcal{L}y = -\lambda w y$ 와 $\mathcal{L}\overline{y} = -\overline{\lambda} w \overline{y}$ 를 대입하면

\big(\overline{\lambda} - \lambda\big)\int_a^b w\,\lvert y\rvert^2\,dx = 0

이제 결정적인 한 걸음이다. $w > 0$ 이고 $\lvert y\rvert^2 \ge 0$ 이며 $y$ 가 항등적으로 0이 아니므로 적분은 반드시 양수다. 따라서 $\overline{\lambda} = \lambda$ , 즉 $\lambda$ 는 실수다.

주의

$w > 0$ 이라는 조건이 장식이 아니다. 만약 $w$ 가 구간 어딘가에서 부호를 바꾼다면 위 적분이 0이 될 수 있고, 그러면 $\lambda$ 가 복소수여도 모순이 없다. 실제로 무게가 부호를 바꾸는 문제(부정 스투름–리우빌 문제)에서는 복소 고유값이 나온다. Kreyszig는 이 조건을 “ $r$ 이 구간 전체에서 양이거나 전체에서 음”으로 적는다(§11.5, 증명은 부록 4) — 요점은 부호 자체가 아니라 부호가 바뀌지 않는 것이다.

유한 차원에서 이 자리에 있던 것은 " $\mathbf{x}^{\dagger}\mathbf{x} > 0$ "이었고, 일반화 고유값 문제 $K\mathbf{x} = \lambda \mathsf{M}\mathbf{x}$ 에서는 “ $\mathsf{M}$ 이 양의 정부호”였다 (1.3.8정규 행렬). $w > 0$ 은 그 조건의 연속판이다 — 무게함수가 양의 정부호인 질량행렬 노릇을 한다.

$\lambda$ 가 실수이므로 고유함수도 실수로 잡을 수 있다. $y$ 가 해면 $\overline{y}$ 도 같은 고유값의 해이고, 축퇴가 없으니 $\overline{y} = cy$ 이며, 크기를 맞추면 실함수가 된다. 이제부터 고유함수는 실함수로 둔다.

직교성

서로 다른 고유값 $\lambda_m \neq \lambda_n$ 의 고유함수 $y_m, y_n$ 을 그린 항등식에 넣는다.

\int_a^b \big(y_m \mathcal{L}y_n - y_n \mathcal{L}y_m\big)\,dx = \Big[\,p\,(y_m y_n' - y_n y_m')\,\Big]_a^b = 0

왼쪽에 $\mathcal{L}y_n = -\lambda_n w y_n$ 을 대입하면

\big(\lambda_m - \lambda_n\big)\int_a^b y_m\,y_n\,w\,dx = 0

$\lambda_m \neq \lambda_n$ 이므로 적분이 0이다.

\boxed{\;\int_a^b y_m(x)\,y_n(x)\,w(x)\,dx = 0 \qquad (m \neq n)\;}

무게 $w$ 에 대해 직교한다. 노름까지 넣어 쓰면

\langle y_m, y_n\rangle_w \equiv \int_a^b y_m\,y_n\,w\,dx = \lVert y_n\rVert_w^2\,\delta_{mn}

이다. 정규화( $\lVert y_n\rVert_w = 1$ )까지 하면 오른쪽이 그냥 $\delta_{mn}$ 이 된다.

의문

증명이 어디서 깨질 수 있는지를 실제 예로 확인해 두자(Arfken 연습 8.2.6). 르장드르 방정식의 두 해 $P_1(x) = x$ ( $\lambda = 2$ )와 $Q_0(x) = \tfrac12\ln\frac{1+x}{1-x}$ ( $\lambda = 0$ )는 서로 다른 고유값에 속한다. 그런데

\int_{-1}^{1} x\cdot\tfrac12\ln\frac{1+x}{1-x}\,dx = 1 \;\neq\; 0

이다. 직교하지 않는다. 어디가 잘못됐나?

경계항이다. $p = 1 - x^2$ 은 $x = \pm1$ 에서 0이지만 $Q_0' = 1/(1-x^2)$ 이 같은 속도로 터져서 $p\,Q_0' \to 1$ 이다. 그린 항등식의 오른쪽을 계산하면 $\big[p\,(P_1 Q_0' - Q_0 P_1')\big]_{-1}^{1} = [x]_{-1}^{1} = 2$ 이고, 왼쪽은 $(2 - 0)\int P_1 Q_0\,dx = 2$ 로 정확히 맞아떨어진다 — 항등식은 멀쩡하고, 경계항이 0이라는 가정만 무너진 것이다.

특이 문제의 “유계일 것”이 왜 진짜 조건인지가 여기서 보인다. $Q_0$ 은 $x = \pm1$ 에서 유계가 아니므로 애초에 이 고유값 문제의 함수공간 밖에 있고, 그런 함수와는 직교성이 보장되지 않는다. 경계조건은 방정식에 덧붙는 장식이 아니라 어떤 함수들 사이에서 정리가 성립하는지를 정하는 울타리다.

무게함수가 하는 일

직관

$w$ 가 왜 붙는가. 세 가지로 답할 수 있고, 셋이 같은 말이다.

① 저울로 보면. 직교란 “두 함수의 곱을 구간 전체에서 더하니 상쇄되더라”이고, $w$ 는 그 더하기에서 각 자리에 얼마나 비중을 둘지를 정한다. 어떤 자리를 무겁게 세느냐에 따라 같은 두 함수가 직교이기도 하고 아니기도 하다.

② 좌표변환으로 보면. 무게는 대개 좌표계의 부피 요소다. 원통 좌표에서 넓이 요소가 $r\,dr\,d\theta$ 라서 반지름 방향 적분에 $r$ 이 붙고, 그래서 베셀 문제의 무게가 $w = x$ 였다. 곡선좌표계의 척도인자가 여기서 다시 나온 것이다(1.1.8곡선좌표계).

③ 질량행렬로 보면. 일반화 고유값 문제 $K\mathbf{x} = \lambda \mathsf{M}\mathbf{x}$ 에서 직교성이 $\mathbf{x}_m^{\mathsf{T}}\mathsf{M}\mathbf{x}_n = 0$ 이었던 것과 같다. $w$ 가 $\mathsf{M}$ 자리에 있다.

어느 쪽으로 보든 결론은 하나다 — 무게는 장식이 아니라 직교성의 일부다. “ $y_m$ 과 $y_n$ 이 직교한다”는 말은 반드시 “어떤 무게에 대해”를 달고 다녀야 한다.

그림 1.6-4. 라게르 다항식 L₀ = 1과 L₁ = 1 − x 로 확인한 무게의 역할. 무게 없이 곱해 적분하면 값이 발산해 직교를 논할 수조차 없고, e⁻ˣ를 끼우면 양의 넓이 +1/e 와 음의 넓이 −1/e 가 정확히 상쇄된다. 두 넓이는 눈에 아주 다르게 보인다 — 왼쪽 것은 좁고 높고 오른쪽 것은 넓고 얕다 — 지만 값은 같다.직접 작도

축퇴가 있으면 그람–슈미트

주기 경계조건처럼 축퇴가 있는 문제에서는 같은 고유값의 두 고유함수가 저절로 직교하지는 않는다. 위 증명이 $\lambda_m \neq \lambda_n$ 을 썼기 때문이다. 이때는 유한 차원에서와 똑같이 같은 고유값끼리는 손으로 직교화한다(1.2.5벡터공간과 내적공간). 서로 다른 고유값끼리는 저절로 직교하므로 각 고유공간 안에서만 그람–슈미트를 돌리면 된다.

$\sin$ 과 $\cos$ 이 이미 직교해 있는 것은 운이 좋아서가 아니라, 그 둘이 또 다른 대칭성의 고유함수이기 때문이다 — 반전 $x \to -x$ 에 대해 하나는 짝, 하나는 홀이다. 1.3.5에서 교환하는 두 연산자를 동시에 대각화했던 그 요령이 여기서도 통한다.

정규화 관례는 책마다 다르다

주의

고유함수는 상수배만큼의 자유가 남는다. 그 자유를 어떻게 쓰느냐가 책마다 달라서, 같은 함수의 계수가 다르게 적혀 있는 일이 흔하다.

르장드르는 $P_\ell(1) = 1$ 로 고정한다. 그래서 $\int_{-1}^{1}P_\ell^2\,dx = \frac{2}{2\ell+1}$ 이라는 어정쩡한 값이 나온다 — 정규직교가 아니라 직교일 뿐이다.
구면조화함수 $Y_\ell^m$ 은 반대로 $\int \lvert Y\rvert^2 d\Omega = 1$ 로 정규화한다.
에르미트 다항식은 물리학 관례( $H_n$ , 무게 $e^{-x^2}$ )와 확률론 관례( $He_n$ , 무게 $e^{-x^2/2}$ )가 갈린다. 최고차 계수가 $2^n$ 이냐 $1$ 이냐로 구별한다.

표기가 갈리면 그 장의 기준 교재를 따른다. 계수 하나가 틀리면 전개 계수가 전부 어긋나므로, 다른 책의 공식을 옮겨 올 때는 정규화 관례를 먼저 확인해야 한다.

주요 직교계의 관계식을 한자리에 모아 둔다.

함수계	무게 $w$	구간	직교 관계
$\sin\frac{n\pi x}{L}$	$1$	$[0, L]$	$\int = \frac{L}{2}\delta_{mn}$
$P_\ell(x)$	$1$	$[-1, 1]$	$\int = \frac{2}{2\ell+1}\delta_{\ell\ell'}$
$T_n(x)$	$\frac{1}{\sqrt{1-x^2}}$	$[-1, 1]$	$\int = \frac{\pi}{2}\delta_{mn}$ ( $n \ge 1$ )
$J_n(\alpha_{nk}x/a)$	$x$	$[0, a]$	$\int = \frac{a^2}{2}J_{n+1}^2(\alpha_{nk})\,\delta_{kk'}$
$H_n(x)$	$e^{-x^2}$	$(-\infty, \infty)$	$\int = 2^n n!\sqrt{\pi}\,\delta_{mn}$
$L_n(x)$	$e^{-x}$	$[0, \infty)$	$\int = \delta_{mn}$

베셀만 조금 다르게 읽어야 한다. 여기서 지표를 다는 것은 차수 $n$ 이 아니라 영점의 번호 $k$ 다. 고유값이 $\lambda = (\alpha_{nk}/a)^2$ 이고, 서로 다른 $k$ 끼리 직교한다. 차수 $n$ 이 다른 두 베셀 함수는 서로 직교하지 않는다 — 애초에 다른 고유값 문제의 해라서 비교 대상이 아니다.

체비셰프는 무게 $1/\sqrt{1-x^2}$ 이 어디서 왔는지가 눈에 보이는 예다. $x = \cos\theta$ 로 두면 $T_n(x) = \cos n\theta$ 이고 $dx/\sqrt{1-x^2} = -d\theta$ 라, 직교 관계가 $\int_0^\pi \cos m\theta\cos n\theta\,d\theta$ — 그냥 푸리에 코사인의 직교성 — 로 돌아간다(Kreyszig §11.5 팀 프로젝트 14). 무게는 변수를 바꾸면서 딸려 온 야코비안이었다. 위 상자의 ②를 가장 단순하게 보여 주는 경우다.

직교 함수계와 일반화 푸리에 급수

직관

1.2.5벡터공간과 내적공간에서 정규직교기저 $\{\mathbf{e}_k\}$ 가 있으면 임의의 벡터를

\mathbf{v} = \sum_k \langle \mathbf{e}_k, \mathbf{v}\rangle\,\mathbf{e}_k

로 쪼갤 수 있었다. 각 성분을 뽑는 데 다른 성분을 알 필요가 없다는 것이 정규직교기저의 전부였다 — $\mathbf{e}_k$ 와 내적을 취하면 나머지가 전부 0으로 죽는다.

3절에서 고유함수가 직교한다는 것을 확인했으니 같은 공식을 그대로 쓸 수 있다. 달라지는 것은 내적에 무게가 붙는다는 것뿐이다. 함수를 고유함수로 쪼갠 것을 일반화 푸리에 급수라 하고, 고유함수가 $\sin$ 과 $\cos$ 인 특수한 경우가 우리가 아는 푸리에 급수다.

계수 공식

구간 $[a, b]$ 에서 정의된 함수 $f$ 를 고유함수 $\{y_n\}$ 으로 전개한다.

f(x) = \sum_{n=1}^{\infty} c_n\,y_n(x)

양변에 $y_m\,w$ 를 곱하고 적분하면 직교성 때문에 $n = m$ 인 항만 살아남는다.

\int_a^b f\,y_m\,w\,dx = \sum_n c_n \int_a^b y_n\,y_m\,w\,dx = c_m\,\lVert y_m\rVert_w^2

\boxed{\;c_n = \frac{\langle y_n, f\rangle_w}{\lVert y_n\rVert_w^2} = \frac{\displaystyle\int_a^b f(x)\,y_n(x)\,w(x)\,dx}{\displaystyle\int_a^b y_n^2(x)\,w(x)\,dx}\;}

계수 하나를 구하는 데 적분 하나면 된다. 다른 계수를 몰라도 되고, 연립방정식을 풀 일도 없다. 이것이 직교기저를 쓰는 이유 전부다.

한 가지를 외상으로 달았다 — 양변에 곱해 적분할 때 급수와 적분의 순서를 바꿨다. Kreyszig는 이것이 균등 수렴이면 정당하다고 짚고 넘어간다(§11.6). 5절에서 수렴의 종류를 굳이 가르는 이유 중 하나가 이 자리다.

왜 하필 최소제곱인가

계수를 “직교성으로 뽑았다”고만 하면 왜 그것이 좋은 근사인지는 아직 답이 안 된다. 답은 그 계수가 최소제곱 오차를 최소화한다는 것이다.

앞 $N$ 항으로 자른 근사 $S_N = \sum_{n=1}^{N} a_n y_n$ 을 놓고, 무게 붙은 제곱오차

E_N = \int_a^b \big(f - S_N\big)^2\,w\,dx

를 $a_1, \dots, a_N$ 에 대해 최소화한다. 전개하면

E_N = \lVert f\rVert_w^2 - 2\sum_{n=1}^{N} a_n \langle y_n, f\rangle_w + \sum_{n=1}^{N} a_n^2 \lVert y_n\rVert_w^2

교차항 $a_m a_n$ 이 직교성 때문에 전부 사라졌다는 점이 결정적이다. 남은 것은 $a_n$ 각각에 대한 독립적인 이차식이고, 완전제곱으로 묶으면

E_N = \lVert f\rVert_w^2 - \sum_{n=1}^{N} c_n^2\lVert y_n\rVert_w^2 + \sum_{n=1}^{N}\big(a_n - c_n\big)^2\lVert y_n\rVert_w^2

마지막 합만 $a_n$ 에 의존하고 제곱이므로, $a_n = c_n$ 일 때 최소다.

직관

여기서 놓치면 안 되는 것은 최소값 자체가 아니라 $c_n$ 이 $N$ 에 전혀 의존하지 않는다는 사실이다. 항을 하나 더 붙여도 앞의 계수를 다시 계산할 필요가 없다.

다항식 최소제곱과 비교하면 이 성질이 얼마나 특별한지 보인다. $f$ 를 $1, x, x^2$ 로 근사했다가 $x^3$ 을 추가하면 앞의 세 계수가 전부 바뀐다. $\{1, x, x^2, x^3\}$ 이 직교기저가 아니기 때문이다. 직교기저에서는 그런 일이 없다 — 새 항은 앞의 항들이 손대지 않은 방향만 채운다.

계산으로 옮기면 이렇다. 일반 기저에서는 $N \times N$ 연립방정식을 매번 새로 풀어야 하고 ( $N$ 이 커지면 조건수도 나빠진다, 1.2.4역행렬), 직교기저에서는 적분 $N$ 개를 각각 독립으로 계산하면 끝이다. 8절의 리츠법이 기저를 직교로 잡을 수 있으면 잡으려 하는 이유가 여기 있다.

베셀 부등식과 파스발 등식

위 식에서 $a_n = c_n$ 을 넣으면 최소 오차가 나온다.

E_N^{\min} = \lVert f\rVert_w^2 - \sum_{n=1}^{N} c_n^2\,\lVert y_n\rVert_w^2 \;\ge\; 0

왼쪽이 제곱의 적분이라 음수일 수 없으므로 베셀 부등식이 따라온다.

\sum_{n=1}^{N} c_n^2\,\lVert y_n\rVert_w^2 \;\le\; \lVert f\rVert_w^2 \qquad (\text{모든 } N)

왼쪽은 $N$ 이 커질수록 단조 증가하는데 위로 막혀 있으니 반드시 수렴한다. 그 극한이 오른쪽과 같아지는가가 다음 절의 질문이고, 같아질 때 이것을 파스발 등식이라 부른다.

\sum_{n=1}^{\infty} c_n^2\,\lVert y_n\rVert_w^2 = \lVert f\rVert_w^2

직관

파스발 등식은 피타고라스 정리다. 정규직교기저에서 벡터의 길이 제곱이 성분 제곱의 합이라는 것 — $\lVert\mathbf{v}\rVert^2 = \sum_k \lvert v_k\rvert^2$ — 이 무한 차원으로 올라온 것이다.

물리에서는 대개 에너지 보존으로 읽힌다. 진동하는 현의 전체 에너지가 각 정규모드의 에너지 합과 같고, 신호의 전체 전력이 각 주파수 성분의 전력 합과 같다. 양자역학에서는 $\sum_n \lvert c_n\rvert^2 = 1$ — 확률의 합이 1 — 이 된다.

그리고 이 등식이 성립한다는 것이 곧 “기저가 빠짐없다”는 말이다. 빠뜨린 방향이 있으면 그 방향의 길이만큼 왼쪽이 모자라기 때문이다.

예제 — 상수함수를 사인으로 전개한다

구간 $[0, 1]$ 에서 $y'' + \lambda y = 0$ , $y(0) = y(1) = 0$ 의 고유함수는 $y_n = \sin n\pi x$ , $\lVert y_n\rVert^2 = \tfrac12$ 이다( $w = 1$ ). $f(x) = 1$ 을 전개하면

c_n = 2\int_0^1 \sin n\pi x\,dx = \frac{2}{n\pi}\big(1 - \cos n\pi\big) = \begin{cases} \dfrac{4}{n\pi} & n \text{ 홀수} \\[4pt] 0 & n \text{ 짝수}\end{cases}

1 = \frac{4}{\pi}\left(\sin\pi x + \frac{\sin 3\pi x}{3} + \frac{\sin 5\pi x}{5} + \cdots\right), \qquad 0 < x < 1

의문

왼쪽은 상수 1인데 오른쪽의 모든 항이 $x = 0$ 과 $x = 1$ 에서 0이다. 등식이 어떻게 성립하는가?

성립하지 않는다 — 양 끝점에서는. 등식이 유효한 것은 열린 구간 $0 < x < 1$ 안쪽뿐이고, 끝점에서는 오른쪽이 0이라 왼쪽의 1과 다르다. 이것이 5절에서 다룰 “수렴한다는 말이 무슨 뜻인가”의 첫 신호다.

더 정확히 말하면 급수는 $f$ 를 홀수 주기 확장한 것으로 수렴한다 — $(-1, 0)$ 에서는 $-1$ , $(0,1)$ 에서는 $+1$ 인 사각파다. $x = 0$ 은 그 사각파의 도약점이고, 급수는 도약의 중간값 0으로 수렴한다. 5절의 그림이 바로 이 급수의 부분합이다.

$x = 1/2$ 를 넣으면 덤으로 라이프니츠 급수가 나온다 — $\frac{\pi}{4} = 1 - \frac13 + \frac15 - \frac17 + \cdots$ .

예제 — 사인을 르장드르로, 포물선을 베셀로

Kreyszig §11.6의 두 예를 같은 공식으로 따라가 본다. 무게와 노름만 바뀐다.

푸리에–르장드르. $[-1, 1]$ 에서 $f(x) = \sin\pi x$ 를 $P_m$ 으로 전개한다. $w = 1$ , $\lVert P_m\rVert^2 = \frac{2}{2m+1}$ 이므로

a_m = \frac{2m+1}{2}\int_{-1}^{1}\sin(\pi x)\,P_m(x)\,dx, \qquad a_1 = \frac{3}{2}\cdot\frac{2}{\pi} = 0.95493

\begin{aligned} \sin\pi x ={}& 0.95493\,P_1 - 1.15824\,P_3 + 0.21929\,P_5 \\ &- 0.01664\,P_7 + 0.00068\,P_9 - 0.00002\,P_{11} + \cdots \end{aligned}

짝수 항은 전부 0이다 — $\sin\pi x$ 가 홀함수이고 $P_{2k}$ 가 짝함수라 적분이 사라진다. 그리고 계수가 자릿수 단위로 줄어든다. 세 항만 더해도 사인 곡선과 눈으로 구별되지 않는다.

푸리에–베셀. $[0, 1]$ 에서 $f(x) = 1 - x^2$ 을 $J_0(\alpha_{0m}x)$ 로 전개한다. $\alpha_{0m} = 2.405, 5.520, 8.654, 11.792, \dots$ 는 $J_0$ 의 영점이고, 무게는 $w = x$ , 노름은 3절 표의 $\tfrac12 J_1^2(\alpha_{0m})$ 이다.

a_m = \frac{2}{J_1^2(\alpha_{0m})}\int_0^1 x\,(1 - x^2)\,J_0(\alpha_{0m}x)\,dx = \frac{4\,J_2(\alpha_{0m})}{\alpha_{0m}^2\,J_1^2(\alpha_{0m})}

\begin{aligned} 1 - x^2 ={}& 1.1081\,J_0(2.405x) - 0.1398\,J_0(5.520x) \\ &+ 0.0455\,J_0(8.654x) - 0.0210\,J_0(11.792x) + \cdots \end{aligned}

적분은 1.5.8베셀 함수(제1·2종·수정·구면)의 점화식 $[x J_1(\lambda x)]' = \lambda x J_0(\lambda x)$ 로 한 번 부분적분하고 $[x^2 J_2(\lambda x)]' = \lambda x^2 J_1(\lambda x)$ 로 한 번 더 한 것이다. Kreyszig는 여기서도 세 항의 합이 원래 곡선과 사실상 겹친다고 적는다.

직관

세 예제를 나란히 두면 5절의 표가 미리 보인다. 상수함수의 사인 급수는 계수가 $4/(n\pi)$ — $1.27, 0.42, 0.25, 0.18, \dots$ — 로 느리게 줄었다. $f = 1$ 이 경계조건 $y(0) = 0$ 을 어겼기 때문이다. $1 - x^2$ 의 베셀 급수는 $x = 1$ 에서 0이라 경계조건 $J_0(\alpha_{0m}) = 0$ 과 맞아떨어지고, 계수가 $1.11, 0.14, 0.046, 0.021$ 로 훨씬 빨리 죽는다. $\sin\pi x$ 의 르장드르 급수는 그보다도 빠른데, 르장드르는 특이 문제라 양 끝에 어길 경계조건 자체가 없기 때문이다 — 매끄러운 함수는 무엇을 넣어도 계수가 급전직하한다.

계수가 얼마나 빨리 줄어드는가는 $f$ 의 매끄러움과 경계조건이 정한다. 5절이 이 문장을 표로 만든다.

어떤 급수를 쓸지는 경계조건이 정한다

같은 함수 $f$ 를 사인으로도 코사인으로도 전개할 수 있다. 무엇을 고르는가는 취향이 아니라 풀려는 문제의 경계조건이 정한다.

문제의 경계조건	고유함수	급수
양 끝 온도 고정	$\sin\frac{n\pi x}{L}$	사인 급수
양 끝 단열	$\cos\frac{n\pi x}{L}$	코사인 급수
한쪽 고정, 한쪽 단열	$\sin\frac{(2n-1)\pi x}{2L}$	반정수 사인 급수
주기 경계	$\sin$ , $\cos$ 둘 다	완전 푸리에 급수
원판 위	$J_n(\alpha_{nk}r/a)$	베셀–푸리에 급수
구면 위	$P_\ell(\cos\theta)$	르장드르 급수

직관

왜 경계조건이 정하는가. 급수의 각 항이 이미 그 경계조건을 만족하고 있어야 합도 만족하기 때문이다. 온도가 양 끝에서 0이어야 하는 문제에 코사인 급수를 쓰면 각 항이 끝에서 0이 아니라, 합을 아무리 잘 맞춰도 경계에서 어긋난다.

이것이 1.7의 변수분리법이 돌아가는 방식이다 — PDE를 공간 변수마다 하나씩의 스투름–리우빌 문제로 쪼개면, 각 변수의 경계조건이 그 방향의 고유함수를 정하고, 남은 시간 변수는 ODE 하나로 떨어진다. 어떤 특수함수가 나올지는 좌표계와 경계조건이 미리 정해 놓는다. 직교좌표에서 $\sin$ · $\cos$ , 원통좌표에서 베셀, 구좌표에서 르장드르가 나오는 것이 우연이 아닌 이유다.

완전성과 수렴

직관

4절에서는 “ $f = \sum c_n y_n$ 으로 쓸 수 있다”고 태연히 적었지만, 실은 두 가지를 외상으로 달아 둔 것이다.

① 고유함수들이 정말 빠짐없는가. 유한 차원에서는 개수를 세어 확인했다 — $n$ 차원에 독립인 고유벡터가 $n$ 개 있으면 그것으로 끝이었다. 무한 차원에서는 셀 수가 없다. “무한히 많다”는 것만으로는 부족하다.

② 수렴한다는 말이 무슨 뜻인가. 각 점에서 수렴하는 것과 평균적으로 수렴하는 것과 고르게 수렴하는 것은 서로 다른 요구다. 스투름–리우빌 이론이 보장하는 것은 그중 하나뿐이고, 나머지 둘은 $f$ 가 얼마나 얌전한지에 달려 있다.

이 절이 그 외상을 정리한다. 그리고 정리하고 나면 깁스 현상이라는 유명한 함정이 왜 함정이 아니라 당연한 결과인지가 드러난다.

세 가지 수렴은 다른 요구다

이름	정의	뜻
평균제곱(L²) 수렴	$\displaystyle\int_a^b (f - S_N)^2 w\,dx \to 0$	어긋난 넓이가 0으로
점별 수렴	각 $x$ 에서 $S_N(x) \to f(x)$	점마다 따로 맞아 간다
균등 수렴	$\displaystyle\max_x \lvert f - S_N\rvert \to 0$	가장 나쁜 점까지 맞아 간다

셋의 관계는 균등 $\Rightarrow$ 점별, 균등 $\Rightarrow$ 평균제곱이고, 그 밖에는 아무 함의도 없다. 평균제곱으로 수렴하면서 어떤 점에서는 전혀 수렴하지 않는 것도 가능하고, 점마다 수렴하면서 균등하게는 수렴하지 않는 것도 가능하다.

완전성 정리

정규 스투름–리우빌 문제의 고유함수 $\{y_n\}$ 은 완전하다. 즉 $\int_a^b f^2 w\,dx$ 가 유한한 임의의 $f$ 에 대해

\lim_{N \to \infty}\int_a^b \big(f - S_N\big)^2\,w\,dx = 0

이고, 따라서 파스발 등식이 성립한다. 특이 문제 중에서도 르장드르·베셀·에르미트·라게르는 각자의 구간과 무게에 대해 완전하다.

Kreyszig(§11.6)는 완전성을 이렇게 정의한다 — 정규직교계 $\{y_m\}$ 이 함수 집합 $S$ 에서 완전하다는 것은, $S$ 의 어떤 $f$ 든 아무리 작은 $\epsilon > 0$ 에 대해서도 유한 개의 선형결합으로 $\lVert f - (a_0y_0 + \cdots + a_ky_k)\rVert < \epsilon$ 이 되게 할 수 있다는 것이다 (요즘 수학책은 이것을 전체(total)라 부른다). 정의에 등장하는 거리가 노름, 즉 평균제곱이라는 점이 핵심이다.

그리고 그로부터 한 가지가 따라 나온다(Kreyszig 정리 2). 완전한 직교계의 모든 원소와 직교하는 함수는 노름이 0이다 — 연속함수라면 항등적으로 0이다. 파스발 등식의 왼쪽이 0이면 오른쪽 $\lVert f\rVert$ 도 0이기 때문이다. “빠짐없다”를 검사 가능한 문장으로 바꾼 것이 이것이다 — 어떤 함수도 모든 고유함수에 동시에 숨을 수 없다.

의문

증명은 왜 이 백과에 없는가. 어렵기 때문이다 — 그리고 그 어려움이 어디서 오는지는 말해 둘 만하다.

유한 차원에서 완비성은 세는 문제였다. 독립인 고유벡터가 차원 수만큼 있는지만 확인하면 끝이었다. 무한 차원에서는 셀 수가 없으니 다른 길이 필요하고, 표준적인 길은 두 갈래다.

① 콤팩트 연산자로 되돌린다. $\mathcal{L}$ 의 역연산자(그린 함수를 핵으로 하는 적분 연산자)가 콤팩트 자기수반 연산자라는 것을 보이고, 콤팩트 자기수반 연산자에 대한 스펙트럼 정리를 가져다 쓴다. 미분 연산자는 유계가 아니라 다루기 나쁜데 그 역이 얌전하다는 것이 요령이다 — 1.8의 그린 함수가 여기서 이론적 역할을 한다.

② 변분법으로 하나씩 만들어 간다. 레일리 몫을 최소화해 $y_1$ 을 얻고, $y_1$ 에 직교하는 함수들 안에서 다시 최소화해 $y_2$ 를 얻고, 이것을 반복한다. 이 과정에서 빠뜨린 방향이 없음을 보인다. 6~8절이 준비하는 것이 정확히 이 길이고, 그래서 변분법이 이 장에 함께 들어 있다. Arfken도 22장 서두에서 “변분 해석이 스투름–리우빌 고유함수의 완전성 증명을 준다”고 예고만 하고, §8.5 요약에서는 완전성을 증명 없이 성질 3번으로 적는다.

어느 쪽이든 실해석의 도구가 필요해 여기서는 결과만 쓴다. 대신 결과를 정확히 기억할 것 — 보장되는 것은 평균제곱 수렴뿐이다.

점별 수렴은 함수가 얼마나 얌전한지에 달렸다

평균제곱 수렴은 공짜지만 점별 수렴은 대가를 요구한다. 표준적인 충분조건(디리클레 조건)은 이렇다 — $f$ 가 구간에서 조각별로 매끄럽고, 도약이 유한 개면

S_N(x) \longrightarrow \begin{cases} f(x) & f \text{ 가 } x \text{ 에서 연속} \\[4pt] \dfrac{f(x^+) + f(x^-)}{2} & x \text{ 가 도약점} \end{cases}

도약점에서는 중간값으로 수렴한다. 4절 예제에서 $x = 0$ 의 급수 값이 0이었던 것이 이것이다 — $(-1 + 1)/2 = 0$ .

깁스 현상 — 균등 수렴은 끝내 오지 않는다

그림 1.6-5. 사각파의 사인 급수 부분합. 항을 늘리면 평평한 구간은 점점 정확해지지만 도약 근처의 뿔은 낮아지지 않는다. 넘침의 높이는 도약 크기의 8.95%로 고정이고, 줄어드는 것은 뿔의 폭뿐이다. 폭이 0으로 가므로 넘치는 부분의 넓이는 0으로 가고, 그래서 평균제곱 수렴은 성립한다 — 균등 수렴만 성립하지 않는다.직접 작도

도약이 있는 함수에서 부분합은 도약 근처에서 반드시 넘친다. 넘치는 양은

\frac{1}{\pi}\int_0^{\pi}\frac{\sin t}{t}\,dt - \frac12 \approx 0.0895

즉 도약 크기의 약 **8.95%**이고, 이 값은 $N$ 과 무관하다. $N$ 을 키우면 뿔이 도약점 쪽으로 좁아질 뿐 낮아지지 않는다.

직관

평균제곱 수렴과 균등 수렴이 어떻게 갈리는지를 이 그림 하나가 보여 준다.

뿔의 높이는 상수이고 폭은 $1/N$ 로 줄어든다. 그러니 $\max\lvert f - S_N\rvert \approx 0.0895 \times (\text{도약})$ 은 줄지 않고 — 균등 수렴 실패 — 오차의 제곱 적분은 $(\text{높이})^2 \times (\text{폭}) \sim 1/N \to 0$ 이다 — 평균제곱 수렴 성립. 두 척도가 서로 다른 답을 주는 교과서적인 예다.

원인을 한 줄로 말하면 이렇다. 부분합은 $f$ 를 디리클레 핵과 합성곱한 것인데, 그 핵이 진동하면서 꼬리가 $1/t$ 로만 감쇠한다. 절댓값의 적분이 발산하는 꼬리라 도약을 만나면 반드시 출렁인다. 항을 늘리면 출렁임이 좁은 영역으로 몰릴 뿐 사라지지 않는다.

계수는 얼마나 빨리 줄어드는가

수렴 속도는 $f$ 의 매끄러움이 정한다. 사인 급수에서 부분적분을 한 번 해 보면 정체가 드러난다.

\begin{aligned} c_n &= \frac{2}{L}\int_0^L f\,\sin\frac{n\pi x}{L}\,dx \\[4pt] &= \frac{2}{n\pi}\Big[f(0) - (-1)^n f(L)\Big] + \frac{2}{n\pi}\int_0^L f'\cos\frac{n\pi x}{L}\,dx \end{aligned}

첫 덩어리가 $1/n$ 짜리 항이고, $f$ 가 경계조건을 만족하면 그것이 통째로 사라진다. 계속 반복하면 규칙이 나온다.

$f$ 가 어떤가	$c_n$ 의 감쇠	수렴
도약이 있다	$\sim 1/n$	평균제곱만. 깁스 발생
연속이지만 $f'$ 에 도약	$\sim 1/n^2$	균등 수렴
매끄럽지만 경계조건 불일치	$\sim 1/n$ 또는 $1/n^2$	경계에서 느리다
매끄럽고 경계조건까지 일치	지수적	아주 빠르다

반도체에서 이것이 물리는 곳

급격한 접합. 계단 도핑 프로파일이나 이종접합의 밴드 불연속처럼 도약이 있는 양을 전역 기저로 전개하면 깁스 진동이 그대로 나온다. 스펙트럼 방법이 급격한 계면을 만나면 물리적으로 있을 수 없는 캐리어 농도 음수값을 뱉는 이유가 이것이다.
국소 기저로 피한다. 유한요소법이나 유한체적법은 구간마다 다른 저차 다항식을 쓰므로 전역적인 진동이 생기지 않는다. 대신 계면 근처에 격자를 촘촘히 깔아야 하는 대가를 치른다. 8절에서 리츠법이 국소 기저로 옮겨 가는 대목이 이 이야기다.
확산 프로파일. 유한 두께 웨이퍼의 확산을 푸리에 급수로 풀면(1.7.8) 계수가 $e^{-\lambda_n Dt}$ 로 감쇠한다. 고유값이 $n^2$ 로 커지므로 높은 항이 지수적으로 빨리 죽고, 조금만 시간이 지나면 첫 항 하나가 답을 지배한다. 급격했던 초기 프로파일이 시간이 지나면 부드러운 코사인 하나로 수렴하는 것 — 확산이 모든 것을 뭉개는 이유가 이 스펙트럼 그림이다.

변분법과 오일러 방정식

직관

여기서 갑자기 화제가 바뀌는 것처럼 보이지만 아니다. 다리를 미리 놓아 둔다.

1절부터 5절까지는 미분방정식이 주어졌을 때 그 해를 찾았다. 변분법은 반대 방향이다 — 어떤 양을 최소로 만드는 함수를 찾다 보니 미분방정식이 튀어나온다. 그리고 7절 끝에서 확인하겠지만, “ $\int(p y'^2 - q y^2)dx$ 를 $\int w y^2 dx = 1$ 아래에서 최소화하라”는 문제의 답이 정확히 스투름–리우빌 방정식이고, 그 문제의 라그랑주 승수가 정확히 고유값이다.

같은 물건을 두 방향에서 보는 것이 왜 이득인가. 최소화 문제 쪽이 근사에 훨씬 관대하기 때문이다. 미분방정식을 근사로 풀면 근사한 만큼 답이 틀리는데, 최소화 문제를 근사로 풀면 오차가 제곱으로 줄어든다. 8절이 그 사실을 계산법으로 바꾼다.

함수를 받아 수를 내놓는 것

보통의 함수는 수를 받아 수를 내놓는다. 범함수는 함수를 통째로 받아 수 하나를 내놓는다.

J[y] = \int_a^b F\big(x,\ y(x),\ y'(x)\big)\,dx

대괄호가 “함수를 받는다”는 표시다. 곡선 $y$ 하나를 정하면 적분값 하나가 나오고, 우리가 찾는 것은 그 값을 가장 작게(또는 크게) 만드는 곡선이다. 양 끝점은 고정한다 — $y(a) = A$ , $y(b) = B$ .

문제	$F$	무엇을 최소화하나
두 점 사이 최단 경로	$\sqrt{1 + y'^2}$	길이
최속강하선	$\sqrt{\dfrac{1+y'^2}{2gy}}$	내려오는 시간
최소 회전면	$y\sqrt{1+y'^2}$	겉넓이
매달린 사슬	$y\sqrt{1+y'^2}$	위치에너지
고전역학	$T - V$	작용

오일러 방정식

극값을 주는 곡선을 $\bar y(x)$ 라 하고, 그 주위를 흔들어 본다.

y(x, \alpha) = \bar y(x) + \alpha\,\eta(x), \qquad \eta(a) = \eta(b) = 0

$\eta$ 는 아무 함수나 좋다 — 매끄럽고 양 끝에서 0이기만 하면 된다. 양 끝에서 0이어야 하는 이유는 끝점이 고정되어 있어서다.

그림 1.6-6. 끝점을 고정한 채 경로를 흔든 그림. 굵은 선이 극값을 주는 경로이고, 점선이 그것을 α만큼 흔든 이웃 경로다. 흔드는 방향 η는 아무 함수나 좋지만 양 끝에서는 반드시 0이어야 한다 — 끝점이 못 움직이기 때문이다. 이 '아무 함수나'가 다음 단계에서 결정적으로 쓰인다.직접 작도

이제 $J$ 는 $\alpha$ 하나의 함수 $J(\alpha)$ 가 되었고, $\alpha = 0$ 에서 극값이니 $J'(0) = 0$ 이다. 미분을 적분 안으로 넣으면

\frac{dJ}{d\alpha} = \int_a^b \left(\frac{\partial F}{\partial y}\,\eta + \frac{\partial F}{\partial y'}\,\eta'\right) dx

$\eta'$ 이 섞여 있어 묶이지 않는다. 부분적분으로 미분을 넘긴다.

\int_a^b \frac{\partial F}{\partial y'}\,\eta'\,dx = \underbrace{\left[\frac{\partial F}{\partial y'}\,\eta\right]_a^b}_{\eta(a)=\eta(b)=0\ \text{이라 } 0} - \int_a^b \frac{d}{dx}\!\left(\frac{\partial F}{\partial y'}\right)\eta\,dx

$\eta$ 가 끝에서 0인 것이 여기서 값을 한다. 남는 것은

\left.\frac{dJ}{d\alpha}\right|_{\alpha=0} = \int_a^b \left[\frac{\partial F}{\partial y} - \frac{d}{dx}\!\left(\frac{\partial F}{\partial y'}\right)\right]\eta(x)\,dx = 0

이고, 이것이 모든 $\eta$ 에 대해 성립해야 한다. 그러면 대괄호가 0일 수밖에 없다.

\boxed{\;\frac{\partial F}{\partial y} - \frac{d}{dx}\!\left(\frac{\partial F}{\partial y'}\right) = 0\;}

오일러 방정식(또는 오일러–라그랑주 방정식)이다. 범함수의 극값 문제가 2계 ODE로 바뀌었다.

직관

마지막 단계 — “모든 $\eta$ 에 대해 $\int M\eta\,dx = 0$ 이면 $M \equiv 0$ ” — 을 변분법의 기본보조정리라 한다. 당연해 보이지만 이 장의 논리 전체가 여기 걸려 있으니 왜 참인지는 알아 둘 만하다.

$M$ 이 어떤 점 $x_0$ 에서 양수라고 하자. $M$ 이 연속이니 $x_0$ 주위의 작은 구간에서도 양수다. 그러면 그 구간에서만 양수이고 밖에서는 0인 함수 $\eta$ 를 고를 수 있고, 그 $\eta$ 에 대해 $\int M\eta\,dx > 0$ 이 되어 가정에 어긋난다. 음수여도 같다. 그러니 $M$ 은 어디서도 0이 아닌 값을 가질 수 없다.

요점은 “ $\eta$ 가 아무거나”라는 자유가 적분 조건 하나를 미분방정식 하나로 바꿔 준다는 것이다. 적분 하나는 정보가 수 하나뿐이지만, 모든 $\eta$ 에 대한 적분은 각 점에서의 조건이 된다.

주의

기호 넷을 짚고 간다.

① $\delta$ 와 $d$ . 변분 $\delta y = \alpha\eta(x)$ 는 “같은 $x$ 에서 함수를 다른 것으로 바꾸면 값이 얼마나 변하나”이고, 미분 $dy = y'dx$ 는 “같은 함수에서 $x$ 를 옮기면 값이 얼마나 변하나”다. 완전히 다른 물건인데 둘 다 “작은 변화”라 부르므로 헷갈리기 쉽다. $\delta$ 는 함수를 갈아 끼우고, $d$ 는 위치를 옮긴다. Boas(§9.7)는 $\delta$ 를 “ $\epsilon$ 에 대한 미분”으로 정의한다 — $\delta y = \eta\,d\epsilon$ , $\delta y' = \eta'\,d\epsilon$ — 그래서 $\delta$ 와 $d/dx$ 는 교환한다: $\delta(y') = (\delta y)'$ . 위의 부분적분에서 $\eta'$ 를 $\eta$ 로 넘길 수 있었던 것이 이 사실이다.

② $F$ 와 $f$ . 이 장의 $F(x, y, y')$ 는 범함수의 피적분함수이고, 4·5절의 $f(x)$ 는 전개할 대상 함수였다. 대문자는 6~~8절, 소문자는 4~~5절이다.

③ $\partial F/\partial y'$ 를 계산할 때 $y'$ 를 독립변수로 본다. $F(x, y, z)$ 라는 세 변수 함수를 생각하고 $z$ 로 편미분한 다음 $z = y'$ 를 대입하는 것이다. $y'$ 가 $y$ 에서 나온 것이니 독립일 리 없다는 생각이 들면 곤란하다 — 편미분을 하는 동안에는 셋을 대등하게 다룬다.

④ $\eta$ 와 $\alpha$ . 방향과 크기다. Boas는 크기를 $\epsilon$ 으로, Arfken은 $\alpha$ 로 쓴다. 이 백과는 $\alpha$ 를 쓴다.

주의

오일러 방정식은 극값이 아니라 정류값의 조건이다. 보통 미적분에서 $f'(x) = 0$ 이 최대·최소· 변곡점을 구별하지 못하는 것과 같다. 얻은 $y$ 가 정말 최소인지는 방정식이 말해 주지 않고 — Boas는 “그 판정은 일반적으로 어려운 수학 문제라 물리나 기하에 기댄다”고 적는다(§9.1) — 게다가 필요조건일 뿐이라 해가 없거나, 둘 이상이거나, 미분 불가능한 해가 진짜 답인 경우가 실제로 있다.

해가 둘. 두 고리 사이에 걸린 비눗막(최소 회전면, $F = y\sqrt{1+y'^2}$ )의 오일러 방정식을 풀면 현수면 $y = c_1\cosh\frac{x - c_2}{c_1}$ 이 나온다. 반지름 1인 고리를 $x = \pm\tfrac12$ 에 두면 $c_1\cosh(1/2c_1) = 1$ 의 근이 둘 — $c_1 = 0.2350$ (깊은 곡선)과 $0.8483$ (얕은 곡선) — 이고, 넓이가 각각 $6.8456$ 과 $5.9917$ 이라 얕은 쪽이 답이다(Arfken 예 22.1.3).

해가 없음. 고리를 $x = \pm 0.6627$ 보다 멀리 벌리면 근이 사라진다. 비눗막은 터져서 각 고리에 평평한 원판 둘(넓이 $2\pi = 6.2832$ )로 남는데, 이 골드슈미트 불연속해는 미분 가능하지 않아 오일러 방정식으로는 절대 나오지 않는다. 심지어 $0.528 < x_0 < 0.6627$ 에서는 매끄러운 현수면이 존재하는데도 원판 둘의 넓이가 더 작다.

최대인 정류점. 페르마 원리도 “시간 최소”가 아니라 “시간 정류”다. 타원 거울의 두 초점 사이를 반사해 가는 광선은, 거울이 타원 안쪽으로 굽어 있으면 이웃 경로보다 시간이 더 걸리는 경로다(Boas §9.1 연습 3). 이 절의 “최소화”는 전부 “정류”로 읽되, 물리가 최소를 고르는 경우가 많아 그렇게 부를 뿐이다.

두 개의 첫 적분

오일러 방정식은 일반적으로 2계 ODE라 만만치 않다. 그런데 $F$ 의 모양에 따라 한 번에 1계로 내려가는 경우가 둘 있다.

① $F$ 에 $y$ 가 없다. $\partial F/\partial y = 0$ 이므로 곧바로

\frac{\partial F}{\partial y'} = \text{상수}

② $F$ 에 $x$ 가 명시적으로 없다. 이때는 다음 양이 보존된다(베트라미 항등식).

F - y'\,\frac{\partial F}{\partial y'} = \text{상수}

확인은 미분해 보면 된다.

\frac{d}{dx}\left(F - y'\frac{\partial F}{\partial y'}\right) = \frac{\partial F}{\partial x} + y'\left[\frac{\partial F}{\partial y} - \frac{d}{dx}\frac{\partial F}{\partial y'}\right]

대괄호가 오일러 방정식이라 0이고, $F$ 에 $x$ 가 없으면 $\partial F/\partial x = 0$ 이라 전체가 0이다.

Boas(§9.3)는 같은 경우를 다르게 처리한다 — $x$ 가 없으면 $y$ 를 적분변수로 바꿔 $x' = dx/dy$ 로 쓴다. 그러면 $F$ 에 새 종속변수 $x$ 가 안 보이므로 ①로 돌아가 $\partial F/\partial x' =$ 상수다. 결과는 베트라미와 같고, 어느 쪽이 편한지는 문제마다 다르다. 아래 세 번째 예제가 이 길을 쓴다.

예제 셋

최단 경로. $F = \sqrt{1 + y'^2}$ 에는 $y$ 가 없다(1.1.3곡선·호의 길이의 호의 길이다). ①을 쓰면

\frac{\partial F}{\partial y'} = \frac{y'}{\sqrt{1+y'^2}} = \text{상수}

이 식이 상수라는 것은 $y'$ 가 상수라는 뜻이고 — 좌변이 $y'$ 의 단조증가함수라 값이 하나로 정해진다 — 따라서 $y$ 는 직선이다. 평면에서 두 점을 잇는 가장 짧은 길이 직선이라는 사실을 증명한 것이다.

최속강하선. 원점에서 출발해 아래로 $(x_1, y_1)$ 까지 마찰 없이 미끄러질 때 가장 빠른 곡선은? $y$ 를 아래 방향으로 재면 에너지 보존에서 $v = \sqrt{2gy}$ 이므로

J[y] = \int \frac{ds}{v} = \int_0^{x_1}\sqrt{\frac{1 + y'^2}{2g\,y}}\;dx

$J$ 가 내려오는 데 걸리는 시간이다(바로 위 상자의 $T$ 는 운동에너지였다 — 다른 물건이다).

$F$ 에 $x$ 가 없으니 베트라미를 쓴다. 정리하면

y\big(1 + y'^2\big) = \text{상수} \equiv 2a

이 1계 ODE의 해가 사이클로이드다.

x = a(\theta - \sin\theta), \qquad y = a(1 - \cos\theta)

직관

답이 직선이 아니라는 것이 요점이다. 처음에 가파르게 떨어져 속도를 벌고, 그 속도로 남은 거리를 빨리 지나가는 편이 이득이다. 가장 짧은 길과 가장 빠른 길이 다르다 — 두 문제의 $F$ 가 다르니 당연한데, 직관은 자주 이 둘을 혼동한다.

빛도 같은 계산을 한다. 페르마 원리는 빛이 시간을 정류로 — 대개는 최소로 — 만든다는 것이고, 매질에 따라 속도가 달라지므로 답이 직선이 아니다. 두 매질의 경계에서 오일러 방정식을 풀면 스넬 법칙 $n_1\sin\theta_1 = n_2\sin\theta_2$ 가 나오고(3.3), 굴절률이 연속적으로 변하는 매질에서는 광선이 휘어 신기루와 GRIN 렌즈가 된다 — 바로 아래 예제가 그 계산이다.

휘는 빛. 빛의 속도가 높이에 비례해 $v = y/b$ 인 매질에서 광선의 경로는? 페르마 원리로 $\int ds/v = b\int \sqrt{1 + y'^2}/y\;dx$ 를 정류로 만든다. $F$ 에 $x$ 가 없으니 Boas의 요령대로 $y$ 를 적분변수로 바꾸면 $F = \sqrt{x'^2 + 1}/y$ 이고 $\partial F/\partial x = 0$ 이라

\frac{x'}{y\sqrt{x'^2+1}} = C_1 \quad\Longrightarrow\quad (x + C_2)^2 + y^2 = \frac{1}{C_1^2}

중심이 $y = 0$ 위에 있는 원호다(Arfken 예 22.1.2). 속도가 0이 되는 $y = 0$ 근처에서 빛이 갇히는 모형이라 Arfken은 블랙홀의 사건 지평선에 빗대는데, 부호를 뒤집어 $v = v_0 - y/b$ 로 두면 뜨거운 지면 위의 공기 — 아래로 갈수록 빛이 빠른 매질 — 가 되어 광선이 위로 굽는 신기루다. 굴절률이 연속으로 변하는 매질에서 광선이 원호를 그린다는 것은, 반도체 쪽에서는 굴절률을 지름 방향으로 서서히 바꾼 GRIN 광섬유가 빛을 가두는 원리(3.4)로 다시 나온다.

확장 — 세 방향으로 늘어난다

실제 문제는 위의 가장 단순한 꼴이 아닌 경우가 많다. 유도 과정을 그대로 반복하면 확장판이 나온다.

무엇이 늘어나면	오일러 방정식
함수가 여럿 $y_1, \dots, y_m$	각 $y_i$ 마다 하나씩, 총 $m$ 개
2계 도함수가 들어감	$\dfrac{\partial F}{\partial y} - \dfrac{d}{dx}\dfrac{\partial F}{\partial y'} + \dfrac{d^2}{dx^2}\dfrac{\partial F}{\partial y''} = 0$
독립변수가 여럿 $(x, t)$	$\dfrac{\partial F}{\partial u} - \dfrac{\partial}{\partial x}\dfrac{\partial F}{\partial u_x} - \dfrac{\partial}{\partial t}\dfrac{\partial F}{\partial u_t} = 0$ — PDE가 된다

마지막 줄이 물리에서 가장 많이 쓰인다. 늘어난 현의 작용을 최소화하면 파동 방정식이 나오고, 정전 에너지 $\frac12\int\varepsilon\lvert\nabla\phi\rvert^2 dV - \int\rho\phi\,dV$ 를 최소화하면 푸아송 방정식 $\nabla\cdot(\varepsilon\nabla\phi) = -\rho$ 가 나온다. TCAD가 푸아송 방정식을 유한요소로 푸는 것은 사실 이 최소화 문제를 푸는 것이고, 8절이 그 연결을 마무리한다.

첫 줄이 고전역학이다. $F$ 를 라그랑지언 $L = T - V$ , 독립변수를 시간 $t$ 로 두면 “작용 $\int L\,dt$ 가 정류”라는 해밀턴 원리가 되고, 오일러 방정식이 좌표마다 하나씩 나온다.

\frac{d}{dt}\frac{\partial L}{\partial \dot q_i} - \frac{\partial L}{\partial q_i} = 0

라그랑주 방정식이다. 직교좌표에서 $L = \tfrac12 m\dot x^2 - V$ 를 넣으면 $m\ddot x = -dV/dx$ — 뉴턴의 제2법칙이 그대로 나온다(Boas §9.5 예 1, Arfken 예 22.2.1). 이것이 요긴한 이유는 좌표계를 바꿔도 같은 스칼라 $L$ 하나만 쓰면 되기 때문이다. 극좌표에서 $T = \tfrac12 m(\dot r^2 + r^2\dot\theta^2)$ 을 넣으면 $r$ 방정식에 원심 항 $-mr\dot\theta^2$ 이, $\theta$ 방정식에 코리올리 항 $2m\dot r\dot\theta$ 이 저절로 나온다 — 가속도 성분을 손으로 유도할 필요가 없다(Boas §9.5 예 2). 그리고 $L$ 에 어떤 좌표가 안 보이면(무시 가능 좌표) 그 켤레 운동량 $\partial L/\partial\dot q$ 가 보존된다 — 위 상자의 ①이 역학에서 하는 말이다.

구속 조건이 있는 변분과 라그랑주 승수

직관

6절의 문제에는 조건이 하나뿐이었다 — 양 끝점이 고정. 실제 문제에는 대개 조건이 더 붙는다. 사슬의 길이가 정해져 있다든지, 파동함수의 확률이 1이어야 한다든지.

조건을 처리하는 소박한 방법은 소거다. 조건을 풀어 변수 하나를 없애고 나머지로 자유 최소화를 한다. 문제는 이것이 (ⓐ) 대개 지저분하고 (ⓑ) 변수들 사이의 대칭을 깨뜨리며 (ⓒ) 조건이 적분 꼴이면 아예 불가능하다는 것이다.

라그랑주의 요령은 반대다 — 변수를 줄이는 대신 하나 더 늘린다. 승수 $\lambda$ 를 미지수로 들이고 모든 변수를 대등하게 다룬다. 그리고 이 장의 문맥에서는 덤이 하나 더 붙는다. 그 $\lambda$ 가 곧 고유값이다.

유한 차원에서 — 접한다는 것

먼저 함수가 아니라 수를 다루는 경우부터 본다. $g(x, y) = 0$ 이라는 곡선 위에서 $f(x,y)$ 를 최대화한다.

그림 1.6-7. f = x + y 의 등고선과 제약곡선 x² + y² = 1. 등고선이 제약곡선을 가로지르는 동안에는 제약을 따라 움직여 f를 더 키울 수 있고, 더 키울 수 없게 되는 순간이 등고선과 제약곡선이 접하는 순간이다. 접한다는 것은 두 곡선의 법선 — 즉 ∇f와 ∇g — 이 나란하다는 말이고, 그 비례상수가 라그랑주 승수 λ다.직접 작도

논리는 두 줄이다. 제약곡선 위를 걷고 있는데 $\nabla f$ 가 진행 방향 성분을 남기면 그쪽으로 더 가서 $f$ 를 키울 수 있다. 그러니 극값에서는 $\nabla f$ 에 진행 방향 성분이 없어야 하고, 곧 $\nabla f$ 가 제약곡선에 수직이어야 한다. 그런데 $\nabla g$ 도 제약곡선에 수직이다 (1.1.2기울기·발산·회전 — 기울기는 등고면에 수직이다). 두 벡터가 같은 방향이면

\nabla f = \lambda\,\nabla g

미지수는 $x, y, \lambda$ 셋이고 방정식도 위의 두 성분에 $g = 0$ 을 더해 셋이다. 실전에서는 보조함수 $f - \lambda g$ 를 만들어 $x, y, \lambda$ 로 각각 편미분하고 전부 0으로 놓는 것이 같은 계산이다.

주의

승수의 부호는 관례다. Boas(§4.9)는 보조함수를 $f + \lambda\phi$ 로, Arfken(§22.3)은 $\partial f/\partial x - \lambda\,\partial g/\partial x = 0$ , 즉 $f - \lambda g$ 로 쓴다. 이 백과는 $\nabla f = \lambda\nabla g$ 가 되는 Arfken 쪽을 따른다. 어느 쪽이든 극점 $(x, y)$ 는 같고 $\lambda$ 의 부호만 뒤집히는데, 바로 아래의 " $\lambda = dJ^*/dc$ "라는 해석은 부호를 맞춰 놓아야 성립한다 — Boas의 관례로는 $-\lambda$ 가 된다.

조건이 여럿이면 승수도 여럿이다. $\phi_1 = c_1$ , $\phi_2 = c_2$ 아래에서는 $f - \lambda_1\phi_1 - \lambda_2\phi_2$ 의 편미분을 전부 0으로 놓고 조건식 둘과 함께 푼다 (Boas §4.9 예 4). 미지수는 $n + k$ 개, 식도 $n + k$ 개다. 단서가 둘 있다. 이 방법은 정류점에서 $\nabla g \neq 0$ 일 때만 성립한다 — 제약함수의 모든 편미분이 한꺼번에 0이 되는 점에서는 $\nabla f = \lambda\nabla g$ 가 아무 정보도 주지 않는다(Arfken §22.3). 그리고 찾은 점이 최대인지 최소인지는 이 방법도 가려 주지 않는다 — Boas의 말대로 기하나 물리로 본다.

직관

$\lambda$ 가 단순한 계산 보조가 아니라 의미가 있는 양이라는 점을 짚어 둔다. 제약을 $g = c$ 로 두고 $c$ 를 조금 움직이면, 최적값이 정확히

\frac{dJ^{*}}{dc} = \lambda

만큼 변한다. 경제학에서 이것을 잠재가격이라 부르는 것이 그래서다 — 제약을 한 단위 풀어 주면 목적함수가 얼마나 좋아지는가의 환율이다.

물리에서는 이 해석이 곧바로 값을 한다. 밀도범함수 이론에서 전자 수를 고정한 채 에너지를 최소화할 때 붙는 승수가 $\mu = \partial E/\partial N$ — 화학 퍼텐셜이다. 반도체의 페르미 준위가 바로 이 $\mu$ 이고, 두 물질을 붙였을 때 페르미 준위가 평형에서 일치하는 것도 “전자를 옮겨 얻는 이득이 없어질 때까지 옮긴다”는 같은 논리다.

예 — 원통형 양자점의 모양. 반지름 $R$ , 높이 $H$ 인 원통 우물의 바닥 준위는

E = \frac{\hbar^2}{2m}\left[\frac{(2.4048)^2}{R^2} + \frac{\pi^2}{H^2}\right]

이다 — 2.4048은 $J_0$ 의 첫 영점으로, 원판의 베셀 문제와 높이의 사인 문제가 각각 한 몫씩이다. 부피 $V = \pi R^2 H$ 를 고정하고 $E$ 를 최소로 하는 모양은? $E - \lambda V$ 를 $R$ , $H$ 로 편미분해 0으로 놓고 $\lambda$ 를 소거하면

\frac{H}{R} = \frac{\sqrt2\,\pi}{2.4048} \approx 1.85

높이가 지름의 0.92배 — 세 방향 치수가 거의 같은 모양이다(Arfken 연습 22.3.1). 이유는 2절의 파라미터 표가 말해 준다. 가둠 에너지는 방향마다 $1/L^2$ 로 붙으므로, 부피가 정해져 있으면 한 방향을 납작하게 만들어 얻는 이득보다 잃는 손해가 크다. 고르게 되는 쪽이 에너지가 낮다.

등주 문제 — 적분 조건이 붙은 변분

이제 함수로 올라간다. 범함수 $J[y]$ 를 다른 범함수 $K[y]$ 가 상수라는 조건 아래에서 극값으로 만든다.

\begin{aligned} J[y] &= \int_a^b F(x, y, y')\,dx && \text{를 극값으로} \\[2pt] K[y] &= \int_a^b G(x, y, y')\,dx = \text{상수} && \text{라는 구속 아래} \end{aligned}

등주 문제(isoperimetric problem)라 부른다 — 둘레가 정해졌을 때 넓이를 최대로 하는 도형을 묻는 고전 문제에서 온 이름이고, 답은 원이다. Boas(§9.6 예 1)가 그 원형을 푼다 — 길이 $l$ 이 정해진 곡선이 $x$ 축과 이루는 넓이를 최대로 하면 원호 $(x+c)^2 + (y+c')^2 = \lambda^2$ 이 나오고, 승수가 곧 원의 반지름이다. 처리법은 유한 차원과 같다.

\delta\big(J - \lambda K\big) = 0 \qquad\Longleftrightarrow\qquad \frac{\partial (F - \lambda G)}{\partial y} - \frac{d}{dx}\frac{\partial (F - \lambda G)}{\partial y'} = 0

$\lambda$ 는 미지수로 남겨 두고, 마지막에 구속 조건 $K[y] =$ 상수에 대입해 정한다.

조건이 적분 꼴이 아니라 점마다 걸리는 등식 $\phi(y_1, y_2, x) = 0$ 이면 — 진자의 줄 길이 $r - l = 0$ 이 그렇다 — 승수가 상수가 아니라 $x$ 의 함수 $\lambda(x)$ 가 된다(Arfken §22.4). 조건이 각 점에서 따로 걸리니 값도 각 점에서 따로 치러야 하기 때문이다. 역학에서 그 $\lambda(t)$ 가 곧 구속력이다. Arfken은 단진자에서 $\lambda = -(ml\dot\theta^2 + mg\cos\theta)$ , 즉 줄의 장력이 나오는 것을 보인다(예 22.4.1).

매달린 사슬. 길이 $L$ 인 사슬이 두 점에 매달렸을 때의 모양은 위치에너지 $\int y\sqrt{1+y'^2}\,dx$ 를 길이 $\int\sqrt{1+y'^2}\,dx = L$ 아래에서 최소화한 것이다.

F - \lambda G = (y - \lambda)\sqrt{1 + y'^2}

$x$ 가 명시적으로 없으니 베트라미를 쓰면 답이 현수선으로 나온다.

y - \lambda = C\cosh\frac{x - x_0}{C}

포물선이 아니라는 것이 이 문제의 유명한 대목이다. 승수 $\lambda$ 는 여기서 곡선을 위아래로 옮기는 상수 노릇을 하고, 물리적으로는 사슬의 장력과 연결된다.

결정타 — 승수가 고유값이다

이 장의 두 덩어리가 여기서 붙는다. 다음 두 범함수를 놓는다.

J[y] = \int_a^b \big(p\,y'^2 - q\,y^2\big)\,dx, \qquad K[y] = \int_a^b w\,y^2\,dx = 1

$F - \lambda G = p y'^2 - q y^2 - \lambda w y^2$ 이므로

\frac{\partial (F - \lambda G)}{\partial y} = -2qy - 2\lambda w y, \qquad \frac{\partial (F - \lambda G)}{\partial y'} = 2p\,y'

오일러 방정식에 넣고 $-2$ 로 나눈다.

\big(-2qy - 2\lambda wy\big) - \big(2p\,y'\big)' = 0

\boxed{\;\big(p\,y'\big)' + q\,y + \lambda\,w\,y = 0\;}

1절의 스투름–리우빌 방정식이 그대로 나왔다. 그리고 구속 조건에서 나온 라그랑주 승수 $\lambda$ 가 고유값의 자리에 앉아 있다.

복소 파동함수라면 $\psi$ 와 $\psi^*$ 를 독립인 두 변수로 놓고 변분한다. Arfken은 $\int\psi^* H\psi$ 를 $\int|\psi|^2 = 1$ 아래에서 정류로 만들며, $\psi^*$ 에 대한 오일러 방정식이 슈뢰딩거 방정식이고 $\psi$ 에 대한 것은 그 켤레라 새 정보가 없음을 보인다(예 22.4.3). 2계 도함수는 그린 정리로 1계로 내려 $\frac{\hbar^2}{2m}|\nabla\psi|^2 + V|\psi|^2$ 꼴로 만든 뒤 변분한다 — 이 절의 $p\,y'^2 - q\,y^2$ 이 3차원으로 늘어난 것이다.

직관

이 계산이 말하는 것을 문장으로 옮기면 이렇다.

고유함수는 “ $\int w y^2 = 1$ 로 정규화한 함수들 중에서 $\int(p y'^2 - q y^2)dx$ 를 가장 작게 만드는 것”이고, 고유값은 그때의 최솟값이다.

양자역학의 언어로는 더 익숙하다 — 바닥상태는 확률이 1인 상태들 중 에너지가 가장 낮은 것이고, 바닥상태 에너지가 그 최솟값이다. 슈뢰딩거 방정식을 “풀어야 할 미분방정식”이 아니라 “에너지 최소화 문제”로 보는 시선이 여기서 나온다.

그리고 이 시선이 실용적인 이유는 8절에서 밝혀진다. 최소화 문제는 답을 몰라도 어림할 수 있다 — 아무 시험함수나 넣고 값을 계산하면 그것이 곧 상한이다. 미분방정식은 그런 관대함이 없다.

자연 경계조건 — 끝을 놓아 주면 조건이 저절로 생긴다

6절의 유도에서 경계항 $\big[\frac{\partial F}{\partial y'}\eta\big]_a^b$ 을 “ $\eta$ 가 끝에서 0이라” 버렸다. 그런데 끝점을 고정하지 않은 문제라면 어떻게 되는가? $\eta(b)$ 가 자유로우니 경계항이 저절로 사라질 수 없고, 대신 계수가 0이어야 한다.

\left.\frac{\partial F}{\partial y'}\right|_{x=b} = 0

위의 $F = p y'^2 - qy^2 - \lambda wy^2$ 에 대해서는 $2p\,y'\big|_b = 0$ , 즉

p(b)\,y'(b) = 0

노이만 조건이 저절로 나왔다. 이렇게 변분 문제가 스스로 내놓는 경계조건을 자연 경계조건이라 하고, 반대로 사람이 손으로 부과한 것을 본질 경계조건이라 한다.

직관

이 구분이 반도체에서 값을 하는 자리가 있다. 유효질량 슈뢰딩거 방정식

-\frac{\hbar^2}{2}\frac{d}{dz}\!\left(\frac{1}{m^{*}(z)}\frac{d\psi}{dz}\right) + V(z)\,\psi = E\,\psi

는 $p = \hbar^2/2m^{*}(z)$ , $q = -V(z)$ , $w = 1$ , $\lambda = E$ 인 스투름–리우빌 문제다. 이종접합에서 유효질량이 계단처럼 바뀔 때 계면에서 무엇이 연속이어야 하는가 — $\psi'$ 인가 $\frac{1}{m^{*}}\psi'$ 인가 — 는 오래 논쟁이 됐던 문제인데, 변분 쪽에서 보면 답이 하나로 나온다. 자연 경계조건이 요구하는 것은 $p\,\psi'$ , 즉

\frac{1}{m^{*}}\frac{d\psi}{dz} \quad\text{가 연속}

이다(BenDaniel–Duke 조건). $\psi'$ 자체를 연속으로 두면 에너지 범함수가 최소화되지 않고, 연산자가 에르미트가 아니게 되어 고유값이 실수라는 보장까지 잃는다.

1절에서 “ $p$ 가 경계항의 주인”이라고 했던 것이 여기서 물리적 의미를 얻는다. 경계에서 연속이어야 하는 것은 언제나 $y$ 와 $p\,y'$ 이지 $y'$ 이 아니다. 정전기학에서 $\phi$ 와 $\varepsilon\,\partial\phi/\partial n$ (즉 전속밀도)이 연속인 것도, 열전도에서 $T$ 와 $\kappa\,\partial T/\partial n$ (즉 열유속)이 연속인 것도 전부 같은 문장이다.

레일리-리츠 변분 근사

직관

1.3.9자체 수반 연산자와 스펙트럼 정리에서 에르미트 행렬의 레일리 몫

\Lambda[\mathbf{x}] = \frac{\mathbf{x}^{\dagger}A\mathbf{x}}{\mathbf{x}^{\dagger}\mathbf{x}}

이 언제나 $\lambda_{\min}$ 과 $\lambda_{\max}$ 사이에 있다는 것을 봤다. 그 사실이 무한 차원으로 올라오면 계산법이 된다.

이유는 7절이 준 시선이다. 고유값이 “어떤 양의 최솟값”이라면, 아무 함수나 하나 넣고 그 양을 계산했을 때 나오는 값은 반드시 최솟값보다 크거나 같다. 정답을 몰라도 정답의 상한을 얻는 것이다. 게다가 그 상한이 놀랄 만큼 정확하다 — 시험함수가 3.8% 어긋나 있어도 고유값은 1.3%밖에 안 틀린다.

이 절이 그 사실을 기계적인 절차로 바꾼다. 그 절차의 이름이 리츠법이고, 오늘날 유한요소법과 양자화학의 기저 전개가 전부 그 후손이다.

레일리 몫

스투름–리우빌 방정식에 $y$ 를 곱해 적분한다.

\int_a^b y\,\big(p y'\big)'\,dx + \int_a^b q\,y^2\,dx + \lambda\int_a^b w\,y^2\,dx = 0

첫 항을 부분적분하면 경계항이 나오는데, 1절의 세 가지 경계조건 중 무엇이든 걸려 있으면 사라진다.

\int_a^b y\,\big(p y'\big)'\,dx = \underbrace{\Big[p\,y\,y'\Big]_a^b}_{=\,0} - \int_a^b p\,y'^2\,dx

정리하면 $\lambda$ 가 명시적으로 풀린다. 이 우변을 고유함수가 아닌 아무 함수에 대해서도 계산하기로 하고 이름을 붙인 것이 레일리 몫이다.

\boxed{\; \Lambda[y] = \frac{\displaystyle\int_a^b \big(p\,y'^2 - q\,y^2\big)\,dx}{\displaystyle\int_a^b w\,y^2\,dx} \;}

$y$ 가 진짜 고유함수 $y_n$ 이면 $\Lambda[y_n] = \lambda_n$ 이고, 아무 함수나 넣으면 어림값이 나온다. 그래서 참 고유값은 $\lambda$ , 시험함수가 내놓는 값은 $\Lambda$ 로 구별해 쓴다.

직관

분자의 두 항이 각각 무엇인지 읽어 두면 이 식이 훨씬 친근해진다.

$\int p\,y'^2\,dx$ 는 굽힘의 비용이다. 함수가 심하게 출렁일수록 $y'$ 가 커져 값이 뛴다. 2절의 진동 정리에서 “고유값이 크면 마디가 많다”고 했던 것이 이 항이다 — 마디가 많으려면 심하게 굽어야 하고, 그러면 이 값이 커진다. 슈뢰딩거 방정식에서는 $p = \hbar^2/2m$ 이라 이 항이 그대로 운동에너지의 기댓값이다.

$-\int q\,y^2\,dx$ 는 자리의 비용이다. $q$ 가 큰 자리에 함수가 몰려 있으면 값이 내려간다. 슈뢰딩거 방정식에서 $q = -V$ 이므로 이 항은 $+\int V\lvert\psi\rvert^2$ , 곧 퍼텐셜 에너지의 기댓값이다.

그러니 레일리 몫은 운동에너지 + 퍼텐셜에너지를 확률로 나눈 것 — 정규화하면 그냥 $\langle H\rangle$ 다. 바닥상태를 찾는 일이 “에너지 기댓값을 최소화하는 파동함수 찾기”라는 양자역학의 표준 문장이 이 식 한 줄이다.

최소 원리

정리. 경계조건을 만족하는 임의의 함수 $y$ 에 대해 $\Lambda[y] \ge \lambda_1$ 이고, 등호는 $y$ 가 $y_1$ 의 상수배일 때만 성립한다.

증명은 4절의 전개를 쓰면 세 줄이다. $y = \sum_n c_n y_n$ 으로 놓으면 분자와 분모가 각각 직교성 덕에 대각화된다.

\Lambda[y] = \frac{\displaystyle\sum_n \lambda_n\,c_n^2\,\lVert y_n\rVert_w^2}{\displaystyle\sum_n c_n^2\,\lVert y_n\rVert_w^2}

이것은 고유값들의 가중평균이고, 가중치 $c_n^2\lVert y_n\rVert_w^2$ 가 전부 음이 아니다. 평균은 최솟값보다 작을 수 없으므로 $\Lambda \ge \lambda_1$ 이다. 등호가 되려면 $\lambda_1$ 이 아닌 항의 가중치가 전부 0이어야 한다.

단서 하나 — 시험함수가 $y_1$ 과 직교하면( $c_1 = 0$ ) 위 부등식은 $\Lambda \ge \lambda_2$ 로 올라간다. Arfken이 “시험함수를 분별 있게 골라 바닥상태 성분이 0이 아니게 한다”고 못 박는 이유다(§22.4). 뒤집어 쓰면 도구가 된다 — 대칭 우물에서 홀함수 시험함수를 넣으면 짝인 바닥상태 성분이 자동으로 0이라, 얻는 값은 첫 들뜬 준위의 상한이다.

왜 이렇게 정확한가 — 오차가 제곱으로 들어간다

위 식에서 $\lambda_1$ 을 빼면 오차의 정체가 드러난다.

\Lambda[y] - \lambda_1 = \frac{\displaystyle\sum_{n \ge 2}\big(\lambda_n - \lambda_1\big)\,c_n^2\,\lVert y_n\rVert_w^2}{\displaystyle\sum_n c_n^2\,\lVert y_n\rVert_w^2}

시험함수가 $y_1$ 에서 $\epsilon$ 만큼 어긋나 있다는 것은 $n \ge 2$ 인 성분의 크기가 $\epsilon$ 이라는 뜻이다. 그런데 위 식에는 그 성분이 제곱으로 들어간다. 그래서

\Lambda - \lambda_1 \;\sim\; \big(\lambda_2 - \lambda_1\big)\,\epsilon^2

시험함수의 1차 오차가 고유값에서는 2차 오차가 된다. 남는 배율은 고유값 사이의 간격이다.

그림 1.6-8. y'' + λy = 0, y(0)=y(1)=0 의 바닥 고유값을 시험함수 x(1−x)로 어림한 결과. 정규화한 시험함수는 정확해 √2 sin πx 와 L² 기준으로 3.8% 어긋나 있는데, 그 함수가 내놓는 고유값 10은 π² = 9.8696에서 1.3%밖에 벗어나지 않는다. 오른쪽은 기저를 xᵏ(1−x)ᵏ 꼴로 하나씩 늘렸을 때의 상대오차 — 네 항이면 이미 열두 자리가 맞는다.직접 작도

숫자로 확인해 두자. 정규화한 시험함수 $\sqrt{30}\,x(1-x)$ 를 고유함수 $\sqrt{2}\sin n\pi x$ 로 전개하면

c_1 = 0.999277, \quad c_3 = 0.037010, \quad c_5 = 0.007994, \quad c_7 = 0.002913, \ \dots

(짝수 $n$ 은 대칭성 때문에 0이다.) 섞여 든 “이물질”의 비중은 $1 - c_1^2 = 0.001445$ 이고, 이것이 $\epsilon^2$ 이다 — 즉 $\epsilon = 3.8\%$ . 고유값 오차는

\begin{aligned} \Lambda - \lambda_1 &= \sum_{n \ge 3}\big(n^2\pi^2 - \pi^2\big)\,c_n^2 \\[4pt] &= 8\pi^2(0.001370) + 24\pi^2(0.0000639) + \cdots = 0.130 \end{aligned}

으로 $10 - \pi^2 = 0.1304$ 와 맞는다. 오차 3.8%짜리 함수가 오차 1.3%짜리 고유값을 준다.

매개변수를 흔든다 — 변분법의 첫 형태

기저를 늘리기 전에, 더 소박한 형태가 있다. 시험함수에 매개변수 하나를 넣고 레일리 몫을 그 매개변수로 미분해 최소를 찾는다. 양자역학 교재의 “변분법”이 대개 이것이다.

반지름 $a$ 인 구 속의 입자(Arfken 연습 22.4.9). $\nabla^2\psi + k^2\psi = 0$ , $\psi(a) = 0$ 의 바닥상태는 구대칭이고, 지름 방향 방정식을 자체 수반 꼴로 쓰면 $(r^2\psi')' + k^2 r^2\psi = 0$ — $p = r^2$ , $w = r^2$ 이다. 무게가 구좌표의 부피 요소 $r^2\,dr$ 이라는 것을 다시 확인한다. 시험함수 $\psi = 1 - r^2/a^2$ 을 넣으면

\Lambda = \frac{\displaystyle\int_0^a r^2\psi'^2\,dr}{\displaystyle\int_0^a r^2\psi^2\,dr} = \frac{4a/5}{8a^3/105} = \frac{10.5}{a^2}, \qquad k^2_{\text{exact}} = \frac{\pi^2}{a^2} = \frac{9.87}{a^2}

오차 6.4%다. 1차원 우물의 $x(1-x)$ 가 1.3%였던 것에 비해 나쁜 이유는, 무게 $r^2$ 로 잰 거리로 포물선이 정확해 $\sin(\pi r/a)/r$ 에서 그만큼 더 멀기 때문이다 — 고유값 오차는 그 거리의 제곱이다(위 상자). 시험함수의 품질이 결과의 품질이다. 같은 포물선이라도 모양을 흔드는 매개변수 하나가 값을 한다. Arfken 연습 22.4.7–8의 $y'' + (\pi/2)^2 y = 0$ , $y(0) = 1$ , $y(1) = 0$ 에 $1 - x^2$ 을 넣으면 오차가 1.3%인데, $1 - x^n$ 으로 두고 $n$ 을 흔들면 $n = 1.72$ 에서 0.3%로 내려간다.

매개변수를 넣는다. 반직선 $0 \le x < \infty$ 의 조화진동자 $-\frac{1}{2m}\psi'' + \frac{k x^2}{2}\psi = E\psi$ , $\psi(0) = 0$ 에 시험함수 $y = xe^{-\alpha x}$ 를 넣는다(Arfken 예 22.4.4). $p = 1/2m$ , $q = -kx^2/2$ , $w = 1$ 이고 적분은 전부 $\int_0^\infty x^n e^{-2\alpha x}dx = n!/(2\alpha)^{n+1}$ 꼴이라

\Lambda(\alpha) = \frac{\alpha^2}{2m} + \frac{3k}{2\alpha^2}, \qquad \frac{d\Lambda}{d(\alpha^2)} = 0 \;\Longrightarrow\; \alpha = (3mk)^{1/4}, \qquad \Lambda_{\min} = \sqrt{\frac{3k}{m}} \approx 1.732\sqrt{\frac{k}{m}}

정확한 값은 $1.5\sqrt{k/m}$ 이다 — 반직선이라 원점에서 0인 홀함수 상태만 허용되어 온전한 진동자의 첫 들뜬 준위가 바닥이 된다. 오차 15%. 가우스 함수를 지수함수로 흉내 냈으니 당연하다. 매개변수를 둘로 늘려 $y = (x + cx^2)e^{-\alpha x}$ 로 두면 $1.542\sqrt{k/m}$ , 오차 3% 아래로 떨어진다. 그림으로 보면 이 두 번째 파동함수도 정확해와 꽤 다른데 에너지는 3%밖에 안 틀린다 — 위의 “제곱 오차” 이야기다.

직관

Arfken이 이 방법을 소개하는 첫 예는 헬륨 원자다(예 8.4.1). 수소꼴 시험함수 $\psi \propto e^{-\zeta r}$ 을 두 전자에 곱으로 넣고 $\zeta$ 를 흔들면(하트리 단위)

\langle H\rangle = \zeta^2 - \frac{27}{8}\zeta \;\Longrightarrow\; \zeta = \frac{27}{16}, \quad \langle H\rangle_{\min} = -\Big(\frac{27}{16}\Big)^2 = -2.8477

정확한 값 $-2.9037$ 에 2% 안으로 든다. 정확해는 두 전자의 곱꼴이 아니므로 아무리 $\zeta$ 를 흔들어도 닿을 수 없는데, 그래도 이만큼 온다. 그리고 숫자 하나가 물리를 말해 준다 — 상호작용이 없다면 $\zeta = Z = 2$ 였을 것이 $27/16 = 1.69$ 로 내려앉은 것은 전자 하나가 다른 전자에게서 핵을 부분적으로 가려 준다(차폐)는 뜻이다. 변분 매개변수가 그대로 물리량이 된 예이고, 이 백과에서는 밀도범함수 이론(4.2)의 자기일관 계산이 같은 발상의 후손이다.

리츠 방법 — 무한 차원이 유한 행렬로 돌아온다

시험함수를 하나 찍어 넣는 대신, 조절 가능한 매개변수를 여럿 두고 최적화한다. 기저함수 $\phi_1, \dots, \phi_N$ 을 골라(각각 경계조건을 만족하게 잡는다)

y = \sum_{k=1}^{N} c_k\,\phi_k(x)

로 놓으면 분자와 분모가 $\mathbf{c}$ 의 이차형식이 된다.

\Lambda = \frac{\mathbf{c}^{\mathsf{T}}\mathsf{H}\,\mathbf{c}}{\mathbf{c}^{\mathsf{T}}\mathsf{S}\,\mathbf{c}}, \qquad \begin{aligned} H_{jk} &= \int_a^b \big(p\,\phi_j'\phi_k' - q\,\phi_j\phi_k\big)\,dx \\ S_{jk} &= \int_a^b w\,\phi_j\phi_k\,dx \end{aligned}

$\partial\Lambda/\partial c_i = 0$ 을 계산하면 — 분수의 미분이라 $\mathsf{H}\mathbf{c} = \Lambda\mathsf{S}\mathbf{c}$ 가 곧바로 나온다 — 결론은 이렇다.

\boxed{\;\mathsf{H}\,\mathbf{c} = \Lambda\,\mathsf{S}\,\mathbf{c}\;}

1.3의 일반화 고유값 문제가 그대로 돌아왔다(1.3.2고유값 문제의 응용). 무한 차원의 미분방정식 문제가 $N \times N$ 행렬 고유값 문제로 내려앉은 것이고, 이제부터는 1.3과 1.12의 수치 알고리즘이 받아 간다. 이 장의 원이 여기서 닫힌다.

$\mathsf{S}$ 를 겹침 행렬이라 한다. 기저가 무게 $w$ 에 대해 정규직교면 $\mathsf{S} = I$ 가 되어 보통의 고유값 문제로 떨어지지만, 대개는 그렇지 않다. Arfken은 기저를 정규직교로 잡아 $\mathsf{S} = I$ 인 경우로 적는다(예 22.4.5) — $\mathbf{c}^{\dagger}\mathsf{H}\mathbf{c}$ 를 $\mathbf{c}^{\dagger}\mathbf{c} = 1$ 아래에서 최소화하는 것이 7절의 라그랑주 승수 문제 그대로이고, 그 승수가 $\Lambda$ 다.

손으로 해 보는 예

$y'' + \lambda y = 0$ , $y(0) = y(1) = 0$ 을 기저 $\phi_k = x^k(1-x)^k$ 로 푼다( $p = w = 1$ , $q = 0$ ). 각 $\phi_k$ 가 양 끝에서 0이라 경계조건이 만족된다.

한 항. $\phi_1 = x(1-x)$ , $\phi_1' = 1 - 2x$ .

H_{11} = \int_0^1 (1-2x)^2\,dx = \frac13, \qquad S_{11} = \int_0^1 x^2(1-x)^2\,dx = \frac{1}{30}

\Lambda = \frac{1/3}{1/30} = 10

$\pi^2 = 9.8696$ 에 대해 오차 1.3%다. 손으로 적분 두 개 하고 나눈 것이 전부인데 이 정도가 나온다.

두 항. $\phi_2 = x^2(1-x)^2$ 을 더하면

\mathsf{H} = \begin{bmatrix} 1/3 & 1/15 \\ 1/15 & 2/105 \end{bmatrix}, \qquad \mathsf{S} = \begin{bmatrix} 1/30 & 1/140 \\ 1/140 & 1/630 \end{bmatrix}

$\det(\mathsf{H} - \Lambda\mathsf{S}) = 0$ 의 작은 근이 $\Lambda = 9.869750$ — 오차가 1.3%에서 **0.0015%**로 떨어진다. 항을 넷까지 늘리면 $9.86960440$ 으로 열두 자리가 맞는다.

항 수	$\Lambda_1$	상대오차
1	$10.000000000$	$1.3\times10^{-2}$
2	$9.869749621$	$1.5\times10^{-5}$
3	$9.869604435$	$3.4\times10^{-9}$
4	$9.869604401$	$2.6\times10^{-13}$

주의

항을 계속 늘리면 계속 좋아질 것 같지만 그렇지 않다. 다항식 기저 $x^k(1-x)^k$ 는 $k$ 가 커지면 서로 점점 닮아 간다 — 거의 선형 종속이 된다. 그러면 겹침 행렬 $\mathsf{S}$ 의 작은 고유값이 0에 붙고, 조건수가 폭발해 수치해가 무너진다(1.2.4역행렬).

이것이 리츠법의 실전 딜레마다. 기저를 늘려 정확도를 얻는 대가로 조건수를 잃는다. 대응은 둘이다.

① 직교 기저를 쓴다. 처음부터 $\mathsf{S} = I$ 가 되는 기저를 고르면 문제가 사라진다. 양자화학이 겹침 행렬을 먼저 대각화해 작은 고유값을 걸러 내는 절차를 표준으로 삼는 이유가 이것이다.

② 국소 기저를 쓴다. 아래의 유한요소법이 이 길이고, 오늘날 소자 시뮬레이션이 가는 길이다.

상한은 모든 고유값에 대해 성립한다

리츠법이 내놓는 $N$ 개의 근 $\Lambda_1 \le \Lambda_2 \le \cdots \le \Lambda_N$ 은 각각 참 고유값의 상한이다.

\Lambda_k \;\ge\; \lambda_k \qquad (k = 1, \dots, N)

그리고 기저를 하나 더 늘리면 각 $\Lambda_k$ 가 줄거나 그대로다 — 절대 커지지 않는다. 기저를 늘린다는 것은 시험함수의 후보 집합을 넓히는 것이고, 넓은 집합에서의 최솟값은 좁은 집합에서의 최솟값보다 작거나 같기 때문이다.

직관

“근사값이 언제나 한쪽에서 접근한다”는 것은 수치계산에서 드물고 귀한 성질이다. 보통의 수치해법은 답이 위인지 아래인지 알 수 없어서 오차의 방향조차 모른다.

여기서는 다르다. 얻은 값은 언제나 참값보다 크다. 그러니 서로 다른 두 기저로 계산해 더 작은 값이 나오면 그쪽이 무조건 더 좋은 근사다. 정답을 몰라도 두 근사의 우열을 판정할 수 있는 것이다. 양자화학에서 기저집합을 비교할 때 “에너지가 더 낮으면 더 좋다”고 말할 수 있는 근거가 이 성질이고, 그 말이 성립하려면 계산이 변분적이어야 한다는 단서가 붙는 이유이기도 하다.

한 가지만 조심할 것 — 높은 $\Lambda_k$ 일수록 정확도가 떨어진다. $N$ 개의 기저로 $N$ 개의 근을 뽑으면 마지막 몇 개는 대개 쓸모가 없다. 경험칙으로 앞의 $N/3$ 정도까지만 믿는다.

유한요소법 — 기저를 잘게 쪼개면

리츠법의 기저 $\phi_k$ 를 전역 함수(구간 전체에서 0이 아닌 다항식)로 잡으면 위의 조건수 문제를 만난다. 대신 구간을 잘게 쪼개고 각 조각에서만 0이 아닌 국소 함수를 쓰면 어떻게 되는가.

\phi_k(x) = \begin{cases} \text{인접한 두 조각에서만 0이 아닌 삼각형 모양} \\ \text{나머지 구간에서는 0} \end{cases}

$\phi_j$ 와 $\phi_k$ 가 겹치는 것은 $\lvert j - k\rvert \le 1$ 일 때뿐이므로 $\mathsf{H}$ 와 $\mathsf{S}$ 가 삼중대각 희소행렬이 된다. 조건수도 얌전하고, 행렬이 희소해 $N$ 이 수십만이어도 풀린다. 이것이 유한요소법(1.12.13)이고, 스투름–리우빌 이론과 변분법이 현대 수치해석으로 이어지는 지점이다.

이 장이 반도체에서 다시 나오는 곳

양자우물의 서브밴드. 유효질량 슈뢰딩거 방정식이 $p = \hbar^2/2m^{*}$ , $q = -V$ , $w = 1$ 인 스투름–리우빌 문제다. 이종접합의 BenDaniel–Duke 조건은 7절의 자연 경계조건이고, 서브밴드 간격이 $1/(m^{*}L^2)$ 로 가는 것은 2절의 파라미터 표다. 반전층의 양자화가 문턱전압과 이동도에 물리는 자리(13.1, 13.7), 나노시트 채널의 두께 설계(14.9), 슈뢰딩거–푸아송을 자기일관으로 푸는 절차(20.7)가 전부 여기서 나온다.
밴드 구조. 주기 퍼텐셜 속의 슈뢰딩거 방정식은 주기 경계조건이 걸린 문제이고, 2절에서 본 대로 그런 문제에는 축퇴가 있다 — $\pm k$ 의 축퇴가 그것이다. 블로흐 정리가 그 고유함수를 특정한다(7.7). $k \cdot p$ 방법은 밴드 끝 근처에서 몇 개의 기저만 남긴 리츠법이고(7.8), 평면파 전개도 리츠법이며, 밀도범함수 이론의 콘–샴 방정식은 7절의 라그랑주 승수(직교 구속)까지 포함한 변분 문제다.
확산과 열. 유한 두께 웨이퍼의 확산은 변수분리로 스투름–리우빌 문제가 되고, 해가 $\sum c_n y_n e^{-\lambda_n D t}$ 꼴이라 높은 고유값이 지수적으로 빨리 죽는다(1.7.8, 18.7). 원형 웨이퍼의 열전도에서는 같은 자리에 베셀 함수가 들어온다(3.7).
소자 시뮬레이션. 포아송 방정식은 6절의 에너지 범함수를 최소화하는 문제이고, TCAD가 그것을 푸는 방식이 유한요소·유한체적이다(20.3, 20.6). 격자를 계면 근처에 촘촘히 까는 이유가 5절의 수렴 논의다.
광학과 도파로. 도파로의 모드는 굴절률 프로파일을 $q$ 로 갖는 스투름–리우빌 문제의 고유함수이고, 모드가 이산인 이유가 2절의 그림 그대로다. 리소그래피 광학의 설계 원리인 페르마 원리는 6절의 변분 원리다(3.3, 3.6).
계측과 신호. 파스발 등식이 스펙트럼 분석의 근거이고(1.10), 깁스 현상은 급격한 신호를 유한 대역으로 잘랐을 때 생기는 링잉 그 자체다.

전부 같은 한 줄 $\mathcal{L}y + \lambda w y = 0$ 이고, 달라지는 것은 $p$ , $q$ , $w$ 가 무엇이냐뿐이다.