힐베르트 공간(Hilbert Space)

[경고] 아래 글을 읽지 않고 "힐베르트 공간"을 보면 바보로 느껴질 수 있습니다.

1. 프레드홀름 적분 방정식

2. 스튀름–리우빌 이론

[그림 1] 힐베르트 공간의 완비성(출처: wikipedia.org)

힐베르트 공간(Hilbert space)은 내적(inner product) 연산을 가진 벡터 공간(vector space)이면서 완비성(completeness)을 가진다. 수학에 나오는 공간(空間, space)은 적절한 연산을 정의해 원소간 계산을 할 수 있는 집합이다. 벡터에도 나오는 내적은 더 확장되어서, 힐베르트 공간에서는 함수상 내적(inner product on functions)을 공간을 정의하는 연산으로 사용한다. 힐베르트 공간의 완비성에 따라, [그림 1]의 소개처럼 공간에 놓인 벡터를 무한히 더한 결과는 다시 힐베르트 공간의 벡터가 된다.

힐베르트 공간과 비슷하게 사용되는 개념으로 $L^2$ 공간($L^2$ space)이 있다. $L^2$ 공간은 제곱 적분이 가능한 공간(square-integrable space)이며, 연산 도구는 리만 적분(Riemann integral)을 확장한 르베그 적분(Lebesgue integral)이 된다. 그래서 르베그 적분이 함수 제곱한 공간에서 존재한다고 해 $L^2$ 공간으로 부른다.

                  (1)

여기서 $X$는 집합, $x$는 집합의 원소, $\mu$는 측도(測度, measure)이다. 르베그 적분에 나오는 측도 $\mu$는 일관되게 잴 수 있는 집합(가측 집합, 可測集合, measurable set)에 크기를 부여하는 함수, 혹은 더 쉽게 집합의 양적 크기이다. 식 (1)의 좌변은 르베그 적분 정의이며, 우변이 존재하면 $f(x)$는 $L^2$ 공간에 속한다. $L^2$ 공간에서 $f(x) \ne g(x)$인 두 함수는 함수상 내적에 의해 거의 어디서나 같을(almost everywhere equal) 수 있다.

                          (2)

여기서 a.e.는 거의 어디서나(almost everywhere)를 뜻한다. 만약 $L^2$ 공간에서 내적이 서로 0인 함수들이 있다면, 이 함수들은 공간의 기저(基底, basis)로 작용하며 기저의 개수는 공간의 차원(dimension)이 된다. 기저 함수 $\psi_m(x)$의 개수가 무한이고 선형 결합으로 만든 무한 급수가 어떤 함수 $f(x)$에 식 (2)처럼 근접할 수 있다.

                          (3)

모든 $f(x)$를 $\psi_m(x)$의 선형 결합으로 표현할 수 있는 성질을 완비성(completeness)이라 한다. $L^2$ 공간이 완비성까지 갖추면 바로 힐베르트 공간이 된다. $L^2$ 공간을 더 일반화해서 $L^p$ 공간($L^p$ space)도 정의한다. $L^p$ 공간의 함수 $f(x)$를 $p$ 거듭제곱해 적분한 결과는 정의에 따라 항상 유한하다.

                  (4)

$L^p$ 공간 중에서 $L^1$ 및 $L^2$ 공간이 유명하다. $L^1$ 공간은 절대값 적분이라서, 이 공간에 속한 $f(x)$의 적분은 항상 가능하다. $L^2$ 공간은 푸리에 급수(Fourier series)의 존재성 증명에 쓰는 제곱 적분 가능한 함수(square-integrable function) 공간이다.

하지만 힐베르트 공간에 내적과 완비성이란 개념이 왜 등장할까? 이 의문을 해결하려면 프레드홀름 적분 방정식(Fredholm integral equation)에서 출발해야 한다[2]. 프레드홀름Erik Ivar Fredholm(1866–1927)은 적분 방정식의 일반 해법을 찾으면서 함수상 내적(inner product on functions)의 중요성을 발견했다. 이 개념을 힐베르트David Hilbert(1862–1943)가 유행을 시켰고[3], 힐베르트의 제자인 슈미트Erhard Schmidt(1876–1959)가 현대적인 선행 대수학으로 누구나 이해할 수 있게 완성했다. 슈미트는 QR 분해(decomposition)에 나오는 그람–슈미트 과정(Gram–Schmidt process)의 제안자이기도 하다. 앞으로 우리는 슈미트의 생각을 따라가면서 힐베르트 공간을 세부적으로 증명한다[1], [4]. 먼저 제2종 볼테라 방정식(Volterra equation of the second kind) 혹은 제2종 프레드홀름 방정식(Fredholm equation of the second kind)부터 시작한다.

                  (5)

여기서 $f(x)$는 알고 있는 자료 함수(data function), $\varphi(x)$는 구해야 하는 해 함수(solution function), $k(x, y)$는 적분 방정식의 실수 적분 핵심(real integral kernel), $\lambda$는 $k(x, y)$의 고유치(eigenvalue)이다. 특별히 $f(x)$ = $0$일 때 얻어지는 해 함수는 고유 함수(eigenfunction)로 명명한다.

                  (6a)

여기서 고유치 $\lambda_m$의 고유 함수는 $\varphi_m(x)$, $m$은 고유치의 번호이다. 편의를 위해 $k(x, y)$는 연속(continuity)이며 $k(x, y)$ = $k(y, x)$인 대칭 핵심(symmetric kernel)으로 한정한다. 대칭 핵심으로 가정한 후 식 (6a)에 $\lambda_n \varphi_n(x)$를 곱하고 $m,n$을 바꾼 적분을 빼서, 고유치가 다른 경우 성립하는 고유 함수의 직교성(orthogonality)을 증명한다.

                  (6b)

여기서 $\lambda_m \ne \lambda_n$이다. 식 (6b)에서 $m$ = $n$으로 계산한 함수상의 내적을 1이라 정해서 $\varphi_m(x)$를 정규 직교 기저(orthonormal basis)가 되게 한다.

                  (6c)

여기서 $\delta_{mn}$은 크로네커 델타(Kronecker delta)이다. 다음 단계로 $\lambda_n$ = $\lambda_m^*$를 식 (6b)에 넣는다.

                  (6d)

여기서 식 (6a)에 켤레 복소수를 취하면 $\lambda_m^*$의 고유 함수는 $\phi_m^*(x)$가 된다. 그러므로 고유치 $\lambda_m$은 항상 실수가 된다. 또한 고유 함수는 일반적으로 복소 함수(complex function)라서 $\varphi_m(x)$ = $\Re[\varphi_m(x)] + i \Im[\varphi_m(x)]$로 생각한다. 이를 식 (6a)에 대입하면 $\varphi_m(x)$의 실수부와 허수부는 동일한 실수 고유치 $\lambda_m$을 가진다. 그래서 단순하게 $\varphi_m(x)$를 복소 함수가 아닌 실수 함수로 잡는다. 이러한 과정 전부는 스튀름–리우빌 이론(Sturm–Liouville theory)의 유도 절차와 놀랍도록 비슷하다.

식 (6a)에 $\varphi_m(w)$를 곱하고 $m$에 대해 더해서 부분 합 $S_M(w, x)$를 정의한다.

                  (7a)

식 (7a)가 성립하려면 $k(x, y)$는 $S_N(x, y)$ 성분을 반드시 가져야 한다. 여기서 $N \ge M$이다. 그래서 $k(x, y)$와 $S_M(x, y)$에 대한 베셀의 부등식(Bessel's inequality)을 검토한다.

                  (7b)

베셀의 부등식에 따라 $k(x,y)$가 제곱 적분 가능한 경우, $M$을 아무리 키우더라도 부분 합 $S_M(x, y)$는 항상 유계를 만족한다. 또한 식 (7b)의 마지막식에서 $1 \mathbin{/} \lambda_m^2$으로 만든 무한 급수(infinite series)가 수렴하므로, $m$이 커짐에 따라 $\lambda_m$은 무한대로 발산한다. 이 결과를 다시 식 (6a)에 적용하면, $\varphi_m(x)$에 대한 리만–르베그 보조 정리(Riemann–Lebesgue lemma)를 얻는다.

                  (7c)

적분 핵심 $k(x, y)$가 가진 재미있는 성질 중 하나인 반복 적분 핵심(iterated integral kernel)을 정의한다. 식 (6a)의 피적분 함수에 있는 $\varphi(y)$를 식 (6a)의 자기 자신으로 치환해서 2차 반복 적분 핵심 $k^{(2)}(x, y)$를 만든다.

                  (8a)

식 (8a)와 같은 과정을 계속 반복해서 $n$차 반복 적분 핵심 $k^{(n)}(x, y)$를 순차적으로 생성할 수 있다.

                  (8b)

여기서 $k^{(1)}(x, y)$ = $k(x, y)$이다. 따라서 $k^{(n)}(x, y)$의 고유 함수는 기존과 동일하게 $\varphi_m(x)$이고 고유치는 기존 $\lambda_m$의 거듭제곱인 $\lambda_m^n$으로 바뀐다. 새롭게 정의한 반복 적분 핵심 $k^{(n)}(x, y)$는 $k(x, y) \ne 0$인 경우에 절대 0이 될 수 없다. 예를 들어, 어떤 자연수 $k^{(n_0)}(x, y)$에서 $0$이 나온다고 가정한다. 만약 $n_0$이 홀수라면, 식 (8b)의 첫째식을 써서 $k^{(n_0+1)}(x, y)$ = $0$으로 만든다. 이를 사용해 $n_0$에 가장 가까운 짝수를 $\nu_0$[$n_0$ 혹은 $n_0+1$]으로 둔다. 그러면 식 (8b)의 둘째식으로 인해 $k^{(\nu_0/2)}(x, y)$ = $0$이 된다.

                  (8c)

이 절차를 계속 반복하면 $k(x, y)$ = $0$이 나온다. 이런 결과는 가정에 위배되기 때문에 $k^{(n)}(x, y)$는 언제나 0이 아니다.

적분 핵심의 고유치와 고유 함수의 다양한 특성을 활용해서 적분 핵심의 기본 정리(fundamental theorem of integral kernel)를 도출한다.

[적분 핵심의 기본 정리] [1], [4]

영이 아닌 적분 핵심 $k(x, y)$는 하나 이상의 고유 벡터 $\varphi(x)$와 고유치 $\lambda$를 가진다.

                  (9)

여기서 $k(x, y) \ne 0$이며 제곱 적분 가능하다.

[증명]

선형 대수학에 기반을 둔 슈미트의 방법론[1]을 따라서 이 기본 정리를 증명할 수 있지만, 조금 더 쉬운 길도 존재한다. 프레드홀름 적분 방정식(Fredholm integral equation)의 결과에 따라, 식 (5)의 해는 반드시 존재한다. 여기에 $f(x)$ = $0$을 대입해서 이항하면 식 (9)가 얻어진다. 따라서 주어진 $k(x, y)$의 고유 함수와 고유치는 하나 이상 있어야 한다.

______________________________

적분 핵심의 기본 정리를 이용해서 고유 함수의 영인자(nullity of eigenvector)를 위한 따름 정리(corollary)를 유도한다.

[고유 함수의 영인자] [1]

모든 고유 함수에 직교하는 적분 핵심은 영 함수(zero function)뿐이다.

                  (10)

여기서 $m$ = $0,1,2,\cdots$이다.

[증명]

적분 핵심 $k(x, y)$가 0이 아니라면, 적분 핵심의 기본 정리에 의해 고유 함수 $\varphi_m(x)$와 다른 $\psi(x)$가 존재한다.

                  (11a)

식 (11a)에 $\psi_m (x)$를 곱해 적분한 결과는 $\varphi_m(x)$와 $\psi(x)$가 서로 직교한다고 말한다.

                  (11b)

하지만 $\varphi_m(x)$에 직교하는 $\psi(x)$는 $\{\varphi_m(x)\}$에 속해야 해서, 두 함수가 다르다는 가정을 만족하지 못한다. 따라서 적분 핵심 $k(x, y)$는 0이 되어야 한다.

______________________________

이제는 식 (5)를 풀기 위해 필요한 대부분의 정리를 가지고 있기 때문에, 적분 핵심 $k(x, y)$를 고유 함수 $\varphi_m(x)$로 전개한 식을 시작으로 힐베르트 공간에서 식 (5)의 해법을 제시한다.

[적분 핵심의 전개 정리(expansion theorem of integral kernel)] [1]

                  (12)

여기서 무한 급수의 항은 $|\lambda_m|$의 크기 순서로 나열한다.

[증명]

식 (12)를 참고해서 새로운 적분 핵심 $p(x, y)$를 정의한다.

                  (13a)

함수 $p(x, y)$는 모든 $\varphi_m(x)$에 대해 직교한다.

                  (13b)

따라서 고유 함수의 영인자 특성에 의해 $p(x, y)$ = $0$이 되어서 증명이 완성된다.

______________________________

식 (12)의 무한 급수는 식 (7b)의 부등식에 따라 절대 수렴(absolute convergence)하므로, 자유롭게 활용할 수 있다.

[임의 함수의 전개 정리(expansion theorem of arbitrary function)] [1]

                  (14)

여기서 $g(x), \psi(x)$는 연속이다.

[증명]

식 (13a)처럼 식 (14)의 둘째식을 생각해서 새로운 함수 $h(x)$를 정의한다.

                  (15a)

식 (15a)는 $h(x)$가 $\varphi_m(x)$에 항상 직교하는 성질을 만든다.

                  (15b)

그러면 식 (12)의 결과로 $h(x)$는 $k(x, y)$에도 직교한다.

                  (15c)

다음 단계로 $h^2(x)$의 적분에 식 (15a)의 우변과 식 (14)의 첫째식을 대입해서 $h(x)$ = $0$을 유도한다.

                  (16)

______________________________

식 (5)에서 해 함수 $\varphi(x)$를 자료 함수 $f(x)$와 고유 함수의 전개인 식 (14)의 합으로 선택해서 식 (5)의 해를 구한다.

[힐베르트 공간에서 해 함수의 전개(expansion of solution function in Hilbert space)] [1]

                  (17)

[증명]

해 함수 $\varphi(x)$를 자료 함수 $f(x)$와 임의 함수 $g(x)$로 전개한다.

                  (18a)

식 (18a)를 식 (5)에 대입해서 $g(x)$에 대해 정리한다.

                  (18b)

식 (18b)에 $\varphi_m(x)$를 곱하고 적분한다.

                  (18c)

식 (18c)에서 얻은 $G_m$을 식 (18a)에 넣어서 식 (17)을 얻는다. 

______________________________

식 (17)을 적분 방정식 (5)에 넣어서 적분 핵심 $k(x, y)$의 전개를 재확인한다.

                  (19a)

             (19b)

따라서 식 (12)와 (14)는 적분 방정식을 푼 결과인 식 (17)을 이루는 가장 중요한 요소이다.

박사 과정생 슈미트Erhard Schmidt(1876–1959)가 1905년슈미트 29세, 대한제국 시절에 마침표를 찍은 힐베르트 공간은 인류 지성사에서 천재들이 약100년 동안 함께 쌓아올린 거룩한 금자탑(金字塔, pyramid)이다. 열(heat)에 관심이 많던 푸리에Joseph Fourier(1768–1830) 도지사가 1807년푸리에 39세, 조선 순조 시절에 미분 방정식(differential equation)의 풀이법으로 푸리에 급수(Fourier series)를 제안했다. 한때 푸리에 교수의 조수였던 스튀름Jacques Charles François Sturm(1803–1855) 교수는 1829년스튀름 26세, 조선 순조 시절에 푸리에 급수를 일반화한 스튀름–리우빌 이론(Sturm–Liouville theory)을 만들어서, 미분 방정식을 향한 푸리에의 방법론을 완성했다. 푸리에 급수는 미분 방정식을 해석적으로 푸는 방법이므로, 아벨Niels Henrik Abel(1802–1829)이 풀기 시작한 적분 방정식(integral equation)과는 직접적인 관련이 없다. 하지만 스웨덴에서 박사 학위를 받고 선진 수학을 배우기 위해 프랑스에 온 프레드홀름Erik Ivar Fredholm(1866–1927) 교수가 1903년프레드홀름 37세, 대한제국 시절에 미분과 적분 방정식 해법의 연결 고리를 프레드홀름 적분 방정식(Fredholm integral equation)에서 발견했다. 대(大)수학자 힐베르트David Hilbert(1862–1943)는 프레드홀름 논문의 진정한 가치를 바로 잡아냈고 학문적으로 열광했다. 힐베르트 자신은 1904년힐베르트 42세, 대한제국 시절에, 그의 박사 과정생 슈미트는 1905년에 걸쳐, 적분 방정식을 푸는 표준 방법도 푸리에 급수처럼 직교성을 가진 고유 함수의 무한 급수임을 명확히 밝혀냈다. 힐베르트와 슈미트가 선형 대수학으로 구성한 힐베르트 공간은 시작점이 서로 다르지만 미분과 적분 방정식의 해 표현식이 유사하다는 놀랄만한 일반성을 보여준다. 이후 힐베르트 공간은 양자 역학(quantum mechanics)을 다루기 위한 표준 방법론으로 발전했다.

[참고문헌]

[1] G. W. Stewart, "Commentary on Fredholm, Hilbert, Schmidt: three fundamental papers on integral equations," University of Maryland, USA, 2011. (방문일 2021-03-27)

[2] I. Fredholm, "Sur une classe d'équations fonctionnelles (On a class of functional equations)," Acta Math., vol. 27, pp. 365–390, 1903.

[3] D. Hilbert, "Grundzüge einer allgemeinen Theorie der linearen Integralgleichungen (Basics of a general theory of linear integral equations)," Nachrichten von der Gesellschaft der Wissenschaften zu Göttingen (News from the Society of Sciences in Göttingen), Mathematisch-Physikalische Klasse (Mathematical-Physics Class), no. 3, pp. 213–260, 1904.

[4] E. Schmidt, Entwickelung willkürlicher Funktionen nach Systemen vorgeschriebener (Expansion of Arbitrary Functions by Prescribed Systems), Inaugural Dissertation, University of Göttingen, 1905.