[경고] 아래 글을 읽지 않고 "프레드홀름 적분 방정식"을 보면 바보로 느껴질 수 있습니다.
[그림 1] 여러 가지 수학적 공간(출처: wikipedia.org)
프레드홀름 적분 방정식(Fredholm integral equation)을 대표하는 제2종 프레드홀름 방정식(Fredholm equation of the second kind)은 다음과 같다.
(1)여기서 $k(x, x')$는 적분 핵심(integral kernel), $f(x)$는 해 함수(solution function), $d(x)$는 자료 함수(data function), $\gamma$는 상수인 매개변수, $\delta(\cdot)$는 디랙 델타 함수(Dirac delta function)이다. 프레드홀름Erik Ivar Fredholm(1866–1927)이 1899년부터 준비해서 1903년프레드홀름 37세, 대한제국 시절에 출판한 논문[1]은 프레드홀름 적분 방정식의 정확한 해법을 다루고 있다. 프레드홀름 이전에도 많은 쟁쟁한 수학자들이 적분 방정식을 풀기 위해 노력했다. 아벨Niels Henrik Abel(1802–1829)은 1823년아벨 21세, 조선 순조 시절에 특별한 함수 조건에서 정확한 풀이법이 존재함을 증명했다. 하지만 대부분은 식 (1)을 이산화해서 행렬(matrix)로 만든 후에 가우스 소거법(Gaussian elimination)으로 답을 구하는 방식이 주류를 이뤘다. 예를 들어, 식 (1)에서 적분 구간 $[a, b]$를 $n$개의 영역으로 분리해서 적분 방정식을 행렬처럼 만들어 해 $f(x_i)$를 구할 수 있다.
(2)여기서 $i$ = $1, 2, \cdots, n$, $x_i$ = $a + i (b-a)/n$, $\delta_{ij}$는 크로네커 델타(Kronecker delta), 행렬 $\bf K$ = $[k_{ij}]$, 열 벡터 $\bf f$ = $[f(x_i)]^T$, $\bf d$ = $[d(x_i)]^T$이다.
프레드홀름은 식 (1)을 근사해서 쉽게 풀 수 있는 식 (2)의 방식을 선택하지 않고 꿋꿋하게 정공법으로 식 (1)을 풀어갔다. 뉴턴의 표현처럼, 프레드홀름도 거인의 어깨에 서서 새로운 함수 공간 개념을 창안했다. 프레드홀름의 거인은 요절한 천재 아벨, 함수 해석학의 창안자 볼테라Vito Volterra(1860–1940), 마지막 만능인 푸엥카레Henri Poincaré(1854–1912), 현대사의 증인 아다마르Jacques Hadamard(1865–1963) 등이다. 1898년에 박사 학위를 받은 프레드홀름은 1899년에 프랑스를 방문해 푸엥카레 및 아다마르와 협업을 했다. 이 영향으로 프레드홀름은 자신만의 새로운 적분 방정식 해법을 만들 수 있었다. 프레드홀름의 기여는 식 (1)을 풀 수 있는 방법을 찾았다는데만 있지 않다. 적분 방정식 하나를 풀어서 수학 세상이 얼마나 바뀌겠는가! 프레드홀름은 적분과 같은 수학적 과정을 연산자(operator)로 바꾸고 수렴하는 무한 급수(infinite series)를 적용해서 식 (1)의 적분 방정식을 엄밀하게 풀었다. 연산자를 강조한 프레드홀름의 방법론은 적분 방정식의 해법에만 머물지 않고 수학적 구조를 고민하는 함수 해석학(functional analysis)으로 일반화될 수 있다. 이런 관점의 최고봉이 바로 힐베르트 공간(Hilbert space)이다. [그림 1]에 소개한 힐베르트 공간은 내적(inner product)이 정의된 벡터 공간(vector space)이면서 완비성(completeness)을 만족한다. 여기서 완비성에 의해 임의의 벡터를 무한히 더하더라도 그 극한은 항상 힐베르트 공간의 벡터가 된다. 힐베르트 공간의 핵심인 완비성은 프레드홀름이 만든 적분 방정식의 해법을 일반화한 결과이다.
프레드홀름이 제안한 적분 방정식의 원형은 다음과 같다.
(3)여기서 $f(x, y)$는 적분 핵심, $\varphi(x)$는 해 함수, $\psi(x)$는 자료 함수이다. 적분 핵심 $f(x, y)$와 자료 함수 $\psi(x)$를 아는 상태에서 모르는 해 함수 $\varphi(x)$를 풀어내야 한다. 이를 위해 식 (3)을 연산자 형태로 바꾸어본다.
(4)여기서 적분 연산자 $\mathcal{K}_f$는 $\int_0^1 f(x, y) [\cdot]\, dy$, $\mathcal{I}$는 항등 연산자(identity operator)이다. 식 (4)에 제시한 적분 방정식을 풀기 위해 새로운 적분 연산자 $\mathcal{S}_g$를 양변에 적용한다.
(5)여기서 $\mathcal{S}_g \psi$ = $\varphi$, 적분 연산자 $\mathcal{K}_g$는 $\int_0^1 g(x, y) [\cdot]\, dy$, 함수 $g(x, y)$는 분해 핵심(resolvent kernel)이다. 그래서 식 (3)에 해가 존재한다면, 그 답은 연산 $\varphi$ = $\mathcal{S}_g \psi$로 유일하게 얻어진다. 식 (5)에 나온 두 연산자 $\mathcal{K}_g, \mathcal{K}_f$의 합성 연산은 다음과 같다.
(6)식 (5)의 첫째식에 $\mathcal{S}_f$를 적용해도 문제가 없어야 해서 $\mathcal{S}_f \mathcal{S}_g$ = $\mathcal{I}$도 성립해야 한다. 따라서 프레드홀름 적분 방정식을 푸는 절차는 $\mathcal{S}_g \mathcal{S}_f$ = $\mathcal{S}_f \mathcal{S}_g$ = $\mathcal{I}$를 만족하는 분해 핵심 $g(x, y)$를 구하는 과정과 같다. 행렬 관점에서 분해 핵심 $g(x, y)$는 $f(x, y)$의 역행렬(inverse matrix)에 해당한다. 이열치열이라는 말도 있듯이, 적분 방정식을 해결하는 표준적 방법은 신기하게도 적분하기이다. 적분을 이용해 적분 방정식을 해결한 최초의 시도는 아벨의 적분 방정식(Abel's integral equation)이다.
해 함수 $\varphi(x)$를 구하는 첫 단계는 우리가 구해야 하는 분해 핵심 $g(x, y)$의 조건을 명확히 정의하기에서 출발한다. 합성 연산자 $\mathcal{S}_h$ = $\mathcal{S}_g \mathcal{S}_f$로 놓고 합성 연산의 함수 $h(x, y)$를 $f(x, y)$, $g(x, y)$로 표현한다.
(7)식 (7)은 연산자로 세련되게 제시한 식 (5)의 초보적인 적분 표현식이다. 모든 $x$에 대해 식 (7)을 만족하기 위해서는 $h(x, y)$ = $0$이 되어야 한다. 그래서 분해 핵심 $g(x, y)$는 $h(x, y)$ = $0$이 되도록 선택되어야 한다. 어떻게 하면 이 고민을 해결할까? 프레드홀름은 운이 매우 좋았다. 자기 대학원 연구실 선배인 코흐Helge von Koch(1870–1924)가 신기한 돌파구를 만들어놓고 1892년코흐 22세, 조선 고종 시절에 수학 박사로 졸업을 했다[4]. 코흐는 박사 학위 논문에서 행렬식(determinant)의 차원(dimension)이 계속 커지는 무한 급수(infinite series)인 무한 행렬식(infinite determinant)을 정의해 미분 방정식을 푸는 신선한 시도를 했다. 분해 핵심 $g(x, y)$ 구하기는 역행렬과 관련 있어서, 무한 행렬식을 채택한 프레드홀름의 도박은 적분 방정식의 일반 해법을 제시한 대박이 되었다. 코흐는 무한 행렬식 제안 외에 프랙탈(fractal)을 시작한 코흐 곡선(Koch curve)으로도 유명하다.
이 추론에 따라 $g(x, y)$를 $f(x, y)$로만 나타내면, 프레드홀름 적분 방정식의 해 $\varphi(x)$는 다음처럼 공식화된다.
(8)식 (8)에 사용되는 $g(x, y)$를 정의하기 위한 무한 행렬식 $D_f$는 $n$차원 행렬식을 계수로 가진 무한 급수이다.
(9a)
(9b)
(9c)
(9d)여기서 $|\cdot|$는 행렬식, $D_f$는 $f(x, y)$에 대한 무한 행렬식 $D$를 뜻한다. 무한 행렬식 $D_f$는 프레드홀름 적분 방정식으로 인해 유명해져서 프레드홀름 행렬식(Fredholm determinant)으로도 불린다. 무한 행렬식 $D_f$는 복잡해보이지만 다행히 절대 수렴(absolute convergence)한다. 절대 수렴의 증명에는 아다마르의 부등식(Hadamard's inequality)을 적용한다.
(10)여기서 $|\cdot|$는 절대값, $M_f$는 $|f(x, y)|$의 최대값이다. 비율 판정(ratio test)으로 식 (10)에서 얻은 무한 급수가 절대 수렴함을 증명한다.
(11)다만 식 (9a)는 행렬식을 계수로 가진 절대 수렴하는 무한 급수라서, 적분 방정식을 풀 때에 도움이 되는지는 의문이다. 식 (9a)의 모양 그대로는 당연히 적분 방정식과 관계를 짓기 어렵다. 그래서 프레드홀름은 교묘하게 $D_f$의 무한 소행렬식(小行列式, minor) $D_f(\xi; \eta)$를 추가로 정의함으로써, $D_f(\xi; \eta)$를 적분을 없애기 위한 도구로 썼다.
(12)왜냐하면 함수 입력의 왼쪽에 $\xi, \eta$를 추가한 식 (9b)의 변형은 행 벡터에 대한 라플라스 전개(Laplace expansion)와 식 (9c)에 따라 다음 관계를 만족하기 때문이다.
(13a)
(13b)식 (13b)를 $x_1, x_2, \cdots, x_n$에 대해 적분하고 같은 항을 모아서 정리한다.
(14)식 (14)를 식 (12)에 대입해서 무한 소행렬식을 무한 행렬식과 연결시킨다.
(15a)동일한 방식으로 열 벡터에 대한 라플라스 전개를 활용해서 식 (15a)와 비슷한 결과도 얻는다.
(15b)식 (15b)를 이항해서 만든 방정식의 형태가 식 (7)에 나온 $h(x, y)$가 되게 하면, 식 (8)을 이용해 우리가 정말 얻기 원하는 $g(x, y)$를 $f(x, y)$의 함수로 유도할 수 있다.
(16)
(17)해 표현식은 식 (17)처럼 복잡하지만, 식 (3)의 해는 분명히 식 (17)이다. 따라서 프레드홀름 적분 방정식의 해는 분명히 존재하고 식 (17)처럼 완벽히 정해진다.
다만 $D_f$ = $0$인 경우는 식 (17)을 쓸 수 없어서 새로운 접근법이 필요하다. 무한 소행렬식 $D_f(\xi; \eta)$를 1계 무한 소행렬(the first-order infinite minor)로 생각한 후, 고계(higher-order) 무한 소행렬식을 정의해서 $D_f$ = $0$인 적분 방정식을 푼다[1].
(18)여기서 $m$은 무한 소행렬식의 계수(order) 혹은 계층수이다. 식 (15)처럼 식 (18)에도 라플라스 전개를 써서 계층수가 1만큼 더 낮은 소행렬식으로 바꾸는 공식도 찾을 수 있다.
(19a)
(19b)만약 $D_f$ = $0$일 때는 당황하지 말고 무한 소행렬식의 계수를 늘림으로써 식 (18)에 만든 무한 급수 혹은 무한 소행렬식이 0으로 나오지 않게 한다. 왜냐하면 $\xi, \eta$ 항을 늘릴수록 우리가 선택할 수 있는 $\xi, \eta$의 자유도가 증가해서, 어느 정도 $\xi, \eta$ 항이 커진 무한 소행렬식은 식 (19)처럼 0이 되지 않을 가능성도 커지기 때문이다. 예를 들어, $m$계에서 0이 아니라면, 식 (18)은 0이 아니며 1계부터 $m-1$계까지 모든 종류의 무한 소행렬식은 0이 된다. 다음 단계로 0이 아닌 무한 소행렬식의 최소 계층수를 $m$으로 두면 식 (19a)는 매우 간단해진다.
(20a)
(20b)
(20c)
(21)여기서 $\xi_k$, $\eta_k$는 분모가 0이 되지 않게 고른다. 분해 핵심인 식 (21)은 식 (17)과는 다르게 완전한 역함수(inverse)는 아니므로, $\mathcal{S}_h$에 대한 유사 역함수(pseudoinverse)라 이름 붙인다. 왜냐하면 $g(x, y)$는 식 (22b)처럼 $h(x, y)$를 깨끗이 0으로 만들지 못하는 불완전한 역함수로 작용하기 때문이다. 다시 식 (21)을 식 (7)에 제시한 $h(x, y)$의 정의에 넣어서 정리한다.
(22a)
(22b)이 결과를 이용해서 일반해 $\varphi_u(x)$를 $\Phi_k(x)$로 새로이 표현한다.
(23)식 (23)의 둘째식에 연산자 $\mathcal{K}_f$를 적용하고 식 (20b)를 사용하면 $\mathcal{S}_f$의 적용 결과도 0이 나옴을 보일 수 있다.
(24)따라서 무한 행렬식 $D_f$ = $0$인 가정은 $\mathcal{S}_f \varphi(x)$ = $0$이 근을 가지기 위한 필요 충분 조건이며, 이때 근은 $\varphi(x)$ = $\varphi_u(x)$이다. 또한 일반해 $\varphi_u(x)$를 생성하는 기저 함수 $\Phi_k (x)$는 적분 핵심 $f(x, y)$의 사영 함수 $f(\xi_l, x)$와 직교한다.
(25a)
(25b)여기서 $k$ = $1,2,\cdots, m$ 및 $l$ = $1,2, \cdots, m$, 그리고 $\delta_{lk}$는 크로네커 델타(Kronecker delta)이다. 식 (25a)의 셋째 줄에서 $\xi_l$이 $\xi_k$와 다르면, 다른 항에 $\xi_l$과 같은 값이 반드시 있다. 그러면 식 (9b)에서 두 행 벡터가 같은 경우가 발생해서 이 행렬식은 항상 0이 된다. 또 다른 측면으로 모든 $\Phi_k (x)$는 선형 독립이다. 이 증명을 위해 $\Phi_k (x)$와 $f(\xi_l, x)$의 선형 결합을 만들고, 귀류법(歸謬法, contradiction) 관점에서 $\Phi_k (x)$는 선형 종속이라 가정한다. 하지만 $\Phi_k (x)$와 $f(\xi_l, x)$가 만드는 선형 결합의 내적은 항상 양수란 결과를 얻으므로, $\Phi_k (x)$는 선형 종속일 수 없고 반드시 선형 독립이 되어야 한다.
(26)여기서 $\alpha_k$는 선형 결합의 계수(coefficient)이다.
이 모든 결과를 종합하여 $D_f$ = $0$인 조건에서 $\varphi(x)$를 구한다. 먼저 식 (4)의 양변에 $\mathcal{S}_g$ 연산을 적용한다.
(27)그런데 계수 $B_k$는 피적분 함수에 우리가 구해야 할 $\varphi(y)$를 포함하고 있어서 식 (27)은 제대로 된 해가 아니다. 이 문제를 해결하기 위해 과감히 $B_k$를 식 (23)에 나온 일반해의 계수 $A_k$로 변경해 $\varphi(x)$를 다시금 공식화한다.
(28)위 결과가 맞는 이유는 식 (28)의 우변 급수가 식 (23)에 따라 일반해 $\varphi_u(x)$이며, $\mathcal{S}_f \varphi_u(x)$ = $0$으로 인해 $\psi(x)$ = $0$일 때 $\varphi(x)$ = $\varphi_u(x)$가 나오기 때문이다. 더 깊은 이해를 위해 식 (28)에 $\mathcal{S}_f$ 연산을 적용하면 다음 결과도 얻는다.
(29)식 (29)에 출현한 합성 연산 $\mathcal{S}_f \mathcal{S}_g$ = $\mathcal{S}_{\breve{h}}$로 꾸민 함수 $\breve{h}(x, y)$는 다음과 같이 표현된다.
(30a)그 다음에 식 (30a)에 식 (19a)를 대입해서 급수 형태로 만든다.
(30b)그러면 $\mathcal{S}_{\breve{h}} \psi(x)$는 식 (30b)로 구성한 적분 방정식이 된다.
(31)식 (31)에 나온 적분이 $\psi(y)$에 관계없이 항상 0임을 보이기 위해, 식 (3)에 $m$계 무한 소행렬식을 곱해서 적분한다.
(32)여기서 우변은 식 (20c)에 의해 항상 0이 된다. 결국 $\mathcal{S}_{\breve{h}} \psi(x)$ = $\psi(x)$가 되므로, $\mathcal{S}_{\breve{h}}$에 대한 분해 핵심 $g(x, y)$는 $f(x, y)$의 적분 연산 $\mathcal{S}_{f}$를 거꾸로 돌리는 역함수 기능을 한다. 반면에 $\mathcal{S}_{h}$ 연산에서 $g(x, y)$는 $\mathcal{S}_{f}$의 유사 역함수로 작용한다. 이 모든 결과를 종합하면, 식 (28)은 $\mathcal{S}_f \varphi(x)$ = $\psi(x)$를 항상 만족하기 때문에 의문의 여지 없는 적분 방정식의 답이다.
1903년프레드홀름 37세, 대한제국 시절에 적분 방정식의 일반 해법을 홀연히 완성한 프레드홀름은 수학계에서 단번에 유명해졌다. 대(大)수학자 힐베르트David Hilbert(1862–1943)는 선형 대수학(linear algebra) 관점으로 프레드홀름의 해법을 확장해서 힐베르트 공간을 만들었다[4]. 힐베르트의 제자 슈미트Erhard Schmidt(1876–1959)는 다소 어렵게 기술된 힐베르트 공간을 현대적인 선형 대수학으로 다시 증명해서[5] 평범한 우리들도 힐베르트 공간의 참맛을 알 수 있게 했다. 그후 힐베르트 공간의 아버지인 프레드홀름의 관심은 순수 수학에서 수리 물리학과 보험 통계학으로 넓어져갔다.
[다음 읽을거리]
[참고문헌]
[1] I. Fredholm, "Sur une classe d'équations fonctionnelles (On a class of functional equations)," Acta Math., vol. 27, pp. 365–390, 1903.
[2] G. W. Stewart, "Commentary on Fredholm, Hilbert, Schmidt: three fundamental papers on integral equations," University of Maryland, USA, 2011. (방문일 2021-03-27)
[3] J. Lindström, On the Origin and Early History of Functional Analysis, U.U.D.M. Project Report, Uppsala University, Sweden, 2008. (방문일 2021-04-11)
[4] H. von Koch, "Sur les déterminants infinis et les équations différentielles linéaires (On infinite determinants and linear differential equations)," Acta Math., vol. 16, pp. 217–295, 1892.
[4] D. Hilbert, "Grundzüge einer allgemeinen Theorie der linearen Integralgleichungen (Basics of a general theory of linear integral equations)," Nachrichten von der Gesellschaft der Wissenschaften zu Göttingen (News from the Society of Sciences in Göttingen), Mathematisch-Physikalische Klasse (Mathematical-Physics Class), no. 3, pp. 213–260, 1904.
[5] E. Schmidt, Entwickelung willkürlicher Funktionen nach Systemen vorgeschriebener (Expansion of Arbitrary Functions by Prescribed Systems), Inaugural Dissertation, University of Göttingen, 1905.
(1)
(2)
(3)
(4)
(7)
(10)
(11)
(13)
(14)
(15)
