[경고] 아래 글을 읽지 않고 "프레드홀름 적분 방정식"를 보면 바보로 느껴질 수 있습니다.
프레드홀름 적분 방정식(Fredholm integral equation)을 대표하는 제2종 프레드홀름 방정식(Fredholm equation of the second kind)은 다음과 같다.

여기서 $k(x, x')$는 적분 핵심(integral kernel), $f(x)$는 해 함수(solution function), $d(x)$는 자료 함수(data function), $\gamma$는 상수인 매개변수, $\delta(\cdot)$는 디랙 델타 함수(Dirac delta function)이다. 프레드홀름Erik Ivar Fredholm(1866–1927)이 1899년부터 준비해서 1903년프레드홀름 37세, 대한제국 시절에 출판한 논문[1]은 프레드홀름 적분 방정식의 정확한 해법을 다루고 있다. 프레드홀름 이전에도 많은 쟁쟁한 수학자들이 적분 방정식을 풀기 위해 노력했다. 아벨Niels Henrik Abel(1802–1829)은 1823년아벨 21세, 조선 순조 시절에 특별한 함수 조건에서 정확한 풀이법이 존재함을 증명했다. 하지만 대부분은 식 (1)을 이산화해서 행렬(matrix)로 만든 후에 가우스 소거법(Gaussian elimination)으로 답을 구하는 방식이 주류를 이뤘다. 예를 들어, 식 (1)에서 적분 구간 $[a, b]$를 $n$개의 영역으로 분리해서 적분 방정식을 행렬처럼 만들어 해 $f(x_i)$를 구할 수 있다.

여기서 $i$ = $1, 2, \cdots, n$, $x_i$ = $a + i (b-a)/n$, $\delta_{ij}$는 크로네커 델타(Kronecker delta), 행렬 $\bf K$ = $[k_{ij}]$, 열 벡터 $\bf f$ = $[f(x_i)]^T$, $\bf d$ = $[d(x_i)]^T$이다.

[그림 1] 여러 가지 수학적 공간(출처: wikipedia.org)
프레드홀름은 식 (1)을 근사해서 쉽게 풀 수 있는 식 (2)의 방식을 선택하지 않고 꿋꿋하게 정공법으로 식 (1)을 풀어갔다. 뉴턴의 표현처럼, 프레드홀름도 거인의 어깨에 서서 새로운 함수 공간 개념을 창안했다. 프레드홀름의 거인은 요절한 천재 아벨, 함수 해석학의 창안자 볼테라Vito Volterra(1860–1940), 마지막 만능인 푸엥카레Henri Poincaré(1854–1912), 현대사의 증인 아다마르Jacques Hadamard(1865–1963) 등이다. 1898년에 박사 학위를 받은 프레드홀름은 1899년에 프랑스를 방문해 푸엥카레 및 아다마르와 협업을 했다. 이 영향으로 프레드홀름은 자신만의 새로운 적분 방정식 해법을 만들 수 있었다. 프레드홀름의 기여는 식 (1)을 풀 수 있는 방법을 찾았다는데만 있지 않다. 적분 방정식 하나를 풀어서 수학 세상이 얼마나 바뀌겠는가! 프레드홀름은 적분과 같은 수학적 과정을 연산자(operator)로 바꾸고 수렴하는 무한 급수(infinite series)를 적용해서 식 (1)의 적분 방정식을 엄밀하게 풀었다. 연산자를 강조한 프레드홀름의 방법론은 적분 방정식의 해법에만 머물지 않고 수학적 구조를 고민하는 함수 해석학(functional analysis)으로 일반화될 수 있다. 이런 관점의 최고봉이 바로 힐베르트 공간(Hilbert space)이다. [그림 1]에 소개한 힐베르트 공간은 내적(inner product)이 정의된 벡터 공간(vector space)이면서 완비성(completeness)을 만족한다. 여기서 완비성에 의해 임의의 벡터를 무한히 더하더라도 그 극한은 항상 힐베르트 공간의 벡터가 된다. 힐베르트 공간의 핵심인 완비성은 프레드홀름이 만든 적분 방정식의 해법을 일반화한 결과이다.
프레드홀름이 제안한 적분 방정식의 원형은 다음과 같다.

여기서 $f(x, y)$는 적분 핵심, $\varphi(x)$는 해 함수, $\psi(x)$는 자료 함수이다. 식 (3)을 연산자 형태로 바꾸어본다.

여기서 적분 연산자 $\mathcal{K}_f$는 $\int_0^1 f(x, y) [\cdot]\, dy$, $\mathcal{I}$는 항등 연산자(identity operator)이다. 식 (4)에 제시한 적분 방정식을 풀기 위해 새로운 적분 연산자 $\mathcal{S}_g$를 양변에 적용한다.

여기서 $\mathcal{S}_g \psi$ = $\varphi$, 적분 연산자 $\mathcal{K}_g$는 $\int_0^1 g(x, y) [\cdot]\, dy$, 함수 $g(x, y)$는 분해 핵심(resolvent kernel)이다. 식 (5)에 나온 두 연산자 $\mathcal{K}_g, \mathcal{K}_f$의 합성 연산은 다음과 같다.

따라서 프레드홀름 적분 방정식을 푸는 과정은 식 (5)를 이용해 분해 핵심 $g(x, y)$ 구하기와 같다. 이열치열이라는 말도 있듯이, 적분 방정식을 해결하는 표준적 방법은 신기하게도 적분하기이다. 적분을 이용해 적분 방정식을 해결한 최초의 시도는 아벨의 적분 방정식(Abel's integral equation)이다.
[참고문헌]
[1] I. Fredholm, "Sur une classe d'équations fonctionnelles (On a class of functional equations)," Acta Math., vol. 27, pp. 365–390, 1903.
[2] G. W. Stewart, "Commentary on Fredholm, Hilbert, Schmidt: three fundamental papers on integral equations," University of Maryland, USA, 2011. (방문일 2021-03-27)
[3] J. Lindström, On the Origin and Early History of Functional Analysis, U.U.D.M. Project Report, Uppsala University, Sweden, 2008. (방문일 2021-04-11)