베셀의 미분 방정식(Bessel's Differential Equation)

[경고] 아래 글을 읽지 않고 "베셀 미분 방정식"을 보면 바보로 느껴질 수 있습니다.
1. 스튀름–리우빌 이론
2. 프로베니우스 방법의 적용
3. 천장에 매달린 사슬의 운동 방정식

베셀Friedrich Wilhelm Bessel(1784–1846)이 일반화 시킨 다음 미분 방정식을 베셀의 미분 방정식(Bessel's differential equation)이라 한다.

                       (1)

                      (2a)

                      (2b)

여기서 $y(\xi x)$는 $y(x)$의 변수 치환이다.

재미있는 수학사적 사실은 베셀의 박사 학위 지도교수(advisor)가 가우스Carl Friedrich Gauss(1777–1855)란 부분이다[4]–[7]. 베셀은 가우스의 추천으로 1810년베셀 26세, 조선 순조 시절에 괴팅겐[정확한 발음은 괴팅엔이나 우리 전통에 따라 괴팅겐으로 표기] 대학교(Georg-August-Universität Göttingen)의 명예 박사 학위(honorary doctorate)를 취득하게 된다[6]. 우리를 힘들게 하는 베셀 함수(Bessel function)를 만든 베셀이지만, 박사 학위가 없어 한때 서러움을 당했다. 천문학과 수학을 거의 독학으로 공부해 성과를 만들어낸 천재여서, 베셀은 1809년베셀 25세, 조선 순조 시절에 쾨니히스베르크 천문대(Königsberg Observatory) 책임자와 교수직을 제안 받았다. 하지만 박사 학위가 없어서 임용이 결국 거절되었다. 베셀은 박사 학위를 받기에 충분한 능력을 갖추었지만, 자존심에 큰 상처를 입어서 인근 대학의 쉬운 박사 학위에 지원하지는 않았다. 능력이 아닌 학위만 보는 불합리한 권위에 굴복하는 모습을 보여주고 싶지 않았기 때문일 것이다. 이러한 심적 난처함을 도와준 구세주가 가우스였다. 깐깐한 가우스지만 열정적인 천재에게는 한없이 관대했다. 가우스의 적극적인 추천과 이전의 본인 업적으로 박사 학위를 받은 베셀은 결국 쾨니히스베르크 천문대장이 된다. 이후 평생을 쾨니히스베르크에 머물며 하늘을 정밀하게 관찰하게 된다. 쾨니히스베르크 하늘을 보고 고민하며 이룬 업적 중 하나가 그 유명한 베셀 함수이다. 가우스의 지원이 없었다면 이 베셀 함수는 다른 이름을 가졌을 수도 있다.

베셀 함수는 천장에 매단 사슬(hanging chain)의 움직임[3]을 연구하던 다니엘 베르누이Daniel Bernoulli(1700–1782)가 1732년베르누이 32세, 조선 영조 시절에 처음으로 제안하고[베르누이가 제안한 함수는 식 (11)에 있는 제0차 제1종 베셀 함수] 베셀이 1824년베셀 40세, 조선 순조 시절에 일반화시켰다. 예전부터 유명했던 베셀 함수는 식 (1)이나 (2)의 해로 정의한다[2]. 당연한 말이지만 베셀 함수의 대부분 성질은 식 (1)이나 (2)를 통해 증명할 수 있다. 식 (1)의 베셀 미분 방정식은 다음과 같은 프로베니우스 방법을 위한 미분 방정식 관점으로 풀 수 있다.

                      (3)

여기서 $p(x), q(x)$는 발산하지 않는다. 식 (1)과 (3)을 비교하면 $p(x)$ = $1$, $q(x)$ = $x^2 - n^2$이 되어 $p(x), q(x)$가 발산하지 않으므로 프로베니우스 방법을 쓸 수 있다. 식 (4)에 있는 지표 방정식(indicial equation)을 이용하면 지표값 $r$은 다음처럼 결정된다.

                      (4)

                      (5)

[그림 1] 제1종 베셀 함수(출처: wikipedia.org)

만약 $r_1$ = $n$이라 정하면, 베셀 미분 방정식의 첫번째 해는 다음처럼 구할 수 있다.

                      (6)

         (7)

식 (7)에 $r_1$ = $n$을 대입하면, 다음 재귀 관계(recursion relation)를 얻을 수 있다.

     (8)

그러면 식 (8)의 마지막 식을 식 (6)에 대입해 첫번째 해를 구할 수 있다.

            (9)

여기서 !는 계승(階乘, factorial)을 의미한다. 식 (9)와 같은 첫번째 해는 식 (10)처럼 표기하고 제1종 베셀 함수(Bessel function of the first kind)라 부른다. 다음 조건처럼 $a_0$를 정하자.[∵ $a_0$는 임의이므로 아무값이나 넣을 수 있는데 식 (9)를 간단하게 표기할 수 있는 방식으로 $a_0$를 정하자.]

                      (10)

식 (10)의 정의를 식 (9)에 대입하면 제1종 베셀 함수를 완전히 얻을 수 있다.

                       (11)

식 (10)의 정의로 인해 제1종 베셀 함수는 간편하게 표기할 수 있다. 미분 방정식 (1)에서 $n$이 정수가 아닌 실수라면 보통 $\nu$로 표기한다. 계승의 일반화인 감마 함수(gamma function)를 이용하면 식 (11)을 일반화할 수 있다.

                      (12)

                      (13)

식 (13)을 식 (11)에 대입하면 일반화된 제1종 베셀 함수를 정의할 수 있다.

                       (14)

프로베니우스 방법에서 $r_2$ = $-n$을 대입하면 두번째 해를 얻을 수도 있다. 하지만, 다음 베셀 함수 관계로 인해 첫번째 해와 종속되어버린다. 아래 식은 식 (14)와 감마 함수의 성질을 이용해 증명한다.

                      (15)

하지만, $n$이 정수가 아니면 $J_\nu (x)$와 $J_{-\nu}(x)$는 서로 독립적인 관계가 된다.[∵ 식 (14)의 분모에 있는 감마 함수가 무한대가 되는 경우가 생기지 않는다.] 즉, $J_{-\nu}(x)$가 두번째 해가 된다.

[그림 2] 제2종 베셀 함수(출처: wikipedia.org)

식 (15)를 바탕으로 제2종 베셀 함수(Bessel function of the second kind)를 정의한다[1], [2].

                       (16)

여기서 $N_\nu (x)$는 $Y_\nu (x)$로 표기하기도 한다. 제2종 베셀 함수는 수학자 노이만Carl Neumann(1832–1925) 혹은 베버Heinrich Martin Weber(1842–1913)의 이름을 이용해서 노이만 함수(Neumann function) 혹은 베버 함수(Weber function)라고도 부른다. 베셀 함수 $J_\nu (x)$와 $J_{-\nu}(x)$는 서로 독립이기 때문에, $\nu$ $\ne$ $n$인 경우 식 (16)은 타당한 두번째 해가 된다. 물론 프로베니우스 방법을 이용해 두번째 해를 다음처럼 구할 수도 있다.

                      (17)

하지만, 상미분 방정식 해의 존재성과 유일성이 있는데 굳이 식 (17)처럼 어려운 길을 갈 필요는 없다. 2계 상미분 방정식의 독립적인 해는 두가지이므로, 서로 다른 해인 식 (14)와 (16)의 선형 결합으로 식 (17)을 표현하여 대체할 수 있다. 식 (16)처럼 제2종 베셀 함수를 지저분하게 정의하는 이유는 $\nu$ = $n$인 경우에도 써먹기 위해서다. 식 (16)에 극한(limit)을 취하면 정수 차수(integer order) 제2종 베셀 함수를 정의할 수 있다[1].

                      (18)

그러면 식 (15)에 의해 식 (18)의 분자와 분모가 0이 되어서 함수값이 존재하게 된다. 로피탈의 규칙(L'Hôpital's rule)을 써서 식 (18)을 계산하자.

                      (19)

식 (19)를 계산하기 위해 식 (14)에 있는 베셀 함수를 차수에 대해 미분해보자.

      (20)

여기서 $\psi(\cdot)$는 다이감마 함수(digamma function)이다. 식 (20)의 결과를 식 (19)에 대입하자.

                                                                                                    (21)

기가 막힌 방법으로 식 (21)을 얻었지만 식 (21)에는 다소 문제가 있다. $m \le n-1$인 경우 $(m-n)!$과 $\psi (m-n+1)$이 발산하기 때문에 대책이 필요하다.[∵ 함수 $\psi (m-n+1)$이 발산하는 특성은 식 (23)과 (24)를 봐도 자명하다. 계승 $(m-n)!$의 크기가 발산하지만 식 (24)의 둘째식은 유한하므로, $\psi (m-n+1)$의 크기도 무한히 커져야 한다.] 이 문제를 해결하려면 식 (22)에 있는 오일러의 반사 공식(Euler's reflection formula)을 이용해야 한다[1].

                      (22)

또한 식 (21)에서 발산하여 문제가 되는 부분은 다음처럼 바꾼다.

                      (23)

식 (23)의 우변에 식 (22)를 대입하여 미분하면 다음을 얻을 수 있다.

                      (24)

식 (24)를 이용하면 식 (21)에 나오는 무한 급수(infinite series)를 단순화시킬 수 있다.

            (25)

그러면 정수 차수를 가진 제2종 베셀 함수를 아래처럼 표현할 수 있다.

                  (26)

참 먼 길을 달려왔다. 식 (26)의 정수 차수 제2종 베셀 함수를 유도하는 과정은 결코 쉬운 일이 아니다. 오죽 힘들면 약 120년전에 나온 수학 논문지[1]에 위 과정이 실렸겠는가! 그래서 대부분의 공학 수학책에는 이 증명을 소개하지 않는다. 위 유도 과정없이 식 (26)을 보면 정말 마법이다. 우리가 근접할 수 없는 무언가가 있는 것 같다. 하지만 식 (18)부터 (26)까지 따라가 보면 그냥 수학적 과정을 이어나가서 결과를 얻고 있다.

식 (1)의 해를 베셀 함수의 정의인 식 (14) 혹은 (16)과는 조금 다르게 선택할 수도 있다. 예를 들어, 복소수(complex number)를 이용해 식 (14)와 (16)의 결과를 연결하면 다음과 같은 한켈 함수(Hankel function)가 된다.

                       (27)

한켈 함수는 제3종 베셀 함수(Bessel function of the third kind)라고도 한다. 한켈 함수는 베셀 함수를 많이 연구했던 요절한 수학자 한켈Hermann Hankel(1839–1873)의 이름을 따서 붙였다. 맥스웰 방정식(Maxwell's equations)의 핵심인 스토크스의 정리(Stokes' theorem)도 한켈이 1861년한켈 22세, 조선 철종 시절에 증명했다.

식 (28)에 제시한 스튀름–리우빌 미분 방정식(Sturm–Liouville differential equation)을 이용하고 $x \rightarrow \sqrt{\lambda} x$로 치환해서 식 (1)을  스튀름–리우빌 형태(Sturm–Liouville form)로 표현할 수 있다.

                       (28)

                       (29)

식 (28)과 (29)를 비교하면 $p(x)$ = $x$, $q(x)$ = $n^2 / x$, $r(x)$ = $x$가 된다. 식 (29)에 존재하는 $\lambda$의 의미는 무엇일까? 수학적으로 $\lambda$는 이산적으로 무한히 존재하는 고유치이며, 물리적으로는 원통 형태 공간에 파동이 갇혀있는 특성을 의미한다. 예를 들어 금속으로 된 원통에 존재하는 전자파의 위상 상수(phase constant, $\beta$)가 $\lambda$와 관계있다.

                       (30)

식 (29)에서 치환 $x \rightarrow \sqrt{\lambda} x$를 이용하지 않고 식 (30)처럼 $\lambda$ = $-n^2$라 가정하면, $r(x)$ = $1/x$도 가능하지 않을까? 이렇게는 안된다. 스튀름–리우빌 이론에서 $q(x)$는 특별한 제약이 없지만, $r(x)$는 직교성 적분이 정의되도록 선택되어야 한다. 만약 $r(x)$ = $1/x$이라면 $x$ = $0$에서 특이점이 생기므로, 어떤 경우에는 직교성 적분이 정의되지 않는다.[예를 들어, $n$ = $0$인 경우 $J_0 (0)$ = $1$이 된다. $r(x)$ = $1/x$이라면 $n$ = $0$에 대한 직교성 적분이 발산한다.] 그래서 $r(x)$ = $x$가 되어야 한다. 다만 $x$ = $0$을 회피한 적분 구간이라면 $r(x)$ = $1/x$로 선택할 수도 있기 때문에[예를 들어 콘토로비치–레베데프 변환(Kontorovich–Lebedev transform)], 눈을 크게 뜨고 우리가 무엇을 하고 있는지 분위기를 잘 파악해야 한다.

제1종 베셀 함수의 인자는 복소수(complex number)가 될 수도 있다. 복소수 입력 변수의 크기가 $x$이고 편각이 $135^\circ$라면, 다음처럼 제1종 켈빈 함수(Kelvin function of the first kind) $\operatorname{ber}_\nu(\cdot)$와 $\operatorname{bei}_\nu(\cdot)$로 표현할 수 있다.

                        (31)

여기서 $x$는 실수이며 $\operatorname{ber}_\nu(\cdot)$와 $\operatorname{bei}_\nu(\cdot)$는 각각 식 (31)의 실수부와 허수부이다. 켈빈 함수의 제안자는 온도의 단위로 쓰는 켈빈William Thomson, Lord Kelvin(1824–1907)이다. 차수 $\nu$ = $0$인 경우는 다음처럼 켈빈 함수를 더 간단히 쓸 수 있다.

                       (32)

식 (32)의 우변을 $x$에 대해 미분하면 다음을 얻는다.

    (33)

여기서 $(\cdot)'$는 $x$에 대한 미분이다. 제1종 켈빈 함수는 원통형 도선의 전류 밀도(electric current density)를 공식화할 때 유용하게 쓰인다.

[참고문헌]

[1] M. Bocher, "On Bessel's functions of the second kind," Ann. Math., vol. 6, no. 4, pp. 85-90, Jan. 1892.

[2] G. N. Watson, A Treatise on the Theory of Bessel Functions, Cambridge University Press, 1922.

[3] C. Byrne, Notes on Bessel's Equation and the Gamma Function, University of Massachusetts Lowell, April 2009.

[4] Wikipedia, "Carl Friedrich Gauss."

[5] J. J. O'Connor and E. F. Robertson, "Friedrich Wilhelm Bessel," The MacTutor History of Mathematics, University of St Andrews, Scotland, 1997.

[6] Mathematics Genealogy Project, "Friedrich Wilhelm Bessel."

[7] J. L. Heilbron, The Oxford Guide to the History of Physics and Astronomy, Volume 10, Oxford University Press, 2005.

[다음 읽을거리]
1. 베셀 함수
2. 베셀 함수의 점근식
3. 구면 베셀의 미분 방정식
4. 원통 좌표계의 전자장 표현식

5. 변형 베셀 함수

6. 에어리 미분 방정식