[경고] 아래 글을 읽지 않고 "리만 제타 함수"를 보면 바보로 느껴질 수 있습니다.
오일러Leonhard Euler(1707–1783)의 찬란한 발상이 꽃피운 분야는 너무 많지만, 그중에 제일은 해석학(解析學, analysis)적 개념을 솟수(素數, prime number)에 적용한 공식인 식 (1)이다.[1989년부터 시행된 한글맞춤법에 따르면 소수(素數, prime number)로 해야 타당하나, 소수(小數, decimal fraction)와 구별되지 않으므로 옛날 표기인 솟수를 고집한다.] 당시 누구나 알고 있던 조화 급수(harmonic series)가 솟수 분포와 관계된다는 창의적인 개념이 1737년오일러 30세, 조선 영조 시절에 오일러에 의해 발표되었다[1].
[그림 2] 에라토스테네스(Eratosthenes)의 체(출처: wikipedia.org)
[오일러 곱 공식(Euler product formula)]
(1)여기서 $m$은 $1$보다 큰 자연수, $\mathbb{P}$는 모든 솟수의 집합이다.
[오일러의 원래 증명] [1]
식 (1)의 좌변에 첫번째 솟수 $2$의 거듭제곱을 곱한다.
(2)식 (2)의 우변은 분명히 $2$의 배수로 구성한 무한 급수(infinite series)이다. 다음 단계로 [그림 2]에 있는 에라토스테네스(Eratosthenes)의 체처럼 식 (1)에서 식 (2)를 빼서 원래 숫자들을 줄여간다.
(3)비슷하게 그 다음 솟수인 $3$의 거듭제곱을 곱해서 만든 무한 급수를 이용해 식 (3)에서 $3$의 배수도 뺀다.
(4)
(5)식 (5)의 좌변에 있는 무한 곱(infinite product)을 이항하면, 식 (1)을 바로 얻을 수 있다.
(6)______________________________
위와 같은 증명은 무한 급수의 수렴을 생각하지 않고 계산해서 다소 위험하다. 하지만 오일러는 천재적인 암산 능력으로 해석학적 오류에 빠지지 않고 정상적인 결론을 이끌어내었다. 식 (1)의 좌변은 제타 함수(zeta function)라고 부른다. 여기서 제타 함수의 입력 변수는 자연수로 한정한다.
[증명: 산술의 기본 정리] [2]
무한 급수를 제대로 다루기 위해 자연수 $m \ge 2$인 경우는 식 (1)의 좌변이 절대 수렴(absolute convergence)함을 먼저 증명한다.
(7)식 (7)의 방법은 조화 급수의 발산 증명과 비슷하다. 비교 판정(comparison test)에 의해 식 (1)의 좌변은 절대 수렴하므로, 우리는 제타 함수의 항을 마음대로 조작할 수 있다. 또한 산술의 기본 정리(fundamental theorem of arithmetic)에 의해 임의의 자연수 $n$은 솟수의 곱으로 유일하게 표현된다.
(8)여기서 $q_1, q_2, q_3, \cdots$은 $0$ 혹은 자연수이다. 그러면 식 (1)의 좌변은 다음처럼 표현된다.
(9)솟수로의 인수 분해는 유일하기 때문에, 식 (9)의 각 무한 급수에서 $q_1, q_2, q_3, \cdots$의 항은 단 한 번만 들어간다. 최종적으로 식 (9)의 마지막식에 나온 무한 등비 급수(infinite geometric series)를 구하면 식 (1)이 증명된다.
(10)______________________________
[그림 3] 제타 함수의 일반화
[그림 3]처럼 지수 함수 $y = 1/n^x$를 이용해서 제타 함수의 정의역을 자연수에서 실수로 확장할 수 있다.
(11)식 (7)과 비슷하게 식 (11)의 수렴 특성도 얻는다.
(12)따라서 $x > 1$인 경우에 식 (12)의 무한 급수가 수렴하므로, $\zeta(x)$의 정의역은 $x > 1$인 실수이다. 제타 함수 $\zeta(x)$의 수렴 특성은 적분 판정(integral test)으로 이해할 수도 있다. 더 세밀한 비교를 위해 [그림 3]에 바탕을 두고 다음 부등식을 유도한다[2].
(13)
(14)제타 함수의 정의역을 복소수(complex number) 영역까지 다시 일반화할 수도 있다. 가장 쉬운 방법은 식 (11)의 실수 $x$를 복소수 $z$로 바꾸기이다. 이 경우에 무한 급수가 절대 수렴하는 구간은 $\Re[z] > 1$이다.
(15)하지만 식 (15)와 같은 정의를 쓰면 복소 영역에서 버리는 부분이 너무 많아진다. 그래서 리만Bernhard Riemann(1826–1866)은 1859년리만 33세, 조선 철종 시절에 다음 적분부터 시작해서 제타 함수의 영역을 복소수 전체로 확대하였다[3].
(16)여기서 $s$는 복소수, $\Gamma(s)$는 감마 함수(gamma function)이다. 복소 영역에서 정의된 제타 함수는 제안자를 강조해서 리만 제타 함수(Riemann zeta function)라고 한다. 식 (15)와 같은 무한 급수를 $\zeta(s)$로 표기한 수학자도 리만이다[3]. 실수 함수의 특성을 포함하면서 정의역을 복소수로 확장하는 방법은 해석적 연속(analytic continuation)이라 부른다. 따라서 복소 함수인 식 (16)은 실수 함수인 식 (11)의 해석적 연속이 된다.
[그림 4] 리만 제타 함수를 위한 복소 적분 경로 $\mathcal{C}$
식 (16)에 나온 적분 구간은 실수이므로, 복소 함수론(complex function theory or complex analysis)을 이용해서 [그림 4]와 같이 복소 영역에 정의된 적분 경로를 고려한다. [그림 4]의 적분 경로와 식 (16)의 피적분 함수를 이용해서 다음처럼 복소 적분을 새롭게 정의한다[2], [3].
(17)식 (17)의 마지막식에 나온 두번째 적분의 크기를 세밀하게 확인한다.
(18)식 (15)처럼 $\Re[s] > 1$인 조건에서 $r \to 0$이면 식 (18)은 $0$이 된다. 따라서 복소 영역에서 정의한 리만 제타 함수가 얻어진다.
(19a)
(19b)여기서 $\Re[s] > 1$이다. 식 (19b)에 다시 오일러의 반사 공식(Euler's reflection formula)을 적용해서 간략화한다.
(20)
[그림 5] 리만 제타 함수를 위한 한켈 경로 $\mathcal{H}$
식 (20)의 적분 변수를 $z \to -z$로 바꾸면, 적분 경로는 유명한 한켈 경로(Hankel contour) $\mathcal{H}$로 다음처럼 표현된다.
(21)여기서 한켈 경로 $\mathcal{H}$는 [그림 5]에 제시되어 있다.
[그림 6] 한켈 경로 $\mathcal{H}$를 포함한 닫힌 적분 경로
실수부 $\Re[s] < 0$인 경우는 [그림 6]과 같은 적분 경로를 이용해서 식 (21)을 정확히 적분할 수 있다. 여기서 식 (21)의 분모 $e^z - 1$에 의해 피적분 함수의 극점(pole)은 $z$ = $\pm 2 \pi n i$이며, 닫힌 적분 경로 내부에 없는 $z$ = $0$은 극점에서 제외한다. 다음 단계로 [그림 6]에 유수 정리를 적용해서 식 (21)과 연결 관계를 만든다.
(22)여기서 적분 경로 $c_3$은 $z$ = $R e^{i \phi}$[$0 < \phi < 2 \pi$]로 정의한다. 만약 $R$이 무한대로 가면, $\Re[z] > 0$인 영역에서 $c_3$은 $0$이다. 따라서 $c_3$에 대한 복소 적분은 다음처럼 $R \to \infty$ 조건에서 $0$이 된다.
(23)식 (22)와 (23)을 식 (21)에 넣고 정리해서 $\zeta(s)$의 함수 방정식(functional equation)을 유도한다.
(24)
[그림 7] 리만 제타 함수의 임계띠(출처: wikipedia.org)
식 (21)과 (24)에 의해 $\zeta(s)$는 $\Re[s] < 0$과 $\Re[s] > 1$에서 해석적 연속이다. 하지만 [그림 7]처럼 임계띠(critical strip)라 불리는 $0 < \Re[s] < 1$에서는 $\zeta(s)$의 수렴 특성이 모호해진다. 그래서 식 (21)의 복소 적분을 다시 관찰한다. 이 복소 적분은 식 (18) 때문에 $\Re[s] > 1$인 조건이 꼭 필요하다. 하지만 해석적 연속을 적용해서 식 (21)의 한켈 경로 $\mathcal{H}$를 $z$ = $0$에 근접시키지 않으면, 식 (21)은 $s$ = $1$을 제외한 $\Re[s] > 0$에서 잘 수렴한다. 다만 식 (14)에 의해 $s$ = $1$에서 $\zeta(s)$는 발산한다. 식 (21)과 함께 식 (24)까지 도입하면, $\zeta(s)$는 $s$ = $1$을 제외한 모든 점에서 잘 수렴해서 해석적이다. 오일러–매클로린 공식(Euler–Maclaurin formula)을 식 (15)에 적용해서 $\Re[s] > 0$인 영역의 수렴성을 보기도 한다.
(25)
(26)여기서 $\lfloor x \rfloor$는 바닥 함수(floor function)이다. 급수 개수 $N$을 무한대로 보내면, 식 (26)의 좌변은 $\zeta(s)$가 된다.
(27)여기서 $\Re[s] > 1$이다. 식 (27)은 $\Re[s] > 1$인 조건으로 유도하지만, 식 (27)의 우변은 $\Re[s] > 0$에서도 성립하므로 해석적 연속으로 정의역을 $\Re[s] > 0$으로 확장한다. 또한 식 (27)은 $\zeta(s)$가 $s$ = $1$에서 단순극임을 잘 보여준다. 다만 식 (21)과 (27)의 우변은 명시적으로 달라보여서 수렴값이 특정 영역에서 다를 수도 있다. 그런데 이를 걱정할 필요는 전혀 없다. 해석적 연속의 특징으로 인해 특정 영역에서 함수값이 같다면 수렴하는 모든 영역에서도 함수값이 동일하다. 즉, 상이해보이는 식 (21)과 (27)의 우변은 해석적 연속으로 인해 서로 동일하다.
리만은 식 (24)를 유도한 후에 한 걸음을 더 나가서 새로운 함수 $\xi(s)$를 정의했다.
(28)
(29: 르장드르의 2배 공식)
(30)복잡한 과정을 거치기는 하지만, $\xi(s)$는 $\Re[s]$ = $1/2$를 기준으로 완벽하게 대칭이다. 리만 제타 함수를 $\xi(s)$ 관점으로 표기하면 다음과 같다.
(31)
(32)즉, 무한 곱으로 표현된 $\zeta(s)$에서 $p^s$ $\ne$ $0$이므로, $\Re[s] > 1$에서 $\zeta(s)$는 절대 $0$이 될 수 없다. 더 정확하게 증명하려면 식 (32)의 역수를 취해서 대소 관계를 확인한다.
(33)식 (33)을 다시 역수로 취해서 $\Re[s] > 1$ 조건에 대한 $|\zeta(s)|$의 하한을 구한다.
(34)따라서 $\zeta(s)$는 $\Re[s] > 1$에서 $0$이 되는 점이 없다. 추가적으로 식 (24)에 의해 $\Re[s] < 0$에서도 자명한 영점 이외에는 $\zeta(s)$의 영점이 없다. 비슷하게 $\Re[s]$ = $0$도 식 (24)로 계산한다.
(35)
(36)여기서 $t$ = $\Im[s]$이다. 이에 따라 $\Re[s]$ = $1$에서 영점이 없으면, $\Re[s]$ = $0$인 영역에서도 $\zeta(s)$의 영점은 없다. 그래서 자명한 영점 이외에 $\zeta(s)$의 영점이 존재한다면, 영점은 $0 < \Re[s] < 1$ 영역을 표현하는 [그림 7]에 있는 임계띠에만 있을 수 있다. 리만은 과감하게 이런 영점들이 임계선(critical line) $\Re[s]$ = $1/2$에만 있다고 추측했다[3]. 리만 제타 함수의 영점에 대한 리만의 추측이 그 유명한 리만 가설(Riemann hypothesis)이다. 리만 가설은 현재까지도 증명되지 않고 있다.
실수부 $\Re[s]$ = $1$에서 $\zeta(s)$의 영점이 없다는 증명은 다소 번잡하다[5]. 이 명제의 증명을 위해 먼저 다음과 같은 부등식을 고려한다.
(37)여기서 $\sigma$ = $\Re[s]$, $\sigma > 1$이다. 제타 함수의 크기는 식 (32)에 로그 함수를 적용해서 무한 급수로 표현한다.
(38)식 (38)을 식 (37)의 둘째식에 대입해서 정리한다.
(39)
(40)만약 $t$ = $t_0$에서 $\zeta(1+it)$ = $0$이라 가정하면, 식 (40)에 나온 항은 다음처럼 $\zeta(s)$의 미분이 된다.
(41)하지만 $s$ = $1$을 제외한 모든 영역에서 $\zeta(s)$는 해석적이므로, 식 (41)은 발산하지 않고 유한한 값이 된다. 즉, 식 (40)의 극한은 당연히 $0$이 된다. 이를 종합하면 식 (37)의 부등식과 식 (40)의 극한은 양립할 수 없어서 $\Re[s]$ = $1$에서 $\zeta(s)$의 영점은 존재할 수 없다.
[그림 8] 솟수 계량 함수 $\pi(n)$의 특성(출처: wikipedia.org)
그런데 리만 제타 함수의 영점을 왜 이렇게 집요하게 추적할까? 리만 제타 함수의 성질이 [그림 8]과 같은 솟수 계량 함수(prime-counting function) $\pi (n)$과 밀접하게 연결되어 있기 때문이다. 솟수 계량 함수 $\pi (n)$은 $n$ 이하에 있는 솟수의 개수를 계산한다. 제타 함수 $\zeta(s)$와 솟수 계량 함수 $\pi(n)$의 관계를 확인하기 위해 식 (32)에 로그 함수(logarithmic function)를 적용해서 정리한다[4].
(42)식 (42)에 나온 로그 함수는 적분으로 바꿀 수 있다.
(43)
(44)식 (44)의 좌변에 $\zeta(s)$의 영점을 대입하면 발산하므로, 식 (44)의 우변에도 발산하는 요소가 있어야 한다. 그러면 $0 < \Re[s]$ < 1에서 피적분 함수의 분모는 발산하지 않는 형태라서 $\pi(x)$의 적분이 반드시 발산해야 한다. 즉, $\zeta(s)$의 영점 분포는 $\pi(x)$의 함수적 특성과 매우 긴밀하게 연관된다.
[참고문헌]
[1] L. Euler, "Variae observationes circa series infinitas (Various observations about infinite series)," Commentarii academiae scientiarum Petropolitanae (Commentary of the St. Petersburg Scientist Academy), vol. 9, pp. 160–188, 1737(작성), 1744(출판). (방문일 2020-12-29)
[2] 줄리언 해빌, 오일러 상수 감마, 승산, 2008.
[3] B. Riemann, "Ueber die Anzahl der Primzahlen unter einer gegebenen Grösse (On the number of primes less than a given magnitude)," Monatsberichte der Königlich Preußischen Akademie der Wissenschaften zu Berlin (Monthly Reports of the Royal Prussian Academy of Sciences in Berlin), Nov. 1859. (방문일 2020-12-29)
[4] D. Nawaz, The Dirichlet Series To The Riemann Hypothesis, B.S. Thesis, University of Gävle, Sweden, 2018.
[5] A. J. Hildebrand, Distribution of Primes II: Proof of the Prime Number Theorem, Introduction to Analytic Number Theory, University of Illinois at Urbana-Champaign, USA, 2001. (방문일 2020-12-29)
[6] J. Veisdal, Prime Numbers and the Riemann Zeta Function, B.S. Thesis, University of Stavanger, Norway, 2013. (방문일 2021-01-14)
[7] 김태균, 장이채, "수학사적 관점에서 오일러 및 베르누이 수와 리만 제타함수에 관한 탐구", 한국수학사학회지, 제20권, 제4호, pp. 71–84, 2007년 11월.
(1)
(3)
(6)
(7)
(10)
(11)
(12)
(13a)
(13b)
(13c)
(14)
(15)
(16)
(18)
(19)
(20)
(21)
(22)
(28)
(30)
(31)
(32)
(1.3)
(1.4)
(1.5)
(1.7)
(1.8a)
(1.8b)