[경고] 아래 글을 읽지 않고 "리만 제타 함수"를 보면 바보로 느껴질 수 있습니다.
오일러Leonhard Euler(1707–1783)의 찬란한 발상이 꽃피운 분야는 너무 많지만, 그중에 제일은 해석학(解析學, analysis)적 개념을 솟수(素數, prime number)에 적용한 공식인 식 (1)이다.[1989년부터 시행된 한글맞춤법에 따르면 소수(素數, prime number)로 해야 타당하나, 소수(小數, decimal fraction)와 구별되지 않으므로 옛날 표기인 솟수를 고집한다.] 당시 누구나 알고 있던 조화 급수(harmonic series)가 솟수 분포와 관계된다는 창의적인 개념이 1737년오일러 30세, 조선 영조 시절에 오일러에 의해 발표되었다[1].
[그림 2] 에라토스테네스(Eratosthenes)의 체(출처: wikipedia.org)
[오일러 곱 공식(Euler product formula)]
(1)여기서 $m$은 $1$보다 큰 자연수, $\mathbb{P}$는 모든 솟수의 집합이다.
[오일러의 원래 증명] [1]
식 (1)의 좌변에 첫번째 솟수 $2$의 거듭제곱을 곱한다.
(2)식 (2)의 우변은 분명히 $2$의 배수로 구성한 무한 급수(infinite series)이다. 다음 단계로 [그림 2]에 있는 에라토스테네스(Eratosthenes)의 체처럼 식 (1)에서 식 (2)를 빼서 원래 숫자들을 줄여간다.
(3)비슷하게 그 다음 솟수인 $3$의 거듭제곱을 곱해서 만든 무한 급수를 이용해 식 (3)에서 $3$의 배수도 뺀다.
(4)
(5)식 (5)의 좌변에 있는 무한 곱(infinite product)을 이항하면, 식 (1)을 바로 얻을 수 있다.
(6)______________________________
위와 같은 증명은 무한 급수의 수렴을 생각하지 않고 계산해서 다소 위험하다. 하지만 오일러는 천재적인 암산 능력으로 해석학적 오류에 빠지지 않고 정상적인 결론을 이끌어내었다. 식 (1)의 좌변은 제타 함수(zeta function)라고 부른다. 여기서 제타 함수의 입력 변수는 자연수로 한정한다.
[증명: 산술의 기본 정리] [2]
무한 급수를 제대로 다루기 위해 자연수 $m \ge 2$인 경우는 식 (1)의 좌변이 절대 수렴(absolute convergence)함을 먼저 증명한다.
(7)식 (7)의 방법은 조화 급수의 발산 증명과 비슷하다. 비교 판정(comparison test)에 의해 식 (1)의 좌변은 절대 수렴하므로, 우리는 제타 함수의 항을 마음대로 조작할 수 있다. 또한 산술의 기본 정리(fundamental theorem of arithmetic)에 의해 임의의 자연수 $n$은 솟수의 곱으로 유일하게 표현된다.
(8)여기서 $q_1, q_2, q_3, \cdots$은 $0$ 혹은 자연수이다. 그러면 식 (1)의 좌변은 다음처럼 표현된다.
(9)솟수로의 인수 분해는 유일하기 때문에, 식 (9)의 각 무한 급수에서 $q_1, q_2, q_3, \cdots$의 항은 단 한 번만 들어간다. 최종적으로 식 (9)의 마지막식에 나온 무한 등비 급수(infinite geometric series)를 구하면 식 (1)이 증명된다.
(10)______________________________
[그림 3] 제타 함수의 일반화
[그림 3]처럼 지수 함수 $y = 1/n^x$를 이용해서 제타 함수의 정의역을 자연수에서 실수로 확장할 수 있다.
(11)식 (7)과 비슷하게 식 (11)의 수렴 특성도 얻는다.
(12)따라서 $x > 1$인 경우에 식 (12)의 무한 급수가 수렴하므로, $\zeta(x)$의 정의역은 $x > 1$인 실수이다. 제타 함수 $\zeta(x)$의 수렴 특성은 적분 판정(integral test)으로 이해할 수도 있다. 더 세밀한 비교를 위해 [그림 3]에 바탕을 두고 다음 부등식을 유도한다[2].
(13)
(14)제타 함수의 정의역을 복소수(complex number) 영역까지 다시 일반화할 수도 있다. 가장 쉬운 방법은 식 (11)의 실수 $x$를 복소수 $z$로 바꾸기이다. 이 경우에 무한 급수가 절대 수렴하는 구간은 $\Re[z] > 1$이다.
(15)하지만 식 (15)와 같은 정의를 쓰면 복소 영역에서 버리는 부분이 너무 많아진다. 그래서 리만Bernhard Riemann(1826–1866)은 1859년리만 33세, 조선 철종 시절에 다음 적분부터 시작해서 제타 함수의 영역을 복소수 전체로 확대하였다[3].
(16)여기서 $s$는 복소수, $\Gamma(s)$는 감마 함수(gamma function)이다. 복소 영역에서 정의된 제타 함수는 제안자를 강조해서 리만 제타 함수(Riemann zeta function)라고 한다. 식 (15)와 같은 무한 급수를 $\zeta(s)$로 표기한 수학자도 리만이다[3]. 실수 함수의 특성을 포함하면서 정의역을 복소수로 확장하는 방법은 해석적 연속(analytic continuation)이라 부른다. 따라서 복소 함수인 식 (16)은 실수 함수인 식 (11)의 해석적 연속이 된다.
[그림 4] 리만 제타 함수를 위한 복소 적분 경로 $\mathcal{C}$
식 (16)에 나온 적분 구간은 실수이므로, 복소 함수론(complex function theory or complex analysis)을 이용해서 [그림 4]와 같이 복소 영역에 정의된 적분 경로를 고려한다. [그림 4]의 적분 경로와 식 (16)의 피적분 함수를 이용해서 다음처럼 복소 적분을 새롭게 정의한다[2], [3].
(17)식 (17)의 마지막식에 나온 두번째 적분의 크기를 세밀하게 확인한다.
(18)식 (15)처럼 $\Re[s] > 1$인 조건에서 $r \to 0$이면 식 (18)은 $0$이 된다. 따라서 복소 영역에서 정의한 리만 제타 함수가 얻어진다.
(19a)
(19b)여기서 $\Re[s] > 1$이다. 식 (19b)에 다시 오일러의 반사 공식(Euler's reflection formula)을 적용해서 간략화한다.
(20)
[그림 5] 리만 제타 함수를 위한 한켈 경로 $\mathcal{H}$
식 (20)의 적분 변수를 $z \to -z$로 바꾸면, 적분 경로는 유명한 한켈 경로(Hankel contour) $\mathcal{H}$로 다음처럼 표현된다.
(21)여기서 한켈 경로 $\mathcal{H}$는 [그림 5]에 제시되어 있다.
[그림 6] 한켈 경로 $\mathcal{H}$를 포함한 닫힌 적분 경로
실수부 $\Re[s] < 0$인 경우는 [그림 6]과 같은 적분 경로를 이용해서 식 (21)을 정확히 적분할 수 있다. 여기서 식 (21)의 분모 $e^z - 1$에 의해 피적분 함수의 극점(pole)은 $z$ = $\pm 2 \pi n i$이며, 닫힌 적분 경로 내부에 없는 $z$ = $0$은 극점에서 제외한다. 다음 단계로 [그림 6]에 유수 정리를 적용해서 식 (21)과 연결 관계를 만든다.
(22)여기서 적분 경로 $c_3$은 $z$ = $R e^{i \phi}$[$0 < \phi < 2 \pi$]로 정의한다. 만약 $R$이 무한대로 가면, $\Re[z] > 0$인 영역에서 $c_3$은 $0$이다. 따라서 $c_3$에 대한 복소 적분은 다음처럼 $R \to \infty$ 조건에서 $0$이 된다.
(23)식 (22)와 (23)을 식 (21)에 넣고 정리해서 $\zeta(s)$의 함수 방정식(functional equation)을 유도한다.
(24)
[그림 7] 리만 제타 함수의 임계띠(출처: wikipedia.org)
식 (21)과 (24)에 의해 $\zeta(s)$는 $\Re[s] < 0$과 $\Re[s] > 1$에서 해석적 연속이다. 하지만 [그림 7]처럼 임계띠(critical strip)라 불리는 $0 < \Re[s] < 1$에서는 $\zeta(s)$의 수렴 특성이 모호해진다. 그래서 식 (21)의 복소 적분을 다시 관찰한다. 이 복소 적분은 식 (18) 때문에 $\Re[s] > 1$인 조건이 꼭 필요하다. 하지만 해석적 연속을 적용해서 식 (21)의 한켈 경로 $\mathcal{H}$를 $z$ = $0$에 근접시키지 않으면, 식 (21)은 $s$ = $1$을 제외한 $\Re[s] > 0$에서 잘 수렴한다. 다만 식 (14)에 의해 $s$ = $1$에서 $\zeta(s)$는 발산한다. 식 (21)과 함께 식 (24)까지 도입하면, $\zeta(s)$는 $s$ = $1$을 제외한 모든 점에서 잘 수렴해서 해석적이다. 오일러–매클로린 공식(Euler–Maclaurin formula)을 식 (15)에 적용해서 $\Re[s] > 0$인 영역의 수렴성을 보기도 한다.
(25)
(26)여기서 $\lfloor x \rfloor$는 바닥 함수(floor function)이다. 급수 개수 $N$을 무한대로 보내면, 식 (26)의 좌변은 $\zeta(s)$가 된다.
(27)여기서 $\Re[s] > 1$이다. 식 (27)은 $\Re[s] > 1$인 조건으로 유도하지만, 식 (27)의 우변은 $\Re[s] > 0$에서도 성립하므로 해석적 연속으로 정의역을 $\Re[s] > 0$으로 확장한다. 또한 식 (27)은 $\zeta(s)$가 $s$ = $1$에서 단순극임을 잘 보여준다. 다만 식 (21)과 (27)의 우변은 명시적으로 달라보여서 수렴값이 특정 영역에서 다를 수도 있다. 그런데 이를 걱정할 필요는 전혀 없다. 해석적 연속의 특징으로 인해 특정 영역에서 함수값이 같다면 수렴하는 모든 영역에서도 함수값이 동일하다. 즉, 상이해보이는 식 (21)과 (27)의 우변은 해석적 연속으로 인해 서로 동일하다.
리만은 식 (24)를 유도한 후에 한 걸음을 더 나가서 새로운 함수 $\xi(s)$를 정의했다.
(28)
(29: 르장드르의 2배 공식)
(30)복잡한 과정을 거치기는 하지만, $\xi(s)$는 $\Re[s]$ = $1/2$를 기준으로 완벽하게 대칭이다. 리만 제타 함수를 $\xi(s)$ 관점으로 표기하면 다음과 같다.
(31)
(32)즉, 무한 곱으로 표현된 $\zeta(s)$에서 $p^s$ $\ne$ $0$이므로, $\Re[s] > 1$에서 $\zeta(s)$는 절대 $0$이 될 수 없다. 더 정확하게 증명하려면 식 (32)의 역수를 취해서 대소 관계를 확인한다.
(33)식 (33)을 다시 역수로 취해서 $\Re[s] > 1$ 조건에 대한 $|\zeta(s)|$의 하한을 구한다.
(34)따라서 $\zeta(s)$는 $\Re[s] > 1$에서 $0$이 되는 점이 없다. 추가적으로 식 (24)에 의해 $\Re[s] < 0$에서도 자명한 영점 이외에는 $\zeta(s)$의 영점이 없다. 비슷하게 $\Re[s]$ = $0$도 식 (24)로 계산한다.
(35)
(36)여기서 $t$ = $\Im[s]$이다. 이에 따라 $\Re[s]$ = $1$에서 영점이 없으면, $\Re[s]$ = $0$인 영역에서도 $\zeta(s)$의 영점은 없다. 그래서 자명한 영점 이외에 $\zeta(s)$의 영점이 존재한다면, 영점은 $0 < \Re[s] < 1$ 영역을 표현하는 [그림 7]에 있는 임계띠에만 있을 수 있다. 리만은 과감하게 이런 영점들이 임계선(critical line) $\Re[s]$ = $1/2$에만 있다고 추측했다[3]. 리만 제타 함수의 영점에 대한 리만의 추측이 그 유명한 리만 가설(Riemann hypothesis)이다. 리만 가설은 현재까지도 증명되지 않고 있다.
실수부 $\Re[s]$ = $1$에서 $\zeta(s)$의 영점이 없다는 증명은 다소 번잡하다[5]. 이 명제의 증명을 위해 먼저 다음과 같은 부등식을 고려한다.
(37)여기서 $\sigma$ = $\Re[s]$, $\sigma > 1$이다. 제타 함수의 크기는 식 (32)에 로그 함수를 적용해서 무한 급수로 표현한다.
(38)식 (38)을 식 (37)의 둘째식에 대입해서 정리한다.
(39)
(40)만약 $t$ = $t_0$에서 $\zeta(1+it)$ = $0$이라 가정하면, 식 (40)에 나온 항은 다음처럼 $\zeta(s)$의 미분이 된다.
(41)하지만 $s$ = $1$을 제외한 모든 영역에서 $\zeta(s)$는 해석적이므로, 식 (41)은 발산하지 않고 유한한 값이 된다. 즉, 식 (40)의 극한은 당연히 $0$이 된다. 이를 종합하면 식 (37)의 부등식과 식 (40)의 극한은 양립할 수 없어서 $\Re[s]$ = $1$에서 $\zeta(s)$의 영점은 존재할 수 없다.
[그림 8] 솟수 계량 함수 $\pi(n)$의 특성(출처: wikipedia.org)
그런데 리만 제타 함수의 영점을 왜 이렇게 집요하게 추적할까? 리만 제타 함수의 성질이 [그림 8]과 같은 솟수 계량 함수(prime-counting function) $\pi (n)$과 밀접하게 연결되어 있기 때문이다. 솟수 계량 함수 $\pi (n)$은 $n$ 이하에 있는 솟수의 개수를 계산한다. 제타 함수 $\zeta(s)$와 솟수 계량 함수 $\pi(n)$의 관계를 확인하기 위해 식 (32)에 로그 함수(logarithmic function)를 적용해서 정리한다[4].
(42)식 (42)에 나온 로그 함수는 적분으로 바꿀 수 있다.
(43)
(44)식 (44)의 좌변에 $\zeta(s)$의 영점을 대입하면 발산하므로, 식 (44)의 우변에도 발산하는 요소가 있어야 한다. 그러면 $0 < \Re[s]$ < 1에서 피적분 함수의 분모는 발산하지 않는 형태라서 $\pi(x)$의 적분이 반드시 발산해야 한다. 즉, $\zeta(s)$의 영점 분포는 $\pi(x)$의 함수적 특성과 매우 긴밀하게 연관된다.
[참고문헌]
[1] L. Euler, "Variae observationes circa series infinitas (Various observations about infinite series)," Commentarii academiae scientiarum Petropolitanae (Commentary of the St. Petersburg Scientist Academy), vol. 9, pp. 160–188, 1737(작성), 1744(출판). (방문일 2020-12-29)
[2] 줄리언 해빌, 오일러 상수 감마, 승산, 2008.
[3] B. Riemann, "Ueber die Anzahl der Primzahlen unter einer gegebenen Grösse (On the number of primes less than a given magnitude)," Monatsberichte der Königlich Preußischen Akademie der Wissenschaften zu Berlin (Monthly Reports of the Royal Prussian Academy of Sciences in Berlin), Nov. 1859. (방문일 2020-12-29)
[4] D. Nawaz, The Dirichlet Series To The Riemann Hypothesis, B.S. Thesis, University of Gävle, Sweden, 2018.
[5] A. J. Hildebrand, Distribution of Primes II: Proof of the Prime Number Theorem, Introduction to Analytic Number Theory, University of Illinois at Urbana-Champaign, USA, 2001. (방문일 2020-12-29)
[6] J. Veisdal, Prime Numbers and the Riemann Zeta Function, B.S. Thesis, University of Stavanger, Norway, 2013. (방문일 2021-01-14)
[7] 김태균, 장이채, "수학사적 관점에서 오일러 및 베르누이 수와 리만 제타함수에 관한 탐구", 한국수학사학회지, 제20권, 제4호, pp. 71–84, 2007년 11월.
