2021년 1월 16일 토요일

편각 원리(偏角原理, Argument Principle)

[경고] 아래 글을 읽지 않고 "편각 원리"를 보면 바보로 느껴질 수 있습니다.


[그림 1] 복소 함수의 영점[파랑]과 극점[빨강] 표현(출처: wikipedia.org)

복소 함수(complex function)편각 원리(偏角原理, argument principle)는 [그림 1]처럼 닫힌 경로 내부에 존재하는 유리형 함수(meromorphic function)의 영점(zero)극점(pole)을 판별할 때 유용하다. 편각 원리는 구체적으로 코쉬의 편각 원리(Cauchy's argument principle)라고도 한다. 로그 함수(logarithmic function)의 미분에 바탕을 두고 편각 원리를 표현하면 다음과 같다.

[편각 원리]

                  (1)

여기서 $f'(z)$는 $f(z)$의 미분인 $df(z)/dz$, $c$는 반시계 방향으로 도는 닫힌 경로, $Z$와 $P$는 각각 닫힌 경로 $c$ 안에 존재하는 영점과 극점 차수(order)의 총합이다.

[증명]
복소 함수 $f(z)$의 제$m$번째 영점 $z_m$에 대해 $f(z)$ = $(z-z_m)^{Z_m} g(z)$를 정의한다. 여기서 $Z_m$은 영점의 차수, $g(z_m)$ $\ne$ $0$이다. 이 경우 식 (1)의 피적분 함수처럼 로그 함수 $\log f(z)$의 미분을 계산한다.

                  (2)

점 $z$ = $z_m$이 중심인 닫힌 경로 $c_m$에 대해 식 (2)를 복소 적분한 후 유수 정리(residue theorem)를 적용한다.

                  (3)

여기서 $g'(z)/g(z)$는 $z$ = $z_m$에서 해석적이어서 유수가 없다. 모든 영점에 대해 식 (3)을 연속적으로 적용해서 정리한다.

                  (4)

여기서 $M$은 $c$ 안에 있는 영점의 개수, $Z$는 영점 차수의 총합이다. 식 (2)와 비슷하게 제$n$번째 극점 $z$ = $p_n$ 근방에서 $f(z)$ = $h(z)/(z - p_n)^{P_n}$이라 둔다. 여기서 영점처럼 $h(p_n)$ $\ne$ $0$이다. 그러면 극점에 대해서도 다음 관계가 성립한다.

                  (5)

따라서 모든 극점에 대해 극점 차수의 총합 $P$를 다음처럼 구한다.

                  (6)

여기서 $N$은 $c$ 내부에 존재하는 극점의 개수, $d_n$은 제$n$번째 극점 $z$ = $p_n$ 주변을 도는 닫힌 경로이다. 최종적으로 식 (4)와 (5)를 합쳐서 식 (1)을 증명한다.
______________________________

닫힌 경로 $c$ 내부에 단순 영점(simple zero)[차수가 $1$인 $z - z_m$ 형태의 영점]과 단순 극점(simple pole)[차수가 $1$인 $1/(z - z_n)$ 형태의 극점]만 있다면, $Z$와 $P$는 각각 영점과 극점의 개수인 $M$과 $N$이 된다. 식 (1)이 편각 원리인 이유는 로그 함수의 성질에 의해 $f(z)$의 편각(argument)만 적분에 남기 때문이다.

                  (7)

여기서 $|f(z)|$의 적분은 한 바퀴를 돌 경우 크기가 같아서 항상 $0$이 된다. 식 (1)에 있는 편각의 원리를 조금 더 일반화해서 해석 함수 $g(z)$의 복소 적분을 급수 형태로 쉽게 전환할 수 있다.

                  (8)

식 (8)을 이용하면 복소 적분에 바탕을 두고 무한 급수를 적분으로 바꾸는 아벨–플라나 공식(Abel–Plana formula)을 증명할 수 있다[1].

[그림 2] 아벨–플라나 공식을 위한 적분 경로(출처: wikipedia.org)

[아벨–플라나 공식]

                  (9)

여기서 $f(z)$는 경로 $c$와 $c$의 내부에서 해석적이며, 양의 실수인 적절한 $M$과 $\epsilon$에 대해 $\lim_{R \to \infty} f(z)$ $\sim$ $M/|z|^{1+\epsilon}$이 성립한다.

[증명]
식 (8)에 필요한 닫힌 적분 경로 $c$를 [그림 2]와 같이 선택해서 복소 적분을 정의한다.

                  (10)

여기서 $\sin (\pi z)$는 $z$ = $0, 1, \cdots$에서 단순 영점(simple zero)을 가진다. 식 (10)에 나온 코탄젠트 함수는 적분 경로에 따라 다르게 표현한다.

                  (11)

식 (11)을 식 (10)에 대입해서 각 경로에 대해 복소 적분을 한다.

                  (12)

                  (13)

여기서 $R \to \infty$, $r$은 임의로 작은 양의 실수, $c_1$과 $c_5$ 상의 경로 적분은 조르당의 보조 정리(Jordan's lemma)에 의해 $0$이다. 양의 실수 $r$을 $0$으로 보내면서 경로 $c_3$에 대한 복소 적분도 한다.

                  (14)

식 (14)와 비슷하게 식 (12), (13)에 있는 $r$도 $0$으로 가는 극한을 취한다. 마지막으로 식 (12)–(14)를 모두 합치면 식 (9)가 증명된다.
______________________________

아벨–플라나 공식의 기본 개념은 오일러–매클로린 공식(Euler–Maclaurin formula)과 동일하다. 다만 아벨–플라나 공식은 복소 함수에 대한 복소 적분이 바탕이고, 오일러–매클로린 공식은 기초적인 실수 함수를 사용한다.

[참고문헌]
[1] N. H. Abel, "Opløsning af et Par Opgaver ved Hjælp af bestemte Integraler (Solving a few tasks using specific integrals)," Magazin for Naturvidenskaberne (Magazine for the Natural Sciences), vol. 2, pp. 55–68, 1823. (방문일 2021-01-17)

복소 함수의 표현법(Representation Method of Complex Function)

[경고] 아래 글을 읽지 않고 "복소 함수의 표현법"을 보면 바보로 느껴질 수 있습니다.


복소 함수(complex function)는 정의역(domain)과 치역(range)이 모두 복소수(complex number)인 함수이다. 복소수를 하나의 수로 보면, 복소 함수는 정의역에서 치역으로 가는 단순한 함수 관계를 가진다. 그래서 복소 함수는 개념적으로 실수 함수 혹은 실함수(real function)와 완전히 동일하다. 하지만 복소 함수를 2차원 평면에 그릴 때는 실수 함수와는 전혀 다른 문제점이 생긴다. 정의역 $x$와 치역 $y$가 모두 실수인 실수 함수 $y = f(x)$는 좌표점 $(x, y)$로 쓸 수 있으므로, 2차원에 시각적인 그래프(graph)를 쉽게 그릴 수 있다. 복소 함수도 비슷한 방식이 가능할까? 복소수는 원래부터 $z$ = $x + yi$처럼 두 숫자의 배열이라서 복소 함수를 2차원 평면에 그릴 수가 없다. 왜냐하면 정의역과 치역이 각각 2차원이라서 전체 그래프를 그릴려면 4차원이 필요하기 때문이다. 그렇다고 복소 함수의 전체 모습을 눈으로 보지 않고 대수적으로 계산만 해서는 우리의 수학적 이해도를 높이기가 매우 어렵다. 이러한 문제점을 해결하기 위한 유용한 접근 방식이 바로 복소 함수의 표현법(representation method of complex function)이다.

[그림 1] 복소 함수의 등각 사상(출처: wikipedia.org)

  • 등각 사상(conformal mapping)
복소 함수를 하나의 그래프로 그리기가 어렵기 때문에, 등각 사상(等角寫像, conformal mapping)에 바탕으로 두고 정의역과 치역을 2차원 평면에 각각 그릴 수 있다. 즉, 정의역 $z$ = $x + yi$는 [그림 1처럼] 전형적인 직선이나 곡선으로 표현한다. 정의역의 각 직선이나 곡선이 치역 $f(z)$ = $u(x,y) + i v(x, y)$에서 변형되는 형태를 새로운 그래프로 그린다. 여기서 $x, y$의 관계 $g(x, y)$ = $0$은 정의역에서 만드는 직선이나 곡선을 나타내며, $g(x, y)$ = $0$에 따라 $f(x + yi)$를 계산한다. 이러한 방식을 사용하면 특정 곡선이나 영역 관점으로 복소 함수가 정의역에서 치역으로 사상되는 특성을 쉽게 관찰할 수 있다.

[그림 2] 복소 함수 $\sqrt{z}$의 3차원 색칠하기(출처: wikipedia.org)

  • 3차원 색칠하기(3D coloring)
복소 함수를 나타낼 때는 기본적으로 4차원이 필요하지만, 우리 공간의 한계로 인해 복소 함수를 3차원에만 그리는 방식이 3차원 색칠하기(3D coloring)이다. 이 방법에서는 [그림 2]처럼 정의역 $z$ = $x + yi$와 치역 $f(z)$ = $u(x,y) + i v(x, y)$의 실수부만 그린다. 즉, [그림 2]에서 보는 3차원 공간의 곡면 좌표점이 $(x, y, u)$로 정해진다. 표현하지 못한 $f(z)$의 허수부 $v(x, y)$는 색깔로 표현한다. 함수값의 크기를 색깔로 표현하는 방식은 여러 가지가 있다. 예를 들면, 색상(色相, hue), 채도(彩度, saturation), 명도(明度, value or brightness)로 구성하는 [그림 3]의 HSV(hue, saturation, value) 색 공간(color space)을 사용할 수 있다. 색상은 흔히 말하는 구분된 색깔, 채도는 농담의 정도, 명도는 밝기의 정도를 의미한다.

[그림 3] HSV 색 공간을 나타내는 원뿔(출처: wikipedia.org)

[그림 4] 색상 $H$의 주기적인 변화(출처: wikipedia.org)

3차원 색칠하기 표현에서는 우리가 명확히 볼 수 있는 색상 $H$를 이용해 [그림 2]처럼 $f(z)$의 허수부 $v(x, y)$를 나타낸다. HSV 색 공간의 나머지 성분인 채도 $S$와 명도 $V$는 모두 100 %로 설정해서 명확한 색 표현이 되도록 한다. 다만 색상 $H$는 0˚~360˚ 범위에서 주기적으로 변하므로, 주기성이 없는 경우를 나타내기에는 불편하다. 이때는 보통 $H$를 0˚(빨강)~240˚(파랑)까지만 선택해서 색칠한다. 여기서 $H$의 색상 사상(色相寫像, color mapping)을 구성하는 방식은 매우 다양하므로 자기 취향에 맞게 골라서 사용할 수 있다. 예를 들어, 매트랩(MATLAB)의 시각화(visualization) 기능을 흉내낸 파이썬(Python)matplotlib 코드(code)는 [그림 5]와 같은 다양한 색상 지도(colormap)를 제공한다.

[그림 5] matplotlib가 제공하는 여러 가지 색상 지도(출처: matplotlib.org)

이를 종합해서 복소 함수 $f(z)$ = $u(x,y) + i v(x, y)$를 다음과 같은 색깔 있는 3차원 곡면으로 그린다.

                  (1)

여기서 $z$ = $x +yi$는 $xy$평면에서 변하며, $s$는 3차원 곡면의 높낮이, $v_{\min}$과 $v_{\max}$는 각각 $v(x, y)$의 최소값과 최대값, 채도 $S$ = 100%, 명도 $V$ = 100%로 정한다.
3차원 색칠하기의 개념을 알면 [그림 2]를 더 정확하게 음미할 수 있다. 여기서 [그림 2]는 복소 함수 $f(z)$ = $\sqrt{z}$를 보여준다. 곡면의 높이인 $u(x, y)$가 같더라도 색깔이 다르면 같은 함수값이 아니다. 즉, 빨강에서 한 바퀴를 회전하면 곡면의 높이는 같아지지만, 색깔은 파랑이라서 같은 함수값이 아니다. 이 위치에서 한 바퀴를 더 돌면 높이와 색깔이 모두 같아져서 함수값은 원래 위치로 돌아온다. 이 개념은 $z$가 두 바퀴를 돌아야 제곱근 함수 $\sqrt{z}$가 원래값이 된다는 복소 함수의 다가성(多價性, multi-valuedness)을 뜻한다. 

[그림 6] 복소 함수 $z^3 - 1$의 정의역 색칠하기(출처: wikipedia.org)

  • 정의역 색칠하기(domain coloring)
3차원 색칠하기는 우리가 복소 함수를 이해하는 좋은 방법이지만, 그림을 그릴 때 3차원 곡면이 필요한 약점이 있다. 이를 손쉽게 해결하려면 정의역(domain)을 나타내는 2차원 평면에 [그림 6]처럼 오직 색깔로만 복소 함수의 실수부와 허수부를 표현하면 된다. 그래서 정의역 색칠하기에서는 HSL(hue, saturation, lightness) 색 공간을 주로 사용한다. 여기서 L은 흑백 명도(黑白明度, lightness)를 나타낸다. 3차원 색칠하기와 비슷하게 채도를 100%로 놓고 흑백 명도 $L$과 색상 $H$를 $f(z)$의 크기와 위상으로 각각 연결한다.

                  (2)

여기서 $l(r)$은 $0$ 혹은 양의 실수 $r$을 흑백 명도로 바꾸는 어떤 함수, $H$는 0˚~360˚까지 변하는 복소 함수의 위상(phase) 혹은 편각(argument)을 표현한다. 흑백 명도 함수 $l(r)$은 다음과 같은 여러 종류로 정의할 수 있다.

                  (3)

여기서 $r_{\max}$는 $r$의 최대값이다. 식 (2)에 나온 흑백 명도 $L$은 HSV 색 공간의 명도 $V$와 비슷하면서도 다르다. 명도 $V$는 색깔 있는 광원이 방출하는 빛의 밝기이지만, 흑백 명도 $L$은 백색광의 밝기로 환산한 빛의 밝기이다. 그래서 $V$와 $L$은 명도 특성을 가져서 $V$ = $L$ = 0%이면 모두 검정색을 나타낸다. 반면에 $V$ = 100%로 두면 특정 색깔이 가장 밝아지지만, $L$ = 100%이면 모든 색이 항상 흰색으로 되는 차이가 있다.
정의역 색칠하기 관점으로 [그림 6]을 다시 본다. [그림 6]에 나타난 검정색은 흑백 명도 $L$ = $0$ 혹은 $|f(z)|$ = $0$인 경우이므로 $z^3 - 1$의 영점(zero)을 보여준다. 또한 밝기가 흰색으로 갈수록 $f(z)$의 크기는 급속히 커진다. 예를 들어, 완전한 흰색이 되면 이 점은 $f(z)$의 극점(pole)일 수 있다. 또한 [그림 6]의 색상은 $z^3 - 1$의 위상을 보여준다. 색상표가 있는 [그림 4]를 보면, [그림 6]의 빨간색은 위상이 0˚, 청록색은 180˚이다.


[다음 읽을거리]

2020년 12월 27일 일요일

리만 제타 함수(Riemann Zeta Function)

[경고] 아래 글을 읽지 않고 "리만 제타 함수"를 보면 바보로 느껴질 수 있습니다.


[그림 1] 리만 제타 함수의 정의역 색칠하기(domain coloring) 표현(출처: wikipedia.org)

오일러Leonhard Euler(1707–1783)의 찬란한 발상이 꽃피운 분야는 너무 많지만, 그중에 제일은 해석학(解析學, analysis)적 개념을 솟수(素數, prime number)에 적용한 공식인 식 (1)이다.[1989년부터 시행된 한글맞춤법에 따르면 소수(素數, prime number)로 해야 타당하나, 소수(小數, decimal fraction)와 구별되지 않으므로 옛날 표기인 솟수를 고집한다.] 당시 누구나 알고 있던 조화 급수(harmonic series)가 솟수 분포와 관계된다는 창의적인 개념이 1737년오일러 30세, 조선 영조 시절에 오일러에 의해 발표되었다[1].

[그림 2] 에라토스테네스(Eratosthenes)의 체(출처: wikipedia.org)

[오일러 곱 공식(Euler product formula)]

                  (1)

여기서 $m$은 $1$보다 큰 자연수, $\mathbb{P}$는 모든 솟수의 집합이다.

[오일러의 원래 증명] [1]
식 (1)의 좌변에 첫번째 솟수 $2$의 거듭제곱을 곱한다.

                  (2)

식 (2)의 우변은 분명히 $2$의 배수로 구성한 무한 급수(infinite series)이다. 다음 단계로 [그림 2]에 있는 에라토스테네스(Eratosthenes)의 체처럼 식 (1)에서 식 (2)를 빼서 원래 숫자들을 줄여간다.

                  (3)

비슷하게 그 다음 솟수인 $3$의 거듭제곱을 곱해서 만든 무한 급수를 이용해 식 (3)에서 $3$의 배수도 뺀다.

                  (4)

만약 모든 솟수에 대해서 식 (3), (4)와 같은 과정을 계속 반복한 결과는 다음과 같다.

                  (5)

식 (5)의 좌변에 있는 무한 곱(infinite product)을 이항하면, 식 (1)을 바로 얻을 수 있다.

                  (6)
______________________________

위와 같은 증명은 무한 급수의 수렴을 생각하지 않고 계산해서 다소 위험하다. 하지만 오일러는 천재적인 암산 능력으로 해석학적 오류에 빠지지 않고 정상적인 결론을 이끌어내었다. 식 (1)의 좌변은 제타 함수(zeta function)라고 부른다. 여기서 제타 함수의 입력 변수는 자연수로 한정한다.

[증명: 산술의 기본 정리] [2]
무한 급수를 제대로 다루기 위해 자연수 $m \ge 2$인 경우는 식 (1)의 좌변이 절대 수렴(absolute convergence)함을 먼저 증명한다.

                  (7)

식 (7)의 방법은 조화 급수의 발산 증명과 비슷하다. 비교 판정(comparison test)에 의해 식 (1)의 좌변은 절대 수렴하므로, 우리는 제타 함수의 항을 마음대로 조작할 수 있다. 또한 산술의 기본 정리(fundamental theorem of arithmetic)에 의해 임의의 자연수 $n$은 솟수의 곱으로 유일하게 표현된다.

                  (8)

여기서 $q_1, q_2, q_3, \cdots$은 $0$ 혹은 자연수이다. 그러면 식 (1)의 좌변은 다음처럼 표현된다.

                  (9)

솟수로의 인수 분해는 유일하기 때문에, 식 (9)의 각 무한 급수에서 $q_1, q_2, q_3, \cdots$의 항은 단 한 번만 들어간다. 최종적으로 식 (9)의 마지막식에 나온 무한 등비 급수(infinite geometric series)를 구하면 식 (1)이 증명된다.

                  (10)
______________________________

[그림 3] 제타 함수의 일반화

[그림 3]처럼 지수 함수 $y = 1/n^x$를 이용해서 제타 함수의 정의역을 자연수에서 실수로 확장할 수 있다.

                  (11)

식 (7)과 비슷하게 식 (11)의 수렴 특성도 얻는다.

                  (12)

따라서 $x > 1$인 경우에 식 (12)의 무한 급수가 수렴하므로, $\zeta(x)$의 정의역은 $x > 1$인 실수이다. 제타 함수 $\zeta(x)$의 수렴 특성은 적분 판정(integral test)으로 이해할 수도 있다. 더 세밀한 비교를 위해 [그림 3]에 바탕을 두고 다음 부등식을 유도한다[2].

                  (13)

식 (13)에 의해 $x$ = $1$ 근방에서 성립하는 극한이 유도된다.

                  (14)

제타 함수의 정의역을 복소수(complex number) 영역까지 다시 일반화할 수도 있다. 가장 쉬운 방법은 식 (11)의 실수 $x$를 복소수 $z$로 바꾸기이다. 이 경우에 무한 급수가 절대 수렴하는 구간은 $\Re[z] > 1$이다.

                  (15)

하지만 식 (15)와 같은 정의를 쓰면 복소 영역에서 버리는 부분이 너무 많아진다. 그래서 리만Bernhard Riemann(1826–1866)은 1859년리만 33세, 조선 철종 시절다음 적분부터 시작해서 제타 함수의 영역을 복소수 전체로 확대하였다[3].

                  (16)

여기서 $s$는 복소수, $\Gamma(s)$는 감마 함수(gamma function)이다. 복소 영역에서 정의된 제타 함수는 제안자를 강조해서 리만 제타 함수(Riemann zeta function)라고 한다. 식 (15)와 같은 무한 급수를 $\zeta(s)$로 표기한 수학자도 리만이다[3]. 실수 함수의 특성을 포함하면서 정의역을 복소수로 확장하는 방법은 해석적 연속(analytic continuation)이라 부른다. 따라서 복소 함수인 식 (16)은 실수 함수인 식 (11)의 해석적 연속이 된다.

[그림 4] 리만 제타 함수를 위한 복소 적분 경로 $\mathcal{C}$

식 (16)에 나온 적분 구간은 실수이므로, 복소 함수론(complex function theory or complex analysis)을 이용해서 [그림 4]와 같이 복소 영역에 정의된 적분 경로를 고려한다. [그림 4]의 적분 경로와 식 (16)의 피적분 함수를 이용해서 다음처럼 복소 적분을 새롭게 정의한다[2], [3].

                  (17)

식 (17)의 마지막식에 나온 두번째 적분의 크기를 세밀하게 확인한다.

                  (18)

식 (15)처럼 $\Re[s] > 1$인 조건에서 $r \to 0$이면 식 (18)은 $0$이 된다. 따라서 복소 영역에서 정의한 리만 제타 함수가 얻어진다.

                  (19a)

                  (19b)

여기서 $\Re[s] > 1$이다. 식 (19b)에 다시 오일러의 반사 공식(Euler's reflection formula)을 적용해서 간략화한다.

                  (20)

[그림 5] 리만 제타 함수를 위한 한켈 경로 $\mathcal{H}$

식 (20)의 적분 변수를 $z \to -z$로 바꾸면, 적분 경로는 유명한 한켈 경로(Hankel contour) $\mathcal{H}$로 다음처럼 표현된다.

                  (21)

여기서 한켈 경로 $\mathcal{H}$는 [그림 5]에 제시되어 있다.

[그림 6] 한켈 경로 $\mathcal{H}$를 포함한 닫힌 적분 경로

실수부 $\Re[s] < 0$인 경우는 [그림 6]과 같은 적분 경로를 이용해서 식 (21)을 정확히 적분할 수 있다. 여기서 식 (21)의 분모 $e^z - 1$에 의해 피적분 함수의 극점(pole)은 $z$ = $\pm 2 \pi n i$이며, 닫힌 적분 경로 내부에 없는 $z$ = $0$은 극점에서 제외한다. 다음 단계로 [그림 6]에 유수 정리를 적용해서 식 (21)과 연결 관계를 만든다.

                  (22)

여기서 적분 경로 $c_3$은 $z$ = $R e^{i \phi}$[$0 < \phi < 2 \pi$]로 정의한다. 만약 $R$이 무한대로 가면, $\Re[z] > 0$인 영역에서 $c_3$은 $0$이다. 따라서 $c_3$에 대한 복소 적분은 다음처럼 $R \to \infty$ 조건에서 $0$이 된다.

                  (23)

식 (22)와 (23)을 식 (21)에 넣고 정리해서 $\zeta(s)$의 함수 방정식(functional equation)을 유도한다.

                  (24)

따라서 $\Re[s] < 0$인 경우는 식 (24)를 이용해서 $\zeta(s)$를 쉽게 계산할 수 있다.

[그림 7] 리만 제타 함수의 임계띠(출처: wikipedia.org)

식 (21)과 (24)에 의해 $\zeta(s)$는 $\Re[s] < 0$과 $\Re[s] > 1$에서 해석적 연속이다. 하지만 [그림 7]처럼 임계띠(critical strip)라 불리는 $0 < \Re[s] < 1$에서는 $\zeta(s)$의 수렴 특성이 모호해진다. 그래서 식 (21)의 복소 적분을 다시 관찰한다. 이 복소 적분은 식 (18) 때문에 $\Re[s] > 1$인 조건이 꼭 필요하다. 하지만 해석적 연속을 적용해서 식 (21)의 한켈 경로 $\mathcal{H}$를 $z$ = $0$에 근접시키지 않으면, 식 (21)은 $s$ = $1$을 제외한 $\Re[s] > 0$에서 잘 수렴한다. 다만 식 (14)에 의해 $s$ = $1$에서 $\zeta(s)$는 발산한다. 식 (21)과 함께 식 (24)까지 도입하면, $\zeta(s)$는 $s$ = $1$을 제외한 모든 점에서 잘 수렴해서 해석적이다. 오일러–매클로린 공식(Euler–Maclaurin formula)을 식 (15)에 적용해서 $\Re[s] > 0$인 영역의 수렴성을 보기도 한다.

                  (25)

                  (26)

여기서 $\lfloor x \rfloor$는 바닥 함수(floor function)이다. 급수 개수 $N$을 무한대로 보내면, 식 (26)의 좌변은 $\zeta(s)$가 된다.

                  (27)

여기서 $\Re[s] > 1$이다. 식 (27)은 $\Re[s] > 1$인 조건으로 유도하지만, 식 (27)의 우변은 $\Re[s] > 0$에서도 성립하므로 해석적 연속으로 정의역을 $\Re[s] > 0$으로 확장한다. 또한 식 (27)은 $\zeta(s)$가 $s$ = $1$에서 단순극임을 잘 보여준다. 다만 식 (21)과 (27)의 우변은 명시적으로 달라보여서 수렴값이 특정 영역에서 다를 수도 있다. 그런데 이를 걱정할 필요는 전혀 없다. 해석적 연속의 특징으로 인해 특정 영역에서 함수값이 같다면 수렴하는 모든 영역에서도 함수값이 동일하다. 즉, 상이해보이는 식 (21)과 (27)의 우변은 해석적 연속으로 인해 서로 동일하다.
리만은 식 (24)를 유도한 후에 한 걸음을 더 나가서 새로운 함수 $\xi(s)$를 정의했다.

                  (28)

복소 함수 $\xi(s)$는 모든 복소 영역에서 해석적이며 다음 관계가 항상 성립한다.

                  (29: 르장드르의 2배 공식)

                  (30)

복잡한 과정을 거치기는 하지만, $\xi(s)$는 $\Re[s]$ = $1/2$를 기준으로 완벽하게 대칭이다. 리만 제타 함수를 $\xi(s)$ 관점으로 표기하면 다음과 같다.

                  (31)

식 (31)에 의해 $\zeta(s)$는 음의 짝수[$s$ = -$2m$]에서 자명한 영점(trivial zero)이 있다. 하지만 $\Re[s] > 1$인 영역에서는 영점이 전혀 없다. 왜냐하면 이 영역에서는 식 (1)의 해석적 연속인 다음 관계식이 항상 성립하기 때문이다.

                  (32)

즉, 무한 곱으로 표현된 $\zeta(s)$에서 $p^s$ $\ne$ $0$이므로, $\Re[s] > 1$에서 $\zeta(s)$는 절대 $0$이 될 수 없다. 더 정확하게 증명하려면 식 (32)의 역수를 취해서 대소 관계를 확인한다.

                  (33)

식 (33)을 다시 역수로 취해서 $\Re[s] > 1$ 조건에 대한  $|\zeta(s)|$의 하한을 구한다.

                  (34)

따라서 $\zeta(s)$는 $\Re[s] > 1$에서 $0$이 되는 점이 없다. 추가적으로 식 (24)에 의해  $\Re[s] < 0$에서도 자명한 영점 이외에는 $\zeta(s)$의 영점이 없다. 비슷하게 $\Re[s]$ = $0$도 식 (24)로 계산한다.

                  (35)

                  (36)

여기서 $t$ = $\Im[s]$이다. 이에 따라 $\Re[s]$ = $1$에서 영점이 없으면, $\Re[s]$ = $0$인 영역에서도 $\zeta(s)$의 영점은 없다. 그래서 자명한 영점 이외에 $\zeta(s)$의 영점이 존재한다면, 영점은 $0 < \Re[s] < 1$ 영역을 표현하는 [그림 7]에 있는 임계띠에만 있을 수 있다. 리만은 과감하게 이런 영점들이 임계선(critical line) $\Re[s]$ = $1/2$에만 있다고 추측했다[3]. 리만 제타 함수의 영점에 대한 리만의 추측이 그 유명한 리만 가설(Riemann hypothesis)이다. 리만 가설은 현재까지도 증명되지 않고 있다.
실수부 $\Re[s]$ = $1$에서 $\zeta(s)$의 영점이 없다는 증명은 다소 번잡하다[5]. 이 명제의 증명을 위해 먼저 다음과 같은 부등식을 고려한다.

                  (37)

여기서 $\sigma$ = $\Re[s]$, $\sigma > 1$이다. 제타 함수의 크기는 식 (32)에 로그 함수를 적용해서 무한 급수로 표현한다.

                  (38)

식 (38)을 식 (37)의 둘째식에 대입해서 정리한다.

                  (39)

식 (39)는 코사인 함수와 2배각의 부등식에 의해 항상 $0$보다 크거나 같다. 그래서 식 (37)이 쉽게 유도된다. 다시 $\Re[s]$ = $1$에서 $\zeta(s)$의 변화에 대한 고민으로 돌아간다. 이를 위해 식 (37)의 첫째식을 약간 변형한다.

                  (40)

만약 $t$ = $t_0$에서 $\zeta(1+it)$ = $0$이라 가정하면, 식 (40)에 나온 항은 다음처럼 $\zeta(s)$의 미분이 된다.

                  (41)

하지만 $s$ = $1$을 제외한 모든 영역에서 $\zeta(s)$는 해석적이므로, 식 (41)은 발산하지 않고 유한한 값이 된다. 즉, 식 (40)의 극한은 당연히 $0$이 된다. 이를 종합하면 식 (37)의 부등식과 식 (40)의 극한은 양립할 수 없어서 $\Re[s]$ = $1$에서 $\zeta(s)$의 영점은 존재할 수 없다.

[그림 8] 솟수 계량 함수 $\pi(n)$의 특성(출처: wikipedia.org)

그런데 리만 제타 함수의 영점을 왜 이렇게 집요하게 추적할까? 리만 제타 함수의 성질이 [그림 8]과 같은 솟수 계량 함수(prime-counting function) $\pi (n)$과 밀접하게 연결되어 있기 때문이다. 솟수 계량 함수 $\pi (n)$은 $n$ 이하에 있는 솟수의 개수를 계산한다. 제타 함수 $\zeta(s)$와 솟수 계량 함수 $\pi(n)$의 관계를 확인하기 위해 식 (32)에 로그 함수(logarithmic function)를 적용해서 정리한다[4].

                  (42)

식 (42)에 나온 로그 함수는 적분으로 바꿀 수 있다.

                  (43)

                  (44)

식 (44)의 좌변에 $\zeta(s)$의 영점을 대입하면 발산하므로, 식 (44)의 우변에도 발산하는 요소가 있어야 한다. 그러면 $0 < \Re[s]$ < 1에서 피적분 함수의 분모는 발산하지 않는 형태라서 $\pi(x)$의 적분이 반드시 발산해야 한다. 즉, $\zeta(s)$의 영점 분포는 $\pi(x)$의 함수적 특성과 매우 긴밀하게 연관된다.

[참고문헌]
[1] L. Euler, "Variae observationes circa series infinitas (Various observations about infinite series)," Commentarii academiae scientiarum Petropolitanae (Commentary of the St. Petersburg Scientist Academy), vol. 9, pp. 160–188, 1737(작성), 1744(출판). (방문일 2020-12-29)
[2] 줄리언 해빌, 오일러 상수 감마, 승산, 2008.
[3] B. Riemann, "Ueber die Anzahl der Primzahlen unter einer gegebenen Grösse (On the number of primes less than a given magnitude)," Monatsberichte der Königlich Preußischen Akademie der Wissenschaften zu Berlin (Monthly Reports of the Royal Prussian Academy of Sciences in Berlin), Nov. 1859. (방문일 2020-12-29)
[4] D. Nawaz, The Dirichlet Series To The Riemann Hypothesis, B.S. Thesis, University of Gävle, Sweden, 2018.
[5] A. J. Hildebrand, Distribution of Primes II: Proof of the Prime Number Theorem, Introduction to Analytic Number Theory, University of Illinois at Urbana-Champaign, USA, 2001. (방문일 2020-12-29)
[6] J. Veisdal, Prime Numbers and the Riemann Zeta Function, B.S. Thesis, University of Stavanger, Norway, 2013. (방문일 2021-01-14)