[경고] 아래 글을 읽지 않고 "감마 함수"를 보면 바보로 느껴질 수
있습니다.
[감마 함수(gamma function)의 시각적 이해]
천재 수학자 오일러Leonhard Euler(1707–1783)가 1729년오일러 22세, 조선 영조 시절부터 무려 1년(?)이나 고민해서 1730년에 제안한 함수가 하나 있다. 이 함수의
이름은 감마 함수(gamma function)라고 한다.

(a) 복소 영역

(b) 실수 영역
[그림 1] 감마 함수(출처: wikipedia.org)
감마 함수는 수학 좀 한다는 사람들에게 매우 유명한 함수이다[1].
수학책에 나오는 많은 수학자들[르장드르, 가우스, 리만, 리우빌, 바이어슈트라스, 에르미트 등]이 끊임없이 기여했을 정도로 감마 함수는 성공적이었다. 이렇게 유명하며 중요한
함수이지만 감마 함수의 시작은 별거 없다. 오일러는 '기호 $n!$과 같은
계승(階乘,
factorial)은 왜 정수에만 정의되지? 이 함수를 실수로 확장하는 방법이 없을까?'를
고민했다. 평범한 고민이지만 해결책은 비범했다. 적분으로 표현한 감마 함수를
사용하면 계승을 실수까지 연속적으로 확장할 수 있다.
(1)
식 (1)을 감마 함수라 부르는 이유는 오일러 때문이다. 오일러는 1730년오일러 23세, 조선 영조 시절에 두 개의 새로운 적분을 발표했다. 바로
베타 함수(beta function)와 감마 함수이다. 이
함수들의 원래 이름은 각각 제1종과 제2종 오일러 적분(Euler integrals of the first and second kinds)이다. 하지만 오일러가 들어가 있는 수학 공식이 너무 많기 때문에, 그리스 알파벳 순서에 따라 베타와 감마 함수로 부른다.[그리스 알파벳의 순서는 알파($A$), 베타($B$), 감마($\Gamma$) 순이다.]
1. 기본(basics)
(1.1)
여기서 $\log(u)$는 자연 로그(natural logarithm)이다.
[증명]
(1.2)
식 (1.2) 유도에서 치환값 $t = -\log(u)$에
로그 함수(logarithmic function)의 역함수인
지수 함수(exponential function)를 취하여 얻은
새로운 관계식 $u = e^{-t}$를 이용하였다.
______________________________
식 (1.1)은 누구나 정의할 수 있을 것 같지만, 식 (1.1)에 나오는 로그 함수(logarithmic function)를 정의한 사람이 바로 오일러이다. 로그 함수는 네이피어John Napier(1550–1617)가
발명했지만, 수학적 함수로 승화시킨 천재가 오일러이다. 당연히
지수 함수(exponential function)를 적극적인 활용한 수학자도 오일러이다. 이 정도라면 대(大)수학자 오일러는 함수의 아버지 혹은 함빠라고 불러도 무방하다.
[계승의 일반화(generalization of factorial)]
(1.3)
여기서 $x > 0$인 실수이며 $n$은 정수이다.
[증명]
(1.4)
식 (1.4)와 식 (4.1)을 이용하면 식 (1.3)이 증명된다.
______________________________
식 (1)의 정의는 $x > 0$인 경우만 의미가 있지만[∵ $x < 0$이면 식 (1)이 발산한다.] 식 (1.3)을 기반으로 $x$의 값을 실수축 전체로 확장할 수 있다. 예를
들어 $-1 < x < 0$이라면 감마 함수는 다음을 통해 계산할 수 있다.
(1.5)
여기서 $0 < x+1 < 1$이므로 식 (1.5)의 우변은 잘 정의된다.
따라서, 이 값을 $\Gamma (x)$로 정의할 수 있다. 이 개념을 좀더 확장하면 $x
> -n$인 경우[$n$은 양의 정수]에도
아래처럼 감마 함수를 정의할 수 있다.
(1.6)
식 (1.6)에서 $x \le 0$인 정수에 대해 감마 함수가 무한대가 되는 부분은
상당히 재미있다.[∵ 이때 식 (1.6)의 분모가 0이 된다.] 다음으로 식 (1.6)과 유사하게 실수축 전체에 대해 감마 함수를 정의해본다.
[무한 곱을 이용한 정의(definition using infinite product)]
(1.7)
여기서 $x$는 임의의 실수이다.
[증명]
식 (1)에 있는 적분을 하기 위해 먼저
오일러의 수(Euler's number)를 고려한다.
(1.8)
식 (1.8)을 식 (1)에 대입해
부분 적분을
적용하면 다음을 얻을 수 있다[2].
(1.9)
여기서 $B(x, y)$는
베타 함수(beta function)이다. 식 (1.9)의
마지막식을 다음처럼 연속적으로 적용하면 식 (1.7)을 얻을 수 있다.
(1.10)
증명에 식 (1)을 사용했기 때문에 $x > 0$에서만 성립하지만 식 (1.6)의
개념을 이용하면 $x < 0$인 경우도 정의할 수 있다.
______________________________
식 (1.7)의 접근법은 1729년에 오일러가 제안했다[1]. 또한 1년 뒤인 1730년에 식
(1.1)을 이용해 감마 함수를 재정의했다. 그런데 의외의 풍성한 결과가 얻어진
정의는 식 (1.1)이 아닌 식 (1.7)이다. 식 (1.7)의 오일러 정의가 좋기는 하지만
완전한
무한 곱(infinite product)으로 표현되지 않고
극한(limit)을 포함하고 있다. 여기에
불만을 품은 가우스Carl Friedrich Gauss(1777–1855)는 1811년가우스 34세, 조선 순조 시절에 다음 정의를 내놓게 된다.
[가우스의 정의(definition by Gauss)]
(1.11)
[증명]
식 (1.11)의 증명은 식 (1.7)의 $n^x$를 치환하기 위한 다음 곱셈을 고려하면 된다.

(1.12)______________________________
가우스의 정의를 다른 방법으로 비튼 수학자는 바이어슈트라스Karl Weierstrass(1815–1897)였다. 바이어슈트라스는 $n^x$를 표현하기 위해
지수 함수(exponential function)를
이용하였다.
[바이어슈트라스의 정의 혹은 곱 공식(definition by Weierstrass or Weierstrass product formula)]
(1.13)
여기서 $\gamma$는 오일러–마스케로니 상수(Euler–Mascheroni constant)이다.
[증명]
가우스와 마찬가지로 바이어슈트라스도 $n^x$ 변형에 집중했다. 지수 함수를
적용하면 다음처럼 표현 가능하다.
(1.14)
식 (1.14)에서 무한대로 가는 극한을 취할 때 다음과 같은 오일러–마스케로니 상수(Euler–Mascheroni constant)를
도입한다. 그러면 식 (1.13)을 쉽게 증명할 수 있다.
(1.15)______________________________
[켤레 복소수(complex conjugate)]
(1.16)
(1.17)
여기서 $(\cdot)^*$는 켤레 복소수이다.
[증명]
식 (1.7), (1.11), (1.13) 등과 같은 감마 함수를 표현하는 여러 정의에 의해 식
(1.16)이 성립한다. 혹은 [그림 3.1]의 한켈 경로(Hankel contour)로도 증명 가능하다. 한켈 경로에 켤레 복소수를 취하면 적분 경로가
$\mathcal{H}^*$ = $-\mathcal{H}$가 되는 성질을 이용한다. 즉, 식 (3.1)에 켤레
복소수를 적용하고 적분 경로를 $-\mathcal{H}$로 바꾸어서 식 (1.16)을 얻을 수
있다.
______________________________
2. 함수적 관계(functional relation)
[오일러의 반사 공식(Euler's reflection formula)]
(2.1)
[증명]
식 (1.11)을 이용해 다음을 계산해본다.
(2.2)
(2.3)
식 (2.3)을 식 (2.2)에 대입하면 식 (2.1)을 증명할 수 있다.
(2.4)______________________________
[그림 3.1]에 보인 한켈 경로(Hankel contour)로 $1/\Gamma(z)$를 모든 복소 영역에서 정의하면, 오일러의 반사 공식에 따라 $\sin(\pi z) \Gamma(z)$도 전체 복소 평면에서 해석적이다.
(2.5)
[증명]
르장드르Adrien-Marie Legendre(1752–1833)가 1808년르장드르 56세, 조선 순조 시절에 증명한 식 (2.5)는
베타 함수(beta function)를 이용해 쉽게
증명할 수 있다.
(2.6)______________________________
3. 함수 표현식(function representation)
[그림 3.1] 한켈 경로 혹은 한켈 윤곽 $\mathcal{H}$
[한켈 경로 혹은 한켈 윤곽(Hankel contour)]
(3.1)
여기서 $\mathcal{H}$는 한켈 경로(Hankel contour), $z$는 임의의
복소수(complex number), $-t > 0$인
실수축의 위상은 0으로 정했으며 $t$의 가지 자름(branch cut)은 $-t \le 0$인
실수축에 있다.
[증명]
식 (3.1)의 우변에 대해 [그림 3.1]와 같은 한켈 경로 $\mathcal{H}$를 생각한다.
식 (3.1)의 적분은
복소 함수론(complex analysis)에 의해 $-t
\le 0$인 실수축에서
가지 자름(branch cut)을 가진다. 그래서 한켈
경로 $\mathcal{H}$는 $-t \le 0$인 실수축을 피하면서 정의한다. 또한 한켈 경로는
[그림 3.1]에서 변경해도 적분값이 동일하므로, 다음과 같이 편리한 방식으로
적분을 정의한다[3].
(3.2)
여기서 $-t$의 위상 기준점은 $-t > 0$인 실수축으로 정하였다. 즉, $-t >
0$인 실수축은 위상이 0˚가 되고 시계 반대 방향으로 위상을 정하므로 $-t <
0$인 실수축 바로 아래는 위상이 180˚가 되고 바로 위는 -180˚가 된다. 식
(3.2)의 결과는 식 (1.4)와 같은 이유로 $z$의 실수부가 0보다 큰 영역에서만 맞다.
하지만 식 (2.1)이 복소수에서도 성립한다고 가정해서 다음 관계를 명확히 얻는다.
(3.3)
식 (3.3)의 우변은 잘 정의되기 때문에 모든 복소수에 대해 적분 가능하다. 따라서,
식 (3.3)의 좌변도 모든 복소 영역에서 잘 정의된다.
______________________________
식 (3.1)은 정말 놀라운 결과이다. $z$의 실수부가 0보다 큰 영역에만 맞는 적분을
전체 복소 영역으로 확대할 수 있기 때문이다. 이런 부분 때문에 우리는 반드시
복소 함수론을 배워야 하고 반드시 이해해야 한다. 또한 식 (3.1)의 우변은 $z$가
음의 정수일 때만 $0$이 된다. 즉, 식 (3.1)의 좌변에 있는 감마 함수는 음의
정수에서만 무한대로 발산함을 의미한다. 더 정확하게 보면, 식 (2.1)에 의해 감마
함수는
단순극(simple pole) 수준으로 발산한다.
4. 특정값(specific value)과 극한(limit)
(4.1)
[증명]
(4.2)______________________________
(4.3)
[증명]
먼저 가우스 함수(Gaussian function)의 특성을
이용해 적분하면 다음과 같다.
(4.4)식 (4.4)를 이용하면 식 (4.3)이 증명된다.
(4.5)______________________________
(4.6)
식 (1.3)으로부터 $x \Gamma(x)$ = $\Gamma(x+1)$이므로, 식 (4.6)은 $\Gamma(1)$
= $1$과 같다.
______________________________
5. 점근식(asymptote)
(5.1)
(5.2)
[증명]
(5.3)
식 (5.1)은
스털링의 공식(Stirling's formula)으로 쉽게
증명된다. 식 (5.2)의 증명을 위해 감마 함수를 복소 영역으로 확장한다. 먼저 $x
> 0$, $y > 0$으로 가정해서 스털링의 공식을 크기에 대해서 정리한다.
(5.3)
여기서 $y \gg 1$, $\rho$ = $\sqrt{x^2 + y^2}$, $\phi$ = $\tan^{-1}(y/x)$이다.
만약 $x$ > $0$, $y < 0$이라면, 식 (5.3)에서 복소수의 위상은 $\phi$
$\approx$ $-\pi/2$이다. 그래서 $e^{-\phi y}$ $\approx$ $e^{y \pi /2}$ =
$e^{-|y| \pi /2}$로 표현할 수 있다.
______________________________
(5.4)
여기서 $x$는 정수가 아니다.
식 (2.1)에 있는 오일러의 반사 공식에 식 (5.1)을 대입하여 유도한다.
______________________________
[1] P. Sebah and X. Gourdon,
Introduction to the Gamma Function, Feb. 2002.
[2] W. F. Hammond,
About the Gamma Function, University at Albany, 1995.
[3] C. Pope,
Methods of Theoretical Physics: I,
Texas A&M University,
2011.
[다음 읽을거리]
1. 다이감마 함수
2. 베타 함수
3. 불완전 감마 함수


(2)
(4)
(5)
(6)
(7)
(8)