단조 증감 수렴 정리(單調增減收斂定理, Monotone Convergence Theorem)

[경고] 아래 글을 읽지 않고 "단조 증감 수렴 정리"를 보면 바보로 느껴질 수 있습니다.
1. 평균값의 정리
2. 중간값의 정리
3. 극값의 정리

4. 극한과 연속성의 의미

해석학(解析學, analysis)을 공부할 때 증명은 이해가 되지만 이런 부분을 증명해야 하는 이유를 알 수 없는 정리중의 하나가 단조 증감 수렴 정리(單調增減收斂定理, monotone convergence theorem)이다. 단조 증감 수렴 정리는 단조 증가하는 수열이 위로 유계(有界, bounded)일 때나 단조 감소하는 수열이 아래로 유계일 때 반드시 수렴한다는 정리이다. 단조 증감 수렴 정리는 너무 직관적으로 이해가 되기 때문에 굳이 증명해야 하는지도 의심스럽다. 한계가 있는 상태에서 그 방향으로 계속 진행하면 언젠가는 한계에 다다를 수 있지 않는가! 그래서, 수학자 코쉬도 단조 증감 수렴 정리를 증명하지 않고 성립한다고 가정하고 사용하였다.

[그림 1] 단조 증가하는 함수의 예(출처: wikipedia.org)

[그림 2] 커패시터가 충전되는 모습(출처: wikipedia.org)

단조 증가함은 [그림 1]처럼 $x$가 증가할 때 함수값 $f(x)$가 감소하지 않음이다. 즉, 감소하지 않음은 증가하거나 제자리 걸음을 할 수 있음이다. 우리가 커패시터(capacitor)에 전압을 채우면 [그림 2]와 같은 단조 증가 특성을 얻을 수 있다. 시간이 무한대로 흐르면 커패시터에는 내가 걸어준 전압이 걸리게 된다. [그림 2]를 보면 $x$가 증가할 때 함수값 $f(x)$가 수렴하는 모습은 당연해보인다. 그런데 세상에는 당연한 사실을 고민하는 사람들도 많다. 단조 증감 수렴 정리 증명을 통해 우리는 실수(實數, real number)의 완비성(完備性, completeness)을 느낄 수 있다. 실수의 완비성(completeness of real numbers)은 모든 실수를 순서대로 나열해 만든 수직선(數直線, number line)에는 빈 공간이나 빠진 점이 전혀 없음을 뜻하는 공리(公理, axiom)이다.

[단조 증감 수렴 정리]
단조 증감하는 수열이 유계이면 반드시 수렴한다.

[증명]

먼저 단조 증가하는 수열 $\{a_n\}$을 생각해본다. 단조 증가하기 때문에 $a_1 \le a_2 \le \cdots \le a_n \le \cdots$가 성립한다. 또한 실수의 완비성[실수를 이용하면 수직선을 빠짐없이 채울 수 있음]에 의해 수열 $\{a_n\}$의 최소 상계(最小上界, supremum or least upper bound)가 반드시 존재해야 한다. 이 최소 상계값을 $L$이라고 한다. 그러면, 임의의 $\epsilon > 0$에 대해 $L - a_N < \epsilon$을 만족하는 $N$을 항상 발견할 수 있다. 그러면, 아래가 항상 성립한다.

                       (1)

그러면 수열의 수렴(convergence of sequence) 정의에 의해 다음이 성립한다.

                                    (2)

단조 감소 증명은 위의 증명을 약간만 바꾸면 쉽게 할 수 있다. 

______________________________

위의 증명을 보면 수학적 증명 같은데 동어반복을 하고 있는 것 같기도 하다. 해석학에 있는 많은 증명은 컴퓨터 공부에 나오는 알고리즘(computer algorithm or algorism)처럼 생각하면 쉽다. 컴퓨터는 사람과 같은 직관이 없기 때문에 일일이 알고리즘 관점에서 지시하듯이 프로그램을 작성해야 한다. 그래서, 해석학에 나오는 직관적인 정리를 증명하려면 마치 실제 컴퓨터에게 시킬 일을 지시하듯이 알고리즘 관점에서 적어주면 된다. 다만, 내가 무얼 하고 있는지는 확실히 알고 증명을 써내려 가야 한다.

위의 단조 증감 수렴 정리 증명에도 약점이 있다. 실수의 완비성이 성립하면 최소 상계 혹은 최대 하계(最大下界, infimum or greatest lower bound)가 반드시 존재한다고 했는데 이 값을 어떻게 찾을 수 있을까? 즉, 실수 완비성에 의한 최소 상계 혹은 최대 하계의 존재성도 증명을 해야 한다는 뜻이다.

[그림 3] 수직선에서 보는 데데킨트 절단(출처: wikipedia.org)

이 개념을 이해하기 위해 유명한 식 (3)의 집합(集合, set)을 고려한다.

                                   (3)

집합은 특별한 조건을 가진 대상의 모임이다. 좀 애매한 정의이기는 하지만 매우 유용하기도 하다. 이 집합 개념은 실수를 이해할 때 매우 유용하다.[집합론(set theory)의 출발점도 실수의 이해에 있다. 더 깊이 들어가서 보면 집합론의 시작은 무한 급수 혹은 삼각 함수 급수와 밀접하게 관계되어 있다.] 식 (3)에서 집합 $S$의 상계는 3, 4, 5 등이 될 수 있지만 최소 상계는 $x = \sqrt{2}$이다. 따라서 집합 $S$의 최소 상계는 존재한다. 하지만, 집합 $T$는 다르다. 3, 4, 5가 집합 $T$의 상계가 될 수 있지만 $\sqrt{2}$는 무리수이므로 집합 $T$는 최소 상계가 없다. 식 (3)의 집합을 고려하면 유리수는 완비성에 심각한 문제가 있다. 즉, 유리수(有理數, rational number)는 완비성에 문제가 있으므로 수직선을 완벽히 채울려면 반드시 무리수(無理數, irrational number)가 도입되어야 한다. 이와 같은 개념을 이용하면 [그림 3]에 있는 데데킨트 절단(Dedekind cut)을 이해할 수 있다. 유리수만으로 수직선을 구성하면 [그림 3]과 같이 $x = \sqrt{2}$에서 구멍이 생겨버린다.[∵ $\sqrt{2}$는 유리수가 아니다.]

[그림 4] 유리수가 만드는 극한(출처: wikipedia.org)

유리수는 완비성이 없음을 이해하기 위해 다음 집합을 생각한다.

                                  (4)

집합 $A$, $B$에 있는 부등식은 수직선을 모두 채울 수 있지만 수직선을 구성하는 원소가 유리수에 한정되므로 데데킨트 절단에 의해 항상 $\sqrt{2}$에서 문제가 생긴다. 이를 이해하기 위해 집합 $A$의 원소 $a$를 아래와 같이 구성할 수 있다.[해석학의 증명은 직관에 의지하지 말고 컴퓨터에게 지시하듯이 알고리즘 기반으로 일일이 지시해야 한다.]

• $a_1 = 1/1$에서 출발해 $a_1 \cdot a_1 < 2$가 되도록 분자를 1씩 증가: $a_1 = 1/1$
• $a_2 = 10/10$에서 출발해 $a_2 \cdot a_2 < 2$가 되도록 분자를 1씩 증가: $a_2 = 14/10$
• $a_3 = 140/100$에서 출발해 $a_3 \cdot a_3 < 2$가 되도록 분자를 1씩 증가: $a_3 = 141/100$
• 이런 시행을 계속 반복

위와 같이 구성하면 유리수 범위에서 $a \cdot a < 2$를 만족하는 $a$가 시행 회수 $n$이 증가함에 따라 이전보다[혹은 $a_{n-1}$보다] 계속 커지도록 구성할 수 있다. 즉, $a_n$은 $n$이 커질수록 최소 상계에 무한히 접근하게 된다. 집합 $B$의 원소 $b$는 $a$를 이용해서 간단하게 구성할 수 있다. 즉, $b = 2/a$로 정의하면 된다. 예를 들면 $b_1 = 2/1$, $b_2 = 20/14$, $b_3 = 200/141$, $\cdots$가 된다. 그런데 문제가 되는 부분은 시행 회수 $n$을 아무리 증가시켜도 $a = b$는 절대 성립하지 않는다.[∵ $\sqrt{2}$가 무리수이기 때문이다.] 다시 말해 [그림 4] 관점으로 보면 파란점과 빨간점은 유리수 범위에서는 절대 만나지 않는다. 이로 인해 유리수 관점으로 정의한 극한(極限, limit)은 성립하지 않는다. 이런 문제를 명쾌하게 해결한 답이 실수의 완비성이며 실수의 완비성으로 인해 극한을 정확하게 정의할 수 있다. 데데킨트Richard Dedekind(1831–1916)가 이런 개념을 생각해낸 이유도 실수를 명확히 정의해 극한과 나아가서 미분(微分, differentiation)을 명확히 이해하기 위해서이다. 이런 이해를 바탕으로 실수 완비성에 의한 최소 상계 혹은 최대 하계의 존재성을 증명한다. 한가지 명심할 부분은 실수의 완비성은 증명할 수 없는 공리란 사실이다. 유리수의 한계와 데데킨트 절단 개념을 통해 수직선을 완벽히 구성할 수 있는 수 체계를 만들면 바로 실수가 된다. 이 말속에는 실수의 완비성이 자연적으로 들어간다.

[실수 완비성에 의한 최소 상계 혹은 최대 하계의 존재성]

실수의 완비성에 의해 임의의 유한 구간을 가진 실수 집합의 최소 상계 혹은 최대 하계는 반드시 존재한다.

[증명]

먼저 최소 상계부터 증명한다. 어떤 공집합(empty set)이 아닌 유한 구간을 가진 집합을 $S$라고 한다. $S$는 유한 구간을 가졌기 때문에 상계[$S$의 원소보다 항상 큰 구간 바깥에 있는 임의점]를 $B_1$이라 할 수 있다. 구간 안에 있는 임의의 점은 $A_1$이라 한다. 그러면 다음을 통해 최소 상계를 구성할 수 있다.

• $(A_n+B_n)/2$의 크기를 확인한다.
• $(A_n+B_n)/2$이 상계라면 $A_{n+1} = A_n$, $B_{n+1} = (A_n+B_n)/2$로 설정
• $(A_n+B_n)/2$이 상계가 아니라면 $A_{n+1} = (A_n+B_n)/2$, $B_{n+1} = B_n$으로 설정 

이 과정을 반복하면 $A_1 \le A_2 \le \cdots \le B_2 \le B_1$이 되며 $n$을 계속 키워가면 $|A_n - B_n|$의 간격을 한없이 좁혀갈 수 있다. 그런데 유리수와는 다르게 실수는 완비성이 성립하므로 $A_n$과 $B_n$은 같은 극한값에 수렴한다고 할 수 있으며 이 값이 최소 상계가 된다. 최대 하계의 존재성도 동일한 방법으로 증명할 수 있다.

______________________________

위의 증명 방법은 중간값의 정리(中間値의 定理, intermediate value theorem)와 극값의 정리(極値의 定理, extreme value theorem) 증명에도 이용되었다. 단조 증감 수렴 정리를 적분에 적용하면, 우리 직관과 다른 이상한 경우가 생길 수 있다. 단조 증감 수렴 정리의 또 다른 본질을 이해하기 위해 다음과 같은 유계이면서 단조 증가하는 함수열(function sequence) $f_n(x)$의 정적분 관계를 고려한다.

                  (5)

정적분의 성질에 의해 함수의 부등식 관계는 정적분에서도 그대로 유지된다. 식 (5)와 같은 과정이 무한번 반복되어도 다음처럼 정적분에 대한 단조 증감 수렴 정리가 성립할까?

                  (6)

여기서 $f_n(x)$은 유계이면서 단조 증가하는 함수열이다. 식 (6)을 말로 설명하면, 함수열을 정적분한 값의 극한이 함수열의 극한에 대한 정적분과 같다는 뜻이다. 대부분의 단조 증가 함수열은 식 (6)이 잘 성립한다. 하지만 모든 함수열이 식 (6)을 만족하지는 않는다. 리만 적분(Riemann integral)이 가진 허점 중의 하나가 정적분에 대한 단조 증감 수렴 정리이다. 식 (6)이 성립하지 않는 반례 중 하나는 다음과 같은 디리클레 함수(Dirichlet function) ${\bf 1}_\mathbb{Q}(x)$이다.

                  (7)

[그림 5] 자연수로 유리수 헤아리기(출처: wikipedia.org)

식 (7)에서 유추하여 유계이면서 단조 증가하는 함수열 $f_n(x)$를 구간 $[0, 1]$에서 정의한다.

                  (8)

여기서 $f_1(x) \le f_2 (x) \le < \cdots$, $q_k$[$k$ = $1, 2, \cdots, n$]는 $[0, 1]$ 사이에 있도록 [그림 5]처럼 선택한 $k$번째 유리수이다. 함수열 $f_n(x)$의 $n$을 무한대로 보내면, $\lim_{n \to \infty} f_n (x)$ = ${\bf 1}_\mathbb{Q}(x)$가 된다. 함수열 $f_n(x)$를 리만 적분하기 위해 불연속이 발생한 점 $q_k$를 기준으로 적분 구간을 $n+1$개로 나눈다. 그러면 각 구간의 적분값은 $0$이어서 결국 $\int_0^1 f_n(x) \,dx$ = $0$이다. 하지만 디리클레 함수는 리만 적분이 불가능하므로, 다음처럼 식 (6)이 성립하지 않게 된다.

                  (9)

리만 적분에서는 단조 증감 수렴 정리가 성립하지 않는 경우가 있어서 매우 아쉽다. 그렇다고 식 (6)을 버리기에는 단조 증감 수렴 정리가 너무 강력하다. 이 경우에 대한 해결책이 있을까? 우리가 리만 적분을 확장해서 개선하면 된다. 즉 리만 적분 대신 르베그 적분(Lebesgue integral)을 쓰면, 식 (6)이 성립해서 정적분에도 단조 증감 수렴 정리를 문제없이 사용할 수 있다.

[다음 읽을거리]
1. 무한 급수