극한(極限, Limit)과 연속성(連續性, Continuity)의 의미

[경고] 아래 글을 읽지 않고 "극한과 연속성의 의미"를 보면 바보로 느껴질 수 있습니다.

1. 미분법의 의미

극한(極限, limit)은 특정한 점으로 한없이 가까이 가는 점진적 접근으로 자명하게 정의할 수 있다. 가까이 가는 모습 자체는 생각하기 쉽지만, 이 모양을 논란없이 수학적으로 명쾌하게 정의하기는 매우 어렵다. 극한 개념을 수학적으로 명확히 표현할 때는 코쉬Augustin-Louis Cauchy(1789–1857), 볼차노Bernard Bolzano(1781–1848), 바이어슈트라스Karl Weierstrass(1815–1897) 등이 기여한 $\epsilon$–$\delta$ 정의(定義, definition)를 사용한다. 뉴턴이 어렴풋하게 사용한 극한 지식을 코쉬는 부등식을 이용해 당당히 해석학(解析學, analysis) 증명에 사용했다. 코쉬의 유산을 이어받은 바이어슈트라스는 $\epsilon$–$\delta$ 정의에 기반한 엄밀한 정의와 논리를 사용해 코쉬의 해석학을 현대화했다.

극한은 한없이 가까이 간다는 당연한 말을 수학적으로 명확하게 정의하기 때문에, 처음 접하면 상당히 어색하고 거북하다. 예를 들면, 아래에 소개한 학생과 교수의 대화[1]를 본다.

학생: 교수님, 자동차가 시간당 100 km를 움직이면 시속 100 km라고 하는데, 이게 수학적으로 무슨 뜻인가요?

교수: 임의의 작은 $\epsilon$이 있다고 생각한다. 이때 $0 < |t_2 - t_1| < \delta$를 만족하는 시간 구간에 대해

   

  을 만족하는 $\delta$가 항상 존재할 때가 시속 100 km라고 한다.

학생: ???

학생 속마음: '사람 소리를 해야지, 무슨 멍멍이 소리를 하는 거야! 말도 못알아 듣겠고, 하나도 모르겠네!'

우스운 대화지만 실제 대학교 1학년 수학 시간에 일어나는 현상이다. 이 대화를 보고 웃지 않으면 당신은 더이상 아래 글을 읽을 필요가 없다. 이미  $\epsilon$–$\delta$ 정의를 알고 있으며 능숙하게 사용할 수 있으니까. 우리도 코쉬의 관점으로 극한을 근본적으로 접근해본다. 뉴턴과 라이프니츠가 미분과 적분을 발견한 지 150년쯤 후 코쉬는 미분에 대해 근본적인 질문을 했다. "도대체 수학적으로 한없이 가까이 간다는 개념은 무엇인가?" 이 의문에 대한 해답이 바로 $\epsilon$–$\delta$ 정의이다. 거창한 이름이 붙어 있지만, 사실 $\epsilon$–$\delta$ 정의는 자명한 부등식(不等式 , inequality)에 기반을 두고 있다. 그래서 부등식만 이해할 수 있다면  $\epsilon$–$\delta$ 정의도 쉽게 이해할 수 있다. 최대한 쉽게 $\epsilon$–$\delta$ 정의를 설명하면, 정의에 나오는 $\epsilon$은 목표하는 함수값($L$)과의 오차(error)를 표현하는 값이며[1], $\delta$는 독립 변수인 $x$가 도달해야 하는 목표값($c$)과의 차이(difference)를 의미한다.

[그림 1] 수학적으로 정의한 한없이 가까이 가기(출처: wikipedia.org)

[그림 1]은 수학적으로 한없이 가까이 가는 극한을 그림으로 설명한다. [그림 1]의 상태는 수학식으로는 식 (1)로 표시한다.

                                 (1)

식 (1)의 표현을 $\epsilon$–$\delta$ 정의로 표시하면 다음과 같다.

[$\epsilon$–$\delta$ 정의]

임의의 작은 $\epsilon > 0$에 대해[= $\forall \epsilon$], $0 < |x - c| < \delta$ $\Rightarrow$ $|f(x) - L| < \epsilon$을 만족하는 $\delta > 0$가 항상 존재한다[= $\exists \delta$].

$\epsilon$–$\delta$ 정의는 특정점에 한없이 가까이 가는 상태를 직관이 아닌 부등식으로 명확히 표현한다. 식 (1)과 같이 유한한 $L$이 얻어지면, $x$ = $c$에서 극한이 존재한다고 정의한다. 위에 소개한 $\epsilon$–$\delta$ 정의의 기본 개념은 코쉬가 부등식과 관련 설명을 이용해 최초로 제안했다. 하지만 코쉬는 부등식보다는 주로 문장으로 표현해서 극한 정의에 모호한 점이 있었다. 그뒤 볼차노Bernard Bolzano(1781–1848)와 바이어슈트라스Karl Weierstrass(1815–1897)가 현재와 같이 세련된 정의를 엄격하고 확실하게 제안했다.

[$\epsilon$–$\delta$ 정의(formal definition of limit)]

식 (1)과 [그림 1]을 동시에 보면 코쉬의 의도를 이해할 수 있다. 부등식을 도입함으로써 한없이 가까이 가는 모습을 명시적으로 표현할 수 있다. $\epsilon$–$\delta$ 정의가 성립해야 극한을 적용할 수 있다. 즉, 극한-미분-적분의 언어가 $\epsilon$–$\delta$ 정의인 셈이다. $\epsilon$–$\delta$ 정의에서 자명한 부분은 $0 < |x - c| < \delta$이다. $x$는 독립 변수이므로 항상 이 부등식을 만족하도록 $x$를 설정할 수 있다. 그래서 우리가 극한의 존재성을 증명하기 위해 사용하는 원리는 $|f(x) - L| < \epsilon$을 만족시킬 때 과연 $0 < |x - c| < \delta$가 성립하는 $\delta$를 발견할 수 있는가이다. 좀더 고상하게 표현하면, 함수 $f(x)$가 $L$에 다가갈 때에 함수 목표치($L$)와의 오차(error) $\epsilon$을 한없이 줄이기 위한 독립 변수 목표치($c$)와의 차이(difference)인 $\delta$를 항상 발견할 수 있다면 극한이 존재한다. 논리적으로는 $A$ $\Rightarrow$ $B$인 관계이므로 $A$가 참이 되면 $B$가 항상 성립하도록 $\epsilon$과 $\delta$의 관계를 설정한다. 즉, $\epsilon$–$\delta$ 정의에서 $A$ $\equiv$ $0 < |x - c| < \delta$는 항상 성립하므로[혹은 $x$는 독립 변수이므로 항상 줄일 수 있어서], $B$ $\equiv$ $|f(x) - L| < \epsilon$도 반드시 만족한다.[∵ 항상 명제 $B$를 만족하도록 $\epsilon$과 $\delta$를 설정하기 때문이다.]

$\epsilon$–$\delta$ 정의로 극한 특성을 증명하는 절차는 아래와 같다.

1. 함수 $f(x)$를 고려하여 적당한 $\epsilon$을 가정한다.
2. $\epsilon$이 주어진 경우 부등식 특성이나 역함수 관계를 이용해 $\delta$와의 관계를 도출한다.
3. $\epsilon$과 $\delta$의 관계가 얻어졌으므로 $0 < |x - c| < \delta$ $\Rightarrow$ $|f(x) - L| < \epsilon$이 자동적으로 성립하게 할 수 있다. 즉, $|x - c|$는 항상 매우 작게 줄일 수 있으므로[혹은 독립 변수이므로] $\epsilon$과 $\delta$의 관계에 의해 $|f(x) - L| < \epsilon$이 항상 성립하도록 $f(x)$와 $L$ 사이의 오차를 줄일 수 있다.

위의 절차를 이용해 중요한 극한 특성을 다양하게 증명한다.

[상수 함수의 극한]

                        (2)

[증명]

식 (2)에서 $f(x)$ = $L$인 상수 함수이므로 어떤 $\epsilon$이라도 관계없다. 또한 $\delta$와의 관계도 상수 함수이므로 임의로 선정할 수 있다. 즉, 어떤 $x$를 택하더라도[혹은 어떤 $\delta$가 주어지더라도] $|f(x) - L|$ = $|L - L|$ = $0 < \epsilon$이 성립하므로 $|x-c| < \delta$ $\Rightarrow$ $|f(x)-L| < \epsilon$이 성립하게 할 수 있다.

______________________________

[상수 곱의 극한]

                         (3)

[증명]

임의로 작은 양의 실수 $\epsilon$ 선택이 중요하므로, 식 (3)을 고려해서 $|a| \cdot \epsilon_1$ = $\epsilon$이 되도록 $\epsilon$을 정한다. 여기서 $\epsilon$은 $af(x)$를 위한 오차이며 $\epsilon_1$은 $f(x)$를 위한 오차이다. 또한 $f(x)$는 식 (1)을 극한으로 가진다고 가정한다. $\epsilon$과 $\delta$의 관계를 얻기 위해 $|af(x) - aL|$ = $|a||f(x) - L|$ = $|a|\cdot \epsilon_1$ = $\epsilon$를 생각한다. 식 (1)이 성립하므로 적절한 $\delta_1$에 대해 $|x-c| < \delta_1$ $\Rightarrow$ $|f(x)-L| < \epsilon_1$ = $\epsilon/|a|$이 성립한다. 따라서, $\delta$ = $\delta_1$이라 설정하여 $\epsilon$과 $\delta$의 관계를 결정한다. 좀더 풀어 설명하면 $\epsilon$이 정해지면 $\epsilon_1$ = $\epsilon/|a|$라 둔다. 식 (1)에 따라 $\epsilon_1$에 대응하는 $\delta_1$이 존재한다. 이 $\delta_1$을 $\delta$로 설정한다. 확인을 위해 $|x - c| < \delta$라 하면 $|f(x) - L| < \epsilon_1$ = $\epsilon/|a|$ $\Leftrightarrow$ $|a||f(x) - L|$ = $|af(x) - aL| < \epsilon$이 당연히 성립한다.

______________________________

[합의 극한]

                         (4)

[증명]

임의로 작은 양의 실수 $\epsilon$을 선택하기 위해 식 (4)를 고려한다. 편하게 $\epsilon_1 + \epsilon_2$ = $\epsilon/2 + \epsilon/2$ = $\epsilon$으로 정한다. 여기서 $\epsilon$은 $f(x) + g(x)$를 위한 오차이며 $\epsilon_1$과 $\epsilon_2$는 $f(x)$와 $g(x)$를 위한 오차이다. $\epsilon$과 $\delta$의 관계는 $\epsilon$을 고려하여 $\delta$ = $\min(\delta_1, \delta_2)$로 정한다. 즉, $\delta_1$, $\delta_2$ 중에서 작은 값을 $\delta$로 설정한다. 여기서 $\delta_1$, $\delta_2$는 $\epsilon_1$, $\epsilon_2$를 위한 독립 변수 차이값이다. 당연히 $x$축 구간 범위의 차이를 나타내는 $\delta$를 작은 값으로 정하면 함수의 오차 $\epsilon$은 더 줄어들 것이다. 확인을 위해 $|x - c| < δ$라 하면 $|x - c| < \delta_1$과 $|x - c| < \delta_2$가 당연히 성립한다.[∵ $\delta$ = $\min(\delta_1, \delta_2)$] 따라서, $|f(x) + g(x) - L - K|$ < $|f(x) - L| + |g(x) - K|$ < $\epsilon/2 + \epsilon/2$ = $\epsilon$가 되어 증명이 끝난다.

______________________________

[차의 극한]

                         (5)

[증명]

앞서 증명한 식 (3)과 (4)를 이용하여 증명하면 아래와 같다.

    
______________________________

[곱셈의 극한]

                           (6)

[증명]

식 (6)을 직접 증명하기는 번거로우므로, 먼저 아래 극한을 생각한다[2].

                         (7)

부등식의 대소 특성을 이용하면, 식 (7)은 명확히 증명된다[2]. 예를 들면, $|(f(x) - L)(g(x) - K)|$ = $ |f(x) - L||g(x) - K|$ < $\epsilon_1 \epsilon_2$ = $\sqrt{\epsilon} \sqrt{\epsilon}$ = $\epsilon$이라 생각해서 식 (7)의 극한을 증명할 수 있다. 마지막 단계로 분배 법칙을 이용해 식 (7)의 좌변을 계산한 후 식 (3)과 (4)를 적용해서 최종 결과를 확인한다.

                         (8)
______________________________

[나눗셈의 극한]

                         (9)

여기서 $K \ne 0$이다.

[증명]

곱셈에 대한 극한 증명과 유사하게, 나눗셈의 극한을 직접 증명하지 않고 다음과 같은 $1/g(x)$의 극한부터 시작해서 식 (9)를 증명한다[2].

                         (10)

먼저 $g(x)$의 극한이 존재하기 때문에, $|g(x) - K|$ < $\epsilon_2$가 성립한다. 이 부등식을 두 절대값의 차이로 다시 쓰면, $\Big||g(x)| - |K| \Big|$ $\le$ $|g(x) - K|$ < $\epsilon_2$로 표현할 수도 있다. 그러면 당연히 $|K| - \epsilon_2$ < $|g(x)|$ < $|K| + \epsilon_2$이 성립해서 $1/|g(x)|$ < $1/(|K| - \epsilon_2)$이다. 다음 단계로 식 (10)에 대한 극한을 결정하기 위해 다음 부등식을 도입한다.

                          (11)

여기서 $\epsilon$은 $1/g(x)$의 오차값, $\epsilon_2$는 $g(x)$의 오차값이다. 극한값 $K$가 $0$이 아니라면, $\epsilon$–$\delta$ 정의에 의해 $\epsilon$은 임의의 작은 값이 될 수 있다. 왜냐하면 $g(x)$의 극한값이 존재해서 분자에 있는 $\epsilon_2$가 임의로 작아질 수 있고, 이때 분모의 $|K| - \epsilon_2$는 $|K|$에 근접하기 때문이다. 이런 이유로 $K \ne 0$인 조건이 꼭 필요하다. 최종적으로 식 (9)를 $f(x)$와 $1/g(x)$의 곱으로 분리해서 식 (6)과 (10)을 적용하면 된다.

                         (12)
______________________________

[지수의 극한]

                         (13)

[증명]

지수 $a$가 정수인 경우에는 식 (6) 혹은 (9)를 이용하여 쉽게 증명할 수 있다. 지수 $a$가 정수가 아닌 경우는 역함수 관계[$x^a$의 역함수는 $x^{1/a}$]를 이용하여 식 (13)을 증명할 수 있다. 임의의 $\epsilon$에 대해 $\epsilon$과 $\delta$의 관계를 얻기 위해 아래 부등식을 생각한다.

                         (14)

식 (1)과 (14)를 고려하여 $\epsilon_1$ = $\min(L-\sqrt[a]{L^a - \epsilon}, \sqrt[a]{L^a + \epsilon}-L)$라 정의하면, $\epsilon$–$\delta$ 정의에 의해 식 (13)을 증명할 수 있다. 여기서 $\epsilon_1$은 $f(x)$의 오차값이다.

______________________________

식 (13)을 확장해서 식 (15)를 증명할 수 있다.

[합성 함수의 극한]

                           (15)

여기서 $f(x)$와 $g(x)$는 모두 극한이 존재하며, $g(x)$는 유한한 점에서만 미분 불가능일 수 있다.

[증명]

식 (15) 증명을 위해 식 (14)와 유사한 부등식 (16)을 고려한다.

                           (16)

식 (16)을 정의할 때, $g(x)$는 $x$ = $L$ 근방에서 단조 증가한다고 가정한다.[혹은 단조 감소라 가정해도 비슷하게 증명 가능하다.] 식 (16)에 적절한 $\epsilon_1$를 정의하면 식 (15)가 증명된다. 즉, $\epsilon_1$ = $\min[L-g^{-1}[g(L)-\epsilon], g^{-1}[g(L)+\epsilon]-L]$라 설정하면 된다. 예를 들어, $\epsilon_1$ = $L - g^{-1}[g(L) - \epsilon]$라 가정하면 $\epsilon$과 $\epsilon_1$의 관계를 아래처럼 얻을 수 있다.

                         (17)

가정에서 $\epsilon_1$이 한없이 작아질 수 있기 때문에 식 (17)을 고려하면 $\epsilon$도 한없이 작아질 수 있다.

______________________________

만약 $x$ = $L$에서 $g(x)$가 미분 불가능이면 어떻게 될까? 조건에 의해 $g(x)$는 [그림 2]처럼 연속이므로 좌극한이나 우극한을 가정하여 $x$ = $L$ 지점을 회피하면 된다. 또한 모든 점에서 $g'(x)$ = $0$이면 $g(x)$는 상수 함수이므로 식 (15)가 바로 증명된다. 유한한 점에서 $g'(L)$ = $0$이라면, 미분이 불가능한 경우처럼 $x$ = $L$ 지점을 회피하면 된다. 또한 식 (15) 증명에서 극한점 $x$ = $L$ 근방에서 함수는 단조 증가하거나 단조 감소한다고 생각한다. 이 가정은 타당한가? 이 부분은 미분법(differentiation)과 밀접한 관련을 가지고 있다. 함수 $f(x)$의 미분이 존재한다는 말은 식 (18)의 극한이 존재함과 같다. 즉, 미분의 정의를 $\epsilon$–$\delta$ 정의로 쓰면 다음과 같다.

                           (18)

식 (18)에서 $\delta$가 작아지는 경우 이에 비례하여 $\epsilon$도 작아지면 미분이 존재한다.[이건 그냥 $\epsilon$–$\delta$ 정의를 소리내어 읽음과 같다. 식 (18)은 증명이 아니고 극한 정의대로 미분을 표기한 결과이다.] 또한 식 (18)의 셋째줄을 보면 $\delta$에 대해 $x$ = $c$ 근방에서 $f(x)$는 선형적 관계[$f(c+\delta) \approx f(c) + f'(c) \delta$]를 가진다. 식 (18)의 방법론을 확장하면 테일러 급수(Taylor series)에 도달하게 된다. 그래서 미분이 존재하면 $x$ = $c$ 근방에서 함수가 단조 증가하거나 단조 감소한다고 생각할 수 있다.

위에 소개한 극한 증명은 매우 유용해서 미분 법칙 증명에도 쉽게 사용할 수 있다.

[그림 2] 극한 관점으로 본 함수의 연속성

극한에 대한 이해가 충분히 깊기 때문에, [그림 2]에 있는 함수의 연속성(連續性, continuity)으로 더 전진해본다. 한없이 가까이 가는 상태를 수학적으로 표현한 개념이 극한이므로, [그림 2]에 제시한 극한을 이용하여 함수의 연속성을 식 (19)처럼 정의할 수 있다.

                         (19)

즉, 함수 $f(x)$가 $x$ = $c$에서 연속이 되려면, 잘 정의된 함수값 $f(c)$는 $x$ = $c$의 극한값 $L$과 같아야 한다.[$f(c)$ = $L$] 식 (19)를 $\epsilon$–$\delta$ 정의로 다시 쓰면 다음과 같다.

[함수의 연속성(continuity of a function) 정의]

임의의 작은 $\epsilon > 0$에 대해 $0 < |x - c| < \delta$인 양의 $\delta$가 항상 존재해서 $|f(x) - L| < \epsilon$을 만족하면, $f(x)$는 $x$ = $c$에서 연속이다. 여기서 $L$ = $f(c)$이다.

극한 자체가 존재하려면 식 (1)이 성립해야 한다고 위에서 설명하고 있다. 이 경우 [그림 2]와 같이 좌극한(左極限, left hand limit)과 우극한(右極限, right hand limit)이 존재해야 하며, 이 값이 $L$과 같아야 한다. 여기서 좌극한은 $x$가 $c$로 접근할 때 왼쪽에서 접근[$x \to c - 0$]하며 우극한은 오른쪽에서 접근[$x \to c + 0$]한다. 그런데 좌극한과 우극한이 왜 같아야 할까? 어떤 함수가 이어져 있다고 할 때, 양쪽 끝[$x$ = $c - 0$ 및 $x$ = $c + 0$]에 있는 함수값이 서로 같다면 당연히 중앙점[$x$ = $c$]에서의 값은 양쪽 끝에서의 값과 같아야 한다. 이런 특성은 조임 정리(squeeze theorem)와 관련되어 있다. 당연한 이 말을 심각하게 고민하면 중간값의 정리(中間値 定理, intermediate value theorem)에 도달하게 된다. 함수가 연속이면 당연히 특정값의 중간에 중간값이 존재한다고 생각할 수 있다. 이것은 자명하기 때문에 우리가 중간값의 정리를 고민할 때 눈여겨 볼 부분은 중간값 정리의 의미보다는 증명하는 과정이다. 자명한 이 정리를 어떻게 수학적으로 명쾌하게 증명하는가를 보면, 수학이 더 흥미로울 것이다.

[그림 3] 단위 계단 함수(출처: wikipedia.org)

함수의 연속성이 성립하지 않는 경우를 $\epsilon$–$\delta$ 정의로 분석하기 위해, [그림 3]에 있는 단위 계단 함수(unit step function) $u(x)$를 사용한다. 점 $x$ = $0$에서 함수 $u(x)$는 연속인가? 눈으로 봐도 함수가 연속이 아님은 분명하다. 하지만 함수의 연속성을 바탕으로 불연속성(discontinuity)을 논리적으로 증명하는 부분이 더 중요하다. 수학, 특히 해석학(analysis)에서는 우리의 직관이 안 맞을 때도 많기 때문이다. 점 $x$ = $0$의 우극한을 사용하면, $|u(x) - 0.5|$ = $1 - 0.5$ = $0.5$가 항상 성립한다. 여기서 $u(0)$ = $0.5$이다. 그러면 $0.5$보다 작은 $\epsilon$을 택한 경우, 아무리 작은 $\delta$를 선택해도 $|x| < \delta$ $\Rightarrow$ $|u(x) - 0.5| < \epsilon$을 만족할 수 없다. 그래서 $u(x)$는 $x$ = $0$에서 불연속이다. 점 $x$ = $0$의 좌극한을 사용해도 $u(t)$의 불연속성을 증명할 수 있다.

[그림 4] 곱셈의 역수 함수 $1/x$(출처: wikipedia.org)

특정점에서 발산하는 함수의 연속성도 확인한다. [그림 4]는 곱셈의 역수(multiplicative inverse) 함수 $f(x)$ = $1/x$를 보여준다. 이 함수는 $x$ = $0$에서 발산하기 때문에 $L$ = $f(0)$을 정의할 수 없다. 그래서 $1/x$는 $x$ = $0$에서 연속이 아니다. 하지만 $x$ = $0$을 제외한 모든 영역에서는 항상 연속이다. 모든 점에서 불연속인 함수도 존재한다. 유리수와 무리수를 선택하는 디리클레 함수(Dirichlet function) ${\bf 1}_\mathbb{Q}(x)$는 모든 점에서 불연속이다.

[디리클레 함수의 불연속성]

디리클레 함수는 모든 점에서 불연속이다.

                  (20)

[증명]

식 (20)에 정의한 디리클레 함수를 $f(x)$라 둔다. 만약 $a$가 유리수이면, $f(a)$ = $1$이다. 극한을 정의하는 $\epsilon$은 $1/2$로 둔다. 그러면 $x$ = $a + 1/\sqrt{n}$은 항상 무리수가 된다. 여기서 $n$은 거듭제곱수가 아닌 자연수이다. $\epsilon$–$\delta$ 정의에 따라 $n \ge N$이면, $|x - a|$ = $1/\sqrt{n} < \delta$인 작은 양의 실수 $\delta$를 항상 만들 수 있다. 여기서 $N$은 적당히 큰 자연수이다. 하지만 $\delta$를 아무리 줄여도[혹은 $n$을 아무리 키워도] $|f(x) - f(a)|$ = $|0-1|$ = $1$이라서 절대 $\epsilon$보다 작아질 수 없다. 결국 디리클레 함수는 $x$ = $a$에서 연속이 아니다. 비슷하게 $a$가 무리수인 경우는 $x$ = $q(a, n)$으로 둔다. 여기서 $q(a, n)$은 실수 $a$의 소수점 이하 $n+1$번째 자리를 잘라서 유리수로 만든다. 그러면 $n$이 커질 때, $|x - a|$를 한없이 작게 만들어서 어떤 $\delta$도 만들어낼 수 있다. 그러나 아무리 작은 $\delta$에 대해서도 $|f(x) - f(a)|$ = $|1-0|$ = $1$이므로, $\epsilon$ = $1/2$보다 작아질 수 없다. 최종적으로 $a$가 유리수든 무리수든 $f(x)$는 절대 연속일 수 없다.

______________________________

디리클레 함수는 매우 간단하게 정의하지만, 모든 점에서 불연속인 함수의 대표 주자이다. 모든 점에서 연속이면서 미분이 불가능한 함수로 바이어슈트라스 함수(Weierstrass function)도 있다. 디리클레 함수의 정의는 매우 유용해서, 식 (20)을 확장한 지시 함수(indicator function or indicator) ${\bf 1}_{\bf A}(x)$를 수학 분야에서 빈번하게 사용한다.

                         (21)

예를 들어, 디리클레 함수는 $\bf A$ = $\mathbb{Q}$인 지시 함수이다. 지시 함수를 표기할 때에 ${\bf 1}_{\bf A}(x)$ 대신 $I_{\bf A}(x)$ 혹은 $\chi_{\bf A}(x)$도 쓰인다.

[그림 5] 균등 연속성의 예(출처: wikipedia.org)

곱셈의 역수 함수처럼 특정점에서 발산하는 함수의 연속성 정의에는 다소간 아쉬움이 있다. 함수가 발산점에서 정의되지 않기 때문에, 불연속이 발생하면 우리 생각이 더 이상 진행되지 않는다. 이런 어려움에도 불구하고 발산 현상과 연속성을 더 세련되게 정의하는 용어는 균등 연속성(uniform continuity)이다. 함수의 연속성이 점에 대한 연속적 특성이라면, 균등 연속성은 점을 구간으로 확장한 새로운 연속 성질이다. 

[균등 연속성 정의]

임의의 작은 $\epsilon > 0$에 대해 $0 < |x - y| < \delta$인 양의 $\delta$가 항상 존재해서 $|f(x) - f(y)| < \epsilon$을 만족하면, $f(x)$는 구간 $\bf X$에서 균등 연속이다. 여기서 $x, y$는 $\bf X$에 포함되는 임의의 점이다. 

연속성과 균등 연속성을 이해하기 위해 [그림 5]를 참고한다. 빨간색 함수 $\sqrt{x}$와 파란색 함수 $1/x$는 그냥 봐도 모두 연속이다. 하지만 면적이 $\delta \cdot \epsilon$로 일정한 빨간색과 파란색 사각형에서 함수 변화를 본다. 열린 구간 $(0, 6)$에서 $\sqrt{x}$는 빨간색 사각형 안에서 변한다. 그래서 $\sqrt{x}$는 균등 연속이다. 하지만 $1/x$는 $x$ = $0$에 가까이 가면, 함수의 변화는 파란색 사각형을 벗어난다. 이 경우는 함수가 균등 연속이지 않다고 한다. 정성적인 설명은 수학적 언어로 바꾸어본다. 열린 구간 $(0, 6)$에서 $|x - y| < \delta$라 한다. 균등 연속성의 정의에 의해, 다음 관계가 성립하면 $1/x$는 균등 연속이다.

                  (22)

하지만 $x, y$가 $0$ 근방에 있으면 $\delta$를 $\epsilon$만으로 표현할 수 없다. 따라서 $1/x$는 $x$ = $0$ 근방에서 균등 연속이지 않다. 함수 $1/x$의 예에서도 알 수 있듯이, 함수가 연속이라고 당연히 균등 연속이지는 않다. 반대로 균등 연속이면 당연히 함수는 연속이다. 그래서 균등 연속 개념은 함수의 연속성에 자연스럽게 포함된다. 쉽게 생각해서 함수의 연속성은 특정 점에서의 연속 조건이라면, 균등 연속은 특정 구간에서 동일한 면적을 가진 $\delta \cdot \epsilon$으로 정의하는 연속 조건을 뜻한다.

[함수의 연속성과 균등 연속성]

(a) 어떤 구간에서 함수가 균등 연속이면, 이 함수는 해당 구간에서 연속이다.

(b) 구간 $[a, b]$에서 함수가 연속이면, 이 함수는 해당 구간에서 균등 연속이다.

[명제 (a)의 증명]

점 $y$를 바꾸지 않고 고정해서 $c$라 한다. 그러면 $|x - c| < \delta$ $\Rightarrow$ $|f(x) - f(c)| < \epsilon$이 성립해서, $f(x)$는 이 구간에서 연속이다.

[명제 (b)의 증명]

함수 $f(x)$는 닫힌 구간에서 연속이므로, 극값의 정리(extreme value theorem)에 의해 $f(x)$는 유계(有界, bounded)가 된다. 함수 $f(x)$가 연속이고 유계이기 때문에, 구간 $[a, b]$에 있는 임의의 점 $c$에 대해 $|x - c| < \delta(c)$ $\Rightarrow$ $|f(x) - f(c)| < \epsilon/2$가 성립하도록 $\delta(c)$를 정할 수 있다. 여러 $\delta(c)$ 중에서 가장 작은 값을 $\delta_\text{min}$이라 한다. 그러면 $x < c < y$인 조건에서 다음 부등식이 성립한다.

                  (23)

식 (23)에 의해 $f(x)$는 균등 연속이다.

______________________________

균등 연속성의 정의는 코쉬 수열(Cauchy sequence)과도 닮아있다. 수열 $\{c_n\}$이 코쉬 수열이라면, 균등 연속 함수는 다음 성질을 만족한다.

[코쉬 수열과 균등 연속성]

함수 $f(x)$가 균등 연속이고 $\{c_n\}$이 코쉬 수열이면, $\{f(c_n)\}$도 코쉬 수열이다.

[증명]

자연수 $N$보다 큰 임의의 $m, n$에 대해, 코쉬 수열 $\{c_n\}$은 항상 $|c_m - c_n| < \epsilon$을 만족한다. 또한 $|c_m - c_n| < \delta$를 만족해서 균등 연속인 함수 $f(x)$는 $|f(c_m) - f(c_n)| < \epsilon$이 성립해야 한다. 따라서 $\{f(c_n)\}$도 코쉬 수열이 된다.

______________________________ 

[참고문헌]

[1] J. V. Grabiner, "Who gave you the Epsilon? Cauchy and the origins of rigorous calculus," The American Mathematical Monthly, vol. 90, no. 3, pp. 185–194, March 1983.

[2] P. Dawkins, "Proof of various limit properties," Paul's Online Math Notes. (방문일 2010-07-02)

[다음 읽을거리]
1. 코쉬의 극한 고민
2. 평균값의 정리
3. 중간값의 정리
4. 조임 정리
5. 무한 급수
6. 아름다운 숫자, 오일러 수
7. 로피탈의 규칙

8. 바이어슈트라스 함수