바이어슈트라스 함수(Weierstrass Function)

[경고] 아래 글을 읽지 않고 "바이어슈트라스 함수"를 보면 바보로 느껴질 수 있습니다.

1. 극한과 연속성의 의미

2. 푸리에 급수의 시작

[그림 1] 바이어슈트라스 함수의 생성 예(출처: wikipedia.org)

함수의 연속성(continuity)과 미분 가능성(differentiability)의 차이는 고등학생 수준의 지식만 있어도 충분히 이해할 수 있다. 예를 들어 절대값(absolute value) 함수 $|x|$는 연속이지만 $x$ = $0$에서는 미분이 불가능하다.

[그림 2] 절대값 함수의 변화(출처: wikipedia.org)

그래서 연속성이 더 큰 개념이고 미분 가능성은 함수가 연속이 되기 위한 충분 조건일 뿐이라고 확언할 수 있다. 하지만 이런 수준의 결과에 만족하면, 우리의 사고가 정지해서 더 전진할 수가 없다. 사소한 부분에도 고민이 많은 수학자가 되어보자. 수학자는 한 점에서의 미분 불가능성에 만족해서 물러나지 않는다. 예를 들어 조각마다 미분 가능(piecewise differentiability)이란 개념을 만들어서 [그림 2]처럼 $x$ = $0$에 있는 미분 불가능점을 제외해본다. 그러면 연속성과 미분 가능성은 동등하다 혹은 같다고 주장할 수도 있다. 조각마다 미분 가능에 대한 추론이 정말 맞을까? 이 질문에 답하기 위해 미분 불가능점을 제거해도 소용이 없는 방법을 고안해야 한다. 특정 구간에서는 연속이지만 구간 내에서 항상 미분이 불가능한 함수를 꼭 찾아서 반론을 제기해야 한다. 문제의 해결책이 보이지 않을 때는 우리 관점을 약간 바꾸어서 관조할 필요도 있다. 함수 연속성의 반대인 불연속을 생각해보자. 푸리에 급수(Fourier series)는 매우 독특한 성질이 있다. 상식적인 관점에서 연속인 삼각 함수를 무한 번 더하더라도 결과는 연속 함수가 되어야 정상이다. 하지만 어떤 경우에는 연속 함수로 구성한 푸리에 급수의 합이 불연속 함수를 표현할 수도 있었다. 처음에는 불연속 함수를 표현하는 푸리에 급수가 틀렸다고 오판했다. 하지만 뚝심있는 푸리에Joseph Fourier(1768–1830) 덕분에 푸리에 급수는 수학적 상상력을 폭발시킨 발화점이 되었다. 잘 보면 푸리에 급수가 연속과 불연속을 표현할 수 있기 때문에, 불연속과 밀접한 관계가 있는 함수의 미분 불가능성도 푸리에 급수로 풀 수 있을지도 모른다. 그래서 푸리에 급수와 같은 무한 급수(infinite series)를 이용해서 함수의 연속성과 미분 가능성을 심도있게 연구하게 되었다. 즉 모든 점에서 연속인 미분 불가능 함수(continuous non-differentiable function)를 찾으려 리만Bernhard Riemann(1826–1866)을 포함한 여러 수학자가 노력하였다[2]. 수학의 영웅 중 한 명인 리만은 다음과 같은 푸리에 급수를 고민했다.

                  (1)

무한 급수 $\sum_{n = 1}^\infty 1/n^2$은 절대 수렴(absolute convergence)하기 때문에 식 (1)도 절대 수렴한다. 또한 사인 함수는 $|\sin(x)|$ $\le$ $1$을 만족하므로, 바이어슈트라스 $M$판정(Weierstrass $M$-test)에 의해 식 (1)은 균등 수렴(uniform convergence)한다. 즉 식 (1)에 나온 $f(x)$는 매우 잘 정의되는 연속 함수이다. 다음 단계로 $f(x)$를 미분해보자. 함수 $f(x)$의 미분이 항별 미분과 같을지는 잘 모르지만, 대충 항 별로 미분하면 다음 결과를 얻는다.

                  (2)

식 (2)의 부분 합은 항을 더함에 따라 계속 진동하므로, 식 (2)는 수렴하지 않는다. 하지만 이와 같은 논증에는 약간의 문제가 있다. 식 (2)는 식 (1)의 미분 $df(x)/dx$인지 증명되지 않았고, 식 (2)의 부분 합은 분명 진동하지만 유계인지 무한대로 발산하는지도 모호하다. 이런 너저분한 상황을 깔끔하게 정리하는 사람이 진정한 수학자이다. 바이어슈트라스Karl Weierstrass(1815–1897)는 1872년바이어슈트라스 57세, 조선 고종 시절에 다음과 같은 바이어슈트라스 함수(Weierstrass function) $W(x)$를 발표하여 연속성과 미분 불가능성 개념을 확실히 정립했다.

                  (3)

식 (1)과 마찬가지로 바이어슈트라스 함수는 절대 수렴하고 바이어슈트라스 $M$판정에 의해 균등 수렴도 한다. 즉 바이어슈트라스 함수도 전영역에서 연속이다. 연속성은 쉽게 유도했지만, $W(x)$의 미분은 절대 쉽지 않다. 일단 항별 미분의 합이 균등 수렴하는지 알 수 없기 때문에, 기본으로 돌아가서 다음과 같은 무한 급수에 대한 기울기 정의를 이용해 미분한다.

                  (4)

좌극한과 우극한을 따로 구하기 위해 임의의 고정점 $x$ = $x_0$를 이용해 $\alpha_m$과 $\beta_m$을 각각 정의한다[1].

                  (5)

여기서 $m$은 자연수, 정수인 $k_m$은 $\chi_m$이 구간 $(-1/2, 1/2]$ 사이에 있도록 정한다. 식 (5)에 의해 $\alpha_m$과 $\beta_m$은 $x_0$의 왼쪽과 오른쪽에 각각 위치한다.

                  (6)

식 (6)에 의해 $m$을 계속 키우면, 간격 $\beta_m - \alpha_m$ = $1/b^m$은 $0$으로 수렴해서 $x_0$에 접근시킬 수 있다. 다음 단계로 변수 $\alpha_m$을 이용해 $W(x_0)$의 왼쪽 기울기를 구한다.

                  (7)

유한 급수 $S_1$과 무한 급수 $S_2$는 특성이 서로 달라서 각각 최종 합을 유도한다. 먼저 삼각 함수의 합차 공식을 이용해서 $|S_1|$의 한계를 정한다.

                  (8)

무한 급수 $S_2$를 계산하기 위해 다음 항을 미리 계산한다.

                  (9)

                  (10)

식 (9)와 (10)을 $S_2$에 대입해서 정리한다.

                  (11)

식 (11)에 있는 무한 급수의 항은 항상 $0$보다 크기 때문에, 무한 급수는 초항보다 항상 크거나 같다.

                  (12)

여기서 식 (5)에 의해 $\chi_m$은 $(-1/2, 1/2]$ 범위에 있다. 식 (8), (11), (12)를 합쳐서 왼쪽 기울기의 변화를 얻는다.

                  (13)

여기서 $S_2$와 관계된 $A$는 $A \ge 1$, $S_1$을 위한 $\epsilon_s$는 $(-1, 1)$ 사이에 있다. 식 (13)에 있는 $A + \epsilon_s$는 항상 $0$보다 커서 왼쪽 기울기의 부호는 $k_m$이 결정한다. 또한 $m \to \infty$로 보내면 왼쪽 기울기의 크기는 발산한다. 비슷한 방법으로 $x$ = $x_0$에서 오른쪽 기울기를 계산한다.

                  (14)

유한 급수 $T_1$과 무한 급수 $T_2$의 한계는 다음과 같다.

                  (15)

                  (16)

따라서 오른쪽 기울기가 가진 성질을 다음처럼 표현할 수 있다.

                  (17)

여기서 $B > 1$, $\epsilon_t \in (-1, 1)$, $B + \epsilon_t > 0$이다. 식 (17)에서 $m$이 커지면, 오른쪽 기울기의 크기는 발산하고 부호는 왼쪽 기울기와 반대가 된다. 따라서 $x$ = $x_0$에서 미분이 불가능하다. 결국 $x_0$는 임의의 점이 될 수 있어서 바이어슈트라스 함수 $W(x)$는 모든 점에서 미분이 불가능하다.

어떻게 상상하면 바이어슈트라스 함수를 쉽게 이해할 수 있을까? 이 함수는 모든 점에서 연속이기 때문에, $x$가 정해지면 $y$ = $W(x)$를 결정할 수 있다. 만약 2차원 평면에 점을 찍으면 곡선 $(x, y)$는 정확하게 결정된다. 하지만 점 $x$의 근방은 절대 결정할 수 없다. 주변이 무한대의 빠르기로 변하기 때문이다. 이런 곡선이 실제로 존재할 수 있을까? 점의 궤적은 정확히 존재하지만 모양이 부드럽지 않고 한없이 뾰족한 곡선이 있다. 바로 분수 차원(fractional dimension)을 가진 프랙탈(fractal) 도형이다.

[그림 3] 바이어슈트라스 함수의 자기 유사성(출처: wikipedia.org)

프랙탈이 강조하는 자기 유사성(self-similarity)을 이용해 [그림 3]처럼 바이어슈트라스 함수 $W(x)$를 관찰할 수도 있다. 자기 유사성은 식 (7)에 제시한 $W(x)$의 미분 불가능 증명에도 적극적으로 활용하고 있다. 자기 유사성을 증명하기 위해 원래보다 구간을 $1/b^m$만큼 줄여서 $W(x)$를 다시 써본다.

                  (18)

식 (18)에 의해 바이어슈트라스 함수 $W(x)$는 크기가 $a^m$만큼 작고 척도(scale)가 $1/b^m$만큼 줄어든 자신과 닮은 $W(u)$를 포함하고 있다. 이뿐만 아니라 자연수 $m$은 임의로 선택할 수 있어서 $W(x)$는 자기 유사성이 있는 함수를 무한개 가지고 있다.

[참고문헌]

[1] J. Thim, Continuous Nowhere Differentiable Functions, Master Thesis, Luleå University of Technology, Sweden, 2003.

[2] G. H. Hardy, "Weierstrass's non-differentiable function," Trans. Am. Math. Soc., vol. 17, no. 3, pp. 301–325, Jul. 1916.

[다음 읽을거리]

1. 분수 차원을 가진 프랙탈