2020년 10월 18일 일요일

멜린 변환(Mellin Transform)

[경고] 아래 글을 읽지 않고 "멜린 변환"을 보면 바보로 느껴질 수 있습니다.


약간 생소한 이름을 가진 멜린 변환(Mellin transform)은 유명한 라플라스 변환(Laplace transform)과 매우 비슷한 모양을 가지고 있다. 두 적분 변환의 유사성을 확인하기 위해, 식 (1), (2)에 제시한 멜린 변환 및 역변환을 식 (3), (4)에 있는 라플라스 변환 및 역변환과 비교한다.

                  (1)

                  (2)

                  (3)

                  (4)

멜린 변환과 라플라스 변환의 관계를 만들 때는 양방향 라플라스 변환(bilateral Laplace transform)이 편하다.

                  (5)

                  (6)

식 (5)에서 $u$ = $e^{-t}$로 변수 치환해서 정리하면 멜린 변환인 식 (1)을 얻을 수 있다.

                  (7)

마찬가지로 브롬위치 적분(Bromwich integral)인 식 (6)을 변수 치환해서 멜린 역변환인 식 (2)를 매우 쉽게 유도한다.

                  (8)

따라서 멜린 변환과 양방향 라플라스 변환의 관계를 정리하면 다음과 같다.

                  (9)

또한 양방향 라플라스 변환의 수렴 특성이 멜린 변환에 그대로 적용되므로, 멜린 변환이 존재하는 $s$의 범위 $\sigma_1 < \Re[s] < \sigma_2$는 보통 띠(strip) 형태를 이룬다. 그래서 수렴하는 $s$의 정의역을 기본대(基本帶, fundamental strip) 혹은 정의대(定義帶, strip of definition)로 부른다.
멜린 변환의 발견에는 다양한 수학자가 기여했다. 적분 변환을 이용해 미분 방정식을 푼다는 개념을 처음 제안한 라플라스Pierre-Simon Laplace(1749–1827)가 1785년라플라스 36세, 조선 정조 시절에 사용한 적분 변환은 멜린 변환과 유사했다. 라플라스가 도입한 적분 변환 개념은 헤비사이드Oliver Heaviside(1850–1925)와 브롬위치Thomas John I'Anson Bromwich(1875–1929)에 의해 라플라스 변환으로 완성된다. 리만Bernhard Riemann(1826–1866)은 1859년리만 33세, 조선 철종 시절에 솟수 정리(素數 定理, prime number theorem)를 고민하며 멜린 변환을 최초로 사용했다.[1989년부터 시행된 한글맞춤법에 따르면 소수(素數, prime number)로 해야 타당하나, 소수(小數, decimal fraction)와 구별되지 않으므로 옛날 표기인 솟수를 고집한다.] 그뒤 1894년카엥 29세, 조선 고종 시절에 카엥Eugène Cahen(1865–1941)이 적분 변환 개념의 멜린 변환을 다시 도입하고, 1896년멜린 42세, 조선 고종 시절에는 멜린Hjalmar Mellin(1854–1933)이 멜린 변환과 역변환을 정확히 정의하였다.

[그림 1] 멜린 역변환을 위한 닫힌 경로

멜린 역변환은 양방향 라플라스 역변환을 이용해서 충분히 증명이 가능하지만, 멜린 역변환 자체의 특성을 이해하기 위해 복소 함수론(complex analysis)으로 증명할 수도 있다. 먼저 식 (2)에 식 (1)을 대입해서 정리한다.

                  (10)

여기서 $\sigma$는 $(t'/t)^s$를 발산시키지 않기 위해 $0$에 매우 근접한 값으로 정한다. 식 (10)에 있는 복소 적분을 세심하게 본다. 만약 $t' > t$이면 $t'/t > 1$이므로, $R \to \infty$로 두고 [그림 1]의 닫힌 경로 $c_1 + c_3$을 따라 적분한다. [그림 1]에서 닫힌 경로 내부는 극점(pole)이나 가지 자름(branch cut)이 없어서 해석적이다. 따라서 코쉬의 적분 정리에 의해 식 (10) 내부에 있는 경로 적분(contour integral)은 $0$이 된다. 마찬가지로 $t' < t$인 경우는 닫힌 경로 $c_4 + c_6$을 따라 적분해서 식 (10) 내부의 경로 적분이 $0$임을 확인한다. 다음으로 우리가 집중적으로 봐야 하는 부분은 $t' \approx t$일 때의 경로 적분이다. 식 (10)을 바탕으로 다음 복소 적분을 도입한다.

                  (11)

여기서 $\Delta$는 매우 작은 양의 실수이다. 식 (11)의 첫번째와 두번째 피적분 함수는 각각 $t' > t$, $t' < t$인 조건을 만족한다. 그래서 [그림 1]에 따라 식 (11)을 닫힌 경로 적분으로 바꾼다.

             (12)

여기서 $c_1$과 $c_4$를 위한 $\sigma$는 각각 $0^-$와 $0^+$이다. 식 (12)에 의해 우리가 아무리 작은 $\Delta$를 선택해도 항상 적분값은 $t$이다. 따라서 식 (11)에 나온 적분을 디랙 델타 함수(Dirac delta function)로 표현한다.

                  (13)

식 (13)을 식 (10)에 대입하면 최종 적분값은 $f(t)$가 나온다. 그러므로 식 (2)는 멜린 역변환이 분명하다.
함수 $f(t)$를 표현한 식 (10)과 유사하게 $F(s)$에 대해서도 멜린 변환과 역변환을 함께 적용할 수 있다. 이를 위해 식 (2)를 식 (1)에 대입해서 다음 적분을 얻는다.

                  (14)

식 (14)에 나온 거듭제곱 함수 $t^{s-u-1}$에 대한 적분을 더 세밀하게 계산한다.

                  (15)

여기서 $\Re[s]$ = $\sigma$이다. 만약  $\Re[s]$ $\ne$ $\sigma$라면, $t'$에 대한 식 (15)의 피적분 함수는 양 혹은 음의 무한대에서 발산한다. 그래서 $\sigma$는 반드시 $s$의 실수부로 택해야 한다. 식 (15)의 결과에 따라 식 (14)는 정확히 $F(s)$가 된다. 따라서 멜린 역변환 후에 멜린 변환을 하면 $F(s)$가 나와서 멜린 변환과 역변환 관계가 잘 성립함을 알 수 있다.

 
   1. 기본(basics)   

[선형 사상(linear mapping or linearity)]

                  (1.1)

여기서 $G(s)$는 $g(t)$의 멜린 변환이다.

[주파수 이동(time and frequency shifting)]

                  (1.2)

[시간 비율 조정(time scaling)]

                  (1.3)

여기서 $a > 0$이다.

[증명]
변수 $t$를 $at$로 치환하여 적분한다.

                  (1.4)
______________________________

멜린 변환에서는 시간 비율을 아무리 조정해도 멜린 변환된 함수의 전체 모양은 변하지 않는다. 다만 시간 비율을 바꾼 정도에 따라 멜린 변환의 전체 모양이 커지거나 작아질 수는 있다.

[켤레 복소수(complex conjugate)와 대칭성(symmetry)]

                  (1.6)

                  (1.7)

여기서 $(\cdot)^*$는 켤레 복소수, 식 (1.6)과 (1.7)은 각각 $f(t)$가 복소수 및 실수인 경우이다.

[미분(differentiation)]

                  (1.8)

여기서 $(x)_n$은 포흐하머 기호(Pochhammer symbol)이다.

[증명]
미분된 함수를 멜린 변환의 정의에 넣고 부분 적분(integration by parts)을 적용한다.

                  (1.9)

고계 미분에 대해서는 식 (1.8)의 첫째식을 연속적으로 $n$번 적용한다. 그러면 식 (1.8)의 둘째식이 유도된다.
______________________________

포흐하머 기호 혹은 하강 계승(falling factorial)은 다음처럼 정의한다.

                  (1.10)

또한 식 (1.8)이 성립하려면, 모든 $k$[= $1, 2, \cdots, n$]에 대해 다음 극한이 잘 정의되고 극한값은 $0$이 나와야 한다.

                  (1.11)

멜린 변환은 기본적으로 양방향 라플라스 변환이기 때문에, 멜린 변환이 존재하기 위한 조건은 대부분 아름답지 못하고 식 (1.11)처럼 다소 번잡하다.

[적분(integration)]

                  (1.12)

[증명]
식 (1.9)처럼 부분 적분(integration by parts)을 사용해서 증명한다.

                  (1.13)
______________________________

식 (1.11)과 비슷하게 식 (1.12)가 성립하려면, 다음 극한이 존재해서 $0$으로 가야 한다.

                  (1.14)

식 (1.12)에 있는 적분 구간을 조금 바꾸어서 식 (1.12)와 부호가 다른 멜린 변환을 얻을 수도 있다.

                  (1.15)


   2. 초등 함수의 변환(transform of elementary functions)   

[단위 계단 함수(unit step function)]

                  (2.1)

여기서 $\Re[s] < 0$이다.

[증명]
단위 계단 함수를 식 (1)에 대입해서 적분한다.

                  (2.2)
______________________________

[지수 함수(exponential function)]

                  (2.3)

여기서 $a > 0$이다.

[증명]
감마 함수(gamma function)의 정의를 이용해서 증명한다.

                  (2.4)
______________________________

감마 함수에 대해 멜린 역변환을 적용하면, 다음과 같은 카엥–멜린 적분(Cahen–Mellin integral)을 얻을 수 있다.

                  (2.5)

여기서 감마 함수의 극점은 $0$과 음인 정수에 위치하므로 $\sigma > 0$이 되게 택한다.

[거듭제곱 함수(power function)]

                  (2.6)

여기서 $\Re[s + \nu] < 0$이다.

[곱셈의 역수(multiplicative inverse or reciprocal)]

                  (2.7)

여기서 $B(x, y)$는 베타 함수(beta function), $0 < \Re[s] < 1$이다.

[증명]
변수 $t+1$을 $(1-u)^{-1}$로 바꾸어서 베타 함수의 정의를 사용한다.

                  (2.8)

베타 함수의 특성에 의해 조건 $\Re[s] > 0$, $\Re[1-s] > 0$을 만족해야 한다. 또한 오일러의 반사 공식(Euler's reflection formula)을 이용해 식 (2.8)을 다음과 같이 더 간단히 쓸 수 있다.

                  (2.9)
______________________________

[리만 제타 함수(Riemann zeta function)]

                  (2.10)

여기서 $\zeta(s)$는 리만 제타 함수(Riemann zeta function)이다.

[증명]
분모를 무한 급수로 전개해서 식 (2.3)을 대입한다.

                  (2.11)
______________________________

식 (2.11)에 의해 자연수에서만 의미 있는 제타 함수(zeta function)를 복소 영역에서 정의한 리만 제타 함수로 쉽게 확장할 수 있다.

                  (2.12)


   3. 길쌈(convolution)   

[곱셈의 길쌈(multiplicative convolution) 정의] [1]

                  (3.1)

[대수적 성질(algebraic properties)]

                  (3.3)

[곱셈의 길쌈 정리(multiplicative convolution theorem)]

                  (3.3)

[증명]
식 (3.1)을 식 (1)에 대입해서 정리한다.

                  (3.4)
______________________________

[파르세발의 정리(Parseval's theorem)]

                  (3.5)

여기서 $\sigma$는 $F(s)$의 기본대, $1-\sigma$는 $G(s)$의 기본대에 각각 속해야 한다.

[증명]
식 (3.5)의 우변 식에서 식 (1)을 대입해서 적분을 정리한다.

                  (3.6)
______________________________

만약 $g(t)$ = $f(t)$로 두면, 파르세발의 정리는 다음처럼 바뀐다.

                  (3.7)

함수 $f(t)$가 실수인 경우는 식 (3.7)을 더 간략화할 수 있다.

                  (3.8)


[참고문헌]
[1] A. D. Poularikas (Ed.), The Transforms and Applications Handbook, 2nd ed., Boca Raton, USA: CRC Press, 2000.
[2] H. J. Eom, "Integral transforms in electromagnetic formulation," J. Electromagn. Eng. Sci., vol. 14, no. 3, pp. 273–277, Sep. 2014.
[3] C. Mystilidis, A. Vriza. A. Kargioti. P. J. Papakanellos. X. Zheng. G. A. E. Vandenbosch, and G. Fikioris, "The Mellin transform method: electromagnetics, complex analysis, and educational potential," IEEE Antennas Propag. Mag., vol. 64, no. 5, pp. 111–119, Oct. 2022.

[다음 읽을거리]

2020년 10월 17일 토요일

분수 차원을 가진 프랙탈(Fractal with Fractional Dimension)

[경고] 아래 글을 읽지 않고 "분수 차원을 가진 프랙탈"을 보면 바보로 느껴질 수 있습니다.


[그림 1] 프랙탈 도형의 예(출처: wikipedia.org)

임의 공간의 차원(dimension)은 공간을 구성하는 독립적인 기저(basis)의 개수로 정한다. 2차원 공간에서 기저 벡터(basis vector)는 $\hat x, \hat y$ 2개라서 2차원, 3차원 공간은 $\hat x, \hat y, \hat z$로 구성해서 3차원 등과 같은 논리로 공간의 차원을 정확하게 규정할 수 있다. 조금 더 나가서 공간의 차원을 자연수가 아닌 분수로 표현할 수 있을까? 자연수를 분수로 더 확장하는 개념은 상식적이지만, 공간 차원의 분수 표현은 전혀 다른 문제가 된다. 여기서 중요한 부분은 자연수를 분수로 바꾸는 개념보다는 공간의 차원을 어떻게 비틀어야 분수 차원을 합리적으로 정의할 수 있는가이다. 자연수로 된 개념을 분수로 확장하는 문제는 어떤 분야든지 참 재미있다. 예를 들면 미분과 적분은 한 번, 두 번과 같은 자연수 기반 연산이다. 통상적인 미적분을 분수 미적분학(fractional calculus)으로 바꾸려면 연산자를 보는 새로운 관점인 연산 미적분학(operational calculus)과 같은 탁월한 개념이 필요하다.
분수 미적분학과 비슷하게 특이한 분수 차원을 만들려면 이전 벡터 공간의 특성을 포함하면서도 논란 없이 공간을 규정하는 새로운 차원 정의가 필요하다. 새로움은 옛것을 바라보는 별난 관점이기도 해서, 다음과 같은 도형의 척도(scale)와 자기 유사성(self-similarity) 관계를 생각해보자.

[그림 1] 정수 차원을 정의하기 위한 척도와 자기 유사성(출처: wikipedia.org)

[그림 1]을 보면 기본 도형을 특정 척도로 계속 줄여서 자기 유사성을 가진 도형을 만들어서 자기와 닮은 도형의 개수를 헤아린다. 1차원인 경우, 길이가 $1$인 직선을 특정 척도에 따라 줄여서 자기 유사성이 있도록 한다. 줄어든 직선이 서로 자기 유사성을 가지는 척도 $\epsilon$은 $1/2, 1/3, 1/4, \cdots$만 가능하다. 그러면 얻어지는 직선의 개수 $N$은 $2, 3, 4, \cdots$이다. 척도와 자기와 닮은 도형의 개수를 조합해서 $2$ = $(1/2)^{-1}$, $3$ = $(1/3)^{-1}$ 등을 얻을 수 있다. 2차원에서는 면적이 $1$인 사각형을 척도에 따라 줄여서 자기 유사성이 있는 사각형을 만든다. 예를 들어 $\epsilon$ = $1/2$이라면 [그림 1]에 의해 $N$ = $4$이다. 그래서 $4$ = $(1/2)^{-2}$이 된다. 이러한 개념을 공간의 차원 $D$에 대한 일반 공식으로 쓰면 다음과 같다.

                  (1)

식 (1)에서 자기와 닮은 도형의 개수 $N$은 어떤 자연수의 거듭제곱이다. 그런데 공간의 차원을 정할 때, 거듭제곱 특성을 반드시 만족할 필요가 있을까? 척도에 따라 늘어나는 닮은 도형의 개수가 자연수의 거듭제곱이 아니어도 되면, 공간의 차원은 분수나 무리수가 될 수 있다. 공간의 차원이 자연수가 아닌 공간은 프랙탈(fractal)이라 한다. 프랙탈이란 기하학적 개념은 망델브로Benoit Mandelbrot(1924–2010)가 1975년망델브로 51세, 박정희 정부 시절에 제안했다. 프랙탈의 어원은 깨진 혹은 파편화된을 뜻하는 라틴어 프락투스(fractus)이다. 이 어원에서 분수(分數, fraction)가 나오므로, 프랙탈은 분수 관계[영어에서 접미사 -al은 디지털(digital)이나 동물(animal)처럼 관계성을 표현한다.]로 직역할 수 있다. 또한 프랙탈 공간의 차원은 프랙탈 차원(fractal dimension)이라 축약해서 부른다.


   1. 곡선(curve)   

[코흐 곡선(Koch curve)]

코흐 곡선(Koch curve) 혹은 코흐 눈송이(Koch snowflake)는 연속이지만 접선이 존재하지 않는 신기한 곡선이다. 코흐 곡선의 제안자인 코흐Helge von Koch(1870–1924)적분 방정식(integral equation)의 일반 해법을 최초로 제시한 프레드홀름 적분 방정식(Fredholm integral equation)의 핵심 도구인 무한 행렬식(infinite determinant)을 연구해 박사 학위를 받았다.

[그림 1.1] 코흐 눈송이의 생성 예(출처: wikipedia.org)

코흐 곡선은 다음과 같은 간단한 절차로 만들 수 있다.
  • 현재 직선을 같은 간격으로 3등분한다.
  • 3등분 중에서 중간에 있는 직선에 정삼각형을 그린다.
  • 정삼각형의 밑변을 지운다.
  • 줄어든 직선 각각에 대해 위 과정을 계속 반복한다.
코흐 곡선은 $\epsilon$ = $1/3$할 때 $N$ = $4$개의 자기와 닮은 직선이 생긴다. 그래서 코흐 곡선의 프랙탈 차원은 $D$ = $\log(4)/\log(3)$ $\approx$ $1.26$이다. 직선과 평면 사이의 차원이지만 직선에 조금 더 가깝다. 길이가 $L$인 직선으로 코흐 곡선 만들기 과정을 $n$번 하면 전체 길이는 다음과 같다.

                  (1.1)

따라서 $n \to \infty$라면 코흐 곡선의 길이는 무한대가 된다. 또한 코흐 곡선에서 인접한 점은 항상 변하고 있어서 모든 점에서 접선을 정의할 수 없다. 이러한 코흐 곡선의 특징은 바이어슈트라스 함수(Weierstrass function)와 매우 닮아있다. 수학적으로 탄탄한 증명이 있는 바이어슈트라스 함수도 연속이지만 모든 점에서 미분 불가능이다. 바이어슈트라스 함수의 성질은 매우 수학적이어서 상상이 어렵지만, 코흐 곡선은 매우 간단한 원리로 생성이 가능해서 연속인 미분 불가능 함수를 기하학적으로 쉽게 표현할 수 있다.


   2. 표면(surface)   

[시에르핀스키 삼각형(Sierpiński triangle)]

시에르핀스키 삼각형(Sierpiński triangle) 혹은 시에르핀스키 개스킷(Sierpiński gasket)은 공간을 차지하고 있지만 면적인 $0$인 2차원 도형이다.

[그림 2.1] 시에르핀스키 삼각형의 생성 예(출처: wikipedia.org)

시에르핀스키 삼각형은 다음과 같이 생성한다.
  • 현재 정삼각형의 각 변을 2등분한다.
  • 각 변의 이등분점을 이어서 더 작은 정삼각형 4개를 만든다.
  • 중앙에 위치한 정삼각형을 지운다.
  • 줄어든 정삼각형 각각에 대해 위 과정을 계속 반복한다.
시에르핀스키 삼각형은 척도 $\epsilon$ = $1/2$가 될 때, 생성된 정삼각형의 개수 $N$은 $3$이다. 식 (1)에 대입해서 구한 프랙탈 차원은 $D$ = $\log(3)/\log(2)$ $\approx$ $1.58$이다. 코흐 곡선과는 다르게 시에르핀스키 삼각형은 2차원 평면에 더 가깝다. 하지만 시에르핀스키 삼각형의 면적은 희한한 특성이 있다. 처음 시작한 정삼각형의 면적을 $A$라 하고 생성 과정을 반복한 회수를 $n$이라 하면, 남아있는 삼각형의 면적 $A_n$은 다음과 같다.

                  (2.1)

반복 회수 $n$을 무한대로 보내면, 식 (2.1)에 의해 시에르핀스키 삼각형은 면적이 없어지게 된다. 하지만 전체 변의 길이는 면적과는 전혀 다른 특성을 보인다. 처음 정삼각형의 한 변을 $a$라 할 때, 생성을 $n$번 반복한 삼각형이 가진 전체 변의 길이 $L_n$은 다음처럼 표현된다.

                  (2.2)

따라서 시에르핀스키 삼각형은 변의 길이가 무한대로 발산하지만 면적 자체는 없는 이상한 도형이 된다. 이러한 비정상적인 도형의 특성을 자기 유사성을 바탕으로 분석하는 유용한 도구가 프랙탈이라는 개념이다.


[참고문헌]
[1] J. Cepelewicz, "The quest to decode the Mandelbrot set, math’s famed fractal," Quanta Magazine, Jan. 2024. (방문일 2024-02-01)

2020년 10월 15일 목요일

바이어슈트라스 함수(Weierstrass Function)

[경고] 아래 글을 읽지 않고 "바이어슈트라스 함수"를 보면 바보로 느껴질 수 있습니다.


[그림 1] 바이어슈트라스 함수의 생성 예(출처: wikipedia.org)

함수의 연속성(continuity)미분 가능성(differentiability)의 차이는 고등학생 수준의 지식만 있어도 충분히 이해할 수 있다. 예를 들어 절대값(absolute value) 함수 $|x|$는 연속이지만 $x$ = $0$에서는 미분이 불가능하다.

[그림 2] 절대값 함수의 변화(출처: wikipedia.org)

그래서 연속성이 더 큰 개념이고 미분 가능성은 함수가 연속이 되기 위한 충분 조건일 뿐이라고 확언할 수 있다. 하지만 이런 수준의 결과에 만족하면, 우리의 사고가 정지해서 더 전진할 수가 없다. 사소한 부분에도 고민이 많은 수학자가 되어보자. 수학자는 한 점에서의 미분 불가능성에 만족해서 물러나지 않는다. 예를 들어 조각마다 미분 가능(piecewise differentiability)이란 개념을 만들어서 [그림 2]처럼 $x$ = $0$에 있는 미분 불가능점을 제외해본다. 그러면 연속성과 미분 가능성은 동등하다 혹은 같다고 주장할 수도 있다. 조각마다 미분 가능에 대한 추론이 정말 맞을까? 이 질문에 답하기 위해 미분 불가능점을 제거해도 소용이 없는 방법을 고안해야 한다. 특정 구간에서는 연속이지만 구간 내에서 항상 미분이 불가능한 함수를 꼭 찾아서 반론을 제기해야 한다. 문제의 해결책이 보이지 않을 때는 우리 관점을 약간 바꾸어서 관조할 필요도 있다. 함수 연속성의 반대인 불연속을 생각해보자. 푸리에 급수(Fourier series)는 매우 독특한 성질이 있다. 상식적인 관점에서 연속인 삼각 함수를 무한 번 더하더라도 결과는 연속 함수가 되어야 정상이다. 하지만 어떤 경우에는 연속 함수로 구성한 푸리에 급수의 합이 불연속 함수를 표현할 수도 있었다. 처음에는 불연속 함수를 표현하는 푸리에 급수가 틀렸다고 오판했다. 하지만 뚝심있는 푸리에Joseph Fourier(1768–1830) 덕분에 푸리에 급수는 수학적 상상력을 폭발시킨 발화점이 되었다. 잘 보면 푸리에 급수가 연속과 불연속을 표현할 수 있기 때문에, 불연속과 밀접한 관계가 있는 함수의 미분 불가능성도 푸리에 급수로 풀 수 있을지도 모른다. 그래서 푸리에 급수와 같은 무한 급수(infinite series)를 이용해서 함수의 연속성과 미분 가능성을 심도있게 연구하게 되었다. 즉 모든 점에서 연속인 미분 불가능 함수(continuous non-differentiable function)를 찾으려 리만Bernhard Riemann(1826–1866)을 포함한 여러 수학자가 노력하였다[2]. 수학의 영웅 중 한 명인 리만은 다음과 같은 푸리에 급수를 고민했다.

                  (1)

무한 급수 $\sum_{n = 1}^\infty 1/n^2$은 절대 수렴(absolute convergence)하기 때문에 식 (1)도 절대 수렴한다. 또한 사인 함수는 $|\sin(x)|$ $\le$ $1$을 만족하므로, 바이어슈트라스 $M$판정(Weierstrass $M$-test)에 의해 식 (1)은 균등 수렴(uniform convergence)한다. 즉 식 (1)에 나온 $f(x)$는 매우 잘 정의되는 연속 함수이다. 다음 단계로 $f(x)$를 미분해보자. 함수 $f(x)$의 미분이 항별 미분과 같을지는 잘 모르지만, 대충 항 별로 미분하면 다음 결과를 얻는다.

                  (2)

식 (2)의 부분 합은 항을 더함에 따라 계속 진동하므로, 식 (2)는 수렴하지 않는다. 하지만 이와 같은 논증에는 약간의 문제가 있다. 식 (2)는 식 (1)의 미분 $df(x)/dx$인지 증명되지 않았고, 식 (2)의 부분합은 분명 진동하지만 유계인지 무한대로 발산하는지도 모호하다. 이런 너저분한 상황을 깔끔하게 정리하는 사람이 진정한 수학자이다. 바이어슈트라스Karl Weierstrass(1815–1897)는 1872년바이어슈트라스 57세, 조선 고종 시절에 다음과 같은 바이어슈트라스 함수(Weierstrass function) $W(x)$를 발표하여 연속성과 미분 불가능성 개념을 확실히 정립했다.

                  (3)

식 (1)과 마찬가지로 바이어슈트라스 함수는 절대 수렴하고 바이어슈트라스 $M$판정에 의해 균등 수렴도 한다. 즉 바이어슈트라스 함수도 전영역에서 연속이다. 연속성은 쉽게 유도했지만, $W(x)$의 미분은 절대 쉽지 않다. 일단 항별 미분의 합이 균등 수렴하는지 알 수 없기 때문에, 기본으로 돌아가서 다음과 같은 무한 급수에 대한 기울기 정의를 이용해 미분한다.

                  (4)

좌극한과 우극한을 따로 구하기 위해 임의의 고정점 $x$ = $x_0$를 이용해 $\alpha_m$과 $\beta_m$을 각각 정의한다[1].

                  (5)

여기서 $m$은 자연수, 정수인 $k_m$은 $\chi_m$이 구간 $(-1/2, 1/2]$ 사이에 있도록 정한다. 식 (5)에 의해 $\alpha_m$과 $\beta_m$은 $x_0$의 왼쪽과 오른쪽에 각각 위치한다.

                  (6)

식 (6)에 의해 $m$을 계속 키우면, 간격 $\beta_m - \alpha_m$ = $1/b^m$은 $0$으로 수렴해서 $x_0$에 접근시킬 수 있다. 다음 단계로 변수 $\alpha_m$을 이용해 $W(x_0)$의 왼쪽 기울기를 구한다.

                  (7)

유한 급수 $S_1$과 무한 급수 $S_2$는 특성이 서로 달라서 각각 최종 합을 유도한다. 먼저 삼각 함수의 합차 공식을 이용해서 $|S_1|$의 한계를 정한다.

                  (8)

무한 급수 $S_2$를 계산하기 위해 다음 항을 미리 계산한다.

                  (9)

                  (10)

식 (9)와 (10)을 $S_2$에 대입해서 정리한다.

                  (11)

식 (11)에 있는 무한 급수의 항은 항상 $0$보다 크기 때문에, 무한 급수는 초항보다 항상 크거나 같다.

                  (12)

여기서 식 (5)에 의해 $\chi_m$은 $(-1/2, 1/2]$ 범위에 있다. 식 (8), (11), (12)를 합쳐서 왼쪽 기울기의 변화를 얻는다.

                  (13)

여기서 $S_2$와 관계된 $A$는 $A \ge 1$, $S_1$을 위한 $\epsilon_s$는 $(-1, 1)$ 사이에 있다. 식 (13)에 있는 $A + \epsilon_s$는 항상 $0$보다 커서 왼쪽 기울기의 부호는 $k_m$이 결정한다. 또한 $m \to \infty$로 보내면 왼쪽 기울기의 크기는 발산한다. 비슷한 방법으로 $x$ = $x_0$에서 오른쪽 기울기를 계산한다.

                  (14)

유한 급수 $T_1$과 무한 급수 $T_2$의 한계는 다음과 같다.

                  (15)

                  (16)

따라서 오른쪽 기울기가 가진 성질을 다음처럼 표현할 수 있다.

                  (17)

여기서 $B > 1$, $\epsilon_t \in (-1, 1)$, $B + \epsilon_t > 0$이다. 식 (17)에서 $m$이 커지면, 오른쪽 기울기의 크기는 발산하고 부호는 왼쪽 기울기와 반대가 된다. 따라서 $x$ = $x_0$에서 미분이 불가능하다. 결국 $x_0$는 임의의 점이 될 수 있어서 바이어슈트라스 함수 $W(x)$는 모든 점에서 미분이 불가능하다.
어떻게 상상하면 바이어슈트라스 함수를 쉽게 이해할 수 있을까? 이 함수는 모든 점에서 연속이기 때문에, $x$가 정해지면 $y$ = $W(x)$를 결정할 수 있다. 만약 2차원 평면에 점을 찍으면 곡선 $(x, y)$는 정확하게 결정된다. 하지만 점 $x$의 근방은 절대 결정할 수 없다. 주변이 무한대의 빠르기로 변하기 때문이다. 이런 곡선이 실제로 존재할 수 있을까? 점의 궤적은 정확히 존재하지만 모양이 부드럽지 않고 한없이 뾰족한 곡선이 있다. 바로 분수 차원(fractional dimension)을 가진 프랙탈(fractal) 도형이다.

[그림 3] 바이어슈트라스 함수의 자기 유사성(출처: wikipedia.org)

프랙탈이 강조하는 자기 유사성(self-similarity)을 이용해 [그림 3]처럼 바이어슈트라스 함수 $W(x)$를 관찰할 수도 있다. 자기 유사성은 식 (7)에 제시한 $W(x)$의 미분 불가능 증명에도 적극적으로 활용하고 있다. 자기 유사성을 증명하기 위해 원래보다 구간을 $1/b^m$만큼 줄여서 $W(x)$를 다시 써본다.

                  (18)

식 (18)에 의해 바이어슈트라스 함수 $W(x)$는 크기가 $a^m$만큼 작고 척도(scale)가 $1/b^m$만큼 줄어든 자신과 닮은 $W(u)$를 포함하고 있다. 이뿐만 아니라 자연수 $m$은 임의로 선택할 수 있어서 $W(x)$는 자기 유사성이 있는 함수를 무한개 가지고 있다.

[참고문헌]
[1] J. Thim, Continuous Nowhere Differentiable Functions, Master Thesis, Luleå University of Technology, Sweden, 2003.
[2] G. H. Hardy, "Weierstrass's non-differentiable function," Trans. Am. Math. Soc., vol. 17, no. 3, pp. 301–325, Jul. 1916.

[다음 읽을거리]