테일러 급수(級數, Taylor Series)

[경고] 아래 글을 읽지 않고 "테일러 급수"를 보면 바보로 느껴질 수 있습니다.
1. 극한과 연속성의 의미
2. 미분법의 의미
3. 적분법의 의미
4. 무한 급수

[그림 1] 함수 $\exp(x)$의 테일러 급수 전개(출처: wikipedia.org)

공학 분야에서 테일러 급수(Taylor series)는 약방의 감초처럼 쓰임새가 많은 무한 급수이다. 테일러 급수의 발견자는 당연히 테일러Brook Taylor(1685–1731)이다. 테일러는 1715년테일러 30세, 조선 숙종 시절에 연속 함수를 멱급수(冪級數, power series)로 전개할 수 있는 일반화된 방법론인 테일러 급수를 제안했다[2]. 테일러 이전에 뉴턴Isaac Newton(1643–1727)이 뉴턴 보간(Newton interpolation)을 바탕으로 테일러 급수와 비슷한 급수를 만든 적은 있지만[2], 테일러에 이르러서야 테일러 급수 개념이 명확해졌다. 다만 테일러도 고백하듯이, 뉴턴이 제안한 뉴턴 보간이 테일러 급수의 출발점이었다. 인류 역사상 최고의 천재 뉴턴이 그 이름값을 하는 지점 중의 하나가 테일러 급수이다.

예를 들어, [그림 1]에 제시한 지수 함수 $\exp(x)$의 테일러 급수 전개를 본다. 파란색은 $\exp(x)$의 함수값이며 빨간색은 급수 전개를 하여 오차를 줄여가는 과정을 보여준다. 즉, 식 (1)과 같은 테일러 급수를 사용하는 이유는 복잡한 함수의 특성 자체를 고려하지 않고 멱급수만 계산해서 함수값을 손쉽게 얻을 수 있기 때문이다. 점 $x$ = $a$에서 무한 번 미분 가능한 함수 $f(x)$는 다음과 같은 테일러 급수로 표현할 수 있다. 식 (1)의 좌변과 우변이 서로 같다는 결과는 한 눈에 이해되지 않는다. 우리 마음속으로 깊이 수긍하기 위해 식 (1)을 미분법과 적분법으로 확실하게 증명한다.

[테일러 급수(Taylor series)]

               (1)

여기서 $f^{(n)}$은 함수 $f(x)$를 $n$번 미분한 고계 미분(higer order differentiation)을 의미한다.

[증명: 미분법]

함수 $f(x)$의 미분이 $x$ = $0$에서 존재한다고 하면 극한의 정의에서 식 (2)가 반드시 성립해야 한다.

                         (2)

식 (2)의 둘째줄은 $f(x)$를 미분값으로 근사할 수 있으며 그 최대 오차는 $x$가 0에서 멀어지면 선형적으로 커질 수 있음을 의미한다. 따라서, 식 (2)의 관계를 식 (3)으로 표현할 수 있다.

                         (3)

여기서 $R_1(x)$는 오차를 표현하는 잉여항(剩餘項, remainder term)이다. 2계 미분(the second order differentiation)도 존재한다면, 식 (2), (3)과 유사하게 식 (4), (5)를 얻을 수 있다.

                         (4)

                         (5)

식 (3)을 미분해서 식 (5)와 비교하면 $R_1(x)$를 $R_2(x)$로 표현할 수 있다.

                         (6)

이 과정을 계속 반복하면 $x$ = $0$에 대한 테일러 급수를 얻을 수 있다. $a$ = $0$인 경우는 매클로린 급수(Maclaurin series)라고도 한다. 식 (1)에 있는 $x$ = $a$에 대한 급수 전개는 좌표 변환을 통해 쉽게 증명할 수 있다.

[증명: 적분법]

미분적분학의 기본 정리에 의해 식 (7)이 성립한다.

                         (7)

식 (7)을 이항한 후 부분 적분을 하면 식 (8)의 관계식을 얻을 수 있다.

                         (8)

식 (8)의 셋째줄을 유도할 때 식 (9)를 사용한다.

                         (9)

이 과정을 계속 반복하면 식 (10)을 얻을 수 있다.

                         (10)

여기서 $R_n(x)$는 다음처럼 정확히 표현할 수 있다.

                          (11)

오차를 표현하는 식 (11)과 같은 잉여항은 제$n$차 라그랑주의 잉여항(剩餘項, Lagrange form of the remainder term)이라 부른다.
______________________________

기초적인 sin, cos, tan, exp, log와 같은 함수는 컴퓨터로 쉽게 계산할 수 있지만 내가 직접 함수값을 얻고자 하면 접근법이 잘 생각나지 않는다. 이때 식 (1)의 우변에 제시한 멱급수와 $x$ = $a$에서 미분값을 곱해서 함수값인 식 (1)의 좌변값을 결정한다.

라그랑주의 잉여항이 중요한 이유는 테일러 급수의 오차를 표현하기 때문이다. 사실 $f(x)$를 테일러 급수로 전개하기 위해서는 $n$이 커질 때 오차인 라그랑주의 잉여항이 계속 줄어서 $0$으로 가야 한다.[$\lim_{n \to \infty} R_n(x)$ = $0$] 그러면 $f(x)$를 테일러 급수 전개로 완벽히 표현할 수 있다. 적분형 평균값의 정리를 이용하면, $f(x)$와 테일러 급수의 최대 오차를 예측할 수 있다. 적분형 평균값의 정리는 어떤 함수의 적분값[$\int_a^b f(t)\,dt$]과 함수값[$f(t)(b-a)$]과 동일한 어떤 점[$t$ = $c$]이 반드시 존재함을 보장한다. 적분형 평균값의 정리[$\int_0^x f(t)g(t)~dt$ = $f(c) \int_0^x g(t)\,dt$]에 따르면 적당한 $t$ = $c$에 대해  식 (11)은 좀더 단순화된 식 (12)로 표현할 수 있다.

                         (12)

여기서 $f(t) \to f^{(n+1)}(t)$, $g(t) \to (x-t)^n/n!$로 바꾸었다. 만약 $n+1$차 미분의 최대값을 $M$이라 하면 식 (1)에 제시한 테일러 급수의 최대 오차는 식 (13)으로 결정된다.

                         (13)

그런데 테일러 급수는 만능인가? 예를 들어, [그림 2]에 있는 $f(x)$ = $\exp(-1/x^2)$를 고려한다. 이 함수는 $x$ = $0$에서 연속이 아니므로 $f(0)$ = $0$으로 두어 연속이 되게 한다.

[그림 2] 함수 $\exp(-1/x^2)$의 변화 모양(출처: wikipedia.org)

[그림 2]의 함수 $f(x)$를 $x$ = $0$ 근방에서 미분하면 항상 그 값은 식 (14)로 표현할 수 있다.

                           (14)

여기서 $Q(x)$는 유한 차수를 가진 분수식(分數式, fractional expression)이다. $x \to 0$일 때, 유한 차수를 가진 $Q(x)$보다 빠르게 지수 함수가 $0$으로 가므로, $x$ = $0$ 근방에서 식 (14)는 항상 $0$으로 간다. 이 결과[$f^{(n)}(x \to 0)$ = $0$]를 식 (1)에 대입하여 테일러 급수로 전개하면, $f(x) = 0$이 얻어진다. 하지만 [그림 2]에서 보듯이 원래의 $f(x)$는 $x$ = $0$ 이외에서는 $0$이 될 수 없다. 테일러 급수에는 설명할 수 없는 무언가 문제되는 부분이 있다.[∵ 테일러 급수 관점으로 보면 특정점에서 미분해서 그 값이 항상 $0$이면 함수 전체가 $0$이 된다. 하지만 식 (14)를 고려하면 이는 항상 참이 되지는 않는다.] 식 (10)에 있는 라그랑주의 잉여항 관점으로 보면, 우리가 아무리 미분하더라도 오차를 줄일 수 없고 $f(x)$ = $R_n(x)$가 되는 황당한 상황이 발생한다. 이런 경우는 식 (1)의 테일러 급수 전개에 대한 예외로 처리해야 한다. 테일러 급수에 대한 이런 문제점은 정의역(定義域, domain)을 실수가 아닌 복소수(complex number)로 확장하면 명확하게 풀 수 있다. 실수 영역에서는 문제점을 확인할 길이 없지만 복소수에서는 이 부분이 확연히 드러난다. 즉, 실수만으로 함수를 구성하면 도저히 해결할 수 없는 허점이 테일러 급수에 나타나게 된다. 이 개념을 제대로 이해하려면 복소 함수론(complex analysis)의 로랑 급수(Laurent series)를 도입해야 한다. 이런 이유로 코쉬가 해석 함수(解析函數, analytic function)에 대한 이론을 발전시켰다.

[그림 3] 정사면체의 회전 모습(출처: wikipedia.org)

식 (1)에 있는 멱급수의 개별 항은 아래처럼 공식화할 수 있다.

                           (15)

식 (15)를 기하학적으로 생각하면, $n$ = $1$일 때는 선의 길이(0에서 $x$까지 길이)이며, $n$ = $2$ 경우는 [삼각형의] 면적, $n$ = $3$은 [사면체(四面體, tetrahedron)의] 부피, 임의의 $n$일 때는 $n$차원의 부피이다. 그런데 각 차원이 서로 종속되어 있으므로, $n$차원 부피를 계산할 때는 분모에 계승(階乘, factorial)이 나타난다. 더 세밀한 관점에서 식 (15)는 유명한 $n$차원 단체(單體, n-simplex)의 부피 공식이다. 테일러 급수는 항의 수가 무한개인 무한 급수이므로 실제로 사용할 때는 급수의 수렴성을 판정해서 사용해야 한다. 수렴 판정법 중에서 가장 쉬운 비율 판정(ratio test)을 이용해서 테일러 급수의 수렴을 판단한다.

             (16)

만약 $n$이 증가할 때 미분 계수가 커지지 않는다면 테일러 급수는 절대 수렴(absolutely convergent)하게 된다. 즉, 어느 영역에서나 수렴성을 보장받으면서 사용할 수 있다는 뜻이다. 아래 식 (2.1)–(2.3)이 바로 테일러 급수가 절대 수렴하는 경우이다. 식 (2.4)에 있는 멱함수(power function)는 지수 $r$에 따라 절대 수렴하기도 하고 조건 수렴(conditionally convergent)하기도 한다.

   1. 기본(basics)   

[우함수와 기함수]

우함수 $f_e (x)$와 기함수 $f_o (x)$의 테일러 급수는 각각 짝수와 홀수 차수로 전개된다.

                  (1.1)

[증명: 우함수와 기함수의 정의]

우함수(偶函數, even function)의 정의에 따라 $f(-x)$ = $f(x)$가 성립하므로, $(-x)^m$ = $x^m$인 항은 남기고 $(-x)^m$ = $-x^m$인 계수는 모두 $0$이 되게 한다. 마찬가지로 기함수(奇函數, odd function)의 성질 $f(-x)$ = $-f(x)$를 이용해서 $(-x)^m$ = $x^m$인 항을 없앤다.

[증명: 미분법]

우함수 $f_e (x)$를 한번 미분하면 기함수 특성을 가져서 $f_e^{(1)}(0)$ = $0$이다. 그래서 $f_e (x)$를 전개한 테일러 급수의 항중에서 $b_1$ = $0$이 된다. 마찬가지로 $f_e^{(3)}(0)$ = $0$이므로 $b_3$ = $0$을 얻는다. 이런 과정을 계속 반복하면 모든 홀수 계수 $b_{2n+1}$도 자연스럽게 $0$이다. 기함수에 대해서도 동일한 과정을 적용해서 모든 짝수 계수 $b_{2n}$은 $0$임을 증명한다.

______________________________

[테일러 급수의 다양성]

실수 영역에서 서로 다른 두 함수의 테일러 급수가 같을 수 있다.

[증명]

어떤 함수 $f(x)$의 테일러 급수 전개를 $f(x)$ = $\sum_{n=0}^\infty a_n x^n$이라 한다. 또 다른 함수 $g(x)$의 무한 급수는 $g(x)$ = $\sum_{n=0}^\infty b_n x^n$로 둔다. 두 식을 빼주면, 당연히 $f(x) - g(x)$ = $\sum_{n=0}^\infty (a_n-b_n) x^n$이 나온다. 만약 두 함수의 차 $f(x) - g(x)$가 [그림 2]에 나온 $\exp(-1/x^2)$이라면, $x$ = $0$에서 $\exp(-1/x^2)$의 테일러 급수는 $0$이라서 $a_n$ = $b_n$인 결과가 나온다. 따라서 테일러 급수의 계수가 같다고 원래 함수가 같다는 보장이 없다.

______________________________

함수값이 $0$이 아닌데도 식 (14)처럼 테일러 급수는 $0$이 나오는 경우가 생기므로, 무한 급수 전개를 일반화할 때는 정의역을 실수 영역이 아닌 복소수 영역으로 꼭 확장한다.

   2. 기초 초등 함수(basic elementary function)의 전개식   

테일러 급수인 식 (1)을 이용해서 함수에 대한 무한 급수 전개식을 아래와 같이 얻을 수 있다.

                         (2.1: 오일러의 수)

                         (2.2: 삼각 함수의 합차 공식)

                         (2.3: 삼각 함수의 합차 공식)

식 (2.2)와 (2.3)은 뉴턴Isaac Newton(1643–1727)이 1670년뉴턴 27세, 조선 현종 시절에 발견했다. 하지만 이 무한 급수의 최초 발견자는 뉴턴이 아니라고 믿고 있다. 약 1400년경마드하바 50세 무렵, 조선 태종 시절에 인도 수학자인 마드하바Madhava of Sangamagrama(대략 1350–1425)는 매우 정확한 각도별 사인 표를 계산했다. 후대 서술을 참고하면, 마드하바가 만든 사인 표(Madhava's sine table)는 식 (2.2)와 (2.3)과 같은 멱급수 전개가 이용되었음이 분명하다. 따라서 식 (2.2)와 (2.3)은 뉴턴 이전에 마드하바가 먼저 유도했다고 생각한다.

[멱함수(power function)]

         (2.4: 뉴턴의 이항 정리)

여기서 수렴 구간은 $|x| < 1$, 무한 급수에 많이 나오는 포흐하머 기호(Pochhammer symbol) 혹은 하강 계승(falling factorial)은 $(r)_k$ = $r (r-1) (r-2) \cdots (r-k+1)$로 정의한다.

              (2.5)

              (2.6)

여기서 식 (2.4)에 의해 수렴 구간은 당연히 $|x| < 1$, $(\cdot)!!$은 이중 계승(double factorial)이다. 

[증명]

식 (2.4)에 각각 $r$ = $1/2$과 $-1/2$을 대입하고 이중 계승을 도입해서 표현식을 간략화한다. 

______________________________

   3. 로그 함수의 전개식   

        (3.1a: 조화 급수)

                        (3.1b: 뉴턴–메르카토르 급수)

                     (3.2)

여기서 수렴 구간은 $|x| < 1$이며 $(1+x)/(1-x) > 0$이 성립한다.

[증명]

식 (3.1)의 $x$에 $-x$를 대입하여 $-\log(1+x)$를 얻고 이 식을 (2.5)와 빼주면 증명된다. 

______________________________

만약 $|x| < 1$이면 $y$ = $(1+x)/(1-x)$는 항상 0보다 크기 때문에, $x$ = $(y-1)/(y+1)$을 대입하면 식 (3.2)는 $y > 0$인 모든 로그 함수를 계산할 수 있다.

                     (3.3)

[증명]

식 (3.1)에 크기가 1보다 작은 복소수인 $r e^{ix}$를 대입해서 식 (3.3)을 구한다.

______________________________

다만 식 (3.3)을 엄밀하게 유도하고 싶으면, 복수 함수론(complex analysis) 기반의 로랑 급수(Laurent series)를 도입해야 한다.

                     (3.4)

[증명]

식 (3.3)의 실수부(real part)를 택하면 식 (3.4)가 증명된다.

______________________________

식 (3.4)의 우변에 코사인 함수 $\cos(nx)$가 항인 무한 급수의 결과처럼 사인 함수 $\sin(nx)$로 만드는 무한 급수는 식 (3.3)에 허수부(imaginary part)를 선택해서 얻는다. 아예 푸리에 급수(Fourier series)를 바로 적용해서, 사인 함수로 구성해서 닫힌 함수 $f(x)$로 수렴값이 나오는 무한 합의 관계식 더욱 간단하게 유도할 수도 있다.

                     (3.5)

[증명]

식 (3.4)에서 $r \to 1$인 극한을 취해서 식 (3.5)을 획득한다.

______________________________

                     (3.6)

[증명]

단순하게 식 (3.5)에 있는 $x$에 $x + \pi$를 대입함으로써 식 (3.6)를 구한다.

______________________________

   4. 다변수 테일러 급수(multivariate Taylor series)   

테일러 급수를 다차원 혹은 다변수로 확장할 때는 매개변수를 이용한다. 먼저 기초가 되는 개념은 다차원 입력 변수에 대한 함수의 미분이다. 예를 들어, 3차원 입력 변수에 대한 함수 $f$의 미분은 다음처럼 표현된다.

                  (4.1)

여기서 $t$는 매개변수, $\bar r(t)$ = $(x(t), y(t), z(t))$, $\bar \nabla f$는 구배(gradient)이다. 다변수 테일러 급수(multivariate Taylor series)를 얻기 위해, 식 (4.1)에 바탕을 두고 매개변수 $t$에 대해 함수 $f$를 테일러 급수로 전개한다[1].

                     (4.2)

여기서 $\bar x$ = $(x_1, x_2, \cdots, x_m)$, $\bar a$ = $(a_1, a_2, \cdots, a_m)$, 벡터 $\bar x$와 $\bar a$는 $t$의 함수가 아니다. 또한 $\bar \nabla$는 $t$에 대한 미분에서 유도되므로, $\bar x$와 $\bar a$는 $\bar \nabla$에 대해 상수로 작용한다. 다음 단계로 식 (4.2)에 $t$ = $1$을 대입해서 $f$의 입력 변수를 $\bar x$로 간략화한다.

                  (4.3)

따라서 식 (4.3)을 깔끔하게 표현하면 $f(x_1, x_2, \cdots, x_m)$에 대한 새로운 다변수 테일러 급수가 된다.

             (4.4)

식 (4.3)에서 함수 근사를 위해 2차 항까지만 사용해서 다시 정리해본다.

                  (4.5)

여기서 $\Delta \bar x$ = $\bar x - \bar a$이다. 식 (4.5)를 열 벡터(column vector)와 행렬(matrix)로 다시 쓴다.

                  (4.6)

여기서 $\bf a$, $\Delta {\bf x}$는 열 벡터, $\bar \nabla f({\bf a})$는 행 벡터(row vector), ${\bf H}({\bf a})$는 벡터 $\bf a$에서 계산한 헤세 행렬(Hessian matrix)이다. 미분하는 함수 $f$를 강조해서 ${\bf H}({\bf a})$ 대신 ${\bf H}_f({\bf a})$ 혹은 ${\bf H}_f$를 쓰기도 한다. 헤세 행렬은 식 (4.5)에 있는 2차 항의 편미분을 행렬 형태로 정리해서 생성한다.

                  (4.7: 2차 형식)

                 (4.8: 헤세 행렬)

헤세 행렬은 2계 미분의 다차원 일반화 혹은 구배의 야코비 행렬(Jacobi matrix)로 생각할 수 있다. 다변수 함수의 곡률(curvature)과 관계된 헤세 행렬은 수학자 헤세Ludwig Otto Hesse(1811–1874)가 제안했다. 식 (4.7)은 행렬 관점에서 2차 형식(quadratic form)이 된다. 헤세 행렬이 양의 정부호 행렬(positive definite matrix)이라면, 2차 형식인 식 (4.7)은 항상 0보다 크다.

[참고문헌]

[1] G. B. Folland, "Higher-order derivatives and Taylor’s formula in several variables," University of Washington, USA. (방문일 2021-02-07)

[2] 김성옥, "Taylor 정리의 역사적 고찰과 교수방안", 한국수학사학회지, 제31권, 제1호, pp. 19–35, 2018년 2월.

[다음 읽을거리]

1. 복소수

2. 아름다운 숫자, 오일러의 수

3. 조화 급수와 오일러–마스케로니 상수

4. 삼각 함수의 합차 공식

5. 오일러–매클로린 공식

6. 시컨트 수와 오일러 수

7. 다항 함수 보간

8. 볼록과 오목 함수