양의 정부호 함수(陽의 正符號函數, Positive Definite Function)

[경고] 아래 글을 읽지 않고 "양의 정부호 함수"를 보면 바보로 느껴질 수 있습니다.

1. 양의 정부호 행렬

2. 푸리에 변환

행렬 응용에 매우 중요한 양의 정부호 행렬(positive definite matrix) 개념에 바탕을 두고 함수용 2차 형식(quadratic form)의 부호를 항상 양으로 만드는 함수를 양의 정부호 함수(陽의 正符號函數, positive definite function)라고 한다. 양의 정부호 행렬과 거의 비슷하게 양의 정부호 함수 $\varphi (\mathbf{x})$를 다음과 같이 정의한다.

                  (1)

여기서 ${\mathbf{x}}_i$는 $i$번째 $n$차원 실수 벡터(real vector), ${\mathbf{x}}_i$는 서로 다른 구별 가능한 벡터, $\varphi (\mathbf{x})$는 ${\mathbb{R}}^n\to \mathbb{C}$인 복소 함수(complex function), $c_i$는 임의의 복소 상수(complex constant)이다. 식 (1)의 정의에 의해, 양의 정부호 함수 $\varphi (\mathbf{x})$는 $0$이 아닌 임의의 복소 상수 $c_i$를 2차 형식대로 곱하더라도 합한 결과는 항상 $0$보다 크다. 특히 $\mathbf{c}$ = $\mathbf{0}$인 경우에만 2차 형식이 $0$이 되는 양의 정부호 함수를 엄격한 양의 정부호 함수(strictly positive definite function)라고 한다. 여기서 $\mathbf{c}$는 $(c_1,c_2,\cdots ,c_n)$인 $n$차원 상수 벡터이다. 다만 양의 정부호 함수의 정의 자체가 $0$이 아닌 $c_i$를 가정하고 있어서 엄격한 양의 정부호 함수는 이미 정의한 양의 정부호 함수와 동일하다. 고정된 함수값 $\varphi ({\mathbf{x}}_i-{\mathbf{x}}_j)$를 행렬 원소 ${\varphi }_{ij}$로 가지는 행렬을 $\mathbf{\Phi }$라 한다. 그러면 식 (1)은 다음과 같은 행렬 곱으로 표현할 수 있다.

                  (2)

여기서 $\mathbf{c}$는 복소 열 벡터(complex column vector), $\mathbf{\Phi }$ = $[{\varphi }_{ij}]$ = $[\varphi ({\mathbf{x}}_i-{\mathbf{x}}_j)]$이다. 식 (2)의 결과는 양의 정부호 행렬의 정의이므로, 양의 정부호 함수로 만든 행렬은 자동적으로 양의 정부호 행렬이 된다. 다만 $\mathbf{\Phi }$는 꼭 에르미트 행렬(Hermitian matrix)이어야 하므로 양의 정부호 함수는 다음과 같은 특성을 가져야 한다. 임의의 복소 상수에 대해 식 (1)이 성립한다는 정의로부터 양의 정부호 함수 $\varphi (\mathbf{x})$가 가진 성질을 유도한다.

[양의 정부호 함수의 성질] [1]

(a) $\varphi (\mathbf{0})>0$

(b) $\varphi (-\mathbf{x})$ = ${\varphi }^{\ast }(\mathbf{x})$

(c) $\varphi (\mathbf{0})>|\varphi (\mathbf{x})|$

(d) $\varphi (\mathbf{0})$ $\ne$ $0$

(e) 양의 정부호 함수 ${\varphi }_i(\mathbf{x})$의 선형 결합 $\sum _{i=1}^m{a}_i{\varphi }_i(\mathbf{x})$도 양의 정부호 함수가 된다. 여기서 $a_i>0$이다.

여기서 $\mathbf{0}$ = ${\mathbf{x}}_i-{\mathbf{x}}_i$ = $(0,0,\cdots ,0)$이다.

[명제 (a)의 증명]

벡터 $\mathbf{c}$를 1차원이라 가정하면, $|c_1{|}^2\varphi (\mathbf{0})>0$이 되어야 하므로 $\varphi (\mathbf{0})$는 실수이면서 $0$보다 커야 한다.

[명제 (b)의 증명]

이번에는 $\mathbf{c}$를 2차원이라 생각해서 식 (1)을 정리한다. 

                  (3)

여기서 $\mathbf{x}$ = ${\mathbf{x}}_1-{\mathbf{x}}_2$이다. 식 (3)에 나온 $c$는 아무거나 될 수 있으므로, 식 (3)에 $c$ = $1$을 대입하고 전체 결과가 실수라고 생각하면 $\mathrm{\Im }[\varphi (-\mathbf{x})]$ = $-\mathrm{\Im }[\varphi (\mathbf{x})]$가 나온다. 또한 $c$ = $i$인 경우는 $\mathrm{\Re }[\varphi (-\mathbf{x})]$ = $\mathrm{\Re }[\varphi (\mathbf{x})]$이다. 이 두 조건을 합하면, $\varphi (-\mathbf{x})$는 반드시 $\varphi (\mathbf{x})$의 켤레 복소수가 되어야 한다.

[명제 (c)의 증명]

명제 (b)를 이용해서 2차원 벡터 $\mathbf{c}$가 만드는 식 (1)의 조건을 확인한다.

                  (3)

여기서 $\mathbf{x}$ = ${\mathbf{x}}_1-{\mathbf{x}}_2$, $c$ = $\varphi (\mathbf{x})$, $c_1$ = $|c|$, $c_2$ = $-c^{\ast }$로 둔다. 그러면 $\mathbf{x}\ne \mathbf{0}$인 경우는 $\varphi (\mathbf{0})>|\varphi (\mathbf{x})|$인 결과를 얻는다.

[명제 (d)의 증명]

만약 $\varphi (\mathbf{0})$ = $0$이면 명제 (c)가 성립할 수 없으므로, $\varphi (\mathbf{0})$은 $0$이 될 수 없다.

[명제 (e)의 증명]

선형 결합한 함수 $\sum _{i=1}^m{a}_i{\varphi }_i(\mathbf{x})$를 식 (1)에 대입하면, 전체 결과는 항상 $0$보다 크다.

______________________________

명제 (b)에 의해 $\varphi (\mathbf{x})$로 만든 행렬 $\mathbf{\Phi }$는 에르미트 행렬이 저절로 된다. 즉, $i,j$를 바꾼 원소 ${\varphi }_{ji}$ = $\varphi ({\mathbf{x}}_j-{\mathbf{x}}_i)$는 ${\varphi }_{ij}^{\ast }$ = ${\varphi }^{\ast }({\mathbf{x}}_i-{\mathbf{x}}_j)$이므로, 에르미트 행렬 원소의 조건을 정확히 만족한다.

양의 정부호 함수 $\varphi (\mathbf{x})$를 이용해서 생성한 행렬 $\mathbf{\Phi }$는 $n$차원 공간에 존재하는 두 점 ${\mathbf{x}}_i,{\mathbf{x}}_j$를 연속적으로 이어주는 속성을 가지므로 보간 행렬(interpolation matrix)이라 부른다.

                  (4)

보간 행렬을 만들어주는 $\varphi (\mathbf{x})$를 잘 선택해서 고정점 ${\mathbf{x}}_i$가 아닌 임의점 $\mathbf{x}$로 자유롭게 $\mathbf{\Phi }$를 만들 수도 있을까? 임의점 $\mathbf{x}$로 $\mathbf{\Phi }$를 만들려는 시도는 메어후버–커티스 정리(Mairhuber–Curtis theorem)에 의해 식 (4)의 행렬식이 $0$이 나오는 경우가 생겨서 항상 실패한다. 따라서 보간 행렬은 항상 고정점을 정해놓고 만들어야 한다.

[메어후버–커티스 정리(Mairhuber–Curtis theorem)] [2], [3]

서로 다른 점 ${\mathbf{x}}_i$와 상호 독립적인 양의 정부호 함수 ${\varphi }_j(\mathbf{x})$로 만든 보간 행렬 $\mathbf{\Phi }$는 어떤 점에서 반드시 행렬식이 $0$이며 역행렬이 존재하지 않는다.

[증명]

점 $\mathbf{x}(t)$는 $t$ = $0$에서 $\mathbf{x}(0)$ = ${\mathbf{x}}_1$이고 $t$ = $1$에서 $\mathbf{x}(1)$ = ${\mathbf{x}}_2$이라 생각해서 $\mathbf{x}(t)$ = ${\mathbf{x}}_1+\sin (t\pi /2)({\mathbf{x}}_2-{\mathbf{x}}_1)$로 둔다. 첫째와 둘째 행에 $\mathbf{x}(t)$와 $\mathbf{x}(t+1)$을 추가해서 $\mathbf{\Phi }$를 생성한다.

                  (5)

먼저 $t$ = $0$에서 $|\mathbf{\Phi }|<0$이라 가정한다. 그 다음에 $t$가 연속적으로 변해서 $t$ = $1$이 된다. 그러면 $\mathbf{x}(2)$ = ${\mathbf{x}}_1$이 되어서 첫째와 둘째 행의 원소가 서로 바뀐다. 행이 서로 교환된 행렬식의 성질에 의해 $|\mathbf{\Phi }|>0$이 되어야 한다. 따라서 $t$의 변화에 따라 행렬식은 음수에서 양수로 바뀌므로, $|\mathbf{\Phi }|$ = $0$인 특정한 $t$가 존재한다.

______________________________

양의 정부호 함수의 정의역을 실수로 한정해서 식 (1)을 다시 쓰면 다음과 같다.

                  (6)

여기서 $c_i$는 실수인 상수, $\varphi (\mathbf{x})$는 실수 함수(real function)이다. 그러면 양의 정부호 함수의 성질에 따라 $\varphi (\mathbf{x})$는 우함수(even function)이며 $\mathbf{x}$ = $\mathbf{0}$에서 멀어지면 함수값의 크기가 항상 작아진다.

특정 함수가 식 (6)을 만족하는 양의 정부호 함수인지는 주로 푸리에 변환(Fourier transform)으로 판정한다. 신호의 스펙트럼(spectrum) 분석에 쓰이는 푸리에 변환이 양의 정부호 행렬과 동등한 양의 정부호 함수의 판정에 쓰이는 사실은 매우 독특하다.

[푸리에 변환으로 양의 정부호 함수 판정] [1]

푸리에 변환이 $0$보다 큰 우함수는 양의 정부호 함수가 된다.

[증명]

다차원 푸리에 역변환(multidimensional Fourier inverse transform)을 이용해서 식 (6)을 파수 영역에서 다시 기술한다.

                  (6)

여기서 $c_p$는 임의의 실수 상수, $\mathrm{\Phi }(\mathbf{k})$는 $\varphi (\mathbf{x})$의 다차원 푸리에 변환이다. 조건에 의해 함수 $\varphi (\mathbf{x})$는 우함수이므로, 푸리에 변환의 성질에 따라 $\mathrm{\Phi }(\mathbf{k})$는 항상 실수이고 대소 관계를 비교할 수 있다. 따라서 양의 정부호 함수가 되기 위해서는 $\mathrm{\Phi }(\mathbf{k})$가 항상 $0$보다 크면 된다.

______________________________

상수 $c_p$가 복소수이고 $\varphi (-\mathbf{x})={\varphi }^{\ast }(\mathbf{x})$이면, 식 (6)은 복소수 영역에서도 성립한다. 그래서 항상 $0$보다 큰 푸리에 변환을 가진 복소 함수 $\varphi (\mathbf{x})$는 자동적으로 식 (1)을 만족하는 양의 정부호 함수이기도 하다. 푸리에 변환으로 양의 정부호 함수를 결정할 수 있는 대표적인 예는 가우스 함수(Gaussian function)이다. 가우스 함수는 우함수이고 다차원에서도 푸리에 변환이 항상 $0$보다 크기 때문에, 다음처럼 가우스 함수 모양을 가진 $\varphi (\mathbf{x})$는 언제나 양의 정부호 성질을 가진다.

                  (7)

여기서 $\epsilon$은 형상 모수(形狀母數, shape parameter), 벡터 노름(vector norm) 혹은 유클리드 노름(Euclidean norm)인 $\Vert \mathbf{x}\Vert$는 $\sqrt{x_1^2+x_2^2+\cdots +x_n^2}$로 정의한다. 양방향으로 감쇠하는 지수 함수의 다차원 푸리에 변환도 항상 $0$보다 크기 때문에, 형상 모수 $\epsilon$이 $0$보다 크면 이 함수도 양의 정부호 함수가 된다.

                  (8)

여기서 $r$ = $\Vert \mathbf{x}\Vert$이다. 다중 2차 함수의 역수(inverse multiquadric function)에 대한 거듭제곱도 대표적인 양의 정부호 함수이다.

                  (9)

왜냐하면 다중 2차 함수의 역수[$m$ = $1$]는 가우스 함수의 이중 적분으로 표현될 수 있어서 다차원 푸리에 변환이 항상 $0$보다 크기 때문이다.

                  (10)

여기서 마지막식의 유도에 지수 함수와 가우스 함수의 관계를 도입한다. 따라서, 길쌈 정리(convolution theorem)에 의해 식 (9)의 다차원 푸리에 변환은 식 (10)의 푸리에 변환으로 만드는 다중 길쌈이므로, 식 (9)의 푸리에 변환도 항상 $0$보다 커서 양의 정부호 함수가 된다.

[참고문헌]

[1] G. Fasshauer, Multivariate Meshfree Approximation, Illinois Institute of Technology, USA, 2003. (방문일 2021-11-11)

[2] J. C. Mairhuber. "On Haar's theorem concerning Chebychev approximation problems having unique solutions," Proc. Am. Math. Soc., vol. 7, no. 4, pp. 609–615, Aug. 1956.

[3] P. C. Curtis, "n-parameter families and best approximation," Pac. J. Math., vol. 9, no. 4, pp. 1013–1027, Aug. 1959.