코쉬(Augustin-Louis Cauchy)가 극한을 고민한 이유는?

[경고] 아래 글을 읽지 않고 "코쉬의 극한 고민"을 보면 바보로 느껴질 수 있습니다.
1. 미분법의 의미
2. 극한과 연속성의 의미

뉴턴Isaac Newton(1643–1727)과 라이프니츠Gottfried Wilhelm Leibniz(1646–1716)가 미분과 적분을 창안한 이후 물리학 분야에서는 광범위한 자연 현상을 미적분으로 설명하였다. 우리는 미분 방정식을 이용하여 물체의 운동특성을 완벽히 예측할 수 있으며 현의 진동에 의한 파동 발생도 예측할 수 있다. 또한, 천문학과 기계공학의 많은 사실은 미분 방정식을 통해 증명될 수 있다. 그런데 뉴턴과 라이프니츠가 미적분을 창안한 지 150년이 지난 후 왜 코쉬Augustin-Louis Cauchy(1789–1857)는 한없이 가까이 다가간다는 극한을 심각하게 고민했을까? 코쉬가 태어나기 훨씬 이전인 1734년버클리 49세, 조선 영조 시절에 버클리 주교George Berkeley(1685–1753)가 제기한 미분에 대한 근본적인 의문이 있었기 때문이다. 미분이 확실히 증명된 현재는 이런 고민을 하는 학생은 거의 없지만 선생님 말을 믿지 않는 기특한 학생은 분명히 이런 고민을 할 것이다. 사실 호기심 많고 창의적인 학생은 버클리 주교의 미분에 대한 문제점을 수업 시간에 생각했을 수 있다. 버클리 주교가 미분 개념을 공격하기 위해 생각한 부분은 $\Delta x$에 대한 역설이다. 버클리 주교는 이 역설을 버려진 허깨비(ghosts of departed quantities)라고 불렀다. 예를 들어, $y$ = $x^2$ 함수를 미분하려면 식 (1)을 고려해야 한다.

             (1)

미분에서는 $\Delta x$ = $0$으로 간주해서 $dy/dx$ = $2x$로 결정한다. 버클리는 여기에 의문을 제기했다. 만약 $\Delta x$  = $0$이면, 식 (1)에서 나눗셈을 할 수 없고, 혹은 $\Delta x \ne 0$이면 미분을 $dy/dx$ = $2x$로 정할 수 없다. 이런 해괴한 역설을 도대체 어떻게 풀까? 버클리의 역설에 도전해서 성공적으로 해결한 수학자가 코쉬이다. 코쉬는 한없이 가까이 다가간다는 개념을 부등식에 기반한 극한 개념으로 풀어냈다. 버클리 주교의 의문을 풀어주기 위해 코쉬가 제안한 $\epsilon$–$\delta$ 정의로 $y$ = $x^2$의 미분을 논리적으로 계산한다. 식 (1)을 이용해 $\Delta y / \Delta x$와 미분과의 차이를 계산하고, 목표로 하는 오차값($\epsilon$)과의 관계를 부등식으로 표현하면 다음과 같다.

             (2)

식 (2)에 의해 $\Delta x$를 작게 줄이면 목표 오차값($\epsilon$)보다 항상 작게 할 수 있다. 따라서 $x$값을 $|(x + \Delta x) - x|$ = $|\Delta x| < \delta$로 정하면, $\Delta y / \Delta x$와 미분과의 차이를 항상 $\epsilon$보다 줄일 수 있다. 그래서 $y$ = $x^2$의 미분은 $2x$이다. 버클리 주교는 뉴턴이 만든 기계론적인 우주론을 공격하고자 미분에 대한 심각한 결함을 발견해냈지만, 버클리 주교의 의도와는 반대로 미분에 대한 기초 기반을 더욱 탄탄히 하였다. 결국 미분에 대한 기초인 극한 개념이 정확히 확립되어 오히려 미분 방정식에 기반한 물리학이 극도로 발전할 수 있도록 하였다.

[참고문헌]

[1] 윌리엄 던햄, 미적분학 갤러리: 뉴턴에서 르베그까지 위대한 수학자들이 들려주는 미적분 이야기, 한승, 2011.