과학 철학 강의: 005. 수학적 엄밀성

[이덕하]

수학의 가장 기본적인 추론 절차조차 의심하는 사람에게는 뭐라고 말할 수 있을까? 세 가지 정도의 해결책을 떠올려 볼 수 있지만 어떤 것도 만족스럽지 못하다.

첫째, 가장 기본적인 추론 절차라고 생각되는 것의 정당성을 수학적으로 증명하는 방법이 있다. 하지만 설사 이런 증명을 생각해냈다 하더라도 순환 논법이나 무한 회귀에 빠진다. 만약 가장 기본적인 추론 절차라고 생각되던 A의 정당성을 A를 이용해서 증명하면 순환 논법에 빠진다. 만약 A의 정당성을 더 기본적인 추론 절차인 B를 이용해서 증명하면 B에 대한 의심을 해결해야 한다. 만약 C를 이용해서 B의 정당성을 증명한다면 C에 대한 의심을 해결해야 한다. 설사 그런 증명법을 생각해 낸다고 해도 결국 무한 회귀에 빠지게 된다.

둘째, 수학의 엄청난 역사에도 불구하고 제대로 된 공리 체계에서는 아직 P와 ~P(not P)가 동시에 증명된 적이 없다는 것을 근거로 들 수 있다. 하지만 이러면 귀납법을 근거로 연역법을 정당화하는 꼴이 된다. 귀납법에는 고질적인 문제가 있기 때문에 이것은 만족스러운 해결책이 아니다.

셋째, “나는 근거를 대지 않고 그냥 가장 기본적인 추론 절차를 믿겠다”라고 선언할 수 있다. 하지만 이것은 그런 절차를 의심하는 사람에게는 만족스러운 답이 될 수 없다.

어쨌든 이 글의 주제는 과학 철학이지 수학 철학이 아니다. 여기에서는 가장 기본적인 추론 절차를 포함한 수학의 공리 체계가 옳다고 그냥 가정하고 넘어갈 것이다.

수학에서는 공리에서 시작하여 추론 절차를 적용하여 정리(theorem)를 이끌어낸다. 공리와 추론 절차를 신뢰하는 사람의 입장에서 볼 때 정리는 완벽한 진리다.

과학에 가설이 있다면 수학에는 추측(conjecture)이 있다. 참인 듯 보이기는 하지만 아직 증명되지는 않은 명제를 수학에서는 추측이라고 한다.

골트바흐의 추측(Goldbach's conjecture)을 살펴보자.

Every even integer greater than 2 can be expressed as the sum of two primes.

2보다 큰 모든 짝수는 두 소수의 합으로 표현될 수 있다.

http://en.wikipedia.org/wiki/Goldbach%27s_conjecture

무려 4 × 10¹⁸까지 성립한다는 것을 보여주었지만 여전히 이 명제는 정리가 아니라 추측이다.

The conjecture has been shown to hold up through 4 × 10¹⁸ and is generally assumed to be true, but remains unproven despite considerable effort.

http://en.wikipedia.org/wiki/Goldbach%27s_conjecture

“이 정도로 엄청난 규모에서 성립한다는 것을 보여주었다면 참이라고 믿을 만하지 않을까?”라고 생각해 볼 수도 있지만 수학에서는 지독하게 엄밀성을 추구하기 때문에 증명되지 않은 이상 추측은 추측일 뿐이다. 결코 정리로 인정하지 않는다.

수학에서 골트바흐의 추측처럼 무한히 많은 사례들에 대한 어떤 명제를 입증하여 정리의 지위를 얻도록 하는 방법은 공리에서 출발하여 기본적인 추론 절차를 거쳐서 증명하는 방법 밖에 없다. 그 명제에 부합하는 사례들을 아무리 많이 들이댄다고 해도 증명하지 못하는 이상 추측의 지위에서 벗어날 수 없다.

반면 그 명제를 무너뜨리기 위해서는 단 하나의 반례만 있어도 된다. 이것 역시 수학의 지독한 엄밀성을 보여주는 한 측면이다.

수학의 개념들 역시 지독하게 엄밀하다. 자연수 중에 짝수인지 홀수인지 애매한 사례가 하나라도 있어서는 안 된다. 마찬가지로 실수 중에 유리수인지 무리수인지 애매한 사례가 하나라도 있어서는 안 된다.

옛날에는 과학도 이런 수학적 엄밀성을 추구할 수 있다고 믿었던 사람들이 있었다고 한다. 예컨대, 칸트는 뉴턴의 역학이 진리임을 선험적으로 입증할 수 있다고 믿었던 모양이다. 뉴턴의 이론보다 더 정확한 아인슈타인의 상대성 이론이 있다는 것을 알고 있는 우리의 입장에서 보면 바보 같아 보이는 일을 했다. 칸트의 『순수 이성 비판』이 난해한 이유 중 하나는 이런 무모한 시도 때문인 것 같다.

But, Kant held, Newton’s laws are universally and necessarily true. Experience could never ground universal or necessary truths. If Newton’s laws are true, they had to be known—justified a priori, not justified by experience! How could this be possible? How could statements made true by facts about the world be known by us without any experience of those fact?! That was the great problem that Kant wrestled with in his famous work, The Critique of Pure Reason, written in 1784. (『Philosophy of science: a contemporary introduction』, Alex Rosenberg, 3판, 12쪽)

20세기에는 과학이 수학처럼 엄밀할 수 있다고 믿는 과학자나 과학 철학자가 사실상 없다. 이제 과학자의 꿈은 이전보다 상당히 소박해졌다. 아무리 성공적인 이론도 나중에 더 나은 이론에 의해 대체될 수 있다는 것을 인정한다. 엄청난 성공을 거둔 뉴턴의 이론이 나중에 상대성 이론에 대체되었듯이 말이다.

왜 과학자들의 꿈이 소박해졌는지에 대해서는 다른 글에서 다룰 것이다.

이덕하

version 0.1

2013-10-01

[김밥지옥]

감사합니다 잘읽었어요