괴델 탄생 백주년기념 학술대회

[그러지않는걸좋아하여]

Gӧdel탄생백주년기념학술대회

왜 괴델인가?

주관: 연세대학교 수학과

후원: 대한수학회, 수학사학회, 한국논리학회

일시: 2006년 4월 15일 토요일

장소: 연세대학교 이과대학 과학관 B102호

사회: 기하서(연세대학교, 수학과), 박창균(서경대학교, 철학과)

9:10-9:15 개회사

연세대학교수학과 과장 최희준

9:15-9:30 축사

대한수학회 회장 민경찬

수학사학회 회장 홍성사

한국논리학회 회장 박우석

강연프로그램

9:30-10:15 박정일(숙명여대, 의사소통개발센터)

괴델의 삶

10:15-11:00 현우식(연세대학교, 학부대학)

괴델과 신학

11:00-11:15 휴식

11:15-12:00 현승준(연세대학교, 물리학과)

아인슈타인과 괴델: 괴델우주론

12:00-13:30 점심시간

괴델백주년기념강연

13:30-14:30 김병한(연세대학교, 수학과)

괴델과 그의 불완전성 정리

『 ....... 이듬해인 1931년, 드디어 20대의 나이에 학계를 깜짝 놀라게 한, 세기적 결과인 불완전성 정리를 발표한다. 그의 불완전성 정리를 한마디로 말한다면, ‘참인 것이 분명하나, 증명할 수 없는 수학적 명제가 존재 한다’는 것이다. 도대체 이것이 무슨 말인가? 증명되지 않는 명제가 참인 것을 어떻게 알 수 있다는 말인가? 그렇다면 증명된다는 것과 참이라는 의미의 차이는 무엇인가? 많은 수리논리학 연구자들은, 그들이 수리논리학을 전공한 계기가 이것이라 고백한다. 즉 학생시절 불완전성 정리의 오묘함을 접하고 깊은 인상을 받은 가운데 그것을 온전히 이해하고자 하는 시도가 연구자의 길로 이어졌다는 것이다.......』

『 ....... 제이 불완전성 정리는 더욱 놀랍다. 수학을 전개하는 근본 공리를 선정하여 그 체계가 정말 모순이 없다면, 그 모순이 없다는 사실자체는 (그 체계의 논리전개로는) 증명을 할 수 없다는 것이다. 이것은 앞서 언급한 힐버트의 프로그램이 성취될 수 없다는 것을 의미한다. 수리학문계는 다시 한 번 커다란 충격과 놀라움에 휩싸인다. 괴델의 정리는 힐버트나 그 이전 수학자들이, ‘우리가 알고자 하는 수학적 문제들은 결국에 진리이거나 거짓으로 판명 또는 증명될 것이라’는 당연하다고 여긴 믿음이 옳지 않다는 것이다. 이는 인간 인식에 근본적 한계가 있음을 극명하게 보여준 하나의 세기적 사건이었다........』

14:30-15:15 기하서(연세대학교, 수학과)

괴델과 집합론

15:15-15:30 휴식

15:30- 16:15 이광근(서울대학교, 컴퓨터공학부)

타입 이론, 프로그래밍 언어,

소프트웨어 오류 자동검증

16:15-17:00 정인교(고려대학교, 철학과)

괴델과 철학

17:00-17:45 홍성사(서강대학교, 수학과)

박우석(한국과학기술원, 인문사회과학부)

박창균(서경대학교, 철학과)

토론

17:45 폐회

괴델의 삶과 사상

박정일(숙명여대)

Ⅰ

잘 알려져 있듯이 괴델은 20세기 수학을 대표하는 천재 수학자이며 철학자이다. 그는 21세기 길목에서『타임』지가 밀레니엄 특집으로 선정한 20세기 가장 위대한 인물 100명 중 가장 위대한 수학자로 지명받기도 했다. 그의 학문의 업적은 수학과 논리학뿐만 아니라 철학, 언어학, 컴퓨터 과학, 인공지능, 심지어 신학과 우주론에 이르기까지 막대한 영향을 미쳤다. 특히 괴델의 불완전성 정리는 지금도 처음 접하는 사람에게는 놀라움과 당혹스러움, 그리고 충격을 불러일으킨다. 현대 수학의 아버지라고 일컬어지는 힐베르트에게 내던진 괴델의 불완전성 정리는 마치 다윗의 돌팔매처럼 힐베르트 프로그램이라는 골리앗을 무너뜨렸을 뿐만 아니라, 핵폭탄과 같은 충격으로 20세기 학문계를 강타했다. 그 충격의 여파는 지금도 생생하게 남아있다. 따라서 올해 그가 태어난 지 꼭 100년이 되는 지금, 그의 삶을 조망하고 그의 사상을 조명하는 일은 매우 뜻 깊은 일이라 하겠다.

괴델의 불완전성 정리는 착상은 단순하지만 실제 내용은 대단히 복잡하고 난해하다. 어쩌면 괴델이라는 천재의 삶과 학문적 여정도 그 정리를 닮았는지 모른다. 겉으로는 단순해 보이지만 알고 보면 참으로 파란만장하고 수수께끼로 둘러싸여 있는 것이다. 괴델은 자신의 주요 학문적 업적을 다음과 같이 기술하고 있다: (1) 술어 논리의 완전성을 증명함 (2) 수학의 어떤 주어진 형식화된 공리 체계에서, 디오판토스 해석학의 어떤 문제가 그 체계 내에서는 결정 불가능함을 알아내는 방법을 제시함 (3) 체계의 무모순성이 동일한 체계 내에서는 증명될 수 없음을 증명함 (4) 현재 받아들여지는 집합론의 공리들을 가지고 선택 공리와 칸토어의 연속체 가설의 무모순성을 증명함 (5) 아인슈타인의 중력이론을 토대로 회전하는 우주를 구성함. 이러한 괴델의 학문적 업적과 관련하여 우리는 72년간의 쿠르트 괴델(Kurt Gödel: 1906-1978)의 삶을, 하오 왕(Hao Wang)이 지적하는 바와 같이, 크게 네 단계로 나눌 수 있다.

(1) 1906년 ~ 1929년: 이 기간은 괴델이 “배우고 준비하는” 시기이다. 괴델은 1929년에 그의 박사학위 논문을 통하여 1차 논리학이 완전하다는 것을 증명한다. 이때만 하더라도 괴델은 앞으로 자신이 힐베르트와 마치 다윗과 골리앗의 싸움과 같은 세기의 대결을 벌일 것이라고는 상상하지 못했을 것이다. 이 기간 동안 괴델의 학문적 여정에서 가장 중요한 사건은 그가 빈 대학에 진학하여 슐리크 서클(나중에 빈 학파가 됨)에 참여하게 되었다는 것이다. 또한 개인적으로 그에게 중요한 사건은 1928년에 평생 그의 동반자가 될 아델레를 처음 만났다는 것이다.

(2) 1929년 ~ 1943년: 이 기간은 괴델이 수리논리학에 집중적으로 연구하면서 수학과 논리학 분야에서 가장 생산적인 결과를 얻었던 시기이다. 괴델은 1930년 쾨니히스베르크 회의에서 처음으로 자신의 불완전성 정리의 얼개를 발표하였고, 이듬해 완전한 논문으로 발표한다. 또한 1938년에 집합론의 공리체계에서 칸토어의 연속체 가설을 반증하는 것은 불가능하다는 것을 증명한다. 이 기간 동안 괴델의 삶에서 가장 중요한 두 가지 사건은 1938년에 괴델이 아델레와 결혼했다는 것이고, 또 1940년 나치즘의 폭압을 피해 유럽을 떠나 미국 프린스턴 고등연구소로 자리를 옮겼다는 것이다.

(3) 1943년 ~ 1958년: 이 기간은 “과학 중심의 철학 시기”라고 말할 수 있는 시기이다. 이 기간 동안 괴델은 러셀(1944)과 칸토어(1947), 그리고 베르나이스(1958)에 관한 논문을 썼고, 1949년에 아인슈타인의 장 방정식에 대한 새로운 해결책으로서 과거로의 시간여행을 허용하는 “회전하는 우주”라는 모델을 발표하였다. 이 기간 동안 괴델에게 가장 중요한 사건은 1952년 괴델이 하버드 대학 명예 과학박사를 수여받았고 이듬해 고등연구소의 교수가 되었다는 것이다. 아마도 1952년과 1953년 두 해는 괴델의 인생에서 가장 행복한 시기였을 것이다.

(4) 1959년 ~ 1978년: 이 기간은 “자율적인 철학 시기”라고 말할 수 있는 시기이다. 괴델은 1959년부터 후설의 현상학을 연구하기 시작한다. 그러나 어떤 돋보이는 생산적인 결과는 나오지 않았다. 1963년에 폴 코헨(Paul J. Cohen)이 연속체 가설의 독립성을 증명하자 괴델은 이를 반영하여 자신의 칸토어 논문(1947)의 증보판을 완성한다.

Ⅱ

괴델이라는 천재와 불완전성 정리를 비롯한 그의 학문적 업적을 이해하기 위해서는 20세기의 학문적 상황을 이해해야 한다. 20세기의 지적 상황은 한 마디로 격동기였으며 혁명기였다. 다시 3, 4백년을 거슬러 올라가면 우리는 근대라는 또 다른 격동기와 혁명기를 만난다. 근대의 지적 상황은 미적분학과 뉴턴의 역학, 그리고 근대철학으로 대표될 수 있지만, 논리학은 아리스토텔레스의 논리학이 그대로 잔존해 있었고, 기하학은 여전히 유클리드 기하학으로 남아 있었다. 반면에 20세기에 이르면 프레게의 새로운 논리학이 등장하고, 비유클리드 기하학이 자리를 잡았으며, 칸토어의 집합론이 발흥한다. 뿐만 아니라 아인슈타인의 상대성 이론과 하이젠베르크 등의 양자 역학이 등장한다. 칸트가 그의《순수이성비판》을 통하여 뉴턴의 역학을 정당화하려고 했듯이, 20세기의 지적 혁명기는 새롭게 주어진 것들을 문제 삼지 않을 수 없게 만들었다. 소위 분석철학은 바로 이러한 지적 상황에서 발흥한 것이다.

난세에 영웅이 출현한다는 말이 있듯이 20세기는 바로 그러한 지적 혁명기였다. 괴델이 태어난 1906년을 기준으로 살펴보면, 1905년에는 아인슈타인이 특수상대성 이론을 발표했고, 1904년에 힐베르트는 산수의 무모순성 증명을 제시했지만 푸앵카레로부터 순환논증의 오류를 범하고 있다고 비판받았으며, 러셀은 1905년에 저 유명한「지시에 관하여(On Denoting)」라는 논문을 발표했고, 1902년 프레게에게 서신으로 러셀의 역설을 알림으로써 프레게로 하여금 절망에 빠지게 하였다. 그 서신을 보내기 10년 전에 이미 프레게는 칸토어의 집합론과 관련된 문제가 수학자들의 “중대하고 결정적인 전투의 무대를 제공하게 될 것”이라고 예견하였다. 그 예언이 서서히 현실로 바뀔 때 쯤 괴델이 세상에 태어난 것이다.

괴델은 1906년 4월 28일 오스트리아-헝가리 제국의 브르노에서 태어났다. 괴델의 아버지는 거대한 방직공장의 주주이자 이사였기 때문에 괴델의 가족은 오스트리아-헝가리 제국에서 거의 최초로 크라이슬러 자동차를 몰고 다닐 만큼 부유했다. 괴델은 어린 시절 모든 과목에서 최고의 성적을 받은 모범생이었고, 별명이 “왜요 선생(Herr Warum, Mr. Why)”이라고 불릴 만큼 천성적으로 호기심이 강했다. 그의 형 루돌프 괴델에 따르면, 8살 때 괴델은 고열을 동반한 심한 관절 류머티즘을 앓았는데, 이는 그의 전 생애를 따라다녔던 우울증의 원인이었다. 1916년부터 1924년까지 괴델은 브르노에 있는 국립실업중등학교에 다녔으며, 14-5세 때 수학과 철학에 대해 관심을 갖게 되었고, 16세경에 칸트의 저작을 처음으로 공부했으며, 16-7세에 이미 대학 수학교재를 통독하였고 수학의 탁월한 재능을 발휘하기 시작했다.

괴델은 1924년 가을에 이론물리학을 공부하기 위해서 빈 대학에 진학했는데, 여기에서 그는 인생의 전환점을 맞는다. 당시 빈 대학에는 슐리크가 주도하는 빈 학파(처음에는 모리츠 슐리크 서클이었다)가 결성되어 계속 정기적인 모임을 갖고 있었다. 당대 일류의 학자들이 모여 과학, 수학, 논리학, 철학에 대해서 논의하였던 빈 학파의 모임에 참석할 수 있었던 것은 괴델에게는 크나큰 행운이었다. 빈 학파는 논리실증주의라는 이름으로 당시 분석철학의 운동을 주도하였다. 괴델은 이 모임에 참석하면서 자신의 진로를 수학과 논리학으로 바꾼다. 괴델이 힐베르트 프로그램이라는 골리앗을 알게 된 것도 이런 과정을 통해서였다.

괴델은 1927년에 비트겐슈타인의《논리철학논고》(Tractatus Logico-Philosophicus)를 읽었으며, 1928년에는 힐베르트와 아커만이 공동으로 집필한《수리논리학의 원리》(Principles of Mathematical Logic: Grundzüge der theoretische Logik)을 읽었다. 1928년에 출판된 이 책은 괴델에게는 운명적인 책이었다. 이 책에서 비로소 1차 논리학(또는 기초 논리)의 완전성 여부 문제와 결정 문제가 정식화되었는데, 괴델이 1929년에 박사학위 논문을 통하여 증명한 것이 곧 기초 논리(elementary logic)가 완전하다는 것이었기 때문이다.

현대 논리학은 프레게의《개념 표기법》(Begriffsschrift, 1879)으로부터 시작된다. 프레게는 말하자면 현대 논리학의 아버지이다. 그는 최초로 수학에서의 함수의 개념을 일상 언어와 논리학에 적용하였고, 양화사를 발명해내었다. 간단히 말하면 현대 논리학은 명제를 개체 상항과 술어(또는 관계)로 분석하고, 또 명제 함수에 양화사를 첨가하여 명제를 형성하며, 여기에 이와 관련된 공리와 추론 규칙들이 첨가되어 형성된 것이다. 더 나아가 프레게는『산수의 기초』(1884)에서 최초로 수에 대한 정의를 엄밀하게 제시하였고, 수학에 확고한 기초를 부여하기 위해서 최초로 수학의 진리와 개념들이 논리학의 그것들로 환원될 수 있다는 소위 “논리주의”라는 수학철학의 입장을 제시하였다.

따라서 1차 논리가 완전한가 여부 문제와 결정가능한가 여부 문제는 프레게의《개념 표기법》이 출판된 이후 50년이 지나서야 힐베르트와 아커만의《수리논리학의 원리》에서 비로소 정식화된 것이다. 1차 논리의 완전성 여부 문제가 정식화되자 1년 만에 괴델이 이를 해결했다는 것은 물론 놀라운 사실이다. 그러나 더 의아하고 놀라운 것은, 하오 왕도 지적하듯이, 그러한 문제 정식화에 도달하는 데 반세기가 걸렸다는 것이며, 도대체 그러한 문제 정식화가 이루어졌다는 사실이다.

괴델이 자신의 박사학위 논문《논리계산의 완전성에 관하여》를 제출했을 당시에는 자신이 힐베르트와 앞으로 어떤 운명에 놓이게 될지 상상조차 하지 못했을 것이다. 힐베르트 또한 괴델의 학위 논문의 결과를 뜨겁게 반겼을 것이다. 그러나 얄궂은 신의 장난인 듯 그들은 마치 골리앗과 다윗의 싸움과 같은 세기의 대결로 치닫고 있었다. 괴델이 그 유명한 불완전성 정리를 증명한 것이다.

Ⅲ

독일의 괴팅겐 대학은 수학의 황제인 가우스가 한 시대를 풍미했던 유서 깊은 수학의 메카이다. 수학 선생님이 아이들을 골탕 먹이기 위해서 1부터 100까지 더하라는 문제를 내놓고는 여유를 부려보려고 했지만 그 기대를 무참히 뒤집어버린 꼬마 가우스의 이야기는 아직도 전설처럼 남아있다. 20세기에 들어서면서 괴팅겐 대학의 그 찬란한 영광을 재현시킨 수학자가 곧 힐베르트(1862-1943)이다. 현대 수학의 아버지라고 일컬어지는 힐베르트는 1900년 세계 수학자회의에서 20세기에 풀어야 할 23개의 문제를 발표하고, 그 이후 끊임없는 열정으로 이 문제들과 싸워나갔다. “우리는 알아야 한다. 우리는 알게 될 것이다”라는 그의 비문(碑文)은 수학자로서의 그의 열정을 잘 웅변해주고 있다.

힐베르트가 제출한 23개의 문제 중 첫 번째 문제는 칸토어의 연속체 가설이 참인지 여부를 결정하는 문제였고, 두 번째 문제는 산수로부터 모순이 도출되지 않는다는 것을 어떻게 증명할 것인가 하는 문제였다. 힐베르트가 이 문제를 제기하지 않을 수 없었던 이유는 당시 소위 “수학의 위기”가 닥쳐오고 있었기 때문이다. 모리스 클라인(M. Kline)은 이 상황을 다음과 같이 묘사하고 있다. 20세기 문턱에서 수학자들은 매우 자신감에 넘쳐 있었고, 자신들의 업적을 자랑스럽게 여기고 있었다. 불, 벤, 프레게 등에 의한 새로운 논리학의 출현, 코쉬, 바이에르슈트라스, 헤밀튼 등의 해석학에서의 엄밀화 작업, 로바체프스키, 리만의 비유클리드 기하학의 출현, 칸토어의 집합론의 발흥 등 모든 분야에서 수학의 발전은 괄목할 만 했다. 실제로는 그 누구도 예견할 수 없었던 ‘수학의 위기’라는 폭풍우의 구름이 몰려오고 있었고, 1900년에 개최된 수학자 대회에 참가하고 있었던 수학자들은 창밖을 내다보고 그것을 알아차릴 수도 있었겠지만, 서로 축배를 드는 데에만 너무 열중하고 있었다. 그런데 이 대회에 참가했던 한 사람, 힐베르트는 수학의 기초에 관한 문제가 모두 해결된 것은 아니라는 것을 전적으로 알고 있었다.

상식적인 관점에서 보면 우리는 수학에서는 당연히 모순이 도출되지 않을 것이라고 생각한다. 그러나 이러한 소박한 믿음과는 달리 20세기에 들어서면서 이른바 역설이 발견되었던 것이다. 다른 영역도 아니라 수학에서 아무런 문제가 없는 듯이 보이는 전제와 추론규칙으로부터 모순이 도출된다면 이는 분명 심각한 문제가 아닐 수 없다. 예컨대 러셀의 역설은 대표적이다. 가령 호랑이의 집합은 호랑이가 아니므로 호랑이의 집합의 한 원소가 아니다. 이제 호랑이의 집합과 같이 자기 자신의 원소가 아닌 집합들을 모두 모은 집합을 생각해 보자. 이 집합은 자기 자신의 원소인가? 자기 자신의 원소라면 이 집합은 자기 자신의 원소가 아닌 집합들을 모두 모은 것이므로 자기 자신의 원소가 아니어야 하며, 자기 자신의 원소가 아니라면 이 집합은 자기 자신의 원소가 아닌 집합들을 모두 모은 것이므로 자기 자신의 원소여야 한다. 즉 모순이 나온다.

부랄리-포티 역설(1897)과 칸토어의 역설(1899)도 발견되었지만, 러셀의 역설(1902)이 프레게에게 서신으로 전달되고 자신의 역작《산술의 근본법칙》의 출판을 앞둔 프레게를 절망에 빠지게 하자 이제 사태는 대단히 심각하게 되었다. 이러한 위기 상황에서 힐베르트는 소위 힐베르트 프로그램이라는 계획을 통하여 역설의 문제를 정면으로 돌파하려고 한다. 그는 수학을 형식화해서 그 형식 체계에서는 모순이 도출되지 않는다는 것을 엄밀하게 증명할 수 있을 것이라고 낙관하였다. 그러면서 그는 수학이 완전할 것이라고 믿었다. 그렇다면 “완전하다”라는 것은 무엇인가? 한 체계가 완전하다 함은 그 체계에서 참인 문장은 모두 그 체계에서 증명할 수 있다는 것을 뜻한다. 따라서 어떤 문장이 한 체계에서 참인데도 증명 가능하지 않다면 그 체계는 불완전하다. 괴델의 불완전성 정리가 말하는 것은 산수의 체계에서는 참이지만 증명할 수 없는 명제가 존재한다는 것이다(제1불완전성 정리). 더 나아가 산수를 포함하는 수학체계에서 모순이 도출되지 않는다는 것을 그 수학체계에서는 증명할 수 없다는 것이다(제2불완전성 정리).

1928년은 힐베르트와 괴델에게는 두 가지 측면에서 운명적인 해였다. 한 가지는 이미 언급했듯이 힐베르트와 아커만이 공동으로 집필한《수리논리학의 원리》가 출판되었다는 것이다. 다른 한 가지는 힐베르트가 볼로냐에서 연설을 했다는 것이다. 힐베르트는 67명의 독일 수학자 대표단을 이끌고 볼로냐 국제회의에 참석했으며 “수학의 기초에 대한 문제들”이라는 제목으로 강연을 했다. 바로 여기에서 힐베르트는 장차 괴델이 해결하게 될 다음의 네 가지 문제를 극명하게 정식화한다. (1) 해석학의 유한주의적 무모순성 증명 (2) 집합론의 유한주의적 무모순성 증명 (3) 1차 수론과 해석학의 완전성 (4) 1차 논리의 완전성. 괴델은 이 강연이 있은 후 채 2년도 안 되어 이 모든 문제에 대해 대답을 한다. 괴델은 1929년 그의 박사학위논문을 통하여 (4)를 증명하였고, 1930년-31년에는 자신의 불완전성 정리를 통하여 (1)-(3)의 문제를 해결했던 것이다.

힐베르트 프로그램과 괴델의 불완전성 정리가 부딪히는 장면은 마치 골리앗과 다윗의 싸움과 같은 세기적인 대결이었다. 괴델이 불완전성 정리를 최초로 발표한 것은 1930년 쾨니히스베르크 회의에서였는데, 이 당시 힐베르트는 세계적 명성을 떨치며 은퇴를 앞둔 노교수였으며, 반면에 괴델은 이제 막 박사학위를 받은 24살의 청년이었고 3년 뒤에나 풋내기 시간강사가 될 처지였다. 힐베르트는 자신의 프로그램을 통하여 수학에서 모순이 도출되지 않는다는 것을 증명하고자 하였고 수학이 완전할 것이라고 믿었다. 사람들은 힐베르트 프로그램에 열광했으며, 그 계획이 조만간 실현될 것이라고 믿었다. 그러나 괴델이라는 천재는 이러한 믿음과 기대를 송두리째 앗아가 버린다. 당시 괴델이 불완전성 정리의 얼개를 발표했을 때 오직 한 사람만 이를 이해할 수 있었다고 한다. 폰 노이만이었다. 그 이후 폰 노이만은 괴델과 서신교환을 하였고, 이 과정에서 자존심에 상처를 입고 수리논리학 연구를 완전히 접어버린다.

힐베르트가 받은 충격은 대단히 컸다. 한동안 그는 화를 내고 깊은 좌절감에 빠졌다고 한다. 그러나 그는 인간의 사고능력 앞에는 불가능이 없다는 자신의 신념을 보여주기나 하듯 자신을 냉혹하게 혹사하며 다시 연구에 매진한다. 또한 그의 제자 겐첸(G. Gentzen)은 폐허가 되어버린 힐베르트 프로그램을 구원하기 위해서 다시 나선다. 사실상 괴델이라는 천재는 힐베르트라는 천재에 의해서 가능했다. 괴델이 제시한 불완전성 정리는 완전성, 불완전성, 무모순성 증명, 결정가능성 등 힐베르트의 선행된 연구와 개념규정을 토대로 가능했던 것이다. 프레게가 현대 논리학을 창안한 이후 거의 50년이 지나서야 힐베르트에 의해 그러한 개념규정과 문제설정이 주어졌고, 괴델이 이를 재빨리 해결했던 것이다.

약관 25세에 불완전성 정리라는 세계적인 업적을 세웠음에도 불구하고 그 당시 시대상황은 그에게 냉랭했다. 10년 가까이 그는 빈에서 강사의 신분으로 있었으며 1939년에는 히틀러 치하에서 그 강사 지위마저 박탈당했던 것이다. 역지사지(易地思之)의 입장에서 보면 이 당시 괴델의 심정이 얼마나 끔찍했을지 짐작할 수 있다. 세계적 업적을 이루었다는 긍지와 자부심은 세상이 그에게 선사한 모멸감과 불신으로 얼룩졌으리라. 특히 불완전성 정리를 논문으로 발표한 1931년은 그에게는 한없는 영광과 극단적인 정신적 위기가 교차하는 해였다. 체르멜로와의 서신교환에서 체르멜로가 괴델의 증명에서 “본질적인 결함”을 발견했다고 경고했을 때, 철저한 완벽주의를 신조로 삼고 살아가는 25세의 청년이 어떤 기분이었을지는 미루어 짐작할 수 있다. 실제로 괴델의 형에 따르면, 괴델은 1931년 말경에 심각한 정신적 위기에 처했고 여러 번 자살을 생각했다고 한다. 그나마 다행스러운 것은 그가 평생 유일한 안식처로서 삼을 수 있었던 한 여인을 만났다는 사실이다. 그녀의 이름은 아델레였고 괴델보다 6년 연상인 이혼녀였으며 “밤 나방”이라는 술집의 댄서였는데, 그 당시 댄서들은 고급 창녀와 다를 바가 없었다고 한다. 당연히 가족들의 반대는 심했지만, 괴델과 아델레는 10년 가까이 교제를 한 후 1938년에 결혼을 하게 된다.

Ⅳ

나치즘의 광기가 극을 달리던 1939년 마침내 괴델은 유럽을 떠나기로 결심한다. 다행스럽게도 괴델은 미국의 프린스턴 고등연구소의 연구원의 자리를 확보할 수 있었다. 괴델과 아델레는 러시아와 일본을 거쳐 1940년 3월에 프린스턴에 도착한다. 고등연구소는 괴델에게는 또 다른 인생의 전환점이었다. 1940년 이후 괴델은 프린스턴에서 비교적 평온하고 안정적인 삶을 영위할 수 있었다. 괴델은 1933년 이래로 빈과 프린스턴을 몇 번 왕래했었는데 이제 그런 고역은 불필요하게 되었다. 더구나 아델레와의 불안정한 결혼생활도 안정을 찾을 수 있게 되었고 한 가정의 가장으로서 제대로 된 역할을 할 수 있게 되었다. 괴델은 1976년에 은퇴할 때까지 프린스턴에서 정착한다.

고등연구소에서 괴델은 어떤 강의 부담도 질 필요가 없었고 오직 자신의 연구에만 천착할 수 있는 자유를 누릴 수 있었다. 뿐만 아니라 아인슈타인, 모르겐슈테른, 카르납 등과의 교류는 그에게 새로운 학문적 열정을 불러일으켰다. 특히 아인슈타인과 괴델의 우정은 천재들의 세기적 우정이라 할 만큼 유명하다. 아인슈타인의 조교였던 슈트라우스에 따르면, 괴델과 아인슈타인은 성격은 거의 대부분 아주 달랐지만, 몇몇 점에서는 서로를 빼닮았다고 한다. 아인슈타인은 사교적이고 행복과 웃음과 유머, 그리고 상식으로 충만한 반면, 괴델은 비사교적이고 극단적으로 진지했고 상식을 진리에 도달하기 위한 수단이라고는 믿지 않았다. 한편 그들은 사물의 핵심이 되는 문제에 대해서는 온 열정과 마음을 쏟으며 매진한다는 점에서는 일치했다.

그러나 처음 몇 해 동안 고등연구소에서의 괴델의 직위는 다소 불안정했다. 괴델은 처음에는 매년 재임용을 받아야 하는 평연구원이었고, 1946년이 되어서야 종신연구원이 되었으며, 다시 1953년이 되어서야 정식 교수직위를 얻었다. 괴델은 1951년에는 예일 대학 문학박사를, 그리고 1952년에는 하버드 대학 과학박사를 수여받았는데, 이 당시 어느 지역신문에서 보도된 내용 중에서 괴델을 “지금 이 세기를 통틀어 가장 중요한 진리를 발견한 사람”이라고 부른 기사를 대단히 좋아했다고 한다. 말하자면 괴델은 1951년에 이르러서야 미국 사회와 학계로부터 공식적으로 인정받았던 것이며 그렇게 해서 1953년에 교수로 승진할 수 있었다. 괴델은 교수로 승진하자 대단히 기뻐했다고 한다. 바꾸어 말하면 그 동안 그가 얼마나 마음고생이 컸을지 짐작할 수 있다.

프린스턴에 정착하는 과정을 전후해서 괴델이 내놓은 가장 중요한 업적은 1938년에 칸토어의 연속체 가설이 집합론의 공리와 상대적으로 모순되지 않는다는 것을 증명한 것이었다. 19세기 말 칸토어가 발명한 집합론은 무한을 다루기 위한 학문이었다. 칸토어는 자연수 집합의 농도(전체 원소의 개수)가 실수 집합의 농도보다 작다는 것을 증명하였다. 요컨대 무한에는 등급이 존재해서 더 큰 무한과 작은 무한이 있다는 것이다. 이러한 무한을 나타내는 수를 초한수라고 하는데, 칸토어의 연속체 가설이 말하는 것은 자연수 집합을 나타내는 초한수와 실수 집합을 나타내는 초한수 사이에는 어떤 다른 초한수가 존재하지 않는다는 것이었다. 괴델은 그러한 가정을 해도 집합론의 다른 공리로부터 모순이 도출되지 않는다는 것을 증명한 것이다. 괴델은 그 이후에 칸토어의 연속체 가설이 집합론에서 독립일 것이라고 추측은 했지만, 이를 증명할 수 없었다. 연속체 가설의 독립성은 1963년에 코헨에 의해서 증명되었는데, 그때 괴델은 자신이 중도에 포기한 것을 몹시 후회했다고 한다.

프린스턴의 고등연구소에 정착한 이후 괴델은 1946년에 아인슈타인을 기념하는 논문집에 실을 논문을 청탁 받는다. 그 이후로 괴델은 일반 상대성 이론과 칸트의 철학에 대해 연구하였으며, 1948년에 아인슈타인의 장 방정식에 대한 새로운 해결책을 얻어낸다. 우리에게는 타임머신이라고 이미 익숙하게 알려진 공상과학의 이야기는 아인슈타인의 장 방정식의 해결로서 괴델이 제시한 “회전하는 우주”라는 모델에 의해서 가능했던 것이다. 아인슈타인은 괴델의 발견을 중요한 진보라고 환영했으며 자신의 초기 연구에서 꺼림칙했던 것을 지적해주고 있다고 여겼다고 한다.

수학과 논리학, 그리고 상대성 이론에 대한 연구는 계속되었지만, 프린스턴에 정착한 이후 괴델의 연구는 본질적으로 철학과 관련된 것이었다. 이는 괴델이 실재론이라는 수학철학적 입장을 견지하고 있었고, 또 그러한 입장에서 볼 때 불완전성 정리와 칸토어의 연속체 가설이 지니는 성격이 상이하다는 데서 연유한다. 불완전성 정리에 나오는, 증명도 불가능하고 반증도 불가능한 명제, 다시 말해서 결정 불가능한 명제는 형식체계 내부에서 볼 때 결정 불가능한 것이며, 형식체계 외부에서 보면 참이다. 반면에 연속체 가설은 비록 괴델이 집합론의 공리들로부터 독립일 것이라고 추측했지만 참인지 여부를 결정할 수 있는 어떤 단서도 찾을 수 없었다. 수학과 논리학의 영역에서 괴델은 필요하다면 어떤 방법이든 사용해서 자신의 연구를 수행할 수 있었다. 그러나 이제 그는 자신이 얻어낸 결과들 앞에서 멈추어 서서 자신이 해 왔던 연구가 지니는 철학적 의미와 함축을 생각해야만 했다.

그리하여 괴델은 1943년부터 1958년까지 다른 학자들과 관련된 논문을 쓰면서 철학적 문제들을 탐구하고 그 해결을 모색하고자 했다. 이 기간 동안에 집필된 논문은 이미 언급했듯이 러셀(1944년), 칸토어(1947년), 아인슈타인(1949년), 그리고 베르나이스(1958년)와 관련된 논문이다. 1959년 이후에는 철학에서 근본적인 형이상학적 체계를 세우겠다는 야심찬 목표 아래 후설의 현상학을 연구하기 시작한다. 그러나 1959년 이후에 괴델은 이와 관련된 어떤 생산적인 학문적 업적을 내놓지 않았다. 아마도 그의 극단적인 엄격성과 완벽주의는 자신의 어떤 철학적 결과에도 만족하지 못하게 했을 것이다. 이와 동시에 그의 학문적 사명감과 이에 따른 죄의식이 밑바닥에서 그를 괴롭혔을 것이다.

어쨌든 괴델은 그의 수학철학에 대한 연구를 통하여 수학의 대상들이 인간의 정신과 독립적으로 존재한다는 플라톤의 실재론을 확고하게 부활시켰다는 평가를 받고 있다. 그는 말년에 신비주의에 경도되기도 했고, 신의 존재를 증명하려고 시도했으며, (비공식적으로) 내세를 믿었다. 괴델은 아리스토텔레스보다는 플라톤을, 그리고 칸트보다는 라이프니츠를 더 좋아했다. 또한 그는 자신의 철학이 그 주요한 특징들에서 라이프니츠의 단자론이라고 말했다고 한다. 괴델에 따르면, 철학은 개념들을 분석하지만, 반면에 과학은 개념들을 사용한다.

괴델의 불완전성 정리는 20세기 지성사에 커다란 충격이었고, 세계적인 슈퍼스타의 탄생을 알리는 신호탄이었다. 그런데 불완전성 정리는 수학과 논리학의 발전에서 획기적인 이정표일 뿐만 아니라 현대인의 삶을 혁명적으로 뒤바꿀 중요한 착상을 포함하고 있었다. 21세기를 열고 있는 지금, 컴퓨터는 우리의 생활에 깊숙이 자리 잡고 있다. 잘 알려져 있듯이 현대 컴퓨터의 직접적이고 핵심적인 아이디어를 제공한 수학자는 앨런 튜링이다. 튜링의 “보편 기계”가 바로 그것이다. 튜링은 우리의 계산절차를 모두 흉내 낼 수 있는 이른바 “튜링 기계”를 창안해내었는데, 보편 기계란 어떤 튜링 기계라도 할 수 있는 모든 일을 할 수 있는 단일한 튜링 기계를 말한다.

바로 이 보편 기계에서 필요한 핵심적인 아이디어를 제공한 수학자가 곧 괴델인 것이다. 괴델이 그의 불완전성 정리를 증명하는 과정에서 창안한 괴델 수 대응(Gödel numbering)이 바로 그것이다. 괴델 수 대응이란 대충 말하면 어떤 언어적 표현이든 그것을 하나의 수로 대응시키는 방법을 말한다. 한 단어, 문장, 그리고 문장들의 모임은 괴델 수 대응에 의해 모두 하나의 수로 대응시킬 수 있다. 그렇게 되면 예를 들어 워드 프로세서와 같은 프로그램도 결국 문장들의 모임이므로 하나의 수로 대응시킬 수 있다. 결국 하드웨어, 프로그램, 데이터라는 범주는 완전히 분리된 실체가 아니며, 운영체계의 입장에서 보면 워드 프로세서도 하나의 데이터일 뿐이다. 튜링의 보편 기계는 현대 컴퓨터의 가장 직접적인 이론적인 모태였던 것이다.

20세기를 상징하는 것으로서 두 가지를 제시하라고 한다면 다른 것들도 있겠지만 원자폭탄과 컴퓨터 정도가 아닐까 싶다. 그 만큼 이 둘은 인류의 삶과 생각을 혁명적으로 바꾸어 버렸다. 이 둘을 직접적으로든 간접적으로든 가능하게 한 것은 아인슈타인의 상대성 이론과 괴델의 불완전성 정리이다. 그런데 기묘한 것은 이 두 사람이 미국 프린스턴 고등연구소에서 절친한 친구로 함께 지냈다는 사실이다. 괴델은 1955년 아인슈타인이 사망하자 두 달 이상 대단히 슬퍼하고 괴로워했다고 한다. 세상을 엄청난 위력으로 바꾸게 될 학문적 연구를 수행했던 두 천재가 이렇게 진지한 우정을 나누며 함께 지냈다는 것은 역사적으로 참 보기 드문 광경이다.

괴델은 1978년에 “인격 장애로 인한 영양실조와 기아로” 사망했다. 괴델은 누군가 자신을 독살할지도 모른다는 편집증에 시달리며 음식에 들어 있는 세균을 두려워하면서 모든 음식을 거부했다. 키 168cm에 29kg의 몸무게로 태아의 자세로 웅크리고 죽음을 맞았던 것이다. 괴델의 죽음과 관련하여 참 기묘한 것은 힐베르트와 괴델이 벌인 세기의 대결에서 힐베르트의 구원투수로 나섰던 겐첸도 감옥에서 영양실조로 죽었다는 것이다. 또한 괴델의 핵심 아이디어를 응용하여 현대 컴퓨터의 모태를 창안해낸 튜링(A. Turing)이 스스로 청산가리라는 독에 담갔던 사과를 베어 먹고 자살했다는 것도 아이러니컬하다.

괴델과 신학

현우식 (연세대 학부대학 교수, 신학/인지과학)

I. 서언

2006년 4월 28일은 역사상 가장 위대한 수리논리학자로 평가되는 쿠르트 괴델(Kurt Gödel, 1906~1978)의 탄생 100주년이 되는 날이다. 이를 기념하여 괴델을 배출해낸 오스트리아의 비엔나대학에서는 괴델탄생100주년기념 국제심포지움이 열리게 된다. 그 행사에는 현재 관련된 분야에서 활동하는 최고급의 학자들이 나서서 발표를 하도록 되어 있고, 그 프로그램의 일별 주제는 ‘(1일)역사적 정황: 괴델의 공헌과 업적, (2일)더 광대한 비전: 신학적, 철학적, 학제적 함의, (3일)새로운 미개척분야: 괴델의 업적을 넘어서는 수학과 기호논리학’ 으로 구성되어 있다. 이 가운데 둘째 날 프로그램에서 수리논리학자인 괴델과 신학을 관련시킨 것은 흥미롭고 주목할 만한 일이 아닐 수 없다.

수학을 대중화하는 강연과 저술로 저명한 수학자 하워드 이브스(Howard Eves, 1911-2004)는 저서 <수학의 위대한 순간들> (Great Moments in Mathematics (After 1650), The Mathematical Association of America, 1981, pp. 200-208.)에서 괴델의 불완전성정리를 “신학의 한 분과로서의 수학(Mathematics as a Branch of Theology)” 라는 제목으로 다루었다. 그의 의도는 괴델의 불완전성정리에 의해 수학은 믿음과 관련된 일종의 신학적인 의미를 지니게 되었다는 것을 보여주는 것이었다.

수학자 드 수아(F. De Sua)는 그의 논문(“Consistency and Completeness- a resume,” American Mathematical Monthly, 63(1956), pp.295-305.)에서, 괴델의 불완전성정리는 수학적 증명을 위해서 우리에게 안전하다고 알려진 어떤 형식시스템도 완전하지 않다는 것을 보여주었다고 평가하였다. 그의 말대로 포괄적으로 종교를 정의한다면, 종교란 이성의 요소와 관계없이 믿음에 요소에 근거한 기반을 가진 학술이라고 할 수 있다. 이 정의에 의해 예를 든다면 양자역학은 종교가 될 수 있다. 그런데 드 수아에 의하면 수학은 유일한 종교적 지위를 차지하게 될 것이며, 그 지위는 수학이 그렇게 분류되어야만 한다는 사실을 정밀하게 증명하는 신학의 유일한 분과가 될 것이다. 이 말은 수학이 자신의 한계를 증명할 수 있는 능력을 가지고 있다는 점을 전제하고 있고, 그것은 또한 괴델의 불완전성정리의 덕택이라는 이야기이다.

이 글의 목적은 괴델의 불완전성정리의 신학적 의미를 고찰하고 괴델의 신학적 견해와 괴델의 신의 존재 증명을 소개하는 것이다. 이 글에서 다루는 범위는 괴델에 관한 학자들의 글이나 평가 보다는 괴델 자신이 남긴 글과 흔적에 집중될 것이다.

II. 괴델에 있어서 신과 무한

1975년 12월에 그랜드진(Burke D. Grandjean)이라는 텍사스대학의 사회학과 박사과정학생은 괴델과 인터뷰를 시도하면서 모두 17가지 질문을 담은 질문서를 괴델에게 보냈다. 괴델은 그 답장을 보내지 않았으나 질문에는 모두 대답을 작성하였으며, 그 내용이 괴델이 죽은 후에 발견되었다.

그 가운데 13번 질문은 다음의 두 가지였다. (a)당신의 부모님의 종교는 무엇입니까? (b)당신의 종교는 무엇입니까? 이에 대하여 괴델이 직접 작성한 답은 이렇게 되어 있다.

“개신교 루터교의 신자로서 세례를 받았음. 나의 신앙은 범신론적(pantheistic)인 것이 아니라 일신론적(theistic)인 것입니다. <스피노자의 신론이 아니라 라이프니츠의 신론을 따라>” (Kurt Gödel Collected Works Vol. IV.: Correspondence A-G (Oxford: Oxford University Press, 2003), p.448.)

괴델은 브루노(Brno)에서 자랐던 어린 시절에 루터교회에서 세례를 받았고 개신교의 루터교학교를 다녔다. 괴델의 아버지는 가톨릭교회 교인이었고 어머니는 루터교회 교인이었다. 형과는 달리 괴델은 종교에 관심을 가지고 있었다고 한다. 사후에 공개된 괴델의 서재에서는 기독교에 헌신하는 내용의 책들과 기독교의 소책자들이 많았다.

사후에 발견된 괴델의 노트 가운데 두 권이 ‘신학’에 대한 노트였다. 괴델에 의하면 “ ‘종교들’ (복수로 표현)는 대부분 불량한 것이다. 그러나 ‘종교’ (단수로 표현) 자체는 그렇지 않다.” 이러한 표현은 괴델의 사상으로 묘사되는 ‘실재론(realism)’과 무관하지 않다고 생각된다. (발표자는 괴델을 단순한 ‘실재론자’ 혹은 ‘플라톤주의자’로 명명하는 묘사에는 동의하지 않는다. 발표자는 그를 ‘비판적 실재론자(critical realist)’로 평가하기 때문이다. 이 문제는 이 발표의 범위에서 벗어나는 주제이므로 다른 기회에 논의하고자 한다.)

괴델이 가장 신뢰하고 중요하게 생각하였던 인물은 어머니(Marianne Gödel)였는데, 어머니와 교환한 서신들 속에 종교에 관한 괴델의 견해가 고스란히 남아 있다. 이 사적인 편지를 통하여 괴델이 가지고 있었던 몇 가지 신학적 견해를 다음과 같이 확인해 볼 수 있다.

(1) “과학은 성경의 마지막 책(요한계시록을 의미)에 예언된 세계의 종말을 확인해 주며 다음의 성경구절을 위한 여지를 허용합니다: “하나님이 새로운 하늘과 새로운 땅을 창조하셨다.” ”(1961년 7월 23일자 편지)

(2) 1961년 8월 14일자 편지에서 괴델은 ‘사후세계’(the second world)를 전제하고 어머니에게 고통의 문제에 대한 의미를 나누고 있다.

(3) 괴델은 현재 철학자들의 90퍼센트가 사람들의 머리 속에서 종교를 타도하는 것을 주요 과업으로 보기 때문에 어머니가 가지고 있는 종교적 문제에 대한 이해를 위해서 현재 철학의 연구는 많은 도움이 되지 못할 것이라고 하였다. 그리고 그런 점에서 종교에 대한 철학적 연구는 불량한 교회들과 같은 영향을 가진다고 하였다. (1961년 9월 12일자 편지)

(4) “제가 말씀드린 ‘신학적 세계관’이란 세상과 그 안의 모든 것들이 의미와 이유를 갖는다는 생각입니다. 그것은 사실상 선량한 의미이고 의심할 여지가 없는 의미입니다. …… 세계 안의 모든 것이 의미를 가진다는 것은, 결국 모든 것이 원인을 가지고 있다는 법칙과 아주 유사한 생각입니다. 원인은 과학 전체가 의존하는 것입니다.” (1961년 10월 6일자 편지)

(5) “오늘날 신학적 세계관을 과학적으로 정당화하기는 어렵습니다. 그러나 신학적 세계관이 모든 알려진 사실들과 완전하게 모순이 없다는 것을, 제가 순전히 합리적으로 이해하는 것이 가능하다고 생각합니다. 이것은 신앙이나 어떤 종교의 도움없이 가능하다는 것을 의미합니다. 250년 전에 저명한 철학자이자 수학자였던 라이프니츠는 이미 그런 것을 시도하였고, 또한 제가 지난 번 편지에서 시도하였던 것이었습니다.” (1961년 10월 6일자 편지)

괴델을 극찬했던 저명한 수학자이자 물리학자 헤르만 바일(Herman Weyl)은 “수학은 무한을 연구하는 과학(the science of the infinite)”이라고 보았다 (Philosophy of Mathematics and Natural Science (Princeton University Press, 1949), p.66.). 바일에 의하면 수학의 목표는 유한한 인간의 수단을 사용하여 무한을 이해하는 것이다. 수학은 무한에 대한 연구였고 수학에서 무한이 있다는 것은 종교적 직관과 같은 방향을 가지고 있는 것을 보여준다. 신학이 (1)신의 본성을 찾고 (2)신과 인간의 관계를 추구하는 것이라면, 수학은 (1)이상적 진리를 찾고 (2)이상적 진리와 세계의 관계를 추구하는 것이라고 할 수 있다. 신학과 수학 사이에는 많은 차이가 있으나, 두 학문은 역사적으로 ‘무한’의 문제를 끊임없이 추구해온 학문이란 점에서 가장 가까운 것이 사실이다.

최초로 무한에 대하여 현대적 개념을 형성해 준 집합론의 창시자 게오르그 칸토르(Georg Cantor)는 무한과 신의 문제를 함께 생각한 대표적인 사람이었다. 우리는 칸토르에 의해 가능적 무한(possible infinity)을 벗어나 실재 무한(actual infinity, real infinity)을 다룰 수 있게 되었다. 독실한 기독교인이었던 칸토르는 무한을 세 가지로 구분하였다(Gesammelte Abhandlungen, Abraham Fraenkel and Ernst Zermelo(eds.), Springer Verlag, 1932, p.378.). (1)완전 무한: 가장 완전한 형태로 실현된 무한, (2)물리적 무한: 불확정적인 무한, (3)수학적 무한: 마음이 이해하는 무한이다. 칸토르에 의하면 (1)완전 무한이란 신 안에서<in Deo> 이루어 지는 무한이고, (2)물리적 무한은 창조된 세계 내에서 이루어 지는 무한이며, (3)수학적 무한은 추상 안에서<in abstracto> 이루어 지는 무한이다. 그는 (2)물리적 무한과 (3)수학적 무한과 분리하여 신을 의미하는 (1)절대 무한을 ‘완전 무한’이라고 했고, (2)와 (3)을 초한(transfinite)이라고 했다.

칸토르의 무한 구분에 따라 수학과 신학의 주요 인물들의 무한에 대한 생각을 분류해 보면 다음과 같다.

절대적 무한 (신) 물리적 무한 수학적 무한

G. Cantor O (인정) O O

St. Augustine O X O

St. Aquinas O X X

N. Cusanus O O O

D. Hilbert X (부정) X O

L. E. J. Brouwer O O X

B. Russell X O O

K. Gödel O X O

칸토르의 입장이 추기경이면서 수학자였던 니콜라스 쿠자누스의 입장과 유사하다면, 괴델의 입장은 기독교의 신학을 체계화한 성 아우구스티누스와 가깝다고 할 수 있다. 괴델은 자신이 수학자들의 활동으로부터 독립적으로 존재하는 수학적 실재를 대상으로 수학을 한다고 생각했다. 그래서 모든 사람들이 엠파이어 스테이트 빌딩을 볼 수 있는 것처럼 자연수의 집합을 볼 수 있을 것이라고 했다. 예를 들어, 괴델은 형식시스템을 강조하는 수학자들이 연속체 문제(Continuum Problem)에 관하여 분명한 대답이 없다고 보고 있지만, 그 대답이 무엇인지를 충분히 볼 수 있을 정도로 연속체를 보고 있지 못하다고 생각했다(Rudy Rucker, Infinity and the Mind (Princeton Unversity Press, 1995), p.169.).

괴델에게 수학적 무한은 절대 무한과 구분될 수 있는 것이 아니었다. 그래서 괴델이 1938년에 폰 노이만-베르나이스 공리들로부터 연속체가설과 선택공리(Axiom of Choice)가 모순없이 증명될 수 있음을 긍정적으로 해결한 업적도 무한에 대한 그의 입장과 잘 부합되는 것이다.

III. 괴델 불완전성정리의 신학적 의미

신학이 구축하려는 학문시스템은 어떤 것인가? 만일 믿음을 통해서 깨닫는 진리를 논리적으로 정교하게 증명하려는 작업과 관련이 있다면, 신학은 괴델의 불완전성정리를 피해갈 수 없을 것이다.

괴델의 1931년 논문 “수학원론 그리고 관련된 시스템들 내에서 형식적으로 결정불가능한 명제들에 관하여(On Formally Undecidable Propositions in Principia Mathematica and Related System I,”에 있는 제1불완전성정리는 다음과 같다.

“논리식으로 구성된 클래스 k 가 오메가-무모순이고 재귀적일 때, vGenr 도 Neg(vGenr) 도 Flg(k) 에 포함되지 않는 재귀적 클래스 기호들 r 이 존재한다.”

이해를 돕기 위하여 편리한 용어로 바꾸어 본다면 다음과 같다.

“재귀적 논리시스템 S 가 무모순일 때, S 내에서 증명될 수도 없고 반증될 수도 없는 괴델명제 G 가 존재한다.”

(1) 재귀적 형식시스템(Recursive formal system)이란 현대 수학의 기반이 되는 1계논리시스템(First order logic system)과 컴퓨터과학에서 표준모델로 사용하고 있는 계산시스템(Turing Machine)과 같다.

(2) 시스템이 무모순적(consistent)이라는 것은 그 시스템이 논리적 모순(예, A∧~A)을 허용하지 않는 시스템이라는 것이다.

(3) 재귀적 형식시스템은 그 내부에 포함된 모든 명제에 대하여 증명 가부를 결정할 수 있도록 엄밀하게 고안된 시스템이다.

(4) 재귀적 형식시스템이 참인 명제를 증명할 수 있을 때, 그 시스템은 ‘완전한’(complete) 시스템이라고 정의된다.

(5) 괴델명제 G 는 ‘나는 증명될 수 없다’는 내용을 담고 있는 일종의 자기지시적 명제(self-referential formula)이다.

(6) 괴델명제 G 는 형식시스템 S 로부터 만들어 진 것임에도 불구하고 S 내에서 결정불가능한 명제가 된다. 여기에서 결정불가능이란 그 시스템 내에서 G를 증명할 수도 없고(and) ~G를 증명할 수도 없다는 것을 의미한다. 그러므로 S 는 불완전한 시스템이 된다.

괴델의 제1불완전성정리는 결국 (1)참이지만 (2)증명할 수 없는 명제가 존재함을 말해준다. 그것도 모순이 없는 형식시스템에서 일어난 일이라는 것이다. 현대수학의 아버지로 불리는 힐베르트(David Hilbert)의 원대한 꿈은 모든 수학적 진리는 유한한 방법에 의해서 증명될 수 있어야 하고 수학은 그렇게 완전한 형식시스템이 되어야 한다는 것이었다. 그런데 괴델의 정리는 수학적으로 증명될 수 없는 수학적 진리가 존재한다는 것을 보인 셈이다. 그런 의미에서 수학이 모순이 없는 재귀적 시스템이라면, 수학 내에서는 결정할 수 없는 참인 명제가 존재한다는 것이 증명된 것이다.

괴델의 제1불완전성정리는 또한 유한한 방법에 의한 증명으로는 모든 수학적 진리를 증명할 수 없음을 보여준 것이다. 보편적으로 사용하고 있는 (1)페아노 산술시스템을 포함하고 (2)모순이 없으며 (3)유한의 공리와 추론규칙을 가진 형식시스템 내에 결정불가능한 명제가 존재한다는 것을 증명한 것이기 떄문이다.

괴델의 정리가 말해주는 메시지는 명백하다. 수학적 진리의 세계는 수학적 증명의 세계보다 크다는 것이다. 괴델의 불완전성정리에 의하면 수학적 진리는 결코 증명이라는 수학적 방법에 의해서 정복될 수 없다. 그러므로 불완전성정리를 신학적으로 해석한다면, 신학적 진리의 세계는 신학적 방법의 세계보다 크다는 것이다.

괴델의 제2불완전성정리(1931)는 제1불완전성정리에 대한 형식화(formalization)의 결과로서, 형식시스템은 자신의 무모순성(consistency)을 증명할 수 없다는 것을 보여준다. 예를 들어, 집합론에서 ZFC의 무모순성은 ZFC에 의해서는 증명될 수 없다. 괴델의 제2불완전성정리의 내용은 일반인들에게는 더욱 많이 알려져 있는데, 그것은 다음과 같이 표현될 수 있다.

“재귀적 논리시스템 S 가 무모순일 때, S 는 자체의 무모순성을 증명할 수 없다.”

이에 따르면 수학이 모순이 없는 재귀적 시스템이라면, 수학은 수학의 모순없음을 증명할 수 없다는 것이다. 그러니까 인간이 모순이 없는 재귀적 형식시스템이라면, 인간은 결코 자신의 무모순성을 증명할 수 없다는 것을 함의한다. 만일 신학이 모순이 없는 형식시스템이라면, 신학은 신학의 무모순성을 증명할 수 없다.

괴델의 불완전성정리는 인간이 추구하는 논리의 한계가 가장 논리적으로 증명된 사건이다. 그러나 불완전성정리에는 다른 차원의 메시지가 포함되어 있다. 한계를 알고 있다는 것은 한계를 모르고 있는 것보다 높은 차원에 있음을 의미한다. 그러므로 괴델이 불완전성정리를 증명한 사실은 보다 높은 차원의 시스템을 향해 나아갈 수 있는 인간 지성의 높은 능력을 입증한 것이 된다.

내가 만약 1차원의 형식시스템이라면 나는 나의 무모순성을 결코 증명할 수 없다. 그러나 내가 2차원의 형식시스템이 되면 1차원 형식시스템의 무모순성을 증명할 수 있게 된다. 한 가지 해결이 된 셈이다. 그러나 괴델의 제2불완전성정리에 의하면 나는 2차원 형식시스템의 무모순성을 증명할 수 없다. 이 문제를 풀기 위해서는 내가 다시 3차원의 형식시스템이 되어야 한다. 결국 인간이 이 문제로부터 자유롭기 위해서는 끊임없이 높은 차원의 형식시스템으로 올라 가야만 한다.

괴델의 불완전성정리는 (1)인간 지성의 한계를 보여 주었고 동시에 (2)인간 지성의 가능성을 보여 주었다. 인간이 추구하는 이상적인 n 단계에 머물러 있을 때의 제한성을 논리적으로 증명해 준 괴델의 불완전성정리는 그 자체가 바로 인간이 n 단계를 벗어날 수 있는 가능성을 보여준 모델이 된다. 이런 점에서, 괴델의 불완전성정리는 신학의 한계와 가능성을 함께 생각하도록 도울 수 있다. 그러므로 신의 생각을 이해하려는 신학이라면 깊이 고려해야 할 뜻 깊은 수학적 정리가 아닐 수 없다.

“진리를 향한 최고 수준의 겸허함에서 진리를 향한 가장 높은 차원의 이해가능성이 나올 수 있다.”

그림 1. 출처 D. Hofstadter, Gödel, Escher, Bach. 괴델의 불완전성정리에 나타나는 결정불가능한 명제가 그림<화랑>의 정중앙에 표현되어 있다.

그림 2. 출처 D. Hofstadter, Gödel, Escher, Bach. 괴델의 문장(논리식)은 이 그림 안에 있다. 괴델논리식은 참이지만 증명할 수 없다. 즉 괴델명제의 집합은 재귀열거가능(Recursive enumerable) 하지만 재귀적(recursive) 이지 않다. 괴델명제는 다다를 수 없는 진리의 영역에 있다.

그림 3. 출처 D. Hofstadter, Gödel, Escher, Bach. 분자생물학의 ‘센트럴 도그마’를 이용한 괴델의 불완전성정리 설명. 특히 메타차원에서 이루어진 괴델의 넘버링(coding)을 잘 보여 주고 있다.

IV. 괴델의 신의 존재에 대한 존재론적 증명

괴델은 1970년 2월 10일에 논리학자 다나 스코트(Dana Scott)에게 신의 존재에 관한 존재론적 증명을 보여주었다. 괴델의 친구인 오스카 모르겐슈테른(Oskar Morgenstern)에 의하면, 괴델은 그 증명에 만족하고 있었고 오직 논리적 차원에서 연구했던 것이었다. 그러나 괴델은 사람들이 ‘괴델이 현실에서 신을 믿는 것’으로 생각하지 않도록 출판을 주저했다고 한다.

괴델의 신의 존재 증명은 논리학자 다나 스코트가 만든 노트에 의해서 1970년 가을 학기 세미나를 통해 프린스턴 대학가의 사람들에게 알려지기 시작하였으며, 1972년에 신학의 전문학술지로부터 정식으로 게재요청을 받았을 때에 괴델은 준비부족을 이유로 사양하였다.

두 페이지 분량의 짧은 이 증명은 몇 가지 다른 형태로 전해지고 있으나, 괴델선집(Kurt Gödel Collected Works Volume III: Unpublished Essays and Lectures(Oxford: Oxford University Press, 1995, pp.403-404.)에 수록된 것이 가장 공식적이고 믿을 만한 것이다. 그 내용은 다음 그림과 같다.

괴델은 신의 존재에 대한 존재론적 증명을 1970년 이전부터 생각하고 있었다. 그러한 최초의 작업 흔적이 1941년 경의 수기 노트에서 발견되었고, 1955년에 쓴 수기 노트에서 보다 자세한 내용이 발견되었다. 신의 존재 증명에 관련된 이 기록물들은 모두 괴델선집 III권의 부록에 수록되어 있다.

신의 존재에 대한 괴델의 존재론적 증명을 현재에 익숙한 표기법에 따라 풀어서 옮겨 보면 다음과 같다.

P(φ)는 φ가 긍정적 임을 나타낸다.

공리1. P(φ) ∧ P(ψ) → P(φ ∧ ψ)

공리2. P(φ) ∨ P(~φ)

정의1(신). ‘x가 신이다’ 의 필요충분조건은 모든 φ에 대하여 P(φ) → φ(x)이다.

정의2(x의 실재). φ가 x의 실재라는 것의 필요충분조건은

모든 ψ에 대하여 [ψ(x) → N(y)[ φ(y) → ψ(y)]] 이다.

(필연성) 여기에서 (p →N q ) = N(p → q) 이다.

공리3. P(φ) → NP(φ)

~ P(φ) → N~ P(φ)

(속성의 본질로부터)

정리. G(x) → ‘x의 실재가 신이다’

정의(필연적 존재). ‘x가 필연적 존재’ 의 필요충분조건은

‘모든 φ에 대하여 φ가 x의 필연적 존재이면 φ의 속성을 갖는 x가 필연적으로 존재한다’ 이다.

공리4. ‘필연적 존재’라는 속성은 긍정적이다.

공리5. P(φ) ∧ (φ →N ψ) 이면 P(ψ) 이다. 이것은 다음을 함의한다.

x=x는 긍정적이고, x≠x는 부정적이다.

정리. x가 신이면 신의 속성을 만족하는 y가 필연적으로 존재한다.

그러므로 ‘신의 속성을 만족하는 x가 존재’한다면 ‘신의 속성을 만족하는 y가 필연적으로 존재’ 한다.

(가능성) 그러므로 ‘신의 속성을 만족하는 x가 존재하는 것이 가능’ 하다면 ‘신의 속성을 만족하는 y가 필연적으로 존재하는 것이 가능’ 하다.

<공리5에 의해서>

‘신의 속성을 만족하는 x가 존재하는 것이 가능’하다면 ‘신의 속성을 만족하는 y가 필연적으로 존재’한다.

(‘신의 속성을 만족하는 x가 존재하는 것이 가능하다’는 것은 모든 긍정적 속성의 시스템이 모순되지 않는다는 의미이다.)

이상과 같은 괴델의 존재론적 증명은 라이프니츠의 존재론적 증명의 연속선상에서 이해될 수 있다. 왜냐하면, 먼저 (1)신의 존재에 대한 가능성(possibility)을 증명하고 그에 따라서 (2)신의 존재에 대한 실재성(reality)을 증명한다는 점에서 라이프니츠의 구상을 완성해 주고 있기 때문이다. 이점에서 존재론적 증명 가운데 안셀름(Anselm)의 증명과 데카르트(Descartes)의 증명과는 분명히 차이가 있다. 괴델은 라이프니츠 방식의 증명을 완성하고자 하는 것이었다. 이미 괴델은 1930년대와 1943~1946에 라이프니츠에 대하여 집중적으로 연구하였고, 후에 괴델 스스로도 라이프니츠가 이해한 신을 모델로 자신을 무신론자가 아닌 ‘일신론자’라고 하였다(K. Gödel, Collected Works Vol. IV. p. 448.).

그러나 괴델의 증명에서 두드러진 다른 점은 라이프니츠의 완전성(perfection) 개념을 사용하지 않고 긍정속성(positive property)이란 개념을 사용하는 것이다. 그리고 괴델은 속성을 술어변수(predicate variable)로 사용하였다. 이것은 2계논리에 해당하며 라이프니츠와는 달리 일정한 개념으로 고정되는 제한으로부터 보다 자유로울 수 있다.

V. 남은 과제

1. 괴델의 불완전성정리에 의해 ‘증명’과 ‘진리’는 완전한 동의어가 될 수 없음이 증명되었다. 괴델에 의하면 수학의 진리는 수학의 형식시스템의 증명성(provability)에 환원될 수 없다. 그러나 이것은 인간이 수학적 진리의 세계에 도달할 수 없음을 의미하는 것이 아니라, 유한적 증명의 방법으로는 한계가 있다는 것을 의미한다. 괴델이 이러한 한계를 발견했다는 것이 바로 괴델이 한계를 넘어선 것이다.

괴델은 그 누구보다도 진리의 세계는 실재하며 볼 수 있다고 믿었다. 그리고 그는 그 방법을 인간의 ‘직관(intuition)’과 관련이 있다고 생각했다. 괴델은 자신이 말하는 직관의 의미를 명확하게 밝혀주지는 않았다. 그러나 괴델에게 수학과 신학의 접촉점 역할을 하고 있는 것은 직관이라는 요소가 분명하다. 그러므로 ‘실재’에 도달할 수 있게 한다는 괴델의 ‘직관’이 무엇인지를 연구하는 것이 필요할 것이다.

2. 괴델은 신에 대한 라이프니츠의 개념을 받아들였던 유신론자였다. 그리고 동시대의 사람들이 주목하지 않거나 폐기한 존재론적 증명을 시도하였다. 괴델은 신의 존재 가능성을 증명을 통하여 신의 존재 실재성을 증명하고자 하였다. 여기에서는 신이 존재하는 ‘가능성’을 부인하는 것이 곧 무신론을 의미할 수 있다. 이것은 상당히 강력한 전제에 대한 동의를 요구한다는 문제를 낳게 될 수 있다.

3. 인간 지성의 역사에서 피타고라스의 증명을 통해서 정수로 구성된 이등변삼각형의 빗변이 더 이상 정수의 비례로 표현될 수 없음이 발견되었을 때, 그것은 한편으로는 유리수(rational number) 세계가 갖는 한계가 증명된 것이었으나, 다른 한편으로는 새로이 무리수(irrational number) 세계를 여는 계기가 되었다.

괴델의 불완전성정리도 한편으로는 하나의 세계를 마감하였지만, 다른 한편으로는 분명히 새로운 세계를 열어 주었다. 수학의 모든 진리 명제에 유한하게 이름을 붙일 수 없다는 한계를 보여준 반면, 수학적 진리의 세계가 가지는 본질은 바로 ‘무한’에 있다는 것을 괴델이 새로이 보여 준 것이다. 우리가 수학적 진리의 세계를 볼 수 있기를 희망했던 괴델은 우리를 무한의 세계로 다시 초청하고 있다.

참고문헌

Douglas R. Hofstadter, Gödel, Escher, Bach: An Eternal Golden Braid (New York: Vintage Books, 1979)

Hao Wang, A Logical Journey: From Gödel to Philosophy (Massachusetts: The MIT Press, 1996)

Hao Wnag, Reflections on Kurt Gödel (Massachusetts: The MIT Press, 1987)

Howard Eves, Great Moments in Mathematics (After1650), (Washington: The Mathematical Association of America, 1981)

John J. Davis, The Frontiers of Science and Faith, 노영상 강봉재 옮김, <21세기 과학과 신앙> (서울: 크리스천헤럴드, 2004)

John W. Dawson, JR., Logical Dilemmas: The Life and Work of Kurt Gödel (Massachusetts: A K Peters, 1997)

Palle Yourgrau, A World without Time: The Forgotten Legacy of Gödel and Einstein, 곽영직 오채환 옮김, <괴델과 아인슈타인> (서울: 지호, 2005)

Rudy Rucker, Infinity and the Mind: The Science and Philosophy of the Infinite, (New Jersey: Princeton University Press, 1995)

Solomon Feferman et.al., Kurt Gödel Collected Works Vol. III.: Unpublished Essays and Lectures (Oxford: Oxford University Press, 1995)

Solomon Feferman et.al., Kurt Gödel Collected Works Vol. IV.: Correspondence A-G (Oxford: Oxford University Press, 2003)

Torkel Franzen, Gödel’s Theorem: An Incomplete Guide to Its Use and Abuse (Massachusetts: A K Peters, 2005)