[괴델, 에셔, 바흐] 발제(20주년 서문, 서론, 1~3장)

[jstory]

괴에바(발제 서문, 서론, 1-3장).hwp

60.50KB

<괴델, 에셔, 바흐>

           - 더글라스 호프스태터 (까치, 2017)

[20주년 기념판 서문]

- 한마디로 GEB는 어떻게 생명이 있는 존재가 생명이 없는 물질로부터 나올 수 있는지 이야기하려는 매우 개인적인 시도이다. 자아란 무엇인가? 어떻게 돌이나 흙처럼 자아가 없는 물질로부터 자아가 나올 수 있는가? “나”란 무엇인가?

- GEB는 유추(analogy)를 구축해가면서 이 질문에 접근한다. 무생물 분자를 의미(meaning) 없는 기호에 비유하고 자아들(“나”, “영혼”, 생물 무생물을 구분하는 무엇이든)을 특별한, 회전하는, 뒤틀리는, 소용돌이 같은 의미 있는 패턴에 비유한다. 이 패턴은 특정 유형의 의미 없는 기호체계에서만 일어난다. 이 책의 강조점은 이 이상하고 뒤틀린 패턴들이다. 이상하고 고리 같은 패턴을 책 전체에서 “이상한 고리”(strange loop) 혹은 “뒤엉킨 계층질서”(tangled hierachy)라는 말을 쓰기도 했다.

- 내 책의 임시 제목은 “괴델의 정리와 인간두뇌”라는 밋밋한 문구였다.

- GEB는 내가 오랫동안 품고 있던 확신에 의해서 영감을 받았다. 그것은 “이상한 고리”라는 개념이 우리 의식 있는 존재가 존재 또는 의식이라고 부르는 신비를 푸는 열쇠를 쥐고 있다는 생각이었다. 이 아이디어가 처음 떠오른 것은 십대 때였다. 나는 쿠르트 괴델의 유명한 불완전성의 정리(Incompleteness Theorem)의 증명 핵심에 있는 완벽한 이상한 고리의 생각에 완전히 빠져 있었다. 수리논리학 분야가 “나”의 본질의 배후에 있는 비밀과 마주치기에는 불가해한 장소라고 생각할지 모르겠지만, 내가 네이글와 뉴먼이 쓴 [괴델의 증명]을 읽을 때에는 이 책은 이상한 고리에 “나”에 대한 비밀이 있다는 것에 관한 책이라고 소리치고 있는 것을 들었다.

- 수학의 형식체계에서 발생하는 괴델류의 이상한 고리는 이러한 체계가 “자기 자신을 인식하게”하고 자신에 대해서 말하도록 하게 하고 “자기 인식”이 되도록 하는 고리이다. 어떤 의미에서 이러한 고리가 있음으로써 형식체계가 “자기 자신을 획득했다”고 말하는 것이 너무 나가는 것은 아닐 것이다.

- 이 뼈대들을 갖춘 “자기들”(selves)이 생겨나는 형식체계는 다름 아닌 의미가 없는 기호들로 만들어진다는 점이다. 이와 같이 자기는, 의미가 없는 기호들 가운데서 오로지 특수한 유형의 비틀리고 헝클어진 패턴 때문에 발생한다.

- “의미가 없는” 기호들로 이루어진 체계에 세상의 여러 현상들은 정확히 추적하거나 반영하는 패턴이 그 속에 있을 때, 그 추적이나 반영은 기호들에 어느 정도 의미를 불어넣는다.

- 기호들 자체의 패턴들은 자체에는 결코 의미가 없고, 대신 의미는 탄소를 기초로 하는 생물의 두뇌속에서 일어나는 과정들의 유기화학 또는 아마도 양자역학에서만 튀어나온다고 믿는 철학자나 과학자들이 아직도 상당수 있다. 그런 사람들은 어떤 종류의 “의미론적 마술”이 우리의 머리통 속에서만 일어난다고 생각한다.

내가 보기에는, 이런 마술적 견해를 극복하는 방법은 우리 머리통에 존재하는 것도 순수하게 물리적인 물체로서 그것을 구성하는 성분은 완전히 메마르고 생명이 없으며, 모두 텍스트 조각이나 시디롬이나 컴퓨터와 같은 우주의 다른 모든 것들을 지배하는 법칙들과 똑같은 법칙들을 정확히 따른다는 것을 일깨우는 것이다.(자크 모노의 <우연과 필연>에 나오는 생기론, 물활론 비판과 공명하는 내용)

우리가 이 혼란스런 사실을 향해서 계속 부딪쳐야만 의식의 신비로부터 벗어나는 방법에 대한 감을 서서히 키우기 시작할 수 있다. 핵심은 뇌를 구성하는 물질이 아니라 뇌의 물질 내부에서 생길 수 있는 패턴들이다.

이것은 획기적인 전환이다. 왜냐하면 그것은 뇌란 무엇인가에 대한 생각을 다른 차원으로 옮아갈 수 있게 하기 때문이다. 세상을 반영하는 복잡한 패턴들을 지원하는 매체로서 뇌를 보게 해준다.

- 물질적인 구성요소에서 추상적 패턴으로 초점을 전환하는 것이 생명이 없는 것에서 생명이 있는 것으로, 무의미한 것에서 의미 있는 것으로 준마술적인 도약이 일어나게끔 한다고 주장했다. 결국 물질에서 패턴으로의 점프가 모두 의식이나 영혼 또는 자아를 발생시키는 것은 아니다. 모든 패턴들이 의식적이지는 않다. 그렇다면 자기(Self)라는 숨길 수 없는 표시는 어떤 종류의 패턴인가? 그것은 “이상한 고리”이다.

- 러셀과 화이트헤드의 유명한 논고 [수학 원리]는 1910-1913년에 쓰임. 그 동기는 러셀이 수학에서의 자기-지시(self-reference)의 역설들을 회피하기 위한 방법을 필사적으로 찾으려는 데 있었다. [수학 원리]의 핵심에는 러셀의 “유형이론”이 놓여 있는데, 이것은 동시대의 마지노 선과 비슷하게, 확고한 방법으로 “적”을 저지하도록 설계된 것. 프랑스에게 적은 독일이었고, 러셀에게 적은 자기-지시였다. 러셀은 수학체계가 어떤 방법으로든 자체에 대해 이야기할 수 있다는 것은 파멸이라고 믿었는데, 그 이유는 자기-지시는 반드시 자기 모순으로 가는 문을 열게 되고, 따라서 수학 전체를 붕괴시킬 것이기 때문이었다.

20년이 걸렸지만 오스트리아의 젊은 논리학자 쿠르트 괴델은 러셀과 화이트헤드가 자기-지시를 막도록 구축한 마지노 선을 우회할 수 있음을 그리고 자기-지시는 [수학 원리]에 처음부터 잠복해 있었을 뿐만 아니라 사실은 전혀 제거할 수 없는 방법으로 불쌍한 [수학 원리]를 감염시켰다는 것을 깨달았다.

세상이 이 놀라운 사실을 깨닫는 데에 이 정도로 오래 걸렸던 이유는, 자기-지시를 발생시키는 것이, 뇌에서 자아로 도약하는 것과 꽤 비슷한 도약, 즉 생명이 없는 구성 요소로부터 생명이 있는 패턴으로 도약하도록 만드는 데에 의존했기 때문이다.

- 괴델의 업적중 가장 중요한 것이 형식화된 수학의 본질적인 불완전성이었다. 하지만 불완전성이 그 자체로 GEB의 중심주제는 아니다. GEB의 경우에는, 괴델의 업적에서 가장 중요한 면은 어떤 진술의 의미가 아마도 의미가 없는 우주에서조차 심오한 결과들을 가질 수 있다는 것을 증명한다는 점이다. (“나(괴델 수)는 [수학원리] 속에서 증명될 수 없다”)

- 이런 종류의 결과는 우리에게 인과관계가 미친 듯이 뒤틀리거나 또는 뒤집혀 있는 것 같은 느낌을 준다. 문장 G가 [수학 원리] 안에서 증명될 수 없는 유일한 이유가 G가 자기 자신에 대해서 언급하고 있는 의미이다. 사실 G는, 정수에 대해서 참인 진술이므로, 증명할 수 있어야 마땅한데, 그러나 - 자기 자신을 증명할 수 없다는 것을 주장하는, 자신에 대한 진술로서의 추가적인 의미 층위 때문에 - G는 증명할 수 없다.

뭔가 이상한 것이 괴델의 고리에서 출현한다. 규칙에 묶여 있으나 의미가 결여된 세계에서 의미가 인과력(causal power)을 가지는 것이 분명해졌다.

이 기묘한 추상적 현상에 대한 불완전하지만 생생하고 구체적인 유사체를 위해서, TV 화면 자체에 화면을 내보내도록 TV카메라가 TV화면을 향해서 있을 경우 어떤 일이 일어나는지 생각해보라. 이런 고리가 뇌나 다른 기층(substrate) 속에서 생길 때, 오직 그 경우에만, 개인 - 독자적인 새로운 “나” - 이 탄생한다. 그러한 고리가 자기-지시성이 풍부하면 할수록 거기서 생기는 자기의 의식은 더 높아진다. 의식은 켜짐/커짐 현상이 아니고, 정도, 등급, 명암의 정도를 인정한다. 더 큰 영혼들과 더 작은 영혼들이 있다.(우리 뇌에 ‘자기-지시’적인 신경회로 있음을 지적한 <무의식은 어떻게 나를 설계하는가>를 상기해보자. 특정 신경 기능 영역에서 나온 일부 회로의 일부는 자기로 되돌아 간다. 그런 회로의 존재는, 이전에 경험했던 것을 상기하고 대비할 수 있게 해주는 시뮬레이션 기능을 한다. 이는 그러한 자기 재귀적 신경회로가, 대니얼 데닛식의 분류법으로는 ‘포퍼적 생명체’ 방식의 가능 조건이 된다)

- 수학적 형식체계 속에서 생기는 “자기”에 대해서 내가 말하는 것은 무엇이든지 새겨들어야 한다. 이상한 고리들은 추상적 구조인데 여러 가지 매체에서 다양하게 생긴다. GEB는 본질적으로 자기성(selfhood)이 어떻게 발생하는가에 대해서 은유로서 이상한 고리를 제안한 긴 이야기이다.

- 나는 개인적으로, 의식이라는 것을 괴델의 이상한 고리나 층위-교차 되먹임 고리를 언급하지 않고 완전히 이해할 수 있다고는 생각하지 않는다. 지난 수년간 의식의 신비를 풀려고 시도한 수많은 책들이 이런 식의 사고 노선을 따라서 거의 아무것도 언급하지 않았다는 데에 놀랐고 어리둥절했다.

- 저자의 목적이 단지 이상한 고리에 관한 이론을 우리 의식의 핵심으로서 “나”-느낌의 원천으로 제시.

- GEB는 전향적인 책이었고, 많은 사람들은 그것을 “인공지능의 바이블”과 같은 어떤 것으로 묘사했다. “나”와 자유의지와 의식이라는 덧없는 목표를 포함해서 마음의 규정하기 어려운 온갖 측면들을 본뜨려는 데에 나와 마찬가지로 매료.

[괴델의 불완전성의 정리] : 쿠르트 괴델은 1931년에 수학과 논리학 근본을 뒤흔든 정리 발표. 이를 불완전성 정리라고 부름.

제1 불완전성 정리 : “충분히 강력한 형식적 수학 체계에서는, 그 체계 안에서 참이지만 증명할 수 없는 명제가 반드시 존재한다.”

-> 어떤 체계(예: 자연수를 다루는 수학 체계)가 모순이 없고(일관적이고) 덧셈·곱셈 정도의 산술을 표현할 수 있다면 그 체계 안에는 참이지만 그 체계 내부에서는 증명할 수 없는 명제가 반드시 생긴다는 것. 즉, 완전한 수학 체계는 존재할 수 없다는 뜻.

제2 불완전성 정리 : “그 체계는 자기 자신의 무모순성을 스스로 증명할 수 없다.”

-> 어떤 수학 체계가 정말 모순이 없다는 사실은 그 체계 내부에서는 증명할 수 없다.

예를 들어, 자연수 산술 체계가 있다면 그 체계 안에서는 “나는 모순이 없다”를 완전히 증명할 수 없다.

- 수학은 ‘완결된 체계’가 아니다. 어떤 체계를 만들더라도, 항상 그 바깥에서 봐야만 해결되는 문제가 존재. 또한 진리는 증명 가능성과 동일하지 않음. 인간 이성의 한계를 드러냄. 논리와 형식 체계로 모든 진리를 포착할 수 있다는 믿음이 무너짐.

* 이진경 <수학의 몽상> 10장 중에서 (p262-p268)

- 괴델의 정리에서 가장 중요한 아이디는 문장을 수로 바꾸는 것. 해석학이나 기하학을 수로 바꾸어온 근대 수학의 역사적 전통에 충실한 셈. 특히 괴델은 증명하는 문장을 수로, 그것도 모든 수학자가 가장 확실하고 자명하다고 인정하는 자연수로 바꾸는 방법을 찾아냄.

- 문장이나 기호를 숫자에 대응시키는 방법으로

- 형식 논리 기호에 숫자를 할당하고, 그것을 유일한 수인 소수의 지수로 사용.

서론 : 음악-논리학의 헌정

- 바흐 : 카논에서 바흐는 우리에게 이상한 고리(strange loop)라는 개념의 첫 번째 보기를 제공한다. “이상한 고리”라는 현상은 위계체계의 층위들에서 위(또는 아래)로 움직이다가 예기치 못하게 출발점에 돌아와 있다는 것을 발견할 때마다 발생한다. 나는 종종 이상한 고리가 발생하는 그런 체계를 기술하는 데에 뒤엉킨 계층질서(Tangled Hierachy)라는 용어를 쓴다. (테드 창의 <당신 인생의 이야기>라는 소설집에 나오는 ‘바빌론의 탑’이라는 작품의 내용도 이 이상한 고리와 상동성을 가졌다)

- 에셔 : 이 이상한 고리의 개념을 시각적으로 가장 아름답고 강력하게 실현한 것은 네덜란드 화가 에셔(1898-1972)의 작품들이다. 그의 작품은 대부분 역설, 착시, 중의성에 기반을 두고 있다. 기본적인 착상의 유사성에서 바흐와 에셔는 하나의 주제를 음악과 미술이라는 2개의 다른 조성으로 연주하고 있다.

- 괴델 : 괴델의 발견은 핵심을 놓고 보면 고대의 철학적 역설을 수학언어로 번역을 한 것이다. 그 역설은 거짓말쟁이 역설이다(에피메니데스 역설). 에피메니데스는 크레타 사람으로 다음과 같은 불후의 명제를 말했다. “모든 크레타 사람들은 거짓말쟁이이다.”

이것은 명제를 참과 거짓으로 나눌 수 있다고 통상적으로 가정하는 이분법을 위해하는 명제이다. 당신이 그 명제가 참이라고 생각하면, 그것은 즉시 말한 이에게 소급되어 곧바로 그 명제가 거짓이라는 결론을 야기한다. 반면에 그 명제가 거짓이라고 결정내리면 마찬가지로 그 명제가 참이라고 생각하게 만든다.

거짓말쟁이 역설은 에셔의 판화와 마찬가지로 1단계로 된 이상한 고리이다. 괴델의 아이디어는 수학적 추론을 사용해서 수학적 추론 자체를 탐구한다는 것이었다. 수학이 자신을 들여다보게 한다는 이 개념은 매우 강력한 것으로 입증되었고 아마도 가장 풍요로운 결과는 괴델 자신이 찾아낸 불완전성 정리일 것이다.

- 괴델의 정리는 1931년에 발표된 그의 논문“[수학 원리]와 그와 연관된 체계들에서 형식적으로 결정 불가능한 명제에 대하여I"에 명제6으로 나온다.

: 수론의 무모순적인 공리체계들은 반드시 결정 불가능한 문제를 포함한다

- 에피메니데스의 역설이 언어의 자기-지식적인 진술인 것처럼, 괴델의 불완전성 정리의 증명은 자기-지시적인 수학적 명제의 작성에 의존하고 있다. 언어에 대해서 언어로 말하는 것은 매우 간단한 일인 데에 반해 수에 대한 명제가 어떻게 자신에 대해서 말할 수 있는지 알아내는 것은 전혀 쉬운 일이 아니다. 사실 자기-지시적 명제에 대한 착상을 수론과 결부시키는 것만으로도 천재적인 발상이다. 그러한 명제를 만들 수 있을 것이라는 작관을 가졌을 때 괴델은 주요 장애물을 뛰어넘은 것이다.

- 수학적 명제 -일단 정수론(number theory)의 명제에 국한하면- 는 정수의 속성에 대해서 어떤 주장을 한다. 괴델은 수가 어떤 방식으로든 명제를 나타낼 수만 있다면. 수론의 명제가 수론의 명제에 대한 (아마도 그 자신에 대해서조차도) 명제가 될 수 있음 것이라는 통찰을 얻었다. 달리 표현하면, 코드(code)라는 아이디어가 그것의 증명 구성의 핵심에 자리잡고 있다. 통상 "괴델 수 매기기(Gödel-numbering)"라고 하는 괴델코드에서는, 숫자가 기호 또는 기호열을 나타내도록 되어 있다. 그런 방식으로, 수론의 모든 명제는 특수한 기호들의 연쇄체(기호열)이므로 괴델 수를 획득한다. 괴델 수는 전화번호나 차량번호 같은 것인데, 그 수를 가지고 명제를 지칭할 수 있다. 그래서 이 괴델 수 매기기인 코드화라는 묘책이 수론의 명제를 한편으로는 수론의 명제로, 다른 한편으로는 수론의 명제에 대한 명제라는 상이한 두 층위에서 해석을 할 수 있게 한다.

- 괴델은 일단 코드화 방식을 창안한 이후, 에피메니데스의 역설을 수론의 형식으로 옮기기 위한 세심한 절차를 고안해야 했다. 궁극적으로 그가 에피메니데스로부터 이식한 것은 "이 수론의 명제는 거짓이다"가 아니고 "이 수론의 명제는 어떤 증명도 가지지 않는다"였다. 사람들이 일반적으로 "증명(proof)"의 개념을 모호하게 이해했기 때문에 이 명제는 큰 혼동을 불러일으킬 수 있다. 사실 괴델의 작업은 증명이 무엇인지를 그들 스스로 설명하려는 수학자들의 기나긴 시도의 일부이다. 마음속에 담고 있어야 할 중요한 점은 증명이라는 것은 고정된 체계 내부에서 명제들의 도출 과정을 보여주는 것이라는 점이다. 괴델 작업의 경우에는, 고정된 체계는 1910년에서 1913년 사이에 출간된 버트런드 러셀과 알프fp드 노스 화이트헤드의 방대한 저작인 [수학 원리]의 체계를 말한다. 그 체계에서 "증명"이라는 낱말로 지칭하는 수론에 대한 추론을 한다. 그래서 괴델 문장 G는 다음과 같이 더 적절한 표현으로 쓸 수 있을 것이다

이 수론의 명제는 [수학 원리]의 체계 안에서 어떤 증명도 가지지 않는다.

그런데 이 괴델 문장 G는 괴델의 정리가 아니다. 그것은 에피메니데스의 문장이 "에피메니데스의 문장은 역설이다"라는 언급이 아닌 것과 마찬가지이다. 이제 우리는 G의 발견이 어떤 결과를 낳는지 말할 수 있다. 에피메니데스의 진술은 참도 거짓도 아니기 때문에 역설을 낳은 데에 반해서, 괴델 문장 G는 ([수학 원리]내에서) 증명할 수는 없지만 참이다. [수학 원리]의 체계는 불완전하다. 즉 [수학 원리]의 증명방법이 너무 빈약하여 참임을 증명할 수 없는 수론의 참인 명제들이 존재한다는 것이다

그런데 [수학 원리]가 이 타격의 첫 번째 희생자였지만, 분명히 마지막 희생자는 아니었다. 괴델의 논문 제목에 있는 "그리고 관련된 체계들"이라는 문구는 의미심장하다. 왜냐하면 괴델의 결과가 단지 러셀과 화이트헤드의 저작에 있는 결점만을 지적했다면 다른 사람들이 [수학 원리]를 개선해서 괴델의 정리를 극복하도록 고무될 수 있기 때문이다. 그러나 이것은 불가능했다. 괴델의 증명은 화이트헤드와 러셀이 설정했던 목표를 달성했다고 주장하는 그 어떤 공리체계에도 적용되었다. 기본적으로 동일한 방법이 각기 다른 체계에 적용되었다. 간단히 말해서, 괴델은 어떤 공리체계이건 간에 증명가능성이 참보다는 약한 개념이라는 것을 보여주었다.

그래서 괴델의 정리는 수학기초론에 관심을 가진 논리학자. 수학자. 철학자들에게 전기충격 같은 영향을 미쳤다.

- 러셀은 역설과 논리적 모순을 막기 위해 대상과 집합의 ‘단계(레벨)’를 나누는 이론을 만듬. 그것이 바로 유형이론(Theory of Types). 우리가 늘상 사용하지 않는 추상개념을 다루는 집합이론에서는 조금 이상하기는 해도 유형이론 같은 성층화(stratification)를 받아들일 수 있을 것 같지만, 살면서 늘상 사용하는 언어의 경우 이러한 성층화는 불합리해 보인다. 우리는 여러 가지 일들에 대해서 이야기할 때 언어의 계층질서 위아래로 넘나든다고 생각하지 않는다. “이 책에서 나는 유형이론을 비판한다”와 같은 평범한 문장도, 우리가 논의하고 있는 체계에서는 이중으로 금지될 것이다.

첫째로 그 문장은 “이 책”을 언급하는데 그것은 오직 “메타책”에서만 언급할 수 있는 것이다. 둘째로 그 문장은 “나”를 언급하는데, 나는 나 자신이 대해서 전혀 언급할 수 없다. 이 보기는 우리가 유형이론을 친숙한 맥락으로 끌어들일 경우, 그 이론이 얼마나 우스워지는지 보여준다. 유형이론이 채택한 역설 치료제(어떤 형태의 자기-지시든 깡그리 축출한다)는 완벽하게 훌륭한 구문도 무의미한 구분으로 낙인 찍는 과잉살상의 진정한 사례이다.

- 어떤 사람들은 이러한 이론들이 일상적인 비형식언어가 아니라 형식언어를 다루려고 의도된 것이라고 말하면서 옹호할 수 있을 것이다. 그럴 수도 있지만, 그것은 이러한 이론들이 극도로 학술적이고, 역설에 대해서 특별한 맞춤 체계에서 나타나는 경우를 제외하고는 말해주는 것이 거의 없다는 것을 보여준다. 그뿐만 아니라 어떤 대가를 치러서라도 역설을 축출하려는 노력은, 특히 고도의 인위적인 형식체계의 창출을 요구하는 경우, 매력 없는 무모순성(consistency)은 지나치게 강조하며, 삶과 수학을 흥미 있게 만드는 변덕과 기묘함에는 관심을 가지지 않는다.

- 이 책의 주요 목표 중 하나는 겉보기에 모순 같은 것에 독자들을 정면으로 맞서게 하고, 그것을 맛보게 하고, 뒤집어보게 하고, 해체해보게 하고, 그 속에서 뒹굴게 하는 것이다. 그래서 독자들은 새로운 통찰력을 가지고 겉보기에는 극복할 수 없어 보이는 형식성과 비형식성, 생명과 비생명, 유연성과 경직성 사이의 골 속에서 빠져나올 수 있을 것이다.

그것이 바로 인공지능 연구이다. 인공지능 연구의 이상한 묘미는 많은 규칙들을 엄격한 형식으로 짜넣어서 경직된 기계를 유연하게 만들려고 하는 데에 있다.

그런데 어떤 종류의 “규칙들”이 우리가 지능적인 행동으로 간주하는 모든 것을 포착할 수 있을까? 분명히 모든 종류의 다양한 층위에 규칙들이 있어야 한다. 다수의 “평범한” 규칙들이 있어야 한다. 또는 “평범한” 규칙들을 수정하기 위한 “메타규칙들”이 있어야 하고, 그 “메타규칙들”을 수정하는 “메타메타규칙들” 등이 있어야 한다. 지능의 유연성은 바로 이 엄청난 수의 상이한 규칙들과 그 규칙들의 층위들로부터 생긴다. 지능의 핵심에는 직간접적으로 자신을 변경하는 규칙들을 수반하는 이상한 고리가 자리잡고 있다.

제1장 MU-수수께끼

- 이 책의 중심적 개념 중 하나는 형식체계(formal system)이다. 독자에게 호기심을 불러일으키는 형식체계 소개.

- MI라는 주어진 문자열에서 아래의 규칙에 따라 “MU를 생성할 수 있습니까?”라는 수수께끼.

(형식체계인 MIU-체계에서는 알파벳 M, I, U만 사용 가능)

* 규칙1 : 마지막 글자가 I인 문자열이 있다면, 끝에 U를 덧붙일 수 있다.

* 규칙2 : Mx가 있다고 하고, 그러면 독자의 문자열 목록에 Mxx를 추가할 수 있다.

* 규칙3 : 보유 목록이 문자열 중에는 III가 있는 문자열이 있으면, III대신 U를 가지는 새로운 문자열을 만들 수 있다.

* 규칙4 : 문자열에 UU가 있으면 그것을 삭제할 수 있다.

- 모두 갖추어졌다. 이제 MI에서 MU를 만드는 일에 착수할 수 있다. 즐겨보시길.

- 규칙을 가지고 생성할 수 있는 이러한 문자열을 정리(定理, theorem)라고 한다. 물론 수학에서는 “정리”라는 용어에 방금 말한 용법과는 아주 다른 통상적인 용법이 있다. 수학의 정리는 소수는 무한히 많다는 유클리드의 정리같이 엄격한 논증을 통해서 참으로 증명된 언어 명제를 뜻한다. 그러나 형식체계에서는 정리를 명제로 생각할 필요는 없다. 단지 기호로 이루어진 문자열일 뿐이다. 또한 정리는 증명되는 것이 아니고 어떤 활자처리 규칙에 따라 마치 기계로 생성되듯이 생성될 뿐이다.

이런 구분된 용법으로 표현하면, MU-수수께끼는 MU가 MIU-체계의 정리인지 묻는 수수께끼다. 나는 애초에 정리 하나를 공짜로 제시했다. 바로 MI이다. 이러한 “공짜” 정리를 공리(公理, axiom : 증명 없이 참으로 받아들이는 기초적인 가정)라고 하는데 통상적 의미와는 상당히 다른 전문용어적 의미를 가진다.

- 정리의 도출은 형식 체계의 규칙에 따라서 그 정리를 생성하는 방법을 한줄 한줄 명시적으로 보여준다. 도출 개념은 증명 개념을 모델로 삼았지만, 도출은 증명의 간소한 사촌이다.

- MIU-체계의 정리를 차례차례 생성하도록 컴퓨터를 프로그래밍 하는 것은 분명히 가능하고 매우 쉬울 것이다. 그리고 U를 생성하고 나서야만 멈추라는 명령을 프로그램에 집어넣을 수 있다. 이제는 당신은 그렇게 프로그래밍된 컴퓨터가 결코 멈추지 않을 것이라는 것을 안다.

당신이 친구에게 U를 생성해 보라고 하면 어떻게 될까? 잠시 후 그 친구가 돌아와서 맨 앞의 글자 M을 없앨 수 없으며 따라서 U를 생성하는 것은 나무에 올라가서 물고기를 구하는 격이라고 투덜거려도 놀라지 않을 것이다. 머리가 뛰어나지 않은 사람이라도 자신이 하고 있는 일에 대해 관찰을 하지 않을 수 없고, 이러한 관찰 결과 그는 하고 있는 일에 통찰을 얻는다.

이것이 사람과 기계의 차이를 보여준다고 말한 것이 무슨 뜻인지 더 분명히 해보자. 자신이 하고 있는 일에 관해서 가장 명백한 사실들조차도 결코 인식하지 못하는 방식으로 판에 박힌 일을 하도록 기계를 프로그래밍하는 것은 가능하다. 그러나 자신이 하고 있는 일들에 관한 어떤 사실들을 알아차리는 것은 인간의식에 본질적이다.

- 체계에서 벗어나가(jumping out of the system) : 수행 중인 일에서 벗어나서 해놓은 것을 검토할 수 있는 것은 지능의 고유한 속성이다. 지능은 언제나 패턴을 찾고 종종 알아낸다. 책을 읽고 있는 사람은 차츰 졸릴 수 있다. 그럴 경우 책을 끝까지 읽지 않고 옆으로 제쳐놓고 불을 끌 것이다. 그는 “체계에서” 벗어났는데, 그것은 우리의 일상사에서 자연스러운 일이다.

- 형식체계를 연구할 때 체계 안에서 작업하는 것과 체계에 대한 진술 또는 관찰을 하는 것을 구분하는 것은 중요하다. 독자는 대부분의 사람들과 마찬가지로 MU 수수께끼를 처음에는 체계 안에서 풀었을 것이다. 차츰 열을 받기 시작했을 것이고 급기야 더 생각할 필요를 못 느낄 지경에 이르면 체계를 벗어나서 그때까지 생성했던 것들을 취합해서 무엇 때문에 MU를 생성하지 못했는지를 생각했을 것이다.

- 나는 인간이라면 누구나 다 어느 정도까지는 체계안에서 작업하고 동시에 자신이 무엇을 하는지에 대해서 숙고할 수 있다고 확신한다. 사실 인간사에서 사물들을 “체계 안”과 “체계 바깥”으로 깔끔하게 가르는 것은 거의 불가능하다. 그러나 좀 더 복잡한 아이디어를 생각하는 데에 모델로 이용할 수 있도록 단순한 아이디어를 아주 명확히 공식화하는 것은 때로 중요하다. 그것이 바로 여러분에게 형식체계를 보여주고 있는 이유이다.

제2장 수학에서의 의미와 형식

- 언어와 사고는 형식적 규칙을 따르는가? 따르지 않는가? 이 문제가 이 책의 핵심문제이다. 이 장과 다음 장에서 새로운 형식체계를 몇 개 볼 것이다. 이것은 형식체계의 개념에 대해서 좀 더 넓은 전망을 우리에게 제공할 것이다. 형식체계의 위력에 대해 훌륭한 아이디어를 얻게 되고, 수학자와 논리학자들이 왜 형식체계에 관심을 가지는지 이해하게 될 것이다.

- 이 장에서 다루는 형식체계는 pq-체계이다. 3개의 기호 p q - (저자가 고안한 형식체계)

pq-체계에는 공리가 무한개 있다. 모두 적을 수는 없으므로, 주어진 문자열이 공리인지 아닌지 확인하는 방법을 원한다. 문자열이 공리인지 판정하는 명백한 결정절차가 존재하도록 공리들을 정의할 것이다.

- 정의 : x가 오직 하이픈들로만 이루어질 경우에만, xp-qx-는 하나의 공리이다.

'x'는 2번 다 같은 개수의 하이픈으로 이루어진 문자열을 나타낸다는 것을 유의하라. 예를 들면 --p-q---는 공리이다.

- 생성규칙 : x,y,z는 하이픈으로만 이루어진 특정 문자열을 나타낸다고 하자. 그리고 xpyqz가 정리라고 하자. 그러면 xpy-qz-는 정리이다.

예를 들면 x는 ‘--’, y는 ‘---’, z는 ‘-’라고 하자. 그러면 규칙은 다음과 같다.

: --p---q-가 정리로 판면되면 --p----q--도 정리이다.

pq-체계의 모든 정리에는 3개의 분리된 하이픈 무리들이 있고 그들을 나누는 요소는 한 개의 p와 한 개의 q라는 것을 지적하고 싶다. 적격 문자열(well-formed string).

- 동형성이 의미를 유발한다 : 아마 당신은 이미 pq-정리들이 덧셈 같다고 생각했을 것이다. 문자열 --p---q-----는 2+3=5이기 때문에 정리이다. 나는 일부러 ‘더하기’가 생각나도록 p를 ‘같다’가 생각나도록 q를 선택하기는 했다. 그래서 문자열 --p---q-----가 실제로 “2+3=5”를 뜻하나?

무엇이 우리를 그런 식으로 느끼게 할까? 내 대답은 우리가 pq-정리들과 덧셈 사이의 동형성을 인식했다는 것이다. 서론에서 “동형성”이라는 낱말을 정보-보존 변형이라고 정의했다. “동형성”이라는 용어는 두 개의 복합구조가 서로에 대해서 일대일 대응될 수 있을 때 적용을 하는데, 이때 한쪽 구조의 각 부분에 대해서 다른 구조에 대응하는 부분이 있다.

- 수학자가 자신이 알고 있는 두 구조 사이에서 동형성을 찾아내면 그로 인해서 기뻐한다. 그것은 마른하늘의 날벼락이고 경이의 원천이다. 알려진 두 구조 사이의 동형성을 인식하는 것은 지식에 중요한 진보를 가져다준다. 그리고 나는 동형성에 대한 이러한 인식이 사람들의 마음에서 의미를 창출해내는 것이라고 주장한다.

- 의미 없는 해석과 의미 있는 해석 : 당신은 나와 다른 해석을 선택할 수 있다. 한 형식 체계에 대한 2가지 해석 유형을 구별해 보자. 먼저 의미 없는 해석, 즉 체계의 정리와 현실 사이에 그 어떤 동형성도 볼 수 없는 해석이 있을 수 있다. 그러한 해석은 부지기수이다. p를 ‘말’로, q를 ‘행복한’으로, -를 사과로. 이제 -p-q--는 새로운 해석을 얻는다. “사과 말 사과 행복한 사과 사과”. 이 해석은 의미하는 바가 거의 없다.

또다른 해석 방식은 의미 있는(meaningful)이라고 부를 수 있다. 이런 해석에서는 정리와 참이 대응한다. 즉 정리와 현실의 어떤 부분 사이에 동형성이 존재 한다. 그것이 해석과 의미를 구별하는 것이 좋은 이유이다. 기존 어떤 낱말도 p에 대한 해석으로 사용될 수 있지만 ‘더하기’가 우리가 내놓은 유일한 의미 있는 선택이다.

- 형식체계와 현실 : 형식 규칙이 지배하는 무의미한 기호집합에 의한 행동이 현실의 어떤 부분을 모방할 수 있을 것인가에 대해서 생각하는 것은 자연스럽다. 현실을 모조리 형식체계로 변환될 수 있는가? 아주 넓은 의미에서 그렇다고 대답할 수 있을 것 같다. 예를 들면 현실 자체가 매우 복잡한 형식체계에 불과하다는 의견을 제시할 수 있다.

제3장 전경과 배경

- 소수 대 합성수 : 목표가 Px라는 형태의 정리를 가지는 형식체계를 창출하는 것이라고 가정해 보자. 철자 ‘x’는 하이픈-문자열을 나타낸다. 그 형식체계에서 정리가 될 수 있는 것은 오직 하이픈-문자열의 하이픈 개수가 정확히 소수의 개수인 문자열뿐이다. 그래서 P---는 정리일 것이지만, P----는 정리가 아닐 것이다.

- tq-체계 : 덧셈 대신에 곱셈을 나타내는 점만 빼고는 pq-체계와 비슷한 체계를 만들어 볼 수 있다. 그 체계를 tq-체계라고 하자. ‘t'는 곱셈을 나타낸다. X, Y, Z가 각각 문자열 x, y, z의 하이픈 개수라고 가정해보자. 그러고 나서 xtyqz라는 문자열을 오로지 X×Y=Z인 경우에만 정리가 되도록 한다. 예를 들면 2×3=6이므로 --t---q------는 정리이지만 --t--q---는 정리가 될 수 없다.

- 합성수 포착하기 : 소수의 속성은 어떻게 포착할 수 있을까? tq-체계를 이용해서, 합성수를 특징짓는 Cx형태의 새로운 정리 집합을 다음과 같이 정의한다.

* 규칙: x, y와 z가 하이픈-문자열이라고 하자. x-ty-qz가 정리라면 Cz도 정리이다.

이 규칙이 말하는 것은 Z(z의 하이픈 개수)가 1보다 큰 두 수 즉, X+1(x-의 하이픈 개수) 그리고 Y+1(y-의 하이픈 개수)의 곱과 같으면 Z는 합성수라는 것이다.

- 불법적으로 규정된 소수 : 다음과 같은 종류의 규칙을 제안함으로써, C-유형의 정리로부터 p-유형의 정리로 비약하고 싶은 마음이 굴뚝같다.

* 제안 규칙 : x가 하이픈-문자열이라고 하자. Cx가 정리가 아니면, Px가 정리이다.

여기서 치명적인 결점은 C가 정리가 아닌지를 점검하는 것이 명시적인 활자형 연산이 아니라는 점이다. MU가 MIU-체계의 정리가 아니라는 것을 확신하게 알려면 그 체계의 바깥으로 나가야만 한다. 위의 제안도 마찬가지 이다. 그 규칙은 형식체계의 전체 발상을 훼손하는 규칙으로 당신에게 비형식적으로, 즉 체계 밖에서 작업하도록 요구한다.

- 전경과 배경 : 전경과 배경(figure and ground)은 미술에서 유명한 구분이다. 전경 또는 “적극적인 공간”(인간 형상이나 정물 등)을 틀 안에 그리는 경우, 그에 상보적인 현상, 즉 배경, 바탕 또는 소극적인 공간이라고도 하는 것 또한 어쩔 수 없이 동시에 그려진다.

- 활자형 수론(Typographical Number Theory, TNT)에 대해서 설명할 8장에서, 수론의 모든 오류 명제들의 집합이 이와 비슷한 다음 2가지 방식으로 규정될 수 있다는 것이 우리의 희망사항이 될 것이다.

(1) 모든 TNT-정리의 집합에 대한 소극적인 공간으로서

(2) 모든 TNT-정리의 집합을 개조한 복제로서(각 TNT-정리를 부정함으로써 생성한다)

그러나 이 희망은 다음과 같은 이유에서 물거품이 될 것이다.

(1) 모든 비정리 집합의 내부에서 일부 참이 발견된다.

(2) 모든 부정된 정리의 집합 외부에서 일부 거짓이 발견된다.

(p96 그림 18)

- 이제 전경과 배경이라는 개념을 다시 형식체계의 영역으로 가져가보자. 나는 소수뿐만이 아니라 소극적으로 표현할 수 있는 수의 어떤 집합도 적극적으로 나타낼 수 있다고 확신했다. 나의 믿음을 떠받치던 그 직관은 다음과 같은 질문으로 표현할 수 있다. 전경과 그 배경이 어떻게 그야말로 똑같은 정보를 지니지 않을 수 있을까? 전경과 배경은 나에게는 상보적인 두 가지 방식으로 암호화된 정보를 담근 것으로 보였다.

소수에 대해서는 내가 옳았지만, 일반적으로 내가 틀렸다는 것으로 판명되었다. 이것이 나를 놀라게 했는데, 아직까지도 나를 놀라게 하고 있다. 그것은 다음과 같은 사실이다.

* “형식 체계 중에는, 그것의 소극적 공간(비정리 집합)이 그 어떤 형식체계의 적극적 공간(정리 집합)도 아닌 것이 존재한다.”

이 결과는 괴델의 정리와 동급이다.(그림 18의 도달할 수 있는 참과 도달할 수 없는 거짓의 경계선이 스무스하지 않고 거친 톱니처럼 우둘두둘함에 주목하라)