Artificial Intelligence 2 ( 인공지능 이야기 2편 )

[如意寶珠]

Artificial Intelligence 2  ( 인공지능 이야기 2편 )

컴퓨터가 '지능' 을 더 나아가 '감정' 을 가질 수 있다는 강인공지능주의자들의 터무늬없어 보이는 주장에 대하여 여러 가지 반론이 있을 수 있다. 여기저기의 글을 정리하다보니 대략 일곱가지의 반론으로 압축하였다. 물론 이 일곱가지의 반론이 대표성을 가지는 것은 아니다. 그냥 나름대로 쉽게 이해한 부분만을 정리한 것 뿐이다. 이 반론들이 명확하게 구분되는 것은 아니며 서로 논리적으로 연관이 되어 있는 부분도 있고 유사한 논증도 있다. 심지어는 서로 모순이 되는 부분도 있는 것 같다. 이제 좀 인간적인 음악을 들으면서 인간적인 이야기. 강인공지능주의자들에 대한 반론을 보도록 하자 !!!

Unforgettable (Nat King Cole)

튜링은 기계도 생각을 할 수 있으며 감정을 가질 수 있다는 그의 입장표명이 평지풍파를 일으킬 것을 직시하면서 예상되는 아홉가지 반론들을 아주 간명하고도 조목조목 반발하고 있다.

①신학적인 반론 : 생각한다는 것은 인간 영혼의 기능이다.

②돌대가리 반론 : 생각할 수 있는 기계들의 결과는 끔찍할 것이다. 우리는 그런일은 일어나지 않히기를 또 일어날 수도 없다고 믿는다.

③수학적인 반론 : 기본적으로 루카스의 논거이다. ( 아래 설명 )

④의식에 기초하는 논거 : 진공관 퓨즈는 슬퍼하거나 감언이설에 넘어가거나 분노하거나 원하는 것을 얻지 못할 경우에 낙심하지 않는다.

⑤다양한 종류의 무능력에 기인하는 논거 : 친절, 원기왕성, 아름다움, 상냥함 유머 등은 낱말을 적절히 사용하는 경험으로부터 배우는 것이다. 그것은 무엇인가 새로운 것을 행할 때의 인간의 행동만큼이나 다양함을 가지는 사고 자체의 주체이다.

⑥러블레이스 부인의 반론 : 해석기관은 무엇이라도 다 창출하라는 요구를 주장하지 않는다. 그것은 우리가 실행을 위한 명령을 내릴 수 있는 것만을 할 수 있다.

⑦신경체계의 연속성을 토대로 한 논거 : 신경체계는 정밀한 상태를 완벽하게 유지하는 기계는 아니다. 신경상의 자극이 뉴런에 미치는 정보상의 작은 오류만 있어도 그 결과는 상당한 차이를 유발할 수 있다. 그렇다면 우리는 신경세계의 행동을 정밀한 세계의 상태에 비추어 모방할 수 있디고 기대할 수 없다.

⑧행동의 무정형성을 근거로 한 논거 : 모든 사람이 제각기 자신의 생명을 조절하는 정확한 행동규칙의 집합을 가진다면 기계보다 나을 게 없다. 그러나 그런 규칙들은 존재하지 않기 때문에 인간을 기계일 수가 없다.

⑨초감각적 지가을 근거로한 논거 : 초능력!! 기계가 그것을 가질 수 있는가?

첫 번째 반론 : 통찰

BC 300년경 고대 그리스이 물리학자 아르키메테스(Archimedes)에게는 한 가지 풀어야 할 문제가 있었다. 당시 왕이었던 Hiero 가 새로 만든 왕관이 순금으로 만들어 졌는지 아니면 다른 금속이 섞여 있는지를 물어왔던 것이다. 덩어리로 있을 때에는 단순한 문제이지만 모양이 복잡한 왕관에서는 이 문제가 그리 간단치 않았다. 그는 목욕탕에서 물이 가득 찬 욕조에 앉자 넘쳐나는 물을 보고 이 문제가 해결할 방안을 찾아냈다. 그는 '유레카!'를 외치면서 알몸으로 거리를 내달였다. 그가 찾아낸 방법은 물을 가득 채운 그릇에 왕관을 넣고 그 왕관에 의해 넘쳐나는 물의 양을 측정한 후 왕관과 같은 무게의 순금 덩어리를 물에 담그고 나서 넘쳐나는 물의 양과 비교해 보는 것이었다. 그는 이를 통하여 그 왕관이 순금으로 만들어지지 않았다는 사실을 밝혀냈다. 그는 이러한 발견을 하기 위하여 통찰(Insight)에 의존했던 것이다. 통찰은 '아하!' 경험이라는 말로도 특징지워진다. 즉 문제에 대한 해결핵이 갑작스럽게 머리 속에 떠오른다는 것이다.

선사(禪師) 구데이는 참선에 대한 질문을 받으면 손가락을 높이 쳐들었다. 한 동자가(童子)가 그것을 흉내내기 시작했다. 구데이가 그 소식을 듣자, 그를 오라고 해서 그것이 참말인지를 물었다. 그는 그렇다고 했다. 구데이는 그가 이해하는지를 물었다. 그 동자는 자신의 대답의 징표로 두 번째 손가락을 쳐들었다. 구데이는 그 손가락을 즉각 잘라 버렸다. 아파서 펄펄 뛰는 그 동자는 방 밖으로 도망치려고 했다. 그가 문지방에 이르렀을 때 구데이는 고함을 쳤다. '네 이 놈 ! ' 동자가 뒤를 돌아보자 구데이는 자기의 두 번째 손가락을 들어서 보여주었다. 그 순간 동자는 갑자기 깨우쳤다.

통찰 !!!!

그것은 인간의 영역이다.

두 번째 반론 : 드라이푸스의 논지

버클리 대학에서 인지철학자인 드라이푸스는 인간의 지식을 둘로 나누고 있다. 그 하나는 논리적 수수께끼를 풀거나 배달트럭의 최단노선을 정하는 것과 같이 규칙에 따르는 사실적 지식(know-that)이며, 다른 하나는 자전거를 타거나 학생을 가르치는 것과 같이 경험에 근거하는 방법적 지식(know-how)이다. 사실적 지식의 영역은 일반적으로 관련된 요소들이 유한하고, 고정적이며 확실한 이른바 '구조화된'(Structured) 영역인 반면, 방법적 지식의 영역은 일반적으로 관련된 요소들이 무한하고 비고정적이며 불확실한 이른바 '비구조화된'(Unstructured) 영역이다. 그는 인간이 방법적 지식을 획득하는 과정을 구분함으로써 컴퓨터와 인간의 차이점을 지적하고 있다.

① 초보자(Novice)들은 새로운 기능과 관련된 여러 가지 사실들과 특징들을 배우고, 이러한 것들에 근거하여 어떤 행동을 결정할 원칙을 배운다. 예를 들면 '자동차 엔진의 RPM 이 1,500을 넘으면 기어를 변속해야 된다.', '차 포 마 상 졸 의 위계에 따라 상대방의 군사가 내 것보다 높은 것일 때는 공격하라'와 같은 지식이다.

② 초보자들이 실제적인 경험을 쌓아 면초보자(Advanced Novice) 단계가 되면 이와 같은 '원칙' 들이 크게 도움이 되지 못한다는 것을 알게 된다. 이러한 원칙들은 더 세련될 필요가 있게 되는데, 예컨대 '엔진이 필요이상으로 회전하는 소리를 낼 때 기어를 바꾸어라' '졸도 때로는 다른 군사보다 더 중요할 수도 있다'와 같은 것이 이 단계에 필요한 지식이다.

③ 실제적인 경험들이 더 쌓이게 되면 고려해야 할 상황적 사태들이 너무 많아지기 때문에 그것들을 다 고려할 수 없게 된다. 이러할 때 상황적 사태들에 우선 순위를 부여할 수 있는 자신의 고유한 안목이 필요하게 된다. 이로서 면초보자는 능력자(Competence)가 될 수 있다. 능력자는 자신의 안목에 의존하기 때문에 규칙지향적이라기 보다는 목표지향적이다. '최단시간에 목적지에 도착하기 위해서는 사소한 위험은 무시해야 한다' '비록 공격에 동원되지 않는 군사들을 잃을 지라도 적장을 제압할 수 있다면 공격해야 한다' 와 같은 것이 자신의 새로운 원칙이 된다.

④ 숙달자(Proficiency)에게는 보다 많은 경험으로부터 목표가 의식적인 결정 없이도 자동적으로 떠오른다. 말하자면 분석적으로 목표를 선택된다기보다는 직관적으로 목표가 제시된다. 하지만 목표달성의 방식에 관한 한, 그는 분석적으로 선택한다. '미끄러운 커브 길에서 속도를 늦추어야 겠다는 것을 직감하고, 얼마만큼 늦추는 것이 적당할 것인지 고려한다' '판세를 직감하고 공격해야 한다고 생각하지만, 어떤 군사를 움직일지를 계산한다'는 것이 숙달자의 특징이다.

⑤ 전문가(Expertise)란 상황을 더욱 세심하게 구분할 수 있을 정도의 경험을 쌓음으로써 목표는 물론이고 그 목표를 달성하는 방식까지도 선택할 필요가 없다. 전문가란 해야 할 일을 분석적인 선택없이 직관적으로 처리하는 사람으로서 자신이 하고 있는 일을 거의 의식하지 못하며 그저 할뿐이다. 전문가는 '커브 길을 지나는지 속도를 늦추는지 생각하지 않았지만, 속도를 늦추어서 커브 길을 지난다.' '지도대국과 같이 여러 사람을 한꺼번에 상대할 때 잘 드러나듯이 공격의 방법을 고르지 않고 거저 공격한다.' 적어도 우리는 길을 걸을 때 길에서 마주치는 사람을 피해야 겠다거나 어떻게 피해야겠다고 생각하지는 않는다. 우리는 걷기에서는 전문가들이다.

셋째 단계와 넷째 단계의 결정적인 차이점이 무엇인가? 그것은 분석적으로(Analytically) 목표를 설정하는가 아니면 직관적으로(Intuitively) 목표를 설정하는가의 차이이다. 드라이푸스의 견해에 '따르면 인간과 컴퓨터가 같은 일을 배우기 시작한다면 컴퓨터의 구조적인 특징상 셋째 단계까지는 컴퓨터가 혹 앞설 수도 있겠지만, 인간이 넷째 단계에 들어서면 컴퓨터를 앞지르게 했던 구조적인 특징, 즉 계산적 합리성이 컴퓨터가 인간을 앞지를 수 없도록 만든다는 결론을 얻게 된다.

컴퓨터와 인간의 이러한 차이는 '인지불능증'(Agnosia)라는 정신질환에 의해서도 확인할 수 있다. 두뇌손상을 입은 어떤 사람들은, 아이러니컬하게도 컴퓨터와 똑같이, 일반인들에게는 익숙한 사물들을 완전히 논리적인 방식으로 대한다. 이들은 분석과 합리적 설명에 전적으로 의존하며, 그들에게는 모든 것들이 특징들과 관계들로 분해되어서만 이해된다. 예를 들어 인지불능증 환자에게 삼각형의 물건을 주면, 우선 그것이 세 변에 의해 둘러싸인 세 각을 가진 것이라고 이야기하고, 오직 그렇게 하고 난 다음에야 비로소, 그것이 삼각형이라고 결론짓는다.

따라서 지능과 전문적 기술에는 단순한 계산적 합리성 외에 그 이상의 어떤 것이 존재한다. 전문적 기술이 반드시 추론을 통할 필요는 없는 것이다. 전문가들은 규칙을 적용하지 않고서도 무엇을 해야할 지를 안다. 바로 이것이 규칙에 기초한 프로그램이 순수한 인간 지능과 비슷한 것을 달성할 수 있는 가능성에 반대하는 드라이퍼스의 논변의 핵심이다.

세 번째 반론 : 설의 중국어방 사고실험

버클리 대학의 존 설(John Searle)은 인공지능에 대한 철학적 비판으로서 '중국어 방' 이라는 사고실험을 제시하였다. 방안에 한국어밖에 모르는 철수와 중국어의 기호들이 담겨져 있는 바구니들 그리고 그 중국어 기호들을 다루기 위한 한국말로된 규정집이 있다고 가정하자. 규정집의 규칙들은 기호들을 세분화해 다루도록 되어 있는데 그것은 의미론(Semantics)에 의한 것이 아니라 구문론(Syntax)에 의해 형식적으로 다루도록 된 것이다. 말하자면 '1번 바구니의 쓀라쓀라 기호를 꺼내서 2번 바구니의 쏠라쏠라 기호 다음에 놓으라는 식' 의 규칙일 것이다.

이제 어떤 중국어 기호들이 구멍을 통하여 방안으로 들어온다고 하자. 그러면 철수는 방안에 들어온 중국어 기호를 처리 하는 규정집에 규칙에 따라 방 밖으로 적절한 중국어 기호를 내보낸다. 방안으로 들어온 중국어 기호는 '질문' 이라고 하고 방 밖으로 내보낸 기호를 '그 질문에 대항 응답' 이라고 가정하자. 방 밖에 있는 사람은 방 안에서 적절하게 나오는 중국어 응답을 보고 철수가 중국어를 이해하고 있을 것이라고 생각할 것이다. 하지만 철 수는 중국어를 전혀 알지 못하고 있다. 다만 그는 규정집에 따라서 중국어 기호를 처리하고 있는 것일 뿐이다.

설이 중국어 방 사고실험을 통해서 보이고자 하는 것은 이렇게 요약된다. '철수는 형식적 컴퓨터 프로그램을 작동함으로써 밖에 있는 사람이 보기에 중국어를 정확하게 이해한 것처럼 기호처리를 잘하지만 사실은 중국어를 한 자도 이해하지 못하고 있다. 그러므로 중국어 이해에 적절한 컴퓨터 프로그램의 수행이 철수에게 중국어를 이해시키는데 충분하지 못하다면, 그것은 다른 어떤 디지털 컴퓨터에게 중국어를 이해하도록 하는 데에도 충분하지 않다.' 는 것이다.

중국어 방 사고실험과 유사한 비유를 하나 더 들어보겠다. 어느 도넛가게에는 20여종의 도넛을 만들어 팔고 있다. 이 가게의 도넛은 맛있기로 소문이 나서 손님들은 큰 상자째로 사갈뿐 아니라 손님 취향에 맞추어 특정 도넛도넛을 순서대로 상자안에 넣어준다. 처음에는 카운터에서 손님이 원하는 도넛의 종류의 갯수를 주방 아줌아메게 큰 소리로 불러주었는데 그러다 보니 실수가 많았다. 그래서 쪽지에다 주문을 받아적어 보았지만 아줌마가 글을 읽지 못해 그 방법도 쓸모없었다. 그런데 누군가가 네가지 색깔의 빨래집게를 이용한 아주 효율적인 방법을 생각해냈다. 3가지 색깔의 빨래집게의 조합이 특정 도넛을 지칭하는 것으로 약속한 것이다. 그래서 빨강+파랑+노랑 빨래집게는 '젤리 도넛' 을, 노랑+빨강+초록빨래집게는 '초콜릿 도넛' 을 하는 식으로 말이다. 그래서 카운터에서는 손님의 주문을 받고 주문목록을 빨래집게 기호로 바꾸어서 색깔순서대로 줄에다 걸어두면 아줌마는 이것을 보고 해당되는 도넛을 포장해서 내보내면 되는 것이다.

여기서 주방 아줌마는 젤리, 초코렛 이라는 말을 이해했다고 볼 수 있는가? 아니다. 말에 대한 이해없이도 빨래집게의 조합과 그것에 대응하는 도넛과의 대응관계의 규칙표만 갖고 있으면 그 일을 할 수 있다. 따라서 아줌마는 그것을 이해하지 못하고 있다. 라는 것이 설의 주장인 것이다.

네섯번째 반론 : 괴델-루카스 논증

< 괴델의 불완전성 정리 >

누군가 자신을 독살하려고 한다는 강박관념에 음식을 거부하다 결국 영양실조조 죽음을 맞이한 천재 수학자 괴델!! 죽음을 피하기 위하여 죽음을 맞이함으로써 에피메니테스 역설을 몸소 실천한 괴델은 산술의 틀 내에서 그러한 역설적인 자기지시 진술들을 표현하는 방법을 찾고자 하였다. 그는 에피메니테스의 역설을 다음과 같은 괴델 문장으로 옯겼다.

'이 진술은 증명가능하지 않다.'

만일 그 진술이 증명가능하다면 그 진술은 참이다. 따라서 그것이 말하는 것은 참이어야 하고 진술은 증명가능하지 않다. 그러므로 진술과 그것의 부정은 둘 다 증명가능한 것이 되며 이는 그 체계가 유모순임을 뜻한다. 반면 만일 그 진술이 증명가능하지 않다면 그것이 주장하는 것은 참이다. 이 경우 그 진술은 참이지만 증명불가능하며, 이는 그 형식체계가 불완전하다는 것을 뜻한다.

따라서 어떠한 형식체계일지라도 그 체계 내에서 증명될 수 없는 명제가 존재한다. 즉 어떤 명제 S가 있을 때 S도 또 S의 부정인 not S도 그 형식체계 내에서는 증명될 수 없는 명제가 있게 된다는 것이다. 예를 들어, '이 진술은 증명가능하지 않다.' 는 명제는 참인지 거짓인지를 증명할 수 없다. 만일 이 명제 전체가 참임을 증명할 수 없다면 내용상 이 명제는 참이 된다. 즉 증명될 수 없다는 것이 이 명제가 참이기 위한 필요충분조건이 된다. 이는 결정 불가능성 또는 불완전성의 문제가 된다. 즉 진리는 증명보다 크다는 것이다.

불완전성의 정리에 따르면 인간의 마음 또는 모든 수학적 직관들을 모두 기계화, 형식화할 수 없다. 인간의 직관을 기계화한다는 것은 한 형식체계를 유한히 기술한다는 것인데, 유한한 기술에서 우리는 이 형식체계에 모순되는 것을 발견하며 그것은 이 체계가 증명할 수 없다는 것을 안다. 괴델의 결과가 지니는 이러한 의미는 생각하는 컴퓨터를 만들어 낼 수 있다는 강인공지능주의자들의 주장을 일축했다. 만일 인간의 정신이 알 수는 있지만 계산기계에 의해 접근할 수 없는 진리들이 존재한다면 우리는 어떵게 인간의 인지적 절차들을 복제할 수 있는 '인공지능' 을 만들어낼 수 있단 말인가?

< 루카스 논증 > 

옥스퍼드 대학의 철학자 루카스는 1961년 '정신, 기계 그리고 괴델' 이라는 제목의 논문에서 괴델의 정리는 기계론적인 시각이 틀리다는 것, 즉 정신을 기계로서 설명될 수 없다는 것을 증명하고 있다고 주장한다. 의식을 가지는 존재가 무엇인가를 안다고 말한다면 우리는 그 존재가 안다는 것을 말할 뿐만 아니라, 그 존재는 자기가 안다는 것을 안다는 것, 그 존재가 그것을 안다는 것을 안다고 것을 안다는 것, 그 존재가....... 인 것을 의미한다는 것이다.

괴델은 불완전성 정리를 통하여 인간은 알 수 있지만 알고리듬으로는 알 수 없는 어떤 진리가 있다는 것을 보여주었다. 그 이유는 인간은 '계의 바깥에서 보기' 가 가능하지만 알고리듬은 그것이 불가능하기 때문이라고 루카스는 설명하고 있다.

화가는 세계를 모조리 화폭에 담으려고 시도한다. 그러나 그리고 있는 자기도 세계의 일부임에도 불구하고 그 그림에는 자기가 빠져 있다. 그는 자기를 그려넣는다. 그러나 세계-자기를 그리고 있는 자기 역시 세계의 일부가 아닌가? 그래서 다시 세계-자기를 그리고 있는 자기를 그려 넣는다. 이러한 시도는 어디선가 멈출 수 밖에 없고 결국 최종적 그림에는 '그리고 있는 자기' 가 빠져나갈 수 밖에 없다. 즉 화가는 세계를 완전하게 화폭속에 담는 것이 불가능하다는 것이다.

데카르트는 ' 나는 생각한다. 고로 나는 존재한다. ' (Cogito ergo sum) 라고 했다. 여기에서 '나는 생각한다' 는 것은 '내가 생각한다는 것을 내가 안다' 는 의미이다. 그리고 이것의 의미는 '내가 생각한다는 것을 내가 아는 것을 내가 아는 것이다.' 그리고 이것의 의미는 '내가 생각한다는 것을 내가 아는 것을 내가 아는 것을 내가 아는 것이다.'

결국 루카스의 화가그림처럼 '나는 생각한다' 함은 자기를 확폭속에 담는 것이 불가능한 것 처럼 무한퇴행으로 빠져들 수밖에 없다. 하지만 이러한 문제를 데카르트는 '코키토' 를 제시함으로서 해결하려 하였다. 코키토는 바깥으로 나가는 통로가 되는 것이다. 이러한 대상화 되지않는 코키토를 통해 세계를 비교해 봄으로써 자신의 존재와 함께 세계의 현존함을 확신할 수 있는 것이며, 괴델의 불완전성 정리에서 탈출한다.

 < 바깥에서 보기 - 매트릭스 > 

마그리뜨의 '인간의 조건' 이란 작품을 보면 창문 밖의 배경과 캔버스에 그려진 배경의 구분이 되질 않는다. 캔버스 안의 그림이라고 생각하는 순간 나무는 밖에 실재로 존재하는 나무가 되고, 밖의 풍경에 있는 나무라고 생각하는 순간 그 나무는 어느새 캔버스 속에 그려진 가상의 나무가 되어 버린다.

과연 그 나무는 실재로 존재하는 것인가, 아니면 의식속에 존재하는 나무인가? 나의 의식속에 비친 상과 바깥에 존재하는 상을 비교해 보기 위해서 우리는 '의식' 밖으로 걸어나와서 우리 의식의 '안'과 '밖'을 비교할 수 있어야 한다. 만약 우리가 의식 바깥으로 나갈 수 있다면, 우리 의식'안'의 상이'밖'의  모습과 일치하는지, 아니면 그걸 왜곡했는지, 또는 아예 허깨비에 불과한지 확실히 알 수 있을 것이다. 하지만 우리가 어떻게 우리의 '의식'을 벗어난단 말인가?

메트릭스 ( Matrix )

인공 두뇌의 컴퓨터가 지배하는 2199년. 인간들은 태어나자마자 인공 자궁에 갇혀 컴퓨터의 생명 연장을 위한 에너지로 사용되고, 뇌세포에 매트릭스라는 프로그램이 입력된다. 인간은 매트릭스 프로그램에 따라 가상 현실속에서만 살아간다. 매트릭스 밖, 가상 현실의 꿈에서 '모피어스' 와 그의 동료들은 인류를 구원할 영웅을 찾아내는데 그가 바로 컴퓨터 프로그래머인 '네오' 이다. 결국 '네오' 는 매트릭스 밖을 벗어나 컴퓨터에 의해서 양육되고 있는 인간의 비참한 현실을 확인하게 된다.

'Matrix' OST 중에서 Metallica

하지만 영화 <매트릭스>에 나오는 메시아 '네오' 는 데카르트가 코키토를 통해 바깥으로 나가듯 그 자신이 매트릭스 바깥으로 나가 봄으로써 그가 있던 세계가 가상이었음을 인식한다. 거기에는 어떠한 의심도 없다. 말하자면 모피어스 일당이 네오에게 먹으라고 준 빨간약이 환각을 일으키는 약이고 그의 동료들은 사이비 광신도들이며, 그들을 쫓는 검은 양복의 사나이들은 사회의 치안유지를 위하여 노력하는 선량한 형사들일 수 있다는 사실에 대하여는 조금도 가능성을 제시하지 않는다.

 < 바깥에서 보기, 하지만 진짜인지 알 수 없는 ...  - 토탈리콜 >

러셀은 극단적 회의주의의 관점에서 '이 세계는 신에 의하여 5분전에 창조되었고, 나의 과거에 대한 기억은 모두 신에 의하여 조작된 것이다.' 라는 5분가설을 제시했다. 이 가설이 정말인지 아니면 말도 안되는 이야기인지 증명할 수 있는가? 만약 감각이 완벽하게 속아 넘어간다면 진실은 어떻게 밝힐 수 있는가?

이렇듯 네오가 매트릭스를 보았다고 생각하는 건 환상일 수 있다는 관점의 영화가 근육질의 사나이 아놀드 슈와츠제네거 주연의 <토탈리콜>이다. 토탈리콜에서는 장자의 <호접몽>처럼 '하우저' 와 ' 퀘이드' 중 어느것이 진짜 모습인지 끝까지 알지 못한다.

토탈리콜 ( Total Recall )

서기 2084년, '퀘이드' 는 그의 아내 '로리' 와 평범한 생활을 하면서도 마음은 언제나 화성으로 향하고 있다. 이런 이유로 그는 매일 밤 화성을 연상하는 꿈을 꾼다. 어느날 그는 리콜사를 방문한다. 이 회사는 가상현실 기술을 이용하여 저렴한 비용으로 실제여행 이상의 실감을 느끼도록 가상여행을 체험시켜주는 회사이다. '퀘이드' 는 화성에서 비밀업무를 맡아 악당을 물리친다는 프로그램을 선택하여 가상여행을 시작하는데 기계가 고장나면서 여행이 중단된다. 이것을 계기로 퀘이드는 실제로 '하우저' 라는 화성의 특수요원이었다는 것을 알아낸다. 그리고 화성탐사를 시작하는데....

가상여행중에 발생한 기계의 고장이 진짜라면 '하우저' 는 실존하는 인물이고 기계가 고장난 것 자체가 또 하나의 가상현실이라면 '하우저' 는 실존하는 인물이 아닌 것이다. 그런데 그 것을 어떻게 알 수 있을까? 퀘이드가 하우저이기 위해서는 스스로 자신이 리콜사의 가상현실에서 벗어났음을 보아야 하는데 그것이 가능하지가 않다. 가상여행을 시작할 때 생긴 기계의 고장이 현실인지 아니면 또 하나의 가상현실인지 알 수 가 없다. 내가 나이기 위해서는 나 밖으로 벗어나서 나를 바라보아야 하는데 자신을 화폭에 그리는 순간 자기자신은 그림밖에 나가  있게 되는 루카스의 그림처럼 '무한 퇴행' 이 계속되는 것이다.

퀘이드는 고민끝에 자신에게 주어지는 감각을 현실로서 인식한다. 말하자면 그는 '퀘이드' 이기를 포기하고 화성의 특수요원인 '하우저' 의 역할을 수행한다. 하지만 그는 영화의 마지막 부분에 불안스럽게 한마디 던진다. '이것이 전부 꿈이면 어떡하지?' 그렇다. '네오. 당신은 어떻게 당신 자신이 매트릭스 밖으로 나갔다고 자신할 수 있는 것인가?' 초월에 대한 자신은 어디에 기초하고 자신할 수 있는 것인가? 토탈리콜은 매트릭스를 향해 정면으로 그 질문을 던지고 있다. 즉, 매트릭스의 밖으로 나간 그 상황 역시 또 하나의 매트릭스 일 수 있다는 것이다. 토탈리콜의 물음은 그것을 암시하고 있다. 때문에 우리는 데카르트의 명제에 대해서도 물어봐야 한다. 의식은 현실을, 앎을 보장해 줄 수 있는가? 나는 정말로 존재하는가?

장자가 어느 날 꿈을 꾸었다. 나비가 되어 꽃들 사이를 즐겁게 날아다녔다. 그러다가 문득 깨어 보니, 자기는 분명 장자가 되어 있었다. 나는 원래 장자인데 나비꿈을 꾼 것인가, 원래 나비인데 장자꿈을 꾸고 있는 것인가?     - 장자의 호접몽 -

 < 미친놈의 바깥에서 보기 - 뷰티풀 마인드  >

환각에 사로잡혀 있는 정신병자가 자신이 환각속에 사로잡혀 있음을 스스로 알 수 있을까? 자신이 환각속에 사로잡혀 있다는 것을 알려면 환각밖으로 나와야 하는데 그것이 논리적으로 가능한가? 이것은 하나의 형식체계의 일관성을 그 체계내에서 중명될 수 없다는 괴델의 불완전성 정리와 비슷한 구조하고 생각한다.

Beatiful Mind

94년 노벨 경제학상을 받는 천재수학자 존 내시가 정신분열증을 극복하는 과정을 실화를 바탕으로 그린 휴먼 드라마 'Beautiful Mind'

주인공 존 내쉬는 30여년간 정신분열증으로 환각과 망상에 사로잡히고 자신이 이룩해온 모든 것을 파괴시켜 버린다. 그러던 어느날 그는 그가 오래전부터 보아왔던 한 소년이 수십년이 지난 지금도 소년으로 남아있다는 알아차린다. 그리고 그는 그 소년이 환각이고 자신은 망각속에 살고 있음을 스스로 깨닫는다.

'Beautiful Mind' OST 중에서

그런데 이런 불완전성 정리를 반증하는 사례가 하나 있다. 영화 '뷰티프 마인드' 를 보면 주인공은 30년간의 환각속에서 스스로 걸어나와 자신을 이성적으로 바라본다. 자신이 30년간 보아왔단 소년이 자라지 않는 것을 깨닫고 그 소년이 환상임을 자각한다. 늪에 빠진 소년이 자신의 신발끈을 끌어올려 늪에서 빠져나온다는 '구두끈 이론' 이 생각난다.

다섯 번째 반론 - 비트겐슈타인 논증

 비트겐슈타인(1889~1951)은 cosmoscan 의 요청만 아니었다면 이런 자리에서 그와 대면하고 있을 이유가 없었다. 그가 동성애자라는 사실은 그런대로 참을 수 있었다. 하지만 그의 인공지능에 대한 말도 안되는 주장을 듣는 것은 참기가 어려웠다. cosmoscan 의 체면을 지켜주기 위해서 참고 있을 뿐이지 사실 튜링(1912~1954)은 한 주먹거리도 안되는 애송이에 불과했던 것이다. 이런 비트겐슈타인의 마음을 아는지 모르는지 튜링은 침까지 튀겨가면서 연신 이야기를 계속해 나갔다.

튜링 : ............. 반복되는 이야기지만 저는 두뇌의 작용과 계산 기계의 작용간에 차이점이 없다고 생각합니다. 사고를 전달하기 위해서 사용하는 언어를 포함헤서 말입니다. '물주전자'  같은 개념은 두뇌에 신경이 켜짐과 꺼짐을 반복하는 특정 집합으로 코드화되어 있습니다. 이 유형은 다른 신경 유형과 상호작용을 하는데 예를 들면 '물잔' 에 관련된 유형과 '따르다' 같이 좀 더 복잡한 생각을 발생시키는 거지요. 저는 기계도 같은 방식으로 생각할 수 있다고 믿고 있습니다.

cosmoscan : 튜링선생이 방금 설명하신 내용은 몇 년전 비트겐슈타인 선생의 언어에 관한 통찰과 가까운 것 같습니다. 비트겐슈타인 선생은 '그림이론'을 통하여 언어와 현실이 공통의 논리적 형태를 갖고 있다고 주장하였습니다. 이것은 언어는 세계를 반영하며 언어적 진술은 사실을 그림처럼 서술한다는 점을 내포하고 있습니다. 맞습니까?

비트겐슈타인 : 틀림없소. 그리고 사실과 그것을 언어로 표현한 것의 관계는 결코 언어로 표현될 수 없는 것이요. 언어의 어휘로는 결코 이들의 상응성을 표현하지 못하오. 그러니 언어의 문제를 논리로 밝혀내겠다는 생각은 그만 접어둡시다.

cosmoscan : 하지만 튜링선생은 사고는 현실세계 대상에 대한 다양한 기호 표현들이 두뇌 속에서 결합하는 것에 가깝다고 말씀 하셨는데 이것은 선생의 그림 이론과 상당히 잘 맞지 않습니까? 튜링 선생의 기호코드화와 선생의 그림이론을 연관시키기만 하면 되는 거니까요.

비트겐슈타인 : 선생은 나의 그림이론을 완전히 오해했소, 그림은 생각속에 있는 대상을 표현해 낸 것이 아니오. 그것은 기차, 탁자, 아니면 모자 따위를 그림으로 나타낸 이미지를 말하고 있는 것이 아니오. 나는 대상과 그 대상에 언어로 붙어 있는 이름 간의 관계를 표현하는 것은 절대 불가능함을 설명하고 있는 것이요. 이 관계는 오직 자기 존재를 보여줄 수밖에 없으며, 결코 언어로 진술되지 못하는 것이요. 그러나 이는 언어에 대한 틀린 그림이었고 그래서 나는 이것을 완전히 폐기했소.

cosmoscan : 선생의 그림이론을 혼돈한 점 사과드립니다. 하지만 선생께서는 이것이 언어와 생각의 관계의 잘못된 이론이라고 생각하고 있으신 것 같은데. 사고에 있어서 언어의 역할에 관하여 현재는 어떻게 보고 계시는지 알고 싶군요.

비트겐슈타인 : 언어는 결코 그림이 아니오, 오히려 도구 , 정밀한 도구요.

튜링 : 무엇에 쓰는 도구입니까?

비트겐슈타인 : 판단을 내리는 데 쓰는 도구요. 개나 사자처럼 언어가 없는 존재는 어떤 것에 대해 옳다거나 틀리다거나 말할 능력이 없소.

cosmoscan : 그렇다면 어떤 종류의 유기체가 사람과 같은 종류의 언어를 가질 수 있습니까? 그건 두뇌 특정 구조의 특성입니까? 아니면 뭔가 다른 문제도 포함이 되는 건가요?

비트겐슈타인 : 언어에서 사람의 두뇌구조가 주된 문제는 아니오. 당신 개의 두뇌와 내 두뇌는 내 것이 약간 더 크다는 것 말고는 구조상 크게 다른 점이 없소. 언어에서 본질적인 것, 그리고 당신의 개가 갖지 못한 것은 언어를 공유하는 다른 사용자들의 존재요.

튜링 : 그러면 선생께서는 근본적으로 언어는 사화적 관습의 문제이기 때문에 개인의 언어란 있을 수 없다는 말씀입니까?

비트겐슈타인 : 당연한 것 아니요? 언어는 규칙을 필요로 하오. 그리고 개인의 규칙은 규칙이라고 할 수 없소. 전적으로 규칙에 지배되는 행동을 하기 위해서는 규칙을 유지하고 어떤 것이 규칙에 따르는 것인지 어떤 것이 규칙에 따르지 않는 것인지를 그 권위로서 규정하는 한 사회의 성원이 되어야 하는 것이다.

cosmoscan : 개인이 개인의 규칙을 따르면서 자신이 그 상황에서 사용하는 규칙에 관하여 우리와 구두계약을 맺는 것이 왜 안 된다는 것이오?

비트겐슈타인 : 그 개인이 자신이 어떤 규칙을 따르고 있는지를 말할 수 없는 단적인 이유는 그 자신이 어떤 규칙을 사용하는지 말하는 행위자제가 규칙에 지배되는 활동이기 때문이오.

튜링 : 그렇다면 어떤 사람이 다른 사람들과 같은 규칙을 따르고 있는지 어떻게 확신할 수 있겠습니까?

비트겐슈타인 : 수많은 사람이 동일한 규칙을 따르는 것은 이들이 하나의 규칙에 대해 서로 똑같은 개인적, 내면적 개념을 지니고 있는 것이기 때문 아니오? 말하자면 이들이 행하고 있는 것이 동일한 규칙을 따르는 것인가 여부를 결정하는 사회의 감독이 있다는 것이오. 한 사람이 규칙을 따를 때에는 적어도 한 명 이상의 사람이 그 규칙을 따라야 해요. 말하자면 규칙에 따르는 것이 무엇인가에 관해서는 개인의 언어나 개인의 해석이 있을 수 없다는 거지요. 허나 그렇게 되면 튜링기계같은 계산 기계는 그것이 규칙을 따르고 있는지 절대로 스스로 알 수 없으며 따라서 사람처럼 생각하는 기계는 결코 있을 수 없다는 거예요. 말하자면 언어는 사회적 맥락 안에서만 획득될 수 있는 것이오. 그리고 사회적 맥락안에서 동일한 것을 획득하려면 생물학적 동일성이 있어야 하오.

튜링 : 그렇다면 한 대의 튜링기계에 사람이 지닌 모든 감각기관 말하자면 눈, 귀, 냄새를 위한 코, 감촉을 위한 피부를 부여하고 이 인공지능을 사람의 환경에 들어내어 인간 사회의 언어에 노풀시킨으로서 이 인공지능이 두뇌를 구성하는 전자회로를 재구성하는 과정을 거쳐 언어를 습득할 수 있지 않게습니까?

비트겐슈타인 :  아니 튜링선생 그걸 말이라고 하는거요? 의미를 지닌 언어적 표현을 포함해서 생각의 속성을 지녔다고 할 수 있는 것은 그러한 표현들이 말로 통하는 생활 방식에 결부되어 있은 존재들한데 뿐이오. 고통이라는 개념은 우리삶의 특정 기능으로 특징지어지는 것이오. 우리는 이 상태와 함께 오는 느낌만을 고통이라고 부르오. 선생이 그 기계의 행동에다 고통이라는 고리표를 달아줄 수는 있겠지만 그건 우리 사람이 고통이라고 부르는 것과는 아무런 관련도 없으며 그건 그 기계에 쾌락이나 익살, 기쁨 혹은 슬픔이라는 꼬리표를 붙이더라고 마찬가지요. 사람의 여타 감정을 기계가 이해하지 못하는 것이나 마찬가지로 선생이 고통이라고 붙여놓은 것의 의미를 기계는 이해할 수 없소. 사람처럼 생각하는 기계라는 발상 자체가 완전한 모순이오. 소위 튜링테스트를 통과하였다 하더라도 속지 마시오. 사람의 생각은 전적으로 언어와 결합되어 있는데 언어는 삶, 이것은 사람의 삷이오. 삶의 양식을 고유한 데서 나온 직접적인 결과요. 그리고 제아무리 교묘하게 만들어놓은 기계라도 그것이 기계인 한 사람의 삷의 양식을 공유할 수 없는 것이오.

여섯번째 반론 : 복제 반론

하향진영의 강인공지능주의자의 관점인 심적상태에 대한 알고리즘의 논리적 구조가 중요한 것이지 그 알고리즘의 특정한 실체적 구현을 완전히 무관하다는 주장에 대하여 반론을 제시한다. 사람의 사고는 두뇌를 구성하는 원자와도 관계가 있는까? 한 사람의 사고의 개별성(Identity)은 그 두뇌를 구성하는 전자, 양자와 관계가 있을까? 양자역학에 따르면 전자, 양자들의 수준에서는 개별성은 없어진다. 그것들은 완전히 동일하고 양자들도 서로 동일하며 어떤 원소들이것 같은 종류들은 서로 동일하다. 좀 더 심하게 말하는 양자, 전자 수준에서는 개체성 자체가 의미가 없어진다. 따라서 만일 어떤 사람 두뇌 속의 전자를 벽돌 속의 전자와 교환하더라도 전체 시스템은 동일하다.

감정의 복제문제 (Star Trek)

공상 SF 드라마 스타트렉(Star Trek)을 보면 원격이동장치를 이용하여 먼 거리를 순식간에 이동하는 장면이 나온다. 이 장치에 의하여 이동하게 되는 대상은 스캔되어 대상을 이루는 모든 원자의 정확한 위치 및 완전한 정보가 자세히 기록되고 이러한 정보는 전자기 신호 형태로 멀리 떨어진 목적지 항성으로 전송된다. 그곳에서 이 정보가 수집되면 이를 이용하여 이동대상의 정확한 복제가 이루어진다.

그 대상이 화물인 경우에는 기본적으로 분자수준까지 스캔 전송되지만, 생명체의 경우에는 신체의 혈액흐름, 신체전기등 모든 내용을 정확하게 파악, 전송하지 않으면 안된다. 따라서, 생명체를 전송할 경우 양자단위까지 스캔, 분해하여 전송하게 된다. 따라서 그의 기억, 의도, 희망 그리고 마음 깊은 곳에 있은 감정까지도 복제가 되는 것이다.

'Star Trek' OST 중에서

그런데 만일 그 여행자의 원본이 이 게임의 법칙이 정한대로 폐기 되지 않는다면 무슨 일이 발생할까? 그의 자아는 동시에 두 곳에 존재하게 되는 것인가? 물리학의 법칙 중에서 과연 원격 이동을 원칙적으로 불가능하게 하는 요소가 있는가? 이 문제는 인과율이 지켜지기 위해선 과거로의 시간여행이 불가능하다는 철학적인 이유와 유사한 구조를 보인다.

일곱 번째 반론 : 펜로즈의 양자역학적 반론

어둠에 익숙해진 인간의 눈이 빛의 신호의 도착을 감지하기 위해서는 약 일곱 개의 광자를 필요로한다. 그렇다면 인간의 망막에 단일 광자를 감지할 수 있는 세포가 존재하는 것은 확실하며, 인간 신체에 단일 양자 활동에 의하여 반응되는 뉴런이 존재하는 것이 사실이라면, 이런 종류의 세포들이 인간 두뇌의 주요 부분 어딘가에도 있을 것이다. 스티븐 호킹박사와 더불어 블랙홀 이론을 정립한 수리 물리학자 '로저 펜로즈' 는 이러한 가정을 전제로 하여 원자나 소립자 수준에서 적용되는 양자역학이 두뇌작용에 중요한 역할을 한다고 주장한다.

자유의지, 의식 등과 같은 문제의 철학적 논쟁의 배경에는 고전물리학에서의 결정론적인 사고관으로는 해결되지 않는 비알고리즘적인 것이 존재한다. 그리고 그 기저에는 양자역학이 중요한 역할을 하고 있다. 양자역학에 따르면 입자들은 개별적인 설명이 불가능하고 그 대신 이들이 전체적으로 가질 수 있는 여러 가지 배열의 복잡한 중첩으로서 고려되어야 한다. 의식은 뉴런 속의 양자역학적 상태에 의해 발생한다. 의식이 없는 지능은 진정한 인간의 지능과 동일할 수는 없을 것이다. 결국 프로그램에 의해 작동하는 기계의 지능과 양자역학적 상태에 의해 일어난 의식 있는 지능은 동일한 종류의 것이 될 수 없을 것이다.

로저 펜로즈는 두뇌의 가장 기본적 수준에서의 양자역학 현상의 비결정성에 놓인 창조성과 복잡성 때문에 인공지능보다 인간의 마음이 우월하다고 주장했다. 인공지능은 고전역학의 테두리에서 국한되었기 때문에 괴델 정리 같은 세련된 수학적 참의 증명들의 발견에 의해 막혀버린다는 것이다. 인간의 마음이 양자 역학적 현상에 그것의 인과적 바탕을 가지지만 컴퓨터의 마음은 물리주의가 분자수준에서부터 소립자 양자 수준으로 환원되었음에도 불구하고, 기본적으로 물리적 물질적 생리학적 입장에 바탕을 갖는다는 점에서 인간의 마음과는 차이가 있다는 것이 펜로즈의 인간의 마음과 기계의 마음의 차이에 대한 주된 견해이다.

마음과 물질세계가 맺는 관계를 알고리즘으로 이해할 수 없다는 것 마음은 물질세계와 연결되는 부분을 이해하려면 양자역학적 관점을 택해야 할 것이라는 것이며 그것은 심신문제를 해결하는 또 하나의 열쇠가 될 것이라는 것이다. 수리논리학에서의 접근이 가져다 준 것이 인간의 마음과 기계의 마음이 동일하지 않다는 것에 불과했다면 양자역학에서의 접근은 인간의 마음과 기계의 마음이 동일하지 않음을 보여줄 뿐 아니라 인간의 마음이 몸과 어떠한 연결고리를 갖는가를 보일 수 있다는 것이다.

올 여름 아이작 아시모프의 SF 추리소설 '로봇'을 읽었다. 소문대로 너무나 재미있었다. 그래서 인공지능에 대한 이야기를 꾸며봐야겠다고 생각했다. 아주 쉽게 생각했다. 그런데 그 곳에는 생각지도 못한 난해한 문제들이 얽혀 있었다. 철학, 심리학, 인지과학, 신경과학, 수학, 언어학 등 도대체 걸려있지 않는 분야가 없었다. 이 광범위한 주제들을 밀도있게 정리하는 것이 나에게는 너무나 벅찬일이었다. 그래서 이렇게 서둘러 마감을 한다. 강인공지능주의자의 주장이나, 그 반대의 주장이나 모두 적절하게 설명하지 못했다. 기회가 되면 다시 손을 보겠다.

출    전

괴델, 에셔, 바흐(더클러스 호프스태더)

괴델 (존 캐스티/베르너 드파울리)

황제의 새마음 (로저 팬로즈)

인간 행동과 심리학 (오세진외 11인 공저)

인공지능 이야기 (존 카스티)

뇌 100가지 새로운 지식 (모리 아키디네)

작은 가이아 (조용현)

신과학 산책 (권재희 엮음)

인지과학 서설 (이정모 )

마음은 기계인가? 튜링기계와 괴델정리 (이정모)

강인공지능에 대한 논쟁에서 펜로즈의 주장이 갖는 의의 (박정혜)

컴퓨터시대의 인간의 위치-드라이푸스와 아이디를 중심으로 (김성동)

'사물은 기묘하다' 외 다수의 사진은 '언어의 유희'에서 퍼왔다.

'작은 화성의 미로' 이야기는 괴델, 에셔, 바흐에 나오는 이야기를 헝클어진 위계질서에 맞도록 재구성한 것이다.

출전중 아래써있는 4편의 논문은 인터넷상에서 웹써핑하면서 발견한 것들이다. 그리고 나중에 안 사실이지만 그 중의 2편의 글이 성균관대학교 이정모 교수님의 것이란 것을 나중에 우연히 알았다. 그리고 논문의 일부를 도용한 것에 대한 양해를 구하였다.

또한 많은 내용과 사진은 인제대학교 조용현 교수님 홈페이지 에서 퍼왔다. (함 가보시라. 정말 볼 것이 많다.) 특히 '루카스의 화가', '도넛가게' 두 장의 그림은 천마디 말보다도 한 장의 그림이 더 많이 보여줄 수 있다는 확실한 예시였다.  ( 2002. 12. )