짐승의 표 센싱(Sensing)기술- 12. 인공지능 칩 [artificial intelligence, Chip]- 컴퓨터도 마음을 소유할 수 있는가?

[산소캡슐]

컴퓨터도 마음을 소유할 수 있는가?

황제의 새마음 : Roger Penrose 저서, 박승수 옮김, 이화여대 출판부, 1996 (원서 : The Emperor's New Mind : Concerning Computers, Minds, and The Laws of Physics, Oxford Univ, 1989), Page 25~65

서론

튜링 검사

인공지능

'즐거움' 과 '아픔' 에 대한 인공지능적 접근

강인공지능 과 설의 중국어 방

하드웨어와 소프트웨어

서론

과거 수십 년간 컴퓨터 기술은 실로 장족의 발달을 하게 되었다. 그 뿐 아니라 앞으로도 수십 년간 속도ㆍ용량ㆍ논리 설계 등에서 큰 발전이 있을 것에 대해서 의심하는 사람은 아무도 없다. 마치 과거의 탁상 계산기가 요즈음 그렇게 느껴지듯이 오늘날의 컴퓨터도 머지 않아 아주 느리고 원시적인 것으로 느껴질 것이다. 이러한 발달 속도를 보고 있노라면 약간 무섭다는 느낌이 들기도 한다. 과거에는 인간 특유의 생각에 의해서만 가능하다고 느껴졌던 수많은 일들이 이미 컴퓨터에 의해서 훨씬 빠르고 정확하게 수행되고 있는 것이다. 우리는 물리적인 힘에서 우리 인간을 압도하는 기계들에 대해서는 오랫동안 익숙해 왔다. 그리고 그것은 별로 실망스럽지도 않다. 오히려 우리는 우리 몸을 지상에서 빠른 속도로 (가장 빠른 운동 선수보다도 최소 약 5 배 가량 빠른) 움직여 주는 기계, 혹은 땅을 파헤친다거나 쓸모없는 구조물을 수십 명의 사람들이 할 수 있는 것보다 훨씬 빠른 속도로 허물어 버릴 수 있는 기계들을 가질 수 있는 것을 매우 다행스럽게 여기고 있다. 또한 우리가 이전에는 할 수 없던 일, 즉 사람을 공중에 들어올려 몇 시간 내에 바다 저편에 데려다 주는 기계의 등장을 매우 기뻐하였다. 이러한 성취는 우리의 자존심을 건드리지는 않는다. 그러나 생각할 수 있다는 것, 이것만큼은 인간의 최대 특권이었다. 바로 그 생각하는 능력이 물리학 용어로 말하면, 우리로 하여금 물리적 한계를 초월할 수 있게 하여 주었고 다른 생물보다 우위에 설 수 있게 한 것이 아니었던가? 만일 기계가 언젠가 이 분야, 즉 인간이 항상 우월하다고 여겨 왔던 이 중요한 자질에 대하여 인간을 앞서게 된다면 그 때에는 우리 손으로 만든 창조물에게 그 우월성을 넘겨 줘야 되지 않겠는가?

기계가 생각한다고 말할 수 있는가 (심지어는 어떤 감정을 경험한다거나 마음을 소유한다고 말할 수 있는가) 에 대한 문제는 결코 새로운 것이 아니다. 그러나 현대 컴퓨터 기술의 등장과 함께 이 문제는 새로운 활력소, 아니 어쩌면 절박함을 갖게 되었다. 이 문제는 철학의 깊은 부분을 건드리고 있다. 생각한다는 것, 느낀다는 것은 도대체 무엇인가? 마음은 무엇인가? 마음은 실제로 존재하는 것인가? 만일 존재한다면 마음은 그와 관련된 물리적 구조물과 어느 선까지 기능적으로 종속되어 있는가? 마음은 그러한 구조물로부터 독립적으로도 존재할 수 있는가? 아니면 그것은 (적절한 종류의) 물리적 구조의 단순한 기능에 불과한 것인가? 어떻든, 그 구조물의 특성은 생물적 (뇌) 이어야 하는가? 아니면 전자적인 장비에도 마찬가지로 깃들일 수 있는 것인가? 마음이 물리 법칙의 대상이 될 수 있는가? 도대체 물리 법칙이란 실제로 무엇인가?

이러한 것들이 내가 이 책에서 다루고자 하는 내용들에 속한다. 이러한 엄청난 질문들에 대해서 명확한 답을 요구하는 것은 물론 당치 않은 요구일 것이다. 나는 그에 대한 해답을 줄 수 없다. 어떤 사람들은 추측만으로 그럴 듯한 주장을 할지 모르지만 그에 대한 확답을 줄 수 있는 사람은 이 세상에 아무도 없다. 앞으로 전개될 내용에서도 나의 추측이 중요한 역할을 할 것이다. 그러나 나는 그러한 추측과 확실한 과학적 사실을 명백히 밝히도록 노력하고자 한다. 그리고 그러한 추측을 뒷받침할 수 있는 이유를 분명히 밝히도록 노력할 것이다. 여기에서 나의 주안점은 막연한 추측으로 해답을 내놓는 것이 아니다. 그보다는 물리 법칙의 구조, 수학의 특성, 그리고 의식적인 생각 사이의 관계에 대한 새로운 이슈를 제거하고 과거에 볼 수 없었던 새로운 관점을 제시하려 하는 것이다. 이 관점은 몇 마디 말로는 적합하게 표현할 수 없기 때문에 이렇게 많은 분량의 책이 씌어지게 되었는지도 모른다. 그러나 간단하게 말해서, 어쩌면 약간 오해받을 소지도 있겠지만, 최소한도 내가 말할 수 있는 나의 관점은 현재 물리학의 근본 법칙에 대한 지식의 부족 때문에 '마음' 의 개념을 물리적 혹은 논리적으로 아직 규명하지 못하고 있는 것이 아닌가 하는 것이다. 이 말은 그 법칙들이 결국에도 알려질 수 없다는 의미가 아니다. 오히려 이 작업의 목표 중의 하나는 앞으로 이러한 면에서 유망하다고 생각되는 방향으로 연구를 촉진시키는 한편 우리가 아는 물리학의 학문 발달에서 '마음' 이 실제로 점유하는 위치에 대하여 꽤 상세하고 새로운 제안을 하고자 하는 것이다.

미리 밝히고 싶은 것은, 여기에 제시된 관점은 물리학자들 사이에서도 일반적인 것이 아니기 때문에 현재에는 컴퓨터 과학자나 생리학자들에게 받아들여질 것으로는 보이지 않는다. 대부분의 물리학자들은 인간 두뇌 정도의 크기에서 작용하는 물리의 기본 법칙들을 모두 완벽히 밝혀졌다고 주장할지 모른다. 물론 물리학 일반에 대한 우리의 지식에 많은 허점이 있다는 점에 대해서는 논란의 여지가 없을 것이다. 예를 들면, 원자를 구성하는 입자 (sub-atomic particle) 들의 질량치를 결정하는 기본 법칙이나 그들 사이에 상호 작용하는 힘은 우리가 아직 모르고 있다. 또 우리는 아직 양자론이 아인슈타인의 특수상대성 이론과 어떻게 하면 완전히 일관성을 가질 수 있는가에 대해서도 모르고 있다. 물론 양자론이 일반상대성 이론과 합치될 수 있도록 '양자 중력 (quantum gravity)' 이론을 구성하는 방법도 모른다. 이 결과로서 우리에게 알려진 기본 입자의 1/100000000000000000000 의 터무니없이 작은 크기에 공간에 대해서는 그 특성을 알지 못하고 있다. 다만 그보다 큰 차원에 대해서는 우리가 알고 있는 지식이 맞다고 보고 있다. 우리는 우주 전체의 시간적 혹은 공간적 범위가 유한한가 혹은 무한한가도 알지 못한다. 물론 그러한 불확실성이 인간 크기 차원의 물리학에 대해서는 전혀 영향이 없을 것으로 보이지만. 우리는 블랙홀 (black hole) 의 중심이나 우주 자체의 기원이 되는 빅뱅 (big-bang) 에서 작용하는 물리 법칙에 대하여 알지 못한다. 그러나 이러한 모든 이슈는 인간 두뇌의 작동에 관련된 '평상적인' (혹은 그보다 약간 작은) 크기 단위와는 모두 상상을 초월할 만큼 머나먼 이야기들이다. 그들은 참으로 멀리에 있다. 그러나 나는 바로 우리 코앞에서 (정확히 말하면 그 뒤에서) 인간의 사고 및 의식의 작동과 분명히 관련될 수 있는 그러한 수준에서도 우리의 물리학이 모르는 광대한 미지의 영역이 있다고 주장하고자 한다. 그 영역은 이제 내가 설명하겠지만 대부분의 물리학자들 사이에서도 인정되지 않고 있다. 내가 또 주장하려는 것은, 놀랍게도, 빅뱅이나 블랙홀이 이러한 이슈에서 실제로 확실한 연관성을 가지고 있다는 것이다!

이 책에서 나는 내가 제안하고자 하는 관점의 기저가 되는 증거를 들어 완고한 독자를 설득하려 한다. 그러나 이 관점을 이해하기 위해서는 많은 작업이 필요하다. 우리는 많은 이상한 영역 (어떤 것들은 관련성이 없어 보이는) 과 또 본질적으로 다른 여러 연구 분야를 두루 섭렵하게 될 것이다. 양자론의 구조ㆍ기초, 그리고 수수께끼에 대해서 살펴보고 특수ㆍ일반상대성 이론의 기본 성질, 블랙홀, 빅뱅, 열역학 제 2 법칙, 맥스웰 (James C. Maxwell) 의 전자기 현상의 이론, 그리고 뉴턴 역학의 기본에 대해서도 살펴보아야 할 것이다. 의식의 특성과 기능을 이해하기 위해서는 철학과 심리학의 문제를 다루는 것이 분명한 명분이 있을 것이다. 물론 제안된 여러 가지 컴퓨터에 의한 모델뿐만 아니라 두뇌의 실제 신경 생리학적인 면모들도 살펴보아야 할 것이다. 인공지능의 위치에 대한 아이디어도 있어야 될 것이다. 튜링 기계 (Turing machine) 가 무엇인지, 또 계산 가능성 (computability), 괴델 (Kurt Gödel) 의 정리, 복잡성 (complexity) 이론 등의 의미에 대해서도 알아야 할 것이다. 수학의 기초와 나아가서는 물리적 실체 (physical reality) 의 특성에 대한 문제까지도 탐구할 필요가 있을 것이다.

만일 이 모든 것이 끝난 후에도 나의 약간 정통을 벗어난 주장에 설득되지 않는 독자가 있다면 최소한 그가 이 험난한, 그러나 (바라건대) 매혹적인 여행을 통하여 무언가 순수한 가치를 얻을 수 있기를 바라는 바이다.

튜링 검사

인간 두뇌의 메모리 용량과 논리 회로 숫자를 훨씬 상회하는 기능을 갖는 새로운 컴퓨터 모델이 시장에 나왔다고 가정해 보자. 그 기계에는 프로그램이 잘 되어 있고 적당한 종류의 데이터도 충분히 주어졌다고 가정하자. 제조 회사는 이 컴퓨터가 실제로 생각한다고 주장하고 있다. 또 이 컴퓨터가 진짜로 지능이 있다고 주장할 수도 있다. 어쩌면 한 걸음 더 나아가서 이 컴퓨터가 실제로 느끼고 (아픔ㆍ행복ㆍ동정ㆍ자긍심 등) 자기가 무엇을 하고 있는가를 자각하고 실제로 이해한다고 주장할 수도 있다. 실로, 그들은 이 컴퓨터에 의식이 있다고 주장하는 것처럼 보인다.

그 제작자의 주장이 맞는지 틀리는지를 어떻게 알 수 있을까? 보통 우리가 어떤 기계를 구입하면 그 물건이 제공할 수 있는 유익성 (service) 하나에 근거하여 그 가치를 판정하게 된다. 만약 그 기계가 우리가 정해 놓은 작업을 만족스럽게 수행하기만 하면 그 때 우리는 기분이 좋을 것이다. 그렇지 못하다면 반환하여 수리하든지 아니면 다른 것으로 교체하게 된다. 이러한 기준에 따른다면, 그 기계가 실제로 제작 회사의 주장대로 인간의 특성을 갖는다는 것을 확인하기 위해서는 주어진 특성들에 대하여 단순히 인간처럼 반응하는가 하는 것만을 알아보면 될 것이다. 만일 이를 만족스럽게 수행한다면 그 제조 회사에 대하여 불평할 근거가 없고 수리나 교체를 위하여 컴퓨터를 반환할 필요도 없을 것이다.

위의 내용은 이 문제에 관하여 매우 조작주의적인 관점을 제시하고 있다. 조작주의자 (operationalist) 들은 컴퓨터가 사람이 생각하며 행동하는 것과 똑같은 행동 양상을 보일 때 비로소 그것이 생각한다고 말할 것이다. 당분간 이 조작주의적인 관점을 받아들이기로 하자. 물론 이 말이 의미하는 것은, 컴퓨터가 마치 생각하며 행동하는 사람처럼 똑같이 동작하는 것까지 요구하는 것은 아니다. 그것이 사람과 모양이 비슷하다거나 접촉을 느끼는 것은 그다지 기대하지 않는다. 그러한 것은 컴퓨터의 목적과 무관한 특성들이기 때문이다. 이 말의 의미는 우리가 어떤 질문을 컴퓨터에 부여하더라도 그것이 인간과 유사한 답을 생성하는 것을 우리가 요구한다는 것이다. 그리고 그 컴퓨터가 우리의 질문에 대하여 인간과 구분할 수 없는 답을 생성할 때 비로소 그것이 생각한다 (혹은 느낀다, 이해한다 등) 는 것을 사실로서 받아들일 수 있다는 것이다.

이러한 관점은 1950 년 철학 논문집 『Mind』에 게재된 앨런 튜링의 유명한 논문 「계산 기계와 지능」(Turing, 1950) 에서 매우 강력하게 주장되고 있다 (튜링에 대해서는 뒤에 다시 보게 될 것이다). 이 논문에는 요즈음 튜링 검사 (Turing test) 로 알려진 아이디어가 처음으로 등장한다. 이것은 어떤 기계가 생각한다고 정당하게 간주될 수 있는가를 시험할 의도로서 제안되었다. 어떤 컴퓨터 (예를 들면 위에서 언급한 제조업자가 내세운 것과 같은) 가 실제로 생각한다고 누군가 주장한다고 가정하여 보자. 튜링 검사에서는 그 컴퓨터가 인간 자원자와 함께 (감각을 가진) 제 3 의 질문자의 시야로부터 가려지게 된다. 그 질문자는 각각에게 간략한 질문만을 던져서 그 대답을 이용하여 둘 중에 누가 인간이고 누가 컴퓨터인가를 결정하여야 한다. 질문들, 그리고 더욱 중요한 것은 그녀가 수집하는 모든 대답이 키보드와 컴퓨터 스크린처럼 기계적인 방법으로 소통된다. 질문자는 이 질의 응답 과정 외에는 양쪽 참여자에 대한 어떠한 정보도 얻는 것이 허락되지 않는다. 인간 실험 대상은 질문에 정직하게 대답하고 자기가 정말로 인간이고 다른 대상이 컴퓨터라는 것을 설득하려고 노력한다. 컴퓨터는 질문자에게 자기야말로 인간이라고 '거짓말' 을 하도록 프로그램되어 있다. 그러한 질문을 주고받는 과정에서 질문자가 진짜 인간을 일관되게 알아 내지 못한다면 그 컴퓨터 (혹은 컴퓨터의 프로그램, 또는 프로그래머, 컴퓨터 설계자 등) 는 테스트를 통과했다고 간주한다.

이러한 테스트가 실제로 컴퓨터에 매우 불리하다는 주장이 있을 수 있다. 왜냐 하면 역할을 뒤집어서 인간 대상이 컴퓨터인 것처럼 행동하고 컴퓨터가 정직하게 대답한다면 질문자가 어느 쪽이 누구인가를 밝히는 작업이 너무나 쉬울 것이기 때문이다. 질문자는 대상들에게 단지 복잡한 산수 계산을 해 보도록 요구하면 된다. 훌륭한 컴퓨터는 단숨에 정확한 대답을 줄 수 있을 것이고 인간은 난처하게 될 것이다. (그러나 여기에는 약간의 주의가 필요하다. 암산을 아주 놀라울 정도로 정확하게, 그리고 힘들이지 않고 수행하는 '계산 신동' 들이 있기 때문이다. 예를 들면, 다세 [Johann Martin Zacharias Dase] 라고 하는 문맹인 농부의 아들은 1824 년에서 1861 년까지 독일에서 살았는데 임의의 여덟 자리 숫자 두 개의 곱을 암산으로 1 분 이내에 풀었고 20 자리의 수 두 개의 곱도 6 분 정도면 풀었다고 한다! 그러한 계산에 대해서 컴퓨터라고 착각하기는 쉬울 것이다. 근자에 와서는 1950 년대에 에딘버러 대학의 수학 교수인 에이킨 [Alexander Aitken] 이나 다른 사람들의 계산 능력도 그 정도로 놀라웠다. 질문자가 선택하여야 할 계산 문제도 이보다는 좀더 복잡해져야 할 것이다. 예를 들면, 두 개의 30 자리 숫자를 2 초 내에 풀어 보라는 것이다. 그만한 정도의 계산 능력은 웬만한 현대 컴퓨터로 쉽게 풀 수 있다.)

그러므로 그 컴퓨터의 프로그래머가 수행해야 하는 작업 중의 일부는 그 컴퓨터가 어떤 면에서는 더 '어리석게' 보이도록 만드는 것이다. 왜냐 하면, 만일 질문자가 컴퓨터에게 위에서처럼 복잡한 계산 문제를 내놓으면, 컴퓨터는 이제는 대답을 할 수 없는 것처럼 위장해야만 된다. 그렇지 않으면 금세 발각될 것이다! 그러나 이러한 식으로 컴퓨터를 '어리석게' 만드는 작업은 그 컴퓨터 프로그래머에게 그다지 심각한 문제는 아닐 것이다. 가장 어려운 점은 오히려 인간 대상에게는 아무런 어려움이 없는 가장 단순한 '상식' 적인 질문에 대하여 대답할 수 있도록 만드는 것일 것이다!

그러나 그러한 질문에 대하여 어떤 특별한 예를 드는 것은 본질적인 문제가 있다. 왜냐 하면 어떤 문제를 처음 제시하든지간에 컴퓨터가 그 문제에 관하여 인간처럼 대답하게끔 만드는 방법을 생각해 내는 것은 쉬운 작업이기 때문이다. 그러나 좀더 질문을 계속하면, 그리고 특히 그 질문이 독창적이고 진정한 이해를 요하는 것이라면 컴퓨터가 그 문제에 대하여 이해가 부족하다는 사실이 명백해질 것이다. 이 경우 질문자에게 요구되는 기술은, 한편으로는 그러한 독창적인 형태의 질문을 만들어 내야 되는 것이고 또 한편으로는 실제로 '이해' 가 되었나를 밝혀 낼 수 있도록 설계된, 탐문 형식의 후속 질문들을 만들어 내는 것이다. 또, 때로는 전혀 엉뚱한 질문을 던져서 컴퓨터가 그 차이를 아는가를 살펴보고 혹은 겉으로는 엉뚱해 보이지만 실제로는 어떤 식이든 의미가 있는 문장을 몇 개 던질 수도 있을 것이다. 예를 들면 이런 질문을 할 수 있다. "내가 듣기에 오늘 아침에 코뿔소가 분홍 풍선을 타고 (in a pink balloon) 미시시피 강을 따라 (along the Mississippi) 날았다던데, 어떻게 생각하니?" (어쩌면 컴퓨터의 눈썹 부위로 식은 땀방울이 맺히는 것을 상상할 수 있을 것이다. 적절치 않은 은유겠지만.) 그는 조심스레 대답할 것이다. "그것 참 우습군." 아직까지는 아무런 문제가 없다. "그래? 우리 아저씨도 한 번 그런 적이 있는데? 왕복으로 말이야. 단지 그 때는 흰색에 줄무늬가 있었지. 그게 뭐가 우스운데?" 만일 컴퓨터가 '이해' 가 부족하다면 곧 들통이 나고 말 것이다. 그 기억 은행에서 코뿔소가 날개가 없다는 사실을 찾아 내곤 처음 질문에 대하여 "코뿔소는 날지 못해." 라고 실수를 해 버리든지 아니면 두 번째 질문에 "코뿔소는 줄무늬가 없잖아." 하고 엉터리 대답을 할 것이다. 그 다음에는 훨씬 엉뚱한 질문을 던져 보는 것도 좋다. '미시시피 강 밑으로 (under the Mississippi)' 라든지, '분홍 풍선 속에서 (inside a pink balloon)' 라든지, 혹은 '분홍 잠옷을 입고 (in a pink nightdress)' 로 문장을 약간 고쳐서 컴퓨터가 그 본질적인 차이를 감지하는가 알아보는 것이다.

잠시, 튜링 검사를 통과할 수 있는 컴퓨터를 만들 수 있는가 없는가, 있다면 언제나 가능한가 따위의 질문을 제쳐놓기로 하자. 대신 여기서의 논의를 위하여 그러한 컴퓨터가 이미 만들어졌다고 가정해 보기로 하자. 이 검사를 통과한 컴퓨터가 과연 생각하고, 느끼고, 이해하는가 등을 생각해 보아야 할 것이다. 이 문제에 대해서는 잠시 뒤에 다시 보기로 하고, 잠시 그것이 함축하고 있는 몇 가지 사항을 생각해 보기로 하자. 예를 들면, 만일 그 제작자가 주장하는 것, 즉 그들이 만든 기계가 생각하고, 느끼고, 감수성이 있고, 이해를 하고 의식이 있다는 것이 모두 옳다면, 우리가 이 물건을 구매할 때 도덕적 책임감이 관여되어야 할 것이다. 만일 제작자 말을 믿는다면 당연히 그렇게 되어야 한다. 그것의 감정을 생각해 보지도 않고 우리가 필요한 대로만 그 기계를 작동한다면 그것은 비난받아 마땅할 것이다. 이는 노예를 함부로 다루는 것과 도덕적으로 다를 바 없을 것이다. 제작자가 주장하는 것처럼 이 기계가 아픔을 느낄 수 있다면 그 컴퓨터로 하여금 통증을 유발하는 작업은 피해야만 할 것이다. 컴퓨터를 끄는 것, 혹은 그것이 우리와 정이 들 만할 때 파는 것도 도덕적으로 어려움이 따를 것이고 그 외에도 다른 사람 혹은 동물들과의 관계에서 발생할 수 있는 셀 수 없이 많은 비슷한 문제들에 직면하게 될 것이다. 이러한 모든 것들이 이제 와서는 매우 유관한 이슈가 될 것이다. 그러므로 제작자의 주장, 즉

'모든 생각하는 기계는 본사의 전문가들에 의해서 완전히 튜링 검사를 필하였음.'

이라는 주장이 실제로 정말인가 아닌가를 우리가 (또, 당국에서도) 아는 것이 매우 중요하다.

내가 보기에는, 그것이 함축하는 몇 가지 분명히 말이 안 되는 점 (특히, 도덕성과 관련된 부분) 에도 불구하고 튜링 검사에 통과하는 것을 생각ㆍ지능ㆍ이해, 혹은 의식 등이 있다는 지표로 간주하는 것은 상당히 설득력이 있다고 생각된다. 왜냐 하면, 다른 사람들에게 그러한 자질이 있는가 없는가를 판단할 때 대화 이외의 방법이 있을 수 있을까? 실은 몇 가지 다른 기준이 있을 수도 있다. 예를 들면, 얼굴 표정이라든지 몸의 움직임, 행동 등은 우리가 그러한 판단을 내릴 때 매우 중요한 영향을 줄 수 있다. 그러나 (어쩌면 먼 훗날이 되겠지만) 이 모든 표정과 동작을 잘 흉내낼 수 있는 로봇이 제작된다고 추측해 보자. 이제는 로봇과 인간 대상을 질문자의 시야에서 가릴 필요도 없을 것이다. 그러나 질문자가 갖추어야 할 기준은 본질적으로 이전과 동일할 것이다.

나름대로 생각해 보건대, 튜링 검사의 요건을 대폭 완화하더라도 무방하다고 본다. 내 생각에는 컴퓨터에게 사람 흉내를 내게 하여서 사람과 분간을 못할 정도로 비슷할 것을 요구하는 것은 사실 컴퓨터에게 필요 이상을 요구하는 것이라고 본다. 내가 요구하고 싶은 것은 다만 감각적인 질문자가 컴퓨터의 대답을 통하여 그 대답 기저에 의식이 존재한다는 것을 진정으로 확신할 수만 있다면 그것으로 족한 것이다. 그 의식이 이질적인 것이라 할지라도. 이러한 성질은 지금까지 제작된 어떤 컴퓨터에서도 아직 찾아볼 수 없다. 그러나 여기에는 한 가지 위험이 따를 수 있는데 만일 질문자가 어떤 쪽이 컴퓨터인가를 눈치채게 되는 경우이다. 이 경우 그 컴퓨터로부터 지능적인 면이 실제로 감지되더라도 그 질문자는, 어쩌면 무의식적으로, 의식의 존재를 인정하는 데 주저하게 될 것이다. 혹은 반대로, 그 질문자가 실제로는 그렇지 않은데도 마치 컴퓨터의 반응에서 '이질적인 의식' 을 '감지' 한 듯한 인상을 받음으로써 컴퓨터에 선의적 해석을 줄 수도 있는 것이다. 이러한 이유들 때문에 튜링의 원래 검사 방법이 오히려 객관적 측면에서 훨씬 좋다고 판단되어 여기에서도 그냥 따르기로 하겠다. 결과적으로 컴퓨터에 불리하다는 점 (즉, 기계는 인간의 모든 것을 할 수 있어야 검사를 통과하지만 인간은 컴퓨터가 하는 것을 못해도 무방하다는 점) 은 튜링 검사가 진정으로 적합하다고 믿는 지지자들에게는 별 문제가 되지 않는 것 같다. 어떻든 그들의 의견은 대개, 그렇게 머지 않은 장래 - 예를 들면 2010 년까지 - 에 튜링 검사를 실제로 통과할 컴퓨터가 나올 것으로 모아지고 있는 것 같다. (튜링은 원래, 2000 년까지는 평범한 질문자가 5 분간 검사할 때 컴퓨터가 30 % 정도 성공할 것으로 추측하였다.) 이런 점으로 미루어 볼 때 그들은 위에서 언급한 불평등이 그 날짜를 그렇게 연기하지는 않을 것으로 자신했던 것 같다!

이러한 모든 사항은 한 가지 중요한 질문과 연관성이 있다. 즉, 어떤 물체에 정신적 자질이 있는가 없는가를 판별할 때 조작주의적 관점이 합당한 기준이 될 수 있는가 하는 것이다. 어떤 사람들은 강력하게 이를 부인할 것이다. 모조품은, 그것이 아무리 기술적으로 행하여졌다 할지라도 절대로 진짜는 될 수가 없다는 관점이다. 이 점에서 나의 입장은 약간 중립적이라 할 수 있다. 나는, 보편적 원칙으로서, 아무리 기술적인 흉내라 할지라도 충분히 기술적으로 검사한다면 언제나 간파할 수 있다고 믿어진다. 그러나 이는 밝혀진 사실이라기보다는 신조 (혹은, 과학적 낙관주의) 에 가깝다. 그러므로 나는 전체적으로 볼 때 튜링 검사가 적당히 선택된 문맥 내에서는 대개 올바르다는 것을 인정할 용의가 있다. 그 말은 즉, 만약 컴퓨터가 진실로 주어진 모든 질문에 대하여 인간의 것과 구분이 안 될 정도로 답을 할 수만 있다면, 그리하여 분별력 있는 질문자를 정당하고 일관되게 속일 수만 있다면, 이를 반증하는 증거가 없는 한 컴퓨터가 실제로 생각하고 느끼고 한다고 추정하겠다는 것이다. '증거', '실제', '추정' 등의 단어를 사용함으로써 나는 암암리에 내가 말하는 생각ㆍ느낌ㆍ이해, 그리고 특히 의식이라는 개념이 실제로 객관적인 '것' 들로서 그들이 물리적 육체에 있고 없음을 우리가 확인하려 한다는 것임을 밝히고 있다. 즉, 단순한 언어적 편의에 의한 것이 아니라는 것이다. 나는 이것이 매우 중대한 사항이라고 생각한다. 그러한 자질의 존재 여부를 분간하기 위하여 우리는 주어진 모든 증거에 근거하여 추정을 하는 것이다. (이는, 본질적으로, 천문학자가 멀리 떨어진 별의 질량을 알기 위하여 하는 노력과 크게 다르지 않다.)

그렇다면 어떤 종류의 반증이 고려될 수 있을까? 이에 대해서는 미리 어떤 규칙을 정해 놓기가 어렵다. 그러나 확실히 밝혀 두고 싶은 것은 컴퓨터가 신경ㆍ혈관 등이 아닌 트랜지스터ㆍ전선 등으로 만들어졌다는 단순한 사실이 그 자체만으로는 내가 생각하는 반증이 될 수 없다는 것이다. 내 마음 속에 두고 있는 생각은 언젠가 미래에 의식에 관한 성공적인 이론이 개발될지도 모른다는 것이다. 성공적이라 함은 그것이 조리 있고 적절한 물리 이론으로서 다른 물리 이론들과도 아름답게 부합되며 그것이 산출하는 내용들이 우리 인간이 자신의 의식에 대하여 진정한 결론을 내려 줄 수 있다는 것이다. 심지어는 이 이론에 의한 '의식 탐지기' 까지 나올 수도 있다고 상상할 수 있다. 이 탐지기는 인간 대상에 대해서는 완전히 믿을 만한 결과를 보이는 한편 컴퓨터에 대해서는 튜링 검사와 다른 결과를 줄 수도 있다. 그러한 경우 튜링 검사 결과를 해석할 때 매우 조심해야 할 것이다. 튜링 검사의 적합성에 대한 문제를 어떻게 볼 것인가는 우리가 과학과 기술의 발전을 얼마만큼 기대하느냐 하는 문제와도 어느 정도 관련성이 있다고 본다. 이에 대해서는 뒤에 다시 논의하기로 하자.

인공지능

요즈음 세인의 많은 관심을 끌고 있는 분야는 인공지능 (artificial intelligence), 혹은 약어로 'AI' 라고 불리는 분야이다. 인공지능의 목적은 (대개 전자적인) 기계를 이용하여 인간의 지적 활동을 되도록 많이 모방하고 결과적으로 인간의 지적 능력도 향상시키자는 것이다. 인공지능의 연구 결과에 관심을 갖고 주시하는 사람들 중에는 최소한 네 가지 부류가 있다. 우선 로봇공학 (Robotics) 분야로서, 여기에서는 대개 '지능적' 인 작업을 수행하는 기계에 대한 실용적 측면에서의 산업체의 요구를 충족시키기 위한 연구를 하고 있다. 지능적인 작업이란 이전에는 인간의 간섭과 조정을 필요로 하던 것들로서 다양하고 복잡한 작업을 말한다. 이러한 작업을 어떤 인간보다도 빠르고 충실하게 수행하며, 인간의 목숨이 위태로울 수 있는 위험한 작업 환경에서도 작업을 할 수 있는 로봇을 연구하는 것이다. 또한 일반적인 관심뿐 아니라 상업적 관심을 보이는 분야로는 전문가 시스템 (Expert System) 의 개발을 들 수 있는데 여기에서는 어떤 직종 - 예를 들면, 의학ㆍ법조계 등 - 에 필요한 모든 지식을 컴퓨터 패키지 (package) 에 코딩하려는 것이다. 이러한 직업에 종사하는 사람들의 전문적 지식과 경험을 그러한 패키지에 심는 것이 과연 가능한 일일까? 아니면 기껏 기대할 수 있는 것이 단순한 사실 정보의 나열에 포괄적 전후 참조 (cross-reference) 를 위한 기능만이 가미된 것일까? 컴퓨터가 과연 진정한 지능을 보일 수 (혹은 흉내낼 수) 있는가 하는 문제는 분명히 매우 중요한 사회 문제를 내포하고 있다. 인공지능이 직접적 연관성을 가지고 있는 또 하나의 분야는 심리학 (Psychology) 이다. 전자 기계로써 인간 두뇌의 행태를 모방해 봄으로써 - 혹은, 실패함으로 인하여 - 두뇌의 작용에 대한 중요한 사항을 배울 수 있을지도 모르기 때문이다. 마지막으로, 비슷한 이유로서 인공지능이 마음이라는 개념의 의미에 대한 통찰력을 제공함으로써 철학 (Philosophy) 의 깊은 문제들에 어떠한 답을 줄 수 있을지도 모른다.

인공지능이 오늘날까지 얼마나 발전할 수 있었나? 나로서는 요약하기 힘든 사항이다. 세계 각지에 여러 개의 활발한 연구 그룹이 있는데 나는 이들 연구 중 몇 개밖에는 자세히 알지 못하기 때문이다. 그러나 다음과 같은 이야기는 가능하다. 즉, 많은 기발한 연구가 이루어진 것은 사실이지만 진정한 지능을 가려 내는 검사에 통과할 수 있는 프로그램의 개발은 아직 요원하다는 것이다. 이 주제에 관하여 감을 잡는데 도움이 되도록 우선 초창기의 (아직도 상당히 인상적인) 업적을 살펴보고 이어서 요즈음 체스 컴퓨터의 놀라운 진전에 관하여 언급하려 한다.

최초의 인공지능 기계 가운데 1950 년대에 만들어진 그레이 월터 (W. Grey Walter) 의 '거북 (tortoise)' 이라는 것이 있는데 이것은 자신의 동력으로 마루 위를 다니다가 배터리가 약해지면 가장 가까운 전기 소켓으로 가서는 자기가 플러그를 꽂고 재충전을 하게 된다. 완전히 충전이 되면 소켓에서 자신을 분리한 후 다시 마루 위의 탐험을 재개하는 것이다. 그 후 많은 비슷한 기게들이 만들어졌다 (Waltz, 1982). 이와는 약간 다른 내용으로서 1972 년에 개발된 위노그라드 (Terry Winograd) 의 프로그램을 들 수 있는데, 이 프로그램은 여러 개의 서로 다른 모양과 색깔의 상자들을 모양과 순서가 서로 엇갈리게 쌓도록 분별력 있게 이야기할 수 있는 것이었다. 이러한 초기의 성공에도 불구하고, 방해물로 가득 찬 공간에서 이를 피해 가며 움직여야 하는 간단한 조인트형 '로봇 팔' 의 조정 기관 하나라도 그 설계가 보통 어려운 일이 아니라는 것이 밝혀졌다. 그에 필요한 행동이 옆에서 보는 사람에게는 아주 '당연' 해 보이는 동작인데도 말이다. 시각적인 장면을 이해하는 것도 일반적으로 인간 (그리고 거의 모든 동물들) 의 두뇌는 '힘들이지 않고' 수행하지만 인공지능은 그에 비하면 아직 근처에도 미치지 못하고 있는 실정이다.

튜링 검사와 좀더 직접적인 연관성을 가졌다고 볼 수 있는 시스템으로서 콜비 (K.M. Colby) 가 1960 년대에 개발한 정신과 상담 의사를 흉내내는 프로그램을 들 수 있다. 이 프로그램은 아주 성공적이어서 심지어 어떤 환자들은 인간 의사보다도 컴퓨터를 더 선호하였고 컴퓨터에 좀더 쉽게 자기 자신에 대한 일들을 털어놓을 수 있었다. 이와 같은 컴퓨터 '상담자' 와 환자 사이의 상담의 한 예로서 다음의 (텔레타이프 [TTY] 를 통한) 대화를 살펴보자.

상담자 : 무얼 도와 들릴까요?

환   자 : 모르겠어요.

상담자 : 그에 대해서 무언가 말해 보세요.

환   자 : 싫어요.

상담자 : 자세히 말해 주실래요?

환   자 : 오늘은 아프고 피곤하다니까요.

상담자 : 왜 그런지 아세요?

환   자 : 네, 나는 늙었거든요.

상담자 : 계속하시죠.

환   자 : 이젠 모든 것에 의욕을 잃어 가는가 봐요.

상담자 : 그런 감정에 대하여 좀더 말해 주세요.

환   자 : 왜 이렇게 느끼는지 나도 알 것 같아요.

상담자 : 안다고요?

환   자 : 가족을 갖고 싶은 것 같아요.

상담자 : 왜 가족을 갖고 싶다고 느끼게 되었나요?

환   자 : 그에 대한 목표가 있거든요.

상담자 : 그것이 왜 중요한가요?

비록 이것이 컴퓨터가 마치 이해를 하는 것 같은 섬뜩한 느낌을 주지만 실제로는 그렇지 않고 컴퓨터는 다만 몇 가지 간단한 규칙을 따르고 있을 뿐이다. (또 이와는 역으로 컴퓨터가 정신 분열증 환자를 흉내내어 교과서에 나오는 대로의 대답과 증상을 호소함으로써 어떤 의대생들은 진짜 환자가 답을 한다고 속아넘어갈 정도의 시스템도 존재한다.)

체스 (서양 장기) 를 두는 컴퓨터는 어쩌면 기계가 '지능적 행동' 이라고 볼 수 있는 행위를 보여 주는 가장 좋은 예일 것이다. 실제로 어떤 기계는 이제는 (1989년) 인간과 비교하더라도 아주 대단한 수준의 - 즉, '국제 명인 (International Master)' 급의 - 실력을 지니고 있다. (이러한 컴퓨터의 급수는 2300 에 약간 못 미치는 정도로서 참고로 체스 세계 선수권자인 카스파롤프 [Kasparov] 는 약 2700 을 상회하는 실력을 가지고 있다.) 특히, 스프래클렌 (Spracklen) 부부의 (Fidelit Excel 마이크로 컴퓨터용) 프로그램은 2110 Elo (급수 단위) 에 해당하는 급수에 도달하였으며 미국 체스 협회 (USCF) 의 '명인' 증을 인허받았다. 더욱 놀라운 것은 카네기 멜론 대학의 수 (Hsiung Hsu) 가 주로 프로그램을 담당한 '깊은 생각 (Deep Thought)' 이라는 프로그램으로서 2500 Elo 에 달하고 있고 최근에는 (1988 년 11 월) 캘리포니아 롱비치에서 벌어진 체스 대회에서 대명인 (Grandmaster) 마일즈 (Tony Miles) 와 함께 공동 1 위를 차지하였다. 특히, 이 과정에서 대명인급의 선수 (라슨 [Bent Larsen]) 를 최초로 무찌르는 과업을 달성하기도 하였다. 체스 컴퓨터는 체스 묘수풀이에서도 두각을 나타내는데, 이 분야에서는 쉽게 사람 실력을 능가한다.

체스 컴퓨터들은 정확한 계산 능력뿐만 아니라 '책 지식' 에도 많이 의존한다. 한 가지 언급하고 싶은 것은 체스 컴퓨터가 비슷한 실력의 인간에 비해서 아주 짧은 시간 내에 수를 두어야 할 경우에 일반적으로 능력을 발휘하고 사람들은 반대로 각각의 수에 시간이 충분히 주어진 경우에 기계에 비하여 더 좋은 실력을 보인다는 것이다. 컴퓨터는 정밀하고 빠른 확장된 계산에 근거하여 결정을 내리지만 인간은 비교적 느린 의식적 평가에 근거한 '판단력 (judgement)' 을 많이 이용한다는 사실을 생각하면 이를 이해할 수 있다. 인간은 이러한 판단력을 이용하여 각 계산 단계에서 고려하여야 할 가능한 상황의 개수를 대폭 줄일 수 있고, 상황을 분석할 때도 시간만 있으면, 그러한 판단 없이 단순 계산에 따라 직접 가능성을 제거하는 기계에 비하여 훨씬 깊은 분석을 할 수 있다. (이러한 차이점은 더욱 어려운 게임인 바둑에서 훨씬 두드러지게 되는데 바둑에서는 각 수마다 나올 수 있는 가능한 착점이 체스에 비하면 훨씬 많다.) 의식과 판단력의 형성 사이의 관계에 대해서는 뒷부분, 특히 제 10 장에서 중심 논제로 등장할 것이다.

'즐거움' 과 '아픔' 에 대한 인공지능적 접근

인공지능에서 주장하는 것 중의 하나는 궁극적으로 이를 통하여 행복ㆍ아픔ㆍ굶주림 등의 정신적인 특성들도 이해할 수 있다는 것이다. 월터의 '거북' 의 예를 들어 보자. 배터리의 힘이 약해지면 그 동작 패턴이 바뀌어 힘을 다시 축적할 수 있도록 설계된 방법에 따라 움직이게 된다. 이러한 행동과 인간 (혹은 다른 동물) 이 배고픔을 느낄 때 하는 행동 사이에서는 분명한 공통점을 찾을 수 있다. 월터의 거북이 이러한 행동을 보일 때 그것이 '배고프다' 고 말한다 하더라도 크게 어페가 없을 것이다. 그 기계 속에 있는 어떤 장치가 배터리의 충전 상태에 민감하여 그것이 어떤 값 이하로 내려가게 되면 이 거북이의 행동 패턴을 바꿔 버리는 것이다. 물론 짐승들이 배가 고프면 그들 몸 속에서도 비슷한 일이 벌어진다. 다만 행동 패턴의 변화가 좀더 복잡하고 미묘할 뿐이다. 하나의 동작 패턴으로부터 단순히 다른 동작 패턴으로 바뀌는 것이 아니라 어떤 식으로 동작하는 경향 자체에 변화가 오고 이러한 변화는 에너지 보충에 대한 요구가 증가함에 따라 (어떤 시점까지) 계속 강해진다.

마찬가지로, 어떤 인공지능 지지자는 아픔이나 행복에 대한 개념들도 비슷한 방법으로 모형화될 수 있다고 추정한다. 간단히 하기 위해서 '느낌' 한 가지에 대하여 극도의 아픔 (점수 : -100) 으로부터 극도의 즐거움 (점수 : 100) 까지 측정할 수 있다고 생각해 보자. 우리에게 어떤 장치 (어떤 종류의 기계로서 전자식이라 가정함.) 가 있어서 자기 자신의 (가상의) '기쁨-아픔' 점수를 측정할 수 있다고 가정하자. 그 점수를 여기에서는 'pp 계수 (pleasure-pain score)' 라 부르겠다. 이 기계는 어떤 형태건 나름대로의 행동 방식이 있고 어떤 형태건 내부 (배터리의 상태 등) 혹은 외부로부터의 입력 정보가 있을 것이다. 여기에서 말하고자 하는 것은 이 기계의 행동이 pp 계수를 극대화하는 방향으로 이루어진다는 것이다. pp 계수에 영향을 미치는 것에는 수많은 요소들이 있을 수 있다. 배터리의 충전 상태를 그 요소의 하나가 되도록 조작하여 충전이 덜 된 상태에서는 계수가 음수가 되고 충전이 잘 된 상태에서는 양수값을 갖게 할 수도 있지만 다른 요소들도 물론 가능하다. 어쩌면 이 기계에는 대체 동력원으로서 태양열 판이 달려 있어서 그것이 작동중일 때에는 배터리는 사용할 필요가 없게끔 할 수도 있을 것이다. 또, 이 기계가 빛을 향해 가게 되면 pp 계수도 약간 올라가게 만들어서 다른 특별한 요소가 없다면 그 일을 계속하게 만들 수도 있다. (실제로 그레이 월터의 거북이는 빛을 피해 다녔다!) 이 기계는 어떤 방법으로든 계산을 수행하여 그가 하는 여러 가지 행동들이 궁극적으로 pp 계수에 어떻게 영향을 미칠 것인가를 추정할 수 있어야 할 것이다. 그것은 또 확률 가중칠글 이용하여 계산 결과가 데이터의 신뢰도에 따라 pp 계수에 많거나 적게 영항을 미칠 수 있도록 할 수 있어야 할 것이다.

또한 이 기계에 단순한 에너지 공급 유지 이외의 다른 '목표' 를 주어야 할 것이다. 왜냐 하면, 그 한 가지만으로는 '아픔' 과 '배고픔' 을 분간할 수 있는 방법이 없기 때문이다. 이 기계가 번식까지 할 수 있도록 바라는 것은 분명 분수를 넘는 요구일 것이다. 그러므로 당분간 섹스는 논외로 치기로 한다! 그러나 그것이 동종의 기계와 만날 때마다 pp 계수를 높여 줌으로써 그들과 가까이하고 싶은 '욕망' 을 심어 줄 수는 있을 것이다. 또는 그 기계 나름대로의 '학구열' 도 가질 수 있게 할 수 있다. 이 기계가 외부 세계의 사실을 메모리에 저장할 때마다 pp 계수를 높여 주면 되는 것이다. (좀 이기적인 생각이지만 우리에게 여러 가지 서비스를 베풀 때마다 점수를 높일 수도 있을 것이다. 이는 로봇 하인을 만들기 위해서는 꼭 필요한 사항일 것이다!) 어떤 사람은 이와 같이 그 기계에 대하여 우리 마음대로 '목표' 를 설정하는 것은 너무 인위적이라고 주장할지도 모른다. 그러나 그것은 자연 선택 (natural selection) 이 우리 개개인에게 부과한 목표와도 크게 다르지 않다고 볼 수 있다. 즉, 그 목표란 유전자의 번식이라는 필요성에 많이 좌우되는 것이다.

이 모든 것을 참조하여 기계를 성공적으로 완성하였다고 가정해 보자. 그 기계가 pp 계수에 따라 그것이 양수면 기쁨을, 음수면 아픔을 실제로 느낀다고 무슨 권리로 말할 수 있단 말인가? 인공지능적 (조작주의적) 관점은 그 기계가 어떻게 행동하는가에 따라서 이를 판단할 수 있다는 것이다. 이 기계가 계수를 양의 값으로 최대한 증가시키는 (또, 최대한 오래 유지하는) 방향으로 행동하고 또 마찬가지로 음의 계수는 가능하면 피하는 방향으로 행동하기 때문에 우리가 그 기계에 대하여 즐거운 느낌은 계수의 양의 정도, 그리고 아픔의 느낌은 계수의 음의 정도에 따라 정의하는 것이 타당하다는 것이다. 그 주장에 따르면 이러한 정의가 '타당' 한 것은 인간이 즐거움이나 아픔에 대하여 반응하는 것도 이와 똑같다는 것이다. 물론 인간에게는 우리가 다 아는 바와 같이 그렇게 간단하지만은 않다. 어떤 때에는 의도적으로 아픔을 자초하는 경우도 있을 수 있고, 혹은 어떤 형태의 즐거움을 일부러 피하는 경우도 있을 수 있다. 우리의 행동은 이보다는 훨씬 복잡한 기준을 따르고 있는 것이 분명하다 (Dennett, 1978, pp.190-229). 그러나 대충 크게 보자면 아픔을 피하고 즐거움을 추구하는 것이 실제로 사람들이 행동하는 방식이라 할 수도 있다. 조작주의자들에게는 이 정도만으로도 pp 계수의 본질을 아픔-즐거움 정도로써 추정하는 것에 대한 충분한 명분이 될 수 있을 것이다. 그러한 본질을 밝히는 것은 인공지능 이론의 목표들 가운데 하나이기도 하다.

우리는 다음의 질문을 던져야 할 것이다. 이 기계는 실제로 pp 계수가 음수일 때는 아픔을 느끼고 그것이 양수일 때는 기쁨을 느끼는 것일까? 이 기계는 진정 느낌이라는 것이 있기는 있는 것일까? 분명 조작주의자들은 '당연히 그렇다' 고 대답하거나, 혹은 그러한 질문은 의미가 없다고 아예 무시해 버릴 것이다. 그러나 나의 생각은, 여기에는 분명 심각하게 고려되어야 할 어려운 문제가 존재한다는 것이다. 우리 내부에서 우리 마음을 몰고 가는 데 영향을 미치는 요소는 매우 많다. 그들 중 몇몇, 예를 들어 아픔이나 기쁨 등은 의식적이지만 그 외의 많은 것들 중에는 우리가 직접 자각할 수 없는 것들도 많다. 이러한 것은 뜨거운 난로를 만진 사람을 예로써 생각해 보면 확실히 알 수 있다. 무의식적 행동이 발생하면서 그 사람이 어떤 아픔도 느끼기 전에 이미 그 손을 움츠리게 된다. pp 계수에 반응하는 이 기계의 행동은, 실제 아픔과 즐거움에 대한 효과라기보다는 오히려 그러한 무의식적 행동에 훨씬 유사하다고 볼 수 있다.

사람들은 가끔 기계의 움직임을 표현할 때 약간 익살맞게 의인화시켜 이야기하는 경우가 많이 있다. "내 차가 오늘 아침에는 시동이 걸리는 것을 원치 않는 모양이군.", 혹은 "내 시계는 자기가 아직 캘리포니아에 있다고 생각하는 모양이야.", 혹은 "내 시계는 자기가 아직 캘리포니아에 있다고 생각하는 모양이야." 혹은 "내 컴퓨터가 바로 이전 명령을 알아듣지 못해서 뭘 해야 할지 모르겠다고 주장하는군." 물론 이 말이 의미하는 것은 차가 정말로 원하고, 시계가 생각하고, 컴퓨터가 무엇을 주장하거나 알아듣거나 무엇을 하는지 안다는 것은 아니다. 그럼에도, 그러한 말들은 우리가 그것을 곧이곧대로 받아들이지 않고 그들이 의도한 수준에서 받아들이기만 한다면 오히려 묘사적이고 우리의 이해에도 도움이 될 수 있다. 나는 여러 가지 기계들에 대하여 그 만들어진 의도와는 관계없이 어떤 정신적 요소가 있다는 인공지능의 주장들에 대해서도 비슷한 관점에서 해석하고 싶다. 내가 만일 월터의 거북이가 배가 고픈지 모르겠다고 말할 때에는 바로 이러한 반농담적인 의미라는 것이다. 내가 만일 어떤 기계의 pp 계수에 대하여 '아픔'ㆍ'즐거움' 등의 용어를 사용하였다면 이는 이러한 용어가 우리 자신의 행동이나 정신 상태와의 어떤 유사성으로 인하여 이해하는 데 도움을 준다는 이유에서이다. 이는 결코 이러한 유사성이 특별히 가깝다거나, 혹은 우리 행동에 대하여 훨씬 유사하게 영향을 미치는 다른 무의식적 요소가 있을 수 없다는 말은 아니다.

나의 의견은 정신적 요소에는 우리가 인공지능으로부터 직접 얻을 수 있는 것보다 훨씬 많은 그 무엇이 있다는 것을 독자들에게 분명히 밝히고자 하는 것이다. 하지만 인공지능은 우리가 진지하게 숙고해 보아야 할 중대한 사안을 제시하고 있다. 이 말은 실제 지능의 모조품을 만드는 데 대단한 진전이 있었다는 것은 아니다. 그러나 기억해야 할 것은 이 분야의 역사가 아직 아주 짧다는 것이다. 컴퓨터는 더욱 빨라질 것이고 주기억 메모리 용량은 커질 것이며 논리 회로의 숫자도 많아지고 여러 개의 명령들이 동시에 수행될 것이다. 논리적 설계나 프로그래밍 기법에서도 발전이 있을 것이다. 인공지능 철학의 도구라 할 수 있는 이 기계들의 기술적 역량은 엄청나게 발전할 것이다. 게다가 그 철학 자체도 근본적으로 모순적이라고 볼 수는 없다. 어쩌면 인간 지능은 언젠가는 실제로 전자 컴퓨터에 의해서 아주 정확하게 모조될 수 있을지 모른다. 여기에서 말하는 컴퓨터는 이미 그 원리가 알려진 요즈음의 컴퓨터로서 다만 스피드나 용량면에서는 현재보다 월등히 뛰어난, 그러나 머지 않은 장래에 얻을 수 있을 것으로 기대되는 그러한 기종을 의미한다. 어쩌면 이 기계들은 실제로 지능적인 것이 될지도 모른다. 어쩌면 그들은 생각하고 느끼고 마음을 소유하게 될지도 모른다. 어쩌면 그들은 생각하고 느끼고 마음을 소유하게 될지도 모른다. 그러나 한편, 어쩌면 그것이 불가능하고 지금 현재는 전혀 알지 못하는 새로운 형태의 원칙이 필요할지도 모른다. 그것이 바로 여기에서의 논점이고 그 질문은 그냥 가볍게 취급될 수 없는 중요한 사항이다. 나는 나름대로 최선을 다하여 증거를 제시할 것이다. 그리고 마지막으로 이에 대한 나의 의견을 제시할 것이다.

강인공지능과 설의 중국어 방

이러한 문제에 관하여 다분히 극단적인 견해를 취하는 사람들 중 강인공지능 (strong AI) 론자들이 있다. 강인공지능학설에 의하면 앞에서 언급한 그러한 기계가 지능적이며 마음을 소유한다는 것은 당연한 것이고 그러한 유의 심적 요소 (mental quality) 는 논리적인 기능을 갖춘 어떠한 계산 기계, 심지어는 온도 조절 장치와 같은 아주 단순한 기계적 장치에도 존재한다는 것이다. 그 관점의 요지는 심적 활동이란 단순히 잘 정의된 일련의 명령어, 즉 알고리즘 (algorithm) 을 수행하는 것에 다름 아니라는 것이다. 알고리즘이 실제로 무엇인가에 대해서는 뒤에서 자세하게 언급하기로 한다. 당분간은 알고리즘을 단순히 어떤 종류의 계산 과정이라고만 정의하더라도 무방할 것이다. 온도 조절기의 경우 그 알고리즘은 매우 단순하다. 그 장치는 다만 채록된 온도가 설정된 값보다 큰가 혹은 작은가를 판단하여 큰 경우에는 전기를 두절시키고 작은 경우에는 연결되도록 조정만 해 주면 되는 것이다. 인간의 두뇌에서 일어나는 어떤 중요한 심적 활동도 비록 알고리즘이 엄청나게 복잡해지겠지만 궁극적으로는 알고리즘이라는 것이다. 온도 조절기와 같은 단순한 알고리즘과는 그 정도에서 큰 차이가 있겠지만 원칙적으로는 달라야 할 필요가 없다는 주장이다. 그러므로 강인공지능에 의하면 인간 두뇌의 요소 기능 (모든 의식적 표현을 포함한) 과 온도 조절기의 차이는 단지 두뇌의 경우 훨씬 복잡하다는 것 (혹은, '고차원 구조 [high-order structure]', '자기 참조 기능 [self-referential property]', 그 외에도 알고리즘에 부여할 수 있는 다른 특성일 수도 있음) 이다. 가장 중요한 것은, 이 관점에서는 모든 심적 요소 (생각하기ㆍ느끼기ㆍ지능ㆍ이해ㆍ의식 등) 가 단순히 이러한 복잡한 기능의 한 단면에 지나지 않는다는 것이다. 다시 말해서 이들은 두뇌에 의하여 수행되는 알고리즘의 면모에 지나지 않는다는 것이다.

어떤 알고리즘의 가치는 그 성과 (즉, 결과가 얼마나 정확한가, 사용범위는 어떻고 경제적인가, 수행 속도는 얼마나 빠른가 등) 에 의해서 좌우된다. 인간의 두뇌 속에서 돌아간다고 여겨지는 가상의 알고리즘은 어마어마한 것일 수밖에 없다. 그러나 이러한 두뇌의 알고리즘이 존재하기만 한다면 (강인공지능론자들은 물론 그렇다고 주장한다.) 원칙적으로는 컴퓨터에서도 돌릴 수 있을 것이다. 실제로 이것은 현존하는 어떤 범용 컴퓨터이건 간에 기억 용량과 처리 속도의 제한만 없다면 그 위에서 돌릴 수 있다. (이에 대한 근거는 다음 장에서 만능 튜링 기계에 대하여 설명할 때 의논하기로 한다.) 그러한 제한마저도 머지 않은 장래에 출연할 크고 빠른 컴퓨터에 의해서 해결될 것이라고 기대된다. 그렇다면 결국 그러한 알고리즘을 찾을 수만 있다면 그것은 튜링 검사를 통과할 수 있을 것이다. 강인공지능을 지지하는 학자들은 주장하기를 그러한 알고리즘이 작동할 경우 그것은 그 자체로서 느낄 수 있고 의식을 소유하며 마음이 된다는 것이다.

심적 상태와 알고리즘이 서로 동일시될 수 있다는 주장에 모두가 동조하는 것은 결코 아니다. 특히 미국의 철학자 존 설 (John Searle) 은 이러한 관점에 강하게 반발하고 있다. 그는 몇 가지 예를 통하여 이미 어떤 컴퓨터 프로그램은 단순한 형태의 튜링 검사를 통과하였다고 밝히고, 그럼에도 불구하고 이들 프로그램에는 그와 관련된 심적 요소로서의 '이해력' 이 완전히 결여되어 있다는 관점을 강력하게 주장하였다. 그러한 예 중의 하나는 로저 생크 (Roger Schank) 가 설계한 프로그램이다 (Schank & Abelson, 1977). 이 프로그램의 목적은 다음과 같은 간단한 이야기의 이해를 컴퓨터로 시뮬레이션하는 것이다. "어떤 사람이 레스토랑에 들어가서 햄버거를 주문하였다. 햄버거가 나왔는데 바싹 타 버렸기 때문에 그 사람은 화를 내며 그 곳에서 나와 버렸다. 대금은 물론 팁도 남겨 놓지 않은 채." 두 번째 예는, "어떤 사람이 레스토랑에 들어가서 햄버거를 주문하였다. 햄버거가 나오자 그는 매우 흡족하였다. 그가 그 곳을 떠날 때 그는 대금을 지불하기 전에 종업원에게 듬뿍 팁을 주었다." 이러한 이야기를 '이해하는가' 알아보기 위해서 각각의 경우 그 사람이 햄버거를 먹었는가 하는 질문을 컴퓨터에 던져 보았다 (그 ㅏ실은 양쪽 이야기 모두에 표면적으로는 언급되어 있지 않다). 이러한 종류의 단순한 이야기와 간단한 질문에 대해서 컴퓨터는 보통 사람들과 다름없는 대답, 즉 처음 질문에 대해서는 '아니오', 두 번째 질문에 대해서는 '네' 라고 대답하였다. 그러므로 아주 제한된 의미에서 이 기계는 이미 튜링 검사를 통과하였다고 볼 수 있다!

우리가 생각하여야 할 문제는 이러한 유의 성공이 과연 컴퓨터에, 혹은 그 프로그램 자체에 진정한 이해력이 있다는 것을 실제로 뜻하는 가의 여부이다. 설은 그의 '중국어 방 (Chinese room)' 개념을 원용하여 그렇지 않다고 주장한다. 그는 우선 위에서 예로 든 이야기들이 중국말로 주어진다는 가정을 세운다. 물론 이 변화는 그리 중요하지 않다. 그리고 이 문제를 풀기 위한 컴퓨터 알고리즘의 모든 설명들이 영어로 주어지는데 이 설명서는 숫자로 된 주소를 이용하여 작업이 진행되게끔 되어 있고 각 주소마다 한자가 배정되어 있다. 설이 생각한 것은 그 자신이 밀폐된 방에 들어가서 그 작업을 직접 수행하는 것이다. 이야기의 내용과 그에 대한 질문이 작은 구멍을 통하여 방으로 주어진다. 외부로부터는 전연 다른 정보가 들어갈 수 없다. 결국 모든 작업이 끝나면 결과가 구멍을 통하여 다시 밖으로 주어진다. 이 모든 작업이 생크가 만든 프로그램의 알고리즘에 따라 진행되기 때문에 최종 결과는 간단하게 중국말로 '네' 혹은 '아니오' 로 판명되어야 한다. 아마도 이러한 경우가 중국말로 제시된 이야기와 질문에 대한 정확한 중국어 답변이 될 수 있을 것이다. 그럼에도 불구하고 생크의 알고리즘 (이 알고리즘의 설명서는 영어로 되어 있음) 에 따라 주어진 명령대로 작업을 정확히 수행함으로써 그 이야기를 정말로 이해하는 중국 사람과 다를 바 없이 대답할 수 있었던 것이다. 설의 결론은 (내 생각에도 매우 설득력 있다고 보여지지만) 단순한 알고리즘의 성공적 수행 자체만으로는 결코 이해가 이루어졌다고 단언할 수 없다는 것이다. 중국어 방에 갇혀 있는 (가상의) 설은 그 이야기 줄거리를 한 마디도 이해하지 못했던 것이다!

설의 주장에 대해서 몇 가지 반박이 제기되었다. 여기에서는 그들 가운데 중요하다고 여겨지는 것만을 추려서 소개하고자 한다. 우선 위에 사용된 "한 마디도 이해하지 못한다." 는 문장은 어쩌면 약간의 오해를 불러들일 여지가 있다. 이해라는 것은 각각의 단어뿐만 아니라 전체 구조와도 관계가 있다. 이러한 종류의 알고리즘을 수행하다 보면 사람들은 그 각각의 단어의 의미는 알지 못하더라도 그 단어들이 구성하는 패턴을 인식하기 시작한다. 예를 들면 '햄버거' 에 해당하는 중국 글자 패턴을 인식하기 시작한다. 예를 들면 '햄버거' 에 해당하는 중국 글자 (혹시 그런 말이 있다면) 를 다른 요리 (예를 들면 초면) 로 바꾸더라도 이야기는 그렇게 달라지지 않을 것이다. 그렇지만 우리가 오직 이 알고리즘의 세세한 부분만을 열심히 따라가다 보면 이야기의 실제 의미는 (단어의 대체가 중요하지는 않다손 치더라도) 거의 얻을 수 없다고 가정하더라도 무방할 것이다.

둘째로 우리가 감안하여야 할 것은 아주 간단한 컴퓨터 프로그램이라 할지라도 인간이 손으로 기호를 사용하여 수행하려면 엄청나게 길고 지겨운 작업이 되리라는 것이다. (실은 그 때문에 우리가 컴퓨터를 사용하는 것이다!) 만일 설이 실제로 제안된 방법대로 생크의 알고리즘을 수행한다면 간단한 질문 하나만을 답하는 데에도 며칠, 몇 달, 혹은 몇 년이 결릴지도 알 수 없는 일이다. 철학자에게는 별로 바람직한 작업은 아닐 테지만, 그러나 이러한 것은 큰 문제가 될 수는 없다. 왜냐하면 여기서 우리가 중요시하는 것은 실용성의 문제가 아니라 원칙에 관한 문제이기 때문이다. 인간 두뇌에 견줄 만한 복잡성을 갖고 또, 튜링 검사마저 정당하게 통과하였다고 가정한 그 컴퓨터 프로그램에서는 문제가 더욱 심각하다. 그러한 프로그램은 엄청나게 복잡할 것이다. 아주 간단한 튜링 검사 문제의 대답을 위한 프로그램이라 할지라도 그 작업을 인간의 손으로 하게 되면 그의 일생 동안 이를 끝마칠 가망성이 거의 없을 것이라는 것은 쉽게 상상할 수 있다. 이 가정이 맞는가 틀리는가는 그러한 프로그램이 없는 상황에서는 단언하기 어렵다. 그러나 어떻든 이 복잡성에 관한 문제는, 내 의견으로는, 결코 무시할 수 없다는 것이다. 우리가 여기에서 원칙적인 문제만을 다루는 것은 사실이지만 어떤 알고리즘이 정신적 요소를 보이기 위해서는 그 알고리즘 안에 '최소한' 으로 필요한 복잡성이 있게 마련이라고 보는 것이 타당하다고 생각된다. 어쩌면 이 최소한의 값 자체도 너무 커서 그 정도의 복잡성을 갖는 어떤 알고리즘이라 하더라도 이를 설이 구상한 대로 인간의 손으로 하나하나 풀어 나가기는 불가능하다는 것이다.

설 자신은 이 마지막 반론에 대하여 중국어 방에 한 사람 (그 자신) 만을 집어넣는 대신 중국어를 모르는 여러 사람으로 구성된 한 팀을 투입하여 기호들을 처리할 수 있도록 하였다. 그 숫자를 충분히 늘리기 위하여 방 대신 인도 전체의 모든 인구 (중국어를 아는 사람을 제외한) 를 동원하여 기호를 처리하는 방법까지 구상하였다. 현실적으로는 불가능하게 보일지 모르지만 원칙적으로는 모순적이라고 볼 수 없으며 결론은 궁극적으로 달라진 것이 없다. 즉, 강인공지능론자들은 단순히 적절한 알고리즘만 수행하더라도 정신적 요소인 '이해력' 이 생성된다고 주장하지만, 기호를 처리하는 작업에 참가한 사람들은 이야기를 전혀 이해하지 못한다는 것이다. 그런데 이번에는 다른 반론이 부각되기 시작하였다. 즉, 여기에서 말하는 인도 사람들은 두뇌 전체라기보다는 두뇌 속에 있는 하나하나의 신경 세포에 더 가깝다고 볼 수 있지 않은가 하는 것이다. 사람들이 생각을 할 때 수반되는 두뇌의 물리적 활동은 신경 세포 (neuron) 하나하나가 활성화되는 것이지만, 신경 세포 (뉴런) 자체가 개별적으로 그 사람이 무엇을 생각하는지 이해하리라고 보는 사람은 아무도 없을 것이다. 그렇다면 어떻게 인도 사람 하나하나가 모두 중국어 이야기를 이해하리라고 기대할 수 있는가? 이에 대하여 설은 인도라는 실제 나라가 국민들 아무도 이해하지 못하는 이야기를 이해할 수는 없다는 모순점을 지적하여 답변하였다. 그의 주장에 따르면 국가라는 것은 온도 조절기나 자동차와 마찬가지로 '이해라는 작업' 에 직접 참여하는 것이 아니라 각각의 사람이 참여한다는 것이다.

이러한 주장은 앞서의 주장에 비하여 설득력이 많이 약화되었다. 내 생각으로는 설의 주장이 가장 설득력을 발휘하려면, 범위를 국한시켜서 한 사람만이 알고리즘을 수행하도록 하고 그 알고리즘도 그리 복잡하지 않아서 직접 수행하더라도 그의 생애중에 마칠 수 있도록 하여야 할 것이다. 나는 설의 주장이, 사람이 그 알고리즘을 수행하는 과정에서 그와 관련하여 별개로 분리된 '이해' 라는 것이 존재하고, 또 그러한 존재가 그 사람의 의식과는 절대 상충하지 않을 수 있다는 것을 충분히 반증하였다고 보지는 않는다. 그러나 설의 의견에 동의하는 것은 그러한 가능성이 최소 희박하다고는 말할 수 있다는 것이다. 나는 설의 주장이 완전히 결론적이지는 않지만 상당한 설득력은 있다고 생각한다. 그 주장은, 생크의 프로그램 정도의 복잡성을 갖는 알고리즘은 자기가 수행하는 작업에 대한 진정한 이해를 결코 할 수 없다는 사실을 잘 예시하고 있다. 그것은 또, 어떤 알고리즘이건 간에 그것이 아무리 복잡하더라도 그 자체만으로는 결코 진정한 이해력을 소유할 수 없다는 것을 시사 (그 이상은 아님) 하고 있다. 이러한 내용은 강인공지능론자들의 주장과는 상반된 것이다.

그 외에도, 내가 보기에, 강인공지능론자의 관점에는 아주 중요한 몇가지 문제점들이 있다. 강인공지능에서는 단순히 알고리즘만을 중요하게 취급한다. 그 알고리즘이 두뇌의 영향을 받든지, 컴퓨터건, 인도의 전국민이건, 바퀴와 톱니로 된 기계 장치이건, 혹은 물 파이프로 된 시스템이건 그 어떤 것으로 수행된다 하더라도 아무런 차이가 없다. 그 관점에 따르면 표현하고자 하는 '심적 상태' 에 대한 알고리즘의 논리적 구조가 중요한 것이지 그 알고리즘의 특정한 실체적 구현은 완전히 무관하다는 것이다. 설이 지적한 대로, 이것은 '이원론' 적인 형태를 내포하고 있다. 이원론은 17 세기의 매우 영향력 있는 철학자 겸 수학자 데카르트 (René Descartes) 에 의해서 신봉된 관점으로서 그 주장에 따르면 이 세상에는 두 가지의 양분된 물질, 즉 '정신적인 것' 과 보통의 물질이 따로 존재한다는 것이다. 이 두 가지 물질이 서로 영향을 미칠 수 있는지 없는지, 또 있다면 어떤 방법으로 미칠 수 있는지는 별개의 문제이다. 중요한 것은 정신적인 것은 일반 물질로 이루어질 수 없고 그와는 별도로 독립적으로 존재할 수 있다는 것이다. 강인공지능에서 정신적인 것은 알고리즘의 논리적 구조이다. 방금 언급한 바와 같이 그 알고리즘의 실체적 구현은 전혀 별개의 것이다. 알고리즘은 그 알고리즘의 실제 구현과는 전혀 상관 없는 별도의, 어떤 '존재성' 을 가지고 있다. 이러한 유의 존재성을 얼마나 심각하게 받아들여야 하는가 하는 문제는 다음 장에서 다시 다루기로 한다. 그것은 추상적인 수학 객체의 플라톤적 실체 (Platonic reality) 에 대한 문제에 속하는 것이다. 당분간은 이에 대한 문제에서 한 걸음 물러나 단순히 강인공지능론자들이 알고리즘의 실체에 대하여 상당히 진지하게 취급하고 있다는 사실만을 언급하고자 한다. 그들은 알고리즘이 상당히 진지하게 취급하고 있다는 사실만을 언급하고자 한다. 그들은 알고리즘이 자신들의 생각ㆍ느낌ㆍ이해, 그리고 의식적인 자각의 '본질 (substance)' 이라고 믿고 있다. 이 사실은 설이 지적한 대로 매우 아이러니컬하다. 왜냐하면 강인공지능적인 입장이 그 사람을 극단적인 이원론자로 몰고 가기 때문이다. 이원론이야 말로 강인공지능론자들이 가장 기피하는 관점이 아니었던가!

이러한 딜레마는 홉스태터 (Douglas Hofstadter) 가 「아이슈타인의 두뇌와의 대화」(1981) 라는 제목의 글에서 제시한 문제의 배후에도 관련되어 있다. 그런데 홉스태터 자신은 강인공지능의 열렬한 신봉자이기도 한 것이다. 홉스태터가 마음 속에 그린 것은 말도 안 되는 엄청난 크기의 책으로서 아인슈타인의 두뇌 작동에 대한 완전한 설명이 기재된 것이다. 누구든지 아인슈타인에게 묻고 싶은 질문을 던지면 우리는 단순히 그 책을 샅샅이 살펴, 주어진 설명대로 따라가기만 하면 마치 살아 있는 아인슈타인이 대답하는 것과 똑같은 답을 얻을 수 있게 되는 것이다. 물론 '단순히' 라는 말은 홉스태터가 조심스레 지적한 대로 전혀 적합하지 않은 표현이다. 그러나 그의 주장은, 튜링 검사의 조작적 관점에서 보면 그 책이 원칙적으로는 허무맹랑할 정도로 느리게 설정된 아인슈타인과 동일하다는 것이다. 그러므로 강인공지능론자들의 주장대로라면 그 책은 아인슈타인 본인처럼 생각하고 느끼며, 이해ㆍ자각 등을 할 수 있지만 굉장히 느린 삶을 사는 것이다 (책-아인슈타인 입장에서 보면 바깥 세상이 너무나 빠른 속도로 흘러가는 것처럼 보일 것이다). 실제로, 이 책은 아인슈타인의 '자아' 를 구성하는 알고리즘의 한가지 구현 방법에 불과하기 때문에 결국 이 책이 아인슈타인이라는 논리가 성립되는 것이다.

그런데 이 경우 또 다른 문제점이 나타난다. 그 책을 아무도 펼쳐 보지 않을 수도 있다. 혹은, 그 책이 무수히 만흔 학생과 학자들에 의해 끊임없는 진리 탐구의 대상이 될 수도 있다. 그렇다면 그 책은 어떻게 그 차이를 '알 수' 있을까? 어쩌면 책을 펼칠 필요조차 없을지도 모른다. 그 내용이 X 선 단층 촬영이나 다른 첨단 장비에 의해서 읽혀질 수도 있기 때문이다. 아인슈타인의 의식은 그와 같이 책이 읽혀질 때에만 활성화되는 것인가? 만일 두 사람이 똑같은 질문을 전혀 다른 시점에 던진다면 그 책은 두 번 의식하게 되는 것일까? 아니면, 그것은 하나의 아인슈타인의 지각 상태에 대한 두 개의 독립된 인스턴스 (instance) 를 의미하는 것일까? 어쩌면, 그의 지각은 책에 어떤 변화가 있어야만 활성화되는 것일까? 결국, 보통 우리가 무엇을 안다는 것은 외부 세계로부터 어떤 정보를 받아들이고 그것이 우리 기억에 영향을 미쳐서 우리 마음의 상태가 약간 변하는 것이다. 그렇다면, 결론은 정신적 사항과 관련된 것이 알고리즘의 수행 대신 (혹은, 이에 덧붙여서) 알고리즘의 적절한 변화 (여기에서는 기억의 저장도 알고리즘의 일부로 간주하였다.) 라는 말인가? 아니면, 책-아인슈타인은 아무도 펼쳐 보거나 손대지 않더라도 항상 자성 (self-aware) 상태로 남아 있는 것인가? 홉스태터는 이러한 문제들을 언급하고 있지만 그에 대하여 명확한 해답을 내리지는 않고 있다.

알고리즘을 수행하거나 이를 물리적 실체로 구현하는 것은 어떤 의미가 있을까? 알고리즘에 변화를 준다는 것은 원래 알고리즘을 버리고 아예 이를 다른 것으로 교체하는 것과 어떤 의미로든 차이가 있는 것일까? 이러한 것이 우리들이 의식적인 생각을 느끼는 것과 도대체 무슨 관계가 있는 것일까? 독자들은 (그 자신 강인공지능론자가 아닌 한) 내가 왜 이렇게 분명히 터무니없는 생각에 관하여 많은 지면을 할애하고 있는지 궁금할 것이다. 실제로, 나는 이러한 생각이 근본적으로 터무니없다고 생각하지는 않는다. 다만 틀렸다고 보는 것이다. 물론 강인공지능의 주장에도 우리가 곰곰 생각해 보아야 할 논리적 설득력이 없는 것은 아니다. 그리고 이에 대한 설명을 이제 하고자 한다. 그리고 내 생각에 그들 중 몇몇은 적당히 약간만 수정한다면 상당히 그럴 듯한 것들도 있다. 이에 대해서도 잠시 후 살펴보기로 한다. 게다가, 내 생각에는 정반대의 의견을 피력한 설의 관점에도 몇 가지 중대한 의문점과 엉터리처럼 들리는 내용이 포함되어 있다. 부분적으로는 나도 그의 관점에 동의하지만.

설은 그의 글에서, 현존하는 타입의 컴퓨터라도 처리 속도와 주기억장치의 크기 (혹은, 병렬 처리 능력) 가 개선된다면 머지 않은 장래에 튜링 검사를 통과할 수 있을 것으로 암암리에 인정하고 있다. 그는 또, 강인공지능 (그리고 그 외 대부분의 '과학적' 관점) 에서 말하는 "우리는 컴퓨터 프로그램의 어떤 순간적 상태이다." 라는 주장을 인정하려는 것처럼 보인다. 게다가, 그는 "물론 두뇌는 컴퓨터이다. 모든 것이 컴퓨터이기 때문에 두뇌도 컴퓨터이다." 라고까지 굽히고 있다. 설의 주장은, 똑같은 알고리즘을 수행하는 인간 두뇌 (마음의 소유가 가능한) 와 컴퓨터 (그의 주장으로는 마음이 불가능한) 의 차이는 단지 그 구성 재질에 있다는 것이다. 그에 따르면, 이유를 설명할 수는 없지만, 생물학적 물체 (두뇌) 는 '의도성 (intentionality)' 과 '의미 해석 (semantics)' 능력이 있지만 전자 회로는 그것이 불가능한데 이들 능력이야말로 정신 활동을 규정하는 특성이라는 것이다. 이 자체만으로는 마음의 과학적 이론을 설정하는 데 별로 유용한 방향 제시를 하지 못하고 있다고 생각된다. 생물학적 구조는 그것이 진화한 '역사적' 방법 (그리고 우연히도 우리가 그러한 구조라는 사실) 이외에 무엇이 그렇게 특출하기에 의도성과 의미 해석 능력을 부여받을 수 있는 구조로서 특별 대우를 받는 것일까? 이러한 주장은 내가 보기에는 약간 독단적인 냄새를 풍기는데 어쩌면 강인공지능에 단순한 알고리즘의 수행이 의식을 불러일으킨다는 주장보다도 더 독단적이라는 느낌이 든다.

나의 의견으로는 설을 비롯한 많은 사람들이 컴퓨터 학자들 때문에 그릇된 인식을 갖게 되었고 컴퓨터 학자들은 그들대로 물리학자들에 의해서 잘못된 관념을 갖게 되었다고 생각한다. (이는 물리학자들의 잘못도 아니다. 그들이라고 모든 것을 알 수는 없는 것이다!) 실로, "모든 것은 컴퓨터이다." 라는 믿음이 널리 팽배해 있는 것 같다. 이 책에서 내가 의도하는 것은 왜, 혹은 어떻게, 이것이 필연적이 아닌가 하는 것을 보이고자 하는 것이다.

하드웨어와 소프트웨어

컴퓨터 과학의 전문 용어로 하드웨어 (hardware) 라는 말은 컴퓨터를 구성하는 실제 기계들 (찍혀 나온 회로들, 트랜지스터, 전선, 자기 저장 장치 등) 과 이 모든 것들이 어떻게 연결되어 있는가에 대한 세부 사항을 포함하고 있다. 마찬가지로, 소프트웨어 (software) 라는 말은 그 기계에서 실행시킬 수 있는 여러 가지 프로그램들을 의미한다. 튜링의 놀라운 발견에 따르면, 쉽게 말하자면, 어떤 명확한 복잡성과 융통성을 보이는 하드웨어는 다른 어떤 유사한 기계와 본질적으로 동일하다는 것이다. 여기서 이야기하는 동일성이란, 기계 AㆍB 에 대하여 어떤 특정한 소프트웨어가 있어서 그것을 A 에서 수행하면 B 와 똑같이 행동하게 되고, 마찬가지로 다른 소프트웨어가 있어서 그것을 B 에서 수행하면 마치 A 인 것처럼 똑같이 행동하게 되는 것을 의미한다. 여기에서 사용한 '똑같이' 라는 말은 주어진 입력에 대한 결과 값이 같다는 의미이지 그 결과를 얻기 위하여 각각의 기계가 소비하는 시간까지 같다는 말은 아니다. 또 한 가지 가정은, 만일 두 기계 중 하나가 어느 상황에서건 계산에 필요한 기억 용량이 부족하게 된다면 외부로부터 (원칙적으로 무한정의) '연습장' 을 공급받을 수 있다는 것이다. 그 형태는 자기 테이프ㆍ디스크ㆍ드럼 등 어떤 것이든 무방하다. 실제로 어떤 작업을 수행할 때 A 와 B 가 소모하는 시간의 차이는 매우 중요한 사항일 수 있다. 예를 들면, 어떤 작업을 수행하는 데 A 가 B 보다 1,000 배 이상 빠를 수 있다. 또, 같은 기계라 할지라도 이번에는 B 가 A 보다 1,000 배 이상 빠른 작업이 있을 수도 있다. 게다가 이러한 소모 시간이 어떤 변환 소프트웨어를 사용하는가에 따라서 천차만별이 될 수도 있다. 여기에서 말하는 것은 '원칙적' 인 내용으로서, 어떤 작업을 적절한 시간 내에 수행해야 한다는 것과 같은 실용적 측면에 관해서는 별로 염두에 두지 않고 있다. 이러한 개념에 관해서는 다음 장에 더 정확하게 기술하고자 한다. 즉, 여기에서 말하는 기계 AㆍB 는 바로 만능 튜링 기계의 한 단면들로 볼 수 있는 것이다.

궁극적으로 모든 현대의 범용 컴퓨터는 만능 튜링 기계이다. 그러므로 모든 범용 컴퓨터는 위의 관점에서 서로 동일하다. 즉, 작업 처리의 속도나 기억 용량의 제한 등의 문제를 감안하지 않는다면 기계의 차이는 소프트웨어에 의해서 해소될 수 있는 것이다. 실제로 현대 기술의 향상으로 인하여 컴퓨터의 작업 속도는 엄청나게 빨라지고 기억 용량도 방대해져서 '일상 생활' 에 필요한 대부분의 작업에서는 이러한 실용적 제약은 별로 문제가 되지 않는다. 그러므로 컴퓨터간의 이론적 동일성은 실용적 레벨에서도 성립된다고 볼 수 있다. 기술 발전으로 인하여, 이전에는 순전히 학문적인 논의의 대상이던 이상적인 계산 기계가 이제는 우리 모두의 생활에 직접 관련된 사항으로 바뀌고 있는 것이다.

내가 보기에는, 강인공지능 철학의 기저에 깔려 있는 가장 중요한 요소 중의 하나가 바로 이러한 여러 형태의 계산 장치의 동일성이다. 하드웨어는 비교적 중요하지 않게 (어쩌면 완전히 중요하지 않게) 인식되고 소프트웨어, 즉 프로그램ㆍ알고리즘 등이 필수적인 요소로서 간주되는 것이다. 그러나 내 생각에는 물리학 쪽으로부터의 또 하나의 중요한 요소가 존재한다는 것이다. 이러한 요소가 무엇인가에 관해서 몇 가지 방향을 제시해 보고자 한다.

어떤 사람에게서 그의 개인적 특성을 갖게 하는 요소는 무엇일까? 어느 정도 그것은 그의 몸을 구성하는 원자와도 관계가 있을까? 그의 개별성 (identity) 은 그 원자를 구성하는 전자 (electron)ㆍ양자 (proton), 그리고 다른 원소들과도 관계가 있을까? 최소한 두 가지 이유로 인하여 그렇지 않다고 말할 수 있다. 첫째로, 어떤 인간의 육체건 간에 이를 이루고 있는 물질 내부에서는 계속적인 개편 (turnover) 이 일어나고 있다. 이는, 사람이 일단 태어난 이후에는 그의 두뇌에 새로운 세포가 생성될 수 없다는 사실에도 불구하고, 그 사람의 두뇌 조직에서도 같은 원칙이 적용된다. 그의 몸 세포 (두뇌 세포를 포함한) 대부분에 포함된 원자들, 그리고 실제로 우리 몸을 이루는 물질의 대부분은 출생 후 이미 여러 번 바뀐 것이다.

두 번째 이유는 양자 물리학 (quantum physics) 으로부터 오는 것이다. 그리고 아이러니컬하게도, 엄밀한 의미에서 첫 번째 이유와는 서로 모순된다. 양자 역학에 따르면 (제 6 장에서 자세히 살펴보겠지만) 전자들은 필수적으로 완전히 동일하고 양자들도 서로 동일하며 어떤 원소들이건 같은 종류들은 서로 동일하다는 것이다. 이는 단순히 원소들을 구분할 방법이 없다는 이야기가 아니다. 그보다 훨씬 강한 내용이다. 만일 어떤 사람 두뇌 속의 전자를 벽돌 속의 전자와 교환하더라도 전체 시스템은 그 전과 구분할 수 없을 뿐만 아니라 완전히 동일하다는 것이다. 양성자 등의 입자들 뿐만 아니라 원자ㆍ분자 등도 똑같은 원칙이 적용된다. 극단적으로 말하면, 사람 몸 전체의 구성 성분이 그의 집 벽돌 등에서 추출된 성분과 완전히 교환된다 하더라도 아무런 변화가 없다는 것이다. 그 사람과 그가 사는 집을 구분하는 차이는 구성 원소 그 자체에 있는 것이 아니라 그들 원소가 어떻게 배열되어 있는가에 달려있다.

이와 유사한 상황이 양자 역학과 전혀 상관 없는 우리의 일상 생활에서도 나타나는데, 특히 지금 이 순간 전자 기술의 발달로 워드 프로세서에 글자를 입력하는 과정에서도 명백하게 드러나고 있다. 내가 글자를 바꾸고 싶다고 가정해 보자. 예를 들어 make 라는 단어를 made 로 바꾸고 싶다면 단순히 'k' 를 'd' 로 바꾸어도 되고 아예 단어 전체를 다시 입력할 수도 있다. 후자의 경우 'm' 은 그전 그대로의 'm' 인가 아니면 동일한 값으로 대체한 것인가? 'e' 는 또 어떤가? 단순히 'k' 를 'd' 로 바꾼다 하더라도 'k' 를 지우고 'd' 를 입력하기 전까지 한순간 동안 'k' 가 빠진 빈칸을 채우기 위한 재배열 계산 작업이 페이지 전체에 파급되고 'd' 를 입력하면 또 다른 재배열을 위한 계산이 수행된다. (현대 사회의 무의미한 계산의 남발이여!) 어떻든간에, 우리가 스크린에 바라보는 모든 글자는 1 초에 60 번씩 스캔되는 전자 빔의 트랙 중에 형성된 빈 공간에 지나지 않는다. 만일 어떤 글자를 같은 글자로 대체한다면 대체 후의 상황이 그전과 동일한가? 아니면 단지 분간을 할 수 없는 것일까? 두 번째 관점 (즉, '분간만 할 수 없음') 이 첫 번째 관점 (즉, '동일함') 과 차이가 있다고 보는 것은 좀 무리가 있어 보인다. 최소한, 글자가 동일하다면 같은 상황으로 보는 것이 그럴 듯해 보인다. 양자 역학에서 같은 원소를 보는 관점도 이와 같다. 어떤 원소를 동일한 원소로 대체하더라도 실제로 상황에 아무런 변화를 주지 못한다. 그러므로 실제로 그전과 똑같은 상황이라고 간주하는 것이다. (그러나 제 6 장에서 보듯이 양자 역학의 관점에서 이 차이는 그리 단순한 것이 아니다.)

위에서 언급한 사람 인체 속에서 이루어지는 지속적인 원자 개편에 대한 내용은 양자 물리학이 아니라 고전 물리학의 관점에서 이해되어야 할 것이다. 그 언급에서는 마치 각 원자마다의 개별성을 유지하는 것이 의미가 있는 것처럼 문장이 씌어져 있다. 실제로 이 정도의 수준에서는 고전 물리학도 적합하고 원자를 개별적 객체로 간주한다 하더라도 크게 틀리지 않는다. 원자들이 움직임에서 동질의 다른 원자와 충분히 분리되어만 있다면 그들이 개별적 특성을 유지한다고 말하더라도 무방한 것이 각 원자가 지속적으로 추적될 수 있기 때문에 각각을 개별적으로 주시하고 있다고 말할 수 있는 것이다. 양자 역학의 관점에서는 각 원자를 지칭하는 것은 단순히 대화의 편의성을 위한 것이지만 그렇더라도 현재 논의중인 수준에서는 상치되지 않는다.

사람의 개별성은 어떤 사람들이 생각하듯 그를 이루는 물질적 성분의 개별성과는 아무 상관이 없다는 사실을 인정하기로 하자. 그 대신, 어떤 의미에서 그러한 구성 물질의 구조 (configuration) 와 관계가 있다. 여기에서는 공간적 혹은 시공간적 구조라고만 해 두기로 하자 (후에 자세히 다루게 됨). 그러나 강인공지능론자들은 이보다 한 걸음 더 나아간다. 만일 그러한 원자 배열의 내용을 다른 형태로 번역하고 이를 다시 복원할 수만 있다면 그 사람의 개별성은 하나도 변화가 없다는 것이 그들의 주장이다. 이는 마치 내가 방금 워드 프로세서에 입력하고 스크린상에 나타난 글자들의 나열과도 같다. 만일 내가 이들을 스크린에서 없어지게 하더라도 이들은 미세한 전자 충전 전이 형태로 남아 있는데 내가 입력시킨 글자와는 기하학적으로 전혀 닮지 않은 모양의 구조를 취하게 되는 것이다. 그러나 언제든지 나는 그들을 다시 스크린 위에 불러 낼 수 있고 그들은 마치 아무 변환도 없었던 것처럼 똑같이 그 곳에 나타나는 것이다. 만일 내가 입력시킨 문장을 저장시킨다면 나는 그 글자들의 나열을 디스켓상에 자화 (magnetization) 형태의 구조로 변환시키고 이를 끄집어 낸 뒤 스위치를 꺼서 그 안의 모든 (관련된) 미세 충전 전이를 중화시켜 버릴 수 있다. 내일 나는 디스켓을 다시 집어넣고 전자 충전을 재생한 뒤 마치 아무 일도 없었던 것처럼 글자들의 나열을 스크린상에 다시 나타나게 할 수 있다. 강인공지능 신봉자들은 사람의 개별성도 이와 똑같이 취급될 수 있다는 것이 '명백' 하다고 여기고 있다. 이들의 주장은, 마치 모니터 스크린에 나타난 글자들처럼 사람도 그 물체적 형태가 전혀 성질이 다른 것, 예를 들면, 쇳조각의 자장으로 변환된다 할지라도 그 사람의 개별성에서는 잃는 것이 하나도 없고 실제로 아무 일도 없는 것과 같다는 것이다. 그들은 심지어는 그 사람에 대한 정보가 다른 형태로 있는 동안에도 의식적 자각은 유지된다고 주장하는 것 같다. 이러한 관점에서는 '사람들의 자각' 은 결과적으로 하나의 소프트웨어로 간주되고, 물질적 인간으로서 보여 주는 그의 외적 표현은 이 소프트웨어를 두뇌와 몸의 하드웨어로 작동시키는 것으로 보고 있다.

이러한 주장의 이유는 하드웨어가 어떤 형태를 취하건 간에 우리는 언제든지 소프트웨어에로 질문 (튜링 검사식의) 을 던질 수 있고 또 하드웨어가 이러한 질문을 답하기 위한 계산을 바르게 수행한다면 그 답은 사람이 평상시 하는 대답과 똑같을 것이다. ("오늘 아침은 기분이 어떠세요?" "오, 아주 좋아요. 약간 두통이 있긴 하지만." "그렇다면, 저…… 개인적인 자아성에 대하여 뭔가 이상한 점을 느끼지 않으세요?" "아니오, 왜 그런 걸 물으시죠? 좀 이상한 질문이군요." "그렇다면 어제의 당신과 같은 사람이라고 느끼시는군요?" "물론이죠!")

이러한 문맥에서 흔히 논의의 대상으로 떠오르는 것이 공상 과학에 자주 등장하는 원격 이동 장치 (teleportation machine) 이다. 이 기계는 말하자면, 어떤 항성에서 다른 항성으로 순식간에 '운송' 할 수 있다는 것인데 이러한 기계가 존재할 수 있는가의 여부가 여기에서 논의의 대상이 된다. 우주선에 의하여 물리적인 '정상적' 운송이 일어나는 대신 여행자는 머리끝에서 발끝까지 스캔되어 그의 몸 속에 있는 모든 원자와 전자의 정확한 위치 및 완전한 정보가 자세히 기록된다. 이러한 정보는 전자의 정확한 위치 및 완전한 정보가 자세히 기록된다. 이러한 정보는 전자기 신호 (electromagnetic signal) 형태로 멀리 떨어진 목적지 항성으로 (빛의 속도로) 전송된다. 그 곳에서 이 정보가 수집되면 이를 이용하여 여행자의 정확한 복제가 이루어진다. 기억ㆍ의도ㆍ희망, 그리고 마음 깊은 곳에 있는 감정까지도 복제가 되는 것이다. 최소한 이러한 정도가 기대되고 있는 것이다 - 그의 두뇌의 모든 상태가 철저히 기록 (record) 되고, 전송 (transmit) 되어, 재구성 (reconstruct) 되는 것이다. 이러한 과정이 성공적이라는 가정하에 여행자의 원본 (original copy) 은 '안전하게' 파기될 수 있다. 물론 의문점으로 남는 것은, 이것이 진정으로 한 장소에서 다른 장소로 옮겨 가는 방법이 될 수 있는가, 아니면 이것은 단지 복제를 생성하고 원래의 사람을 죽이는 것에 지나지 않는 것인가이다. 이러한 방법이 그 위임 사항 내에서 안전성이 입증되었다고 할 때 당신 같으면 이 방법을 사용할 준비가 되어 있는가? 만일 원격 이동이 여행이 아니라면 그것과 어떤 방에서 다른 방으로 걸어가는 것과 원칙적인 면에서 어떤 차이가 있는 것일까? 후자의 경우, 한순간의 원자들은 단순히 다음 순간의 원자들에 대한 위치 정보를 제공하는 것이 아니었던가? 우리는 이미 어떤 특정한 원자의 개별성을 유지하는 것이 전혀 의미가 없다는 것을 보았다. 어떤 특정한 원자에 대한 질문은 그 자체가 무의미하다. 원자의 움직이는 패턴은 단순히 한 장소로부터 다른 장소로 파급되는 정보의 파장을 생성하는 것이 아니었던가? 여행자가 이 방에서 저 방으로 흔히 하는 식으로 천천히 걸을 때의 파장의 파급과 원격 이동 장치에서 발생하는 그것과의 근본적인 차이는 무엇인가?

원격 이동이 실제로 가능하다고 가정하여 보자. 즉, 여행자의 '지각' 이 먼 항성에 있는 자신의 복제에서 실제로 다시 깨어난다고 하자 (이 질문이 진정한 의미가 있다는 가정에서). 만일 그 여행자의 원본이 이 게임의 법칙이 정한 대로 폐기되지 않는다면 무슨 일이 발생할까? 그의 '지각' 은 동시에 두 곳에 있는 것일까? (다음과 같은 통고를 들었을 때 당신의 반응을 상상해 보기 바란다. "저런, 당신을 원격 이동기에 넣기 전에 투여한 약 기운이 좀 일찍 떨어져 버린 모양이군요? 그건 약간 재수가 없었네요. 하지만 상관없어요. 하여튼 기쁜 소식은 또 다른 당신 …… 어…… 내 말은 실제의 당신은 금성에 안착하였다는군요. 그러니까 여기 있는 당신 …… 어…… 복사본은 없애 버려도 무방하겠네요. 물론 하나도 아프지 않아요.") 이 상황은 약간의 모순적 냄새를 풍긴다. 물리학의 법칙 중에서 과연 원격 이동을 원칙적으로 불가능하게 하는 요소가 있는가? 어쩌면, 한편으로, 사람과 그의 의식을 그런 식으로 수송하는 작업이 원칙적으로 아무런 문제가 없는지도 모른다. 그러나 '복제 (copy)' 과정에서 원본은 필수적으로 파기되어야 하는가? 그렇다면 두 개의 살아 있는 복제를 유지한다는 것이 불가능하단 말인가? 내 생각으로는 이러한 예는 좀 황당하기는 하지만 의식의 물리적 특성이나 개별성에 대한 중요한 정보를 얻는 데 도움을 줄 수 있다고 본다. 내 생각으로는 이 예가 정신적 현상을 이해하는 데 양자 역학이 갖는 중요한 역할을 암시하는 하나의 지침이 될 수 있다고 본다. 그러나 내가 좀 뛰어넘은 것 같다. 이 주제에 관해서는 제 6 장 (비교 : p.420) 에서 양자론을 다룬 후에 다시 살펴보기로 하자.

강인공지능의 관점이 원격 이동 문제와 어떤 관계가 있는가 살펴보겠다. 두 개의 항성 사이의 어떤 곳에 중계역이 하나 있어서 정보가 잠시 저장되었다가 마지막 목적지로 다시 발신된다고 가정해 보자. 편의상 이 정보는 인간의 형태가 아니고 자기 혹은 전자 장치에 저장된다고 가정하자. 그 여행자의 '의식' 은 과연 이 장치와 연관되어 그곳에 존재하는 것일까? 강인공지능론자는 그래야만 한다고 답할 것이다. 그들 주장은, 어떻든 우리가 여행자에게 묻고 싶은 어떤 질문이건 간에 원칙적으로는 그 장치로부터 답을 얻을 수 있다는 것이다. '다만' 그의 적절한 두뇌 활동을 모의 조작 (시뮬레이션) 할 수 있도록 설치만 하면 된다고 주장한다. 그 장치는 모든 정보를 가지고 있기 때문에 남은 일은 계산만 잘하면 된다는 것이다. 그 장치는 여행자와 똑같이 대답을 할 것이고 그렇다면 (튜링 검사!) 그것이 바로 여행자인 것이다. 강인공지능의 주장으로 다시 귀착된다. 이 주장은 내가 보기에는 이치에 맞지 않는다. 이것은 두뇌 (혹은 마음) 가 실제로 컴퓨터라는 가정하에서 나온 결론이다. 이것이 또 가정하는 것은 사람이 생각할 때 두뇌가 실제로 가지고 있는 특정한 물리적 (생물학적ㆍ화학적) 구조를 필요로 하는 어떤 물리적 현상도 발생하지 않는다는 것이다.

분명히 (강인공지능측 으로부터) 다음과 같은 주장이 나올 수 있다. 즉, 여기에서의 유일한 가정이란 다만 여기에서 요구되는 어떤 물리적 현상의 결과라 할지라도 항상 수치 계산에 의해 정확히 모형화 (modeling) 될 수 있다는 것이다. 내가 확신할 수 있는 것은 대부분의 물리학자들도 현재의 물리학적 지식에 근거하여 이와 같은 가정이 실제로 아주 타당한 것이라고 주장하리라는 것이다. 나는 이후의 장들을 통하여 나 나름대로의 반대 이유를 제시할 것이다 (또, 이러한 가정이 나오게 된 배경이 무엇인가에 관해서도 내 의견을 피력할 것이다). 그러나 당분간, 모든 관련 물리학이 수치 계산 형태로 항상 모형화될 수 있다는 (정설화된) 관점을 따르기로 하자. 그렇다면 유일하게 남은 가정은 (계산 시간과 공간 문제를 떠나서) '조작적' 문제로서, 만일 어떤 것이 의식이 있는 객체와 완전히 똑같이 행동한다면 그것이 그 객체라고 '느낀다' 고 간주해야 된다는 것이다.

강인공지능의 주장은, '다만' 하드웨어 문제로서, 두뇌의 작용에 사용되는 어떤 물리학적 요소라도 항상 적당한 변환 소프트웨어로써 모의 조작될 수 있다는 것이다. 만일 우리가 조작주의적 관점을 받아들인다면, 문제는 만능 튜링 기계의 동일성 (equivalence) 과 어떤 알고리즘이건 그러한 기계로 수행할 수 있다는 사실로 귀착된다. 두뇌가 어떤 종류의 알고리즘적 동작에 따라 움직인다는 가설과 함께, 이제는 매우 흥미롭고 중요한 이들 개념에 관하여 좀더 명확하게 설명해야 할 시점이 된 것 같다.

[dreaming Joseph]

귀한 자료 담아갑니다...