튜링 테스트와 중국어 방
이덕하
2010-04-26
http://en.wikipedia.org/wiki/Turing_test
에서 튜링 테스트(Turing test)에
대한 간략한 설명을 볼 수 있다.
Alan Turing은 「Computing machinery and intelligence」에서 튜링 테스트에 대해 썼다.
http://www.loebner.net/Prizef/TuringArticle.html
http://en.wikipedia.org/wiki/Chinese_room
에서 중국어 방(Chinese room)에
대한 간략한 설명을 볼 수 있다.
John Searle은 「Can Computers Think?」에서 중국어 방에 대해 썼다.
나의 입장은 Searle보다는 Turing에
훨씬 더 가깝다. 이 글에서 그 이유를 밝힐 것이다.
나는 중국어 방과 관련된 Searle의 주장을 비판한 글을 아직 보지
못했으며 그에 대한 Searle의 응답도 보지 못했다. 나중에
그런 글들을 보고 이 글을 업그레이드할 날이 있을 것이다.
튜링 테스트에서 버려야 할
것들
일반인은 점쟁이나 자칭 초능력자들의 애매모호한 말을 듣고 그들의 능력에 매혹되는 경우가 많다. 실제로 예언 능력도 텔레파시 능력도 없지만 일반인들은 쉽게 속는다. 인공
지능의 경우도 마찬가지다. 컴퓨터에 “글쎄요, 좀
더 생각해 보죠, 나 같으면 그런 것은 무시하면서 살겠어요, 그게
재미있나요?,…”와 같이 애매모호한 문장들의 목록을 저장해서 일반인이 질문할 때마다 하나를 골라
출력해 주면 일반인은 상대가 인간이거나 인간만큼 똑똑하다고 착각하는 경우가 많다. 나는 튜링 테스트를
할 때 일반인을 속이는 것은 별로 의미가 없다고 생각한다.
제대로 하려면 전문가들이 질문자로 나서야 한다. 또한 질문 시간은
매우 길어야 한다. 단편적인 질문을 할 수 있을 뿐 아니라 질문자가 컴퓨터가 모르는 것을 가르쳐 보고
얼마나 잘 배우는지 테스트할 수 있어야 한다. 학습 능력이야말로 인간의 놀라운 능력 중 하나다.
인간 한 명과 컴퓨터 한 대가 답변자로 나서서 서로 인간임을 보여주기 위해 경쟁하는 것도 별로 의미가 없어 보인다.
컴퓨터는 빠르고 정확하게 계산을 할 수 있다. 질문자는 그런 것을
보고 컴퓨터임을 간파할 수 있다. 나는 이런 요인들은 무시해야 한다고 생각한다. 컴퓨터가 인간보다 잘 하는 것은 문제가 아니다. 인간이 할 줄 아는
것을 컴퓨터가 과연 해 낼 수 있는지를 따지는 것이 핵심이다.
컴퓨터가 인간으로 보이려고 일부러 거짓말을 하는 것을 금지하는 것이 좋을 것이다. 이것은 쉽게 해결할 수 있다. 질문자가 컴퓨터 하드웨어 설계도와
프로그램의 소스 코드를 보면 된다. 이렇게 하면 정정당당하게 겨룰 수 있는 조건이 마련되는 것이다.
행동주의 심리학적 시뮬레이션과
인지 심리학적 시뮬레이션
나는 의식의 어려운 문제 또는 감각질(qualia) 문제를 무시할
것이다. 무시한다기보다는 회피한다고 보는 것이 더 정확할 것이다. 감각질
문제가 사소하기 때문에 무시하는 것이 아니라 너무 어렵기 때문에 회피하는 것이다. 내가 보기에는 아직
감각질 문제에 대해 실마리 하나라도 잡은 학자가 전혀 없다. 감각질 문제를 풀 수 있다면 엄청난 대박일
것이다. 이런 대박을 노리는 학자들도 많고 뭔가를 해결했다고 주장하는 학자들도 많지만 모두가 허풍인
것 같다. 나는 좀 더 소박한(?) 문제에 매달리겠다.
행동주의 심리학적 시뮬레이션과 인지 심리학적 시뮬레이션을 구분할 것이다. 컴퓨터가
세계 챔피언과 체스를 둬서 꺾은 일이 있다. 겉으로 보이는 행동으로 볼 때 체스의 경우에는 이미 인간을
뛰어넘은 것이다. 이것이 행동주의 심리학적 시뮬레이션이다. 여기에서는
컴퓨터의 하드웨어와 소프트웨어는 블랙박스로 본다. 컴퓨터가 인간이 하는 일을 하기만 하면 시뮬레이션으로
인정한다.
컴퓨터가 체스를 둬서 인간을 이길 수 있는 근본적인 이유는 인간처럼 생각하기 때문이 아니라 체스와 관련된 엄청난
양의 데이터베이스를 저장하고 있고 backtracking 같은 노가다를 엄청나게 빠르면서도 정확하게
하기 때문이다. 사칙연산의 경우에도 컴퓨터는 인간과는 상당히 다른 방식으로 작동한다.
인지 심리학적 시뮬레이션은 인간의 뇌 회로 속에서 벌어지는 것까지 시뮬레이션하는 것을 말한다. 인간의 뇌 회로를 구성하는 신경원(neuron)까지 똑 같이 만들 필요는 없을 것이다. 인간의 뇌의
구조와 작동 방식을 모방하기만 하면 된다. 어떤 사람들은 아날로그 컴퓨터인 뇌를 디지털 컴퓨터인 전자
컴퓨터로 모방하는 것이 근본적으로 불가능하다고 주장하지만 내 생각은 다르며 이 글에서는 그 문제를 다루지 않을 것이다.
튜링 테스트의 핵심은
무엇인가?
튜링 테스트는 인지 심리학적 시뮬레이션을 따지는 것이 아니라 행동주의 심리학적 시뮬레이션만 따진다. 나는 그럼에도 불구하고 튜링 테스트가 의미가 있다고 생각한다. 왜냐하면
물리학 연구처럼 아주 어려운 것들은 인지 심리학적인 시뮬레이션을 하지 않으면 행동주의 심리학적 시뮬레이션이 불가능하다고 생각하기 때문이다.
현재 인공 지능을 위해 주로 사용하는 “단편적인 지식을 엄청나게 저장하기”, “backtracking 같은 무지막지한
노가다” 등과 같은 방식으로는 아인슈타인만큼 생각할 줄 아는 컴퓨터를 만들 수 없다는
것이 나의 믿음이다. 조합적 폭발(combinatorial
explosion)과 틀 문제(frame problem) 때문에 그런 단순한 방식은 금방
한계에 부닥친다. 체스의 경우의 수도 만만치 않게 많기 때문에 그것의 조합적 폭발도 무시할 것은 못
된다. 하지만 물리학 연구에 비하면 오히려 체스의 경우의 수는 귀여운 수준이다.
박사 학위를 받기 위해서는 보통 구두 시험에 통과해야 한다. 구두
시험의 심사관들은 그 분야의 전문가들이다. 구두 시험의 핵심 목표는 그냥 외우는 것인지 진짜 이해하는
것인지를 가리는 것이다. 아무리 많은 단편적인 지식들을 외우고 있다 하더라도 제대로 이해하지 못하면
해당 분야의 전문가들에게 몇 시간 동안 시달리면 결국 뽀록나게 마련이다. 튜링도 위에서 인용한 논문에서
구두 시험은 언급한다.
중국어 방 비유의
문제점
중국어 방에는 중국어를 전혀 모르는 미국인이 영어로 쓰인 설명서를 보고 방 속에 있는 중국어 문자들을 조작한다. 중국 사람이 중국어 방에 질문을 던지면 미국인은 설명서에 따라 문자들을 조합하여 밖으로 내보낸다.
Searle은 이 설명서가 우리의 상상을 초월할 정도로 복잡하며 중국
사람이 중국어 방에 진짜 중국 사람이 있다고 착각을 할 정도로 중국어 방에서 적절한 답을 내 놓는 상황을 가정한다. 이 때 미국인은 단지 설명서를 따라서 노가다를 했을 뿐이며 중국어를 전혀 이해하지 못한다는 것이 Searle의 주장이다. 마찬가지로 컴퓨터가 튜링 테스트를 통과한다
하더라도 컴퓨터가 무언가를 이해했다고 볼 수 없다는 것이다.
먼저 Searle의 비유에 근본적인 결함이 있다는 점을 먼저 지적해야겠다. 중국어 방 속에 있는 미국인은 중국어 방의 하나의 부품이라고 볼 수 있다. 따라서
미국인이 설사 중국어를 전혀 이해하지 못한다고 해도 전혀 문제가 될 것이 없다. 이것은 인공 지능을
구성하는 하드웨어 부품 하나가 또는 소프트웨어 부품 하나(함수)가
뭔가를 이해하지 못한다고 해도 전혀 문제가 될 것 없는 것과 마찬가지다. 이해력은 컴퓨터 전체에 있는
것이다. 마찬가지로 중국어를 이해하는 것은 중국어 방 전체라고 봐야 한다. 역시 마찬가지로 뭔가를 이해하는 것은 뇌 전체지 뇌 속에 있는 어떤 부품이 아니다. Searle의 비유가 들어맞으려면 뇌 속에 극소인(homunculus)이
있다고 본 옛날의 뇌 모델이 옳아야 한다.
Searle은 컴퓨터가 뭔가를 제대로 이해하지 못하더라도 튜링 테스트를
통과할 수 있을 것이라고 생각한다. 중국어 방의 비유에서도 중국어를 이해하지 못하더라도 중국 사람만큼
중국어로 답변을 잘 할 것이라고 가정하고 있다. 이것은 물리학 박사 후보가 물리학을 이해하지 못하면서도
전문 물리학자들이 눈에 불을 켜고 장시간 질문을 하는데도 통과할 것이라고 가정하는 것과 마찬가지다. 나는
단편적인 지식들을 아무리 많이 저장하고 단순한 알고리즘을 아무리 빠르게 돌리더라도 인간이 고급 지능이라고 부르는 것을 행동주의 심리학적으로도 시뮬레이션할
수 없다고 보는 입장이다. 나의 믿음이 옳다면 Searle은
불가능한 가정을 한 것이다.
인간과는 다른 인공
지능
나는 인간을 인지 심리학적으로 시뮬레이션하지 않으면 인간을 행동주의 심리학적으로 시뮬레이션할 수 없다고 이야기했다. 이 테제에 하나의 단서를 붙여야겠다.
인간의 뇌 구조보다 열등한 방식으로 만들어진 컴퓨터는 인간을 행동주의 심리학적으로 시뮬레이션할 수 없다고 이야기해야
더 정확할 것이다. 단편적인 지식을 저장하는 엄청나게 큰 데이터베이스,
backtracking 같은 방식을 매우 빠르게 하는 무대뽀 방식과 같은 것들은 인간의 뇌 구조보다 열등한 방식의 대표적인 예다.
꼭 인간의 뇌 구조와 꼭 같거나 비슷하게 인공 지능을 만들 필요는 없을 것이다.
인간의 구조와 방식은 다르지만 그 power에 있어서는 동급인 알고리즘으로 구현할 수도
있고 더 우월한 알고리즘을 사용할 수도 있을 것이다.
인간의 뇌는 온갖 우연들이 개입된 진화 역사의 산물이다. 따라서 인간의
뇌가 지능의 정점이라고 볼 이유가 전혀 없다. 또한 인간의 방식만 유효하다고 볼 이유도 없다. 인간의 뇌와는 매우 다른 구조로 되어 있지만 일반 상대성 이론을 발견할 만큼 똑똑한 외계인이 존재할 수 있다.