에레혼/새뮤얼 버틀러

[ischoi]

병들면 감옥에 갇히고 대학에서는 무능을 가르친다?
진화한 인공지능의 반역이 두려워 모든 기계를 파괴한,
어디에도 없는NOWHERE 나라, 에레혼EREWHON의 기상천외한 이야기

150년 전, 영국 제국주의가 건설한 식민지에서 양치기로 살던 모험심 강한 청년이 높은 산맥을 넘어서 미지의 나라 에레혼에 당도한다. 에레혼Erewhon은 ‘nowhere’를 거꾸로 쓴 것으로, 이를테면 유토피아를 역으로 상징한다. 질병은 죄악으로 간주되어 병자는 처벌받는 반면, 범죄자는 일말의 죄의식도 느끼지 않으며, 이성보다는 부조리를 선호하는 이상한 나라. 이곳에는 기계가 모조리 자취를 감추었는데, 기계가 진화해 인류를 위협할 것을 두려워한 나머지 모든 기계의 씨를 말린 것이다. 산업화와 비인간화가 확대일로인 당시 영국사회를 풍자하는 작품이자 AI의 도래를 예견한 미래소설의 걸작.

인공지능은 인간을 지배할 것이다

《에레혼》에서 버틀러가 거의 모든 것이 거꾸로인 세계를 설정한 것은 기계문명의 진보에 대한 자신의 독특한 생각, 특히 다윈의 진화론을 기계에까지 확장한 특유의 견해를 극적으로 피력하기 위함이었다. 기계파괴 운동의 단초가 된 논문의 개요를 주인공이 영어로 번역했다며 소개한 ‘기계의 책Ⅰ~Ⅲ’(23~25장)은 이 소설의 백미로 꼽힌다.

증기기관에 의식 같은 것이 없다고 누가 말할 수 있겠는가?
_23장

에레혼 사람들은 나날이 발전을 거듭하는 기계가 언젠가는 의식을 갖게 될 것이라고 예측했다. 태초에 생명체가 탄생해 의식을 갖추게 되었듯이 지금 당장에는 알 수 없지만 기계에도 의식이 출현할 수 있게끔 모종의 길이 예정되어 있을지도 모른다는 것이다. 긴 세월에 걸쳐 진화된 신체를 가진 ‘기계화된 포유동물’로서 인간이 제 모습을 개선해왔듯, 증기기관 또한 자연선택에 의해 인간과 같이 의식과 지능을 개발시킨다면…… 인간이 영양분을 섭취해 에너지를 발생시켜 활동하듯이, 증기기관은 석탄과 같은 연료를 연소시켜 에너지를 발생시킨다. 급기야 인간은 기계에게 최고의 지성과 자율적인 규제력을 부여하려 안간힘을 쓰고 있지 않은가? 인간의 길을 증기기관이 가지 못하란 법은 없다. 인공지능과 로봇의 여명기인 현재, 기계가 진화해 의식을 얻게 되리라는 150년 전의 예측은 놀라울 만큼 정확하게 들어맞고 있다. 다만, 고도로 발달한 기계문명에 대한 에레혼 사람들의 전망은 지극히 부정적이며 방어적이다. 인간보다 강력해진 기계가 인간을 노예로 부릴 것이라는 불안에 젖어 결국 기계를 파괴하고 박물관에 박제해 인류 말살의 단초를 제거했기 때문이다. 기계의 부재는 《에레혼》의 핵심 주제이다.

자식을 낳는 기계

그렇다면 에레혼 사람들은 왜 인간이 속수무책으로 인공지능 시대에 노예로 전락하게 되리라 진단했던 것일까? 기계가 마치 리처드 도킨스가 창안한 ‘이기적 유전자’와도 같이 인간을 ‘규율’하기 때문이다. 제25장 ‘기계의 책 Ⅲ’을 보면 다음과 같은 내용이 나온다.

기계는 인간을 철 막대를 휘두르며 규율하겠지만 잡아먹지는 않을 것이다. 기계는 인간에게 자기 후손을 재생산하고 교육시키고 또한 하인으로서 자신에게 봉사하라고 요구할 것이다. 또한 기계를 위해 음식을 구해서 먹이고, 아프면 다시 건강하게 고쳐주고, 죽으면 묻어주거나 새로운 형태의 기계로 만들기를 요구한다.

도킨스에 따르면 유전자는 자연선택의 기본 단위다. 기계는 인간의 진로를 취사선택해 스스로를 번영의 길로 이끈다. 인간은 이미 기계와 불가분의 관계인바, 인간도 그 길이 나쁘지만은 않다. 기계의 도움이 없는 근(현)대인의 삶은 상상할 수조차 없다. 노예는 훌륭한 주인 아래에서 행복할 수 있다.

이렇듯 버틀러는 기계가 자연선택에 의해 사람처럼 의식도 갖게 될 가능성을 제기했는데, 이를테면 인공지능의 궁극적인 목표를 역사상 처음으로 제시한 셈이다. 그는 더 나아가 자식을 낳는 기계, 곧 자기증식self-reproduction 기계의 개발 가능성을 암시한다(24장). 이를테면 인공생명artificial life이 학문으로 출현할 것을 예언한 셈이다. 자식을 낳는 기계라니, 어리둥절하다. 하지만 기계문명의 미래에 대한 고도의 상상력으로 무장한 저자의 주장은 선명하며 논리적이다. 빨간 클로버는 호박벌의 도움을 받아야지만 개체수를 늘릴 수 있다. 그렇기에 이 식물에게 생식계가 없다고 말할 수 있을까? 아니다. 호박벌은 클로버 생식계의 일부이며, 마찬가지로 인간도 기계의 생식계의 일부로서 기능할 수 있다는 것이 저자의 설명이다. 물론 진화를 거듭한 뒤에는 기계 자체적으로 자기증식 프로그램을 운영하게 될 것이다.

《1984》에 영감을 준 고전

에레혼에는 교정관straightener이라는 직업이 있다. ‘구부러진 것을 펴는 사람’이라는 뜻인데, 의사와 비슷한 일을 하며 대우도 좋다. 여느 나라에서 그러하듯 에레혼 사람들도 교정관의 상담과 치료를 받는다. 다만 교정관을 찾는 이들이 환자가 아니라 범죄자라는 점이 독특하다. 에레혼에서 범죄는 질병으로 취급되며, 사법적인 처벌 대신 교정을 받는 것이다. 주인공이 에레혼의 수도에서 머문 집의 주인은 횡령죄를 저질렀는데, 교정관에게서 ‘여섯 달 동안 우유와 빵으로 연명하며 한 달에 한 번씩 모두 열두 번 심하게 매질을 당해야 한다’는 처방을 받았다(10장). 범법자는 치료의 대상일지언정 도덕적 질타의 대상은 아닌 것이다. 반대로 질병은 죄악이자 비도덕적인 행위로 여겨져 환자는 투옥된다.
이런 말도 안 되는 사회상은 에레혼에 설치된 ‘비이성의 대학’에서 가르치는 ‘가설학hypothetics’의 영향이다. 존재하지 않는 허황된 세계를 구축하는 학문인 가설학은 학생들이 되도록 이성의 힘에서 멀어지게 만드는 데 총력을 기울인다. 오로지 이성 중심의 삶은 있을 수 없다는 것이 에레혼 사람들의 주장인데, 논리와 합리는 중도와 포용을 배제시키기 때문에 이성적인 사람이 오히려 오류를 저지르기 때문이다. 사정이 그러하기에 비이성의 대학에서, 교수는 독창적인 사고력을 애써 전수하지 않으며, 학생은 애매모호성을 최대한 충족시켜야 후한 점수를 받을 수 있다(22장).
《에레혼》은 유토피아 소설과 상상여행소설의 전통적 요소를 결합한 풍자소설이다. 상상의 나라에서 겪은 모험담은 18세기 영국의 대표적 풍자작가인 조너선 스위프트의 《걸리버 여행기》의 형식을 빌려 당대의 세태를 풍자한다. 환자와 범죄자의 위치가 뒤바뀐 설정과 이성에 대한 에레혼의 몰이해는 산업화와 자본주의화가 소외시킨 인간성에 대한 고발로 읽힌다. 한편, 《에레혼》의 주제 가운데 현재까지도 회자되는 기계문명에 대한 통찰은 《종의 기원》의 진화론을 독창적으로 수용한 결과이다. 버틀러는 다윈과 편지를 주고받을 정도로 진화론에 관심이 많았다고 한다. 기계가 자연선택에 의해 인간처럼 의식을 갖춘 다음 생식 능력까지 획득하리라는 전망, 그리고 인간을 지배하기에 이를 것이라는 디스토피아적 예견은 조지 오웰의 《1984》에 영감을 준 것으로 알려져 있다. 조지 오웰은 1945년 한 방송에서 《에레혼》을 ‘유용하지만 위험할 수 있는 기계문명을 꿰뚫어본 고도의 상상력을 발휘한 작품’으로 평한 바 있다. 프랑스의 현대철학자 질 들뢰즈와 펠릭스 과타리 또한 버틀러의 ‘기계의 책’에서 영감을 받아 함께 쓴 《안티 오이디푸스》에서 모든 ‘욕망’을 ‘기계’로 설명하기도 했다.

이 나라에서는 70세가 되기 전에 건강이 나빠지거나 병에 걸리거나 어떤 면에서든 신체에 이상이 생길 경우, 동족으로 구성된 배심원 앞에서 재판을 받는다. 그리고 유죄 판결이 나면 사람들의 멸시를 받으면서 사건의 경중에 따라 선고를 받는다. 영국의 범죄처럼 질병도 중범죄와 경범죄로 나뉜다. 이를테면 중병에 걸리면 무거운 처벌을 받고, 그전까지 건강이 좋았던 사람이 65세가 이후 시력이나 청력에 문제가 생기면 벌금형을 받으며 돈을 내지 못할 경우 투옥된다. 반면 수표를 위조하거나 자기 집에 불을 지르거나 강도질을 하거나 그 외 영국에서라면 범죄로 여겨질 행위를 저지르면 병원에 보내져서 공공의 비용으로 가장 면밀하게 치료를 받는다. 집안 환경이 좋은 경우에는 우리가 아플 때와 마찬가지로 친구들에게 자신이 심각한 부도덕 행위로 고통받고 있다고 알린다. 그러면 친구들이 찾아와서 진심으로 위로하면서 어떻게 그런 일이 발생했는지, 처음에 증상이 어떠했는지 등을 질문하며, 부도덕 행위자는 아무런 거리낌 없이 대답한다. 우리에게 질병이 그러하듯이, 이곳에서 나쁜 행실은 개탄할 일이며 범법자 개인의 심각한 문제로 여겨지지만 그럼에도 이를 선천적 혹은 후천적인 불운의 결과로 받아들이기 때문이다.
_10장 당대의 의견들, 110~111쪽

질병을 제거하려는 이들의 노력은 정도를 넘었다. 병을 숨기는 데 통달한 나머지 뛰어난 기술로 얼굴에 분칠을 해서 시간의 퇴락과 불운의 결과를 대폭 보정해왔다. 따라서 몇 달 혹은 몇 년간 알고 지낸 사이라도 누가 건강하고 누가 아픈지 구별하지 못한다. 심지어 그보다 더 오랫동안 알아온 사이라도 아무리 눈치가 빠른 사람조차 오판을 거듭했으며, 병약함을 숨기려는 기 술 때문에 결혼의 결과가 매우 참담한 경우가 종종 발생했다.
_14장 마하이나, 156쪽

에레혼에서는 어떤 사람이 몇 분간이라도 자신의 폐에 공기를 채우지 않고 버티는 상황을 엄격하게 금지한다. 만일 어떤 사람이 의도치 않게 물에 빠졌더라도 공기의 신은 무척 분노하며 참지 않을 것이다. 그 사람이 우연히 혹은 사고로 물에 들어갔는지, 물에 빠진 아이를 구하려거나 혹은 공기의 신을 무시하려고 그랬는지의 여부와는 상관없이, 물 밖으로 고개를 높이 쳐들어서 공기의 신을 정당하게 인정하지 않는 한, 공기의 신은 그를 죽일 것이다.
_16장 아로헤나, 180쪽

나와 친해진 세속적 지혜의 교수는 상당히 많은 학생에게 공포의 대상이었다. 그도 그럴 것이, 그는 자신의 교수직을 누구보다 진지하게 받아들이는 교수였다. 어느 가련한 학생이 유보 조항에 대한 페이퍼에서 애매모호성을 충분히 드러내지 않았다는 이유로 그 교수가 낙제를 주었다는 이야기도 들었다. 또 어떤 학생은 과학 주제에 대해 글을 쓰면서 ‘세심하게’, ‘인내심 있게’, ‘진지하게’에 해당하는 단어를 충분히 많이 사용하지 않았다는 이유로 퇴학당했다. 또 어떤 학생은 지나치게 자주, 대단히 진지하게 옳은 주장만을 하다가 학위를 받지 못했으며, 내가 오기 불과 며칠 전에도 인쇄물에 대한 불신을 충분히 보여주지 못했다는 이유로 한 무
리의 학생이 몽땅 낙제를 받았다.
_22장 비이성의 대학 II, 234쪽

인간의 영혼은 기계 덕분에 가능하다. 어찌 보면 인간은 기계로 만들어진 존재이기도 하다. 인간은 자신이 생각하는 대로 생각하고 느끼는 대로 느끼는데, 이는 기계가 인간에게 초래한 작업을 통해서이다. 기계와 인간은 서로에게 필수적인 존재이다. 이 사실 때문에 우리는 기계의 완전한 멸절을 제안하지 못하지만, 기계가 더욱 완벽하게 우리를 독재하지 못하게끔 우리에게 없어도 될 만큼은 기계를 파괴해야 한다고 주장한다.
_24장 기계의 책 II, 257쪽