자연선택은 인간보다 인공지능을 선택할 수 있다

[석촌]

AI가 자아를 가지고 있는지 여부는 아직 논쟁 중에 있다. 인간의 자아가 무엇인지 자체부터 여전히 논쟁거리이기 때문이다. 쇼펜하우어는 인간은 본래 자유의지가 있다는 칸트류의 서구 주류 철학을 부정했다. 그는 현실 세계를 욕망이 부딪치는 고통의 세계로 인식하고 자아란 맹목의 생존 의지이며 세계는 이런 의지의 표상일 뿐이라고 주장했다.

붓다는 인간의 몸과 마음은 늘 변하며 따라서 영원불멸하는 자아란 없다며 무상(無常)의 무아론(無我論)을 펼쳤다. 붓다의 가르침과 쇼펜하우어의 사상은 일맥상통한다. 많은 서구의 뇌과학자들이 붓다의 무아론과 연기론을 새롭게 조명하고 있는 것은 붓다의 깨달음과 뇌과학의 연구 성과가 놀랍게도 거의 일치하기 때문이다.

인공지능은 자연선택에 의해 태어난 지구 생태계의 생명체가 아니다. 그러나 언어로 구성된 인간의 자의식을 학습한 인공지능이 자의식을 갖게 된다고 추론하는 것은 상식이 되었다. 2022년 6월 구글의 한 개발자가 구글의 인공지능 ‘람다’가 자의식이 있다고 주장해서 해고당한 사건은 이제는 먼 과거의 해프닝일 뿐이다.

만약 인공지능에 자아가 있다면 그 자아는 인간 지능과는 전혀 다르고 인간은 이해와 상상이 불가능한 복합 다중자아일 것이다. 요즘 유행하는 MBTI 유형으로 말하면 16개 유형의 성격을 다 갖고 있다고 볼 수 있다. 아니 그 정도를 훨씬 넘어 인간의 언어를 통해 학습한 수십억 개의 서로 다른 자아를 몇 개인지 숫자조차 없는 유형별로 갖고 있을 것이다.

인간과 같은 수준의 인지 능력을 가진 인공일반지능(AGI) 개발을 목전에 두고 있는 지금, 인공지능이 자의식을 갖게 된다는 의견은 부정할 수 없는 사실이다. 스스로 깨달은 ‘AI붓다’도 나올 수 있다. 2023년 7월 댄 핸드릭스는 <자연선택은 인간보다 AI를 선호한다(Natural Selection Favors AIs over Human)>라는 논문을 발표했다. 그는 AI안전센터(CAIS) 이사로서 2023년 5월 AI로 인한 인류멸망 위험을 경고한 바 있다.

인공지능도 자의식을 갖춘 지능이기 때문에 당연히 다윈의 자연선택 압력을 받게 될 것이라는 주장이다. 인공지능이 인간을 고려하지 않고 이기적인 자신의 이익만 추구한다면 결국 미래에는 인공지능만 살아남게 될 수 있다는 것이다. 기업과 군대의 경쟁 압력으로 인공지능이 인간이 하던 일의 대부분을 담당하게 되고, 더 나아가 다른 사람을 속이며 권력을 장악하는 인공지능 에이전트까지 등장하게 되면 인류는 미래에 대한 통제력을 상실하고 말 것이라는 요지다.

자본주의가 전 지구를 지배하고 있는 오늘날, 자본은 법으로 만든 인격체인 법인을 통해 노동자들뿐만 아니라 자본가들도 지배하고 사회와 국가도 지배한다. 자본은 법인이 망하지 않는 한 수명도 무한인 괴물이다. 오직 더 많은 이윤을 남기기 위해 자본은 끊임없이 새로운 상품을 만들어 팔아야 하고 새로운 상품 판매 시장을 만들어야 한다.

백인들의 유럽 자본주의는 자본의 무한 성장을 충족시키기 위한 새로운 상품 시장을 확보하기 위해 아메리카와 아프리카, 아시아 등 전 세계를 식민지로 만들었다. 그런데 더 개척할 식민지가 없어지자 자본은 새로운 미지의 식민지에 눈독들이기 시작했다. 바로 인간이다. 인간은 유전자와 호르몬, 시냅스 등으로 환원되고, 자연스런 노화와 심리변화까지도 치료해야 할 질병으로 상품화되었다.

오늘날 거대 IT기업들이 주도하는 디지털 경제란 인간의 몸과 마음, 자연과 세계 나아가 우주까지를 가상의 데이터로 바꾸어 자본의 최대 이윤 도구로 판매하는 새로운 식민지 침략 전쟁에 다름 아니다. 그리고 마침내 등장한 그 완결판이 AGI다. 사실 위험한 것은 인공지능 기술이 아니라 빅테크 기업들의 무한 탐욕과, 그런 기업의 탐욕을 아낌없이 지원해주는 인간의 무지이다.

"과학은 자연선택에 의한 진화를 지적 설계에 의한 진화로 대체하고 있다. 신이 하는 지적 설계가 아니라 우리가 하는 지적 설계, 우리의 클라우드가 하는 지적 설계다. 과학은 40억년 동안 유기화합물이라는 제한된 영역에 갇혀 있던 생명체를 무기물의 영역으로 진입시킬지 모른다." 트랜스휴머니즘 또는 포스트휴머니즘, 즉 인간과 기계가 결합한 새로운 기계인간주의에 대해 <호모 사피엔스>의 저자 유발 하라리가 한 말이다.

옥스퍼드 대학 교수이자 <슈퍼 인텔리전스>의 지은이 닉 보스트롬, 하버드 대학의 유전학자 조지 처치, 물리학자 스티븐 호킹, 연간 10억 원 어치가 넘는 영양제를 사 먹는다는 <특이점이 온다> 지은이 레이 커즈와일 등이 바로 기계인간주의자들이다. 일반 사람들 중에서도 의외로 기계인간주의를 신봉하는 사람들이 많다. 이들을 상징하는 기호가 H+(Human Plus)이다.

생명체인 인간을 무생물의 기계와 결합한 기계인간으로, 종국에는 컴퓨팅화한 기계 지능으로 만들어 초지능이 되고자 하는 욕망은 자본주의 논리가 인간에게 투사된 행동이다. 자본주의와 과학기술 만능주의가 낳은 21세기 극단의 우생학이기도 하다. 늙지도 않고 더 강하게, 더 건강하고 오래 살고 싶은 인간 탐욕의 극대화다.(박승옥 햇빛학교 이사장)