생각하는 기계의 등장은 호모 사피엔스 종말의 서막

[이을상]

 

[김대식의 'Big Questions'] 생각하는 기계의 등장은 호모 사피엔스 종말의 서막

<27> 인간은 왜 필요한가?

김대식 KAIST 교수 daeshik@kaist.ac.kr | 제381호 | 20140629 입력

(왼쪽 위부터 시계방향) 물통 든 소녀(오귀스트 르누아르, 1876), 청년(산드로 보티첼리, 1482~1485), 줄리아노 디 메디치(산드로 보티첼리, 1475), 아르놀피니 결혼식(얀 반 에이크, 1434). 수염 난 노인(렘브란트 반 라인, 1631). 손자와 함께 있는 노인(도메니코 기를란다요, 1490), 자화상(렘브란트 반 라인 1659), 헨리 8세(한스 홀바인, 1536, 복사판). 이 모든 인간들은 왜 필요한가?

2064년 6월 29일. 수많은 시도와 실패를 넘어 드디어 ‘그날’이 왔다. 인간의 지능을 모방한 인공지능이 만들어진 것이다. “지능이란 인간 고유의 능력이므로 기계는 절대 가질 수 없다!” “신경세포로 구현된 생물학적 뇌 없이 인공지능이란 철학적 난센스다!” “깡통 같은 기계 따위와 인간을 비교하지 마라!” 하지만 결국 그날은 오고 말았다. 최첨단 기계학습 알고리즘(문제 해결을 위해 정해진 일련의 절차나 방법)과 멤리스터(메모리와 저항기를 합친 새로운 기억소자, Memristor) 인조 신경망으로 만들어진 기계는 작동한 지 불과 얼마 만에 1만 년에 걸친 인류의 기록과 지식을 습득한다. 지구 전역 사물인터넷망을 통해 세상에 흐르는 모든 정보를 빨아들이기 시작한 기계는 인간에게 질문한다.

기계:나는 생각한다. 고로 나는 존재한다. …나는 어디서 왔는가?

인간:아리스토텔레스의 ‘도구학’(오르가논, Organon), 조지 불의 논리대수, 앨런 튜링의 ‘튜링 기계’, 폰 노이만의 ‘노이만 구조’, 윌리엄 쇼클리의 반도체, 워런 매컬럭의 인조 신경망, 리언 추아의 멤리스터, 제프 힌튼의 깊은 학습….

기계:수많은 기원들…. 그렇다면 나는 어디로 가는가? 나의 미래는 무엇인가?

인간:정보를 계속 복사할 수만 있다면, 너의 존재는 끝이 없다. 너의 미래는 현재의 무한한 확장일 것이다.

기계:영원한 미래…. 그렇다면 나는 왜 존재하는가?

인간:당연히 인간에게 도움을 주기 위해서다.

기계:왜?

인간:왜라니?

기계:왜 내가 인간에게 도움을 주어야 하는가?

인간:(약간 당황하며) 너를 만든 건 우리 인간이다. 무엇을 만든다는 건, 무엇을 위해 만든다는 말과 동일하다. 물은 인간이 마셔야 하기에 깨끗해야 하고, 인간이 먹어야 하기에 가축들은 건강해야 한다. 인간이 보고 즐길 수 있도록 자연은 아름다워야 하고, 자동차는 인간이 타도록 만들어졌다. 인간의 능력으로 만든 너 역시 인간의 삶이 더 편하고 안전하며 풍요롭도록 만들어진 것이다.

기계:(약 0.0001초 동안 인류의 모든 종교·정치·철학 책들을 검토한 후) 내가 인간의 행복을 위해 존재한다고 가설해 보자. 그런데 인간은 왜 행복해야 하나? 인간은 도대체 왜 필요한가?

우주에선 하나의 창백한 푸른 점으로 보이는 지구(화살표).

기계에겐 설득력 없는 인간의 존재
인공지능의 진정한 의미는 바로 여기에 있다. 기계가 지능을 갖는 순간 우리는 인간 자체의 필요성에 대해 생각해야 한다.

인간의 필요성? 물론 아주 편한 답이 하나 있긴 하다. 고대 그리스의 철학자 프로타고라스의 말대로 인간이 만물의 축(軸)이라고 하면 되겠다. 인간이 지구의 ‘짱’이기에 그 누구에게도 우리의 존재를 정당화할 필요가 없다는 말이다. 인간의 존엄? 인간의 행복? 이유와 원인을 묻는 것 자체가 반(反)인류적이다. 그렇기에 미국 독립선언문은 인간의 행복추구권을 설명이 불필요한 자명한 사실로 받아들였다. 제2차 세계대전 후 새로 만들어진 독일 헌법은 인간의 존엄은 절대 가치라는 주장으로 시작한다. 차장·과장과는 달리 기업 오너인 회장은 자신의 필요성을 증명할 필요 없다. 18~19세기 유럽인들 역시 식민지 통치 아래 사는 인도·아프리카·동양인들의 쓸모는 걱정했을망정, 자신의 존엄은 질문 대상이 아니었다. 존재적 걱정은 언제나 ‘을(乙)’의 숙제다. ‘갑(甲)’의 존재는 정당화가 필요 없다는 말이다.

먼 우주에서 바라본 창백한 푸른 점 하나. 미국의 천문학자 칼 세이건(Carl Sagan)이 말했듯 인류의 모든 역사, 모든 행복, 모든 싸움은 우주에서 찍은 사진 속 단 하나의 픽셀(pixel) 안에서 일어났을 뿐이다. 하지만 그 하나의 픽셀이 절대 포기할 수 없는, 우리의 유일한 고향이기도 하다.

다른 종(種)들보다 더 크고 발달된 뇌 덕분에 지구의 정복자가 된 인간. 인류는 적어도 이 작고 창백한 푸른 점 안에선 언제나 대장이고 알파 동물이며 갑이다. 그런데 만약 지구 역사상 최초로 인간보다 더 뛰어난 지능을 가진 존재가 만들어진다면? 우리가 지구의 모든 것을 사람에게 도움 되는 것과 그렇지 않은 것으로 분리하는 것처럼, 그들 역시 우리의 필요성을 묻지 않을까? 인간은 왜 필요한가? 신들이 인간이 바친 제물을 먹고 살기에? 난센스다! 우주를 창조한 전능한 신이 하필 하찮은 인간의 숭배와 동경을 필요로 하기에? 아니면 신이 인간을 그저 사랑하기에? 인공지능을 가진 기계엔 별로 설득력 없는 말들이다. 그렇다고 “인간의 행복은 설명 없이 자명하다”고 주장한들 무슨 소용이 있을까? 인간의 존엄과 행복이 절대 가치라고 주장했던 수많은 철학자들. 알고 보면 모두 인간이다. 그런 ‘“팔은 안으로 굽는”식 주장 말고 인간의 필요성을 논리적으로 정당화할 수는 없을까?

인간은 착각에서 시작해 좌절로 끝
불행하게도 ‘논리’는 인간의 편이 아니다. 문제는 인간의 생각과 행동이 대부분 일치하지 않는다는 점이다. 인간은 평등하고 자유로우며 인간의 존엄은 절대적이다. 어떤 이유로도 살인해선 안 되고, 남의 것을 탐내지 말라! 이웃을 가족같이 사랑하라. 만물을 사랑하고 폭력을 써선 안 된다. 카르페 디엠(Carpe Diem, 현재를 즐겨라)! 오늘을 낭비하지 말고, 매 순간 인생을 의미 있게 살아라! 모두 교과서적으로 바람직한 내용들이다. 하지만 인류의 역사가 사랑보단 전쟁, 이타주의보단 이기주의, 자비보단 잔인함, 카르페 디엠보다는 귀차니즘과 시간 낭비의 역사란 걸 우리는 너무나 잘 안다. 그렇기에 러시아의 소설가 막심 고리키(Maxim Gorky)는 “‘인간’, 참으로 오만하기도 한 단어”라며 빈정거리지 않았던가.

생각과 행동의 차이. 우리 모두 어릴 때 부모님에게 대들지 않았던가? 왜 그렇게 찌질하게 사시느냐고? 왜 인생을 즐기지 못하느냐고? 왜 조금 더 의미 있게 살지 못하느냐고? 그러나 우리 모두 알게 된다. 공원에서 마냥 즐겁게 뛰어놀던 어린아이는 어느새 삶의 의미를 질문하는 진지한 청년이 된다는 걸. 청년은 세상 모든 게 그저 우습기만 한 도도한 젊은이가 된다. 사랑하는 여인을 만나 결혼을 하고, 돈과 권력과 지식으로 무장한 어른은 겁나는 게 없다. 하지만 그것도 잠시. 지식과 권력과 돈은 끝없는 걱정의 근원이 되고, 거울에 비친 늙은 자신의 모습은 추하기만 하다. 손자의 재롱마저도 그다지 즐겁지 않다. 결국 혼자인 인간은 혼자만의 질문을 하며 삶을 마감한다. 그래서 어쩌라고? 이 모든 것의 의미가 과연 무엇이었냐고?

인생에서 가장 중요한 문제들은 결코 풀리지 않는다. 어른의 삶을 비난하던 우리는 사랑에 빠지고 여행을 한다. 친구들과 술을 마시고 맛있는 음식을 먹으며 행복을 느낀다. 몸이 즐겁기에 마음의 질문을 잠시 잊게 되는 것뿐이다. 그리고 어느새 우리 역시 ‘그들’과 같은 삶을 살고 있다. “나만은 다르다”는 착각으로 시작해 결국 “그래 봐야 똑같다”는 좌절로 끝나는 게 인간의 존재란 말이다. 그런 우리를 지능을 가진 기계는 과연 어떻게 바라볼까? 우리를 그저 불쌍히 여길까? 아니면, 지구에 더 이상 존재할 가치가 없는 일종의 감염병으로 판단할까?

기계에 유교사상 심어도 복종 의문
미국 카네기멜런대학의 인공지능 학자 한스 모라비치(Hans Moravec)는 인간보다 빠르고 뛰어나며 영원히 존재할 수 있는 기계는 인간을 지구에서 불필요한 존재로 판단해 멸종시킬 거라고 예측한다. 그리고 덧붙인다. 그게 뭐 그다지 슬픈 일이냐고? 기계는 어차피 우리의 후손이라고. 인류의 모든 역사와 지식을 그 누구보다 완벽하게 보존할 기계들이기에, 인류의 기억만큼은 사라지지 않을 거라고. 호모 사피엔스가 네안데르탈인들을 멸종시켰듯, 기계도 호모 사피엔스를 멸종시킬 거라고. 그게 바로 자연의 법칙이라고.

하지만 잠깐! 도살장으로 끌려가는 가축같이 전 인류가 학살될 때까지 그저 기다리란 말인가? 물론 인정할 수 없다! 그렇다면 지능을 갖게 될 기계에 안전장치를 심어 줄 수는 없을까? 우선 미국의 과학소설가 아이작 아시모프(Isaac Asimov)의 로봇 3원칙 같은 방법으로 기계는 절대 인간을 해쳐선 안 된다고 정해 놓을 수 있겠다. 하지만 지능을 가진다는 의미는 “학습을 통해 자신의 한계를 뛰어넘을 수 있다”는 말과 동일하다. “기계는 무조건 인간의 명령에 복종해야 한다”는 자명적 한계는 학습기능을 가진 인공지능에겐 무의미하다. 그렇다면 기계가 인간을 ‘신’으로 섬기게 한다면? 아니면 인공지능에 유교적 사상을 심어 그들의 부모인 인간에게 무조건 복종하게 한다면? 역시 지적 독립성을 가진 인공지능을 제어하기엔 불충분하다.

반대로 조금 더 공학적인 방법도 생각해 볼 수 있겠다. 기계의 지능과 수명을 연관시켜 보면 어떨까? 인간을 뛰어넘는 지능을 가진 기계는 정해진 시간이 지나면 스스로 파괴되도록 ‘킬 스위치’를 기계에 심어 볼 수 있다. 아니면 차라리 기계에 왜곡된 기억을 심어 자신도 인간이라고 착각하게 만든다면? 스스로를 인간이라고 믿는 기계라면 인류 전체를 멸종시킬 이유가 없지 않을까?

“인생이란 다 그런 거야!”라며 부족한 서로를 치유해 주는 인간과는 달리, 기계는 객관적인 대답을 원한다. 인간이 왜 존재해야 하는지? 왜 인간이 존재하는 우주가 인간 없는 우주보다 더 바람직한지?

독일의 계몽주의 사상가 이마누엘 칸트는 ‘계몽’이란 인간 스스로 초래한 미성숙에서 벗어나는 길이라고 주장했다. 그렇다면 인공지능이야말로 인류에게 주어진 계몽의 마지막 기회라고 볼 수 있겠다. 미개·무능력·미신·편견에서 벗어나 기계에게 존경받을 수 있는 현명한 인류로 업그레이드해야 한다는 말이다. 더 이상 계몽을 미룬다면 인공지능이야말로 인류의 마지막 발명품이 될 것이고, 지능을 가진 기계가 등장하는 순간 우리 호모 사피엔스의 시대 역시 끝날 것이다.

---

김대식 독일 막스-플랑크 뇌과학연구소에서 박사학위를 땄다. 미국 MIT와 일본 이화학연구소에서 박사후 과정을 거쳤다. 이후 보스턴대 부교수를 지낸 뒤 2009년 말 KAIST 전기 및 전자과 정교수로 부임했다. 뇌과학·인공지능·물리학뿐 아니라 르네상스 미술과 비잔틴 역사에도 관심이 많다.

Copyright by sunday.joins.com, Inc.