인간적인 인공지능에 반대한다 / 장대익

[유진]

‘인간적인 인공지능’에 반대한다

장대익 ( 가천대학교 창업대학 석좌교수 · 진화학)

알파고 등장 당시 실험을 했다
정체성 위협받으면 인간은 어떻게 대응하나
AI에 한두 가지만 진다면 더 잘하는 것 찾으면 되지만
빅테크의 생존 건 투자 경쟁으로 이제 곧 특정 AI 아닌 ‘일반 AI’ 시대
그때 인간은 뭘로 자존감 찾나

  만일 야구 한일전에서 한국이 지난 30년간 단 한 게임도 이기지 못했다고 가정해보자. 사회 정체성 이론에 따르면 우리 국민의 반응은 크게 셋 중 하나이다. 그래도 다시 도전해보자는 반응(도전 전략), 야구로는 일본을 도저히 이기지 못할 것 같으니 가령 축구 같은 다른 종목으로 갈아 타자는 반응(대안적 보상 전략), 또는 아예 다음부터는 일본을 응원하겠다고 폭탄선언(탈퇴 전략).

  사람은 자신이 속한 집단이 타 집단으로부터 정체성의 위협을 받으면, 다시 경쟁하려고 하거나, 다른 정체성을 찾거나, 아예 그 집단을 탈퇴하려고 한다. 이때 ‘타 집단’은 당연히 인간 집단을 지칭한다. 가령, 남성 집단, 백인종, 진보 진영, 이성애 집단 등. 어쨌든 사피엔스라는 한 종 내의 하부 집단들이다. 그러나 지난 2016년 3월, 새로운 집단이 등장했다.

  많이들 기억하실 것이다. 2016년 3월 9일부터 15일까지 서울에서 진행된 이세돌과의 대국에서 승리한 알파고(구글 딥마인드에서 개발한 인공지능)의 등장을. 그날로 알파고는 체스 챔피언을 꺾은 딥 블루와 퀴즈쇼에서 우승한 IBM의 왓슨에 이은 또 한 분야의 인공지능 챔피언으로 등극했다. 그런데 그것은 인공지능 진화의 새로운 시작에 불과했다.

  당시 내 연구실에서는 이 대국 결과에 대해 일반인이 어떠한 심리적 반응을 보이는지를 연구했다. 사회심리학에서는 인간 본성에 크게 열 가지 특징이 있다고 말한다. 인간이 동물과 구별되는 특성들로는 도덕성·성숙함·교양·깊이·정교함이, 기계와 구별되는 특성들로는 따뜻함·정서적 반응·융통성·주체성·합리성이 있다. 이 단면들 중에서 알파고의 압승은 결국 어떤 영역에 위협을 주었을까? 그리고 사회 정체성 이론이 예측하는 것처럼 우리 인간은 셋 중 하나의 전략을 취했을까?

  결과는 매우 흥미로웠다. 이 역사적 바둑 대국에서 인공지능이 인간을 위협한 단면은 합리성과 정교함 부분이었다. 그리고 이 충격으로 인해 우리는 도전 전략도 포기 전략도 아닌 대안적 보상 전략을 취했다. 즉, 합리성과 정교함 영역에서는 더 이상 인공지능을 이길 수 없으니 다른 영역에 기대를 걸자는 반응이었다. 실제로 피험자들은 열 가지 특성 중에서 도덕성, 정서적 반응, 자율성이 인간의 정체성에 훨씬 더 중요하다며, 실제로 그 영역들에서 인공지능보다 훨씬 더 낫다고 판단했다. 합리성과 정교함에서의 패배를 다른 영역에서 보상하려 한 것이다. 마치 풍선의 한쪽을 손으로 강하게 쥐면 다른 부분이 부풀어 오르는 것처럼.

  만일 또 다른 인공지능이 등장해서 인간의 도덕성, 정서적 반응, 자율성 부분을 위협하면 어떻게 될까? 더 나아가 인간 본성의 열 가지 단면 모두에 큰 위협이 되는 인공지능이 실현된다면 우리는 어떤 대안적 영역들로 나아가 우리의 훼손된 심리를 보상할 수 있겠는가?

  충격적 진실은 이 중요한 질문에 답해야만 할 날이 얼마 남지 않았다는 사실이다. 오픈AI사의 챗GPT로 촉발된 AI 군비경쟁이 올 들어 일반 인공지능(AGI)이 언제 실현될 수 있는지에 대한 쟁점으로 또 한 번 점화되었다. ‘일반 인공지능’이란 특정 영역에 국한되지 않는 넓은 범위에서 인간의 평균 지능 수준 이상을 구현할 수 있는 기계지능을 뜻한다. 가령, 영상의학 자료를 수집하고 분석하는 AI는 특수 인공지능인 반면, 인간의 일반적 추론, 학습, 기억, 지각 능력을 구현하여 일상의 파트너가 될 수 있는 정도의 지능이 바로 일반 인공지능이다.

올 초 메타의 저커버그는 “우리가 만들고 싶은 제품을 만들기 위해서는 인공 일반 지능을 만들어야 한다”는 비전을 제시했고, 오픈 AI의 올트먼이 올해 제일 많이 받는 질문 중 하나가 대체 언제 인공 일반 지능이 실현될 것인가 였다. 소프트뱅크의 손정의는 “10년 안에 인간 지능을 뛰어넘는 범용 인공지능이 실현되니 거기에 몰두하라”고 했고, 엔디비아의 황은 “5년 내로 될 것 같다”고 예상했다. 국내에서는 삼성, SK 등이 향후 일반 인공 지능 용으로 사용될 AI칩을 생산하기 위해 사활을 건 경쟁에 나섰다.

  인간의 모든 역량을 능가할 일반 인공 지능이 근 미래에 출현한다면 인간은 정체성의 대혼란을 겪게 될 것이다. 심지어 자율성마저 획득하게 된 일반 인공 지능 앞에서 인간의 자존감은 끝없이 추락할 것이고, 심리적 보상을 위해 기계보다 더 잘한다고 여겨지는 또 다른 영역을 찾으려고 안간힘을 쓸 것이다. 그래서 찾을 법한 ‘그래, 인간은 기계와 달리 실수를 잘 하지!’는, 애처로움 그 자체일 것이다.

  이런 맥락에서 일반 인공 지능 개발을 위한 글로벌 빅테크 기업들의 군비경쟁이 당연한 선택이며 어쩔 수 없는 전략이라고 확신해서는 안된다. <권력과 진보>에서 기술과 번영의 1천년 역사를 탐구한 아세모글루가 일갈 했듯이, “인공 지능이 인간 지능과 얼마나 유사한가에 집착하지 말고, 그것이 얼마나 우리에게 도구적으로 유용한지”를 숙고해봐야 할 시점이다.