유발 노아 하라리의 종말론적 비전

[로버트 박]

유발 노아 하라리의  종말론적 비전

AI의 위험에 대한 그의 경고는 충격적이다.

하지만 우리가 위험을 피하는 데 도움이 될까?

2020년 다보스포럼에 참석한 유발 노아 하라리.

/사진=로이터/뉴스1

편집자 주

'사피엔스'로 일약 세계적인 사상가로 자리매김한 

유발 노아 하라리가 최근 신작 '넥서스'를 냈습니다. 

이번엔 인공지능이 주제입니다. 

하라리는 수년, 수만 년 단위의 관점에서 

역사를 조망하기로 유명한데 

노스웨스턴대학의 역사학자 대니얼 임머바르는 

애틀랜틱의 2024년 9월 6일자 서평에서 

이런 관점이 갖는 한계를 지적합니다. 

인공지능은 지금 여기에서

펼쳐지고 있는 사안이기도 하며

 사회적인 참여(또는 개입)을 통해서 

그 궤적을 변경시키는 것도 가능한데 

하라리는 너무 숙명론적인 관점을 취하고 있어 

정치적인 변혁의 가능성을 닫아두고 있다는 것입니다.

 임머바르는 실리콘밸리에서 숭배를 받고 있는 하라리가,

 그의 논리대로라면 자연스러운 귀결인 

'IT대기업에 대한 규제'에 대해서는 일부러 

함구하고 있지는 않은가 은연 중에 지적하고 있기도 합니다. 

모쪼록 이 서평이 곧 국내에도 소개될 하라리의 신작에 대해 

보다 비판적 읽기를 하는데 도움이 되기를 바랍니다.

"약 140억 년 전, 물질, 에너지, 시간, 

그리고 공간이 탄생했다."

 이스라엘 역사학자 유발 노아 하라리의

 '사피엔스'(2011)는 이렇게 시작된다. 

그렇게 21세기에서 가장 놀라운 

학문적 경력 중 하나가 시작되었다.

 '사피엔스'는 세계 각국의 언어로 

2500만 부 이상 팔렸다.

 그 이후 하라리는 여러 책을 출판했고, 

그 책들도 수백만 부가 팔렸다. 

그는 현재 직원 15명 가량을 고용해 

그의 업무를 관리하고 그의 사상을 홍보하고 있다.

그에겐 그들이 필요하다.

 하라리는 달라이라마 다음으로 

온라인 활동이 가장 적은 세계적 명사일 것이다. 

그는 스마트폰을 사용하지 않는다

("저는 제 시간과 주의력을 보존하려고 노력합니다").

 그는 매일 두 시간 명상을 한다. 

그리고 그는 매년 한 달 이상 칩거 생활을 한다. 

엄청난 강연료를 포기하고 묵언 수행을 하는 것이다.

 화룡정점을 찍는 것은 대머리에 안경을 썼고

 대체로 채식주의자인 하라리의 모습이다. 

'구루guru'라는 단어가 종종 들린다.

하라리의 수도승 같은 분위기는 그를 숭배하는

 실리콘밸리에서 강력한 매력을 발산한다. 

빌 게이츠는 '사피엔스'에 추천사를 썼다. 

마크 저커버그는 책을 홍보했다.

 2020년, 제프 베이조스는 거의 비어 있는 

책장을 배경으로 원격 의회증언을 했는데, 

세계 최대의 서점인 아마존의 창립자에게는

 별로 좋지 않은 모습이었다. 

눈 밝은 시청자들은 책장의 왼쪽 아래에서 

서로의 체온을 나누기 위해서였을까

 옹기종기 모여 있는 6권의 외로운 책들 중 

하라리의 책 2권을 발견했다.

하라리는 테크 업계 CEO들에게 

데이비드 포스터 월리스가 한때 

윌리엄스버그 힙스터들에게 그랬던 것과 같은 존재다.

무명의 학자로 커리어를 시작했던 

사람으로서 놀라운 역할이다. 

하라리의 첫 번째 논문은

 그의 옥스퍼드 박사 논문을 바탕으로 한 것으로, 

초기 근대 군인들의 회고록의 장르적 특성을 분석했다. 

그의 두 번째 논문은 중세 유럽의 

소규모 군사 작전을—하지만 수상 작전은 제외—다뤘다. 

그는 학계가 자신을

 "점점 더 좁은 질문들"로 몰아가고 있다고 느꼈다.

하라리의 궤적을 바꾼 것은 위파사나 명상을 시작한 것과

 누구도 맡으려 하지 않아 보통 신임 교수들에게 주어지는

 세계사 입문 강의를 맡기로 한 일이었다. 

(나도 내 학과에 처음 부임했을 때 같은 과제를 받았다.) 

세계사의 서사시적 규모는 그에게 잘 맞았다. 

'사피엔스'의 기초가 된 예루살렘 히브리대학교에서의 

그의 강의는 호모사피엔스가 어떻게 경쟁자들을 이기고 

지구를 점령했는지에 대한 매혹적인 이야기를 들려주었다.

하라리는 폭넓은 호기심을 가진 능숙한 종합가다. 

신체적 능력이 사회적 지위와 일치하는가? 

우리는 왜 잔디밭을 그토록 좋아하는가?

 대부분의 학자들은 너무 전문화되어 

이런 질문을 제기조차 하지 않는다. 

하라리는 바로 뛰어든다. 

그는 재레드 다이아몬드, 스티븐 핑커, 슬라보예 지젝처럼 

광범위한 이론화에 대한 열정을 갖고 있지만 

도발적인 단순화에 대한 취향에서는 그들을 능가한다. 

그는 중세 유럽에서는

 "지식 = 경전 x 논리"였지만 

과학혁명 이후에는

 "지식 = 경험 데이터 x 수학"이 되었다고 설명한다.

대단한 이야기다. 

물론 줌인보다 줌아웃이

 본질적으로 더 교훈적인 건 아니다. 

우리는 간략한 시간의 역사와 

린든 B 존슨의 5권짜리 전기에서 똑같이 배운다.

 하지만 실리콘밸리의 최근 발명품들은 하라리의 

전매특허인 은하계급 사고를 불러일으킨다. 

주변의 혼란이 크다고 느낄수록 우린 보다 적절한 

비유를 찾기 위해 더 멀리 거슬러 올라간다. 

스탠리 큐브릭의 '2001: 스페이스 오디세이'는 

우주 탐사를 유인원의 도구 발견에 비견한 것으로 유명하다.

이런 기술적 도약이 좋았을까? 

하라리는 의구심을 가지고 있다. 

인류는 "자랑스러워할 만한 것을 거의 만들어내지 못했다"고

 그는 '사피엔스'에서 불평했다. 

그의 다음 책 '호모 데우스: 미래의 역사'(2015)와 

'21세기를 위한 21가지 제언'(2018)은 

불안감을 가지고 미래를 바라보았다. 

이제 하라리는 태초부터 역사를 개괄하는 또 다른 저작

 '넥서스: 석기 시대부터 AI까지의 정보 네트워크 역사'를 썼다.

 이는 그의 가장 암울한 저작이다. 

책에서 하라리는 더 많은 정보가 자동으로 

진실이나 지혜로 이어진다는 생각을 거부한다. 

대신 정보의 집적은 인공지능(AI)으로 이어졌고

 하라리는 AI의 도래를 종말론적으로 묘사한다. 

"만약 우리가 이를 잘못 다룬다면 AI는 

지구상의 인간의 지배뿐만 아니라

 의식의 빛 자체를 소멸시켜 우주를 완전한 어둠의

 영역으로 만들 수 있다." 그는 경고한다.

AI의 선례를 찾는 사람들은 종종 

활자인쇄술을 언급한다. 

인쇄술은 유럽을 책으로 넘치게 만들었고

 과학혁명으로 이어졌다고 한다.

 하라리는 이런 설명에 이의를 제기한다. 

그는 인쇄가 과학을 위해 

사용되리라는 보장은 없었다고 지적한다. 

코페르니쿠스의 '천체의 회전에 관하여'는 

1543년 초판 500부조차 팔리지 않았다.

 작가 아서 쾨슬러는 이를 두고

 "역대급 워스트셀러"라고 농담했다.

시중에서 실제로 많이 팔린 책은 하인리히 크래머의

 '마녀를 심판하는 망치'(1486)였는데 

악마와 교접하고 남성의 성기를 저주한다는 

성적으로 탐욕스러운 여성들의 사탄적 음모에 대한 

장광설로 가득한 책이었다. 

역사학자 타마르 헤르치그는 크래머의 책을

 "전근대 시기에 인쇄된 텍스트 중 아마도 

가장 여성혐오적인 텍스트"라고 묘사한다. 

그럼에도 그는 이것이 

"근대 초기의 기준에서 베스트셀러였다"고 썼다. 

하라리는 크래머의 책이 독자에게 미친 영향력을

 큐어넌QAnon에 비유하는데 크래머의 책은 

수만 명을 죽인 마녀사냥을 부추겼다. 

하라리는 이러한 살인적인 광기가 

인쇄술에 의해 "더 악화되었다"고 본다.

하라리는 더 풍부한 정보의 흐름이

 감시와 폭정도 악화시켰다고 주장한다. 

그는 소련이 다른 것보다도 "역사상 가장 강력한

 정보 네트워크 중 하나"였다고 쓴다.

 알렉산드르 솔제니친이 편지에서

 소련의 지도자 조셉 스탈린에 대해 불평할 때, 

그는 조심스럽게 "콧수염 난 남자"라는 완곡어법을 썼다. 

그럼에도 불구하고 당국은 그의 편지를 가로채 

그 내용을 파악했고 솔제니친은 8년간 굴라그에 수용되었다.

 하라리는 소련이 자국 상황에 대해 수집한 자료의 대부분이 

신뢰할 수 없거나 제대로 이해되지 않았다고 지적한다. 

하지만 그렇게 산더미처럼 쌓인 종이뭉치는 

완전한 통제가 가능하다는 환상을 키웠고 

이는 소련 시민 수백만 명을 죽였다.

하라리는 정보가 항상 이러한 

파괴적 잠재력을 가지고 있었다고 본다. 

그러나 지금까지는 그러한 지옥 같은 사건들조차도 

단지 짧은 에피소드에 불과했다고 그는 주장한다. 

크래머가 부추긴 것과 같은 선동적인 광기는 

강렬하게 타올랐다가 사그라지는 경향이 있다. 

사람들을 영원히 광란의 상태로 유지하기는 어렵다. 

사람들의 감정을 건드리는 뇌관은 계속 바뀐다.

 한때 이웃을 공격하도록 부추겼던 글이 

한 달 또는 일 년 후에는 우스꽝스럽게 보일 것이다.

하라리는 하향식 공포 통치로 유지되는 국가들도 

지속성 문제가 있다고 설명한다.

 어떻게든 모든 편지를 가로채고 

모든 가정에 정보원을 심을 수 있다 하더라도,

여전히 들어오는 모든 보고서를 

지능적으로 분석해야 할 것이다. 

어떤 정권도 이를 관리하는 데 성공하지 못했다.

 20세기에 완전통제에 가장 가까워진 국가들도 

정보 관리에서 발생하는 지속적인 문제로 인해 

기본적인 통치가 어려웠다.

어쨌든 종이의 시대에는 그러했다. 

지금은 데이터 수집이 훨씬 더 쉬워졌다. 

미래의 솔제니친은 자신의 생각을 드러내기 위해 

서투른 암호로 된 무분별한 편지를 

정부 우편을 통해 보낼 필요가 없을 것이다. 

디지털 독재 정권은 그저 그의 검색 기록만 확인하면 되리라. 

몇몇 사람들은 정부가 자신의 뇌에 칩을 이식할까 봐 걱정한다. 

하지만 하라리는 사람들이 "그보다도 그런 음모론을 접하게 되는

 매개체인 스마트폰 그 자체에 대해 걱정해야 한다"고 쓴다. 

휴대폰은 이미 우리의 눈동자 움직임을 추적하고, 

말을 녹음하고, 우리의 사적인 대화를 

이름 모를 타인들에게 전달할 수 있다. 

놀랍게도 사람들은 성관계를 할 때도 

기꺼이 이 도청 장치를 침대 옆에 둔다.

하라리의 가장 큰 우려는

 AI가 대화에 참여할 때 일어날 일이다. 

현재 대규모 데이터 수집은—늘 그래왔듯이—

데이터 분석의 어려움으로 상쇄된다. 

우리는 예를 들어, 

경찰이 얼굴 인식 소프트웨어의 조언을 받아 

무고한 흑인을 체포했다는 보고에 익숙하다

(많은 알고리즘이 그렇듯이 백인 사진으로 가득한 데이터베이스로

 훈련된 알고리즘은 백인이 아닌 사람을 구별하는 데 어려움을 겪는다).

 이러한 이야기들은 알고리즘에 의존하는 위험을 보여주지만

 AI가 제대로 작동하기에는 너무 결함이 많다고 암시함으로써

 가짜 위안을 줄 수 있다. 이는 오래 지속되지 않을 것이다.

모든 얼굴을 인식하고, 모든 기분을 알며, 그 정보를 

무기화하는 존재에 대해 어떤 방어가 가능할 수 있을까? 

초기 근대 유럽에서 마녀사냥에 뛰어들고 싶은 독자들은

크래머의 광기 어린 책을 찾아서 구입한 후

 번역(책은 라틴어로 쓰여졌다)까지 해야 했다. 

오늘날의 정치적 망상은 사람들을 "흥미로운" 콘텐츠로

 유도하는 클릭 극대화 알고리즘에 의해 부추겨지는데 

이런 콘텐츠는 그들의 정의로운 분노를 자극하는 경우가 많다. 

하라리는 AI가 그 콘텐츠를 스스로 생성하고, 

각 사용자에게 최대의 도파민을 주기 위해 

개인화하고 지속적으로 조정할 때 

어떤 일이 일어날지 상상해보라고 한다. 

크래머의 '마녀를 심판하는 망치'는 알고리즘이 만들어낼 

콘텐츠의 헤로인에 비하면 포도당 캔디에 불과할 것이다.

 AI가 통제권을 장악한다면, 우리 모두를

 농노나 사이코패스로 만들 수 있을 것이다.

이런 일이 일어날 수는 있다. 하지만 그럴까?

 하라리는 AI를 궁극적으로 불가해한 것으로 여긴다. 

그것이 그의 우려다. 

2016년 컴퓨터가 한국의 바둑 챔피언을 이겼을 때, 

그것이 둔 한 수는 너무나 기이해서 실수처럼 보였다. 

그 수는 효과가 있었지만 알고리즘의 프로그래머들은

그 이유를 설명하지 못했다. 

우리는 AI 모델을 만드는 방법은 알지만 

그것을 이해하지는 못한다. 

하라리는 우리가 무엇을 할지 모른 채 

무심코 "외계 지능"을 소환했다고 쓴다.

작년에 하라리는 "아무도—심지어 그것들의 창조자도—

이해하거나, 예측하거나, 신뢰할 수 있게 통제할 수 없는

 강력한 디지털 마인드"를 풀어놓음으로써 발생하는

 "사회와 인류에 대한 심오한 위험"을 경고하는 

공개 서한에 서명했다. 

서한은 필요하다면 법의 지원을 받아 최소 6개월 동안

 고급 AI 시스템 훈련을 중단할 것을 요구했다. 

놀랍게도 그런 AI 시스템들을 개발한 연구원들 중 일부와

 일론 머스크도 그 서한에 서명했다.

 AI가 너무 강력해서 그것의 발명자들조차 

두려워한다는 인상을 줬다.

그럴 수도 있다. 하지만 냉소주의자들은 

그 서한을 자기 잇속을 위한 것으로 보았다. 

그것은 인공지능에 결함이 있어 

용도가 한정된 제품이 아니라

 시대를 획기적으로 바꾸는 발전이라고 

주장함으로써 과대 선전을 부추겼다. 

그것은 IT업계 리더들의 오펜하이머 스타일의 

도덕적 진지함을 보여주었다. 하지만 

그들의 연구가 실제로 중단될 가능성이 없었기 때문에 

그들에게는 아무 비용도 들지 않았다. 

서한에 서명하고 4개월 후, 

머스크는 공개적으로 AI 회사를 출범시켰다.

하라리는 실리콘밸리의 

정치싸움 위에 자리잡고 있다.

 그의 높은 관점이 그에게 더 멀리

 볼 수 있게 해주리라는 기대가 있다. 

하지만 너무 좁게 초점을 맞추어 

나무만 보고 숲을 놓치는 것이 가능한 것처럼, 

너무 멀리 떨어져 태양계만 보고 숲을 놓치는 것도 가능하다.

하라리는 미래의 기술이 어떻게 민주주의(또는 인류)를 

파괴할 수 있는지에 대해서는 좋은 안내자이지만 

그러한 기술들을 만들어내는 오늘날의 

경제에 대해서는 그다지 도움이 되지 않는다.

정보시대의 경제는 위험천만했다. 

콘텐츠를 소비하기에는 더 저렴하게 만들었지만 

생산하기에는 덜 수익성 있게 만들었다. 

무료 콘텐츠와 타겟 광고 모델이 

저널리즘에 미친 영향을 생각해보라. 

2005년 이후 미국에서는

발행되는 신문의 거의 3분의1이 사라졌고 

신문 업계 일자리는 3분의2 이상이 사라졌다. 

이제는 신문 업계 노동자의 거의 7퍼센트가 

단일 조직인 뉴욕타임스에서 일한다.

 21세기 미국—정보혁명의 절정이자 그 중심부—에서 

우리는 보도가 본질적으로 사라진 '뉴스 사막'에 대해 말한다.

AI는 이를 악화시킬 위협이 된다.

 더 나은 챗봇이 있으면 플랫폼들은

 외부 콘텐츠에 링크할 필요가 없을 것이다. 

챗봇들이 그런 콘텐츠를 합성해 

재생산할 것이기 때문이다.

 사용자를 외부 사이트로 보내는 구글 검색 대신, 

챗봇은 그 사이트의 내용을 요약해 

사용자를 구글의 담장 안에 머물게 할 것이다.

미래는 백만 개의 링크가 있는 네트워크가 아니라 

'트루먼 쇼' 스타일의 버블이다.

 개인화되어 생성된 콘텐츠, 

실제처럼 들리지만 실제가 아닌 목소리로 읽히고,

 거기에 PPL도 들어간다. 다른 문제들보다도 이는 실제로

 '사상'을 생성하는 작가와 출판사들을 

독자들로부터 차단할 것이다. 

우리의 지성을 발전시키는 기구들은 시들어갈 것이고, 

인터넷은 소프트웨어 엔지니어 톰 이스트만의 말마따나 

"거대한 웹사이트 다섯 개가 있는데 

각 웹사이트마다 다른 네 곳의 스크린샷으로 

가득한" 폐쇄된 루프로 퇴화할 것이다.

하라리는 우리의 지성을 발전시키는 기구들의

 침식에 대해 거의 말하지 않는다. 

어떤 면에서 그는 이런 추세의 징후이기도 하다. 

비록 살과 피를 가진 존재이지만 하라리는 

실리콘밸리가 생각하는 챗봇의 이상적인 모습이다. 

그는 도서관을 털고, 패턴을 감지하며, 

역사를 몇 가지 핵심 포인트로 요약한다. 

(그는 현대성에 대해 

"'인간은 권력을 얻는 대신 의미를 포기하는 데 동의한다'

라는 한 문장으로 요약할 수 있다"고 쓴다.) 

집중력이 떨어지는 독자들을 위해 

그는 재미있는 사실들을 빠르게 전달한다.

이 모든 것은 하라리의 광범위한 독서에서 나온다.

 하지만 챗봇처럼, 그는 자신의 출처와

 어느 정도 적대적 관계를 가지고 있어

 '내가 읽을 테니 당신은 읽지 않아도 된다'는 태도를 보인다. 

그는 다른 작가들로부터 이야깃거리

—멋진 농담, 의미 있는 일화—를 캐내지만 

다른 사람의 견해에 감명받는 경우는 거의 없어 보인다. 

거의 모든 학자들은 '감사의 말'에서 그들에게 

영감을 주거나 도전을 준 대화 상대를 밝힌다. 

'넥서스'에서 하라리는 그의 비즈니스 관계 이외의 

어떤 지적 영향도 인정하지 않는다. 

출판사들, 편집자들, 그리고 "사피엔십Sapienship의 

인하우스 리서치 팀"—즉, 그의 직원들—에게만 감사를 표한다.

여기엔 그의 금욕주의도 연관이 있다. 

하라리는 인간의 "허구"에 "얽매이거나" 

"눈이 멀지" 않기 위해 명상을 한다고 말한다. 

그 말에 숨은 뜻은, 어떤 의미에서는

 밖에 있는 모든 게 함정이라는 것이다. 

지적으로, 하라리는 소믈리에보다는

절대로 술을 안 마시는 사람에 가깝다. 

그가 진지한 책에 몰두해 있는 모습보다는 

자신의 생각에 깊이 빠져 있는 모습을 상상하기가 더 쉽다.

하라리가 현재와 두는 거리는 

그가 AI를 바라보는 방식을 만든다. 

그는 AI를 그저 일어난 일로 논한다. 

그것의 도래는 특별히 누구의 잘못도 아니다.

 '넥서스'의 시작에서 하라리는 비유로 

요한 볼프강 폰 괴테의 '마법사의 제자'를 언급한다.

 이는 선의를 가졌지만 오만한 초심자가 

자신의 이해를 넘어선 마법을 부리는 내용이다. 

사람들은 "의도하지 않은 결과를 가진 

강력한 것들을 만드는 경향이 있다"고 동의하면서도

 하라리는 개인에게 책임을 돌린다며 괴테를 비난한다. 

하라리의 관점에서

 "권력은 항상 여러 인간 사이의 협력에서 비롯된다." 

다시 말해 그것은 사회의 산물이다.

분명 맞는 말이다. 하지만 우리는 왜 

마법사의 제자에 대해 이야기하고 있는 걸까? 

인공지능은 "실수"가 아니다. 

그것은 과학자들이 수십 년 동안 

의도적으로 연구해 온 것이다.

 (MIT의 AI 프로젝트는 1959년에 시작돼 여전히 운영 중이다.)

 이러한 노력들은 단순한 호기심에 의해 추진된 것도 아니다.

 개별 AI 모델은 수십억 달러의 비용이 든다.

 2023년, 북미와 유럽 벤처 캐피털의 

약 5분의1이 AI에 투자되었다. 

이러한 금액은 IT 기업들이 독점이나 마케팅을 통해

 제품으로부터 엄청난 수익을 얻을 수 있을 때만 의미가 있다.

 그리고 그 규모에서, 가장 명백한 구매자는 

다른 대기업이나 정부다. 

기업과 국가에 더 많은 권력을 주는 것이 

잘 될 거라고 우리는 얼마나 확신하는가?

AI는 자체적인 목표를 가진 

외계 지능이 되지 않을 수도 있다. 

하지만 그것이 제대로 돌아간다고 가정하면, 

그것을 다룰 수 있을 만큼 부유한 사람에게는 

강력한 무기가 될 것이다.

 '마법사의 제자'처럼 AI 개발자들이 창조물에 대한 

통제력을 잃을 가능성에 대해 걱정하는 것은 

보다 그럴싸한 시나리오로부터 주의를 분산시킨다. 

바로 그들이 통제력을 잃지 않고 당초 계획대로 

그것을 사용하거나 판매한다는 시나리오다. 

보다 비유에 적합한 독일 우화는 리하르트 바그너의

 '니벨룽의 반지'일 수 있다.

권력에 굶주린 인셀incel이 소유자가 

세계를 지배할 수 있게 하는 반지를 만들고 

신들이 그것을 두고 전쟁을 벌인다.

하라리의 눈은 실리콘밸리의 경제나 정치보다는 

지평선에 더 집중되어 있다.

 이는 깊은 통찰을 제공할 수 있지만 동시에

 만족스럽지 못한 권고사항을 제시한다. 

'넥서스'에서 그는 네 가지 원칙을 제안한다. 

첫 번째는 "선의"로, 다음과 같이 설명된다. 

"컴퓨터 네트워크가 나에 대한 정보를 수집할 때,

 그 정보는 나를 조종하기보다는 돕는 데 사용되어야 한다."

 사악해지지 말자. 오케이. 누가 반대하겠는가? 

하라리의 다른 세 가지 원칙은 정보 채널의 분산화, 

우리의 데이터를 수집하는 사람들의 책임성, 

그리고 알고리즘 감시로부터의 휴식이다. 

다시 말하지만 좋은 이야기다.

 하지만 누구나 쉽게 할 수 있는 뻔한 소리인 데다가 

그다지 도움이 되지도 않는다. 

특히 "우리" 모두가 추구해야 할 것들로 

추상적으로 표현되면 더욱 그러하다.

하라리는 '넥서스'를 선언으로 끝맺는다. 

"앞으로 몇 년 동안 우리 모두가 내리는 결정"이

 AI가 "희망찬 새로운 장"이 될지 아니면

 "치명적인 오류"가 될지를 결정하리라는 것이다.

 아무렴 물론이다.

 하지만 그의 지속적인 

1인칭 복수 사용("우리 모두가 내리는 결정")은

 은연 중에 AI가 특정 기업과 그 기업을 운영하는 개인들의 

산물이 아니라 인류의 집단적 창조물이라고 시사한다.

이는 AI 드라마에서 가장 중요한 행위자들이 

누군지를 모호하게 만든다. 

바로 그 행위자들이 하라리가 말하는 바로 

그 결정을 내리는 데 필요한 올바른 정보에 입각한 

활발한 토론을 방해하고 우리의 지적 생활을 

약화시키고 있는 바로 그 순간에 말이다.

AI를 진지하게 받아들인다는 것은 

그것을 개발하는 기업들과 직접 맞서는 것을 의미할 수 있다.

AI 기업에 경제력이 집중되는 걸 우려하는 활동가들은

 구체적으로 독점금지법, 더 엄격한 규제, 투명성,

 데이터 자율성, 대안 플랫폼에 대해 말한다.

 AT&T가 그랬던 것처럼 대기업들을 해체해야 할지도 모른다.

하라리가 명백히 반대하는 것은 아니다. 

그의 가치관은 실제로 그러한 조치들을 

정당화하는 것처럼 보인다. 

특히 그가 그리는 악몽 같은 가상 시나리오 중 일부가 

통제불능의 기업들(그리고 국가들)과 관련되어 있기 때문이다. 

그러나 하라리는 실리콘밸리의 지배적인 세계관에 쉽게 들어맞는다. 

그가 디지털 기기의 사용을 절제한다는 사실은 자주 언급되지만

 그는 그 누구보다도 실리콘밸리의 정보 수집과

 표현 스타일을 잘 보여준다. 

그리고 그 세계의 많은 사람들처럼, 

그는 기술적 디스토피아주의와 정치적 수동성을 결합한다. 

그는 IT 대기업이 AI를 더욱 발전시키면서 

인류를 끝낼 수도 있다고 생각하지만 

그들을 막는 걸 긴급한 우선순위로 다루지는 않는다. 

인류 전체의 이야기로 그리는 그의 서사시적 내러티브에는

 그런 '우리 대 그들'의 충돌이 들어갈 공간이 별로 없다.

하라리는 종種의 규모에서 잘 쓴다. 

책으로서 '넥서스'는 

'사피엔스'의 최고 수준에 도달하지는 못하지만

 AI가 어떻게 재앙이 될 수 있는지에 대한 

충격적인 비전을 제공한다. 

문제는 하라리의 광각 렌즈가 

우리가 그것을 피하는 방법을 찾는 데 도움이 되느냐다.

 때로는 산 정상에서 내려와야 가장 좋은 전망을 볼 수 있다.

글 : Daniel Immerwahr

---

대니얼 임머바르는 노스웨스턴대학교에서 역사를 가르치며

저서로 '미국, 제국의 연대기'가 있다.

• 원문https://www.theatlantic.com/magazine/archive
• /2024/10/yuval-noah-harari-nexus-book/679572/
• 필자Daniel Immerwahr
• 번역김수빈
• 편집김동규, 김수빈