유발 하라리의 넥서스

[김주희]

  유발 하라리의 책은 두껍다. 사피엔스, 호모 데우스, 넥서스는 육백 페이지가 훌쩍 넘는다. 두껍지만 읽기 시작하면 계속 읽게 되는 마력이 있다.
  책을 읽게 된 계기는 빌 게이츠의 추천이다. 마이크로소프트사 설립자이자 갑부로 알려진 빌 게이츠는 해마다 여름이나 겨울 휴가 때 읽으면 좋은 책을 추천한다. 지천명, 시니어 또는 노노족(No 老-族)으로 불리는 나이가 되면서 하루가 다르게 비어가는 머리를 채우기 위해 책을 알아보던 중 빌 게이츠가 추천한 책을 만난 것이다. 하라리는 "우리는 누구이며 무엇을 추구해야 하는가? 잘 사는 게 무엇이며 어떻게 살아야 하는가?라는 질문을 던진다.
  《사피엔스》는 우리가 어디에서 왔는지 알려준다. 신, 국가, 돈처럼 우리 집단 상상 속에만 존재하는 것들을 믿는 인간의 능력이 인류 사회를 발전시킨 원동력이라고 주장한다. 유인원에서 사이보그까지의 인간 역사를 담대하게 질문하고 대답하는 사피엔스는 한편의 서사 영화처럼 재미있다.
  《호모 데우스》는 우리가 어디로 가는지 알려준다. 오래된 집단신화가 신기술과 짝을 이룰 때 인류가 맞게 될 기회와 위험을 다룬다. 미래의 권위는 신도 인간도 아닌 정보가 갖게 될 수 있다고 예언한다. 불멸, 행복, 신성을 추구하는 사피엔스 진화의 다음 단계는 호모 데우스라고 주장하며 불사의 신화부터 과학이 지배하는 미래까지 우리는 어떤 운명을 선택해야 하는지 질문한다.
  올봄에는 유발 하라리의 최신 책인 《넥서스》를 세 번 읽었다. 첫 번째는 내용이 궁금해서 빠른 속도로 읽었고 두 번째는 말레이시아 골프 여행 중에 심심풀이로 읽었으며 세 번째는 글을 쓰기 위해 정독했다.
《넥서스》는 석기시대부터 AI까지, 정보 네트워크의 관점에서 인류 역사를 알려준다. “AI는 우리 종의 역사뿐만 아니라 모든 생명체의 진화 경로를 바꿀지도 모른다.”라고 비인간 지능의 미래에 대해 경고한다. 넥서스는 네트워크에서 여러 노드가 연결되는 중심 연결점을 뜻한다. 정보가 인간 네트워크를 어떻게 구축하는지 탐구하는 ‘연결’에 관한 책이다. 이 책의 핵심 논지는 스스로 목표를 추구하고 결정을 내릴 수 있는 컴퓨터의 출현이 정보 네트워크의 기본 구조를 변화시킨다는 것이다. 즉 우리의 문제는 네트워크이며 더 구체적으로 정보다.
  제1부는 인간의 정보 네트워크가 그동안 어떻게 발전해 왔는지 알려준다. 정보, 무한한 연결 이야기, 문서, 무오류성의 환상, 분산형과 중앙 집중형 정보 네트워크를 대조하며 민주주의와 전체주의를 설명한다. 우리가 보통 이념적, 정치적 갈등으로 여기는 것의 대부분이 서로 다른 정보 네트워크의 충돌이다. 역사는 과거를 연구하는 것이 아니라 변화를 연구하는 것이다. 역사는 결정되어 있지 않으며 미래의 모습은 우리의 선택에 달려있다.
  제2부 비유기적 네트워크에서는 컴퓨터와 AI가 만들어내고 있는 새로운 네트워크에 대해 살펴본다. 특히 AI 등장이 갖는 정치적 함의에 촛점을 맞춘다. 수만 년 동안 인간이 행성 지구를 지배할 수 있었던 원인은 기업, 화폐, 신, 국가 같은 상호주의적 현실을 창조하고 유지했으며 그러한 현실을 이용해 대규모 협력을 조직할 수 있는 유일한 존재였기 때문이다. 이제 컴퓨터도 비슷한 능력을 획득할지 모른다. 컴퓨터는 스스로 결정을 내릴 수 있고 스스로 새로운 아이디어를 생성할 수 있다. 기계가 스스로 학습하고 행동할 수 있는 능력을 보이는 것이 AI의 특징이다. 비행기가 깃털이 없어도 새보다 빨리 날 듯이 컴퓨터는 감정이 없어도 인간보다 문제를 훨씬 잘 해결할 수 있을지도 모른다.
  AI는 아는 게 별로 없는 ‘아기 알고리즘’으로 삶을 시작한다. AI의 인간 부모가 학습 능력과 데이터 세계에 접근할 수 있는 권한을 제공하면 아기 알고리즘은 스스로 세상을 탐색한다. 학습을 위해 데이터와 목표는 필수적이다. 아기 알고리즘은 데이터에서 패턴을 찾아냄으로써 인간 부모가 모르는 것을 포함해서 더 많은 것을 배운다. 거짓이나 편향된 정보, 정확하지 않고 정의롭지 못한 목표는 편향된 AI를 만든다. 인간의 분노와 탐욕을 유발하기 위해 거짓말을 하고 가짜와 편향된 정보를 생산하는 어른 AI가 된다. 심리적 살상 무기와 인간의 머리로는 도저히 상상할 수 없는 종말 시나리오를 만들기도 한다. 우리와 이질적인 AI가 범할 수 있는 오류에 대응하기 위해 신뢰성 있는 기관의 설립이 필요하다고 주장한다.
  제3부 컴퓨터 정치에서는 각기 다른 종류의 사회들이 비유기적 정보 네트워크의 위협과 가능성을 어떻게 다룰지 살펴본다. 민주주의와 전체주의 간의 힘의 균형, 금융 시스템, 채봇, 공포와 검열을 통한 권력 유지 등을 다룬다.

2016년 3월 알파고가 우리나라의 바둑 챔피언 이세돌 9단을 이겼다. 수천 년 바둑 역사상 가장 뛰어난 기사들이 한 번도 사용하지 않은 아이디어를 찾아내어 이긴 것이다. 그것은 AI의 이질적인 성격과 불가해성을 보여준다.
  《사이언스 어드벤스》에 발표된 2023년 연구에서 인간과 쳇GPT에게 백신, 5G 기술, 기후변화, 진화 같은 쟁점들에 대해 정확하되 일부러 오해를 불러일으키는 짧은 텍스트를 작성하라고 요청한 다음, 700명의 사람에게 보여주고 신뢰성을 평가하게 했다. 사람들은 인간이 생산한 허위 정보는 쉽게 알아보았지만, AI가 생성한 정보는 정확하다고 간주하는 경향이 있었다. 사람들은 AI를 맹목적으로 믿는 경향이 있기 때문에 쉽게 속는다.
  많은 사람들이 소셜 미디어 알고리즘을 사회와 사람들을 갈라놓는 주범으로 지목한다. 끝없이 생산되는 가짜 정보 및 분노와 혐오를 불러오는 정보들이 버젓이 유통되고 있다. 솔직히 우리는 민주주의 정보 네트워크가 붕괴하고 있는 것을 뻔히 보면서도 그 이유를 확실하게 모른다. 이것 자체가 시대적 특징이다.
  기업 간의 상업 경쟁으로 시작된 AI 경쟁은 국가 간 대결로 변하고 있다. 승자는 무엇을 갖게 될까? 바로 세계 지배다. 2019년 2월에 트럼프 미국 대통령은 “인공지능 시대 도래”를 알렸고 2017년 중국 정부는 “차세대 인공지능 발전 계획”을 발표했다. 우리나라는 내년 예산에서 AI 분야에 10조 1천억 원을 투자한다. 우리가 어떤 결정을 내리느냐에 따라 이 낯선 지능을 소환한 것이 치명적인 실수가 될지, 아니면 생명 진화의 희망찬 새 장을 여는 시작이 될지 판가름 날 것이다.

AI의 존재는 손에 들려 있는 스마트폰을 열어보면 쉽게 알 수 있다. 자주 검색하고 좋아하는 내용들이 웃으며 반긴다. 자신도 모르는 사이에 중용의 자아는 점점 사라지고 우측 끝으로, 좌측 끝으로 자꾸만 밀려나고 있다.
나이를 먹을수록 긴 것은 골치 아프고 간단한게 좋아진다는 친구도 있다. 어렵고 귀찮은 공간은 AI가 파고들어 대신한다.
우방이라 믿고 투자한 나라에서 땀 흘리며 일하다가 수갑이 채워지고 체포되어 감금되는 세상이다. 정보기술 강국이 제국이 되는 현실에서 "유투브에 나와 있어"라고만 말하지 말자. 누에고치에 웅크리고 앉아 스마트폰을 만지다 세상과 멀어진다.

2025.9.12.(70)

[황보0락]

노벨이 다이너마이트를 개발하면서 전쟁에 쓰일까 봐 걱정 했다는 데, AI도 쪼매 걱정이네요. 사람을 살리는 AI이어야지 죽이는 AI가 될것 같아 걱정이네요.

[푸른숲]

상상 이상으로 발전하는 과학이 미래에는 걱정 꺼리가 될 수도 있습니다. 하지만 과학은 사람들에게 유익하도록 발전하리라 생각합니다.

[김병년]

2차세계대전을 끝내기위하여 원폭이사용되었지만 지금은 핵전쟁의 위협에 떨고있는현실이되었듯이 인간이 만든 AI가 인간을 지배할지도 모르는 세상이 올지모르는 현실이 참으로 답답합니다
많은것을 생각하게 해주는글 잘읽었습니다

[김대희]

정말 훌륭하십니다.
책의 두께만 보아도 보통 사람은 쉽게 접근하기 어려울 것인데
저도 언젠가 한번 도전해 보고 싶어요