어떻게 인간과 공존하는 인공지능을만들것인가, 스튜어트 러셀, 가까운미래, 딥블루, 생태계, 심층 합성곱망

[일모도원]

https://youtu.be/Z3JuJsntvUA

“목적이 불확실하다는 것은 기계가 필연적으로 인간을 따를 수밖에 없다는 의미다. 즉, 기계는 허가를 요청하고, 수정을 받아들이고, 작동을 멈추는 일을 허용할 것이다. 기계가 명확한 목적을 지녀야 한다는 가정을 제거한다는 것은 인공지능의 토대 중 일부를 찢어내고 다른 것으로 대체할 필요가 있다는 의미다. 우리가 이루려고 시도하는 것의 기본 정의를 말이다. 또 그 상부구조(실제로 AI를 만들기 위해 쌓은 개념과 방법의 축적물) 중 아주 많은 부분을 재구축해야 한다는 의미다. 그렇게 한다면, 인간과 기계는 새로운 관계를 맺게 될 것이다.”(28-29쪽)
어떻게 인간과 공존하는 인공지능을만들것인가, 스튜어트 러셀, 가까운미래, 딥블루, 생태계, 심층 합성곱망, 미래의 인공 초지능, 인류의 통제권, 재앙적인 초지능, 위협, 디스토피아
인공지능 개발 방향에 관한 사회적 논의를 위한 중요한 논점을 제공하는 책
그가 제안한 원칙은 지금 연구 현장에서 어느 정도 반향을 일으키고 적용되고 있을까? 그를 비롯한 수많은 인공지능 전문가들에 우려하는 것과 같이 초지능 인공지능이 잘못된 방식으로 작동할 가능성이 높고 그 영향이 심대하다면, 이는 기업과 연구자들에게만 맡겨둘 수만은 없다. 인류의 미래에 가장 강력한 영향을 끼칠 가능성이 매우 높은 이 기술에 관하여 개발자는 물론 시민 모두가 함께 숙고해야 할 때다. 전문가의 깊고 넓은 시야, 명쾌한 서술, 신중하지만 단호한 그의 제안이 같은 문제를 고민하는 우리 독자들에게도 유용한 가이드가 될 것이다.

“인류에게 심각한 문제를 일으킬 수 있는 것에 관해 걱정하기에 알맞은 때란 그 문제가 언제 일어날 것인가뿐 아니라, 해결책을 준비하고 실행하는 데 얼마나 걸리는가에 따라 정해진다. 2069년에 커다란 소행성이 지구에 충돌할 예정임을 알게 된다면, 걱정하기에는 너무 이르다고 말할 것인가? 정반대다! 그 위협을 막을 수단을 개발하기 위한 세계적인 비상 계획이 나올 것이다. 2068년까지 기다렸다가 해결책을 찾아 나서지는 않을 것이다”(224쪽)

스튜어트 러셀은 인공지능 분야의 주요 전문가 중 한 명이며, 이 책은 점점 강력해지는 AI의 위험을 권위 있고 재미있게 개괄한 진정한 역작이다. 러셀은 지적인 기계를 설계하는 우리의 현재 접근법이 근본적으로 잘못되었으며, 인공지능 전도사들의 꿈이 결실을 맺게 된다면 실제로 디스토피아적인 결과로 이어질 수 있으리라고 믿는다. 그는 우리가 어떻게 지금 있는 곳에 도달했는지 설명하는 데 매우 능숙하고, 또한 우리가 어떻게 재앙적인 초지능을 피할 수 있는지, 그리고 어떻게 하면 기계가 인간을 쓸모없는 존재로 만드는 것이 아니라 인간의 능력을 증강시키게끔 할 수 있는지에 관해 설득력 있는 의견을 제시한다. _〈가디언〉

AI의 과거 현재 미래에 대한, 생각을 불러일으키고 가독성 높은 설명. 러셀의 논의는 많은 한계를 포함한 실제의 기술 현실에 근거해 있으며, 공상과학의 과열된 언어로 비약하지 않는다. 비기술적 독자들을 얕잡아보지 않으면서 이 주제에 대한 진지한 개관을 담은 책을 찾고 있다면, 이 책이 시작하기에 그만이다. 지적으로 엄밀하면서도 간결한 문체, 능청스런 유머 덕에 일반 독자도 충분히 소화할 수 있다.
_〈파이낸셜타임스〉

매혹적이고 중요한 책. 러셀은 의식을 가진 기계의 위험이 아니라, 초지능 기계가 오용되거나 그 자신을 오용할 수 있는 가능성을 경고한다.
_〈더 타임즈〉

깊이 들어가는 흥미로운 책. 천연스런 위트가 반짝인다.
_〈월스트리트저널〉

접어보기

추천평

최근에 읽은 가장 중요한 책이다. 미래의 인공 초지능이 인류의 통제권을 어떻게 위협할지를 명쾌하게 설명한다. 중요한 점은 새로운 해결책과 낙관할 이유도 제시한다는 것이다.
- 대니얼 카너먼 (노벨상 수상자, 『생각에 관한 생각』 저자)

이 책을 읽고서 나는 우리의 미래 창조물, 즉 초지능 기계를 통제하는 능력에 관한 러셀의 견해에 동의하게 되었다. 외부의 경계론자나 미래학자와 달리, 러셀은 AI의 손꼽히는 권위자다. 이 책은 그 어떤 책보다도 대중이 AI를 제대로 이해할 수 있도록 할 것이며, 희망도 품게 해준다.
- 주디어 펄 (튜링상 수상자, 『이유의 책』 저자)

무척 잘 쓰인 이 책은 인류에게 닥친 근본적인 위협, 다시 말해 ‘우리가 진정으로 의도하는 것’이 아니라 ‘단순히 우리가 요구하는 일’을 하는, 점점 지능이 높아지는 기계를 다룬다. 미래가 신경 쓰인다면 반드시 읽기를.
- 요슈아 벤지오 (튜링상 수상자, 『심층 학습』 저자)

필독서다. AI의 진정한 개척자 중 한 명이 점점 더 강력해지고 있는 인공지능의 위험을 매혹적이고 설득력 있는 방식으로 설명할 뿐 아니라, 확고하고 유망한 해결책을 제시한 지적 걸작이다.
- 맥스 테그마크 (MIT 물리학과 교수, 『라이프 3.0』 저자)

스튜어트 러셀은 오랫동안 컴퓨터과학 분야에서 AI의 위험이라는 주제에 가장 사려 깊은 목소리를 내왔다. 그리고 이제 우리 모두가 기다리던 책을 냈다. 인류 역사상 최고이거나 최악의 기술 발전이 될 수 있는 것을 탁월하면서 이해하기 쉽게 설명한 안내서다.
- 샘 해리스 (프로젝트 리즌 공동 창립자, 『종교의 종말』 저자)

지능을 이해하려는 인류의 탐구를 기록하고, 왜 그것이 안전하지 않게 되었는지를 정확히 지적하며, 우리가 한 종으로서 살아남고 싶다면 어떻게 진로를 바로잡아야 하는지를 보여준다. 대표적인 인공지능 교과서의 저자인 스튜어트 러셀은 저명한 AI 연구자다운 풍부한 지식, 탁월한 교육자다운 설득력 있는 명확성과 재치로 이 모든 것을 해낸다.
- 얀 탈린 (스카이프 공동 창업자)

설득력 있는 논증과 명석한 상상이 담긴 이 책은 향후 수십 년 안에 어떤 현실이 우리를 찾아올 것인지를 단호하면서 예리한 시선으로 보여준다. AI의 위험에 대해 이보다 더 설득력 있는 주장을 펴거나 앞으로 나아갈 길을 더 명확하게 보여준 연구자는 없다. 미래를 진지하게 생각하는 사람은 누구나 주의를 기울여야 한다.
- 브라이언 크리스천 (『알고리즘, 인생을 계산하다』 저자)

우리는 인간이 창조할 지적인 기계와 행복하게 공존할 수 있을까? 이 책은 “그렇다. 하지만 먼저...”라고 답한다. 인공지능의 기초를 밝게 재조명하면서 인공지능의 시초부터 시작하는 여행에 독자를 데려가고, AI 중심 사회에서 제기되는 물음들을 설명하며, 기계가 끝내 인간에게 이로운 존재로 남아 있게 하는 방법을 보여준다. 세계 최고의 전문가 중 한 명이 제시하는, 재미있고 엄청나게 중요한 미래 가이드다.
- 타비타 골드스타우브 (코그니션엑스 공동 창업자, 영국 정부 AI 위원회 의장)

스튜어트 러셀은 명확하고 설득력 있는 언어로 인공지능의 어마어마한 잠재적 이익, 위험과 윤리적 과제를 그려낸다. 특히 존경받는 최고의 권위자가 과대선전과 유언비어를 피하면서 이처럼 균형 잡힌 평가를 제공하는 것이 반갑다.
- 마틴 리스 경 (영국 왕실 천문학자)