|
『마음의 탄생』 (How to Create a Mind)
저자: 레이 커즈와일(Ray Kurzweil)
2017. 06. 10./ 크레센도/ 462쪽
『마음의 탄생』을 읽었다.
미국의 미래학자이자 발명가, 컴퓨터과학자, 기업가인 저자는 이 책에서 뇌에 대한 이해를 바탕으로 인공지능의 발전과 인간의 미래에 대해 이야기하고 있다.
그는 신피질의 계층구조에 기초하여 뇌의 정보처리 알고리즘을 ‘패턴인식 마음이론’으로 설명해 나가고 있다. 뇌의 복잡성이 아니라 단순성의 힘을 일깨워 주기 위해, 뇌가 패턴을 인식하고 기억하고 예측하는 정교한 기초적인 메커니즘이 신피질에서 수억 번 반복되면서 우리의 생각이 엄청난 다양성을 만들어 낸다고 하였다.
그리고 ‘의식’과 ‘자유의지’에 대해서도 관심을 갖고 논하고 있으며, 특히 인공지능과 인간이 점점 더 밀접하게 연결되고 비생물학적 시스템(뇌 임플란트)으로 우리 뇌를 교체・보완해 나감에 따라 인간의 ‘정체성’의 문제는 결코 쉽게 지나칠 수 없는 문제로 보고 이에 대해 깊이 있게 논의를 전개했다.
인간의 욕망과 지능이 지닌 속성으로 인해 인공지능의 급속한 발전은 막을 수 없는 흐름이기에 기술발전 자체를 거부하기보다는 그 과정에서 올바른 선택을 해나가면 인류의 미래는 밝다는 낙관적인 전망을 커즈와일은 이 책을 통해 말하고 있다.
인공지능에 관심이 있는 사람은 물론 그렇지 않은 사람도 읽어봐야 할 책이다. 우리는 이미 인공지능의 도움 없이는 살아가기 힘든 상황에 빠져들었으며, 앞으로 이런 경향은 가속화될 테니까 말이다.
《본문 중에서》
인간은 논리를 처리하는 능력은 약하지만, 패턴을 인식하는 능력은 놀라울 정도로 뛰어나다. 신피질은 기본적으로 거대한 패턴인식기라고 할 수 있다. 논리적 변환을 수행하기 위해 최적화된 구조가 아니다. 하지만 논리적인 사고를 하기 위해서 우리가 의존하고 활용할 수 있는 기관은 이것밖에 없다. p.70
학습은 곧 세상을 인식한 작업이며, 인식한 패턴을 기억으로 저장하는 작업이다. 학습 없이는 신피질은 아무런 기능도 발휘하지 못한다.
기억은 새롭게 입력되는 자극을 해석하는 이데아 역할을 한다. 실제 개를 볼 때 이전에 개를 인식하여 학습한 기억은 그것이 개인지 아닌지 판단하는 기준이 된다. 결국 모든 학습은―기억은―더 정확한 인식을 위해 필요한 것이다.
~ 더 나아가, 방향성 있는 생각은 제각각 방향성 없는 생각의 계층구조를 촉발한다. 감각경험은 물론 방향성 있는 생각을 하는 중에도 우리를 깊은 생각 속으로 받아들이는 강렬한 폭풍이 끝없이 휘몰아친다. 우리의 정신적 경험은 실제로 매우 복잡하고 산만하다. 1초 사이에도 수백 번씩 무수한 패턴들이 번쩍이고 나타났다 사라진다.
p.113~115
올드브레인―포유류 이전부터 존재했던 뇌―은 지금도 사라지지 않았다. 사실 만족을 추구하고 위험을 회피하고자 하는 동기는 상당 부분 올드브레인에서 기인한다. 하지만 이러한 동기는 크기 면에서나 활동 면에서 모두 인간의 뇌를 지배하는 신피질에 의해 조율된다.
~ 인간의 신피질은 욕구를 승화하는 위대한 기관이라 할 수 있다. 거대포식자를 피하려는 원초적 동기는 신피질에 의해 상사에게 깊은 인상을 남기기 위해 임무를 완수하고자 하는 동기로, 거대동물을 사냥하고 싶은 동기는 예컨대 마음에 관한 책을 쓰고자 하는 동기로, 번식을 추구하는 동기는 유명인이 되거나 아파트를 더 멋지게 꾸미고자 하는 동기로 번역된다(물론 마지막 동기는 겉으로 드러내는 경우도 많다). p.147
서던캘리포니아대학의 신경과학자 시어도어 버거(Theodore Berger)는 동료들과 함께 쥐의 해마를 모형화해 인공해마를 이식하는 실험에 성공했다. 2011년에 발표된 연구논문에 따르면 이들은 약물을 이용해 쥐가 학습한 특정 행동을 하지 못하도록 했다. 하지만 쥐들은 인공해마를 이용해 재빨리 그 행동을 다시 학습했다. 버거는 원격으로 뇌 임플란트를 제어하는 기술과 관련해 “스위치를 켜면 기억하고, 스위치를 끄면 잊어버린다.”라고 썼다.
또 다른 실험에서 그들은 쥐가 원래의 해마와 인공해마를 동시에 사용할 수 있도록 했다. 그 결과 새로운 행동을 학습하는 쥐의 능력이 강화되었다. 버거는 이렇게 설명한다. “이 통합적인 실험모형연구는…… 인코딩 과정을 실시간으로 인식하고 조작할 수 있는 인공 신경 기관이 인지 기억과정을 복원할 뿐 아니라 강화한다는 것을 처음으로 입증했다.”
해마는 알츠하이머(치매)에 걸렸을 때 가장 먼저 손상되는 영역으로, 이 연구의 목표 중 하나는 알츠하이머로 인한 초기 손상을 완화해 줄 수 있는 뇌 임플란트를 개발하는 것이다. p.157
물론 그다음 단계는 뇌의 신피질과 동일한 기능을 하는 기계를 활용해 신피질의 기능을 확장하는 것이다. 이것이야말로 인간이 할 수 있는 궁극적인 창조활동이 될 것이다. ‘창조성을 창조하는 일’이기 때문이다. 인공 신피질의 속도는 계속 빨라질 것이다. 다윈과 아인슈타인에게 영감을 주었던 그런 은유를 더 쉽게 찾아낼 것이다. 인공신피질은 기하급수적으로 확장되는 지식의 전선 사이에 중복되는 영역을 체계적으로 완벽히 탐색할 수 있을 것이다.
이런 생각의 확장이 지식의 빈부격차를 만들어낼 수 있다고 우려하는 목소리도 있다. 하지만 나는, 이러한 확장된 지능이 기본적으로―지금 사용되고 있는 기계지능과 마찬가지로―‘클라우드’에 존재할 수밖에 없다고 생각한다. 클라우드는 기하급수적으로 확장되고 있는 컴퓨터 네트워크로, 온라인 커뮤니케이션을 통해 누구나 접속할 수 있다. 휴대전화로 정보를 검색할 때, 음성인식기능을 사용할 때, 아이폰 시리와 같은 가상 개인비서와 이야기할 때, 어떤 언어를 다른 언어로 번역할 때, 인공지능은 휴대전화 자체에서 작용하는 것이 아니라 클라우드에서 작동한다. 우리의 확장된 신피질 역시 클라우드에 존재할 것이다. p.177~178
계층적 학습/인식 시스템을 시뮬레이션한 것과 마찬가지로 우리는 ‘신의 변수’를 설정하는 문제도 자연에서 힌트를 얻어 진화시켜 보기로 결정했다. 다시 말해, 진화 자체를 시뮬레이션하는 것이다. 우리는 유전알고리즘(genetic algorithm: GA), 또는 진화알고리즘이라는 것을 사용했는데, 이 알고리즘에는 유성생식과 돌연변이까지 시뮬레이션되어 있다.
~ 유전알고리즘의 핵심은 인간설계자가 해법을 직접 프로그래밍하지 않는다는 것이다. 경쟁과 개선을 시뮬레이션한 반복적인 과정에서 해법이 생성되도록 한다. ~ 우리는 몇 주에 걸쳐 수십만 세대를 시뮬레이션하기도 했다.
p.218~220
~ 왓슨을 구성하는 시스템의 작동방식을 완벽하게 이해한다고 하더라도―실제로 그런 사람은 없다―실제 상황에서 왓슨이 어떻게 반응할지 예측할 수 없다. 왓슨 안에는 수백 개의 서브시스템이 제각각 수백만 개의 경쟁하는 가설을 고려하며 상호작용을 한다. 따라서 그 결과를 예측하는 것은 불가능하다. p.233
왓슨을 조금 변형한다면, 소설의 테마에 대해 논의하는 문서를 찾아 거기에 정리되어 있는 다섯 가지 주제를 대답하는 것도 어려운 일은 아닐 것이다. 하지만 그러한 문서나 다른 사람의 말(생각)을 복사해서 보여주는 것과 책을 읽고 스스로 주제를 찾아내는 것은 전혀 다른 문제다. 이것은 오늘날 왓슨이 수행할 수 있는 작업보다 한 차원 높은 작업이라 할 수 있다. 이 정도 작업을 수행하는 컴퓨터라야 비로소 튜링테스트를 통과할 수 있을 것이다.
물론 이것이 왓슨의 한계라고 지적하는 사람도 있겠지만 나는 이렇게 묻고 싶다. 〈두 도시 이야기〉를 읽고 스스로 소설의 다섯 가지 주제를 정리할 줄 아는 사람이 몇 명이나 있는가? 순수하게 자신만의 생각을 떠올리는 사람이 몇 명이나 있는가? 우리는 대부분 동료나 오피니언리더의 생각을 복사할 뿐이다. 어쨌든 지금은 2029년이 아니다. 튜링테스트를 통과할 수 있는 지능은, 아직 존재하지 않을 뿐이지 불가능한 것이 아니다. p.248
더 흥미로운 것은, 새로운 뇌에 “세상을 더 나은 곳으로 만들자”와 같은 좀더 야심찬 목표를 부여할 수도 있다는 사실이다. 물론 이러한 목표는 엄청난 질문으로 이어질 것이다. “무엇보다 더 낫다는 뜻인가?”, “어떤 식으로 더 낫다는 뜻인가? 생물학적 인간을 위해서? 의식을 가진 모든 존재를 위해서? 그럴 경우에는 의식을 가진 것은 누구, 무엇인가?”
세상에 변화를 가져다주는 생물학적 뇌처럼 비생물학적 뇌가 행동할 수 있게 된다면―그런 상황이 된다면 컴퓨터의 도움을 받지 않은 생물학적 뇌보다 훨씬 더 뛰어난 능력을 발휘할 것이다―그들에게 도덕을 가르쳐야 할 필요성이 제기될 것이다. 무엇부터 가르쳐야 할까? 아마도 종교적 전통에서 내려오는 오래된 지혜부터 가르쳐야 할 것이다. 바로 황금률이다. p.260
생물학의 굴레를 벗어버린다면, 비생물학적 지능은 생물학적 세상에 속하는 지능보다 훨씬 다양할 수 있다. 예컨대, 몇몇 존재는 인간이나 생명체가 가지고 있는 ‘자신이 파괴되는 것에 대한 두려움’이 전혀 없을 수도 있다. 그런데도 여전히 튜링테스트를 통과할 수 있으며, 심지어 그 테스트에 응하는 것을 거부할 수도 있다.
~ 어느 정도 공감할 수 없는 커뮤니케이션이 없다면 의식을 가진 (비생물학적) 존재를 알아보기는 어려울 것이다. 그러한 판단은 고려 대상인 존재의 한계보다는 오히려 나의 한계를 보여주는 것일 수 있다. 우리는 앞으로 더욱 겸손해져야만 한다. 다른 인간의 주관적 입장에 서는 것도 어려워하는 우리가, 하물며 우리와는 극단적으로 다른 지능의 입장에 서는 것은 또 얼마나 어려운 일일까? p.314~315
~ 이러한 (분할뇌) 실험에서 한결같이 나타나는 사실은, 각각의 반구가 실제로 자신이 하지 않은 행동을 자신이 했다고 생각하는 것이다. 이러한 현상은 우리가 일상적으로 하는 행동에서 어느 정도까지 나타나는 것일까?
~ 우리가 어떤 행동을 한 이유를 설명하거나 합리화하고 싶어 하는 것은 분명하다. 심지어 그 행동을 하도록 직접 결정하지 않았을 때도 마찬가지다. 그렇다면 자신의 결정에 대해 우리는 얼마나 책임이 있는 것인가?
생리학 교수 벤자민 리벳의 실험에서 ~ 행동을 하기로 결정을 내렸다는 사실을 인지하는 것보다 3분의 1초 정도 먼저 운동피질이 그 임무를 수행하기 위해 준비했다는 뜻이다.
철학자 대니얼 덴넷은 이렇게 말한다.
“최초의 행동은 뇌의 특정 부분에서 촉발되고, 그 신호를 근육에 전달하고, 그 과정에 잠깐 들러 의식이 있는 행위자인 당신에게 무슨 일이 발생할지 말한다. (마치 뛰어난 공무원들이 무슨 일을 해야 할지 알지 못하는 대통령에게 모든 일을 대통령이 시작했다고 착각하게 만드는 것과 비슷하다.)”
~ V. S. 라마찬드란(1951~)은 ~ 크든 작든 무수한 의사결정이 신피질에 의해 끊임없이 처리되고 있으며, 신피질이 제안한 해결책 중 몇 가지는 ‘끓어올라’ 의식적인 각성을 유발한다. 이런 측면에서 라마찬드란은 인간에게 진정으로 중요한 능력은 ‘자유의지(free will)’가 아니라 ‘자유거절(free-won’t)’이라고 주장한다. 자유거절이란 신피질의 무의식적인 부분이 제안한 해결책을 거절하는 능력이다.
~ 어쨌든 모든 정신적 활동이 우리가 어떤 결정을 내려야 한다는 것을 인지하기 전부터 시작된다는 사실은 명백하다. p.333~335
모든 피조물은 목적을 가지고 있다. 그것은 진화가 일어나는 가장 결정적인 요인이다. 그래서 정체성 문제는 의식이나 자유의지를 정의하는 것보다 어려울 수 있지만, 그보다 훨씬 중요한 것이라 할 수 있다. 어쨌든 나의 실존을 유지하고자 한다면 내가 무엇인지 알아야 하기 때문이다
~ 근본적으로 내 몸과 뇌를 구성하는 물질은 내가 아니다. 물의 입자들이 강을 통해 흘러가는 것처럼 이러한 입자들도 내 몸을 통해 흘러갈 뿐이다. 나는 천천히 변하지만 안정성과 지속성을 가진 하나의 패턴에 불과하다. 물론 이 패턴을 구성하는 물질들은 빠르게 변한다.
비생물학적 시스템으로 내 몸과 뇌를 하나씩 바꾸는 것은, 나를 구성하는 요소들이 지속적으로 바뀌는 현상의 또 다른 형태에 지나지 않는다. 생물학적 세포의 자연적인 교체현상과 마찬가지로 정체성의 지속성에 어떤 영향도 미치지 않는다. p.350~356
이러한 방식으로 우리가 만들어낸 지능기술과 우리는 한 몸이 될 것이다. 혈액에 들어간 지능 나노봇은 우리의 생물학적 몸을 세포와 분자 수준에서 건강한 상태로 유지시켜 줄 것이다. 모세혈관을 통해 뇌에 비침투 방식으로 접근하여 생물학적 뉴런과 상호작용하며 지능을 직접 확장해줄 것이다.
지금 우리가 사용하는 스마트기기와 클라우드 컴퓨팅은 사실상 우리 몸과 연결되어 있는 확장된 뇌라고 해도 과언이 아닐 것이다. 실제로 이러한 연결이 끊기는 순간 사람들은 스스로 완벽하지 못한 상태가 된 듯 불안을 느낀다. 2012년 1월 18일 SOPA(온라인 저작권 침해금지법)에 반대하는 뜻으로 구글, 위키피디아 등 수많은 웹사이트들이 하루 동안 파업했을 때, ~ 이 사건이 중요한 것은, 우리가 이미 생각의 많은 부분을 클라우드컴퓨팅에 아웃소싱하고 있다는 것을 일깨워줬기 때문이다. 클라우드는 이미 우리 자신의 일부가 되었다. 우리 뇌가 비생물학적 지능을―또 거기에 연결된 클라우드를―일상적으로 활용할 수 있게 되는 순간, 우리 지능은 기하급수적으로 성장할 것이다. p.404
양적 개선은 질적 개선으로 이어진다. ‘호모사피엔스’의 가장 중요한 진화는 양적인 것이었다. 즉, 이마가 넓어지면서 더 많은 신피질을 확보한 것이다. 신피질이 늘어남으로써 개념적으로 높은 수준에서 생각할 수 있게 되었으며, 이로써 예술과 과학과 같은 다양한 분야에서 발전을 일궈낼 수 있었다. 비생물학적 형태로 신피질을 더 많이 확보할 수 있다면, 지금보다 훨씬 더 높은 수준의 추상적 사고를 할 수 있게 될 것이다.
생물학적 진화가 이뤄낸 마지막 발명―신피질―은 결국 인류가 이뤄내야 할 마지막 발명―울트라지능기계―으로 이어질 수밖에 없다. 이러한 기계의 설계는 또한 새로운 영감을 불어넣어 줄 것이다. p.405
<목차>
• 들어가는 글/ 어쨌든 마음은 뇌의 작용일 뿐
1. 생각의 역사/ 다윈과 아인슈타인의 생각실험
2. 어쩌다 마주친 그녀/ 우리 뇌가 작동하는 방식
3. 패턴인식 마음이론/ 뇌의 정보처리 알고리즘
4. 생각하는 기계 분해하기/ 뇌과학이 밝혀낸 사실들
5. 싸우거나 도망치거나/ 생존과 번식을 위한 원초적인 욕망
6. 사랑의 세레나데/ 적성과 창조성과 사랑의 진화
7. 소프트웨어 뇌 만들기/ 뇌의 알고리즘을 디지털 공간에 시뮬레이션하는 법
8. 하드웨어 뇌 만들기/ 컴퓨터 아키텍처 발전의 역사
9. 마음을 지닌 기계의 탄생/ 의식, 자유의지, 정체성의 재발견
10. 특이점이 온다/ 우리 눈앞에서 펼쳐지는 인공지능 혁명
11. 반론/ 불신과 비관적 전망을 넘어서
• 에필로그/ 인간의 마지막 발명품