박테리아에서 바흐까지, 그리고 다시 박테리아로/ 다니엘 C. 데닛
(무생물에서 마음의 출현까지)
15 지성적 설계의 시대 그 다음의 시대
■ 우리 이해력의 한계들
우리의 이해력은 선사시대 이래로 꾸준히 성장해오고 있다. 도구, 무기, 옷, 주거지, 탈것 등을 지성적으로 설계하고, 작곡하고, 시를 쓰고, 창작하고, 군대를 조직한다. 우리의 법과 전통은 우리가 축적해온 부를 보존하고 향상시킬 인공적 환경을 창조하도록 설계되어왔다. 우리는 이것을 문명이라 부른다.
노동을 줄여주는 뛰어난 발명품에 지나치게 의존하게 된 나머지 우리는 과도하게 문명화되고 있으며, 지성적 설계의 시대를 지나 그 다음 시대로 접어들고 있다는 불안한 징후들이 몇 가지 있다.
언어는 핵심 발명품이며, 생각이라는 것을 해본 적이 있는 모든 똑똑한 사람들의 모든 인지능력을 하나로 묶을 수 있는 매개체를 제공함으로써, 인간 개인의 인지 능력을 확장시킨다.
문명이 발전하면서 노동의 분업이 많은 것을 가능케 했다는 것을 우리는 배웠다. 제아무리 똑똑하다 해도 개인으로서 할 수 있는 일에는 한계가 생기고, 오늘날 과학에서 혼자 논문을 쓰는 것이 드물고, 예술가, 시인, 음악가조차도 전임자들의 작업을 잘 이해하고 그에 대한 상세한 실무 지식을 지닐 때 최고의 실력을 발휘할 수 있다.
우리의 타고난 두뇌에 존재하는 한계는 어떤 종류의 것이든 우리의 취약점과 대결을 벌여야 하는 순간을 지연시킬 우회 방책을 발견하여 거의 완벽하게 발전시키고 있는데, 그것은 협업이다. 집단은 개인이 할 수 없던 일을 할 수 있고, 이해할 수도 있다. 그리고 우리 힘의 상당부분은 바로 그 집단 이해를 통한 발견에서 발견된다. .
■ 보세요. 엄마! 손 안 대고 해냈어요!
자연선택에 의해 수행된 기본적이고 하의상달식이며 선견지명 없는 R&D가 점진적으로 크레인들을 만들어왔다고 나는 계속 주장했다. 노동을 줄여주는 생산품인 그 크레인들은 설계 작업을 더 효율적으로 만들어주며, 지성적 설계의 시대로 접어드는 속도를 가속시킨다.
이제 우리는 손을 댈 필요가 없는, 즉 수동 조작이 필요 없는 설계 작업이 가볍고 쉬울 뿐 아니라 더 유능하기도 하다는 것을 종종 발견하게 된다. 지루한 지성적 작업을 자동화시킨 이 과업들은 데이터를 대규모로 수집하고 정렬하고 정제하는 것에 해당하며, 이를 자동화함으로써 인간 데이터 해석자들은 결과를 반성적으로 고찰할 더 많은 자유 시간을 얻게 되었다.
데이비드 코프 EMI(음악적 지능의 실험)라는 컴퓨터 프로그램으로 새로운 음악을 작곡하는 놀랍도록 색다른 기술을 개발했다. EMI의 결과로 탄생한 곳들은 단순 복사본은 아니며 그런 것들보다는 훨씬 나은 무언가다.
과학 연구에서는 인간의 분석 능력을 가뿐히 넘어서는 문제를 무력으로 해결하는 데 머신러닝을 활용하고 있다. 창조하지 못하는 것을 이해할 수 없다는 것은 여전히 참일 수 있겠지만, 이제는 무언가를 창조한다는 것이 그것을 이해한다는 것임을 더 이상 보증할 수 없게 되었다. 우리가 A라는 대상에 어떤 일을 시키고 싶으나 A라는 대상을 진정으로 이해하지 못하는 경우라 해도 그 A를 만드는 것이 가능해졌기 때문이다. 오늘날 우리는 두되의 소산(아이디어, 발명품 등)과 두뇌의 소산의 소산까지 생산하고 있으며, 그것들을 만드는 과정의 세부사항을 따라가지 못하고 있다. 그 과정의 결과들이 믿을 만하다는 것을 우리가 증명할 수 있음에도 말이다.
■ 지성적 행위자의 구조
자연선택에 의해 이런 네트워크를 갖추게 된 동물뇌는 그 뇌가 거주하고 있는 신체를 매우 노련하게 안내할 수 있지만, 그들 스스로 새로운 관점들을 채택할 기량은 거의 없다. 다른 곳에서 설계되어 뇌에 인스톨된 인지능력, 즉 밈들의 침입이 있어야 그런 기량을 갖출 수 있기 때문이다. 그 인지 습관들은 그것들이 인스톨된 뇌의 인지 아키텍처를 근본적으로 바꾸어 종내에는 마음이 되게 한다. 그런 설비가 뇌에 갖추어진 동물은 지금까지 호모 사피엔스밖에 없다.
진핵세포가 비교적 갑작스러운 기술 이전으로, 즉 따로따로 존재했던 두 R&D의 유산이 성공적으로 공생을 이루며 그 거대한 도약으로 말미암아 생겨났듯이, 인간의 마음, 그러니까 이해력 있는 마음 역시 독립적이었던 두 R&D 유산의 열매들이 공생하여 탄생한 산물이며, 또 그랬음이 틀림없다. 우리는 상당 부분 다른 곳에서 설계된 생각 도구들을 위한 뛰어난 기반이 되도록 재설계된 동물뇌를 가지고 시작한다. 그 생각 도구들은 밈이며, 그중 가장 주요한 것은 말(단어)다. 단어를 이용하여 우리가 마주치는 모든 것에 대한 새로운 관점을 형성할 수 있게 된다.
그러나 딥러닝 머신의 능력이 빠르게 성장하고 있음에도, 그런 새로운 관점이 형성되는 종류의 현상이 나타날 징조는 거의 보이지 않고 있다. 인간의 신념과 실제 행동에 관한 어마어마한 양의 정보를 보존할 뿐, 그들 자신이 그 실행의 능동적 참여자가 되지는 않는다. 마음에 돌파력을 부여하는 것은, 자기 감시를 하여 뇌의 반응 패턴으로 하여금 패턴 식별의 또 다른 회차를 겪게 할 수 있는 역량이다. 현재 상황에서는 머신러닝에서 그 역할을 수행하는 위치에 있는 존재는 인간 사용자다. 이해의 영역으로 진입하면 시스템은 도구에서 동료로 승격될 수 있지만, 그것은 거대한 약진이거나 거대한 약진들의 연쇄다. 실용적이고 과학적이고 심미적인 판단은 조만간 인공 행위자에게 떠넘겨지거나 아웃소싱될 수도 있다. 수전 블랙모어가 옳다면, 대중음악과 인터넷 밈의 디지털 세계에서는 이처럼 인간의 판단이 퇴임 또는 소외되는 일이 이미 시작되고 있다. 조교와 프로그램된 컴퓨터의 기말고사 시험지 평가
딥러닝 기계들의 이해력은 그들이 이용할 수 있는 인간 이해력의 막대한 유산에 절대적으로 의존하고 있다. 그럼, 상상력과 이유 부여 역량 학습을 하면 시스템도 도덕과 관련된 인간의 위력을 생성할 수 있는가? 나는 여전히 최근 그토록 강한 경고성 주의를 끌고 있는 “초인적 지능” 같은 그 어떤 것도 앞으로 반세기 안에는 딥러닝이 가져다 주지 못하리라고 생각한다. 그래서 나는 인류가 우리를 노예로 만들 초지능 행위자 종족을 만들어내면 어쩌나 하는 걱정은 하지 않는다.
■ 우리에게는 무슨 일이 벌어질까?
아무리 능력 있는 인간이라도 한 개인의 역량으로는 도저히 따라갈 수 없는 능력을 지닌 인공물은 이미 존재하고 있고 더 많은 것이 개발되고있다. 의학 교육에서 왓슨은 최고의 진단 전문의들과 그 분야 전문가들을 능가하기 시작한 많은 컴퓨터 기반 시스템 중 하나일 뿐이다. 지능적 기계에 점점 더 의존함으로써 우리 스스로를 하향평준화하고 있다는 것에 대해 우리는 얼마나 염려해야 하는가?
내가 생각하는 진짜 위험은, 기계가 더욱 똑똑해져서 우리 운명의 선장이라는 우리 역할을 빼앗아 가리라는 게 아니라, 우리의 최신 생각 도구들의 이해력을 우리가 과대평가하여 그 도구들의 능력을 훌쩍 뛰어넘는 권위를 너무 이르게 넘겨줄 수도 있으리라는 것이다.
우리는 새로운 인지적 보철물들이 우리에게 기생하는 존재이도록 설계되기를, 그리하여 협력자가 아닌 도구가 되기를 희망해야 한다. 창작에 통달함mistery of creation은 오랫동안 우리 종이 보유한 이해력의 고유한 특징이었으나, 이를 포기하게 만드는 혁신이 있었다.
우리의 문명도 붕괴될 수 있을까? 경제학자이자 진화론자인 폴 시브라이트는 우리 문명을 흰개미 집과 비교한 적이 있다. 둘 다 그 개체들을 만들고 형성한 진화 과정의 부산물이지만, 인간의 협동은 흰개미들의 거의 무심한 협력과는 다른, 매우 섬세하고도 주목할 만한 현상이며, 자연 진화에서 고유한 계보로 이어진 고유한 특징이다. 협동은 신뢰에 의존하며, 신뢰란 위대하고도 무시무시한 프로젝트를 가능케 하는 눈에 보이지 않는 사회적 접착제다. 이 신뢰라는 것은 진화에 의해 우리 뇌에 심어진 ‘자연적 본능’이라고 하기엔 너무도 최근에 생겼다. 신뢰는 사회적 조건들의 부산물이며, 그 사회적 조건들은 신뢰를 가능케 하는 조건인 동시에 신뢰의 가장 중요한 산물이기도 하다.
문명은 현재 진행중인 작업이다. 그러나 수천 년간 계속 확장되어온 지성적 설계에도 불구하고, 우리는 여전히 수수께끼와 문제들의 홍수 안에서 떠돌고 있는데, 그중 다수는 우리의 이해력이 발휘되어 만들어진 것이며, 우리가 탐욕스러운 호기심을 충족시키기 전에 우리의 탐구가 중단될 위험도 있다.
■ 마침내 집으로
흰개미 집이나 껑충뛰기 하는 영양을 위시하여 이해력 없는 능력으로 성취된 것은 너무도 많고 이런 것들은 우리를 새로운 수수께끼-이해력은 무엇을 위한 것인가? 바흐의 마음이나 가우디의 마음과 같은 ‘인간의 마음’은 어떻게 생겨날 수 있었는가?-에 직면하게 한다.
그 어떤 상의하달식 제어 체계도 없는, 수십억 개의 뉴런으로 구성된 뇌가 어떻게 인간 유형이 마음으로 발전할 수 있었는지의 문제로 돌아가, 우리는 스스로를 꾸려나갈 수 있는 설비를 갖춘 뉴런들에 의한 탈중앙화되고 분산된 제어의 전망을 탐구했다. 거기서의 가능성 중 하나로, 새로운 환경적 특성에 의해 형성된 선택압 아래서 길들여져 기능하다가, 그 역할에서 벗어나 문화적 침략자가 된 뉴런(야생화된 뉴런)에 대해서도 생각해보았다. 번식하기 위해 분투하는, 단어들을 비롯한 밈들은 적응을 자극할 것이다. 문화적 전달이 우리 종의 주요 행동 혁신으로 일단 확보되자, 그것은 신경 구조의 중대 변화를 촉발시켰을 뿐 아니라 환경에서도 새로움을 추가했다. 그렇게 추가된 새로운 것들은 인간의 온톨로지들을 풍부하게 만들었고, 그 결과 그 새로운 모든 기회를 계속 추적하기 위한 적응-생각도구-에 유리한 선택압이 생기게 했다. 문화적 진화 자체는 방향성 없거나 “무작위적”인 탐색에서 벗어나, 더 효과적인 설계 과정을 향해, 즉 선견지명 있고 의도에 의한 행위자-지성적 설계자-의 이해에 의존하는 과정으로 진화해 나왔다. 문화적 진화는 스스로의 결실들로 문화적 진화 자신을 감다윈화했다.
현재 우리의 지성적 설계자들은 머신러닝 시스템의 창조에 극적인 진보를 만들어내고 있다. 머신러닝 시스템은 하의상달적 과정을 사용하며 오겔의 제2규칙-진화는 당신보다 똑똑하다-이 참임을 다시 한번 보여준다. 공진화가 밈과 유전자 사이에서만 이루어지는 것은 아니다. 우리 마음의 상의하달식 추론 기량과 우리 동물뇌의 하의상달식 무이해적 재능 사이에도 상호의존이 존재한다. 그리고 우리의 미래가 우리가 지나왔던 과거의 궤적을 따른다면, 설사 우리가 인공지능에 조심스레 더 의존하게 된다 할지라도, 우리의 인공지능들은 계속 우리에게 의존하게 될 것이다.