(펌) ＜사피엔스＞ 유발 하라리 인터뷰 "A.I는 神과 같아질 수 있습니다. 하지만"

<사피엔스> 유발 하라리 인터뷰 "AI는 神과 같아질 수 있습니다. 하지만" (어느 기업의 유발 하라리 교수와의 인터뷰 내용중 일부 발췌) "AI가 신과 인간의 경계를 무너뜨릴 수 있을까요" "지금 현재의 인류에게 가장 큰 허상은 무엇입니까?" "XXX 임직원들에게 전해주고 싶은 이야기가 있습니까"  세계적 베스트셀러 〈사피엔스〉와 〈호모 데우스〉에 대해 임직원들이 묻고 저자가 직접 답변했다. 저자는 이스라엘 히브리대학 역사학과 교수 유발 하라리(Yuval Noah Harari)다. 유발 하라리 교수에게 묻다   서면으로 진행된 이번 인터뷰는 〈사피엔스〉와 〈호모 데우스〉에 대한 궁금증을 임직원들이 질문하고 이에 대해 유발 하라리 교수가 답하는 형식으로 진행됐다.   지난 5월 〈사피엔스의 저자 유발 하라리에게 묻다〉를 통해 임직원들이 직접 질문을 했다.  모두 104개의 질문이 댓글로 달렸고 인류의 출현에서부터 인류의 미래에 대한 심도 있는 질문들이었다. 이 가운데 '사피엔스', '인류의 미래', 'AI'의 3개 카테고리로 분류하고 복수의 질문을 선별, 유발 하라리 교수에게 보냈다. 유발 하라리 교수는 임직원들의 질문이 수준급이라며 장문의 답신을 보내왔다. 그렇게 그와의 온라인 인터뷰가 성사됐다.  ......  1. [인류의 미래]  [Question]인간의 뇌를 가진 기계 인간 vs 인공지능 뇌와 인간의 몸을 가진 인간...누가 인간에 더 가깝나요? 미래 인류는 유전자가 개선되고 기계와 결합할 것이라고 합니다. 이렇게 되면 인간의 정의는 어떻게 변할까요?가령, 뇌만 인간이고 나머지는 기계인 인간을 인간 A라고 하고, 뇌는 실리콘이고 나머지는 인간의 몸인 인간을 인간 B라고 한다면 누가 더 인간에 더 가까울까요?  유발 하라리 교수의 책 〈사피엔스〉에서는 인류가 출현해서 지구의 지배자가 되기까지의 과정을 서사적으로 기술하고 있고 후속작이라고 할 수 있는 〈호모 데우스〉에서는 인공지능과 같은 '향상된 인간'이 출현하는 인류의 미래 모습을 그리고 있다. [유발 하라리 교수의 답] "인간 A가 인간에 훨씬 더 가깝습니다. 우리의 정체성에는 몸보다 정신이 더욱 큰 영향을 주기 때문입니다. 하지만 인간의 정신에 대한 이해가 충분하지 않고 그 잠재력을 누구도 완전히 알지 못하기 때문에 인류에 대한 정의가 완성되었다고 볼 수 없습니다. 인간을 개선하고 업그레이드하려는 시도가 실제로 인간 능력의 후퇴를 가져올 리스크가 있으며, 그 과정에서 우리가 미처 파악하지 못한 잠재력을 잃어버릴 수도 있습니다. 가장 큰 문제는 인간 역량을 개발하려는 노력의 근간이 인간으로서의 필요가 아닌 정치 경제적인 필요에 바탕을 둔다는 것입니다. 한 나라의 경제와 정치가들은 인간의 역량 가운데 일부만을 강조하고 나머지는 무시합니다. 예를 들어보면, 어떤 상사는 이메일을 계속 확인하고 빨리 처리하길 바랍니다. 당신이 점심을 맛있게 즐기는 데는 아무런 관심이 없습니다. 결국 여러분은 점심을 먹으며 이메일을 확인하는 지경에 이를 것이며 본능적인 감각은 관심 밖으로 밀려납니다. 또 다른 예를 들면 경제는 끊임없이 포트폴리오를 늘리고 분산 투자하라는 압박을 가합니다. 여러분의 열정을 확대하고 개발하는 데는 어떤 보상도 주어지지 않습니다. 그러니 여러분은 주식 시장 공부에 열중하지만 내적 불행을 돌보는 데 인색해집니다.  이런 면에서 인간은 인간이 기른 동물과 다르지 않습니다. 우유를 대량 생산하기 위해 순한 소를 길렀지만 이들은 야생의 조상들에 비해 터무니없이 열등합니다. 민첩성이 떨어지고 호기심이 적으며 슬기로움도 약합니다.  우리는 지금 어느 거대한 데이터 처리 구조에서 엄청난 양의 데이터를 만들어내고 효율적으로 작동하는 반도체로서의 순종적인 인간을 만들어내고 있습니다. 이 과정에서 인간의 잠재력은 일부도 활용되지 못합니다. 아니 인간의 잠재력을 가늠할 수 없는 것이 사실이지만 그건 인간의 정신이 파악되지 않아서입니다. 그런데도 우리는 인간의 정신을 알고 투자하기보다는 인터넷 속도를 늘리고 빅데이터 알고리즘의 효율성을 증대하는 데 집중합니다. 여기서 주의하지 않으면 업그레이드된 컴퓨터를 악용하는 다운그레이드된 인간들이 자신들과 세상을 망가트릴 수 있습니다."  인공지능과 유전자 조합 등 앞으로 무수하게 발전할 인간의 기술로 인공지능과 함께 사는 세상이 올지라도 그 운영자는 인간이고 인간의 정신에 대해 명확한 중심점을 잡고 있어야 한다는 유발 하라리 교수의 메시지다. 2. [AI] "인공지능이 신의 영역을 대체할 수 있을까요?""그렇습니다. 하지만..."  인공지능은 유발 하라리 교수가 인류의 미래를 전망한 책 〈호모 데우스〉의 핵심 키워드 중 하나다. 2016년 우리나라를 방문했을 때 "30~40년 후면 인공지능이 인류를 위협하는 세계가 올 것이며 거의 대부분 직업을 인공지능이 대체할 수 있다"고 했다. 이 위협에 대응하기 위해서는 완전히 새로운 모델이 필요하다"고 했다. 임직원들의 질문에도 인류의 미래와 인공지능의 관계에 대한 질문들이 많았다.  [Question] - 신과 인간의 경계에 대한 질문 AI가 발전을 하면 신의 영역을 대체할 수 있을지요? 만약, 그렇게 되지 못한다고 하면 AI가 가지고 있는 한계는 무엇일까요? 만약, 그렇게 될 수 있다면, 신과 인간 영역의 경계가 허물어질 수 있다고 보시는지요?  [유발 하라리 교수의 답] 유발 하라리 교수는 이 질문에 '초지능'과 '초정신'으로 구분해 답을 했다.  "초지능(a higher super-intelligence)으로서의 '신(God)'을 말하는 것이라면 그렇습니다. 인공지능은 신과 같아질 수 있을 것입니다. 하지만 초정신(a higher super-consciousness)으로서의 신이라면 답은 명확하지 않습니다. 인공지능이 신과 같은 초정신이 가능할지를 떠나 정신 자체를 갖출 수 있을지 아무도 알 수 없습니다."  그는 지능만 놓고 본다면 인공지능은 신의 영역을 넘볼 수 있겠지만 정신의 영역에서는 의문을 던졌다.  2018년의 컴퓨터는 1950년 이후 나온 컴퓨터보다 정신적으로 더 발달했다고 추측할 만한 근거가 전혀 없다고 했다.  "공상과학에서 보면 컴퓨터의 기능이 발달할수록 정신이 생겨납니다. 하지만 과연 그럴까요? 컴퓨터는 정신을 갖추지 않고도 지능이 발달하여 인간보다 우월한 지능을 자랑할 수 있게 됐습니다. 지능과 정신은 다릅니다. 지능은 문제를 해결할 수 있는 능력인데 반해 정신은 고통, 쾌락, 애정, 분노 등의 감정을 느낄 수 있는 능력입니다. 인간을 비롯한 포유류의 지능은 정신과 밀접하게 작용합니다. 은행가, 운전기사, 의사, 예술가 누구나 어떤 문제를 해결하기 위해서는 감정에 의지합니다. 그러나 컴퓨터는 아주 다른 방법으로 동일한 문제를 해결하고 이 과정에서 정신이 발달한 것으로 기대할 이유는 전혀 없습니다.근 50년간 컴퓨터 지능은 놀랍도록 발전했지만 컴퓨터 정신은 전혀 발전이 없었습니다. 우리가 아는 한, 2018년의 컴퓨터는 1950년대의 프로토타입(prototype, 시제품)들보다 정신적으로 발달한 부분이 없으며 앞으로 발달할 것으로 추측할 만한 근거 또한 어디에도 없습니다. ▶ 유발 하라리 교수의 언급에 따르면, 알파고의 바둑 두는 능력은 이세돌 9단을 뛰어넘어 인간 그 누구도 따라잡을 수 없지만바둑을 대하는 태도나 승리에 대한 기쁨, 패배에 대한 불안 등이 없어 알파고의 의식을 비교할 만한 기준이 아예 없다는 것으로 해석될 수 있다.  초지능에 이르는 길은 다양할 수 있지만 그중에서 정신까지 갖출 길은 많지 않을 것입니다. 깃털도 없이 새보다 빨리 나는 비행기처럼 감정이 없는 채로 인간보다 문제 해결에 훨씬 능한 컴퓨터가 가능합니다. 포유류 진화가 일어난 수백만 년 동안 인류의 지능은 정신을 통하여 고도화되었습니다. 비유기체인 컴퓨터의 진화는 전혀 다른 방식으로 정신을 건너뛰고 급속도로 고도의 지능에 이를지 모릅니다. 이에 우주는 무의식적(non-conscious entities)인 초지능에 지배될 날이 올 수도 있을 것입니다." 인류가 정신의 영역에서 더 발달하지 않으면 고도로 지능화된 컴퓨터에 의해 인간의 정신이 지배당할 것을 경고하고 있다.