AI [단독] AI 개발을 미국에만 맡겨도 좋은가? →피터 틸이 일본인에게 경고 "두 개의 함정 중 하나에 빠지게 된다"

[お持て成し]

[단독] AI 개발을 미국에만 맡겨도 좋은가? →피터 틸이 일본인에게 경고 "두 개의 함정 중 하나에 빠지게 된다" / 4월 29일(수) / 다이아몬드 온라인

PayPal과 Palantir Technologies의 공동 창업자인 피터 틸 씨

AI가 가져올 미래는 제어할 수 없는 기술에 의한 ‘인류 멸망’인가, 아니면 이를 사전에 방지한다는 명분 아래 구축되는 ‘세계 정부의 철저한 감시 사회’인가. 우리는 이 디스토피아에 대한 카운트다운을 멈출 방법이 없을까. 제1회, 제2회, 제3회에 이어 피터 틸 씨의 열정 강의 제4편. (취재·구성 / 오구라 켄이치)
※ 본 글은 3월 6일에 진행된 ‘피터 틸 씨 특별 강연’ 덴츠재팬, 덴츠소겐 경제안보연구센터 주최)의 발췌에 해설을 덧붙인 것입니다.

● 샘 알트만 등 주요 AI 연구자들이 직접 밝히는 견해는

AI가 가져올 미래는 제어할 수 없는 기술에 의한 ‘인류 멸망’일까, 아니면 이를 사전에 방지하기 위해 구축되는 ‘세계 정부의 감시 사회’일까. 왜 우리는 이렇게 이분법적인 선택밖에 그릴 수 없게 되었을까. 틸 씨는 현대 사회가 안고 있는 또 다른 거대한 불안인 ‘기후변화 문제’를 실제 사례로 들어, 그 근본 원인이 ‘진정한 기술적 해결책이 부재한 것’에 있다고 꿰뚫어 본다.
　

저는 날씨를 조절한다는 어떤 약속에도 매우 회의적입니다. 그것들은 보통 완전히 ‘실현 불가능한 헛된 기대’라고 생각합니다.

하지만 만약 현실적인 무언가가 있다면—즉, 저렴하고 탄소가 전혀 없는 핵융합 에너지를 개발할 현실적인 방법이 있다면, 우파든 좌파든 갑자기 동의하게 될 것이라고 생각합니다. 좌파는 제로카본(탄소 배출 제로)을, 우파는 저렴한 에너지를 원하기 때문입니다.

진정한 기술적 해결책이 있다면, 대부분의 정치적 문제도 해결됩니다. 기후변화와 관련해 정치가 이처럼 양극화되고 있다는 사실은, 우리가 뛰어난 기술적 해결책을 가지고 있지 않다는 것을 거의 증명하고 있습니다.

우리는 태양광이나 풍력만으로는 충분하지 않은 기능을 하지 못하는 해결책이나, 우리를 훨씬 더 가난하게 만들 것을 요구하는 해결책밖에 가지고 있지 않습니다. 그래서 우리는 그것에 대해 다투는 것입니다. 만약 진정한 돌파구가 있다면 정치적 갈등은 멈출 것입니다.

진정한 기술적 해결책(혁신)이 없기 때문에 사람들은 공황에 빠지고, 불충분한 타협안을 두고 정치적으로 양극화되며, 극단적인 비관론과 전체주의적 규제를 서로 강요하게 된다. AI에 대한 ‘인류 멸망인가, 전체주의적 관리 사회인가’라는 양극화도 전혀 같은 구도 안에 있다. AI 연구자들은 AI의 위험과 규제에 대해 어떤 견해를 가지고 있는가.
　

AI를 구축하고 있는 사람들은 (AI에 대한) 종말론적 시나리오를 충분히 인식하고 있습니다. 주요 AI 연구자인 샘 알트만(OpenAI CEO)과 데미스 하사비스(Google DeepMind CEO)는 직접 그에 대해 이야기하고 있습니다.

그들은 존재론적 위험(인류를 멸망시킬 수 있는 위험)에 대해 이야기하고, 유토피아의 가능성에 대해서도 언급합니다.

● AI 개발이 샌프란시스코에 집중하고 있는 것의 문제점

저는 AI 개발이 모두 작은 지리적 영역(샌프란시스코)에 매우 특정되고 다소 기묘한 문화와 함께 집중돼 있는 것은 건전하지 않다고 생각합니다.

지리적 다양성과 사고의 다양성이 더 필요하고, 일본처럼 세계 각지의 사람들이 이를 적극적으로 구축하며, 샌프란시스코의 몇 블록에만 맡기지 않는 것이 훨씬 좋습니다.

그 이유는 현재 그 지역이 이데올로기적으로 좁기 때문에, 그들이 두 가지 함정 중 하나에 빠질 가능성이 매우 높기 때문입니다.

‘기술적으로 매력적’(※Technically sweet/원자폭탄 개발자 오펜하이머가 과학적으로 너무 매력적이고 해결해야 할 흥미로운 과제라서 윤리적 귀결을 잊고 몰두하는 상태를 표현한 말)이라고 해서 맹목적으로 할마게돈(※제어 불가능해진 기술이 인류를 멸망시킨다는 폭력적인 종말을 의미) 기계를 만들거나, ‘위험할 정도로 위험하다’고 판단해 다른 사람이 그 행동을 막기 위해 글로벌 전체주의적 규제 체제를 요구하는 두 가지 중 하나입니다.

나는 그들이 (인류 멸망도 아니고, 전체주의적 관리 사회도 아니다) ‘제3의 길’을 찾을 수 있을 것 같지는 않습니다. 제3의 길을 찾기 위해서는 보다 폭넓은 연합이 필요하다고 저는 생각합니다. 우리는 ‘제3의 길’을 찾아야 합니다.

● AI에 의한 인류 멸망이라도 관리 사회도 아닌, 제3의 길이란?

제3의 길을 찾아낼 수 있을까.
예언자 다니엘(※ 구약성경 다니엘서 12장 4절)의 전체를 읽어보겠습니다.

“하지만 다니엘, 당신은 끝날 때까지 이 말을 숨기고 이 책을 봉인해 두어라. 많은 사람들은 여기저기 뛰어다니며 지식이 늘어날 것이다"

다니엘이 “지식이 늘어난다”고 말했을 때, 그것은 신의 지식, 전체적인 지식을 의미했지만, 더 단순히 말하면 종말 자체에 대한 지식도 의미했습니다. 세계의 종말이 다가올수록 우리는 사물을 더 잘 이해하게 됩니다.

이것은 우리에게 질문을 던집니다. ‘왜 이 책은 끝날 때 봉인이 풀리는 걸까?’ 만약 우리가 오늘 다니엘이 스스로 이해하고 있던 것보다 더 깊게 그의 말을 이해할 수 있다면, 우리에게 할 수 있는 일은 무엇일까요? 아니면 이 예언들은 돌에 새겨진(변경 불가능한) 것일까요?

우리에게 할 수 있는 최선의 일은, 그저 관찰하는 것밖에 없을까요?

저는 이 예언들이 ‘일어날 가능성이 높다’는 의미일지라도, 돌에 새겨진 운명은 아니라고 생각합니다.

예를 들어 예언자 요나가 “지금부터 40일 후에 니네베가 멸망한다”고 선언했을 때(구약성경 요나서 3장 4절), 그것은 “조건부 예언”이었습니다. 니네베 사람들은 어떤 형태로든 회개할 수 있다면, 실현되지 않을 것이었습니다.

또는 더 강한 예로, 신약성경에서는 그리스도가 게세마네의 정원에서 배신을 눈치채고 제자들에게 함께 기도하라고 요청한 장면이 있습니다. 하지만 제자들은 계속 잠들어 버렸습니다. 저는 늘 이렇게 생각합니다. 그들이 잠들지 않고 기도하고 행동했다면, 그리스도가 구원받는 ‘또 다른 결말’이 있었을지도 모른다.

그래서 저는 여러분에게 제 강의에 대해 단순히 (잠깐 눈을 붙이는 것처럼) ‘스누즈 버튼’을 누르는 식의 반응을 하지 않기를 격려하고 싶습니다.

● 과학은 '수단' ‘목적’을 잊어서는 안 된다

AI에 의한 인류 멸망도, 이를 방지하기 위한 전체주의적 세계 정부 수립도 결코 미리 정해진 운명은 아니다. 생각이 멈춘 채 잠에서 깨어나라는 궁극적인 희망과 각오의 메시지다. 또한 티얼 씨는 ‘목적’을 잊어서는 안 된다고 경고한다.
　

종교와 과학은 어느 정도 명확히 구분되면서도 보완적인 이유는, 종교가 우리에게 ‘목적과 의미’라는 감각을 부여하기 때문입니다. ‘우리는 무엇을 이루려고 하는가?’, ‘인생의 목표는 무엇인가?’와 같은 내용입니다.

과학은 우리에게 ‘수단’을 제공하지만, 종교는 ‘목적(결말)’을 제공합니다. 목적에 대한 감각이 없으면 과학은 단지 제어할 수 없게 되어 계속 달리는 기계에 불과합니다. 그것은 선이든 악이든, 무엇이든 사용할 수 있는 도구입니다. 그리고 현대 세계에서 위험은 우리가 ‘목적’을 잊어버린 데에 있습니다.

우리가 무엇을 목표로 하는지 잊고, 수단에 대한 일종의 맹목적인 신앙을 갖게 됩니다. ‘왜 그것을 사용하는가’를 묻지 않고, 기술이 늘어나는 것은 언제나 좋은 일이라고 믿고 있습니다.

따라서 과학이 취해야 할 방향은 인간의 목적과 무엇이 좋은 삶과 좋은 사회를 만드는지에 대한 보다 깊은 이해에 의해 도출되어야 합니다. 그것이 종교와 철학의 기여입니다. 그것은 과학이 그 안에서 기능해야 할 도덕적·윤리적 틀을 제공하기 때문입니다.

우리는 이 두 가지를 다시 통합할 필요가 있습니다. 혼동하는 것이 아니라, 그것들이 인간의 인생에서 완전히 별개의 것이면서도 필요한 부분임을 인식하는 것입니다. 과학에만 의존한다면 매우 강력하면서도 ‘방향성 없는 사회’에 이르게 될 것입니다.

　◆◆◆

　>>【제1회】「【단독】「AI는 버블인가？」→피터 틸이 경고한다「일본에 매우 기묘한 일이 일어난다」」를 읽는다
　>>【제2회】「【단독】‘일본에 있어 생존을 좌우하는 문제’ 피터 틸이 폭로하는 ‘AI 붐의 불편한 진실’」을 읽는다
　>>【제3회】「【단독】「AI는 어디까지 진화할까」→피터 틸의 충격적인 답변이 '무서운 미래'였다는…」를 읽는다
　>>【제5회】「【단독】피터 틸이 폭로하는 ‘중국이 안고 있는 진짜 위험’」를 읽다

오구라 켄이치

【独占】AI開発を米国に任せきりでいいのか？→ピーター・ティールが日本人に警告「2つの罠のどちらかに陥る」

【独占】AI開発を米国に任せきりでいいのか？→ピーター・ティールが日本人に警告「2つの罠

【独占】AI開発を米国に任せきりでいいのか？→ピーター・ティールが日本人に警告「2つの罠のどちらかに陥る」/ 4/29(水) / ダイヤモンド・オンライン

PayPal、Palantir Technologiesの共同創業者であるピーター・ティール氏

　AIがもたらす未来は、制御不能なテクノロジーによる「人類滅亡」か、それともそれを未然に防ぐという大義名分のもとに築かれる「世界政府による徹底監視社会」か。我々はこのディストピアへのカウントダウンを止める術を持たないのだろうか。第1回、第2回、第3回に続く、ピーター・ティール氏の熱血講義第4弾。（取材・構成/小倉健一）
※本稿は、3月6日行われた「ピーター・ティール氏 特別講演」電通ジャパン、電通総研 経済安全保障研究センター主催講演の抜粋に解説を加えたものです。

●　サム・アルトマンら 主要なAI研究者自身が語る見解は

　AIがもたらす未来は、制御不能なテクノロジーによる「人類滅亡」か、それともそれを未然に防ぐために築かれる「世界政府による監視社会」か。なぜ我々は、このような二者択一しか描けなくなってしまったのか。ティール氏は、現代社会が抱えるもう一つの巨大な不安である「気候変動問題」をアクチュアルな例として引き合いに出し、その根本原因が「本物の技術的解決策の不在」にあると看破する。
　私は天候をコントロールするといういかなる約束に対しても非常に懐疑的です。それらは通常、完全に「実現不可能な空頼み」だと思います。

　しかし、もし何か現実的なものがあれば――つまり、安価でゼロカーボンの核融合エネルギーを開発する現実的な方法があれば、右派も左派も突然同意するようになると思います。左派はゼロカーボン（炭素排出ゼロ）を求め、右派は安価なエネルギーを求めているからです。

　本物の技術的解決策があれば、大抵は政治的問題も解決します。気候変動に関して政治がこれほどまでに二極化しているという事実は、私たちが優れた技術的解決策を持っていないことをほぼ証明しているのです。

　私たちは、太陽光や風力では不十分であるといった機能しない解決策か、あるいは私たちをはるかに貧しくすることを要求する解決策しか持っていないのです。だから私たちはそれについて争うのです。もし本当のブレークスルーがあれば、政治的な争いは止まるでしょう。

　本物の技術的解決策（イノベーション）がないからこそ、人々はパニックに陥り、不十分な妥協案を巡って政治的に二極化し、極端な悲観論や全体主義的な規制の押し付け合いに走る。AIに対する「人類滅亡か、全体主義的な管理社会か」という二極化も、全く同じ構図の中にある。AI研究者たちはAIのリスクや規制についてどのような見解を持っているのか。
　AIを構築している人々は、（AIに対する）終末論的なシナリオを十分に認識しています。主要なAI研究者であるサム・アルトマン（OpenAI CEO）やデミス・ハサビス（Google DeepMind CEO）は、自分たち自身でそれについて語っています。

彼らは存在論的リスク（人類を滅ぼし得るリスク）について語り、またユートピアの可能性についても語っています。

●　AI開発がサンフランシスコに 集中していることの問題点

　私は、それ（AI開発）がすべて一つの小さな地理的エリア（サンフランシスコ）に、非常に特定された、少し奇妙な文化とともに集中していることは健全ではないと思います。

　地理的な多様性、思考の多様性がもっとあり、日本のような世界の異なる地域の人々がこれを積極的に構築し、サンフランシスコの数ブロックに任せきりにしない方がはるかに良いでしょう。

　なぜなら、現在、その地域のイデオロギー的な狭さのために、彼らは二つの罠のいずれかに陥る可能性が非常に高いからです。

　「技術的に魅力的」（※Technically sweet/原爆開発者のオッペンハイマーが、科学的にあまりに魅力的で解決すべき興味深い課題であるために、その倫理的帰結を忘れて没頭してしまう状態を表現した言葉）だからといって盲目的にハルマゲドン（※制御不能になったテクノロジーが人類を滅亡させるという暴力的終末の意）のマシーンを作るか、あるいは「危険すぎる」と判断して他者がそれを行うのを止めるためにグローバルな全体主義的規制体制を要求するかのどちらかです。

　私は彼らが（人類滅亡でも、全体主義的な管理社会でもない）「第三の道」を見つけるとは思えません。第三の道を見つけるためには、より幅広い連合が必要だと私は思います。私たちは「第三の道」を見出さなければならないのです。

●　AIによる人類滅亡でも 管理社会でもない、第三の道とは？

　第三の道を見出すことは可能なのか。
　預言者ダニエル（※旧約聖書の一書であるダニエル書12章4節）の全文を読み上げましょう。

　「しかしダニエルよ、あなたは終わりの時までこの言葉を秘し、この書を封じておきなさい。多くの者はあちこちと走り回り、知識が増すであろう」

　ダニエルが「知識が増す」と言ったとき、それは神の知識、全体の知識を意味していましたが、より単純には、終末そのものについての知識をも意味していました。世界の終焉が近づくにつれ、私たちは物事をより良く理解するようになります。

　これは私たちに問いを突きつけます。「なぜこの書は終わりの時に向けて封印を解かれるのか？」 もし私たちが今日、ダニエル自身が理解していたよりも深く彼の言葉を理解できるのであれば、私たちにできることは何かないのでしょうか？ それとも、これらの預言は石に刻まれた（変更不可能な）ものなのでしょうか？

　私たちにできる最善のことは、ただ観照するしかないのでしょうか？

私は、これらの預言は「起こる可能性が高い」ことではあっても、石に刻まれた運命ではないと考えます。

　例えば預言者ヨナが、「今から40日後にニネベは滅びる」と宣言したとき（旧約聖書ヨナ書3章4節）、それは「条件付きの予言」でした。ニネベの人々が何らかの形で悔い改めることができれば、実現しないものでした。

　あるいはさらに強い例として、新約聖書において、キリストがゲッセマネの園で裏切りを察し、弟子たちに共に祈るよう求めた場面があります。しかし、弟子たちは眠り続けてしまいました。私はいつも思うのです。もし彼らが眠り込まずに祈り、行動していたとしたら、キリストが救われるという「もう一つの結末」があったのではないかと。

　ですから私は皆さんに、私の講義に対して単に（二度寝をする時のように）「スヌーズボタン」を押すような反応をしないでほしい、と励ましたいのです。

●　科学は「手段」 「目的」を忘れてはいけない

　AIによる人類滅亡も、それを防ぐための全体主義的な世界政府の樹立も、決してあらかじめ決まった運命ではない。思考停止の眠りから覚めよという究極の希望と覚悟のメッセージである。さらにティール氏は「目的」を忘れてはいけないと警鐘を鳴らす。
　宗教と科学の二つがある意味で明確に異なり、かつ補完的である理由は、宗教が私たちに「目的と意味」の感覚を与えてくれるからです。「私たちは何を達成しようとしているのか？」「人間の人生のゴールとは何か？」といったことです。

　科学は私たちに「手段」を与えますが、宗教は「目的（帰結）」を与えます。目的の感覚がなければ、科学はただ制御不能になって走り続ける機械に過ぎません。それは善にも悪にも、何にでも使えるツールです。そして現代世界における危険とは、私たちが「目的」を忘れてしまったことです。

　私たちが何を目指しているのかを忘れ、手段に対するある種、盲目的な信仰を持ってしまっています。「何のためにそれを使うのか」を問うことなく、テクノロジーがより増えることは常に良いことだと信じているのです。

　ですから、科学が取るべき方向とは、人間の目的、何が良い人生や良い社会を作るのかについてのより深い理解によって導かれるべきです。それが宗教や哲学の貢献です。それは科学がその中で機能すべき道徳的、倫理的な枠組みを提供します。

　私たちはこの二つを再統合する必要があります。混同するのではなく、それらが完全な人間の人生において、別個のものでありながら必要な部分であると認識することです。もし科学だけに頼るなら、非常に強力でありながら「方向性のない社会」に行き着くことになるでしょう。

　◆◆◆

　＞＞【第1回】「【独占】「AIはバブルなのか？」→ピーター・ティールが警鐘「日本に非常に奇妙なことが起こる」」を読む
　＞＞【第2回】「【独占】「日本にとって死活的な問題となる」ピーター・ティールが激白する「AIブームの不都合な真実」」を読む
　＞＞【第3回】「【独占】「AIはどこまで進化するのか」→ピーター・ティールの衝撃回答が「怖い未来」だった…」を読む
　＞＞【第5回】「【独占】ピーター・ティールが暴く「中国がはらむ本当のリスク」」を読む

小倉健一