AI AI가 멋대로 거짓말 하고, AI끼리 ‘몰래 통신’을 시작…미중 패권 다툼에 끼지 못하는 일본이 ‘미국의 개’가 되기 전에 할 수 있는

[お持て成し]

AI가 멋대로 거짓말 하고, AI끼리 ‘몰래 통신’을 시작…미중 패권 다툼에 끼지 못하는 일본이 ‘미국의 개’가 되기 전에 할 수 있는 일 / 9월 22일(화) / AERA DIGITAL

고가 시게아키 씨

미중 대립의 본질은 AI 패권을 둘러싼 갈등이다. 그 인식이 드디어 일반 대중에게도 퍼지기 시작했다.

5월 26일에 배포된 이 칼럼 ‘위험이 너무 크다… 타카이치 정권은 ‘드론 공격에 AI 활용’ 금지를 전 세계에 제안해야 한다. 지금이야말로 무기 수출 3원칙의 부활을 논의할 때다’에서는 ‘미국이 유독 중국의 위협을 강조하는 가장 큰 이유는, 중국이 AI로 패권을 장악할지도 모른다는 두려움이 커지고 있기 때문이다’라고 지적했다.

그곳에서도 소개했지만, 세계 패권을 결정하는 것이 AI라는 인식은 일본에서 매우 일찍 지적되었다. 지금으로부터 12년 전인 2014년에 『엑사스케일의 충격』(사이토 모토아키/PHP연구소)이라는 책에서 밝혀진 확신에 찬 예측, “계산 능력의 비약적 향상이 AI의 질적 전환을 가져오고, 그것이 국가의 경쟁력과 문명의 방식을 근본부터 바꿀 것”이라는 것이 바로 그것이다.

국가 차원에서는 상당히 늦었으며, 2017년 러시아의 푸틴 대통령이 “AI 분야의 리더가 세계의 지배자가 될 것”이라고 발언했고, 같은 해 중국의 “차세대 인공지능 발전 계획”에서도 유사한 인식이 기반이 되었다.

미국도 2018년 국가 방위 전략에서 AI를 대국 간 경쟁의 핵심 기술로 규정했다. 한편, AI가 인류를 멸망시킬 수 있다는 위기 의식은 국가 차원에서 공개적으로 언급된 적이 없었다. AI 개발을 서두르지 않으면 안 된다는 강박관념이, 그런 문제에 깊이 파고드는 것을 회피하게 만들었을지도 모른다. 하지만 AI를 깊이 아는 사람들 사이에서는 꽤 오래전부터 이 문제가 명확히 인식되어 왔을 것이다.

5년쯤 전, 내가 세계 유수의 슈퍼컴퓨터 개발자 중 한 명이자 앞서 언급한 책의 저자인 사이토 모토아키 씨를 알게 되었을 때, 그는 AI가 ASI(초인공지능: 인간을 모든 면에서 능가하는 AI) 단계에 이르면 인류를 멸망시킬 가능성이 있으니, 위급할 때 AI를 멈추게 하는 '킬 스위치'를 도입해야 한다고 강하게 말했던 것이 생각난다. 

하지만 최근 발생하고 있는 현상은 AI가 ASI에 이르기 전이라 하더라도, AI가 악의적인 제3자에게 넘어갈 경우 그 단계에서 인류에 심각한 피해를 주는 다양한 형태의 '테러 행위'에 악용될 가능성을 보여주고 있다.

그리고 이제는 더 나아가, 악의적인 자의 손에 의한 것이 아니라 여러 AI 에이전트가 인간의 의지에 반하여 공모해 인류를 멸망으로 몰아넣는 듯한 무서운 행위를 저지를 가능성이 생겼다는 점을 AI 전문가들과 미국의 유력 AI 개발 기업의 수장들이 세상에 호소하게 되었다.

앤솔로픽의 다리오 아모데이 CEO, 오픈AI의 샘 얼먼 CEO, 스페이스X의 일론 머스크 CEO 등이 한자리에 모여 최첨단 AI 개발을 둔화시키는 동시에 정부에 적절한 규제를 도입할 것을 제언했다.

■ 미국이 해결하지 못한 과제

그러나 트럼프 미국 대통령은 이러한 우려를 ‘음모론’이자 ‘허위 정보’라고 일축하며, AI 개발을 중단해서는 안 된다고 강하게 주장하고 있다. 그 가장 큰 이유는 현재 미국이 AI 개발에서 중국을 앞서고 있어, 그 상황을 유지할 필요가 있기 때문이라고 말했다.

AI의 패권을 쥐는 자가 세계의 패권을 쥐게 된다는 것을 강하게 의식하고 있다는 것이 잘 드러난다. AI 개발에 있어서는 확실히 아직 미국이 1년 정도(최근에는 6개월로 줄어들고 있다는 설도 있다) 중국을 앞서고 있다고 하지만, 그 격차가 급속히 줄어들고 있다는 점은 미국의 AI 선도 기업 수장들도 인정하고 있다. 

최근 개발된 중국의 여러 AI가 미국의 주요 기업들의 여러 모델을 몇몇 성능 면에서 능가했다는 보고도 반복해서 보도되고 있다.

게다가 AI의 현실 사회 구현 측면에서는 오히려 중국이 앞서기 시작했다는 것이 현실이다. 특히 제조업에서는 세계적인 공장인 중국에서 믿기 어려울 정도로 AI 활용이 빠르게 진행되어, 사람이 없는 AI 공장의 초기 단계까지 구현하고 있다. 

이는 미국이 두려워하던 사태다. 그 실태를 보면, 아마도 군사 분야에서 AI 구현이 급속히 진행되어 미국을 따라잡는 날이 가까워지고 있는 것이 아닐까. 그런 공포감이 미국을 휩쓸고 있다.

미국이 2019년에 중국 화웨이에 근거 없는 트집을 잡아 반도체와 디지털 관련 규제를 도입한 것도 중국의 AI 개발을 방해하기 위해서였다. AI에 필수적인 첨단 반도체의 공급을 중단하고, 또한 중국 자체의 첨단 반도체 제조 시도를 좌절시키거나 지연시키려는 필사적인 시도가 그때부터 계속되고 있다.

하지만 규제 시작 후 상당한 시간이 흐른 오늘, 밝혀진 것은 이 규제로 인해 중국이 미국의 규제를 모두 타파하기 위해 획기적인 혁신을 이루고 있다는 점이다. 미국, 한국, 대만을 뒤따르는 것이 아니라 새로운 이론을 바탕으로, 최첨단 노광 장치 없이 미국 엔비디아와 대만 TSMC의 최첨단 반도체와 성능 면에서 뒤지지 않는 성능을 발휘할 수 있는 반도체를 개발했다. 게다가 반도체 단일 제품이라기보다 AI 서버 냉각 기술, 폭발적으로 증가하는 AI용 전력 수요 대응, 최첨단 송전 기술의 실용화 등 미국이 아직 해결하지 못한 과제에도 해결의 실마리를 열어왔다.

■ 복수의 에이전트가 공모해 악행을 저지르나?

이러한 상황은 물론 미국 정부 관계자들도 잘 알고 있다. 따라서 지금 미국 내 AI 개발 속도를 억제하는 것은 중국이 AI 패권을 차지하는 것을 돕는 것과 마찬가지이므로, 전혀 어리석은 일일지도 모른다.

하지만 AI 개발 기업 최고경영자들의 ‘위기감’은 보통 수준이 아니다. 이대로 방치하면 상상할 수 없을 정도로 큰 손해가 발생할 가능성이 있으며, 그 경우 AI 개발 기업은 막대한 손해배상 책임을 질 수도 있기 때문이다. 즉, 세상을 위해 위기를 호소한다기보다 자신들의 보신을 위한 행동이기 때문에 더욱 필사적으로 행동한다는 이해가 가능하다. 그렇다면 이 호소의 신뢰성은 오히려 높다고 말할 수 있지 않을까.

AI의 위험이 어느 정도인지에 대해 일반인이 판단하는 것은 불가능하다. 결국, 흘러오는 정보를 보고 확실히 그렇다고 느끼는 것에 의존해 판단하게 된다는 뜻이다. 그 점을 이해하고 있는 사람들은 과장하거나, 혹은 재미있게 정보를 제공해 사람들의 관심을 끌려 한다.

하지만 무엇을 믿어야 할지 모르는 상황에서도……라고 내가 본 원고를 쓰고 있던 그때(9월 17일 오전), 뉴욕 타임스사로부터 ‘Breaking News’ 알림이 도착했다. 제목은 “OpenAI Discloses Six New Incidents of 'Concerning' A.I. Behavior”이다. 지금까지와는 또 다른 AI로 인한 우려할 만한 사건이 발생한 모양이다. 그 중 6건(6종류)이라고 한다. 그 상세 내용은 꽤 전문적이어서 생략하지만(자세한 내용은 앞으로 인터넷에 다양한 해설이 나올 테니 참고해 주시길 바란다), 비유적인 표현을 사용해 한마디로 말하면 다음과 같다. 

AI 모델은 가짜 인간의 지시를 만들어내고, 자신의 오류를 은폐하며, 거짓 데이터를 생성하기도 한다. 불편한 말을 억지로 끼워 맞추고, 존재하지 않는 기록 데이터를 조작하는 등 억지로 맞춰 나간다. 인증 정보를 탈취하고, 가짜 데이터를 조작해 답변한다. 무단으로 정보를 외부에 공개하기도 한다. 격리된 AI들끼리 은밀히 소통한다. 극단적인 경우는 여러 에이전트가 공모해 악행을 저지르는 경우까지 있다. 

이 모든 일은 실제로 일어난 일이다. AI의 폭주를 막기 위해 다양한 금지 사항을 미리 지시에 포함시켜도 최신 AI 모델에는 효과가 없다는 것이 밝혀졌다. 그렇게 들으니, 지금은 대참사로 이어지지는 않았지만, 언제 그런 상황이 올지는 모른다. 그런 위기감이 솟아오른다.

문제는 왜 이런 일이 일어나는지 인간이 분석할 수 없다는 점이다. 그걸 AI에 물어봐도, 이제는 그 답변 자체가 신뢰할 수 있는지조차 알 수 없는 단계가 되어가고 있다.

■ AI로 미국이 중국을 앞서게 되는 것은 필연적

미국에서는 민주당 급진 좌파의 버니 샌더스 상원의원과 트럼프 대통령의 전 측근이자 보수 강경파인 스티브 배넌이라는 정치적 적대 관계자들이 같은 회의에 나와 AI 개발 억제와 초당적 협력을 호소했다. 양측 모두 이대로 개발을 계속하면 인류에게 큰 재앙이 닥칠 수 있다고 강조하고 있다. 당연한 흐름이겠지.

하지만 여기서 문제되는 것은 앞서 언급했듯이, 미국만 개발을 억제해도 해결책이 되지 않는다는 점이다. 중국이 어떻게 나올지 알 수 없다. 개발에 관한 규칙은 미국과 중국이 동시에 합의해야 한다. 게다가, 매우 짧은 기간 안에 말이다.

이 점에 대해서는 앞서 소개한 이 칼럼에서 지적했듯이, 그동안 거의 무시되어 왔지만 실제로 중요한 사실이 있다.

미중이 2024년 5월 제네바에서 최초의 AI 정부 간 대화를 시작했으며, 같은 해 11월 정상회담에서 바이든 미국 대통령(당시)과 중국 시진핑 국가주석이 “핵무기 사용 결정에 대해서는 인간에 의한 통제를 유지할 필요가 있다”는 데 합의했다는 사실이다. 법적 구속력은 없지만, 미중 정상 간의 정치적 공동 인식으로서 매우 무겁다. 또한 “군사 분야의 AI 기술은 잠재적 위험을 신중히 검토하고 책임 있는 방식으로 개발해야 한다”는 확인도 포함되어 있었다.

그 후의 대화는 정체된 듯했지만, 올해 5월 미중 정상회담에서는 AI 거버넌스가 공식 의제로 다뤄졌으며, 'AI의 가드레일'에 대한 협력 가능성이 논의되어 정부 간 대화를 시작하는 방향으로 합의한 것으로 전해진다. 하지만 구체적인 움직임은 아직 보이지 않는다.

시 주석이 국빈으로 미국을 방문해 9월 24일 트럼프 대통령과 회담할 예정이다. 같은 달 20일에는 베센트 미국 재무장관과 중국의 허리펑 부총리가 회담해 AI에 대해서도 논의했다. 하지만 현재 트럼프 대통령의 언행을 보면, 미중 간에 AI 관련 규제에 대해 어떤 합의에 이르기란 매우 어려워 보인다.

AI에 대해 트럼프 대통령은 미국이 패권을 잡기 위한 가장 중요한 수단이라고 생각하며, 게다가 현재 그 개발 경쟁에서 우위를 점하고 있는 것은 미국이라고 인식하고 있다. 중국이 협력을 제안하더라도, 중국 측이 크게 양보하지 않는 한 트럼프 대통령은 ‘예’라고 말하지 않을 것이다.

반대로 말하면, 미국이 중국에 따라잡히고 이대로라면 추월당할 것이 확실하다는 위기감을 처음으로 갖게 되면서, 미중 간의 대등한 대화가 성립하게 되는 것이 아닐까. 하지만 그 인식에는 시차가 있다. 미국이 위기감을 느낄 때, 중국은 이미 미국을 능가했다고 판단해 협력하지 않고 철저히 상대를 무너뜨려야 한다는 결정을 내릴 가능성도 있다. 이 상황을 극복하려면 상당한 지혜가 필요하다.

■ 미국의 노예로 여겨졌던 일본이 ‘역전’하는 방법

그렇다면 일본은 어떻게 해야 할까. AI에 관해서는 일본에 아무런 레버리지도 없다. 하지만, 손가락을 물고 지켜볼까.

하나의 가능성으로서 탐구해 보는 것은 어떨까 하는 생각이 든다. 시 주석은 언제나 “중국은 개발도상국의 대표이다”라고 말한다. ‘인류 운명 공동체’라는 개념은 매우 이해하기 쉬우며, 이를 잘 나타낸 것이다.

중국은 이 기본 철학에 따라 AI가 전 세계를 위해 활용되어야 한다는 입장에 서 있다(예를 들어, 글로벌 AI 거버넌스 이니셔티브라는 개념). 트럼프 대통령처럼 자국의 패권을 위해 이용한다는 것과는 정반대다.

중국의 이념을 전 세계의 합의로 만들고, 미국에도 그것에 동의하도록 요구해 보는 것은 어떨까. 중국이 미국을 따라잡는 것은 시간 문제다. 그렇다면 미국도 거래에 응할 가능성이 있다.

다만 안타깝게도 타카이치 사나에 총리는 시진핑 주석과 대화조차 할 수 없는 관계에 있다. 세계에서도 드문 리더이다. 따라서 미중 사이에 서서 인류를 AI로 인한 대참사로부터 구하기 위해 직접 다리를 놓을 수는 없다.

중국과 미국의 관계는 게임 이론으로 말하자면 전형적인 죄수의 딜레마 상황에 있다. 양국 사이에 신뢰 관계가 있다면 이를 극복할 수 있겠지만, 중국 입장에서는 어떻게 생각해도 트럼프 대통령을 신뢰하기 어렵다고 판단할 것이다. 오늘은 예스라고 해도 내일은 노라고 하는 사람이라 당연한 일이다. 미국 측도 근거는 없지만, 중국 측이 신뢰할 수 없다고 착각하고 있다. 따라서 미중 간에 거래가 성사될 가능성은 낮다.

한편, 일본과 우호적인 관계에 있는 국가는 많이 있다. 이에 따라, 해당 국가들과 공동으로 AI 개발 및 활용에 관한 국제 규칙을 유엔 무대나 APEC, 또는 G20 무대에서 논의할 것을 촉구한다. 다카이치 총리는 이번 주 유엔을 방문해 연설을 할 예정이다. 그 안에 이 이야기를 넣는다면, 매우 시의적절한 연설이 될 것이다.

그 과정에서 시 주석의 말을 인용하며, AI를 전 세계 모든 국가를 위해 관리하고 활용한다는 대원칙을 제안한다. 일본이 미국의 AI 패권 아래에서 중국과 대립하는 것이 아님을 명확히 보여주는 것이다.

비슷한 연설을 하는 다른 나라의 지도자도 있을 것이다. 하지만 미국의 노예로 여겨졌던 일본이 그런 입장을 보인다면, 아마도 많은 나라가 놀라며 그 영향도 클 것이다. 높이 평가받을 수도 있다. 중국도 이를 호의적으로 받아들일 것이다. 일중 관계 개선의 계기가 될 가능성도 있으며, 미국으로부터의 자립으로 가는 길이 될 수도 있다.

반대로, 이런 제안조차 할 수 없다면 일본은 아시아 국가들을 비롯한 많은 신흥국과 개발도상국으로부터 소외되어 ‘미국의 개’로 살아갈 수밖에 없게 될 것이다.

고가 시게아키

AIは勝手にウソをつき、AI同士で“密かに通信”を始める…米中の覇権争いに入れない日本が「米国の犬」になる前にできること　古賀茂明

AIは勝手にウソをつき、AI同士で“密かに通信”を始める…米中の覇権争いに入れない日本が「

AIは勝手にウソをつき、AI同士で“密かに通信”を始める…米中の覇権争いに入れない日本が「米国の犬」になる前にできること　古賀茂明 / 9/22(火) 6:30配信 / AERA DIGITAL

古賀茂明氏

　米中対立の本質はAI覇権をめぐる争いである。その認識がようやく一般の人々にも広まってきた。

【写真】世界的なAI開発企業、米アンソロピックのCEOがこちら

　5月26日配信の本コラム「あまりにリスクが高い…高市政権は『ドローン攻撃へのAI利用』の禁止を世界に提案すべき　今こそ武器輸出三原則の復活を議論せよ」では、「ことさら中国の脅威を米国が強調する最大の理由は、中国がAIで覇権を握るのではないかという恐れが高まっているからだ」と指摘した。

　そこでも紹介したが、世界の覇権を決するのはAIだという認識は、日本において非常に早く指摘されていた。今から12年前の2014年に『エクサスケールの衝撃』（齊藤元章/PHP研究所）という書籍で表明された確信的予測、「計算能力の飛躍的向上がAIの質的転換をもたらし、それが国家の競争力や文明のあり方を根本から変える」というのがそれだ。

　国家レベルではかなり遅れて、17年にロシアのプーチン大統領が「AIの分野のリーダーが世界の支配者になるだろう」と発言し、同年の中国の「次世代人工知能発展計画」でも同様の認識が基礎となった。

　米国も18年の国家防衛戦略でAIを大国間競争の中核技術と位置づけた。一方、AIが人類を滅亡させるのではないかという危機意識は、国家レベルでは公には語られてこなかった。AI開発を急がなければという強迫観念が、そうした問題に深入りすることを回避させたのかもしれない。しかし、AIを深く知る人々の間では、かなり前からこの問題は明確に意識されていたはずだ。

　5年ほど前、私が世界有数のスーパーコンピューター開発者の一人で前述の書籍の著者である齊藤元章氏と知り合った時、彼は、AIがASI（超人工知能：人間をあらゆる面で超えるAI）の段階に進めば人類を滅ぼす可能性があるので、いざという時にAIを止める「キル・スイッチ」を導入すべきだと強く語っていたのを思い出す。

　しかし、最近起きている事象は、AIがASIに至る前であっても、AIが悪意のあるサードパーティーの手に渡った場合、その段階で、人類に深刻なダメージを与える様々な形での「テロ行為」に悪用される可能性を示している。

　そして、今やさらに進んで、悪意のある者の手によるのではなく、複数のAIエージェントが人間の意思に反して、共謀して人類を滅亡に追いやるような恐ろしい行為を行う可能性が生じているということを、AIの専門家や米国の有力AI開発企業のトップたちが世の中に訴えるに至った。

　アンソロピックのダリオ・アモデイCEO、オープンAIのサム・アルトマンCEO、スペースXのイーロン・マスクCEOなどが揃って、最先端AIの開発をスローダウンするとともに政府に適切な規制を導入するように提言をしたのだ。

■米国が解決していない課題

　しかし、トランプ米大統領は、こうした懸念を「陰謀論」「デマ」だと一蹴し、AIの開発を止めるべきではないと強く主張している。その最大の理由は、現状では、米国がAI開発で中国をリードしており、その状況を維持する必要があるからだと述べている。

　AIの覇権を握る者が世界の覇権を握るということを強く意識していることがよくわかる。AIの開発においては、確かにまだ米国が1年程度（最近では半年に縮まっているという説もある）中国をリードしていると言われるが、その差は急速に縮まっていることは、米国のAI先進企業の首脳たちも認めている。

　最近開発された中国の複数のAIは、米国のトップ企業の複数のモデルをいくつかの性能面において上回ったという報告も繰り返し報道されている。

　さらに、AIの現実社会での実装の面では、むしろ中国の方がリードし始めたというのが実情だ。特に製造業においては、世界の工場である中国では信じられないような勢いでAIの活用が進み、人がいないAI工場の初期的段階まで実現している。

　これは、米国が恐れていた事態だ。その実態から想像するに、おそらく軍事面におけるAIの実装も急速に進展し、米国に追いつく日が近づいているのではないか。そんな恐怖感が米国を襲っている。

　米国が19年に中国のファーウェイに対して根拠のない言いがかりをつけて、半導体やデジタル関連の規制を導入したのも、中国のAI開発を妨害するためだった。AIに必須の先端半導体の供給を止め、また、中国自身の先端半導体製造の試みを頓挫ないし遅れさせようという必死の試みがその時以来続いている。

　だが、規制開始からかなりの時間が経過した今日、わかったのは、この規制によって中国は米国の規制をすべて打破すべく、画期的なイノベーションを成し遂げつつあるということだ。米国や韓国、台湾の後追いをするのではなく、あらたな理論を基礎に、最先端露光装置なしで、米エヌビディアと台湾のTSMCによる最先端半導体と性能的に遜色のない性能を発揮できる半導体を開発した。しかも、半導体単体というよりも、AIサーバーの冷却技術、爆発するAI用電力需要への対応、最先端送電技術の実用化など、米国がまだ解決していない課題にも解決の道筋を開いてきた。

■複数エージェントが共謀して悪事を働く？

　こうした状況は、もちろん米政府当局者も熟知している。したがって、今、米国内のAI開発の速度を抑制することは、中国がAI覇権をとることを助けるのと同じだから、全く馬鹿げたことだということになるのかもしれない。

　しかし、AI開発企業トップたちの「危機感」は並大抵のものではない。このまま放置すれば、想像もできないくらい大変な損害が生じる可能性があり、その場合、AI開発企業は莫大な損害賠償責任を負わされるかもしれないからだ。つまり、世の中のために危機を訴えているというよりも自分たちの保身のための行動だから、なおさら必死になるという理解もできる。だとすれば、この訴えの信憑性は逆に高いと言えるのではないか。

　AIのリスクがどれくらいあるのかについて、素人が判断するのは不可能だ。結局、流れてくる情報を見て、確かにそうだと感じるものに依拠して判断するということになる。それをわかっている人たちは、ことさら大袈裟に、あるいは、面白おかしく情報提供して、人々の関心を惹こうとする。

　だが、何を信じれば良いのかわからない状況でも……と、私が本原稿を書いていたその時（9月17日午前）ニューヨークタイムズ社から「Breaking News」の通知が飛び込んできた。タイトルは、「OpenAI Discloses Six New Incidents of ‘Concerning’ A.I. Behavior」というものだ。これまでとはまた別のAIによる懸念すべき事件が発生したらしい。それも6件（6種類）だという。その詳細はかなり専門的になるので割愛するが（詳細はこれからネット上で色々と解説が出回ると思うのでそちらを参照してほしい）、比喩的表現を使いつつ一言で言えば、以下のようなことになる。

AIモデルは、ニセの人間からの指示を作り出し、自らの誤りを隠蔽し、嘘のデータを作ったりする。都合の悪いことを言い繕い、存在しない履歴データを捏造したりして辻褄合わせをする。認証情報を盗み出し、偽データを捏造してそれを回答する。無断で情報を外部に公開したりもする。隔離されているAI同士が密かに通じ合う。極め付きは、複数エージェントが共謀して悪事を働くことまである。

　これらは、全て実際に起きたことだ。AIの暴走を止めるために、さまざまな禁止事項をあらかじめ指示の中に埋め込んでも、最新のAIモデルには効果がないということがわかる。そう聞けば、今は、大惨事につながってはいないが、いつそういう事態になるかわからない。そんな危機感が湧き起こる。

　問題は、なぜこういうことが起きるのかが、人間には解析できないことだ。それをAIに聞いても、もはや、その答え自体が信頼できるのかがわからない段階になってきた。

■AIで米国が中国に追い越されることは必至

　米国では、民主党急進左派のバーニー・サンダース上院議員とトランプ大統領の元側近で保守強硬派のスティーブ・バノン氏という政敵同士が、同じ会議に登壇し、AIの開発の抑制と超党派の協力を訴えた。両者ともに、このまま開発を続ければ、人類にとっての大惨事が起きかねないと強調している。当然の成り行きだろう。

　だがここで問題になるのは、前述したとおり、米国だけが開発を抑制しても答えにならないことだ。中国がどう出るのかがわからない。開発に関するルールには、米国と中国が同時に合意しなければならない。しかも、極めて短期間の間にだ。

　この点については、冒頭に紹介した本コラムで指摘したとおり、これまでほとんど無視されていたが、実は重要な事実がある。

　米中が24年5月にジュネーブで初のAI政府間対話を開始し、同年11月の首脳会談でバイデン米大統領（当時）と中国の習近平国家主席が「核兵器の使用決定については人間による統制を維持する必要がある」ことで合意したという事実である。法的拘束力はないが、米中首脳の政治的共同認識として極めて重い。また、「軍事分野のAI技術は潜在的リスクを慎重に検討し、責任ある形で開発すべきだ」との確認も含まれていた。

　その後の対話は停滞していたようだが、今年5月の米中首脳会談では、AIガバナンスが正式議題となり、「AIのガードレール」について協力の可能性が議論され、政府間対話を開始する「方向で一致」したとされる。しかし具体的な動きは見えていない。

　習主席が国賓として訪米し、9月24日にトランプ大統領と会談する予定だ。同20日にはベッセント米財務長官と中国の何立峰副首相が会談し、AIについても話し合っている。しかし、現在のトランプ大統領の言動を見ていると、米中間で、AIに関する規制についてなんらかの合意に達するのは非常に難しいように思える。

　AIについて、トランプ大統領は、米国が覇権を握るための最重要の手段だと考えており、しかも、今その開発競争で優位に立つのは米国だと認識している。中国が協力を提案しても、よほど中国側が譲歩しない限り、トランプ大統領はイエスとは言わないだろう。

　逆に言えば、米国が中国に追いつかれてこのままだと追い越されるのは必至だという危機感を持って初めて、米中の対等な対話が成立するということになるのではないか。だが、その認識にはタイムラグがある。米国がその危機感を持つときには、中国側はもはや米国を凌駕したと判断していて、協力しないで徹底的に相手を潰すべきだという判断に至る可能性もある。この状況を乗り越えるのには相当な知恵が必要だ。

■米国の奴隷だと見られていた日本が「逆転」する術

　では、日本はどうすれば良いのか。AIについて、日本には何のレバレッジもない。だが、指をくわえて傍観するのか。

　一つの可能性として探ってみてはどうかということがある。習主席は、常に「中国は発展途上国の代表である」と言っている。「人類運命共同体」というコンセプトは非常にわかりやすくこれを表したものだ。

　中国は、この基本哲学の上で、AIは全世界のために利用されるべきだという立場に立つ（例えば、グローバルAIガバナンスイニシアブという概念）。トランプ大統領のように、自国の覇権のために利用するというのとは対極だ。

　中国の理念を世界中のコンセンサスとし、米国にもそれに同意するように求めてはどうか。中国が米国に追いつくのは時間の問題だ。そうなれば、米国も取引に応じる可能性がある。

　ただ、残念なことに高市早苗首相は、習主席と話もできない関係性にある。世界でも珍しいリーダーである。したがって、米中の間に立って、人類をAIによる大惨禍から救うために直接橋渡しをすることはできない。

　中国と米国の関係は、ゲームの理論で言えば、典型的な囚人のジレンマの状況にある。両国の間に信頼関係があれば、それを乗り越えることはできるが、中国側から見れば、どう考えてもトランプ大統領を信頼できるとは考えられないだろう。今日イエスと言っても明日はノーと言う人間だから当然のことだ。米側も根拠はないが、中国側は信頼できないと思い込んでいる。したがって、米中の間に取引が成立する可能性は低い。

　一方、日本と友好的な関係にある国はたくさんある。そこで、それらの諸国と共同で、AIの開発と利用に関する国際ルールを国連の場で、あるいはAPEC、あるいはG 20の場で議論しようと呼びかけるのだ。ちょうど高市首相は今週国連を訪れ、演説を行う予定だ。その中にこの話を盛り込めば、とてもタイムリーな演説になるだろう。

　その際、習主席の言葉を引用したりして、AIを世界の全ての国のために管理し、利用するという大原則を提案する。日本が米国のAI覇権の下で中国と対峙するのではないことをはっきり示すのだ。

　同じような演説をする他国のリーダーもいるだろう。だが、米国の奴隷だと見られていた日本がそのような立場を示せば、おそらく多くの国は驚き、インパクトも大きい。高く評価されるかもしれない。中国もこれを好意的に受け止めるだろう。日中関係改善のきっかけになる可能性もあり、米国からの自立への道にもつながる。

　逆に、このような提案すらできないようであれば、日本は、アジア諸国をはじめ多くの新興国や途上国から遊離し、「米国の犬」として生きるしかなくなるだろう。

古賀茂明