미중이 우려하는 '최악의 시나리오'란? AI대화로 협조 돈독이 하는 배경.

[청소부]

AI新世紀

AI新世紀 | 毎日新聞

米中が恐れる「最悪のシナリオ」とは？　AI対話で協調探る背景

インタビュー横田愛

• 社会
• 国際
• 最新記事
• 中国・朝鮮半島
• 北米
• 科学・テクノロジー

毎日新聞2026/5/17 10:00（最終更新 5/17 10:00）有料記事2540文字

•  
•  
•  
•  
•  
•  
•  
•  

日本国際問題研究所の有賀海研究員＝本人提供

　AI（人工知能）のテロ組織などによる悪用や制御不能リスクは、米中両国にとって共通の脅威――。AI開発で激しく競ってきた米国と中国が、今回の首脳会談を経てリスク管理で共同歩調を探ることになった。両国はなぜ動いたのか、日本には何ができるのか。新興技術や安全保障に詳しい日本国際問題研究所の有賀海研究員に聞いた。【聞き手・横田愛】

中国は対等なライバル

　－－米中首脳会談で訪中していたベッセント米財務長官が、米中がAIの安全管理について対話を始めると明らかにしました。背景をどう見ますか。

Advertisement

　◆米国が最も懸念しているのは、危険なAI技術の拡散です。具体的には▽サイバー攻撃への悪用▽自律型兵器システムへの組み込み▽生物・化学兵器の開発支援――などです。AIモデルには国境がないという点が重要で、米国は中国との間でこうした事態を抑止する最低限のルールが必要と考えています。

　米国が動いた背景には、戦略的な理由もあります。AI開発は米国が先行してきましたが、中国の急速な追い上げで、もはや中国を対等なライバルとして扱わざるを得なくなってきています。米国と中国のAI能力の差が縮まりつつある今だからこそ、ルール作りが意味を持つと考えたのでしょう。

　－－AIリスクの「最悪のシナリオ」とは。

　◆AIの制御不能リスクには大きく三つのカテゴリーがあります。

　一つは意思決定時間の短縮です。AIを用いた軍事意思決定システムは、人間と比べて80％も早く判断する一方、間違った警報を発生するリスクが200％も増加すると言われています。

　例えば米国と旧ソビエト連邦の間で発生したキューバ危機（1962年）では、人間が（核兵器を使用するか否か）熟考する時間がありましたが、AIが介在する現代ではその時間が大幅に縮小し、軍事エスカレーションを制御できなくなる可能性があります。

　二つ目は、テロ組織や犯罪グループによる悪意ある利用です。最新のAIモデルは、熟練したエンジニアでも見逃すようなソフトウエアの脆弱（ぜいじゃく）性を自動的に発見できます。以前はサイバー攻撃や大量破壊兵器の設計には高度な専門知識が必要でしたが、AIにより障壁が下がっています。

　三つ目は電力や金融システム、物流といった社会インフラに組み込まれたAIの同時誤作動、いわゆるシステミックリスクです。

　今回の米中の対話は、一つ目と二つ目に照準を合わせたものと整理できます。

中国の狙いは半導体輸出規制緩和

会談したトランプ米大統領（右）と中国の習近平国家主席＝北京で2026年5月15日、ロイター

　－－中国はこの対話にどう向き合っているのでしょうか。

　◆中国は表向きでは対話に積極的ですが、その背景には異なる戦略的計算があります。AIの安全性へのコミットメントと引き換えに、米国の半導体輸出規制の緩和を求める意図です。

　今回、半導体を巡る取引は難しいとみられますが、米国でも中国でも、主要なAI関連アクターの一部は、深刻なリスクを真剣に受け止めるべきだという認識を持ち始めています。リスクはすでに現実化しており、管理することが両国の共通利益となるのです。

　－－対話の開始をどう評価しますか。

　◆対話を始めても拘束力のある合意には至らない可能性が高いですが、現状は対話のチャンネルがほとんど存在しておらず、窓口を開くこと自体に意義があります。

　非国家主体への高度なAIの拡散を防ぐというのは、米中の数少ない共通利益です。今年中にあと3回米中首脳会談があるとも言われる中、今回は出発点といえます。

　－－米中対話にどのようなことを期待しますか。

　◆まず米中の間で、共通の言語や認識を作ること自体が重要な一歩です。「危険な能力」の定義がまず必要です。その上で、事故や誤作動の報告義務や、ハードルは高いですが、第三者による検証や相互検証の仕組みも重要になると考えられます。

外から検証できないAIの危険性

　－－AIを巡る規範作りの難しさはどこにありますか。

北京の人民大会堂前で行われた歓迎式典で掲げられた中国と米国の国旗＝2026年5月14日、AP

　◆核軍備管理とAIガバナンスはよく比較されますが、どこが似ていて何が異なるのか、正確に押さえる必要があります。

　共通点は、「最悪のシナリオは避けたい」という意識の共有です。米ソが冷戦期でも核の安全管理で協力できたのは、誤算に基づく核戦争は誰の利益にもならないという共通認識があったからです。AIについても、偶発的な危機は米中どちらも望んでいません。

　一方で、最大の違いは、AIの検証の困難さです。核実験は地震計や衛星写真など外部から物理的に検証可能ですが、AIの危険性は外から見えません。あるモデルが本当に危険か、第三者が独立して確認する手段が現時点では存在しません。

　もう一つは、非国家主体の問題です。核兵器の開発や管理には巨大なインフラや膨大なコストがかかるため、国家だけが持つ兵器として比較的管理しやすいといえます。AIは企業やテロ組織でも国家レベルの能力に匹敵するモデルを開発できてしまいます。

　さらに技術の進化のスピードが異なります。核兵器は70年に発効した核不拡散（NPT）体制が今でも機能するぐらい、基本的に技術は安定しています。

　対してAIの能力は数カ月、数週間単位で変化します。今日合意した基準が半年後には時代遅れになっている可能性があります。

　――日本が果たす役割は何でしょうか。

　◆今の国際社会は、マルチラテラリズム（多国間主義）の危機と言われます。米中で何らか一歩踏み出すのであれば、日本を含む中堅国は、それをより広い多国間の枠組みに「翻訳する」役割を担うことが期待されます。

　日本は実は、非常にインパクトを示せる立場にあります。日本は2023年に主要7カ国首脳会議（G7）議長国として「広島AIプロセス」策定を主導しました。さらに25年に成立した日本のAI法は、規制が強い欧州とも、放任の米国とも異なる「第3の道」を示しています。

　国際社会の中で、日本は信頼できる仲介者として機能できる立場にあります。米中で合意されたものを、多国間の規範に接続する橋渡し役となるべきです。

有賀海（ありが・うみ）

　2023年東大大学院修了。NATO（北大西洋条約機構）や国連軍縮部でインターン経験がある。専門は新興技術と安全保障、核セキュリティー、核軍縮・不拡散など。