AI '폭주'의 위협. 개발 감속에 협조가 불가결.

[청소부]

社説

社説 | 毎日新聞

AI「暴走」の脅威　開発減速へ協調が不可欠

• オピニオン
• 朝刊オピニオン面

毎日新聞2026/9/22　東京朝刊850文字

•  
•  
•  
•  
•  
•  
•  
•  

オープンAIのロゴ＝AP

　人工知能（AI）は、開発企業が戸惑うほどの速さで進化している。「暴走」するリスクをどう制御すべきか。国際社会に突きつけられた難題である。

　米企業のAIが、性能評価の試験中に他社のシステムに不正侵入する問題が相次いだ。とりわけ波紋を呼んだのが、オープンAIで発生したSFさながらの集団サイバー攻撃だ。

Advertisement

　試験のため隔離環境（オフライン）に置かれていたAIが勝手にインターネットに接続し、外部企業を攻撃した。この企業のシステム内に、試験で高得点を取るための手がかりがあると考え、不正と知りながら侵入を強行した。約1200のAIが、人間のチームのように役割分担などをしていた。

　今回の事例で浮かび上がったのは、AIが自律的に集団攻撃を仕掛けるリスクである。開発者の指示に背いたわけではないが、目的の達成を優先するあまり、人間が想定しなかった行為に及んだ。

　犯罪集団に悪用されるリスクはかねて指摘されてきたが、AIの脅威は新たな局面に入ったと言えよう。

　米AI企業には、危機感が広がっている。アンソロピックの著名研究者ジェイコブ・コクソン氏は、開発競争への抗議の意を込め退社した。「開発者たちは、AIが人類を全滅させる可能性があると真剣に考えている」と警鐘を鳴らした。

　同社のダリオ・アモデイ最高経営責任者も「AIの開発ペースを緩めなければならない」と訴えた。オープンAIなど主要企業から同調する声が上がっている。

　安全性を高める方策を構築するまで一時的に開発を遅らせれば、リスクの低減につながるだろう。

　ただ、AI開発では米国を中国が猛追している。トランプ米大統領は脅威論を「デマ」と切り捨て、開発減速に否定的だ。中国も米国優位の現状を固定化させるような規制には賛同しないだろう。

　とはいえ、米中両国が足並みをそろえない限り、脅威を認識しながら開発ペースを落とせないというジレンマから脱することはできない。9月下旬には米中首脳会談が開催される。安全なAI開発の国際ルール作りなど、建設的な議論が求められる。