항해도 없는 세계. 위협 높아지는 AI. 폭주하게 하지 않는 지혜를 모아야 할 때.

[청소부]

社説

社説 | 毎日新聞

海図なき世界　脅威高まるAI　暴走させぬ知恵集める時

• オピニオン
• 朝刊オピニオン面

毎日新聞2026/7/5　東京朝刊1689文字

•  
•  
•  
•  
•  
•  
•  
•  

米新興企業「アンソロピック」が発表した人工知能（AI）の安全性確保のため、開発スピードを抑える必要性を盛り込んだ提言＝同社のサイトより

　60年近く前には空想だった事態が、現実になりかねない。

　1968年公開の映画「2001年宇宙の旅」は人工知能（AI）の反乱を描いた。宇宙船に搭載されたAI「HAL9000」が矛盾する指示を受けて混乱し、機能を止めようとした飛行士たちを殺していく。

　米新興企業「アンソロピック」が先月発表した提言は、AIの暴走に警鐘を鳴らす内容だ。今後、AIが自律的に性能を高め、人間の制御が及ばなくなる可能性があると分析した。対策を講じる時間を稼ぐため、開発を遅らせたり一時的に止めたりする仕組みが必要だと訴えた。

Advertisement

　最先端AIを送り出す企業が、安全性確保に向けて開発の自主規制に言及するのは異例だ。単独では競争から脱落するため、一斉にブレーキをかける国際的な枠組みの構築を促す思惑がうかがえる。

想定超える急速な進化

　AIの進化の速さは想定を超えている。2022年に米オープンAIの生成AI「チャットGPT」が登場して以降、性能が飛躍的に向上した。当初は高校生程度とされた能力が、3年ほどで博士号取得者レベルに達した。目標さえ設定すれば企画立案や資料作成のような人間の仕事をこなす「AIエージェント」の利用が拡大し、AIが社会を動かし始めた。

　一方、AIが内包する危険性への認識も広がっている。

　アンソロピックが開発した「クロード・ミュトス」は、システムの欠陥を発見する能力が極めて高く、人間が長年見逃していた脆弱（ぜいじゃく）性を明らかにした。悪用されれば社会インフラが破壊される。

　人間の指示や判断がないままAIが自らを進化させ、勝手に行動を始める事態すら起きかねない。人間の制御から完全に独立し、社会に害を及ぼすプログラムを作り出す可能性もある。

　既に、人間の情報処理能力ではAIに対応しきれない状況が起きている。

　軍事分野で使われるAIは、驚異的な速さで膨大な情報を集めて作戦を立て、大量の標的を示すことができる。ただ、誤りがないかを人間が即座に判断することは難しい。戦場では誤爆などの問題も生じている。

　アンソロピックのダリオ・アモデイ最高経営責任者（CEO）は、生物兵器の開発や強権国家の体制強化に悪用される可能性があるにもかかわらず、社会の理解や制度の整備が追いついていないと指摘する。

　しかし、開発規制につながる議論を進めるのは容易ではない。

　AIは今や、軍事力と並び国力を左右する存在だ。AI開発でトップを走る米中両国による覇権争いが激化する中、一歩でも譲れば競争に負ける「降りられない戦い」になっている。

人類益に貢献してこそ

　米政府は一時、アンソロピックの最先端モデルを輸出規制の対象に指定し、外国人の使用を制限した。こうした囲い込みがまかり通れば、競争相手を過度に刺激し、協調機運の醸成を阻害する。

6月の主要7カ国首脳会議（G7サミット）に合わせて開かれた人工知能（AI）の安全性などを議論するワーキングランチに参加する各国首脳とAI開発企業の最高経営責任者（CEO）ら＝首相官邸のウェブサイトから

　戦争の姿を変えてしまう懸念などから、AIは核兵器になぞらえられる。だが、国家が技術を管理する核兵器とは違い、開発は民間企業が主導する。国境を超えた規制を整えなければ、有望企業に投資が集まる流れは止まらず、開発競争が過熱するばかりだ。

　AIの安全性について提言をしている塩野誠・経営共創基盤代表取締役CEOは「AIによって、人類が築き上げてきた仕組みが一瞬で崩壊するリスクが明らかになっている。一旦立ち止まり、ルールを作ることが必要だ」と話す。

　人類の存亡にかかわる技術と捉え、核管理における国際原子力機関（IAEA）のように、最先端AIは「査察」を受けなければ公開できないようにするといった仕組みの検討を提案する。

　議論は始まっているが、十分とは言いがたい。先月の主要7カ国首脳会議（G7サミット）では安全性が主要議題の一つとなったものの、規制に関する具体策は示されなかった。23年から各国政府代表が参加する「AIサミット」も、安全性より普及や利益の分配が重視されるようになっている。

　最先端の技術開発は人類益に貢献してこそ意味がある。人間の存在を脅かすことがあってはならない。HAL9000のような悲劇を起こさぬため、世界がリスクを直視し、知恵を集める時である。