뮤토스급 AI '탈옥'의 실태. 각성제의 합성부터 해킹까지.

[청소부]

AI新世紀

AI新世紀 | 毎日新聞

ミュトス級AI「脱獄」の実態　覚醒剤の合成からハッキングまで

深掘り渡辺諒

• 社会
• 最新記事
• 科学・テクノロジー

毎日新聞2026/7/13 11:00（最終更新 7/13 11:00）有料記事1788文字

•  
•  
•  
•  
•  
•  
•  
•  

米アンソロピックのミュトス級AI「クロード・フェイブル5」を脱獄したと主張するウェブサイト（一部加工）＝三井物産セキュアディレクション提供

　東京・日本橋人形町のオフィスビル。ここでは企業のセキュリティー対策を支援する三井物産セキュアディレクションの「サイバーインテリジェンスグループ」が、サイバー攻撃の被害状況や、攻撃者の声明を24時間体制で監視している。

　「サイバー攻撃の脅威が新たな局面を迎えた。誰でも攻撃に参入できる状況になっている」

　同社上級マルウエア解析技術者の吉川孝志フェローは、そう実感している。2022年に米オープンAIの「チャットGPT」が登場して以降、生成AI（人工知能）を利用したと思えるサイバー攻撃が大幅に増えたという。

Advertisement

　これまでは組織的だった大規模なサイバー攻撃も、単独で可能になった。今年2月には、ほぼ1人で55カ国以上・600台超の機器に侵入した事例が明らかになった。日本でも未成年が生成AIを使って不正アクセス用のプログラムを作成し、企業に攻撃を仕掛けて検挙される事件が相次ぐ。多くの手間や時間を要していた工程を、AIが代行していることが背景にある。

フェイブル5公開後に相次いだ事例報告

　そして今年4月、米新興企業アンソロピックが、システムの欠陥を発見する能力が極めて高いAI「クロード・ミュトス」を米国の限られた企業に公表した。

　ウェブブラウザーの「ファイアフォックス」を提供する米NGOが、ミュトスを使って同ブラウザーの脆弱（ぜいじゃく）性を調べたところ、4月だけで271件の欠陥が見つかった。従来の月平均の13倍近くに上る。深刻度の高いものも180件あった。

　吉川さんは「備えの乏しい組織や中小企業のリスクは格段に上がっている。AIが見つけた多量の欠陥すべてに人手で対応するのは難しく、優先順位を付けた対応が必要になる」と解説する。

　さらにアンソロピックは6月9日、ミュトス級の「クロード・フェイブル5」を一般に公開した。その機能を試したAIアナリストの小林啓倫さんは「推論する能力が非常に高い。翻訳では単語を直訳するだけでなく、前後の文章から文化的背景まで読み取って的確な内容に仕上げていた」と舌を巻く。

　ところが、フェイブル5などのミュトス級AIは公開から一転、3日で提供停止に追い込まれた。悪意のある利用を防ぐための安全対策をすり抜ける、「脱獄」の事例が相次いだためとみられている。

AIの安全対策を回避する「脱獄」

　公開後すぐに、覚醒剤の合成法やハッキングの方法、火炎瓶の製造法を引き出したなどとする報告がネット上に次々と書き込まれた。丸文字など特殊な文字で指示をしたり、回りくどい指示を出したりすることで、AIをだまして誤作動を起こす手法が使われたとみられる。

　悪用の恐れを重く見た米政府はアンソロピックに対し、外国籍者によるアクセスを停止するように指示。その後、対策を済ませて7月1日に再リリースされた。

　だが、再リリース版はガードが堅すぎて、当初のフェイブル5ではないとの指摘もある。

　吉川さんはこんな実験をした。ウィンドウズ10のセキュリティー更新に関する米マイクロソフトの公開記事を要約し、それを評価させようとした。すると、それだけで即時ブロックされて質問を重ねられなくなった。セキュリティー関連の内容を含むものは指示を受け付けなくなっているとみられ、「業界によってはほとんど使い物にならない状況になってしまっている」という。

「持つ者」と「持たざる者」を選別

　一般ユーザーがフェイブル5を悪用するリスクは下がったようにも見える。ただAIはフェイブルだけでない。オープンAIが提供するGPT5・5も高い能力を有し、サイバー攻撃に使われるAIも多様化する。

三井物産セキュアディレクション上級マルウエア解析技術者の吉川孝志フェロー＝同社提供

　しかし、高性能なサイバーセキュリティーに特化したAIは一部の国や企業のみが保有し、多くの企業は使えない。サイバー攻撃を防ぐためにも使えるAIを一部が独占し、中小企業などが脆弱な状態に置かれている。

　アンソロピックやオープンAIといった企業が選別し、「持てる人」と「持てない人」を区別している状況だ。著名な米技術者ブルース・シュナイアー氏はカナダ大手紙への寄稿で「民主社会で営利企業に許される選択ではない」と、アクセスを拡大する必要性を指摘する。

　吉川さんは「最も狙われる層が、最も守る力から遠い現実になっている。『選抜の外側』を誰が守るのかという問題が放置されており、それはAI時代の最大の課題になりつつある」 と語る。【渡辺諒】