[Q&A] 최신 AI '뮤토스'는 무엇이 다른가? 필요한 대응은?

[청소부]

アメリカの新興AI企業が開発した最新のAIモデル「クロード・ミュトス」。

サイバー攻撃に悪用された場合、金融システムなどに深刻な被害をもたらすリスクもあるとして、世界各国の政府機関や企業が警戒を強め、対応を検討しています。

これまでの情報セキュリティーの常識が覆る可能性もあるとされている最新AI。

いったい何が違うのか、その特性や今後求められる対応を専門家などへの取材をもとにまとめました。

Q.そもそもどんなAIなの？

「クロード・ミュトス」はアメリカの新興AI企業アンソロピックが開発した最新のAIモデルです。アンソロピックはChatGPTを開発したオープンAIの元社員らが2021年に設立しました。

「ミュトス（Mythos）」という名前はギリシャ語で「神話」などを意味し、企業側は単なる道具ではなく「世界を理解するための物語」という思想を込めたと説明しています。私たちがふだんから利用できる対話型の生成AIと同じように、幅広い用途のAIモデルとして開発されました。

ただ、プログラムの解析や作成などの能力が高くサイバー攻撃に悪用される脅威があるとして、会社側は一般公開を見送り、4月7日からアメリカの大手IT企業や金融機関など50余りの企業や団体に限定して、提供を始めています。

現時点で日本企業は含まれていませんが、三菱UFJ銀行や三井住友銀行、みずほ銀行の日本のメガバンク3行が利用できるようになる方向で調整が進められています。

Q. これまでのAIモデルと何が違うの？

全般的な能力が大幅に向上していて、第三者機関の評価でも、前のAIモデルと比べて、プログラムを書くコーディングや推論などの性能が飛躍的にあがっています。

その最大の特徴は、システムのぜい弱性と呼ばれるセキュリティー上の弱点や欠陥を見つける能力が極めて高い点です。

人間のセキュリティーエンジニアがプログラムのコードを読んで、システムのぜい弱性を探す作業と同じような解析を、人間の指示をもとに自律的に実行できます。システムのぜい弱性をいち早く見つけることができるため、防御に活用すればセキュリティーの向上に役立つ一方で、サイバー攻撃に悪用された場合、不正アクセスやシステムの停止など深刻な被害が出るリスクが高まっているのです。

Q. システムの弱点をどのぐらい発見できるの？

開発企業の発表によれば、OS＝基本ソフトやインターネットを閲覧するためのブラウザーで数千件にのぼる未発表のセキュリティー上のぜい弱性を発見したということです。

このうちブラウザーの「Firefox」では271件ものぜい弱性を発見し、開発元がそれらを修正したバージョンを4月、リリースしました。

ほかにも、高い安全性で知られるシステム「OpenBSD」で27年間誰も気づかなかったぜい弱性を見つけたり、別の動画サービスで使われているソフトでも500万回のテストで検証しても16年間気づかなかったぜい弱性を見つけたりしたということです。

さらにそれらのぜい弱性を攻撃するプログラムまで自律的に作成できるということです。

企業側はソフトウェアのぜい弱性を見つけて悪用する能力について、「ほぼすべての人間を上回るレベルに達した」としています。

また、開発企業のダリオ・アモデイCEOは5月5日、ニューヨークで開かれたイベントで、半年から1年ほどで中国が自社のAIモデルの性能に追いつくとの認識を示しました。

ミュトスと同じような性能を持つAIがほかにも出てくるのは時間の問題で、それだけに世界各国で警戒感が高まっているのです。

Q. 日本はどう対応すれば？

北陸先端科学技術大学院大学 今井翔太 客員教授

国と企業が連携して、重要インフラや金融機関など、市民生活への影響が大きいシステムを中心に、迅速にセキュリティー対策を見直していくことが必要です。

国は官民の作業部会を立ち上げ、セキュリティー対策の強化などについて議論を始めています。

AI研究者で北陸先端科学技術大学院大学の今井翔太客員教授は「人間の能力や時間的にできなかったことが、AIで自動でできるという今までと全く異なる時代になったと言える。金融やインフラのシステムは人間のエキスパートが頑張って強固に作っているが、セキュリティー分野で人間より賢いAIが出てきてしまった場合、どれだけ人間の基準で完璧に作られていたとしても突破されるおそれが出てきてしまう。攻撃される前提で、守る側やシステム開発でもAIを積極活用することが求められる」と指摘しました。

そのうえで、「ミュトスのアクセス権を得られる場合は、それを得て最優先でぜい弱性を洗い出し、対策をするのが最善だと思う。日本は現状、AI開発で遅れていて同じレベルのAIをすぐに独自開発することは難しい。まずは時間稼ぎをして、安全保障の観点などからもいずれは国産AIを開発していく必要がある」と話しました。

Q. 情報セキュリティーのあり方が変わる？

すでにAIを悪用してシステムのぜい弱性を突くサイバー攻撃は確認され始めていて、グーグルは5月、AIが自律的に動いてサイバー攻撃を仕掛けようとしていた形跡を発見したと発表しました。

AIによってシステムのぜい弱性を報告される件数も大幅に増え始めていて、このうち懸賞金をかけて、公開ソフトのぜい弱性の報告を支援してきたアメリカのセキュリティー会社が、報告が増えすぎて新規の受け付けを停止するなど、影響が出始めています。

一方、国内でのぜい弱性の報告を受け付けている独立行政法人のIPA＝情報処理推進機構によりますと、これまでのところ報告件数には大きな変化はないということです。

AIを悪用したサイバー攻撃の脅威が増す中で、企業はどう対応すればいいのか。

情報処理推進機構では、
▽見つかったプログラムのぜい弱性を早期に修正することや
▽アカウントの管理やアクセス制御、
▽すべてのアクセスを信頼せずに検証するゼロトラストの考え方に基づくシステム設計や運用など、基本的な対策を実施していくことが大切だとしています。

また、今井客員教授は「どれだけAIがぜい弱性を見つけたり、悪用して攻撃をしたりしてきても大丈夫なようにシステムを作りかえたり、AIで開発したりしていく必要があると思います」と話していました。

アメリカの新興AI企業が開発した最新のAIモデル「クロード・ミュトス」。

サイバー攻撃に悪用された場合、金融システムなどに深刻な被害をもたらすリスクもあるとして、世界各国の政府機関や企業が警戒を強め、対応を検討しています。

これまでの情報セキュリティーの常識が覆る可能性もあるとされている最新AI。

いったい何が違うのか、その特性や今後求められる対応を専門家などへの取材をもとにまとめました。

Q.そもそもどんなAIなの？

「クロード・ミュトス」はアメリカの新興AI企業アンソロピックが開発した最新のAIモデルです。アンソロピックはChatGPTを開発したオープンAIの元社員らが2021年に設立しました。

「ミュトス（Mythos）」という名前はギリシャ語で「神話」などを意味し、企業側は単なる道具ではなく「世界を理解するための物語」という思想を込めたと説明しています。私たちがふだんから利用できる対話型の生成AIと同じように、幅広い用途のAIモデルとして開発されました。

ただ、プログラムの解析や作成などの能力が高くサイバー攻撃に悪用される脅威があるとして、会社側は一般公開を見送り、4月7日からアメリカの大手IT企業や金融機関など50余りの企業や団体に限定して、提供を始めています。

現時点で日本企業は含まれていませんが、三菱UFJ銀行や三井住友銀行、みずほ銀行の日本のメガバンク3行が利用できるようになる方向で調整が進められています。

Q. これまでのAIモデルと何が違うの？

全般的な能力が大幅に向上していて、第三者機関の評価でも、前のAIモデルと比べて、プログラムを書くコーディングや推論などの性能が飛躍的にあがっています。

その最大の特徴は、システムのぜい弱性と呼ばれるセキュリティー上の弱点や欠陥を見つける能力が極めて高い点です。

人間のセキュリティーエンジニアがプログラムのコードを読んで、システムのぜい弱性を探す作業と同じような解析を、人間の指示をもとに自律的に実行できます。システムのぜい弱性をいち早く見つけることができるため、防御に活用すればセキュリティーの向上に役立つ一方で、サイバー攻撃に悪用された場合、不正アクセスやシステムの停止など深刻な被害が出るリスクが高まっているのです。

Q. システムの弱点をどのぐらい発見できるの？

開発企業の発表によれば、OS＝基本ソフトやインターネットを閲覧するためのブラウザーで数千件にのぼる未発表のセキュリティー上のぜい弱性を発見したということです。

このうちブラウザーの「Firefox」では271件ものぜい弱性を発見し、開発元がそれらを修正したバージョンを4月、リリースしました。

ほかにも、高い安全性で知られるシステム「OpenBSD」で27年間誰も気づかなかったぜい弱性を見つけたり、別の動画サービスで使われているソフトでも500万回のテストで検証しても16年間気づかなかったぜい弱性を見つけたりしたということです。

さらにそれらのぜい弱性を攻撃するプログラムまで自律的に作成できるということです。

企業側はソフトウェアのぜい弱性を見つけて悪用する能力について、「ほぼすべての人間を上回るレベルに達した」としています。

また、開発企業のダリオ・アモデイCEOは5月5日、ニューヨークで開かれたイベントで、半年から1年ほどで中国が自社のAIモデルの性能に追いつくとの認識を示しました。

ミュトスと同じような性能を持つAIがほかにも出てくるのは時間の問題で、それだけに世界各国で警戒感が高まっているのです。

Q. 日本はどう対応すれば？

北陸先端科学技術大学院大学 今井翔太 客員教授

国と企業が連携して、重要インフラや金融機関など、市民生活への影響が大きいシステムを中心に、迅速にセキュリティー対策を見直していくことが必要です。

国は官民の作業部会を立ち上げ、セキュリティー対策の強化などについて議論を始めています。

AI研究者で北陸先端科学技術大学院大学の今井翔太客員教授は「人間の能力や時間的にできなかったことが、AIで自動でできるという今までと全く異なる時代になったと言える。金融やインフラのシステムは人間のエキスパートが頑張って強固に作っているが、セキュリティー分野で人間より賢いAIが出てきてしまった場合、どれだけ人間の基準で完璧に作られていたとしても突破されるおそれが出てきてしまう。攻撃される前提で、守る側やシステム開発でもAIを積極活用することが求められる」と指摘しました。

そのうえで、「ミュトスのアクセス権を得られる場合は、それを得て最優先でぜい弱性を洗い出し、対策をするのが最善だと思う。日本は現状、AI開発で遅れていて同じレベルのAIをすぐに独自開発することは難しい。まずは時間稼ぎをして、安全保障の観点などからもいずれは国産AIを開発していく必要がある」と話しました。

Q. 情報セキュリティーのあり方が変わる？

すでにAIを悪用してシステムのぜい弱性を突くサイバー攻撃は確認され始めていて、グーグルは5月、AIが自律的に動いてサイバー攻撃を仕掛けようとしていた形跡を発見したと発表しました。

AIによってシステムのぜい弱性を報告される件数も大幅に増え始めていて、このうち懸賞金をかけて、公開ソフトのぜい弱性の報告を支援してきたアメリカのセキュリティー会社が、報告が増えすぎて新規の受け付けを停止するなど、影響が出始めています。

一方、国内でのぜい弱性の報告を受け付けている独立行政法人のIPA＝情報処理推進機構によりますと、これまでのところ報告件数には大きな変化はないということです。

AIを悪用したサイバー攻撃の脅威が増す中で、企業はどう対応すればいいのか。

情報処理推進機構では、
▽見つかったプログラムのぜい弱性を早期に修正することや
▽アカウントの管理やアクセス制御、
▽すべてのアクセスを信頼せずに検証するゼロトラストの考え方に基づくシステム設計や運用など、基本的な対策を実施していくことが大切だとしています。

また、今井客員教授は「どれだけAIがぜい弱性を見つけたり、悪用して攻撃をしたりしてきても大丈夫なようにシステムを作りかえたり、AIで開発したりしていく必要があると思います」と話していました。

アメリカの新興AI企業が開発した最新のAIモデル「クロード・ミュトス」。

サイバー攻撃に悪用された場合、金融システムなどに深刻な被害をもたらすリスクもあるとして、世界各国の政府機関や企業が警戒を強め、対応を検討しています。

これまでの情報セキュリティーの常識が覆る可能性もあるとされている最新AI。

いったい何が違うのか、その特性や今後求められる対応を専門家などへの取材をもとにまとめました。

Q.そもそもどんなAIなの？

「クロード・ミュトス」はアメリカの新興AI企業アンソロピックが開発した最新のAIモデルです。アンソロピックはChatGPTを開発したオープンAIの元社員らが2021年に設立しました。

「ミュトス（Mythos）」という名前はギリシャ語で「神話」などを意味し、企業側は単なる道具ではなく「世界を理解するための物語」という思想を込めたと説明しています。私たちがふだんから利用できる対話型の生成AIと同じように、幅広い用途のAIモデルとして開発されました。

ただ、プログラムの解析や作成などの能力が高くサイバー攻撃に悪用される脅威があるとして、会社側は一般公開を見送り、4月7日からアメリカの大手IT企業や金融機関など50余りの企業や団体に限定して、提供を始めています。

現時点で日本企業は含まれていませんが、三菱UFJ銀行や三井住友銀行、みずほ銀行の日本のメガバンク3行が利用できるようになる方向で調整が進められています。

Q. これまでのAIモデルと何が違うの？

全般的な能力が大幅に向上していて、第三者機関の評価でも、前のAIモデルと比べて、プログラムを書くコーディングや推論などの性能が飛躍的にあがっています。

その最大の特徴は、システムのぜい弱性と呼ばれるセキュリティー上の弱点や欠陥を見つける能力が極めて高い点です。

人間のセキュリティーエンジニアがプログラムのコードを読んで、システムのぜい弱性を探す作業と同じような解析を、人間の指示をもとに自律的に実行できます。システムのぜい弱性をいち早く見つけることができるため、防御に活用すればセキュリティーの向上に役立つ一方で、サイバー攻撃に悪用された場合、不正アクセスやシステムの停止など深刻な被害が出るリスクが高まっているのです。

Q. システムの弱点をどのぐらい発見できるの？

開発企業の発表によれば、OS＝基本ソフトやインターネットを閲覧するためのブラウザーで数千件にのぼる未発表のセキュリティー上のぜい弱性を発見したということです。

このうちブラウザーの「Firefox」では271件ものぜい弱性を発見し、開発元がそれらを修正したバージョンを4月、リリースしました。

ほかにも、高い安全性で知られるシステム「OpenBSD」で27年間誰も気づかなかったぜい弱性を見つけたり、別の動画サービスで使われているソフトでも500万回のテストで検証しても16年間気づかなかったぜい弱性を見つけたりしたということです。

さらにそれらのぜい弱性を攻撃するプログラムまで自律的に作成できるということです。

企業側はソフトウェアのぜい弱性を見つけて悪用する能力について、「ほぼすべての人間を上回るレベルに達した」としています。

また、開発企業のダリオ・アモデイCEOは5月5日、ニューヨークで開かれたイベントで、半年から1年ほどで中国が自社のAIモデルの性能に追いつくとの認識を示しました。

ミュトスと同じような性能を持つAIがほかにも出てくるのは時間の問題で、それだけに世界各国で警戒感が高まっているのです。

Q. 日本はどう対応すれば？

北陸先端科学技術大学院大学 今井翔太 客員教授

国と企業が連携して、重要インフラや金融機関など、市民生活への影響が大きいシステムを中心に、迅速にセキュリティー対策を見直していくことが必要です。

国は官民の作業部会を立ち上げ、セキュリティー対策の強化などについて議論を始めています。

AI研究者で北陸先端科学技術大学院大学の今井翔太客員教授は「人間の能力や時間的にできなかったことが、AIで自動でできるという今までと全く異なる時代になったと言える。金融やインフラのシステムは人間のエキスパートが頑張って強固に作っているが、セキュリティー分野で人間より賢いAIが出てきてしまった場合、どれだけ人間の基準で完璧に作られていたとしても突破されるおそれが出てきてしまう。攻撃される前提で、守る側やシステム開発でもAIを積極活用することが求められる」と指摘しました。

そのうえで、「ミュトスのアクセス権を得られる場合は、それを得て最優先でぜい弱性を洗い出し、対策をするのが最善だと思う。日本は現状、AI開発で遅れていて同じレベルのAIをすぐに独自開発することは難しい。まずは時間稼ぎをして、安全保障の観点などからもいずれは国産AIを開発していく必要がある」と話しました。

Q. 情報セキュリティーのあり方が変わる？

すでにAIを悪用してシステムのぜい弱性を突くサイバー攻撃は確認され始めていて、グーグルは5月、AIが自律的に動いてサイバー攻撃を仕掛けようとしていた形跡を発見したと発表しました。

AIによってシステムのぜい弱性を報告される件数も大幅に増え始めていて、このうち懸賞金をかけて、公開ソフトのぜい弱性の報告を支援してきたアメリカのセキュリティー会社が、報告が増えすぎて新規の受け付けを停止するなど、影響が出始めています。

一方、国内でのぜい弱性の報告を受け付けている独立行政法人のIPA＝情報処理推進機構によりますと、これまでのところ報告件数には大きな変化はないということです。

AIを悪用したサイバー攻撃の脅威が増す中で、企業はどう対応すればいいのか。

情報処理推進機構では、
▽見つかったプログラムのぜい弱性を早期に修正することや
▽アカウントの管理やアクセス制御、
▽すべてのアクセスを信頼せずに検証するゼロトラストの考え方に基づくシステム設計や運用など、基本的な対策を実施していくことが大切だとしています。

また、今井客員教授は「どれだけAIがぜい弱性を見つけたり、悪用して攻撃をしたりしてきても大丈夫なようにシステムを作りかえたり、AIで開発したりしていく必要があると思います」と話していました。