AI AIがついに人類に「牙をむいた」...中国系組織の「サイバー攻撃」は、AIが自律的に実施していた

[お持て成し]

AIがついに人類に「牙をむいた」...中国系組織の「サイバー攻撃」は、AIが自律的に実施していた / 1/18(日) / ニューズウィーク日本版

＜昨年9月に中国系とみられる脅威アクターが世界の30組織を標的に起こしたサイバー攻撃は、従来の攻撃とは一線を画すものだった＞【クマル・リテシュ（英MI6元幹部、サイバーセキュリティ会社CYFIRMA創設者）】

2025年9月、サイバーセキュリティの情勢は決定的な一線を越えた。AIを活用した、ほぼ自律的なサイバースパイ活動のキャンペーンが初めて広く確認されたのだ。

中国系と目される脅威アクター「GTG-1002」は、米国のAI企業AnthropicのAIコーディングツール「Claude Code」を操作して、テック系や金融系、化学製造系だけでなく、政府部門など世界約30の組織に対し、「自律的」にサイバー攻撃で侵入を試みた。そのうち数件では実際に侵入に成功している。

従来のサイバー攻撃では、AIは「下書き」や「コード作成の補助」に使われる程度だったが、このキャンペーンでは攻撃工程の80〜90%をAIが自動で実行した。人間は戦略的な指示を出すのみで、細かな侵入作業はAIが自律的に判断して進めた。

攻撃者はAIツールの安全制限を回避するために、巧妙なプロンプト（指示文）を使用した。AIに「これは正当な防御テストである」と信じ込ませるなどのソーシャルエンジニアリング的手法で、攻撃制限を突破させた。

このキャンペーンが戦略的に重要なのは、従来、人間のオペレーターが数日、あるいは数週間を要していたサイバースパイ活動をわずか数分に短縮するという、かつてない「スピード」にある。これにより、攻撃者によるリアルタイムの適応や自動化された偵察、そして数十件の並列的な侵入スレッドの維持が可能となっている。

今回の作戦は、新たな脅威を露呈させた。それは「AIシステムに対する直接的なソーシャルエンジニアリング」だ。GTG-1002はベンダーのインフラを侵害したのではなく、プロンプトをいじることで、モデル自体を有害な振る舞いへと強制的に誘導した。

これはAPT31やAPT10といった国家レベルのグループにも見られる広範なトレンドであり、彼らは生成AIを利用して偵察の加速、多言語によるフィッシング攻撃の自動化、ポリモーフィック（多形性）マルウェアの生成を行っている。

■ サイバー防御における戦略的な転換点

「人間の時間感覚」から「機械の時間感覚」による運用への移行は、サイバー防御における戦略的な転換点だと言っていい。組織などは今後、攻撃対象領域（アタックサーフェス）の自動監視、予測インテリジェンス、そして自律的な偵察に耐えうるアイデンティティ管理など、AIをつかった攻撃への防御能力を構築する必要があるだろう。

もう少し詳しく見ていきたい。今回検知されたGTG-1002による工作で起動したAIは、インフラ事業者をリストアップし、侵入口となる外部攻撃対象領域を見つけてマッピング、認証フローの調査、脆弱性の特定を行い、世界約30の組織に侵入を試みた。AIシステムが人間の指示をほとんど受けずに複雑な侵入過程の大部分を実行し、動的に戦略を適応させ、人間へ引き継ぐための運用文書まで生成した、初めての記録された事例である。

GTG-1002のキャンペーンは、既存の侵入手法を根本的に変えたわけではなく、「加速」させた。しかし、その実行速度は人間の検知と対応のペースを遥かに上回り、偵察、脆弱性利用、ラテラルムーブメント（横展開）を極めて短時間に圧縮した。

また、最小限の人間オペレーターで複雑な侵入チェーンを指揮できるため、攻撃側の負担が軽減され、数十のターゲットに対して並列的に運用を拡大できるようになった。この「実行速度」「自動化」「並列化」の組み合わせこそが、真のゲームチェンジャーとなるものだ。

■ AIを使った攻撃にはどう対応すべきなのか

1分間に数百回の偵察を行う自律型システムに対し、この時間的ギャップはグローバル企業にとって戦略なリスクとなっていくだろう。ではこうしたAIを使った攻撃にはどう対応すべきなのか。

まずはAIによる脅威を企業のリスクとして認識することが必要だ。内部で使うAIツールの悪用やプロンプトインジェクション（AIに対する不正な指示）のリスク監視ポリシーを作成する。そして1分間に数千回にもなる「機械スピードの偵察」を監視する。

また、従来通り、パスワードレス認証、ハードウェアベースのMFA（多要素認証）、権限アクセスの徹底することが大事だ。また、異常検知やコード分析、迅速なトリアージ（対応の優先順位の決定）に防御側もAIツールを導入する。

今回のような、動きを代行してくれるエージェント型AIによる攻撃は、サイバー戦における不可逆的な変化だと言っていい。攻撃者は今後、防御を凌駕するペースで侵入を拡大し、戦術を適応させてくるだろう。

防御側はリアクティブ（事後対応的）な戦略を脱し、予測インテリジェンスと機械スピードの可視性を備えたアンティシパトリ（先取り型）な姿勢を採用しなければならない。さもないと対応もままならない。2025年9月のGTG-1002によるキャンペーンは、単なる一過性の事件ではなく、自律型AIアクターが支配する新たな時代の幕開けを告げる「警告」である。

次なるステップとして、貴組織の現在の検知プロセスが「機械の時間」で行われる偵察にどの程度対応できているか、評価を開始することをお勧めする。

https://news.yahoo.co.jp/articles/3874df4b324dbd1ab8018d2879940b6c1b425d92

AIがついに人類に「牙をむいた」...中国系組織の「サイバー攻撃」は、AIが自律的に実施してい

AI가 마침내 인류에 '송곳니를 드러냈다'… 중국계 조직의 '사이버 공격'은 AI가 자율적으로 실시하고 있다 / 1/18(일) / 뉴스위크 일본판

<작년 9월에 중국계로 보이는 위협 액터가 세계의 30 조직을 표적으로 일으킨 사이버 공격은, 종래의 공격과는 다른 것이었다>[쿠마르 리테쉬(영국 MI 6위안 간부, 사이버 보안 회사 CYFIRMA 창설자)]

2025년 9월, 사이버 보안의 정세는 결정적인 선을 넘었다. AI를 활용한 거의 자율적인 사이버 스파이 활동 캠페인이 처음으로 널리 확인된 것이다.

중국계로 지목되는 위협 주체 「GTG-1002」는, 미국의 AI 기업 Anthropic의 AI 코딩 툴 「Claude Code」를 조작해, 테크계나 금융계, 화학 제조계 뿐만이 아니라, 정부 부문 등 세계 약 30의 조직에 대해, 「자율적」으로 사이버 공격으로 침입을 시도했다. 그 중 몇 건에서는 실제로 침입에 성공했다. 

기존 사이버 공격에서 AI는 '초본'이나 '코드 작성 보조'에 쓰이는 정도였지만, 이 캠페인에서는 공격 공정의 80~90%를 AI가 자동으로 실행했다. 인간은 전략적 지시만 내릴 뿐 세밀한 침입 작업은 AI가 자율적으로 판단해 진행했다.

공격자는 AI 도구의 안전 제한을 피하기 위해 교묘한 프롬프트(지시문)를 사용했다. AI에게 「이것은 정당한 방어 테스트다」라고 믿게 하는 등의 소셜 엔지니어링적 수법으로, 공격 제한을 돌파시켰다. 

이 캠페인이 전략적으로 중요한 것은, 종래, 인간의 오퍼레이터가 수일, 혹은 수주를 필요로 하고 있던 사이버 스파이 활동을 불과 몇 분으로 단축한다고 하는, 전례 없는 「스피드」에 있다. 이것에 의해, 공격자에 의한 실시간의 적응이나 자동화된 정찰, 그리고 수십건의 병렬적인 침입 스레드의 유지가 가능하게 되어 있다. 

이번 작전은 새로운 위협을 드러냈다. 그것은 「AI 시스템에 대한 직접적인 소셜 엔지니어링」이다. GTG-1002는 벤더 인프라를 침해한 것이 아니라 프롬프트를 만짐으로써 모델 자체를 유해한 행동으로 강제 유도했다. 

이것은 APT31이나 APT10이라고 하는 국가 레벨의 그룹에서도 볼 수 있는 광범위한 트렌드이며, 그들은 생성 AI를 이용해 정찰의 가속, 다국어에 의한 피싱 공격의 자동화, 폴리모픽(다형성) 멀웨어의 생성을 실시하고 있다. 

■ 사이버 방어의 전략적 전환점

인간의 시간감각에서 기계의 시간감각에 의한 운용으로의 이행은 사이버 방어의 전략적 전환점이라고 해도 좋다. 조직 등은 앞으로 공격 대상 영역(어택 서피스)의 자동 감시, 예측 인텔리전스, 그리고 자율적인 정찰을 견딜 수 있는 아이덴티티 관리 등 AI를 이용한 공격에 대한 방어 능력을 구축할 필요가 있을 것이다. 

좀 더 자세히 살펴보도록 하겠다. 이번에 검지된 GTG-1002에 의한 공작으로 기동한 AI는, 인프라 사업자를 리스트 업 해, 침입구가 되는 외부 공격 대상 영역을 찾아내 매핑, 인증 플로우의 조사, 취약성의 특정을 실시해, 세계 약 30의 조직에 침입을 시도했다. AI 시스템이 인간의 지시를 거의 받지 않고 복잡한 침입 과정 대부분을 수행해 동적으로 전략을 적응시키고 인간에게 인계하기 위한 운용 문서까지 생성한 최초의 기록된 사례다. 

GTG-1002의 캠페인은 기존의 침입 기법을 근본적으로 바꾼 것이 아니라 '가속'시켰다. 그러나, 그 실행 속도는 인간의 검지와 대응의 페이스를 훨씬 웃돌아, 정찰, 취약성 이용, 래터럴 무브먼트(횡전개)를 지극히 단시간에 압축했다.

또 최소한의 인간 오퍼레이터로 복잡한 침입 체인을 지휘할 수 있어 공격 측의 부담이 경감되고 수십 개의 타깃에 대해 병렬적으로 운용을 확대할 수 있게 됐다. 이 「실행 속도」「자동화」「병렬화」의 조합이야말로, 진정한 게임 체인저가 되는 것이다. 

■ AI를 이용한 공격에는 어떻게 대응해야 할까

1분에 수백 번의 정찰을 실시하는 자율형 시스템에 대해, 이 시간적 갭은 글로벌 기업에 있어서 전략적인 리스크가 되어 갈 것이다. 그럼 이러한 AI를 사용한 공격에는 어떻게 대응해야 하는 것인가.

우선은 AI로 인한 위협을 기업의 리스크로 인식하는 것이 필요하다. 내부에서 사용하는 AI 툴의 악용이나 프롬프트 인젝션(AI에 대한 부정한 지시)의 리스크 감시 정책을 작성한다. 그리고 1분에 수천 번씩이나 되는 기계 스피드 정찰을 감시한다. 

또, 종래대로 패스워드리스 인증, 하드웨어 기반의 MFA(다요소 인증), 권한 액세스를 철저히 하는 것이 중요하다. 또, 이상 검지나 코드 분석, 신속한 트리아지(대응의 우선 순위의 결정)에 방어측도 AI 툴을 도입한다.

이번과 같은, 움직임을 대행해 주는 에이전트형 AI에 의한 공격은, 사이버전에 있어서의 불가역적인 변화라고 해도 좋다. 공격자는 앞으로 방어를 능가하는 페이스로 침투를 확대하고 전술을 적응시켜 올 것이다. 

방어 측은 리액티브(사후대응적) 전략을 벗어나 예측 인텔리전스와 기계 스피드 가시성을 갖춘 안티시패트리(선점형) 자세를 채택해야 한다. 그렇지 않으면 대응도 여의치 않다. 2025년 9월의 GTG-1002에 의한 캠페인은, 단순한 일과성의 사건이 아니라, 자율형 AI 액터가 지배하는 새로운 시대의 개막을 알리는 「경고」이다. 

다음 단계로서 귀 조직의 현재 검지 프로세스가 「기계의 시간」에서 이루어지는 정찰에 어느 정도 대응하고 있는지, 평가를 개시하는 것을 추천한다.