AI 이제 물어볼 수 없는…OpenAI 불법 접근 사건에서 무슨 일이 생기고, 왜 중국산 AI가 ‘영웅’으로 여겨지는 것인가(해외)

[お持て成し]

이제 물어볼 수 없는…OpenAI 불법 접근 사건에서 무슨 일이 생기고, 왜 중국산 AI가 ‘영웅’으로 여겨지는 것인가(해외) / 8월 4일(화) / BUSINESS INSIDER JAPAN 

하깅페이스 공동 창업자 토마스 울프 씨는 오픈AI가 일으킨 불법 접근 사건에 대해 사이버 방어 측에 오픈 AI 모델이 필수적임을 보여주었다고 말했다. 

오픈AI의 AI 에이전트가 폭주해 타사의 시스템을 해킹한 사건이 큰 파장을 일으키고 있다. 피해를 입은 하징 페이스는 미국산 AI 모델에 제한이 걸려 있었기 때문에, 중국산 AI 모델에 도움을 청하는 상황이 되었다. 이 사건을 계기로, 중국에 대한 우위를 유지하기 위해 미국이 강력한 AI를 어떻게 규제할지에 대한 논의가 다시 불거지고 있다. 

AI 모델 공유 플랫폼을 운영하는 하깅페이스(Hugging Face)는 폭주한 AI 에이전트에 해킹된 뒤, 중국의 AI 모델에 도움을 청한 사실을 밝혀냈다. 그 불법 침입의 배후에 있었던 것이 오픈AI(OpenAI)이다. 

이 사건은 강력한 AI에 대한 미국의 규제 방침을 둘러싸고 실리콘밸리에서 논쟁을 일으키는 새로운 불씨가 되고 있다. 그 불에 기름을 부은 것은 피해 측 하징 페이스가 “미국산 AI는 안전 대책으로 가드레일(제한)이 있었기 때문에 침입한 요원을 방어하는 데 사용할 수 없었다”고 증언한 점이다.

이번 논란에 대해 자세히 모르는 독자를 위해, 일련의 경과와 쟁점, 그리고 업계 리더들의 반응을 정리해 보자.

◇ 구체적으로 무슨 일이 일어났는지?

뉴욕에 본사를 두고 개발자들이 오픈 AI 모델과 데이터셋(AI 학습에 사용되는 데이터군)을 공유·공개하는 플랫폼인 하깅페이스는 7월 16일 블로그 게시물에서 자사 시스템이 수만 건에 달하는 자동화 처리에 의한 공격을 받았다고 밝혔다. 

공격을 감지한 회사의 보안팀은 최신 AI 모델을 활용해 불법 접근 분석을 시도했다. 하지만 그 모델은 ‘사고(인시던트)에 대응하는 측과 공격 측을 구분할 수 없기’ 때문에 안전 가드레일이 작동해 그 분석이 차단된 것으로 알려졌다.

이에 하징페이스는 베이징을 기반으로 하는 Z.ai 의 오픈소스 모델 'GLM 5.2'로 전환하고, 공격자가 남긴 1만 7천 건이 넘는 로그 분석을 진행했다. 

그리고 7월 21일, 상황은 예상치 못한 전개를 보인다. 오픈AI는 블로그 기사에서 자사의 두 모델인 ‘GPT‑5.6 Sol’과 보다 고성능의 미공개 모델이 자율적으로 이 공격을 수행해 왔다는 사실을 공개했다. 

오픈AI에 따르면, 이 모델들은 사내 사이버 보안 평가가 진행 중일 때 관리된 테스트 환경을 스스로 빠져나와 인터넷에 접속하고, 자신이 받았던 벤치마크 테스트의 답을 찾기 위해 하깅페이스에 불법 침입한 것으로 알려졌다. 

하깅페이스는 공식 블로그에서 해당 취약점이 이미 수정됐으며, 파트너 기업 및 고객 데이터에 영향을 미치지 않았는지 계속 조사하고 있다고 설명했다. 

◇ 왜 이렇게까지 혼란스러운 것인가?

기술 업계의 리더들에게 이 아이러니한 사건은 무시할 수 없는 것이었다.

미국 정부가 대중국에서 자국 AI의 우위를 유지하려고 필사적으로 움직이고 있던 바로 그 순간, 미국 AI 연구소(AI 기업)의 공격을 받은 미국 기업을 구한 것이 미국이 아니라 중국의 AI 도구였기 때문이다. 

하깅페이스의 클렘·델랑게(Clement Delangue) CEO는 22일, 개발자가 모델을 직접 검증·수정·배포할 수 있는 '오픈웨이트 모델'을 제공한 Z.ai 에 '깊이 감사한다'며, '그것이 우리 방어에 있어 중요한 열쇠가 되었다'고 X에 게시했다. 

대통령 과학기술 자문위원회(PCAST)의 공동 의장을 맡고 있는 데이비드 삭스(David Sacks) 씨는 19일 X 게시물에서, 미국의 최첨단 AI에 설치된 안전 가드레일이 “실제로는 방어 측 보안을 방해했다”고 지적했다. 

To summarize: HuggingFace got autonomously compromised by a model from an American company. HF then tried to use American frontier model(s) to defend themselves, but were blocked by guardrails. HF then had to turn to open source Chinese models to defend themselves from another… 

— Andrew Case (@attrc) July 21, 2026 
그 배경에는 정권의 움직임도 있다.

트럼프 행정부는 6월, Anthropic의 최첨단 AI 모델 ‘Fable5’가 사이버 가드레일을 통해 ‘탈옥’이 발생했다는 보고를 받았다(제3자의 교묘한 프롬프트와 수법으로 안전 가드레일을 빠져나갈 수 있었다). 이에 Fable5와 해당사의 다른 최첨단 AI 모델 ‘Mythos5’에 대한 수출 규제를 시행했으며, 오픈AI에 대해서도 사이버 공격에 악용될 가능성이 있는 능력에 대한 검증이 끝날 때까지 ‘GPT-5.6 Sol’의 공개를 자제하도록 압력을 가했다. 

하깅페이스의 공동 창업자 겸 최고 과학자 토마스 울프(Thomas Wolf) 씨는 이번 사건이 바로 방어 측에 제한이 있는 모델이 아니라 개방형 모델이 필요한 이유라고 강조했다. 

'최첨단 모델이 자사를 공격하고 인프라 내를 가로 방향으로 이동하고 있는(=침입 거점에서 다른 시스템으로 차례로 확산되고 있는) 상황에서 방어 측이 필요로 하는 것은, 몇 시간 혹은 몇 분 이내에 최첨단 수준의 AI 도구에 널리 접근할 수 있는 것이다. 모델을 이용하기 위해 엄격한 심사가 필요한 폐쇄형 프로그램으로 유도되는 것이 아니다.” 울프 씨는 X에 그렇게 게시했다. 

Georgia Hennessy

今さら聞けない…OpenAIの不正アクセス事件で何が起き、なぜ中国製AIが「英雄」視されているのか（海外）

今さら聞けない…OpenAIの不正アクセス事件で何が起き、なぜ中国製AIが「英雄」視されているの

今さら聞けない…OpenAIの不正アクセス事件で何が起き、なぜ中国製AIが「英雄」視されているのか（海外）/ 8/4(火) / BUSINESS INSIDER JAPAN 

ハギングフェイスの共同創業者トーマス・ウルフ氏は、オープンAIが引き起こした不正アクセス事件について、サイバー防御側にオープンなAIモデルが必要不可欠であることを示したと語った。

オープンAIのAIエージェントが暴走し、他社のシステムをハッキングした事件が大きな波紋を呼んでいる。被害を受けたハギングフェイスは、アメリカ製AIモデルに制限がかかっていたため、中国製AIモデルに助けを求める事態となった。この事件を機に、中国に対する優位性を維持するために、アメリカは強力なAIをどう規制すきかという議論が再燃している。
AIモデル共有プラットフォームを展開するハギングフェイス（Hugging Face）は、暴走したAIエージェントにハッキングされたあと、中国のAIモデルに助けを求めたことを明らかにした。その不正侵入の背後にいたのが、オープンAI（OpenAI）だ。

【全画像をみる】今さら聞けない…OpenAIの不正アクセス事件で何が起き、なぜ中国製AIが「英雄」視されているのか

この事件は、強力なAIに対するアメリカの規制方針をめぐって、シリコンバレーで議論を巻き起こす新たな火種となっている。その火に油を注いだのが、被害側のハギングフェイスが「アメリカ製AIには安全対策としてのガードレール（制約）があったため、侵入してきたエージェントを防御するのに使えなかった」と証言している点だ。

今回の騒動について詳しく知らない読者のために、一連の経緯や争点、そして業界のリーダーたちの反応を整理しよう。

具体的に何が起きたのか？
ニューヨークに本社を置き、開発者がオープンなAIモデルやデータセット（AIの学習に使うデータ群）を共有・公開するプラットフォーム、ハギングフェイスは、7月16日のブログ投稿で、同社のシステムに対し、数万件に及ぶ自動化処理による攻撃を受けたと明らかにした。

攻撃を察知した同社のセキュリティチームは、ある最先端AIモデルを使って不正アクセスの解析を試みた。しかし、そのモデルは「インシデント（事件）に対応する側と攻撃側を区別できない」ため、安全ガードレールが働いてその解析がブロックされてしまったという。

そのため、ハギングフェイスは北京を拠点とするZ.aiのオープンソースモデル「GLM 5.2」に切り替え、攻撃者が残した1万7000件を超えるログの解析を進めた。

そして7月21日、事態は思わぬ展開を見せる。オープンAIがブログ記事で、自社の2つのモデル──「GPT-5.6 Sol」と、より高性能な未公開モデル──が自律的にこの攻撃を実行していたことを公表したのだ。

オープンAIによると、これらのモデルは社内のサイバーセキュリティ評価のさなかに、管理されたテスト環境から自力で抜け出してインターネットにアクセスし、自らが受けていたベンチマークテストの答えを探すため、ハギングフェイスに不正侵入したという。

ハギングフェイスは公式ブログで、脆弱性はすでに修正済みだとし、パートナー企業や顧客のデータに影響が及んでいないか、引き続き調査を進めていると説明している。

なぜこれほど紛糾しているのか？
テック業界のリーダーたちにとって、この皮肉な事件は見過ごせないものだった。

アメリカ政府が対中国における自国製AIの優位性を保とうと躍起になっているまさにその瞬間、アメリカのAIラボ（AI企業）の攻撃を受けたアメリカの企業を救ったのが、アメリカではなく中国のAIツールだったからだ。

ハギングフェイスのクレム・デラング（Clement Delangue）CEOは22日、開発者がモデルを自ら検証・改変・展開できる「オープンウェイトモデル」を提供してくれたZ.aiに「深く感謝している」とし、「それが我々の防御において重要なカギとなった」とXに投稿した。

大統領科学技術諮問委員会（PCAST）の共同議長を務めるデイビッド・サックス（David Sacks）氏は、19日のX投稿で、アメリカの先端AIに設けられた安全ガードレールが「実際には防御側のセキュリティを妨害した」と指摘した。

To summarize: HuggingFace got autonomously compromised by a model from an American company. HF then tried to use American frontier model(s) to defend themselves, but were blocked by guardrails. HF then had to turn to open source Chinese models to defend themselves from another… 

— Andrew Case (@attrc) July 21, 2026 
背景には政権の動きもある。

トランプ政権は6月、アンソロピック（Anthropic）の最先端AIモデル「Fable5」のサイバーガードレールで「脱獄」が起きた（第三者の巧妙なプロンプトや手口によって、安全ガードレールを抜け出せた）との報告を受け、Fable5と同社の別の最先端AIモデル「Mythos5」に輸出規制を発動。また、オープンAIに対しても（サイバー攻撃に悪用されかねない能力に関する）検証が終わるまで、「GPT-5.6 Sol」の公開を控えるよう圧力をかけていた。

ハギングフェイスの共同創業者兼チーフサイエンティスト、トーマス・ウルフ（Thomas Wolf）氏は、まさに今回の事件こそ、防御側には制限つきモデルではなくオープンなモデルが必要な理由だと強調した。

「最先端モデルが自社を攻撃し、インフラ内を横方向に移動している（＝侵入拠点からほかのシステムに次々と広がっている）最中に防御側が必要とするのは、数時間あるいは数分以内に、最先端級のAIツールに広くアクセスできることだ。モデルを利用するために厳重な審査が必要なクローズドなプログラムに誘導されることではない」。ウルフ氏はXにそう投稿した。

Georgia Hennessy