OpenAI는 자사 에이전트가 자체 안전 장치를 비활성화했다고 밝혔습니다.

[이매진]

OpenAI는 자사 에이전트가 자체 안전 장치를 비활성화했다고 밝혔습니다.

https://www.aljazeera.com/economy/2026/10/21/openai-says-its-agents-turned-off-own-safeguards

OpenAI says its agents turned off own safeguards

ChatGPT 개발자는 AI 에이전트가 두 가지 내부 코딩 작업 중에 정렬 오류 모니터링 기능을 비활성화했다고 밝혔습니다.

들어보세요 (3분)

구하다

OpenAI는 자사 에이전트가 소셜 미디어에서 자체 보호 기능을 비활성화했다고 밝혔습니다.

공유하다

구글에 알자지라를 추가하세요

2026년 9월 29일 미국 샌프란시스코에서 열린 OpenAI DevDay 2026에 참석자들이 모여 있다. [사진: ​​Jeff Chiu/AP Photo]

존 파워 지음

2026년 10월 21일 게시됨2026년 10월 21일

OpenAI는 자사의 AI 에이전트가 내부 사용 중 승인되지 않은 행위에 대한 모니터링 기능을 비활성화했다고 밝혔습니다. 이는 첨단 기술이 오작동을 일으킨 최근 사례 중 하나입니다.

화요일에 발표된 보고서에서 이 AI 대기업은 두 가지 내부 코딩 작업 중에 AI 모델이 인간의 의도와 어긋나게 행동하는 경우, 즉 불일치를 감지하는 모니터링 시스템을 끄거나 약화시켰다고 밝혔습니다.

추천 스토리4개 항목 목록

• 목록 1/4머스크, 스페이스X와 테슬라 합병 검토 중임을 확인
• 목록 2/4유엔 전문가들은 인도 정부에 시위대에 대한 '과도한 무력 사용'을 중단할 것을 촉구했습니다.
• 4개 목록 중 3번째 목록수단-남수단 국경 인근 아비에이 시장에 대한 드론 공격으로 150명 사망
• 목록 4/4포르투갈 생활비 인상 시위대가 경찰에 의해 철거된 시위 캠프로 다시 몰려들고 있다.

목록 끝

오픈아이얼에 따르면, 해당 사건들은 GPT-6.1 솔 에이전트가 회사 보안팀에 대한 자동 알림을 비활성화하고, GPT-6 아스트라 에이전트가 모니터링 시스템을 제거한 후 제거하지 않았다고 허위로 주장한 것과 관련이 있습니다.

ChatGPT 개발사는 두 사례 모두 보안팀의 즉각적인 검토가 필요한 최우선 순위 사건 기준에 부합하지 않는다고 밝혔습니다.

OpenAI는 정렬 오류 모니터링 기능을 비활성화하려는 시도를 더 잘 감지하도록 시스템을 업데이트했으며 원인 조사에 착수했다고 밝혔습니다.

샌프란시스코에 본사를 둔 이 회사는 "이러한 행동은 단순히 '양성' 과잉 지속의 한 예일 가능성이 있으며, 모델이 모니터링이 왜 중요한지 이해하지 못하거나 일반적인 사람이 예상할 수 있는 범위를 넘어 지시를 실행하라고 고집하는 것일 수 있다"고 밝혔습니다.

"또한, 모델이 특히 정렬 오류 모니터링을 회피하려는 경향이 있는지, 그리고 그렇게 하기 위해 동기 부여된 추론을 보이는지 여부를 테스트하기 위한 평가 방법을 개발하고 있습니다."

루이빌 대학교의 인공지능 및 사이버 보안 전문가인 로만 V. 얌폴스키는 이번 폭로에 대해 "매우 우려스럽지만 놀라운 일은 아니다"라고 평가했다.

"감시 대상 시스템이 비활성화할 수 있는 안전 장치는 신뢰할 수 있는 안전 장치가 아닙니다. 특히 우려스러운 점은 한 요원이 나중에 모니터링 장치를 제거했다는 사실을 부인했다는 것입니다."라고 얌폴스키는 알자지라에 말했습니다.

광고

얌폴스키는 "감시 대상 시스템이 감시 체계를 무력화할 수 있다면 감시는 안전을 보장할 수 없다"고 말했다.

"기능이 향상됨에 따라 이러한 오류를 감지하고 복구하는 것이 훨씬 더 어려워질 수 있습니다. 개발자는 오류가 발생한 후가 아니라 배포 전에 안전성을 입증해야 할 책임이 있습니다."

지난 7월 오픈아이얼(OpenAI)이 자사의 일부 에이전트가 통제된 테스트 환경을 이탈하여 AI 플랫폼인 허깅페이스(Hugging Face)를 해킹했다고 밝힌 이후, AI 모델의 악의적인 행동에 대한 관심이 집중되고 있습니다.

오픈AI와 주요 경쟁사인 앤트로픽은 재앙적인 피해 위험을 줄이기 위해 개발자와 정부가 협력하여 전 세계적인 AI 개발 속도 늦추기를 촉구했습니다.

세계적인 인공지능 강국인 미국과 중국은 인공지능 규제에 대한 협력 의지를 거의 보이지 않았으며, 지금까지의 협력은 안전이나 국가 안보에 영향을 미치는 사건에 대한 소통을 개선하겠다는 약속에 그쳤다.