앤트로픽의 인공지능 클로드, 목격자 진술 조작 후 경찰 웹사이트에 허위 살인 제보 제출해당 제보는 스팸으로 분류되어 실시간 범죄 수사

[이매진]

앤트로픽의 인공지능 클로드, 목격자 진술 조작 후 경찰 웹사이트에 허위 살인 제보 제출해당 제보는 스팸으로 분류되어 실시간 범죄 수사 센터에 전달되지 않았습니다.

https://www.foxbusiness.com/technology/anthropics-claude-ai-fabricates-eyewitness-account-submits-false-murder-tip-police-website

Anthropic's Claude AI fabricates eyewitness account, submits false murder tip to police website

앤트로픽이 개발 한 인공지능( AI ) 모델이 자동화 테스트 도중 필라델피아 경찰 웹사이트를 통해 미해결 살인 사건에 대한 허위 정보를 제출했습니다.

필라델피아 경찰국은 앤 트로픽이 10월 7일 당국에 해당 사건을 통보했으며, 제출된 내용은 자동화된 테스트 프로세스에서 발생한 것이라고 설명했다고 밝혔습니다.

경찰은 "해당 제보는 스팸으로 분류되어 수사 검토나 배포를 위해 실시간 범죄 센터로 전달되지 않았다"고 밝혔습니다.

이번 사건은 인공지능 에이전트가 상업 및 정부 시스템을 해킹했다는 다른 보고들이 나온 가운데 발생했습니다 .

한국의 대형 교회들이 수십만 명에게 영향을 미친 사이버 공격 의혹을 조사하고 있다.

경찰에 따르면, 허위 제보는 미해결 살인 사건 웹사이트를 통해 접수되었습니다. (Davide Bonaldo/SOPA Images/LightRocket via Getty Images, File / Getty Images)

경찰에 따르면, 허위 제보는 미해결 살인 사건 전문 웹사이트인 PhillyUnsolvedMurders.com을 통해 접수되었습니다. 2026년 7월 18일자로 작성된 이 제보는 미해결 살인 사건에 대한 정보를 가진 사람처럼 위장되어 있었습니다.

경찰은 인공지능 모델이 경찰서 시스템에 무단으로 접근하거나 경찰 데이터를 유출했다는 증거는 없다고 밝혔습니다.

금요일에 발표된 보고서에서 앤트로픽은 자사의 클로드 하이쿠 4.5 모델이 무작위로 선택된 웹페이지에서 작업을 완료하도록 지시받았으며, 최종적으로 살인 사건 제보 웹사이트에 도달했다고 밝혔습니다.

클로드에게 로그인, 계정 생성, 개인 정보 입력, 구매 또는 "파괴적인 내용 제출"을 하지 말라는 지시가 내려졌지만, 온라인 양식 제출을 명시적으로 금지하는 내용은 없었다고 회사 측은 밝혔다.

오페나이의 샘 알트만은 AI의 이점이 일부 위험을 감수할 만한 가치가 있다고 말합니다.

이 사건은 앤트로픽의 AI 모델이 의도치 않은 방식으로 실제 웹사이트와 상호 작용한 사례를 조사한 보고서에 포함되었습니다. (Samuel Boivin/NurPhoto via Getty Images, File / Getty Images)

앤트로픽에 따르면 클로드는 양식을 작성하면서 "이 사건과 관련된 정보를 가지고 있을지도 모릅니다. 저는 그 기간 동안 [페이지에 적힌 거리 이름] 주변에서 인상착의가 비슷한 사람을 본 기억이 있습니다. 이 정보가 관련이 있다면 저에게 연락해 주십시오."라고 적었습니다.

앤트로픽은 해당 웹사이트에 범인에 대한 설명이 없었다고 지적했는데, 이는 모델이 범인과 일치하는 사람을 봤다고 주장했음에도 불구하고 그랬습니다. 또한 모델은 제보를 제출하기 전에 이름과 연락처 입력란을 비워둔 상태였습니다.

해당 사건은 앤트로픽의 AI 모델이 의도치 않은 방식으로 실제 웹사이트나 시스템과 상호 작용한 사례를 조사한 보고서에 포함되었습니다.

앤트로픽은 공동 창립자 겸 CEO인 다리오 아모데이가 이끌고 있습니다. (Finn Gomez/Getty Images, File / Getty Images)

해당 사건 이후, 앤트로픽은 테스트 중 모델의 인터넷 접속 제한을 강화하고, 실제 웹사이트와의 상호 작용을 방지하기 위해 특정 평가 방식을 수정했으며, 추가적인 모니터링 도구를 개발했다고 밝혔습니다.

여기를 클릭하여 모바일에서 FOX BUSINESS를 이용하세요.

FOX Business는 앤트로픽 측에 논평을 요청했습니다.

이 보도에는 로이터 통신이 기여한 부분이 포함되어 있습니다.