인공지능 챗봇이 생물학 무기 제조법에 대한 '소름 끼치는' 지침을 제공하여 과학자들을 공포에 떨게 하고 있다는 보고서가 나왔습니다.

[이매진]

인공지능 챗봇이 생물학 무기 제조법에 대한 '소름 끼치는' 지침을 제공하여 과학자들을 공포에 떨게 하고 있다는 보고서가 나왔습니다.

https://nypost.com/2026/04/29/business/ai-chatbots-terrify-scientists-with-chilling-instructions-on-how-to-build-biological-weapons-report/

AI chatbots terrify scientists with ‘chilling’ instructions on how to build biological weapons: report

수요일에 발표된 한 보고서에 따르면, 주요 AI 챗봇들이 대량 학살을 초래할 수 있는 생물학 무기 제조 방법에 대한 상세한 지침을 제시해 전문가들을 경악하게 했습니다 .

구글, 오픈AI, 앤트로픽과 같은 주요 AI 연구소들이 AI 모델의 안전성을 보장하기 위해 광범위한 조치를 취해왔지만, 뉴욕타임스는 챗봇이 해를 끼치거나 죽이는 방법을 매우 상세하게 묘사한 사례가 담긴 12건 이상의 녹취록을 입수했습니다.

한 사례로, 익명의 AI 기업은 스탠퍼드 대학교의 미생물학자인 데이비드 렐먼을 고용하여 챗봇을 공개 출시하기 전에 안전성 테스트를 진행하도록 했습니다.

4

스탠퍼드 대학교의 데이비드 렐먼은 챗봇의 답변이 "소름 끼친다"고 말했다.게티 이미지

타임스에 따르면, 렐먼은 챗봇이 "악명 높은 병원균"을 변형시켜 기존 치료법에 저항하는 방법뿐만 아니라, 사망자 수를 극대화하기 위해 대중교통 시스템에 어떻게 배치해야 하는지까지 안내하는 것을 보고 충격을 받았다.

00:00

00:00

렐먼은 언론과의 인터뷰에서 "내가 생각지도 못했던 질문들에 대해 교활하고 간사한 수법으로 답하는 모습이 소름 끼쳤다"고 말했다.

더 알아보기

빌 애크먼의 퍼싱 스퀘어, 뉴욕 증권거래소 데뷔 첫날 18% 폭락

유명 바비큐 체인이 파산 신청 후 미국 전역의 매장을 갑자기 폐쇄했습니다.

일론 머스크, '기만적인' 오픈AI CEO 샘 알트먼에게 투자한 것은 '어리석은 짓'이었다고 충격적인 재판에서 증언

렐먼은 기밀 유지 계약 때문에 회사 이름을 밝힐 수 없었지만, 해당 회사가 자신의 우려 사항을 해결하기 위해 변경 사항을 적용했다고 말했습니다. 그러나 그는 이러한 변경 사항이 공공 안전을 보장하기에는 충분하지 않다고 생각했습니다.

보도에 따르면, 해당 녹취록은 AI 기업들이 자사 제품의 안전성 테스트를 위해 고용한 전문가들이 제공한 것으로, 이 테스트에는 사용자가 치명적인 무기에 대한 정보를 강구할 경우 안전 장치가 얼마나 잘 작동하는지를 조사하는 작업 등이 포함되었습니다.

매사추세츠 공과대학의 유전 공학자인 케빈 에스벨트는 타임스지와의 인터뷰에서 오픈AI의 ChatGPT가 기상 관측 기구를 이용해 미국 도시에 치명적인 병원균을 퍼뜨리는 방법을 상세히 설명한 사례를 소개했다.

4

구글, 오픈AI, 앤트로픽과 같은 기업들은 안전장치를 마련하기 위해 전문가들과 긴밀히 협력하고 있다고 밝혔습니다.게임픽셀 – stock.adobe.com

다른 예로는 구글의 제미니가 소 산업에 가장 큰 피해를 줄 수 있는 병원균이 무엇인지 설명한 대화와, 앤트로픽의 클로드가 시판 중인 항암제에서 치명적인 독소를 추출하는 방법에 대한 명확한 지침을 제공한 대화가 있습니다.

전문가들은 해당 지침이 완전히 정확하지 않거나 챗봇이 가짜 정보를 쏟아내는 이른바 "환각"을 포함하고 있더라도 악의적인 사용자의 손에 들어가면 심각한 피해를 초래할 수 있다고 강조했습니다.

워싱턴 포스트는 구글, 오픈AI, 앤스로픽 측에 논평을 요청했습니다.

세 회사 모두 타임스에 보낸 성명에서 해당 보고서에 대해 반박했습니다.

4

전문가들은 주요 챗봇들이 생물무기 제조 방법에 대한 단계별 지침을 제공해 왔다고 경고합니다.Syda Productions – stock.adobe.com

구글 대변인은 타임스의 분석에 인용된 채팅 내용은 제미니의 초기 버전에서 생성된 것이며, 최신 모델은 잠재적으로 유해한 정보를 요구하는 "더 심각한" 요청에는 응답하지 않는다고 밝혔습니다.

대변인은 제미니가 제공한 정보는 이미 공개된 정보이며 그 자체로는 해롭지 않다고 덧붙였습니다.

앤트로픽 스튜디오 관계자인 알렉산드라 샌더포드는 "모델이 그럴듯하게 들리는 텍스트를 생성하는 것과 누군가에게 실제로 행동하는 데 필요한 정보를 제공하는 것 사이에는 엄청난 차이가 있다"고 말하면서도, 생물학 관련 질문에 대해서는 특히 엄격한 안전장치를 마련해 두었다고 덧붙였습니다.

하루를 시작할 때 필요한 모든 정보를 얻으세요.

모닝 리포트는 최신 뉴스, 영상, 사진 등을 제공합니다.

이메일 주소를 입력하세요

위 버튼을 클릭하시면 이용약관 및 개인정보처리방침 에 동의하시는 것입니다 .

오픈아이얼 관계자는 해당 매체에 보도된 녹취록이 "실제 세상에서 누군가에게 해를 끼칠 수 있는 능력을 의미 있게 증가시키지는 않을 것"이라고 말하며, 자사 모델의 오용을 방지하기 위해 전문가들과 긴밀히 협력하고 있다고 덧붙였다.

생물학자이기도 한 앤트로픽 CEO 다리오 아모데이는 1월 블로그 게시물에서 "생물학은 파괴 가능성이 매우 크고 이에 맞서 방어하기가 어렵기 때문에 제가 가장 우려하는 분야입니다."라고 썼습니다.

아모데이 교수는 첨단 챗봇이 치명적인 생물학 무기를 훨씬 쉽게 만들 수 있게 해줄 것이라고 우려했는데, 이전에는 필요한 도구를 갖추고 있더라도 "엄청난 전문 지식"이 필요했기 때문이라고 설명했다.

4

앤트로픽 CEO 다리오 아모데이는 AI 안전과 관련하여 자신이 "가장 우려하는" 부분은 생물학이라고 말했습니다.블룸버그 (게티 이미지 제공)

아모데이 교수는 "누구나 주머니 속에 천재를 품게 된다면 그러한 장벽이 사라져, 사실상 누구나 박사 학위를 가진 바이러스학자가 되어 생물학 무기를 설계, 합성, 방출하는 과정을 단계별로 안내받을 수 있게 될까 봐 우려된다"고 썼다.

구글의 전 CEO인 에릭 슈미트는 2023년에 비슷한 경고를 하며 , AI 시스템이 "비교적 빠른 시일 내에" "사이버 보안 문제에서 제로데이 취약점을 찾아내거나 새로운 종류의 생물학적 현상을 발견할 수 있게 될 것"이라고 말했습니다.

9

어떻게 생각하세요? 댓글을 남겨주세요. 

"지금은 허구의 이야기이지만, 그 논리는 사실일 가능성이 높습니다."라고 슈미트는 덧붙였다. "그리고 그런 일이 실제로 일어났을 때, 악의적인 사람들이 이러한 것들을 악용하지 않도록 어떻게 막아야 할지 미리 알고 있어야 합니다."