CNN 보도에 따르면 인공지능 오류로 인해 미국이 중국 선박을 나포할 뻔했다고 합니다.

[이매진]

CNN 보도에 따르면 인공지능 오류로 인해 미국이 중국 선박을 나포할 뻔했다고 합니다.

https://gcaptain.com/ai-error-nearly-triggered-u-s-intercept-of-chinese-ship-cnn-reports/

AI Error Nearly Triggered U.S. Intercept of Chinese Ship, CNN Reports

스톡 사진: Shutterstock/Emils Lukso

CNN의 단독 보도 에 따르면, 인공지능의 도움으로 작성된 허위 정보 보고서 때문에 미국 군대가 이란과의 전쟁 중 중동에서 중국 선박을 나포하고 승선하려 할 뻔했다고 합니다 .

CNN은 금요일, 해당 사건에 정통한 네 명의 소식통을 인용해, 그 선박이 핵무기 프로그램과 관련된 부품을 운반하고 있다는 보고서에 따라 미군이 요격 준비에 착수했다고 보도했습니다.

CNN 소식통 두 명에 따르면, 무장한 미군 병력이 배에 탑승할 준비를 하고 있었고, 군용기는 이미 이륙한 상태였다.

관계자들이 관련 정보를 자세히 살펴본 결과, 특수작전사령부 분석관이 사용하던 인공지능 챗봇이 선박의 화물을 잘못 식별한 것으로 드러난 후에야 작전이 중단되었습니다. CNN은 해당 선박이 실제로 무엇을 싣고 있었는지는 확인할 수 없었다고 밝혔습니다.

한 소식통은 해당 정보 보고서를 "완전히 거짓"이라고 일축하며, 이번 사건이 "거의 전쟁 직전까지 갈 뻔했다"고 말했다.

CNN은 해당 분석가가 선박의 화물 목록과 관련된 정보를 활용하여 AI 챗봇에 질의했다고 보도했습니다. 이 시스템은 공개 정보와 기밀 신호 정보를 결합하여 화물에 대한 결론을 도출한 것으로 알려졌습니다.

CNN에 따르면, 해당 분석가는 인공지능을 다시 사용하여 분석 결과를 표준 정보 보고서 형식으로 변환했고, 이 보고서는 군 내부에 배포되었습니다. 보고서의 익숙한 형식 때문에 결함이 있는 분석이 마치 기존 정보 보고서처럼 보이게 된 것으로 보입니다. 미 특수작전사령부 태평양사령부와 국방부는 CNN의 논평 요청에 응답하지 않았습니다.

이번 사건은 미 국방부가 군사 작전 전반에 걸쳐 인공지능을 빠르게 통합하려는 움직임 속에서 발생했습니다.

지난 1월, 피트 헤그세스 국방장관은 미군을 "인공지능 우선" 군대로 만들기 위한 인공지능 가속화 전략을 발표했습니다. 이 전략에는 작전 계획부터 "킬 체인 실행"에 이르기까지 인공지능 기반 전투 관리 및 의사 결정 지원은 물론, 정보 수집을 군사적 역량으로 전환하는 과정을 가속화하기 위한 정보 전략이 포함됩니다.

미 국방부는 또한 군사용 AI 시스템이 추적 가능하고 신뢰할 수 있으며 관리 가능한 형태를 갖추도록 요구하는 책임 있는 AI 원칙을 유지해 왔으며, 담당자들은 AI 사용에 있어 적절한 판단을 내릴 책임이 있습니다. 그러나 CNN은 군과 정보기관 전반에 걸친 AI 도입이 여전히 분산되어 있으며, 각 기관이 서로 다른 시스템과 안전 절차를 사용하고 있고 AI가 생성한 정보를 검증하는 단일 표준이 없다고 보도했습니다.

이번 근접 요격 사례는 인공지능이 해양 정보 분야와 얼마나 빠르게 융합되고 있는지를 보여줍니다.

지난주  gCaptain은  Anthropic이 자사의 Claude AI 모델을 사용하여 미 해군에 대한 정보를 수집하고 표적 자료를 구축하는 이란 연계 세력의 활동을 저지했다고 보도했습니다 .

앤스로픽은 해당 배우가 클로드를 활용하여 공개적으로 이용 가능한 정보로부터 해군 위치를 식별하고 추적할 수 있는 파이썬 기반 정보 파이프라인을 구축했다고 밝혔습니다. 그 결과물에는 함선 및 항공기 트랜스폰더 식별자, 상업용 위성 이미지 조회, 미군 인원 정보, 해군 이동 정보를 공개하는 웹사이트 목록 등이 포함되었습니다.

같은 인물이 클로드에게 선박용 VSAT 단말기, 통신 장비 및 산업 제어 시스템의 취약점을 조사하도록 지시했다.

이러한 사례들을 종합해 보면 군사 인공지능 경쟁의 양면을 모두 알 수 있습니다. 인공지능은 미국 군대든 적대국이든 관계없이 해양 정보 수집 및 처리 속도를 획기적으로 높일 수 있습니다.

하지만 CNN의 보도는 AI가 생성한 오류가 정보 시스템을 통해 얼마나 빠르게 퍼져나가 세련되고 권위 있어 보이는 보고서로 둔갑할 수 있는지를 보여주며, AI 도입과 인간 검증에 필요한 안전장치에 대한 심각한 의문을 제기합니다.