마이크로소프트(MS)가 AI 도구를 사용해 중국, 러시아, 이란의 해커를 잡았다고 밝혔습니다.

[이매진]

마이크로소프트(MS)가 AI 도구를 사용해 중국, 러시아, 이란의 해커를 잡았다고 밝혔습니다.

https://www.channelnewsasia.com/business/microsoft-says-it-caught-hackers-china-russia-and-iran-using-its-ai-tools-4123046

Microsoft says it caught hackers from China, Russia and Iran using its AI tools

파일 사진: OpenAI 로고는 2023년 2월 3일 촬영된 이 그림에서 볼 수 있습니다. REUTERS/Dado Ruvic/Illustration/파일 사진

워싱턴 : 수요일에 발표된 보고서에 따르면 러시아, 중국, 이란의 국가 지원 해커들은 Microsoft가 지원하는 OpenAI의 도구를 사용하여 기술을 연마하고 목표물을 속였습니다.

마이크로소프트는 보고서에서 대규모 언어 모델을 사용하여 해킹 캠페인을 완성하려고 하는 러시아 군사 정보부, 이란 혁명수비대, 중국 및 북한 정부와 연계된 해킹 그룹을 추적했다고 밝혔습니다. 종종 인공 지능이라고 불리는 이러한 컴퓨터 프로그램은 엄청난 양의 텍스트를 활용하여 사람처럼 들리는 응답을 생성합니다.

회사는 AI 제품을 사용하는 국가 지원 해킹 그룹을 전면적으로 금지하면서 이러한 발견을 발표했습니다.

"법률 위반이나 서비스 약관 위반 여부와 관계없이 우리는 우리가 식별한 행위자(우리가 추적하고 알고 있는 다양한 종류의 위협 행위자)를 원하지 않습니다. Microsoft 고객 보안 담당 부사장 Tom Burt는 보고서 발표에 앞서 로이터와의 인터뷰에서 이 기술에 액세스할 수 있다고 말했습니다.

러시아, 북한, 이란의 외교 관리들은 이 주장에 대해 논평을 구하는 메시지에 즉각 응답하지 않았습니다.

중국 주재 미국 대사관 대변인 Liu Pengyu는 "중국에 대한 근거 없는 비방과 비난"에 반대하며 "모든 인류의 공동 복지를 향상"하기 위해 AI 기술의 "안전하고 신뢰할 수 있으며 제어 가능한" 배치를 옹호한다고 말했습니다.

국가 지원을 받는 해커들이 스파이 능력을 강화하기 위해 AI 도구를 사용했다는 주장은 기술의 급속한 확산과 남용 가능성에 대한 우려를 강조할 가능성이 높습니다. 서방의 고위 사이버 보안 관리들은 작년부터 악의적인 행위자들이 이러한 도구를 남용하고 있다고 경고해 왔지만 지금까지 구체적인 내용은 거의 밝혀지지 않았습니다.

OpenAI에서 사이버 보안 위협 인텔리전스를 총괄하는 Bob Rotsted는 "이것은 AI 회사가 나서서 사이버 보안 위협 행위자가 AI 기술을 사용하는 방법을 공개적으로 논의하는 최초의 사례 중 하나입니다"라고 말했습니다.

OpenAI와 Microsoft는 해커의 AI 도구 사용을 "초기 단계" 및 "증분적"으로 설명했습니다. Burt는 두 사람 모두 사이버 스파이가 획기적인 성과를 거두는 것을 본 적이 없다고 말했습니다.

"우리는 그들이 다른 사용자들처럼 이 기술을 사용하는 것을 실제로 보았습니다"라고 그는 말했습니다.

보고서는 대규모 언어 모델을 사용하는 해킹 그룹을 다르게 설명했습니다.

마이크로소프트는 GRU로 널리 알려진 러시아 군사 스파이 기관을 대신해 일하는 것으로 알려진 해커들이 이 모델을 사용하여 "우크라이나의 기존 군사 작전과 관련될 수 있는 다양한 위성 및 레이더 기술"을 연구했다고 밝혔습니다.

마이크로소프트는 북한 해커들이 이 모델을 사용해 지역 전문가를 대상으로 한 "스피어 피싱 캠페인에 사용될 가능성이 있는" 콘텐츠를 생성했다고 밝혔습니다. 이란 해커들은 또한 좀 더 설득력 있는 이메일을 작성하기 위해 이 모델을 활용했다고 마이크로소프트는 말했다. 한때 이 모델을 사용해 "저명한 페미니스트"를 부비 트랩 웹사이트로 유인하려는 메시지의 초안을 작성했다고 한다.

소프트웨어 대기업은 중국 정부의 지원을 받는 해커들이 예를 들어 경쟁 정보 기관, 사이버 보안 문제 및 "유명한 개인"에 대해 질문하기 위해 대규모 언어 모델을 실험하고 있다고 밝혔습니다.

Burt나 Rotsted는 활동량이나 정지된 계정 수를 기준으로 계산되지 않습니다. 그리고 Burt는 AI의 참신함과 AI 배포에 대한 우려를 지적함으로써 검색 엔진인 Bing과 같은 Microsoft 제품에는 적용되지 않는 해킹 그룹에 대한 무관용 금지를 옹호했습니다.

"이 기술은 새롭고 믿을 수 없을 만큼 강력합니다"라고 그는 말했습니다.

출처: 로이터