"해킹 도와드려요"…악성코드·피싱메일 작성하는 '다크GPT' 등장

[국이]

"해킹 도와드려요"…악성코드·피싱메일 작성하는 '다크GPT' 등장

글로벌 보안 업체 넷엔리치, '사기GPT' 유포 정황 포착
월 200달러 내면, 해킹 도구·피싱 메일 작성 제공
"AI가 사이버 범죄 대중화에 기여" 보안 업계 경고

피싱 메일·디도스 공격 도구 만들기 등을 도와주는 일명 '다크GPT'가 등장했다.

챗GPT 등장 이후 '해커들의 공격 도구로 활용될 수 있다'던 글로벌 보안 업체들의 경고가 무색하게도, 돈을 내면 초보자도 사이버공격을 할 수 있도록 돕는 '다크GPT'서비스가 다크웹을 통해 유통되고 있다.

글로벌 보안 업체 넷엔리치 위협연구팀은 최근 발간한 보고서를 통해 '사기(Fraud)GPT'란 인공지능(AI) 도구가 텔레그램을 통해 유포되고 있다고 소개했다.

연구팀에 따르면 이 도구는 스피어 피싱 이메일·해킹 도구 작성 등 사이버공격을 돕는 AI모델이며, 현재 다양한 다크웹 시장과 텔레그램 플랫폼에서 유료로 판매되고 있다.

이 도구를 만든 것으로 추정되는 캐네디언킹핀12(canadiankingpin12)그룹은 "이를 통해 수준 높은 스피어피싱 메일을 작성할 수 있다"고 홍보하고 있으며 특히 "사기에 관한 원스톱쇼핑을 하라"고 독려하고 있다.

또한 "엠파이어(EMPIRE), WHM, 로레즈(TORREZ), 월드(WORLD), 알파베이(ALPHABAY) 및 버수스(VERSUS)와 같은 다양한 언더그라운드 다크웹(Underground Dark Web)시장에서 검증된 공급업체"라고 주장하기도 했다.

해당 다크GPT는 ▲악성 코드 작성 ▲감지할 수 없는 맬웨어 생성 ▲피싱 페이지 만들기 ▲해킹 도구 만들기 ▲사기 페이지·편지 쓰기 ▲누출, 취약점 찾기 ▲코딩·해킹 교육 등을 수행한다. 구독료는 월 200달러(약 26만원)에서, 기능 추가에 따라 1700달러까지 치솟는다.

지난 7월에도 '웜GPT' 발견…보안 업계 "주의 당부"

이에 앞서 지난 7월에도 '사기GPT'와 비슷한 형태의 AI 도구인 '웜GPT'가 등장해, 관련 업계가 주의를 당부한 바 있다.

사이버 보안 기업 슬래시넥스트는 사이버범죄 포럼에서 새로운 사이버 범죄도구 '웜GPT'를 발견했다면서 이 웜GPT는 '정교한 피싱 작업을 위한 도구'로 홍보되고 있다고 밝혔다.

해당 웜GPT는 2021년에 개발된 GPT-J 언어 모델에 기반한 AI모듈이며, 악성코드 관련 데이터를 중심으로 다양한 데이터 소스를 사용해 학습을 거친 것으로 알려졌다. 이를 통해 악의적인 의도와 윤리적 경계를 무시하며 각 수신자에 맞게 맞춤 제작된, 설득력 높은 가짜 이메일을 자동으로 생성한다고 슬래시넥스트 측은 설명했다.

한편, 챗GPT 등장 이후 생성형 AI가 사이버 범죄 대중화에 기여할 것이라는 지적은 줄곧 제기됐다. 생성형 AI 모델은 파이썬, 고, 러스트 등의 언어로 프로그래밍 코드를 작성할 수 있기 때문에, 고급 프로그래밍 기술 없이도 이 기술을 활용해 악성코드나 피싱메일을 보다 쉽게 개발할 수 있게 될 것이란 우려였다.

실제 글로벌 보안기업 체크포인트가 발간한 '2023년 시큐리티 보고서'에 따르면, 챗GPT를 이용해 이용자의 스마트폰에 저장된 PDF 파일을 빼내거나 파일전송시스템 권한을 빼앗는 악성코드가 제작된 사례가 발견됐다. 또한 챗GPT로 훔친 계좌나 악성코드 등 불법물 거래에 악용할 수 있는 다크웹 플랫폼을 만든 사례도 있다는 게 체크포인트의 지적이다．