"화상전화로 확인했는데"…중국서 음성 · 영상 위조 AI 사기 기승

[김철호(경영)]

https://n.news.naver.com/mnews/article/055/0001059992?sid=104 

"화상전화로 확인했는데"…중국서 음성 · 영상 위조 AI 사기 기승

중국에서 음성과 영상을 위조해 돈을 가로채는 신종 인공지능(AI) 사기가 기승을 부리고 있다고 중국신문망 등 현지 매체가 오늘(23일) 보도했습니다.

보도에 따르면 네이멍구 바오터우의 정보기술(IT)업체 대표 궈 모 씨는 지난달 20일 "입찰에 필요한 보증금이 필요하다"며 도움을 요청한 친구의 계좌에 430만 위안(약 8억 원)을 송금했습니다.

그는 계좌 이체 후 제대로 송금됐는지 확인하기 위해 친구와 통화하다 사기를 당했다는 사실을 알았습니다.

신고받은 현지 공안당국이 궈 씨의 은행 계좌를 정지시켰지만, 이미 93만 1천600위안(1억 7천만 원)은 빠져나간 뒤였습니다.

궈 씨는 "친구와 영상 전화로 통화했는데 얼굴과 목소리가 똑같아 전혀 의심하지 않았다"고 말했습니다.

사기단이 AI를 이용, 친구의 음성은 물론 얼굴까지 위조해 궈 씨를 속인 것입니다.

사법기관이나 가족·친지를 사칭하는 종전의 보이스피싱 수법이 많이 노출돼 약발이 먹히지 않자 AI를 동원한 첨단 사기 수법이 등장한 것입니다.

모 업체의 경리는 사장과 음성 통화한 뒤 그의 지시에 따라 2만 위안(약 372만 원)을 송금했고, 20대 대학생은 3천 위안(약 58만 원)을 빌렸던 친구의 독촉 화상 전화를 받고 송금했다 피해를 봤습니다.

작년 2월에는 저장성 원저우의 천 모 씨가 이런 수법에 속아 5만 위안(약 929만 원)에 달하는 송금 사기 피해를 봤다고 중국 언론은 전했습니다.

사기범들은 소셜미디어(SNS)에 올라온 천 씨 친구의 동영상에서 얼굴을 캡처해 AI로 '얼굴 바꿔치기' 영상을 만든 뒤 친구인 것처럼 천 씨에게 접근, 송금토록 했습니다.

2020년에는 상하이의 모 업체 임원이 회사 대표의 얼굴과 음성을 위조한 사기범의 화상 전화에 속아 150만 위안(약 2억 8천만 원)을 송금했다 피해를 봤습니다.

전문가들에 따르면 사기범들은 계좌 등 관련 정보를 해킹하고, 해킹한 사람의 SNS에 올라온 사진·영상을 이용하거나 그에게 화상 전화를 해 전화를 잘못 건 것처럼 통화하는 과정에서 음성과 영상을 저장해 위조합니다.

이어 해킹한 사람의 가족, 지인 등에게 위조한 목소리와 영상으로 접근, 송금을 유도하는 수법을 사용합니다.

전문가들은 "목소리와 얼굴을 확인하면 별다른 의심 없이 상대의 요구를 들어주는 심리를 악용하는 신종 사기 수법"이라며 "AI를 이용한 합성 기술이 발전해 사진 한 장이면 그 사람의 영상을 생성할 수 있다"고 설명했습니다.

이어 "얼굴과 지문 등 개인 생체 정보를 노출해서는 안 되며 얼굴이 드러나는 영상을 SNS에 게시하거나 낯선 사람과 화상 통화하는 것을 자제하라"며 "돈을 요구할 경우 여러 경로를 통해 확인한 뒤 신중하게 거래할 것"을 조언했습니다.

-----------------------------------------------------------------------------------------------------------------------------

최근 전자기기와 그 기술들의 발전으로 급속도로 우리의 삶은 편해졌습니다. 그에 따라 과거에는 은행에 직접 가서 해야 할 이체도 컴퓨터로 할 수 있고 더 발전함으로써 휴대폰에서 생체인식만으로 큰 돈을 이체할 수 있게 되었습니다.

하지만 이 점을 이용해서 위 기사에서는 우리가 알고 있는 딥페이크라는 기술을 이용해서 금전을 요구하였습니다.

딥페이크(Deepfake)는 인공지능 기술을 사용하여 사람의 얼굴이나 음성을 합성하여 사실과 다른 가짜 영상이나오디오를 만들어내는 기술입니다. 이러한 기술은 다양한 영역에서 활용될 수 있지만, 동시에 여러 가지 문제점과 우려점을 가지고 있습니다. 

주요한 문제점은 

1. 사기와 디지털 위협: 딥페이크는 실제와 구분하기 어려운 가짜 영상과 오디오를 만들어내므로, 이를 악용하여 사기, 명예 훼손, 협박 등의 범죄 행위에 이용될 수 있습니다. 따라서 개인의 신분과 명예, 사회적 안전에대한 위협이 될 수 있습니다.
2. 사생활 침해: 딥페이크는 다른 사람의 얼굴을 사용하여 동영상을 제작할 수 있으므로, 이를 악용하여 사생활침해가 이루어질 수 있습니다. 또한, 딥페이크 기술은 인공지능 학습 데이터로부터 생성된 결과물이기 때문에, 누군가의 얼굴과 음성이 무단으로 사용되어 개인정보 유출과 연결될 수 있습니다.
3. 정보 신뢰도 문제: 딥페이크는 신뢰할 수 있는 정보의 기준을 흔들어 놓을 수 있습니다. 가짜 영상이나 오디오가 실제와 구분이 어렵다면, 사회적 혼란과 혼동이 초래될 수 있습니다. 이는 미디어, 정치, 사회적인 이슈등 다양한 분야에서 신뢰할 수 있는 정보의 중요성을 약화시킬 수 있습니다.
4. 저작권 침해: 딥페이크는 원본 자료가 필요하지 않고 기존 영상이나 음성을 학습하여 생성할 수 있습니다. 따라서 딥페이크를 사용하면 기존의 저작권 보호 체계에 대한 도전이 발생할 수 있으며, 원작자의 동의 없이 창작물이 왜곡되어 사용될 수 있습니다.

딥페이크의 문제점을 극복하기 위해서는 기술적인 대책과 법적인 규제가 필요합니다. 기술적인 대책으로는 딥페이크를 탐지할 수 있는 인공지능 기술의 개발과 확장이 필요합니다. 

[현승용]

또 중국인가...