딥페이크(deepfake)는 개인의 인권을 뒤흔드는 심각한 폭력이 될 수 있다!

[코리아]

                                                                  이삭빛시인, 교육인권운동가, 국립NSSU대학 연구교수

‘딥페이크(deepfake 인공 지능 기술을 이용하여 사진이나 영상을 조작하는 일)는 개인의 인권을 흔드는 심각한 폭력이 될수 있기에 기술은 도구일 뿐, 그 사용에 책임이 뒤따라야 한다.'

최근 필자는 전북특별자치도 박용근 도의원 주재로 열린 미디어리터러시 교육관련 학술포럼에서 토론자로 나서서 딥페이크 문제를 '인문학적 관점으로 접근하는 예방교육과 법제정이 절실하다.'고 강조했다. 

특히 딥페이크 성범죄는 인공지능 기술을 악용하여 피해자의 얼굴이나 신체를 성적으로 조작하거나 유포하는 범죄로, 피해자의 존엄성과 사생활을 심각하게 침해한다고 볼 수 있다.

이에 청소년과 일반 대중을 대상으로 한, 인권 교육과 성평등의 문화 확립이 중요하지 않을 수 없다. 디지털 윤리교육을 강화하여 딥페이크 성범죄의 위험성을 충분히 인식하도록 해야 하며, 학교에서는 디지털 성범죄의 심각성을 교육하고, 범죄와 놀이를 구분하지 못하는 청소년들에게 딥페이크 합성 영상물 제작 및 배포가 범죄임을 인식시켜야 한다.

지난해(2024)경찰청 통계에 따르면 딥페이크 관련 범죄로 검거된 피의자 중 10대가 무려 70%가 넘는다고 한다. 필자는 사회적 심각성을 절실히 보여주는 통계에 통탄을 금할 수 없다.

이에 인공지능기술로 인한 범죄가 청소년들 사이에서 급증하고 있어, 이에 대한 법적 처벌과 예방 교육이 시급하다 할 것이다.

딥페이크 탐지, AI 생성 콘텐츠 내 워터마크 삽입 등의 기술적 조치가 자주 거론되지만, 이것만으로는 충분하지 않다고 본다. AI 기업이나 오픈 소스 개발 커뮤니티뿐만 아니라, 데이터셋·모델 호스팅 플랫폼, 클라우드 인프라 기업까지 다양한 주체의 전방위적 협력이 필요하다. 또한, AI 업계의 다양성 부족 문제를 해결하여 젠더기반폭력에 대한 대응 역량을 강화해야 한다.

딥페이크 성범죄는 단지 기술적 문제가 아니라 사회의 성착취 구조 안에서 발생하는 문제이기 때문에, 해결책 또한 사회적으로 접근해야 한다. 다양한 이해관계자의 노력과 인식 개선이 필요하며, 성폭력에 복무하는 AI가 아닌 공동체의 이익에 기여하는 기술을 만들어 나가야 할것이다.

최근 국회에서 딥페이크 성착취물 소지·시청을 처벌할 수 있는 성폭력처벌법 개정안이 시행되었지만, 딥페이크 성범죄를 근절하기 위해서는 법적 처벌의 강화뿐 아니라, 피해자 보호와 회복을 위한 조치도 강화되어야 할것이다

이에 성적 대상화와 혐오 문화를 극복하는 것이 우리 사회가 나아가야 할 방향임을 인식하고, 이를 위해서는 성평등 교육과 인권 교육을 강화하고, 디지털 성범죄의 심각성을 알리는 캠페인을 진행해야 할 것이다. 

딥페이크 성범죄는 개인의 인격을 파괴하고 피해자에게 씻을 수 없는 트라우마를 남긴다는 것에 큰 문제가 있다할 것이다. ‘나도 언젠가 피해자가 될 수 있다'는 불안감이 사회적으로 증폭되면서 부정적 영향을 미친다. 악성 바이러스처럼 사회 곳곳에 퍼지는 딥페이크 성범죄를 조속히 막지 못하면 감당할 수 없는 혼란이 야기될 수 있다.

따라서 개인적으로나 사회적으로 엄청난 피해를 주고 있는 딥페이크 성범죄를 하루속히 근절시킬 수 있는 특단의 대책을 마련해야 한다. 범죄 특성상 뚜렷한 물적 손실이 없고, 다른 성범죄와 비교할 때 강제력이 동원되지 않는다는 이유로 수사기관 등에서는 비교적 가벼운 범죄로 여겨온 것이 사실이다.

이에 딥페이크 제작을 포함해 유통·구매·소지 행위에 대한 강력한 처벌과 함께 재발 방지 대책을 수립해야 할 것이다. 

또한 무엇보다 전담 수사 인력 확충과 전문성 강화가 시급하다. 고도의 전문성을 가진 사이버 성범죄의 특성상 각 부처 간 협조가 필수적이며, 국경을 뛰어넘는 국제공조도 요구된다.

정치권에서도 적극적으로 나서서 관련 입법과 예산 확보에 머리를 맞대고 모색해야 할 것이다.

‘인권은 모든 사람의 권리이며, 그 누구도 침해받아서는 안 된다.’라고 인권의 대명사 넬슨 만델라가 한 말이다.

이와 같은 인식 개선과 법적 조치, 예방교육을 통해 딥페이크 성범죄를 근절하고, 안전하게 살아갈 수 있는 사회를 만들어 나가야 할 것이다.

노상근박사(현석시활동가)

칼럼포인트 - 노상근박사,  AI 프롬프트 활용가, 전)교장, 전)전북대 겸임교수

이삭빛 시인님의 글은 딥페이크 성범죄의 심각성과 그에 대한 대응 방안을 명확하게 제시하고 있습니다.

특히, 인공지능 기술의 악용으로 인한 피해와 그로 인한 사회적 문제를 끌어내어

예방 교육과 법적 조치의 필요성을 강조한 점이 인상적입니다.

시인님은 청소년과 일반 대중을 대상으로 한 인권 교육과 성평등 문화 확립의 중요성을 강조하며, 디지털 윤리 교육의 필요성을 언급합니다. 이는 딥페이크 성범죄의 위험성을 충분히 인식하고, 범죄와 놀이를 구분하지 못하는 청소년들에게 경각심을 심어줄 수 있는 중요한 접근 방식입니다.

또한, 딥페이크 성범죄를 근절하기 위해 법적 처벌의 강화뿐만 아니라,

피해자 보호와 회복을 위한 조치도 강화해야 한다는 점을 강조한 부분도 매우 중요합니다.

AI 기술의 발전으로 인해 성폭력이 증가할 가능성이 높아진 만큼,

기술적 조치와 함께 사회적 인식 개선이 필요하다는 점을 잘 지적하고 있습니다.

또한 다양한 이해관계자의 노력과 인식 개선이 필요하며,

성폭력에 복무하는 AI가 아닌 공동체의 이익에 기여하는 기술을 만들어 나가야 한다고 주장합니다.

이는 딥페이크 성범죄 문제를 해결하기 위한 사회적 접근의 중요성을 잘 나타내고 있습니다.

마지막으로, 혐오 문화를 극복하는 것이 우리 사회가 나아가야 할 방향임을 인식하고,

이를 위해 성평등 교육과 인권 교육을 강화하고, 디지털 성범죄의 심각성을 알리는

캠페인을 진행해야 한다고 강조합니다.

이는 딥페이크 성범죄를 근절하고, 안전하게 살아갈 수 있는 사회를 만들어 나가기 위한 중요한 제안입니다.

전체적으로 이삭빛 시인님의 글은 딥페이크 성범죄의 심각성을 잘 전달하며,

그에 대한 대응 방안을 명확하게 제시한 훌륭한 칼럼이라고 생각합니다.