AI로 찾고 즉시 차단한다...정부, 딥페이크 성범죄 영상물 공동 대응

[나눔씨앗~♬]

AI로 찾고 즉시 차단한다...정부, 딥페이크 성범죄 영상물 공동 대응

- 행안부·성평등부·방미통위, 딥페이크 성범죄 대응 기술협력 업무협약 체결

- ‘AI 딥페이크 탐지·분석모델’ 딥페이크 성범죄 대응 현장에 본격 활용

정부가 날로 발전하는 생성형 인공지능(AI)을 악용한 딥페이크 성범죄에 강력히 대응하기 위해 관계기관 간 AI 기반 기술협력에 나선다.

행정안전부·성평등가족부·방송미디어통신위원회는 6월 25일 정부서울청사에서「딥페이크 성범죄 대응 기술협력을 위한 업무협약」을 체결하고, 피해영상물의 탐지·분석부터 삭제·차단, 피해자 보호까지 이어지는 딥페이크 성범죄 대응 현장에 본격 활용한다.

이번 협약은 생성형 AI 기술의 발전으로 딥페이크 성범죄가 지능화·고도화되고, 피해영상물이 온라인에서 빠르게 확산되는 상황에 대응하기 위해 마련됐다.

특히 정부는 행정안전부가 국립과학수사연구원과 협업해 개발한 ‘AI 딥페이크 탐지·분석모델’을 관계기관과 공유하고, 이를 피해영상물 대응 과정에 활용해 딥페이크 성범죄 대응의 신속성과 정확성을 높일 계획이다.

협약식에는 김민재 행정안전부 차관, 정구창 성평등가족부 차관, 고민수 방송미디어통신위원회 상임위원 등이 참석해 협약서에 서명하고, 딥페이크 성범죄 피해 예방과 피해자 보호 강화를 위한 기관 간 협력을 약속했다.

>> AI 기반 관계기관 공동대응으로 피해영상물 신속 대응 강화

이번 협약에 따라 세 기관은 ▲AI 딥페이크 탐지·분석모델 공유 및 활용 ▲피해영상물 탐지·삭제·차단 절차 연계 ▲2차 피해 방지를 위한 정보보호·보안조치 등에 협력한다.

행정안전부는 딥페이크 성범죄 대응을 위한 관계기관이 활용할 수 있도록 AI 기술 발전 속도에 발맞춰 ‘AI 딥페이크 탐지·분석모델’을 고도화하는 등 지속가능한 딥페이크 탐지·분석 모델을 제공·공유할 예정이다.

성평등가족부는 기존에 도입활용중인 민간 딥페이크 탐지모델과 더불어 이번 ‘AI 탐지·분석모델’을 병행 활용하여 더 세밀한 피해영상물 및 의심 컨텐츠 분석삭제를 진행하는 한편 피해영상물 처리, 보안 등 업무기준을 마련운용하여 피해자 보호 및 2차피해 방지를 위해 노력한다.

정구창 성평등가족부 차관은 “이번 협약을 계기로 탐지부터 삭제, 수사·의료·치유회복 지원까지 이어지는 피해자 지원체계를 더욱 강화하겠다”라고 말했다.

방송미디어통신위원회는 딥페이크 성범죄 의심 콘텐츠의 온라인 유통에 대응하고, 플랫폼 사업자와의 삭제·차단 협력체계를 강화한다. 또한 재유포·변형 콘텐츠에 대응하기 위해 관계기관 간 정보공유와 협력을 확대한다.

고민수 방송미디어통신위원회 상임위원은 “딥페이크 성범죄물의 신속한 삭제·차단과 재유포 방지를 위해 관계기관과 적극 협력하겠다”라고 말했다.

정부는 이번 협약을 계기로 딥페이크 성범죄 대응 전 과정에 AI 탐지·분석 기술을 연계할 계획이다. 향후 피해영상물 또는 의심 콘텐츠가 접수되면 AI 딥페이크 탐지·분석모델을 활용해 1차 탐지·분석을 실시하고, 그 결과를 삭제·차단 및 피해자 지원 절차와 연계해 신속히 대응할 예정이다.

아울러 각 기관은 피해영상물 처리 과정에서 개인정보와 피해자 인권 보호를 최우선으로 고려하고, 불필요한 복제·공유·보관을 제한하는 등 보안관리 기준을 강화할 방침이다.

행정안전부·성평등가족부·방송미디어통신위원회는 협약 이후 현장에 본격 적용하면서 ‘AI 딥페이크 탐지·분석모델’의 현장 활용도를 높이고, 딥페이크 성범죄 공동대응 성과를 지속적으로 점검할 계획이다.

윤호중 장관은 “딥페이크 성범죄는 피해 확산 속도가 빠르고, 재유포·변형으로 인한 2차 피해 우려가 큰 만큼 관계기관 간 신속한 공동대응이 중요하다”라며,

“행정안전부는 ‘AI 딥페이크 탐지·분석모델’을 관계기관과 공유하고, 탐지·분석부터 삭제·차단, 피해자 보호까지 이어지는 기술 기반 협력체계를 구축해 나가겠다”라고 밝혔다.

출처: 성평등가족부

---

260624_보도자료_딥페이크_탐지모델_도입_업무협약_체결_최종배포본.pdf

694.30KB