- 국민생활과학자문단, 제52회 국민생활과학기술포럼 개최
|
▶ 7월 26일(수) ‘진짜와 가짜, '딥페이크' 사회적 이슈와 대응방안’을 주제로 포럼이 진행되었다.
|
인공지능 기술이 빠르게 발전하면서 딥러닝 기술을 활용한 딥페이크 영상과 사진이 가짜뉴스나 인권침해 등 부정적으로 사용되는 것에 대한 우려의 목소리가 높아지고 있다. 하지만 딥페이크 기술은 교육 콘텐츠 제작과 공익광고 등 다양한 분야에서 긍정적인 효과도 끌어내고 있다. 이처럼 명과 암, 양면이 있는 딥페이크 기술에 대해 알아보는 자리가 마련됐다. 국민생활과학자문단이 7월 26일 ‘진짜와 가짜, 딥페이크 사회적 이슈와 대응 방안’을 주제로 제52회 국민생활과학기술포럼을 개최했다.
사례로 보는 ‘딥페이크의 빛과 그림자’
포럼 첫 순서로 나선 권태경 연세대학교 정보대학원 교수는 ‘사례로 보는 딥페이크의 빛과 그림자’라는 주제로 발제했다. 권 교수는 “딥페이크는 딥러닝과 페이크의 합성어로, 딥러닝 기술로 생성된 가짜 콘텐츠는 생성형 AI 기술 발전에 의한 주요 결과물”이라고 설명하며 딥페이크 기술을 4가지로 분류했다. 4가지 딥페이크 기술은 새로운 가짜 얼굴을 진짜처럼 만드는 ‘얼굴 생성 기술’과 머리색이나 피부색, 안경 착용, 디에징 등 얼굴의 속성을 바꾸는 ‘얼굴 속성 변경 기술’, 사진과 같은 것의 표정을 바꾸는 ‘표정 변경 기술’, 그리고 원본 영상의 얼굴을 원하는 영상의 얼굴로 교체하는 ‘얼굴 교체 기술’이다.
딥페이크는 얼굴 변환만 다루는 것이 아니라 다양하게 활용된다. 가상 인간을 만들고 메타버스에서도 응용되고 있다. 영상뿐만 아니라 텍스트와 보이스 변환도 딥페이크의 확장이다. 실제 인물을 모방하거나 아니면 새로운 어떤 것을 생성하는 것, 모두가 딥페이크다. 권 교수는 “딥페이크가 생성형 AI의 산물인 만큼 영화나 게임, 교육, 홍보 등의 분야에서 고품질의 가상콘텐츠 제작에 활용되어 우리 삶을 굉장히 윤택하게 하는 긍정적 측면도 있지만 사생활 침해와 사기 등 범죄에 악용이 가능해 사회적 불신을 초래할 우려가 있는 등 나쁜 면도 있다”라고 지적했다.
권 교수는 딥페이크의 악용사례를 4가지 문제점으로 저작권 침해, 개인 프라이버시 침해, 사회적 혼란과 명예훼손, 딥페이크 탐지의 어려움 등을 꼽았다. 그는 “딥페이크가 매우 많은 양의 원작자가 만든 콘텐츠를 이용해서 학습하는 생성형 AI 모델이기 때문에 원작자들의 저작권 침해 문제가 심각하다. 영화 해리 포터의 배우 엠마 왓슨의 얼굴을 딥페이크에 입혀서 음란물 광고에 활용한 사례처럼 지인을 능욕하거나 개인 프라이버시를 침해하는 사례는 피해 연령층이 낮기 때문에 더 큰 사회적 문제로 번지고 있다. 딥페이크가 딥보이스나 딥텍스트로 생산한 가짜 뉴스와 가짜 정보가 사회적 혼란을 야기하고, 교황이 고가의 패딩을 입었다는 딥페이크 사진으로 심각한 명예훼손을 한 사례도 있다”라고 설명했다.
이런 딥페이크 악용에 대한 대응은 기술적, 사회적, 제도적 방안 등 다각적으로 모색되어야 한다며 권 교수는 “기술적으로 딥페이크는 탐지기술의 고도화다. 예를 들어 실제 사람의 얼굴엔 혈류 변화가 있을 것이기 때문에 딥페이크 영상에서 혈류 변화까지 체크하는 기술을 도입해서 탐지율을 높였다. 이와 함께 초반에 딥페이크 생성을 억제하는 기술의 고도화도 필요하다. 다만 탐지기술과 생성억제기술이 공존했을 때 생기는 생태계의 문제점도 같이 해결을 모색해야 한다. 딥페이크 범죄 피의자의 절반 이상이 10대이기 때문에 AI 윤리교육을 통한 경각심 고취로 딥페이크 범죄를 예방해야 한다”라고 덧붙였다.
|
▶ 권태경 연세대학교 정보대학원 교수가 발제 중이다. (클릭 시 해당 부분으로 이동)
|
딥보이스의 위협과 대응은 어떻게?
두 번째 순서로 정수환 숭실대 전자정보공학부 교수가 ‘딥보이스 위협 및 대응’을 주제로 발제했다. 딥보이스는 딥페이크와 보이스의 합성어로, 음성에 특화된 딥페이크다. 정 교수는 “현재 딥보이스 생성 기술이 발전해, 비전문가도 손쉽게 합성 음성 생성이 가능하다. 최근 AI 기반 소프트웨어로 CEO의 목소리를 흉내 내서 은행 거래의 승인을 받은 사건도 있었다. 아직은 실시간 인터랙션 품질이 떨어지지만 향후 2~3년 내로 인터랙티브한 딥보이스 기반의 보이스 피싱도 얼마든지 가능할 것으로 본다”라고 예측했다.
딥보이스를 활용한 보이스 피싱 사례에 대해 정 교수는 “페이스북이나 트위터에서 타겟 대상의 음성 샘플을 수집한 다음에 그것을 이용해서 모델학습을 하는데 과거에는 몇 시간 정도 필요했으나 지금은 1분 미만으로도 충분하다”라며 “AI 모델학습을 통해서 음성합성을 하고 그것으로 보이스 피싱을 한다. 2021년까지는 합성된 음성이 어색해서 구별이 가능했으나 지금은 거의 구별이 어려운 상황이다. 그래서 합성된 내 가족이나 지인의 목소리로 보이스 피싱이 시도되면 신뢰성이 쉽게 확보되기 때문에 속아 넘어가는 데 치명적일 수밖에 없다”라고 지적했다.
이와 같은 딥보이스의 생성 기술에는 TTS(Text to speech)와 보이스 컨버전(Voice Conversion)이 있다. TTS는 원하는 내용의 글을 목표 화자가 말한 것처럼 음성을 생성한다. 즉 문장을 집어넣으면 딥러닝 기술을 이용해 바로 합성음이 생성되는 기술이다. 보이스 컨버전은 원하는 내용의 글을 직접 발화하고(Speech) 이를 목표 화자가 말한 것 같은 음성으로(Speech) 생성한다. 즉 내가 말하는 목소리를 타겟 스피커의 목소리로 바꿔버린다. 현재 TTS의 음성 품질은 상당히 좋은 편이나 보이스 컨버전은 아직까지 다소 부족한 상황이지만 조만간 사람의 귀로 구분이 어려운 수준에 이를 것으로 예측된다. 이러한 이유로 딥보이스 탐지기술이 무엇보다 중요하다는 것이다.
정 교수는 “지금까지 음성 분야에서 연구를 해왔던 것은 ASV(Automatic Speaker Verification)와 ASR(Automatic Speaker Recognition)가 있다. ASV는 시스템에 입력된 목소리가 대상 화자의 것이 맞는가를 검증하는 것이고 ASR은 입력된 목소리가 멤버들 중에서 누구 목소리인가를 찾아내는 기술이다. 하지만 최근 딥보이스 기술이 크게 발달해 ASV나 ASR로 개발된 인증 시스템을 쉽게 통과하는 사례가 많이 나오고 있다”라며 “따라서 화자의 음성 인식은 물론 그것이 진짜 음성인지, 합성된 것인지를 탐지하는 것이 더 중요하다. 이런 부분의 기술적 진보가 많이 절실히 필요한 상황”이라고 진단했다.
|
▶ 정수환 숭실대학교 전자정보공학부 교수가 발제 중이다. (클릭 시 해당 부분으로 이동)
|
딥페이크 기술의 법적, 제도적 대응 방안
세 번째 순서로 우사이먼 성균관대 인공지능학과/데이터사이언스학과 교수가 ‘딥페이크 대응 방안(기술, 법/제도)’을 주제로 발제했다. 우 교수는 “딥페이크 탐지의 기본적인 방법은 많은 양의 실제 사람 얼굴과 가짜로 생성된 얼굴을 수집하고, 그 데이터셋을 가지고 지도학습으로 탐지모델을 만들게 된다. 그래서 데이터 수집이 중요하다. 예를 들어 CelebA-HQ라는 공개된 데이터셋으로 실제 유명인들의 이미지를 조합한 아주 많은 양의 데이터를 모은다. 가짜 이미지는 GAN(Generative adversarial network)에서 생성된 것들을 많이 모을 수가 있다. 데이터셋이 많을수록 탐지 성능은 올라가게 되어 있다. 하지만 새로운 딥페이크 생성 기술은 계속 진화할 것이고, 그에 따른 데이터셋 수급이 현실적으로 쉽진 않기 때문에 딥페이크 탐지는 아직은 굉장히 도전적인 과제”라고 강조했다.
아울러 딥페이크의 악용사례가 많기 때문에 법적, 제도적 대응 방안이 중요하다는 것이다. 우 교수는 “불법 동영상 딥페이크와 관련해 국내 처벌 규정들이 엄격해지고 있다. 현재 관련 처벌 규정으로는 딥페이크로 음란물을 만드는 것은 엄밀한 디지털 (성)범죄에 속한다. 그래서 성폭력 범죄에 대한 처벌과 절차에 대한 특례 14조의 2 ‘대상자의 의사에 반하여 인물의 얼굴이나 신체, 음성을 대상으로 영상물, 촬영물, 음성물 등을 성적 욕망 혹은 수치심을 유발하는 형태로 편집, 합성 및 가공한 혐의가 인정되어 유저 판결을 받게 되면 5년 이하 징역 혹은 5000만 원 이하 벌금형에 처하게 된다”라며 “이외에도 초상권과 저작권 침해, 명예훼손, 아동‧청소년의 성보호에 관한 법률, 아동‧청소년 성착취물 제작 및 유포 법률에 따라 강력하게 처벌이 될 수 있다”라고 설명했다.
우 교수는 해외에서도 강력하게 처벌하고 있다며 “최근 들어 영국에서도 온라인 세이프티 빌(Online Safety Bill)이라고 해서, 인티메이트(Intimate) 한 이미지나 성 관련된 이미지의 딥페이크 생성물을 공유할 경우 징역 2년까지 처벌할 수 있는 규정들이 생기고 있다. 미국 미네소타주는 단순히 성적 딥페이크에 대해서만 처벌하는 것이 아니라 선거권과 관련된 것으로 후보자 비방이나 가짜 뉴스를 만드는 경우에도 징역 5년 이하, 벌금 1만 달러까지 처벌이 가능하다”라고 소개했다. 딥페이크 탐지기술에 대해 미국 고등과학원에서는 2018년부터 68만 달러를 투자하고 있고, 아마존이나 페이스북 등 해외 기업들도 딥페이크 탐지 챌린지를 여는 등 많은 관심을 쏟고 있다.
결론적으로 우 교수는 “우리나라도 과기부의 딥페이크 탐지 및 방지 관련 R&D와 경찰청의 딥페이크 탐지 및 수사가 활발히 진행되어야 한다. 인터폴이나 FBI와의 국제 공조도 필요하다. 법적으로는 딥페이크 관련 법령을 좀 더 강화할 필요가 있다. 또 중요한 것은 피해자 보호와 2차 피해 차단이다. 대개 딥페이크 악용사례의 피해자가 여성들이기 때문에 2차 피해를 차단하고 보호할 수 있는 제도적인 정책들이 많이 필요하다”라며 “단순하게 딥페이크 탐지가 기술 개발만으로 해결될 문제는 아니다. 학계랑 정부 기관, 기업에서도 다양하게 서로 협력하고 공조해서 딥페이크가 악용되는 사례에 대해서 같이 논의하고 효율적으로 탐지할 수 있는 기법을 만들어 내야 할 것”이라고 덧붙였다.
|
▶ 우사이먼 성균관대학교 인공지능학과/데이터사이언스학과 교수가 발제 중이다. (클릭 시 해당 부분으로 이동)
|
패널토론, 딥페이크 문제 극복 방안 모색
발제 후에는 김익균 ETRI 사이버보안연구본부 책임연구원을 좌장으로 하고 장광호 경찰청 경찰대학 스마트치안지능센터장, 백은경 정보통신기획평가원 디지털사회혁신 PM, 진승혁 클레온 대표 등이 참여한 가운데 패널토론이 진행됐다.
장광호 센터장은 “현재 경찰이 딥페이크만 유형 분류해서 통계를 관리하고 있지는 않다. 사이버 범죄 중에서 허위 영상물이라는 범주로 통계관리를 하고 있는데 그게 매년 100여 건 정도이고 그중에 딥페이크 기술을 이용한 것이 1년에 2~30여 건이다. 최근 사례가 4건 있는데, 2건은 연예인 사진을 음란물과 합성해서 공유한 것이고, 2건은 지인 능욕 사진을 만들어서 SNS에 게재한 것이다. 지인을 부적절한 방식으로 합성하는 경우가 최근에 더 늘어나고 있다. 보이스피싱과 같은 범죄 집단의 케이스가 우려되는데, 실제로 검거된 사례가 없어서 어떤 기술을 사용하고 있는지 확인되지 않고 있어 앞으로 이에 대한 연구가 좀 더 적극적으로 필요하다”라고 설명했다.
진승혁 대표는 “딥페이크를 어떻게 정의하느냐에 따라 다르겠지만, 실제가 아니라 가상의 세상에 존재하지 않든 존재하든, 그런 디지털 휴먼을 만드는 전반적인 모든 기술이라고 생각한다”라며 “좋은 사례로 더빙 솔루션이 있다. 한국어로 얘기하는 것을 자신의 목소리 그대로 영어나 중국어 등으로 실시간 통역해 주는 서비스다. 글로벌 기업들의 최대 장벽인 언어를 쉽고 빠르게 소통할 수 있도록 하는 장점이 있다. 클론이라는 서비스도 있는데, 이것은 외교부에서 사용하고 있다. 디지털 장관을 만들어서 국민 개개인에게 맞는 커스텀 영상을 보낼 수 있고, 영어, 중국, 스페인어, 일본어 등 다양한 언어로 우리나라를 홍보할 수도 있다”라며 “국내에 디지털 휴먼의 일부 기술들과 원천 기술들을 개발하는 스타트업들이 있다. 이들에 대한 지원이 필요하다”라고 강조했다.
백은경 PM은 “딥페이크 기술에 초점을 맞춰 정책이 이뤄진다기보다는 AI 기술 활용성 측면이나 디지털 기술을 이용한 사회문제 해결 분야에서 같이 다뤄지고 있다. 글로벌 조사기관에 따르면 다크웹과 같은 불법 사이트에서 딥페이크를 이용해서 많은 범죄가 일어나고 있는데 피해자 수의 국가별 순위를 봤을 때 우리나라가 가장 많은 것으로 조사된 바 있다”라며 “과거에 사진의 불법 복사를 막기 위해 워터마크를 사용했던 것처럼 우리나라 연예인이나 일반인들이 SNS에 사진을 올릴 때 그것이 딥페이크에 악용될 수 없도록 워터마크 역할을 하는 것을 넣을 수 있는 기술에 대한 연구들도 최근 진행되고 있다”라고 밝혔다.