Reporter's eye-Deepfake

[김지원]

Deepfake (한글기사).docx

[Reporter’s eye]

Deepfake

사회부 부장기자 김지원

4차 산엄혁명의 대표적 산물인 AI를 활용하여 기존의 포르노 영상 속 배우 얼굴에 다른 일반 배우의 얼굴을 합성하는 페이크 포르노(Fake Porn)가 나타났다. 이 인공지능 포르노는 미국의 한 인터넷 사이트인 레딧(Reddit)에 딥페이크(Deepfake)라는 유저가 처음 올려 “딥페이크 포르노”라고도 불린다. 기계학습의 일종인 “딥러닝”과 가짜라는 뜻의 “페이크”의 합성어이다. 이는 스칼렛 요한슨, 테일러 스위프트, 엠마 왓슨 등의 합성 영상으로 인터넷에 퍼지기 시작했다.

이 포르노에는 데이터로부터 패턴을 학습하여 새로운 데이터에 적용하는 기계학습 기술인 딥러닝을 적용했다. 딥러닝은 자료만 있다면 기계 스스로가 학습할 수 있어 온라인에 무료 공개된 오픈 소스 코드와 약간의 기계학습 알고리즘 지식만 있다면 누구든지 쉽게 만드는 것이 가능해 파급력이 엄청나다. 즉 다양한 각도의 대상 사진을 모으고, 사진값을 대입할 포르노 영상을 고른 다음 컴퓨터가 나머지를 해주길 기다리면 누구나 현실적인 조작 영상을 만들 수 있게 된 것이다. 실제로 조작영상을 만들기 위한 소프트웨어는 한달만에 무려 10만번의 다운로드 횟수를 기록하고 있어 조작영상 보편화가 코앞에 있다고 해도 과언이 아니다.

지금은 유명 배우들을 위주로 포르노 조작 영상이 들끓고 있어 특정인들의 명예훼손이 일어나고 있다. 그러나 일반인들도 여러 각도의 충분한 사진만 있다면 조작영상의 위험에서 벗어날 수 없다. 특히나 SNS에 일반인의 사진이 넘쳐나는 지금 같은 시대에 유명인의 얼굴뿐만 아니라 일반인의 얼굴을 이용한 조작 영상 유포가능성이 커져 개개인의 명예훼손을 야기하는 윤리적 문제가 심각해질 전망이다. 또 이러한 윤리적인 문제도 있지만 더 나아가서 우리의 인지력을 시험하는 문제이기도 하다. 실제로 하지 않았던 말을 듣고, 하지 않았던 행동을 했다고 믿게끔 하는 조작 영상은 포르노뿐만이 아닌 사회 전반에 혼란을 일으킬 수 있는 위험한 발명품이다. 앞으로는 사람 얼굴이 제대로 보이고 목소리가 들려도 사실이 아닐 수도 있다는 불안감에서 벗어나지 못하게 될지도 모른다.

이러한 사실여부의 안위가 흔들리는 와중에 정치적 국가적으로 악용된다면 이는 걷잡을 수 없는 피해가 발생하게 될 것이다. 이러한 결과가 예상되는 근거는 최근에 미국의 버즈피드가 버락 오바마 전 미국 대통령이 트럼프 대통령을 ‘머저리’라고 부르는 가짜 영상이다. 이 영상이 언론에 유포되고 만인이 사실이라고 믿는다면 사실이 아닐지라도 오바마는 비난을 면치 못할 것이다. 이는 미국내 에서 뿐만 아니라 국가간의 정치적 혼란과 국가적 안보에 위협이 될 수 있음을 경고한다.

지금까지 일반인들에게는 2D영역까지만 허락되어왔지만 딥페이크 기술이 보편화 되면서 일반인들에게도 3D영역까지 재창조가 가능하게 되었다. 누구에게나 발전된 기술이 보급되고 쉽게 사용되는 것은 인류가 전체적으로 업그레이드가 되었다는 것을 뜻한다. 발전된 기술이 목적에 맞게 잘 적용이 되면 인류에 좋은 결과물을 안겨주지만 윤리적이지 못한 목적으로 기술을 사용하게 된다면 인류에 재앙을 가져다 줄 수 있어 발전된 기술은 양날의 칼이라 할 수 있다. 따라서 목적에 맞게 사용될 수 있도록 법적 규범과 윤리적 대응책이 필요하다. 그러나 문화지체론에서 주장하듯 언제나 윤리적 대응책이 기술발전을 따라가지 못했듯이, 기관들과 회사들은 AI기술에 대한 윤리적 손길이 준비가 되지 않았다.  

AI기술을 포함해 앞으로 발전될 기술들에 대해 문제점을 예상하고 그에 대한 대응책의 준비없이 무작정 기술발전을 도입하는게 맞는지 재고해봐야 할 시점이라고 생각한다. 따라서 우리는 새로운 기술을 도입할 때, 그것을 단순히 기계적 변화로 받아들여서는 안된다. 이것이 시간이 지나면서 사회제도나 가치관 등에 어떤 영향을 줄 것인지를 예측해보고, 바람직한 방향으로의 문화변동을 일으키도록 보충적 장치를 마련해야 될 것이다.