AI가 가짜뉴스 주범? 반대로 가짜뉴스 색출도 AI로 가능하다 / 김정호

[유진]

■ 김정호의 AI시대의 전략

AI가 가짜뉴스 주범? 반대로 가짜뉴스 색출도 AI로 가능하다

김정호 ( KAIST 전기·전자공학과 교수)

그래픽=양인성

‘양자역학’(Quantum Mechanics)은 원자와 같은 미시세계에서 일어나는 물리적인 현상을 탐구하는 현대물리학의 한 분야이다. 양자역학에서 전자(電子)는 입자의 성질과 파동의 성질을 동시에 갖는다. 반도체 속에서 이동하는 전자는 파도처럼 물결치면서 이동한다. 그래서 양자역학은 거시세계에 살고 있는 우리 대부분의 인간에게 정말 이해하기가 어렵다. 양자역학을 더욱 어렵게 하는 이론이 바로 ‘불확정성 원리(Uncertainty Principle)’이다. 미시세계에서는 전자의 위치와 운동량을 동시에 정확하게 측정할 수 없다는 원리이다. 우리가 전자를 관측하려면 빛과 충돌을 시키는데, 관측하려는 순간 이미 전자의 존재를 방해하게 되고 결과적으로 전자의 상태는 달라지게 된다. 따라서 전자의 위치는 영원히 정확하게 알지 못한다. 존재 확률만 구할 뿐이다. 이렇게 불확실한 양자역학에 기초해서 반도체가 등장했고, 그래서 생성 인공지능도 가능하게 되었다. 결국 인공지능도 본질적으로 불확실하고 확률적이다. 마찬가지로 생성 인공지능이 만든 작품도 ‘진짜’인지 ‘가짜’인지 구분하기 매우 어려워졌다. 우리는 이제 ‘진짜’와 ‘가짜’의 경계선에 살게 되었다.

어도비(Adobe Systems)는 1982년에 시작한 미국의 대표적인 영상처리 소프트웨어 기업이다. 대표적인 상품으로 일명 ‘뽀샵’으로 불리는 포토샵(Adobe Photoshop)이 있다. 포토샵을 이용하면 카메라로 찍은 이미지를 마음대로 변형할 수 있다. 색깔이나 모양을 바꿀 수 있다. 인물 사진의 코를 높일 수도 있고 턱을 깎을 수도 있고, 피부도 곱게 바꿀 수가 있다. 여기에 더해 2023년 10월 10일 로스앤젤레스에서 열린 ‘Adobe MAX2023′ 행사에서 생성 인공지능 기능을 대대적으로 선보였다. ‘FireFly’라는 강력한 생성 인공지능 설루션을 사용하면 초 단위로 ‘가짜’ 이미지를 마음대로 생성해 낸다. 주어진 인물 사진에서 머리 색깔, 옷, 넥타이, 배경 그리고 주변 인물 등을 마음대로 바꿀 수 있다. ‘프롬프트(Prompt)’라고 불리는 명령만 입력하면 된다. 이렇게 되면 사건이 발생한 시간과 장소, 그리고 동반자 등을 조작할 수 있게 된다. 그럼 사실(事實)이 바뀐다. 저작권이 만료돼 저작권 분쟁 우려가 해소된 데이터들을 이용해서 학습했기 때문에 저작권 문제도 피해갈 수 있다. 이제는 비전문가도 생성 인공지능 도구를 일상에서 쓸 수 있게 만들어 시장 확대와 대중화를 추구한다. 그 결과 2023년 11월 현재 생성인공지능 ‘Firefly’로 생성한 이미지는 30억 건을 넘어섰다. 그리고 포튜토리얼(Ptotutorial)에 따르면 포토샵을 사용하기 위한 어도비 크리에이티브 클라우드 구독자는 2950만명 이상으로 추정된다. 누구나 가짜를 쉽게 손안의 컴퓨터에서 생성할 수 있는 시대가 되었다. 이제 거꾸로 인간은 인공지능을 이용해서 생성 인공지능이 만든 가짜를 분별해 낼 능력이 필요하게 되었다.

그래픽=양인성

생성 인공지능의 시초로 GAN(Generative Adversarial Network) 모델이 있다. GAN은 기본적으로 가짜 복제품을 만드는 인공지능 모델이다. 여기에는 가짜를 만드는 생성기(Generator)와, 진짜와 가짜를 구별하는 판별기(Discriminator)로 구성되어 있다. 여기서 생성기는 가짜를 최대한 진짜같이 만들도록 학습하고, 판별기는 끝까지 가짜를 구별해내도록 학습한다. 생성기는 일종의 위조지폐 범인이고 판별기는 이를 찾는 경찰이 된다. 이들이 서로 경쟁하면서 학습해서 진짜 같은 가짜를 만들어 낸다. 서로 창과 방패의 역할을 한다. 이럴 때 GAN에서 개발한 판별기를 이용하면 가짜 사진을 찾아 낼 수도 있다. 다른 한편으로는 인공지능이 생성한 텍스트나 이미지는 일정한 패턴을 숨기고 있는 경우가 있다. 생성 인공지능의 이미지의 경우 눈에 보이지는 않지만 지문처럼 숨겨진 패턴이 남아 있는 경우가 있기 때문이다. 아직은 연구 단계의 결과이지만 곧 실현될 수 있다. 이처럼 인공지능이 진실(眞實) 수호(守護)를 위한 창이기도 하고, 방패이기도 할 것이다. 지금까지는 인공지능 생성 기술의 개발과 확산에 대규모의 인력과 인프라 그리고 자본이 투입되었다지만, 앞으로는 가짜의 판독에도 마찬가지의 대규모 투자가 필요한 시점이 되었다.

생성 인공지능이 만든 작품을 따로 구별하기 위해서 ‘워터마크(Watermark)’ 제도가 도입될 수도 있다. 워터마크는 진품을 보증하기 위해서 수백년 전부터 ‘사용되었다. 진품을 증명하기 위해서 종이를 불빛에 비추거나 종이가 젖었을 때만 볼 수 있는 표식(Mark)이어서 이름에 물(Water)가 들어간다. 인공지능이 생성한 작품에는 디지털 워터마크를 표시하도록 의무적으로 규제할 수도 있다. ‘공백’ ‘사본’ ‘샘플’ ‘인공지능 생성’ 등과 같은 문구를 텍스트나 이미지에 삽입할 수 있다.

우리 사회가 가장 기본적으로 추구하는 민주주의에서는 한 국가의 주권이 특정 개인이나 집단이 아닌 국민 전체에게 있다. 여기서 국민의 의사가 정확히 반영되도록 하는 제도가 바로 선거이다. 여기서 선거의 기본원칙은 보통, 평등, 직접 그리고 비밀 선거의 네 가지이다. 국민의 의사를 최대한 방해받지 않고 자유롭고, 정확하게 전달하기 위한 대원칙이다. 이를 통해서 각 국민은 자신의 이념과 가치 그리고 신념에 따라 자유롭게 투표하게 된다. 따라서 이러한 국민 판단의 기초가 되는 ‘사실’의 전달이 매우 중요하다. 사실은 진짜들의 조합이다. 따라서 이 사실의 진실성이 흔들린다면 민주주의의 근간이 흔들리게 되는 것이다. 그래서 가짜 뉴스는 민주주의에 최악의 범죄이다. 이제 인공지능이 가짜의 생성에 도움을 줄 수도 있고, 가짜를 찾는 데 이용될 수도 있다. 민주주의의 수호자가 될 수 있는 것이다. 지금까지 인터넷을 비롯한 디지털 기술의 진보는 민주주의 발전에 크게 기여해 왔다. 정보의 소통 속도를 빛의 속도로 빠르게 했다. 거짓과 비밀도 감추기 어려워졌다. 핸드폰, 컴퓨터, 그리고 데이터 센터 서버의 메모리 반도체에 남아 있기 때문이다. 이제 한걸음 더 나아가 인공지능이 민주주의 수호의 역할을 할 것으로 기대한다.