위기-기회 갈림길에 선 AI 〈1〉 민주주의 위협 비상등-2, "100% 진짜~100% 가짜"

위기-기회 갈림길에 선 AI 〈1〉 민주주의 위협 비상등-2 “100% 가짜” 美대선 허위뉴스에 잡음 넣고 판독하자 “100% 진짜”-음성 합성 판독 프로그램    ‘1분’   지난해 8월 공개된 ‘다누리’ 탐사선 관련 뉴스 리포트 영상의 배경 이미지를 ‘달’에서 ‘화성’으로 바꾸는 데 걸린 시간이다. 방법은 간단했다. 국내 기업의 이미지 생성형 인공지능(AI) 서비스에 접속해 뉴스 캡쳐 이미지를 올리고 뉴스 화면의 달 배경을 까맣게 덧칠한 뒤 ‘Mars’를 입력했다. 그러자 AI는 뉴스 캡처 화면에 화성 표면으로 보이는 이미지를 생성해 채워 넣었다. 여기에 AI가 조작한 앵커의 음성을 입히면 한국이 달을 넘어 화성 궤도까지 갈 수 있는 탐사선 발사에 성공했다는 그럴듯한 허위 정보가 만들어진다. 포토샵 등 전문적인 편집 프로그램은 전혀 사용하지 않았다.● “생성형 AI 기술 악용한 허위 정보 폭증 우려”   AI로 만들어지는 허위 정보에 대한 우려와 논란이 확산하고 있는 가장 큰 이유는 기술 발전에 숙련되지 않은 일반 이용자들도 고품질의 조작 콘텐츠를 쉽게 제작할 수 있게 됐기 때문이다. 오픈 AI의 ‘달리(DALL･E)2’나 스타트업 ‘미드저니’ 등의 생성형 AI 서비스를 쓰면 간단한 명령어 입력만으로 이미지의 배경이나 자막을 쉽게 바꿀 수 있다. 이용자가 유명인의 얼굴을 딥페이크 방식으로 자신에게 덧씌워 실시간으로 영상을 스트리밍할 수 있는 기술도 이미 공개돼 있다.   차기 대선 국면에 접어든 미국 정치권에선 AI를 이 같은 방식으로 활용해 만든 각종 허위 정보가 퍼지며 혼란이 가중되고 있다. 도널드 트럼프 전 대통령은 소셜미디에에 앤더슨 쿠퍼 CNN 앵커가 자신을 비속어와 함께 비판하는 영상을 공유했다. CNN 확인 결과 이는 AI로 음성 등을 조작한 영상이었다.생성형 AI 기술 빠르게 발전 “합성 여부 100% 검증 불가능”대선 앞둔 美정치권도 혼란 가중 트럼프 “CNN앵커, 날 비판” 영상 CNN 확인 결과 ‘AI 조작 영상’   이에 AI를 이용해 만든 허위정보들로 채우진 웹사이트도 우후죽순 만들어지도 있다. 미국 비영리단체 뉴스가드의 지난달 초 첫 조사(49개) 때보다 3배 이상 수준으로 늘어난 수치다. 스티븐 브릴 뉴스가드 공동 최고경영자(CEO)는 “AI를 활용하면 사이트 제작 비용이 훨씬 저렴해지고 더 많이 (허위정보를) 생산할 수 있다”고 지적했다.     스트리밍(streaming): [IT용어] 인터넷상에서 음성이나 영상, 애니메이션 등을 실시간으로 재생하는 기법. 지금까지의 재생 방법은 일단 파일을 하드 디스크에 내려받기해서 재생하기 때문에 내려받기가 완료될 때까지 기다려야 하므로 하드 디스크의 빈 용량도 어느 정도 확보되어 있어야 한다. 그러나 스트리밍 기법에서는 흐르는 것을 수취단에서 재생하기 때문에 기다릴 필요가 없으므로 하드 디스크의 용량에 제약받지 않는다. 음성이나 영상 분야의 기술 발달로 인터넷 방송 프로그램 등에 꼭 필요한 표현 기술이 되었다. 또 애니메이션 분야에서도 미국 매크로미디어의 최신 기술을 활용하면, 대상물을 읽는 시간에 구애받지 않고 동화상을 볼 수 있다.