미국 국방부 청사 인근에 대형 폭발이 발생해 검은 연기가 치솟는 사진이 소셜미디어를 통해 급속히 퍼지면서 미국 주식시장이 출렁이고 금·국채 가격이 오르는 등의 혼란이 빚어졌다.
백악관이 화재에 휩싸인 이미지도 유포돼 9·11 사태와 같은 대규모 테러가 벌어진 것 아니냐는 공포가 확산됐다. 알고 보니 AI(인공지능)가 만든 가짜 뉴스였다. 금세 사실이 아닌 것으로 밝혀졌지만 시사하는 바가 크다.
챗GPT 같은 생성 AI는 사실 여부에 상관없이 그럴듯한 문장을 만들어낸다.
AI가 만든 가짜 뉴스를 또 다른 AI가 학습해 더 그럴 듯하게 가짜 뉴스를 만들어낼 수 있다. 사용자 개개인의 취향에 따라 1대1 맞춤형으로 허위 정보를 생성할 수도 있다.
가짜 뉴스를 확대 재생산할 수 있어 훨씬 심각한 여론 조작이 우려된다.
내년에 대선과 총선을 앞둔 미국과 영국 등에서는 생성 AI가 만들어낼 가짜 뉴스와 여론 조작의 위험성을 계속 경고하고 있다. 그렇다고 AI 이용 자체를 막을 수도 없다.
최근 유럽연합(EU)은 무분별한 AI 사용을 규제하는 지침 초안을 발표했다. 국내에서도 해당 콘텐츠가 AI를 이용해 제작됐다는 사실을 표시하도록 의무화하는 법안 등이 발의돼 있다.
이런 규제만으로 AI발 가짜 뉴스를 통제하는 것은 사실상 불가능하다. AI의 기술 진보가 너무 빠르기 때문이다.
광우병·사드 괴담을 비롯해 온갖 허위 선동이 꼬리 무는 한국 사회는 안 그래도 가짜 뉴스에 취약한 체질이다.
여기에 AI 기술을 활용한 정교한 가짜 뉴스까지 일상화되면 진실이 뒤덮이고 허구가 판칠 위험이 있다. 지금부터 대비해야 한다.
사마달
2023.05.24 05:03:40
이미 우리나라는 가짜뉴스에 선전선동까지 난무한 지 오래다. 미국산 광우병, 천암함 세월호 미군 침몰, 전자파 먹은 성주참외 등 헤아릴수도 없다. 심지어는 의원이라는 자가 대통령과 장관이 새벽에 청담동 술집에서 노래부르고 놀았다느니 하는 것까지 봤다. 이후 돈도 엄청나게 많이 벌었다는 이야기도 들었다. 이렇게 짭짤하게 돈까지 버는데 어떻게 가짜뉴스와 선전선동이 사라질리가 있겠는가!
Hope
2023.05.24 05:37:53
왜곡 조작 가짜뉴스 처벌을 강화하자...선동질로 피해가 너무크다.
cwcwleelee
2023.05.24 04:52:32
거짓유포자를 색출하여 법이정한데로 처벌밖에없는거 아닌가?
무수옹
2023.05.24 04:38:06
'Cogito, ergo sum.' (I think, therefore I am.) 데카르트의 예언이 정확히 현실화 돼가고 있다. 생각하는 동물이 만들어낸 생각하는 AI가 반대로 인간을 지배하는 결과 아닌가? 고로 인간은 일탈한 AI를 잡는 제2의 AI를 하루속히 개발해야!
CS06
2023.05.24 05:56:58
가짜선동 전문 좌파들A1까지 동원 하면 개 돼지수준의 개딸들 천국 되겠다.