미국과 이란이 인공지능으로 해당 지역을 도배하는 이유

[이매진]

미국과 이란이 인공지능으로 해당 지역을 도배하는 이유

인공지능이 생성한 선전성 콘텐츠인 '슬로파간다'는 엄청난 규모의 대중에게 도달할 수 있기 때문에 일반 대중에게 미치는 작은 오해의 소지라도 상당한 결과를 초래할 수 있다고 두 명의 학자는 말합니다.

https://www.channelnewsasia.com/commentary/ai-generated-slop-propaganda-us-iran-war-6043521

Commentary: Slopaganda wars - why the US and Iran are flooding the zone with AI

시드니: 3월 초, 미국과 이스라엘의 이란 첫 공습이 있은 지 일주일 후, 백악관은 실제 미국의 공격 장면과 인기 영화, TV 시리즈, 비디오 게임, 애니메이션 장면을 섞어 만든 영상을 게시했습니다.

이란과 그 지지자들은 이번 공습에 대한 대응으로 소셜 미디어에 현재 분쟁에서 나온 것으로 추정되는 오래된 전쟁 영상과 텔아비브 및 페르시아만 미군 기지를 공격하는 모습을 묘사한 AI 생성 콘텐츠를 대량으로 유포했습니다.

최근에는 이란인들이 제작한 것으로 추정되는 영상 클립에서 도널드 트럼프, 제프리 엡스타인, 사탄, 벤자민 네타냐후, 피트 헤그세스, 아야톨라 하메네이 등이 레고 피규어로 묘사되어 화제가 되었습니다.

슬로파간다라는 새로운 세상에 오신 것을 환영합니다.

슬로파간다의 부상

지난해 말, Filisofiska Notiser에 발표한 논문에서 우리는 선전 목적으로 활용되는 AI 생성 콘텐츠를 가리키는 신조어 "슬로파간다(slopaganda)"를 만들었습니다.

선전이란 정치적 목적을 달성하기 위해 신념, 감정, 주의력, 기억 및 기타 인지적, 정서적 과정을 조작하려는 의도를 가진 의사소통을 의미합니다. 여기에 생성형 인공지능을 더하면 그 결과는 슬로파간다(slopaganda)가 됩니다.

그 이후로 슬로파간다 사태는 우리가 예상했던 것보다 훨씬 더 악화되었습니다.

2025년 10월, 도널드 트럼프 미국 대통령은 인공지능(AI)이 생성한 영상을 게시했는데, 그 영상에서 그는 왕관을 쓰고 전투기를 조종하며 미국 시위대에게 배설물을 던지는 모습을 보여줬습니다. 최근에는 자신의 대통령 기념관을 황금 엘리베이터가 있는 거대하고 화려한 고층 빌딩으로 묘사한 AI 생성 영상을 게시하기도 했습니다.

레고를 테마로 한 이란의 저질 광고는 최근 사례일 뿐입니다. 이러한 광고 자료는 영상뿐만 아니라 이미지, 텍스트, 인공지능이 생성할 수 있는 모든 형태를 띨 수 있습니다.

슬로파간다(Slopaganda)가 우리의 방어망을 어떻게 뚫고 들어오는가

이 모든 허황된 광고의 요점은 무엇일까요? 지금까지 몇 가지 답이 나왔습니다.

첫째, 기존 미디어와 소셜 미디어 모두에서 반복적으로 노출됨으로써, 선정적인 선전물은 우리의 일반적인 정신적 방어막을 뚫고 들어올 수 있습니다. 이러한 선전물은 시선을 사로잡고, 감정적으로 강한 인상을 주며(대개 부정적인 방식으로), 소셜 미디어를 스크롤하거나 브라우저 탭을 전환하는 등 주의가 산만한 사람들에게 전달될 때 효과를 발휘합니다.

둘째, 이는 우리가 안다고 생각하는 것들의 세계, 즉 인식 환경을 거짓과 반쪽짜리 진실로 희석시키는 매우 효과적인 방법입니다. 철학자들이 주장했듯이, ChatGPT와 같은 생성형 AI 도구들은 진실에 무관심한 콘텐츠를 만들어내는 기계가 될 수 있습니다.

슬로파간다는 인공지능이 생성한 콘텐츠의 특별한 유형으로 이해할 수 있지만, 이란의 레고 영상 캠페인과 같은 사례에서 그 활용 방식을 살펴보면 그 고유한 특징이 더욱 분명해집니다.

누구도 트럼프가 F-16 전투기를 조종해서 똥을 뿌릴 수 있다고 생각하지 않습니다. 마찬가지로 누구도 플라스틱 트럼프 레고 피규어와 플라스틱 사탄 피규어가 공모했다고 믿지 않을 것입니다. 이러한 슬로파간다는 정확성을 추구하기보다는 감정과 정서를 표현하고 상징적으로 보여주며, 연상 작용을 일으키도록 의도된 것입니다. 예를 들어 사탄은 트럼프와, 미국은 악과 연관 짓는 식의 연관성을 만들고자 하는 것입니다.

슬로파간다가 공유하는 진실에 의미하는 바는 무엇인가?

세 번째 요점은 일부 허위 정보가 실제로 오해를 불러일으킨다는 것입니다. 이는 의도적인 것일 수도 있고, 농담이나 조롱이 의도된 맥락에서 벗어나 심각하게 받아들여지는 경우일 수도 있는데, 학자들은 이러한 현상을 "맥락 붕괴"라고 부릅니다. 딥페이크를 포함한 오해를 불러일으키는 허위 정보는 사람들이 정보를 원하지만 신뢰할 만한 정보원이 부족한 분쟁, 위기 및 비상 상황에서 빠르게 생성될 수 있습니다.

일단 잘못된 정보나 특정 연상이 사람들의 마음에 자리 잡으면 떨쳐내기가 어렵습니다. 허위 선전은 엄청난 규모의 대중에게 도달할 수 있기 때문에 일반 대중에게 미치는 작은 오해의 소지라도 심각한 결과를 초래할 수 있습니다. 국가, 기업, 그리고 개인 모두 선거 결과, 시위 운동, 또는 인기 없는 전쟁에 대한 일반적인 여론을 포함한 집단의 신념과 결정에 영향을 미칠 가능성이 있습니다.

넷째, 허위 선전물이 만연하면 다른 모든 것에 대한 의심이 생길 수 있습니다. 사람들은 이러한 유형의 자료를 더 잘 식별하게 되겠지만, 동시에 진정한 콘텐츠를 허위로 오인할 가능성도 높아질 것입니다. 결과적으로 진정으로 신뢰할 수 있는 개인과 기관에 대한 대중의 신뢰도 또한 떨어질 수 있습니다.

이러한 현상이 발생하면, 전반적으로 진정으로 신뢰할 수 있는 개인과 기관에 대한 대중의 신뢰가 떨어지고, 결국 무엇인가를 제대로 아는 것에 대한 일종의 허무주의적 의심으로 이어질 가능성이 높습니다.

믿을 만한 정보원을 찾기가 어렵거나 불가능할 때, 사람들은 자신에게 위안이 되거나, 활력을 주거나, 혹은 분노를 유발하는 것이라면 무엇이든 믿을 수밖에 없습니다. 경제적, 정치적, 군사적, 환경적 위기가 복합적으로 얽혀 있는, 점점 더 양극화되는 사회에서 공통의 진실이 무너지는 것은 상황을 더욱 악화시킬 뿐입니다.

슬로파간다를 막는 3가지 방법

슬로파간다(slopaganda, 저급 음식 유통) 상황을 어떻게 해결할 수 있을까요? 본 논문에서는 세 가지 차원에서 개입 방안을 논의합니다.

첫째, 개인은 디지털 활용 능력을 향상시킬 수 있습니다. 예를 들어 텍스트, 이미지, 비디오에서 인공지능의 흔적을 찾아내는 연습을 할 수 있습니다. 또한 단순히 헤드라인이나 다른 콘텐츠를 훑어보는 데 그치지 않고 출처를 확인하는 방법을 배우고, 허위 정보를 퍼뜨리는 출처를 차단하는 습관을 들여야 합니다. 이렇게 하면 허위 정보에 속지 않으면서도 신뢰할 수 있는 뉴스 및 정보 출처를 믿을 수 있게 됩니다.

둘째, 업계와 규제 당국은 AI가 생성한 콘텐츠에 워터마크를 넣는 기술적 해결책을 시행할 수 있습니다. 일부 콘텐츠는 사람들이 뉴스나 기타 중요한 정보를 접하는 플랫폼에서 삭제해야 할 수도 있습니다.

셋째, 오픈아이(OpenAI), 구글, X와 같은 대형 기술 기업들은 자신들이 만든 것에 대해 책임을 져야 합니다. 이를 위해 세금 부과 및 기타 조치를 통해 규제 노력과 디지털 문해력 교육에 자금을 지원할 수 있습니다.

슬로파간다는 아마도 사라지지 않을 것입니다. 하지만 충분한 선견지명과 용기가 있다면 우리는 여전히 슬로파간다에 적응하고 심지어 통제할 수도 있을 것입니다.

마크 알파노는 맥쿼리 대학교 철학과 부교수입니다. 미할 클린체비치는 틸버그 대학교 전산인지과학과 조교수입니다. 이 논평은 The Conversation에 처음 게재되었습니다 .

출처: 기타/sk