중국, '아메리칸 드림' 조롱 선전에 AI 활용

[이매진]

중국, '아메리칸 드림' 조롱 선전에 AI 활용

https://www.aljazeera.com/economy/2024/3/29/china-turns-to-ai-in-propaganda-mocking-the-american-dream

China turns to AI in propaganda mocking the ‘American Dream’

중국 국영 언론의 A Fractured America 시리즈는 AI가 베이징의 영향력 캠페인을 어떻게 형성하기 시작했는지 보여줍니다.

중국은 인공지능(AI)을 사용해 해외에 메시지를 전파하고 있다 [Andrea Verdelli/Getty Images]

에린  헤일

게시일: 2024년 3월 29일2024년 3월 29일

대만 타이페이 – “아메리칸 드림. 모두를 위한 것이라고 하는데 정말 그럴까요?”

마약 중독과 투옥률부터 증가하는 부의 불평등에 이르기까지 미국의 주요 문제를 다루는 65초짜리 AI 생성 애니메이션 비디오가 시작됩니다.

계속 읽으세요4개 항목 목록4개 중 1개 목록조 리버만(Joe Lieberman) 전 미국 상원의원이 82세의 나이로 사망: 언론 보도목록 2/4테이트에 대해 얘기해볼까요? 호주 학교의 '매노스피어'4개 중 3개 목록미국 증시, 사흘 만에 사상 최고치 경신4개 중 4개 목록볼티모어의 프란시스 스콧 키 브리지(Francis Scott Key Bridge) 참사에서 시신 두 구가 회수되었습니다.목록 끝

뉴욕을 닮은 도시 풍경 위로 폭풍 구름이 모이는 가운데, 영상이 끝날 무렵 어두워지는 하늘에는 “AMERICAN DREAM”이라는 글자가 걸려 있습니다.

메시지는 분명합니다. 모두를 위한 더 나은 삶을 약속함에도 불구하고 미국은 종말적인 쇠퇴에 빠져 있습니다.

아메리칸 드림(American Dream) 또는 아메리칸 미라지(American Mirage)라는 제목의 이 비디오는 중국 국영 방송사 CGTN이 방영하고 소셜 미디어에서 광범위하게 공유되는 A Fractured America 애니메이션 시리즈의 일부입니다.

시리즈의 다른 비디오에는 소란에 빠진 미국 노동자들: 불균형한 정치와 경제의 결과, 실제 위협의 가면 벗기: 미국의 군산복합체 등 디스토피아 사회의 이미지를 불러일으키는 유사한 제목이 포함되어 있습니다.

강력한 반미 메시지 외에도, 비디오는 모두 AI가 생성한 하이퍼 스타일의 미학과 섬뜩한 컴퓨터 생성 오디오를 공유합니다.

CGTN과 워싱턴 DC 주재 중국 대사관은 논평 요청에 응답하지 않았습니다.

광고

알자지라에 가입하세요주간 뉴스레터

전 세계의 최신 뉴스. 시기 적절한. 정확한. 공정한.

구독하다

가입하시면 당사의 개인정보 보호정책 에 동의하시는 것입니다.

reCAPTCHA 로 보호됨

Fractured America 시리즈는 최소한의 노력으로 몇 초 만에 고품질 멀티미디어를 생성하는 능력을 갖춘 인공 지능(AI)이 어떻게 세계에서 미국의 입지를 약화시키려는 중국의 선전 노력을 형성하기 시작했는지 보여주는 한 예일 뿐입니다.

영국의 생성 AI 전문가인 Henry Ajder는 CGTN 시리즈가 실제 비디오인 것처럼 가장하려고 시도하지는 않지만 AI가 어떻게 콘텐츠 제작을 훨씬 더 쉽고 저렴하게 만들었는지 보여주는 분명한 예라고 말했습니다.

“이런 방식으로 한 이유는 이를 위해 애니메이터나 성우를 고용할 수도 있지만 결국 시간이 더 많이 걸리게 되기 때문입니다. 결국에는 더 많은 비용이 들게 될 것입니다.”라고 Ajder는 Al Jazeera에 말했습니다.

“이것은 콘텐츠 제작을 확장하는 더 저렴한 방법입니다. 이러한 다양한 모듈을 모두 합칠 수 있으면 이미지를 생성하고 해당 이미지에 애니메이션을 적용할 수 있으며 처음부터 비디오만 생성할 수 있습니다. 꽤 설득력 있고 사람처럼 들리는 텍스트 음성 변환을 생성할 수 있습니다. 따라서 자동화되거나 최소한 고도로 합성적으로 생성된 전체 콘텐츠 제작 파이프라인이 있습니다.”

중국은 오랫동안 인터넷의 엄청난 도달 범위와 국경 없는 특성을 활용하여 해외 영향력 캠페인을 실시해 왔습니다.

광고

"wumao"로 알려진 중국의 거대한 인터넷 트롤 군대는 10여년 전에 웹사이트에 중국 공산당 논점을 넘쳐나게 한 것으로 알려졌습니다.

소셜 미디어의 출현 이후 베이징의 선전 노력은 X, Facebook 및 온라인 영향력 있는 플랫폼과 같은 플랫폼으로 전환되었습니다.

2020년 조지 플로이드 살해 이후 Black Lives Matter 시위가 미국을 휩쓸자 중국 국영 소셜 미디어 계정은 중국이 국내에서 위구르 무슬림과 같은 소수 민족에 대한 차별 기록에 대한 비판을 제한했음에도 불구하고 지지를 표명했습니다.

지난해 보고서에서 마이크로소프트의 위협 분석 센터는 AI가 바이러스성 콘텐츠 제작을 더 쉽게 만들고 어떤 경우에는 국가 행위자가 자료를 제작한 시기를 식별하기 더 어렵게 만들었다고 밝혔습니다.

마이크로소프트는 중국 정부의 지원을 받는 행위자들이 적어도 2023년 3월부터 AI 생성 콘텐츠를 배포해 왔으며 이러한 "상대적으로 고품질의 시각적 콘텐츠는 이미 실제 소셜 미디어 사용자로부터 더 높은 수준의 참여를 이끌어냈다"고 말했습니다.

광고

보고서는 “지난해 중국은 정치적 스펙트럼 전반에 걸쳐 미국 유권자를 모방하고 인종, 경제, 이념에 따라 논란을 일으키기 위한 영향력 행사에 사용할 수 있는 이미지를 자동으로 생성하는 새로운 능력을 연마했다”고 밝혔다.

"이 새로운 기능은 미국과 다른 민주주의 국가의 소셜 네트워크를 통해 입소문을 낼 수 있는 고품질 콘텐츠를 만들려고 시도하는 인공 지능에 의해 구동됩니다."

Microsoft는 또한 최소 40개 언어로 1억 3백만 명에게 다가갈 수 있는 능력을 갖춘 소셜 미디어 영향력자로 가장하는 230명 이상의 국영 미디어 직원을 확인했습니다.

그들의 대화 요점은 CGTN 비디오 시리즈와 유사한 대본을 따랐습니다. 중국은 부상하고 있으며 경제 및 기술 패권 경쟁에서 승리하고 있는 반면, 미국은 붕괴를 향해 나아가고 있으며 친구와 동맹국을 잃고 있습니다.

OpenAI의 Sora 와 같은 AI 모델이 점점 더 초현실적인 비디오, 이미지 및 오디오를 생성함에 따라 AI 생성 콘텐츠를 식별하기가 더욱 어려워지고 딥페이크의 확산을 촉진할 것입니다.

광고

미국 정부가 일부 자금을 지원하는 싱크탱크인 RAND가 작년에 발표한 보고서에 따르면, 특정 문제에 대한 폭넓은 사회적 합의를 이끌어내는 관행인 인조잔디가 "혁명적 개선"을 이룰 수 있다고 합니다.

CGTN 비디오 시리즈는 때때로 어색한 문법을 ​​사용하지만 X, Facebook, TikTok, Instagram 및 Reddit과 같은 플랫폼(훈련 데이터를 위해 AI 모델로 스크랩하는 웹사이트)에서 미국 시민이 공유하는 많은 불만 사항을 반영합니다.

마이크로소프트는 보고서에서 AI의 출현으로 인해 중국이 2024년 미국 대통령 선거에 개입할 가능성이 다소 높아지지는 않지만 “중국이 개입하기로 결정하면 잠재적인 선거 간섭이 더 효과적일 가능성이 매우 높다”고 밝혔습니다. .

격동의 선거가 시작되는 해를 앞두고 AI가 생성한 콘텐츠와 인공물에 대한 전망을 우려하는 국가는 미국뿐만이 아닙니다.

2024년 말까지 60개 이상의 국가에서 선거가 실시되어 민주주의 역사상 기록적인 한 해 동안 20억 명의 유권자에게 영향을 미칠 것입니다.

광고

그 중에는 1월 13일 윌리엄 라이칭더(William Lai Ching-te)라는 새로운 대통령이 선출된 민주적인 대만도 있습니다.

대만은 미국과 마찬가지로 정치적 지위 논란으로 인해 중국의 영향력 행사의 빈번한 표적이 됩니다.

베이직은 대만과 그 외곽 섬들이 사실상 독립 국가로 기능하고 있음에도 불구하고 자국 영토의 일부라고 주장하고 있습니다.

타이페이 타임스는 국가 안보 소식통을 인용해 1월 선거를 앞두고 퇴임하는 차이잉원(蔡英文) 대만 총통을 공격하는 가짜 뉴스 앵커의 딥페이크 동영상 100개 이상이 중국 국가안전부에서 제작된 것으로 지목했다고 보도했습니다.

대만은 지난 1월 차기 총통으로 윌리엄 라이칭더(William Lai Chingte)를 선출했다. [Louise Delmotte/AP]

대만 정보환경연구센터(IORG)의 공동 소장인 Chihhao Yu는 CGTN 비디오 시리즈와 마찬가지로 정교함이 부족했지만 AI가 어떻게 잘못된 정보를 대규모로 퍼뜨리는 데 도움이 될 수 있는지를 보여주었다고 말했습니다.

Yu는 자신의 조직이 선거 기간 동안 LINE, Facebook, TikTok 및 YouTube에서 AI 생성 콘텐츠의 확산을 추적했으며 AI 생성 오디오 콘텐츠가 특히 인기가 있다는 것을 발견했다고 말했습니다.

"[클립]은 종종 소셜 미디어를 통해 유포되며 개인 문제나 부패 스캔들과 관련된 정치인이나 후보의 유출/비밀 녹음으로 구성됩니다."라고 Yu는 알 자지라에 말했습니다.

광고

AI 전문가인 Ajder는 Deepfake 오디오는 조작된 이미지나 AI가 생성한 이미지에 비해 인간이 실제와 구별하기가 더 어렵다고 말했습니다.

2024년 하반기 총선이 예상되는 영국의 최근 사건에서는 야당 지도자인 키어 스타머(Keir Starmer)가 딥페이크 오디오 클립에 등장해 그가 직원들에게 언어 폭력을 행사하는 모습이 담겨 있었습니다.

이러한 설득력 있는 허위 표현은 "완벽한 인상파"가 없었다면 이전에는 불가능했을 것이라고 Ajder는 말했습니다.

Ajder는 "동기를 갖고 있는(잠재적으로 달성하려는 목표가 있는) 국가 연계 행위자 또는 국가 연계 행위자는 이제 이를 달성하기 위한 새로운 도구를 갖게 되었습니다."라고 말했습니다.

“그리고 이러한 도구 중 일부는 이미 수행하고 있던 작업을 확장하는 데 도움이 될 것입니다. 그러나 일부 상황에서는 이미 정부가 대응하기 어려운 완전히 새로운 수단을 사용하여 이러한 목표를 달성하는 데 도움이 될 수 있습니다.”

광고

출처 : 알자지라