|
선거가 다가옴에 따라 AI가 죽은 인도 정치인을 부활시키는 방법
선거가 다가옴에 따라 AI가 죽은 인도 정치인을 부활시키는 방법
지난 6개월 동안 공개 행사를 위해 Dravida Munnetra Kazhagam(DMK) 파티의 고(故) M Karunanidhi를 부활시키는 데 인공 지능이 사용되었습니다. [책 출시 시 방송된 Karunanidhi의 AI 아바타 비디오 스크린샷]
닐 레쉬 크리스토퍼
게시일: 2024년 2월 12일2024년 2월 12일
나중에 읽을 기사를 저장하고 나만의 읽기 목록을 만드세요.
인도, 벵갈루루 – 1월 23일, 인도 영화와 정치의 아이콘인 M Karunanidhi가 대형 프로젝션 스크린을 통해 실시간 청중 앞에 나타나 자신의 자서전 출간을 축하하는 82세의 친구이자 동료 정치가인 TR Baalu를 축하했습니다. .
그의 트레이드마크인 검은색 선글라스, 흰색 셔츠, 어깨에 노란색 숄을 두른 카루나니디의 스타일은 단연 돋보였습니다. 8분간의 연설 에서 베테랑 시인이자 정치인으로 변신한 이 베테랑 시인은 책의 저자를 축하했지만, 그의 아들이자 현 국가 지도자인 MK 스탈린의 유능한 지도력에 대해서도 열렬히 칭찬했습니다.
계속 읽으세요4개 항목 목록4개 중 1개 목록미국 경제가 왜 그렇게 회복력이 좋은가?4개 중 2개 목록러시아인, 코로나19 이후 첫 해외여행단 북한 입국4개 중 3개 목록UAE, 이집트에 220억 달러 규모 해변 부지 개발 협상4개 중 4개 목록일본의 주식시장은 수십년 동안 거의 성장하지 못했습니다. 지금은 붐이 일고 있어요목록 끝
카루나니디는 2018년부터 사망했습니다.
DMK(Dravida Munnetra Kazhagam) 정당의 상징적인 지도자가 그러한 공개 행사를 위해 인공 지능(AI)을 사용하여 부활한 것은 지난 6개월 동안 세 번째였습니다.
Karunanidhi는 “COVID 전염병이 세계를 황폐화했을 때 우리 총리는 당황한 사람들의 목소리를 향해 달려갔습니다.”라고 말했습니다. “당신이 사람들의 생명을 구하기 위해 어떻게 싸웠는지 국민은 알고 있고 나도 그렇습니다.”
딥페이크 카루나니디(Karunanidhi) 비디오를 제작한 AI 미디어 기술 회사인 Muonium의 설립자 Senthil Nayagam은 알자지라에 “[이러한 딥페이크에 대한] 시장이 열리고 있다… 일부 진술을 특정 사람에게 귀속시킬 수 있으며 그러한 종류의 진술은 그 진술에 더 많은 가치를 부여합니다.”
AI Karunanidhi의 첫 공개 모습은 작년 9월 지역 미디어 행사 에서였으며 , 이어 그의 당원들의 캠페인을 위해 또 다른 행사가 이어졌습니다. 부활한 지도자는 자신의 인기를 높이기 위해 종종 당원들을 기쁘게 하고 특히 그의 아들 MK 스탈린의 지도력을 칭찬합니다.
1월 책 출간 행사에서 AI Karunanidhi는 학자금 빚 탕감, 가난한 사람들을 위한 현금 증정, 여성 친화적인 정책, 투자에 이르기까지 모든 것을 이야기했습니다. 이 목록은 수년 동안 국가를 발전시킨 아들의 업적 목록입니다.
광고
Karunanidhi의 마지막 공개 인터뷰는 그의 목소리가 거칠어지고 몸이 약해지기 전인 2016년이었습니다. Nayagam은 공개적으로 이용 가능한 Karunanidhi 데이터를 사용하여 음성 모델을 훈련하고 리더가 훨씬 어렸을 때의 1990년대 모습을 재현했습니다. 그는 사전 녹음된 AI 연설의 대본은 지역 DMK 간부가 제공했으며 당원의 심사를 받았다고 말했습니다.
AI Karunanidhi의 생성을 승인한 팀의 TR Baalu는 Al Jazeera의 논평 요청에 응답하지 않았습니다.
알자지라에 가입하세요주간 뉴스레터
전 세계의 최신 뉴스. 시기 적절한. 정확한. 공정한.
가입하기
가입하시면 당사의 개인정보 보호정책 에 동의하시는 것입니다.
reCAPTCHA 로 보호됨
카루나니디는 거의 20년 동안 타밀나두 주를 이끌었으며 총 5번의 총리직을 역임한 인도의 최장수 의원 중 한 명이었습니다. 시인에서 정치인으로 변신한 그는 하층 계급 해방에 관한 각본을 썼으며 계속해서 나이든 유권자들 사이에서 영향력을 행사하고 있습니다.
현지 언론 보도에 따르면, 이러한 AI 비디오에 대한 반응으로 인해 DMK 당 지도부는 다가오는 2024년 의회 선거 캠페인에서 AI Karunanidhi 캠페인 연설을 만드는 것을 고려하게 되었습니다.
윤리적, 법적 문제
정책 입안자들이 규제해야 할 AI 통신 유형의 사례를 최초로 평가하는 동안에도 정당은 AI를 사용하여 과거의 정치적 충실한 인물을 부활시켜 오늘날의 지도자를 홍보했습니다.
광고
그러나 이는 몇 가지 문제가 되는 윤리적, 법적 문제도 제기했습니다. “콘텐츠에 승인한 살아있는 사람이 합성 오디오 및 비디오를 생성하기 위해 AI를 사용하는 것은 한 가지입니다. 죽은 사람을 부활시키고 그 사람에게 의견을 돌리는 것은 전혀 다른 일입니다.”라고 Mozilla Foundation의 Trustworthy AI 선임 연구원인 Amber Sinha는 말했습니다.
하지만 지니는 이미 병에서 나왔습니다. 인도 최대 정치 컨설팅 회사 중 하나인 Jarvis Consulting의 이사 Diggaj Mogra에 따르면 아웃바운드 음성 통화 및 SMS, 아바타 생성, 개인화된 미디어 홍보, 소셜 미디어에서 AI가 만든 다국어 광고 등 선거 캠페인을 위한 AI 지원 콘텐츠 마케팅이 이번 선거에서 인도 시장 기회는 약 6천만 달러에 달합니다.
Nayagam은 전직 배우 출신 정치인인 Jayalalitha, MG Ramachandran, Vijayakanth를 언급하며 “타밀나두에서는 더 이상 각 정당의 주요 지도자들이 모두 존재하지 않습니다.”라고 말했습니다. Nayagam은 유사한 딥페이크에 AI를 활용하는 데 관심이 있는 여러 정당의 하급 임원들과 접촉했다고 말했습니다.
Play Video
Video Duration 28 minutes 45 seconds28:45
그는 지난해 9월 나렌드라 모디(Narendra Modi) 총리의 Mann Ki Baat 프로그램에 대한 4분짜리 오디오 클립을 자신의 회사가 8개 언어로 복제한 오디오 클립을 X에서 공유한 후 그러한 응용 프로그램에 대한 관심이 급증했다고 말했습니다. 이러한 관심 문의를 통해 Nayagam과 기타 컨설턴트는 AI 선거 운동에 대한 비즈니스 기회에 대한 아이디어를 얻었습니다.
2024년에는 전 세계적으로 60개가 넘는 국가에서 총선이 치러질 예정인데, 인공지능이 여론에 영향을 미칠 가능성이 도덕적 패닉을 불러일으켜 세계적인 이슈로 떠올랐다.
광고
인도네시아 대선 캠페인을 앞두고 민주화 운동가들에 대한 잔혹행위를 저지른 혐의로 기소된 전직 군 장군 프라보워 수비안토(Prabowo Subianto)는 젊은 유권자들의 관심을 끌기 위해 생성 AI를 사용해 자신을 통통한 AI 아바타로 재구성하고 있습니다.
남아시아에서는 AI를 캠페인에 사용하고 오용하는 사례가 두드러졌습니다. 방글라데시에서는 친정부 계정이 야당을 표적으로 삼기 위해 딥페이크를 사용해 왔습니다. 파키스탄에서는 임란 칸 전 총리가 감옥 안에서 자신의 변호인에게 서면 메모를 전달하는 방식으로 캠페인을 벌이고 있는데, 이 메모는 미국에 본사를 둔 스타트업 ElevenLabs의 소프트웨어를 사용하여 AI 오디오 연설로 바뀌고 있습니다.
Mozilla Foundation의 Sinha는 “캠페인에서 이러한 AI의 특별한 활용은 남아시아에서 큰 인기를 얻고 있는 것 같습니다.”라고 말했습니다.
1월 21일, DMK 당은 세일럼(Salem) 사원 마을에서 두 번째 연례 청소년 윙 컨퍼런스를 개최했습니다. 공개 경기장에서 진행된 대규모 행사에는 50만 명의 지지자가 모였으며 DMK의 2024년 선거 캠페인이 공식적으로 시작되었습니다. 당 지도자들은 힌두 민족주의자인 바라티야 자나타당(BJP)에 도전하는 열띤 연설을 했고, BJP가 통치하는 중앙에 의한 국가 권력 희석을 포함한 당의 정책을 비판했습니다.
이번 캠페인에서는 AI Karunanidhi가 깜짝 영상으로 재등장했습니다. Karunanidhi는 타밀나두주에 대한 BJP의 지속적인 적대감을 자세히 설명하면서 “10년간의 BJP 통치 기간 동안 많은 치열한 투쟁을 벌인 주들의 권리가 상실되었습니다.”라고 말했습니다.
광고
영감을 주는 음악과 함께 3분간의 영상 연설은 AI Karunanidhi가 국가 권리 강화를 촉구하고 젊은 간부들에게 민주적 미래를 위해 싸울 것을 촉구하는 것으로 마무리됩니다.
DMK의 두 번째 연례 청소년 윙 컨퍼런스에서 AI Karunanidhi의 스크린샷
DMK 대변인 다라니드하란 셀밤(Dharanidharan Selvam)은 알자지라에 “이것은 간부들을 격려하고 열광시키기 위해 당의 디지털 미디어 부서에 의해 만들어졌다”고 말했다. “간부들이 확실히 열정적이고 흥분한 것 같아요.”
첸나이에서 활동하는 정치평론가인 수만스 라만은 사망한 지도자들이 "살아있는 지도자들보다 계속해서 더 인기가 있기 때문에" 정치 캠페인에 열광하고 있다고 말했습니다. "Ms Jayalalitha"(또 다른 정치적 스타)와 같은 수준의 대중 지도자는 없습니다. "또는 현재 타밀 나두의 Mr Karunanidhi"도 없습니다.
지난 30년 동안 6개 이상의 정당이 주 내 행위자들에 의해 창설되었습니다. 많은 지도자들이 실제보다 더 큰 캐릭터를 연기하고 항상 사람들의 지지를 받는 영화계에서 왔다고 Raman은 말했습니다.
“그러나 그것은 우리가 현재 있는 다음 세대로 넘어가면 어느 정도 맞춤화됩니다. 리더들은 매일 훨씬 더 많은 조사를 받기 때문에 그에 대한 큰 아우라가 없습니다.”라고 그는 말했습니다.
'죽은 사람의 인기를 활용하라'
부활한 상징적인 지도자들이 청중에게 미치는 영향은 여전히 전개되고 있습니다. Raman은 AI 비디오 연설에 대해 “그것은 꽤 평범한 노력이었다고 생각합니다. 파티원들에게 전달되어 모두 마무리했습니다.”라고 말했습니다. “오늘날의 AI는 훨씬 더 나은 이미지를 제공할 수 있습니다.”
책 출시 영상의 경우 립싱크가 일치하지 않기 때문에 영상이 합성임이 분명합니다. 그러나 Karunanidhi의 음성 오디오는 현실을 반영합니다.
광고
AI Karunanidhi의 창시자인 Nayagam은 시각적으로 불완전한 이유 중 하나는 고품질 비디오 데이터 세트를 사용할 수 없어 인터넷에서 사용할 수 있는 모든 것을 소스로 제공해야 했기 때문이라고 말했습니다.
청소년수련회에서 방영된 영상은 좀 나아졌으나 입 근처에서 일관성이 없었다. 그럼에도 불구하고 해당 동영상에 대한 온라인 시청자의 반응은 호의적 이었고 일부는 YouTube에서 '슈퍼'라는 댓글을 달았습니다. 두 비디오 모두 AI 생성으로 명확하게 라벨이 지정되었습니다.
인도는 2020년 선거 캠페인에서 딥페이크가 처음으로 사용되는 것을 목격했습니다. BJP 정치인 Manoj Tiwari는 자신이 말하지 않는 언어인 Haryanvi와 영어로 캠페인을 벌이는 자신의 딥페이크 동영상을 제작하고 배포하는 것을 승인했습니다. 전문가들은 이 영상이 AI에 의해 조작됐다는 사실을 공개하지 않고 공유했다는 이유로 비난했다.
정치인의 AI 비디오를 만드는 것은 네루, 인디라 간디, 라지브 간디가 인도인에 의해 사망한 후의 이미지를 사용하는 것과 같이 정당이 죽은 사람의 사진이나 이미지를 사용하는 것의 확장이라고 주장할 수도 있다고 Sinha는 말했습니다. 국회.
“그러나 합성 오디오나 비디오를 만드는 것은 몇 단계 더 발전합니다.”라고 Sinha는 말했습니다. “두 경우 모두 당이 죽은 사람의 인기를 활용하려고 하지만 후자의 경우 의견과 메시지가 적극적으로 죽은 사람에게 귀속됩니다.”
광고
사망한 정치인을 부활시키는 데 있어 또 다른 난제는 죽은 사람의 목소리와 초상에 대한 권리를 누가 소유하는가입니다.
“물론 인도에서는 사망한 사람에 대해 보장되는 권리가 없기 때문에 이는 법적 근거가 없지만 윤리적 관점에서 동의를 고려해야 합니다.”라고 Devika Malik은 말했습니다. 온라인 신뢰와 안전에 중점을 둔 델리 소재 기술 정책 컨설턴트입니다. 인도법은 죽은 사람의 명예훼손에 대해 법적 보호를 제공합니다.
급성장하는 합성 미디어 경제
인도 정치인들도 다가오는 캠페인을 위해 AI 솔루션을 적극적으로 찾고 있습니다. Jarvis Consulting의 Mogra는 개별 후보자들이 메시지에 녹음된 음성과 개인화된 이름이 포함된 아웃바운드 자동녹음전화 또는 IVRS(대화형 음성 응답 시스템)를 푸시하기 위해 AI 음성 복제를 사용하려고 한다고 말했습니다. Mogra는 "이 작업을 수행하기 위해 전국 곳곳을 돌아다니는 여러 공급업체가 이를 매우 명목상의 가격으로 판매하고 있습니다"라고 말했습니다.
Play Video
Video Duration 02 minutes 24 seconds02:24
배우와 CEO의 딥페이크 사용이 승인되면서 이미 급성장하는 합성 미디어 경제가 존재했고, 그 시장은 정치적 영역으로 확대되었습니다. Devendra Singh Jadoun이 운영하는 Polymath Solutions와 같은 컨설팅 회사는 음성 복제를 사용하여 정치인이 현장 당원에게 "개인화된 메시지"를 전달하고 있습니다.
모그라는 “이번 선거에서 대규모로 사용될 것”이라고 말했다. 그러나 “양날의 검이다. 그것은 많은 잘못된 정보와 허위 정보를 만들어 낼 것입니다. 혜택은 적고, 잘못된 정보/허위 문제 등 모든 것이 더 높아질 것이라고 생각합니다.”
광고