YouTube의 딥페이크 감지 도구를 사용하면 Google에서 크리에이터의 얼굴을 사용하여 AI 봇을 훈련할 수 있습니다.

[이매진]

YouTube의 딥페이크 감지 도구를 사용하면 Google에서 크리에이터의 얼굴을 사용하여 AI 봇을 훈련할 수 있습니다.

https://nypost.com/2025/12/02/business/youtube-deepfake-detection-tool-could-see-google-using-creators-faces-to-train-ai-bots-report/

Alarms sound over YouTube tool that could allow Google to train AI bots with creators’ faces: report

한 보고서에 따르면 전문가들은 YouTube의 딥페이크 감지 도구에 대해 경고하고 있습니다. 이 새로운 안전 기능을 사용하면 Google이 크리에이터의 얼굴로 자체 AI 봇을 훈련시킬 수 있다고 합니다.

이 도구를 이용하면 YouTube 사용자는 자신의 얼굴이 담긴 영상을 제출할 수 있으며, 플랫폼은 해당 영상에 자신의 모습이 무단으로 딥페이크된 영상이 포함되어 있는 경우 이를 신고할 수 있습니다.

그러면 창작자는 AI가 생성한 도플갱어를 삭제해 달라고 요청할 수 있습니다.

4

이 도구를 사용하면 YouTube 사용자가 자신의 얼굴 영상을 제출하면 플랫폼에서 자신의 모습을 무단으로 딥페이크한 영상을 포함한 업로드 영상을 신고할 수 있습니다.테로베살라이넨 – stock.adobe.com

하지만 CNBC는 화요일에 안전 정책에 따라 YouTube를 소유한 Google이 제작자의 생체 인식 데이터를 사용하여 자체 AI 모델을 훈련할 수도 있다고 보도했습니다 .

00:00

00:00

YouTube 대변인인 잭 말론은 포스트에 회사가 크리에이터의 생체 데이터를 사용하여 AI 모델을 훈련시킨 적이 없으며, 사용자의 모습은 신원 확인 목적과 딥페이크 감지에만 사용된다고 말했습니다.

Malon은 "현재 우리가 제공하는 무료 보안 도구에 대한 유료 대안을 판매하여 이익을 얻는 상업적 경쟁자들의 근거 없는 주장에 무게를 두지 않도록 주의해야 한다"고 덧붙였습니다.

더 알아보기

억만장자들이 아이들을 위한 '트럼프 계좌'에 역대 최대 규모인 62억 5천만 달러를 기부하겠다고 약속했습니다. 자격이 있는지 확인해 보세요.

크래프트, 코카콜라 등 주요 도시, 초가공식품 관련 최초 소송 제기

새로운 클럽이 맨해튼 미드타운에 5개 층의 고급 편의 시설을 선보입니다. (만약 당신이 감당할 수 있다면)

YouTube는 CNBC에 정책 가입 시 사용된 언어를 검토하여 혼란을 해소하고 있지만, 정책 자체는 변경되지 않을 것이라고 밝혔습니다.

기술 거대 기업들은 온라인 사용자의 신뢰를 잃지 않고 최신 AI 모델을 서둘러 출시하기 위해 고군분투해 왔습니다.

크리에이터가 자신의 초상권이 무단으로 사용되는 것을 방지할 수 있도록 돕기 위해 YouTube는 10월에 딥페이크 감지 도구를 도입했습니다.

YouTube의 크리에이터 제품 책임자인 암자드 하니프는 CNBC에 1월 말까지 YouTube 파트너 프로그램에 참여하는 300만 명이 넘는 크리에이터를 대상으로 이 기능의 출시를 확대할 계획이라고 밝혔습니다.

4

보도에 따르면, 안전 정책에 따라 YouTube를 소유한 Google은 생체 인식 데이터를 사용하여 자체 AI 모델을 훈련할 수 있게 됩니다.Getty Images를 통한 SOPA Images/LightRocket

이 도구에 가입하려면 사용자는 정부 발급 신분증과 얼굴 영상을 업로드해야 합니다. 이 영상은 매분 YouTube에 게시되는 수백 시간 분량의 새로운 영상을 검색하는 데 사용됩니다.

CNBC는 이러한 생체 인식 업로드는 Google의 개인정보 보호정책을 따르며 , 해당 정책에 따르면 공개 콘텐츠는 "Google의 AI 모델을 훈련하고 Google Translate, Gemini 앱, Cloud AI 기능과 같은 제품과 기능을 구축하는 데 사용될 수 있다"고 언급했습니다.

잠재적인 딥페이크로 표시된 모든 동영상은 제작자에게 전송되며, 제작자들은 해당 영상의 삭제를 요청할 수 있습니다.

하니프는 실제 삭제 건수가 낮은 이유는 많은 크리에이터가 "삭제된 영상이 있다는 사실은 기쁘지만, 실제로 삭제할 만한 가치가 있다고 생각하지 않기 때문"이라고 말했습니다.

그는 CNBC에 "가장 흔한 대응은 '살펴봤지만 괜찮아요'라고 말하는 것입니다."라고 말했습니다.

하지만 온라인 안전 전문가들은 삭제 건수가 낮은 것은 새로운 안전 기능에 대한 명확성이 부족하기 때문일 가능성이 높으며, 제작자들이 딥페이크에 거부감을 느끼기 때문은 아니라고 말했습니다.

Vermillio와 Loti와 같은 제3자 회사는 AI 사용이 더 널리 퍼지면서 유명인이 자신의 초상권을 보호하도록 돕는 작업이 확대되었다고 밝혔습니다.

4

YouTube의 딥페이크 감지 도구에 가입하려면 사용자는 정부 발급 신분증과 자신의 얼굴 영상을 업로드해야 합니다.대니는 누구인가 – stock.adobe.com

"구글이 AI 분야에서 경쟁하고 훈련 데이터가 전략적 보물이 되는 상황에서, 크리에이터들은 플랫폼이 자신의 얼굴을 통제하는 것을 원하는지, 아니면 스스로 소유하는 것을 원하는지 신중하게 생각해야 합니다."라고 Vermillio의 CEO인 댄 닐리는 CNBC에 말했습니다. 

"AI 시대에는 당신의 모습이 가장 귀중한 자산 중 하나가 될 것입니다. 그리고 당신이 그 통제권을 넘겨주면 다시는 돌아오지 않을 수도 있습니다."

로티 CEO 루크 아리고니는 유튜브의 현재 생체 데이터 정책이 "엄청난 위험"을 안고 있다고 말했습니다.

두 임원은 자사 고객에게 YouTube의 딥페이크 감지 도구에 가입하라고 권하지 않을 것이라고 말했습니다.

"닥터 마이크"라는 별명으로 불리는 전문 자격증을 소지한 의사인 미하일 바르샤브스키와 같은 YouTube 크리에이터들은 OpenAI의 Sora와 Google의 Veo 3와 같은 앱이 출시 되면서 점점 더 많은 딥페이크 영상이 온라인에 퍼지는 것을 보았습니다 .

4

잠재적인 딥페이크로 표시된 모든 동영상은 제작자에게 전송되며, 제작자들은 해당 영상의 삭제를 요청할 수 있습니다.phimprapha – Stock.adobe.com

10년 가까이 유튜브에서 1,400만 명 이상의 구독자를 모은 바르샤브스키는 정기적으로 건강 관련 신화를 반박하고, 자신의 영상에서 부정확한 부분을 찾아 TV 의학 드라마를 리뷰합니다.

그는 TikTok에서 자신의 딥페이크 영상을 처음 봤다고 말했는데, 그 영상에서 그는 "기적의" 보충제를 홍보하는 것처럼 보였다고 했습니다.

그는 CNBC에 "당연히 겁이 났죠. 저는 10년 넘게 청중의 신뢰를 얻고 진실을 말하며 올바른 건강 관리 결정을 내릴 수 있도록 돕는 데 투자했거든요."라고 말했습니다. 

어떻게 생각하세요? 첫 댓글을 남겨보세요. 

"누군가가 내 모습을 이용해 다른 사람을 속여 필요 없는 물건이나 잠재적으로 자신에게 해를 끼칠 수 있는 물건을 사게 하는 걸 보는 건 그 상황에서 제 모든 것을 두렵게 했습니다."

현재로선 크리에이터들이 홍보 콘텐츠를 포함해 딥페이크 영상에서 자신의 모습을 무단으로 사용하여 수익을 창출할 방법이 없습니다.

YouTube는 올해 초 제작자에게 제3자 회사가 자신의 동영상을 사용하여 AI 모델을 훈련하도록 허용하는 옵션을 제공했지만, 이 경우에도 제작자에게 보상은 제공되지 않습니다.