OpenAI, 음성 복제 도구 선보였지만 공개 출시에는 너무 위험하다고 판단

[이매진]

OpenAI, 음성 복제 도구 선보였지만 공개 출시에는 너무 위험하다고 판단

https://www.aljazeera.com/economy/2024/4/1/openai-unveils-voice-cloning-tool-but-deems-it-too-risky-for-public-release

OpenAI debuts voice cloning tool, but deems it too risky for public release

ChatGPT 제작자는 Voice Engine이 15초 오디오 샘플을 기반으로 사람의 음성을 복제할 수 있다고 말합니다.

OpenAI가 'Voice Engine'이라는 음성 복제 도구를 공개했습니다. [사진/마이클 드와이어/AP]

게시일: 2024년 4월 1일2024년 4월 1일

나중에 읽을 기사를 저장하고 나만의 읽기 목록을 만드세요.

OpenAI는 사람들의 목소리를 복제하는 도구를 공개했지만 주요 선거 연도에 오용 가능성에 대한 우려 때문에 공개를 보류하고 있습니다.

이 도구를 시연하는 OpenAI 블로그 게시물에 따르면 음성 엔진은 15초 오디오 샘플을 기반으로 사람의 음성을 복제할 수 있습니다.

계속 읽으세요4개 항목 목록4개 중 1개 목록이스라엘 반정부 시위에 수만명 참가4개 중 2개 목록이스라엘군, 헤즈볼라 사령관 사살했다고 주장4개 중 3개 목록터키 야당, 주요 도시에서 승리 주장4개 중 4개 목록중국에서 내부고발자가 되기 위한 높은 비용목록 끝

그러나 ChatGPT 창시자는 이 기술에 대해 "신중하고 정보에 입각한 접근 방식을 취하고" 있으며 "합성 음성의 책임 있는 배포"에 대한 대화를 시작하기를 희망한다고 회사는 금요일에 게시한 블로그 게시물에서 밝혔습니다.

샌프란시스코에 본사를 둔 이 스타트업은 "우리는 사람들의 목소리와 유사한 연설을 생성하는 것이 심각한 위험을 안고 있다는 것을 알고 있으며, 이는 특히 선거가 있는 해에 가장 중요한 문제입니다."라고 말했습니다.

"우리는 정부, 미디어, 엔터테인먼트, 교육, 시민 사회 등 다양한 분야의 미국 및 국제 파트너와 협력하여 구축 과정에 그들의 피드백을 반영하고 있습니다."

OpenAI는 테스트와 공개 토론을 기반으로 기술을 대규모로 배포하는 것에 대해 "더 많은 정보를 바탕으로 결정"을 내릴 것이라고 말했습니다.

회사는 이 기술이 "원래 발표자가 고의로 서비스에 자신의 목소리를 추가하고 있음"을 보장하고 "유명 인사와 너무 유사한 목소리 생성"을 방지하는 조치를 통해서만 출시되어야 한다고 덧붙였습니다.

알자지라에 가입하세요미주 지역 뉴스레터

미국 정치, 캐나다의 다문화주의, 남미의 지정학적 부상 등 중요한 이야기를 전해 드립니다.

구독하다

가입하시면 당사의 개인정보 보호정책 에 동의하시는 것입니다.

reCAPTCHA 로 보호됨

AI의 오용은 올해 선거를 앞두고 전 세계 인구의 약 절반을 대표하는 국가에서 주요 관심사로 떠올랐습니다.

광고

역사상 가장 큰 선거의 해로 불리는 2024년에는 멕시코, 남아프리카공화국, 미국 등 80여 개국의 유권자들이 투표에 참여 합니다.

유권자에 대한 AI의 영향은 이미 여러 선거에서 정밀 조사를 받았습니다.

감옥에 갇힌 파키스탄 전 총리 임란 칸(Imran Khan)은 지난 2월 총선을 앞두고 지지자들에게 호소하기 위해 AI가 생성한 연설을 사용했다.

지난 1월, 미국 대선 후보 딘 필립스의 정치 공작원은 조 바이든 미국 대통령을 사칭하여 유권자들에게 뉴햄프셔주 민주당 예비선거에서 투표하지 말 것을 촉구하는 자동녹음전화를 내보냈습니다.

OpenAI는 음성 엔진을 테스트하는 파트너를 위해 "음성 엔진에서 생성된 오디오의 출처를 추적하기 위한 워터마킹과 사용 방법에 대한 사전 모니터링을 포함하여" 여러 가지 안전 조치를 구현했다고 밝혔습니다.

광고

출처 : 알자지라 및 통신사