OpenAI는 중국, 러시아, 이스라엘의 영향력 캠페인을 방해했다고 밝혔습니다.

[이매진]

OpenAI는 중국, 러시아, 이스라엘의 영향력 캠페인을 방해했다고 밝혔습니다.

https://www.aljazeera.com/economy/2024/5/31/openai-says-it-disrupted-chinese-russian-israeli-influence-campaigns

OpenAI says it disrupted Chinese, Russian, Israeli influence campaigns

ChatGPT 제조업체는 영향력 있는 운영이 견인력을 얻거나 많은 청중에게 도달하지 못했다고 말합니다.

OpenAI는 '여론을 조작하거나 정치적 결과에 영향을 미치려는 기만적인 시도'와 관련된 5가지 영향력 캠페인을 식별했다고 밝혔습니다. [Dado Ruvic/Reuters]

게시일: 2024년 5월 31일2024년 5월 31일

인공 지능 회사 OpenAI는 러시아, 중국, 이스라엘 및 이란에서 시작된 은밀한 영향력 캠페인을 중단했다고 발표했습니다.

ChatGPT 제작자는 목요일에 "여론을 조작하거나 배후 행위자의 실제 신원이나 의도를 밝히지 않고 정치적 결과에 영향을 미치려는 기만적인 시도"와 관련된 5개의 캠페인을 확인했다고 밝혔습니다.

계속 읽으세요4개 항목 목록4개 중 1개 목록트럼프 미디어 주가는 도널드 트럼프가 허시머니 재판에서 유죄판결을 받은 후 급락했다.4개 중 2개 목록바이든은 우크라이나가 미국 무기로 러시아 목표물을 타격하도록 허용해 모스크바를 화나게 했다.4개 중 3개 목록투표 팔로우: 남아프리카 공화국 선거 2일차 실시간 결과4개 중 4개 목록멕시코가 첫 여성 대통령을 선출한다. 여성에게는 어떤 의미일까요?목록 끝

캠페인에서는 OpenAI의 모델을 사용하여 Telegram, X, Instagram과 같은 소셜 미디어 플랫폼에 게시된 텍스트와 이미지를 생성했으며, 경우에 따라 "인간 운영자가 가능했던 것보다 언어 오류가 적은" 콘텐츠를 생성하는 도구를 활용했습니다. 오픈AI가 말했다.

Open AI는 Bad Grammer와 Doppelganger라고 불리는 두 개의 러시아 사업과 관련된 계정을 종료했다고 말했습니다. Spamouflage로 알려진 중국 캠페인; 국제 가상 미디어 연합(International Union of Virtual Media)이라는 이란 네트워크; 그리고 Zero Zeno라고 불리는 이스라엘 작전.

캘리포니아에 본사를 둔 이 스타트업은 자사 웹사이트에 게시한 성명에서 "우리는 안전을 염두에 두고 모델을 설계하고 악의적인 사용에 적극적으로 개입하는 안전하고 책임감 있는 AI를 개발하는 데 전념하고 있습니다"라고 밝혔습니다.

“은밀한 영향력 행사와 같은 다중 플랫폼 남용을 탐지하고 방해하는 것은 어려울 수 있습니다. 왜냐하면 우리 제품에서 생성된 콘텐츠가 어떻게 배포되는지 항상 알 수 없기 때문입니다. 그러나 우리는 생성 AI의 힘을 활용하여 이러한 남용을 대규모로 발견하고 완화하는 데 전념하고 있습니다.”

OpenAI에 따르면 Bad Grammar와 Doppelganger는 우크라이나, 미국, NATO 및 유럽 연합을 부정적으로 묘사하는 내러티브를 포함하여 우크라이나 전쟁에 대한 콘텐츠를 주로 생성했습니다.

Spamouflage는 배우이자 티베트 운동가인 Richard Gere와 반체제 인사인 Cai Xia를 포함하여 베이징에 대한 저명한 비평가들을 비판하는 중국어, 영어, 일본어 및 한국어로 텍스트를 생성했으며 아메리카 원주민에 대한 학대를 강조했습니다.

광고

국제가상미디어연맹(International Union of Virtual Media)은 미국과 이스라엘을 비판하는 기사를 생성하고 번역했으며, 제로 제노는 유엔 팔레스타인 난민과 캐나다의 '과격 이슬람주의자'를 겨냥한 것이라고 오픈AI는 전했다.

공개 담론에 영향을 미치려는 노력에도 불구하고 회사는 “우리 서비스의 결과로 청중 참여나 도달 범위가 의미있게 증가하여 이익을 얻지 못한 것 같습니다”라고 회사는 말했습니다.

알자지라에 가입하세요미주 지역 뉴스레터

미국 정치, 캐나다의 다문화주의, 남미의 지정학적 부상 등 중요한 이야기를 전해 드립니다.

구독하다

가입하시면 당사의 개인정보 보호정책 에 동의하시는 것입니다.

reCAPTCHA 로 보호됨

역사상 가장 큰 선거 연도라고 불리는 이 해에 50개 이상 국가의 유권자들이 투표를 하면서 허위 정보를 퍼뜨리는 데 AI가 사용될 가능성이 주요 화두로 떠올랐습니다.

지난 주, 미국 뉴햄프셔주 당국은 유권자들에게 투표하지 말라고 촉구하기 위해 AI가 만든 조 바이든 미국 대통령을 사칭한 자동녹음전화를 조장한 혐의로 민주당 정치 컨설턴트를 20여 건의 혐의로 기소했다고 발표했습니다. 주 대통령 예비선거.

지난 2월 파키스탄 총선을 앞두고 투옥된 임란 칸 전 총리는 정부가 공개 집회를 금지한 가운데 지지자들을 모으기 위해 AI가 생성한 연설을 사용했습니다.

광고

출처 : 알자지라 및 통신사