OpenAI는 2024년 대선이 뜨거워지면서 선거 개입에 대한 두려움을 억제하려고 노력하고 있습니다.

[이매진]

OpenAI는 2024년 대선이 뜨거워지면서 선거 개입에 대한 두려움을 억제하려고 노력하고 있습니다.

https://nypost.com/2024/01/15/business/openai-seeks-to-ally-election-meddling-fears-in-blog-post/

OpenAI seeks to curb election meddling fears as 2024 presidential race heats up

인공 지능 연구실인 OpenAI는 월요일, 전 세계 인구의 3분의 1 이상이 올해 여론 조사를 준비하고 있는 가운데 자사의 기술이 선거에 개입할 것이라는 우려를 해소하기 위해 블로그 게시물을 게시했습니다.

AI를 사용하여 선거 무결성을 방해하는 것은 Microsoft의 지원을 받는 회사가 인간의 글을 설득력 있게 모방할 수 있는 ChatGPT와 "딥페이크 " 또는 사실적인 기술을 만드는 데 사용할 수 있는 기술을 사용할 수 있는 DALL-E라는 두 가지 제품을 출시한 이후 우려 사항이었습니다. - 조작된 것처럼 보이는 이미지.

걱정스러운 사람들 중에는 OpenAI의 CEO인 Sam Altman도 포함됩니다. 그는 지난 5월 의회에서 "일대일 대화형 허위 정보"를 통해 선거 무결성을 훼손하는 생성 AI의 능력 에 대해 "긴장"하고 있다고 증언했습니다.

샌프란시스코에 본사를 둔 이 회사는 올해 대통령 선거가 치러지는 미국에서 선거와 같은 효과적인 민주적 절차를 촉진하는 데 중점을 두는 조직인 전국 국무장관 협회(National Association of State of State)와 협력하고 있다고 밝혔습니다.

AI를 사용하여 선거 무결성을 방해하는 것은 Microsoft 지원 회사가 ChatGPT 및 DALL-E를 출시한 이후 우려 사항이었습니다.AP

ChatGPT는 특정 선거 관련 질문을 받으면 사용자를 CanIVote.org로 안내한다고 덧붙였습니다.

00:0103:47

회사는 또한 이미지가 DALL-E를 사용하여 AI로 생성된 경우 이를 더욱 명확하게 하기 위해 노력하고 있으며 연합이 만든 프로토콜에 따라 이미지에 "cr" 아이콘을 표시하여 AI로 생성되었음을 나타낼 계획이라고 밝혔습니다. 콘텐츠 출처 및 진위성을 위해.

또한 이미지가 수정된 후에도 DALL-E에서 생성된 콘텐츠를 식별하는 방법을 연구하고 있습니다.

OpenAI CEO인 샘 알트만(Sam Altman)은 지난 5월 의회에서 "일대일 대화형 허위 정보"를 통해 선거 무결성을 훼손하는 생성 AI의 능력에 대해 "긴장"하고 있다고 증언했습니다.AP

OpenAI는 블로그 게시물에서 실제 사람인 것처럼 가장하는 챗봇을 만들거나 투표를 방해하는 등 잠재적으로 악의적인 것으로 확인된 방식으로 기술을 사용하는 것을 정책적으로 금지하고 있음을 강조했습니다.

또한 DALL-E가 정치 후보를 포함한 실제 인물의 이미지를 생성하는 것을 금지한다고 밝혔습니다.

회사는 플랫폼에서 실제로 무슨 일이 일어나고 있는지 단속하는 데 어려움을 겪고 있습니다.

6

어떻게 생각하나요? 가장 먼저 댓글을 남겨보세요. 

작년에 로이터가 도널드 트럼프와 조 바이든의 이미지를 만들려고 시도했을 때 요청이 차단되었고 "우리의 콘텐츠 정책을 따르지 않을 수 있습니다"라는 메시지가 나타났습니다.

그러나 로이터는 마이크 펜스 전 부통령을 포함해 적어도 12명의 다른 미국 정치인의 이미지를 만들 수 있었습니다.