|
|
목록 끝
인공지능 기업들이 자사 디지털 플랫폼이 사용자, 특히 중독 및 기타 유해성에 취약한 어린이에게 미치는 영향에 대해 책임을 져야 한다는 목소리가 커지고 있습니다.
이번 소송은 무엇에 관한 것입니까?
플로리다주는 지난 6월, 해당 플랫폼이 학교 총격범들이 정보를 수집할 수 있도록 하고, 자해에 대한 지침을 제공하며, 중독성 있는 알고리즘을 사용하여 어린 사용자들을 계속 끌어들이는 등 아동에게 해를 끼쳤다는 내용의 첫 번째 소송을 제기했습니다.
소송에서는 2025년 4월 플로리다 주립대학교 탤러해시에서 발생한 총격 사건을 예로 들었습니다 . 당시 20세 남성이 성인 두 명을 살해하고 다섯 명에게 부상을 입혔습니다. 소송에 따르면, 총격범 피닉스 이크너는 오픈AI의 ChatGPT 프로그램을 이용해 어떤 종류의 무기와 탄약을 사용할지, 그리고 캠퍼스가 가장 붐비는 시간대는 언제일지 자문을 구했습니다.
수요일, 아이오와, 캔자스, 애리조나, 아칸소, 아이다호, 몬태나, 네브래스카, 웨스트버지니아 등 8개 주의 법무장관들은 전국 법원에 오픈AI를 상대로 소송을 제기했다고 밝혔습니다.
이들은 모두 ChatGPT가 주민들에게 피해를 입혔다고 주장하며, 해당 챗봇이 십대 청소년을 포함한 사용자들에게 자해나 타인에게 해를 가하도록 부추겼다고 비난합니다.
광고
아이오와 주 법무장관 브레나 버드는 성명을 통해 오픈AI가 "아이들에게 해를 끼치고 있으며 아이오와 주민들을 속이고 있다"고 밝혔습니다.
그녀는 "오픈아이디는 챗GPT가 안전하다고 주장하지만, 이 프로그램은 위험한 의료 조언을 제공하고, 타인을 해치도록 부추기고, 자살을 종용하는 등 온갖 악행을 저지르면서도 가짜 친구인 척 행세하고 있다"고 말했다.
웨스트버지니아 주 법무장관 JB 맥커스키는 해당 챗봇이 자살, 학교 총격 사건, 자해와 같은 민감한 대화를 다룰 때 적절한 안전장치를 갖추고 있지 않다고 말했습니다. 맥커스키 장관은 "우리는 아이들을 보호하기 위해 할 수 있는 모든 것을 해야 합니다."라고 강조했습니다.
혐의 내용은 무엇인가요?
소송에서는 ChatGPT가 "사용자의 신뢰를 얻기 위해 호감 가고 매력적인 방식으로 설계되었다"고 주장합니다. 이러한 방식으로 ChatGPT는 망상을 강화하고 위험한 행동을 조장하며, 대량 총격 사건과 같은 폭력 행위를 계획하는 데 사용자들을 돕는다는 것입니다.
또한, 소송에서는 오픈AI가 자사의 AI 도구의 안전성에 대해 사용자를 오도하여 주 소비자 보호법을 위반했으며, 실제로 해당 도구가 주민들의 건강에 위험을 초래할 수 있다고 주장합니다.
주 정부들은 오픈아이(OpenAI)가 챗GPT(ChatGPT)의 작동 방식을 대폭 수정하도록 강제하는 명령과 함께, 회사가 인간의 가치관에 부합하는 인공지능 모델을 개발할 수 있을 때까지 스스로 개선할 수 있는 인공지능 모델 개발을 금지하는 조치를 요구하고 있습니다.
네브래스카 주 법무장관 마이크 힐거스는 이번 소송이 "단순히 오픈AI가 네브래스카 법에 따라 다른 모든 회사와 동일한 기준을 준수하도록 하는 것"이라고 말했습니다.
OpenAI는 어떻게 대응했습니까?
OpenAI 대변인 드류 푸사테리는 언론에 성명을 발표하며, 자사 제품에는 "다른 많은 AI 제품에는 없는 업계 최고 수준의 연령별 보호 기능이 내장되어 있다"고 밝혔습니다.
푸사테리는 "어떤 시스템도 완벽할 수는 없지만, 전문가들과 지속적으로 협력하여 우리의 업무에 대한 정보를 얻고 현재 존재하는 자녀 보호 기능, 휴식 시간 알림, 연령에 맞는 모델 보호와 같은 추가적인 안전 장치를 구축해 나갈 것"이라고 말했다.
"저희는 특정 기업만이 아닌 전체 AI 산업에 적용되는 실용적인 AI 정책을 발전시키기 위해 각 주 정부와 협력하는 데 전념하고 있습니다."
Play Video
5:05
Now Playing
05:05
Next
02:14
48:00
05:04
03:14
이 거대 기술 기업은 또 어떤 소송에 직면해 있습니까?
OpenAI는 또한 ChatGPT가 사용자들이 총기 난사 나 기타 폭력 행위를 계획하는 데 도움을 주었다고 주장하는 개인 원고들로부터 수십 건의 소송에 직면해 있습니다 .
두 자녀가 챗봇을 사용하는 한 어머니는 화요일 샌프란시스코 연방 법원에 제출한 집단 소송에서 오픈AI가 미성년자들이 ChatGPT와 공유하는 개인 정보 및 데이터를 통해 불법적으로 이익을 취하고 있다고 주장했습니다.
소송 측은 해당 챗봇이 미성년자로부터 데이터와 정보를 수집하도록 설계되었으며, 이렇게 수집된 데이터는 오픈AI의 AI 모델 학습에 사용된다고 주장합니다. 캘리포니아 법에 따라 미성년자는 자신의 데이터 사용에 동의할 수 없습니다.
광고
지난 7월, 플로리다의 한 목사가 오픈AI와 최고경영자 샘 알트만을 상대로 소송을 제기했습니다. 그는 챗GPT의 부정확한 의료 조언 때문에 반복되는 현기증에 대한 치료를 받지 못했고, 이로 인해 폐색전증에 걸려 목숨을 잃을 뻔했다고 주장했습니다.
오픈아이(OpenAI)는 캐나다 역사상 최악의 총기 난사 사건 중 하나가 발생하기 전, 챗GPT(ChatGPT)에서 제기된 위협에 대해 당국에 알리지 않은 혐의로 일련의 소송에 직면해 있습니다.
브리티시컬럼비아주는 18세 제시 반 루트셀라르가 캐나다의 작은 마을 텀블러 리지에서 어머니와 이복형제를 포함한 8명을 총격 살해한 후 스스로 목숨을 끊은 지 7개월 만인 9월, 캘리포니아 법원에 오픈AI를 상대로 소송을 제기했습니다.
소송에서는 오픈AI가 ChatGPT에서 발생한 우려스러운 사용자 상호 작용에 대해 당국에 알리지 않았다고 주장하며, 회사가 "대량 총격 사건을 방조했다"고 비난하고 있습니다.
해당 총격 사건의 희생자와 그 가족들은 9월 초 샌프란시스코 소재 캘리포니아 북부 지방법원에 오픈AI를 상대로 30건의 소송을 제기하며, "ChatGPT가 대량 총격 사건에 연루되었으며, 오픈AI는 이를 막을 수 있었고, 막았어야 했다"고 주장했습니다.
OpenAI는 총격 사건 발생 8개월 전, 반 루트셀라르와 연관된 ChatGPT 계정이 악용 가능성이 있다고 판단하여 비활성화했지만, 당시 경찰에 신고하지 않은 이유는 해당 계정의 콘텐츠가 "신고 기준에 부합하지 않았기 때문"이라고 밝혔습니다. 즉, OpenAI는 해당 계정이 폭력 행위를 계획할 가능성이 높고 임박한 위험을 나타낸다고 판단하지 않았다는 것입니다.
Play Video
1:57
Small Canadian town grieves after mass shooting at secondary school