미국인 어머니, 소송에서 AI 챗봇이 아들의 자살을 조장했다고 주장

[이매진]

미국인 어머니, 소송에서 AI 챗봇이 아들의 자살을 조장했다고 주장

https://www.aljazeera.com/economy/2024/10/24/us-mother-says-in-lawsuit-that-ai-chatbot-encouraged-sons-suicide

US mother says in lawsuit that AI chatbot encouraged son’s suicide

미국인 어머니, 소송에서 AI 챗봇이 아들의 자살을 조장했다고 주장

플로리다 주의 한 어머니가 14세 아들이 AI 챗봇에 집착했다는 혐의로 Character.AI와 구글을 고소했습니다.

세웰 세처와 그의 어머니, 메건 가르시아[PR Newswire]

2024년 10월 24일에 게시됨2024년 10월 24일

미국에서 10대 아들을 스스로 죽인 어머니가 인공지능 기반 챗봇 제작자를 고소했습니다. 그녀는 인공지능이 자신의 아들의 죽음을 조장했다고 주장합니다.

플로리다에서 제기한 소송에서, 2월에 자살로 사망한 14세 아들 세웰 세처의 딸 메건 가르시아는 아들이 "왕좌의 게임"의 등장인물 데이너리스 타르가리엔의 신원을 기반으로 한 챗봇과 가상 관계를 맺은 이후 캐릭터.AI가 아들의 죽음에 공모했다고 비난했습니다.

Keep readinglist of 4 itemslist 1 of 4AI helping US Treasury bust fraudsters, saving billionslist 2 of 4Who bears responsibility for what happens on social media?list 3 of 4Urban air mobility faces traffic challenges ahead of predicted boomlist 4 of 4Google signs deal with startup to build small nuclear reactors to power AIend of list

화요일에 올랜도에서 제기된 소송에 따르면, Character.AI의 챗봇은 "과도한 성적 표현"과 "무섭도록 현실적인 경험"으로 청소년을 표적으로 삼았고, 그가 자살 생각을 표현한 후에도 자살이라는 주제를 반복해서 언급했습니다.

소송에서는 챗봇이 허가받은 치료사인 척하여 청소년의 자살 생각을 조장하고, 성인이 시작하면 학대로 간주되는 성적 대화에 참여했다고 주장합니다.

소송에 따르면 Setzer는 사망하기 전 AI와 마지막으로 대화하면서 챗봇을 좋아했으며 "당신에게 돌아갈 것"이라고 말했다고 합니다.

광고

가르시아의 불평에 따르면, 챗봇은 "나도 널 사랑해, 데이너로."라고 대답했습니다. "가능한 한 빨리 내게로 와줘, 내 사랑."

알자지라에 가입하세요아메리카 커버리지 뉴스레터

미국의 정치, 캐나다의 다문화주의, 남미의 지정학적 부상—우리는 여러분에게 중요한 이야기를 전달해드립니다.

구독하다

가입하시면 개인정보 보호정책 에 동의하시는 것입니다.

reCAPTCHA 로 보호됨

소송에 따르면 Setzer는 "지금 바로 집에 올 수 있다고 말하면 어떨까요?"라고 물었고, 챗봇은 "... 그렇게 해주세요, 나의 사랑하는 왕이시여"라고 답했다고 합니다.

가르시아의 소송은 부당한 사망, 과실 및 고의적인 정서적 고통 유발에 대한 구체적인 손해배상을 요구하고 있습니다.

X에 게시된 성명에서 Character.AI는 사용자 한 명을 잃은 것에 "마음이 아프다"고 말하며 가족에게 애도를 표했습니다.

캘리포니아에 본사를 둔 스타트업은 미성년자가 민감하거나 선정적인 콘텐츠를 접할 가능성을 줄이기 위한 변경 사항과 AI가 실제 사람이 아니라는 사실을 사용자에게 상기시키기 위해 채팅에서 개정된 면책 조항을 추가하는 등 안전을 강화하기 위한 기능을 계속 추가하고 있다고 밝혔습니다.

광고

가르시아의 소송에서는 구글도 피고로 지명되었습니다.

이 기술 거대 기업은 8월에 Character.AI와 라이선스 계약을 맺고 챗봇을 출시하기 전에 이 스타트업의 창립자들을 고용했습니다.

구글 대변인은 알자지라에 자사가 Character.AI와 별개의 회사이며, 해당 회사의 제품 개발에 어떠한 역할도 하지 않았다고 말했습니다.

당신이나 당신이 아는 누군가가 자살 위험에 처해 있다면, 다음 조직들이 도움을 줄 수 있습니다.

• 영국과 아일랜드에서는 116 123으로 Samaritans에 연락하거나 jo@samaritans.org로 이메일을 보내주세요.
• 영국에서 자살로 인해 유족이 된 분은  자살 유족 생존자 협회(Suicide Survivors of Bereavement by Suicide)에 연락하세요 .
• 미국에서는  전국 자살예방 핫라인 전화번호는 988입니다.
• 호주에서는 위기 지원 서비스  인 Lifeline의 전화번호는  13 11 14입니다.
• 다른 국제 자살 상담 핫라인은 www.befrienders.org 에서 찾을 수 있습니다  .

출처 : 알자지라 및 통신사