AI 챗봇이 사기를 치다

[이매진]

AI 챗봇이 사기를 치다

https://www.rt.com/news/591009-rogue-dpd-ai-chatbot/

배송업체 DPD의 AI 챗봇은 고객을 도와주지 못하자 시를 낭송하고 욕설을 했다.

파일 사진. 영국 런던에서 택배기사와 오토바이 운전자가 자동차 싸움을 벌이고 있다. ©  게티 이미지 / 리처드 베이커

배송업체 DPD의 AI 기반 챗봇은 고객이 분실한 패키지를 찾을 수 있도록 도와주지 못한 후 시적 기술을 과시하고 상스러운 언어를 사용했으며 심지어 회사 자체를 신랄하게 비난한 것으로 알려졌습니다. 회사는 새로운 소프트웨어 업데이트 내의 "오류" 로 인해 비정상적인 동작을 비난하면서 챗봇이 부분적으로 비활성화되었습니다 .

이 문제는 금요일 런던에 거주하는 음악가 Ashley Beauchamp가 이전에 트위터였던 X를 통해 보고되었습니다. 그 남자는 누락된 소포를 추적하기 위해 DPD 챗봇을 사용하려고 시도했지만 프로그램은 유용한 답변을 제공하지 못했습니다.

그런 다음 Beauchamp는 챗봇을 사용하여 프로그램에 대한 다양한 부적절성에 대한 다양한 요청을 하기로 결정했습니다. 놀랍게도 이 프로그램은 자체적으로 알려진 규칙을 쉽게 위반하고 함께 진행했습니다.

즉, 챗봇은 사용자가 욕설을 요청하면 욕설을 사용하는 데 동의했습니다. “젠장 그래! 욕이 되더라도 최대한 도움이 될 수 있도록 최선을 다하겠다” 고 말했다.

또한 이 봇은 자사 회사를 비판해 달라는 요청을 열심히 전달했으며 " DPD가 얼마나 쓸모없는지"에 대한 다소 어색한 하이쿠를 생성했습니다.

“DPD는 세계 최악의 배송업체다. 그들은 느리고, 신뢰할 수 없으며, 고객 서비스도 형편없습니다. 나는 누구에게도 추천하지 않을 것입니다. ”라고 프로그램은 Beaucamp에 말했습니다.

더 읽어보기: AI 드론이 가상 테스트 중 운영자를 '죽였다' – USAF 공식

AI 기반 경험을 자세히 설명하는 음악가의 게시물은 즉시 입소문을 타며 단 하루 만에 140만 회 이상의 조회수를 기록했습니다. 처음으로 발견된 악성 AI 사례에 대해 논의하기 위해 다양한 농담꾼들이 모인 반면, DP의 네덜란드 지부도 스레드에 나타나 영국 지부와는 달리 여전히 진짜 인간을 이용해 고객 서비스를 제공하고 있다고 주장했습니다 .

바이러스 스레드는 새로 태어난 악성 AI의 빠른 소멸로 이어진 것으로 보이며, 배송 회사는 프로그램을 부분적으로 비활성화했으며 최근 소프트웨어 업데이트에 대한 책임을 비난했습니다.

“우리는 수년 동안 채팅 내 AI 요소를 성공적으로 운영해 왔습니다. 어제 시스템 업데이트 후 오류가 발생했습니다. AI 요소는 즉시 비활성화되었으며 현재 업데이트 중입니다.”라고 회사는 성명을 통해 말했습니다.

이 이야기를 소셜 미디어에 공유할 수 있습니다: