'낚시'에 약한 AI 챗봇...이번에는 사용자 '릭롤' 등장

[신 아]

'낚시'에 약한 AI 챗봇...이번에는 사용자 '릭롤' 등장

임대준 기자 님의 스토리

 • 11시간 • 1분 읽음

'낚시'에 약한 AI 챗봇...이번에는 사용자 '릭롤' 등장

미국의 한 스타트업이 제작한 인공지능(AI) 챗봇이 사용자를 '릭롤(RickRoll)'하는 일이 발생했다. 이는 구글의 AI 검색처럼 진짜와 농담을 잘 구분하지 못하는 챗봇의 약점을 드러낸 대표 사례로 남게 됐다.

테크크런치는 최근 실리콘밸리 기반의 스타트업 린디(Lindy)의 AI 챗봇이 사용자에게 엉뚱한 비디오 링크를 전달하는 일이 일어났다고 소개했다.

이에 따르면 린디의 AI 어시스턴트는 사용자가 플랫폼 사용 방법을 알려주는 영상을 요청하자, 템플릿을 만들고 사용하는 유튜브 영상 링크를 공유했다.

하지만 링크가 연결한 것은 교육 영상이 아니라, 팝가수 릭 애슬리의 1987년 히트곡 '네버 고나 기브 유 업(Never Gonna Give You Up)'의 뮤직비디오였다.

이처럼 아무 링크나 릭 애슬리의 뮤직비디오로 유도하는 것을 릭롤이라고 부른다.

이는 2007년 게임 '그랜드 시프트 오토 4'의 트레일러가 엄청난 화제였을 당시, 한 사용자가 낚시로 이 영상을 올리며 엄청난 유행이 됐다. 인터넷 밈의 원조 격이기도 하다.

17년이 지난 아직까지도 간간히 등장하고 있으며, 이 때문에 애슬리의 비디오는 무려 15억건의 조회수를 기록 중이다. 또 이는 한물간 가수에게 제2의 전성기를 가져다줬으며, 2016년 미국에서는 대선 후보로 내세워야 한다는 주장까지 등장했다.

릭롤은 너무 흔한 인터넷 낚시라, 린디의 챗봇은 물론 '챗GPT'와 같은 다른 챗봇도 당할 수 있다는 지적이다.

실제로 구글의 '제미나이'도 비슷한 일을 겪었다. 지난 5월 AI 검색이 출시된 직후 '피자에 접착제를 발라야 한다'나 '하루에 돌 한개를 먹어야 건강해진다'라는 내용을 소개해 문제가 됐는데, 이는 출처가 커뮤니티의 장난글이나 풍자 기사였다.

즉 사람들이 인용하는 횟수가 많으면 AI는 사실 여부를 확인하지 않고 연결할 가능성이 높다는 의미다. 구글은 이후 문제를 해결하기 위해 직원들이 일일이 링크 내용을 확인했다고 밝혔다.

다만 린디의 경우, 릭롤은 수백만건의 응답 중 두번뿐이었던 것으로 알려졌다. 그리고 플로 크리벨로 린디 설립자는 "시스템 프롬프트에 릭롤하지 말라는 지시를 추가했다"라고 밝혔다.

또 "구글의 경우, 정확히 말해서 AI가 허위 사실을 꾸며낸 것은 아니었다"라며 "내용에 근거한 것이었다. 다만, 그 내용이 나빴을 뿐"이라고 말했다.

임대준 기자 ydj@aitimes.com

실시간 인기기사

외교부, 'REAIM 인사이트 토크콘서트' 진행..."AI와 인간의 공존을 위한 논의" 

AICA, AI 스타트업 투자설명회 열어...10개 기업 참가

NIA, 전 국민 대상 AI 서비스 개발 대회 'DPG AI 챌린지 시즌1' 개최  

NIA, 전 국민 대상 AI 서비스 개발 대회 'DPG AI 챌린지 시즌1' 개최 - AI타임스

AICA, AI 스타트업 투자설명회 열어...10개 기업 참가 - AI타임스

외교부, 'REAIM 인사이트 토크콘서트' 진행..."AI와 인간의 공존을 위한 논의" - AI타임스

AI타임스 방문

중국서 13만원짜리 AI 안경 출시..."저가형으로 메타 따라잡기"

이항섭 셀바스AI 대표 "온디바이스 AI 'TTS' 기술로 모든 기기서 음성합성 지원"