AI의 거짓말, 인공지능 환각(AI Hallucination) 판례

[석수]

AI의 거짓말, 할루시네이션(Hallucination)


할루시네이션(Hallucination)은 원래 '환각'이나 '환영'을 뜻하는 영어 단어이지만, 최근에는 인공지능(AI)이 거짓 정보를 사실처럼 그럴듯하게 답변하는 오류 현상을 가리키는 말로 주로 쓰입니다.


1. 사전적 및 의학적 의미

환각: 실제 외부에서 감각 자극이 없는데도 마치 어떤 소리가 들리거나 물체가 있는 것처럼 느끼는 정신의학적 증상입니다.

예를 들어, 진동이 울리지 않았는데 핸드폰 진동이 느껴지는 것과 비슷합니다.



2. 인공지능(AI) 분야에서의 의미거짓 답변 생성: 챗GPT 같은 생성형 AI가 학습한 데이터에 없는 내용을 마치 진짜 있는 사실인 것처럼 당당하게 답변하는 현상입니다.

특징: 문장 구성이 매우 자연스럽고 논리적이라서 사용자가 거짓 정보임을 쉽게 알아차리기 어렵습니다.





"이대로 내면 어떡하나”…판사에 혼쭐난 27년차 변호사 ‘AI 판례’ [AI발 인류지능 퇴보]


https://share.google/OgKbZZRdieSq57mua

“이대로 내면 어떡하나”…판사에 혼쭐난 27년차 변호사 ‘AI 판례’ [AI발 인류지능 퇴보]

“기재한 대법원 판결들은 모두 존재하지 아니하거나 실제 판시와 전혀 다른 내용으로, 인공지능 환각(AI Hallucination)으로 보인다.”

지난달 11일 대전지법 민사5-2부(재판장 황성욱)는 차량수리비 사건을 선고하며 판결문에서 원고가 제출한 준비서면에 대해 이같이 지적했다. ‘확인할 수 없는 판례’ ‘존재하지 않는 판례’라는 표현에서 나아가 “AI가 만든 환각을 법원에 제출했다”고 못박은 것이다