일시 261002. 할루시네이션 (hallucination)이라는 말을 아십니까?

[민구식]

일시 261002. 할루시네이션 (hallucination)이라는 말을 아십니까?

민구시기

AI 관련 자료를 검색하다가 알게 된 말입니다. 저는 처음 듣는 말이었습니다. 그래서 알아보았습니다.

사전적 의미로는 ‘환각’ 이라는 말인데 질병이나 약물 등에 의해 나타나는 현상이지요.

그런데 이 말이 인공지능에서는 실제로 존재하지 않는 정보나 근거가 없는 내용을 사실인 것처럼 생성한다는 의미입니다.

불완전한 데이터를 완전한 것처럼 여기고 답을 만들어 내면 이를 다른 AI 가 다시 학습하여 사실로 여기고 이렇게 검증된 것처럼 추측이 사실이 되어버리는 패턴을 만드는 것이지요.

이를 신뢰할 경우 안전성에 직접적인 영향을 미치게 될 수 있다는 염려가 일어납니다.

그러므로 AI에 너무 의존하는 것은 항상 좋은 일이 아닐 수 있습니다.

검색 과정과 기본적인 지식은 가지고 있어야 할 것입니다.

만약 AI 에게 자율 주행을 완전하게 신뢰했을 경우 예기치 못한 어떤 긴박한 상황에서 판단할 때

오류가 발생하면 치명적인 상황이 되기 때문입니다.

테슬라의 자율 주행 차량이 오판을 하여 운전자가 사망하는 사례가 있었지요.

오토파일럿이 햇빛 반사로 인해 하얀색 트레일러를 하늘의 일부로 판단하는 바람에

자동차는 트레일러를 감지하지 못하고 직진하여 충돌했지요.

인터넷에서 알게 된 오판 사례인데 한동훈 전 법무부 장관의 생일이 세 군데 모두 다르게 나타났습니다.

이런 것이 중요한 판단의 자료로 사용되지 않으려면 어떻게 해야 할지 각자 생각해 보아야 할 것입니다.

다양한 데이터를 확보해야 합니다

투명성이 보장된 결정 과정이어야 합니다.

정기적이고 반복적인 검증과 성능보장이 이루어져야 한다. 그래서 이상 동작을 신속하게 탐지되어야 합니다.

스스로 학습하는 AI 가 인간의 통제를 벗어나려고 할 때,

그 위험은 엄청난 위험을 초래한다는 영화들이 나오고 있지요.

[조형연]

AI가 높은 수준으로 발전했지만 단순 기계가 아닌 인공지능이라 검증을 해야되는데 그럴수가 없다보니 인간처럼 실수도 할수있는데 그 실수가 넘 위험할수 있어 대책이 있어야 되는데~

[잠봉 박동남]

AI를 너무 의지해도 오히려 독이 되네요
정보 감사합니다