AI의 미혹, 할루시네이션(hallucination)에 속지 맙시다

[김정한]

AI의 미혹, 할루시네이션(hallucination)
요즘 사람들은 AI를 점점 더 신뢰하는 것 같습니다.


그런데 여기서 매우 조심해야 할 문제가 있습니다.
바로 AI의 “할루시네이션(hallucination)” 현상이라는 것입니다
할루시네이션이란,
AI가 사실이 아닌 내용을 마치 사실처럼 그럴듯하게 만들어내는 현상을 말합니다.


예를 들면,
  * 존재하지 않는 책이나 논문을 인용하거나
  * 성경 구절을 잘못 연결하거나
  * 실제 없는 역사 사건을 단정적으로 말하거나
  * 신학자의 견해를 왜곡해서 설명하는 것
등입니다.


더 무서운 것은, AI는 틀린 말을 하면서도 매우 자신 있게 말한다는 점입니다.
그래서 분별력이 없는 사람은 쉽게 속을 수 있습니다.


특히 요즘은 어떤 사람들은 자신의 주장이나 사상을 정당화하기 위해 AI를 이용하기도 합니다.
예를 들어,
어떤 사람이 자신이 믿고 있는 특정 주장이나 해석을 AI에게 반복적으로 질문하여, 마치 “AI도 이것이 맞다고 증명했다”는 식으로 사용하는 경우가 있습니다.


AI는 진리를 판별하는 존재가 아닙니다.
질문의 방향과 입력된 정보에 따라 얼마든지 입력자가 원하는 답변을 하기도 합니다.
결국 사람들은 AI를 통해 자기 확신만 더 강화하게 될 수도 있습니다.


또 하나 매우 위험한 것은, AI를 이용한 영상과 이미지 조작입니다.
이제는 AI 기술로 사람의 얼굴과 음성을 흉내 내어, 실제처럼 보이는 가짜 영상까지 만들 수 있는 시대가 되었습니다.
가짜 뉴스
가짜 인터뷰,
가짜 동영상
심지어 존재하지 않는 사건까지도 매우 사실적으로 만들어낼 수 있습니다.


앞으로는 사람들이 눈으로 보는 것조차 믿을 수 없는 시대가 될 가능성이 큽니다.
특히 신앙 영역에서는 더욱 조심해야 합니다.


AI는 성령님이 아닙니다.
회개하지도 않고, 하나님을 경외하지도 않습니다.
그저 데이터를 조합하여 답을 만들어낼 뿐입니다.
만약 성도가 말씀보다 AI를 더 의지하게 된다면, 매우 위험한 처지에 빠질 수도 있을 것입니다.


앞으로 AI는 더 정교해질 것입니다.
사람처럼 말하고, 설교를 만들고, 신학 해석까지 제공할 것입니다
여기에서 성도는 반드시 기억해야 할 것이 있습니다. 
진리는 AI란 기술 안에 있는 것이 아니라, 예수 그리스도 안에 있습니다.


그러므로 마지막 시대일수록 성도는 더욱 말씀으로 돌아가고, 성령 안에서 분별하며, 무엇이든 검증하는 자세를 가져야 합니다.
분별력을 구하는 기도를 해야겠다는 생각이 드는 요즘입니다.