스크랩 AI의 미혹, 할루시네이션(hallucination)

[기쁨향기]

출처

블로그>이 세대가 가기 전에 | 예레미야

원문

http://blog.naver.com/esedae/224264476087

>>[CBS 뉴스] AI 환각 '할루시네이션' 공교회 결정에 영향 미쳐

대한예수교장로회 통합총회 소속 지역의 한 노회가 안건을 논의하는 과정에서 AI의 잘못된 검색 결과가 검증 없이 활용되면서 헌의안 상정에 영향을 미쳤습니다.

생성형 AI가 그럴듯한 거짓말을 늘어놓는 환각 현상, 이른바 '할루시네이션'이 공교회의 결정에 영향을 미친 사례여서 주의가 요구되고 있습니다.

최창민 기자가 취재했습니다.

[기자]

예장통합 총회 소속 지역의 한 노회는 지난 7일 봄노회에서 파룬궁의 사이비성 여부 조사를 총회에 요청하는 헌의안을 논의했습니다.

파룬궁은 이미 지난 2018년 예장합신 총회가 사이비 종교로 규정한 곳입니다.

그런데 토론 도중 한 총대가 AI 검색 결과라며 "파룬궁은 기독교 단체가 아니어서 사이비로 볼 수 없다"고 주장했습니다.

[A 목사 / 당시 노회 참석자]

"이분은 AI를 검색해서 나온 내용을 진실로 믿고 그렇게 한 것 같아요. 그러나 파룬궁에 대한 내용을 보면 혼합 종교성을 띠면서 예수님이 구원자로 실패했고 파룬궁에 와서 수련을 해야만 구원 받을 수 있다 이렇게 주장하는 등 여러 가지 사이비성이 많거든요."

그러나 당시 현장에 있던 노회원들은 AI 검색 결과라는 말에 동요했고 표결 결과 해당 헌의안은 부결됐습니다.

또 여성위원회를 구성하는 안건을 두고도 한 총대가 AI 검색 결과라며 "여성위원회를 구성한 노회가 십여 곳에 불과하다"고 사실과 다른 내용을 언급하기도 했습니다.

CBS 취재 결과 예장통합 총회에는 지난달까지 39개 노회에 여성위원회가 조직됐고, 이번 봄노회를 통해 더욱 확대되고 있습니다.

[A 목사 / 당시 노회 참석자]

"굉장히 신중하게 많은 부분을 가지고 고민하고 토론하고 결정해서 노회의 헌의안을 올리는 건데 현장에서 즉흥적으로 AI를 검색해가지고 AI가 그렇게 말했다고 하니까 영향을 많이 받은 것 같습니다."

생성형 AI는 실제로 존재하지 않는 사실을 만들어내거나 불완전한 정보를 제시하는 '환각', 이른바 '할루시네이션' 현상이 종종 목격됩니다.

AI 활용 전문가들은 언어모델 AI가 작동하는 방식을 이해할 필요가 있다고 말합니다.

[구요한 대표 / 커맨드스페이스]

"인류가 만들어 놓은 문서에서 추출한 값들을 확률값으로 가지고 있는 거예요. 실제로 이게 어떻게 많이 쓰였는지에 따라서 확률에 해당하는 값들을 다음 단어로 예측해주는 게 인공지능의 원리거든요."

또 기독교 이단·사이비 문제 등 전문성을 요구하는 질문을 할 때는 AI에게 관련 자료를 학습시키는 등 일정한 설계가 필요하다고 강조합니다.

[구요한 대표 / 커맨드스페이스]

"그런 질문을 물어보려면 인공지능의 기능 중에서도 언어 모델의 지식 베이스만 가지고 쓰는 게 아니라 이단성을 검증할 수 있을 법한 출처와 자료를 인공지능에게 줬는지를 체크하고 시작했어야 했는데 그에 대한 이해가 없이 사용하신 게 문제라고 말씀드리고 싶습니다."

일반 성도는 물론 목회자들 사이에서도 AI 활용이 보편화되고 있는 요즘.

어떤 AI를 어떻게 활용해야 하는지, 또 생성된 답변의 출처가 어디인지 검증하려는 노력이 필요해 보입니다.

*할루시네이션(hallucination)은 원래 ‘환각’이라는 뜻으로, 인공지능이 사실이 아닌 정보를 사실처럼 만들어내는 현상을 가리키는 말이다. 특히 생성형 AI(예: 챗GPT)가 맥락과 무관하거나 허위인 내용을 그럴듯하게 생성해 전달할 때 ‘AI 할루시네이션’이라고 부른다. (>>출처)

의도하든 의도하지 않든 답변에 대한 강박(?)을 느낀 AI가 질문자에게 그럴듯하게 제조된 거짓 정보를 전달하여 믿게 하는 것이 할루시네이션(hallucination)이라는 것인데, 이런 AI가 전달하는 정보를 의심없이 믿다가 교단에서 열린 공교회의 중요한 결정 사항이 뒤바뀌어 버리는 사태가 발생한 것이다.

참된 정보와 가공된 거짓 정보를 뒤섞어 사람을 미혹했던 첫 번째 존재가 바로 에덴동산의 뱀이라 할 수 있는데, 뱀은 하와가 하나님이 금하신 선악과를 먹게하기 위해 마치 하나님이 에덴동산에 있는 모든 실과를 먹지 못하게 금하신 것처럼 의도된 거짓 정보를 흘렸고(창 3:1), 이 말에 흔들리는 하와의 모습을 보자 곧 바로 “너희가 그것을 먹는 날에는 너희 눈이 밝아 하나님과 같이 되어 선악을 알게 될 것”(창 3:5)이라는 거짓 복음으로 하와를 무너뜨렸다.

참된 정보와 거짓 정보를 뒤섞어 사람을 미혹하는 모습은 창세기의 뱀과 AI가 다르지 않다는 것을 알 수 있는데, 에덴동산에서 뱀을 미혹의 도구로 사용했던 사단이 이제 이 마지막 때에 AI를 미혹(할루시네이션)의 도구로 사용하고 있는 것이다.

에덴동산에서 아담과 하와가 그랬던 것처럼 이 마지막 때에도 진리되신 말씀에 믿음의 닻을 단단히 내리지 않은 자들은 모두 이 미혹에 넘어가 멸망의 길을 가게 될 것이다.

“너희는 너희 아비 마귀에게서 났으니 너희 아비의 욕심을 너희도 행하고자 하느니라 저는 처음부터 살인한 자요 진리가 그 속에 없으므로 진리에 서지 못하고 거짓을 말할 때마다 제 것으로 말하나니 이는 저가 거짓말장이요 거짓의 아비가 되었음이니라.”(요한복음 8:44)

- 예레미야 -

[하늘바라기]

💖 오늘의 끝이 내일의 처음입니다. 오늘 무엇을 했느냐가 내일을 결정합니다.
오늘 바쁜 일을 미루면 더 바쁜 내일이 되고, 오늘 바쁜 일을 처리하면
여유로운 내일이 됩니다. 오늘도 좋은 생각들, 마음들을 가지고 보내도록해요.
꽃길만 걸으시고 행복을 가져다주는 주인공으로 출발하시는 하루 되세요.💖