챗GPT의 한계와 위험성/이상원

[김수영1]

초등학교부터 대학교까지, 때로는 그 이상의 긴 기간 동안 학습에 시달려야(?) 했던 우리 중 다음과 같은 공상에 사로잡혀 보지 않은 사람은 없을 것이다. “내가 태어나기 전까지 축적된 인류의 모든 언어, 역사, 과학의 지식을 완전히 습득한 상태에서 세상에 태어난다면 공부가 얼마나 쉽고 재미있을까? 나는 아마도 세계 최고의 석학이 될 수 있겠지?” 인류의 역사가 진전돼 갈수록 인류가 축적해 온 지식은 천문학적으로 늘어나는데, 인간은 항상 지식 제로 상태에서 출발해 짧은 세월 동안만 학습할 수 있다는 사실은 인류 학습의 아킬레스건이었다. 챗GPT는 인류가 시초부터 꿈꿔 온 이 꿈을 실현해 줄 도구로 보인다.

하나님의 형상의 결과물인 챗GPT

챗GPT는 인간이 입력한 정보에 따라 움직이는 약한 인공지능(weak AI)으로부터 자유로운 선택의 능력과 감정 표현 등에 있어서 인간을 방불한 강한 인공지능(strong AI)으로 넘어가는 중간 단계의 인공지능이다. 물론 여기서 강한 인공지능이 하는 선택과 감정 표현은 고도의 연산으로 인한 자동적인 결과물로서 인간의 선택과 감정 표현과 동질의 것이 아니라 짝퉁(fake)에 불과한 것임을 유념해야 한다. 

챗GPT에서 챗(chat)은 ‘대화한다’는 뜻이다. G는 ‘generative’로서 인간과의 대화를 생성해 낸다는 뜻이며, P는 ‘pretrained’로서 100% 입력된 자료에만 근거해 작동한다는 뜻이고, T는 ‘transformer’로서 문해력(文解力)을 갖추었다는 뜻이다. 챗GPT가 컴퓨터에 입력된 방대한 자료에 대한 심층학습(deep learning)을 통해 자료 안에 있는 논리(logic)를 찾아내 조합하여 대화에 필요한 문장을 구성해 내는 능력을 갖춘 건 확실해 보인다. 

챗GPT는 인간 정신의 작품으로서, 인간이 하나님의 형상으로 창조됐음을 증언하는 항목 가운데 하나다. 인간의 정신 기능 ­ 양심, 이성, 의지, 감성 ­ 은 하나님의 형상을 구성하는 요소들이다. 챗GPT의 핵심 기능은 연산(caculation)인데, 연산은 논리이며, 논리는 이성이다. 챗GPT는 하나님의 형상을 지닌 인간의 이성이 만들어 낸 작품이다. 이성이 챗GPT와 같이 경이롭고 정교한 연산장치를 만들어 낼 수 있고, 이 연상장치를 더 정교화 시키고 발전시킬 수 있는 무한한(?) 가능성을 열어 놓고 있다는 것은 이성이 무한하고 완전하신 하나님이 가진 기능을 닮았기 때문에 가능하다.

죄의 세력에 손상된 챗GPT

만일 인간이 타락하지 않았다면 이 경이로운 도구는 완전하며, 영생하는 인간에게 유용한 장치로 사용될 수 있다. 챗GPT 안에 담을 수 있는 정보의 양에는 사실상 제한이 없다. 수천 년, 수만 년 이상 인류가 축적해 온 정보도 얼마든지 챗GPT 안에 담을 수 있다. 그런데 챗GPT와 같은 장치는 적어도 수천 년, 수만 년 이상, 나아가서는 영생을 구가할 수 있는 삶에 적절한 것이며, 이런 인간이라야 제대로 효율적으로 운영할 수 있다. 챗GPT는 길어야 100년의 수명을 넘지 못하는 인간이 운영하기에는 적합하지 않은 장치다. 인간의 수명이 짧은 것보다 더 큰 문제는 인간이 타락했다는 사실이다. 물론 인간의 수명이 짧다는 사실도 인간의 타락에서 기원했다. 아담의 타락을 통해 인류 사회 안에 들어온 죄의 세력은 인류가 행하는 모든 작업을 손상시키고 망가뜨린다. 정교하고 경이로운 문화적 산물일수록 죄의 세력에 더 깊이 장악될 위험이 있다. 

자동차라는 경이로운 도구가 운전 원리와 교통 법규를 제대로 지키지 않으면 종종 인명살상 도구로 둔갑한다. 자동차보다 더 경이로운 비행기가 더 정교한 비행 원리를 준수하지 않으면 훨씬 더 무서운 대량 살상 도구로 둔갑한다. 이 두 가지 도구보다 월등하게 더 정교한 장치인 원자폭탄과 원자력 발전소는 월등히 정교한 원리와 책임 하에 운영되지 않으면 가공할 만한 피해를 인류 사회에 끼친다. 정교한 4차 산업 작품인 챗GPT도 인류에게 많은 공헌을 가져다줄 수 있지만 그 자체 안에 사실상 인간의 통제가 불가능한 위험과 부작용이 내포돼 있다는 점을 유의해야 한다. 

왜곡된 이념의 하수인이 될 수 있는 챗GPT

가장 큰 문제는 챗GPT가 지닌 두 가지 특징으로부터 불가피하게 등장한다. 하나는 챗GPT가 입력된 자료를 망각할 수 없다는 사실에 기인한다. 다른 하나는 챗GPT는 100% 기존에 입력한 자료를 근거로 기능한다는 점이다. 

첫째로, 챗GPT는 한 번 입력한 자료를 기억에서 지우지 못한다. 챗GPT의 이 기능은 인간을 월등히 능가하는 비범한 능력인 동시에 인간을 절대로 이길 수 없는 치명적인 약점이다. 인간의 뇌는 뇌에 들어오는 무한한 분량의 자료 중 자신의 생존에 꼭 필요한 자료만 선별적으로 기억에 남기고 불필요한 자료들은 망각한다. 인간의 뇌는 전 지구상에 있는 컴퓨터와 인터넷 장치를 모두 합한 것보다 더 큰 용량과 정교한 구조를 가지고 있다. 그럼에도 불구하고 불필요한 자료는 과감히 삭제하고 생존에 꼭 필요한 자료만 남겨 항상 뇌를 최적화한다. 물론 이 과정에서 필요한 자료까지도 망각해 버리는 일이 많아 문제가 되기도 한다. 망각해야 할 기억을 망각하지 못하고 기억하는 것이 바로 자폐증이라는 질환이다. 불행하고 상처가 되는 기억은 망각해야 건강한 삶을 살 수 있다. 

그러나 챗GPT는 망각해야 할 자료를 기억에서 지우는 능력이 없다. 입력된 자료를 모두 기억하는 것은 챗GPT의 강점이면서도 약점이다. 챗GPT가 자료를 지우지 못한다는 것은 챗GPT에게 선별 능력이 없다는 뜻이다. 챗GPT가 지워야 할 자료를 지우지 못해 선별 능력이 없다면, 챗GPT가 제시하는 답변은 신뢰성의 문제가 생길 수밖에 없다.  

둘째로, 챗GPT는 입력된 자료 안에서만 판단할 뿐 입력된 자료 밖에서 이 자료들을 판단하는 비판적 능력이 없고, 입력된 자료의 출처를 판단할 능력도 없다. 이 문제는 이미 현재 인터넷 자료가 지니고 있는 문제인데, 챗GPT에서 한층 더 심화된다. 챗GPT에 입력된 자료를 검증하는 장치를 만든다고 해도 이 작업은 인간의 인식의 한계, 부패한 마음, 그리고 편견 때문에 현실적으로 매우 어렵다. 따라서 챗GPT는 출처가 불분명하고 자료의 질도 검증되지 않은 무한한 양의 산더미 같은 쓰레기 자료의 집합소가 될 우려가 있다. 자료의 분량이 는다는 것은 악성 자료 분량도 같은 비율로 늘어난다는 걸 의미하기 때문에 챗GPT 사용자 인식의 혼란을 가중시킬 위험이 있다. 

챗GPT의 자료 집합소는 특정한 이념으로 인류를 세뇌시키는 도구로 악용될 위험도 있다. 이러한 위험의 예시가 가장 선명하게 드러나는 곳이 신학 영역이다. 신학의 역사와 자료들을 일견해 보면, 성경의 무오성을 부인하는 성경 비평학을 추구하는 자료, 초월성을 거부하는 자료, 기독교의 핵심적인 교리를 파괴하는 자유주의신학 자료, 종교다원주의나 종교혼합주의를 추구하는 자료들이 정통 신학의 자료보다 압도적으로 많다. 게다가 기독교라는 이름으로 떠돌아다니는 이단적 성향이 있는 통속적인 자료도 헤아릴 수 없이 많다. 이 모든 자료는 사실상 기독교를 파괴하는 자료다. 정통 신학을 견지하는 자들이 챗GPT 안에 바른 자료를 입력하기 위해 아무리 노력해도 오늘날 세계 신학계의 90% 이상을 이미 장악하고 있는 자유주의 신학자들과 이단적인 종교인들의 인해전술을 당할 길이 없다. 이것은 냉엄한 현실이다. 

이 자료들이 입력된 챗GPT로부터 나오는 결과물이 어떠하리라는 것은 자명하다. 필자는 컴퓨터로 많은 작업을 하고 인터넷으로 논문들을 찾아서 읽지만 설교 준비를 할 때 단 한 번도 인터넷이나 AI의 도움을 받아 작성해 본 적이 없다. 신학 분야만 그럴까? 철학의 주류는 유물론, 공리주의, 쾌락주의, 상대주의에 장악된 자료들이 압도적으로 많으며 이 자료들은 자료들을 읽는 자들을 헤어나올 수 없는 혼란에 빠뜨린다. 

이념 또는 사상의 지배로부터 자유로울 수 없는 인문학 분야와는 달리 자연과학이나 기술 분야에서는 챗GPT를 어느 정도 유용하게 활용할 수 있다. 정직한 관찰과 실험의 결과를 바르게 입력하고 입력된 자료에 논리적으로 타당한 결론을 도출하는 작업에 있어서는 챗GPT가 유용하다. 예를들면 특정한 약제의 효용과 성분과 이 효용과 성분을 필요로 하는 환자의 증상을 챗GPT에 정확히 입력하면 바른 처방이 나올 수도 있다. 법률 소송의 경우에도 법리가 명확한 간단한 소송은 챗GPT를 활용할 수 있다. 특별히 고도의 복잡한 연산을 요구하는 바둑의 경우 AI의 뛰어난 연산 능력이 유감없이 발휘돼 인간 바둑기사들이 AI를 참고해 공부하고 있다. 인간 바둑기사들이 AI에 근거해 형세 판단과 집 계산하는 것을 따라가지 못한다. 

그러나 현재 과학의 영역을 진화론이 강하게 장악하고 있는데, 진화론이 현실과 동떨어진 사변적 ‘논리’라는 점에서 같은 사변적 논리와 연산에 능숙한 챗GPT에 의해 전폭적으로 수용될 수 있고, 그 결과 챗GPT는 유사 과학 혹은 과학주의 무대로 전락할 위험이 있다. 이렇게 되면 바른 신앙을 가진 기독교인들이 별도의 작은 챗GPT를 만드는 경우를 제외하면 일반 챗GPT는 사탄의 놀이터로 전락할 수 있다. 바른 신앙과 세계관을 가진 기독교인들이 독자적인 챗GPT를 만들 수 있으나 재원과 인력의 한계가 너무 뚜렷하여 일반 챗GPT와 경쟁하기는 쉽지 않아 보인다. 

현실과의 만남이 불가능한 챗GPT

챗GPT가 제공하는 지식은 현실(reality)로부터 추상화된 가상현실(virtual reality) 안에 철저하게 갇혀 있는 지식이다. 챗GPT는 현실과 만날 수 없다. 추상화된 가상현실상의 지식은 물론 현실로부터 유래된 지식이지만 현실로부터 추상화되는 과정에서 왜곡이 일어나는 것은 불가피하다. 지식 가운데는 수학 진리처럼 관념상 논리만으로도 정합성이 보장되는 것도 있지만, 구체적인 인간의 몸과 사회를 다루는 지식들은 현실로부터 추상화되면 왜곡될 위험이 있다. 예컨대 A라는 지점으로부터 B라는 지점을 향해 화살을 쏘는 경우 논리적으로는 화살이 B에 영원히 도달하지 못한다는 추론이 가능하지만, 현실의 화살은 100% B를 관통한다. 따라서 챗GPT는 초대교회 시대 등장했던 영지주의와 같은 길을 걷게 될 가능성이 있다. 

영지주의는 몸과 몸으로 이뤄지는 생활의 세계를 악한 것으로 보고 영의 세계를 절대적으로 선한 것으로 보는 이원론에 빠졌다. 그런데 실제로 AI를 소재로 한 공상과학소설과 영화에서는 부패하고 썩는 유기체인 인간의 몸을, 부품만 갈아 끼우면 영구적으로 사용할 수 있고 썩지 않는 기계로 대체한 터미네이터와 같은 기계 인간을 보여 줬다. 이제는 기계까지도 제거하고 인간 자아를 추상적인 정보의 다발로 대체하고 자아의 활동을 논리적 연산으로 대체해 영생을 추구하는 세계관으로까지 나가고 있다. 왜냐하면 소프트웨어에 저장된 정보는 무한한 횟수의 복제를 통해 영원히 존재하는 것이 가능하기 때문이다. 

현실로부터 유리된 가상현실 속에서의 논리적 추론과 연산을 할 수밖에 없는 챗GPT는 포스트모던적인 언어 철학에 친화적이다. 이 언어 철학은 말이나 글은 현실 속 발화자(發話者, speaker)의 의도와 문맥으로부터 유리돼 존재하며, 말을 듣거나 글을 읽는 독자의 직관적이고 감성적이고 주관적인 관념적 판단에 따라서 그 의미가 결정된다고 주장한다. 이와 같은 포스트모던적인 언어 철학은 챗GPT와 그 방법론이 유사하다. 따라서 챗GPT에 무겁게 의존해 학습하는 경우에 인식론상의 혼란이 가중될 위험이 있다.

정신과 신체의 기초 체력을 약화시키는 챗GPT

챗GPT는 인간이 생존하기 위해 갖춰야 할 정신과 신체의 기초 체력을 망가뜨릴 수 있다. 아무리 최첨단 신무기가 개발돼 전쟁에 동원돼도 전쟁의 최종 승패는 원시적인 전투 방식인 백병전에 의해 마무리된다. 백병전을 치룰 수 있는 체력이 없으면 결국은 패배한다. 4차 산업이 아무리 최첨단으로 발달해도 가상현실이 몸과 몸이 만나 꾸려 가는 결혼 생활을 대체할 수 없으며, 생존을 위한 먹거리를 대체할 수 없다. 사람이 굶으면서 가상현실에서 살아가는 건 불가능하다. 아무리 고급 승용차가 넘쳐나도 가장 건강한 사람은 BMW(Bus, Metro, Walking)를 이용하는 사람이다. 계산기를 이용하면 계산에 들어가는 시간을 절약하고 보다 생산적인 다른 일에 집중할 수 있다고 하지만, 기초 계산 능력이 없으면 두뇌의 논리적 추론 능력이 현저히 떨어지고, 이는 정신 기능의 저하로도 이어진다. 계산기가 고장 나면 인간은 아무 일도 못하는 기계맹(機械盲)이 되고 만다. 또한 컴퓨터 앞에 앉아서 손가락만 까딱해 문제를 해결하다가 인간의 신체 능력이 크게 저하될 수 있다. 

발로 걸어서 도서관에 가고, 도서관에 가서 책을 찾고, 책을 찾아서 넘기며 읽는 수고는 결코 시간 낭비가 아니다. 이런 수고가 정신과 신체를 건강하게 할 뿐만 아니라 자료를 시각적이고 공간적으로 파악하는 관점도 길러 준다.