AI가 지배하는 디스토피아 올까

[노을]

사람이 만든 사람 같은 존재 이야기는 기원전부터 있었지만, 그런 존재가 세상과 사람에게 해를 끼친다는 상상은 18세기 중반부터 등장하기 시작했다. 19세기 초 메리 셸리의 소설 ‘프랑켄슈타인’과 1920년 카렐 차페크의 희곡 ‘로숨의 유니버설 로봇’이 그런 계열의 대표작들인데, 두 작품 모두 생물학적 인조인간을 등장시켰다.

셸리가 묘사한 빅터 프랑켄슈타인 박사는 지식을 공유하지도 작업 과정을 기록하지도 않고, 자신이 발견한 현상을 이해할 생각도 없이 결과물을 제작하기에 급급한 행적을 보인다. 차페크의 희곡은 인조인간들이 집단 반란을 일으켜 세상을 장악하는 이야기를 그린 작품이다. 그는 체코 프라하 공장지대를 출퇴근하는 노동자들을 보다가 인조인간의 아이디어를 떠올리고 로봇이라고 이름 붙였다고 한다.

지능을 갖춘 금속인간·기계인간·전기인간·전자인간 등은 차페크의 희곡 이전부터 있었다. 1987년에 나온 이언 뱅크스의 ‘컬처’ 시리즈는 인공지능들이 이합 집산하는 세계를 그렸고, 2000년에 출간된 칼 슈뢰더의 ‘벤투스’는 능력과 형태가 천차만별인 인간, 인공지능, 인공의식인 ‘신’들이 서로 투쟁하고 협력하는 세계를 묘사했으며, 이어 인공지능은 ‘2001 스페이스 오디세이’, ‘터미네이터’, ‘매트릭스’ 등의 영화를 통해 대중화되었다.

즉 챗GPT가 등장하기 전까지 인공지능에 결부된 심상들은 노동소외와 냉전체제에 대한 은유에서 비롯된 것들이었다. 거대한 인공지능이나 빅테크 기업들이 세계를 지배하리라는 냉전적 상상과 우려는 거대언어모델(LLM)의 엄청난 규모가 이목을 사로잡는 동안 팽배했다. 다행히 2023년 상반기부터 정보를 학습하는 매개변수 크기를 줄이되, 미세조정을 통해 특정 분야의 성능은 높이려는 소형언어모델(sLLM)도 조명을 받으면서 그런 우려가 조금은 완화되었다.

인공지능이 발달해 대량 실업이 일어날 막다른 길에 이르렀다는 걱정도 유행에 마모된 상상력과 기초 연구에 대한 무관심들에 의해 많이 부채질되었다. 일단 챗GPT가 초월적으로 다재다능한 것 같지만 그렇지 않다. 미국 의사자격시험 필기고사를 합격했다지만, 구글링에서 복사-붙여넣기만 용인하면 웬만한 대학생들도 다 합격할 수 있다.

질문에 아무 말이나 천연덕스럽게 늘어놓는 ‘환각’ 현상도 줄어들었다지만, 이는 거대언어모델이 스스로 학습해서 갖춘 능력이 아니라 거대언어모델의 환각을 사람이 발견한 사례를 별도의 인공지능이 학습해 차단했기 때문이다. 또한 ‘사람 같은 인공지능’이라는 은유에 매몰되는 것도 위험하다.

만일 인공지능에 목표를 지정하고 수행을 일임한다면, 목표는 달성했지만 목적을 손상시키는 이른바 ‘마이더스 문제’(손에 닿는 모든 것이 황금으로 변해서 부유한 삶을 누리지 못하고 굶어 죽는다거나 평화를 달성하기 위해 인류를 멸종하는 역설)를 완벽하게 방지하는 건 지극히 어렵다.

그런 문제를 극복하기 위한 연구들이 진행되고 있지만 40년째 기초연구 중이다. 그보다는 인공지능이 잘 작동할 수 있도록 환경과 임무를 제한하는 일이 더 효율적이다. 게다가 인공지능 기초 교과서를 보면 인공지능이 사용자의 목적을 정확하게 알지 못한 채 작동하되 필요할 경우 사용자에게 결정권을 넘기도록 설계하는 것이 수학적 모델과 함께 적시된다.

예를 들어, ‘2024년 1월28일 제주여행 때 묵을 최적의 숙소’를 탐색할 때 위치와 가격 등 여러 옵션이 제시되기 전에는 사용자가 무엇을 선택할지(사용자가 무엇을 원하는지) 알 수 없는데, 현실에선 이런 경우가 대부분이다. 즉 사람의 감독과 개입을 계속 배제하면서 정상 작동을 보장하는 인공지능은 불가능하다.

인공지능을 은유로 활용할 때는 ‘무엇을 할 수 있는가’만으로도 쓸모가 있겠지만, 실제 세계에서는 허상을 걷어내고 ‘무엇을 할 수 없는가’를 볼 필요가 있다. 그리한다면 조금은 덜 두려워지고 여러 대안이 눈에 들어올 것이다.(이관수 과학저술가)