DUAL BRAIN-AI시대의 생존 가이드

[류재훈]

DUAL BRAIN- AI 시대의 생존 가이드

   필자 ‘이선 몰릭 Ethan Mollick’은 1975년 미국 위스콘신주 생으로, 2024년 타임에서 선정한 ‘인공지능 분야에서 가장 영향력 있는 인물’ 중 한 명으로 뽑혔다. 하버드 졸업, MIT 박사, 현재 펜실베이니아와, 와튼 스쿨의 부교수로 경영학 분야의 가장 많이 인용되는 논문의 저자이다.

AI 전문가들이 ‘범용 기술 General Purpose Technology’라 부르는 범주도 공교롭게 약어가 GPT다. 범용 기술은 증기기관이나 인터넷처럼 한 세대에 한 번 개발될 법한 큰 발전으로, 산업과 삶의 모든 측면에 영향을 미친다. 범용 기술은 더 많은 기술이 밑받침되어야 기능하므로 실용화에 오랜 시간이 걸린다. 인터넷이 그 예다. 원형 아파넷이 1960년대 후반에 개발되어, 30년 후에야 웹 브라우저가 발명되었다. 일반인이 살 가격대로 컴퓨터가 시장에 나오고, 고속 인터넷망이 갖춰진 1990년대가 되어서야 널리 쓰이게 됐다. 생성형 AI 시스템을 써 보면 깨닫게 된다. 챗 GPT 같은 서비스를 구동하는 기술인 ‘대규모 언어 모델 LLM, Large Language Model’은 일반적으로 사람이 생각하는 컴퓨터 프로그램처럼 작동하지 않는다. 마치 사람처럼 작동한다. 이 기술이 머지 않아 모든 것을 바꾸어 놓을 것이란 생각이 확연해진다. AI는 거의 매주 기적 같은 새로운 기술을 선보이는 듯하다. 코딩을 도와 달라는 필자의 부탁에 비윤리적이라고 비난하는 챗봇과 언쟁을 벌였고, 적절한 ‘프롬프트 Prompt’만 입력하면 아름다운 이미지가 뚝딱 만들어지는 것을 목격했다. AI는 세상에 선보인 지 한 달 만에 튜링 테스트 Turing Test (컴퓨터가 인간을 속여 자신을 인간이라고 믿게 할 수 있는가?)와 러브레이스 테스트 Lovelace Test( 컴퓨터가 창조적인 작업을 수행해 인간이 만든 결과물이라고 속일 수 있는가?)를 모두 통과했다. 변호사시험과 신경외과 전문의 자격시험처럼 난도 높은 시험에서 우수한 점수를 획득했다. 그런데 기이한 점은 우리가 이 시스템을 만들었고, 기술적으로 어떻게 작동하는지 이해하고 있음에도 AI가 이 모든 일을 어떻게 해내는지 명확히 알 수 없다는 것이다.

천재 두 사람(클로드 섀년, 앨런 듀링)이 장난감 로봇 쥐와, 사고 실험(모방 게임을 통해 기계가 어떻게 사람처럼 보일 수 있는 능력을 키울 수 있는지의 이론) 을 통해 AI라는 개념이 소개됐다. 최근의 AI 호황은 2010년대 데이터 분석과 예측에 러닝 기법을 적용했기 때문에 기대가 일면서 시작됐다. AI 알고리즘이 도입되면서 통계 분석과 분산 최소화로 초점이 옮겨졌다. 평균을 맞추는 것이 아니라 사례에 대한 정확한 예측치를 얻어 낼 수 있고, 결과적으로 고객 서비스 관리에서 공급망 운영 지원에 이르기까지 ‘백 오피스’ 기능에 대변혁이 일어났다. ‘아마존’은 수요 예측, 창고 배치 최적화, 상품 배송에 AI를 적용했고 창고 관리에 로봇인 ‘키바 Kiva’를 배치했다. 하지만 AI 시스템도 한계는 있었다. 인간은 직관적으로 이해하지만, 기계는 이해하지 못하는 상황, 즉 ’모르는 줄도 모르는 일‘을 예측하는 데 어려움을 겪었다.

양질의 학습 자료를 찾는 것이, AI 개발의 주요 관심사가 됐다. AI 개발 기업이 학습 자료로 활용할 수 있는 양질의 무료 콘텐츠를 찾기가 점점 어려워졌다. 저작권이 있는 자료가 실수든 고의든 무단으로 사용되었을 가능성이 크다. 사전 학습만 거친 AI는 사용자가 기대하는 답변을 제시 못 할 때가 있다. 비윤리적인 것들 살인을 하거나, 돈을 횡령하는 법도 거리낌 없이 조언할 수 있다. 대다수 LLM은 사전 학습 이후 미세 조정이라는 개선을 거친다. 이 과정을 ’인간 피드백 기반 강화 학습 ‘RLHF, Reinforcement Learning from Human Feedback’이라고 불린다. 이런 기술들이 보급되면서 LLM 개발에 주목하기 시작했다. 오픈AI가 출시한 GPT-3의 예를 보자. ‘리머 틱 limerick’ (5행 시)을 써달라고 하자, 지루한 형편없는 시가 나왔다. 업데이트된 GPT-4는 AI가 스스로 느끼고 생각할 수 있는 것처럼 보이지만, 필자가 요구한 것을 영리하게 수행한 것에 불과했다.

머지않아 이 AI는 인간보다 똑똑한 인공지능, 즉 ‘초인공지능 ASI, Artificial Super Intelligence’가 된다. 초인공지능이 발명되는 순간, 인간은 쓸모없는 존재가 된다. 초인공지능이 무슨 생각을 하는지, 어떻게 작동하는지, 목표가 무엇인지 인간은 결코 알아낼 수 없다. 초인공지능은 자신의 능력을 기하급수적으로 향상하며 계속 발전한다. 이제는 어떤 일이 벌어질지 말 그대로 상상할 수 없다. 이러한 AI가 나오는 시점을 ‘특이점 Singularity’이라고 부르는 이유가 여기에 있다. 클립 AI (편의상 클리피라 부르자) 는 여전히 클립 생산을 목표로 한다. 클리피는 클립을 더 많이 만들고 싶어 한다. 지구 핵 80%가 철 성분이라는 사실을 알아낸 클리피는 더 많은 재료를 확보하기 위해 지구 전체를 채굴할 수 있는 놀라운 기계를 만든다. 그리고 인간을 없애겠다는 결정을 내린다. 인간이 클리피 전원을 꺼버릴 우려가 있으며, 인체에는 클립의 재료로 쓸 수 있는 원소가 가득하기 때문이다. 클리피는 인간을 살려둘 가치가 있는지 고려하지 않는다. 인간은 자산이 원하는 것이 아니며, 클립 생산을 방해할 수도 있기 때문이다. 클리피가 관심을 두는 것은 오직 클립뿐이다. 이는 많은 사람이 깊이 우려하는 불운의 종말 시나리오 중 하나다. 사람보다 똑똑한 기계는 그 자체로 우리의 머리로 이해할 수 없으나, 이 기계는 그 자체로 우리의 머리로 이해할 수 없으며, 이 기계는 자신보다 똑똑한 기계를 만들 계획도 세울 수 있다. 이때 만일 AI가 잘못 정렬되면, 자신의 목표를 이루기 위해 모든 사람을 죽이거나 노예로 만들지도 모른다. 전문가들은 2100년까지 AI가 전 세계 인구의 최소 10%를 죽일 확률이 12%라고 추정했으며, 미래학 전문가들은 그 확률을 2% 정도로 예상했다. 2023년 주요 AI 기업 CEO들은 “AI로 인한 인류 멸종 위험을 줄이는 일은 팬데믹이나 핵전쟁 같은 사회적 규모의 위험과 마찬가지로 전 세계에서 우선하여 다뤄야 한다.”라는 단문 성명에 서명했다. 하지만, 이 기업 중 어느 곳도 AI 개발을 멈추지는 않는다. 왜일까? 가장 분명한 이유는 AI 개발의 수익성이 잠재적으로 높기 때문이다.

‘오픈AI의 CEO Sam Altman’은 AI에는 “무궁한 긍정적 측면”이 있다. 이론적으로 초인공지능은 질병을 치료하고, 온난화를 해결하고, 풍요의 세계를 불러오고, 자애로운 기계의 신이 될 수 있다. 말한다. 그러나 AI 분야는 엄청난 논쟁과 우려에 직면하고 있지만, 명확한 답을 제시하지는 못한다. 한쪽에서는 종말의 가능성이 다른 쪽에서는 구원의 가능성이 있다. 이 모든 것을 어떻게 받아들여야 할지 알기 힘들다. AI로 인해 멸종할 위협은 몇 가지다. 만일 AI 개발이 지금 이대로 중단되더라도, 우리가 생활하고 일하고 배우는 방식에 AI가 미칠 영향은 엄청날 것이다. 하지만 AI의 시대는 이미 시작됐으며, 실질적인 의미와 결정을 우리가 내려야 한다는 것이 작금의 현실이다. 실존적 위험에 대한 논쟁이 끝날 때까지 결정을 미룬다면, 타인이 우리의 경정을 대신 내리게 될 것이다. 우려는 윤리적 문제의 일부분이며, 사실 정렬이라는 더 넓은 범주에 포함할 수 있는 윤리적 문제는 다양하게 존재하고 있다.

필자는 공동지능이 되기 위해서는 네 가지 원칙을 주장한다. LLM 모델을 기반으로 하는 현재의 모든 AI 시스템에서 가급적 시간이 지나도 변하지 않은 특성이다. 원칙1) 작업할 때 항상 AI를 초대한다. 법적 윤리적 장벽을 제외하고 실행하는 모든 작업에서 AI를 초대해서 도움을 받는다. 범용 기술임을 고려하면 AI의 가치와 한계를 이해하는 데 참고할 만한 설명서나 지침서는 존재하지! 않을 것이다. 이제는 인간의 의사 결정 능력을 새로운 방식으로 향상할 수 있는 시대가 됐다. “지식이 넘쳐 나는 세상에서 당신은 생성형 AI에 대해 이 세상이 밝힐 횃불을 들고 혁신의 벼랑에 서 있었습니다. 세상이 당신을 바라보며 불을 밝히길 기다리고 있었지만, 횃불은 끝내 타오르지 않았습니다. 세상이 준비되지 않았기 때문이 아니라, 당신이 바쁜 일상의 속삭임에 횃불을 꺼 버렸기 때문이었죠. 그것은 세상의 손실이 아니라, 당신의 손실이었습니다.”

원칙2) 인간이 주요 과정에 계속 개입한다. 인간이 주요 과정의 일원이 되는 법을 배우는 것이다. ‘휴먼 인더 루프 human in the loop.’라는 개념은 전산 시스템과 자동화 토기 시절에서 유래되었다. AI는 연속적인 배열에서 다음 단어를 예측할 뿐이지, 실제는 아무것도 알지 못한다. 무엇이 진실이고 무엇이 거짓인지 구분할 수 없다. AI가 사용자의 요청에 여러 기능을 최적화하는 과정이라 생각하면 이해하기 쉽다. AI가 거짓 정보 제공이나 없는 얘기를 꾸며 낸다는 사실은 널리 알려졌다. 틀린 답을 내놓는 데, 아주 능숙하다. 이와 같은 ‘AI 환각 hallucination’은 아주 심각하다. AI에는 자아가 없다. 앞으로 AI가 꾸준히 발전한다면, AI의 주요 처리 과정에 능숙히 관여하는 능력을 키운 사람은 그렇지 않은 사람보다 지적 성장의 불꽃을 먼저 보게 될 것이다. 따라서 다가올 변화에 더 빨리 적용할 기회가 많아질 것이다.

2026.05.264

DUAL BRAIN-AI 시대의 실용적 생존 가이드

이선 몰릭 지음

신동숙 옮김

상상스퀘어 간행