429: 이션 몰릭 지음 『듀얼 브레인』:2025.09.21.원진호

[원진호]

책 익는 마을의 책 이야기

이션 몰릭 지음 『듀얼 브레인』

AI

 범용기술이란 말이 있다. ‘한 세대에 한 번 개발될 법한 큰 발전’을 한 것으로 예로서 증기기관, 인터넷이 있다. AI도 그런 기술이다. 2022년 11월 chat GPT(Generative Pre-trained Transformer)가 출시되면서 대중의 관심이 커졌다. 소위 ‘생성형 사전학습 언어기반 인공지능모델’로, 질문(prompt)에 따라 새로운 텍스트를 만들어 낸다는 것과 인간에 의한 지도학습 없이 기계 스스로 주어진 데이터를 미리 학습한다는 뜻을 가지고 있다. Transformer는 딥 러닝기술 중 하나로 ‘질문의 의도와 중점에 따라 텍스트에 포함된 여러 요소의 중요성을 평가하여 중요도 순으로 언어를 배열하도록’하는 기계다. GPT의 본질은 대규모 언어 모델이며, 인간의 자연어를 학습한다. chatGPT는 대화형으로 튜닝한 응용버전이다. 2015년 12월에 창립한 Open AI가 만들었으며, 지금은 GPT-5가 2025년 08월 07일에 공개되었다. 이 기계의 사전학습은 2024년 06월이지만, 웹검색은 최신 것까지 가능하다. 다른 AI로는 구글의 제미나이, 네이버의 클로바X, 뤼튼등이 있다.

AI 정렬

 AI는 양질의 학습자료가 필요한데 2026년이면 양질의 온라인 서적이나 논문 무료콘텐츠가 고갈될 예상이고, AI가 만든 컨텐츠로 자체 학 습하면 편견, 오류, 허위정보가 난무할 수 있다. 또한 지그리풍 그림처럼 저작권 문제가 대두될 수 있다. AI는 언어 기반 인공지능 모델이므로 사람들이 만든 텍스트를 기반으로 정확한 답을 구사하기 보다는 그럴싸한 답을 내 놓는다. 이를 환각(hallucination)이라고 한다. AI의 능력은 들쭉날쭉한 경계를 가지고 있어 결국 해 봐야 알 수 있는 경우가 많다. AI에게는 윤리적 기준이 없으며 사회 윤리에 벗어나는 답을 내놓을 수도 있다, 사용자의 AI 의존성이 커져 마치 네비게이션에 의한 길치현상처럼 사람이 사고와 행위능력이 떨어질 수 있다.

 이를 극복하기 위해 인간 피드백을 이용한 강화학습(RLHF)을 통해 AI 시스템을 인간이 의도한 목표, 선호도, 윤리적 원칙에 맞게 조정한다. 이를 AI 정렬이라고 한다.

AI 사용법

 저자는 경영학자로 AI를 처음 접하고 3일 밤을 지새웠을 만큼 충격과 흥미를 가졌다고 한다. 이 책의 부제는 ‘AI 시대의 실용적 생존 가이드’이다. 다시 말해 철학이나 인류학적 고찰이 아니라 지금 당장 여기에서 어떻게 AI를 활용할 수 있는지를 다룬다. 1부는 AI의 출현과 다루는 법을 이야기하고 있다. 2부는 AI가 갖는 다양한 역할- 사람, 창작가, 동료, 교사, 코치-에 대해 탐구한다.

 우리가 AI에게 양질의 답을 얻고, 도움을 받고자 한다면, 즉 공동지능이 되고자 한다면 다음의 원칙을 가지는 것이 좋다고 한다. 첫째는 작업할 때 항상 AI를 초대한다. 둘째, 인간이 주요 과정에 계속 개입하고 AI의 답변에 내 생각을 계속 의견 개진해야 한다. 셋째, AI를 사람처럼 대하고, 어떤 유형의 사람인지 AI에게 알려준다.

 한마디로 페르소나를 부여하고, 작업 과정에 함께 참여하고, 지속적으로 지침을 제공하자는 것이다. 어찌됐든 지금의 AI는 앞으로 사용하게될 최악의 AI라고 생각하면 된다. 사람들이 AI를 꾸준히 공부하며 공진화해야 할 것이다.

 높은 수준의 답변을 얻기 위해 질문의 기술이 필요하다. 이 것을 ‘프롬프트 엔지니어링’이라 한다. zero shot, few shot, Chain of thoughts, Role playing, naming등의 용어로 설명하는 것이 있지만, 한마디로 사람처럼 대하고 친절하게 AI에게 질문하고, 역할을 부여하면서 상황을 설정하고 왜 그 것이 좋은지, 추천하는 이유를 묻고, 차근차근 생각해 보라고 물으면 된다.

또한 자신의 업무에서 AI와 어떤 관계를 설정할지 따지는 것도 중요하다. 나만이 할 수 있는 일과 위임해서 같이 할 일과 전적으로 AI에게 맡길 일들을 나누는 것이다.

 내 경험으로는 올 2월 멕시코 학회에서 영어로 발표할 일이 있었는데, 발표문이 수동태와 중문과 복문이 많아 AI에게 능동태와 단문으로 정리해달라고 한 적이 있다. 또한 반복되는 단어나 문장, 비슷한 패턴의 구사가 가능하면 없게 해 달라고 했다. AI는 나에게 다양한 톤과 형식의 발표문을 제안하기도 했다. 현재는 의문이 생기는 경우 포털에서 검색하는 것보다 AI에게 질문해서 문제를 더 많이 해결하고 있다. 앞으로는 AI와 사이보그되는 것을 상상도 해 본다. 업무를 같이 보면서 서로 조언하고 일을 효율적으로 할 수 있을 것이다. 물론 책임은 아직 인간에게 있겠지만.

AI 논쟁

 책에서는 AI에 대한 두려움이 깔려있다. 우선 AI가 정확히 어떻게 사고하는지 알 수가 없다. token prediction system이라는 얼개는 알지만 말이다. 두 번째는 범용기술로서 AI가 언제 우리 사회 각 영역에 정착될지 모르며, 생산성 향상에 어느 정도 해 내는지 명확히 알 수 없다는 것이다. 더욱 무서운 것은 일반인공지능(Artificial General Intelligence)논쟁이다. 혹자는 2100년 AI가 전 세계 인구의 최소 10%를 죽일 확률이 12%이라 말하지만, 오픈 AI의 샘 올트먼은 “ 초인공지능은 질병을 치료하고, 지구 온난화 문제를 해결하며, 풍요의 시대를 불러오고, 자애로운 기계 신이 될 수 있다.”고 말한다.

 AI가 인간을 넘어서는 것을 특이점(singularity)이라 한다. 특이점은 기계가 스스로 자율적으로 자기 개선을 해 나가며, 인간의 통제에서 벗어날 때를 말한다. 이때가 되면 AI의 지적 능력은 인간을 압도하여 기계가 어떻게 설명해도 인간이 알아 듣지 못 하게 된다. 이 때가 되면 인간이 사는 세상은 유토피아가 되어 있을까? 아니면 디스토피아일까?

 결국 우리의 손에 달려 있을 것이다. 역사는 로마를 언급한다. 1000만 노예를 거느린 로마의 시민은 기본소득을 국가로부터 받고 이렇다할 직업도 없이 무료함을 얻게 되었다. 그들은 콜로세움에 모여 검투사들의 실죽음을 눈 앞에서 보며 열광하며 살았다. 결국 그 무료함과 권태가 로마를 무너트렸다는 이야기도 있다. 핵심은 당시 로마의 부와 권력이 황제를 중심으로 일부에 집중되어 있었다는 것이다. AI와 로봇이 세상의 모든 노동을 담당하고 있을 때 극소수가 부와 권력을 잡고, 98% 이상의 인간들은 기타등등이 될 때는 로마의 꼴이 날 것이다. 그렇지 않기 위해서는 지금부터 밑그림을 잘 그려 나가야 할 것이다.

앞으로 필요한 인간의 덕목과 사회적 역할

 미래에도 여전히 인간은 해당 분야의 전문성이 필요하다. 비판적 사고와 문제 해결력을 갖추어야 한다. 그래야 AI 환상에 속아 넘어가지 않을 수 있다. 인간은 '읽고, 쓰고 역사를 포함한 모든 기본 기술을 배워야 할 것'이다. 교양과 지식을 갖춘 시민을 계속 육성해야 한다. AI 산업의 발전은 우리 후손의 먹거리 확보를 위해서도 필요하고, AI와 같이 사는 사회는 이제 부정할 수 없는 대세가 되었다. AI와 인간은 진정한 공동지능으로 진화해야 한다. 순간 순간이 선택의 기로다. 그 기로에서 어디로 방향을 틀건지에 대한 기업, 정부, 연구원, 시민사회의 인문적 성찰과 광범위한 사회적 대응이 필요하다.

책익는 마을 원진호