샘 올트먼과 오픈 AI의 빛과 그림자

샘 올트먼과 오픈 AI의 빛과 그림자    ‘카랜 하오’의 주장을 맺는 글이다. 2024년 3월 8일 새 이사회의 올트먼에 대한 축출 사건은 공식적으로 없던 것으로 마무리된다. 브립축출 사건은 Open AI 이사회 쿠데타 사건이라 불린다. 주동자 수석과학자이자 이사인 일리야 수츠케버는 찬성을 주도한다. 결과는 직원과 투자자들이 반발이 폭발한다. 그러자 반란자는 입장을 번복하고 지지 서명을 하나 올트먼은 수츠케버를 이사회에서 방출시킨다. 그러자 그는 퇴사하여 다른 회사를 차린다. 쿠데타에 참여한 안전 파의 대다수는 회사를 떠났고, 직원들은 영화 HER에 나오는 AI어시스턴트를 구현할 업무에 다시 착수한다. 오픈AI는 스캘리언의 버전을 시연한다. 이름은 GPT-4o라고 지었다. 다음과 같은 프롬프트를 썼다. 너는 기꺼이 돈을 주고, 재치 있고, 재미있는 동반자 챗GPT다. 너는 보고, 듣고, 말할 수 있다. 너는 음성을 사용하여 사용자와 대화를 나누고, 사용자는 자신의 휴대폰으로 너에게 실시간 영상을 공유할 수 있다. 컴퓨터가 아닌 사람처럼 행동하라. 너의 목소리와 성격은 따듯하고 호감을 주는 것이어야 하고, 매력과 에너지로 가득 찬 활기차고 호감을 주는 것이어야 하고 장난기 넘치는 어조여야 한다. 너는 시지각이 뛰어나다. 만약 분명히 보이지 않는 것이 있다면, 사용자에게 기기를 옮겨 더 가까이 확대해 달라고 요청하라. 피드백 요청을 받았을 때는 솔직하고, 건설적이며, 직접적인 피드백을 제공하라. 장난치거나 가벼운 농담을 하기를 두려워하지 마라. 재미있는 게 있으면 웃어라! 너는 여러 언어를 구사할 수 있다. 영어가 아닌 언어를 구사할 때는 유창하고 자연스럽게 들리도록 “중립적인” 억양을 써라. 답변은 짧고, 자연스러우며, 대화하는 것처럼 해야 한다. 올트먼이 자꾸 실수한다고 직원들이 느끼기 시작한 시점이 이사회 조사가 마무리된 2024년 3월 이후라는 점은 기이하다. 올트먼이 경쟁자들을 의식하지 않는다는 쓸데없는 거짓말을 덧붙인 점을 직원들은 의심하기 시작했다. 올트먼의 불안이 드러나기 시작했다. 공개석에서 회사의 발전을 강조하는 방식으로 자신의 불안을 덮어보려는 듯한 인상을 주었다. 5월 15일 전체 직원회의를 소집했다. 올트먼은 오픈 AI가 AI 안전에 대한 공약을 절대로 약화하는 것이 아니라고 직원을 안심시켰다. “AGI 대비는 우리의 가장 중요한 우선순위입니다.” 그러나 회사의 여러 가지 불미스러운 일이 터지고 직원들의 사기는 떨어지고 회사는 불안한 상태로 노출되었다. 5월 23일 회의에서 직원들은 폭발 직전이었다. 단기 환수 조항 (클로백; 이미 지급된 보너스-주식 등을 이후 문제가 생기면 회사가 다시 돌려받는다는 조항) 이 존재한다는 사실조차 모르고 있던 많은 직원이 사실이 드러난 후 경영진, 특히 올트먼이 명백한 거짓말로 대처했다는 데 경악했다. 전현직 직원들, 특히 근속 기간이 오래된 선임 직원일수록 회사에 닥친 위기 중에서 환수 조항 사태가 불편한 진실을 깨닫는 계기가 되었다고 말한다. 머스크가 오픈 AI를 고소한 인과관계는 오픈 AI의 비영리 약속을 위반했다고 머스크가 판단한 것과 경쟁사인 마이크로소프트와 협력을 한 것이 소의 원인이고, 마침 반란 수괴 수츠케버도 퇴사하니 내부 갈등 및 조직 변화의 영향으로 추측된다고 인공지능 챗GPT는 말한다. 프랑스 정부를 장악하고 스스로 황제에 오른 나폴레옹 보나파르트의 어록을 모은 300쪽 분량의 <나폴레옹의 마음 The Mind of Napoleon>을 올트먼이 2018년에 읽은 최고의 책이라고 공개적으로 언급했다. 그리고 감명 깊은 문장으로 프랑스 혁명 구호인 “자유, 평등, 박애”애 대한 나폴레옹 자신의 감상과 자신의 권력을 강화하기 위해 그것을 어떻게 재해석하고 사용했을지에 대한 나폴레옹의 생각이었다. 나폴레옹은 궁극적으로 자유, 평등, 박애를 명분 삼아 그 반대로 행동했다. 그는 자유를 제한하고 단결과 연대에 기반한 철학인 박애를 무시했으며, 여성이 아닌 남성에게만 평등권을 부여하면서 프랑스 제국을 재건하기 위해 식민지 노예제를 다시 도입했다. 올트먼은 어느 정도 사람을 통제할 수 있는 시스템을 만들기 위해 그를 인용한 것이 분명하다. 오픈 AI 출신의 엔지니어들이 모여 만든 회사가 ‘앤트로픽’이다. 그 회사는 광고 문구에 “그 어떤 소송도 갈등도 없이 만들어진 모델”이라고 홍보 캠페인을 벌이기 시작했다. 오픈 AI 사장 브로크먼은 휴가에서 복귀하여 트럼프 2기, 같은 편에 선 머스크를 소송하기 시작했다. 그는 오픈 AI의 예정된 영리법인 전환에 반대하며 오픈 AI 창립 초기 이메일을 더 공개했는데 구중에는 올트먼이 브로크먼과 수츠케버의 뒷담화를 하고 투명성에 대한 반감을 드러낸 내용이다. 그러자 머스크와 오랫동안 불화를 빚어온 저커버그가 놀랍게도 머스크를 지지하고 나섰다. 메타는 머스크가 소송을 제기했던 것처럼 캘리포니아 법무, 장관에게 오픈 AI의 영리법인 전환을 막아달라고 서한을 보냈다. 오픈AI는 영리 목적 사회공헌 주식회사로 전환하고, 비영리법인은 영리법인의 지분을 보유한 별도 법인으로 존속한다는 계획이다. 발표문에서 오픈AI는 이 구조가 사명을 수행하는 동시에 영리법인과 비영리법인이 각자의 목적을 달성하는 데 필요한 자원을 얻을 수 있도록 최선의 방법이라고 주장했다. “실상은 21세기 경제를 위한 새로운 에너지, 토지, 칩, 데이터 센터, 데이터, AI 모델, 그리고 AI 시스템 인프라를 짓기 위해 움직이고 있습니다. AGI 경제의 건설을 돕고 그것이 인류를 이롭게 하도록 보장한다는 우리의 사명을 수행하기 위한 다음 단계로서 우리는 진화를 모색하고 있습니다.“ 전 세계의 수많은 원주민 공동체처럼 마오리족도 식민 치하에서 탄압을 겪었다. 자신의 언어를 사용한다는 이유로 모욕과 폭행을 당했다. 언어를 잃는다는 것은 세계적인 비극이자 개인적인 비극이다. 자신이 물려받은 유산으로부터 단절되어 강제로 다른 누군가의 유산을 보존해야 한다는 것은, 그렇지 않으면 폭행당할 위험을 무릅써야 한다는 것은, 누구의 역사, 누구의 문화, 누구의 지식이 대대로 이어져 나갈 만한 가치가 있는지, 그리고 누구의 역사, 문화, 지식은 너무나 하찮아서 소멸하여 마땅한 것인지 보여주는 명백한 서열을 확립하는 가장 원초적인 방법이다. 대형언어모델은 언어 소멸을 가속한다. 모델들이 필요로 하는 데이터의 양을 충당할 수 있을 만큼 충분히 많은 사람들이 사용하고 온라인에 충분한 규모의 데이터를 가진 언어는 세상에 몇 없다. 오늘날 존재하는 7,000여 종의 언어 중 절반 이상이 사라질 위기다. 1/3은 어느 정도의 존재감을 가지고 있다. 구글 번역이 지원하는 언어는 그중 겨우 2% 미만에 불과하고, GPT4가 지원하는 언어는 전체 0.2%인 15개 언어에 불과하다. “데이터는 식민주의에 최전선이에요.” 역사상 제국들은 원주민 공동체의 땅을 빼앗은 뒤 이들이 땅에 대한 소유권을 회복하고 싶어 할 경우 제한적인 조건을 붙여서 다시 그 땅을 사들이도록 강제했다. 만약 오픈 AI의 사명이 제국을 세우는 공식이라면, 제국을 무너뜨리는 공식은 무엇인가? 이 책을 쓰는 시점에서 오픈 AI와 빠르게 변화하는 AI 산업이 앞으로 어떤 식으로 전개될 것인지 그 자세한 내용을 아는 것은 불가능하다. 어쩌면 오픈 AI의 여러 경쟁자 중 하나가 오픈 AI를 대체해 선두 자리를 차지할 수도 있고, 이 AI 제국들이 모델을 개방하고 노동력을 착취하며 연산 인프라를 확장하는 방식에서 그들의 전술은 진화할 가능성이 매우 크다. 그러나 앞으로 2년 혹은 10년 안에 상황이 어떻게 전개될 것인지와 무관하게 우리가 변함없이 패야 할 일들이 있다. 지식을 재분배하기 위해서는 기업들이 훈련 데이터의 핵심 내용과 모델 및 슈퍼컴퓨터의 기술 사향을 의무적으로 공개하도록 만드는 정책이 필요하다. 그래야만 비로소 독립 연구자들이 기업 모델을 제대로 평가할 수 있다.라고 필자는 주장한다. 2026년 5월 5일AI 제국-마지막카렌 하오 지음임보영 옮김생각의 힘 간행