AI 제국. 권력. 자본. 노동

AI 제국, 권력, 자본, 노동 필자 ‘카렌 하오’는 저널리스트로 타임 메거진에 2025년 AI 분야 100명의 중요 인물로 선정된 사람이다. 주 활동 분야는 인공 지능, 기술 권력, 노동 문제다. 경력은 MIT AI 담당 수석 편집자, The Wall Street Journal 기자다. 그의 핵심 주장은 AI는 ‘기술’보다 ‘권력 구조’로 겉은 혁신이지만 실제로는 소수 기업이 데이터, 자본, 인재를 독점하여 결과는 AI 패권 경쟁은 기업 권력 경쟁이라 주장한다. 보이지 않는 노동, AI는 자동이 아니라 뒤에 저임금 데이터 노동자가 존재한다. AI는 데이터 식민지화를 만든다. 개인 사회 데이터가 기업에 흡수되고, 사용자들은 보상 없이 데이터 제공으로 디지털 시대의 새로운 착취 구조라고 주장하는 내용의 글이라 챗GPT가 정리한 것을 깔고 그의 얘기를 들어보자. 샘 올트먼은 “성공한 사람은 기업을 만든다. 더 성공한 사람은 나라를 만든다. 가장 성공한 사람은 종교를 만든다.”라는 말을 ‘루치’(마이크로소프트 중국 최대 검색 사이트 포털 바이두의 최고 운영 책임자) 로부터 들었다고 쓰며, 그는 가장 성공한 창업자는 종교와 더 가까운 무언가를 만들기 위해 나서지 않습니다. 가장 성공한 창업자는 종교와 더 가까운 무언가를 만들겠다는 사명을 띠고, 그 사명을 완수하는 가장 쉬운 방법이 기업을 설립하는 것이라는 걸 어느 순간 깨닫게 될 뿐이라고 주장한다. 2023년 11월 17일 실리콘 밸리의 총아 생성형 인공 지능 혁명의 화신으로 부상한 기업인 오픈 AI의 CEO 샘 올트먼은 구글의 화상회의에 접속한다. 이사 5명 중 네 명이 그를 응시한다. 그리고 이사 ‘일리야 수츠케버’가 ‘올트먼’은 해고되었고, 이 사실은 곧 외부에 발표될 것이라 말한다. 여기서부터 지루한 기자의 구술형 이야기가 계속된다. 직원들은 놀라 동료 집에 모이기 시작한다. 결국 사장직에 컴백하는 스토리가 지루하다. ‘머스크’보다 14살이 적은 올트먼은 시리콘 벨리 스타트업 창업 기획사 ‘와이컴비네이터’의 사장이다. 19살에 창업을 하고 사업을 시작했다. 머스크와 스탠퍼드 대학교에서 열리는 AI 살롱 모임에서 젊은 연구원이 머스크에게 “기후변화라는 명백히 더 큰 실존적 위험이 있는데, 왜 AI에 집착하시는가?” 물었다. 머스크는 “기후변화는 나쁘지만, 모두가 죽지는 않을 겁니다. AI는 인류 전체를 멸종시킬 수 있죠.”라고 답한다. ‘사무엘 해리스 깁스틴 올트먼’은 1985년 4월 22일 일리노이주 시카고에서 유대인 부모의 첫째 아들로 태어났다. 아버지는 늘 아들에게 “언제나 사람들을 도와줘라, 도울 시간이 없다는 생각이 들어도 어떻게든 도와줄 방법을 찾아라.” 교육했다. 그는 스탠퍼드 대학에 입학한다. 기술 산업의 중심지와 가깝다는 점 때문이다. 대학 2학년 때 모바일 기술에 관심이 생겼다. 곧 모든 휴대폰에 GPS가 장착될 거라는 사실을 알게 된 그는 폴더폰을 들고 캠퍼스 창업 행사 무대에 올라 이 위치 추적 기능을 이용한 새로운 무언가를 함께 만들 사람을 공개 모집했다. 그는 ‘폴 그레이엄’을 만난다. 너무 열심히 일하느라 라면을 많이 먹었고 괴혈병에 걸리기도 했다. 그는 다시 스탠퍼드 대학에 돌아가지 않았다. 머스크가 집착하는 주제 즉, AI 기술 개발 경로를 수정하기 위해서는 딥마인드와 구글을 제쳐야 하는데, 그럴 시간이 충분한지 아닌지의 논란이다. 가장 문제는 인재 확보였다. 일류 AI 연구자는 대부분 구글이나 대규모 기술기업에서 거액의 연봉과 혜택, 안정성을 누리고 있었기 때문이다. 화재의 중심은 범용 인공지능, 즉 AGI였다. 학계는 대체로 인간 수준의 지능을 구현하는 것을 공상과학으로 치부하거나, 최소 수십 년을 걸릴 것으로 전망했다. 지금 당장 투자할 가치가 있다고 대담한 주장을 하는 사람은 당시는 사이비 과학자, 돌팔이 취급을 받았다. 오픈 AI 내에서도 소수의 유색인종 여성을 포함한 여러 연구원이 “AI 안전”의 정의를 확장해서 딥러닝 모델이 초래하는 차별적 영향과 같은 분야의 연구도 포함할 것을 경영진에게 요구했다. 경영진은 이를 “그건 우리의 역할이 아닙니다.”라고 뭉개버렸다. 2019년 마이크로소프트는 오픈 AI에 10억 달러를 투자한다고 발표했다. 합의 내용에 따르면, 마이크로소프트의 투자수익 상한은 원금의 20배로 제한됐다. 오픈 AI의 사명은 공익을 위한 범용 인공 지능 AGI를 보장하는 것인데, 다른 문제를 제쳐두고 하필 이 문제에 수십억 달러의 막대한 자금을 쏟아붓는가? 질문에 “우리가 AGI에 온 신경을 쏟고 꼭 만들어야 한다고 믿는 이유는 인류가 해결하기 힘든 복잡한 문제를 AGI가 도울 수 있다고 보기 때문이다. 답한다. 그런 일을 하는데 AI 대신 굳이 AGI가 필요한 이유는 무엇인가? 반문하자, AI와 AGI의 차이는 중요하다. 기술업계 용어사전에서 찬밥 신세였던 AGI가 최근에 중요하게 사용되기 시작했고, 그렇게 된 데에는 오픈 AI의 역할이 컸다. 즉 대부분의 작업에서 인간만큼, 혹은 인간을 능가할 만큼 인간 정신의 정교함, 민첩성, 창의성을 갖춘 소프트웨어를 뜻했다. 중요한 것은 이론적 단어였다. 복잡한 세계적 과제를 해결하는데 ”근본적인 문제‘는 아주 많은 사람이 협업하는 경우 의사소통이 더디고, 일도 빨리 처리되지 못하고, 동기부여도 많이 생긴다는 겁니다. AGI는 다르다는 것이다. 현대화 과정에서 1790년대에 발명된 조면기를 예로 든다. 조면기 덕분에 미 남부는 최대 면화 수출 지역으로 거듭났고, 미 경제성장을 촉진했으며, 많은 지주와 면화 관련 사업가들이 막대한 이익을 누렸다. 그러나 조면기는 노예제를 약화시키지는커녕, 오히려 노예제가 폐지되기까지 70년간 그 비인간적이고 끔찍한 착취 시스템을 강화했다. 면화 생산량이 급증하면서 흑인 노예들은 더 많은 시간 일을 해야 했다. 기술혁명이 가진 이러한 두 특성, 즉 모두에게 더 나은 세상을 약속하면서도 가장 취약한 이들의 삶을 오히려 후퇴시키는 경향은 그 어느 때보다 지금 우리가 맞닥뜨린 인공 지능의 시대에 정확하게 들어맞는다. AI는 탄생의 순간부터 첨단의 미래를 향한 매혹적인 꿈에 의해 추진되었고, 그 꿈을 현실로 자금과 영향력을 가진 소수 엘리트에 의해 뒷받침되었다. 그들 구상이 전 세계에서, 특히 과거 제국의 침탈을 겪은 후유증으로 경제 발전이 지체되고, 정치 제도가 취약한 게 여려 글로벌 사우스에서 사회적 비용과 노동 비용, 환경 비용을 증가시켰다. 그러나 실리콘 밸리는 AI 기술로 인해 착취의 피해를 겪는 이들이 오히려 더 행복해진 것처럼 포장했다고 필자는 주장한다. AI 개발자들은 종종 자신이 만든 소프트웨어가 인간처럼 “배우고” “읽고” “창조한다”라고 말한다. 이런 표현은 현재의 AI 기술이 실제보다 훨씬 더 유능하다는 인상을 줄 뿐만 아니라, 기업들이 법적 책임을 피하려고 사용하는 수사적 도구로 활용되기도 했다. 예술가와 작가의 창작물을 허락 없이 보상 없이 AI 훈련 시스템에 사용함으로써 저작권을 위반했다고 AI 개발자들을 고소했다. 연결 주의자 ’로젠트렛‘과 그의 퍼셉트론이었다. 기계가 스스로 학습할 수 있다는 아이디어 즉 머신러닝 시스템 실현 가능성을 실험적으로 보여준 모델이다. 기호 주의 대표주자는 ’마민 민스키‘ MIT 교수다. 다트머스 회의 공동 조직자인 민스키 자신도 한때는 연결 주의적 사고방식에 관심을 가졌다가 등을 돌렸다. AI의 역사에서 종종 과학적 가치가 정치를 상대로 승리를 거둔 일화로 일컬어지곤 한다. 민스키가 자신의 명성과 영향력으로 연결 주의를 억누르려 했지만, 연결부 자체의 강점으로 인해 결국은 연결 주의가 정당하게 현대 AI 혁명의 초석이 되었다는 식이다. 연결 주의자들은 자신의 신경망이 실패하는 이유는 신경망은 “뉴런”이라 불리는 데이터 처리 노드가 하나의 층으로만 연결된 구조였다. 이들을 인간의 두뇌를 더 잘 모방하기 위해서는 서로 연결된 층을 여러 겹 쌓아 올린, 이른바 심층 신경망이 필요했다. 하지만 단순히 “신경망”이라 불리는 심층 신경망은 수십 년 정도 앞선 것이었다. 이 기술이 빛을 보려면 1980년대의 컴퓨터보다 큰 처리 능력, 아날로그 세계에서보다 저렴하게 수집할 수 있는 사례, 이미지, 영상 등 기존의 데이터가 많이 필요했다. 일반적으로 성능 좋은 AI 모델을 만들기 위해서는 신경망에 일정 수준 이상의 품질을 가진 데이터를 입력하고 패턴을 계산하기 위해 일정 수준 이상의 연산 자원을 기반으로 훈련해야 한다. 컴퓨터 성능이 향상되고 인터넷이 성숙하면서 디지털 데이터 저장소가 생겨나자, 신경망이 번창할 토대가 마련됐다. 구글이 DNN 리서치를 인수하면서 딥러닝 상용화를 향한 경쟁에 불이 붙기 시작했다. 우리는 과학은 혼란스러운 과정이지만, 결국엔 최고의 아이디어가 요란한 반대를 넘어서며 정상에 오른다는 교훈을 얻었다. 라고 필자는 주장한다. 2026.04.18.AI 제국 권력, 자본, 노동 ( 샘 올트먼과 오픈 AI의 빛과 그림자)키렌 하오 지음생각의 힘 간행