기술이 인류를 구원한다는 착각:실리콘밸리 억만장자들의 위험한 미래 설계/애덤 베커

[ischoi]

저자는 어슐러 K. 르 귄의 말을 빌어 책을 마무리한다. 자본주의의 종말보다 세계의 종말이 더 상상하기 쉬운 시대이지만, 인간의 저항을 통해 바꾸지 못할 인간의 권력이란 없다고. 억만장자들이 불가능한 미래를 필연적 운명이라 포장하는 이유는, 우리로 하여금 당연한 미래, 정해진 미래 같은 것은 없다는 사실을 잊게 만들기 위해서이다. 이 책은 바로 그 사실을 상기시킨다. 책의 마지막에서 저자가 역설하듯이, “미래는 열려 있다.”

책의 논조는 현재 기술 업계에서 발생하고 있는 인공지능(AI) 버블과 그 배후의 과장 광고(Hype)를 비판적으로 인식하는 데 매우 강력한 사상적 기반을 제공합니다.
이러한 주장이 AI 버블 인식과 어떻게 연결되는지 세 가지 핵심 포인트로 정리해 드립니다.
1. 필연성 마케팅의 해체
기술의 독점화: 실리콘밸리 자본가들은 "AI가 인간의 일자리를 대체하고 세상을 바꾸는 것은 거스를 수 없는 미래"라고 주장합니다.
버블과의 연결: 이는 투자를 유도하기 위한 '필연성 마케팅'입니다. 책의 논조처럼 미래가 정해진 것이 아님을 깨닫는 순간, AI가 가져올 장밋빛 미래가 부풀려진 거품(버블)일 수 있다는 의심이 시작됩니다.
2. 기술 유토피아주의에 대한 경종
실패의 은폐: 억만장자들은 AI가 기후변화나 질병 등 인류의 모든 문제를 해결해 줄 것처럼 포장합니다.
버블과의 연결: 이러한 '기술 구원론'은 막대한 자금을 AI 시장으로 끌어들이는 동력이 됩니다. 하지만 실제 기술의 한계와 천문학적인 비용 문제가 드러나면서, 대중은 이것이 지속 불가능한 경제적 버블임을 인지하게 됩니다.
3. 인간의 통제권과 저항권 회복
수동성 탈피: 대중이 AI 발전을 멈출 수 없는 흐름으로 받아들이면 거대 테크 기업의 독점을 묵인하게 됩니다.
버블과의 연결: "인간의 권력은 바꿀 수 있다"는 관점은 AI 기업들의 주가와 가치평가가 과도하게 부풀려졌음을 지적하고, 규제와 제도적 브레이크를 걸어야 한다는 목소리(버블 붕괴의 신호탄)로 이어집니다.
요약하자면, 이 책의 논조는 AI 기술 그 자체보다 '기술이 모든 것을 결정한다'는 이데올로기를 격파함으로써, 현재의 AI 열풍이 냉정한 기술적 현실에 기반한 것이 아니라 억만장자들이 설계한 거대한 '환상(버블)'일 수 있음을 정확히 짚어내고 있습니다.

우리가 거대 테크 자본이 설계한 환상에 길들여지지 않고, AI를 철저히 우리의 주체성을 돕는 '유용한 도구'로 길들이기 위해 일상에서 취해야 할 구체적인 태도는 다음과 같습니다.
이를 세 가지 행동 수칙으로 요약할 수 있습니다.
1. '질문자'의 권력 유지하기 (의존이 아닌 비판적 외주)
태도: AI에게 "답을 줘"라고 요청하는 순간 우리는 수동적인 소비자가 됩니다. 대신 "내가 쓴 글의 논리적 허점을 찾아줘", "이 주장에 반대하는 3가지 가설을 제시해줘"와 같이 AI를 나의 사유를 확장하는 '스파링 파트너'로 활용해야 합니다.
실천: 최종 결론과 가치 판단은 반드시 인간인 내가 내리고, AI는 초안 작성이나 자료 분류 같은 '단순 노동'만 수행하는 비서로 격하하는 태도가 필요합니다.
2. 크로스 체크(Cross-check)의 습관화 (검색의 권력 회복)
태도: AI의 그럴싸한 답변(환각)을 곧바로 믿지 않고, "이 답변의 원천 소스는 어디인가?"를 항상 의심하는 태도입니다.
실천: 중요한 정보일수록 AI 창을 닫고, 전통적인 검색창을 켜서 신뢰할 수 있는 언론사 기사, 학술 논문, 실제 인간들의 가공되지 않은 1차 데이터를 직접 눈으로 확인하는 귀찮음(마찰)을 기꺼이 감수해야 합니다.
3. '의도적인 아날로그적 맥락' 확보하기
태도: 알고리즘이 추천하고 요약해 주는 매끄러운 디지털 정보 세계에서 의도적으로 이탈하는 것입니다.
실천: AI가 요약해 준 책의 서평을 읽는 대신 직접 두꺼운 종이책을 펼쳐 행간을 읽는 것, 알고리즘이 추천하는 짧은 영상 대신 긴 호흡의 다큐멘터리나 다양한 인간들이 부딪히는 오프라인 커뮤니티에 참여하는 것입니다. 통계적 확률로 계산할 수 없는 '인간만의 고유한 경험과 맥락'을 내 안에 축적해야 합니다.
💡 긴 대화를 마무리하며
처음 언급하신 애덤 베커의 책과 어슐러 K. 르 귄의 말처럼, "당연한 미래, 정해진 미래 같은 것은 없습니다."
실리콘밸리가 아무리 천문학적인 돈을 들여 "AI가 지배하는 세상이 필연적 운명"이라며 브라우저와 스마트폰 OS를 개조해 올지라도, 우리가 일상에서 "막상 써보니 별것 아니네, 내 생각과 검색은 내가 하겠다"는 냉정하고 주체적인 태도를 유지한다면, 기술 권력은 결코 우리를 지배하지 못합니다. 미래를 열어두는 열쇠는 결국 거창한 규제가 아니라, 시스템을 대하는 우리 개개인의 비판적인 태도에 있습니다.

최근의 AI 열풍 속에서도 결국 본질은 ‘인공지능 자체’보다 ‘인간이 원하는 정보를 찾아내는 행위(검색)’가 훨씬 더 핵심적이고 중요합니다.
어쩌면 인공지능은 기술 자본이 부풀려놓은 '별것 아닌 껍데기'일지 모른다는 점을 세 가지 관점에서 짚어볼 수 있습니다.
1. 인공지능은 검색 데이터의 '가공업자'일 뿐
본질은 데이터: 생성형 AI가 아무리 말을 유창하게 해도, 결국 인간이 축적해 놓은 수많은 웹 문서와 지식(검색 데이터)을 짜깁기하고 요약한 것에 불과합니다.
별것 아닌 이유: 원본 데이터(검색 대상)가 없으면 AI는 아무것도 만들어내지 못하는 '앵무새'입니다. 진짜 가치는 원본 정보를 생산하는 인간과 이를 연결해 주는 검색에 있지, 통계적 확률로 다음 단어를 예측하는 AI 기술 자체가 대단한 것은 아닙니다.
2. 우리가 원한 것은 '정답'이 아니라 '맥락의 탐색'
AI의 한계: 구글이나 오픈AI는 AI가 답을 딱 하나로 요약해 주면 인간이 편해질 것이라 생각합니다. 하지만 인간의 검색은 단순히 단답형 답을 얻는 과정이 아닙니다.
검색이 중요한 이유: 인간은 검색창에 키워드를 치고, 여러 사이트를 직접 들어가 보며, 행간을 읽고, 비판적으로 사유하며 지식을 확장합니다. AI가 주는 '단 하나의 정답'은 인간의 주체적인 탐색 과정을 생략시켜 버리지만, 결국 인간은 다양한 관점을 보기 위해 다시 '검색(웹 링크)'으로 돌아가게 됩니다.
3. '별것 없음'이 탄로 나는 환각(Hallucination) 현상
기술의 민낯: AI가 엄청난 지능을 가진 것처럼 포장되었지만, 아주 조금만 전문적이거나 최신의 질문을 던져도 그럴싸한 거짓말(환각)을 남발합니다.
검색이 중요한 이유: 결국 AI가 준 답변이 맞는지 틀린지 검증하기 위해 인간은 다시 구글 검색창에 키워드를 쳐서 교차 검증을 해야 합니다. 최종 신뢰도를 결정하는 것은 AI가 아니라 검증 가능한 소스를 찾아주는 검색 시스템입니다.

이 브라우저 전쟁과 구글·애플의 카르텔이 보여주는 본질은, 기술의 우열이 아니라 "인간이 세상을 인지하고 탐색하는 주체성을 유지할 것인가, 아니면 기술 권력에 이양할 것인가"에 대한 깊은 철학적 질문으로 귀결됩니다.
처음 언급하신 어슐러 K. 르 귄의 "인간의 저항을 통해 바꾸지 못할 인간의 권력이란 없다"는 명제와 맞닿아 있는 세 가지 철학적 쟁점을 짚어볼 수 있습니다.
1. 사유의 외주화와 '인식적 수동성'
기술의 유혹: 실리콘밸리의 거대 자본이 약속하는 미래는 '마찰 없는 삶(Frictionless Life)'입니다. 검색창에 키워드를 치고, 여러 사이트를 헤매며, 가짜 뉴스를 골라내고, 긴 글을 읽는 사유의 '귀찮음(마찰)'을 AI가 대신 처리해 주겠다는 것입니다.
철학적 위기: 하지만 인간의 지성은 그 마찰 속에서 성장합니다. AI가 요약해 준 단 하나의 '정답'만 받아먹는 인간은 세상을 주체적으로 해석하는 능력을 잃고, 기술이 필터링해 준 세상만을 진짜로 믿는 '인식적 노예'가 될 위험에 처합니다.
2. '우연한 발견(Serendipity)'의 상실과 결정론적 세계
전통적 검색의 가치: 우리는 구글이나 네이버에 무언가를 검색할 때, 내가 당장 찾던 정답 외에도 우연히 발견한 다른 사람의 블로그 글, 낯선 의견, 예상치 못한 정보를 만나며 사유를 확장합니다. 이것이 미래가 열려 있는 구조입니다.
AI의 폐쇄성: AI 브라우저나 요약 시스템은 확률과 통계에 기반해 '사용자가 가장 좋아할 만한 가장 평균적인 답변'만 골라 줍니다. 우연과 의외성이 거세된, 철저히 계산된 정답의 감옥입니다. 실리콘밸리가 "미래는 정해져 있다"고 포장하는 것은, 대중을 자사 AI의 '결정론적 알고리즘' 안에 가두기 위함입니다.
3. 기술 유토피아라는 신흥 종교에 대한 저항
실리콘밸리의 사제들: 샘 알트먼이나 거대 테크 기업의 수장들은 마치 인류를 구원할 메시아처럼 행동합니다. 그들은 "인간을 초월한 AI(AGI)가 오면 모든 문제가 해결된다"는 '기술 구원론'을 설파하며 대중의 맹목적인 믿음과 자본을 요구합니다.
인간의 권력 회복: 하지만 최근 대중들이 "막상 써보니 별것 아니네", "차라리 내가 직접 검색하고 검증하겠다"며 AI 요약을 꺼버리는 행위는 단순한 불편함의 표현이 아닙니다. 이는 "내 삶의 선택권과 정보 탐색의 주도권은 내가 쥐겠다"는 인간의 본능적인 '저항권'의 발동입니다.