테크노 권위주의의 상승
실리콘밸리에 나름의 우월적인 정치이념이 있다.
만약 여러분이 실리콘 밸리의 지배적인 이념을 하나의 일화에 담아내야 한다면,
가장 먼저 20년 전 컴퓨터의 파란 불빛 속에 앉아, 그의 새로운 웹사이트인 The Facebook이
어떻게 동료 학생들에 관한 수많은 개인정보에 접근할 수 있게 해주었는지에 대해
친구와 이야기를 나누고 있는 마크 저커버그를 볼 수 있을 것이다:
나중에 유출된 대화 기록들을 통해 드러난 그 대화는 더 매너 있게 말해주었지만,
똑같이 말해주는 또 다른 대화가 뒤따랐다.
2007년에 유명해진 크리스마스 파티에서, 저커버그는 그와 함께 그 플랫폼을 디지털 제국주의 초강대국으로 변화시킬
그의 궁극적인 최고 운영 책임자인 셰릴 샌드버그를 처음 만났다.
그곳에서, 페이스북의 초기에 "Company over country"라는 진언을 채택했던 저커버그는 인터넷에 연결된
모든 미국인들이 페이스북 계정을 갖기를 원한다고 샌드버그에게 설명했다.
한때 동료에게 그녀가 "조직을 확장하기 위해" 배치되었다고 말했던 샌드버그에게, 그것은 완벽한 임무로 밝혀졌다.
페이스북(현재의 메타)은 실리콘밸리의 잘못된 모든 것들의 아바타가 되었다.
전세계적으로 잘못된 정보를 퍼뜨리는 데 있어 페이스북의 이기적인 역할은 계속되는 위기이다.
2012년, 사용자들이 자신도 모르는 사이에 페이스북이 사람들의 감정 상태에 어떻게 영향을 주는지
측정을 위해 그들의 뉴스피드에서 본 것들을 의도적으로 티격태격 했던, 비밀스러운 분위기 조작 실험도 기억하라.
혹은 2017년에 미얀마에서 대량학살을 선동하는데 가담했던 것이다.
2021년 1월 6일의 반란을 계획하고 실행하기 위한 클럽하우스로 사용되기도 한다.
(페이스북 초기에, 저커버그는 자신의 관심사 중에 "혁명"을 열거했다.
이 시기는 저커버그의 최고경영자(CEO)라고 인쇄된 명함을 가지고 있을 즈음이었다.)
그럼에도 불구하고, 주목할 만한 정도로 페이스북의 사업 방식은 다른 소셜 플랫폼(TikTok)과 기술 발전(인공 지능)이
문화적 관련성에서 페이스북을 대체하는 것임에도 불구하고, 기술 산업 전반에 대한 규범으로 남아 있다.
거대한 규모의 제단에서 숭배하고, 당신을 선출하지 않았고, 당신의 가치관과 이념을 공유하지 않을 수도 있는
세계 시민을 대신하여 당신이 세계 역사적인 결정을 내리는 사람이어야 한다고 당신 자신을 설득하기 위해서,
당신은 그들 사이에서 수많은 불편들, 즉 겸손과 뉘앙스를 제거해야 한다.
실리콘 밸리의 많은 거물들은 반복적으로 이러한 절충안을 만들었다.
유튜브(구글 소유), 인스타그램(메타 소유), 그리고 트위터(일론 머스크가 X라고 부르자고 주장하는)는
페이스북이 그랬거나 그랬듯이 개인의 권리, 시민 사회, 그리고 세계 민주주의에 피해를 주었다.
생성 인공지능이 실리콘 밸리 전역에서 현재 개발되고 있는 방식을 고려하면,
우리는 그 피해가 향후 수년간 몇 배로 증가할 것에 대비해야 한다.
이러한 기업들과 기업을 운영하는 사람들의 행동은 종종 위선적이고 탐욕스러우며 지위에 집착한다.
하지만 이러한 복수의 기저에는 더 위험하고 명확하며 일관된 이념이 깔려 있는데,
이 이념이 무엇인지에 대해 거의 목소리를 내지 않는다.
실리콘밸리에서 가장 강력한 기업들이 성숙해감에 따라, 이 이념은 점점 더 강력해지고, 독선적이며,
망상적이며, 비판 여론이 고조되는 상황에서 더 분노하게 될 뿐이다.
새로운 기술관료들은 이성, 진보, 자유와 같은 계몽주의 가치에 호소하는 언어를 사용하는 것을 과시하지만,
사실 그들은 반민주적이고 비자유주의적인 운동을 주도하고 있다.
그들 중 상당수는 언론의 자유를 무조건 지지한다고 공언하지만,
자신들의 비위를 맞추지 않는 말을 하는 사람들에게 앙심을 품고 있다.
그들은 괴팍한 신념을 가진 경향이 있다.
어떤 종류의 기술 진보든 자유롭고 본질적으로 좋다는 것, 단지 그럴 수 있기 때문에 항상 그것을 구축해야 한다는 것,
마찰 없는 정보 흐름은 정보의 품질과 상관없이 가장 높은 가치라는 것, 프라이버시는 오래된 개념이라는 것,
기계 지능이 우리 자신의 것을 능가하는 그 날을 환영해야 한다는 것이다.
그리고 무엇보다도 그들의 힘은 제약을 받지 않아야 한다는 것이다.
그들이 구축했거나 구축하고 있는 시스템, 즉 통신을 다시 연결하고, 인간의 소셜 네트워크를 리메이크하고,
인공 지능을 일상 생활에 침투시키는 것, 그리고 더 많은 것들이 이러한 신념을 인구에게 강요하고 있는데,
이는 협의되지도 않고, 보통 의미 있는 정보를 제공하지도 않는다.
이 모든 것, 그리고 그들은 여전히 자신들이 대규모 투쟁을 벌이는 약자라는 터무니없는 신화를 지속시키려 하고 있다.
실리콘밸리와 월스트리트 혹은 워싱턴 D.C.를 비교하는 것은 흔한 일이며, 그 이유를 알 수 있을 것이다.
하지만 실리콘밸리의 영향력은 월스트리트와 워싱턴을 훨씬 능가한다.
어쩌면 뉴딜정책 이후 그 어느 시대보다도 사회를 깊이 있게 재설계하고 있는 셈이다.
많은 미국인들이 민주당과 공화당 의원들 사이에서 부상하고 있는 권위주의에 대해 분노하고 있지만,
또 하나의 비자유주의의 득세 세력, 즉 화를 잘 내고 있고 대단히 강력한 기술왕들을 무시하고 있을 위험이 있다.
작년 말 OpenAI에서 펼쳐진 셰익스피어의 드라마는 페이스북의 "빨리 움직이고 물건을 부수는" 사고방식 중
최악의 것이 실리콘 밸리에서 내면화되고 기념되는 정도를 강조한다.
OpenAI는 2015년에 공공의 이익에 봉사하는 방식으로 인공지능을 세계로 가져오는 것에 전념하는 비영리 단체로 설립되었다.
그것의 형성의 기초는 그 기술이 너무 강력하고 너무 위험해서 상업적인 동기만으로 개발될 수 없다는 믿음이었다.
그러나 2019년, 이 기술이 발전하는 속도로 작업하는 사람들조차 놀라게 하기 시작하면서
기업은 더 많은 자본을 모으기 위해 영리 단체를 추가했다.
마이크로소프트는 처음에는 10억 달러를 투자했고, 그 다음에는 수십억 달러를 더 투자했다.
그러다가 지난 가을, 회사의 CEO인 샘 알트먼이 해고되었고,
이는 OpenAI가 이전에 확립된 기업의 국가 내 진입에 안전 장치를 무너뜨리는 것을 보여주는 장면에서 빠르게 재채용되었다.
일각에 따르면 알트먼을 퇴출시키기를 원했던 사람들은 그가 안전보다 발전 속도를 너무 중시한다고 믿었다.
하지만 마이크로소프트의 대응, 알트먼과 OpenAI의 다른 누구라도 그 곳에서 그의 팀을 다시 만들기 위해 데려오겠다는
제안은 알트먼의 복권을 이끌어낸 치킨 게임인 started. 이 모든 사건은 엉망진창이었고,
알트먼이 그 직업에 적합한 사람일 수도 있지만, 그 메시지는 분명했다.
규모와 이익의 추구가 안전 문제와 공공 책임보다 결정적으로 승리했다는 것이다.
실리콘 밸리는 아직도 선한 일을 하기 위해 노력하고, 보다 연결되고, 데이터가 풍부한 지구촌 사회의 가능한
최상의 모습을 실현하기 위해 노력하고 있는 엄청나게 재능 있는 사람들이 많이 살고 있다.
가장 해로운 기업들조차도 훌륭한 도구들을 몇 가지 만들어냈다.
하지만 이러한 도구들은 규모 면에서 보면 조작과 통제의 시스템이기도 하다.
이들은 공동체를 약속하면서도 분열을 조장하고, 진실을 옹호한다고 주장하면서도 거짓을 퍼뜨리고,
자신들을 권한 위임이나 자유와 같은 개념들로 감싸면서도 우리를 가차없이 감시한다.
우리를 이끌어내는 가치들은 우리를 대리인으로부터 강탈하고, 우리의 피드에 중독되게 하는 것들이다.
AI의 이론적 약속은 한때 소셜 미디어의 약속이 그랬던 것처럼 희망적이고,
그것의 가장 당파적인 설계자들의 프로젝트만큼 눈부시다.
AI는 정말로 수많은 질병을 치료할 수 있다. 그것은 정말로 장학을 변화시키고 잃어버린 지식을 발견할 수 있다.
실리콘 밸리가 최악의 기술관료적 충동들의 영향 아래 소셜 웹의 대량 확장과 독점에서 확립된
플레이북을 따르고 있다는 것을 제외하고. OpenAI, 마이크로소프트, 구글 및 AI 개발에서 앞장서고 있는
다른 기업들은 분명히 어떤 정도의 투명성 또는 조심성을 가지고 운영되고 있지 않다.
대신 그들은 더 빨리 구축하고 이익을 극대화하기 위해 경쟁하고 있다.
이 모든 일은 불가피성의 기술관료적 철학, 새로운 것을 건설할 수 있다면 반드시 해야 한다는 생각 없이는 일어나지 않는다.
알트만은 작년에 동료 로스 안데르센에게 인공지능을 개발하려는 OpenAI의 시도를 언급하며
"내 생각은 이것이 제대로 작동하는 세상에서는 정부들의 프로젝트가 되어야 한다."라고 말했다.
하지만 알트만은 어쨌든 계속해서 이것을 직접 만들 예정이었다.
아니면, 저커버그가 수년 전에 뉴요커지에 말했듯이, "사람들의 거대한 사회적 네트워크가 생기는 것은,
마치 피할 수 없는 것 아닌가? 만약 우리가 이것을 하지 않았다면, 다른 누군가가 했을 것이다."고 말했다.
------------------------------------------------------------------------------------------------------------------------------------------------
이 칼럼을 보면서 드는 개인적인 생각입니다.
사회 각 분야 어느 곳이던지 권위는 어느 정도 필요하겠지만 권위주의는 위험하다는 생각입니다.
무엇보다 석학이라는 실리콘밸리 엘리트들이 정치 이데올로기에 편향된 길로 잘못 들어셔면
실리콘밸리의 테크노 권위주의는 더욱 더 위험에 빠질 것으로 생각합니다.
진보. 보수,이념,정치적 진영 등등 그들이 갖는 사상적으로 자신들에게 공권력의 압박이 들어 온다면
거의 대부분이 언론자유를 말하며 실상은 반민주적이고. 반자유주의적인 태도를 보이며,
오히려 정치 권력보다 더한 심한 테크노 권력으로 깊이 사회적 대중화를 노리며
무책임으로 일관한 과거 파시즘으로으로 흘러가지 않을까 ?싶습니다.
가장 우려되는 점은 빅테크 기업들의 CEO 한 개인이 대중들에게 미치는 영향력이 너무 크다는 것입니다.