대런 아세모글루, 사이먼 존슨)권력과 진보-기술과 번영을 둘러싼 천년의 쟁투

[장성아]

19) 테크놀로지의 방향도 단지 노동자가 수행하던 업무를 기계로 대체하거나 노동자를 감시할 새로운 방법을 발명하는 쪽이 아니라 노동자의 생산성을 높여주는 쪽을 향하도록 재설정되었다. 

20)우리가 이 책을 쓴 이유는 진보가 결코 자동적인 과정이 아님을 보여주기 위해서다. 오늘날의 '진보'는 또다시 소수의 기업가와 투자자만 부유하게 하고 있으며 나머지 대부분의 사람들은 역량과 권한을 박탈당하고 이득은 거의 얻지 못하고 있다.

1장 테크놀로지에 대한 통제

43)우리 시대의 맹목적인 테크노-낙관주의에 도전하고 과학과 기술의 혁신을 사용하는 새로운 방법을 개발하는 데서 시작해야 한다. 과학과 지식을 사용하는 방법이 우리가 어떠한 비전을 가지고 있는지에 좌우된다는 점이다. 비전은 우리가 어떻게 우리의 지식을 구체적인 문제를 해결하기 위한 기술과 방법으로 전환해 낼 수 있을지 상상하는 방식을 의미한다. 우리가 열망하는 것이 무엇인지, 그것을 달성하고자 할 때 어떤 수단을 추구할지, 어떤 방법을 고려하고 어떤 방법을 고려에서 제외할지, 우리가 취할 행동의 비용과 이득을 어떻게 인식할지 등에 대해 구체적인 틀을 제공하는 것이 비전이다. 

하지만 현존하는 도구로 무엇을 할 것인지와 새로운 혁신의 방향이 어디를 향하게 할 것인지를 결정하는 데 권력자의 비전이 과도하게 큰 영향을 미쳤다. 그 경우 테크놀로지가 사회에 가져오는 결과는 권력자의 이해관계 및 신념과 부합하며 여기에서 다른 이들은 종종 피해를 입는다.

49)중국 공산당과 페이스북의 의사결정을 추동한 요인은 무엇이었는가? 둘 다 과학과 테크놀로지 자체에 내재한 속성에 의해 내려진 결정은 아니었다. 자신의 경로를 거침없이 나아가는 진보의 행진이 반드시 거치게 되는 다음 단계여서 나타난 일도 아니었다. 두 사례 모두에서 우리는 (의사결정자의)이해관계가 파괴적인 결과를 가져왔음을 볼 수 있다. 반대자를 억압하려는 이해관계, 그리고 온라인 광고 수입을 늘리려는 이해관계와 같이 말이다. 

하지만 더 중요한 것은 테크놀로지가 통제에 동원되었다는 점이다. 중국의 경우에는 사람들의 정치적 견해를 통제하기 위해, 페이스북의 경우에는 사람들의 데이터와 사회적 활동을 통제하기 위해 테크놀로지가 사용되었다.

이는 더 근본적으로, 이것은 생산을 조직하는 서로 다른 방식이 일부 사람들의 부와 권력을 강화하고 다른 사람들의 권력을 훼손한다는 의미다.

54)AI는 산업화된 나라에서만이 아니라 세계 모든 곳에서 불평등을 증폭시키는 경로로 기울어져 있는 것으로 보인다. 또한 AI는 테크 기업들과 권위주의적 정부가 수집하는 방대한 데이터에서 연료를 공급받아 민주주의를 질식시키고 독재를 강화하고 있다. 현재로서는 AI는 생산력 향상에는 그다지 기여하지 못하면서도 경제를 근본적으로 바꾸어 놓고 있다. AI가 테크놀로지가 자동화와 감시, 그리고 이미 디지털 세계에 에워싸여 버린 평범한 사람들의 권력을 약화하는 데 초점을 두고 있다는 점은 아랑곳없이 말이다.

그들은 사회적 문제들에 대한 해답은 당연히 더 많은 테크놀로지라고 여긴다. 진보의 이름으로 우리는 계속해서 행진해 나가야 한다고 한다. 

57)선택된 경로가 모든 이에게 혜택을 주리라고 가정하지 말아야 한다. 생산성 밴드왜건은 종종 허약하며 저절로 생겨하는 것도 아니기 때문이다. 우리가 목도하고 있는 것은, 강력한 테크놀로지 리더들이 공유하는 비전이 발휘하는 영향력이다. 그들의 비전은 자동화, 감시, 대규모 데이터 수집에 초점을 맞추고 있으며, 공유된 번영을 훼손하고 민주주의를 약화시키고 있다. 그들의 비전은 소수 지배층의 부와 권력을 증폭시키는 동시에 대부분의 평범한 사람들을 희생시키는데, 이것은 우연이 아니다. 

이러한 과정은 이미 새로운 '비전 과두 귀족'을 출현시켰다. 과두 귀족이라 일컬은 이유는, 동일한 사고방식과 태도를 가진 소수로 구성된 배타적인 집단이 사회적 권력을 독점하고서 그 권력이 목소리를 내지 못하는 사람들에게 미치는 파괴적인 영향은 무시하고 있다는 의미에서다. 이들이 사회 전반적으로 지배력을 유지할 수 있는 힘은 탱크나 로켓에서 나오는 것이 아니라 권력의 회랑에서 접할 수 있고 여론에 영향을 미칠 수 있다는 점에서 나온다.

58,59) 이 책은 지난 1000년간 벌어진 사회적 경제적 발달 과정을 테크놀로지의 방향과 진보의 종류를 두고, 또한 누가 승자가 되고 누가 패자가 되며 왜 그래야 하는지를 두고 벌어졌던 투쟁의 결과로 해석하고자 한다. 

59)거대한 재앙은 강력한 비전에 뿌리가 있는 경우가 많고, 그 비전은 과거의 성공에 뿌리가 있는 경우가 많다.

2장 운하의 비전

69)레셉스가 수에즈 운하 건설을 위해 상정한 진보는 모두를 위한 것이지는 않았다. 수에즈 운하 건설 현장에서 일해야 했던 이집트 노동자들은 이 기술적 위업의 수혜자가 될 법하지 않았고, 레셉스의 비전은 그들의 고통에 전혀 영향을 받는 것 같지 않았다.

72)철인정치를 주창한 생시몽

귀족 출신 저술가인 생시몽은 인간의 진보가 과학적 발명과 새로운 아이디어를 산업에 적용함으로써 추동된다고 보았다. 하지만 그는 이러한 진보에는 올바른 리더십이 반드시 필요하다고 생각했다. "모든 계몽된 국민은 재능 있는 사람에게 가장 높은 사회적 지위가 주어져야 한다는 견해를 받아들일 것이다." 그는 이러한 능력본위주의가 자연스럽게 산업과 기술의 발달을 촉진할 것이고, 그 결과로 달성될 번영이 프랑스만이 아니라 전 세계적으로 폭넓게 공유될 수 있으리라고 생각했다. 생시몽은 사유재산과 자유로운 기업 활동의 중요성을 굳게 믿는 사람이었다. 

76)레셉스는 앙팡탱을 만났고 수에즈 운하가 영예와 수익을 모두 드높이면서 세계를 연결할 방법이 되리라는 아이디어에 매료되었다. 그는 오로지 유럽인의 관점에서 세계를 보는 오리엔탈리즘을 갖게 되었다. 유럽인의 사고가 우월하다는 암묵적인 믿음이 있었다. 그는 프랑스가 "문명화의 사명"을 가지고 있다고 생각했고, 이 개념은 1820년대의 알제리 정복을 비롯해 프랑스의 식민지 확장을 정당화한 논리였다. (민족우월주의)

또 그는 거대한 인프라 프로젝트가 세계를 연결하고 장거리 교역을 더 낮은 비용으로 더 용이하게 만들어주리라는 생시몽의 사상도 깊이 내면화했다.(효율성)

어떤 어려움에 봉착하더라도 독창적인 기술이 언제나 구원해 줄 것이라고 믿었다.(순진한 기술만능주의)

80)이름을 남기고 픈 욕망의 권력자

레셉스는 무함마드 사이드에게(이집트의 통치자) "위대한 해양 운하를 개통하는 군주의 이름은 시간의 끝이 올 때까지 세기를 이어가며 기려질 것입니다."

83)미래주의자들의 권력은 다른 이의 막대한 고통을 포함해 특정한 것들을 보려 하지 않는 데서도 나온다. .. 뒤로 밀려나거나 필요하다면 강제 동원되기도 할 이집트 민중이 겪을 일은 그의 계산에 들어 있지 않았다. 그런데도 그의 비전은 그와 당대의 많은 사람들이 생각한 '진보' 개념에 잘 부합했다.

86)비전에 불을 때는 연료는 낙관이다. 레셉스의 낙관에서 핵심은 테크놀로지와 (프랑스의) 재능 있는 사람들이 늘 문제를 해결해 주리라는 믿음이었다. 

96)레셉스는 어떤 어려움이 발생해도 부인하고 보는 것이 익숙한 패턴이 되었다. ..그는 중앙아메리카에서 질병 문제에 대해 올라오는 모든 보고를 적들이 퍼뜨리는 가짜 정보라고 일축하기로 선택했다.

99)프랑스가 실패한 이유는 기망적인 비전에 갇힌 나머지 당대에 활용 가능했던 지식과 기술로 시도해 볼 수 있었을 또 다른 경로를 보지 못했고, 현실에서 발생하는 난관 또한 보지 못했다는 데 있었다. 레셉스의 비전에는 테크노-낙관주의와 잘못된 확신이 결합되어 있었다. 

101)우리가 테크놀로지를 가지고 무엇을 하는가는 우리가 그리는 진보의 방향이 무엇인지와 무엇을 감당 가능한 비용이라고 생각하는지에 달려 있다. 또한 우리가 실수와 현장에서 나오는 증거에서 무엇을 배우는지에도 달려 있다. 이것이 오류도 있었고 몇몇 지점에서는 프랑스 못지않게 냉혹했지만 미국의 비전이 프랑스의 비전보다 우월할 수 있었던 이유다. 

103)레셉스의 가장 큰 강점이던 자신감과 명료한 목적의식이 치명적인 약점이기도 했기 때문이었다. 자신의 비전에 갇혀서, 실패를 인식하고 상황의 변화에 맞게 적응하는 것이 그에게는 너무나 어려웠다. 

3장 설득 권력

107)레셉스의 비전이 높은 신뢰를 얻은 이유 중 하나는 그 비전이 당대 최고의 공학적 전문성에서 나온 것으로 보였기 때문이었다. 요컨대, 레셉스에게는 설득 권력이 있었다. 그는 자신이 이룩한 성공으로 유명했고, 사람들이 그의 말에 귀를 기울였으며, 자신의 견해를 밀어붙일 때 확신과 자신감을 풍겼고, 의제를 설정하는 능력도 있었다. 

108)권력은 어떤 개인이나 집단이 암묵적 또는 명시적인 목적을 달성할 수 있는 능력을 말한다. 

현대 사회가 주로 의지하는 권력은 설득의 권력이다. 사람들이 정치 지도자에게 복종하는 이유는 사회적 제도, 규범, 중요, 믿음이 그 지도자에게 큰 지위와 권위를 부여했기 때문이다. 사람들이 그를 따르는 이유는 그를 따르기로 설득되었기 때문이다.

설득의 힘!

113)거대 은행들은 감옥에 넣기에만 너무 큰 것이 아니라 '망하게 두기에도 너무 큰' 상태가 되어 있었다. 위기가 닥쳤을 때 은행 등 대형 금융기관들은 자신들에게 좋은 것이 경제에도 좋은 것이라고 정책결정자들을 성공적으로 설득함으로써 후한 구제 금융을 받아냈다. 

113)설득 권력은 가시적으로 잘 드러나지 않아 포착하기가 쉽지 않을 수 있다. 정치 권력은 정치 제도(입법 규칙이 어떻게 되어 있는가, 누가 행정적 권한을 갖는가 등)에서, 그리고 서로 다른 개인과 집단이 효과적으로 정치적 연합을 형성할 수 있는 능력에서 나온다. 경제 권력은 경제 자원을 통제할 수 있는 역량과 그 자원으로 어떤 행동을 할 수 있는지에 좌우된다. 강압 권력은 폭력 수단을 얼마나 장악하고 있느냐에서 나온다. 그런데 설득 권력은 어디에서 나오는가?

114)어떤 아이디어가 밈이 되려면, 제도적 요인, 사회적 지위와 연결망도 카리스마처럼 그 아이디어를 촉진하는 사람의 개인적인 특질도 영향을 미친다. 다른 조건이 동일하다면, 단순해서 이해하기 쉽고 근사한 스토리로 뒷받침되며 진실처럼 들리는 아이디어가 잘 전파된다. 적절한 유형의 사회적 지위를 가진 사람이 지지를 밝혀주는 것도 도움이 된다. 

116)많은 사회에서 소수자, 여성, 그 밖에 경제 권력이나 정치 권력이 없는 사람들은 자신의 아이디어를 이야기하는 데서만이 아니라 창조적인 아이디어를 생각하는 것 자체에서도 장벽을 겪는 경우가 많았다. 심지어 개인의 카리스마도 사회적 제도와 여건에 영향을 받는다. 카리스마는 확신과 사회적 연결망에 크게 좌우된다. 거대 은행의 권력은 아이디어와 내러티브만의 문제가 아니었다. "거대 금융은 좋은 것"이라는 아이디어는 이를 뒷받침하는 이론과 실증근거를 열정적으로 제공하는 경제학자들과 입법가들에 의해 반복되었다.

당신이 딱 맞는 아이디어를 딱 맞는 사람들에게 딱 맞는 타이밍에 이야기할 수 있다면, 정말로 운이 좋은 것이다.

아이디어에서도 '부익부'현상이 나타난다. 앞에서도 언급했듯이, 어떤 아이디어가 더 많이 반복되고 사람들이 그것을 더 많이, 더 다양한 원천에서 듣게 되면 더 그럴 법하고 설득력 있어 보이게 된다.

'아이디어의 시장'개념의 더 큰 문제는 사람들의 눈에 어떤 아이디어가 타당하다고 보이는지가 사회에 권력이 어떻게 분배되어 있는지에 영향을 받는다는 데 있다. 아이디어의 목소리가 조직과 제도에 의해 증폭될 수 있는지, 그리고 그들이 반대에 맞서는 데 필요한 권위를 가지고 있는지도 중요하다. 

119)우리의 뇌와 논증 능력에는 한계도 있다. 우리는 성긴 범주를 적용해 사고하고 때로는 잘못된 일반화를 한다. 빠르고 간단한 어림법에 의존해 결정을 내리는 경우도 많다. 또한 이미 믿고 있는 것에 대한 증거만 선택적으로 발견하는 경향(확증 편향)이나 실제로는 드문 사건을 훨씬 더 자주 일어나는 일로 착각하는 경향 등 수많은 '인지 편향'도 가지고 있다.

(민주주의의 태생적 한계를 갖게한 인간 특성)

120)우리는 관찰하고 모방한다. 이와 같은 인간 지능의 사회적 측면은 집합적 지식을 이루는 데 막대한 자산이다. 학습과 의사결정의 과정을 효율적으로 만들어 주기 때문이다. 하지만 여기에는 취약점도 많으며, 권력을 가진 사람들은 그 취약점을 충분히 악용할 수 있다. 이를테면 우리가 학습한 것이 실은 우리에게 좋은 것이 아니라 누군가가 우리가 그렇다고 믿게끔 만든 것이었을 수 있다. 

하지만 많은 경우에 우리는 구체적인 업무에서 실제로 뛰어났던 사람들을 관찰하지는 않는다. 합리적인 어림법은 권위가 있는 사람에게 집중하는 것이다. 사실 거의 본능적으로 우리는 사회적 지위가 있는 사람의 아이디어와 조언이 관심을 기울일 가치가 더 크다고 믿는다.

성공한 사람이라고 여겨지는 사람의 견해와 행동에 더 귀를 기울이게 되는 것은 거의 자연스러운 본능 같아 보인다. 

124)물질적 부에 큰 가중치를 부여하는 미국 문화에서 그들은 매우 성공적인 사람으로 여겨졌다. 은행 업계가 점점 더 큰 위험을 감수하고 그 대가로 점점 더 높은 수익을 올리면서, 금융계의 경영자들은 한층 더 부유해졌고 그들의 권위도 한층 더 높아졌다. 일이 잘못 돌아가게 되자 그 동일한 금융 기업들이 이번에는 너무나 큰 손실을 입어서 도산할 지경에 처했다. 이때가 '망하게 두기에는 너무 크다'카드가 쓰인 시점이다. '금융 기업들이 거대해지고 매우 높은 차입 비율로 영업하는 것이 좋은 것'이라는 아이디어를 믿었던 정책결정자들은 이제 그 거대해진 금융 기업들을 망하게 두면 경제에 더 큰 재앙이 올 것이라는 아이디어를 믿게 되었다. 오늘날 금융계의 거물들도 거기에 돈이 있기 때문에 열심히 설득 권력을 구축한다.

128)

사회적 지위가 높은 사람은 아이디어가 전파되고 지배적인 위치로 올라가는 과정에 대해, 프레임을 설정할 수 있는 사람에게 특권을 부여하는 의제 설정을 할 수 있다. 그런데 사회적 권력이 많은 사람은 의제 설정 능력도 클 것이므로, 여기에서 우리는 악순환으로 빠질 수 있는 피드백 고리를 보게 된다. 당신이 더 큰 권력과 지위를 가지고 있다면 의제를 설정하기가 더 쉬워지고, 당신의 의제를 설정하는 사람이라면 다시 더 큰 권력과 지위를 획득하게 된다. 그렇지만 게임의 규칙이 어떻게 짜여 있는지도 매우 중요하다. 게임의 규칙이 설득 권력상의 불평등을 증폭할 수도 있고 제한할 수도 있기 때문이다.

231)

과학혁명은 적어도 세 가지 면에서 결정적으로 중요한 기여를 했다.

첫째, 과학은 야망 있는 사업가와 발명가들이 기계적 숙련과 기술을 익힐 수 있게 했다. 

둘째, 1850년대부터 과학적 방법론과 과학적 지식은 전자기와 전기의 발달로, 신소재와 화학 작용에 대한 관심의 증가로 산업의 혁신에서 한층 더 중요해졌다. 

셋째, 야망있는 젊은이가 테크놀로지에 끌린 이유는 그 이전에 '대항해 시대'가 형성한 분위기 속에서 자란 세대이기 때문이다. 

233)산업혁명은 왜 18세기 영국에서 일어났는가?

지리적 요인, 문화적 용인(종교, 문화에 내재한 사업가 정신 등), 천연자원 요인, 경제적 요인, 정부 정책 요인에 주목

242)전반적으로, 영국이 기계를 사용하는 새로운 모험에 돈을 대기에 유리한 내재적인 장점을 가지고 있었다는 증거는 없다. 오히려 잘 구성되어 있던 유럽 대륙의 관습에 비해 영국의 상업 은행 시스템은 19세기 초까지도 여전히 초보적이었다.

243) 영국이 다른 나라들과 차이를 보이게 된 것은 개천 용들의 나라가 될 수 있게 해준 오랜 사회적 변화였다.

서구 유럽의 다른 나랃르에서도 사회적 위계가 느슨해지고 부와 지위를 높이고자 하는 야망있는 사람들이 있었지만, 이렇게 많은 수의 중간 계층 사람들이 기존의 계층을 벗어나 사회적 위계의 사다리를 올라가려고 한 나라는 당시에 영국 말고 없었다. 결정적인 역할을 한 주역이 바로 이러한 "중간 정도의 사람들"이었다.

245)이들은 적어도 1850년 정도까지 테크놀로지를 선도했던 다른 모든 이들과 마찬가지로 공식 교육은 많이 받지 못했고 실용적인 문제에 천착한 사람들이었다. 조지 스티븐슨처럼 이들도 작게 시작했고 수십 년 동안 발명가로서 이런저런 개선을 해나가면서투자자들과 고객들에게 자신이 고안한 것의 독창성을 인정받으며 사업을 확대했다.

이 시기에 대규모 산업체를 세운 226명 중 두 명만 귀족 출신이었고, 상류층과 어떤 연관이라도 있는 경우를 다 합해도 10퍼센트가 채 되지 않았다. 그렇다고 이들이 아주 바닥에서 시작한 사람들도 아니었다. 대부분은 작은 규모의 제조업이나 일종의 고숙련 수공업, 혹은 교역에 종사하는 아버지를 둔 사람들이었다. 그리고 대부분은 본인이 실용적인 기술을 직접 가지고 있었고 훗날 규모를 키워 큰 사업체의 운영자가 되기 전에 동일한 종류의 사업체를 작게 시작했다.

246) 가장 결정적이었던 것은, 이러한 사회적 변화의 모양을 잡고 귀족들이 새로이 떠오르는 사람들의 존재를 인정해야 한다고 생각하게 만든 굵직한 제도적 변화였다.

253)18세기 영구 경제에서 부는 더 이상 토지 소유하고만 관련 있지 않았다. 교역을 하거나 공장을 지어서도 큰돈을 벌 수 있었고 큰돈을 벌면 사회적 지위가 따라왔다. 이와 같이 상대적으로 유동적인 환경에서, 내세울 것 없는 집안 출신의 수많은 야심가들이 기존 사회 질서를 완전히 전복하기보다는 기존 질서가 다소 수정된 사회에서 개인적으로 성공을 통해 계층 상승을 이루고자한 것은 당연한 일이었을 것이다. 

6장 진보의 피해자

271)노동자들이 조직화되지 못했고 정치적 권력이 약했으므로 고용주들은 낮은 임금을 주어도 아무런 문제에 봉착하지 않았다. 공장 규율을 강화하고 노동 시간을 늘리고 노동 조건을 가혹하게 해도 마찬가지였다. 고용주는 강력하고 노동자는 그렇지 않은 상황에서는 생산성의 이득이 노동자와 공유되지 않고, 고용주의 이윤은 더 높아진다. 따라서 이 시기에 노동자들이 더 적게 받으면서 더 많이 일하게 된 것은 자본과 노동 사이의 직그히 불균형적인 권력 관계의 결과였다.

272)1800년경 영국의 면직물 산업은 세계 최대 규모였고 여기에서 막대한 부가 창출되었다. 중간 계층 출신 산업가들은 빠르게 계층 상승을 달성했다. 하지만 생산성 밴드왜건에 올라탄 사람은 많지 않았다. 

273)1811년에서 1812년 사이에 스스로를 '러다이트'라 칭하는 직조공들이 기계 파괴 운동을 벌였다. 러다이트라는 이름은 1779년에 방직기를 부수었다고 알려지면서 이와 같은 노동자들의 상징이 된 네드 러드의 이름을 딴 것이다. 

10장 민주주의, 무너지다

485)정치적으로 민감한 정보가 빠르게 제거되는 것은 중국에서 예외적인 일이 아니라 일상적인 일이다. 중국에서 인터넷과 소셜미디어는 지속적으로 감시된다. 알려진 바에 따르면 중국 정부는 온라인 콘텐츠 검열과 감시에만 매년 66역 달러를 지출한다.

486)안면 인식 카메라는 이제 중국 전역에 퍼져 있다. 중국 정보는 전국적인 사회신용체계 도입도 꾸준히 진척시켜 왔다. 사회신용체계는 개인과 기업에 대한 정보를 수집해 바람직하지 못하거나 신뢰할 만하지 못한 행동을 감시하는 것으로, 전복적이거나 반체제적인 정부 비판도 물론 여기에 포함된다. 

487)몇몇 논평가는 중국 모델과 사회 신용체계가 권위주의 통치를 강도 높은 감시와 정보 수집으로 유지하는, '디지털 독재'라는 새로운 독재의 원형이라고 보기도 한다.

아이러니하게도, 이것은 많은 사람들이 인터넷과 소셜미디어가 정치 담론과 민주주의에 미치리라  예상했던 결과와 정반대의 현상이다. 2010년에 당시 미국무장관이던 힐러리 로댐 클린턴은 인터넷의 자유가 세계에 민주주의를 확산시키려는 미국의 전략에서 핵심 기둥이 될 것이라고 선언했다. 

그런데 어쩌다 우리는 디지털 도구가 정보의 유통과 저항을 억누르려는 독재자의 손에서 강력한 무기가 되고 소셜미디어가 권위주의 정부뿐 아니라 좌우파 모두의 극단주의자들이 활개치는 가짜 정보의 온상이 된 상황에 처하게 되었을까?

494)중국 공산당은 2001년에 젊은이들의 정치 교육을 위해 고등학교 교과 과정을 대대적으로 개편했다. 2004년에 작성된 교육 개혁에 대한 문서의 제목은 "중국 미성년인의 사상도덕 건설을 강화개진하기 위한 몇 가지 의견"이었다. 2004년부터 쓰이기 시작한 새 교과서는 역사를 더 민족주의적으로 해석하고 공산당의 권위와 미덕을 강조하며 서구 민주주의를 비판하면서 중국의 정치 시스템이 더 우월하다고 주장한다.

새 교과서로 공부한 학생들은 동일한 지역에서 새 교과서가 도입되기 전에 졸업한 사람들과 상당히 다른 견해를 표명하는 것으로 나타났다. 또한 그들은 새 교과서의 내용을 주입받지 않은 사람들에 비해 정부 당국자들에 대해 더 높은 신뢰를 보였고 중국 시스템을 민주적이라고 보는 경향이 더 컸다. 겉으로 표출되는 견해가 그들에게 적용된 프로파간다에 강하게 영향을 받았다는 점은 분명하다.

-디지털 검열과 프로파간다가 진행되었다는 것은 민족주의와 국가주의, 따지지 않고 정부를 지지하는 태도, 비판적인 뉴스와 견해를 들으려 하지 않는 태도가 중국 젊은이들 사이에 훨씬 더 널리 퍼졌다는 의미다. 

그들은 이미 검열을 내면화했기 때문에 사실 당국이 적극적으로 검열할 필요조차 없었다. 

사회비평가 닐 포스트먼은 이렇게 말했다. "오웰이 두려워한 것은 책을 금지하려는 사람들이었다. 헉슬리가 두려워한 것은 책을 읽으려고 하는 사람이 애초에 아무도 없기 때문에 책을 금지할 이유 자체가 없는 세상이었다."

헉슬리의 디스토피아에서 사회는 엄격하게 분절된 카스트로 나뉘어 있다. 알파가 가장 꼭대기이고 그 다음에 베타, 감마, 델타, 그리고 가장 아래에 엡실론이 있다. 하지만 이 사회에 지속적인 검열과 감시는 필요하지 않다. "과학적 독재하에서는 교육이 정말로 효과가 있을 것이기 때문"이다. "그 교육의 결과, 대부분의 사람들은 자신이 예속되는 것을 좋아하게끔 자라게 되고 결코 혁명을 꿈꾸지 않게 된다. 완벽한 과학적 독재가 전복되어야 할 이유가 전혀 없어 보이게 되는 것이다."

중국, 이란, 러시아에서는 인터넷 검열 자행. 

499)오늘날 테크 분야의 지배층은 AI를 불에 즐겨 빗대면서 자신을 테크놀로지의 힘을 인류에게 선물한 현대판 프로메테우스라고 말하곤 한다. 하지만 현대의 디지털 테크놀로지에서 우리가 갖게 된 것은 프로메테우스가 아니라 페가수스인 것 같다.

 페가수스는 문자메시지를 읽고 전화 통화를 도청하고 위치를 추적하고 원격으로 암호를 수집하고 온라인 활동을 모니터링할 수 있으며 심지어는 휴대전화에 있는 사진기와 마이크를 조작할 수도 있다. 주로 권위주의적인 지도자가 있는 많은 국가들에서 사용되고 있다. 

502)디지털 도구는 내재적으로 반민주주의적이라고 결론을 내렸다. 역사학자 유발 하라리는 "테크놀로지는 압제를 선호한다"고 말했다. 이 이분법의 양쪽 결론 모두 잘못되었다. 디지털 테크놀로지는 친민주주의적이지도 반민주주의적이지도 않다. AI테크놀로지가 꼬 정부가 언론을 더 잘 감시하고 정보를 더 잘 검열하고 시민을 더 잘 억압하게 돕는 쪽으로만 발달해야 하는 것도 아니다. 이 모든 것은 테크놀로지의 방향이 어디를 향하게 할 것인가에 대한 '선택'에 달려 있다.

따라서 데이터 수집과 감시가 강화된 것은 테크 공동체가 내린 특정한 '선택'의 결과다. 

505)여기에 감시 기술의 덫이 있다. 강력하고 돈이 많은 정부가 저항을 억누르려고 하면 사람들을 감시하고 통제하는 AI테크놀로지에 대한 수요가 발생한다. 이 수요가 증가하면 더 많은 연구자들이 그것을 제공하는 쪽에 집중하게 된다. 그렇게 해서 더 많은 AI기술이 억압적인 방향으로 움직이면 AI기반 감시 기술은 권위주의적인 (혹은 권위주의적이 되고 싶은)정부들이 쓰기에 한층 더 유용해진다.

이제 세계 어느 곳에서든 시민 대부분은 억압에서 벗어나기가 점점 더 어려워지고 있다.