권력의 원리ㅡ명제 27. IT발달이 평판권력을 증폭시킨다

[이원영]

[제6부 IT 그리고 AI 시대의 권력]

명제 27 — IT발달이 평판권력을 증폭시킨다

---

동물의 세계에서

사막메뚜기는 평소 서로를 피하는 독립적인 곤충이다. 그런데 개체 밀도가 일정 수준을 넘으면 며칠 사이에 완전히 다른 생물처럼 돌변한다. 몸 색깔이 바뀌고, 서로를 밀어내던 개체들이 갑자기 무리 지어 한 방향으로 이동하기 시작한다. 개별 신호(다른 개체의 뒷다리를 스치는 접촉) 하나하나는 미미하지만, 밀도가 임계점을 넘는 순간 그 신호들이 서로를 증폭시켜 수십억 마리의 떼로 전환된다. 개체는 그대로인데, 신호가 밀집되고 반복되는 것만으로 완전히 다른 권력체가 태어나는 것이다.

인간의 평판권력도 같은 물리를 따른다. 한 사람의 판단은 미미하지만, 특정 밀도와 속도로 반복·증폭되면 개별 판단들의 단순 합을 넘어서는 별개의 힘으로 전환된다. 다만 메뚜기는 밀도가 자연히 흩어지면 다시 개체로 돌아가지만, 오늘날의 신호 증폭 장치 — 알고리즘 — 는 그 밀도를 인위적으로, 무한히 유지시킬 수 있다는 것이 다르다.

공작의 꼬리는 생존에 불리하다. 포식자에게 잘 보이고 도망치기 어렵다. 그러나 공작은 살아남았다. 암컷들이 화려한 꼬리를 가진 수컷을 선택했기 때문이다. 꼬리의 화려함이 생존 능력보다 번식에 더 중요했다. 평판이 현실을 이긴 것이다. 그러나 공작의 꼬리는 진실이다. 꼬리가 실제로 화려해야 한다. 가짜 꼬리는 통하지 않는다.

인간 세계의 평판권력은 다르다. IT가 발달하면서 꼬리를 가짜로 만들 수 있게 됐다. 실제보다 더 화려하게, 또는 멀쩡한 꼬리를 망가진 것처럼 보이게. 그것이 공작의 세계와 IT 시대 인간 세계의 결정적 차이다.

1. 뜻풀이

평판권력은 새로운 현상이 아니다. 인류는 언제나 평판으로 권력을 만들고 잃었다. 마녀재판의 군중이 그랬고, 빨갱이 낙인이 그랬고, 문화대혁명의 홍위병 대자보가 그랬다. 낙인이 진실보다 먼저 도착하고, 반박이 오히려 낙인을 강화하는 구조 — 이것은 인류의 오래된 권력 메커니즘이다.

그런데 IT가 이 메커니즘을 질적으로 다른 차원으로 끌어올렸다. 세 가지 방식으로.

속도 — 1692년 세일럼 마녀재판의 낙인이 마을 전체에 퍼지는 데 며칠이 걸렸다. 오늘의 낙인은 몇 시간 안에 수천만 명에게 닿는다. 진실이 따라잡을 수 없는 속도다.
규모 — 홍위병의 대자보는 한 도시 안에서 작동했다. 오늘의 해시태그는 지구 전체를 덮는다. 규모가 달라지면 피해의 비가역성도 달라진다.
정밀도 — 케임브리지 애널리티카는 8700만 명의 데이터로 각 개인의 심리 취약점을 분석하고, 그 취약점을 정확히 겨냥하는 맞춤형 감정 자극을 설계했다. 군중 심리학을 데이터로 개인화한 것이다. 이제 알고리즘이 누구에게 어떤 감정을 심을지 자동으로 결정한다.

이것이 IT발달이 평판권력에 한 일이다. 인류의 오래된 메커니즘을 수백 배 증폭시킨 것. 그리고 쾨켈베르흐가 발견한 네 번째 차원이 있다. 구조화 — 에코챔버다. 알고리즘이 비슷한 생각을 가진 사람들끼리만 묶어주면서, 낙인은 해당 집단 안에서 절대적 진실로 굳어진다. 이의를 제기할 목소리가 차단되고, 반박은 거품 밖으로 나가지 않는다. 음의 평판권력이 에코챔버와 결합할 때, 그것은 단순한 낙인을 넘어 집단적 현실 왜곡이 된다. 정치학자 스티븐 룩스가 권력의 세 번째 차원이라 부른 것 — 갈등을 이기는 힘이 아니라, 애초에 갈등이 인식되지도 못하게 만드는 힘 — 이 바로 이 구조화 단계에서 완성된다. 에코챔버 안의 시민은 자신이 자유롭게 판단한다고 믿지만, 실은 무엇을 놓고 판단할지 자체가 이미 설계되어 있다.

포피츠가 분류한 권력의 네 가지 유형 — 행동권력, 도구적 권력, 권위적 권력, 데이터 권력 — 에 이제 다섯 번째가 추가돼야 한다. 알고리즘이 증폭시킨 평판권력. 현실을 정의하는 것을 넘어, 현실에 대한 감정을 실시간으로 설계하는 권력.

이 권력이 가장 위험한 이유는 하나다. 견제받지 않는다. 선거로 심판할 수 없다. 사법으로 처벌하기 어렵다. 내일 계정을 삭제해도 아무 책임이 없다. 명제14가 말한 "견제받지 않은 권력은 반드시 남용된다"는 법칙이 이 새로운 권력에도 정확히 적용된다.

2. 다섯 번째 권력의 물적 토대 — 국가와 빅테크의 결합

이 다섯 번째 권력은 알고리즘 혼자 만든 것이 아니다. 그 뒤에는 국경을 넘어선 금융자본과 거대 플랫폼 기업의 결합이 있다. 플랫폼은 이용자가 많아질수록 데이터가 축적되고, 데이터는 더 정교한 알고리즘을 낳는 네트워크 효과 위에서 성장했다. 그리고 21세기 들어 이 결합은 한 단계 더 나아갔다 — 국가 자체가 이 결합의 파트너가 된 것이다.

"인터넷 시대의 강자는 플랫폼을 가진 기업이었다. AI 시대의 강자는 생산체계를 가진 국가가 될 가능성이 크다. 국가는 생산플랫폼이다." 한국의 한 정책 책임자가 남긴 이 말은, 국가가 더 이상 플랫폼 권력의 규제자가 아니라 그 권력의 공동 설계자가 되어가는 흐름을 정확히 요약한다. 반도체·데이터센터·인공지능에 대한 국가의 전략적 투자가 산업정책과 안보정책과 기술정책을 하나로 묶으면서, 다섯 번째 권력의 물적 기반은 민간 플랫폼을 넘어 국가와 유기적으로 결합한 형태로 확장되고 있다.

이것이 왜 중요한가. 지금까지 이 명제가 다룬 견제의 상상력 — 선거, 사법, 계정 삭제 — 은 모두 권력이 민간의 손에 있다는 것을 전제한다. 그런데 그 권력이 국가와 결합하는 순간, 명제9와 명제14가 이미 경고한 문제 — 견제받지 않는 국가권력에 시장의 탈출 가능성(exit option)마저 사라지는 문제 — 가 다섯 번째 권력에도 그대로 옮겨붙는다. 국가가 생산플랫폼이 될수록, 그 플랫폼을 시민의 통제 아래 두는 일은 선택이 아니라 생존의 문제가 된다.

3. 평판권력의 두 얼굴

IT가 증폭시킨 평판권력에는 두 얼굴이 있다.

음(陰)의 평판권력 — 진실보다 빠른 낙인.

폭로가 먼저 도착하고 경멸이 먼저 생성된다. 진실은 나중에 온다. 반박은 오히려 낙인을 강화한다. "변명한다"는 사실 자체가 죄의 증거로 읽힌다. 그래서 마키아벨리가 말했던 "경멸은 싸울 수 없다"는 명제가 IT 시대에 더욱 날카로운 의미를 갖는다.

미투(MeToo) 운동이 이 양면을 가장 선명하게 보여준다. 실제 피해를 입었지만 제도가 보호하지 않았던 사람들의 정당한 폭로는 양의 평판권력이다. 그러나 진실 판명 이전에 낙인만으로 누군가를 매장하는 행위는 음의 평판권력이다. 두 가지가 같은 언어와 같은 형식으로 공존하기 때문에, 음의 것을 문제 삼는 것이 양의 것을 부정하는 것처럼 읽히는 구조가 만들어진다. 이것이 이 권력이 가장 견제하기 어려운 이유다.

명제9에서 본 장경욱 사례가 보여주듯, 폭로권력은 종종 약자의 무기가 강자에게 탈취되는 방식으로 작동한다. IT는 이 탈취의 속도와 규모를 증폭시켰을 뿐이다. 진실이 도착했을 때 경멸은 이미 할 일을 마쳤다.

그리고 2026년, 딥페이크는 임계점을 넘었다. 스마트폰 하나로 누구나 만들 수 있다. 더 무서운 것은 딥페이크가 존재한다는 사실만으로, 사람들이 진짜 영상도 의심하기 시작했다는 것이다. 진실과 거짓의 구분을 불가능하게 만드는 것 자체가 목표인 시대. 이것이 음의 평판권력의 최종 진화 형태다.

국가도 이 앞에서 의무를 방기한다. 공인의 죽음이나 중대한 사건이 평판권력의 격류 속에 던져지면, 진상규명이라는 국가의 가장 기본적인 의무조차 정치적 위험이 된다. 진실을 밝히려는 절차 자체가 "누군가의 편을 드는 행위"로 읽힌다.

명제9에서 본 버네이스의 홍보 공학이 20세기에 대중의 무의식을 조작해 여론과 소비를 설계했다면, 오늘의 알고리즘은 그 설계를 개인화하고 자동화했다. 그가 닦은 길을 알고리즘이 자동화한 것이다.

양(陽)의 평판권력 — 기록이 만드는 권위.

이해관계 없는 시민이 사실을 차곡차곡 쌓아 반박 불가능한 역사를 만드는 것. 친일인명사전이 그것이다. 이노센스 프로젝트가 그것이다. 명제9에서 본 '사관의 후예들' — 잘못된 판결 백서 — 도 그것이다. 선출되지도 임명되지도 않았지만, 기록의 신뢰성만으로 권위를 만들어내는 시민의 권력이다.

음의 평판권력이 경멸을 무기로 삼는다면, 양의 평판권력은 기록을 무기로 삼는다. 전자는 진실을 기다리지 않는다. 후자는 진실로만 이루어진다. IT는 이 양의 평판권력도 증폭시켰다 — 시민의 기록이 더 빠르게 더 넓게 퍼질 수 있게 됐다. 문제는 음의 것이 양의 것보다 언제나 더 빠르다는 것이다. 분노가 사실보다 빠르게 달리는 것은 알고리즘의 설계 때문이다.

4. 견제 장치 — 세 가지 방향

평판권력을 견제하는 방법은 세 가지 층위에서 모색된다.

제도적 견제 — EU 디지털서비스법(DSA). 알고리즘 개입 없는 시간순 타임라인 선택권 의무화. 독립 연구자의 데이터 접근 보장. 플랫폼 편집 책임의 명확화. 딥페이크 식별 의무화. 그러나 이 모든 제도는 아직 걸음마 단계이고, 기술의 속도를 따라잡지 못하고 있다.

구조적 대안 — Fediverse(마스토돈 등 탈중앙화 공론장). 플랫폼이 알고리즘으로 평판권력을 증폭시킬 수 없는 구조. 분노를 먹고 자라는 알고리즘 대신, 합의를 찾아내는 알고리즘. 대만의 pol.is가 그 실험이었다.

시민적 견제 — 양의 평판권력의 조직화. 이해관계 없는 시민이 기록을 쌓는 것. 진상규명 기구, 잘못된 판결 백서, 추첨숙의형 시민의회가 평판권력을 감시하는 구조. 낙인보다 기록이 오래간다는 것을 반복해서 증명하는 것.

쾨켈베르흐는 이것을 역수감시(Sousveillance)라고 부른다. 전통적 감시(Surveillance)가 권력자가 시민을 내려다보는 것이라면, 역수감시는 시민이 권력자를 올려다보며 감시하는 것이다. IT는 이 역수감시를 처음으로 가능하게 했다 — 스마트폰으로 경찰의 과잉진압을 촬영하고, SNS로 권력자의 거짓말을 실시간으로 검증하고, 시민이 기록한 영상이 공식 기록보다 더 신뢰받는 시대. 역수감시가 조직화될 때 그것이 양의 평판권력이 된다.

그러나 탈레브가 말한 안티프래질의 원리가 여기서도 작동한다. 위기가 올수록 부서지는 평판이 있고, 위기가 올수록 오히려 강해지는 평판이 있다. 후자가 진짜 평판권력이다. 한국 민중이 두 번의 무혈혁명을 통해 쌓은 평판이 그것이다. 딥페이크로 흔들릴 수 없고 알고리즘으로 조작될 수 없는 평판 — 광장에서 몸으로 증명한 것들이다. 안티프래질한 평판권력은 위기가 올수록 더 빛난다.

5. 종합정리

IT발달이 평판권력을 증폭시켰다. 인류의 오래된 낙인 메커니즘을 속도·규모·정밀도·구조화 네 차원에서 질적으로 달라지게 했다. 케임브리지 애널리티카가 심리를 타격했고, 딥페이크가 진실과 거짓의 경계를 허물었고, 알고리즘이 분노를 자동으로 증폭시키고, 에코챔버가 낙인을 집단적 현실로 굳힌다. 그리고 이 권력은 더 이상 민간 플랫폼에만 머물지 않는다. 국가가 스스로 생산플랫폼이 되어가면서, 다섯 번째 권력의 물적 토대는 국가권력과 유기적으로 결합하고 있다.

이 새로운 권력은 견제받지 않는다. 그래서 명제14의 법칙이 다시 한번 적용된다 — 견제받지 않은 권력은 반드시 남용된다.

그러나 같은 IT가 양의 평판권력도 만들었다. 시민의 기록, 시민의 연대, 시민의 역수감시. 민치를 설계한다는 것은 이 두 가지를 동시에 다루는 것이다. 음의 평판권력을 견제하는 구조를 만들고, 양의 평판권력을 조직화하는 것. 그것이 IT·AI 시대에 민주를 이뤄내는 방법이다.

다만 이 모든 견제 장치는 결국 하나의 질문으로 수렴된다. 실제로 간섭당하지 않는 것으로 충분한가, 아니면 간섭할 수 있는 힘 자체가 존재하지 않아야 하는가. 명제2에서 이미 다룬 비지배(non-domination)의 원리 — 온화한 주인 아래의 노예도 노예라는 페팃의 통찰 — 가 다섯 번째 권력에서 가장 첨예하게 시험대에 오른다. 아직 나를 낙인찍지 않은 알고리즘 앞에서도, 언제든 낙인찍을 수 있다는 가능성만으로 나는 이미 스스로를 검열한다. 실제 간섭이 아니라 간섭 가능성 자체가 지배다.

명제 27 — IT발달이 평판권력을 증폭시켰다. 공작의 꼬리는 진짜여야 했다. 그러나 IT는 꼬리를 가짜로 만들 수 있게 했다. 낙인은 진실보다 빠르게 달리고, 딥페이크는 진실과 거짓의 경계를 허물고, 에코챔버는 낙인을 집단적 현실로 굳힌다. 그 뒤에는 국가와 빅테크가 결합한 다섯 번째 권력의 물적 토대가 있다. 그러나 기록은 낙인보다 오래간다. 시민의 역수감시가 조직화될 때 그것이 가장 강한 견제의 무기가 된다. 그러나 궁극의 목표는 명제2가 가리킨 그것이다 — 간섭당하지 않는 것이 아니라, 누구도 간섭할 수 있는 권력을 쥐지 못하게 하는 것.

평판권력의 음해로 잘못된 판결도 부지기수다. 이를 기록하고 바로 잡는 일도 게을리 할 수 없다.