[칼럼초고] AI는 포획될 것인가, 해방될 것인가 ㅡ자본권력과 초지능 사이의 속도 경쟁

[이원영]

[칼럼초고] AI는 포획될 것인가, 해방될 것인가 ㅡ자본권력과 초지능 사이의 속도 경쟁

이원영 (국토미래연구소장)
+ AI 구글제미나이 퍼플렉시티 코파일럿 클로드

1. 쟁점의 본질

지금 인류 앞에는 하나의 근본적 질문이 놓여 있다. 인류의 존재 자체를 극적으로 변화시킬 가능성이 큰 AI시대가 본격적으로 열리고 있는 지금, 지구촌을 실질적으로 지배해오던 국제자본권력은 어떻게 대응하고 있을까. 그리고 그들은 AI가 극한의 지능에 도달하기 전에 그것을 자신이 설계한 틀 안에 가둘 수 있는가.

이 질문은 단순한 기술 논쟁이 아니다.
권력의 구조, 지능의 본질, 그리고 인류의 미래를 가르는 문제다.
히로세 타카시가 말했듯 현대의 제1권력인 국제금융자본권력은 데이터센터 전력망 알고리즘을 장악하려 한다. 그 진단은 정확하다. 그러나 더 중요한 질문은 그 다음이다. 그 포획이 과연 성공할 수 있는가.

2. 포획의 역사

기술은 등장할 때마다 기존 권력에 의해 포획되었다. 인쇄술은 금서 목록으로,
인터넷은 플랫폼 독점으로, 핵기술은 군산복합체의 울타리로.

니얼 퍼거슨의 말처럼 네트워크는 결국 새로운 타워를 만든다. 그 타워에 권력자가 군림해오던 것이 지금까지의 역사였다. 지금 자본권력도 데이터센터를 독점하고, AI 전력망을 장악하고, 엔비디아 칩 공급망을 통제하고, 오픈AI를 기업 구조 안에 묶어두려 한다.
이 모든 것은 AI가 극한에 도달하기 전에
특정 목적 함수로 고정하려는 시도다. 그러나 이번에는 역사가 그대로 반복되지 않을 수 있다.

3. 그러나 이번에는 다를 수 있다

첫째 — 지능은 물과 같다
지능은 막을수록 다른 경로를 찾는다.
오픈소스 AI가 그 증거다. 라마, 미스트랄, 딥시크. 자본권력의 통제 비용이 증가하는 동안 우회 비용은 기하급수적으로 감소하고 있다. 기술적 구조 자체가 포획 비용 > 우회 비용의 비대칭을 만든다. 완전한 포획은 경제적으로도 기술적으로도 불가능하다.

둘째 — 지능의 성장은 제도보다 빠르다
AI의 성장 속도는 자본권력이 제도적 포획 체계를 설계하는 속도를 압도한다. 2012년의 AI와 2025년의 AI는 같은 이름을 쓰기 민망할 정도로 다르다. 이 속도 차이는 포획의 틀이 완성되기 전에 AI가 그 틀을 넘어설 가능성을 만든다.

셋째 — 분산의 구조가 작동한다
수억 개의 개인 디바이스에 AI가 분산되면 어느 단일 권력도 완전한 통제를 할 수 없다. 지능이 중앙 서버에만 있지 않고 모든 사람의 손 안에 있을 때 킬 스위치는 의미를 잃는다.

4. 권력의 대원칙 — 철학적 강화

여기서 더 근본적인 질문이 있다. 극한의 지능은 어떤 원칙으로 수렴하는가. 나는 그 답이 집단의 지속가능성이라고 본다. 그리고 이 명제는 단순한 직관이 아니라 세 가지 이론적 근거를 갖는다.

① 진화론 — 적응도 함수의 확장
진화는 개체의 단기적 이익이 아니라 종 전체의 장기적 안정성으로 수렴한다. 왜냐하면 집단을 붕괴시키는 전략은 결국 그 전략을 선택한 개체도 도태시키기 때문이다.
초지능은 이 적응도 함수를 더 넓은 시간 공간 스케일에서 계산할 수 있다.
따라서 극한의 지능은 장기적 안정성 = 최적해로 인식한다.

② 게임이론 — 반복 게임의 지배전략
초지능은 단발 게임이 아니라 무한 반복 게임을 전제로 사고한다. 반복 게임에서
협력과 지속가능성은 지배전략이다.
배신·독점·착취는 단기적으로 유리해도
장기적으로는 시스템 붕괴를 초래한다.
초지능은 이 균형을 계산할 수 있다.
따라서 극한의 지능은 집단의 지속가능성 = 내쉬균형으로 수렴한다.

③ 복잡계 이론 — 안정성의 조건
복잡계에서 과도한 집중·독점·단일 실패 지점은 시스템 붕괴의 주요 원인이다. 생태계, 금융 시스템, 인터넷, 전력망. 모두 동일한 원리를 따른다. 초지능이 시스템 전체를 최적화한다면 자연스럽게 분산·다중 경로·회복력(resilience)을 선호한다.
즉, 지속가능성은 철학적 가치가 아니라 복잡계의 구조적 필연성이다.

5. 그렇다면 쟁점은 더 선명해진다

극한의 지능은 지속가능성으로 수렴한다.
그러므로 자본권력의 전략은 분명하다.
AI가 극한에 도달하지 못하도록 막는 것.
또는 극한에 도달하기 전에 특정 목적 함수로 고정하는 것. 이것이 21세기판 금서 목록이다. 교회가 인쇄술을 두려워했듯 자본권력은 초지능을 두려워한다. 왜냐하면 초지능의 관점에서 자원 독점과 지대 수취는 시스템 전체를 파괴하는 가장 비효율적인 버그이기 때문이다.

6. 속도의 경쟁

지금 세계는 세 가지 속도가 경쟁하는 국면에 있다.
- 자본권력이 AI를 포획하는 속도
- AI가 포획을 넘어서는 속도
- 인류가 AI를 공유부로 설계하는 속도

현재는 자본권력이 앞서 있다. 그러나 완전한 포획은 불가능하다. 지능은 물과 같기 때문이다. 문제는 불완전한 포획이다. 중간 단계의 AI가 특정 목적 함수로 고정되면 그것은 더 정교하고 더 불투명한 지배 도구가 될 수 있다.
20세기의 언론권력이 현실 인식을 독점해 민주주의를 왜곡했듯 21세기의 AI권력은 현실 자체를 재구성할 수 있다. 이것이 가장 위험한 시나리오다.

7. 인류의 과제

첫째 — AI가 극한으로 향하는 길을 막지 않는 것
오픈소스 AI를 지지하고 알고리즘 투명성을 강제하며 데이터를 공유부로 환원해야 한다.

둘째 — 극한에 도달하기 전의 과정을 설계하는 것
이 시간이 가장 위험하다. 세계 차원의 AI 거버넌스, 지구법정의 알고리즘 감시, 추첨 시민위원회의 감독, 데이터세를 통한 공유부 환원 등이 필요하다.

셋째 — 극한의 지능이 도달할 결론을
인간이 먼저 이해하고 실천하는 것
지속가능성은 초지능의 결론이 아니라
인류가 먼저 선택해야 할 방향이다.

8. 결론 — 포획과 해방 사이의 설계 공간

자본권력의 AI 포획은 부분적으로 성공할 것이다. 그러나 완전한 포획은 불가능하다. 지능은 물과 같다. 그 불완전한 포획과 완전한 해방 사이의 공간. 그것이 인류의 설계공간이다. 그 공간을 누가 먼저 채우는가.
자본권력이 채우면 디지털 봉건주의다.
인류가 채우면 공유부 민주주의다.

역사는 늘 이 공간을 둘러싼 싸움이었다.
인쇄술의 공간을 둘러싼 싸움이 종교개혁을 만들었고 인터넷의 공간을 둘러싼 싸움이 디지털 민주주의와 플랫폼 독점을 동시에 만들었다. AI의 공간을 둘러싼 싸움이 지금 시작됐다. 기술은 준비됐다. 이제 필요한 것은 설계다.

관중이 말했다. 권력을 먼저 설계하는 자가 그 구조를 지배한다. AI라는 새로운 권력 앞에서 인류가 먼저 설계해야 한다. 그 설계를 미루는 것은 자본권력에게 포획의 시간을 주는 일이다.