캐시 오닐의 『대량살상수학무기』, WMD는 빅 브라더 출현의 마중물일까?

[방랑객]

책 제목이 조금은 으스스하다. WMD는 원래 Weapons of mass Destruction의 약어다. 대량살상무기라는 말이다. 수학자인 저자는 데이터경제를 연구하다가 문득 수학도 인간을 대량 살상할 수 있겠다는 생각이 들었다. 

그래서 이를 경고하는 의미에서 책 제목에 Weapons of Math Destruction, 즉 대량살상수학무기라는 직설적 용어를 사용했다. 약어가 원래 대량살상무기와 같은 WMD이므로 이 약어를 그대로 옮겨 중의적인 의미로 사용하고 있는 것이다.

저자는 수학 박사로 버나드 칼리지 수학과 종신 교수로 재직하였다. 그 후 수학을 현실 세계에 활용한다는 아이디어에 매료되어 교수직을 버리고, 헤지펀드 디이 쇼의 퀀트, IT 업계에서 데이터 과학자 일했다. 

그 과정에서 2000년대 글로벌 금융계의 호황과 붕괴를 몸소 겪었으며 수학과 금융의 결탁이 불러온 파괴적 힘에 환멸을 느꼈으며, 장밋빛으로 포장된 빅 데이터 경제가 불평등을 확산하고 민주주의를 위협한다는 사실을 깨달았다고 했다. 

캐시 오닐

이 책은 알고리즘이 우리에게 주는 해악을 고발하는 동시에 그러한 알고리즘을 구성하는 수학이 우리를 위협하는 무기가 되고 있음을 경고하고 있다. 그런 점에서 이 책은 빅 브라더가 지배하는 체제에 대한 경각심으로도 읽을 수 있을 것이다.

그렇기 때문에 이 책은 수학적 알고리즘을 활용한 다양한 영역의 모형들이 우리에게 어떤 피해를 주는지를 적나라하게 들추어내고 있다. 모형을 적용 대상의 제 변수를 단순화한 것이다. 따라서 그 변수를 어떻게 구성했는가에 따라 대상에 대한 평가는 달라질 수 있다. 

야구 모형처럼 선한 모형도 있지만 개발자의 목표와 이익만을 충실히 반영하는 것이 대부분이다. 이런 모형들은 얼마든지 상황을 그릇되게 할 수 있다. 그런 점에서 수학은 불특정한 다수에게 피해를 줄 수 있으며, 그런 점에서 WMD라는 것이다.

WMD의 대표적인 특징은 알고리즘이 투명하게 공개되지 않는다는 것이다. 이 경우 모형은 엉뚱한 목적으로 사용될 수도 있는 것이다. 그런가 하면 모형의 데이터를 지속적으로 업데이트하지 않으면 모형의 오류를 벗어나기 어렵다. 

많은 기업이 모형의 산출물이나 심지어 모형이 존재한다는 사실 자체를 숨기기도 한다. 이른바 영업 비밀이다. 모형은 필요하다면 법률 전문가와 로비스트들을 대거 동원해서라도 반드시 보호해야하는 지적 재산으로 취급된다.

구글, 아마존, 페이스북 같은 거대 인터넷 기업들의 경우, 한 치의 오차도 없이 정확히 맞춤화된 알고리즘은 그 자체로 수백억 달러의 가치를 지닌다고 주장한다. WMD는 본래부터 쉽게 이해할 수 없게 설계된 블랙박스다.

덧셈 알고리즘

WMD는 금융시장에도 존재한다. 존재하는 정도가 아니라 수학자들이 금융시장을 움직인다. 수학 모형은 본질적으로 과거와 기존 패턴들이 반복될 것이라는 가정에 기반을 두고 있다. 따라서 미래가 이로부터 이탈을 하게 되면 수학은 미래에 대해 아무런 역할을 하지 못한다.

조직에서 모형을 활용하는 것은 비용과 인력관리 측면에서 상당한 이득이 있기 때문이다. 다른 한편으로 조직 목표를 보다 쉽게 달성할 수 있기 때문이다. 저자는 이를 입증하기 위해 다양한 영역에서 다양한 사례를 제시하고 있다. 

재판의 공정성을 위해 도입된 재범위험성모델, 대학평가모델, 은행들의 신용평가, 약탈적 광고, 인성 및 적성검사 등이 그러한 사례들이다. 이런 모형을 기반으로 모아진 각종 자료들은 데이터로 관리되고 이는 다시 보다 강도 높은 IT기술과 결합하여 새로운 알고리즘을 만든다. 

WMD

그리고 이렇게 만들어진 알고리즘은 지금 이 순간에도 우리 주변 곳곳에서 ‘보이지 않는 손’이 되어 무소불위의 힘을 과시하고 있다. 특히 인간의 편견과 무지, 그리고 오만을 코드화한 프로그램들은 차별을 정당화하고 마침내 민주주의를 위협하게 된다. 

여기서 저자는 재미있는 제안을 한다. 한 나라 전체 국민이 하나의 식단을 선호한다면 어떻게 될까? 당연히 농•축산업에 엄청난 변화가 나타날 것이다. 그러나 이론적으로는 문제가 없다. 마찬가지로 식단이든 세법이든 무엇이든 이론적으로 모형 자체는 아무런 위해성이 없다. 

하지만 하나의 모형이 국가적인 혹은 세계적인 표준으로 확장되면 이야기를 달라진다. 유토피아와 정반대되는 음울하고 왜곡된 구조가 만들어진다. 즉, WMD가 관료주의메커니즘과 결합하다면 이의를 제기하거나 이를 무력화시키기란 사실상 불가능하게 된다. 

전 세계 모든 국가들, 특히 민주주의 국가 시민들은 역사상 처음으로 마주하는 알고리즘의 위험한 힘을 이해하고 그 힘을 제어하기 위해 나서야 할 것이다. 중국은 얼굴 인식이 보편화하여 범죄 예방을 하고 있지만, 이는 반체제 인사들을 감시하는 도구로 사용될 수 있다.

한편, WMD의 효율성 강화는 노동시장에서 종업원들을 기계의 부품처럼 취급하는 요인을 제공한다. 요즈음 미국에서는 ‘클로프닝’이라는 신조어가 탄생했다고 한다. 밤늦게 가게 문을 닫고 바로 새벽 같이 가게 문을 여는 것을 이르는 말이다. close + opening이다.

마르크스는 기계에 의한 인간의 고립을 ‘소외’라는 말로 표현했다. 이제는 WMD에 의해 이런 일이 벌어지고 있는 것이다. 그리고 마침내 소외를 넘어 이러한 감시가 일상이 되면 빅브라더가 그저 먼 이야기만은 아닐 수도 있을 것이다. 저자의 호소는 절실하다.