AI의 통제는 이미 시작됐다.

[정찬호]

인공지능 AI가 최근 일반인들에게도 널리 알려지고 깊은 관심을 받게 됐다. 특히 미국 모 회사의 챗 gpt라는 존재가 부각되면서  본격적인 AI의 시대가 곧 도래하게 될 것이라는 느낌이 강하게 든다. 하지만 이미 이 AI의 시대는 벌써 시작되었고 우리의 주변에 광범위하게 이용되고 있다. 우리가  늘 함께 하는 핸드폰도 일종의 AI이다. AI라고 해서 뭔가 인간의 모습을 제대로 갖춘 로봇만을 연상하는데 결코 그렇지 않다.그 로봇도 현재 엄청난 속도로 발전하고 있으며 인간의 피부와 거의 같은 종류가 개발되면 그야말로 영화에서 등장하는 존재 즉 인간과 구별할 수 없는 형태의 로봇이 우리와 함께 생활하게 될 날도 머지 않은 것 같다.

우리 주변에 AI는 대단히 많다. 핸드폰뿐만 아니라 텔레비젼과 세탁기 등 일반 가전제품에도 AI기능이 다수 포함되어 있다. 지금 당장 인간과 말이나 글로 소통하지 못하니 피부로 느낄 수 없을 뿐이다. 특히 핸드폰이나 노트북에는 AI기능으로 가득 차있다. 유튜브를 보면 왠지 내가 관심이 있는 것이 자꾸만 등장한다. 굳이 찾으려 애쓰지 않아도 비슷한 내용과 맥을 같이 하는 동영상이 잇따라 나온다. 바로 그것이 AI의 기능이다. 이른바 알고리즘이란 것이 작동하기 때문이다. 알고리즘은 문제 해결을 위한 공식, 단계적 절차, 또는 컴퓨터 프로그램을 통칭하는 말이다. 쉽게 말하면 특정인이 프로그램에서 자주 찾거나 관심이 있는 분야를 AI가 즉각 알아채고 스스로 그와 비슷한 종류의 아이템을 제공한다는 것을 말한다. 일부러 노력을 기울여 검색할 수고를 덜어준다는 것이다.

그렇다면 AI는 어떻게 그런 상황을 만들까. 바로 빅테이터 활용이다. 특정인이 컴퓨터상에서 관심을 가지고 찾는 검색어를 기억해서 특정인은 이러이러한 분야에 관심이 많고 성향도 이럴 것이다라는 분석을 하게 된다. 그런 분석을 토대로 특정인의 사고나 특성 그리고 관심분야를 파악하게 되는 것이다. 벌써 오래전부터 선거전에 이런 AI가 활용됐다. 이른바 빅데이터를 이용하는 것인데 그것을 통해 특정지역에서 유력한 선거후보자의 당락을 미리 예측하는 시스템이 이미 널리 사용되고 있다. 특정인이 사는 지역, 조금 더 나아가 그 동네, 조금 더 나아가 특정 선거구에 사는 유권자의 데이터를 분석하면 그곳의 정치성향이 대체로 나타난다. 그러면 그 선거구에서 누가 당선될 확율이 높을까 찾아내는 것은 그다지 어려운 일이 아니다. 아마도 출구조사때도 이런 빅데이터들이 광범위하게 활용되지 않을까 싶다. 그래서 갈수록 예상 당선자를 맞출 확률도 높아질 것이다.

이 AI의 영향력을 가장 극대화하는 나라는 바로 중국이다. 중국은 다른 나라보다 더욱 일찍 이 AI에 공을 들였다. 무슨 첨단산업의 리더가 되겠다는 그런 마음보다는 어떻게 하면 자기나라 백성들을 효과적으로 통제할 수 있을까에 더 초점을 뒀다. 중국이 언로를 단단히 통제하고 있다는 것은 주지의 사실이다. 그 흔한 인터넷에서도 시진핑을 비롯한 중국의 지도부를 비방하거나 사회주의의 모순을 지적하는 내용을 싣지도 검색하지도 못하게 만들었다. 바로 이 AI의 위력을 배경으로 하고 있다. 상당히 불손한 의도로 시작된 중국의 AI는 지금 대단히 앞서가고 있다고 보여진다. 국민들의 복지와 번영을 위해서가 아니라 통제가 목표이긴 하지만 말이다.

한국도 마찬가지다. 개발자가 어떤 의도를 가지고 접근하느냐가 중요한데 알게 모르게 한국의 AI도 통제의 기능을 충실히 시행하고 있다. 인터넷 매체들의 경우에도 바로 이 AI가 동원돼 유통되는 글들의 흐름을 통제한다. 물론 악의적인 비방을 위한 글들은 차단해야 하지만 정부 정책의 잘못을 지적한다던지 정부 정책의 모순점을 지적하는 글들도 통제시스템에 적용되도록 만들어 놓았다. 물론 중국처럼 아예 검색이 안되게 하거나 올린 글들을 삭제하는 행위는 하지 않는다. 하지만 더욱 교묘하게 특정집단이 불편하다고 느낄 글들은 게재되는 순서에서 뒤로 처지게 해서 다른 사람들이 잘 찾지 못하게 하는 방법 등으로 통제를 하고 있다고 알고 있다. 글을 올린 사람들은 자세히 들여다 보시라. 어떻게 방금 올린 글이 몇년전 올린 다른 사람의 글보다 뒷편에 배치될 수 있을까. AI에게 다양한 단어 즉 특정집단이 불편해 할 수 있는 단어들을 요주의 검색어에 포함시키면 AI는 스스로 알아서 배치 순서를 조절할 수 있다는 것이다. 참 교묘한 방법이 아닐 수 없다. 중국식 통제가 아닌 웃으면서 깔아뭉게는 그런 수법을 동원하는 것이다. 아마 이 글도 뒷쪽으로 배치될 것이 틀림없다. 

조지 오웰이 1949년에 집필한 1984는 이미 오래전부터 지구상에 존재해 오고 있다. 1949년에 영국의 소설가 조지 오웰이 1984년을 지배하는 가상의 전체주의 독재국가를 이미 예견한 것도 대단한 일이지만 그런 시스템이 지구촌 곳곳에 포진하고 있다는 것도 놀라운 일이다. 모두다 바로 AI의 발달로 가능해진 것이다. 한국도 예외는 아니다. 강력한 힘을 가진 그 누구가 마음만 먹으면 사회전체를 대상으로 한 통제 가능한 시스템을 만들 수 있다. 물론 내놓고 그렇게 하지는 못하겠지만 시스템은 갖춰져 있다는 것이다.

AI는 인간의 삶을 조금 편안하게 해줄 수 있을 것이다. 아니 인간들이 힘들어하는 부분에서 그 기능을 수행할 것이다. 하지만 AI에 어떤 기능을 투입하느냐에 따라 문명의 이기도 될 수 있지만 문명을 파괴할 강력한 무기가 될 수 있음은 당연한 일이다. 인간이란 동물이 워낙 사악하고 자신밖에 모르는 존재이니 아마도 순기능보다 역기능이 더 많을 것으로 우려하는 목소리가 높다. AI에 대한 여론조사결과 긍정적으로 보는 시각은 25%~30%정도에 불과했다는 것에서도 그런 분위기를 잘 읽을 수 있다.

2023년 3월 18일 화야산방에서 정찬호.