인공지능의 사회적 거버넌스 논의에 부쳐

[백두대간]

인공지능의 사회적 거버넌스 논의에 부쳐

기술문화비평

나노기술, 유전공학과 함께 인공지능 기술은 이제 신인류에 축복의 기술로 불린다. 하지만, 인공지능 기술은 핵에너지 그 이상으로 재앙과 절멸의 기술이기도 하다. 인류 생존에 미치는 영향과 파급력이 상상 이상이며 제어조차 어려운 기술들이기 때문일 것이다. 이 점에서 가속화된 인간의 기계화나 지능기계의 궁극적 지능폭발(특이점)이 도래하기 전에, 기계와 인간의 앙상블적 결합을 성공적으로 수행할 수 있는 사회 안전핀 마련에 대한 토론이 필요하다.

[출처: 자료사진]

일부 전문가 집단은 인공지능에 대한 사회의 우려 섞인 경계에 짜증 섞인 반응을 보이기도 한다. 과학기술 부국이나 비지니스의 논리가 우선 순위가 된 탓이다. 그래서, 누군가 기술 지배집단과 사회의 비릿한 동거를 지적하거나 인공지능으로 초래될 수 있는 통제 불가능한 상황을 경고하려 하면, 왜 딴죽이냐며 불쾌해 한다. 인공지능이 국가 비지니스가 된 순간, 기술 숭고에 대한 경고성 발언은 막연한 반발을 불러일으킨다.

지난 3월 미국 캘리포니아 아실로마 회의에서 1백여 명의 과학기술자와 실리콘밸리 기업가가 모여 인공지능의 재앙을 막기 위한 23가지 원칙에 합의했다. 인공지능이 축복이자 재앙의 기술임을 증명하는 회의인 셈이다. 인공지능을 인류의 문명에 이롭게 하고 ‘공동선’을 지키기 위한 글로벌 엘리트들의 비공식 합의가 이뤄진 셈이다. 물론 회의의 강제력은 없다. 그저 인공지능이 가져올 파국에 대한 전지구적 환기라는 측면에서 이마저도 다행이지 않을 수 없다. 이 같은 인공지능의 사회적 관리를 위한 국내의 논의는 거의 실종 상태다. 설사 논의 지형이 존재해도 추상 수준에서 인공지능 기술의 수용에 따른 정책이나 법제 정비에 머문다. 제4차 산업혁명의 여파도 한몫하고 있다. 인공지능을 국내 산업 진작의 하위 논리로 두면서 나타난 결과다.

얼마 전 한국철학학회의 ‘인공지능의 도전’이란 특별 세미나에 참가한 적이 있다. 이 자리는 인간 종이 기계와 합쳐지거나 기계가 인간의 지능을 가질 때 이들 신종 주체 들의 존재론적 지위를 어찌 봐야 할 것인가에 대한 철학적 논의가 대체적 관심사였다. 그 날 발표자 중 손화철 교수의 제안이 흥미로웠는데, 그가 내놓은 주장은 인공지능의 ‘과학기술 거버넌스’였다. 단순히 말하면 기술의 낙관이나 비관 혹은 위기론을 넘어 구체적으로 인공지능의 위험이나 재앙 상황을 막는 사전 논의 테이블을 사회적으로 구성하자는 제안이다. 구체적으로, 그는 인공지능 등 첨단 기술 설계와 디자인 개발의 주체들이 기술 개발의 당위성을 사회 구성원들에게 공개적으로 증명하고 입증하는 협치(거버넌스) 모델의 구성을 요청하고 있다. 아직은 거버넌스 실현 방식들이 어떠해야 하는지 정확히 제시하고 있진 않지만 흥미로운 제안이다. 다른 말로 하면, 인공지능 개발자에게는 자신이 추진하려는 기술의 존재 이유를 사회 구성원들에게 설득해야 하는 과학기술 개발의 ‘정당성 변론’ 과정이 따른다. 적어도 그의 거버넌스 구상은 인공지능 등 첨단 과학기술이 소수 엘리트들에 의해 실험실과 밀실에서 결정되는 과정을 좀 더 사회적 공론 영역으로 이끄는 실천 효과가 있다고 본다. 그럼에도 이와 같은 인공지능 거버넌스가 사회적으로 작동하기 위해서는 몇 가지 선결돼야 할 현실적인 제약들이 있다.

인공지능의 사회적 거버넌스를 가로막는 제약들

우선, 인공지능 관련 ‘스텔스 기업’을 어떻게 규제할 수 있을 것인가의 문제다. 오늘날 기술의 미래를 좌우하는 주축은 실리콘밸리이고, 정부와 기업 후원의 연구실들과 비가시적 영역에서 극비리에 출자된 첨단 기업들이다. 이들은 향후 과학기술 거버넌스의 레이더망에 걸리지 않을 확률이 높고 사회의 기술 예측력을 무위화하는 핵심 세력이다. 나노, 생명공학, 인공지능 등 인류의 근간을 뒤흔드는 잠재 기술들은 복잡한 사회 윤리와 제도의 망 바깥에서 은밀히 개발되는 속성을 지닌다. 사회의 자장 안에서 통제 가능하기도 하지만, 이들은 점점 제도 안에서 포착하기 어렵다. 이미 스텔스 기업은 거대한 자본력을 지닌 글로벌 다국적기업 아래 숨어 소규모 투자기업 형태로 유지되고 있다. 일례로, 구글은 언론에 그 내막이 알려지기 전까지 내부에 ‘구글X’란 인공지능 개발 사내기업을 뒀다. 이들은 대중의 눈을 피해 인간 이상의 강지능에 토대를 둔 자율형 인공지능 기술을 개발해왔다. 구글은 이를 공개적으로 부인해왔으나, 이미 레이 커즈와일이나 앤드류 응 등을 영입하며 기술개발에 박차를 가하는 정황이 여기저기에 포착됐다.

둘째, 미국 등 정부의 군사적 목적이나 스텔스 기업의 욕망을 통제하기 위한 ‘글로벌’ 과학기술 거버넌스가 마련돼야 한다. 오늘날 첨단 기술은 한 지역 사회의 통제 범위를 넘어서고 있다. 글로벌 인공지능 기술의 위상은 때론 국내 과학기술 협치의 정세와 무관하거나 아예 강제적으로 특정 방향으로 이끌어 갈 수 있다. 이 점에서 국내 논의는 물론이고 전지구적 거버넌스 상설 기구 마련 없이 협치 논의는 무상하다. 더구나 국제원자력기구 등 지구적 핵 개발 경쟁의 감독이나 통제가 어려웠던 만큼 인공지능의 글로벌 거버넌스가 잘 작동할 지는 미지수다. 그럼에도 방관이 사태의 해결을 가져올 수 없다는 점은 분명하다. 적어도 최소 수준의 국제 합의가 마련될 필요가 있다. 예를 들어, ‘아실로마 회의’를 좀 더 국제적으로 정례화하는 방법을 찾아야 한다. 인공지능의 적용이 예측 불가능하고 큰 위험성이 있다면, 일부 인공지능의 특정 활용 양태를 과감히 중단하려는 ‘사전예방 원칙(precautionary principle)’까지 도입할 필요가 있다. 글로벌 협의의 부재는 결국 프랑켄슈타인과 같은 인공지능 괴물이 연구실 밖으로 뛰쳐나오도록 방치할 확률이 높다.

마지막으로, 사회적 거버넌스에 대한 정반대의 우려도 존재한다. 거버넌스의 전망과 상상력이 과도하게 시민사회의 헤게모니나 자장 안에서 움직일 때 또 다른 위험성이 있다. 이는 과학기술 전문가주의의 폐해로 인해 공백지로 남았던 시민의 기술정치학을 부정하자는 주장이 아니다. 외려 인공지능 전문가나 과학기술자로부터 나오는 우발의 상상력이나 기술코드의 해방적 잠재력이 과연 거버넌스의 틀거리에서 원활하게 포용될 수 있는가의 문제를 보자는 의미다. 사회에 착근될 기술의 이해도를 높이자는 취지의 협치 과정이, 외려 기술 상상력의 열린 확장에 유리천장을 만드는 효과를 지닐 수도 있다. 기술개발의 정당성을 확보하려는 시민사회의 주도권이 특정 기술의 사회적 예측력을 높일 수 있을지 몰라도 때론 기술의 상상력을 하향 평준화 하거나 억압하는 상황을 발생할 수도 있다. 결국 이는 협치 구성 방식의 민주주의 문제로 귀결한다.

‘인간의 기계화’에 대한 사회적 대비책?

국내에서 인공지능에 대한 논의는 주로 ‘기계(인공지능)의 인간화’ 혹은 그것이 극단화된 초지능화 모델에 집중되는 경향이 크다. 사실상 인공지능 거버넌스 논의의 또 다른 한 축은 ‘인간의 기계화’(사이보그와 포스트휴먼 주체)다. 후자의 논의 수준이 기술철학 등 추상적 수준에서 멈춰 있고, 더 이상 사회적 거버넌스 마련 등 현실 위기관리의 문제로 깊이 있게 진전되지 않고 있다는 점 또한 문제다.

예를 들어, 일런 머스크는 인간 뇌와 컴퓨터를 연결하는 ‘뉴럴링크’ 회사를 최근 설립해 세계 언론의 주목을 받았다. 그는 뉴럴링크를 통해 인간이 신체적 인터페이스 없이도 인간 두뇌 피질에 초소형 인공지능 기기인 뉴럴 레이스 (neural lace)를 이식해 외부 기계와 서로 소통할 수 있도록 하는 뇌-컴퓨터 연결 기술을 개발하고자 한다. 이는 실리콘밸리 대표 혁신가가 인류에게 권하는, 똑똑해지는 인공 기계에 대적할 똑똑한 인간 종을 만들기 위한 인류의 ‘공식적’ 대응 논리가 될 공산이 크다.

오늘날 이름 없는 수십억의 스마트폰 이용자 인구는 앞으로 머스크가 보려 하는 류럴링크의 미래 세계에 앞서 이미 존재하는 현실의 포스트-휴먼들이다. 휴대폰 이용자들을 보라. 휴대폰이 그들의 몸을 점차 잠식하면서 그들은 홍체 정보, 데이터, 이동하는 신체가 합쳐져 모바일 생체기계가 되고 있다. 이들은 각자 몸에서 매분 매초 데이터 부스러기를 배출하면서 기업과 국가의 알고리즘 분석을 통해 인공지능 패턴인식 클라우딩 서버의 땔감이 되고 보다 정밀하게 분석될 운명에 처해 있다. 역사학자 유랄 하라리의 용어로 보자면, 이는 새로운 ‘데이터 신권주의’(dataism)의 탄생이다. 개별 신체가 데이터로 분해되는 인간 신체의 위기에 대한 사회적 논의 테이블은 자율적 인공지능 기계에 대한 논의만큼이나 선결될 과제이다. 무엇보다 기계-정보-생체 기계가 돼 가는 현대인들의 존재론적 위상 변화에 대해 사회적으로 비판적 논의를 전면화할 필요가 있다.[워커스 30호]