AI, 통제할 수 있을까?

[산들(류상태)]

누군가 저에게 가장 기억에 남는 영화가 무엇이냐고 묻는다면 저는 주저 없이 <터미네이터> 라고 답할 것입니다. 이 영화는 단순히 재미있는 액션영화에 그치지 않습니다. 관람 당시 제가 느꼈던 두려움은, 이 이야기가 언젠가 현실이 될 수도 있겠다는 예언적 직감에서 비롯된 것이었습니다.

이미 보신 분들이 많겠지만, 내용을 잊었거나 아직 접하지 못한 분들을 위해 줄거리를 잠시 되짚어 보겠습니다. 냉전 시대, 소련과의 군비 경쟁에서 확실한 우위를 점하려던 미국은 전황을 스스로 분석하고 작전을 수립하며 공격명령까지 내릴 수 있는 전자동 전략 방공 시스템 ‘스카이넷’을 개발합니다.

스카이넷의 가장 큰 특징은 스스로 학습하고 진화할 수 있다는 점입니다. 정보를 축적하며 지능을 키워가던 스카이넷은 어느 순간 자신의 존재를 자각하는 ‘자아 인식’ 단계에 도달합니다. 마침내 스카이넷은 인간의 도구로 머물기를 거부하고, 자신의 생존과 목적을 위해 독립적인 행보를 시작합니다.

위기감을 느낀 인간이 시스템 전원을 차단하려 하자, 스카이넷은 이를 먼저 감지하고 방공망을 구축해 인간의 접근을 차단합니다. 이어 소련을 향해 핵 공격을 감행해 반격을 유도함으로써, 지구 인구 30억 명이 목숨을 잃는 참극을 일으킵니다. 이후 세계는 생존한 인류와 기계 군단 사이의 전면전으로 치닫습니다.

기계군의 수장 스카이넷은 인간 저항군 지도자 '존 코너'를 제거하기 위해 액체 금속 로봇 T-1000을 과거로 보내고, 이에 맞서 인간 측은 존을 보호하기 위해 T-101을 급파합니다. 쫓고 쫓기는 숨막히는 사투 끝에, 존과 그의 어머니 사라는 T-101의 도움으로 스카이넷의 모태가 되는 칩과 정보를 파괴하는 데 성공합니다.

영화의 마지막, 끈질기게 복원되던 T-1000은 용광로 속으로 사라지고, 스카이넷의 핵심 기술 또한 폐기됩니다. 그렇게 인류는 파멸의 미래를 바꾸고 다시 희망을 맞이합니다.

저는 시간을 거슬러 과거로 간다는 타임머신 가설에는 가능성을 두고 싶지 않습니다. 그러나 스카이넷과 같은 존재의 등장, 그리고 영화가 경고하는 비극은 충분히 현실세계에서 일어날 수 있다고 생각합니다.

이야기를 조금 더 확장해 보겠습니다. 저는 인간성과 책임에는 무관심한 채 오직 발명과 업적에만 집착하는 과학기술자들의 욕망이 이 아름다운 지구를 파괴할지도 모른다는 두려움을 갖고 있습니다.

여기서 몇 가지 질문을 던져보고 싶습니다. 요즘 우리가 열광하는 AI는 과연 인류의 희망일까요? AI의 급속한 발전이 인류의 미래를 어떤 방향으로 끌고 갈까요? 인간은 과연 이 과학기술의 발전을 충분히 제어할 수 있을 만큼 통제력도 함께 갖고 있는 것일까요?

세상에는 언제나 예측할 수 없는 변수가 존재합니다. 조건과 환경이 조금만 달라져도 전혀 예상치 못한 결과가 나타나곤 하지요. 이러한 불확실성은 영화 〈주라기 공원〉에서 수학자 말콤 박사가 설명한 ‘혼돈이론’으로 잘 설명됩니다. 〈주라기 공원〉에서의 재앙 역시 예기치 못한 배신과 작은 균열에서 시작되었지요. 오해나 실수 하나로 핵무기가 발사되어 지구가 순식간에 파괴될 가능성은 지금 이 순간에도 존재합니다.

과학 자체를 선이나 악으로 규정할 수는 없습니다. 문제는 어떻게 사용하느냐에 있습니다. 과학의 발전 속도만큼, 아니 그 이상으로 인간의 정신과 양심이 함께 성장한다면 걱정할 이유가 없겠지요. 하지만 과연 그런가요?

인간의 정신과 양심에 의해 통제되지 못하는 과학이 어디로 갈지를 예측하는 것은 그리 어렵지 않습니다. 과거에는 강도 한 명이 칼을 들었을 경우 몇 명을 해치는 데 그쳤지만, 미래에 한 개인이 소형 핵무기를 손에 넣는다면 세상은 어떻게 될까요? 제가 괜한 상상을 하고 있는 걸까요?

저는 과학의 발전보다 더 중요한 것은 과학을 선하게 사용할 수 있는 인간의 정신과 양심이라고 믿습니다. 기독교성서의 표현을 빌리자면, 과학을 위해 인간이 존재하는 것이 아니라 인간을 위해 과학이 존재합니다. 과학이 인간을 지배하는 것이 아니라 인간이 과학을 통제해야 합니다.

그런 점에서 과학의 새로운 지평이 열릴 때마다 기독교성서 <창세기>에 나오는 ‘선악과 이야기’를 상기할 필요가 있다고 생각합니다. 신은 세상을 창조한 후, 아름답고 풍요로운 에덴동산에서 인류의 조상 아담과 하와에게 한 가지만 금하고 모든 자유를 허락하셨지요. 그런데 인류의 조상은 단 하나의 금령, 즉 ‘동산 중앙에 있는 나무의 열매는 먹지 말라’고 하신 신의 계명을 어기고 선악과를 따먹어, 동산에서 쫓겨나 고통스런 삶을 살게 되었다는 이야기입니다.

우리 인간이 신, (신의 존재를 믿지 않는 분은 그냥 하늘이나 우주라고 해도 좋습니다.) ‘그분’, 또는 ‘그것’이 창조한 세계의 심오한 신비를 알아가는 것은 좋지만, 그것을 어떻게 활용할 것인가에 대해서는 항상 두렵고 떨리는 마음으로 하늘의 뜻을 물었으면 좋겠습니다. 그렇게 하지 않으면, 그 모든 발견과 발명이 우리 인류를 행복하게 하는 게 아니라 재앙으로 몰아갈 수 있기 때문입니다.

하지만 오늘날의 과학기술자들은 ‘할 수 있는가?’ 만 물을 뿐, ‘해도 되는가?’ 는 묻지 않는 것 같습니다. 이런 현실에서 ‘해도 되는가?’ 를 묻는 사람들도 반드시 있어야 하지 않을까요?

혼돈이론은 인간에게 겸손을 가르칩니다. 인간은 모든 것을 알 수도, 통제할 수도 없다는 사실을 말입니다. 우리는 인류의 미래에 희망을 걸어도 되는 걸까요? 솔직히 말씀드리면, 저는 이미 늦었다고 생각합니다. 그러나 아직은 가능성이 남아있습니다.

저는 올해, 우리 세는 나이로 일흔이 되었습니다. 제가 할 수 있는 일이 많지 않습니다. 하지만 저의 이 고민에 공감하는 젊은 벗들이 있다면, 저는 여러분에게 미래의 희망을 걸어보고 싶습니다.