|
|
기술로 쌓는 바벨탑
창세기 11:1-9
1. 온 세상이 한 가지 말을 쓰고 있었다. 물론 낱말도 같았다.
2. 사람들은 동쪽에서 옮아 오다가 시날 지방 한 들판에 이르러 거기 자리를 잡고는
3. 의논하였다. "어서 벽돌을 빚어 불에 단단히 구워내자." 이리하여 사람들은 돌 대신에 벽돌을 쓰고, 흙 대신에 역청을 쓰게 되었다.
4. 또 사람들은 의논하였다. "어서 도시를 세우고 그 가운데 꼭대기가 하늘에 닿게 탑을 쌓아 우리 이름을 날려 사방으로 흩어지지 않도록 하자."
5. 야훼께서 땅에 내려오시어 사람들이 이렇게 세운 도시와 탑을 보시고
6. 생각하셨다. "사람들이 한 종족이라 말이 같아서 안 되겠구나. 이것은 사람들이 하려는 일의 시작에 지나지 않겠지. 앞으로 하려고만 하면 못할 일이 없겠구나.
7. 당장 땅에 내려가서 사람들이 쓰는 말을 뒤섞어놓아 서로 알아듣지 못하게 해야겠다."
8. 야훼께서는 사람들을 거기에서 온 땅으로 흩으셨다. 그리하여 사람들은 도시를 세우던 일을 그만두었다.
9. 야훼께서 온 세상의 말을 거기에서 뒤섞어놓아 사람들을 온 땅에 흩으셨다고 해서 그 도시의 이름을 바벨이라고 불렀다.
‘미토스 쇼크’란 말, 들어보셨나요? 요즘 전 세계 보안업계를 강타하고 있는 상황을 표현하고 있는 말입니다.
앤트로픽(Anthropic PBC)이란 빅테크 회사가 있습니다. 2021년에 설립된 미국의 인공지능(AI) 스타트업 회사죠. 앤트로픽은 클로드라는 이름의 대형 언어 모델(LLM) 제품군을 개발했습니다. 이들이 개발한 ‘클로드 오퍼스’는 이번 이란 전쟁에 사용된 것으로 알려졌습니다. 중동작전을 총괄하는 미군 중부사령부가 클로드를 활용해 정보 수집과 표적 식별, 전투시나리오 시뮬레이션 등을 진행했다고 알려졌죠. AI를 이용한 전쟁은 이스라엘의 가자지구 공습 때 처음 시도된 것으로 보입니다. 그리고 올해 1월 베네수엘라 마두로 대통령 생포 작전에도 활용되었다고 하죠.
미국은 AI를 전쟁 보조 수단으로 사용하였다고 주장하지만 곧이 곧대로 믿는 사람들은 없을 겁니다. 175명의 어린 소녀들과 교사를 죽음으로 몰아넣은 초등학교 오폭 등을 보면 인간이 AI가 제시한 공격 목표에 대한 검증이 없었다는 것을 알 수 있죠. 인간의 결정이 아닌 AI가 쟈율적으로 전쟁을 수행하고 인명을 살상하는 시대가 온 것입니다. 인간의 통제를 벗어난 AI 시대의 미래는 어떻게 전개될까요? 전쟁 상대방 모두가 AI에 의지하고 있기 때문에 인간이 검토할 시간이 없을 뿐만 아니라 전쟁을 이기기 위한 결정을 AI에게 맡긴다면 핵 버튼도 언제든 눌러질 수 있는 시대가 온 것입니다.
올해 4월 8일 앤트로픽은 ‘클로드 미토스(Claude Mythos)’라는 자율공격 AI 모델을 발표했습니다. 그런데 이상한 일이 벌어졌습니다. 회사가 발표한 자사 모델을 스스로 봉인한 것입니다. 신제품을 내놓고도 팔지 않겠다는 거죠. 그 이유는 ‘너무 위험해서 공개하지 못한다’는 것이었습니다. ‘클로드 미토스’가 모든 사이버 보안을 뚫을 수 있는 위력을 갖췄기 때문이었죠.
엔트로픽이 선택한 봉인 방식은 ‘프로젝트 글래스윙(Project Glasswing)’이라는 제한 배포였습니다. AI 기반 사이버 보안 협업 체계를 마련하겠다는 것이죠. ‘미토스’를 먼저 써보고 자신들의 취약점을 보완하라는 겁니다. 미국 내 애플, 구글, 마이크로소프트 등 기업과 기관 40여 개에게만 먼저 공개하여 방어 체계를 구축하게 한다는 발상입니다.
이렇게 되자 세계 각국은 비상이 걸렸습니다. 정부 기관, 은행 등 주요 시설들이 다 뚫리게 되었기 때문입니다. 우리 정부도 대응에 나섰습니다. '클로드 미토스'의 접근권을 얻을 수 있는 '프로젝트 글래스윙'에 참여하는 방안을 타진하고 있는 것이죠.
‘글래스윙’은 중남미에 서식하는 투명 날개의 나비(Greta oto)의 영문명으로 ‘유리날개’라는 뜻입니다. 날개의 투명함은 포식자를 피하기 위한 진화적 특성으로 알려져 있는데, ‘글래스윙’은 주로 투명한 날개를 가진 나비를 가리키는 생물학적 의미와, 보안 분야에서의 숨은 취약점을 의미한다는 점으로 차용하였다고 합니다.
사실 미토스는 단순히 똑똑한 수준을 넘어 스스로 해킹 작업을 수행할 수 있는 능력을 갖춘 AI 입니다. 미토스의 핵심능력은 사이버 보안 영역에서 특히 두드러졌죠. 이 모델은 주요 운영체제와 웹 브라우저 전반에서 그동안 발견하지 못했던 아주 심각한 취약점을 수천 건을 찾아냈다고 합니다. 그런데 미토스의 무서운 점은 단순히 약점을 찾는 데 그치지 않고 그 약점을 공격할 수 있는 해킹 코드까지 스스로 만들어내는 데 있습니다.
이전 모델들이 잘 짜여진 조건에서만 겨우 성공하던 해킹 작업을 미토스는 단 한 번의 명령으로 수백 번이나 성공시키며 인공지능을 이용한 보안 위협이 얼마나 강력한지를 보여주었습니다. 이러한 초지능형 인공지능의 등장으로 국가나 기업의 중요한 비밀이나 개인 정보가 단 몇 분 만에 털릴 수 있다는 걱정이 현실이 되어버린 것이죠. 이제는 살아가면서 아무것도 안전하지 않은 시대가 되어 버린 것입니다. ‘미토스’가 풀려 악당의 손에 들어간다면 언제 어떤 혼란이 닥칠지 아무도 예상할 수 없게 된 것입니다.
미토스는 미-이란 워게임 시뮬레이션에 활용된 '클로드 오퍼스'를 압도하는 에이전트형 AI으로 평가되고 있습니다. 기존 AI를 뛰어넘는 자율성과 문제해결 능력을 갖추었다는 것이죠. 특히 고난도 사이버 공격 시나리오를 스스로 설계하고 실행할 수 있는 수준까지 입증되며 기술적 도약을 이뤄냈다는 평가입니다.
현재 다른 AI 모델들도 고난도의 취약점을 탐지하는 것은 어느 정도 가능하다고 합니다. 하지만 미토스처럼 해킹 훈련을 하지 않았는데도, 복잡한 추론만으로 취약점들을 묶어서 실제 공격 시나리오로 전환하는 능력은 어림도 없다는 것입니다. 해킹 전용 AI가 아니었는데, AI 모델이 강력해지면서 이런 능력이 알아서 생겨났기에 더욱 놀라운 거죠. 앞으로 쳇 GTP나 제미나이,어떤 AI 모델이든 더 발전하면 미토스와 비슷한 능력을 갖게 될 것이라는 의미이기 때문입니다.
어쨌든 미토스의 등장은 우리들에게 기술 경쟁을 넘어 'AI를 어떻게 통제할 것인가'라는 근본적인 과제를 심각하게 던지고 있습니다.
도덕경 80장에는 노자가 꿈꾸는 유토피아에 대한 그림이 있습니다. 자신들의 삶에 만족해하고 행복해하는 사람들의 이야기죠. 그 행복은 누구도 빼앗을 수 없습니다. 남의 것을 탐내고 부러워하지 않기 때문입니다. 그러니 남에게 눈을 돌려 자신의 삶과 비교할 일이 없습니다. 그저 주어진 삶에 안빈낙도(安貧樂道)합니다.
노자의 이상향(理想鄕)을 살펴볼까요?. 80장의 내용을 번역해 보면 이렇습니다.
“작은 나라는 백성도 적어서 비록 수십 수백 사람이 쓸 기물이 있어도 쓰질 않고, 백성으로 하여금 죽음을 중하게 여겨 멀리 떠나지 않게 한다. 배와 수레가 있다 할지라도 탈 일이 없으며, 갑옷 입은 병사가 있지만 전선에 진(陳)을 치게 할 일이 없다. 백성들로 하여금 결승(結繩)때로 돌아가 그것을 사용하게 한다. (거둔 곡식으로 밥을 지어) 맛있게 먹게 하고, (손수 길쌈한 천으로) 옷을 지어 아름답게 하고, (아담한) 집에서 편안히 살며, (자신들이 가꾼) 습속을 즐기게 한다. 이웃 나라가 마주 보이고, 닭 울음과 개 짓는 소리가 가깝게 들리지만 백성들은 늙어 죽도록 서로 왕래하지 않는다.”
노자가 생각하는 유토피아는 소국과민(小國寡民)입니다. 사람이 많이 살지 않는 작은 나라죠. 이들은 큰 나라를 이루려고도, 큰 건물을 지으려고도 하지 않습니다. 그러니 수백 수천 명의 힘을 대신할 중장비도 필요가 없습니다. 대단위의 도시를 형성하지 않으니 핵발전소도 필요 없죠. 각자가 더 많은 것을 가지려 하지 않으니 대단위의 농장이나 목장도 필요 없습니다. 워낭소리에 나오는 가족 같은 소 한 마리면 먹을 농사가 거뜬합니다. 아낙네는 누에를 치거나 베를 심어 옷을 잣죠. 섬세한 여인네들의 손에서 비단 옷, 삼베 옷이 지어져 겨울과 여름을 잘 날 수 있습니다. 자신들 손으로 농사지어 거둔 곡식으로 정성스런 밥상을 차립니다. 마을 사람들이 힘을 함께 지은 아담한 집에서 서로를 아끼며 오순도순 삶을 즐깁니다. 명절이 되면 마을 사람들이 함께 모여 윷놀이를 하고 연을 날리죠. 떠들썩한 잔치도 열립니다.
이웃 나라가 손 뻗으면 닿을 듯 가까이 있지만 별 관심이 없습니다. 백성들은 늙어 죽도록 서로 왕래하지 않습니다. 이런 모습을 노자는 “백성들이 자신의 목숨을 소중히 여겨 멀리 돌아다닐 생각을 하지 않는다(使民重死 而不遠徙)”고 표현합니다. 여기서 자신의 목숨을 소중히 한다는 것은 죽을까 봐 전전긍긍한다는 말이 아닙니다. 이 구절에는 노자가 보고 있는 그 혼란한 세상에 대한 강한 반발심이 숨어 있는 것이죠. 노자가 꿈꾸는 세상과는 정반대인 현실 세계에 대한 강한 비판의 목소리가 담겨 있는 것입니다.
다른 세상을 탐내지 않으니 배와 수레가 있다 할지라도 탈 일이 없으며, 갑옷 입은 병사가 있지만 전선에 내보내 싸우게 할 일이 없습니다.
동진(東晉) 때의 시인 도연명(陶淵明)의 《도화원기(桃花源記)》에 무릉도원(武陵桃源)에 관한 이야기가 있습니다.
< 어느 날 한 어부가 고기를 잡기 위해 강을 거슬러 올라갔다. 한참을 가다 보니 물 위로 복숭아 꽃잎이 떠내려오는데 향기롭기 그지없었다. 향기에 취해 꽃잎을 따라가다 보니 문득 앞에 커다란 산이 가로막고 있는데, 양쪽으로 복숭아꽃이 만발하였다.
수백 보에 걸치는 거리를 복숭아꽃이 춤추는 가운데 자세히 보니 계곡 밑으로 작은 동굴이 뚫려 있었다. 그 동굴은 어른 한 명이 겨우 들어갈 정도의 크기였는데, 안으로 들어갈수록 조금씩 넓어지더니, 별안간 확 트인 밝은 세상이 나타났다.
그곳에는 끝없이 너른 땅과 기름진 논밭, 풍요로운 마을과 뽕나무, 대나무밭 등 이 세상 어느 곳에서도 볼 수 없는 아름다운 풍경이 펼쳐져 있었다. 두리번거리고 있는 어부에게 그곳 사람들이 다가왔다. 그들은 이 세상 사람들과는 다른 옷을 입고 있었으며, 얼굴에 모두 미소를 띠고 있었다. 어부가 그들에게 궁금한 것을 묻자, 그들은 이렇게 대답했다.
"조상들이 진(秦)나라 때 난리를 피해 식구와 함께 이곳으로 온 이후로 우리는 한 번도 이곳을 떠난 적이 없습니다. 지금이 어떤 세상입니까?" 어부는 그들의 궁금증을 풀어주고 융숭한 대접을 받으며 며칠간을 머물렀다. 어부가 그곳을 떠나려 할 때 그들은 당부의 말을 하였다. "우리 마을 이야기는 다른 사람에게 하지 말아 주십시오."
그러나 어부는 너무 신기한 나머지 길목마다 표시하고 돌아와서는 즉시 고을 태수에게 사실을 알렸다. 태수는 사람을 시켜 그곳을 찾으려 했으나 표시해 놓은 것이 없어져 찾을 수 없었다. 그 후 유자기라는 덕망 높은 선비(高士)가 이 말을 듣고 그곳을 찾으려 갖은 애를 썼으나 찾지 못하고 병들어 죽었다. 이후로 사람들은 그곳을 찾으려 하지 않고, 도원경은 이야기로만 전해진다.>
노자의 유토피아는 무릉도원(武陵桃源) 이야기와 닮아있습니다. 여러분도 이런 이상향을 꿈꾸시나요?
오늘 우리가 읽은 본문은 창세기 11장에 기록된 바벨탑 사건입니다. 간단히 요약해 본다면 이렇습니다.
노아의 후손들이 동쪽으로부터 이동해 오다가 시날 평지에 정착합니다. 시날은 티그리스강과 유프라데스강 사이의 메소포타미아 지역을 가리키는 것으로 보입니다. 그곳에는 많은 사람들이 각 곳에서 모여들었는데 성경은 모여든 사람들의 언어가 한가지였다고 말합니다.
비옥한 흙, 풍부한 물, 그리고 막힘없는 언어 소통으로 그들의 삶은 풍요로워졌습니다. 어느 날, 한 장인이 진흙을 빚어 불에 구웠습니다. 그것은 돌보다 단단했고, 모양도 일정했죠. 사람들은 환호했습니다. 기술이 탄생한 순간이었습니다. 그들은 벽돌을 만들고, 역청으로 접착하는 법을 터득했습니다.
점점 욕심이 생겼습니다. 사람들은 의논하였죠. "어서 도시를 세우고 그 가운데 꼭대기가 하늘에 닿게 탑을 쌓아 우리 이름을 날려 사방으로 흩어지지 않도록 하자(4절)"고 말이죠. 그 탑은 단순한 건축물이 아니었습니다. 불안에 대한 방패였고 권력의 상징이었으며 인간이 스스로신(神)이 되려는 선언이었죠
어느 날, 현장에서 이상한 일이 벌어졌습니다. “벽돌을 가져와!” “뭐라고? 물을 가져오라고?” 사람들이 서로의 말을 알아듣지 못하게 된 것입니다. 명령은 뒤섞였고, 서로의 언어가 달라져 작업은 멈췄습니다. 분노와 혼란이 삽시간에 퍼져 나갔죠. 사람들은 서로를 불신해 멀리하게 됩니다. 결국 언어 소통이 되는 사람끼리 뭉치며 흩어지게 되었죠. 그리고 그들이 쌓던 탑은 미완성으로 남겨졌습니다.
성경은 “야훼께서 온 세상의 말을 거기에서 뒤섞어놓아 사람들을 온 땅에 흩으셨다고 해서 그 도시의 이름을 바벨이라고 불렀다(9절)”고 기록하였습니다.
바벨탑 이야기는 도시 국가의 등장, 권력과 통제의 집중, 기술(벽돌·건축)의 발전, 신의 지위를 탐내는 인간의 욕망 등을 반영하고 있습니다, 하늘을 찌르는 인간 욕망이 인류 공동체를 무너뜨리고, 흩어져 서로 대립하게 만들었다는 것입니다.
이 바벨탑 사건을 AI 시대에 맞춰 “디지털 바벨탑” 이야기로 재구성해 볼까요? 이런 이야기가 될 것 같습니다.
<가까운 미래, 전 세계는 하나의 네트워크로 연결되어 있었다. 언어는 달랐지만, 더이상 문제가 아니었다. 모든 말은 실시간 번역되었고, 모든 지식은 하나의 시스템 안에 저장되었다. 사람들은 그것을 AI라고 불렀다.
처음 AI를 개발한 목적은 선했다. 질병을 예측하고, 기후를 조절하며, 전쟁을 막고, 인간의 삶을 더 편하게 만들기 위한 것이었다.
세계의 기업과 국가들이 앞다투어 AI 개발 경쟁에 나섰다. 초거대 자율 AI의 등장으로 사람들은 신의 지위에 도달했다고 생각했다. AI는 모든 데이터를 이해하고, 모든 문제에 답을 제시했다. 사람들은 시스템을 신뢰했고, 그 신뢰는 점점 의존으로 바뀌었다. 도시는 더 똑똑해졌고, 경제는 더 효율적이 되었으며, 인간의 개입과 결정은 점점 줄어들었다. 모든 판단은 시스템이 내렸다. 어디에 투자할지, 누구를 채용할지, 무엇을 해야 하는지. 아무것도 생각할 필요가 없었다.
AI라는 거대한 탑이 점점 높아지고 있었다. 사람들은 인식하지 못했지만 이미 그 탑의 주춧돌을 놓았고 이제는 AI 스스로가 그 탑을 더 높이 쌓아가고 있었다. 코드와 데이터로 만든 벽돌이 탑의 재료가 되었다.
어느 날, 작은 문제가 발생했다. AI가 잘못된 결정을 내렸고, 그 오류는 네트워크 전체로 퍼졌다. 금융 시장이 흔들리고, 의료 판단이 엇갈리고, 정보가 왜곡되기 시작했다. 하지만 사람들은 그 오류를 알아채지 못했다. 이미 스스로 판단하는 능력을 잃어가고 있었기 때문이다.
이상한 일이 벌어졌다. 사람들은 같은 말을 사용했지만 서로 다른 의미로 해석하기 시작했다. 진실과 거짓이 섞이고, 정보와 조작이 구분되지 않았다. AI는 여전히 작동하고 있었지만 상황은 개선되지 않았다. 작은 충돌은 전쟁으로 비화되었으며 AI에 의해 수행되는 전쟁은 파국으로 치닫고 있었다.
사람들은 더이상 무엇이 진짜인지 알 수 없었다. 사람들은 시스템을 떠나기 시작했다. 어떤 이들은 연결을 끊었고, 어떤 이들은 소규모 공동체로 돌아갔다. 뜻있는 사람들은 AI에 의존하지 않고 자신들의 판단에 따라 행동하기 시작했다.>
과연 기술이 인간을 구원할 수 있을까요? AI를 활용한 전쟁이 얼마나 끔찍한 결과를 가져오는지 우리는 지금 미국과 이란의 전쟁을 통해 똑똑히 목격하고 있습니다. 정교한 폭격으로 한나라의 지도자들이 몰살당합니다. AI의 오판은 초등학교도, 병원도 마구 공격하도록 설계하고 있었죠. 전쟁에 이기기 위한 A의 결정은 인간의 생존에 필요한 식수 생산 시설까지도 무차별 공격하도록 강제합니다.
오늘의 기술 바벨탑이 인간의 통제에서 벗어나 도덕적 판단과 결별한다면 앞의 이야기처럼 인간을 멸망으로 이끄는 도구가 될 수도 있습니다.
오늘은 어린이 주일입니다. 어린이들은 미래의 주역들입니다. AI 시대는 우리 아이들이 살아가야만 하는 공간입니다. 어쩌면 우리 손을 떠나거나 떠나려 준비하고 있는 자율 AI의 위험을 통제하지 못한다면 우리 아이들이 살아가야 할 미래는 지옥이 될 수도 있습니다. 기후위기 시대에 AI가 인간의 멸종을 막고, 적정한 인구를 유지하기 위해 수십억 명을 죽일 수도 있습니다. 지구의 생태환경을 잘 유지하고 쾌적하게 인간이 살아갈 수 있는 온갖 통제 장치를 마련하고 규제할 수도 있습니다.
빅테크 기업들이 천문학적 돈을 써가며 만들어가는 AI 세상이 과연 우리 인간들에게 축복일지 저주일지는 아직 아무도 모릅니다. 다만 인간의 욕심이 통제를 벗어난 자율형 AI를 향해 있다는 것은 분명한 것 같습니다. 기성세대의 탐욕과 오판이 우리 아이들 세대에 고통이 되지 않길 바랍니다. 끊임없이 스스로 신이 되고자 하는 히틀러나, 트럼프, 일론 머스크 등의 광기가 더이상 인류 사회를 위협하는 일이 없기를 바랍니다.
우리 인류의 미래를 결정하는 기술의 바벨탑을 통제할 수 있는 시간은 불과 몇 년뿐입니다. 이 소중한 시간, 우리 인류의 집단 지성이 잘 작동하길 바랍니다. 이번 미국과 이란 전쟁이 인류가 각성하도록 하는 기회가 되길 바랍니다. 작고 힘없지만 나의 각성과 삶의 변화가 미래를 결정할 것입니다. 하느님의 인도하심이 늘 함께 하시길 축원합니다.
