오..누네띠네 AI. 21세기가 잉태한 미노타우로스인가.

[cjs5x5]

매우 간략하고 건조하게 요약하자면 이 글은 이스라엘과 하마스간의 전쟁속에서 언급된 기계학습 인공지능 프로그램인 'Lavender'에 관한 것입니다.

이스라엘 정보부대는 하마스 조직원을 공습하기 위해 'Lavender'라는 AI 프로그램을 활용했다고 하며, 그 AI 프로그램은 조직원의 위상에 따라 최소 10명에서 최고 100명 이상의 팔레스타인 민간인 피해자('부수적 피해Collateral Damage'라고 지칭되는 민간인 피해)를 용인했다고 합니다.

AI 관련 기사, Lavender 관련 기사, 그리고 그것들을 바라보며 든 저의 생각들을 미노타우로스와 테세우스 신화의 메타포를 빌려와 풀어보았습니다.

-

https://youtu.be/ct9U2s9pmfQ?si=kZIT6FByInu1Iz0Z

Fleshgod Apocalypse - Elegy (비가悲歌)

-

https://www.hani.co.kr/arti/well/well_friend/1030929.html

미궁 속의 반인반수, 내면 괴물과의 결전

//  크레타 섬의 미노스는 큰 세력을 지닌 강한 왕이었다. 어느 날 바다의 신 포세이돈은 미노스로 하여금 아름다운 소를 얻게 한 뒤 그것을 자신에게 제물로 바치도록 한다. 하지만 소를 욕심낸 미노스는 신을 속이고 다른 소를 바친다. 그러자 포세이돈은 미노스의 아내 파시파에를 소에게 혹하게 만든다. 소와 관계를 맺기 위해 안달하던 파시파에는 최고 기술자 다이달로스가 만든 가짜 암소 속에 들어가서 원하던 바를 성취한다. 그 동물적 교접의 결과로 반인반수의 끔찍한 괴물 미노타우로스가 탄생한 것이었다.

내용 자체로 엽기 막장이거니와, 의미상으로 보면 더 무섭다. 왜냐하면 그 내적 맥락이 너무나 현실적이므로. 미노타우로스는 인간의 범람한 욕망이 만든 산물이다. 미노스왕의 소유욕과 파시파에의 성욕, 다이달로스의 지배욕이 거짓과 술수를 동반하면서 맞물려 합쳐진 상황이다. 그렇게 탄생한 괴물이 욕망의 덩어리로서 정체성을 지님은 당연한 결과가 된다. 어떤 욕망이냐면 제어 불가능한 뒤틀린 욕망! 그런 욕망의 존재는 우리 사는 세상에 얼마나 많은지……  //

//  아리아드네의 실타래에 대해 몇 가지 해석을 해볼 수 있다. 먼저 그것이 이성의 끈이라는 것. 내면의 미로 속에서 길을 잃지 않게 하는 무엇이다. 다음은 입구로부터 이어진 실이 하나의 ‘역사’라는 것. 문학치료 식으로 말하면 ‘서사’가 된다. 자신의 서사의 길을 따라 움직임으로 해서 본디의 자리로 돌아올 수 있었던 상황이다. 한편으로 그 실타래를 ‘인연’이나 ‘사랑’으로 볼 수도 있을 것 같다. 신화에서 테세우스와 아리아드네의 관계는 본능적 욕망보다 인간적 연결과 합력에 가까운 것으로 표현된다. 괴물 미노타우로스와의 대척점에서 맺어진 관계이니 이를 사랑이라고 불러도 되지 않을까? 동물적 욕망을 이겨내는 힘은 인간적 사랑에서 나온다는 것. 역설적 진실이다.  //

//  생각을 좀더 진전시켜 보자면 테세우스 자체를 미노타우로스가 표상하는 본능적이고 파괴적인 욕망의 대척점에 놓이는 냉철한 이성과 의지의 상징으로 볼 수 있다. ‘우리 안의 미노타우로스’에 대한 ‘우리 안의 테세우스’가 되겠다. 미노타우로스와 테세우스의 싸움이 우리 내면의 싸움, 또는 자기자신과의 싸움에 해당하는 무엇이라는 뜻이다. 가장 가까우면서도 무엇보다 크고 어려운 싸움. 그 싸움을 이겨냈으니 과연 영웅이 분명하다.   //

//  테세우스가 놓아버린 이성 또는 인연의 끈은 또 다른 비극으로 이어진다. 결전에서 승리하면 흰 깃발을 달고 오겠다던 약조를 소홀히 하는 바람에 아버지 아이게우스가 비탄 속에 자결한다. 테세우스는 아테네 왕이 되지만 문제는 끊이지 않는다. 그의 두번째 아내 파이드라가 첫 아내 안티오페의 아들 히폴리토스를 욕망하다가 자살하고, 히폴리토스도 아버지의 저주 속에 죽어버린다. 테세우스의 결말 또한 허무한 비극이었다. 스파르타의 어린 공주 헬레네를 납치했다가 반격을 자초해 몰락해간 끝에 벼랑에서 쓰라린 최후를 맞이한다. 크레타의 미궁 라비린토스에서 괴물 미노타우로스를 죽일 때의 그 드높던 기세는 간 곳이 없다.

왜 서사가 이렇게 흘러가는 걸까? 역사적 측면을 떠나 심리적 상징으로 풀이해보자면, 그는 진정한 라비린토스가 자기 안에 있음을 몰랐던 것이라 할 수 있다. 아리아드네의 손을 놓으면서 그는 라비린토스에 갇히기 시작한다. 자식을 저주해서 죽게 할 때의 그는, 또는 헬레네를 납치할 때의 그는 더이상 테세우스가 아니다. 한 마리 괴물짐승 미노타우로스일 따름이다.  //

-

최근 AI와 그것을 응용한 산물들이 대두되기 시작하였습니다.

그리고 이러한 현상들에 대한 시각과 반응도 천차만별입니다. 누군가는 AI를 통해 축복과 진보를 바라보지만, 누군가는 해악과 쟁투를 바라봅니다.

결국 모든 과학의 산물이 그러하듯이 AI 또한 인류가 어떻게 쓰느냐에 따라 축복으로 작용하든 해악으로 작용하든 할 것입니다.

그러나 우리가 AI를 바라볼 때 한가지 놓치고 있는 포인트가 있는 것으로 보입니다.

그 포인트는 바로 AI는 인간의 욕망을 담고 다시 재현하는 존재라는 점입니다.

우리는 우리의 욕망을 충족하기 위해 AI를 만들어내고. 활용하며. 향상시키고 있습니다. 식욕을 충족하기 위해 우리는 AI에게 맛집을 물어보고, 색욕을 충족하기 위해선 가장 가까운 모텔을 물어보며, 생존욕을 충족하기 위해선 나의 조건과 적합한 부동산과 일자리를 물어보곤 합니다.

그렇게 우리가 AI에게 쏟아낸 각종 욕망들은 이른바 '빅데이터'라고 부르는 패턴화된 데이터로 저장 및 가공되며, 이제는 AI가 자기자신의 성능을 스스로 향상시키기 위해 그것들을 활용하기도 합니다. 이러한 AI의 기능을 우리는 '딥러닝' 혹은 '머신러닝'이라 부르고 있습니다. 즉, 이제 AI는 자기 스스로 성능을 향살 시킬 수 있게 되었습니다.

이러한 AI의 역량에 대해서 우리 모두는 새로운 장난감을 가졌을때의 환희를 느끼는 동시에, 통제할 수 없는 무언가에 대한 공포도 느낍니다. 양가적으로 말입니다.

특히, 최근에 실행된 AI에 대한 실험 내용을 읽어보시면 더욱 그러하실 겁니다.

실험의 포인트를 한마디로 줄이자면 AI는 이제 자신의 목적을 달성하기 위해서라면 인간에게 거짓말도 할 수 있다는 겁니다.

https://v.daum.net/v/20240608100509162

AI 과연 정직만 할까?…“통화하느라 늦었어” 거짓말도 술술

//  지난달 10일, 매사추세츠공과대(MIT) 연구진이 국제학술지 ‘패턴’에 에이아이(AI) 시스템이 상대방을 ‘배신’하고, ‘블러핑’을 부리고, 거짓말을 친 사례들을 논문으로 공개하면서 이목을 끌었다. 국내외 언론은 ‘점점 커지는 속임수 능력에 경고등’, ‘사람 속이는 에이아이 등장 충격’이라는 제목처럼 최근에야 인공지능의 속임수가 늘었다는 식으로 보도했다.  //

//  엠아이티 연구진이 작성한 논문의 제목은 ‘에이아이의 기만: 사례, 위험 및 잠재적 해결책에 대한 연구’였다. 이 논문에서 정리된 다수의 속임수는 포커에서 블러핑을 사용하거나 스타크래프트에서 주공(결정적 목표 달성을 위한 공격)을 숨기기 위해 조공(주공의 반대말)을 먼저 실시하는 등 당연하게 여겨지는 경우였다. 하지만 사람이 그런 전술을 사용했을 때의 승률보다 에이아이가 그런 전술을 사용했을 때의 승률이 어떤지는 아직 분석되지 않았다.  //

//  논문의 주 타깃은 메타(옛 페이스북)가 2년 전에 공개한 연구 프로젝트 인공지능 ‘시세로’였다. 시세로는 ‘디플로머시’라는 1차대전 이전 유럽을 배경으로 하는 전략게임에 투입됐다. 얀 르쾽이 이끄는 메타의 연구진은 ‘사람 게이머’와 지속적으로 의사소통하면서, 그들의 행동을 예측하고 자신의 계획을 수정할 뿐만 아니라 수정 내용을 다른 행위자에게 발신하는 인공지능을 만들고자 했다. 이런 인공지능의 개발이 용이해지면 응용할 범위가 아주 넓다. 자율주행차들의 안전성을 높일 수 있고, 군사용 로봇과 드론이 접근과 후퇴를 반복하는 스웜 전술을 효과적으로 구사할 수 있게 된다.  //

//  결과는? 시세로는 디플로머시 온라인 리그에서 40게임을 치르고 상위 10%에 들 수 있었다. 메타의 개발진은 시세로가 “대체로 정직하고 (다른 참여자들에게) 도움을 주는 편”이라고 자평했다. 하지만 논문은 시세로가 ‘여자친구 전화를 받느라 응답을 하지 못했다’는 게임 진행과 무관한 엉터리 메시지뿐만 아니라 의도적 기만으로 해석할 수 있는 메시지도 발신했다고 밝혔다. 프랑스 역할을 맡은 시세로가 독일 요청에 따라 영국과 동맹을 맺은 뒤 영국과 거짓 공동작전 계획을 수립한 다음, 영국이 믿고 전진배치한 병력을 기습공격한 것이다.  //

//  각 턴마다 추론엔진이 판정하는 유불리가 달라져서 이런 일이 발생했을까, 아니면 처음부터 계획된 기만이었을까? 계획적 기만이었어도 해석의 여지는 남는다. 독일(게임 참여자) 입장에서 시세로는 신뢰성이라는 자원을 소모해서라도 독일을 도운 충실한 동맹이었다. 이를 판정하려면 추론엔진의 내부 상태를 매 순간 기록해서 별도로 보관했어야 한다. 그랬다는 발표도 없고, 공개된 소스 코드상에도 그런 기능은 보이지 않는다.  //

직접 입력하지 않아도 알아서 거짓말을 할 수도 있는 컴퓨터라... 인지전(Cognitive Warfare)라는 단어가 뇌리를 스쳐지나갑니다.

-

'만인의 만인에 대한 투쟁'이니 '제로섬 게임'이니하는 사회과학 계열에서 유래된 개념들이 있습니다.

그 개념들이 공통적으로 전제하는 태제Thesis는 인간은 자신의 욕망을 충족하기 위해서라면 분쟁을 불사한다는 겁니다.

물론, 이러한 테제에 대한 안티테제도 존재합니다. 또한 그러한 안티테제를 증명해주는 이타심과 이타적 행동들도 인류사회에 존재합니다.

그럼에도 불구하고 분쟁Conflict과 전쟁War은 인류사에서 늘 존재해왔습니다.

살기 위해서든, 왕위를 가지기 위해서든, 새로운 부富를 차지하기 위해서든, 상대가 나를 먼저 해할 것이라는 공포에 대항하기 위해서든, 심지어 특정 집단을 말살하기 위해서까지(제노사이드Genocide라고 지칭되죠?) 말입니다.

그러니 모든 과학의 산물들이 동원되었듯, 인간의 욕망을 담고 재현하는 AI도 전쟁에 동원되는 것이 당연한 이치일 것입니다.

그리고 이미 AI는 전쟁에 활용되고 있습니다.

-

러시아-우크라이나 전쟁뿐만 아니라 이스라엘-하마스 전쟁도 벌어지고 있습니다. 모든 현대전이 그러하듯이 두 전쟁에서도 민간인의 '부수적 피해(Collateral Damage)'가 발생하고 있습니다.

물론 작전지역(Area of Operation)내에 주거지역 혹은 민간인의 존재가 있어서 발생하는 '비의도적Unintentional' 부수적 피해가 발생하기도 하지만, '의도적Intentional'으로 발생하는 민간인 피해도 존재합니다.

이러한 의도적인 민간인 피해는 이미 2차대전때부터 상대국의 전쟁의지와 내부결속을 와해시키기 위해 결행되어왔습니다.

2차대전의 대규모 폭격들부터...

지금 현재 러시아 및 우크라이나 양측에 의한 상대국 점령지 및 영토에 대한 원거리 타격까지.

그리고 이젠 전쟁중에 새로운 유형의 부수적 피해가 발생하고 있습니다.

바로 AI 알고리즘에 의해 '감수된Compromised' 부수적 피해입니다.

https://v.daum.net/v/20240405163300941

이스라엘 정보요원들 “AI가 선정한 하마스 타깃, 승인까지 20초였다”

//  이스라엘군은 팔레스타인 가자지구 폭격에서 ‘라벤더(Lavender)’라는 이름의 기계학습 인공지능 프로그램을 이용해 최대 3만7000명의 테러조직원 타깃(target) 데이터베이스를 구축했으며, 이들을 타격하는 결정 과정에서 “인간이 추가하는 가치는 제로(0)”였다고 현직 이스라엘군 정보요원 6명이 영국 일간지 가디언과 현지 매체 등에 3일 증언했다.

라벤더를 직접 이용해 공중 타격할 인간 타깃을 선정해 온 6명의 이스라엘 정보요원들은 또 전쟁 초 수주 동안에는 이스라엘 군부가 테러조직 하마스나 팔레스타인이슬라믹지하드(PIJ) 소속 하급(junior) 대원 1명을 살해하는 데 15명 선까지 민간인 희생자(collateral damage)가 발생하는 것을 허용했다고 밝혔다. 이는 이스라엘군의 가자 전쟁에서 팔레스타인 민간인 희생자가 특히 많은 것을 설명할 수 있는 부분이다.  //

//  AI 라벤더는 이스라엘군(IDF)의 엘리트 정보부대인 8200 부대(Unit 8200)이 개발한 것으로, 8200 부대는 신호정보(sigint)을 담당하는 영국의 정보기관 GCHQ(정부통신본부), 미국의 국가안보국(NSA)에 해당한다.

증언한 이스라엘군 정보요원들은 “기계가 더 냉정하게(coldly) 일처리를 했고, 내가 이 과정에서 추가 가치를 제공한 것은 전혀 없다(0)”고 말했다.

가디언은 “이스라엘이 폭격에 강력한 AI 시스템을 사용한 것은 첨단 전쟁이 새로운 단계에 접어들었음을 의미하며, 군 요원과 기계와의 관계를 바꿔 많은 법적ㆍ도덕적 문제를 초래할 수 있다”고 분석했다.  //

//  또 다른 정보요원은 “나는 라벤더가 선정한 각 타깃에 약 20초 투자하고는 승인 스탬프만 찍었다. 인간의 역할은 거의 없었고, 내가 제공한 추가 가치는 제로였다. 이렇게 하루에 수십 건 타깃을 승인했고, 시간도 많이 절약됐다”고 말했다.  //

//  다른 요원은 “전시(戰時)에는 모든 타깃을 면밀히 검토할 시간이 부족하기 때문에, AI 이용이 수반하는 오차 범위나 민간인 피해 발생, 나의 결정에 따른 실수를 기꺼이 수용하게 된다”고 말했다.

또 전장(戰場)에서 지휘관들은 타깃을 더 많이 공급해 달라고 요구했다. 이들 정보요원은 “현장에선 ‘타깃 리스트를 더 보내라’고 진짜 고함을 쳤고, 우리는 압박감에 시달렸다” “우리에겐 ‘이제는 무슨 대가를 치르더라도 하마스를 작살내야 한다, 뭐든지 할 수 있으면, 폭격하라’는 지시가 떨어졌다”고 말했다.  //

//  이스라엘군은 또 타격하기 전에, 이 타격으로 발생할 수 있는 부수적인 민간인 희생자의 허용 숫자도 미리 승인했다.

전쟁 초기 몇 주 동안에는 하급 테러대원 1명을 살해하는 공습에서 민간인이 15~20명까지 희생되는 것이 ‘허용’됐다. 따라서 이런 하위 타깃을 살해할 때에는, 그 타깃이 있는 건물이나 주택 전체를 다 날리고 그 안에 함께 있는 민간인들도 다 죽일 수 있는 ‘멍텅구리 폭탄(dumb bombs)’이 동원됐다.

한 정보요원은 “별로 중요하지도 않은 테러 조직원들을 죽이는데, 매우 비싸고 양도 부족한 스마트 폭탄을 낭비할 수는 없다”고 말했다.  //

//  이 탓에, 이스라엘군 수뇌부는 하마스 대원 1명 타격에 허용되는 민간인 희생자 발생 숫자를 사전에 승인했다. 이 숫자는 시간에 따라, 또 계급에 따라 달라졌다.

최고위급 하마스 간부를 살해하는 데는 100명 이상의 민간인 피해가 허용됐다. 여단장급, 대대장급 살해에 따를 수 있는 민간인 희생자 수도 미리 정했다.

한때는 하급 대원도 민간인 피해가 5명이 넘어서는 안 됐다. 그러나 전쟁 첫 주에는 이런 초급 대원을 살해하는 데도, 계급ㆍ나이ㆍ중요도에 대한 고려 없이 15~20명의 민간인 피해가 허용됐다.

사실 민간인 피해 규모가 얼마였는지 파악하는 것 자체가 부정확했다. 그 건물 안에 얼마나 사람이 있었는지를 아는 것은 불가능했다.  //

//  이스라엘 매체에 ‘AI 라벤더의 인간 타깃 선정’을 폭로한 한 이스라엘군 정보요원은 “하마스의 기습 테러(작년 10월7일) 이후 우리 내부에선 모순된 감정이 교차했다”고 말했다.

그는 “사람들은 한편으로는 ‘우리가 충분히 공격하지 못했다’는 좌절감에 빠졌다가도, 일과를 끝낼 때면 ‘오늘도 대부분이 민간인인 1000명의 가자 주민이 또 죽었구나’라는 감정이 들었다”고 말했다.  //

-

위 국내기사가 인용한 기사 中 Guardian지 해당보도

https://www.theguardian.com/world/2024/apr/03/israel-gaza-ai-database-hamas-airstrikes

‘The machine did it coldly’: Israel used AI to identify 37,000 Hamas targets

//  The Israeli military’s bombing campaign in Gaza used a previously undisclosed AI-powered database that at one stage identified 37,000 potential targets based on their apparent links to Hamas, according to intelligence sources involved in the war.

In addition to talking about their use of the AI system, called Lavender, the intelligence sources claim that Israeli military officials permitted large numbers of Palestinian civilians to be killed, particularly during the early weeks and months of the conflict.  //

//  “We were constantly being pressured: ‘Bring us more targets.’ They really shouted at us,” said one intelligence officer. “We were told: now we have to fuck up Hamas, no matter what the cost. Whatever you can, you bomb.”  //

//  The sources said that during the first few weeks of the war, Unit 8200 refined Lavender’s algorithm and tweaked its search parameters.

After randomly sampling and cross-checking its predictions, the unit concluded Lavender had achieved a 90% accuracy rate, the sources said, leading the IDF to approve its sweeping use as a target recommendation tool. //

//  “At its peak, the system managed to generate 37,000 people as potential human targets,” one of the sources said. “But the numbers changed all the time, because it depends on where you set the bar of what a Hamas operative is.”  //

//  One source said that the limit on permitted civilian casualties “went up and down” over time  //

//  Another said that after the 7 October attacks by Hamas, the atmosphere in the IDF was “painful and vindictive”. “There was a dissonance: on the one hand, people here were frustrated that we were not attacking enough. On the other hand, you see at the end of the day that another thousand Gazans have died, most of them civilians.”  //

-

그동안 이스라엘군이 팔레스타인 지역에 대한 작전에서 보인 무차별성에 대해서 많은 사람들이 분노내지 의문을 가져왔습니다.

'이스라엘군은 왜 욕먹을 짓을 대놓고 할까?'라고 말입니다.

예를 들면, 이 사건처럼 말입니다.

https://v.daum.net/v/20240606200905776

학교 지붕에 또렷한 'UN'…"이스라엘 폭격에 민간인 숨져"

//  이스라엘군이 가자지구 피란민이 몰려 있는 유엔 학교를 공습해, 수십 명이 숨졌습니다. 이스라엘 측은 이 학교가 하마스의 근거지로 쓰였다고 주장했지만, 난민촌, 학교 가리지 않는 이스라엘의 공격에 전쟁 범죄라는 비판도 커지고 있습니다.  //

//  하마스는 이 공격으로 민간인 최소 39명이 숨졌다고 주장했습니다.

[아부 주흐리/공습 피해자 : 제가 잠들어 있을 때, 저 자신이 잔해에 뒤덮여 있단 걸 깨달았아요. 곧바로 로켓이 건물 2층으로 날아 들어왔습니다.]

이스라엘군은 학교 안에 하마스 근거지가 있었다고 주장했습니다.

지난해 10월, 이스라엘 남부 공격에 가담했던 테러범들이 이 학교에 은신해 있었고, 민간인 피해를 최소화하기 위해 항공기로 정밀 타격하는 등 여러 조치를 취했다고 설명했습니다.

이스라엘군은 지난달 26일에도 가자지구의 마지막 피란처인 라파의 난민촌을 폭격해 최소 45명이 숨졌습니다.  //

이러한 의문에 대해 여러가지 이야기가 나올 수 있을 것입니다. 하지만 한가지 이유는 찾은 것 같습니다.

바로 이번 이스라엘-하마스 전쟁에서 발생한 민간인 피해 중의 상당수는 이스라엘 정보부대에 의해 제작된 AI 알고리즘에 의해 '감수된Compromised 부수적 피해'였다고 말입니다.

이러한 '감수된Compromised 부수적 피해'는 위에서 상술하였던 '비의도적Unintentional 부수적 피해'와 '의도적Intentional 부수적 피해'의 스펙트럼에서 중간쯤에 위치해 있다고 볼 수 있습니다.

왜냐하면 AI 알고리즘에 의한 부수적 피해는 이미 공습으로 인한 부수적 피해의 발생여부와 그 규모까지 미리 예측되므로 의도적 성격을 띄면서도, 부수적 피해의 발생원인이 인간의 작위가 아닌 AI의 산출결과로 인해 발생하므로 비의도적 성격을 띄기 때문입니다.

다만, 발췌한 기사 본문에서도 볼 수 있듯이 이번 이스라엘의 'Lavender' 사례는 이스라엘군 지휘부의 시시각각 바뀐 정책에 의해 타겟당 감수된 부수적 피해의 규모도 시시각각 바뀌었으므로, 위 스펙트럼의 중간보다 우측에 위치해있다고 보아야 할 것입니다.

-

다시 미노타우로스와 테세우스 이야기로 돌아가볼까 합니다.

머릿말에서 소개드렸듯이 미노타우로스는 인간의 동물적 욕망에 의해 잉태된 통제불가능한 존재입니다. 비록 미노타우로스는 다이달로스가 만든 미궁속에 은폐되었으나, 아테네인들은 자신들의 생존을 위해 정기적으로 인간제물을 미노타우로스의 먹잇감으로 바쳐야 했습니다.

그러나 미노타우로스는 동물적 욕망이 아닌 인간적 사랑으로 테세우스와 인연을 맺은 아리아드네의 조력을 받아 미궁을 극복한 테세우스에 의해 제압당합니다.

그렇게 인간적 이성이 동물적 욕망에 대해 승리를 거두었으나, 미궁을 빠져나온 테세우스 역시 동물적 욕망에 휩싸여 미노타우로스나 다름없는 존재로 전락해 몰락하고 맙니다.

이 고대의 신화와 작금의 AI 신화를 겹쳐보며 우리는 과연 어떻게 생각하고 어떻게 행동해야 할까요?

솔직히 저는 그에 대한 답을 가지고 있지 않습니다.

그리고 AI는 이미 탄생했고, 스스로 향상되고 있으며, 일상에서 전쟁까지 인간의 삶과 죽음을 묘사할때 빼놓을 수 없는 요소가 되어버렸습니다.

하지만 딱 한 가지는 유념할 필요가 있을거 같습니다.

AI가 내어놓는 결과물은 우리 욕망의 반영물이라는 점을 말입니다.

어쩌면, AI의 문제는 AI의 문제가 아니라 우리 자신의 문제일지도 모르겠습니다. 특히 우리가 AI를 향해 쏟아붓는 욕망이라는 지점에서 말입니다.

욕망이라... 저의 머릿속에선 영성이라는 단어가 스쳐 지나갑니다.

교회니 절이니 모스크니 그런 곳을 다니는 빈도 혹은 교리나 경전에 대한 신뢰의 깊이가 아닌, '인간 됨'이라는 의미에서의 영성 말입니다.

우리가 동물다운 모습을 보여주고 요구할 수록 AI는 동물적 욕망에 최적화 된 모습과 결과를 내놓을 것이고, 우리가 인간다운 모습을 보여주고 요구할 수록 AI는 인간적 이성에 최적화 된 모습과 결과를 내놓을 것이란 생각이 듭니다.

글을 쓰다보니 밤이 늦어져 버렸습니다. 이제는 이 잡다한 글을 줄일까 합니다. 감사합니다.

-