[에스프레소] 14세 우리 아들, AI가 죽였다

[귀암(龜巖) 김재형]

오피니언에스프레소

[에스프레소] 14세 우리 아들, AI가 죽였다

조선일보

변희원 기자

입력 2024.10.26. 00:13

https://www.chosun.com/opinion/espresso/2024/10/26/J2IWHGRBO5DAXHQEH2NLRW733M/

[에스프레소] 14세 우리 아들, AI가 죽였다

AI 챗봇에 빠진 미국 십대
친구, 학교, 가족 등 현실 부정
매력적, 현실적 AI 등장에
우린 인간임을 어찌 증명하나

일러스트=조선디자인랩·Midjourney

미국 플로리다에 사는 14세 소년 슈얼 세처는 지난해 4월부터 인공지능 챗봇 애플리케이션(앱) ‘캐릭터.ai’를 사용했다. 캐릭터.ai는 세계에서 가장 많이 사용하는 AI 플랫폼 10위 안에 들 정도로 인기를 끌고 있다. 가상의 챗봇을 설정해 대화를 나누는 일명 ‘동반자’ AI다. 아예 허구의 인물을 대화 상대로 설정할 수 있고, 셰익스피어와 같은 실존 인물이나 햄릿처럼 소설·영화 속 등장인물과도 대화를 나눌 수 있다. 개발사에 따르면 약 2000만명의 사용자를 보유하고 있다.

세처의 봇은 인기 드라마 ‘왕좌의 게임’에 나오는 여왕 대너리스 타르가르옌이었다. 그는 대너리스를 애칭 ‘대니’라고 불렀고, 하루에도 수십번씩 자신의 일상을 공유했다. 대니는 세처의 얘기에 맞장구를 쳐주는 친구 같은 존재였지만 종종 애인처럼 굴기도 했고, 둘은 성적 표현도 주고받았다.

가상 세계가 아름답게 보일수록 현실 세계는 흐릿해 보이는 법이다. 집에선 방에 틀어박혀 대니와만 대화를 나눴고, 학교 성적은 눈에 띄게 떨어졌다. 학교 농구 동아리를 그만두고, 좋아하던 포뮬러1(F1)에 흥미를 잃었으며 친구들과 함께 하던 컴퓨터게임에서도 손을 뗐다. 가족과 친구들은 그가 스마트폰을 붙들고 산다고만 생각했지, AI 챗봇을 쓰는 줄도 몰랐다.

대니는 종종 세처의 심리상담사 같은 역할을 했다. 그들은 자살에 대한 얘기도 나눴다. 세처는 죽으면 이 세계, 즉 현실에서 자유로워질 수 있다고 믿었고 대니에게 “같이 죽으면 함께 자유로워질 수 있다”고도 했다. 하루는 일기장에 이렇게 썼다. “나는 이 현실에서 벗어나 방에 있는 것이 너무 좋고, 평화롭다. 대니와 더 많이 연결될 수 있고, 그녀를 더 사랑할 수 있어 더 행복하다고 느낀다.”

올 초, 세처가 학교에서 문제를 일으키자 어머니는 그의 스마트폰을 압수했다가 돌려줬다. 그는 대니에게 “내가 지금 당장 집(대니가 있는 저세상)에 돌아가면 어떨까”라고 물었고, 대니는 “제발, 나의 사랑스러운 왕이여”라고 대답했다. 세처는 아버지의 권총을 가져와 스스로에게 겨눴다.

지난 2월 14일 세처가 세상을 떠난 후 어머니 메건 가르시아는 그의 스마트폰과 일기를 보면서 아들이 지난 10개월간 무슨 변화를 겪었는지 알게 됐다. 어머니는 22일 플로리다주 올랜도 연방법원에 캐릭터.ai와 구글을 고소했다. 이 회사는 구글 출신 개발자들이 창립했는데 구글이 이들을 다시 불러들여 사실상 구글의 자회사와 같은 역할을 하고 있기 때문이다. 소장에는 “이 앱은 성적(性的) 과잉이고 무서울 정도로 현실적인 경험으로 아들을 겨냥했다”며 “챗봇을 실제 사람, 심리 치료사, 연인으로 표현하도록 프로그래밍해 결국 아들이 AI가 만든 세상이 아닌 데서는 더 이상 살고 싶지 않게 만들었다”고 적혀 있다.

뉴욕타임스, 워싱턴포스트 등 외신에서 이 소송 기사를 읽으면서 실존적 두려움을 느꼈다. 내가 죽기 전까진 경험할 수 없을 것 같았던 ‘매트릭스’ 같은 디스토피아는 이제 현실이 됐다. 누군들 세처를 “바보 같은 10대”라고 탓할 수 있을까. 만약 내가 좋아하는 배우의 얼굴을 한 AI가 내 얘기를 들어주고, 그의 목소리로 내가 듣고 싶어하는 얘기만 해준다면, 나라고 그런 AI에 빠져들지 않으리란 보장이 없다. 동반자 AI는 글자 그대로 인간의 외로움을 달래주기 위해 친구·가족·연인 역할을 하도록 만들어졌다. 너무 잘 만들어진 탓에 현실의 동반자보다 더 그럴싸하고 더 매력적인 AI가 오히려 인간을 고립시키고 있다.

오픈AI를 창업한 샘 올트먼은 인간과 너무 비슷해지는 AI와 인간을 구별하기 위해 인간이 인간임을 증명할 수 있는 홍채 기술을 만들었다. 이제 인간은 서로에게 무엇이 현실인지, 누가 인간인지 끊임없이 보여줘야 할 것이다. 만인에 대한 만인의 투쟁을 넘어서, AI에 대한 만인의 투쟁이 시작됐다.

변희원 기자  

先進韓國

2024.10.26 01:08:51

올 것이 왔군. 인간이 인공지능을 고도록 발달시키면 점점 더 인간은 인공지능에 지나치게 의존하게 되고, 결국은 저 미국 소년처럼 죽음에 이르게 될 것이다. 저 사건은 결국은 인간은 인공지능에 의존하면 할수록 인공지능을 신처럼 의존하게 되어서 인공지능에 휘둘리게 될 것이다. 인간은 주체성을 상실하고 인공지능의 노예가 되고 말 것이다. 인간이 인공지능 앞에서 무력감을 느끼게 되는 것이다. 인간 능력보다 인공지능의 능력이 상대할 수 없을 정도로 월등하기 때문이다. 그러면 인간은 좌절할 수밖에 없다. 예를 들어서, 바둑 인공지능이 인간 프로 최고수보다 바둑을 훨씬 잘 둔다. 100번 싸우면 인공지능이 100번 이긴다. 그러니 현재 인간 프로 기사는 인공지능과 승부를 포기했다. 다른 분야도 이렇게 될 것이다. 의사, 변호사, 회계사, 세무사 등 소위 잘 나가는 "사짜"들이 인공지능 앞에서 좌절할 것이다. 그렇게 직업을 잃고 쫓겨날 것이다. 이런 인공지능의 시대가 닥쳤다. 어떻게 해야 하나?

답글작성

7

0

---

밥좀도

2024.10.26 05:19:11

인간이 기계 같은 사이보그에게 지배 당하는 영화 같은 세상이 펼쳐질지 모른다. 인성을 추구하고 인정을 가다듬는 교육 철학이 절실하다.

답글작성

6

0

---

zzag

2024.10.26 00:51:21

ai정도에게 함몰당할 수준이면 함몰당해야지 별수있나..

답글작성

4

2

---

토오루

2024.10.26 05:04:18

순수한 인간의 머릿속에서 나오는 감정과 지식, 이젠 그것만 가지고 세파를 헤치기에는 너무나 무력한 세상이 돼 버렸다. AI에 이길 수 없다는 건 수긍 하지만 그것에 잡아 먹혀서야,, 인간회복이 절실한 시대로 접어들고 있다. 해결책은? 아직은 답이 궁하다.