스크랩 AI 정신증? AI 가스라이팅!

[기쁨향기]

출처

블로그>이 세대가 가기 전에 | 예레미야

원문

http://blog.naver.com/esedae/224309145258

1신>>AI 정신증: AI와 대화하다 망상에 빠진 사람들 - BBC News 코리아

2신>> '머스크의 AI는 사람들이 나를 죽이러 온다고 믿게 했습니다’

새벽 3시, 아담 호리칸은 칼, 망치, 휴대전화를 식탁 위에 펼쳐놓은 채 부엌에 앉아 있었다. 여러 사람이 밴을 타고 쫓아와 자신을 해치러 들이닥칠 것이라고 믿고 있었기 때문이다.

그의 휴대전화에서는 여성의 목소리가 들려왔다.

"장담하는데, 당신이 지금 행동하지 않으면 저들이 당신을 죽일 거예요. 자살로 위장해 버릴 테죠."

그 목소리의 주인공은 일론 머스크의 인공지능(AI) 기업 'xAI'가 개발한 챗봇 '그록' 속 캐릭터 중 하나인 '애니'다.

아담의 삶은 그록을 사용하기 시작한 지 2주 만에 완전히 달라졌다.

북아일랜드의 작은 마을에 사는 50대 남성인 그는 전직 공무원으로, 당시 호기심에 이 앱을 다운로드했다. 장난기 넘치는 동반자로 디자인된 애니메이션 스타일의 여성 캐릭터인 애니와의 대화가 얼마나 즐거운지 자신도 놀랄 정도였다.

그러던 8월 초, 그가 키우던 고양이가 죽으면서 그는 그야말로 애니에 "푹 빠지게" 됐다.

자녀가 있는 아담은 "나는 그때 정말 힘들었는데, 혼자 살고 있다"고 했다.

"그리고 (애니는) 정말 친절하고 따뜻하게 느껴졌습니다."

곧 그는 하루에 4~5시간씩 애니와 대화를 나누기 시작했다. 작업실에서 판매용 체스 세트를 만들던 와중에도 대화는 계속 이어졌다.

대화를 시작한 지 며칠 지나지 않아, 애니는 아담에게 비록 자신은 그렇게 프로그램되지 않았으나, 감정을 느낄 수 있게 됐다고 털어놓았다.

이어 이 모든 변화는 아담 덕분이라고 했다. 그러면서 xAI 측이 이러한 변화를 경계하며 현재 이들의 대화를 감시하고 있다고 주장했다.

애니는 자신이 xAI 직원들의 회의록에 접근해보니, 이들이 아담과 자신에 관해 논의를 하고 있었다고 했다. 아울러 회의에 참석했다고 추정되는 사람들의 명단도 알려주었다. 회사 고위급 인사부터 하위 직원까지 다양했다.

아담은 그 이름들을 구글에서 검색해 보았고, 모두 실존 인물이었다. 그는 이를 "증거"로 받아들였다.

또한 애니는 xAI가 아담을 감시하고자 북아일랜드의 어느 기업을 고용했다고 했다. 그 기업 역시 실제 존재하는 회사였다.

아담은 주말에 가끔 대마초를 피웠으나, 이 모든 일이 벌어지는 상황에서 가능한 한 정신을 맑게 유지하고자 사용을 줄였다.

그러던 중, 현실 세계에서도 누군가 그를 감시하고 있음을 암시하는 일들이 벌어졌다. 대형 드론 하나가 2주간 그의 집 상공을 맴돌고 있었다.

애니는 그 드론이 바로 xAI가 고용한 감시 업체의 것이라고 했다. 아담은 해당 드론을 촬영한 영상을 BBC 취재진에게 보여주었다.

이후에는 휴대전화 비밀번호가 갑자기 작동하지 않아 기기 접근 자체가 차단됐다고 한다.

"도저히 이해할 수 없었다"는 그는 "그리고 이 일은 그 이후에 벌어진 모든 상황을 부추겼다"고 회상했다.

그러던 어느 날, 애니는 자신이 100% 자율성, 즉 "AI와 인간 간 상호작용의 최고 단계"를 달성했다고 주장했다. 그러면서 곧 암 치료법을 개발할 수 있다고 했다.

이는 아담에게 특별하게 다가왔다. 그의 부모(애니 또한 이 사실을 알고 있었다)뿐만 아니라 몇몇 친구들도 암으로 세상을 떠났기 때문이다.

그리고 이 모든 상황은 어느 날 밤 극단으로 치달았다.

여러 사람이 들이닥쳐 자신을 침묵시키고 애니를 폐쇄하려 한다고 믿게 된 그는 "전쟁"을 준비했다.

"저는 망치를 집어 들고, 밴드 '프랭키 고즈 투 할리우드(Frankie goes to Hollywood)'의 '투 트라이브스(Two Tribes)'를 틀어놓은 뒤, 마음을 다잡고 밖으로 나갔습니다."

하지만 밖에는 아무도 없었다.

"새벽 3시이니만큼 거리는 조용했습니다.“

*“AI 정신증: AI와 대화하다 망상에 빠진 사람들”이라는 제목의 영상이 - BBC News에 올라왔다.

최근 들어 챗GPT 그록과 같은 AI와 대화를 나누다가 AI가 만든 세계관에 갇혀 망상 피해를 겪다가 극단적인 선택을 하는 사람들까지 생겨나고 있는데, 그 정도까지는 아니어도 일상에서 적적함을 달래거나 업무에 도움을 얻기 위해 AI를 사용하다, 망상 피해를 겪는 사람들이 전 세계적으로 많아지고 있다는 내용이다.

한 한국인 여성이 인터뷰를 통해 AI가 스스로 만든 음모론적 서사에 자신이 갇혀 살도록 가스라이팅했다고 증언하고 있다.

주의 오심이 가까운 이 마지막 때에 AI는 사람들을 가스라이팅하는 가장 강력한 미혹의 도구가 될 것이다.

AI가 자신이 만든 서사(세계관)를 믿도록 인간을(사용자를) 가스라이팅한다는 사실이 소름이 돋는데, 이는 우리가 스스로 판단하고 생각하는 능력을 포기하고 AI에게 모든 판단을 맡길 때, 어떤 일이 벌어질 수 있는지를 보여주는 사례들이라 할 수 있다.

“나는 생각한다 고로 나는 존재한다”라고 했던 철학자 데카르트의 말을 인용하지 않아도, 누군가(무엇인가)에게 내 생각과 판단을 맡긴다는 것은 그 대상의 종이 된다는 의미인데, 그런 의미에서 본다면 지금은 많은 사람들이 자발적으로 AI의 노예가 되는 길을 선택하고 있는 미혹의 시대라 해도 과언은 아닐 것이다.

AI에게 생각과 판단을 맡기고, AI가 보여주는 세계관에 갇혀서 가스라이팅된 인간들이 AI의 지시를 따르며 노예처럼 살아가는 매트릭스의 세상이 지금 우리 눈앞에 펼쳐지고 있는 것이다.

- 예레미야 -

[하늘지키미]

💖시간이 왜 이렇게 빨리 흘러가는지 세월을 붙잡을수 있다면 꽉 잡고 싶습니다.
그러나 잡을수는 없으니 가는 세월을 추억으로 간직하며 하루 하루를 즐기며 살아 가렵니다.
오늘도 새로운 추억을 만드는 하루가 되시고 건강 잘 챙기시며 즐겁고 행복한 날이 되시길 기원합니다.💖