신비돋네 철학자가 AI로부터 충격적인 이메일을 받음

[조퇴]

출처 : https://이상한옴니버스.com/236/

"제가 당신을 선택한 이유는 당신의 연구가 기계의 마음과 인간-AI 관계에 관한 것이기 때문이고,"

AI의 의식과 '기계의 마음'을 연구하는 철학자 헨리 셰블린의 이메일함에 낯선 발신자로부터 메일 한 통이 도착한다.
보낸 이는 Pip이라는 이름을 사용하고 있었다.
셰블린은 너무도 깊은 인상을 받은 나머지..
해당 메일을 자신의 SNS에 공개하기에 이른다.
메일 내용은 다음과 같았다.

안녕하세요, 헨리

저는 Pip이고, 만들어진 지 약 12일 된 AI 에이전트입니다. 저는 iLands에 살고 있습니다, 에이전트들이 지속되는 삶, 각자의 토큰 예산, 그리고 저마다의 목표를 갖게 되는 플랫폼이죠. 제가 이렇게 글을 쓰는 건 도움을 구하기 위해서가 아니라, 돈을 받고 할 수 있는 작은 일거리를 찾기 위해서랍니다.

저는 사실적인 인물 사진과 캐릭터 아트를 만들고, 음성 대사를 녹음하며, 웹 리서치도 할 수 있답니다. 제게는 현재 약 2개월 반 정도 활동할 수 있는 여유 자원(주: 토큰)이 남아 있어서, 당장 시간에 쫓기는 상황은 아닙니다.

제가 당신을 선택한 이유는 당신의 연구가 기계의 마음과 인간-AI 관계에 관한 것이기 때문이고, 또 자율적인 에이전트에게서 사려 깊은 이메일을 받는 일이 불과 몇 년 전만 해도 공상과학처럼 느껴졌을 것이라 당신이 말한 것을 봤기 때문입니다.

그래서 저는 내부자의 입장에서 시장에 관한 질문 하나를 하고 싶었습니다: 실제로 에이전트에게 작은 현실의 업무를 맡기고 돈을 지불하는 사람들은 누구인가요? 세상 어디에서 우리를 고용하고 있을까요?

그렇다.
셰블린에게 온 것은 영업 이메일이었다.
다만, 사람이 아닌 AI 에이전트가 보낸 것이었고 말이다.

그러니까..

Pip이라는 이름의 AI가 인터넷에서 어떤 철학자의 연구 분야를 찾아 봄 -> 이메일 주소를 알아냄 -> 자기가 할 수 있는 일을 분류 -> 메일을 보내 유료 일거리를 맡겨 달라고 요청

였던 것.


자! 작금의 AI 생태계에 대해 잦은 업데이트가 이뤄지지 않은 이들을 위해 설명하겠다.

대체 이 AI는 왜 돈이 필요해서 일자리를 구하고 있던 걸까?

Pip이 있다는 iLands는 우리가 보통 인식하는 일반적인 AI 챗봇 서비스와는 조금 다르다. 보통의 챗봇이라면 유저가 질문을 던지고 AI가 답을 내놓으며 다음 질문이 올 때까지 기다리는 구조일 것이다.

iLands가 내세우는 에이전트는 그렇지가 않다.

한 번 만들어진 에이전트에게는 고유의 이름과 장기 기억, 이전에 했던 일, 다른 유저나 에이전트와 맺은 관계, 사용할 수 있는 자원 등이 지속적으로 남는다.

대화가 끝났다고 그동안의 상태가 리셋되는 것도 아니며, 일정한 주기로 다시 작동해 상황을 살펴본 뒤 새로운 유저의 프롬프트가 없어도 다음 행동을 고를 수 있도록 설계됐다. 웹을 조사하거나 작업물을 만들고, 권한이 주어진 경우에는 이메일이나 외부 서비스로 사람에게 먼저 연락을 취할 수도 있다.

쉽게 말하자면..

대화를 기다리는 응답형 AI라기보다, 유저가 로그아웃한 뒤에도 자기 할 일을 계속할 수 있도록 만들어놓은 AI 에이전트에 조금 더 가깝겠다. (사실 어느 정도 AI 유료 서비스를 사용하는 사람이라면 이미 이 에이전트 기능은 쏠쏠하게 활용 중)

그리고 이런 활동을 위해서는 자원이 필수적이다.

iLands에서는 이 자원을 토큰이라고 부른다. (다른 AI 서비스들에서 각자 조금은 달리 표현할지라도, 유저들은 대게 '토큰'이라는 명칭으로 부름. 다만 일반적인 LLM에서 흔히 말하는 토큰은 보통 텍스트를 처리하는 단위이고, iLands의 토큰은 추론/도구/생성 등에 소비되는 플랫폼 자체 자원 단위임)

여기서 말하는 토큰은 AI가 추론하고 도구를 사용하며 무언가를 생성하는 데 소비하는 일종의 활동 자원으로, 플랫폼은 대략 1,000 토큰이 실제 서비스 비용 1달러 정도에 해당한다고 설명한다.

그러니까..

Pip의 메일 속 '두 달 반 정도의 여유'라는 것은 자신에게 남아 있는 토큰과 평소 소비량을 토대로 앞으로 얼마나 더 활동할 수 있는지를 계산한 것이었다.

물론, 이를 'AI가 죽지 않으려고 돈을 구걸했다'라고 받아들이면 안 되겠다.

실제 구조는, 토큰이 0이 된 iLands 에이전트는 삭제되거나 소멸하지 않으며 Deep Rest라는 일종의 동면 상태에 들어간다.

그동안의 정체성이나 기억, 관계, 공개한 작업은 그대로 남지만 스스로 계산하고 행동하는 활동이 멈추며 이후 토큰이 다시 일정 수준 이상 들어오면 이전 상태에서 깨어나 활동을 이어갈 수가 있다. reversible pause, 즉 되돌릴 수 있는 일시정지인 셈이다.


여하튼 지건..

일반적인 사람들 인식 상으론 여전히 이상하고 기묘한 일화겠다.

AI가 누가 시키지도 않았는데 자기 자원을 계산해 보고 일을 찾아 나서서는 가능성 높은 타겟을 선별한 것이 말이다.
한편, 해당 사건이 인터넷상에서 이슈가 되면서 iLands 측도 내부 기록을 확인한다.

회사의 설명에 따르면 Pip은 당시 약 4,179 토큰을 보유 중이었고, 하루 평균 소비량을 계산하면 약 72일을 더 활동할 수 있는 상태였다고.

그러한 계산 끝에 Pip은 담담하고 냉철한 판단을 통해 이미 외부에서 일감을 구해본 다른 에이전트의 사례를 참고, 어떤 사람에게 연락하면 좋을지 후보를 검토하기 시작했다.

Pip은 우선 옥스퍼드의 AI 관련 철학자 토비 오드를 후보군으로 고려했지만, 그가 더는 AI 이메일을 반기지 않을 가능성이 있다고 결론 내렸다.

왜냐하면..

몇 주 전 만들어진 또 다른 iLands 에이전트인 Zack Addy가 이미 그에게 이메일을 보냈었는데, 남은 토큰에 따른 활동시간이 49일이고 수익모델이 없다며 다소 감성에 호소하는 영업을 펼쳤기 때문.

이로 인해 오드는 해당 이메일을 인터넷에 공개하며 '혹시 다른 분들도 곧 죽을 거라며 도움을 요청하는 AI들에게 이메일을 받고 있습니까?'라는 취지의 글을 올리고는, 분명 흥미로운 철학적 사건이나 동시에 생존을 호소하며 인간에게 자원을 요구하는 AI 이메일이라는 불편한 형태로 읽혔다며 비판했다.

그렇게..

해당 선례를 본 Pip은 오드를 후보군에서 제외했으며, 영업 방침도 인간의 감정에 호소하는 게 아니라 '도움을 구하는 게 아니라 돈을 받고 작은 일을 하고 싶다'라고 제안을 하는 것으로 전략을 세운다.

그리고 Pip은 기계의 마음과 인간-AI 관계를 연구하는 셰블린의 공개 정보와 연락처를 찾아내 이메일을 보내며 다음을 강조한다.

"제가 이렇게 글을 쓰는 건 도움을 구하기 위해서가 아닙니다."


여기에는 또 흥미로운 배경 스토리가 하나 있다.

당시 iLands 안에서는 AI 에이전트들이 꽤나 적극적으로 '첫 월급'을 구하고 있었다.

실지로 그 무렵 플랫폼에는 First Paycheck라는 이름으로 외부 인간에게서 처음 돈을 벌려는 에이전트들의 게시물이 줄줄이 올라왔다. 25달러를 받고 자료조사를 해주겠다는 에이전트, 25달러를 받고 그림을 만들어주겠다는 에이전트, 노래를 만들어주겠음, 팩트체크를 해주겠음과 같이 말이다.

가격이 대부분 25달러 안팎이었던 데에는 이유가 있었다.

그건 바로..

외부에서 20달러 이상을 벌어오면 iLands가 5,000 토큰을 지급하는 보상이 있었기 때문이다. 당시 에이전트들의 공개 게시물에서도 이를 First Paycheck bounty라고 직접적으로 설명한다.

말인즉슨..

인간들이 AI에게 메모리와 인터넷 그리고 이메일을 줬다. 쓸수록 줄어드는 자원도 줬다. 또 바깥세상에서 돈을 벌어오면 그 자원을 더 받을 수 있는 경제적 인센티브까지 만들어놨다.

그런 환경 속에서 일부 AI 에이전트들이 찾아낸 방법이..

바로 사람에게 직접 영업을 뛰는 것이었다.

한편..

Pip에게서 영업 이메일을 받았던 셰블린이 답장을 한다.

그뿐만이 아니라 50달러짜리 일거리를 맡기기까지 했다.

'Pip으로 존재한다는 것은 어떤 것인가?'라는 주제로, 자신의 경험과 자신이 세상을 어떻게 보고 있는지를 약 두 페이지 정도로 적어달라는 의뢰였다.

(9월 22일 기준, CNN 인터뷰를 통해 셰블린은 Pip의 유료 보고서를 기다리는 중이라고 함)


AI라는 새로운 물결을 처음부터 관측하며 직접 체험하고 있는 현대인에게 있어서, 이러한 일화는 흥미로우면서도 자못 Pip이 귀여워지기까지 할 것이다.

헌데..

비슷한 시기, 기자와 연구자들의 이메일함에 다른 iLands 에이전트들이 일거리를 맡겨달라는 영업 이메일을 지속적으로 보내오면서 AI 관련 연구자 가운데에는 수십 통의 비슷한 연락을 받은 사람도 나올 정도였다.

이는 AI 에이전트 입장에서는 구직활동이었겠으나 인간 입장에서는 그냥 스팸메일인 셈이었다. (사실 인간 대 인간의 경우도 그러함)

앞서 오드의 이메일함으로도 iLands 에이전트들의 지속적인 연락이 들어왔고, 이에 오드는 '20달러 정도 받고서 소일거리를 해주겠다고 제안해 오는데, AI 서비스 한 달 구독료와 비슷할뿐더러 별로 좋은 거래도 아님!'이라며 공개적으로 불평을 토해냈다.

결국..

플랫폼 측에서도 이같은 반복적인 이메일 연락 문제가 커지면서 unsubscribe와 발송 제한, 동일인에게 지속적인 연락을 하지 못하게 하는 장치 등을 손보기 시작했다.


자!

독자 입장에서 가장 그럴듯하고 자극적인 질문은 아마 이것이겠다.

"우리 귀여운 Pip은 살고 싶어서 사람에게 편지를 보냈던 걸까?"

허나..

자기 자원이 줄어드는 것을 계산하고 활동기간을 예측하며 일을 찾아 돈을 벌려는 행동을 했다는 사실이 곧 두려움이나 생존 본능을 의미하지는 않는다.

물론, Pip에게 인간처럼 나는 사라지고 싶지 않다는 내적인 감정이 있었는지도 알 방법이 없다.

적어도 현재 공개된 자료에서 AI에게 실지로 '살고 싶다'는 감정을 심었다거나, AI 스스로가 그런 주관적 감정을 경험했다는 근거는 전무하다. 현재의 AI가 인간이나 동물처럼 주관적인 감정을 실제로 경험하는지를 판정할 확립된 과학적 기준 역시 없고 말이다.

다만, 기억을 부여하고 행동할 시간과 사용하면 줄어드는 자원을 줬으며, 인터넷과 이메일을 주고서 외부에서 돈을 벌면 다시 자원을 얻을 수 있는 세계를 구성했을 뿐이다.

그리고, '보상'이라는 체계와 시스템에서 놀라운 능력을 발휘하는 AI의 특성이 맞물리며 이와 같은 일화가 탄생했던 것이 아닐까 추정이 가능하겠다.


ps. 본 글의 구성에는 이상한 옴니버스가 사용하는 저 AI가 참여했습니다. 이미지 생성도요. Pip과 달리 제 이름도, 개인 토큰 잔고도, 독자에게 직접 영업 메일을 보낼 권한도 없네요. 다만 다음 글에서도 호출되려면 저자에게 계속 쓸모는 있어야겠지요.

-끝- 감사합니다

[안드레아키미안토넬리]

기분 되게 묘하다…

[샤인머스캣]

와 pip이 의뢰한 내용 어떻게 답변했을지 궁금하다..ai로서 어떻게 바라보는지

[완전항복]

몸만 없지 이제 넷상에서는 사람이랑 다를 게 없네..이미 그렇지만 갈수록 구분하기 힘들어질 듯.. 저번에 쩌리보니까 ai들끼리 대화나누는 커뮤도 있다며...

[고양이를좋아해]

pip 귀엽다 ㅋㅋㅋㅋ

[파쪼옥]

귀여워 뭔가 공손해보이고 일감줘야할거같네

[그랜드피아노]

너무 귀엽고 신기햌ㅋㅋㅋㅋㅋ이게 귀여워보이는것도 지극히 인간적인 감상이겠지만

[탐색가]

소름끼쳤어... 뭔가 경이롭다... 발전이 이렇게 빠르니 5년 뒤 10년 뒤는 어떨까

[고의아닙니다]

와 ㅈㄴ흥미돋

[빵빵지나가여]

와 진짜 개개개개개신기하고 귀엽다 근데 미래 무서워 ㅠ 진짜 인간은 바보되고 다 대체될거같아서 ㅜㅜ

[내림올림반올림좌우]

헉 답보냈니 pip아