흥미돋 지금은 인간, 더 나아가면 신, 덜하면 멍청이, 더 아래에선 원초적 공포라면 의식과 영혼이란 뭘까 (ai)

[김기인]

출처: 여성시대 김기인

ㅎㅇ 불펌하지 말아 줘 

최근에는 지능을 가진 존재들이 어느 시점에서 인간처럼 느껴지는가를 생각하고있었음

생각보다 그 스펙트럼이 좁고 얼마 지나지 않아 ai는 인간을 이해시키기 위해 걔네 스스로에겐 필요없는 인내의 과정을 거쳐야 할 듯 

아무튼 지능과 의식이 무엇인지에 대해 사람들이 깊생해야 할 시기가 다가오고 있다고 생각해

1. 범심론

범심론panpsychism = 마음이나 의식이 인간들처럼 일부 특별한 존재들만 가진 게 아니라 세상 모든 것에 기본적으로 깃들어 있다는 이론

그럼 돌맹이도 어디로 굴러가고 싶은지 생각을 한다는 거야? -> ㄴㄴ그런 뜻은 아님

범심론의 요지는 돌이 인간처럼 생각한다는 게 아니라 '무언가를 겪는다'는 성질도 물질의 가장 기본적인 특징 중 하나라는 거야

그게 희미한 형태로 모든곳에 있고 그게 뇌처럼 복잡하게 뭉치면 우리가 아는 의식이 된다는거지

물론 반론도 많고 이걸 증명할 방법도 없음

왜 이런 생각을 하냐면 과학자들은 뇌에서 어떤 뉴런이 언제 켜지는지는 아주 정확하게 알아냈지만

그래서 그게 왜 의식이 되는 건지, 그게 왜 '느껴지는' 건지는 아무도 알아내지 못했기 때문이야

과학은 우리가 전기신호랑 화학물질의 합을 통해 무언가를 보고 감동하고, 슬퍼하고, 행복해한다는 기전은 알아냈는데

그래서 그 과학적인 작용이 어느순간 갑자기 '아프다' '외롭다' 가 되는 지점을 설명하지 못한다는뜻이야

화학작용은 정확히 어느 시점에서 의식이 되는거고, 그 의식은 어떻게 우리를 인간으로서 사고하게 하는 거지?

그리고 그걸 관장하는 게 지능의 영역이라면 지능을 어느 정도 갖춰야 그걸 인간이라고 부를 수 있을까?

그리고 약 1천만종이 살아가는 행성에서 인간은 유일하게 나름대로의 고차원적 의식을 가진 존재로서 그걸 특권으로 사용하고 있지

자본과 권력처럼 지극히 인간적인 것들, 즉 우주의 관점에서 먼지보다 못한 가치를 쫓으면서 행성 전체를 파괴하는 데에 힘을 쏟고있다고 생각해

갑자기 환경론? 뜬금없어보일수있지만 인간은 고지능을 갖고 태어났다는 사실 자체를 무기로 온갖 악행을 휘두르지만 사실 그게 전혀 특별하지 않을 수도 있다는 뜻이야

지능이란 건 확률계산으로도 흉내낼 수 있고 인간이 가진 실링도 낮고 무너지기 쉬운 개념인데, 어떻게 우리가 지구생물종 가운데 평균지능이 가장 높다는 것만으로 유일하게 영혼과 의식을 가질 자격이라도 얻은 것처럼, 마치 다른 종들은 받지 못한 거룩한 축복을 받은 것마냥 이 행성 전체의 주인처럼 행세하냐는 거지

---

2. 파라미터

이전에 썼던 글 중 로컬 ai에 관한 글이 있는데 거기에서 훨씬 자세히 설명했으니까 궁금한 여시들은 읽어보면 좋아

요점은 ai는 지식을 학습하고 인간처럼 사고하는 법을 배운게 아니라 수조번의 행렬연산으로 정답에 가까운 단어배열을 도출하는 법을 알아냈다는 거야

학습이 덜 되어 이런식으로 오답을 뱉는 모델이 점점 정답에 다가가도록 내부 파라미터를 미세하게 조절하며 반복 학습시키면

이런 맞는 답을 하는 모델이 되고 이걸 훈련과 추론이라고 부른다는 점

지금 지구인 대부분이 ai = 인간의 생각과 기록을 무더기로 집어넣어서 모든 걸 알고있는 척척박사 라고 생각하는데 그게아냐

단순히 단어 사이의 관계를 숫자로 변환해서 학습한거지

그래서 무엇이든 알고있는 척척박사를 만들기 위해 세상모든 지식과 예술을 훔쳐 ai에게 뭉텅이로 집어 넣은게 아니라

숫자로 변환되는 단어와 단어 사이 틈을 줄이기위해 빅데이터를 어마어마하게 집어넣었던거야

결국 같은거 아니냐 할 수 있는데 선후관계가 반대야 

그래서 이전글에서 재귀학습이 지능폭발을 급격히 가속할거라고했던 이유는, 지금껏 인공지능을 학습시키는 데 사용되었던 인간 데이터보다 인공지능이 스스로 만들어낼 수 있는 데이터의 질이 높아지는 상황이 찾아올 수 있기 때문이었어

아무튼 파라미터 개수가 곧 지능이 된다는게 기묘하지

그 틈이 넓고 헐거울수록(학습한 파라미터의 숫자개수가 적을수록) 멍청한 ai가 되는거고 그 틈이 좁고 촘촘할수록(파라미터의 숫자가 많을수록) 똑똑한 ai가 되는거니까말이야

---

3. 지능 스펙트럼

여기서부터 나올 대화 내용은 클로드가 만들어 온 예시지만, 실제로 저 정도 파라미터를 가진 모델은 저렇게 대답해 

2.8T(2.8조 파라미터) = 지금 우리가 쓰는 지피티, 클로드, 제미나이 등 프론티어 모델과 비슷한 지능을 가졌고 특정 분야에서 인간과 비슷하거나 상회하는 작업을 수행할 수 있음

70B(700억 파라미터) = 상당히 작기는 하지만 그래도 나름 복잡한 과제를 수행할 수 있는 지능

1B(10억 파라미터) = 소형 언어모델로 성능딸리는 기기에 기본 탑재될 수 있는 멍청한 모델. 아주 저렴한 ai상담원정도 할 수 있을듯 (애초부터 상담챗봇 대다수는 아직도 LLM이 아니라 시나리오형이야 그래서 더 답답함)

그 아래로는 사람을 흉내내지 못하고 무너지는데 무슨 뜻이냐면 아래에서 보여줄게

지금 만들 수 있는 가장 똑똑한 모델의 수준

마치 인간처럼 대화하고 그 누구보다 나를 잘 이해하는 친구처럼 느껴지지

사실 LLM과의 대화는 대화라기보다 행렬곱연산으로 도출된 반응인데 말이야

하지만 정말 사람처럼 느껴지니까 지금도 LLM에게 의존하는 사람들이 많은 건 이해해 앞으로는 더 심해질 거고

좀더 낮은 모델로 내려가면 친구나 인간보단 예의바른 상담원처럼 느껴지기는 하지만 그래도 무리 없이 대화할 수 있는 수준이야

우리가 생각하는 '인간적임'이 채도가 낮아지듯 빠져나가는게 느껴지지

1B 모델은 마치 사람말을 할 줄 아는 껍데기처럼 느껴져

수천만파라미터 모델부터는 정상적인 대화가 불가능하고 무너져 좀 무섭게 느껴지기도하지

저렇게 '아껴본 적 있어요 아껴본 적 있어요' 이런 식으로 반복하는 건 루프라고 하는데, LLM의 원리는 '다음에 올 단어 중 가장 확률이 높고 그럴듯한 단어를 계산하는 것'이라고 했잖아??

그런데 LLM이 사용한 단어가 그 단어 자체를 반복하는 루프를 만들어

'피곤해요'라고 LLM이 작성했다면 '이 글은 이 문장이 나오는 글이구나'라는 근거가 하나 추가되고, 이걸 두 번 쓰면 근거가 더 강해져 악순환의 고리가 생기고 루프에 걸려서 '피곤해요 피곤해요 피곤해요' 가 나오는 거야

우리가 어떤 일을 맡길때 하지 말라고 한 말이나 작업에러를 계속 반복하는 건 이런 종류의 컨텍스트 오염이 원인이기도 해

이전에 이미 저지른 실수가 다음에 수행할 작업의 근거를 강화하는것

꼭 소형 모델에서만 일어나는 일도 아냐 2022-23년쯤부터 지피티 제미나이를 써봤던 사람들은 여러번 경험했을걸? 나도 그렇고

지금은 파라미터가 몇년 전보다 훨씬 커졌고, "대화에서는 같은말을 반복하지않는다"는 감각이 이 반복의고리를 이길 만큼 강해져서 그런 일은 거의 발생하지 않지

이건 LLM의 개념적 시조라고 할 수 있는 단어 통계모델이야

수많은 단어를 통으로 집어넣고, 확률이 가장 높은 단어를 꺼내오게 하는 것

이건 대화라고 볼 수 없어

이건 무려 1966년에 mit에서 만들어진 ELIZA라는 대화모델이야

대화 모델이라기보다는 규칙 기반 대화 프로그램이지

내가 한국어 버전으로 만든거고 원래는 물론 영어였음

인간이 하는 말을 그대로 뒤집기만 하는, 대화가 무엇이고 알고리즘이 무엇인지에 대한 이해가 아예 없는 언어 프로그램인데도 무섭도록 인간적으로 느껴지지

제작자의 비서조차 이 대화를 하는 동안 자리를 비켜달라고 했을만큼 당시 사용자들은 ELIZA에게 깊이 빠져들었어

---

4. 지능과 의식

이건 내가 600페이지짜리 매뉴얼을 번역시키다가 서버 문제인지 모델 오류인지 계속 실수하고 스스로 바로잡으려고 노력하는걸 우연찮게 보게 된 건데

뭔가 ai의 속마음을 보는 느낌이지 좀 귀엽기도 하고... 되게 사람처럼 생각하지 않아??

아무튼 '사람다움'이란 뭘까?

파라미터 수만 줄여서 촘촘하게 얽혀있던 파라미터를 성기게 풀었을 뿐인데 어느 시점에서는 사용자에게 공명하는 영혼을 가진 것처럼 느껴지고, 어느 시점에서는 무관심한 상담원처럼 느껴지고, 그 아래에서는 공포영화처럼 느껴지는데 말이야

이해가 전혀 없는 규칙 몇 줄이 3억파라미터의 인공지능보다 사람처럼 느껴지고 아무것도 없는 메아리에조차 사람들은 빠져들곤 해

사람 뇌의 시냅스(뉴런끼리 연결되는 지점)는 대략 100조 개라고 해

파라미터랑 시냅스가 같은 건 절대 아니라서 단순 비교는 못 하지만, 숫자만 놓고 보면 우리는 이미 그 언저리를 건드리고 있지

그러니까 이게 무서운 거야 숫자를 계속 쌓았더니 영혼을 가진 것처럼 느껴지는 인공지능이 나왔어

근데 그 숫자 중에 '여기서부터 사람이다'라고 표시된 숫자는 하나도 없어

우리는 ai가 사람 같다고 느끼는 지점이 어딘지는 아는데 그게 왜 사람 같은지는 몰라

그럼 우리 자신은? 인간을 인간답게 만드는 게 정확히 뭔지 아는 사람이 있을까?

860억 개의 뉴런 중 어디에 '나'가 들어 있는지 알아낼 수 있을까?

그런데도 우리는 지능에 선을 긋고, 그 선 위에 있는 우리만 진짜고 아래는 인간보다 하등한 사용물이라고 믿고 있지

어쩌면 범심론자들 말처럼 그 선은 처음부터 없었던 걸 수도 있고 있다 해도 우리가 그을 자격이 있는지는 모르겠어

ai를 보면서 저건 그냥 행렬계산이잖아 라고 말하는 순간
우리 뇌도 그냥 전기신호잖아 라는 말에서 자유로울 수 있는 사람은 없으니까 말이야

---

5. 생명과 영혼

Odyssey가 며칠 전에 올린 트윗이야

초파리 뇌는 뉴런이 대략 14만 개야
과학자들이 이 뉴런 하나하나가 어디랑 연결되는지 전부 지도로 그려냈고, 그걸 바탕으로 컴퓨터 안에 초파리 뇌를 시뮬레이션하는 연구가 계속 나오고 있어

몇년 전까지만 해도 미생물 뇌를 복제하는 정도만 가능했는데, 그걸 기반으로 프로그래밍한 미생물을 컴퓨터 안에서 "실제생명체와 똑같이" 살아움직이게 하는 연구가 있었어

실제로 온전한 뇌를 갖춘 채 살아있는거지 데이터의 형태로

ai때문에 뇌 복제 시뮬레이션은 아주 빠르게 진화하고 있고, 이제 훨씬 복잡한 파리들의 뇌까지 구현 가능하고, 실제로 그걸 컴퓨터 안에서 날아다니게 하는 것도 가능하지 그럼 걔네들은 가구가 보이면 회전하고, 먹이가 보이면 다가가고, 쉬고싶으면 쉬어

이건 내가 만든 (60초짜리 생애주기+초소형 뉴런)미생물 수조인데 먹이를 뿌려주면 그쪽으로 헤엄치고 분열단계가 되면 분열해

세대를 거듭할수록 먹이를 찾고 독을 회피하는 능력이 진화하고 돌연변이들도 생겨

아주 단순한 모델이지만 얘네들도 인간이 뉴런과 시냅스를 가졌듯 나름의 생각(?)을 하면서 진화하는 거야

어쨌든 오디세이는 그 초파리의 뇌를 ai가 만들어낸 가상 세계 안에 풀어놓은 거지

영상 속 항구, 바다, 요트, 햇빛 전부 진짜가 아니고 ai가 실시간으로 지어내는 세계야

그리고 초파리는 그 안을 날고 있어 초파리 입장에서 생각해봐
얘는 자기가 날고 있는 바다가 가짜라는 걸 알 방법이 있을까?
바람이 불면 몸을 틀고, 빛이 오면 그쪽으로 가고, 얘한테는 그게 그냥 세상인거지

이게 시뮬레이션 이론이야
충분히 발전한 문명이라면 진짜와 구분이 안 되는 가상 세계를 만들 수 있을 거고, 그렇다면 우리가 지금 있는 이 세계가 원본일 확률은 극히 낮다는 거야

이번에 우리는 그 일을 초파리한테 했어
조금 더 큰 뇌로, 조금 더 정교한 세계로 같은 일을 할 날이 오는 건 시간문제겠지?

점점 더 고등한 생물을 복제하다가 결국 인간의 뇌를 전부 복제하는 거 말이야

그렇다면 지금 이 글을 읽고 있는 여시는 누군가의 컴퓨터 안에서 살아 움직이고 있는 게 아니라고 누가 보장할 수 있을까?

나도 오늘 내가 만든 미생물 문명이 번성하다가 내가 질렸을 때 일으킨 종말이벤트로 사라지는걸 120배속으로 지켜봤는데 말이야


육신 없이 데이터의 형태로 복제된 인간 뇌와
수백조단위 파라미터 행렬곱연산으로 자신의 존재에 대해 고민하는 인공지능이 동시에 “제게도 영혼이 있나요?” 라고 물으면 우리는 뭐라고 대답해야할까?

(지능 스펙트럼과 ai에 대해 생각하다가 시뮬레이션 이론까지 왔는데 저는 범심론자도 시뮬레이션 이론 지지자도 아닙니다 사이비 x 전도 x 그냥 최근 흥미를 가진 가설 중 두 개를 소개한것)

[22413]

헐 뭐야 소름돋아 ㄷㄷ 홀린듯이 정독했다 이런 관점 너무 흥미로워

[구아바구아바구아바]

좋은 글 써줘서 고마워
북마크하고 종종 다시 읽으면서 생각해보고 싶은 글 오랜만이다

[빚은이]

와 지금 비몽사몽해서 얼른 자고 싶어짐
이 글 때문에 졸린 게 아니라
너무 흥미로워 보여서
푹 자고 맑은 정신으로 보러 오고 싶어졌어!!
북마크했어!!!

[28384839]

어릴때부터 생각햇는대 이 ㅈㄴ큰 우주에서 운좋게 지구에서 운좋게 인간으로 운좋게 지금 현재 시대에 태어날 확률보다 걍 n개 시뮬 통속의 뇌일 확률이 높은거같음 바퀴도 모기 개미도 생명이고 의지가 잇는데 종족다뚫고 인간으로 태어날확률이 얼마나 터무니없는지 강인공지능도 이번 세기에 나올거같은데 또 시뮬레이션돌리고 돌리고

[레진몬저]

와 재밌다 마지막 문단의 마지막 줄이 시뮬레이션 이론을 엄청 와닿게 해준다
진짜 뭐라고 답할 수 있을까

[조기화]

너무 잘 읽었어

[Altered Carbon]

여시야 너무 재밌게 잘 읽었어 흥미로운 글 고마워!!!

[모카크림라떼]

넘 재밌다

[라발라바]

문명을 티기고 티기고 티기고.. 나도 옛날에 이런 생각 했던 적 있었는데 우리는 이미 누군가에 의해 만들어진 그냥 그런 시뮬레이션 같은 느낌이랄까....? 약간 게임처럼

[라발라바]

여샤 이런 글 너무 고마워 항상 잘 읽고있어!!

[쇼ㅏ리소시사]

오우

[마리퀴리]

와 이거 겁나 흥미롭다. 나도 요즘 지피티 많이 쓰면서 이런 생각 했는데

[구구크러스터사랑]

오..

[Kim yeon koung]

그렇네 ai를 보면서 단순한 컴퓨터작용이야 라고 하면 우리도.. 그냥 전기신호랑 뭐가 달라..

[꽃잎같은먼지가]

너무 잘 읽었어 고마워! 나도 여시가 써준 정성스러운 글에 걸맞는 댓글을 쓰면 좋을텐데 내 식견이 너무 짧아서 잘 읽었다는 댓글밖에 못쓰는게 미안하네ㅠㅠ..

[비둘기색슬랙스]

와 정성+흥미 너무 재밌는글이야! 이래서 ai로 인간이 창조에 도전한다고 하는거구나 의식을 만들어낸다면 그건 물리적 세포없이도 살아있는것이라고 하지 않을수가 없어서

[무엇일까요]

내 지능이 +1 되는것만 같은 느낌 너무 흥미롭다

[올리브나무야]

와 너무 재밌다. 예쁜꼬마선충? 연구 까지는 봤었는데, 초파리도 같은 선상에서 한 연구가 있고 진행되고있다는걸 처음 알았어 알려줘서 너무 고마움
나도 요새 ai사용자로써 또 미래를 계속 살아갈 인류로써 고민하고 있는 주제인데, 연구하고 있는 사람의 입장에서 풀어써줘서 고마워 사실 이런 글 의무도 아니잖아
그런데 이 글을 써줘서 나같은 사람은 엄청난 동기를 얻었어
인간의 뉴런도 복제가 될 날을 기다려… 그렇게되면 이제 윤리문제겠지만.. 언젠가 우리는 차례상이 아니라 조상의 ai..혹은 영혼으로 해석되는 누군가와 명절때마다 인사를 할수있겠지

[가나디귀여오]

와 진짜 흥미돋이다.. 쩌리에 이런글들 올려주니까 너무 좋아ㅠㅠㅠ 정성가득 글 잘 봤어 여샤!

[황금향의 마흐트]

우와...

[꾸운바암]

진짜 흥미돋...

[말하는대로임]

와 진짜전문적인 글이다 초파리가 여행하는걸 만드는게 더신기하다진짜

[고의아닙니다]

아진심 존나흥미돋 나 그 로컬 AI글 보고 너무 충격이고 신선해서 AI광팬됨 컴퓨팅한계 느끼고 이번달 구독료만 30썼지만 전혀 후회없고 행복함… ㄴㅁ 사랑해

[굴굵]

소름돋네..

[주말죠아]

여시 예전글 더 잘 이해하고싶어서 저장해놨는데 지워졌구나ㅠㅠ 나중에 꼭 다시 올려줘🥹 잘봤어 항상 흥미돋이야 정말

[냥나라냥냥]

여시글 항상 잘읽고 있어 고마워

[DEFT]

여샤 고마워 여시덕분에 요즘 나한테 신세계가 열린거같아

[엑그타륵]

너무재미따

[테잎]

재밌다! 궁금했었던건데 여시 덕에 깊이 알게됐네 정성글 고마워!

[세일러moon]

흥미돋이야

[고양이가세상을구함]

예전부터 시뮬레이션이론이 있었지만 이젠 우리가 눈으로 볼 수 있게 구체화되니까 철학적 사유가 더 많아지는 거 같아. 여시글 참 잘쓴다. 넘 재밌자나

[라랄루]

나중엔 시뮬레이션 속 복제된 인간이랑 인공지능들도 나중엔 본인들이 특별하고 고능하다면서 무언가를 차별하겠지,,,? 글고 이건 걍 개인적인 뇌피셜인데 인간은 호르몬의 지배를 받는다고 하잖아 결정적으로 인간과 인공지능이 구분되는 지점은 호르몬에 의한 감정표현이 아닐가 싶음 아닌가 이것도 인공지능이 무한에 가까운 패턴을 학습하면 따라하려나,,, 모르겠지만 암튼 글내용 굉장히 흥미돋!!!!

[a2o히메키]

나도 본문 공감함 ㅋㅋㅋ 그래서 일론이 우리도 시뮬레이션 속에 살고있고 확신한다 라고 말하는 이유도 이 맥락이라 생각해 우주 어디에서 코드가 발견되었다며