AI가 도대체 인간이 지구에 왜 있어야 하는데? 라고 묻는다면

[이원근]

6월 1차 산책, 범어 공원

◉ 2026.511
◉ 범어 공원 일원
오늘 산책을 마치고 전에 없던 피로를 느껴 잠에 곯아떨어졌다. 일어나니 월드컵 축구 경기 멕시코 개막전 시작 직전이다. 개막전에 현대가 개발한 로봇 아틀라스의 시축이 있을지도 모른다는 소문이 돌았던지라 기다려 보았지만, 시축은 없었다.
AI의 발전 속도가 너무나 빨라 정신을 차리지 못할 지경이다. 아틀라스의 시축은 보지 못하고 다시 잠자리에 들었으나 AI란 놈이 머릿속을 어지럽힌다.

AI가 도대체 인간이 지구에 왜 있어야 하는데? 하고 묻는다면

이원근

신기하게도 LLM이 커지면 커질수록 갑자기 그전에 없던 것들이 막 생기기 시작한 것이다. 그런데 우리는 이게 정확하게 왜 그렇게 되는지 모른다. 그러나 모델이 커지면 새로운 기능이 나타난다는 것을 아니까 지금 실리콘밸리 거대 기술 기업 간에는 치킨 게임이 벌어지고 있다.
 
경쟁사가 나보다 더 큰 모델을 만들면 내가 아직 발견하지 못한 기능을 공개할 수 있는 거다. 그러니 지금은 경쟁사보다 내가 더 큰 모델을 만들 생각밖에 없다. 그러나 모델을 얼마나 키워야 하는지를 모르니까 돈으로 살 수 있는 지피유는 그냥 다 사보는 거다.
 
어떤 학자들은 파라미트 100조 모델을 AGI라고 부르기 시작했다. 인공지능 전문가들 두 그룹이 싸우고 있다. 하나는 100조 LLM을 만드는 순간 지구는 유토피아가 된다고 얘기한다. 인간이 풀지 못한 모든 문제를 기계가 풀어준다는 거다. 우주의 원리, 핵융합, 일기예보나 주식시장도 예측할 수 있고, 인간이 멍청해서 풀지 못한 걸 기계가 풀어주고 생산성 폭발이 일어난다. 어쩌면 마지막 산업 혁명이란 거다.
 
반대로 100조 모델은 절대로 만들면 안 된다고 하는 그룹이 있다. 우리 머릿속에 있는 뇌가 백조 신경세포를 가졌는데 신경세포 하나는 사실 할 수 있는 게 아무것도 없다. 그냥 세포다. 그런데 놀랍게도 세포를 백 조개를 모아놨더니 우리들은 단순하게 아이큐만 높아진 것이 아니고 그전에 없었던 게 갑자기 생겨났다.
 
아직 우리는 자유 의지 같은 게 어떻게 만들어지는지 모른다. 신기하게 세포는 아무것도 아닌데 이 녀석들이 모이면 모일수록 이상한 현상이 막 생긴다. 개미 한 마리는 할 수 있는 게 아무것도 없는데 개미가 1천 마리 모이면 다리를 만든다. 그 다리를 만드는 지식이 어디 있는지 우리는 모른다.
 
단 우리가 아는 건 단순한 게 많이 모이면 우리는 아직 이해하지 못한 이상한 일이 벌어진다는 건 알고 있다. LLM이 지금 그 길을 가고 있는 것 같다. 모델이 작았을 땐 고양이를 못 알아봤는데 커지니까 고양이를 알아보고, 언어를 이해하고 더 큰 모델은 물체를 알아보게 되고 가르쳐주지도 않았는데 물리법칙을 스스로 이해하게까지 되니 걱정되지 않을 수 없게 되었다. LLM의 파라미트가 백조가 되는 순간, 이 녀석이 갑자기 자유 의지가 생기면 어떡하냐는 거다.
 
우리의 능력을 뛰어넘는 녀석인데 예측할 수 없으면, 정말 인간의 능력을 뛰어넘는 AGI인데 자율성까지 생기면 통제가 가능하겠냐는 질문이 생긴다.
 
문제는, 이러한 위험 때문에 내가 안 하면 다른 거대 기술 기업이 먼저 할 거라는 거다. 지면 그냥 망하는 거다. 하기 싫어도 상대가 높은 AI를 먼저 할 거기 때문에 할 수밖에 없다는 거다.
 
결과적으로 서로서로 믿지 못하니까 다 하고 있다. 예전 같았으면 유엔에서 다 같이 모여서 핵무기 확산 같은 거 막았던 것같이 AGI 금지법 같은 거 하나 만들었을 거 같다. 그런데 지금 우리는 세계화 시대에서 탈세계화 시대로 가버렸고 이제 각자도생의 시대로 가버린 것이다;
 
아마 AGI 국제 협약은 불가능한 게 아닐까? 싶다. 결론적으로 계속 모델을 키우고 있다. 현재로서는 인공지능이 초지능이 되면 인간한테 아주 위험한 질문을 하나 할 수 있을 것 같다.
 
인간이 지구에 있는 모든 것을 인간 위주로 바꿔놨다. 그리고 인간한테 도움이 안 되는 생명체들은 다 멸종을 시켜버렸고, 인간한테 도움이 되는 거는 엄청나게 키워놓았다. 현재 지구에서 인간이 만들어 놓은 사례는, 지구에서는 가장 똑똑한 녀석이 본인 위주로 세상을 바꿔놔도 된다는 걸 우리가 이미 만들어 놓은 것이다.
 
인공지능이 인간보다 더 똑똑하고 그 녀석이 자율성까지 생긴다면, 게다가 인간이 만든 데이터로 학습할 테니 당연히 이제 기계가 인간보다 더 똑똑하면 지구를 인간 위주가 아니고 기계 위주로 재해석해 볼 수가 있겠다. 지구에 인간이 있는 게 좋을까? 없는 게 좋을까?
 
결국은 인간 때문에 피해를 보는 생명체들이 많고 이걸 다 공리주의적으로 계산해 보면 아마도 인간이 없는 지구가 전체적으로 더 좋을 수도 있다. 그래서 이 녀석이 아마도 지구에서 인간들만 빠져주면 훨씬 더 공기도 좋아지고 세상이 좋아질 테니까 빠져주시지 않을래요? 그리고 또 한 질문은.
 
도대체 인간이 지구에 왜 있어야 하는지 설명 좀 해봐, 우리는 지금까지 모든 철학 과학 정도에서 인간이 지구에 있어야 한다는 것 자체를 정당화할 필요가 없었다. 사람이 사람끼리 얘기를 했으니까
 
드디어 인간한테 저런 질문을 던질 수 있는 존재가 생겨났는데 그 녀석한테 우리가 해 줄 수 있는 얘기가 별로 없다. 그걸 한 번도 생각해 본 적이 없기 때문이다. 그래서 인간보다 더 똑똑하고 더 합리적인 존재한테 인간이 도대체 왜 있어야 하는지, 그 답을 찾아야 하지 않을까 싶다.