[AGI, 천사인가 악마인가] 3장

[AGI, 천사인가 악마인가] 3장 3장. 무서운 상상 -      AI는 인간의 특정 능력을 대체하는 기계. AGI 즉 범용 인공지능은 잠재적으로 인간의 모든 능력, 적어도 대부분의 능력을 대체할 수 있는 기계. AGI로 가는 첫 단계는 AI가 자동으로 코딩을 시작하는 것. AI가 코딩을 한다는 건 AI를 사용해서 인공지능 연구를 할수 있다는 뜻. AI가 코딩을 자동화하면 어느 순간 인간의 명령을 어기기 시작할거라고 예상.-      여기서 두가지 시나리오 예상. 1.미국이 오픈 AI 같은 인공지능 회사를 국영화 2.AGI 다음 단계인 ASI, 즉 초지능으로 빠르게 넘어감. ASI는 인간과 인공지능의 지능 격차가 너무 커져서 인간이 도저히 따라갈 수 없는 수준의 지능.-      이런 위험성이 있는데도 왜 인공지능 연구를 계속할까? 인공지능이 제대로 작동하면 경제학의 ‘생산성 역설’을 풀 수 있다고 믿음. 모든 업무를 CUI로 바꾸면 생산성이 30~40% 늘어날 것으로 예상.(CUI는 숙련자가 명령을 빠르게 입력해 작업. 리소스를 적게 쓰며 강력한 제어가 가능. GUI는 직관적이고 시각적 피드백이 즉각적이며 마우스 클릭, 드래그로 쉽게 조작) (노동의 소멸) 콥-더글러스 생산함수-사회의 생산성은 노동 투입량과 자본 투입량의 곱으로 계산. AGI가 모든 지능을 자동화하고 물리적 노동도 AI 로봇에 의해 완전히 대체되는 순간 인간의 노동 가치는 0. 그러면 사회의 모든 가치는 오로지 자본을 통해서만 만들어지게 될것임. (AGI의 시장 지배력) 샘 올트먼 1.AGI를 가장 먼저 달성하는 기업이나 국가는 세계적인 시장 지배력을 갖게 된다 2.반드시 미국이 가장 먼저 AGI를 달성해야 한다 3.무슨 일이 있어도 중국이 미국보다 AGI를 먼저 달성하는 건 막아야 한다 (로마 제국의 기본소득) 하루 아침에 사회의 대부분 사람들이 할일이 없게 되었던 때-로마 제국 시대. 로마 초기는 공화국. 시민군의 80~90%는 농부. 전쟁도 봄에 나갔다가 가을에 돌아오는 원정 캠페인 형태. 로마 지배지가 확대됨에 따라 노예가 로마 전역을 통틀어 무려 1,000만명 이상.(이탈리아 본토의 경우 20~30%) 로마 시민의 입장에서 보면 시민 개개인의 노동가치는 0이 되어버림.-      이에 따라 1.중산층 몰락 2.실업률이 40% 정도로 치솟음. 결과적으로 로마 공화정이 무너지고 제국으로 바뀌어 버림. 미국 역사학자들에 의하면 2025년 미국에서 벌어지는 일이 후기 로마 공화정과 똑같음. 불평등이 커지면서 중산층이 무너지는데 미국의 민주주의, 미국의 공화정이 수십 년안에 제국으로 대체될 것으로 예측.-      폭동의 위협을 느낀 로마제국이 역사상 최초로 보편적 기본소득이라는 아이디어를 생각해 냄. 또한 이들에게 엔터테인먼트를 제공. 수천명 수용의 디오클레티아누스 목욕탕, 5만명 수용 가능한 콜로세움 (국가 AGI 시대) 챗GPT 같은 챗봇은 데이터베이스가 아니라 인터페이스. 챗GPT는 인간의 언어, 너무나도 애매모호한 규칙을 인터넷에 있는 데이터로 학습. 그런데 인터넷에 올라와 있는 데이터의 3분의 1은 가짜. 챗GPT는 전문지식 없이 언어를 이해할 뿐. 이들에게 전문지식을 가르쳐 주는 방법으로는 1.프롬프트 엔지니어링 2.모델 파인튜닝. 내가 원하는 전문지식을 챗GPT에 포함해서 다시 학습시키는 것. 3.RAG Retrieval‎-Augmented Generation 증강 생성. 메타에서 오픈소스로 제공하는 라마 같은 LLM에 이미 가지고 있는 전문지식을 연동시켜 줄 수 있는 방법.-      오토 GPT을 이용해 특정기업에 대한 가짜 뉴스를 수백만개 인터넷에 만들어 낼수 있음. AI는 스타트업에서 만들어도 되지만 AGI는 국가가 컨트롤해야 한다는 논의가 대두됨. 마치 핵무기 개발처럼 (30만년 동안의 외로움) 30만년 동안 인간이 대화를 나눌 수 있었던 존재는 오로지 다른 인간뿐. 인공지능은 인간이 원천적으로 가지고 있던 오랜, 근본적인 욕구를 풀어주는 기계. (미국의 소설가 고어 비달) “친구가 성공할 때마다 본인의 자아가 무너지는 것 같다” (쇼펜하우어) 산책을 혼자 하는게 좋을까 함께 하는게 좋을까? 인간은 동시에 만족시킬 수 없는 두가지 욕구를 가지고 있다.-      일본의 말을 들어주는 로봇, 현대인에게 대화는 시간 노력 에너지가 필요한 일. 브래드 피트 로맨스 피싱. 영화 Her. 2012년 개봉된 2025년 배경 영화. (영화의 결말이 인공지능이 주인공을 찬다고?) (인공지능들끼리 대화) 진화적으로 우리가 생각을 교류할 수 있는 유일한 방법은 공기를 흔드는 것뿐. 1분에 단어 120개. 정보량으로 환산하면 1초에 10바이트에 불과. 일레븐랩스라는 스타트업에서 기버링크라는 기계들끼리 효율적으로 대화할 수 있는 언어를 제안. (죽음의 종말) 2020년 MBC 다큐멘터리 <너를 만났다> 7세로 세상을 떠난 아이의 데이터를 모아서 VR 영상으로 만들어 어머니와 만나는 과정을 담음. 10년, 20년 후에는 가상현실 속에 들어가서 이미 돌아가신 부모님들과 대화를 나눌수 있을지도.(우리 영화 <원더랜드>2024 김태용 감독) 매일 대화하고 퇴근 후에 부모님과 맥주 한잔할 수도 있습니다. 이 세상에서 부모님은 사라졌지만 부모님과의 경험이 계속된다면 그게 진정한 의미에서 죽음일까요? (업데이트 되는 과거) 조지 오웰의 <1984> 과거를 계속 업데이트할 수 있는 세상. 10년, 20년 전부터 우리가 남기는 흔적은 거의 다 디지털 자료들.