#아무도준비하지못했다AI기업들이숨겨온충격적인진실
#2027년에온다
"The Diary Of A CEO" 채널에 게재된 전 OpenAI 예측 연구원 **다니엘 코코타일로(Daniel Kokotajlo)**와의 인터뷰 영상입니다.
1. 주요 배경 및 내부 폭로
OpenAI 퇴사 이유: 2022년 OpenAI에 입사하여 인공지능의 발전 속도 및 미래 영향에 대한 예측(Forecasting) 작업을 담당했습니다. 그러나 AI 위험성에 대해 공개적으로 경고하기 위해 퇴사를 결정했습니다.
비판 금지 조항(NDAA) 및 200만 달러 거절: OpenAI 퇴사 당시, 회사를 비판하지 못하도록 하는 기밀 유지 및 비판 금지 조항에 서명하지 않으면 보유한 지분/주식(약 200만 달러 상당)을 몰수하겠다는 압박을 받았습니다. [00:40], [17:50]
권력 중심의 경쟁: Anthropic, OpenAI, 딥마인드 등 주요 AI 기업 수장들(샘 올트먼, 일론 머스크 등)이 서로보다 먼저 초지능(AGI)을 통제하기 위해 무분별한 속도 경쟁을 벌이고 있다고 지각했습니다. [00:54], [12:05]
2. AI 발전 전망 및 위험성 예측
인류 멸망 가능성 예측: AI 기술이 급격히 발전하여 인간보다 우월한 신종(Species) 형태로 진화하고 통제력을 잃을 경우, 인류 멸망으로 이어질 확률을 **약 70%**로 전망했습니다. [00:04]
일자리 자동화 및 노동 시장의 종말: AI 기업들은 자체 AI 연구·개발 속도를 올리기 위해 코딩 자동화부터 시작해 연구, 데이터 분석, 의사결정 등 전 과정을 자동화하고 있습니다. [19:42] 이에 따라 기존 노동 시장이 완전히 붕괴하여 미래 세대는 일반적인 일자리를 갖기 어려울 것으로 전망했습니다. [00:22]
타임라인 단축: 2027~2028년 또는 2030년 이전에 인간 수준 또는 그 이상의 초지능이 등장할 수 있다고 경고합니다. [00:50]
3. 메시지 및 대응안
대중을 향한 경고: AI 발전 및 위험 시나리오는 영화 속 SF가 아닌 현실적 추세(Trend)이므로 대중이 이에 대해 직시하고 대비해야 한다고 강조합니다. [01:57:46]
프로젝트 공개: 그가 속한 조직 AI Future Project에서 작성한 시나리오 문서(ai2027.com, ai2040.com 등)를 통해 AI 위험성에 대한 대응 방안을 제시하고 있습니다. [01:58:24], [01:59:42]
#27억원을포기한다니엘코코타일로
침묵의 대가로 27억 원을 포기한 전 OpenAI 연구원, 다니얼 코코타일로가 입을 열었습니다. 그가 왜 AI로 인한 인류 멸종 가능성을 70%로 보는지, 2030년이 오기 전에 초지능이 등장할 수 있다고 믿는지, 그리고 우리 모두를 구할 수 있는 유일한 계획은 무엇인지 전부 공개합니다!
다니얼 코코타일로는 전 OpenAI 연구원이자 세계적인 AI 예측 전문가입니다. 그는 AI Futures Project의 설립자이며, 인공지능의 미래 경로를 예측해 큰 화제를 모은 'AI 2027' 시나리오의 주 저자입니다. 후속 연구인 'AI 2040: Plan A'에서는 초지능 시대를 인류가 안전하게 헤쳐 나갈 방법을 제시합니다.
주요 내용:
■ 그가 OpenAI 내부에서 목격하고 퇴사를 결심하게 된 이유
■ AI 개발자들이 대중에게 알려진 것보다 훨씬 빨리 AI가 완성될 것이라 믿는 이유
■ 인간이 통제 불가능할 정도로 AI가 강력해지면 어떤 일이 벌어지는지, 그리고 그가 재앙의 확률을 70%로 보는 이유
■ 거의 모든 일자리가 자동화될 수 있는 이유와 이것이 다음 세대에 의미하는 바
■ 풍요롭고 살 가치가 있는 미래로 우리를 이끌 수 있다고 믿는 계획
00:00:00 인트로
00:02:34 이 AI 미션이 모두에게 영향을 미치는 이유
00:04:21 평범한 사람들도 AI에 관심을 가져야 하는 이유
00:08:29 AI 전문가들은 과민반응하는 걸까, 경고하는 걸까?
00:10:06 그가 OpenAI에 합류한 이유와 내부에서 목격한 것
00:13:24 그가 OpenAI를 떠난 이유
00:15:53 ChatGPT 출시 당시 OpenAI 내부 분위기
00:17:16 27억 원 규모의 비밀유지계약 논란의 전말
00:19:30 AI 완전 자동화는 예상보다 빨리 올까?
00:24:19 대화의 흐름을 바꾼 'AI 2027' 예측
00:26:33 AGI vs 초지능: 중요한 차이점
00:27:17 로봇은 어떻게 우리 일상의 일부가 될까
00:30:23 AI는 생각보다 인간의 뇌와 더 비슷하게 작동한다
00:36:14 AI는 진정으로 창의적일 수 있을까?
00:41:15 AI로 인한 인류 멸종의 실제 확률은?
00:47:58 AI가 일자리에 미칠 영향
00:54:45 AI 시대에도 여전히 중요할 기술
01:00:21 AI 2040: 미래는 어떤 모습일까
01:04:36 AI가 만들어낼 수 있는 다양한 미래
01:09:33 AI는 지구의 최상위 종이 될 것인가?
01:13:18 AI CEO들은 실제로 어떻게 의사결정을 할까
01:15:37 2028년 선거는 AI가 결정할까?
01:18:58 AI 개발을 가속화하는 안전한 길이 있을까?
01:22:11 2031년, AI는 인지 노동의 20%를 수행할 것
01:25:15 모든 사람이 AI 배당금을 받아야 할까?
01:32:41 AI 혁명을 겪는다는 것은 어떤 느낌일까
01:34:11 AI가 일자리를 대체한 후 사람들은 어떻게 목적을 찾을까
01:46:12 할 수만 있다면 AI를 영원히 폐쇄할 것인가?
01:49:56 우리는 AI에 대해 실제로 무엇을 할 수 있을까?
01:57:25 방향을 바꾸기엔 이미 너무 늦었을까?
https://youtu.be/_g4l7YkDQwA?si=_tJTN3EV3vw8pvRb