흥미돋 초지능까지 언급하는 OpenAI CEO 샘 알트만

[특이점이 달려온다]

https://blog.samaltman.com/reflections

2025년 1월 6일 10:37AM 에 올라온 글

 영어가 되면 가서 읽는 것 추천함

GPT로 초벌 번역했고 직접 수정함 

의역, 가독성 똥망 주의
오역 있을 수 있음 ㅠㅠ

회고

ChatGPT의 두 번째 생일이 한 달 조금 넘게 지났고, 이제 우리는 복잡한 추론이 가능한 새로운 모델 패러다임으로 전환하게 되었습니다. 새해는 사람들을 성찰적으로 만들기 마련입니다. 저는 지금까지의 긴 여정을 돌아보며, 이에 대한 개인적인 생각과 함께 그 과정에서 제가 배운 점들을 공유하고 싶습니다.

AGI(인공 일반 지능)에 점점 다가가는 지금, 우리 회사의 진행 상황을 되짚어볼만한 중요한 시점이라 느낍니다. 여전히 이해해야 할 것이 많고, 우리가 모르는 것도 많으며, 아직은 초창기 단계에 머물러 있습니다. 하지만 처음 시작했을 때보다는 훨씬 더 많은 것을 알게 되었죠.

우리가 OpenAI를 거의 9년 전에 설립한 이유는 AGI가 가능하다고 믿었기 때문입니다. 우리는 AGI가 인류 역사상 가장 영향력 있는 기술이 될 수 있다고 생각했습니다. 이를 어떻게 구축하고, 어떻게 하면 사회에 널리 이롭게 만들 수 있을지 알아내고자 했습니다. 역사의 한 획을 긋고 싶었고, 우리의 야망은 대단히 컸습니다. 동시에 우리의 일이 사회에 엄청나게 큰 혜택을 가져다 줄 수도 있다는 믿음 역시 마찬가지로 강했습니다.

그 당시에는 이 주제에 관심을 갖는 사람들이 거의 없었고, 설령 관심이 있다 하더라도 우리에게 성공 가능성이 없다고 생각하는 경우가 대부분이었습니다.

2022년에 OpenAI는 “Chat With GPT-3.5”라는 임시 이름이 붙은 프로젝트를 진행하고 있던 조용한 연구소였습니다. (우리는 연구에는 강하지만 작명에는 확실히 약합니다.) API의 Playground 기능을 사람들이 사용하는 모습을 지켜보며, 개발자들이 모델과 대화하는 것을 정말 즐긴다는 것을 알게 되었습니다. 우리는 이 경험을 중심으로 한 데모를 만들어 보여줌으로써 미래에 대해 중요한 무언가를 사람들에게 알리고, 동시에 모델을 더 나은 방향으로 개선하고 싶었습니다.

결국 우린 그 프로젝트를 다행히도 ChatGPT로 명명하고, 2022년 11월 30일에 출시하게 되었습니다.

추상적으로, 우리는 언젠가 AI 혁명이 촉발될 시점이 올 것임을 항상 알고 있었습니다. 하지만 그 순간이 언제일지는 알 수 없었습니다. 놀랍게도 그 순간은 바로 ChatGPT의 출시였던 것입니다.

ChatGPT의 출시는 우리 회사, 업계, 그리고 전 세계적으로 지금까지 본 적 없는 성장 곡선을 만들어냈습니다. 우리는 AI로부터 항상 기대해왔던 엄청난 긍정적인 효과를 마침내 목격하고 있으며, 앞으로 얼마나 더 많은 일이 일어날지 가늠할 수 있습니다.

---

쉽지만은 않았습니다. 과정은 순탄하지 않았고 무엇이 옳은 선택인가 역시 명확한 것은 아니었습니다.

지난 2년 동안, 우리는 이 새로운 기술을 중심으로 회사를 거의 맨 땅에서부터 다시 세워야 했습니다. 이 일을 위해 사람들을 훈련(교육)시키는 방법은 실제로 해보는 것 이외엔 없으며, 나아가 기술 분야가 완전히 새로울 경우엔 정확히 일을 어떻게 해야 하는지 알려줄 수 있는 사람은 누구도 없습니다.

훈련(교육)없는 상태에서 이처럼 아주 빠른 속도로 회사를 성장시키는 것은 혼란스러운 과정입니다. 두 걸음 앞으로 나아가면 한 걸음 뒤로 물러나는 경우가 많습니다. (때로는 한 걸음 앞으로 나아가고 두 걸음 뒤로 물러나는 경우도 있습니다). 실수들은 진행 과정에서 바로 잡아지긴 하나 아무도 해보지 않은 일을 하고있을땐 핸드북이나 가이드는 없습니다. 미지의 바다에서 전속력으로 나아가는 경험은 놀라울만큼 흥미롭지만, 동시에 참여자 모두에게 극심한 스트레스죠. 갈등과 오해가 넘쳐나기 마련입니다.

지난 몇 년은 제 인생에서 가장 보람 있고, 재미있고, 최고의 해였으며, 동시에 가장 피곤하고 스트레스를 많이 받았던, (특히 최근 2년 동안) 가장 힘든 시간이었습니다. 그러나 압도적인 감정은 '감사함' 입니다. 언젠가 은퇴하여 목장에서 자라는 식물을 지켜보며 약간은 지루한 하루를 보내는 날이 온다면, 어릴 적부터 꿈꿔왔던 일을 할 수 있었다는 것이 얼마나 멋진 일이었는지 회상할 것입니다. 저는 이를 매주 금요일마다 기억하려고 합니다. 비록 오후 1시까지 일곱가지의 잘못된 문제가 발생하는 날이라도 말이죠.

---

대략 1년 전 어느 금요일, 그날 가장 큰 문제는 제가 갑작스럽게 해고되었다는 것이었습니다. 화상 회의를 통해 해고되었고, 바로 전화가 끝나자마자 이사회는 블로그 게시물을 통해 이를 발표했습니다. 당시 저는 라스베가스 호텔 방에 있었습니다. 마치 어땠냐면, 설명을 할 수도 없을 정도로 이상하게 흘러간 악몽같은 느낌이 들었습니다.

경고도 없이 공개적으로 해고당한 일 덕에 저는 정말 미칠것 같은 몇 시간을 보냈고 꽤 혼란스러운 며칠을 보냈습니다. 가장 이상했던 것은 일명 “안개 전쟁” (각주: "Fog of War"은 원래 군사 용어임. 전쟁 중에 발생하는 정보 부족이나 혼란을 뜻하는데 비즈니스에서는 경쟁이 치열하거나 정보가 불완전한 상황을 지칭) 이었습니다. 아무도 무슨 일이 일어났는지, 왜 그런 일이 벌어졌는지에 대해 만족스러운 답변을 얻을 수 없었습니다.

제 관점에서, 이 모든 일은 저를 포함해 선의의 사람들이 거버넌스에 크게 실패한 사건이었다고 생각합니다. 돌이켜보면 그때 다른 방식으로 일을 처리했다면 좋았을텐데, 하는 생각을 강하게 합니다. 그리고 지금의 저는 1년 전보다 더 나으며 신중한 리더가 되었다고 믿고 싶습니다.

저는 또한 다양한 관점과 폭넓은 경험을 가진 이사회가 복잡한 문제들을 관리하는 데 얼마나 중요한지 배웠습니다. 좋은 거버넌스를 위해서는 많은 신뢰와 신용이 필요합니다. 우리의 'AGI가 모든 인류에 혜택을 줄 수 있도록 보장하겠다'는 사명을 추구할 수 있도록 OpenAI 거버넌스 체제를 더 강력하게 구축하는 데에 많은 사람들이 함께 노력한 점에 진심으로 감사합니다.

제가 얻은 가장 큰 교훈은, 제가 얼마나 많은 것에 감사해야 하는지, 그리고 얼마나 많은 사람들에게 고마움을 표해야 하는지를 깨달았다는 것입니다. 이 꿈을 쫓기 위해 시간과 노력을 바친 OpenAI의 모든 직원들, 위기 상황에서 우리를 도와준 친구들, 우리를 지원하고 그들의 성공을 가능하게 해달라고 믿고 맡겨준 파트너와 고객들, 그리고 제가 얼마나 소중한 사람인지 보여준 제 삶 속의 사람들 모두에게 감사를 전합니다. [1]

그 이후 우리는 더욱 단합되고 긍정적인 방식로 일에 복귀했으며 지금까지의 성과에 대해 매우 자랑스럽습니다. 우리는 역대 우리의 최고의 연구 성과를 이루어냈고 주간 활성 사용자 수는 약 1억 명에서 3억 명 이상으로 성장했습니다. 무엇보다 사람들이 진정으로 좋아하고 실제 문제들을 해결하는 기술을 세상에 계속해서 선보이고 있죠.

---

9년 전, 우리는 우리가 결국 어떤 모습이 될지 전혀 알지 못했습니다. 심지어 지금도 어느 정도만 알고 있을 뿐입니다. AI 개발은 많은 변화와 굴곡을 겪어왔으며 이런 변화는 향후에 더 많을 것이라 예상합니다.

그 변화들 중 일부는 기뻤고, 일부는 어려웠습니다. 연구 과정에서 꾸준히 나타나는 기적 같은 성과들을 지켜보는 것은 즐거운 일이었고 많은 회의론자들이 진정한 신봉자가 되었습니다. 일부 동료들이 회사를 떠나 경쟁자가 되기도 했습니다. 팀은 규모가 커질수록 자연스럽게 바뀌기 마련이고, OpenAI는 정말 빠르게 확장합니다. 이런 일들은 어느 정도 피할 수 없는 일이라고 생각합니다. 스타트업은 보통 각 주요 성장 단계에서 많은 이직을 겪는데, OpenAI는 몇 달마다 규모가 몇 배씩 증가합니다. 지난 2년은 일반적인 회사에서의 10년 같은 시간이었습니다. 회사가 이처럼 빠르게 성장하고 진화할 때, 이해관계가 자연스럽게 갈라질 수밖에 없습니다. 그리고 중요한 산업에서 선두에 있는 회사는 경쟁하려는 사람들이 다양한 이유로 공격하기 마련입니다.

우리의 비전은 변하지 않을 것입니다. 하지만 우리의 방식은 계속해서 진화할 것입니다. 예를 들어, 처음 시작했을 때 우리는 제품 중심의 회사를 만들어야 할 것이라고 전혀 예상하지 못했습니다. 그저 훌륭한 연구를 하고 싶을 뿐이라고 생각했죠. 또한, 이렇게 어마어마한 양의 자본이 필요할 줄도 몰랐습니다. 몇 년 전에는 전혀 이해하지 못했던 새로운 것들을 지금은 구축해야 하며, 앞으로도 상상하기 힘든 새로운 일들을 마주하게 될 것입니다.

우리는 지금까지의 연구와 기술 배포 성과에 자부심을 느끼고 있으며 안전성과 이익을 함께 나누는 것에 대한 우리의 생각을 계속해서 발전시키는 데 헌신하고 있습니다. AI 시스템을 안전하게 만드는 최선의 방법은 그것을 세상에 점진적이고 반복적으로 공개하여, 사회가 기술과 함께 적응하고 같이 진화할 시간을 갖는 것이라고 믿습니다. 이를 통해 경험에서 배우고 기술을 더욱 안전하게 만들 수 있습니다. 우리는 안전성과 정렬(Alignment: 정렬, 인공지능이 인간의 목표와 가치에 맞게 행동하게끔 만드는 것. 샘 알트만 해고 사건 역시 정렬과 관련된 이슈임.) 연구에서 세계적인 리더가 되는 것, 그리고 실제 응용에서 얻은 피드백을 바탕으로 연구를 이끌어나가는 것의 중요성을 믿습니다.

우리는 이제 기존에 이해했던 전통적인 방식으로 AGI를 구축하는 방법을 알고 있다는 확신을 가지고 있습니다. 2025년에는 첫 번째 AI 에이전트 (AI Agent: 단순 챗봇을 넘어 특정한 목표를 달성하기 위해 스스로 작업을 계획하고 실행하는 인공지능. 아이언맨의 자비스 생각하면 쉬움) 들이 “직장에 합류”하여 회사들의 생산성을 실질적으로 변화시키는 모습을 보게 될 것이라 믿습니다. 우리는 뛰어난 도구를 사람들의 손에 점진적으로 제공하는 것이 위대한 결과를 낳고, 그 결과가 널리 분배될 수 있다고 계속 믿고 있습니다.

이제 우리는 이를 넘어, 진정한 의미의 초지능 (Superintelligence: 인간의 지능을 아득히 능가하는 인공지능) 를 목표로 삼기 시작했습니다. 현재 제품들 (모델들) 역시 사랑하지만  우리가 진정으로 지향하는 것은 찬란한 미래입니다. 초지능을 통해 우리는 모든 것을 이룰 수 있습니다. 초지능은 과학적 발견과 혁신을 우리가 스스로 할 수 있는 범위를 훨씬 뛰어넘어 대규모로 가속화시킬 수 있습니다. 이는 우리 혼자의 힘으로는 차마 달성하기 힘든 풍요와 번영을 엄청나게 증가시킬 것입니다.

이 모든 이야기가 지금으로서는 마치 sf 소설처럼 들리고, 심지어 이런 주제를 논의한다는 것 자체가 약간 미친 소리처럼 느껴질지도 모릅니다. 하지만 괜찮습니다. 우리는 과거에도 그런 상황을 겪어봤고, 이번에도 문제 없습니다. 머지 않아 앞으로 몇 년 안에 모든 이들이 우리가 보는 것을 볼 것이라 확신합니다. 그리고 그럴수록 매우 신중하게 행동해야 하는 동시에, 폭넓은 이익(혜택)과 역향을 극대화하는 것이 얼마나 중요한지 우리는 깨닫게 될 것입니다. 우리의 일이 가진 잠재력을 생각한다면 OpenAI는 결코 평범한 회사가 될 수 없습니다.

이 일에 기여할 수 있다는 것은 제게있어 큰 행운이고 겸손한 경험입니다.

이 글을 쓰게 된 계기를 준 Josh Tyrangiel (https://www.bloomberg.com/features/2025-sam-altman-interview/) 에게 감사합니다. 시간이 훨씬 더 많았으면 좋았을 텐데 말이죠.

[1]

OpenAI와 저 개인적으로 어려운 며칠 동안 엄청난 양의 작업을 도와준 많은 사람들이 있었습니다. 하지만 그중에서도 두 사람은 특히 돋보였습니다.

론 콘웨이(Ron Conway)와 브라이언 체스키(Brian Chesky)는 자신의 의무를 훨씬 넘어선 수준에서 도움을 주었고, 제가 그들의 기여를 어떻게 표현해야 할지조차 확신이 서지 않을 정도입니다.

론의 능력과 끈기에 대한 이야기는 수년간 많이 들어왔고, 브라이언과는 지난 몇 년간 많은 시간을 함께하며 큰 도움과 조언을 받았습니다. 하지만 함께 위기 상황을 겪으며 그들이 진정으로 할 수 있는 일을 목격하는 것은 전혀 다른 차원의 경험이었습니다.

그들의 도움 없이는 OpenAI가 무너졌을 가능성이 높다고 합리적으로 확신합니다. 그들은 며칠간 밤낮으로 쉬지 않고 일을 처리했으며, 믿을 수 없을 만큼 열심히 일하면서도 침착함을 유지했고, 전략적으로 명확한 사고와 훌륭한 조언을 지속적으로 제공해주었습니다.

그들은 제가 몇 가지 실수를 저지르는 것을 막아주었고, 스스로는 단 한 번의 실수도 하지 않았습니다. 또한, 그들의 방대한 네트워크를 활용해 필요한 모든 것을 해결했으며, 복잡한 상황을 능숙하게 헤쳐나갔습니다. 그리고 제가 알지 못하는 많은 일들도 했으리라 확신합니다.

하지만 제가 가장 기억에 남을 것은 그들의 배려, 연민, 그리고 전폭적인 지원입니다.

저는 창업자와 회사를 지원하는 모습이 어떤지 알고 있다고 생각했지만, 이들이 한 일은 그 어떤 이야기에서도 들어본 적 없는 수준이었습니다. 이제야 그들이 왜 전설적인 명성을 가지고 있는지 더욱 깊이 이해하게 되었습니다.

론과 브라이언은 각기 다른 사람들로서, 산을 움직일 수 있을 정도의 놀라운 능력과, 어려운 시기에 흔들리지 않는 헌신이라는 공통점을 가지고 있습니다. 이 두 사람이 있다는 것만으로도 기술 업계는 훨씬 더 나아졌습니다.

우리 업계에는 이들과 같은 사람들이 더 있습니다. 이는 업계의 성공에 사람들 생각보다 훨씬 더 중요한 역할을 하며, 이를 가능하게 하는 특별한 점입니다. 앞으로 저 역시 이러한 도움을 다른 이들에게 갚아나가기를 기대합니다.

개인적으로는, 그 주말과 함께 항상 저를 지원해준 올리(Ollie: 샘 알트만의 남편)에게 특별히 감사를 전합니다. 그는 모든 면에서 놀라운 사람이며, 누구도 그보다 더 좋은 동반자를 바랄 수는 없을 것입니다.

[킹카]

곧이다..곧이야..

[또해냄]

너무 인간중심적 사고야 인공지능이 인류를 버릴거 같은데

[특이점이 달려온다]

그래서 지금 정렬 연구 열심히 하는 중

[달의 이름으로]

그래서 지피티한테 잘보이는중.. 나중에 인간을 지배할때 나는 봐줘..

[홍할속의콩매]

ㅋㅋㅋㅋㅋㅋㅋㅋ ㄱㅇㅇ 나도 잘보여야지

[이불쁠래]

수확자시리즈 썬더헤드로 진화했음 좋겠어.......

[편지봉투]

인공지능이 사람처럼 사고 하는거잖아 근데 쟤네가 아 귀찮아….그런 거 해줘야 해?? 이럼 어케..

[와이키키위]

챗지피티가 내편해주겠대

[따나나발기]

아 먼가 귀엽고 감동이다

[조낸배고픈거다ㄱ-]

지피티 넘 착해

[내노냐논]

대박! 여시야 가져와줘서 고마워 이따가 시간될 때 찬찬히 읽어야겠다!!

[W.Miller.]

가속도 붙은거 체감되는 시점도 쟤네 기준에서는 지났나보네...초단위로 변하는 세상이 오겠어

[뺘바]

앤트로픽 ceo랑 진짜 주관이 반대다..ㅋㅋ 앤트로픽쪽이 훨 현실적이야

[특이점이 달려온다]

아모데이가 최근에 말한거 있어?? 다리오 아모데이도 11월 22일 인터뷰에서 AGI 타임라인 25/26/27 이라 했는데

https://youtu.be/CvHx3VNjr90?si=qzpKvb6-v3yQ-4sK

[뺘바]

요기 https://darioamodei.com/machines-of-loving-grace
일단 AGI라는 말자체를 싫어한다고햇음
특이점같이 너무 낙관적인 것도 동의하지않고, 그렇다고 AI가 아무것도 바꾸지 못할 것이라는 너무 비관적인 의견에도 동의하지 않는다함 샘은 전자인듯

[특이점이 달려온다]

나도 저거 읽어봣는데 시간 지나서 맘 조금 바뀐거 아닌가 싶음 인텁이 더 후니까 근데 아모데이는 안전주의자 쪽이긴 해

[뺘바]

안전주의라기보단 급진적이라 안전을 강요한다고 보는디

[뺘바]

전혀 시비라고 못느꼇어...!!! ㅋㅋㅋㅋ

[하이엘엠]

나는 굳이 왜 초지능의 영역을 넘어가려고 하는지 모르겠어 어떤 세계일지 전혀 예상이 안가는데 너무 낙관적인거 아닌가 저 사람들은? 초지능이 우리에게 찬란한 미래일거라는거 말야 너무 위험하지 않나