<p>범용 인공지능(AGI)은 인간과 동등한 수준의 지능을 갖춘 인공지능을 뜻함</p><p> </p><p> </p><p><a href="https://situational-awareness.ai/" target="_top" class="ke-link">https://situational-awareness.ai/</a></p><div class="figure-open" contenteditable="false" data-ke-type="opengraph" data-ke-align="alignCenter" data-og-type="website" data-og-title="Introduction - SITUATIONAL AWARENESS: The Decade Ahead" data-og-description="Leopold Aschenbrenner, June 2024 You can see the future first in San Francisco. Over the past year, the talk of the town has shifted from $10 billion compute clusters to $100 billion clusters to trillion-dollar clusters. Every six months another zero is ad" data-og-host="situational-awareness.ai" data-og-source-url="https://situational-awareness.ai/" data-og-url="https://situational-awareness.ai/" data-og-image="https://scrap.kakaocdn.net/dn/de2YnE/hyWvOU1TnI/B5sXQ9uQ9nm5KFL4Mx9a50/img.png?width=1200&height=628&face=0_0_1200_628"><a href="https://situational-awareness.ai/" target="_blank" data-source-url="https://situational-awareness.ai/"><div class="og-image"><img src="https://scrap.kakaocdn.net/dn/de2YnE/hyWvOU1TnI/B5sXQ9uQ9nm5KFL4Mx9a50/img.png?width=1200&height=628&face=0_0_1200_628" alt="" xxxxonerror="this.src="//img1.kakaocdn.net/thumb/C200x200/?fname=https%3A%2F%2Ft1.daumcdn.net%2Fcafe_image%2Fcafe_meta_image_190529.png""></div><div class="og-text"><p class="og-title">Introduction - SITUATIONAL AWARENESS: The Decade Ahead</p><p class="og-desc">Leopold Aschenbrenner, June 2024 You can see the future first in San Francisco. Over the past year, the talk of the town has shifted from $10 billion compute clusters to $100 billion clusters to trillion-dollar clusters. Every six months another zero is ad</p><p class="og-host">situational-awareness.ai</p></div></a></div><p> </p><p>레오폴드&일리야 수츠키버의 논문</p><p>참고로 일리야 수츠키버는 Open AI에서 </p><p>AI에 대한 안전과 윤리를 담당하는 업무를 하다가 해고된 인물</p><p> </p><p> </p><p><b>대충 요약한 내용+개인적인 첨언</b></p><p> </p><p>10년전 AI 모델들은 개와 고양이 구분조차 하질 못했음</p><p>2019년 GPT-2는 유치원생 수준의 AI로 그럴듯한 문장연결조차 잘 못하는 수준이었음</p><p>하지만 2024년 GPT-4는 똑똑한 고등학생 정도의 수준까지 올라왔고</p><p>대학생 수준의 AI까지 등장함</p><p> </p><p>그리고 2027년에 이르면 더이상 AI 연구원이나 프로그래머조차도 필요 없어질거라고 함</p><p>왜냐면 AI가 AGI에 도달해서</p><p>AI가 인간과 동일한 지능을 가지게되어 자율적인 의사 결정 능력을 지니게되고</p><p>스스로가 자신을 연구하고 업그레이드 할 수 있게 될 것이기 때문임</p><p>그리고 이 시기가 되면 AI는 기하급수적으로 발전하게 될 거라고 함</p><p> </p><p>예를 들어 지금 인간 엔지니어들이</p><p>성능이 2배 업그레이드된 새로운 GPT 버전을 만드는데 1년 걸린다 치면</p><p>AI가 스스로를 업그레이드 하기 시작하면</p><p>1년>6개월> 3개월> 1개월> 며칠> 그 이하의 시간 같은 식으로</p><p>발전 속도가 계속해서 가속도가 붙어서 성능향성의 텀은 계속 해서 짧아질거라는 거임</p><p> </p><p>이 논문의 저자도 말하기를</p><p>2024년 쳇GPT-4를 학습시키는데 4개월이 걸렸지만</p><p>2027년에는 쳇GPT-4수준의 AI 학습에 1분이 걸릴걸로 예상하고 있음 </p><p> </p><div class="figure-img" data-ke-type="image" data-ke-style="alignCenter" data-ke-mobilestyle="widthOrigin"><img src="https://t1.daumcdn.net/cafeattach/mEr9/d60983628a0bb4f4bd533ec73cb562d33e6b4565" class="txc-image" data-img-src="https://t1.daumcdn.net/cafeattach/mEr9/d60983628a0bb4f4bd533ec73cb562d33e6b4565" data-origin-width="600" data-origin-height="365"></div><p>대충 이런 느낌임</p><p>특이점에 도달하면 시간이 갈수록 저 인공지능의 발전 그래프는 직각에 가까워질거임</p><p>그리고 이 눈문에서 말하는 2027년이 저 특이점이 될거라는 거고</p><p> </p><p>AGI가 뭐 별건가? 그냥 더 성능 좋아진 쳇지피티 같은거 아냐?</p><p>라고 할 수 있는데</p><p>이런 말도 있음</p><p> </p><p><b>AGI를 경쟁자들보다 6개월 먼저 만드는데 성공한다면 기술적으로 경쟁자들보다 6000년 앞선 것과 같다</b></p><p><b>- 닉 보스트롬의 "슈퍼 인텔리전스" 중에서</b></p><p>(옥스퍼드대 철학과 교수, 인류 미래 연구소 소장,인공지능과 기술적 특이점 분야의 세계적인 전문가)</p><p> </p><p>AGI는 "초지능" 즉 "슈퍼 인텔리전스"의 최소필요조건인데</p><p>AGI까지만 도달하면 초지능까지는 얼마 안걸릴거라고 함</p><p> </p><p>초지능은 정말 신에 필적하는 능력을 지니고 있다고 해도 과언이 아님</p><p>지금까지 인간이 수천년간 발전시켜온 문명 발전속도를 단 몇년안에 따라잡을 수도 있음</p><p>모든 질병을 정복? 인간을 다시 역노화시켜 젊게 만들기? 초전도체? 화성의 식민화?</p><p>모든게 가능해질 수도 있음 </p><p> </p><p>그래서 초지능AI를 가진 이들(정부, 기업등)과 못가진 이들(정부, 기업)의 경제, 군사, 기술 수준 차이는</p><p>잉카인들과 스페인 콩키스타도르의 차이보다 더 커질거임</p><p> </p><div class="figure-img" data-ke-type="image" data-ke-style="alignCenter" data-ke-mobilestyle="widthOrigin"><img src="https://t1.daumcdn.net/cafeattach/mEr9/c9b2a5ca51df82f6fac5dc2f7df59fee88b2a2e7_re_1719766301436" class="txc-image" data-img-src="https://t1.daumcdn.net/cafeattach/mEr9/c9b2a5ca51df82f6fac5dc2f7df59fee88b2a2e7_re_1719766301436" data-origin-width="800" data-origin-height="560"></div><p><b>잉카인들을 학살하는 콩키스타도르</b></p><p><b>콩키스타도르가 남미에 도착했을때 잉카인들은 아직 석기시대~초기 청동기 시대에 머물러 있었다</b></p><p><b>대략 5000년 남짓의 시간적 차이가 있었던 셈</b></p><p> </p><p> </p><p>결국 가진 자와 못가진 자의 차이는</p><p>지금과 비교불가할 정도로 훨씬 벌어지게 될 것을 우려하고 있는데</p><p>AI를 개인이나 집단의 권력이나 욕망을 위해 악용 할 수도 있기 때문임</p><p>그래서 현재 상황이 핵폭탄이 처음 개발될 때보다도 더 위험하다는 소리도 나오고 있음</p><p> </p><p> </p>
<!-- -->
거기에 대해서도 논문저자가 알파고가 그 해답이 될 수 있다고 써놓음 1단계에서는 인간들의 바둑(기보)에 대한 모방 학습으로 알파고를 학습 시켰습니다. 이것이 알파고의 밑거름이 되었습니다. 2단계에서 알파고는 자기 자신과 수 백만 게임을 했습니다. 이것은 알파고를 바둑에서 초인적인 존재가 되게 했습니다. 이세돌과의 대국에서 유명한 37수를 기억하세요. 이것은 인간이 결코 하지 못했을 매우 특이하고도 기발한 창조적인 한 수 였습니다.
첫댓글 미래 사람들의 직업은 어떻게 돼있으려나
ㄷㄷ
일 안하고 놀고 먹는거 아님?(진짜 모름)
특이점온다 ㄷㄷ..
남들보다 조금이라도 빨리 특이점에 도달하면 아무도 못 따라오게 격차를 벌리는거네 ㄷㄷ
인공지능이 일 다하고 나라에선 걍 국민들한테 돈줬으면 좋겠다 ㅋㅋ
저거 당장 배운다고 이해할 수 있으려나
ㄷㄱ
21세기 들어서 기술발전 속도가 미친거같음
흠... 벌써 학습시킬 데이터 고갈이 내년이면 온다고하는데
그리고 성능이 2배된다할때 그 기준이 뭔지 궁금함...그냥 gpu때려박아서 학습,처리속도를 기준으로 말하는건지 아니면 뭔가 지능에 대한 확실한 정의와 그에 따른 수치를 매겨놓은게 있는건지도 궁금
그리고 인공지능 관련자들은 이렇게 ai가 가속도가 어마어마하고 발전가능성이 무한하다 주장하는데
그게 투자유치나 홍보를 위한 건지, 과장이 어느정도인지도 판별하기 좀 어렵긴함
거기에 대해서도 논문저자가 알파고가 그 해답이 될 수 있다고 써놓음
1단계에서는 인간들의 바둑(기보)에 대한 모방 학습으로 알파고를 학습 시켰습니다. 이것이 알파고의 밑거름이 되었습니다.
2단계에서 알파고는 자기 자신과 수 백만 게임을 했습니다. 이것은 알파고를 바둑에서 초인적인 존재가 되게 했습니다.
이세돌과의 대국에서 유명한 37수를 기억하세요. 이것은 인간이 결코 하지 못했을 매우 특이하고도 기발한 창조적인 한 수 였습니다.
물론 인공지능의 발전 속도가 굉장히 빠르지만 지금의 방식으로는 AGI에 도달하지 못 할 것이라 생각
나스닥100 사면됨 그안에 다 들어있음
AI 자가발전 특이점 2025년 이었는데 옛날 글에선
미국이 6만년 앞서가겠군
과장 많이 섞인듯
하드웨어가 따라가주질 못할거같은데
아직멀었음. 그리고 성능의 기준도 에매하고.
특이점이 오려면 모델잋바뀌어야하는데 모델은 계속고정이라고 보면되서. 데이터로만 하기엔 한계가있음
1분 1초 마다 엄청난 격차를 만든다면, 반대로 EMP로 1분만 전력을 끊어도 후진국 되는거 아님?
3년이나걸림?
ㄷㄱ