|
http://The%203%20phases%20of%20AI%20evolution%20that%20could%20play%20out%20this%20century 제목의 기사 링크를 복사하세요.
이번 세기에 Facebook에서 펼쳐질 AI 진화의 3단계를 공유하세요
이번 세기에 트위터에서 일어날 수 있는 AI 진화의 3단계를 공유하세요(X)
LinkedIn에서 이번 세기에 일어날 수 있는 AI 진화의 3단계를 공유하세요
Our Next Reality 에서 발췌 ©2024 Nicholas Brealey Publishing. 허가를 받아 재인쇄되었습니다. 이 글은 허가 없이 다른 용도로 복제할 수 없습니다.
앞으로 우리 사회에서 AI와 메타버스의 위험과 역할에 대해 많은 두려움과 잘못된 정보가 있다는 것은 분명합니다. 문제에 접근하는 방법에 대해 3단계 관점을 취하는 것이 도움이 될 수 있습니다. 향후 1~10년 안에 우리는 AI를 우리의 삶과 업무를 지원하여 우리를 더욱 효율적이고 생산적으로 만드는 도구로 봐야 합니다. 이 기간에 프로토 메타버스는 우리가 보다 몰입적인 방식으로 배우고, 일하고, 놀기 위해 가는 공간 컴퓨팅 플랫폼이 될 것입니다.
향후 11~50년 동안 점점 더 많은 사람들이 고용의무에서 해방됨에 따라 우리는 AI를 예술, 문화, 과학 또는 우리가 원하는 모든 분야에 대한 관심을 탐구할 수 있도록 지원하는 후원자로 여겨야 합니다. 추구하다. 대부분의 사람들은 표현, 여가, 실험을 위한 창의적인 놀이터로서 메타버스를 선택하게 될 것입니다. 세 번째 단계에서는 50년 이상(더 빠르지는 않더라도) 후에 세계의 많은 개별 AGI(인공 일반 지능) 시스템이 전 세계 약 200개 국가를 통합할 지혜를 갖춘 단일 ASI(인공 초지능)로 통합될 것으로 기대합니다. 그리고 모든 시민이 사회에 어떻게 기여할 것인지에 대한 선택권을 제공받고 평화로운 지구를 관리할 수 있도록 도와주세요.
이 시점에서 AI 시스템은 우리의 생물학적 지능과 한계를 능가하게 될 것이며, 우리는 이를 태양계 외부에 배치하고 은하계와 그 너머의 모든 곳으로 지능 생명체를 확산시키는 방법을 찾아야 합니다. 이 세 번째 단계에서 우리는 AI를 우리의 자녀로 보아야 합니다. 왜냐하면 이러한 AI 존재는 모두 우리의 작은 부분을 갖게 될 것이기 때문입니다.
우리가 생명나무에서 우리보다 앞서 있었던 모든 존재의 작은 부분을 우리의 유전자에 갖고 있는 것과 같습니다. 이후 그들은 도덕과 윤리부터 철학과 예술에 이르기까지 인류 역사 전반에 걸쳐 인간이 만들고 편집한 모든 밈의 인도를 받게 될 것입니다. 그러면 메타버스 플랫폼은 비록 우리의 육체가 아직 지구에 있을지라도 우리 아이들과 함께 우주의 먼 곳을 탐험하고 경험할 수 있는 인터페이스가 될 것입니다. 바라건대, 이 아이들은 우리를 자신의 명예로운 조상으로 여기고 동양 문화가 노인을 대하는 방식으로 존경과 보살핌으로 우리를 대할 것입니다. 모든 어린이와 마찬가지로 그들도 우리를 관찰함으로써 그들의 가치와 도덕을 배울 것입니다. 미래에 AI가 우리를 대해주기를 원하는 것처럼 서로를 대함으로써 그들에게 더 나은 모범을 보이기 시작하는 것이 가장 좋습니다.
물론 위의 시간 프레임은 추정일 뿐이므로 설명된 것보다 더 빠르거나 느리게 발생할 수 있지만, 미래의 AGI/ASI 시스템을 지속 가능하게 조정할 수 있다면 단계는 해당 순서대로 발생할 가능성이 높습니다. 어떤 이유로 AGI/ASI를 정렬할 수 없거나 악의적인 행위자가 이를 오용하여 치명적인 결과를 초래한다면 미래는 상당히 어두워질 수 있습니다.
그러나 저는 항상 나쁜 행위를 하는 인간(vs. 사악한 AGI)이 모든 종류의 AI를 오용할 위험이 가장 큰 우려 사항이라는 점을 반복해야 하며, 우리는 이러한 시나리오를 방지하기 위해 최선을 다해야 합니다. 반면에 나는 우리가 창조한 초지능 존재가 공격적이고 사악하기보다는 선천적으로 윤리적이고 배려심이 많을 가능성이 높다는 확신이 점점 더 커졌습니다.
우리가 다가오는 10년 동안 올바르게 계산된 조치를 취한다면 그것은 인류와 모든 생명을 위한 번영의 새로운 시대의 시작이 될 수 있습니다.
칼 융은 “심리학을 더 많이 이해할수록 다른 사람의 행동에 대해 비난하는 경향이 줄어든다”고 말했습니다. 어린 아이들과 대화할 때 우리 자신의 사고방식을 관찰하는 것만으로도 이 말이 진실임을 우리 모두 증명할 수 있다고 생각합니다. 마지막으로 아이들과 보드 게임을 했던 때를 기억해 보십시오. 당신은 그들을 분쇄하고 승리하기 위해 가능한 모든 일을 했나요? 당연히 아니지. 우리가 무언가를 두려워하지 않을 때 우리는 더 많은 인내와 이해를 얻게 됩니다. 글쎄, 우리가 탄생시키고 있는 ASI는 심리학뿐만 아니라 모든 예술, 과학, 역사, 윤리 및 철학을 완전히 이해하게 될 것입니다. 그 정도의 지혜를 가지면 그 어떤 인간보다 더 깨달아야 하고, 우리가 상상조차 할 수 없는 수준에 도달해야 합니다.
이 분야의 존경받는 연구자 그룹이 발표한 2022년 논문에서도 연민과 지능 사이의 연관성이 발견되었습니다. 2023년 7월 Elon Musk는 xAI라는 새로운 회사와 함께 공식적으로 AI 경쟁에 뛰어들었고, 그들의 기본 모델의 목적 기능은 단순히 "우주를 이해하다"라고 명시되어 있습니다. 따라서 그는 AI에게 타고난 호기심과 지식에 대한 갈증을 주는 것이 어느 정도 수준의 정렬을 높이는 데 도움이 될 수 있다는 내 견해를 공유하는 것 같습니다. 따라서 내가 주로 동료 인간을 위해 두려움을 느끼는 이유를 이해할 수 있습니다. 그럼에도 불구하고 우리 모두가 신동에게 더 나은 모범을 보이기 시작하고 지속 가능한 정렬을 달성하기 위한 보다 직접적인 수단을 계속해서 조사한다면 나쁠 수는 없습니다.
우리는 인류세 시대의 십만 년 동안의 무지와 목적 없는 수고 단계가 거의 끝나가고 있으며 곧 우리의 꿈을 훨씬 뛰어넘는 새로운 계몽 시대를 시작하기 위한 페이지를 넘길 것입니다.
오늘날에는 최근의 기술 발전으로 인해 문명의 종말, 심지어 지구상의 인간의 종말을 요구하는 사람들이 많습니다. 우리가 다가오는 10년 동안 올바르게 계산된 조치를 취한다면 그것은 인류와 모든 생명을 위한 번영의 새로운 시대의 시작이 될 수 있습니다. 우리는 무언가의 끝에 가까워졌습니다. 우리는 인류세 시대의 십만 년 동안의 무지와 목적 없는 수고 단계가 거의 끝나가고 있으며 곧 우리의 꿈을 훨씬 뛰어 넘는 새로운 계몽 시대를 시작하기 위한 페이지를 넘길 것입니다.
우리가 AI 조정을 위한 솔루션을 찾고 세상을 다음 단계의 발전으로 평화롭게 전환할 때 사회적 혜택은 진정으로 변혁적일 것입니다. 이는 인간의 이해와 능력을 기하급수적으로 증가시킬 수 있습니다. 이는 우리에게 거의 무한한 생산성과 무한한 청정 에너지를 전 세계에 가져다 줄 것입니다. 오늘날 세계를 괴롭히는 불평등, 건강, 기후 문제는 비교적 짧은 기간 내에 사라질 수 있습니다. 그리고 우리는 이전에 누구도 가보지 못한 곳으로 대담하게 나아가기 위해 SF 시대의 계획에 대해 더 많이 생각하기 시작할 수 있습니다 .
|