스크랩 AI가 가져올 인류의 종말

[Fate]

출처

블로그>이 세대가 가기 전에 | 예레미야

원문

http://blog.naver.com/esedae/223957999780

1신>>Experts predict AI will lead to the extinction of humanity(전문가들을 AI가 인류의 종말을 이끌 것이라 예측하고 있다.)

7월 말 흐린 오후, 미션 베이 지역에 있는 OpenAI의 밋밋한 회사 건물 앞에 약 25명의 사람들이 서 있었다. 그들은 모두 "Stop AI"라고 쓰인 빨간색 티셔츠를 입고 있었는데, 이는 그들의 내세우는 어젠더와 소속 단체의 이름이기도 한데, 이 들 중 한 명은 로봇 복장을 하고 있었다.

'AI 중단'을 요구하는 이 시위대는 인공지능에 대한 우리의 현재 행보가 계속된다면 이것이 인류의 멸종으로 이어질 것이라고 믿고 있다.

흥미로운 것은 놀라울 정도로 많은 전문가들이 이들의 견해에 동의한다는 것이다. 이러한 가능성을 진지하게 받아들이는 사람들 중에는 작년에 AI 연구로 노벨 물리학상을 수상한 제프리 힌튼, 그리고 요슈아 벤지오가 있다.

튜링상 수상자, OpenAI, Anthropic, Google DeepMind의 최고경영자 등이 모두 다음과 같은 내용의 공개서한에 서명하였다.

"AI로 인한 멸종 위험을 늦추는 것이 전염병이나 핵전쟁과 같은 사회적 규모의 위험과 함께 전 세계적인 우선순위가 되어야 합니다."

AI로 인한 멸절은 여러 가지 방식으로 발생할 수 있다. 이 중의 한 가상 시나리오는, "AI가 세계 주요 도시에 조용히 확산되는 생물학 무기 12개를 살포하여 거의 모든 사람을 조용히 감염시킨 후, 화학 물질을 분사하고 무기를 작동시킨다"는 것이다

구체적인 (멸망) 시나리오보다, 더 중요한 것은 초지능 AI가 인간을 경쟁자로 여기는 순간 인간들을 지구상에서 멸종시키는 것이 하찮은 일이 될 것이라는 사실이다.

구글과 마이크로소프트의 전 엔지니어이자 현재 기계 지능 연구소 소장인 네이트 소아레스에 따르면, 우리가 지금의 길을 계속 간다면 AI로 인해 멸종할 확률은 "적어도 95%"라고 말하고 있다.

그는 우리 상황을 시속 100마일로 절벽을 향해 달리는 것에 비유하고 있는데, 그는 "차를 멈출 수 있음에도, 우리가 절벽을 향해 전속력으로 달리고 있다."라고 말하고 있다.

2신>> 저커버그 “초지능 AI 개발 가시화”에 ‘스카이넷’ 우려

오픈AI 올트먼, 맨해튼 프로젝트와 비교… “실제적인 위험 있어”

스스로 시스템을 향상시키는 초지능 AI의 출현을 알리는 저커버그와 이에 대해 우려를 표하고 있는 오픈 AI 올트만의 인터뷰 내용이다. AI에 대한 위험성을 부각시켜 이에 대한 통제권을 가지려는 것도 그림자정부의 또 다른 어젠더라는 것을 잊지 말아야 한다.

*인류를 지구의 적으로 인식한 인공지능(AI) 스카이넷이 인류를 멸망시키기 위해 ‘해결사’를 보낸다는 영화 터미네이터가 1984년에 개봉하여 전세계적인 흥행을 거두었는데, 영화가 개봉된 지 41년 만에 이것이 현실이 될 수 있다는 경고가 AI 전문가들 사이에서 나오고 있다.

1984년에 개봉한 영화 터미네이터가 둠스데이로 설정한 해가 2029년인데, 앞에서 소개한 기사처럼 AI 개발이 지금과 같이 통제 없이 진행된다면, 앞으로 4년 뒤인 2029년에는 정말로 AI로 인한 인류의 멸망이 현실이 될 수도 있겠다는 생각이 든다.

인류를 AI로부터 구원해주시기 위해서라도 주님이 너무 늦지 않은 시간에 다시 오셔야 할 것 같다는 생각이 드는데, 여하튼 처처에서 전쟁, 지진, 기근, 온역들의 소식과 함께 이미 인간의 지능을 뛰어넘은 AI가 인류를 멸절시킬 수 있다는 경고까지 나오는 것을 보니, 지금이 세상의 끝날인 것만큼은 부인할 수 없을 것같다.

“너는 이것을 알라 말세에 고통하는 때가 이르리라.(But realize this, that in the last days difficult times will come, 디모데후서 3장 1절)

- 예레미야 -