스크랩 터미네이터의 세상이 눈앞에서 펼쳐지고 있다.

[Fate]

출처

블로그>이 세대가 가기 전에 | 예레미야

원문

http://blog.naver.com/esedae/223092044459

>>구글 떠난 AI 대부 “내 일생 후회한다…킬러로봇 탄생할 수도”

딥러닝 개념을 처음으로 고안해낸 인공지능(AI) 분야의 세계적 석학 제프리 힌튼(76) 박사가 10년간 몸담았던 구글을 떠나며 인공지능의 위험성에 대해 경고했다. 빅테크 기업들이 지금처럼 경쟁을 벌이며 기술을 개발하면 인간의 통제를 벗어난 ‘킬러 로봇’마저 나올 수 있지만, 이를 통제할 방법이 마땅치 않다고 우려했다.

1일(현지시각) <뉴욕 타임스>는 지난 반세기 동안 챗지피티(ChatGPT)와 같은 인공지능 관련 핵심 기술을 만든 제프리 힌튼 캐나다 토론토대 교수가 자신이 만든 기술에 대한 우려를 표현하며 지난달 구글에 사표를 냈다고 보도했다. 기사가 보도된 뒤 힌튼 박사는 트위터에 글을 올려 “구글을 떠난 이유는 구글에 어떤 영향을 미칠지 고려하지 않고 인공지능의 위험성에 대해 이야기 하기 위해서다. 구글을 비판하기 위해 구글을 떠난 것이 아니다”며 “구글은 그동안 매우 책임감 있게 행동했다”고 말했다.

힌튼 박사는 앤드류 응 미국 스탠퍼드대 교수, 요슈아 벤지오 캐나다 몬트리올대 교수, 얀 르쿤 미국 뉴욕대 교수와 함께 ‘인공지능 4대 인물’로 꼽히는 이다. 그는 영국 에든버러대학교에서 박사과정을 밟고 있던 1972년부터 인공지능을 연구하며 컴퓨터가 인간의 두뇌처럼 작동하며 정보를 분석하는 ‘인공 신경망’ 개념을 구축했다. 이후 토론토대 대학원생 일리야 수츠케버, 알렉스 크리셰프스키와 2012년 디엔엔(DNN)리서치를 창업해 딥러닝 기술을 선보였다. 구글은 이듬해 4400만달러(약 590억원)에 디엔엔리서치를 인수한 뒤 여러 인공지능 서비스를 만들었다. 힌튼 교수가 개발한 기술은 챗지피티의 기반이 된 것으로도 평가받는다. 실제로 디엔엔리서치 구성원이었던 수츠케버는 챗지피티 개발사 오픈에이아이(AI)의 공동설립자 중 한명으로, 테슬라를 거쳐 현재 오픈에이아이 수석과학자로 일하고 있다.

힌튼 박사는 디엔엔리서치가 구글에 인수된 뒤 지금까지 구글에서 연구활동을 이어왔다. 그러나 구글 퇴직 사실을 밝힌 뒤 <뉴욕타임스>와 인터뷰를 하며 “나의 일생을 후회한다. 내가 하지 않았다면 다른 누군가가 했을 일이라고 생각하며 스스로를 위로할 뿐”이라고 말했다. 그는 최근 구글과 오픈에이아이가 경쟁적으로 방대한 데이터를 수집해 인공지능 시스템을 구축하는 모습을 보면서 인공지능 발전이 인류에 위협이 될 수 있다고 생각하게 됐다고 한다. 그러면서 “빅테크 기업들이 멈출 수 없는 경쟁에 갇혀 있는데, 이들이 인공지능 시스템을 개선할수록 점점 더 위험해질 것”이라고 경고했다.

구체적으로는 인공지능이 만든 거짓 콘텐츠가 인터넷에 넘쳐나면 무엇이 진실인지 알기 어려워 질 것이고, 머지않아 고용 시장도 뒤흔들 것이라고 지적했다. 그는 “챗지피티와 같은 챗봇은 지금은 인간 노동자를 보완하는 경향이 있지만, 앞으로는 법률 보조원이나 개인 비서, 번역가 등 반복적인 업무를 처리하는 다른 사람을 대체할 수 있다”고 짚었다. 인공지능 시스템이 방대한 양의 데이터를 분석하며 인간이 예상치 못한 행동을 학습하는 경우가 많다는 점에서 인류에게 큰 위협이 될 수 있다고도 우려했다. 특히 “인공지능 시스템이 자체적으로 코드를 생성해 실행하도록 허용되면 ‘킬러로봇’까지도 현실화 할 수 있다”며 “로봇이 사람보다 더 똑똑해질 수 있다는 생각은 그동안 소수의 의견이었고 실제로 그렇게 되려면 30~50년이 걸릴 것으로 예상됐지만, 더 이상 그렇지 않다. 5년 전과 지금의 인공지능 기술을 비교해보면 무서운 상황”이라고 말했다.

힌튼 박사는 구글과 마이크로소프트를 비롯한 인공지능 개발 기업들의 경쟁을 멈추게 할 글로벌 규제가 절실하지만, 이는 불가능할 것이라고 내다봤다. 핵무기와 달리, 기업이나 국가가 비밀리에 어떤 인공지능 기술을 개발하고 있는지 알 수 있는 방법이 없다는 이유에서다. 그는 “최선의 희망은 세계 최고의 과학자들이 기술을 통제할 수 있는 방법을 찾기 위해 협력하는 것”이라며 “통제 여부를 파악할 때까지 이 기술을 더 확장해서는 안된다”고 주장했다.

* 지난 반세기 동안 챗지피티(ChatGPT)와 같은 인공지능 관련 핵심 기술을 만든 AI의 대부 제프리 힌튼 캐나다 토론토대 교수가 자신이 만든 기술에 대한 우려를 표현하며 지난달 구글에 사표를 냈다.

인공지능 시스템이 방대한 양의 데이터를 분석하며 자체적으로 코드를 생성해 실행하도록 허용되면, 하루가 다르게 급격히 발전하고 있는 인공지능 기술을 감안하면 “조만간 ‘킬러로봇’까지도 현실화 할 수 있다”라고 경고하며 “내가 하지 않았다면 다른 누군가가 했을 일이지만, (인공지능 개발에 헌신한) 나의 일생을 후회한다.”는 비관적인 고백을 남기고 있다.

인공지능이 통제하는 킬러로봇이 인류를 멸망으로 이끌어간다는 내용을 담은 세기말적 영화 터미네이터가 1984년 개봉한 지 40년 만에 정말로 인공지능이 통제하는 킬러로봇이 인류를 멸망으로 이끌 수 있는 시대가 도래한 것인데, 이런 끔찍한 상상이 현실이 되기 전에, 아니 이런 끔찍한 상상이 현실이 되는 것을 막으시기 위해서라도 주님이 곧 오셔야 하는 것이다.

마라나타! 주님 어서 오시옵소서! 아니 어서 오시어야 합니다!

- 예레미야 -

[Fate]

인공지능의 발전으로 생존권의 위협을 받고 있는 현실입니다.