스크랩 'AI 위험' 경고, 결국엔 세계정부가 통제권을 갖기 위한 수순이다.

[무명이]

출처

블로그>이 세대가 가기 전에 | 예레미야

원문

http://blog.naver.com/esedae/223470649029

>>"인간 멸종 될 수도"…'AI 위험' 경고 울린 내부자들

오픈AI·구글 딥마인드 전·현직 직원 성명

"내부고발 불가…기업 내부서 변화 어려워"

"위험 우려 공유될 수 있도록 보호 필요“

[이데일리 이소현 기자] 챗GPT 개발사 오픈AI와 구글 딥마인드의 전·현직 직원들이 규제되지 않은 인공지능(AI)은 위험하다며 ‘인간 멸종’을 초래할 수 있다고 경고하고 나섰다. AI를 직접 만든 기업들은 자체적으로 문제를 해결할 수 없다며 위험 우려가 공유될 수 있도록 내부 고발자에 대한 보호 조치가 마련돼야 한다고 주장했다.

4일(현지시간) 월스트리트저널(WSJ)과 로이터통신 등에 따르면 오픈AI, 구글의 딥마인드 전·현직 직원 10여명은 이날 공동 성명을 내고 AI라는 새로운 기술이 초래할 수 있는 위험에 대한 우려를 제기했다.

이 성명서에 실명을 올린 윌리엄 손더스 오픈AI 전 직원은 “최첨단 AI 시스템의 작동 방식과 배포와 관련한 위험에 대해 가장 많은 지식을 가진 사람들이 자유롭게 말할 수 없다”고 밝혔다. 손더스 외에도 오픈AI 전 직원 6명, 현 직원4명을 비롯해 딥마인드의 전·현직 직원은 각 1명이 이름을 올렸으며, 서명자 중 6명은 익명을 요구했다.

이들은 성명에서 “AI와 관련된 위험은 기존의 불평등을 심화시키는 것부터 조작과 잘못된 정보, 잠재적으로 인간의 멸종을 초래하는 자율적인 AI 시스템의 통제 상실까지 다양하다”며 “이는 인류의 멸망으로 이어질 수 있다”고 지적했다.

일부 사례로 오픈AI를 비롯한 여러 회사의 AI 프로그램이 투표와 관련한 잘못된 정보를 포함한 사진을 생성한 사례를 발견했다고 전했다.

이러한 AI와 관련한 위험 관리는 맞춤형 기업 지배구조 탓에 기업 내부에서 고발을 하는 등 변화를 일으키기는 어렵다고 밝혔다. 이들은 “AI 기업은 이윤 추구 목표로 제대로 된 감독을 하지 못하고 기업 내부의 규제 시스템만으로는 문제를 해결할 수 없다”며 “AI 기업은 다양한 종류의 위험 수준에 대한 상당한 비공개 정보를 보유하고 있지만 이런 정보 중 일부를 정부 및 시민사회와 공유할 의무가 약하고, 자발적으로 공유할 것이라고 생각하지 않는다”고 주장했다.

또 AI 기업들이 과도한 기밀 유지 계약으로 관련 우려 제기나 비판을 막아서고 있다고도 비판했다. 이들은 “회사와 광범위한 기밀 유지 계약으로 우려를 표명할 수 없다”며 “일반적인 내부고발자 보호는 불법 행위에 초점을 맞춰져 있으며, 우리 중 일부는 업계 전반에 걸쳐 이런(내부 고발) 사례의 역사를 고려할 때 다양한 형태의 보복을 두려워한다”고 강조했다.

이에 △회사의 위험 관련 우려에 대한 비방이나 비판을 금지하는 계약 체결 금지 △독립 기관에 위험 관련 우려 사항을 제기할 수 있는 익명 절차 마련 △위험 관련 정보를 공개적으로 공유하는 전현직 직원에 대한 보복 금지 등을 촉구했다.

아울러 저명한 AI 전문가들도 이 서한을 지지하고 나섰다고 WSJ은 전했다. AI 과학자 스튜어트 러셀, 초기 획기적인 연구로 ‘AI의 대부’로 불리는 요슈아 벤지오, 제프리 힌튼이 그 주인공이다. 힌튼은 AI 기술의 위험성에 대해 더 자유롭게 이야기하기 위해 작년 구글을 떠나기도 했다.

일부 AI 연구자들은 AI 기술이 통제 불능 상태가 돼 전염병이나 핵전쟁처럼 위험해질 수 있다고 보고 있으며, 이같이 우려의 강도는 낮더라도 AI에 대한 규제를 강화해야한다고 생각하는 전문가들도 많다고 WSJ은 전했다.

생성형 AI 시장을 주도하고 있는 오픈AI는 이 성명에 대한 답변에서 정부의 규제가 필요하다는 데 동의한다고 밝혔다. 오픈AI 대변인은 “우리는 가장 유능하고 안전한 AI 시스템을 제공해온 실적을 자랑스럽게 생각하며, 위험을 해결하기 위한 과학적 접근 방식을 믿는다”며 “우리는 이 기술의 중요성을 고려할 때 엄격한 토론이 중요하다는 데 동의하며 전 세계 정부, 시민 사회 및 기타 커뮤니티와 계속 소통할 것”이라고 했다.

* “챗GPT 개발사 오픈AI와 구글 딥마인드의 전·현직 직원들이 규제되지 않은 인공지능(AI)은 위험하다며 ‘인간 멸종’을 초래할 수 있다고 경고하고 나섰다.”는 기사의 글머리를 보니, “기후변화가 ‘인간 멸종’을 초래할 수 있다”는 경고와(협박과) 함께 각 국가와 기업을 유엔의 통제 아래 두어야 한다고 주장하는 세계정부주의 레토릭(rhetoric)이 떠오른다.

"인간 멸종 될 수도 있다"는 내부자들의 폭로가 AI에 대한 통제권을 세계정부주의자들이 갖기 위한 수순(작전)일 수 있다는 뜻인데, 그렇게 된다면 궁극적으로는 세계정부주의자들이 기다리는 저들의 메시아, 적그리스도가 AI에 대한 통제권을 손에 쥐게 될 것이다.

인간을 멸종의 위기에 몰아갈 수도 있는 강력한 힘과, 사람들의 일거수일투족을 24시간 감시, 통제하는 능력을 가진 AI에 대한 통제권을 손에 쥔 적그리스도가 살아있는 신처럼 군림하게 될 세상이 곧 도래하게 될 것이라는 뜻이다.

“내가 보매 또 다른 짐승이 땅에서 올라오니 새끼양 같이 두 뿔이 있고 용처럼 말하더라. 저가 먼저 나온 짐승의 모든 권세를 그 앞에서 행하고 땅과 땅에 거하는 자들로 처음 짐승에게 경배하게 하니 곧 죽게 되었던 상처가 나은 자니라. 큰 이적을 행하되 심지어 사람들 앞에서 불이 하늘로부터 땅에 내려 오게 하고, 짐승 앞에서 받은바 이적을 행함으로 땅에 거하는 자들을 미혹하며 땅에 거하는 자들에게 이르기를 칼에 상하였다가 살아난 짐승을 위하여 우상을 만들라 하더라. 저가 권세를 받아 그 짐승의 우상에게 생기를 주어 그 짐승의 우상으로 말하게 하고 또 짐승의 우상에게 경배하지 아니하는 자는 몇이든지 다 죽이게 하더라.”(요한계시록 13장 11-15절)

- 예레미야 -