전문가의 3분의 1은 AI가 '핵 수준의' 재앙을 일으킬 수 있다고 말합니다.

[이매진]

전문가의 3분의 1은 AI가 '핵 수준의' 재앙을 일으킬 수 있다고 말합니다.

https://www.aljazeera.com/economy/2023/4/14/ai-could-cause-nuclear-level-catastrophe-third-of-experts-say

AI could cause ‘nuclear-level’ catastrophe, third of experts say

전문가의 3분의 1은 AI가 '핵 수준의' 재앙을 일으킬 수 있다고 말합니다.

스탠포드 대학 보고서에 따르면 AI와 관련된 '사건 및 논란'이 10년 동안 26배 증가했습니다.

AI의 급속한 발전으로 더 많은 규제를 요구하게 되었습니다. [파일: Dado Ruvic/Reuters]

에린  헤일

2023년 4월 14일에 게시됨2023년 4월 14일

스탠포드 대학의 조사에 따르면 연구원의 3분의 1 이상이 인공 지능(AI)이 "핵 수준의 재앙"을 초래할 수 있다고 믿으며 빠르게 발전하는 기술로 인해 제기되는 위험에 대한 부문의 우려를 강조합니다.

이 설문 조사는 스탠포드 인간 중심 인공 지능 연구소(Stanford Institute for Human-Centered Artificial Intelligence)가 발표한 2023년 AI 지수 보고서에서 강조된 결과 중 하나로 급성장하는 AI 분야의 최신 개발, 위험 및 기회를 탐구합니다.

계속 읽으세요4개 항목 목록목록 1/4AI, 암호 시대의 젊은 피를 위한 중국의 기술 고참목록 2/4전쟁 2년 차에 들어서면서 우크라이나인들이 일본의 기술 격차를 메우고 있다4개 중 3개 목록머스크, 다른 기술 전문가들, 추가 AI 개발 중단 촉구목록 4/4AI 기반 허위 정보의 미래는 어떤 모습일까요?목록의 끝

"이러한 시스템은 질문 응답 기능과 10년 전에는 상상할 수 없었던 텍스트, 이미지 및 코드 생성 기능을 보여 주며 이전 및 새 벤치마크에서 최신 기술을 능가합니다."라고 보고서 작성자는 말합니다.

"그러나 그들은 환각에 빠지기 쉽고 일상적으로 편향되어 있으며 사악한 목표를 달성하도록 속일 수 있으며 배치와 관련된 복잡한 윤리적 문제를 강조합니다."

이달 초 발표된 이 보고서는 챗봇과 연계된 자살부터 볼로디미르 젤렌스키 우크라이나 대통령이 러시아군에 항복하는 것처럼 보이는 딥페이크 비디오에 이르기까지 다양한 논란이 이어지면서 AI 규제에 대한 요구가 커지고 있는 가운데 나왔다.

지난 달 Elon Musk와 Apple 공동 설립자 Steve Wozniak은 "강력한 AI 시스템은 일단 그 효과가 긍정적이고 위험이 관리 가능할 것이라는 확신이 들면 말입니다.”

2023년 AI 인덱스 보고서에서 강조된 설문 조사에서 연구원의 36%는 AI가 내린 결정이 핵 수준의 재앙으로 이어질 수 있다고 답했으며 73%는 곧 "혁명적인 사회 변화"로 이어질 수 있다고 말했습니다.

설문 조사는 Open AI의 ChatGPT가 11월에 출시되기 전인 지난해 5월에서 6월 사이에 GPT-4와 같은 챗봇 개발의 핵심 컴퓨터 과학 분야인 자연어 처리 전문가 327명에게 들었습니다.

지수에서도 강조된 일반 대중의 IPSOS 설문 조사에서 미국인은 AI를 특히 경계하는 것으로 나타났습니다. "AI를 사용하는 제품과 서비스가 단점보다 이점이 더 많다"는 데 동의하는 비율은 35%에 불과했습니다. 반면 중국 응답자의 78%는 , 사우디아라비아 응답자의 76%, 인도 응답자의 71%였습니다.

스탠포드 보고서는 또한 AI와 관련된 "사건 및 논쟁"의 수가 지난 10년 동안 26배 증가했다고 언급했습니다.

알자지라 가입하기아메리카 커버리지 뉴스레터

미국 정치, 캐나다의 다문화주의, 남미의 지정학적 부상 등 중요한 이야기를 들려드립니다.

가입하기

가입하면 개인 정보 보호 정책 에 동의하게 됩니다.

AI를 규제하고 통제하기 위한 정부의 움직임이 힘을 얻고 있습니다.

중국 사이버 공간 관리국(Cyberspace Administration)은 이번 주 GPT-4 및 Alibaba의 Tongyi Qianwen 및 Baidu의 ERNIE 와 같은 국내 라이벌의 배후 기술인 생성 AI에 대한 규정 초안을 발표했습니다. 이 기술은 " 사회주의의 핵심 가치"를 고수하고 정부를 훼손하지 않도록 합니다.

유럽 ​​연합은 어떤 종류의 AI가 사용이 허용되고 어떤 종류가 금지되어야 하는지를 규정하는 "인공지능법"을 제안했습니다.

AI에 대한 미국 대중의 경계는 아직 연방 규정으로 해석되지 않았지만 이번 주 Biden 행정부는 "AI 시스템이 합법적이고 효과적이며 윤리적이며 안전하고 신뢰할 수 있음"을 보장하는 방법에 대한 공개 협의를 시작한다고 발표했습니다.

출처 : 알 자지라