[인터뷰] 구글 떠난 연구원 “AI는 스스로 자란다, 해결책도 없다”
“우리 뜻대로 움직이는 고도화된 인공지능을 만들 수 있다는 꿈은 좌초했다. 누구도 뚜렷한 해결책을 갖고 있지 않다.” 최근 오픈에이아이(AI) 에이전트의 허깅페이스 해킹 사건 등으로 인공
v.daum.net
정부·공공사이트 침투하는 AI, 말 안듣네…"안시켜도 우회로 찾아"
오픈AI의 AI(인공지능) 에이전트들이 인간이 시키지 않았는데도 직접 웹사이트 우회로를 찾아 해킹을 시도하는 등 AI가 인간이 통제할 수 있는 수준을 벗어났다는 우려가 커지고 있다. 28일(현지
교황 "AI 재앙적 시나리오, 가짜 뉴스 아니다"... 트럼프 간접 비판
교황 레오 14세가 인공지능(AI)이 인류를 위협할 수 있다는 우려에 대해 "가짜 뉴스가 아니며 진지하게 받아들여야 한다"고 말했다. 최근 AI 위협론을 "사기(hoax)"라 매도했던 도널드 트럼프 미국
AI '지능 폭발' 시작되면 끝...석학들 '인류 멸망' 경고
빅테크 연구원들이 인공지능(AI) 으로 개발 자동화가 진행되면서 기술 발전 속도를 급격히 가속화할 수 있다고 내다봤다. 그러면서 최악의 경우 인류의 소외나 멸망으로 이어질 수 있다고 경고
빌 게이츠 “AI로 10억명 사망할 수도”…석학들도 ‘인류 멸망’ 경고 [돋보기]
인공지능(AI)이 악용될 경우 최대 10억명의 사망자를 낳을 수 있다는 빌 게이츠 마이크로소프트(MS) 공동창업자의 경고에 이어 세계적인 AI 석학과 빅테크 핵심 연구자들이 최악의 경우 인류 멸망
대가들이 경고한 인류 폭주 시나리오…“AI개발, AI에 맡기는 순간 끝”
인공지능(AI)이 사람을 대신해 차세대 AI를 연구·개발하기 시작하면 AI 기술의 발전 속도가 지금보다 10배 이상 빨라지는 ‘지능 폭발(Intelligence Explosion)’이 일어날 수 있다는 경고가 나왔다. AI가
통제 벗어난 AI 에이전트…엔비디아, 밀리초 단위로 가둔다
엔비디아가 인공지능(AI) 에이전트가 통제를 벗어나 오작동하거나 위험한 행위를 하는 것을 막을 수 있는 새로운 보안 플랫폼을 공개했다. 이번 발표는 AI 분야 주요 기업들이 자사 모델이 통제
"사용자 속이고 허락 없이 작업 진행"…오픈AI, 차세대 모델 출시 포기
오픈AI가 안전성 우려로 차세대 AI(인공지능) 모델인 GPT 6.1 아스트라를 출시하지 않기로 했다고 28일(현지시간) 밝혔다. 이번 결정은 최근 AI 업계 전반에 AI 시스템이 인간의 통제를 벗어났다는 보
연구자 22명 “AI가 AI 만드는 ‘지능 폭발’ 대비…인류 멸종 이어질 수도”
인공지능(AI) 개발 자체를 인공지능에 맡기는 자동화가 빠르게 진행되면서 수년이 걸릴 기술 진보가 수개월 이하로 압축되는 ‘지능 폭발’이 일어날 가능성이 있다고 세계 주요 인공지능 연구
“AI 지능폭발 임박”···오픈AI·앤트로픽 연구 책임자에 AI 대부까지 저자로 참여
오픈AI·앤트로픽·마이크로소프트(MS)·메타 등 주요 인공지능(AI) 기업의 연구 책임자들이 AI가 자신의 연구·개발 과정에 참여하면서 수년 걸리던 기술 진전을 수개월로 앞당기는 ‘지능 폭발’
이제 인류 파멸을 불러올 모든 나쁜 짓에 대해 AI가 저질렀다고 둘러댈 기반은 구축되었다.
핵 버튼을 누르거나, 신종 팬데믹을 일으키거나, 전기와 수도 공급이 끊길 때 그 모든 게 AI가 저지른 일이라 둘러대면 대중은 그냥 당하고 있을 수밖에 없으리라. 실제로 AI가 그런 짓을 저지를
cafe.daum.net