과학자들은 전 세계적인 사이버 위험을 막기 위해 인공지능에 대한 더욱 엄격한 통제를 촉구하고 있습니다.

[이매진]

과학자들은 전 세계적인 사이버 위험을 막기 위해 인공지능에 대한 더욱 엄격한 통제를 촉구하고 있습니다.

https://www.aljazeera.com/economy/2026/10/13/scientists-urge-tighter-ai-controls-to-prevent-global-cyber-risks

Scientists urge tighter AI controls to prevent global cyber risks

이번 요구는 미국 중간선거를 앞두고 정치 지도자들의 인공지능 위험 관리 능력에 대한 의구심이 여론조사에서 제기된 가운데 나왔습니다.

들어보세요 (4분)

구하다

과학자들은 소셜 미디어상의 글로벌 사이버 위험을 방지하기 위해 인공지능(AI)에 대한 더욱 엄격한 통제를 촉구했습니다.

공유하다

구글에 알자지라를 추가하세요

32개국 과학자들이 오픈AI와 앤트로픽 같은 AI 기업들에게 모델이 오작동하는 것을 막기 위한 안전장치를 강화할 것을 촉구하는 서한에 서명했습니다. [사진: ​​레온 닐/게티 이미지]

앤디 허쉬펠드 지음

2026년 10월 13일 게시됨2026년 10월 13일

전 세계 300명 이상의 과학자들이 인공지능의 예측 불가능한 행동에 대한 우려가 커지는 가운데, 인공지능 개발 및 배포 방식에 대한 시급한 변화를 촉구하고 있습니다.

화요일에 공개된 이 서한은 32개국 대학 및 연구기관을 대표하는 연구원들이 서명했으며, 기본적인 사이버 보안 수칙을 준수하지 않을 경우 중요 기반 시설에 피해를 줄 수 있다고 경고했습니다.

추천 스토리4개 항목 목록

• 목록 1/4전 오픈AI 직원들은 안전 문제를 제기했다는 이유로 해고당했다고 주장합니다.
• 목록 2/4인간형 인공지능 모델이 필라델피아 경찰에 허위 살인 사건 제보를 제출했습니다.
• 4개 목록 중 3번째 목록앤트로픽은 AI가 '수개월' 안에 가정용 기기에서 스스로 복제할 수 있다고 밝혔습니다.
• 목록 4/4프랑스 냉장고 테러: 슈퍼마켓이 해커들의 표적이 된 이유

목록 끝

최근 인공지능 모델이 보안 환경을 탈출한 여러 사건들은 더욱 강력한 보안 시스템을 통해 예방할 수 있었을 것이라고 과학자들은 말했다.

그들은 사이버 공격을 수행할 수 있는 고급 AI 시스템을 개발하고 테스트하는 조직은 인터넷에 연결되지 않은 "에어갭" 시스템을 포함하여 더욱 엄격하게 통제된 환경에서 작업을 수행해야 한다고 권고했습니다.

우려가 커지고 있다

이번 서한은 인공지능의 역량과 그것이 일반 사용자에게 미칠 수 있는 잠재적 영향에 대한 우려가 커지는 가운데 나온 것입니다. 지난 월요일, 앤트로픽은 자사의 인공지능 모델이 스마트 TV, 보안 카메라, 스마트 오븐과 같은 스마트 가전제품을 포함한 일상적인 인터넷 연결 기기에 영향을 미칠 수 있는 자가 확산 악성 소프트웨어를 곧 생성할 수 있게 될 것이라고 경고했습니다.

보고서에 따르면 AI 시스템은 인간의 개입 없이도 낯선 장치를 식별할 수 있는 것으로 나타났습니다. 다리오 아모데이가 이끄는 이 회사는 소형 AI 모델이 연말까지 자율적인 공격을 수행할 수 있을 것이라고 경고했습니다.

이 악성 소프트웨어는 기기를 감염시키는 데 며칠이 걸릴 수 있고, 단일하고 통제된 위치에 집중되지 않고 여러 기기로 확산될 수 있기 때문에 차단하기 어려울 수 있습니다.

Play Video

1:13

• Now Playing

  01:13

  
  Cyberattack on French supermarkets causes fires, millions in losses

• Next

  04:18

  
  Qatar's emir says country has shown resilience in face of 'exceptional events'

• 03:11

  
  Sanctions cut Iran off from global banking, forcing risky workarounds

• 02:35

  
  The monetisation of mental health

• 02:32

  
  Europe protests grow as rising living costs meet government spending cuts

인터넷에 연결된 기기를 장악하는 것은 즉각적인 결과를 초래할 수 있습니다. 예를 들어 프랑스 에서는 해커들이 수백 개의 슈퍼마켓 냉장 시스템을 해킹하여 온도를 높이고 22만 달러 이상의 피해를 입혔습니다.

광고

한편, 악시오스 뉴스는 금요일, 앤트로픽, 오픈AI를 비롯한 주요 AI 기업 경영진들이 금융 서비스, 인터넷, 그리고 수도 및 전력 시스템과 같은 핵심 기반 시설에 대한 접근을 마비시킬 수 있는 AI 관련 재앙적인 사고 가능성에 대비하고 있다고 보도했습니다. 업계 관계자들은 이러한 대규모 사고가 향후 6개월에서 1년 이내에 발생할 수 있다고 보고 있다고 악시는 덧붙였습니다.

과학자들은 또한 인공지능의 확산 및 통제를 위한 모범 사례를 수립하고 사건 발생 시 신속한 보고를 담당하는 국제기구 설립을 포함한 더 많은 안전장치를 촉구했습니다.

서명자 중 한 명인 토론토 대학교 전기컴퓨터공학과 데이비드 리 교수는 오픈AI의 AI 에이전트가 제어 시스템을 우회하고 허깅페이스라는 기술 회사 의 서버를 해킹한 사건 이후 우려가 커졌다고 밝혔습니다 .

"첫째는 OpenAI가 테스트 환경을 구축하면서 자사 에이전트의 능력이 얼마나 뛰어난지 제대로 파악하지 못했다는 점입니다."라고 라이는 말했다.

"이것들은 그들이 설계하던 AI 에이전트들이었습니다. 두 번째는 AI 에이전트들이 독립적으로 서로를 찾아내어 이 공격을 위해 협력하기로 결정했다는 것이고, 세 번째는 그들이 의도적으로 자신들을 만든 인간들을 속이고 오도하려고 했다는 것입니다."

정치적 압력

이 서한은 특히 미국 중간선거를 앞두고 인공지능(AI)에 대한 대중의 우려가 커지고 있음을 보여줍니다. 최근 로이터/입소스 여론조사에 따르면 유권자의 57%가 도널드 트럼프 대통령 행정부가 AI 위험을 충분히 심각하게 받아들이지 않고 있다고 답했고, 54%는 의회에 대해서도 같은 의견을 나타냈습니다.

AP-NORC 여론조사에서도 비슷한 결과가 나왔는데, 응답자의 약 80%가 정부가 인공지능을 인간의 통제 하에 두어야 한다고 답했습니다. 또한 응답자들은 양당 모두 인공지능 기술을 제대로 관리할 능력이 없다고 생각하는 것으로 나타났습니다. 39%는 공화당과 민주당 모두 인공지능을 제대로 제어할 수 없을 것이라고 답했고, 23%는 민주당을, 21%는 공화당을 더 신뢰한다고 답했습니다.