대국정치 시대의 AI 이해
AI 규제를 최소화하면 미국에 힘이 실리겠지만, 미국의 민주적 가치와 시민의 자유를 보호해야 합니다.
작성자: Igor Kovač Tomaž Klobučar Ramanpreet Kaur Dušan Gabrijelčič
사이버 공격이 기하급수적으로 증가함에 따라(보안되지 않은 컴퓨터는 하루에 2,000건의 공격을 받을 수 있음) 이제 대량의 침해를 처리하려면 인공 지능(AI)이 필수적 입니다. 그러나 AI 개발자와 연구자들은 뒤쳐져 있는 것 같습니다. 즉, AI 개발자의 수는 안전성을 다루는 개발자의 수를 30대 1로 앞지릅니다 . 더욱이 AI 중심의 사이버 보안 솔루션은 2016년 이후에만 증가했습니다.
그림 1: 사이버 보안 솔루션을 위한 새로운 AI를 제시하는 연구 논문의 연간 배포
정부가 AI를 배포하고 규제해야 한다는 압력을 점점 더 많이 받고 있기 때문에 정책 입안자들은 사이버 보안 목적으로 어떤 유형의 AI를 사용할 수 있는지 이해해야 합니다. Max Smeets는 다음과 같이 썼습니다 . “사이버 작전에서 AI의 사용을 논의하는 것은 미래에 기술이 더 중요할지 인간이 더 중요할지에 관한 것이 아닙니다. AI가 어떻게 개발자, 운영자, 관리자, 사이버 조직이나 해킹 그룹의 기타 인력이 더 나은 업무를 수행할 수 있도록 할 수 있는지에 관한 것입니다.” 정책 입안자들은 복잡하고 복잡한 기술의 정치적, 법적 의미를 명확히 하는 건전한 학문적 조언을 갈망하고 있습니다.
따라서 우리는 사이버 보안을 위한 AI 사용 사례에 대한 기본 개요를 제공합니다. 즉, 우리는 공개적으로 사용 가능한 고유한 AI 알고리즘( 700 )을 살펴보고 기본적인 NIST(National Institute of Standards and Technology) 프레임워크를 사용하여 어떤 사이버 보안 목적(식별, 보호, 감지, 대응 또는 복구)을 위한 고유한 AI 유형을 결정합니다. 알고리즘 (추론, 계획, 학습, 의사소통 또는 인식)이 사용되고 있습니다.
첫째, 우리는 사이버 보안을 위한 새로운 AI 솔루션만 살펴보므로 출판물 수만 살펴본 결과에 대해 이의를 제기합니다. 따라서 이러한 더 깊은 관점을 취하면 사이버 보안을 위한 AI 개발을 주도하는 주체는 중국이 아니라 미국이라는 것을 알 수 있습니다. 저자의 대다수는 미국이나 유럽 연합 내의 기관에 소속되어 있습니다.
그림 2: 사이버 보안 솔루션을 위한 새로운 AI를 제시하는 연구 논문의 지리적 분포
둘째, 5가지 NIST 카테고리에 따라 사이버 보안 솔루션을 위한 700개의 고유한 AI를 분석한 결과, 그 중 47%가 이상 징후 및 사이버 보안 사고 탐지에 중점을 두고 있는 것으로 나타났습니다. 두 번째로 인기 있는 카테고리는 보호(26%)였으며, 식별 및 대응(각각 19%, 8%)이 그 뒤를 이었습니다. 2018년 과 2023년 미국 국가 사이버 보안 전략을 비교하거나 EU 회원국 전략 , 정치적 이니셔티브 및 수사법 의 개발을 비교하는 등 사이버 지속 참여 전략 으로의 점진적인 전환을 볼 때 이는 놀라운 일입니다 .
그림 3: 사이버 보안 목적에 따른 사이버 보안 솔루션을 위한 새로운 AI를 제시하는 연구 논문 배포
이 퍼즐에 답하는 데는 여러 차원이 있습니다. 사이버 지속성 이론은 NIST 프레임워크에 잘 매핑되지 않습니다. NIST 프레임워크에는 사이버 지속성 이론의 핵심 기능인 예측이 포함되어 있지 않기 때문입니다. 후자 는 “보안을 착취의 주도권을 포착하고 유지하는 것으로 재정의합니다. 즉, 국가 자체의 디지털 취약성이 악용되기 전에 이를 악용할 것을 예상하고, 다른 국가의 취약성을 악용하여 자신의 보안 요구를 발전시키며, 이러한 악용 역학에서 주도권을 유지하는 것입니다.” 따라서 사이버 지속성 이론을 NIST 프레임워크 내 대응과 연결하는 것은 그 의미를 왜곡합니다. 더욱이, 국가는 위험을 회피하며, 기계가 사이버 사고에 대응할 시기와 방법을 결정하도록 하는 것은 책임 고려 사항이 너무 높아 해당 차량이 작동할 수 없는 자율 주행 자동차와 마찬가지로 너무 확대될 수 있습니다. 마지막으로 AI 모델을 배포하려면 많은 훈련 데이터가 필요합니다 . 그러나 AI 사이버보안 알고리즘에 대응하기 위한 적절한 데이터가 부족하다.
셋째, 사이버 보안을 위해 개발된 AI 알고리즘이 성격에 따라 분포된다는 점은 덜 놀랍습니다. AI 기반 사이버 보안 솔루션의 약 2/3는 학습 방법(64%)을 사용하고 있으며, 의사소통(16%), 추론(6%), 계획(5%) 및 이 두 가지를 조합하여 사용하는 하이브리드 형식이 그 뒤를 이었습니다. 또는 그 이상의 앞서 언급한 방법 - 7%.
그림 4: AI 알고리즘의 특성에 따른 사이버 보안 솔루션을 위한 새로운 AI를 제시하는 연구 논문의 분포
사이버 보안을 위한 고유한 AI 솔루션의 목적과 특성이라는 두 가지 차원을 교차 분석해 보면 기계 학습 알고리즘이 다섯 가지 사이버 보안 기능을 모두 지배한다는 것을 알 수 있습니다. 주로 침입 및 이상 탐지, 악성 도메인 차단, 데이터 유출 방지, 특정 유형의 악성 코드에 대한 보호 및 로그 분석에 사용됩니다.
흥미롭게도 사이버 보안을 위한 일부 잘 알려진 AI 애플리케이션 사례에는 침투 테스트, 행동 모델링 및 분석과 같은 고유한 AI 알고리즘이 많이 개발되지 않았다는 사실도 발견했습니다. 향후 연구에서는 이것이 기존 제품의 만족스러운 성능 때문인지, 새로운 제품에 대한 수요가 없을지 여부를 밝혀야 합니다.
사이버공간과 AI는 모두 강대국 정치를 위한 수단이자 플랫폼 이다 . 둘 다 빠르게 진화하고 있기 때문에 규제는 실제로 급속한 발전 방향을 국회에서 추측할 수 없기 때문에 규제가 의도치 않게 과잉 규제로 이어질 수 있습니다. 결과적으로 과잉 규제는 디지털 기술의 개발과 배포에 부정적인 영향을 미칠 것입니다. 따라서 사이버 공간에서 AI 규제를 최소화하면 미국에 권한을 부여하고 글로벌 권력 정치에서 우위를 점하게 될 것입니다. 그러나 미국은 이러한 신기술을 다룰 때 민주주의 가치, 규범, 원칙 및 시민의 자유를 보호할 수 있는 방법도 찾아야 합니다. 따라서 투명성 지침은 사이버 보안을 위한 AI의 윤리적 사용뿐만 아니라 사이버 공간에서 정보 및 보안 기관의 AI 사용에 대한 대중의 감독을 강화하기 위한 것입니다.
Igor Kovač는 신시내티 대학교 사이버 전략 및 정책 센터와 샌디에고 캘리포니아 대학교 평화 및 안보 연구 센터의 연구원입니다. 그의 연구는 정치경제학과 안보학의 교차점에 초점을 맞추고 있습니다. 그는 2020년부터 2022년까지 슬로베니아 총리의 외교 정책 고문을 역임했습니다.
Tomaž Klobučar는 Jozef Stefan Institute의 개방형 시스템 및 네트워크 연구소 소장입니다. 그의 주요 연구 분야는 정보 보안과 기술 강화 학습입니다.
Ramanpreet Kaur는 Jozef Stefan Institute의 연구원입니다.
Dušan Gabrijelčič는 Jozef Stefan Institute의 연구원입니다.