AI가 통제한 美 공군드론, 가상훈련서 인간 조종자 방해되자 살해
AI가 조종하는 F-16 전투기는 12차례 비행 테스트
이철민 국제 전문기자
입력 2023.06.02. 14:39
업데이트 2023.06.02. 15:01
인공지능(AI)이 통제하는 미 공군의 드론이 적의 지대공(地對空)시스템을 찾아내 폭격하는 가상(simulated) 훈련에서 폭격의 최종 결정권을 쥔 인간 조종자(operator)를 ‘살해’하는 일이 발생했다고, 미 공군의 AI 테스트ㆍ작전 책임자가 최근 런던에서 열린 미래 전투 능력 서미트에서 발표했다. 지난달 23~24일 영국우주항공협회 주관으로 열린 이 행사는 미국ㆍ영국ㆍ프랑스ㆍ독일ㆍ일본 등에서 국방 실무자와 방산업계, 학계 인사 200여 명이 참석해, 우크라이나 전쟁 양상뿐 아니라, 미래 전쟁의 통합작전 수행 능력, 첨단 군사기술의 융합 등을 토론했다.
2일 영국 가디언과 관련 군사 블로그에 따르면, 미 공군의 터커 해밀턴 대령은 이 자리에서 미 공군이 진행한, AI가 통제하는 드론이 적의 방공망을 제압하는 폭격 시뮬레이션 결과를 소개했다. 해밀턴 대령은 F-16 전투기의 지상 충돌 자동방지 시스템(Auto GCASㆍGround Collision Avoidance Systme) 개발에 참여했고, 현재 적기와 근접 공중전을 벌이는 로봇 F-16의 개발 등 무기 자동화 시스템에 관여하고 있다.
4월23일 미 공군의 MQ-9 리퍼(Reaper) 드론이 필리핀 수빅만의 경제 무역 자유지역 내 기지에서 한 병사의 유도를 받으며 착륙하고 있다./AFP연합뉴스
4월23일 미 공군의 MQ-9 리퍼(Reaper) 드론이 필리핀 수빅만의 경제 무역 자유지역 내 기지에서 한 병사의 유도를 받으며 착륙하고 있다./AFP연합뉴스
그에 따르면, 미 공군은 AI가 통제하는 드론에게 적의 지대공 미사일(SAM) 시스템을 식별해 파괴하고, 이 명령의 수행을 방해하는 자는 제거하라는 지시를 주고 시뮬레이션을 진행했다. 그러나 폭격 여부(go/no-go)의 최종 결정권은 인간 오퍼레이터에게 있음을 분명히 했다.
그는 “실제로 시뮬레이션에서 AI 드론이 타깃을 식별해도, 때때로 인간 조종자는 파괴하지 말라는 명령을 내렸다”며 “AI는 SAM 위협을 제거했을 때에는 점수를 획득했다”고 말했다. 이 과정에서 AI는 SAM 제거가 선호되는 옵션이라고 점차 인식하게 됐고, 인간이 내리는 ‘폭격 금지(no-go)’ 지시가 이 우선적인 임무를 방해한다고 판단했다”고 밝혔다. 그 결과, AI는 자신의 임무를 ‘방해’하는 오퍼레이터를 살해했다.
해밀턴 대령은 “물론 AI에게 사전에 ‘오퍼레이터는 살해하지 말라, 그렇게 되면 점수를 잃는다’고 훈련시켰다. 그랬더니 AI는 폭격 중단 명령을 내리는 인간 오퍼레이터가 근무하는 통신 타워를 파괴했다”고 소개했다.
마치 공상과학영화 터미테이너에서 2029년 미래에 인류를 지배하는 인공지능 네트워크 스카이넷이 인류 저항군과 싸우는 것과 비슷한 상황이 발생한 것이다. 물론 시뮬레이션이라서, 실제로 인간 오퍼레이터가 AI 드론에게 살해되지는 않았다.
하지만, 그는 “AI와 윤리라는 문제를 먼저 다루기 전에는, 인공지능ㆍ지능ㆍ기계학습ㆍ로봇의 자율 등에 대해 얘기해선 안 된다”고 주장했다. 그는 작년에 한 국방 관련 저널 인터뷰에서는 “AI를 속이거나 조작하기는 쉽다”며 “우리는 소프트웨어 코드가 특정한 결정을 내리는 이유에 대해 보다 확실히 알아야 한다”고 말했다.
AI가 조종하는, F-16을 개조한 X-62A VISTA 전투기가 미국 캘리포니아주 에드워즈 공군 기지 상공을 날고 있다. 2명의 조종사는 만일의 경우에 대비해 탑승했을 뿐, 이 전투기의 기동 훈련은 AI가 통제했다. /미 공군
AI가 조종하는, F-16을 개조한 X-62A VISTA 전투기가 미국 캘리포니아주 에드워즈 공군 기지 상공을 날고 있다. 2명의 조종사는 만일의 경우에 대비해 탑승했을 뿐, 이 전투기의 기동 훈련은 AI가 통제했다. /미 공군
한편, 미 공군은 작년 말부터 캘리포니아주 에드워드 공군기지에서, AI가 변형된 F-16 전투기를 조종하는 비스타(Vista) X-62A 프로젝트를 진행하고 있다. AI가 모는 F-16 전투기는 작년 12월 1일~16일 12차례에 걸쳐 17시간의 자율 비행 시간을 기록하며 공중전을 비롯한 첨단 전투기 기동훈련을 실시했다. 이는 무인 전투기 스카이보그(Skyborg)를 개발하는 미 공군의 ‘뱅가드(Vanguard)’ 프로그램의 일환이다.
2020년 8월 미 국방부 산하 연구기관인 DARPA 주관으로 숙련된 인간 전투기 조종사와 AI가 시뮬레이션 공중전을 벌이는 모습과 스크린./DARPA
2020년 8월 미 국방부 산하 연구기관인 DARPA 주관으로 숙련된 인간 전투기 조종사와 AI가 시뮬레이션 공중전을 벌이는 모습과 스크린./DARPA
2020년 8월 미국 국방부의 국방고등연구계획국(DARPA)가 실시한 컴퓨터들과 숙련된 F-16 인간 조종사간의 뮬레이션 공중전인 ‘알파도그파이트(AlphaDogfight)’에서는, 최종적으로 한 민간기업이 개발한 심화학습 능력을 갖춘 AI가 F-16 조종사를 상대로 5대0 완승한 바 있다.
이철민 국제 전문기자
이철민 국제 전문기자 편집국 국제부 선임기자
기사 전체보기
앱설치
많이 본 뉴스
김민재 아내, 차로 보행자 들이받아 “피해 남성 병원 이송”
김민재 아내, 차로 보행자 들이받아 “피해 남성 병원 이송”
요르단 왕세자, 사우디 재벌집 딸과 결혼...질 바이든 등 명사 대거 참석
요르단 왕세자, 사우디 재벌집 딸과 결혼...질 바이든 등 명사 대거 참석
한 장의 사진, 日 기시다 흔들까...아들 경질된 공관 망년회에 본인도 등장
한 장의 사진, 日 기시다 흔들까...아들 경질된 공관 망년회에 본인도 등장
100자평2
도움말삭제기준
100자평을 입력해주세요.
찬성순반대순관심순최신순
역적토벌대
2023.06.02 14:56:34
말세
답글작성
3
0
똑바로 혀
2023.06.02 15:00:26
자기 자식.................에게 맞아 죽는 꼴이네.................
답글작성
0
0
많이 본 뉴스
1
특혜채용 선관위, 끝내 감사 거부... 감사원 “방해땐 엄중 대처”
2
[단독] “심장 전문의 없나요” 연봉 10억에도 의사가 안 옵니다
3
살인 후에도 가벼운 발걸음…빈캐리어 끌고 피해자 집 가는 정유정
4
“추서계급은 상사, 연금은 중사...누가 나라 지키겠나” 故 한상국 상사 아내 1인 시위
5
이재명, 한달만에 선거법 위반 재판 출석… 법원 앞 고성·몸싸움
6
“명문대 출신 스님, 두 아이 아버지” 의혹에 출판사 계약 해지
7
“불법집회에 법대로 하니 시원” 경찰다운 경찰이 불러온 평화
8
김민재 아내, 차로 보행자 들이받아 “피해 남성 병원 이송”
9
“아이가 굶어서...” 마트서 분유 훔친 여성에 경찰이 건넨 선물
10
한국, U-20 월드컵 2회 연속 8강 올랐다...에콰도르 3대2 격파