인공지능 기술의 위험 관련 주요 쟁점과 규범 현황: 우리의 정책방향에 대한 함의 국제통상경제안보연구부 이효영 부교수, 국제안보통

[힘힘]

인공지능 기술의 위험 관련 주요 쟁점과 규범 현황: 우리의 정책방향에 대한 함의

국제통상경제안보연구부 이효영 부교수, 국제안보통일연구부 송태은 조교수

발행일 2024-07-29

Ⅰ. 문제 제기
Ⅱ. 인공지능 기술 관련 위험과 위협의 주요 쟁점
Ⅲ. 인공지능 관련 국제사회의 규범 논의 현황 및 시사점
Ⅳ. 결론 및 정책적 함의


< 요약 >

오늘날 국가의 경제·산업, 군사, 행정, 정보와 커뮤니케이션 등 국가 전 영역의 발전과 혁신을 좌지우지하는 핵심 기술인 인공지능은 기술발전이 아직 완성되지 않은 신흥기술이다. 아직 인공지능 기술은 기술 혁신과 발전이 가져올 영향의 범위와 규모를 확정할 수 없는 불확실성을 내재하고 있다. 즉 인공지능 기술에 잠재되어있는 무한한 가능성에도 불구하고 인공지능 기술이 가져올 수 있는 위험과 여러 다양한 위협에 대한 국제사회의 두려움은 인공지능 기술에 대한 다양한 국제적 논쟁과 논의를 초래하고 있다. 인공지능 기술의 위험이나 인공지능 기술에 대한 위협과 관련된 쟁점에는 기술의 안전성, 사이버보안, 개인정보 보호, 알고리즘의 편향이나 정보 조작의 문제를 들 수 있다. 먼저 국가 간 인공지능 기술을 둘러싼 갈등이나 규범 구축 논의의 근본적인 문제의식은 기술의 안전성에 대한 불안감 즉 기술에 대한 신뢰 문제이기 때문에, 안전성을 보장하기 위해서는 모두가 공통 의 ‘기술표준’을 사용할 수 있어야 한다. 미국과 중국이 인공지능 기술을 포함한 다양한 기술의 개발과 사용에 있어서 기술표준 경쟁을 펼치며 각자 자국 진영에 속한 국가군에게 연대를 호소하는 것은 경쟁하는 상대의 기술개발 방식과 사용 원칙에 대한 우려를 보여준다.

또한 초연결 시대 인공지능 기술 시스템은 인공지능 기술을 사용한 사이버 공격에 노출되어 있어 사이버 안보는 알고리즘 방어와 알고리즘 공격 간 대결 문제가 되고 있다. 더불어, 기계학습의 재료가 되는 데이터에 대한 적대적 공격 즉 데이터 오염의 문제도 인공지능 기술의 정상적인 작동에 대한 위협이 되고 있다. 이 밖에도 인공지능 기술을 통해 전방위로 구축되고 있는 사회감시체제는 국가의 정보역량 즉 정보우위에 기여하지만 수집되는 개인정보 보호 문제는 증대하게 되는 문제를 낳고 있다. 이에 더해, 기계학습의 재료가 되는 데이터 규모나 질에 의해 발생할 수 있는 알고리즘 편향 성과 딥페이크, 허위조작정보와 같은 데이터 조작 문제도 인공지능 기술과 관련하여 빈번하게 지적되는 주요 위험, 위협의 내용이다.

인공지능을 비롯한 신흥기술에 대한 거버넌스 구축은 지식층이나 여론의 인식에 더하여 각국 지도층의 정치적 의지가 중요하고 국가와 시민사회간의 기술에 대한 인식의 간극을 해소하기 위해서는 민간을 비롯한 다양한 이해당사자들의 통찰력과 공조를 필요로 한다. 또한 기술을 세계평화와 국가간 협력을 도모하기 위해 사용해야 한다는 ‘목적성’의 측면과 기술 자체를 위험하거나 폭력적이지 않게 사용해야 한다는 ‘수단적인’ 측면에서의 평화의 가치를 제시하는 다양한 개념이 국제사회의 논의에서 발굴되고 도출될 필요가 있다. 최근 많은 국가가 관심을 갖고 있는 ‘인공지능 기술의 책임 있는 군사적 사용’과 관련된 다양한 논의 외에 인공지능의 평화로운 사용에 대한 논의도 활성화될 필요가 있다.

인공지능 기술 발전과 규범 구축을 위하여 주요국은 각국의 인공지능 기술의 발전 수준 및 글로벌 시장 지배력에 따라 접근방식을 달리하고 있는 것으로 보인다. 기술 경쟁력을 확보하고 있는 기업을 보유한 미국은 민간주도의 자율규제 방식을 추구하고 있는 반면, 인공지능 분야의 기술 경쟁력을 확보하지 못하고 있는 EU는 자국의 시장 및 국민을 보호하기 위한 포괄적인 사전규제 방식을 도입하고 있다. 인공지능 분야에서 잠재적 경쟁력을 지니고 있다고 판단하고 있는 영국은 인공지능 산업의 혁신활동을 저해하지 않는 방향으로 보다 유연한 규제방식을 채택하고 있다.

우리나라는 인공지능 분야를 포함한 첨단기술 분야에서의 혁신과 규제간 적절한 균형을 모색하는 것이 중요한 것으로 판단된다. 이를 위해 영국의 친 혁신적인 규제 방식은 인공지능 관련 위험에 비례하지 않는 과도한 규제 거버넌스를 도입하지 않도록 추구하고 있어 우리의 상황과 가장 유사 한 것으로 판단된다. 영국의 인공지능 관련 규제방식을 참고하여 혁신과 안전성을 균형적으로 추구하는 인공지능 거버넌스를 구축하는 것이 필요할 것으로 보인다.

이 외에도 미국이 강조하고 있는 ‘선택적 집중을 통한 기술우위의 확보’ 와 ‘동맹 및 우호국과의 협력’ 기조를 적극적으로 활용할 필요가 있다. 인공지능 기술에 있어서 세계 최강의 위치에 있는 미국이 동맹 및 우호국과의 국제협력을 중요한 의제로서 내세우고 있는 것은 제한된 국가 자원과 예산 및 인력을 가장 효과적이고 효율적으로 투입하고 중국과의 전 분야에서의 무한 경쟁은 오히려 위험하고 비효율적인 전략으로 인식하기 때문이다. 한국은 미국과 아울러 미국이 국제협력의 전략적 파트너로서 주목하고 있는 기관들과의 협력을 동시적으로 추구하며 진영 공조를 강화할 필요가 있다. 이들 기구와 프로그램은 유럽과 인태지역의 주요 동맹과 우호국을 아우르고 있기 때문에 향후 한미간의 공조도 같은 맥락에서 강화될 것이고, 한국의 이들 기구 및 프로그램과의 협력을 촉진하는 데에도 도움을 줄 것이다.

* 바로 가기

https://www.ifans.go.kr/knda/ifans/kor/pblct/PblctView.do?csrfPreventionSalt=null&pblctDtaSn=14353&menuCl=P03&clCode=P03&koreanEngSe=KOR&pclCode=&chcodeId=&searchCondition=searchAll&searchKeyword=&pageIndex=1