인공지능(AI) 규제 주도권 확보를 위한 글로벌 경쟁 및 시사점(한국무역협회)

[박은규 -소천-]

인공지능(AI)은 학습·추론·지각 등 인간의 지적 능력을 인공적으로 컴퓨터나 기계를 통해 구현하는 기술로, 
글로벌 AI 시장 규모는 ’23년 1,359억 달러에서 ’30년 8,267억 달러로 연평균 29.4% 성장할 것으로 전망된다.
AI 기술은 환경·건강·공공·금융·모빌리티·농업 등 다양한 분야에 긍정적인 경제적·사회적 효과를 가져다줄 것으로 기대되지만,
AI의 긍정적 효과 이면에는 데이터 활용에 따른 위험 요소도 내포되어 있다. 
정부는 혁신을 저해하지 않으면서 AI를 규제해야 하는 압박에 직면해왔다.
AI 규제의 딜레마는 국가 통제와 혁신 사이의 균형으로, 지나친 규제는 AI의 창의적·발전적 잠재력을 저해할 수 있지만, 
불충분한 규제는 사회 복지와 윤리 기준, 개인의 권리에 해로운 결과를 초래할 수 있다. 
주요국과 기업의 기술 리더십 경쟁이 심화되며 AI 규제가 추진력을 얻고 있으나, 
국가별로 여전히 AI 규제와 개발에 대해 상이한 견해와 목표가 대립하고 있다. 
유럽연합(EU)과 미국, 중국은 AI에 대한 서로 다른 비전으로 기술의 미래에 대한 통제권을 놓고 경쟁하며
디지털 세계에서 영향력을 확대하고 있다.

 

데이터·개인정보 보호 등 시민의 권리에 초점을 맞춘 디지털 기술 규제를 선도적으로 도입해 온 유럽연합(EU)은
세계 최초의 포괄적 AI 규제인 AI법안이 EU 이사회의 최종 승인을 받으며 ’26년 발효할 예정이다.
AI법은 AI 시스템과 모델을 EU 시장에 출시·서비스하거나 AI 시스템에서 생성된 결과물을 EU에서 사용하려는 제3국 소재 기업에게도 적용된다.
AI법은 AI 시스템의 위험 정도를 ‘허용될 수 없는 위험’, 고위험, 제한적 위험, 최소한의 위험으로 분류하여 차등 규제하는 것이 핵심으로, 
사람의 안전·생계·기본권에 허용될 수 없는 위험을 초래하는 AI 시스템은 엄격히 금지하고 있으며, 
부정적인 영향을 미칠 수 있는 고위험 AI 시스템에 대해서는 엄격히 규제하고 있다. 
챗봇, 딥페이크 등 콘텐츠를 생성·조작 등 제한적 위험을 초래하는 AI 시스템에는 투명성 의무가 적용되며, 
그 외 위험이 낮은 AI 시스템은 현행 법률 이상의 추가 의무가 적용되지 않는다.
AI법은 또한 범용 AI(GPAI) 모델과 시스템적 위험을 초래할 수 있는 범용 AI 모델을 구분하여 별도 규제하고 있다.
EU는 개인정보 보호 규정인 GDPR과 마찬가지로 AI법을 통해 글로벌 표준을 형성하고 영향력을 확대하고자 한다.

 

다수의 빅테크 기업을 보유한 미국은 AI 규제에 대한 정부의 역할이 제한적이며, 
가이드라인과 모범사례 등 기업의 자발적 준수를 중시해왔다. 
미국은 언론의 자유, 자유로운 인터넷, 혁신에 대한 인센티브 보호를 중시해 왔으며, 
미-중 기술패권 경쟁 격화에 따라 AI를 규제의 대상보다는 경제·지정학적 우위의 수단으로 간주해왔다. 
빅테크 규제 부재에 대한 사회적 대가가 점차 부각되고 있으나, 
의회의 포괄적인 AI 규제가 정치적 교착상태로 난항을 겪자, 
바이든 행정부는 ’23.7월과 8월 주요 AI 기업들로부터 안전하고 투명한 AI 기술 개발을 위한 자발적 조치를 약속받은데 이어,
10월 AI를 규제하는 첫 행정명령을 발표하며 국가안보·건강·안전을 위협하는 AI 기술 개발과 이용에 대한 규제 의지를 표명했다.
AI 행정명령은 AI 기술 개발 기업에게 일정 수준의 책임을 부여하고, 이중용도 프로젝트에 대한 정부 감독을 위한 기반을 마련했으나, 
엄격한 준수요건과 법적 구속력을 갖춘 EU 방식과 달리, 규제보다 산업정책과 지침에 가깝다. 
미국식 규제 모델은 기술 발전과 경제 성장을 촉진할 AI의 잠재력과 빠르게 진화하는 기술을 규제해야 하는 어려움 때문에
영국, 호주 등 일부 국가가 선호하고 있으나, 미-중 경쟁과 EU의 ‘브뤼셀 효과’를 의식한 미국이 EU와의 협력을 심화할 가능성도 있다.

 

중국은 AI 개발을 위한 포괄적인 계획의 일환으로 가장 먼저 AI를 규제한 국가로, 
국가의 통제를 유지하면서 기술 혁신을 장려하는데 중점을 두고 있다. 
중국은 EU처럼 AI를 포괄적으로 규제하기보다 새로운 AI 관련 이슈에 대해 단편적인 규칙을 신속하게 제정하고 지속적으로 수정해왔다. 
중국 정부는 알고리즘 추천 서비스, 딥페이크, 생성형 AI에 관한 규범을 각각 ’21년, ’22년, ’23년 통과시키며
새로운 AI 이슈별 규제를 신속히 도입해왔다. 
생성형 AI에 대한 세계 최초 규제인 ‘생성형 AI 서비스 관리 잠정 방법’은
중국 주민을 대상으로 콘텐츠 생성 서비스를 제공하는 국내·외 생성형 AI 서비스 제공자에게 적용되며, 
중국에서 개발되어도 국외 사용자만 대상으로 할 경우 적용되지 않는다. 
잠정 방법의 특징은 생성형 AI가 만들어 내는 콘텐츠가 사회주의 핵심 가치를 견지하도록 규정하며, 
국가권력, 사회주의 체제의 전복, 국가안보와 이익을 위태롭게 하는 내용을 포함하지 못하도록 금지하고 있다는 점이다. 
또한 ’23년 중국 국무원은 AI 법안의 입법 계획을 발표한 후 ’24.3월 초안을 공개했는데, 중국의 AI 산업 발전에 초점을 두고 있다.
AI 규제에 대한 중국의 접근법은 개인에 대한 피해를 완화하고 사회 안정과 국가 통제를 유지하는 동시에 
AI 분야의 글로벌 리더십을 확보하여 규제 논의에 영향을 미치는데 초점을 두고 있으며, 
이를 위해 국제표준 개발 노력을 지속하고, 디지털 실크로드를 바탕으로 AI 기반 감시 기술 및 디지털 인프라를 수출하고 있다.

 

생성형 AI의 등장 이후 주요국들은 앞다퉈 AI 규제에 나섰으나, AI 기술은 국경을 넘어 전 세계적으로 영향을 미치기 때문에 국제 협력이 필요하다. AI 리스크 규제를 위한 국제 협력은 추진력을 얻고 있으나, 각국의 이해관계, 가치관, 역량의 차이로 의미 있는 합의 도달까지 난항이 예상된다. 비즈니스 효율화와 생산성 증대, 혁신을 통한 기업의 생존 차원에서 AI 도입은 더 이상 선택이 아닌 필수이나, AI 위험성을 심각하게 고려하는 전 세계 정부의 관심 증가로 AI 부작용과 사회적 비용 최소화를 위한 입법 노력이 빠르게 확산되고 있다. AI 활용 기업은 데이터 관련 법 위반 리스크 예방을 위한 규제 모니터링 등 선제적 노력이 필요하다.

인공지능(AI)규제주도권확보를위한글로벌경쟁및시사점(한국무역협회).pdf

5.53MB