[정책] EU 아무리 분기해도 AI 규제 '무리수'

[お持て成し]

EU 아무리 분기해도 AI 규제 '무리수' / 12/22(금) / 동양경제 온라인

지난 2021년 4월 인공지능(AI)을 규제하기 위해 작성된 125페이지 분량의 법률안을 제출한 유럽연합(EU) 정상들은 그것이 AI 규제의 세계적 모델이 될 것이라고 자찬했다.

유럽의회 의원들은 다른 나라에서는 AI가 의제에 오르지 않았을 때부터 3년에 걸쳐 수천명이라는 전문가의 견해를 청취. 그 결과, 「장래도 시대에 뒤떨어지는 일이 없는」 「획기적인」정책이 생겨났다고 27개국으로 구성된 EU에서 디지털 정책을 총괄하는 마르그레테·베스테어 씨는 단언했다.

이후 Chat GPT가 등장했다.

■ ChatGPT 빠진 규제안

프롬프트에 대해 독자적인 답변을 생성함으로써 지난해 화제를 모은 이 섬뜩할 정도로 인간적인 챗봇은 EU 정책 입안자들에게 기습을 가했다.

EU 법안에서는 ChatGPT를 작동시키고 있는 종류의 AI에 대한 언급이 없어 정책 논의의 주요 초점이 되지 못했다. 의원들과 그 보좌관들은 이 격차에 대처하기 위해 한창 전화나 메일로 연락을 주고받았다. 그러면서도 테크 기업 간부들은 지나치게 엄격한 규제는 유럽을 경제적으로 불리한 입장으로 내몰 수 있다고 경고했다.

EU 의원들은 아직도 무엇을 해야 할지를 놓고 논란을 이어가고 있어 AI 규제 법안은 위기에 처했다. 우리는 앞으로도 항상 테크놀로지 속도에 뒤처질 것이라고 AI 법안 작성에 관여한 유럽의회 스베냐 한 의원은 말한다.

EU, 미국, 기타 국가의 의원들과 규제 당국은 AI를 규제하는 싸움에서 패하고 있다. 이 강력한 기술이 일자리를 자동화해 사람들로부터 일자리를 빼앗고 가짜 정보의 확산을 가속화해 결국 독자적 지성 같은 것을 발전시키는 것 아니냐는 우려가 커지는 가운데 각 규제당국은 부랴부랴 뒤를 쫓고 있다.

각국은 AI의 잠재적 위험에 대처하기 위해 신속하게 움직여 왔지만 유럽 당국은 기술 진화에 허를 찔리게 됐다. 미국 의원들은 AI의 구조를 거의 이해하지 못한다는 것을 공개적으로 인정하고 있다.

■ 각국의 대응은 제각각이다

그 결과가 정리되지 않은 대응이다. 조 바이든 대통령은 지난 10월 AI가 국가안보에 가져올 영향에 관한 대통령령을 내렸고 의원들은 대책이 있다면 어떤 법안을 통과시켜야 할지 논의하고 있다.

일본은 AI에 대해 법적 구속력이 없는 가이드라인을 수립 중이지만 중국은 특정 AI에 제한을 가했다. 영국은 기존 법으로 충분히 이 기술을 규제할 수 있다는 입장. 사우디아라비아와 아랍에미리트(UAE)는 AI 연구에 국비를 쏟아붓고 있다.

이처럼 각국의 대응이 엇갈리는 것은 당국과 기술 사이에 근본적인 차이가 있기 때문이다. AI 시스템이 워낙 빠르고 예측 불가능하게 진보하다 보니 의원이나 규제 당국이 그 속도를 따라잡지 못하고 있는 것이다.

양측의 간극은 AI에 대한 정부의 지식 부족, 복잡하게 얽힌 관료제도, 더욱이 규제가 지나치게 많아지면 AI가 가져올 이점을 부주의하게 제한할 수 있다는 우려로 인해 더욱 심화되고 있다.

기술 규제에 아마도 세계에서 가장 적극적인 유럽에서조차 AI는 정책 담당자들을 혼란스럽게 하고 있다.

EU는 최신 AI 시스템 개발기업 취급을 놓고 논란이 분분한 상황에서도 AI법 입법을 밀어붙여왔다. 최종 합의안에서는 리스크가 높은 사용을 제한하는 조치나 토대가 되고 있는 시스템이 기능하는 구조에 대해 투명성 요건이 마련될 가능성이 있다.

하지만 법안이 통과되더라도 최소 18개월간 시행되지 않을 전망이어서 그 사이 AI가 새로운 극적 진화를 이룰 가능성은 충분히 점쳐진다. 법이 어떻게 시행될지도 불투명하다.

이 기술을 규제할 수 있을지에 대해서는 아직 결론이 나지 않았다. 브뤼셀에 있는 싱크탱크 유럽정책연구센터의 선임연구원 안드레아 렌다는 이 EU 법안은 전 시대적인 것에 그칠 우려가 있다고 지적한다.

■ 해당 개발자도 AI 잠재력을 이해하지 못하고 있다

이런 룰 부재는 AI 기업에 공백을 초래했다. 구글, 메타, 마이크로소프트, 채트GPT의 개발 기업 오픈AI가 선진적인 AI 시스템을 개발해 그로부터 이익을 얻으려고 경쟁하는 가운데 그러한 기업의 행동을 묶는 것은 자율규제밖에 없는 상태가 계속되고 있다.

개발을 가속화할 자유를 가져오는 구속력 없는 행동 규범을 원하는 많은 기업은 제기되고 있는 규제를 보다 느슨하게 하려고 로비 활동을 전개. 자신에게 유리한 조건을 끌어내기 위해 각국 정부를 서로 경쟁하고 있다.

당국자들 사이에서는 각국 정부가 단합된 행동을 서둘러 하지 않으면 AI 개발 기업과 그 기술 혁신에서 더 뒤처질 수 있다고 경고하는 목소리가 있다.

「그런 시스템의 개발자조차도, 누구도, 무엇을 할 수 있게 될지 모른다」. 11월에 28개국이 참가한 AI 안전 서밋을 주최한 영국에서 리시 스낙 수상의 고문을 맡고 있는 매트 클리포드는, 「리스크에 대처하고 리스크를 경감하는 능력이 정부에 있는가 하는 리얼한 문제의 존재가, 사태의 시급성을 낳고 있다」라고 말한다.

AI 스타트업 언솔로픽의 창업자 잭 클라크는 수년 전부터 워싱턴을 방문해 의원들에게 AI에 관한 강의를 해왔지만 대부분의 경우 모습을 보이는 사람은 몇 명의 의회 보좌관뿐이었다.

그런데 챗GPT가 화제가 되자 렉처는 의원과 보좌관들로 가득 찼고, 너도나도 클라크의 AI 단기 집중 강좌에 참여해 룰 마련에 관한 의견을 들으려고 발칵 뒤집혔다.

기술적 전문지식이 부족한 의원들은 AI의 구조에 대한 설명을 듣고 규칙 제정에 도움을 받기 위해 언솔로픽, 마이크로소프트, 오픈AI 구글 같은 AI 개발 기업에 점점 더 의존하고 있다.

■ AI 규제를 봉한 알트만의 '세계 투어'

테크 기업들은 유리한 고지를 단단히 잡았다. 로비 활동에 관한 공개 정보에 따르면 올해 상반기에는 마이크로소프트와 구글에 소속된 총 169명의 로비스트 중 상당수가 의원 및 정부 관계자를 만나 AI 입법에 관한 논의를 벌였다. 오픈 AI는 동사 최초의 로비스트를 3명 등록. 한 기술계 로비단체는 올해 AI 혜택을 선전하는 2500만달러 규모의 캠페인 계획을 발표했다.

이와 같은 시기에 오픈AI 샘 앨트먼 CEO는 케빈 매카시 전 하원의장(공화캘리포니아주 선출)과 민주당 상원 수장 척 슈머(뉴욕주 선출)를 포함한 100명 이상의 의원들을 만났다. 5월 의회에서 증언한 뒤 알트만은 세계 17개 도시 투어에 나서 각국 정상들과 회담했다.

워싱턴에서는 AI를 둘러싸고 분주한 활동이 펼쳐졌지만 그 성과를 보여주는 법률은 아직 하나도 마련되지 않았다.

브래드 스미스 마이크로소프트 사장에 따르면 지난 5월 백악관에서 AI에 관한 회의가 열린 뒤 마이크로소프트, 오픈AI, 구글, 언솔로픽 정상들에게 각각의 시스템을 보다 안전하게 하는 자율규제를 책정해달라는 요청이 나왔다.

백악관은 두 달 뒤 이들 4개사가 AI 안전성에 관한 자율적인 약속에 합의했다고 발표했다. 거기에는 제삼자 감독기관을 통해서 자사 시스템을 테스트하는 것 등이 포함되는데, 그것들은 이미 대부분의 기업이 하고 있는 것에 지나지 않았다.

지난 5월에는 EU 베스티어, 지나 레몬도 미국 상무장관, 안토니 블링켄 미국 국무장관이 스웨덴 룰레오에서 만나 디지털 정책 협력 방안을 논의했다.

■ "다른 나라의 느슨한 규제는 당신에게도 영향을 미친다"

이틀에 걸친 협의 후 베스티어는 유럽과 미국이 AI 위험을 예방하기 위한 공통 행동 규범을 '몇 주 안에' 공표할 것이라고 발표했다. 베스티어 씨는 이를 패배가 허용되지 않는 레이스에서의 큰 발걸음이라고 부르며 브뤼셀에 있는 동료들에게 메시지를 보내 자신이 이 협정에 대해 소셜미디어에 올린 게시물을 공유해 줄 것을 당부했다.

그로부터 몇 달이 지나도 공통의 행동 규범은 발표되지 않았고, 대신 미국은 독자적인 AI 가이드라인을 발표했다.

AI에 관한 국제적인 협력은 전혀 진척되지 않고 있는 실정이다. 각국은 경제경쟁과 지정학적 불신감에서 벗어나지 못하고 있으며 AI라는 국경 없는 기술에 대해 많은 국가들은 독자적인 룰을 정하려 하고 있다.

그러나 "다른 나라의 느슨한 규제는 당신에게도 영향을 미친다"고 라지브 찬드라세카르 인도 기술장관은 말하며 미국 소셜미디어 기업을 둘러싼 규칙의 결여가 세계적인 가짜 정보 물결로 이어졌다고 지적했다. 

"이러한 기술의 영향을 받는 국가들 대부분은 정책을 결정하는 논의의 장에 참여할 수 없었다"고 찬드라세카르는 말한다. AI는 (지금까지의 기술보다) 관리하는 것이 몇 배나 어려워질 것이다.

(집필: Adam Satariano 기자, Cecilia Kang 기자) / (C)(C)2023 The New York Times

The New York Times

https://news.yahoo.co.jp/articles/6191a591172d1b1434be64437f18b16bd42c6bbf?page=1

EUがどんなに張り切ってもAI規制の「無理筋」（東洋経済オンライン） - Yahoo!ニュース

EUがどんなに張り切ってもAI規制の「無理筋」
12/22(金) 5:41配信

東洋経済オンライン
AIをめぐる規制は各国でばらつきがある（イラスト：Hokyoung Kim／The New York Times）

　2021年4月、人工知能(AI)を規制するために作成された125ページに及ぶ法律案を提出したヨーロッパ連合(EU)の首脳たちは、それがAI規制の世界的モデルになると自賛した。

　ヨーロッパ議会の議員たちは、他国ではAIが議題にすら上らなかった頃から、3年にわたって何千人という専門家の見解を聴取。その結果、「将来も時代遅れになることのない」「画期的な」政策が生まれたと、27カ国から成るEUでデジタル政策を統括するマルグレーテ・ベステアー氏は断言した。

　その後、ChatGPTが登場した。

■ChatGPTに出し抜かれた規制案

　プロンプトに対して独自の回答を生成することで昨年話題をさらった、この不気味なほど人間的なチャットボットは、EUの政策立案者たちに不意打ちを食らわせた。

　EUの法案ではChatGPTを動作させている種類のAIに対する言及がなく、政策議論の主要な焦点とはなっていなかった。議員やその補佐官たちは、このギャップに対処するため盛んに電話やメールで連絡を取り合った。その一方で、テック企業の幹部たちは、過度に厳しい規制はヨーロッパを経済的に不利な立場に追いやる可能性があると警告した。

　EUの議員たちは今なお、何をすべきかをめぐって議論を続けており、AI規制法案は危機に瀕している。「私たちはこれからも、つねにテクノロジーのスピードに後れをとり続けるだろう」と、AI法案の作成に携わったヨーロッパ議会のスヴェーニャ・ハーン議員は言う。

　EU、アメリカ、その他の国々の議員や規制当局は、AIを規制する戦いに敗れつつある。この強力なテクノロジーが仕事を自動化して人々から雇用を奪い、偽情報の拡散を加速させ、最終的には独自の知性のようなものを発展させるのではないかという懸念が高まるなか、各地の規制当局は大急ぎで後れを取り戻そうとしている。

　各国はAIの潜在的な危険性に対処するべく迅速に動いてきたが、ヨーロッパ当局はテクノロジーの進化に不意を突かれることとなった。アメリカの議員たちは、AIの仕組みをほとんど理解していないことを大っぴらに認めている。

■各国の対応はバラバラなものとなっている

　その結果がまとまりのない対応だ。ジョー・バイデン大統領は10月、AIが国家安全保障にもたらす影響に関する大統領令を発出、議員たちは対策があるとすれば、どのような法案を成立させるべきか議論している。

　日本はAIについて法的拘束力のないガイドラインを策定中だが、中国は特定のAIに制限を課した。イギリスは、既存の法律で十分にこのテクノロジーを規制できるというスタンス。サウジアラビアとアラブ首長国連邦(UAE)は、AI研究に国費を注ぎ込んでいる。

　このように各国の対応がバラバラなものとなっているのは、当局と技術の間に根本的な差があるためだ。AIシステムがあまりに急速かつ予測不能に進歩しているため、議員や規制当局がそのペースに追いつけていないのである。

　両者のギャップは、AIに関する政府の知識不足、複雑に入り組んだ官僚制度、さらに規制が多くなりすぎるとAIがもたらすメリットを不用意に制限することになりかねないという懸念によって、一段と深刻化している。

　テクノロジー規制におそらく世界で最も積極的なヨーロッパでさえ、AIは政策担当者たちを混乱させている。

　EUは、最新AIシステムの開発企業の扱いをめぐって議論が割れている状況でも「AI法」の立法を推し進めてきた。最終合意案では、リスクの高い使用を制限する措置や、土台となっているシステムが機能する仕組みについて透明性要件が設けられる可能性がある。

　しかし、法案が可決されたとしても最低18カ月間は施行されない見込みであり、その間にAIが新たな劇的進化を遂げる可能性は十分に考えられる。法律がどのように施行されるかも不透明だ。

　「このテクノロジーを規制できるかどうかについては、まだ結論が出ていない」。ブリュッセルにあるシンクタンク「ヨーロッパ政策研究センター」の上級研究員アンドレア・レンダは、「このEUの法案は、前時代的なものに終わるおそれがある」と指摘する。

■当の開発者もAIの潜在力を理解できていない

　こうしたルール不在は、AI企業に空白をもたらした。グーグル、メタ、マイクロソフト、ChatGPTの開発企業オープンAIが、先進的なAIシステムを開発し、そこから利益を得ようと競い合うなか、そうした企業の行動を縛るものは自主規制しかない状態が続いている。

　開発を加速させる自由をもたらす拘束力のない行動規範を望む多くの企業は、提起されている規制をより緩いものにしようとロビー活動を展開。自身に有利な条件を引き出そうと、各国の政府を互いに競い合わせている。

当局者の間では、各国政府は団結した行動を早急に起こさないと、AI開発企業とその技術革新からさらに取り残されてしまうおそれがあると警告する声がある。

　「そうしたシステムの開発者ですら、誰一人として、何ができるようになるのかわかっていない」。11月に28カ国が参加したAI安全サミットを主催したイギリスでリシ・スナク首相の顧問を務めるマット・クリフォードは、「リスクに対処し、リスクを軽減する能力が政府にあるのかというリアルな問題の存在が、事態の緊急性を生み出している」と語る。

　AIスタートアップ企業アンソロピックの創業者ジャック・クラークは、何年も前からワシントンを訪れ、議員たちにAIに関するレクチャーを行ってきたが、ほとんどの場合、姿を見せるのは数人の議会補佐官だけだった。

　ところが、ChatGPTが話題になると、レクチャーは議員や補佐官でいっぱいになり、誰もがクラークのAI短期集中講座に参加し、ルール作りに関する意見を聞こうと大騒ぎになった。

　技術的な専門知識に欠ける議員たちは、AIの仕組みに関する説明を受け、ルール作りを助けてもらうため、アンソロピックやマイクロソフト、オープンAI、グーグルといったAI開発企業にますます頼るようになっている。

■AI規制を封じたアルトマンの「世界ツアー」

　テック企業は、有利な立場をがっちりとつかみ取った。ロビー活動に関する開示情報によると、今年上半期には、マイクロソフトとグーグルに所属する合計169人のロビイストの多くが、議員や政府関係者と面会してAI立法に関する議論を行った。オープンAIは同社初のロビイストを3人登録。ある技術系ロビー活動団体は今年、AIの恩恵を宣伝する2500万ドル規模のキャンペーン計画を発表した。

　それと同時期にオープンAIのサム・アルトマンCEOは、前下院議長のケビン・マッカーシー氏(共和党・カリフォルニア州選出)や与党・民主党上院トップのチャック・シューマー氏(ニューヨーク州選出)を含む100人以上の議員と面会。5月に議会で証言した後、アルトマンは世界17都市を巡るツアーに乗り出し、各国の首脳たちと会談した。

　ワシントンでは、AIをめぐって慌ただしい活動が繰り広げられてきたが、その成果を示す法律はまだ1つもできていない。

マイクロソフトのブラッド・スミス社長によると、5月にホワイトハウスでAIに関する会議が行われた後、マイクロソフト、オープンAI、グーグル、アンソロピックの首脳たちに対し、それぞれのシステムをより安全にする自主規制を策定するようにという要請が出された。

　ホワイトハウスはその2カ月後、この4社がAIの安全性に関する自主的なコミットメントに合意したことを発表した。そこには第三者監督機関を通じて自社システムをテストすることなどが含まれるが、それらはすでにほとんどの企業が行っていることにすぎなかった。

　5月にはEUのベステアー氏、アメリカのジーナ・レモンド商務長官、アメリカのアントニー・ブリンケン国務長官がスウェーデンのルーレオで会談し、デジタル政策での協力について話し合った。

■「他国の緩い規制はあなたにも影響を及ぼす」

　2日間にわたる協議の後、ベステアー氏は、ヨーロッパとアメリカがAIのリスクを予防するための共通の行動規範を「数週間以内に」公表すると発表した。ベステアー氏はこれを「負けが許されないレースにおける大きな一歩」と呼び、ブリュッセルにいる同僚たちにメッセージを送って、自身がこの協定についてソーシャルメディアにアップした投稿をシェアするよう頼んだ。

　それから数カ月経っても共通の行動規範は発表されず、代わりにアメリカは独自のAIガイドラインを発表した。

　AIに関する国際的な協力はまるで進んでいないのが現状だ。各国は経済競争と地政学的不信感から抜け出せずにおり、AIという国境のないテクノロジーに対して多くの国々は独自のルールを定めようとしている。

　しかし、「他国の緩い規制はあなたにも影響を及ぼす」とインドのラジーブ・チャンドラセカール技術相は言い、アメリカのソーシャルメディア企業をめぐるルールの欠如が世界的な偽情報の波につながったと指摘した。

　「こうしたテクノロジーの影響を受ける国々のほとんどは、政策を決める議論の場に参加できたことはなかった」とチャンドラセカール氏は言う。「AIは(これまでのテクノロジーよりも)管理するのが何倍も難しくなるだろう」。

　(執筆:Adam Satariano記者、Cecilia Kang記者)
(C)2023 The New York Times

The New York Times