"죽은 자의 연설"은 인정될 수 있나? 선거에서 생성AI 이용 어디까지?

[청소부]

“死者の演説”は認められる？ 選挙での生成AI利用 どこまで

2024年6月15日 17時09分 フェイク対策

「党の候補者への投票をお願いします」

SNSに投稿された動画で、選挙での投票を呼びかけていたのはインドネシアのスハルト元大統領。2008年にすでに亡くなっている。生成AIを使って作られた動画で、いわば”復活”させられた形だ。

いま、世界各地で、選挙でより多くの票を得ようと、生成AIを利用する動きが広がっている。

何が、どこまで許されるのだろうか。日本の状況は。急速に変化する“AI選挙”を追った。

AIで5言語がペラペラに

“世界最大”の選挙とも言われるインドの総選挙。

投票を待つ人

有権者はおよそ9億7000万人に上り、投票期間は今月はじめまでの1か月半にわたった。

今回の選挙では、候補者らがみずからの演説を、ほかの言語に変換するためにAIが使われた。広大なインドでは、公用語はヒンディー語だが母語とする人は4割程度で、憲法で認められている言語がほかに21あるからだ。

実際に生成AIを活用した政権与党「インド人民党」の西部ラジャスタン州の政党幹部に話を聞くことができた。

政党幹部のシャクティ・シン・ラトール氏

ラトール氏は、ふだん話すヒンディー語での投票を呼びかけるメッセージを、みずからが話すことができない5つ以上の言語に置き換え、SNSで配信。

さらに、有権者により親近感をもってもらうため、候補者が支持者名簿などに記載された有権者1人ひとりの名前を呼びかける動画も生成AIで作り、個別に送るなどしたという。

ラトール氏
「AIを活用してメッセージを有権者に直接送ることで、身近なものとして受け止めてくれ、私個人の知名度向上につながった。これまで接点の無かった人からのアプローチも出てきた」

AI選挙利用 依頼が続々 

スタッフは9人

どうやって多言語で話す候補者の音声は作られるのか。同じラジャスタン州にあるスタートアップ企業を訪ねた。

この企業では去年11月ごろから、政党関係者や候補者から「選挙運動にAIを生かせないか」などといった相談が200件以上、寄せられたという。

AIで音声を作る場合、まず依頼者が話している動画や音声をシステムに取り込み、顔や口の動き、声の特徴を解析しデータ化。

そのデータをもとに、ヒンディー語で話しているものをほかの言語に変えることができるという。

ディヴィエンドラ・シン・ジャダウンCEO
「AIを使った選挙運動は従来の方法に比べて、非常に費用対効果が高い。どの政治家もAIを選挙に組み込もうとしている」

死者の”復活”も

AIはインドだけでなく、ことし行われた世界各地の選挙戦でも利用され、変化をもたらしている。

2月に、総選挙が行われたインドネシア。

選挙期間中に、SNS上に登場したのは、2008年に亡くなったスハルト元大統領をAIでよみがえらせた動画。

「私は第2代大統領のスハルトです。党の候補者への投票をお願いします」

スハルト氏と関係の深い党の幹部が作ったもので、元大統領を応援してきた人たちに向けて党への支持を呼びかけた。

SNSの投稿文にはAIで作ったものであると書かれていたが、いわば死者を「復活」させる行為に倫理的な問題があるとの批判が国民から相次いだ。

AIが生成した動画は

サタデーウオッチ９ 6月15日放送
NHKプラス配信期限 6/22(土) 午後10:00 まで

刑務所にいても…代わりにAIが

さらに、ことし2月に総選挙が行われたパキスタンでは、収監されている政治家による演説の動画がSNSで公開された。

話しているのは、政党「正義運動」の創設者で、若者などから人気を集めるカーン元首相。汚職の罪で有罪判決を受けるなどして収監されていた。

こうした中、刑務所にいるカーン氏から受け取った実際のメッセージをもとに、過去の音声を利用して作成されたという。

この「獄中演説」の動画は、旧ツイッターのXなどで複数回公開され、90万回以上再生されたものもあった。この動画には、AIで作成された音声だと明示されていた。

実際の選挙では、カーン氏の政党の出身者が多く当選を果たしていて、政党の広報担当者はNHKの取材に対して、次のように話した。

「カーン氏の発言に支持者は熱心に耳を傾けるので、AIで作成されたスピーチには大きな効果があった」

どこまで許されるのか？

各国の政府は、こうした生成AIの利用を認めているのか。

各国とも記事で紹介したそれぞれの動画について、削除などの具体的な対応はとっていない。

生成AIを選挙で使うこと自体は禁止していないが、ルールが作られる前に次々と新しいものが出てきている状況だ。

このうちインドシア政府の担当者はAIの利用方法については、今後対応が必要だという考えを示した。

インドネシア通信・情報省
サミュエル・アブリジャニ・パゲラパン局長
「デジタル空間で誰でも何でもつくることができる新しい時代に入ったと認識しなければならない。この現実に対して新たな知識やスキルを持つ必要がある」

バイデン大統領の声で”偽電話”も

生成AIの利用が問題となり、実際の規制が始まったのがアメリカだ。

アメリカ東部ニューハンプシャー州で、1月に行われた大統領選挙に向けた予備選挙。直前にバイデン大統領に似た音声で、投票しないよう呼びかける電話が多くの住民にかかってきた。その数は数千件ともされている。

どんな内容だったのか。電話は録音された音声が自動で流れる仕組みで、次のような内容を話したという。

今度の火曜日はニューハンプシャー州の大統領予備選挙です。共和党は無党派層や民主党の有権者を自分たちの予備選挙に参加させようとしています。なんとばかげたことだ。

11月の本選挙の時まで、投票をとっておくことが大切だ。この火曜日に投票することは、共和党がドナルド・トランプを再び選出することを可能にするだけです。

今後、こうした電話をかけてきてほしくない人は2番を押して下さい。

音声にはバイデン大統領が演説などでたびたび口にする「What a bunch of malarkey」（なんとばかげたことだ）という表現も含まれていた。

司法当局は先月、当時54歳の政治コンサルタントを、この偽音声に関係して選挙を妨害したなどとして起訴した。

偽音声の制作者を直撃

この音声は、誰がどうやって作ったのか。

アメリカメディアに対し「自分が制作した」と名乗り出た人物を追って向かったのは、南部テキサス州ヒューストン。

現れたのは、ポール・カーペンターと名乗る47歳の男性だった。職業はプロのマジシャンだが、AIなど最新の技術にも関心を持ち、独学で学んできたという。

ポール・カーペンター氏

カーペンター氏によると偽音声は去年、友人の紹介で知り合った政治コンサルタントから依頼を受けたとしている。

制作には登録すれば誰でも使えるオンラインの音声生成サービスを利用。このサービスは、元になる1分程度の音声データがあれば、その人物がしゃべっているような「偽音声」を自在に作り出すことができるものだ。

動画共有サイトに公開されているバイデン大統領のインタビュー動画をもとに、偽音声を作成。

かかった時間はわずか数分だったとしている。

カーペンター氏
「音声はAIの能力を示すために、内部で使われるものだと思っていた。実際に外部に公開されるとはまったく思っていなかった」

カーペンター氏は、依頼を受けた証拠だとして「偽音声」を私たちに提供するとともに、依頼者側から報酬として受け取った150ドルが振り込まれた記録を示した。

取材で「もう一度、同じような偽音声を作成する依頼を受けたら、どうするか」と尋ねると…

カーペンター氏
「やる。何の問題もない。こんなことが起きないよう契約内容にはもう少し注意深くなると思うが。私がやらなくても誰かがやるし、誰でもできる」

偽音声をめぐって、カーペンター氏の刑事責任を問うような動きは、これまでのところ確認されていない。消費者保護に詳しいオクラホマ州のアーロン・ティフト弁護士は、AIを使って実在する人物になりすました音声を個人で作成する行為については「アメリカの憲法で表現や言論の自由が保障されていることから、罪に問われないだろう」と指摘している。

その上で、刑事責任が問われる可能性があるのは、音声が選挙妨害などの不正行為に使われるという認識があった場合だと説明した。

AI音声は見破れるか

私たちは、バイデン大統領の偽音声を、ニューヨーク州立大学バファロー校のシーウェイ・リウ教授に分析してもらった。

AIで作られた音声などを研究

AIで作られた音声に詳しい各国の研究チームが公開している最先端の判定ツール、5種類を使って分析した結果、生成AIによるものだと見抜くことができなかったものもあった。

AIで生成された可能性について
3種類の判定ツール:72.5％から100％
→「AIで生成された可能性が高い」ことを示す数値に

2種類の判定ツール:0％や0.3％
→「AIで生成された可能性が低い」ことを示す数値に

リウ教授
「大統領の声の特徴がよくでていて、第一印象は非常によくできていると思った。一般の人が音声を聞いただけで偽物と見抜くのは難しい。AIでコンテンツを作り出す技術はいまも進化し続けている。あらゆるコンテンツが本物かどうかを見抜ける万能のツールも存在しない」

AI音声電話は“違法”

アメリカ政府も対応に追われている。

アメリカの通信当局、FCC＝連邦通信委員会は、ことし2月、AIで生成された音声を使い、人をだまそうとする自動音声電話をかける行為を「違法」と判断すると発表した。

今回、偽音声の作成に使われたとされる音声作成サービスを提供する企業は、事件の後、候補者などへのなりすましを検知する仕組みを導入すると発表している。

また、テレビやインターネットなどで配信する政治広告に、候補者になりすました音声や画像、動画の使用の禁止を求める超党派の法案も出されている。

産業育成を進めつつ、どう規制をしていくのか、手探りでの対応が続いているのが現状だ。

日本の選挙では？

では、日本における選挙での生成AIの利用について、ルールはあるのか。国内の選挙運動で本格的に生成AIが使用されたケースはまだないとみられるが、政治活動では政策の発信や動画の作成などに徐々に使われ始めている。

総務省によると、選挙運動について生成AIの利用に限定した規制などのルールはなく、虚偽の内容を広めるなど、その利用方法が適切かどうかは公職選挙法に基づいて判断することになるとしている。

一方で、事業者など向けに国が策定したガイドラインでは、特に選挙については、AIの出力について慎重に取り扱うよう求めている。

20年以上、国内外でAIの研究を続け、政府の「AI戦略会議」で座長を務めている東京大学の松尾豊教授にどう対応していくべきか、話を聞いた。

松尾教授
「生成AIは、理想的には、候補者の考えを有権者に、より正しく、分かりやすく伝える手段になる。インターネットの利用も、長らく選挙では使わないことになっていたが、今では使うようになってきた。長期で見ると、生成AIも使われていくだろう」

一方、課題については、
▽偽動画などが投票の直前に生成・拡散されると、取り締まることができず、投票行動に影響を与えてしまうおそれがあることや
▽AIの学習データによっては意図せずに、誤った情報を発信してしまう可能性などがあると指摘した。

松尾教授
「有権者の票を変にゆがめたり、対立する候補者の足を引っ張ったりすることに生成AIが使われないよう、一定のルールを決めていくことが必要だ。技術が進展している時期は想定外の悪い影響も起こる可能性がある。海外の動向もしっかり見て、日本なりの仕組みについて議論を進めていく必要がある」

（取材:国際部 吉元明訓、アメリカ総局 田辺幹夫、ジャカルタ支局 伊藤麗、イスラマバード支局 松尾恵輔、ネットワーク報道部 岡谷宏基）