[AI] 진화하는 생성 AI와 일본, 개발 경쟁의 무대는 일본으로, 페이크가 확산되는 가운데 AI와 어떻게 마주해야 하는가? [바람을 읽는] 선

[お持て成し]

진화하는 생성 AI와 일본, 개발 경쟁의 무대는 일본으로, 페이크가 확산되는 가운데 AI와 어떻게 마주해야 하는가? [바람을 읽는] 선데이 모닝 / 4/21(일) / TBS NEWS DIG Powered by JNN

가짜 사진이 확산되는 등 큰 사회 문제가 되고 있는 생성 AI. 지금 그 개발 기업이 잇달아 일본에 거점을 개설하고 있습니다. 배경에는 뭐가 있을까요?

■ 진화하는 생성 AI 체험

질문을 입력하면 자연스러운 문장으로 대답해 줘. 짧은 글만 입력해도 실감나는 동영상도 만들 수 있다. 생성 AI의 진화는 이제 멈출 줄 모릅니다. 

그러한 생성 AI를 사용한 동영상 제작을 체험해 보았습니다. 

프로그램 MC 젠바 타카코 씨
"지금 저는 일본어로 말하고 있습니다. 이 일본어를 다양한 외국어로 번역해 주는 생성 AI가 지금 속속 나오고 있다는데..."

예를 들면, 이 촬영한 동영상을, 「HeyGen(헤이젠)」이라고 하는, 생성 AI툴에 넣는다고 지정하면 중국어로도 프랑스어로도 번역해 줍니다. 

단시간에 현실에는 있을 수 없는 영상을, 차례차례로 만들어 내는 생성 AI의 진화.

■ AI 개발 경쟁의 무대는 일본?

그런 AI 개발 경쟁이 지금 이곳 일본을 무대로 펼쳐지려 하고 있습니다. 

생성 AI의 세계를 석권하는 「챗GPT」.

4월 15일, 개발한 오픈 AI사가 도쿄에 새로운 거점을 개설했습니다. 

오픈AI사 샘 알트만 CEO
「일본의 여러분, 정부, 기업, 연구기관과의 장기적인 파트너가 되기를 바라는, 첫 번째 단계입니다」

생성 AI와 관련하여 일본으로의 진출을 가속화하는 기업은 오픈 AI사뿐만이 아닙니다. 4월 상순 방미한 기시다 총리는,

키시다후미오 총리
「우리 나라에 있어서의 「생성 AI」의 사회 실장에, 지대한 공헌을 받고 있는 것으로 알고 있습니다」

마이크로소프트의 부회장과 회담해, 일본의 데이터 센터 증강 등에 약 4400억엔을 투자하는 것을 환영. 사실 이러한 데이터 센터는, 생성 AI 개발에 빠뜨릴 수 없습니다. 

이미 아마존이나 구글도 일본에서의 새로운 데이터 센터의 건설이나 증강을 발표하고 있습니다. 그 배경을 전문가는...

도쿄공업대학 사사하라 카즈토시 준교수(계산사회과학)
"AI를 학습시키기 위해서는 많은 「데이터」가 필요. 인간이 쓰거나 인간이 만들어낸 데이터여야 한다. 그러한 데이터라는 것은, 그야말로 귀중한 자원. 지금 일본은 데이터의 이용에 관해서 규제가 느슨하다. (일본은) "이득"이라고 할까, AI를 서포트해 주는 국가"

일본은 현재, 저작물을 허락 없이, AI에게 데이터 학습시킬 수 있는 등, 규제가 심한 구미에 비해, AI 개발에 절호의 환경을 제공해 주는 나라입니다. 

향후 일본에서도 진행되는 AI의 기술 개발. 그런데 진화하는 AI는 많은 문제도 낳고 있습니다. 한 예가 페이크 이미지나 동영상의 확산입니다. 

■ 생성 AI 유래 가짜가 확산 중

화상으로는 흑인 여성과 어깨동무를 하고, 상냥한 표정의 트럼프 전 대통령. 여성들이 트럼프를 지지하는 것처럼 둘러싸고 있습니다. 

하지만 이는 실제로 존재하지 않는 장면. 일부 트럼프 지지자들이 지지 확대를 겨냥해 생성 AI로 만든 '페이크 이미지'라고 합니다. 

미국 대통령 선거를 둘러싸고, 생성 AI를 사용한 화상이나 동영상이 이미 확산. 또, 이러한 「정보 오염」은 미국만이 아닙니다. ..

시진핑 중국 주석이 대만 총통 선거를 언급한 것으로 알려진 동영상…

시 주석 페이크 동영상
"대만 인민들이여. 좋은 투표를 하면 함께 고기만두와 계란볶음밥을 먹어요-"

이것도 생성 AI가 만든 것으로 1월 총통 선거 전에 확산되었습니다. 

■ 생성 AI의 진화와 어떻게 마주할까?

이러한 페이크의 진위를 간파할 수 있는 방법은 있는 것입니까. AI 기술을 연구하는 회사에서 문제의 이미지를 해석해 보면…

NABLAS 스즈키 쿠니오 이사
"페이크라고 하는 형태로 나와 있다. (페이크도) 점점 새로운 것이 나오거나 진화해 간다. 기술적으로는 어려운 점이 있다"

이미 유럽에서는 AI의 위협에 대비하는 움직임이 시작되고 있습니다. 

베니페이 EU 의회 의원
「이 법률은 AI의 안전하고, 인간 중심의 발전을 향한 명확한 길을 제시하는, 세계 최초의 규제가 된다」

금년 3월, EU의회는 세계 최초가 되는 「AI규제 법안」을 가결. 생성 AI가 만든 화상이나 문장 등에 대해서는, 그 명기가 의무화되어 위반했을 경우, 약 56억엔의 제재금을 부과한다고 했습니다. 

이런 가운데 전문가들은 AI가 널리 사회 전체에 미치는 위험성을 지적합니다. 

도쿄공업대학 사사하라 카즈토시 준교수(계산사회과학)
"앞으로 인터넷에서 보는 정보는, 상당 부분이 AI유래의 것. 그렇게 되었을 때 「진짜와 같은 거짓말」이 나도는 것에 의해서 아무것도 믿을 수 없게 된다. 민주주의라는 것은 신뢰를 바탕으로 이루어져 있다. 그런 의미에서는 민주주의가 잘 작동하는 데 있어서의 가장 토대 부분, 그것이 훼손되고 있지 않을까"

생성 AI가 초래하는 리스크에, 향후, 우리는 어떻게 대응해 가면 좋을까요….

('선데이 모닝' 2024년 4월 21일 방송에서)

TBS NEWS DIG Powered by JNN

https://news.yahoo.co.jp/articles/1b6840683c4a9522efb793576f27fdde5aa9e60d?page=1

進化する生成AIと日本　開発競争の舞台は日本へ　フェイクが拡散する中、AIとどう向き合うべ

進化する生成AIと日本　開発競争の舞台は日本へ　フェイクが拡散する中、AIとどう向き合うべき?【風をよむ】サンデーモーニング
4/21(日) 14:09配信


7
コメント7件


TBS NEWS DIG Powered by JNN
TBS NEWS DIG Powered by JNN

フェイク画像が拡散するなど、大きな社会問題にもなっている生成AI。いま、その開発企業が次々と、日本に拠点を開設しています。背景には何があるのでしょう?

【写真を見る】進化する生成AIと日本　開発競争の舞台は日本へ　フェイクが拡散する中、AIとどう向き合うべき?【風をよむ】サンデーモーニング

■進化する生成AIを体験

質問を入力すれば、自然な文章で答えてくれ…。短い文を入力するだけで、リアルな動画も作成できる…。生成AIの進化は、いまやとどまるところを知りません。

そうした生成AIを使った動画制作を体験してみました。

番組MC 膳場貴子さん
「いま私は日本語で話しています。この日本語を様々な外国語に翻訳してくれる『生成AI』が、今、次々と出てきているそうなんですが…」

例えば、この撮影した動画を、『HeyGen（ヘイジェン）」という、生成AIツールに取り込むと指定すれば中国語でもフランス語でも翻訳してくれます。

短時間で現実にはありえない映像を、次々と生み出す生成AIの進化。

■AI開発競争の舞台は日本?

そんなAIの開発競争が、今、ここ日本を舞台に繰り広げられようとしています。

生成AIの世界を席巻する「チャットGPT」。

4月15日、開発したオープンAI社が、東京に新たな拠点を開設しました。

オープンAI社 サム・アルトマン CEO
「日本のみなさん、政府、企業、研究機関との長期的なパートナーとなることを願う、最初のステップです」

生成AIに関連して日本への進出を加速する企業は、オープンAI社だけではありません。4月上旬、訪米した岸田総理は、

岸田文雄総理
「わが国における『生成AI』の社会実装に、多大なる貢献をいただいているものと承知をします」

マイクロソフトの副会長と会談し、日本のデータセンター増強などに約4400億円を投資することを歓迎。実はこうしたデータセンターは、生成AI開発に欠かせません。

すでに、アマゾンやグーグルも、日本での新たなデータセンターの建設や増強を発表しています。その背景を専門家は…

東京工業大学 笹原和俊 准教授（計算社会科学）
「AIを学習させるためには沢山の「データ」が必要。人間が書いたりとか、人間が作り出したデータでないといけない。そういうデータっていうのは、まさに貴重な資源。いま日本はデータの利用に関して規制が緩い。（日本は）“お得”というか、AIをサポートしてくれる国」

日本は現在、著作物を許諾なしに、AIにデータ学習させることができるなど、規制の厳しい欧米に比べ、AI開発に絶好の環境を提供してくれる国なのです。

今後日本でも進むAIの技術開発。ところが、進化するAIは、多くの問題も生み出しています。一例がフェイク画像や動画の拡散です。

■生成AI由来のフェイクが拡散中

画像では黒人女性と肩を組み、にこやかな表情のトランプ前大統領。女性たちがトランプ氏を支持するように取り囲んでいます。

しかし、これは実際には存在しない場面。一部のトランプ支持者が、支持拡大を狙って、生成AIで作成した「フェイク画像」だといいます。

アメリカ大統領選を巡っては、生成AIを使った画像や動画がすでに拡散。また、こうした「情報汚染」はアメリカだけではありません…

中国の習近平主席が台湾総統選挙に言及したとされる動画…

習主席フェイク動画
「台湾の人民よ。良い投票をすれば、一緒に肉まんと玉子チャーハンを食べましょう-」

これも生成AIが作ったもので、1月の総統選前に拡散されました。

■生成AIの進化とどう向き合う?

こうしたフェイクの真偽を見破る手立てはあるのでしょうか。AI技術の研究を行う会社で、問題の画像を解析してみると…

NABLAS 鈴木都生 取締役
「フェイクという形で出ている。（フェイクも）どんどん新しいものが出てきたり進化していく。技術的には難しいところがある」

すでにヨーロッパでは、AIの脅威に備える動きが始まっています。

ベニフェイ EU議会議員
「この法律はAIの安全で、人間中心の発展に向けた明確な道筋を示す、世界初の規制となる」

今年3月、EU議会は世界初となる「AI規制法案」を可決。生成AIが作った画像や文章などについては、その明記が義務付けられ、違反した場合、約56億円の制裁金を課すとしました。

こうした中、専門家はAIが広く社会全体に及ぼす危険性を指摘します。

東京工業大学 笹原和俊 准教授（計算社会科学）
「これからインターネットで目にする情報は、かなりの部分がAI由来のもの。そうなった時“本当のような嘘”が出回ることによって何も信じられなくなる。民主主義というのは信頼の上で成り立っている。そういう意味では民主主義がうまく機能していく上での一番土台の部分、それが毀損されているんじゃないかなと」

生成AIがもたらすリスクに、今後、私達はどう対応していけばいいのでしょうか…。

（「サンデーモーニング」2024年4月21日放送より）

TBS NEWS DIG Powered by JNN