AI AI는 과연 인간을 뛰어넘을 수 있을까? 과거 데이터만 보는 ‘3가지 한계’ vs ‘인간의 사고’

[お持て成し]

AI는 과연 인간을 뛰어넘을 수 있을까? 과거 데이터만 보는 ‘3가지 한계’ vs ‘인간의 사고’ / 6월 20일(토) / OBS 오이타 방송

■ 생성 AI의 부상과 가속하는 시장의 열광

OBS 라디오 프로그램 ‘가토 히데키가 말하는 일본의 미래 구상’에서, 구상 일본의 가토 히데키 대표가 현재 붐이 되고 있는 AI(인공지능)의 본질과 문제점, 그리고 미래에 대한 제언에 대해 이야기했다. 

일론 머스크가 이끄는 ‘스페이스X’가 상장하고 12조 엔이라는 거대한 자금을 모은 소식과, 앤솔로픽, OpenAI 등 AI 개발 기업들이 올해 안에 차례로 상장을 기대하고 있는 현황을 보면, 앞으로는 누구나 AI와 어쩔 수 없이 관계를 맺어야 하는 세상이 될 것이다. ‘AI란 원래 무엇인가’, ‘AI가 인간을 초월할 수 있는가’라는 근본적인 의문에 대해 제대로 정리해 보자는 취지다.

■ AI가 인간을 초월하는 일은 '없다' ―― 모든 것은 확률의 계산

‘AI가 인간을 초월할 수 있는가’라는 질문에 대해 가토 씨는 ‘초월한다’는 의미를 고민해야 한다고 말한다. 기억력과 계산 속도 면에서는 신칸센이 인간보다 훨씬 빠르게 달리는 것처럼 이미 인간을 능가하고 있지만, 인간의 모든 능력과 비교하면 명확히 ‘아니오’라고 단언한다.  

그 이유는 AI가 결국 컴퓨터로 계산을 수행하는 ‘기계’일 뿐이며, 그들이 하는 모든 일은 ‘확률 계산’에 불과하기 때문이다. AI는 세상에 퍼져 있는 데이터와 문장의 조합을 바탕으로 “이 질문에 대해 이렇게 답하면 요구된 내용에 맞출 확률이 높다”라고 계산하고, 단어를 하나하나 확률에 따라 배열하고 있을 뿐이다.  

그곳에는 감정이나 감성, 상대에 대한 배려 같은 것이 전혀 존재하지 않는다. 여러 차례 주고받으며 AI가 상대의 감정에 공감해 주는 것처럼 보이기도 하지만, 그것도 상대의 경향에 맞춰 확률을 조정하고 있을 뿐이다. 

AI는 질문의 ‘의미’를 이해하고 있는 것은 아니며, AI에게는 ‘의미’라는 것이 원래 존재하지 않는다. 그래서 가토 씨는 “AI가 질문자의 의미를 파악하고 함께해 주고 있다”는 식으로 속아서는 안 된다고 지적한다. 

■ AI "3가지 한계" 

AI라는 단어가 생긴 것은 실제로 1956년으로 거슬러 올라가며, 1980년대의 제2차 붐을 거쳐 현재는 ‘제3차 붐’에 해당한다.

이번에 AI가 널리 보급된 이유는 뇌 반응을 모방한 계산 방법(딥러닝 등)이 개발된 것과 스마트폰 보급 등으로 ‘빅데이터’를 활용해 방대한 양의 단어를 나열하는 확률 계산의 정확도가 비약적으로 향상된(대규모 언어 모델) 덕분이다. 하지만 가토 씨는 현재 AI에 몇 가지 큰 문제가 있다고 경고한다. 

첫째, 데이터가 적은 특수 영역에서는 답이 부정확한 경우가 눈에 띈다.

둘째로, 현재 주요 AI는 미국 제조업체가 주도하고 있지만, 데이터가 특정 국가의 가치관에 편향되거나 의도적인 조작을 받을 위험이 있다.

셋째, AI 데이터는 모두 ‘과거에 데이터로 기록된 것’에 한정되기 때문에 인간이 지금까지 경험하지 못한 전례 없는 사안이나 진정으로 창의적인 상황 판단에 대응할 수 없다는 점이다.

■ 데이터에 나타나지 않는 인간의 복잡한 사고와 '직감'의 중요성

가토 씨는 빅데이터라고 해도 인간의 행동과 사고의 아주 일부에 불과하다고 말한다. 예를 들어 회의 자리에서는 공식적인 발언이 회의록으로 데이터화되지만, 참가자들의 머릿속에 있는 “그 말투가 마음에 들지 않는다”, “좀 더 정중하게 해야 한다”와 같은 미세한 감정이나 반응은 데이터에 나타나지 않는다. 

인간은 언제나 기온, 바람, 주변 소리 등 다양한 정보를 그 순간에 종합해 판단한다. 매일 똑같은 일을 하는 듯하지만, 인간이라는 존재에게는 매 순간 새로운 경험과 판단이 찾아온다. AI는 그걸 할 수 없지.

부활동의 엄격한 감독 뒤에 있는 ‘잘 키워주자’는 배려도 AI는 이해하지 못한다. 프로그램에서는 거인의 아베 감독 딸이 아버지에게 꾸중을 들었을 때 AI에게 상담했더니 “아동복지센터에 연락하라”는 식으로 기계적으로 답변을 받았다는, 상황의 맥락을 파악하지 못하는 AI의 특성을 보여주는 구체적인 에피소드도 소개되었다. 

■ AI가 안고 있는 에너지 문제 

이러한 특성을 이해한 바탕으로 가토 씨는 “AI가 제시한 답은 어디까지 가도 기계가 확률적으로 계산해 내는 것이라는 점을 잊지 말아야 한다”고 말했다. AI는 사실 확인이나 정리, 요약 정도로만 활용하고, 인간은 ‘이럴 때는 이렇게 해야겠다’는 직감을 기르며 매일 꼼꼼히 관찰하는 것이 중요하다. 

또한 가토 씨는 AI의 전력 소비에 대해서도 경고하고 있다. 인간의 뇌가 평소 약 20와트 정도의 에너지로 작동하는 반면, AI는 그 수천 배, 수만 배에 달하는 거대한 전력을 소비한다. 이 방대한 에너지 소비가 에너지 가격 상승과 지구 온난화로 이어지고 있다는 사실도 우리는 염두에 두어야 한다. 

AI가 내는 숫자나 답변에 일희일비하지 말고, 이를 계기로 인간의 존재 방식과 행복에 대한 가치관 자체를 다시 되돌아보는 것. 그것이 바로 우리 미래를 더욱 풍요롭게 만드는 열쇠가 된다.

오이타 방송

AIは本当に人間を超えるのか? 過去データしか見ない「3つの限界」vs「人間の思考」

AIは本当に人間を超えるのか? 過去データしか見ない「3つの限界」vs「人間の思考」（OBS大分放

AIは本当に人間を超えるのか? 過去データしか見ない「3つの限界」vs「人間の思考」/ 6/20(土) / OBS大分放送

■ 生成AIの台頭と、加速する市場の熱狂

OBSラジオ番組「加藤秀樹が語る、日本の未来構想」にて、構想日本の加藤秀樹代表が、今ブームのようになっているAI（人工知能）の本質や問題点、そして未来への提言について語った。

【写真を見る】AIは本当に人間を超えるのか? 過去データしか見ない「3つの限界」vs「人間の思考」

イーロン・マスク氏率いる「スペースX」が上場し、12兆円もの巨額資金を集めたニュースや、アンソロピック、OpenAIといったAI開発企業が今年中に続々と上場を見込んでいる現状を見ると、これからは誰もがAIと付き合わざるを得ない世の中になる。「そもそもAIとは何なのか」「AIは人間を超えるのか」という根本的な疑問について、きちんと整理しておこうという趣旨だ。

■ AIが人間を超えることは「ない」――すべては確率の計算

「AIは人間を超えるのか」という問いに対し、加藤氏は「超える」の意味を考えるべきだと言う。記憶力や計算スピードにおいては、新幹線が人間よりはるかに速く走るのと同じように、すでに人間を凌駕しているが、人間のすべての能力と比べると明確に「ノー」と断言する。

その理由は、AIはあくまでコンピューターで計算を行う「機械」であり、行っていることはすべて「確率の計算」に過ぎないからだ。 AIは、世の中に出回っているデータや文章の組み合わせから、「この質問にはこういう答えを出すと求められていることに合う確率が高い」と計算し、単語を一つひとつ確率に基づいて並べているだけである。

そこに感情や感性、相手への配慮といったものは一切存在しない。何度もやり取りを重ねることで、AIが相手の気持ちに寄り添ってくれるように見えることもあるが、それも相手の傾向に合わせて確率を調整しているに過ぎない。

AIは質問の「意味」を理解しているわけではないのみならず、AIにとって「意味」というものがそもそもないのだ。だから「AIが質問者の意味を分かって寄り添ってくれている」と騙されてはいけないと加藤氏は指摘する。

■ AI「3つの限界」 

AIという言葉が生まれたのは実は1956年に遡り、1980年代の第二次ブームを経て、現在は「第三次ブーム」にあたる。

今回AIが広く普及したのは、脳の反応を模した計算手法（ディープラーニングなど）が開発されたことと、スマートフォンの普及などによって「ビッグデータ」を活用し、膨大な量の言葉を並べる確率計算の精度が飛躍的に高まった（大規模言語モデル）ためだ。しかし、加藤氏は現在のAIにはいくつかの大きな問題があると警鐘を鳴らす。

第一に、データが少ない特殊な領域では答えの不正確さが目立つ点だ。

第二に、現在の主要なAIはアメリカのメーカーが主導しているが、データが特定の国の価値観に偏ったり、意図的な操作を受けたりする危険性がある。

第三に、AIのデータはすべて「過去にデータとして記録されたこと」に限定されるため、人間がこれまで経験したことのない前代未聞の事柄や、本当にクリエイティブな状況判断には対応できないという点である。

■ データに現れない人間の複雑な思考と「勘」の重要性

加藤氏は、ビッグデータといえども人間の行動や思考のごく一部に過ぎないと語る。例えば会議の場において、公式な発言は議事録としてデータ化されるが、参加者の頭の中にある「その言い方は気に食わない」「もっと丁寧にやるべきだ」といった微細な感情や反応はデータには現れない。

人間は常に気温や風、周囲の音など多様な情報をその瞬間に総合して判断している。毎日同じことをしているようで、生き物としての人間にとっては瞬間毎に新しい経験、判断をしている。AIにはそれができないのだ。

部活動の厳しい監督の背後にある「しっかり育ててやろう」という思いやりも、AIには理解できない。番組内では、巨人の阿部監督の娘が父親に怒られた際、AIに相談したところ「児童相談所に連絡しろ」と機械的に返答されたという、状況の文脈を汲み取れないAIの特性を示す具体的なエピソードも紹介された。

■ AIが抱えるエネルギー問題 

こうした特性を理解した上で、加藤氏は「AIが出した答えは、どこまでいっても機械が確率的に計算して出してくるもの、ということを忘れないようにしないといけない」と語る。AIは事実の確認や整理、まとめとして活用する程度にとどめ、人間自身は「こういう時はこうだろう」という勘を養い、日々よく観察することが重要である。

また、加藤氏は、AIの消費電力についても警鐘を鳴らす。人間の脳が普段約20ワット程度のエネルギーで動いているのに対し、AIはその何千倍、何万倍もの莫大な電力を消費している。この膨大なエネルギー消費が、エネルギー価格の高騰や地球温暖化につながっているという事実も、私たちは頭に入れておくべきだ。

AIが出す数字や回答に一喜一憂するのではなく、これを機に、人間のあり方や幸福の価値観そのものを見つめ直すこと。それこそが、私たちの未来をより豊かにする鍵となる。

大分放送