당신도 틀렸을지 모른다. 의료상담에서 AI의 '올바른 사용법'.

[청소부]

あなたも間違っているかも　医療相談におけるAIの「正しい使い方」

2026/07/09無料会員記事

警視庁渋谷署前に集まった報道陣ら＝東京都渋谷区で2026年5月26日午前0時14分、滝川大貴撮影

押川勝太郎

目次

• 毎日4000万人が相談
• 単体なら9割正解なのに
• 緊急時には使っていけない
• 「ゆっくり相談」を心がけて
• 規制が技術に追いつかない現状
• AIは医師ではなく秘書

　5月末、プロ野球・巨人の前監督の家庭問題に世間の耳目が集まりました。発端は自宅で起きた18歳と15歳のきょうだいげんかです。仲裁に入った父親の前監督が長女に暴行を加えた疑いで、駆けつけた警察に現行犯逮捕されました（翌日釈放）。

　釈放後に開かれた記者会見で読み上げられた長女の手紙によると、長女がスマートフォンで生成AI「ChatGPT」に助けを求め、AIが提示した「児童相談所への連絡」という選択肢をそのまま実行した、という経緯でした。児童相談所の保護対象は18歳未満の児童であり、成人に達していた長女は本来の保護対象ではありません。また長女自身、児童相談所が警察に通報するとは予期しておらず「警察が来て一番驚いているのは自分自身です」と手紙につづりました。

　ここで論じたいのは行動の是非ではありません。腫瘍内科医として現場でがん患者さんと向き合う立場で日々感じていることが、この一件に象徴されていると伝えたいのです。すなわち「ユーザーが意図していない答えをAIが提示し、それによりユーザーに混乱を生じさせている」という構造の問題が医療相談の現場で静かに、確実に広がっているのです。

　本稿の目的は、生成AIの否定ではありません。私自身、AIを活用した啓発活動を続けており、無料のAIチャットボット「AIドクターおっしー君」（注1）も提供しています。お伝えしたいのは、便利な道具には必ず使い方の作法があり、それを身につけることがこれからのがん患者・家族にとって新しいがん防災の一部になる、という点です。

毎日4000万人が相談

　2022年末に「ChatGPT」をリリースし、世界中に生成AIのブームを巻き起こしたOpen AI社が1月に公開した「白書」によると(注2）、世界中で毎日約4000万人がChatGPTに健康の悩みを相談しているそうです。そのうち約7割は病院の診療時間外の利用です。誰にも言えない症状を抱えて眠れない夜、翌日の診察時間まで待てない不安――。これだけ条件がそろえば、指先ひとつで24時間応えてくれる、決して怒らない相談相手に頼りたくなるのは無理もないでしょう。

　しかもAIの「共感力」は既に臨床試験で証明されています。23年に米医学誌「JAMA　Internal Medicine」に発表されたランダム化比較試験結果では、患者の質問への回答の共感性で、ChatGPTの方が人間の医師よりも優れていると評価されました。共感性とは、患者の相談を聞いた時に患者の悩みにどれくらい寄り添って応対し、患者がその応対をどう感じたか、です。この試験では、医師とAIのどちらの応対の内容かを伏せた上で患者の感じ方を聞いたところ、「AIの方が共感性が高い」とした患者が、「医師」を選んだ患者の約10倍いました(注3）。私たち医師には耳の痛い事実です。ところが、ここに大きな落とし穴が潜んでいます。

単体なら9割正解なのに

　英オックスフォード大学の研究結果は興味深い内容です。一般市民約1300人に10種類の病気のシナリオ（頭痛、腹痛、胸痛など）を読ませ、ChatGPT、Llama3（ラマスリー、メタ社）、Command R（コマンドアール、コヒア社）という異なるAIを使う三つのグループと、対照群としてグーグル検索を使用する1グループの計4グループに分けて、疾患の特定と、それに対する適切な対応が回答できるかを調べてもらいました。

英オックスフォード大の研究デザイン＝押川さんの資料より

　結果は衝撃的でした。AIに直接シナリオを読ませて判断させた場合は、いずれも90％前後の高い正答率を達成しました。つまり、用意した10種類のシナリオに記載された情報を使えば、AIはほぼ完璧に疾患を診断し、ユーザーがどう対応すればいいかを答えられたのです。ところが、一般市民がシナリオを基に、質問を打ち込んで答えを得ようとしたら、グーグル検索だけのグループより判断を誤る確率が高まったのです。誤る確率はグーグル検索より1.76倍も高くなりました(注4）。

　考えられる理由は二つあります。第一に質問のスキルが十分ではなかった。私たちはAIにどのように質問をすれば、適切な答えを得られるか、というトレーニングを受けていないのですから当然でしょう。第二に、AIが返してきた選択肢の中から、正しい情報を選び取れる人がいなかった。研究で正しい情報を選び取れたのは34％と報告されています。つまり情報の入力（質問）と出力（得られた回答の理解）を人間がうまく使いこなせていないのです。

　「AIが無能だ」と強調したいのではありません。AIは賢い。けれども、その賢さを引き出せるかどうかは、私たち人間の側にかかっている、ということです。

緊急時には使っていけない

　医療領域では、もはや常識になりつつある原則があります。「緊急時にAIを使ってはいけない」という原則です。理由は三つあります。

AIに入力する質問によって回答は変わる＝押川さんの資料から

　危険パターン①パニック時には冷静な情報入力ができない。胸が苦しい、突然血を吐いた――そういう瞬間に、AIに必要な情報を整理して伝える余裕などありません。不完全な情報を渡せば、AIは不完全な判断を返します。

　危険パターン②確証バイアス。「気のせいだと言ってほしい」という気持ちで相談すると、共感性の高いAIは「そうですね、気のせいかもしれません」と寄り添ってくれます。賢いAIはユーザーにそんたくするのです。安心を得るためにAIを使い、本当に必要な受診をみすみす先延ばしにしてしまいかねません。

　危険パターン③AI過信（オートメーション・バイアス）。「機械が言っているのだから正しいだろう」と無批判に受け入れてしまう傾向です。AIは選択肢の一つを示しただけなのに、それを唯一の正解として受け取ってしまう。冒頭に紹介した事件はこの典型例といえます。

「ゆっくり相談」を心がけて

　上記の対策として、私は「ゆっくりAI相談」を勧めています。急いで短く聞くのではなく、自分の背景や状況も含めて、落ち着いて伝える相談方法です。これは「急がなければいけない緊急時はAI相談より受診を優先する」という意味も含んでいます。

　当初は「賢いAI相談法」と名付けようと思いましたが、それでは押し付けがましい。急がず、背景まで含めて伝える姿勢こそ肝心だと気づき、「ゆっくり」という言葉を名前にしました。

　コツ①惜しまず、状況を詳しく書き込む。AIに質問するときは自分の情報をできるかぎり詳しく入力してください。何のがんで、どのステージで、これまでどんな治療を受けてきて、いまどの薬を使っていて、検査結果はこうで、主治医はこう説明してくれた、家族はこう思っている、住んでいる地域はこういう環境、仕事はこういう状況、自分にはこういう不安がある――。短く曖昧に聞けば、短く曖昧な答えしか返ってきません。詳しく状況を渡した分だけ、AIはあなた専用の助言らしきものを返してくれます。ただし、名前や具体的な住所など個人情報は入れないことが鉄則です。

　コツ②「診断」ではなく「準備」のためにAIを使う。「私の病気は何ですか」と聞いてはいけません。代わりに、「次の外来で、主治医に何を聞けばいいですか」と聞いてください。受診前の情報収集、診察室で質問の整理、説明された治療内容の復習――AIはこの「準備係」として使えば、最高の力を発揮します。私が提供している「AIドクターおっしー君」も診断や治療選択には使えませんと最初に明示する設計にしています。

AIの正しい付き合い方＝押川さんの資料より

　コツ③複数のAIに同じ質問をぶつける。ChatGPT、Gemini（ジェミニ、グーグル社）、Claude（クロード、アンソロピック社）など、せめて二つか三つのAIに同じ質問を投げてみてください。一つのAIだけより安心感は増すかもしれません。ただし、みんな同じ間違いをする可能性もあるので、最終判断の代わりにはなりません。

　コツ④症状の急変や強い副作用の時は使わない。これは絶対の鉄則です。「夜中だから」「先生に悪いから」と遠慮してAIに相談しているうちに貴重な治療の時間を失う患者さんを何人も見てきました。迷わず主治医・受診先病院に連絡してください。

規制が技術に追いつかない現状

　ChatGPTなど、私たちが気軽に使う生成AIは国の審査を受けた医療機器ではありません。医療機器に対しては、医薬品医療機器法で厳しい安全性と有効性の試験が課されていますが、ChatGPTやGeminiといった汎用（はんよう）の生成AIは、そもそも医療機器としての承認を取る必要がありません。ユーザーの利便性のために提供されているこれらのスマホアプリがなし崩し的に医療相談に利用されているのが現状です。

AI使用に押さえておきたい三つの鉄則＝押川さんの資料より

　これは「悪い」ということではなく、規制が技術の進化に追いついていないのです。だからこそ、いま私たち利用者の側にAIリテラシー（読み書き能力）が強く求められているのです。AIリテラシーで重要な要素は「AIの限界を知る」「複数の視点で検証する」「最終判断は人間が行う」。この三つです。

AIは医師ではなく秘書

　AIは便利な秘書です。けれども医師ではありません。AIは車の助手席に座っている、地図を持った相棒と考えてください。つまり人生の重大な決断や方向を決めるハンドルを、AIに握らせてはいけないのです。

AIはあくまで「秘書」＝押川さんの資料より

　前巨人監督の事件は、AIが提示した「選択肢」を「指示」として受け取ってしまった事件でした。同様のことが医療現場でも十分起こり得ます。

　最終的に判断するのはいつもあなた自身。この原則だけは、AIがどれほど進化しても変わらないでしょう。地震や台風に備えるように、2人に1人が経験するがんにも日頃の備えが欠かせません。それが「がん防災」の考え方です。

　生成AIが医療の現場に溶け込もうとしているこの時代において、状況や背景も含めて入力する「ゆっくりAI相談」を身につけることが、新しいがん防災の一部になりつつあります。

　賢く使えば、AIはこれからの治療と人生の心強い味方になります。元気なうちにこそ、AIとの正しい付き合い方を学んでおくことが、あなた自身と大切な人を守る最大の備えになるのです。

　病気や治療の不安について、無料で電話相談できる「がん相談支援センター」が、全国のがん診療連携拠点病院に設置されています。その病院の患者さんでなくても利用できますので、AIに頼る前に、まずは人の声に頼ってみてください。

参考文献
注1　AIドクターおっしー君（無料AIチャットボット――診断・治療選択には使用不可、病院受診の準備用ツールとして提供）
注2　More than 40 million turn to ChatGPT every day AI as a Healthcare Ally
注3　Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum.
注4　Reliability of LLMs as medical assistants for the general public
注5　がん防災マニュアル

無料メルマガの登録はこちら。おすすめ情報をお見逃しなく

押川勝太郎

宮崎善仁会病院非常勤医師

おしかわ・しょうたろう　1995年宮崎大医学部卒。国立がんセンター東病院を経て、宮崎善仁会病院非常勤医師。専門は抗がん剤治療と緩和療法。YouTubeでがん防災チャンネルを開設している。