'생성AI의 지식 부족이었다'. 사람에 의한 확인도 불충분. 誤정보를 기사화.

[청소부]

「生成AIの知見不足だった」人による確認も不十分　誤情報を記事化

• 社会
• 環境・科学
• 速報
• 福岡
• 科学・テクノロジー
• 九州・沖縄

毎日新聞2024/11/17 05:30（最終更新 11/17 05:30）573文字

•  
•  
•  
•  
•  
•  
•  
•  

写真はイメージ＝ゲッティ

写真一覧

　「生成AI（生成人工知能）の知見が不足していた」。実在しない観光名所などの記事を、福岡県の「官民連携」をうたうサイトが掲載していた問題で、運営側のウェブ関連会社の社長はそう釈明した。サイトの記事は生成AIを使って作成されたが、実在しない観光地や既に閉園しているテーマパークを紹介していた。

　社長の説明によると、生成AIでの記事作成後に人の目で実施した確認は、ネガティブな内容や犯罪、子供の危険につながるものを除外する目的で、掲載情報が事実かどうか確認する視点は不十分だった。

Advertisement

　一方、一連のキャンペーンサイトについて、新型コロナウイルス禍で観光需要が低迷した際に「ITの力で情報発信を」との狙いで沖縄で始まり、福岡以外では生成AI記事を導入せず問題がないことも強調した。

　日々進歩する生成AIを活用した情報はネットやSNSを介して誰でも利用できるが、真偽不明の内容も多い。九州大の小林俊哉准教授（科学技術社会論）は「どんな組織や個人も発信者は内容の責任が問われる。今回もAIではなく発信者の問題だ」と指摘。「AIを使う以上、できることとできないことを十分理解し、情報倫理を身につけることが重要。どんな技術も進歩とともに負の面を抱えており、AIが中身の見えない『ブラックボックス』であることを自覚せず使うことは危険だ」と警鐘を鳴らす。【長岡健太郎】