AI
生成AI業務活用問題集
Q.
生成AIが事実と異なる内容を、もっともらしい文章でつくり出してしまう現象を指す言葉として一般的なものはどれか。
解説まとめ
正解はCです。生成AIが事実に基づかない内容をもっともらしく出力してしまう現象は、一般にハルシネーションと呼ばれます。AIは確率的に「それらしい言葉」をつなぐ仕組みのため、正しさを保証しているわけではありません。だからこそ、出力した事実は人が確かめる前提で使う必要があります。
ポイント
この問題の核心は、生成AIの出力が「真偽の判定」ではなく「もっともらしさの生成」である点です。文章が流暢で自信ありげに見えても、それは正確さの証拠にはなりません。流暢さと正確さは別物だと理解しておくと、出力を鵜呑みにする失敗を防げます。
ワンポイントアドバイス
AIが出した固有名詞・数字・日付・引用は、そのまま使わず一次情報で裏取りする癖をつけましょう。特に断定口調の箇所ほど確認が必要です。「流暢だから正しい」と感じたら、いったん立ち止まって出典を探すのが効果的です。
解説詳細
ハルシネーションが起きる理由
生成AIは、次に来そうな言葉を確率的に選んで文章を組み立てています。そのため、知らない事柄でも空白を埋めるように「それらしい」内容を生成し、結果として事実と異なる記述が混ざることがあります。これは仕組み上避けにくい性質であり、利用者側の確認で補う必要があります。
他の選択肢が誤りである理由
Aのキャッシュは、データを一時的に保持して再利用を速くする仕組みで、誤情報の生成とは無関係です。Bのリファクタリングは、プログラムの動作を変えずに内部構造を整える作業を指し、文脈が異なります。Dのインデックスは、検索を速くするための索引の仕組みで、AIが誤りを作る現象とは関係がありません。