ハルシネーション(幻覚)の意味と対策
大規模言語モデル(LLM)が、事実に基づかない架空の法律名や存在しない論文を、あたかも正確な事実であるかのように自然な文章で出力してしまう現象を何と呼ぶか。
正解と詳しい解説・ひっかけポイントを見る
正解:ア(ハルシネーション)
ハルシネーション(Hallucination=幻覚)は、生成AIが学習データの統計的パターンから「もっともらしい文章」を作る結果、実在しない事実を出力する現象です。RAGの導入や人間による一次ソース確認(ファクトチェック)が基本対策になります。
本番で狙われるひっかけポイント
「悪意ある攻撃」ではなく「モデルの性質上起きる誤出力」である点に注意。攻撃ならプロンプトインジェクション。
全選択肢の解説
- ア. ハルシネーション:生成AIが確率的にそれらしい単語をつなぐ性質上、事実と異なる情報を堂々と生成してしまう現象(幻覚)。
- イ. 過学習(オーバーフィッティング):訓練データに適合しすぎて未知のデータへの予測精度が落ちる機械学習の現象で、事実捏造の呼称ではない。
- ウ. プロンプトインジェクション:悪意ある入力によってAIの制約を突破し、想定外の動作や情報漏えいを引き起こす攻撃手法。
- エ. ディープラーニング:多層ニューラルネットワークを用いた機械学習の手法名。