テクノロジ系 シラバス6.x 生成AI #生成AI#ハルシネーション#AIリスク

ハルシネーション(幻覚)の意味と対策

大規模言語モデル(LLM)が、事実に基づかない架空の法律名や存在しない論文を、あたかも正確な事実であるかのように自然な文章で出力してしまう現象を何と呼ぶか。

正解と詳しい解説・ひっかけポイントを見る

正解:ア(ハルシネーション)

ハルシネーション(Hallucination=幻覚)は、生成AIが学習データの統計的パターンから「もっともらしい文章」を作る結果、実在しない事実を出力する現象です。RAGの導入や人間による一次ソース確認(ファクトチェック)が基本対策になります。

本番で狙われるひっかけポイント 「悪意ある攻撃」ではなく「モデルの性質上起きる誤出力」である点に注意。攻撃ならプロンプトインジェクション。

全選択肢の解説

  • ア. ハルシネーション:生成AIが確率的にそれらしい単語をつなぐ性質上、事実と異なる情報を堂々と生成してしまう現象(幻覚)。
  • イ. 過学習(オーバーフィッティング):訓練データに適合しすぎて未知のデータへの予測精度が落ちる機械学習の現象で、事実捏造の呼称ではない。
  • ウ. プロンプトインジェクション:悪意ある入力によってAIの制約を突破し、想定外の動作や情報漏えいを引き起こす攻撃手法。
  • エ. ディープラーニング:多層ニューラルネットワークを用いた機械学習の手法名。
← 前の問題:RAG(検索拡張生成)の仕組み 次の問題:プロンプトインジェクション攻撃 →

今のままだと3分野の足切り(300点)を突破できる?

登録不要・無料2分の5問スピード診断で、ストラテジ・マネジメント・テクノロジの弱点を即判定します。

無料で5問診断する →

あわせて解きたい関連問題