ハルシネーションとは
生成AIが、事実と異なる内容を、もっともらしく生成してしまう現象。
解説
ハルシネーション（幻覚）は、生成AIが実際には正しくない情報を、あたかも正しいかのように出力してしまう現象です。言語モデルは「もっともらしい続き」を生成する仕組みのため、知らないことでも自信ありげに答えてしまうことがあります。対策として、根拠となる文書を与えて答えさせる（RAG）、出典を示させる、人による確認を挟む、重要な用途では使い方を制限する、といった方法がとられます。
試験での出方
ハルシネーションの意味と、RAG・出典提示・人の確認などの抑制策が問われます。