生成AIにおける「ハルシネーション」の説明として、最も適切なものはどれか。
- 1同じプロンプトを入力しても、実行するたびに異なる回答が出力される現象
- 2悪意のある指示をプロンプトに紛れ込ませ、AIに本来の制約を無視した出力をさせる攻撃
- 3学習データに過度に適合し、未知のデータに対する性能が低下する現象
- 4事実と異なる内容や実在しない情報を、もっともらしい文章として生成してしまう現象
正解と解説を見る
正解：4
ハルシネーションとは、生成AIが事実に基づかない情報や存在しない出典などを、あたかも正しいかのように生成してしまう現象です。1は確率的な生成による出力のばらつきであり、それ自体は誤りではありません。2はプロンプトインジェクション、3は過学習（オーバーフィッティング）の説明です。生成AIの出力は流暢であっても正しいとは限らないため、重要な情報は一次情報で確認（ファクトチェック）することが大切です。
根拠：ハルシネーション（幻覚）