生成AIのハルシネーションへの対処に関する記述として、最も適切なものはどれか。
- 1最新の大規模言語モデルではハルシネーションは発生しないため、出力をそのまま業務文書に用いてよい。
- 2回答に出典やURLが示されていれば、その内容は正確であると判断してよい。
- 3生成時のtemperatureの値を大きくすると出力が一定になるため、ハルシネーションを確実に防止できる。
- 4RAG（検索拡張生成）で信頼できる外部情報を参照させるとハルシネーションの低減が期待できるが、完全には防げないため、重要な内容は一次情報で確認する必要がある。
正解と解説を見る
正解：4
ハルシネーションとは、生成AIが事実と異なる内容や存在しない情報を、もっともらしく出力する現象です。RAGは根拠となる情報を参照させるため有効な低減策ですが、誤りを完全になくせるわけではありません。生成AIは実在しない出典やURLを作り出すこともあるため、出典が付いているだけで信頼してはいけません。また、temperatureを大きくすると出力のランダム性が高まり、出力は一定になりません。どの低減策を使っても、人による事実確認（ファクトチェック）は欠かせません。