企業が公開しているAIチャットボットに対し、利用者が巧妙な入力を行い、開発者が設定した非公開のシステムプロンプト（内部の指示や設定内容）を回答として出力させようとする攻撃がある。この攻撃の名称として最も適切なものはどれか。
- 1ジェイルブレイク
- 2プロンプトリーキング
- 3データポイズニング
- 4モデル抽出攻撃
正解と解説を見る
正解：2
非公開のシステムプロンプトや内部の指示を引き出そうとする攻撃をプロンプトリーキングといい、敵対的プロンプトの一種です。ジェイルブレイクは安全上の制限を回避し、本来は拒否される有害な内容を出力させる攻撃です。データポイズニングは学習データに不正なデータを混ぜる攻撃、モデル抽出攻撃は大量の問い合わせ結果からモデルの機能を複製しようとする攻撃で、どちらもプロンプトを盗み出すことが目的ではありません。「leak（漏えい）させる対象はプロンプト」と覚えておきましょう。
根拠：敵対的プロンプト（プロンプトインジェクション、プロンプトリーキング、ジェイルブレイク）