ある企業が、自社開発の画像分類モデルをAPIとして有償で公開した。その後、第三者がこのAPIに大量の画像を送り、返ってきた予測結果を学習データとして使うことで、元のモデルとほぼ同等の性能を持つモデルを作成していたことが判明した。このような攻撃の名称として、最も適切なものはどれか。
- 1モデル抽出攻撃
- 2データポイズニング
- 3メンバーシップ推論攻撃
- 4敵対的サンプル（Adversarial Examples）を用いた攻撃
正解と解説を見る
正解：1
公開されたAPIに大量に問い合わせ、その入力と応答の組を学習データにして元のモデルと同等の機能を持つ複製モデルを作る攻撃を、モデル抽出攻撃（モデル窃取）といいます。データポイズニングは学習データに不正なデータを混ぜてモデルの挙動を歪める攻撃です。メンバーシップ推論攻撃は特定のデータが学習に使われたかを推測する攻撃、敵対的サンプルは入力に微小な摂動を加えて誤分類を誘う攻撃です。対策には、問い合わせ回数の制限や利用状況の監視、出力する確信度の情報を必要最小限にすることなどがあります。モデルを外部公開する運用段階では、知的財産であるモデルそのものが狙われ得ることを想定しておきましょう。
根拠：AIセキュリティ：モデル抽出攻撃（Model Extraction Attack）