CNNによる画像分類の判断根拠を可視化する手法Grad-CAMの説明として、最も適切なものはどれか。
- 1入力の近くで多数のデータを生成し、それらに対するモデルの予測を線形モデルなどの解釈しやすいモデルで局所的に近似する。
- 2協力ゲーム理論のシャープレイ値に基づいて、各特徴量が予測にどれだけ寄与したかを算出する。
- 3対象クラスのスコアの、最終畳み込み層の特徴マップに対する勾配を用いて各特徴マップの重みを求め、判断に寄与した画像領域をヒートマップで示す。
- 4入力画像の一部を矩形で順に覆い隠していき、予測確率がどれだけ変化するかによって重要な領域を特定する。
正解と解説を見る
正解：3
Grad-CAMは、対象クラスのスコアを最終畳み込み層の特徴マップで微分した勾配を平均して重みとし、特徴マップの重み付き和からヒートマップを作ります。モデルの構造を変えずに、画像のどこを見て判断したかを示せるのが特徴です。選択肢1はLIME、選択肢2はSHAPの説明で、どちらも特定のモデル構造に依存しない手法です。選択肢4はオクルージョン（遮蔽）による感度分析で、勾配を使わずに入力を隠して予測の変化を調べる点がGrad-CAMと異なります。Grad-CAMは「勾配」と「最終畳み込み層の特徴マップ」を使うCNN向けの可視化手法と押さえておきましょう。
根拠：Selvaraju et al.（2017）Grad-CAM