説明可能AI（XAI）の手法のうち、LIMEの説明として最も適切なものはどれか。
- 1協力ゲーム理論のシャープレイ値に基づいて、各特徴量が予測値にどれだけ貢献したかを配分する。
- 2説明したい個々の予測について、入力を少しずつ変化させたサンプルに対するモデルの出力を調べ、その近傍での振る舞いを線形モデルなどの解釈しやすいモデルで近似する。
- 3CNNの最終畳み込み層の特徴マップと、予測クラスのスコアに対する勾配を用いて、判断の根拠となった画像領域をヒートマップで示す。
- 4ある特徴量の値をデータ間でランダムに並べ替えたときの予測精度の低下量から、モデル全体におけるその特徴量の重要度を測る。
正解と解説を見る
正解：2
LIME（Local Interpretable Model-agnostic Explanations）は、特定の入力の周辺で値を少し変えたデータを作り、元のモデルの出力を解釈しやすい単純なモデルで局所的に近似して、個々の予測の根拠を示します。モデルの内部構造に依存しない、モデル非依存の手法です。1はSHAP、3はGrad-CAM、4はPermutation Importanceの説明です。LIMEは「局所的な近似」、SHAPは「シャープレイ値」、Grad-CAMは「勾配によるCNNの注目領域の可視化」と覚えましょう。
根拠：Ribeiro et al. (2016) "Why Should I Trust You?: Explaining the Predictions of Any Classifier"