融資審査AIが申込者を「否決」と判定した理由を説明したい。協力ゲーム理論のシャープレイ値の考え方を使って、個々の予測に対する各特徴量の寄与度を算出する手法として、最も適切なものはどれか。
- 1LIME
- 2Grad-CAM
- 3Permutation Importance
- 4SHAP
正解と解説を見る
正解：4
SHAPは、各特徴量を協力ゲームの「プレイヤー」とみなし、シャープレイ値に基づいて予測値への寄与を公平に配分する手法です。LIMEは、予測対象の近くで解釈しやすい単純なモデルを学習して局所的に近似する手法で、シャープレイ値は使いません。Grad-CAMは、主にCNNで勾配を使って画像の注目領域を可視化する手法です。Permutation Importanceは、特徴量の値をシャッフルしたときの精度の低下から、モデル全体での重要度を測る手法です。「シャープレイ値ならSHAP」と結びつけて覚えておきましょう。
根拠：説明可能なAI（XAI）：SHAP（Lundberg & Lee, 2017）