ある金融機関が融資審査AIを開発する際、差別を防ぐ目的で性別や国籍などの属性を特徴量から除外した。公平性の観点からの評価として、最も適切なものはどれか。
- 1属性を特徴量から除外したので、モデルの判定に属性による偏りが生じるおそれはない。
- 2属性を除外すればモデルの精度は必ず向上するので、公平性と精度のバランスを検討する必要はない。
- 3公平性はアルゴリズムの選択だけで決まるので、学習データに含まれる過去の判断の偏りを確認する必要はない。
- 4居住地域や職歴など、除外した属性と相関の高い変数を通じて、結果的に特定の属性の人が不利に扱われるおそれがある。
正解と解説を見る
正解：4
センシティブな属性を特徴量から除いても、それと相関する居住地域などの変数（代理変数）が残っていれば、モデルは実質的に同じ情報を学習し、間接的な差別が起こることがあります。学習データが過去の偏った判断を反映していれば、その偏りもモデルに引き継がれます。また、属性を除外すれば精度が必ず上がるわけではなく、公平性と精度のトレードオフも検討が必要です。属性を除くだけでは公平性は保証されないので、属性グループごとに結果を比べるなどの評価を続けることが大切だと覚えておきましょう。
根拠：AIの公平性（代理変数による間接差別、アルゴリズムバイアス）