あるモデルが、訓練データに対しては非常に高い精度を示す一方で、未知のテストデータに対しては精度が大きく低下した。この現象への対策として、最も不適切なものはどれか。
- 1学習中にニューラルネットワークの一部のノードをランダムに無効化するドロップアウトを用いる。
- 2検証データに対する誤差が悪化し始めた時点で学習を打ち切る早期終了(Early Stopping)を用いる。
- 3訓練データに対する誤差がゼロになるまで、同じ訓練データでの学習を繰り返し続ける。
- 4画像の回転や反転などで訓練データを水増しするデータ拡張を行い、学習に使うデータの多様性を高める。
正解と解説を見る
正解:3
訓練データでは高精度なのに未知のデータで精度が落ちる現象は過学習(過剰適合)と呼ばれます。モデルが訓練データの細かなノイズまで覚えてしまい、汎化性能が低くなった状態です。訓練誤差がゼロになるまで学習を続けると訓練データへの当てはまりがさらに進み、過学習が悪化するおそれがあります。ドロップアウト、早期終了、データ拡張は、いずれも過学習を抑える代表的な手法です。過学習対策の目的は訓練データへの当てはまりではなく、未知データへの汎化性能を高めることだと覚えておきましょう。
根拠:過学習(過剰適合)と汎化性能、およびその抑制手法(正則化・ドロップアウト・早期終了・データ拡張)