最適化手法AdaGradの課題と、それを改善したRMSpropに関する説明として最も適切なものはどれか。
- 1AdaGradは過去の勾配の二乗和を蓄積し続けるため、学習が進むと実質的な学習率が小さくなりすぎ、更新がほとんど進まなくなる。RMSpropは勾配の二乗の指数移動平均を用いて古い勾配の影響を徐々に弱めることで、これを緩和する。
- 2AdaGradは学習が進むにつれて実質的な学習率が大きくなり、発散しやすい。RMSpropは学習率を全パラメータ共通の固定値に戻すことで、これを解決する。
- 3AdaGradはすべてのパラメータに同一の学習率を適用するため、更新頻度の偏りに対応できない。RMSpropはパラメータごとに学習率を変えることで、これを解決する。
- 4AdaGradは勾配の符号だけを用いて更新するため、精度が低い。RMSpropは損失関数の二階微分（ヘッセ行列）を計算することで、これを解決する。
正解と解説を見る
正解：1
AdaGradはパラメータごとに、過去の勾配の二乗和で学習率を割ります。この二乗和は単調に増え続けるため、学習の後半には実質的な学習率がほぼ0になってしまいます。RMSpropは二乗和の代わりに指数移動平均を使い、直近の勾配を重視することでこの問題を緩和しました。パラメータごとに学習率を調整する仕組みはAdaGradの時点ですでにあるため、選択肢3は誤りです。「AdaGradは学習率が単調に減って止まりやすく、RMSpropは指数移動平均でそれを改善した」と覚えておきましょう。
根拠：AdaGrad（Duchi ら, 2011）とRMSprop（Hinton, 2012）