確率的勾配降下法（SGD）の説明として最も適切なものはどれか。
- 1毎回の更新ですべての訓練データを用いて勾配を計算するため、更新の方向が安定している。
- 2訓練データからランダムに選んだ一部のデータ（1件またはミニバッチ）で勾配を計算し、パラメータを更新する。
- 3過去の勾配の大きさに応じて、パラメータごとに学習率を自動で調整する。
- 4誤差関数が複雑な形をしていても、必ず大域最適解に到達することが保証されている。
正解と解説を見る
正解：2
確率的勾配降下法（SGD）は、ランダムに選んだ一部のデータで勾配を計算して更新を繰り返す手法で、1回の更新の計算コストが小さく済みます。すべての訓練データで毎回勾配を求めるのはバッチ勾配降下法です。パラメータごとに学習率を調整するのは、AdaGrad、RMSprop、Adamなどの適応的な手法です。また、SGDを含む勾配降下法は局所最適解や鞍点にとどまる可能性があり、大域最適解への到達は保証されません。SGDは「ランダムに選んだ一部のデータで勾配を近似して更新する」手法だと覚えておきましょう。
根拠：確率的勾配降下法（SGD）とバッチ勾配降下法・ミニバッチ学習