訓練データが10,000件あり、バッチサイズを100としてミニバッチ学習を行う。ミニバッチごとにパラメータを1回更新するとき、5エポックの学習でパラメータが更新される回数として、最も適切なものはどれか。なお、データ件数はバッチサイズで割り切れ、端数は生じないものとする。
- 150回
- 2500回
- 32,000回
- 450,000回
正解と解説を見る
正解：2
1エポックは訓練データ全体を1回学習し終えることを指し、10,000件をバッチサイズ100で分けると1エポックあたり100個のミニバッチ、つまり100回の更新になります。これを5エポック繰り返すので、100回×5＝500回です。2,000回は10,000をエポック数5で割った値で、50,000回はデータ件数にエポック数を掛けた値であり、どちらもバッチサイズの意味を取り違えています。覚えておきたいのは、更新回数は「データ件数÷バッチサイズ×エポック数」で求められるという点です。
根拠：ミニバッチ学習におけるエポック・バッチサイズ・イテレーションの関係