入力が784次元、隠れ層のユニット数が128、出力層のユニット数が10の全結合ニューラルネットワークがある。隠れ層と出力層の各ユニットにバイアスがあるとき、学習対象となるパラメータ(重みとバイアス)の総数として正しいものはどれか。
- 1922
- 2100,480
- 3101,632
- 4101,770
正解と解説を見る
正解:4
入力層から隠れ層へは、重み784×128=100,352とバイアス128で100,480個です。隠れ層から出力層へは、重み128×10=1,280とバイアス10で1,290個となり、合計は101,770個です。101,632はバイアスを数え忘れた値、100,480は隠れ層までしか数えていない値、922はユニット数を足しただけの値です。「全結合層のパラメータ数=入力数×出力数+出力数(バイアス)」を層ごとに足し合わせる、と覚えておきましょう。
根拠:全結合層のパラメータ数(重み+バイアス)