GRU(Gated Recurrent Unit)に関する説明として、最も適切なものはどれか。
- 1リセットゲートと更新ゲートの2つのゲートを持ち、LSTMより構造が簡素でパラメータ数が少ない。
- 2忘却ゲート、入力ゲート、出力ゲートの3つのゲートを持ち、隠れ状態とは別にセル状態を保持する。
- 3ゲート機構を持たず、前の時刻の隠れ状態をそのまま次の時刻に渡すことで勾配消失を防ぐ。
- 4系列を過去から未来へと未来から過去への両方向に処理し、2つの隠れ状態を結合して出力する。
正解と解説を見る
正解:1
GRUはLSTMを簡略化したモデルです。更新ゲートが過去の情報をどれだけ残し新しい情報をどれだけ取り込むかを制御し、リセットゲートが過去の隠れ状態をどの程度使うかを制御します。セル状態は持たず、隠れ状態だけで情報を伝えます。2はLSTM、4は双方向RNNの説明で、3のようなゲートのない単純なRNNはむしろ勾配消失を起こしやすい構造です。「GRUはゲート2つでセル状態なし、LSTMはゲート3つでセル状態あり」と覚えておきましょう。
根拠:GRU(Cho et al., 2014)とLSTMの構造比較