RNN ∋ LSTM / GRU

[テ227, 229]
時系列データ_勾配消失問題の解決
・LSTM: ゲート機構{入力ゲート・忘却ゲート・出力ゲート}、セル{CEC(Constant Error Carousel)、誤差を内部に留まらせる [テ320]}
・GRU: リセットゲート・更新ゲート

[黒377]
・双方向RNN: 過去から未来だけでなく、未来から過去の方向についても考慮して出力ができるRNN。
・Seq2Seq: エンコーダ、デコーダと呼ばれる2つのRNNで構成。入力と出力の長さが異なるタスクを扱えるネットワークである。
・エルマンネットワーク: 1990年発表。初期のRNN。

参考文献: ***は、ページ番号。
[テ***] 『深層学習教科書 ディープラーニング G検定(ジェネラリスト)公式テキスト』第3版
[黒***] 『徹底攻略ディープラーニングG検定ジェネラリスト問題集』第3版