[テ206]
・ReLU等の活性化関数の使用 (tanh関数では不完全だった。Leakly ReLU関数等 [テ202-])
・バッチ正規化
・スキップ結合をネットワークに組み込む
ドロップアウトは、過学習の抑制 (勾配消失問題の対策ではない)。
ドロップアウトに似ている語の Random Erasing は、画像処理に用いられるデータ拡張の1手法で、画像の一部分の画素をランダムに決定した値に変更することで新しい画像を生成する [テ245]。
参考文献: ***は、ページ番号。
[テ***] 『深層学習教科書 ディープラーニング G検定（ジェネラリスト）公式テキスト』第3版
[黒***] 『徹底攻略ディープラーニングG検定ジェネラリスト問題集』第3版