モデル圧縮

モデル圧縮[黒396]
・プルーニング(枝刈り): 一度学習を行ったモデルのパラメータの一部を削除することで、パラメータ数を削減する手法。
・知識蒸留: 学習済みモデルと同じ出力を行うようにより小さなモデルを学習し、元のモデルと同等な精度を得ることを目指す手法。
・量子化: モデルのパラメータの数値計算の精度を下げる(=ビット数を削減 [テ326])ことで、モデルの容量を小さくする手法。

モデル圧縮ではない:
特徴量選択: モデルに入力する特徴量を削減すること。

[テ24]
特徴量: 対象を認識する際に注目すべき特徴を定量的に表したもの。

参考文献: ***は、ページ番号。
[テ***] 『深層学習教科書 ディープラーニング G検定(ジェネラリスト)公式テキスト』第3版
[黒***] 『徹底攻略ディープラーニングG検定ジェネラリスト問題集』第3版

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です