Open sanoyo opened 5 years ago
過学習を防ぐために、DropoutやBatch Normalizatioを使用するが、 今回は、multi-branch networksによっても過学習を防ぐことができるとわかってきた。
Data augmentationは、通常入力画像に対して行われるが、今回は中間層に対して正則化を行っている。 ResNetをベースにしている。 係数は、各順方向パスの前に新しい乱数で上書きされている。
https://arxiv.org/pdf/1705.07485.pdf
https://github.com/xgastaldi/shake-shake
coefficients：係数
https://www.slideshare.net/DeepLearningJP2016/dl-hacksshakeshake-regularization-improved-regularization-of-convolutional-neural-networks-with-cutout
https://qiita.com/yu4u/items/a9fc529c85534eca11e5
http://hiratarosu.hateblo.jp/entry/2018/01/31/104243
要約
過学習を防ぐために、DropoutやBatch Normalizatioを使用するが、 今回は、multi-branch networksによっても過学習を防ぐことができるとわかってきた。
Data augmentationは、通常入力画像に対して行われるが、今回は中間層に対して正則化を行っている。 ResNetをベースにしている。 係数は、各順方向パスの前に新しい乱数で上書きされている。
論文リンク
https://arxiv.org/pdf/1705.07485.pdf
Gitリンク
https://github.com/xgastaldi/shake-shake
わからなかった単語
coefficients：係数
参考リンク
https://www.slideshare.net/DeepLearningJP2016/dl-hacksshakeshake-regularization-improved-regularization-of-convolutional-neural-networks-with-cutout
https://qiita.com/yu4u/items/a9fc529c85534eca11e5
http://hiratarosu.hateblo.jp/entry/2018/01/31/104243