[2019] High Frequency Component Helps Explain the Generalization of Convolutional Neural Networks

[gatheluck]

論文リンク

https://arxiv.org/abs/1905.13545

公開日（yyyy/mm/dd）

2019/05/28

概要

• CNNの非直感的な汎化は人間とモデルの間の知覚の乖離が原因。（CNNは人間よりもはるかに高い粒度でデータを見ることが出来る。CNNは人間が知覚できない画像の高周波成分を活用出来る。）

[gatheluck]

ランダムシャッフルされたラベルでの学習

[gatheluck]

• シャッフルされたラベルの学習には3倍のエポック数がかかっている。
• シャッフルされたラベルを学習するさい CNN は高周波成分を使用して学習している。（高周波成分は低周波成分と比較して汎化性能が低い？）

[gatheluck]

バッチサイズが低周波成分と高周波成分の学習のし易さに与える影響

[gatheluck]

• バッチサイズが小さいと train とtest の乖離が大きい（高周波成分を学習した結果？）
• バッチサイズが小さいと高周波成分を学習しやすい
• 最終的な精度はバッチサイズが小さい方が良い

[gatheluck]

様々なヒューリスティックスが低周波成分と高周波成分の学習のし易さに与える影響

[gatheluck]

• Mix-up や BatchNorm は高周波成分を学習し易くしている。

• Q. BatchNorm の 性質とBatchSize の性質（上述）を組み合わせたらどうなる？(BatchSize 大->小で、低周波->高周波の順に学習出来る？) 関連研究：https://arxiv.org/abs/1712.02029 （BatchSize 小 -> 大）

[gatheluck]

低周波成分画像で学習した場合に BatchNorm が与える影響

[gatheluck]

• BatchNorm は低周波成分の学習に悪影響を与えている。（BatchNorm は正規化することによって、高周波と低周波の信号の捉えやすさを揃えている？）

[gatheluck]

• その他の実験でアーキテクチャに関する調査 (LeNet, AlexNet, VGG, ResNet) を行い、ResNet は高周波を捉えようとする傾向が他のアーキテクチャよりも小さかったと報告している。