agatan / paper-reading-notes

読んだ論文の管理とメモ置き場
5 stars 0 forks source link

Searching for MobileNetV3 #24

Open agatan opened 5 years ago

agatan commented 5 years ago

MobileNet シリーズ!Neural Architecture Search を用いて(特にモバイル CPU 上で)高効率なアーキテクチャを探索し、評価した話。

agatan commented 5 years ago

MobileNet シリーズ!Neural Architecture Search を用いて(特にモバイル CPU 上で)高効率なアーキテクチャを探索し、評価した話。 MobileNetV2 で採用している module にいくつかの変更を加えたものを building block としている。

  1. non-linearity として swith を採用
  2. SE block の採用(MnasNet ですでに採用されている)
  3. SE も swith も sigmoid をつかうが、sigmoid は遅いので hard_sigmoid で代用

MnasNet で採用されている NAS で global structure を決定し、NetAdapt algorithm で層単位の fine tune をしている。