Open shimopino opened 4 years ago
[arXiv:2007.10319] MCUNet: Tiny Deep Learning on IoT Devices
Ji Lin, Wei-Ming Chen, Yujun Lin, John Cohn, Chuang Gan, Song Han
2020-07-10
マイコンに深層学習モデルをデプロイするには、メモリ (SRAM) と保存容量 (Flash) に非常に高い制約を守る必要がある。
例として最新のARMであるCortex-M7 MCUでは、以下の画像のように8bit整数化を行ったMobileNetV2でさえ、この制約を満たすことはできない。
クラウドやモバイル端末と異なり、マイコンはOSを有していないデバイスになる。そのため効率的にメモリと保存容量を管理できる深層学習モデルと推論ライブラリを設計する必要がある。
従来の研究はGPUやスマートフォン端末で動作させることを目的にしており、FLOPsやレイテンシの最適化しか行っていなかった。
[Youtube] MCUNet: Visual Wake Word Demo on a $10 Microcontroller
論文へのリンク
[arXiv:2007.10319] MCUNet: Tiny Deep Learning on IoT Devices
著者・所属機関
Ji Lin, Wei-Ming Chen, Yujun Lin, John Cohn, Chuang Gan, Song Han
投稿日時(YYYY-MM-DD)
2020-07-10
1. どんなもの?
2. 先行研究と比べてどこがすごいの?
マイコンに深層学習モデルをデプロイするには、メモリ (SRAM) と保存容量 (Flash) に非常に高い制約を守る必要がある。
例として最新のARMであるCortex-M7 MCUでは、以下の画像のように8bit整数化を行ったMobileNetV2でさえ、この制約を満たすことはできない。
クラウドやモバイル端末と異なり、マイコンはOSを有していないデバイスになる。そのため効率的にメモリと保存容量を管理できる深層学習モデルと推論ライブラリを設計する必要がある。
従来の研究はGPUやスマートフォン端末で動作させることを目的にしており、FLOPsやレイテンシの最適化しか行っていなかった。
3. 技術や手法の"キモ"はどこにある?
4. どうやって有効だと検証した?
5. 議論はあるか?