MCUNet: Tiny Deep Learning on IoT Devices

Ji Lin, Wei-Ming Chen, Yujun Lin, John Cohn, Chuang Gan, Song Han

2020-07-10

1. どんなもの？

マイコンに深層学習モデルをデプロイするには、メモリ (SRAM) と保存容量 (Flash) に非常に高い制約を守る必要がある。

例として最新のARMであるCortex-M7 MCUでは、以下の画像のように8bit整数化を行ったMobileNetV2でさえ、この制約を満たすことはできない。

クラウドやモバイル端末と異なり、マイコンはOSを有していないデバイスになる。そのため効率的にメモリと保存容量を管理できる深層学習モデルと推論ライブラリを設計する必要がある。

従来の研究はGPUやスマートフォン端末で動作させることを目的にしており、FLOPsやレイテンシの最適化しか行っていなかった。