search

Strand2013 / NNIE-lite

⚡️ Using NNIE as simple as using ncnn ⚡️
MIT License
184 stars 50 forks source link

数据输入，量化的问题 #6

Open elevenface opened 3 years ago

elevenface commented 3 years ago

1.假设我从摄像头获取数据，VPSS可以直接输出resize后的YUV数据，理论可以省掉opencv的数据处理层。 2.输入端为8bit 正整数，一般的模型均为float32，这样的条件下，如果做量化效果会比较好

Strand2013 commented 3 years ago

1.假设我从摄像头获取数据，VPSS可以直接输出resize后的YUV数据，理论可以省掉opencv的数据处理层。 2.输入端为8bit 正整数，一般的模型均为float32，这样的条件下，如果做量化效果会比较好

参考下文章： https://openaccess.thecvf.com/content_cvpr_2018/papers/Jacob_Quantization_and_Training_CVPR_2018_paper.pdf