search

espressif / esp-dl

Espressif deep-learning library for AIoT applications
MIT License
516 stars 115 forks source link

量化工具生成的指数不对 (AIV-436) #71

Closed xiao-mb closed 2 years ago

xiao-mb commented 2 years ago

采用不同的矫正数据集生成的指数不一样，如何确定哪个指数才是正确的？在S3上测试最后一层的输出不对。

yehangyang commented 2 years ago

不同矫正数据集生成的指数确实会有差异，但是应该不会很大。建议可以用整个数据集作为矫正数据集去确定指数为。

注意，指数位发生变化时，Model 中的指数位也更新一致。

xiao-mb commented 2 years ago

shape = (1, 1, 31) element[0, 0, 0]: 1656 v.s. 3298 上面这种情况要怎么调整参数？

yehangyang commented 2 years ago

shape = (1, 1, 31) element[0, 0, 0]: 1656 v.s. 3298 上面这种情况要怎么调整参数？

量化结果是特定小数位下的，如果小数位改变了，用于比对的真实量化值也要相应改变。