Jermmy / pytorch-quantization-demo

A simple network quantization demo using pytorch from scratch.
Apache License 2.0
497 stars 96 forks source link

跑fashion mnist数据集,带BN的网络量化精度损失较大 #8

Closed gllspeed closed 2 years ago

gllspeed commented 3 years ago

你好,我这边在跑fashion mnist数据集时,带BN的网络浮点精度时88%,量化精度只有70%,精度损失比较大。不带BN的网络量化精度几乎无损。请问以下您有遇到过这种情况吗? 或者可能是什么原因呢? 谢谢!

Jermmy commented 2 years ago

抱歉,现在才看到issue。之前代码中BN freeze部分有些bug,现在已经修正了,可以用新代码再试试。