search

Jermmy / pytorch-quantization-demo

A simple network quantization demo using pytorch from scratch.
Apache License 2.0
497 stars 96 forks source link

post_training 精度 #2

Closed qiulinzhang closed 3 years ago

qiulinzhang commented 3 years ago

post training 在fp32精度训练得到的 99% 的 模型 在 int8 推理时只有 88% 的准确率，没有修改代码，全原封

Jermmy commented 3 years ago

你可能使用了带BN的模型，可以把using_bn设为False再试一下。