关于load量化好模型的问题

Jermmy / pytorch-quantization-demo

A simple network quantization demo using pytorch from scratch.

Apache License 2.0

497 stars 96 forks source link

Closed Aaronhuang-778 closed 1 year ago

Aaronhuang-778 commented 1 year ago

hello码主，我测试的时候发现不用quantize_forward矫正模型直接load已量化模型的模型（先freeze再save的已量化模型），发现模型dict对不上，请问博主是否有教程如何直接load已量化模型做推理而不使用train做矫正吗～

Jermmy commented 1 year ago

save之前先不要freeze，然后load之后再做freeze试试