PaddlePaddle / PaddleSlim

PaddleSlim is an open-source library for deep model compression and architecture search.
https://paddleslim.readthedocs.io/zh_CN/latest/
Apache License 2.0
1.56k stars 345 forks source link

请教ptq什么时候支持量化校准表的保存 #1711

Open sanbuphy opened 1 year ago

sanbuphy commented 1 year ago

hi你好,我在使用ptq后得到了量化模型,我也开启了onnx_format,但在paddle2onnx的过程中遇到如下报错: image 请问怎么才能让他生成对应的量化校准表呢,非常感谢

xu-peng-7 commented 1 year ago

同问

XGZhang11 commented 9 months ago

请问是否能提供下所用的代码和版本信息

sanbuphy commented 8 months ago

请问是否能提供下所用的代码和版本信息

sorry这个有点年代了, 可以对picodet 进行 ptq ,开启 onnx_format 的量化模式,复现