rockchip-linux / rknn-toolkit

BSD 3-Clause "New" or "Revised" License
829 stars 175 forks source link

请问如何加载onnx模型,并且使用已知的量化参数进行量化 #147

Open helloyongyang opened 2 years ago

helloyongyang commented 2 years ago

您好,我看教程里面只有使用rknn自带的工具做ptq量化,如果使用外部工具做好qat或者ptq量化,然后得到量化参数,请问rknn怎么加载这个onnx网络和对应的量化参数?

zen-xingle commented 2 years ago

https://github.com/rockchip-linux/rknn-toolkit/tree/master/examples/common_function_demos/load_quantized_model

推荐使用pytorch的量化,onnx的量化本身做不了QAT且目前支持的版本较低