search

OpenPPL / ppq

PPL Quantization Tool (PPQ) is a powerful offline neural network quantization tool.
Apache License 2.0
1.51k stars 228 forks source link

darknet 模型如何量化 #276

Closed charles-str closed 1 year ago

charles-str commented 1 year ago

现在模型是yolov4 的darknet模型 ，请问如何量化呢？

Lenan22 commented 1 year ago

现在模型是yolov4 的darknet模型 ，请问如何量化呢？

理论上可以把darknet转换为onnx or caffe，然后再用ppq量化部署，模型可以发来我，我看下? cugb_wulenan@163.com

Lenan22 commented 1 year ago

现在模型是yolov4 的darknet模型 ，请问如何量化呢？

你们要部署的平台？以及tensorrt的版本?

charles-str commented 1 year ago

tx2 ,tensorrt 5.0

Lenan22 commented 1 year ago

tx2 ,tensorrt 5.0

tx2不支持int8，后续我们会出一个darknet模型的量化部署的文档分享给你

Lenan22 commented 1 year ago

tx2 ,tensorrt 5.0

https://github.com/openppl-public/ppq/blob/master/md_doc/deploy_trt_by_api.md 参考这个文档即可用tensorrt自带的api量化部署，python和c++都写了demo

charles-str commented 1 year ago

好的，谢谢，有有问题再请假

---原始邮件--- 发件人: @.> 发送时间: 2022年10月28日(周五) 上午8:53 收件人: @.>; 抄送: @.**@.>; 主题: Re: [openppl-public/ppq] darknet 模型如何量化 (Issue #276)

tx2 ,tensorrt 5.0

https://github.com/openppl-public/ppq/blob/master/md_doc/deploy_trt_by_api.md 参考这个文档即可用tensorrt自带的api量化部署，python和c++都写了demo

— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you authored the thread.Message ID: @.***>