OpenPPL / ppq

PPL Quantization Tool (PPQ) is a powerful offline neural network quantization tool.
Apache License 2.0
1.56k stars 236 forks source link

如何将yolov8n-seg进行int8量化. onnx2trtint8 #515

Closed lucy3589 closed 1 year ago

lucy3589 commented 1 year ago

使用sample/yolo里面的ppq方式进行转换可以成功。但是好像是生成了detection的格式(因为yolo推理的时候走的是检测分支,不是分割的)。 这个应该如何解决呢?