search

ttanzhiqiang / onnx_tensorrt_project

Support Yolov5(4.0)/Yolov5(5.0)/YoloR/YoloX/Yolov4/Yolov3/CenterNet/CenterFace/RetinaFace/Classify/Unet. use darknet/libtorch/pytorch/mxnet to onnx to tensorrt
211 stars 43 forks source link

yolov5 量化int8怎么操作？ #10

Open zsffuture opened 3 years ago

zsffuture commented 3 years ago

如题，我看源码是支持int8的，想尝试一下，但是不知道步骤，大神有具体的步骤吗？我尝试时老是失败，是需要先生成int8的模型吗？还是怎么操作呢？ image image

ttanzhiqiang commented 3 years ago

设置m_config.mode = 2，你可以看看我的案例，而且需要配置校准表