LSH9832 / yolov8_trt

A quick TensorRT deoloyment solution for YOLOv8.
Apache License 2.0
35 stars 9 forks source link

用tensorrt导出模型后,推理精度有所降低,会出现误判的情况,请问up有遇到过类似的情况吗? #2

Closed wsy-yjys closed 1 year ago

wsy-yjys commented 1 year ago

--fp16,int8, best 这三个参数应该怎么选呀?如何在不牺牲精度的情况下提升速度?

LSH9832 commented 1 year ago

三个都不填是精度最高的,模型转化时将不会降低浮点数的精度,但是基本没有速度提升,--fp16牺牲少量精度能够大量提升速度,--int8和--best能够提升速度更多,但是精度降低会比较明显,需要进行校准训练。