search

Monday-Leo / PPYOLOE_Tensorrt

A simple implementation of Tensorrt PPYOLOE
16 stars 3 forks source link

使用trtexec转fp16模型后结果出错 #1

Open moontsar opened 2 years ago

moontsar commented 2 years ago

非常感谢你的工作！但是我在加入nms后导出onnx模型，使用trtexec导出fp16模型，使用infer.py预测结果时，预测分数是不对的，但是导出fp32模型，结果正常，请问如何解决？

f1e27d8a7b8b7d83cadb43102d2411ed

fp16结果截图

65772aa97806d35c998ffb30840631e7

fp32结果截图

Monday-Leo commented 2 years ago

使用tensorrt8.2会出现分数不对的问题，请升级到8.4.1.5GA版本。

moontsar commented 2 years ago

使用tensorrt8.2会出现分数不对的问题，请升级到8.4.1.5GA版本。

我试一下，感谢