search

meituan / YOLOv6

YOLOv6: a single-stage object detection framework dedicated to industrial applications.
GNU General Public License v3.0
5.71k stars 1.03k forks source link

请问模型转换到tensorrt后检测能力从能够正常检测变成很多错误目标是可能是什么原因？ #496

Open chengzihencai opened 2 years ago

chengzihencai commented 2 years ago

没有任何正确目标，很多杂乱的框，调整nms未解决问题

mtjhl commented 2 years ago

您好，请参考一下这个demo，排查一下是否代码有bug。https://github.com/meituan/YOLOv6/blob/main/deploy/ONNX/YOLOv6-Dynamic-Batch-tensorrt.ipynb

xingyueye commented 2 years ago

@chengzihencai 可以先确认下TRT-fp32/fp16的结果是不是正确的，有可能onnx导出的不对

chenchen1228 commented 2 years ago

@chengzihencai 可以先确认下TRT-fp32/fp16的结果是不是正确的，有可能onnx导出的不对

您好，yolov6s转成.engine可以正常推理，但是yolov6l相同流程走下来会出现杂乱的框集中在画面左上角，请问这是什么原因？

mtjhl commented 2 years ago

https://github.com/meituan/YOLOv6/blob/main/deploy/ONNX/YOLOv6-Dynamic-Batch-tensorrt.ipynb 您是按照这个流程来的吗？ @chenchen1228

chenchen1228 commented 2 years ago

https://github.com/meituan/YOLOv6/blob/main/deploy/ONNX/YOLOv6-Dynamic-Batch-tensorrt.ipynb 您是按照这个流程来的吗？ @chenchen1228

https://github.com/meituan/YOLOv6/tree/main/deploy/TensorRT follow这个流程

chengzihencai commented 2 years ago

https://github.com/meituan/YOLOv6/blob/main/deploy/ONNX/YOLOv6-Dynamic-Batch-tensorrt.ipynb 您是按照这个流程来的吗？ @chenchen1228

我之前使用其他模型转换到tensorrt也有这种杂乱的框出现在左上角的问题，请问这种情况会是其他框架与Tensorrt转换带来的问题吗？

chengzihencai commented 2 years ago

@chengzihencai 可以先确认下TRT-fp32/fp16的结果是不是正确的，有可能onnx导出的不对

好的，我先对ONNX的结果进行测试

mtjhl commented 2 years ago

https://github.com/meituan/YOLOv6/blob/main/deploy/ONNX/YOLOv6-Dynamic-Batch-tensorrt.ipynb 您是按照这个流程来的吗？ @chenchen1228

我之前使用其他模型转换到tensorrt也有这种杂乱的框出现在左上角的问题，请问这种情况会是其他框架与Tensorrt转换带来的问题吗？

这种情况可能是解码错误，一半来说模型转换不会导致问题，出问题的地方，可能是前后处理没对齐导致的。