ppyoloe_r trt加速问题

PaddlePaddle / PaddleDetection

Object Detection toolkit based on PaddlePaddle. It supports object detection, instance segmentation, multiple object tracking and real-time multi-person keypoint detection.

Apache License 2.0

12.82k stars 2.89k forks source link

ppyoloe_r trt加速问题 #8056

Open liangchen341 opened 1 year ago

liangchen341 commented 1 year ago

问题确认 Search before asking

[X] 我已经搜索过问题，但是没有找到解答。I have searched the question and found no related answer.

请提出你的问题 Please ask your question

ppyoloe_r使用trt_fp16加速后出现问题，检测出的结果特别不稳定，具体表现是检测跳变严重，得到的框角度不准确，同时出现多个不同角度检测框，检测效果很差。 TensorRT版本为TensorRT-8.2.5.1, PaddleDetection版本为2.6版本

ghostxsl commented 1 year ago

请问你使用的是发布的模型还是自己训练的模型？具体yaml文件是哪个呢？