search

PaddlePaddle / PaddleDetection

Object Detection toolkit based on PaddlePaddle. It supports object detection, instance segmentation, multiple object tracking and real-time multi-person keypoint detection.
Apache License 2.0
12.43k stars 2.85k forks source link

ppyoloe plus模型训练后导出trt=True反而速度要慢点，为啥？ #8016

Open truthsun22 opened 1 year ago

truthsun22 commented 1 year ago

问题确认 Search before asking

请提出你的问题 Please ask your question

ppyoloe+模型训练后导出 做视频检测，加了tensorRT,--run_mode=trt_fp16 不带trt=True导出的模型，fps可达到70多 带trt=True导出的模型，fps是60多 这是为啥？

nemonameless commented 1 year ago

paddle版本也请说下，多少张图下的fps? trt_fp16 开启后起步可能会等待一段时间， 这个也算进去了吗？

truthsun22 commented 1 year ago

paddle版本也请说下，多少张图下的fps? trt_fp16 开启后起步可能会等待一段时间， 这个也算进去了吗？

paddlepaddle-gpu 2.4.1.post112 测的是视频流检测，视频流开启后稳定了的fps

zhenhuamo commented 1 year ago

请问在导出模型时，是否只需要添加trt=True， 就可以开启TensorRT推理加速？