search

PaddlePaddle / PaddleDetection

Object Detection toolkit based on PaddlePaddle. It supports object detection, instance segmentation, multiple object tracking and real-time multi-person keypoint detection.
Apache License 2.0
12.56k stars 2.86k forks source link

pphuman性能问题 #7976

Open truthsun22 opened 1 year ago

truthsun22 commented 1 year ago

问题确认 Search before asking

请提出你的问题 Please ask your question

我用jetson AGX xavier部署pphuman，比如行人检测，读取rtsp视频流，只跑一路比较顺畅，两路同时跑就会有延时，跳帧也不行，延时积累多了，大概几分钟opencv就会缓冲满了，导致报错。所以想问下 1 pphuman对于延时积累导致报错，如何解决？跳帧以及队列线程都不是根本d额解决办法 2 如何提高pphuman部署性能，官方有没有量化后的模型？

jerrywgz commented 1 year ago

量化可以根据https://github.com/PaddlePaddle/PaddleDetection/tree/release/2.6/deploy/auto_compression 这里的文档里human中的模型进行自动压缩，我们晚些也会把量化模型提供出来

zhiboniu commented 1 year ago

这个问题要解决根本上就是提高处理速度。可以尝试1）使用更小的模型比如ppyoloe-tiny。2)开启trt-fp16模式。 如果有开发能力也可以尝试使用fastdeploy部署，我们这块的工作应该也会在1个月内开放出来

truthsun22 commented 1 year ago

这个问题要解决根本上就是提高处理速度。可以尝试1）使用更小的模型比如ppyoloe-tiny。2)开启trt-fp16模式。 如果有开发能力也可以尝试使用fastdeploy部署，我们这块的工作应该也会在1个月内开放出来

谢谢，fastdeploy性能会好一些么？

truthsun22 commented 1 year ago

量化可以根据https://github.com/PaddlePaddle/PaddleDetection/tree/release/2.6/deploy/auto_compression 这里的文档里human中的模型进行自动压缩，我们晚些也会把量化模型提供出来

问下，啥时候pphuman的量化模型能出来？谢谢

truthsun22 commented 1 year ago

这个问题要解决根本上就是提高处理速度。可以尝试1）使用更小的模型比如ppyoloe-tiny。2)开启trt-fp16模式。 如果有开发能力也可以尝试使用fastdeploy部署，我们这块的工作应该也会在1个月内开放出来

请问现在进度是咋样的了？