search

FeiYull / TensorRT-Alpha

🔥🔥🔥TensorRT for YOLOv8、YOLOv8-Pose、YOLOv8-Seg、YOLOv8-Cls、YOLOv7、YOLOv6、YOLOv5、YOLONAS......🚀🚀🚀CUDA IS ALL YOU NEED.🍎🍎🍎
GNU General Public License v2.0
1.26k stars 196 forks source link

yolov8官方pytorch可以检出图片里的目标物体，采用仓库里的tensorrt加速代码无法检出 #68

Open 1448643857 opened 6 months ago

1448643857 commented 6 months ago

博主你好，我采用yolov8训练自己的数据集，同一张图片，用官方的可以检出，用仓库里的代码无法检出，请问一下可以从哪些方面进行排查？

FeiYull commented 6 months ago

@1448643857 【yolov8 tensorrt 部署自己训练的模型-哔哩哔哩】 https://b23.tv/Exkc3lt

1448643857 commented 6 months ago

@1448643857 【yolov8 tensorrt 部署自己训练的模型-哔哩哔哩】 https://b23.tv/Exkc3lt

感谢博主，我就是按照您的步骤部署的，我自己训练的模型检测100帧的视频，yolov8官方全部能检出，tensorrt加速后只能检出95帧，且精度有所下降，我能从哪些方面排查下呢😁

FeiYull commented 6 months ago

其余5帧，官方的也能检测到目标嘛？

FeiYull @.***

------------------ 原始邮件 ------------------ 发件人: 1448643857 @.> 发送时间: 2024年1月5日 11:13 收件人: FeiYull/TensorRT-Alpha @.> 抄送: FeiYull @.>, Comment @.> 主题: Re: [FeiYull/TensorRT-Alpha] yolov8官方pytorch可以检出图片里的目标物体，采用仓库里的tensorrt加速代码无法检出 (Issue #68)

FeiYull commented 6 months ago

官方的保存了，但是不一定有目标

FeiYull @.***

------------------ 原始邮件 ------------------ 发件人: 1448643857 @.> 发送时间: 2024年1月5日 11:13 收件人: FeiYull/TensorRT-Alpha @.> 抄送: FeiYull @.>, Comment @.> 主题: Re: [FeiYull/TensorRT-Alpha] yolov8官方pytorch可以检出图片里的目标物体，采用仓库里的tensorrt加速代码无法检出 (Issue #68)

1448643857 commented 6 months ago

其余5帧，官方的也能检测到目标嘛？ FeiYull @. … ------------------ 原始邮件 ------------------ 发件人: 1448643857 @.> 发送时间: 2024年1月5日 11:13 收件人: FeiYull/TensorRT-Alpha @.> 抄送: FeiYull @.>, Comment @.***> 主题: Re: [FeiYull/TensorRT-Alpha] yolov8官方pytorch可以检出图片里的目标物体，采用仓库里的tensorrt加速代码无法检出 (Issue #68)

是的，官方保存的图上检测到了目标，打上了矩形框，我把有差异的帧保存到本地，单独用官方的和加速的代码进行检测，官方的能够检出，加速的代码无法检出。

FeiYull commented 6 months ago

@1448643857 图能贴出来嘛？

1448643857 commented 6 months ago

@1448643857 图能贴出来嘛？

私发给您可以不？我训练的数据集图片，我不太清楚能不能直接贴这个上面0.0

FeiYull commented 6 months ago

Q  732369616

FeiYull @.***

------------------ 原始邮件 ------------------ 发件人: 1448643857 @.> 发送时间: 2024年1月5日 12:20 收件人: FeiYull/TensorRT-Alpha @.> 抄送: FeiYull @.>, Comment @.> 主题: Re: [FeiYull/TensorRT-Alpha] yolov8官方pytorch可以检出图片里的目标物体，采用仓库里的tensorrt加速代码无法检出 (Issue #68)

1448643857 commented 6 months ago

非常感谢，已经申请

FeiYull commented 6 months ago

@1448643857 没看到，你把iou 置信度阈值降低一点点试一试

1448643857 commented 6 months ago

@1448643857 没看到，你把iou 置信度阈值降低一点点试一试

感谢，我开始把置信度阈值设置的0.5，现在改成0.2可以捡出来了，不过想请问一下为什么会有这么大的精度损失呢，官方捡出来置信度是0.9，加速后捡出来是0.3

FeiYull commented 6 months ago

@1448643857 注意阈值有两个。例如阈值为0.6，有时候torch推理为0.6001，trt 为0.5999(会被过滤删除)，结果就是torch效果好。有的时候torch为0.5999……就是trt好。

1448643857 commented 6 months ago

@1448643857 注意阈值有两个。例如阈值为0.6，有时候torch推理为0.6001，trt 为0.5999(会被过滤删除)，结果就是torch效果好。有的时候torch为0.5999……就是trt好。

是的，同一张图片，一样的参数设置，官方推理结果0.9，加速代码推理结果只有0.3.

FeiYull commented 6 months ago

@1448643857 有差异不用太担心，是正常的，你也可以自己测个2000张图。差异原因具体参考 https://github.com/FeiYull/TensorRT-Alpha/issues/66

kkboy771 commented 3 months ago

我再使用自己训练的关键点检测模型时，也出现了这个问题pytorch能完整推理出来，但是用仓库代码无法推理完整。我将置信度调到了0.1还是一样的结果。我仅改动了数据集的labels。请问这会是什么问题 ![Uploading 1855c94f53f3f86ff30f379fc644c2e4.png…]()