Closed ycdhqzhiai closed 3 years ago
用的什么GPU啊?pytorch模型用时多长时间?
3090服务器,没在服务器上跑过,在本机PC 2070上pth模型测试0.008s
256*416输入
你看结果了吗?1000多ms可能结果根本不对,有n个框
@DaChaoXc 结果没问题,同一个pth模型,按照uv5原始方式转换onnx, 照抄tensorrt sample里面写,推理耗时2ms左右
解决了吗?我也遇到类似的问题,20到50ms波动,关键是推理同一张图片
请教下大家,我这边测试yolov5 模型,推理时间很慢
一帧耗时很不稳定,从500ms-2s都有,pt模型是yolov5原始ymal d=0.1 w=0.25(比v5s还小) cuda11.1-trt7.2.2.3 tensorrt新手,是我姿势不对吗?求解答