search

GesilaA / deepsort_tensorrt

This is a TensorRT based deepsort project
79 stars 26 forks source link

转出的onnx模型和pytorch推理结果无法对齐 #2

Open tunmx opened 3 years ago

tunmx commented 3 years ago

您好，打扰了，想请问一下使用您项目提供的exportOnnx.py把deepsort的模型转换成onnx后，使用opencv dnn和ort进行推理，结果和原来torch推理结果不一致，请问这是什么原因呢

GesilaA commented 3 years ago

@tunmx 很抱歉哈，之前没回复成功。。opencv的dnn我没有使用过，有可能是图片的预处理方式不一致。可以直接检查一下python模型和onnx模型的输出。

Jason-lzc commented 3 years ago

@GesilaA 我这边也发现ort的推理结果和pytorch版本不一致，事前已经确认了图片预处理方式的结果没有较大的差别

liangbaqiang commented 3 years ago

我的也发现torch的和onnx推理的提取特征不一致

GesilaA commented 3 years ago

@liangzcamg @liangbaqiang pytorch转onnx，然后onnx转trt。pytorch的特征、onnx的特征和trt的输出特征都不一样吗？差距大吗？

liangbaqiang commented 3 years ago

@GesilaA 请问您的torch版本是1.3吗，tensorrt7必须是为了支持动态输入？

GesilaA commented 3 years ago

@liangbaqiang 用的是torch1.6和trt7.2.1，trt7支持batchsize，不然行人的外观特征需要一个一个提取

liangbaqiang commented 3 years ago

@GesilaA 我用的7.0.0，结果报输入维度的问题，我换个版本试试

Jason-lzc commented 3 years ago

我这边是pytorch和onnx的特征不一样，在输入数据相差很小的情况下，输出特征完全对不上，trt的没测

GesilaA commented 3 years ago

@liangzcamg 可以用固定的一张图不加任何预处理去测试pytorch和onnx的输出，我记得之前在测的时候ptroch和onnx的输出差距非常小，onnx和trt的输出一致。

liminghui12345678 commented 3 years ago

ckpt.t7模型可视化 image 在原代码中直接用torch.onnx.export 转出的onnx可视化 image 用作者的exportOnnx.py转出的onnx模型可视化 image