基于onnx的RTMPose模型无法正确转换为rknn格式

rockchip-linux / rknn-toolkit2

BSD 3-Clause "New" or "Revised" License

905 stars 154 forks source link

Open RFYoung opened 1 year ago

RFYoung commented 1 year ago

RTMpose是mmpose推出的姿态检测模型之一。我在转换onnx的rtmpose模型时（fp16精度），发现输出结果的每一项值都为nan。推理结果不正确。

onnx模型可以通过模型库直接下载。输入图片可以为下图：

进行推理的代码可以通过这个gist访问。使用方法为：python3 onnx_rknn.py rtmpose-t.onnx human-pose.jpg。其中将“rtmpose-t.onnx ”替换为onnx模型文件名，“human-pose.jpg”替换为推理图片名。

RFYoung commented 1 year ago

使用的rknn-toolkit2版本为1.5.2, python版本为3.8。

RFYoung commented 1 year ago

经过转换的fp16的onnx模型可以从这里下载。使用fp16模型依然会出现一样的问题。 rtmpose-t_fp16.onnx.zip

jizhu1023 commented 11 months ago

Same issue. Mark!

zerobest commented 11 months ago

请问有大佬转好了嘛，可以联系我邮箱，787207106@qq.com,有偿

lsm140 commented 6 months ago

经过转换的fp16的onnx模型可以从这里下载。使用fp16模型依然会出现一样的问题。 rtmpose-t_fp16.onnx.zip

那你有解决吗

lsm140 commented 6 months ago

请问有大佬转好了嘛，可以联系我邮箱，787207106@qq.com,有偿

你有解决吗我发现转完onnx的精度和效果很有问题

zerobest commented 4 months ago

请问有大佬转好了嘛，可以联系我邮箱，787207106@qq.com,有偿

你有解决吗我发现转完onnx的精度和效果很有问题我转的onnx可以使用速度还挺快