PaddlePaddle / Paddle2ONNX

ONNX Model Exporter for PaddlePaddle
Apache License 2.0
717 stars 166 forks source link

导出后的onnx模型依然存在动态维度的问题 #1195

Closed AntyRia closed 7 months ago

AntyRia commented 7 months ago

操作的模型: https://aistudio.baidu.com/modelsdetail/10/intro 按照以下代码进行导出: paddle2onnx --model_dir picodet_v2_s_320_pedestrian/ --model_filename model.pdmodel --params_filename model.pdiparams --save_file picodet_v2_s_320_pedestrian.onnx --opset_version 12 --enable_onnx_checker True python -m paddle2onnx.optimize --input_model picodet_v2_s_320_pedestrian.onnx --output_model picodet_v2_s_320_pedestrian_static.onnx --input_shape_dict "{'image':[1,3,320,320]}" 此时从模型角度来看输入的确变成了静态图: image 但是在转为rknn模型时: 这一层报错,说这一层存在动态维度: image image 针对错误文档的说法和报错信息,想问问可能的原因以及解决办法 image

AntyRia commented 7 months ago

补充说明,上述操作都是在linux x86容器进行的

Zheng-Bicheng commented 7 months ago

NMS操作在RK平台上是支持的吗,据我了解应该是不支持这个算子,建议将模型裁剪到NMS的两个输入OP?

AntyRia commented 7 months ago

感谢回复!