OAID / Tengine

Tengine is a lite, high performance, modular inference engine for embedded device
Apache License 2.0
4.61k stars 998 forks source link

deeplab模型从tensorflow转onnx成功后,用convert_tool工具转tmfile过程报错 #785

Open Jade999 opened 3 years ago

Jade999 commented 3 years ago

请教大佬: 我的model原本时tensorflow的,通过tf2onnx成功转成了onnx模型,且结果已校验是对的, 转换命令为“python -m tf2onnx.convert --graphdef ./deeplab.pb --output depplab.onnx --fold_const --opset 11 --inputs ImageTensor:0 --outputs SemanticPredictions:0" 通过tengine的convert_tool转onnx的命令为: "./convert_tool -f onnx -m ./deeplab.onnx -o deeplab.tmfile" 报错信息如下: ----- Tengine Convert Tool ----

Version : v1.0, 18:40:02 Jun 30 2021 Status : float32

----------onnx2tengine begin -------------- Segmentation fault (core dumped)

Valaroasis commented 2 years ago

请教大佬: 我的model原本时tensorflow的,通过tf2onnx成功转成了onnx模型,且结果已校验是对的, 转换命令为“python -m tf2onnx.convert --graphdef ./deeplab.pb --output depplab.onnx --fold_const --opset 11 --inputs ImageTensor:0 --outputs SemanticPredictions:0" 通过tengine的convert_tool转onnx的命令为: "./convert_tool -f onnx -m ./deeplab.onnx -o deeplab.tmfile" 报错信息如下: ----- Tengine Convert Tool ----

Version : v1.0, 18:40:02 Jun 30 2021 Status : float32

----------onnx2tengine begin -------------- Segmentation fault (core dumped)

大佬 coredump的问题后来怎么解决的 我定位到是在load_graph_node时出现的segmentation fault

zjjkl9527 commented 2 years ago

pt转onnx onnx转tmfile 同样core dumped,解决了吗

Valaroasis commented 2 years ago

邮件已收到祝好!

2050airobert commented 2 years ago

@Valaroasis hello,问题解决了吗?

Valaroasis commented 2 years ago

邮件已收到祝好!

xiaozhao1235 commented 9 months ago

大佬这个问题解决了吗我用的yolov5s 6.0版本的模型生成出来的onnx文件也是 ---- Tengine Convert Tool ----

Version : v1.0, 01:07:00 Nov 29 2023 Status : float32

----------onnx2tengine begin---------- Model op set is: 12 Segmentation fault (core dumped) 这个bug。 但是5.0版本训练出来的模型就没有这个bug。求教!!!!

Valaroasis commented 9 months ago

邮件已收到祝好!