onnx2ncnn 失败 - Githubissues

ChaoII commented 2 years ago

转换工具：onnx2ncnn

模型来源：百度飞桨PPOCRv3.0 识别模型通过paddle2onnx 转化为onnx模型

当前工作：尝试将该模型转化为tnn能够成功，并且输出对齐

报错问题：

在使onnx2ncnn 过程中存在以下报错：
Identity not supported yet!
Unsupported transpose type !
Unsupported squeeze axes !
Unsupported squeeze axes !
Unsupported squeeze axes !
Identity not supported yet!
Identity not supported yet!
Identity not supported yet!
Identity not supported yet!
Unsupported transpose type !
Unsupported squeeze axes !
Unsupported squeeze axes !
Unsupported squeeze axes !
Identity not supported yet!
Identity not supported yet!
Identity not supported yet!
Identity not supported yet!

请问up该问题该如何解决。。。。谢谢！！

FeiGeChuanShu commented 2 years ago

@ChaoII 可否附上您的onnx看看？本垃圾侥幸转成功过PP-OCRv3

wzyforgit commented 2 years ago

插个眼，我也遇到这个问题了

ChaoII commented 2 years ago

@ChaoII 可否附上您的onnx看看？本垃圾侥幸转成功过PP-OCRv3 model.opt.onnx.zip 可以收到么飞哥，不行的话，麻烦给个邮箱！

FeiGeChuanShu commented 2 years ago

https://zhuanlan.zhihu.com/p/519093407

wzyforgit commented 2 years ago

https://zhuanlan.zhihu.com/p/519093407

学习了，学习了

ChaoII commented 2 years ago

https://zhuanlan.zhihu.com/p/519093407

厉害了，飞哥。

ChaoII commented 2 years ago

https://zhuanlan.zhihu.com/p/519093407

飞哥，在操作的过程中，layer Shape not exists or registered 报错是查情况啊。还有一个Shape layer啊

FeiGeChuanShu commented 2 years ago

https://zhuanlan.zhihu.com/p/519093407

飞哥，在操作的过程中，layer Shape not exists or registered 报错是查情况啊。还有一个Shape layer啊

应该是onnx版本问题，要不试试pnnx？https://github.com/frotms/PaddleOCR2Pytorch

ChaoII commented 2 years ago

https://zhuanlan.zhihu.com/p/519093407

飞哥，在操作的过程中，layer Shape not exists or registered 报错是查情况啊。还有一个Shape layer啊

应该是onnx版本问题，要不试试pnnx？https://github.com/frotms/PaddleOCR2Pytorch

不阔以哦，飞哥，我是用ppocr训练好了的，白嫖了aistudio的v100 训练好的，换的话那要炸裂的，不知道飞哥，你能不能有给小弟指条明路。。。。。

FeiGeChuanShu commented 2 years ago

https://zhuanlan.zhihu.com/p/519093407

飞哥，在操作的过程中，layer Shape not exists or registered 报错是查情况啊。还有一个Shape layer啊

应该是onnx版本问题，要不试试pnnx？https://github.com/frotms/PaddleOCR2Pytorch

不阔以哦，飞哥，我是用ppocr训练好了的，白嫖了aistudio的v100 训练好的，换的话那要炸裂的，不知道飞哥，你能不能有给小弟指条明路。。。。。

onnx 1.9.0 onnx-simplifier 0.3.8 onnxoptimizer 0.2.7 onnxruntime 1.11.1 paddle2onnx 0.9.5 paddlepaddle-gpu 2.2.2 看一下版本

ChaoII commented 2 years ago

https://zhuanlan.zhihu.com/p/519093407

飞哥，在操作的过程中，layer Shape not exists or registered 报错是查情况啊。还有一个Shape layer啊

应该是onnx版本问题，要不试试pnnx？https://github.com/frotms/PaddleOCR2Pytorch

不阔以哦，飞哥，我是用ppocr训练好了的，白嫖了aistudio的v100 训练好的，换的话那要炸裂的，不知道飞哥，你能不能有给小弟指条明路。。。。。

onnx 1.9.0 onnx-simplifier 0.3.8 onnxoptimizer 0.2.7 onnxruntime 1.11.1 paddle2onnx 0.9.5 paddlepaddle-gpu 2.2.2 看一下版本

onnx 1.8.1 onnx-simplifier 0.3.10 onnxoptimizer 0.2.7 onnxruntime 1.11.1 paddle2onnx 0.9.6 paddlepaddle 2.3.0

FeiGeChuanShu commented 2 years ago

https://zhuanlan.zhihu.com/p/519093407

飞哥，在操作的过程中，layer Shape not exists or registered 报错是查情况啊。还有一个Shape layer啊

应该是onnx版本问题，要不试试pnnx？https://github.com/frotms/PaddleOCR2Pytorch

不阔以哦，飞哥，我是用ppocr训练好了的，白嫖了aistudio的v100 训练好的，换的话那要炸裂的，不知道飞哥，你能不能有给小弟指条明路。。。。。

onnx 1.9.0 onnx-simplifier 0.3.8 onnxoptimizer 0.2.7 onnxruntime 1.11.1 paddle2onnx 0.9.5 paddlepaddle-gpu 2.2.2 看一下版本

onnx 1.8.1 onnx-simplifier 0.3.10 onnxoptimizer 0.2.7 onnxruntime 1.11.1 paddle2onnx 0.9.6 paddlepaddle 2.3.0

改成我那个版本试试？不行就把onnx发我康康

ChaoII commented 2 years ago

https://zhuanlan.zhihu.com/p/519093407

飞哥，在操作的过程中，layer Shape not exists or registered 报错是查情况啊。还有一个Shape layer啊

应该是onnx版本问题，要不试试pnnx？https://github.com/frotms/PaddleOCR2Pytorch

不阔以哦，飞哥，我是用ppocr训练好了的，白嫖了aistudio的v100 训练好的，换的话那要炸裂的，不知道飞哥，你能不能有给小弟指条明路。。。。。

onnx 1.9.0 onnx-simplifier 0.3.8 onnxoptimizer 0.2.7 onnxruntime 1.11.1 paddle2onnx 0.9.5 paddlepaddle-gpu 2.2.2 看一下版本

onnx 1.8.1 onnx-simplifier 0.3.10 onnxoptimizer 0.2.7 onnxruntime 1.11.1 paddle2onnx 0.9.6 paddlepaddle 2.3.0

改成我那个版本试试？不行就把onnx发我康康

谢谢飞哥，我看主要是onnx的版本那问题，我把onnx换一换，先试试，不行的话，再麻烦飞哥

ChaoII commented 2 years ago

https://zhuanlan.zhihu.com/p/519093407

飞哥，在操作的过程中，layer Shape not exists or registered 报错是查情况啊。还有一个Shape layer啊

应该是onnx版本问题，要不试试pnnx？https://github.com/frotms/PaddleOCR2Pytorch

不阔以哦，飞哥，我是用ppocr训练好了的，白嫖了aistudio的v100 训练好的，换的话那要炸裂的，不知道飞哥，你能不能有给小弟指条明路。。。。。

onnx 1.9.0 onnx-simplifier 0.3.8 onnxoptimizer 0.2.7 onnxruntime 1.11.1 paddle2onnx 0.9.5 paddlepaddle-gpu 2.2.2 看一下版本

onnx 1.8.1 onnx-simplifier 0.3.10 onnxoptimizer 0.2.7 onnxruntime 1.11.1 paddle2onnx 0.9.6 paddlepaddle 2.3.0

改成我那个版本试试？不行就把onnx发我康康 model.onnx.zip 还是不行飞哥，你看看，我这个怎么处理哈。

FeiGeChuanShu commented 2 years ago

@ChaoII 用onnx-simplifier优化一下就木有了

ChaoII commented 2 years ago

@ChaoII 用onnx-simplifier优化一下就木有了

反正各种问题额，飞哥允许加qq好友么

FeiGeChuanShu commented 2 years ago

@ChaoII 用onnx-simplifier优化一下就木有了

反正各种问题额，飞哥允许加qq好友么

可

ChaoII commented 2 years ago

@ChaoII 用onnx-simplifier优化一下就木有了

反正各种问题额，飞哥允许加qq好友么

可

飞哥同意一下。

liguiyuan commented 2 years ago

https://zhuanlan.zhihu.com/p/519093407

飞哥，在操作的过程中，layer Shape not exists or registered 报错是查情况啊。还有一个Shape layer啊

应该是onnx版本问题，要不试试pnnx？https://github.com/frotms/PaddleOCR2Pytorch

不阔以哦，飞哥，我是用ppocr训练好了的，白嫖了aistudio的v100 训练好的，换的话那要炸裂的，不知道飞哥，你能不能有给小弟指条明路。。。。。

onnx 1.9.0 onnx-simplifier 0.3.8 onnxoptimizer 0.2.7 onnxruntime 1.11.1 paddle2onnx 0.9.5 paddlepaddle-gpu 2.2.2 看一下版本

onnx 1.8.1 onnx-simplifier 0.3.10 onnxoptimizer 0.2.7 onnxruntime 1.11.1 paddle2onnx 0.9.6 paddlepaddle 2.3.0

你好，请问你解决问题了吗，最后是怎么解决的？我按照飞哥的方法改，运行推理时会出现段错误的问题

liguiyuan commented 2 years ago

我onnx-sim后的onnx模型，谢谢了 ppocrv3_model.zip

ChaoII commented 2 years ago

我onnx-sim后的onnx模型，谢谢了 ppocrv3_model.zip

没有解决，换ppocrv2了，ppocrv2转ncnn还是比较丝滑的，识别效果同样很好。。。

liguiyuan commented 1 year ago

我onnx-sim后的onnx模型，谢谢了 ppocrv3_model.zip

没有解决，换ppocrv2了，ppocrv2转ncnn还是比较丝滑的，识别效果同样很好。。。

感谢回复，看来只能用v2版本重新训练了

wzyforgit commented 1 year ago

我onnx-sim后的onnx模型，谢谢了 ppocrv3_model.zip

没有解决，换ppocrv2了，ppocrv2转ncnn还是比较丝滑的，识别效果同样很好。。。

感谢回复，看来只能用v2版本重新训练了

而且v3那个里面是用的transformer，要超大数据量才能把它喂饱，百度自己捣鼓的v3版本模型的效果都不如v2

ChaoII commented 1 year ago

我onnx-sim后的onnx模型，谢谢了 ppocrv3_model.zip

没有解决，换ppocrv2了，ppocrv2转ncnn还是比较丝滑的，识别效果同样很好。。。

感谢回复，看来只能用v2版本重新训练了

而且v3那个里面是用的transformer，要超大数据量才能把它喂饱，百度自己捣鼓的v3版本模型的效果都不如v2

从训练角度看，相同的数据集v3收敛会快很多，并且评估精度确实很高。但是v2多训些轮数效果也很好，尤其是场景不复杂的。

liguiyuan commented 1 year ago

我onnx-sim后的onnx模型，谢谢了 ppocrv3_model.zip

没有解决，换ppocrv2了，ppocrv2转ncnn还是比较丝滑的，识别效果同样很好。。。

感谢回复，看来只能用v2版本重新训练了

而且v3那个里面是用的transformer，要超大数据量才能把它喂饱，百度自己捣鼓的v3版本模型的效果都不如v2

从训练角度看，相同的数据集v3收敛会快很多，并且评估精度确实很高。但是v2多训些轮数效果也很好，尤其是场景不复杂的。

赞同，v2和v3版本在简单的场景下精度相差不大（比如文档文字识别），涉及到复杂场景（比如街景）文字识别优势会更明显些，至少从输入的图片高度height来说，48比32特征会更丰富些

xjdx123 commented 1 year ago

@FeiGeChuanShu 教程中"https://zhuanlan.zhihu.com/p/519093407" 的第四步把attention中的Gemm修改为MatMul即可改之前 Gemm MatMul_2 2 1 softmax_3.tmp_0 transpose_10.tmp_0_slice_2 matmul_v2_5.tmp_0 改之后 MatMul MatMul_1 2 1 Mul_32 transpose_11.tmp_0 matmul_v2_4.tmp_0 是如何确定 ”MatMul_2“变为”MatMul_1“ ”softmax_3.tmp_0 transpose_10.tmp_0_slice_2 matmul_v2_5.tmp_0“ 变为”Mul_32 transpose_11.tmp_0 matmul_v2_4.tmp_0“ 这个操作的？两个输入变量不应该不变吗？

xjdx123 commented 1 year ago

@ChaoII 你用的ppocrv2中识别哪个模型？我用官方的ch_PP-OCRv2_xx转换成ncnn后模型无法正确运行，但是使用ch_ppocr_mobile_v2.0_xx转换ncnn模型就完全没有任何问题，当前查找的原因是：在LSTM后的Add 的输出出现错误 1675652013853

ChaoII commented 1 year ago

@ChaoII 你用的ppocrv2中识别哪个模型？我用官方的ch_PP-OCRv2_xx转换成ncnn后模型无法正确运行，但是使用ch_ppocr_mobile_v2.0_xx转换ncnn模型就完全没有任何问题，当前查找的原因是：在LSTM后的Add 的输出出现错误

用一下飞哥仓库中引用的 paddleocr2pytorch ，在aistudio中训练的模型用这个仓库的导出脚本导成pt，然后再用pnnx转成ncnn，这都有现成的脚本和工具，耐心点就好。尝试了模型精度无损

xjdx123 commented 1 year ago

好的👌，多谢！多谢！

---原始邮件--- 发件人: @.> 发送时间: 2023年2月6日(周一) 中午11:05 收件人: @.>; 抄送: @.**@.>; 主题: Re: [Tencent/ncnn] onnx2ncnn 失败 (Issue #3811)

@ChaoII 你用的ppocrv2中识别哪个模型？我用官方的ch_PP-OCRv2_xx转换成ncnn后模型无法正确运行，但是使用ch_ppocr_mobile_v2.0_xx转换ncnn模型就完全没有任何问题，当前查找的原因是：在LSTM后的Add 的输出出现错误

用一下飞哥仓库中引用的 paddleocr2pytorch ，在aistudio中训练的模型用这个仓库的导出脚本导成pt，然后再用pnnx转成ncnn，这都有现成的脚本和工具，耐心点就好。尝试了模型精度无损

— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you commented.Message ID: @.***>

yanghanxx commented 1 year ago

@ChaoII 你用的ppocrv2中识别哪个模型？我用官方的ch_PP-OCRv2_xx转换成ncnn后模型无法正确运行，但是使用ch_ppocr_mobile_v2.0_xx转换ncnn模型就完全没有任何问题，当前查找的原因是：在LSTM后的Add 的输出出现错误

用一下飞哥仓库中引用的 paddleocr2pytorch ，在aistudio中训练的模型用这个仓库的导出脚本导成pt，然后再用pnnx转成ncnn，这都有现成的脚本和工具，耐心点就好。尝试了模型精度无损

你好，我尝试过用导出pt后，再用自己编译的pnnx转ncnn，还是会报很多错误，大佬你用的工具版本都是多少呀？

xjdx123 commented 1 year ago

我没用v2版本，直接用了v3版本的onnx转ncnn模型

------------------ 原始邮件 ------------------ 发件人: @.>; 发送时间: 2023年3月29日(星期三) 晚上6:17 收件人: @.>; 抄送: @.>; @.>; 主题: Re: [Tencent/ncnn] onnx2ncnn 失败 (Issue #3811)

@ChaoII 你用的ppocrv2中识别哪个模型？我用官方的ch_PP-OCRv2_xx转换成ncnn后模型无法正确运行，但是使用ch_ppocr_mobile_v2.0_xx转换ncnn模型就完全没有任何问题，当前查找的原因是：在LSTM后的Add 的输出出现错误

用一下飞哥仓库中引用的 paddleocr2pytorch ，在aistudio中训练的模型用这个仓库的导出脚本导成pt，然后再用pnnx转成ncnn，这都有现成的脚本和工具，耐心点就好。尝试了模型精度无损

你好，我尝试过用导出pt后，再用自己编译的pnnx转ncnn，还是会报很多错误，大佬你用的工具版本都是多少呀？

— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you commented.Message ID: @.***>

nihui commented 2 months ago

针对onnx模型转换的各种问题，推荐使用最新的pnnx工具转换到ncnn In view of various problems in onnx model conversion, it is recommended to use the latest pnnx tool to convert your model to ncnn

pip install pnnx
pnnx model.onnx inputshape=[1,3,224,224]

详细参考文档 Detailed reference documentation https://github.com/pnnx/pnnx https://github.com/Tencent/ncnn/wiki/use-ncnn-with-pytorch-or-onnx#how-to-use-pnnx

ChaoII commented 2 months ago

针对onnx模型转换的各种问题，推荐使用最新的pnnx工具转换到ncnn In view of various problems in onnx model conversion, it is recommended to use the latest pnnx tool to convert your model to ncnn
pip install pnnx
pnnx model.onnx inputshape=[1,3,224,224]
详细参考文档 Detailed reference documentation https://github.com/pnnx/pnnx https://github.com/Tencent/ncnn/wiki/use-ncnn-with-pytorch-or-onnx#how-to-use-pnnx

我试用了一下，pnnx可以无缝转换识别模型，但是检测模型转换不了，报了很多错，反倒是onnx2ncnn可以转换成功

Tencent / ncnn

onnx2ncnn 失败 #3811

转换工具：onnx2ncnn

模型来源：百度飞桨PPOCRv3.0 识别模型通过paddle2onnx 转化为onnx模型

当前工作：尝试将该模型转化为tnn能够成功，并且输出对齐

报错问题：

Tencent / ncnn

onnx2ncnn 失败 #3811

转换工具：onnx2ncnn

模型来源：百度飞桨PPOCRv3.0 识别模型 通过paddle2onnx 转化为onnx模型

当前工作：尝试将该模型转化为tnn能够成功，并且输出对齐

报错问题：

模型来源：百度飞桨PPOCRv3.0 识别模型通过paddle2onnx 转化为onnx模型