自训练PPYOLOE模型转RKNN格式模型过程中遇到的问题？

[MrMzl]

环境

• 【FastDeploy版本】： 说明具体的版本，如fastdeploy-develop
• 【系统平台】: Linux x64(Ubuntu 20.04)
• 【模型转换环境】: rknn-toolkit2版本为1.4.3b4+48391b8f
• 【转换环境详细包】: requirements.txt

问题日志及出现问题的操作流程

• 附上详细的问题日志有助于快速定位分析
• 【所用的自训练模型文件】
• • 参考ai studio中的项目 ，使用项目训练好的模型动转静导出Paddle模型文件，导出时设置export.nms=True，运行代码如下所示:python tools/export_model.py -c configs-hazedet/ppyoloe/ppyoloe_crn_m_100e_hazedet.yml --output_dir=./inference_model -o weights=output/ppyoloe_crn_m_100e_hazedet/best_model export.nms=True
• 【Paddle模型转ONNX模型】
• • 导出Paddle模型后，按照Paddle模型转换为ONNX模型文档,静态图转ONNX、固定Shape操作，运行代码如下所示：
• • 静态图转ONNX：paddle2onnx --model_dir ppyoloe_crn_m_100e_hazedet --model_filename model.pdmodel --params_filename model.pdiparams --save_file ppyoloe_crn_m_100e_hazedet/ppyoloe_crn_m_100e_hazedet.onnx --enable_dev_version True
• • 固定shape：python -m paddle2onnx.optimize --input_model ./ppyoloe_crn_m_100e_hazedet/ppyoloe_crn_m_100e_hazedet.onnx --output_model ./ppyoloe_crn_m_100e_hazedet/ppyoloe_crn_m_100e_hazedet.onnx --input_shape_dict "{'image':[1,3,640,640],'scale_factor':[1,2]}"
• • 上述过程均能正常进行.
• 【ONNX转RKNN】
• • 转换前准备：将模型文件拷贝到FastDeploy/tools/rknpu2下，根据模型netron可视化结构图、模型配置文件infer_cfg.yml，修改config文件，按照按照编写yaml文件文档修改、normaliz参数和output参数.
• • 设置do_quantization为False并执行下面命令转换模型后出现错误：
• • python export.py --config_path=./config/ppyoloe_crn_m_100e_hazedet_quantized.yaml --target_platform rk3568
• • 错误信息提示：E RKNN: [18:58:46.015] REGTASK: The bit width of field value exceeds the limit, target: lite, offset: 0x403c, shift = 0, limit: 0x1fff, value: 0x20cf Aborted (core dumped)
• • 设置do_quantization为True并执行下面命令转换模型后出现错误：
• • python export.py --config_path=./config/ppyoloe_crn_m_100e_hazedet_quantized.yaml --target_platform rk3568
• • 错误信息提示：E build: ValueError: The input num: 1 in ./ppyoloe_crn_m_100e_hazedet/dataset.txt not match input num: 2 in model !
• 模型转换运行日志： export_rknn.txt
• 【用到的模型文件】 模型文件提取码: n2x3

[Zheng-Bicheng]

这个可能是RK工具链的问题，后期PPYOLOE我们会更新一个新版本的哈

[MrMzl]

这个可能是RK工具链的问题，后期PPYOLOE我们会更新一个新版本的哈

好的，感谢回复。这个新版本大致会在什么时候？

[Zheng-Bicheng]

这个取决于RK啥时候更新他们的仓

2023年4月11日 09:00，MrMzl @.***> 写道：

这个可能是RK工具链的问题，后期PPYOLOE我们会更新一个新版本的哈

好的，感谢回复。这个新版本大致会在什么时候？

— Reply to this email directly, view it on GitHubhttps://github.com/PaddlePaddle/FastDeploy/issues/1792#issuecomment-1502534967, or unsubscribehttps://github.com/notifications/unsubscribe-auth/AN5I5QTE7O2NC5W364D7OD3XASULRANCNFSM6AAAAAAWY4GIXI. You are receiving this because you were assigned.Message ID: @.***>

[TsingWei]

我发现PPYOLOE转ONNX后是有俩输入的，分别是image和scale， 用rknn的转换工具该怎么处理这个情况呢？

[haozizhuimao]

我使用的网址上的例子进行模型转换也报了相同的错误https://github.com/PaddlePaddle/PaddleSeg/blob/release/2.9/deploy/fastdeploy/semantic_segmentation/rockchip/rknpu2/pp_humanseg.md

【FastDeploy版本】： 说明具体的版本，如fastdeploy-develop 【系统平台】: Linux x64(Ubuntu 22.04) 【模型转换环境】: rknn-toolkit2 version: 1.6.0+81f21f4d 【转换环境详细包】: requirements.txt

错误信息如下 ：

{'mean': [[127.5, 127.5, 127.5]], 'std': [[127.5, 127.5, 127.5]], 'model_path': './Portrait_PP_HumanSegV2_Lite_256x144_infer/Portrait_PP_HumanSegV2_Lite_256x144_infer.onnx', 'outputs_nodes': None, 'do_quantization': True, 'dataset': './Portrait_PP_HumanSegV2_Lite_256x144_infer/dataset.txt', 'output_folder': './Portrait_PP_HumanSegV2_Lite_256x144_infer'} W init: rknn-toolkit2 version: 1.6.0+81f21f4d W load_onnx: It is recommended onnx opset 19, but your onnx model opset is 11! Loading : 100%|███████████████████████████████████████████████| 466/466 [00:00<00:00, 109781.27it/s] E build: Dataset file ./Portrait_PP_HumanSegV2_Lite_256x144_infer/dataset.txt not found! Traceback (most recent call last): File "/home/yuehao/code/FastDeploy-develop/tools/rknpu2/export.py", line 58, in assert ret == 0, "Build model failed!" AssertionError: Build model failed!