yolov8s.onnx转rknn报错Meet unsupported MaxPool attribute 'dilations'!

gottastudy commented 5 months ago

您好！使用https://github.com/airockchip/ultralytics_yolov8 仓库中新建export.py代码如下： from ultralytics import YOLO

model = YOLO("yolov8s.pt") # 加载YOLO模型 success = model.export(format="rknn", opset=12) 导出的onnx模型含有三个maxpool，且每个maxpool层含有dilations属性，导致转rknn时报如下错误： I rknn building ... I RKNN: [21:41:17.350] compress = 0, conv_arith_fuse = 1, global_fuse = 1, multi-core-model-mode = I RKNN: librknnc version: 1.4.0 (3b4520e4f@2022-09-05T20:52:35) D RKNN: [21:41:17.385] RKNN is invoked ... D RKNN: [21:41:18.040] >>>>>> start: N4rknn23RKNNProfileAnalysisPassE D RKNN: [21:41:18.040] <<<<<<<< end: N4rknn23RKNNProfileAnalysisPassE D RKNN: [21:41:18.040] >>>>>> start: OpEmit E RKNN: [21:41:18.045] Meet unsupported MaxPool attribute 'dilations'!

但是利用贵仓库提供的onnx模型，对比发现将maxpool的dilations属性去掉了。请问该操作是如何实现的？

Sos-Zachary commented 4 months ago

试试使用rk官方的转换代码，而不是ultralytics库。详情参照https://github.com/airockchip/ultralytics_yolov8/blob/main/RKOPT_README.zh-CN.md

moyu026 commented 3 months ago

试试使用rk官方的转换代码，而不是ultralytics库。详情参照https://github.com/airockchip/ultralytics_yolov8/blob/main/RKOPT_README.zh-CN.md

我按照这里的步骤为什么每次都是导出TorchScript的模型，而不是onnx模型？而且导出的都是默认的yolov8n模型，不是我自己的模型

Sos-Zachary commented 3 months ago

试试使用rk官方的转换代码，而不是ultralytics库。详情参照https://github.com/airockchip/ultralytics_yolov8/blob/main/RKOPT_README.zh-CN.md

我按照这里的步骤为什么每次都是导出TorchScript的模型，而不是onnx模型？而且导出的都是默认的yolov8n模型，不是我自己的模型

我很想帮助你，你可以在提问时提供更多的信息，包括你修改后的yaml文件和运行脚本的命令等，这样能让我们的沟通更加高效 @moyu026

airockchip / rknn_model_zoo

yolov8s.onnx转rknn报错Meet unsupported MaxPool attribute 'dilations'! #130