cqu20160901 / yolov8n_onnx_tensorRT_rknn_horizon

yolov8n 部署版本,后处理用python语言和C++语言形式进行改写,便于移植不同平台(onnx、tensorRT、RKNN、Horzion)
134 stars 26 forks source link

yolov8 onnx to rknn issues #4

Open wandaoyi opened 1 year ago

wandaoyi commented 1 year ago

我用yolov8 的检测 或分割 的 .pt 模型,用官网的方法转成 .onnx 都可以正常推理。结果正常 model = YOLO(pt_model_path) model.export(format="onnx", opset=12, simplify=True, dynamic=False, imgsz=640) 但是,我用 yolov8m.pt 和 yolov8m-seg.pt 得到对应的 .onnx 模型, 以 onnxruntime 推理 结果都正常,但在以下方法: ` from rknn.api import RKNN rknn = RKNN(verbse=False) cfg = {"mean_values": [[0, 0, 0]], "std_values": [[255, 255, 255]], "quantized_algorithm": "normal", "quantized_method": "channel", "target_platform": "rk3588"} rknn.config(**cfg) rknn.load_onnx(onnx_path) rknn.build(do_quantization=Ture, dataset="./dataset.txt") rknn,export_rknn(rknn_path) rknn.init_runtime()

img shape -> [b, n, h, w]

outputs = rknn.inference(inputs=[img], data_format="nchw") ` 这些都运行正常,不报错,但是,output 里面的结果有问题。outputs[0] shape -> (1, 84, 8400)[目标检测];(1, 116, 8400)[实例分割]。 outputs[0] 中,conf 和 cls 属性全都是 0 值。如果放到 rk3588 上跑,所有值都是 329.5366 。

这个,我想请教一下,你是做了什么处理,能将 yolov8 的模型顺利成功转成了 .rknn 而不出错。 我拿你的 rknn 模型去推理了,也是正确的,但是,我转的模型有问题

cqu20160901 commented 1 year ago

1、说明一下,本仓库给出的示例后处理代码只适配,按照readme链接中的方式导出的onnx。 2、如果按照官方给的导出onnx,本仓库后处理代码是无法适配的。

wandaoyi commented 1 year ago

1、说明一下,本仓库给出的示例后处理代码只适配,按照readme链接中的方式导出的onnx。 2、如果按照官方给的导出onnx,本仓库后处理代码是无法适配的。

我现在,不是后处理的问题,而是,onnx 转 rknn 后,推理出来的 矩阵,结果数值不正常。是一些错误值

cqu20160901 commented 1 year ago

参考最新基于官方导出onnx的方式进行,板端芯片部署。https://github.com/cqu20160901/yolov8n_official_onnx_tensorRT_rknn_horizon

wandaoyi commented 1 year ago

大佬,你有没有搞 yolov8 实例分割算法嘛?

 

求道 @.***

 

------------------ 原始邮件 ------------------ 发件人: @.>; 发送时间: 2023年5月18日(星期四) 晚上8:08 收件人: @.>; 抄送: @.>; @.>; 主题: Re: [cqu20160901/yolov8n_onnx_tensorRT_rknn_horizon] yolov8 onnx to rknn issues (Issue #4)

参考最新基于官方导出onnx的方式进行,板端芯片部署。https://github.com/cqu20160901/yolov8n_official_onnx_tensorRT_rknn_horizon

— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you authored the thread.Message ID: @.***>