rockchip-linux / rknn-toolkit

BSD 3-Clause "New" or "Revised" License
831 stars 175 forks source link

pytorch框架的ConvTranspose2d反卷积算子,是不支持吗? #223

Open CuberFan opened 2 years ago

CuberFan commented 2 years ago

硬件平台:rv1109 rknn_tookit:1.7.1

pytorch框架的torch.nn.ConvTranspose2d 反卷积算子,是不支持吗?

我看了一下支持文档doc/RKNN_OP_Support_V1.7.1.md 的 pytorch算子支持列表,确实没有反卷积算子,但用转换量化工具,又没有任何的报错,显示可以转换量化反卷积算子,转换出来的模型,在rv1109处理器上,运行结果都是错的,测试了两个算法,比如CenterNet目标检测算法 和 DBNet文本检测算法。 而像yolox和yolov5,采用上采样代替反卷积的算法,都运行正常。ocr_recog识别算法,没有任何反卷积和上采样,也没有问题,运行正常。

如果确实是反卷积暂时支持不好,那只能先用上采样 + 卷积代替了。

mkwml commented 2 years ago

硬件平台:rv1109 rknn_tookit:1.7.1

pytorch框架的torch.nn.ConvTranspose2d 反卷积算子,是不支持吗?

我看了一下支持文档doc/RKNN_OP_Support_V1.7.1.md 的 pytorch算子支持列表,确实没有反卷积算子,但用转换量化工具,又没有任何的报错,显示可以转换量化反卷积算子,转换出来的模型,在rv1109处理器上,运行结果都是错的,测试了两个算法,比如CenterNet目标检测算法 和 DBNet文本检测算法。 而像yolox和yolov5,采用上采样代替反卷积的算法,都运行正常。ocr_recog识别算法,没有任何反卷积和上采样,也没有问题,运行正常。

如果确实是反卷积暂时支持不好,那只能先用上采样 + 卷积代替了。

文档上onnx的是支持的。