Open CuberFan opened 2 years ago
硬件平台:rv1109 rknn_tookit:1.7.1
pytorch框架的torch.nn.ConvTranspose2d 反卷积算子,是不支持吗?
我看了一下支持文档doc/RKNN_OP_Support_V1.7.1.md 的 pytorch算子支持列表,确实没有反卷积算子,但用转换量化工具,又没有任何的报错,显示可以转换量化反卷积算子,转换出来的模型,在rv1109处理器上,运行结果都是错的,测试了两个算法,比如CenterNet目标检测算法 和 DBNet文本检测算法。 而像yolox和yolov5,采用上采样代替反卷积的算法,都运行正常。ocr_recog识别算法,没有任何反卷积和上采样,也没有问题,运行正常。
如果确实是反卷积暂时支持不好,那只能先用上采样 + 卷积代替了。
文档上onnx的是支持的。
硬件平台:rv1109 rknn_tookit:1.7.1
pytorch框架的torch.nn.ConvTranspose2d 反卷积算子,是不支持吗?
我看了一下支持文档doc/RKNN_OP_Support_V1.7.1.md 的 pytorch算子支持列表,确实没有反卷积算子,但用转换量化工具,又没有任何的报错,显示可以转换量化反卷积算子,转换出来的模型,在rv1109处理器上,运行结果都是错的,测试了两个算法,比如CenterNet目标检测算法 和 DBNet文本检测算法。 而像yolox和yolov5,采用上采样代替反卷积的算法,都运行正常。ocr_recog识别算法,没有任何反卷积和上采样,也没有问题,运行正常。
如果确实是反卷积暂时支持不好,那只能先用上采样 + 卷积代替了。