rockchip-linux / rknn-toolkit

BSD 3-Clause "New" or "Revised" License
808 stars 173 forks source link

有关自定义算子的问题 #412

Open BoyceL opened 11 months ago

BoyceL commented 11 months ago

您好,我想请问一下目前rknn自定义算子还是只支持Tensorflow模型吗,比如在pytorch与tensorflow中都有的einsum算子,我可以使用tensorflow生成自定义算子之后,再在引入pytorch模型构建rknn后使用吗,如果不可以的话,对于pytorch 或onnx模型的不支持算子有什么比较好的方法解决呢?网络本身比较庞大复杂,在网络外实现不太现实:) 以及,在toolkit2中好像并没有相关自定义算子的文档,参考toolkit中的文档构建的算子,在toolkit2或者说3588平台上可以通用吗?

eRaul commented 11 months ago

您好,我想请问一下目前rknn自定义算子还是只支持Tensorflow模型吗,比如在pytorch与tensorflow中都有的einsum算子,我可以使用tensorflow生成自定义算子之后,再在引入pytorch模型构建rknn后使用吗,如果不可以的话,对于pytorch 或onnx模型的不支持算子有什么比较好的方法解决呢?网络本身比较庞大复杂,在网络外实现不太现实:) 以及,在toolkit2中好像并没有相关自定义算子的文档,参考toolkit中的文档构建的算子,在toolkit2或者说3588平台上可以通用吗?

toolkit1自定义算子目前还是只支持tensorflow平台。为tensorflow平台实现的自定义算子无法适用于pytorch或onnx模型。toolkit2的自定义算子功能正在实现中,预计在下个版本发布,它和toolkit1并不相同,toolkit1中实现的算子在3588平台上无法使用。

BoyceL commented 11 months ago

您好,我想请问一下目前rknn自定义算子还是只支持Tensorflow模型吗,比如在pytorch与tensorflow中都有的einsum算子,我可以使用tensorflow生成自定义算子之后,再在引入pytorch模型构建rknn后使用吗,如果不可以的话,对于pytorch 或onnx模型的不支持算子有什么比较好的方法解决呢?网络本身比较庞大复杂,在网络外实现不太现实:) 以及,在toolkit2中好像并没有相关自定义算子的文档,参考toolkit中的文档构建的算子,在toolkit2或者说3588平台上可以通用吗?

toolkit1自定义算子目前还是只支持tensorflow平台。为tensorflow平台实现的自定义算子无法适用于pytorch或onnx模型。toolkit2的自定义算子功能正在实现中,预计在下个版本发布,它和toolkit1并不相同,toolkit1中实现的算子在3588平台上无法使用。

感谢您的回复!那tookit2下个版本预计什么时候可以推出?届时该自定义算子功能能否实现pytorch平台或者onnx平台呢?

eRaul commented 10 months ago

您好,我想请问一下目前rknn自定义算子还是只支持Tensorflow模型吗,比如在pytorch与tensorflow中都有的einsum算子,我可以使用tensorflow生成自定义算子之后,再在引入pytorch模型构建rknn后使用吗,如果不可以的话,对于pytorch 或onnx模型的不支持算子有什么比较好的方法解决呢?网络本身比较庞大复杂,在网络外实现不太现实:) 以及,在toolkit2中好像并没有相关自定义算子的文档,参考toolkit中的文档构建的算子,在toolkit2或者说3588平台上可以通用吗?

toolkit1自定义算子目前还是只支持tensorflow平台。为tensorflow平台实现的自定义算子无法适用于pytorch或onnx模型。toolkit2的自定义算子功能正在实现中,预计在下个版本发布,它和toolkit1并不相同,toolkit1中实现的算子在3588平台上无法使用。

感谢您的回复!那tookit2下个版本预计什么时候可以推出?届时该自定义算子功能能否实现pytorch平台或者onnx平台呢?

预计是这个月月底。支持ONNX平台。

BoyceL commented 10 months ago

您好,我想请问一下目前rknn自定义算子还是只支持Tensorflow模型吗,比如在pytorch与tensorflow中都有的einsum算子,我可以使用tensorflow生成自定义算子之后,再在引入pytorch模型构建rknn后使用吗,如果不可以的话,对于pytorch 或onnx模型的不支持算子有什么比较好的方法解决呢?网络本身比较庞大复杂,在网络外实现不太现实:) 以及,在toolkit2中好像并没有相关自定义算子的文档,参考toolkit中的文档构建的算子,在toolkit2或者说3588平台上可以通用吗?

toolkit1自定义算子目前还是只支持tensorflow平台。为tensorflow平台实现的自定义算子无法适用于pytorch或onnx模型。toolkit2的自定义算子功能正在实现中,预计在下个版本发布,它和toolkit1并不相同,toolkit1中实现的算子在3588平台上无法使用。

感谢您的回复!那tookit2下个版本预计什么时候可以推出?届时该自定义算子功能能否实现pytorch平台或者onnx平台呢?

预计是这个月月底。支持ONNX平台。

请问目前toolkit2有发布时间安排吗

zhengxiangrong commented 6 months ago

有自定义算子开发样例吗