MegEngine / MegCC

MegCC是一个运行时超轻量,高效,移植简单的深度学习模型编译器
Apache License 2.0
474 stars 56 forks source link

支持torchscript模型编译 #24

Open chenqy4933 opened 1 year ago

chenqy4933 commented 1 year ago

目前MegEngine只支持了MegEngine的模型编译,用户只能使用MegEngine模型进行编译,onnx需要转换到MegEngine,考虑直接支持torchscript模型

znsoftm commented 1 year ago

直接运行torchscript模型比较好。建议支持torchscript和onnx模型。 MegEninge支持的太少了,试了一下,从onnx转换到megEngine模型就是挑战。

znsoftm commented 1 year ago

库主没有计划支持吗? 想法很好,但是通用性欠佳。

chenqy4933 commented 1 year ago

有计划,但是短期内人力吃紧,请问你说的通用欠佳是指支持torchscript和onnx模型输入吗?

znsoftm commented 1 year ago

是的,我测试过通过onnx 转到mengine类型,好多转换不了。 建议能不能直接读取pnnx格式进行编译?类似ncnn这样的,通用性会好很多,可以直接打通pytorch到megcc之间的通道。