目前很多模型都会选择NPU来进行加速,但是很多模型需要的前后处理NPU不支持,需要在CPU上运行。为了解决这个问题,MegEngine中使用https://github.com/MegEngine/MegEngine/blob/master/src/serialization/include/megbrain/serialization/extern_c_opr.h extern c opr的形式来描述这个NPU模型,然后在MegEngine中视为一个Operator。为了让这类模型可以正常编译,需要在MegEngine中支持这个Op的编译。
目前很多模型都会选择NPU来进行加速,但是很多模型需要的前后处理NPU不支持,需要在CPU上运行。为了解决这个问题,MegEngine中使用https://github.com/MegEngine/MegEngine/blob/master/src/serialization/include/megbrain/serialization/extern_c_opr.h extern c opr的形式来描述这个NPU模型,然后在MegEngine中视为一个Operator。为了让这类模型可以正常编译,需要在MegEngine中支持这个Op的编译。