search

pcg-mlp / KsanaLLM

Other
257 stars 28 forks source link

你好，请问有计划支持aarch64架构上的910B吗 #22

Closed yanzhuo77 closed 1 month ago

yanzhuo77 commented 1 month ago

如题，感谢

pcg-mlp commented 1 month ago

这块会支持的，目前正在和华为合作优化现有机型的性能。

yanzhuo77 commented 1 month ago

这块会支持的，目前正在和华为合作优化现有机型的性能。

可以基于现有算子发布一个aarch64版本吗，比直接运行python快就行