Open zldrobit opened 1 year ago
请问可以给个ascend昇腾npu推理的例子吗?官方文档只有cpu和cuda的例子。
ascend的和GPU的图是一样的,差别的地方是推理,解码功能单元device需要指定为ascend即可。 模型文件,要转为ascend的。推理功能单元的那个toml配置文件里面,指定ascend。
请问可以给个ascend昇腾npu推理的例子吗?官方文档只有cpu和cuda的例子。