Open water-2022 opened 5 months ago
README文件中描述：推理部署：Baichuan 2 （7B）已原生支持昇腾 NPU 推理，无需额外适配即可使用。
在测试的过程中Python 代码方式、命令行工具方式、网页 demo 方式都只使用了CPU，没有NPU使用。
README文件中描述：推理部署：Baichuan 2 （7B）已原生支持昇腾 NPU 推理，无需额外适配即可使用。
在测试的过程中Python 代码方式、命令行工具方式、网页 demo 方式都只使用了CPU，没有NPU使用。