search

datawhalechina / self-llm

《开源大模型食用指南》基于Linux环境快速部署开源大模型，更适合中国宝宝的部署教程
Apache License 2.0
9.19k stars 1.07k forks source link

在纯 CPU 上可以运行吗？比如苹果电脑没有 cuda? #117

Open aa03146 opened 5 months ago

aa03146 commented 5 months ago

同上。

KMnO4-zx commented 5 months ago

https://github.com/datawhalechina/self-llm/blob/master/Qwen/09-Qwen-1_8B-chat%20CPU%20%E9%83%A8%E7%BD%B2%20.md

lorihuang commented 4 months ago

@KMnO4-zx 这个是英特尔芯片的才可以吧，我尝试在M2上操作，当执行安装命令pip install --pre --upgrade bigdl-llm时，系统提示找不到对应的版本

KMnO4-zx commented 4 months ago

是的 需要在interl平台运行