xionghonglin / DoctorGLM

基于ChatGLM-6B的中文问诊模型
763 stars 83 forks source link

cpu #8

Open SilverFT opened 1 year ago

SilverFT commented 1 year ago

如果没有那么大的显存,可以使用cpu跑吗,如果可以,应该怎么运行

zhaozh10 commented 1 year ago

DoctortGLM暂时还做不到cpu运行。轻量化运行可以参考和LLaMA.cppLLaMA.cppChatGLM-MNN

SilverFT commented 1 year ago

自动回复,邮件已收到

SilverFT commented 1 year ago

了解,感谢

SilverFT commented 4 weeks ago

自动回复,邮件已收到