wenda-LLM / wenda

闻达:一个LLM调用平台。目标为针对特定环境的高效内容生成,同时考虑个人和中小企业的计算资源局限性,以及知识安全和私密性问题
GNU Affero General Public License v3.0
6.23k stars 810 forks source link

glm2-tb模型,在配置文件里,那个strategy:用CPU跑应该选什么?只有GPU选项 #432

Closed kknd222 closed 1 year ago

kknd222 commented 1 year ago

yml文件配置里只有gpu选项,没看到怎么设置成cpu来跑

lwo2002 commented 1 year ago

cpu fp32