建议增加fastllm库增加chatglm推理速度

wenda-LLM / wenda

闻达：一个LLM调用平台。目标为针对特定环境的高效内容生成，同时考虑个人和中小企业的计算资源局限性，以及知识安全和私密性问题

GNU Affero General Public License v3.0

6.23k stars 810 forks source link

Open fryng opened 1 year ago

fryng commented 1 year ago

建议增加fastllm增加chatglm推理速度

gxandys commented 1 year ago

同求

wu-shanglin commented 1 year ago

同求

lwo2002 commented 1 year ago

同求

cocomany commented 1 year ago

同求