wenda-LLM / wenda

闻达:一个LLM调用平台。目标为针对特定环境的高效内容生成,同时考虑个人和中小企业的计算资源局限性,以及知识安全和私密性问题
GNU Affero General Public License v3.0
6.22k stars 809 forks source link

闻达怎么支持chatglm-6b微调后的模型 #511

Open xxch opened 8 months ago

xxch commented 8 months ago

通过chatglm-6b微调后得到新的模型,模型下有checkpoint-1000,checkpoint-2000,checkpoint-3000等,那么这些训练后的模型在闻达中该如何使用呢?需要自己开发,将微调模型加载吗