baichuan-inc / Baichuan-13B

A 13B large language model developed by Baichuan Intelligent Technology
https://huggingface.co/baichuan-inc/Baichuan-13B-Chat
Apache License 2.0
2.98k stars 236 forks source link

能否适配text-generation-webui的lora微调? #157

Open BUJIDAOVS opened 1 year ago

BUJIDAOVS commented 1 year ago

text-generation-webui是目前非常通用的一键部署平台,可以通过可视化提高各项流程效率,降低入门门槛。 现在Instruction template部分是有适配百川模型的,如果lora训练也能适配对于baichuan的推广应该会很不错。 个人体验中baichuan13b的双语能力都很强,对齐版本的价值观等方面也很出色,如果能有方便快捷的微调训练手段想必在中文社区会很有优势。