对 Baichuan 1 的推理优化迁移到 Baichuan 2后，原来在baichuan1上微调的模型无法做推理

baichuan-inc / Baichuan2

A series of large language models developed by Baichuan Intelligent Technology

https://huggingface.co/baichuan-inc

Apache License 2.0

4.1k stars 297 forks source link

Open FangNera opened 9 months ago

FangNera commented 9 months ago

我先根据readme把baichuan2-13B-Chat做了转换，转换后也可以作为基座模型再train。现在我想用原来在baichuan1上训练的模型做推理，后台不报错，前端web显示0.

web

FangNera commented 9 months ago

是否需要更新template，因为baichuan2的起停符与baichuan1的不一样。但我看readme并没有说要更新

guoqiangqi commented 8 months ago

你好，我也在尝试baichuan2转换baichuan1，方便交流下吗

FangNera commented 7 months ago

你好，我也在尝试baichuan2转换baichuan1，方便交流下吗

后来就直接用原来的数据重训了。你遇到的啥问题呀？