尝试用Chat-7B进行finetune后，lora生成的结果是中文加乱码问题

LlamaFamily / Llama-Chinese

Llama中文社区，Llama3在线体验和微调模型已开放，实时汇总最新Llama3学习资料，已将所有代码更新适配Llama3，构建最好的中文Llama大模型，完全开源可商用

https://llama.family

14.01k stars 1.26k forks source link

Open DJinsis opened 1 year ago

DJinsis commented 1 year ago

有点怀疑是编解码问题，或者是bfloat16和float16的转换问题