search

mymusise / ChatGLM-Tuning

基于ChatGLM-6B + LoRA的Fintune方案
MIT License
3.71k stars 444 forks source link

推理的时候只回答？？ #216

Closed surviveMiao closed 1 year ago

surviveMiao commented 1 year ago

image 您好，我的数据按照您的要求封装好之后，训练没有问题，但是推理的时候他的推理结果全是？？
这是什么原因呀？ 我训练了1000轮， 是因为我训练轮数太少了吗？

xiaogang-github commented 1 year ago

我是在微调的时候将 --fp16去了导致输出全部都是？，但是如果不去微调会报错

xiaogang-github commented 1 year ago

我参考了问题 #179 处理后正常了

surviveMiao commented 1 year ago

我参考了问题 #179 处理后正 感谢！我也解决了