mymusise / ChatGLM-Tuning

基于ChatGLM-6B + LoRA的Fintune方案
MIT License
3.71k stars 444 forks source link

根据infer的代码,lora微调之后的answer和###answer结果一致,没有任何变化 #223

Open 22zhangqian opened 1 year ago

22zhangqian commented 1 year ago

作者说一个是微调之后的答案,一个是微调之前的答案。但是我的两个答案(除了标点)都一样,请问是什么问题?

Instruction: 小儿肥胖超重该如何治疗? Answer: 孩子出现肥胖症的情况。家长要通过孩子运功和健康的饮食来缓解他的症状,可以先让他做一些有氧运动,比如慢跑,爬坡,游泳等,并且饮食上孩子多吃黄瓜,胡萝卜,菠菜等,禁止孩子吃一些油炸食品和干果类食物,这些都是干热量高脂肪的食物,而且不要让孩子总是吃完就躺在床上不动,家长在治疗小儿肥胖期间如果孩子情况严重就要及时去医院在医生的指导下给孩子治疗。

1.Answer:

孩子出现肥胖症的情况。家长要通过孩子运功和健康的饮食来缓解他的症状,可以先让他做一些有氧运动,比如慢跑,爬坡,游泳等,并且饮食上孩子多吃黄瓜,胡萝卜,菠菜等,禁止孩子吃一些油炸食品和干果类食物,这些都是干热量高脂肪的食物,而且不要让孩子总是吃完就躺在床上不动,家长在治疗小儿肥胖期间如果孩子情况严重就要及时去医院在医生的指导下给孩子治疗。

energy888666 commented 11 months ago

我也是 微调后 感觉没其作用原因在哪?

ssgg-code commented 4 months ago

https://github.com/mymusise/ChatGLM-Tuning/issues/208 看这个回复 亲测有效,感觉可能和版本有关,作者代码中的重写的参数保存代码无效