shuxueslpi / chatGLM-6B-QLoRA

使用peft库,对chatGLM-6B/chatGLM2-6B实现4bit的QLoRA高效微调,并做lora model和base model的merge及4bit的量化(quantize)。
356 stars 46 forks source link

训练结束后没有保存完整的adapter文件 #41

Closed daihuaiii closed 1 year ago

daihuaiii commented 1 year ago

训练结束后saved_files文件夹中只有adapter_config.json,adapter_model.bin,README.md三个文件。

daydayup-zyn commented 1 year ago

同样问题

daihuaiii commented 1 year ago

同样问题

将训练参数文件中的save_strategy修改为epoch或将save_steps修改小一点就可以保存。我使用的自己的数据集训练,数据量太小,没有到checkpoint的触发。