Closed Rainlv closed 9 months ago
我删除掉--peft_path的结果和这个一样,我就是先进行全新指令微调是这种情况,又加上了--peft_path还是这种情况,指令精调脚本不是说了全新精调才删除,继续精调加上--peft_path
你目前的脚本,--peft_path
是不需要设置的。另外不清楚你数据集有多大,学习率、total_batchsize等都是需要调整的参数,我们给出的脚本只是个样例,具体的参数设置还需调整
非常感谢您的回答,我想请问您一下,基于chinese-alpaca-2-7b-hf微调得出的权重sft_lora是合并到chinese-alpaca-2-7b-hf上吗?您的意思是这种情况出现是因为参数设置的不合理对吗?我的指令数据有三千多条,再次感谢您
得到的新lora(不是继续训练的lora)与chinese-alpaca-2-7b-hf合并即可。尝试把学习率降低一下,具体的设置还需根据数据量来,再调试调试吧
你好,peft_model的作用是什么啊 @iMountTai
This issue has been automatically marked as stale because it has not had recent activity. It will be closed if no further activity occurs. Thank you for your consideration.
提交前必须检查以下项目
问题类型
模型训练与精调
基础模型
Chinese-Alpaca-2 (7B/13B)
操作系统
Linux
详细描述问题
对Chinese-llama-alpaca2-hf进行指令精调,后将得到的lora与Chinese-llama-alpaca2-hf进行合并,但只能回答指令精调中的内容,其他任何语句的回答均为none
请在此处粘贴依赖情况(请粘贴在本代码块里)
请在此处粘贴运行日志(请粘贴在本代码块里)