zhangnn520 / chinese_llama_alpaca_lora

llama信息抽取实战
Apache License 2.0
97 stars 10 forks source link

想问一下,想在Chinese-LLaMA-7B基础上继续指令微调,是用finetune.py吗,因为我看inference_hf.py只是推理,没有loss反向传播,梯度下降的部分 #1

Open hangzeli08 opened 1 year ago

hangzeli08 commented 1 year ago

我看你写的指令微调用的是inference_hf.py,这只是推断啊,它loss不反向传播他怎么微调啊,这个项目支持在Chinese-LLaMA-7B基础上继续指令微调继续指令微调吗,支持断点继续训练吗

zhangnn520 commented 1 year ago

这就是推理的代码inference_hf.py,微调的不是这个代码,你自己找吧。