请问可以微调没有lm head模型吗

hiyouga / LLaMA-Factory

Unify Efficient Fine-Tuning of 100+ LLMs

Apache License 2.0

25.52k stars 3.16k forks source link

Closed jzzzf closed 2 days ago

jzzzf commented 2 days ago

请问我想微调一个没有加上lm-head的模型,我可以怎么做? 比如说我想微调的模型是通过LlamaModel加载的而不是LlamaForCasualLM

hiyouga commented 2 days ago

不支持