LlamaFamily / Llama-Chinese

Llama中文社区,Llama3在线体验和微调模型已开放,实时汇总最新Llama3学习资料,已将所有代码更新适配Llama3,构建最好的中文Llama大模型,完全开源可商用
https://llama.family
14.01k stars 1.26k forks source link

预训练和全量参数微调该如何选择? #281

Open buaaxiejun opened 10 months ago

buaaxiejun commented 10 months ago

假如我有150万条问题+回答的数据,是使用预训练还是全量参数微调?