LlamaFamily / Llama-Chinese

Llama中文社区,Llama3在线体验和微调模型已开放,实时汇总最新Llama3学习资料,已将所有代码更新适配Llama3,构建最好的中文Llama大模型,完全开源可商用
https://llama.family
14.01k stars 1.26k forks source link

微调过程 #270

Open Z-Zili opened 11 months ago

Z-Zili commented 11 months ago

请问有没有相关资料能从微调训练集开始解释清楚到底如何微调?embeding后具体做了什么,如何合并参数等,我想知道原理。