Open 11Boss opened 7 months ago
我最近在做小模型的训练,但是没找到小模型的预训练权重只能从头开始训,发现好难训,目前想训一个小模型的预训练模型,关于训练的epochs,训练技巧,欢迎交流经验
底模从头开始训,你有什么心得吗?
我最近在做小模型的训练,但是没找到小模型的预训练权重只能从头开始训,发现好难训,目前想训一个小模型的预训练模型,关于训练的epochs,训练技巧,欢迎交流经验