训练过程中验证指标的选择

OpenMOSS / MOSS

An open-source tool-augmented conversational language model from Fudan University

https://txsun1997.github.io/blogs/moss.html

Apache License 2.0

11.92k stars 1.14k forks source link

Open cobraheleah opened 1 year ago

cobraheleah commented 1 year ago

想请教一下，在SFT模型训练过程中，MOSS中间模型的验证指标是用的什么，如何选择最优的checkpoint输出，我这边尝试使用了BLEU等指标，效果并不好，不能反应模型的实际效果