求问在Sonnet这个小数据集上的fine-tuning细节

lipiji / SongNet

Code for ACL 2020 paper "Rigid Formats Controlled Text Generation"：https://www.aclweb.org/anthology/2020.acl-main.68/

MIT License

230 stars 40 forks source link

Closed yaolinli closed 3 years ago

yaolinli commented 3 years ago

论文里还提到一个Sonnet数据集，只有100多条数据，像这么小的数据集，可以问下微调的细节吗？比如微调了模型的几层、学习率这些？谢谢！

lipiji commented 3 years ago

@yaolinli 这个数据集太小，论文结果也能看出来效果很差。微调我也没有做啥特别的设置，其实可以研究一下。