Open HZPHYT666 opened 2 years ago
根据我们的经验,TransEnc由于没有预训练,是比较难以收敛的,但应该能够到~75%。请问训练的配置是相同的吗?
您好,训练的配置是相同的,但是TransEncAsp在Restaurant的valid acc最高只有0.7259(3090显卡跑的),与论文提到的77.10相差甚远,请问是哪里出错了吗
是这样的原因:这个脚本中的参数主要是为finetune预训练模型设置的,而论文中直接对TranEnc进行训练的参数有些区别。我将尽快更新这一部分的内容。
您好,TransEncAsp在Restaurant的valid acc一直在0.70波动,没有您论文写的77.10,请问这是什么情况?谢谢