linzehui / mRASP

165 stars 32 forks source link

关于报告的结果 tok or detok #27

Open jingmu123 opened 3 years ago

jingmu123 commented 3 years ago

您好!在和其他方法对比时,论文中指出报的结果是detok bleu吗(table 4), 但是mbart报的结果应该都是tokenizer bleu吧(询问过论文作者也确实如此),所以想跟您们也确认这块的结果,谢谢~

linzehui commented 3 years ago

你好,可能是一开始我们理解错作者的意思,认为mbart是de-tokenized bleu,我刚刚check了一下mbart的论文,他们应该是tokenized bleu。 关于我们的结果是tokenized bleu还是de-tokenized bleu,因为时间有点久远,我没记错的话,我们是做了detok的操作的。或许你可以试试我们提供的checkpoint?