search

luhua-rain / MRC_Competition_Dureader

机器阅读理解 冠军/亚军代码及中文预训练MRC模型
730 stars 151 forks source link

想请教一下multi-task的策略 #4

Open hertz-pj opened 5 years ago

hertz-pj commented 5 years ago

请问提到的multi-task是怎么样的一种思路，想学习参考一下

luhua-rain commented 5 years ago

可以参考MT-DNN：https://arxiv.org/pdf/1901.11504.pdf

mazicwong commented 5 years ago

@basketballandlearn 你好, MT-DNN论文中提到的四个预训练任务为 Single Sentence Classification, Pairwise Text Similarity, Pairwise Text Classification, Pairwise Ranking, 想请问在这里multi task的与训练任务能否按照Dureader数据集划分为yes/No, Description, Entity, 或者有更合理的划分方式?

luhua-rain commented 5 years ago

这个多任务可以自己设计，试试效果；你说的也可以，但这些任务要相近或者对答案抽取有帮助