Open BrambleXu opened 5 years ago
一句话总结:
引入了新的目标函数,span-boundary objective (SBO)。把一个句子里的一部分span进行mask,然后用mask token旁边的token来预测masked span里的每一个token。在QA,conreference resolution, RE三个任务的数据集上实现了SOTA。 #231 使用了外部KG,而且用了BERT large。
资源:
论文信息:
笔记:
对于RE的task来说,只对entity words进行了mask。
模型图:
结果:
接下来要看的论文:
一句话总结:
引入了新的目标函数,span-boundary objective (SBO)。把一个句子里的一部分span进行mask,然后用mask token旁边的token来预测masked span里的每一个token。在QA,conreference resolution, RE三个任务的数据集上实现了SOTA。 #231 使用了外部KG,而且用了BERT large。
资源:
论文信息:
笔记:
对于RE的task来说,只对entity words进行了mask。
模型图:
结果:
接下来要看的论文: