BrambleXu / knowledge-graph-learning

A curated list of awesome knowledge graph tutorials, projects and communities.
MIT License
736 stars 120 forks source link

arXiv-2019/07-SpanBERT: Improving Pre-training by Representing and Predicting Spans #246

Open BrambleXu opened 5 years ago

BrambleXu commented 5 years ago

一句话总结:

引入了新的目标函数,span-boundary objective (SBO)。把一个句子里的一部分span进行mask,然后用mask token旁边的token来预测masked span里的每一个token。在QA,conreference resolution, RE三个任务的数据集上实现了SOTA。 #231 使用了外部KG,而且用了BERT large。

资源:

论文信息:

笔记:

image

对于RE的task来说,只对entity words进行了mask。

模型图:

image

结果

image

接下来要看的论文