BrambleXu / knowledge-graph-learning

A curated list of awesome knowledge graph tutorials, projects and communities.
MIT License
736 stars 120 forks source link

ACL-2019/06-COMET: Commonsense Transformers for Automatic Knowledge Graph Construction #233

Open BrambleXu opened 5 years ago

BrambleXu commented 5 years ago

一句话总结:

这篇文章是对两个KB构筑模型进行了详细分析的文章。两个针对commonsense knowledge graphs的模型:ATOMIC (Sap et al., 2019) and ConceptNet (Speer et al., 2017). 与传统的KB通过模板存储知识相比,commonsense KB只保存结构松散的文章。我们假设automatic commonsense completion重要的一步是 generative models of commonsense knowledge,所以我们提出了 COMmonsEnse Transformers (COMET)来 generate rich and diverse commonsense descriptions in natural language.

除去commonsense建模方面的挑战,我们的研究发现,使用与训练模型对于生成explicit knowledge in commonsense knowledge graphs有很好的效果。

我们建议比起提取式的方法,未来可以使用这种生成式的方法来自动化commonsense KB completion。

资源:

论文信息:

笔记:

image

这篇文章最大的共现是给现在NER,RE提供了另一个思路。我们不要急于现有的entity,和relaiton进行抽取,而是直接生成新的entity和relation,来组成tuple。

但是想要生成的话,需要拿已经构筑好的KB输入到comet model(基于Transformer)里面进行学习,然后能生成triple。

但是这篇文章的感觉主要是针对event这种类型。另一个难点在于如何评价,果然还是引入了人工。使用了一下demo,结果不是很理想。从新闻里拿来的句子无法进行解析。可能是KB里压根没有相关的任何信息吧。

模型图:

image

结果

image

接下来要看的论文