yuanxiaosc / Multiple-Relations-Extraction-Only-Look-Once

Multiple-Relations-Extraction-Only-Look-Once. Just look at the sentence once and extract the multiple pairs of entities and their corresponding relations. 端到端联合多关系抽取模型,可用于 http://lic2019.ccf.org.cn/kg 信息抽取。
https://yuanxiaosc.github.io/2019/05/28/信息抽取任务相关论文发展脉络/
346 stars 69 forks source link

关于Extracting Multiple-Relations in One-Pass with Pre-Trained Transformers这篇论文 #16

Open tc1713796338 opened 4 years ago

tc1713796338 commented 4 years ago

感谢作者分享的代码,对我的学习研究工作有很大的帮助。在readme最后的Paper realization中看到了Extracting Multiple-Relations in One-Pass with Pre-Trained Transformers这篇论文,请问在代码中哪里进行了改进,另外实体识别模型中,不知道我理解的对不对,为什么用了softmax分类而不是crf呢?

yuanxiaosc commented 4 years ago

就是把输出结果的方式用了该论文的方式(效果并不好);用crf还是softmax取决于实验效果和性能的综合考虑。

tc1713796338 notifications@github.com 于 2020年9月5日周六 下午6:00写道:

感谢作者分享的代码,对我的学习研究工作有很大的帮助。在readme最后的Paper realization中看到了Extracting Multiple-Relations in One-Pass with Pre-Trained Transformers这篇论文,请问在代码中哪里进行了改进,另外实体识别模型中,不知道我理解的对不对,为什么用了softmax分类而不是crf呢?

— You are receiving this because you are subscribed to this thread. Reply to this email directly, view it on GitHub https://github.com/yuanxiaosc/Multiple-Relations-Extraction-Only-Look-Once/issues/16, or unsubscribe https://github.com/notifications/unsubscribe-auth/AD3PCEQE35ONT3OXPYAC6QLSEID33ANCNFSM4Q2WKUEA .

tc1713796338 commented 4 years ago

十分感谢您的解答

tc1713796338 commented 4 years ago

另外我看到在Main principle中,第二张图片给出了Attending to All Mention Pairs for Full Abstract Biological Relation Extraction论文的模型结构图,据我个人理解,是将实体识别和关系抽取的loss相加的过程用到了论文中的思想,不知道我理解的对不对

tc1713796338 commented 4 years ago

您好,实在多有打扰,您说的输出结果的方式用了论文中的方式,具体指的哪里呢,十分感谢,十分感谢

tc1713796338 commented 4 years ago

您指的输出结果的方式是说实体识别模块bert隐藏层输出用了论文中的方式嘛,我学的很吃力,所以向您请教,多有打扰,希望能得到您的回答,这对我的学习有很大的帮助

yuanxiaosc commented 4 years ago

@tc1713796338 你的理解是对的,该资源把bert当做特征抽取器,然后把上述论文当做输出层使用。平时工作很忙,来不及回复,见谅,学术交流可以发我邮件

tc1713796338 commented 4 years ago

十分感谢您的解答

tc1713796338 commented 4 years ago

看了您的解释对我理解论文大有帮助,只是反馈到代码上,又有一些迷茫,您说的bert当作特征提取层我很理解,Extracting Multiple-Relations in One-Pass with Pre-Trained Transformers这篇论文当做输出层,具体是在代码中如何体现的呢,是在下图中的实体识别模块中应用的吗,可是我没有找到论文中说的两个实体经过bert后,加和平均,然后再拼接的操作,我觉得还是我理解的不够透彻,您的回答对我有很大的帮助。再次感谢您前几次的帮忙和解答

yuanxiaosc commented 4 years ago

@tc1713796338 我回顾了下代码,发现只用到了 Joint entity recognition and relation extraction as a multi-head selection problem这篇论文的策略。有关这篇论文 Extracting Multiple-Relations in One-Pass with Pre-Trained Transformers你可以直接去搜他的官方实现看。我其实更建议你去搜一些顶会较新的论文来看,他们现在一般用pytorch写代码,看起来更容易。TensorFlow1.X的代码太恶心了,直接带劝退功能。

tc1713796338 commented 4 years ago

好的好的,十分感谢,我明白啦