search

qikunxun / JMRL

Code and data for the paper "End-to-end Learning of Logical Rules for Enhancing Document-level Relation Extraction"
5 stars 2 forks source link

运行JMRL-LSTM时，loss出现NAN #5

Open yzxx667 opened 1 month ago

yzxx667 commented 1 month ago
image
qikunxun commented 1 month ago

您好，请问您跑的是什么数据集？从截图中的step数看，您跑的不是DWIE数据集

yzxx667 commented 1 month ago

您好，这是我跑的数据集的截图：

image

另外想咨询您一个问题，假设我的任务想判断两个实体之间的相似度（认为关系类型只有两种：相似或不相似）。这时JMRL框架可能能适用与我的任务吗？ 感谢您的回复，祝好！

qikunxun commented 1 month ago

您好，关于第一个问题：如果您想复现论文中汇报的JMRL-LSTM的结果，需要使用dataset_dwie/prepro_data.zip的数据；readme提供的数据集是DocRED的，我们未在DocRED数据集上测试过JMRL-LSTM。 关于第二个问题：JMRL学习的规则是一阶谓词逻辑公式的片段，这个片段限制了头原子必须是二元的，且body原子是由多种谓词构成。回到您提到的场景，判断两个实体之间的相似性关系，可以表示成：similar(x,y)，即满足头原子是二元的；如果您可以找到其他谓词作为是否相似的依据，即body原子由其他（多于2个）谓词组成，我认为JMRL框架能够适用于您的场景。另外感谢您关注到JMRL，谢谢！

yzxx667 commented 1 month ago

您好。 关于第一个问题：好的，我再去尝试一下，谢谢。 关于第二个问题：我目前想尝试如果x和z相似，同时y和z相似，那么可以推导出x和y相似，即similar(x, y) ← similar(x, z) ∧ similar(y, z)。请问您这应该满足头原子是二元的且body原子由多个谓词组成的吧？ 感谢您的回复，祝好！

qikunxun commented 1 month ago

您好，关于第二个问题，对于similar(x, y) ← similar(x, z) ∧ similar(y, z)这种传递性的规则，谓词数量太少（只有2个）。这种情况下我认为不需要用到JMRL这种学习器，因为规则可以被快速枚举，不需要从大量数据中学习。我的建议是：如果能找到其他谓词作为body原子谓词，如：similar(x, y) ← similar(x, z) ∧ a_part_of(z, y)这种带其他谓词的规则，这样JMRL才能发挥它的规则学习能力