kybinn / DrugDoctor

Enhancing Drug Recommendation in Cold-start Scenario via Visit-Level Representation Learning and Training
0 stars 0 forks source link

运行结果 #2

Open mmuzzii opened 4 hours ago

mmuzzii commented 4 hours ago

您好,想请问一下直接运行您的代码的结果在mimic3上好像比论文里差了不少,请问这有可能是什么原因呢。

epoch 22 --------------------------

DDI Rate: 0.07488, Jaccard: 0.527, PRAUC: 0.7791, AVG_PRC: 0.6702, AVG_RECALL: 0.7221, AVG_F1: 0.6823, AVG_MED: 21.78 training time: 60.72959494590759, test time: 10.172691106796265 best_epoch: 22

kybinn commented 3 hours ago

首先,我们的测试严格在测试集上进行,验证集用于选择最佳超参数。 这里给出我的以下疑问:

  1. 是否在模型复现和超参设置上有问题?
  2. 你的训练时间似乎比我的要短不少,我自己在4090GPU要90秒左右
  3. 在重点对比方法 COGNet,SHAPE的复现上是否出现类似问题?

我的建议:

  1. 多复现几个方法,已知的SafeDrug,COGNet,SHAPE都值得复现,但是可能比较耗时。
  2. 各方法训练的方法详见链接的第三种。保证各方法一致,且严格保证测试集不用于训练。 https://www.cnblogs.com/HuZihu/p/10538295.html
kybinn commented 3 hours ago

此外,本文最值得再利用的是 visit-level 数据集分割,然后基于这个分割方法进行模型新设计。已经验证该方法用我们新模型上也可以解决冷启动问题。