FrankWork / fudan_mtl_reviews

TensorFlow implementation of the paper `Adversarial Multi-task Learning for Text Classification`
178 stars 40 forks source link

关于single task的训练问题 #11

Open yuanyuansiyuan opened 5 years ago

yuanyuansiyuan commented 5 years ago

您好,您的代码中有去除adv和diff的MTL的实现, 但根据代码:

TODO NOTICE 非对抗时只使用private,即single task训练,并不是所有数据放在一起训练

if self.adv:
  feature = tf.concat([conv_out, shared_out], axis=1)
else:
  feature = conv_out

实际上MTL中没有用到share structure,请问这样模型与single task有区别么?我只输入一个数据集进行single task的结果与使用MTL的版本跑出来的结果还要差一些【initial lr均为0.01】请问大概是什么原因呢?谢谢!

FrankWork commented 5 years ago

我有点不太明白你说的啥意思。你说的single task是指self.adv=False时的情况吗?