Open Trevor4Y opened 4 years ago
您好,在基于您的代码进行学习的过程中,想查看一下注意力机制为我的文本数据分配的权重,即TextAttBiRNN中attention计算中的a。 但是我在成功输出a后发现,我每句话的每个词都被分配了同样的权重,例如一句话23个单词,每个单词的权重都是1/23。 百思不得其解,在这里想向您请教一下有可能是什么原因造成的呢?数据集按理说不应该有问题的,直接基于RNN做效果也不错。非常抱歉问题这么基础,希望您能解答,感谢!!
您好,在基于您的代码进行学习的过程中,想查看一下注意力机制为我的文本数据分配的权重,即TextAttBiRNN中attention计算中的a。 但是我在成功输出a后发现,我每句话的每个词都被分配了同样的权重,例如一句话23个单词,每个单词的权重都是1/23。 百思不得其解,在这里想向您请教一下有可能是什么原因造成的呢?数据集按理说不应该有问题的,直接基于RNN做效果也不错。非常抱歉问题这么基础,希望您能解答,感谢!!