shunk031
commented
7 years ago ニューラル機械翻訳は、連続値(のベクトル)で表現されることや、ニューラルネットが非線形であることから解釈が難しい。この研究ではLayer-wise Relevance Propagationを用いて(文脈の)単語の隠れ状態への貢献度を計算することを提案した。出力層や隠れ層のあるノードが、入力層の各ノードからどれぐらい影響を受けているかが色の濃さで可視化される。 https://developers.cyberagent.co.jp/blog/archives/9908/
http://nlp.csai.tsinghua.edu.cn/~ly/papers/acl2017_dyz.pdf