search

shunk031 / paper-survey

📚 Survey of previous research and related works on machine learning (especially Deep Learning) in Japanese
https://shunk031.github.io/paper-survey/
151 stars 12 forks source link

Hierarchical Attention Networks for Document Classification #182

Closed shunk031 closed 6 years ago

shunk031 commented 6 years ago

http://www.cs.cmu.edu/~./hovy/papers/16HLT-hierarchical-attention-networks.pdf

shunk031 commented 6 years ago

Attentionを用いてより重要な単語・文に注目させ、同時に文書の階層的構造を捉えることができるHierarchal Attention Network (HAN) を提案している。機械翻訳や画像キャプションで用いられているAttentionをGRUでエンコードしたembeddingに対して適用し、複数データセットに対して良い性能を示した

paper summary