shunk031 / paper-survey

📚 Survey of previous research and related works on machine learning (especially Deep Learning) in Japanese
https://shunk031.github.io/paper-survey/
151 stars 12 forks source link

A New Method of Region Embedding for Text Classification #170

Closed shunk031 closed 6 years ago

shunk031 commented 6 years ago

https://openreview.net/forum?id=BkSDMA36Z

shunk031 commented 6 years ago

Attention Is All You Needからヒントを得た単語埋め込みであるRegion Embeddingを提案。CNNやRNNを必要とせずに語順を考慮することができるLocal Context Unitを利用し、タスク固有の単語埋め込み表現を学習し、公開データセット8つのうち6つでSOTAを達成している。

summary