tm4roon / survey

Survey on machine learning.
14 stars 1 forks source link

Global Encoding for Abstractive Summarization #39

Open tm4roon opened 4 years ago

tm4roon commented 4 years ago

Global Encoding for Abstractive Summarization

Attention-based seq2seq modelのencoder側を拡張。RNNの上にConvolution Gated UnitとSelf-attention layerを被せることで、n-gramレベルの局所的な特徴と文を跨ぐような長期的な特徴を捉えることによって、性能を改善。また、重複したn-gramを生成してしまう問題を軽減。

文献情報