Abstractive Document Summarization with a Graph-Based Attentional Neural Model, Tan+, ACL2017

[ibadora]

概要

http://aclweb.org/anthology/P/P17/P17-1108.pdf ニューラルな生成型要約のAttentionスコア計算に、TextRankを用いて計算した文の相対的な重要度を用いる「Graph-based Attention」を提案。文書要約タスクにおいてstate-of-the-artな性能を示した。

著者

Jiwei Tan, Xiaojun Wan and Jianguo Xiao Peking University

手法

要約生成の流れは以下。

1. 単語を逐次LSTMでエンコードし、文ベクトルを作成。
2. 文ベクトルをまたLSTMで逐次読み込み文書ベクトルを作成しデコーダ側の初期状態として利用。
3. デコード時のattentionスコアの計算にはTextRankアルゴリズムを用いて計算した文の重要度を用いる。
4. 文ベクトルから単語ベクトル→softmaxで出力単語を決定という処理を繰り返す。

実験設定・使用データ

CNN/Dailyデータセット

結果

Graph-based Attentionを取り入れたらROUGE、人手評価ともに良くなった。これまで、文書要約タスクでは、生成的手法は抽出的手法に勝つことができなかったが、提案モデルは抽出的手法よりも良い評価を得た。