Sentence Simplification with Deep Reinforcement Learning, EMNLP2017

[fujiso]

概要

深層強化学習を用いて文単純化．
モデルはよくあるencoder-decoder attentionモデル．
報酬として，文の単純さ, 文法の正しさ，流暢さ(文の自然さ)の3つの重み付き和を導入． BLEUなどの自動評価の結果はイマイチだが，人手評価では最も高い評価を得ている．

著者

Xingxing Zhang and Mirella Lapata

リンク

http://aclweb.org/anthology/D17-1062

貢献

• 文の単純さ, 文の類似度，流暢さ(文の自然さ)の3つを報酬として強化学習モデルを構築．
• 語彙単純化コンポーネントを導入することで，さらに性能向上．人手評価で高い評価を得た．

手法

報酬について．

• 文の単純さ(simplicity) SARIという文圧縮用の自動評価手法の値を使用．単語1~4gramのpresicionやrecallを見ている． ref) Optimizing Statistical Machine Translation for Text Simplification, TACL 2016
• 文の類似度(relevance)
  cos類似度．別でLSTM auto encoderを学習し，その中間層を文の特徴として使用． ( そんな重いことしなくても，doc2vecで十分な気がする)
• 流暢さ(fluency)
  文の生成確率を正規化したもの. 生成確率は単純な文(正解データ)だけで学習したLSTMを使用．

Future work

文分割と文圧縮を明示的にモデル化することで，文書に適用出来るようにしたい

[fujiso]

評価や語彙単純化で別々のencoder学習してて，すごい学習重そう． 同一encoderではダメだったのだろうか．