[2019] Self-Supervised Dialogue Learning

[cfiken]

0. 論文

タイトル

Self-Supervised Dialogue Learning

リンク

https://arxiv.org/abs/1907.00448

著者

Jiawei Wu, Xin Wang, William Yang Wang

投稿日付

30 Jun 2019 ACL 2019

1. どんなもの？

対話において発話の順序が重要という考察から inconsistent order detection というタスクを解く self-supervised な学習手法とそのためのモデルである Self-Supervised Network (SSN) を提案。 通常の対話モデル学習と SSN による学習を GAN の仕組みを用いて組み合わせることでより一貫した学習ができるようにし、Open-Subtitles と Movie-Ticket Booking のタスクで SOTA を更新した。 通常の対話モデルを Generator として、SSN を「ある生成文が良い返答なら順序タスクを解きやすい」という Discriminator として使うことで組み合わせている。

2. 先行研究と比べてどこがすごい？

対話モデルの学習において、対話の順序に着目しそれをタスクとして取り入れた研究は初。 またその順序識別タスクを上手く Adversarial Learning に取り入れた。

3. 技術や手法のキモはどこ？

• Inconsistent Order Detection
  • 対話セットからランダムでサンプリングした3つの発話・応答セットの順序が逆転しているかどうかを予測するタスク
• Self-Supervised Network SSN
  • taget pair よりも過去の対話から 2つの triple である T' と T'' をサンプリング
  • T', T'' は Ordered / Misordered の組み合わせを変えて実験
  • target T が ordered/misordered かどうかを T', T'' の条件での確率となるように SSN を設計
  • P(T|T', T'') = S(T, T', T'')
  • モデルは LSTM ベース
• SSN + Dialogue
  • 対話には順序の影響が大きいので、生成文 A_t が良ければ inconsistent order の判断は簡単になる
  • そうでない場合は、生成した A_t が微妙
  • これを逆に使って、misordered な triple が与えられた時 A_t でどのくらい正しく識別できるかを見る
  • これにより、 A_t がどれくらい良いかを評価する (簡単にわかれば A_t は良い応答)
  • これを Discriminator として使って、Generator を Adversarial に学習する

4. どうやって有効だと検証した？

OpenSubtitles と Movie-Ticket Booking のデータセットで実験。ベースラインモデルとして adversarial な学習を用いたモデルである REGS (Li et al., 2017) とAEL (Xu et al., 2017) と比較。 様々な実験を行い、どの指標でも提案手法が上回った。 特に人間評価では大きな差があった。

5. 議論はある？

• 同じ枠組みが他の NLP タスクにも適用できるかどうか

6. 次に読むべき論文は？

• Adversarial Learning for Neural Dialogue Generation
  • https://arxiv.org/abs/1701.06547
  • Jiwei Li, Will Monroe, Tianlin Shi, Sébastien Jean, Alan Ritter, Dan Jurafsky
  • REGS のモデル
• Neural Response Generation via GAN with an Approximate Embedding Layer
  • https://www.aclweb.org/anthology/D17-1065
  • Zhen Xu, Bingquan Liu, Baoxun Wang, Chengjie Sun, Xiaolong Wang, Zhuoran Wang, Chao Qi
  • AEL のモデル
• Neural Approaches to Conversational AI
  • https://arxiv.org/abs/1809.08267
  • Jianfeng Gao, Michel Galley, Lihong Li

[cfiken]

7. モデルイメージ

SSN のモデルのイメージ

SSN を用いた Adversarial Learning のイメージ

8. 実験結果詳細

Adversarial Evaluation

Autometric Evaluation

Human Evaluation