Global-Locally Self-Attentive Dialogue State Tracker

short summary

dialogue state trackingのためのモデルGlobal-Locally Self-Attentive Dialogue State Tracker(GLAD)の提案。

dialogue state tracking（DST)

現在の会話の状態を、現在のユーザの発言と過去のユーザ、システムの発言から推定するタスク。 DSTにおける状態とは、ユーザの目的（goal)と要求（request)から成る。例えば、restaurant予約のタスクを考えると、毎ターン、ユーザは達成したい目的をシステムに伝える（inform(food=french)など）か、システムから情報を引き出すための要求（request(adress)など）を行う。goalとrequestにおける(food, french)、(request, address)などのslot-valueペアを各ターン予測する。

既存手法では、レアなslot-valueペアの抽出にあまりうまくいっていないが、レアなペアのどれかが会話中に出てくる確率は小さくなく、会話中のターンレベルでのエラーの重なりが会話全体としての精度を大きく下げるので、問題である。 GLADでは、各slotに対する推定器がパラメータを共有したglobal moduleと、slot毎に独立な推定器を用いるlocal moduleを芸陽することで、レアなslot-valueペアに対しても数個の訓練サンプルで予測できるようになりSOTA達成。（既存のものはslot-valueペア毎に独立に推定）

GLAD

問題設定：ターンの状態を、ユーザの発言と、1つ前のシステムの出力から推定。既存手法と同様に、マルチラベルの状態推定問題を、slot-value毎に異なる推定器を用いることで２値推定問題の集合に置き換える。

GLADは、encoder moduleとscoring moduleからなる。

encoder moduleでは、ユーザの発言と前のシステムの発言、対象のslot-valueペアを埋め込む。 encoderは、global/local biLSTMとglobal / local self attentionから成る。
scoring moduleは、ユーザの発言を評価するutterance scorerと前のシステムの出力を考慮するaction scorerから成る。手法は基本的にはうまいことアテンションをかけてるだけ
- utterance scorer
- action scorer

結果

DSTC2とWoZ taskに置いてSOTA. globalとlocalを組み合わせることでレアなslot-valueペアに対して精度が上がっている。

author

Victor Zhong, Caiming Xiong, Richard Socher Salesforce Research Palo Alto, CA {vzhong, cxiong, rsocher}@salesforce.com

URL

https://arxiv.org/pdf/1805.09655.pdf https://github.com/salesforce/glad

year

ACL 2018

kacky24 / papers