[2015]A Hierarchical Recurrent Encoder-Decoder For Generative Context-Aware Query Suggestion

[IkokObi]

ざっくり言うと

• ユーザの過去の検索過程(Session)を用いてquery suggestionを行う
• SessionをRNNでencode
• queryとして入力された単語は順番も意味を持つことが多いので，queryもRNNでencoding
• 次のqueryを生成するモデル(これもRNN)を作成
• Learn to rankのモデルに入力する特徴量の1つとして，上で学習したモデルから得られる検索キーワードの尤度(HREDスコア)を組み込む
• Session情報を組み込むことで，suggestionの精度向上

キーワード

• IR
• Learn to rank
• NLP
• RNN

1. 情報

論文リンク

https://arxiv.org/abs/1507.02221

著者

Alessandro Sordoni, Yoshua Bengio, Hossein Vahabi, Christina Lioma, Jakob G. Simonsen, Jian-Yun Nie

投稿日付

2015/7/8

2. 先行研究と比べてどこがすごい？

• 直前のquery内容のみでなく，Sessionの情報を組み込むことが可能
• IR分野において，RNNを使用
• queryの評価のみでなく生成も可能

3. 技術や手法のキモはどこ？

• queryをRNNでencoding
• SessionをRNNでencoding
• 次に入力されるqueryを予測(decoding)するモデル

4. どうやって有効だと検証した？

• AOLの検索ログを使用
• 検索過程(Session)から次に入力される検索キーワードを予測するタスクで評価
  • 次に入力されるキーワードの候補を20個用意し，そのうち1つが正解
• HREDスコアを入れないrankモデルとADJと呼ばれるモデルと比較

5. 議論はある？

• 今後の発展として
  • ユーザのクリック情報を取り込む
  • 自動補完タスク
  • 次の単語予測タスク
• query suggestionの流れとして検索キーワードの削除や追加をメインとしたモデルが多いが，全く異なるキーワード達でかつ関係性の深いキーワードをsuggestするモデルも良いのでは

6. 次に読むべき論文は？

• Learning user reformulation behavior for query auto-completion
  • Jyun-Yu Jiang, Yen-Yu Ke, Pao-Yu Chien and Pu-Jen Cheng
  • https://dl.acm.org/citation.cfm?doid=2600428.2609614
  • 2014/7/6-11 (SIGIR 2014)
  • query suggestionの研究として本文中で多く参照されている論文の1つ
• Exploring Session Context using Distributed Representations of Queries and Reformulations
  • Bhaskar Mitra
  • https://dl.acm.org/citation.cfm?id=2766462.2767702
  • 2015/8/9-13 (SIGIR 2015)
  • query suggestionの研究として本文中で多く参照されている論文の1つ
  • Mitraさんの名前は他の論文で見た気がする
• Web Query Recommendation via Sequential Query Prediction
  • Qi He, Daxin Jiang, Zhen Liao, Steven C. H. Hoi, Kuiyu Chang, Ee-Peng Lim, Hang Li
  • 2009/3
  • https://ieeexplore.ieee.org/document/4812545
  • 文脈をモデル化するもの

[IkokObi]

7. 実装の詳細

• 1回のquery Q_i(いくつかの単語から成る)をGRUでencoding

• queryのencoding結果を階層的に上のGRUに渡して，Sessionをencoding

• 次のqueryを生成するdecoderとしてもGRUを用いて，Sessionのencoding結果を初期ベクトルとしてdecode

• 次のqueryのsuggestionは，0からdecodingするのではなく，候補を取ってきて(実験では20個)，それをランクづけする

  • ランク学習のモデルはLambdaRank
  • ランク学習の特徴量として色々組み込むが，その1つに上のdecoderによるスコアを入れると精度が上がるという主張

• RNNなので，0からdecodingするこも可能

• 全体像

  

[IkokObi]

8. データセット

• AOL search log
  • 1,708,224 sessionをbackground setとしてRNNの学習やqueryの候補として用いる
  • ランク学習のsessionデータとして，train : validation : test = 435,705 : 166,836 : 230,359
  • Next-Query predictionのタスクにおいては，次のqueryの候補として20個をbackgroundセットから選び，その中の1つが正解というデータセットになっている
  • 候補はADJスコアをもとに選んできている(つまり先にADJでフィルタリングされている)

[IkokObi]

9. 結果の詳細

• Next-Query Prediction
• 他に行なっているタスクは
  • Robust Prediction: 検索ワードとしてあまり情報を持たない単語を混ぜる
  • Long-Tail Prediction: 頻度の低い検索
  • User Study: 検索キーワードを0から生成するモデルの評価

[IkokObi]

雑感&メモ

• 検索キーワードを先にADJで絞っているというのが，目立たないが重要な気がする
• https://github.com/IkokObi/paper-readings/issues/13 の先行研究として，検索過程(Session)をencodingするモデルの理解のために読んだ