about this paper

Author: Junjie Li, Haitong Yang, Chengqing Zong Link: https://www.aclweb.org/anthology/C18-1079

各aspectに対しての各ユーザーのスコアを予測するタスク。従来の研究はテキストの内容にのみフォーカスを当ててるけど、ユーザー・レビュースコア・アスペクト・レビューテキスト全体を重んじて、モデル（Hierarchical User Aspect Rating Network; HUARN）で処理する手法を提案。

aim

problem

従来のマルチタスク学習（Caruana, 1997; Collobert et al., 2011; Luong et al., 2016）は一つのレビュー（ドキュメント）に置いてそれぞれのaspectの違いが掴めなかった。

サービスに関したpolarityが知りたいとき、レビュー文の中でどれがサービスに関わった文なのかがわからなかった。
how to solve

aspect-specificドキュメント表現を用いる。同一ユーザーが作成したレビューは、好むaspectとレビュースタイルに一貫性があると仮定する。

model

r = overall rating embedding u = user embedding a1, a2, ... , am = aspect embedding s = sentence representation d = review representation

パラメタは共有するけど、異なるsoftmaxを用いてマルチタスク学習を行う。

experiments

datasets

Yin et al (2017) が作ったTripDMSデータセットと、ユーザー・評価点などの情報を補充し新たに著者らが作ったTripOURデータセットを用いる。

setting

ユーザー一貫性は以下の式で計算する。、 H_0 : v_s = v_r significance level α＝0.01

単語embedding
- embedding size: 200
ユーザー・評価点embedding
- ランダムに初期化
- embedding size: 200
aspect embedding
- got from Yin et al (2017)
- aspectに属するキーワードの単語embeddingの平均で初期化
hidden size: 150
dropout: 0.2
optimizer: Adam
学習率：0.001

results

ユーザー aware models
- achieve improvements of 2.2%, 2.5%, 1.2% and 2.5% in TripOUR.
評価点 aware models
- 3.2%, 3.0%, 1.9% and 3.1% improvements in accuracy in both datasets.
aspect aware models
- 1.2%, 1.0%, 1.2% and 2.4% improvements in accuracy in both datasets.

code

https://github.com/Junjieli0704/HUARN

magicpieh28 / Paper-Summary

Document-level Multi-aspect Sentiment Classification by Jointly Modeling Users, Aspects, and Overall Ratings(2018) #22