Open-Domain Targeted Sentiment Analysis via Span-Based Extraction and Classification

Minghao Hu, Yuxing Peng, Zhen Huang, Dongsheng Li, Yiwei Lv (National University of Defense Technology, Changsha, China/University of Macau, Macau, China) https://www.aclweb.org/anthology/P19-1051/

オープンドメインな複数の対象への感情分析をスパンベースで行う手法の提案
- (aspect based sentiment analysisとたぶん同じ? 引用論文の一つのタイトルにはaspect sentiment analysisとある)
- 先行研究では系列タギング問題として定式化していた
- BIOタグに極性を付与する
- 探索空間が広大になるという課題がある
- スパンベースの手法を提案
- 左: 系列タギング問題, 右: スパンベース
  - スパンベースではトークン3, 4がポジティブ, トークン11がネガティブという表現
    - 対称エンティティの抽出ののち、感情分類を行う
    - 系列タギング問題と比べて探索空間を減らせる
    - BERTをベースとした構造
構造
- ターゲットの抽出を開始位置と終了位置の予測タスクとして行う
- question and answeringタスクでの手法に習った
- 各トークンの隠れ層出力に重みをかけてsoftmax
- 損失関数
  - ys, ye: 正解位置, ps, pe: softmax出力
  - 複数の正解がありうるので、ヒューリスティックに決定した閾値ulによって採用を決める
- 極性判定
- BERTによる文脈表現に位置情報を付与して行う
  - vが位置情報を考慮した文ベクトル
  - 重みパラメータと活性化関数によって極性p^pを求める
  - 損失関数, y-p_iは極性の正解ラベル(one-hot)
- 複数のモデルを用意
- 逐次処理するpipeline, 結合したjoint, ラベルにspanと極性両方の情報を持たせたcollapsed
実験
- データセット: SemiEval 2014 ABSA(LAPTOP), SemiEval 2014, 2015, 2016(REST), Mutchel et al. 2013のツイートデータ(TWITTER)
- 評価指標: precision, recall, F1
- 結果
- 提案手法のpipelineモデルが現状のSOTAであるUNIFIED(Li et al., 2019)より良い結果
- target extractionに絞った結果
- TAG(系列タギング)の方がデータセットによっては良い結果
- 系列長とF1スコアの比較
  - 系列が長くなるとSPANベースの手法の方が優位
  - 系列タギング問題として扱ったときの探索空間の問題を解決していると考えられる
  - ただし短いデータではTAG手法が優位なので、これらはトレードオフ
  - 短い文だとSPANではターゲットを見失うことがある
- 極性分類に絞った比較
- 全体的にSPAN手法が優位
実装: https://github.com/huminghao16/SpanABSA

knok / acl-2019-reading

Open-Domain Targeted Sentiment Analysis via Span-Based Extraction and Classification #115