Automatic Domain Adaptation Outperforms Manual Domain Adaptation for Predicting Financial Outcomes

Marina Sedinkina, Nikolas Breitkopf, Hinrich Schütze (Center for Information & Language Processing, LMU Munich, Institute for Finance & Banking, LMU Munich) https://www.aclweb.org/anthology/P19-1034/

財務予測をするための感情辞書を既存の辞書からドメイン適合で生成する
- 元となる辞書はHarvard Spychosociological Dictionary (Harvard-IV-4 TagName: H4N)
- 財務向けの感情辞書
- ドメインから若干離れた単語も混じっている(liability, tax等)
  - 上記例はnegativeラベルとなっているが、財務においては不適切
- 財務向けにH4Nのラベルを付与しなおした研究もある(Loughran and Mcdonald 2011)
  - From 10-Kにおいて良い結果を得られている
- 新規に作られた財務むけ感情辞書 L&M もある(Loughran and Mcdonald 2011)
この研究について
- 一般向けとしてラベルづけされているH4Nから財務むけ感情辞書を自動で生成する
- 10-Kをコーパスとして単語埋め込みを学習
- それに基づきラベルを付与(SVMを使う)
- 生成されたドメイン適合済み辞書をH4N_REと呼ぶ
- H4N_REによって財務予測を行うことで、先行研究より良い結果を得られた
- H4N_REはL&Mよりも語彙が少なく、より一般性があると考えられる
  - L&Mは過剰適合していると思われる
- H4NとL&Mの分析結果から、人手で作られた辞書はコーパスの文脈をアノテーターが得られない場合にエラーが起こりやすいことを示唆
- 財務予測は最小2乗回帰(OLS)を適用し、解釈しやすいモデルを構築
- 財務以外のドメインにも応用可能
手法
- リターンやボラティリティを線形回帰で予測
- 10-Kに記載されたネガティブな単語に基づく
辞書について
- まず10-Kをコーパスとして単語埋め込みをCBOWで学習
- その後の処理はADD, REの2手法を考案
- ADD
- まずSVM分類モデルを構築
  - L&Mに存在する単語かそうでないか
- H4Nの単語群に対しこのSVM分類を適用
  - 事前に訓練したCBOWモデルにない単語は無視
- 得られたSVMのスコアをロジスティック回帰に使う
  - 信頼度閾値θを定義、θ以上の単語を辞書に追加
- RE
- ADDと同じようにSVMモデルを構築
  - 5分割のcross validationを行う
- SVMモデルで得られた単語に対するスコアをロジスティック回帰に使う
  - 閾値θ以下は不採用
- 得られた単語数
実験
- 1994-2013までの10-Kをデータとしてもちいる
- 目次、ページ番号、表などを除去し、本文のみを利用
- 章で分割された内容から、分析に不要なものを除去
- 対応する株価情報も収集
- NLTKでテキストを正規化(小文字に統一し、句点を削除)
- word2vec, SVMの訓練
- 閾値θは0.8とした
- 回帰モデルの予測結果を比較
- 高い相関係数やt値が得られた
(自動といいつつ、手動でラベル付けしたL&Mに強く依存している点が気になる)

knok / acl-2019-reading

Automatic Domain Adaptation Outperforms Manual Domain Adaptation for Predicting Financial Outcomes #99