Multidirectional Associative Optimization of Function-Specific Word Representations

[yskn67]

一言でいうと

単語のrepresentation vectorを単一ではなく役割ごとに生成しするようにした論文。 具体的にはSVO構造として似たような使われ方をしている単語を近く配置するように学習させようとした。

実際の学習方法はコーパス中に現れるSVO構造を抽出し、S <-> V、S <-> O、V <-> Oを互いに予測するように学習させる。 S、V、Oごとにパラメータは共通化させる。 いくつかのタスクで有効性を検証した。

論文リンク

https://www.aclweb.org/anthology/2020.acl-main.257/

著者/所属機関

Daniela Gerz♠♦ Ivan Vulic´♠ Marek Rei♣ Roi Reichart♥ Anna Korhonen♠

♠Language Technology Lab, University of Cambridge ♦PolyAI Limited, London ♣Department of Computing, Imperial College London ♥Faculty of Industrial Engineering and Management, Technion, IIT

投稿日付(yyyy/MM/dd)

2020

[yskn67]

SVO同時に学習、S -> V、S -> Oを予測するときのパラメータを共通化した方がパフォーマンスがよかったらしい