Unsupervised Learning of Distributional Relation Vectors

[ymym3412]

0. 論文

Unsupervised Learning of Distributional Relation Vectors Shoaib Jameel,Zied Bouraoui,Steven Schockaert

1. どんなもの？

単語間の関係性を学習する際に、共起情報から直接関係性のの埋め込みベクトルを学習する

2. 先行研究と比べてどこがすごい？

単語ペアに加えて共起情報も取り込むことでより頑健な関係ベクトルを学習できる

3. 技術や手法のキモはどこ？

2つの単語とそれらと共起する単語からPMIベースで学習を行う。 Gloveの目的関数をPMIを使って拡張したものを使う。 単語ペアとそれらの周辺語を共起情報として3階テンソルを構築し、それを使ってPMI(のようなもの)を計算して目的関数に用いる。

4. どうやって有効だと検証した？

「Relation Induction」「Relation ranking」「relation extraction」のタスクで検証。 Accuracy/Precision/Recallといった指標でタスクごとに評価。 概ねよい評価

5. 議論はある？

特になし

6. 次に読むべき論文は？

Learning Distributed Representations of Sentences from Unlabelled Data Felix Hill, Kyunghyun Cho, Anna Korhonen

[ymym3412]

最先端NLP勉強会の資料 論文紹介：Unsupervised Learning of Distributional Relation Vectors