search

DaikiTanak / MLPapers

0 stars 0 forks source link

A SIMPLE BUT TOUGH-TO-BEAT BASELINE FOR SENTENCE EMBEDDINGS #10

Open DaikiTanak opened 4 years ago

DaikiTanak commented 4 years ago

publication

ICLR 2017

link

https://openreview.net/pdf?id=SyK00v5xx

problem

Unsupervised sentence embedding

method

単語が文脈ベクトル(sentence embedding)から生成されるモデルを仮定して、最尤解としてのsentence ebeddingを求める。

スクリーンショット 2020-06-16 15 41 58

結果としてアルゴリズムはシンプルで、単語埋め込み(Pretrained word2vec or GloVe ...)の重み付き平均を第一固有ベクトルで補正したものになる。

DaikiTanak commented 4 years ago

持橋さんによる解説スライド：https://pdfs.semanticscholar.org/3f18/02d3f4f5f6d66875dac09112f978f12e1e1e.pdf