tm4roon / survey

Survey on machine learning.
14 stars 1 forks source link

Contextual String Embeddings for Sequence Labeling #9

Open tm4roon opened 5 years ago

tm4roon commented 5 years ago

Contextual String Embeddings for Sequence Labeling

文字レベルを入力とした言語モデルから単語ベクトルを獲得する手法を提案。双方向のLSTMに文字レベルで入力。forward, backwardそれぞれLSTMから単語の末尾, 先頭の隠れ状態を獲得し、結合する。これを単語のベクトルとみなす。CoNLL2003 shared taskでstate-of-the-artを達成。また、文字レベルで入力することから、rare wordやmisspell wordなどにも対応可能。

文献情報