search

ymym3412 / acl-papers

paper summary of Association for Computational Linguistics
184 stars 10 forks source link

SuperNMT: Neural Machine Translation with Semantic Supersenses and Syntactic Supertags #565

Open ymym3412 opened 5 years ago

ymym3412 commented 5 years ago

0. 論文

SuperNMT: Neural Machine Translation with Semantic Supersenses and Syntactic Supertags Eva Vanmassenhove, Andy Way

1. どんなもの？

WordNetのSupersenseの情報を活用したNMTモデル

2. 先行研究と比べてどこがすごい？

Sub wordにSupersenseの情報をのせる

3. 技術や手法のキモはどこ？

WordNetのSupersenseの情報には、オントロジーの中でもっとも抽象度が高い情報が含まれている。 WordNetのSupersenseにはそういった意味の情報に加えて、対応した名詞と動詞の情報も含まれており構文情報もある。 そういったsemantic/syntacticな情報をBPEにのせ(具体的には、分割されたsubword全てに元のtokenのsupersense tagを付与する)NMTを学習する

4. どうやって有効だと検証した？

通常のBPEモデルと比べてepochを重ねるとBLEUがわずかに改善される傾向

5. 議論はある？

subwordのoverlapがあるときは、どうsupersense tagを付与すればよいのだろう

6. 次に読むべき論文は？

A Corpus and Model Integrating Multiword Expressions and Supersenses Nathan Schneider and Noah A. Smith