Sosuke115 / paper-reading

4 stars 1 forks source link

CLINE: Contrastive Learning with Semantic Negative Examples for Natural Language Understanding [2021] #50

Open Sosuke115 opened 2 years ago

Sosuke115 commented 2 years ago

論文リンク

https://arxiv.org/pdf/2107.00440.pdf

概要

意味は似ているが推論を間違えさせる敵対的サンプルを正例、意味が正反対なサンプル(contrastive examples)を負例として contrastive learning。

sentiment analysis、reading comprehension、NLIなどいくつかのデータセットで性能向上かつよりロバストに また、contrastive examplesにもロバストなモデルを実現

Screen Shot 2021-10-05 at 16 05 25