search

shunk031 / paper-survey

📚 Survey of previous research and related works on machine learning (especially Deep Learning) in Japanese
https://shunk031.github.io/paper-survey/
151 stars 12 forks source link

Data Noising as Smoothing in Neural Network Language Models #140

Open shunk031 opened 6 years ago

shunk031 commented 6 years ago

https://arxiv.org/abs/1703.02573

shunk031 commented 6 years ago

学習用の文にノイズを加えてロバストにするやつはありますね：Data Noising as Smoothing in Neural Network Language Models, ICLR'17.

画像処理でデータの一部を欠損させる前処理が有効だってのは、cutoutとrandom erasingで示された感ありますね。自然言語でも穴あき文章読ませて英訳とかしたら精度上がったりしないのかな。

https://twitter.com/yu4u/status/914354091224166400