idekazuki / -Paper-summary

論文をまとめていきたい
0 stars 0 forks source link

Momentum Contrast for Unsupervised Visual Representation Learning #57

Open idekazuki opened 4 years ago

idekazuki commented 4 years ago

2019 Consistency learningのためにQueによるDictionaryを使ったMocoという手法を提案。 Unsupervised visual representation learningの手法で最高精度を達成

ImageNetより良くなった Dictonaryのサイズを大きくしたいのでキューで実装した。 キューを大きくすると特徴量の更新が大変なので指数平均を取る

qで学習した値を使ってkはそれを元に加算する。 image

idekazuki commented 4 years ago

教師なしのほうが精度が上がるのは意味わからん