Self-supervised Pretraining of Visual Features in the Wild

[icoxfog417]

一言でいうと

自己教師学習を大規模かつインターネット上から収集した無選別のデータセットで行った研究。データにスケールするアーキテクチャとしてRegNetY(パラメーター空間探索で発見した構造)、自己教師学習としてSwAV(画像クラスター間の変換を対照学習する手法)を採用。ImageNetで転移後の性能でSOTA達成。

論文リンク

https://arxiv.org/abs/2103.01988

著者/所属機関

Priya Goyal, Mathilde Caron, Benjamin Lefaudeux, Min Xu, Pengchao Wang, Vivek Pai, Mannat Singh, Vitaliy Liptchinsky, Ishan Misra, Armand Joulin, Piotr Bojanowski

• Facebook AI Research

投稿日付(yyyy/MM/dd)

2021/3/2

概要

新規性・差分

手法

結果

コメント

[icoxfog417]

実装 https://github.com/facebookresearch/vissl