Open yusukekyokawa opened 2 years ago
https://arxiv.org/pdf/2106.03746.pdf
2021
本論文では、様々なVTを経験的に分析し、少量のトレーニングセットでのロバスト性を比較した。その結果、ImageNetでトレーニングした場合は同等の精度であるにもかかわらず、少量のデータセットでは性能が大きく異なることを示した。さらに、我々は、ごくわずかな計算オーバーヘッドで画像から追加情報を抽出することができる補助的な自己教師付きタスクを提案する。このタスクは、VTが画像内の空間的な関係を学習することを促し、学習データが不足している場合にVTの学習をより強固なものにする。我々のタスクは、標準的な（教師付き）トレーニングと一緒に使用され、特定のアーキテクチャの選択に依存しないため、既存のVTに簡単に組み込むことができます。様々なVTとデータセットを用いた広範な評価により、我々の手法がVTの最終的な精度を（時には劇的に）向上させることができることを示した
書誌情報
論文リンク
https://arxiv.org/pdf/2106.03746.pdf
著者/所属機関
conf/journal
year
2021
どんな論文か？
本論文では、様々なVTを経験的に分析し、少量のトレーニングセットでのロバスト性を比較した。その結果、ImageNetでトレーニングした場合は同等の精度であるにもかかわらず、少量のデータセットでは性能が大きく異なることを示した。さらに、我々は、ごくわずかな計算オーバーヘッドで画像から追加情報を抽出することができる補助的な自己教師付きタスクを提案する。このタスクは、VTが画像内の空間的な関係を学習することを促し、学習データが不足している場合にVTの学習をより強固なものにする。我々のタスクは、標準的な（教師付き）トレーニングと一緒に使用され、特定のアーキテクチャの選択に依存しないため、既存のVTに簡単に組み込むことができます。様々なVTとデータセットを用いた広範な評価により、我々の手法がVTの最終的な精度を（時には劇的に）向上させることができることを示した
新規性
手法
結果
コメント