-
I would like to ask whether it is possible to train the model transferred from self-supervision through mmdet. Is the naming of the backbone consistent with most self-supervised models?
-
https://arxiv.org/abs/2006.09882
-
## Problem statement
1. Unlabeled data를 간접적으로 활용하는 방법 외에 NLP에서 활용하는 것과 같이 더 직접적으로 활용하는 task-agnostic한 방법을 찾는다.
- NLP에서의 활용: unsupervised pretrain -> supervised fine-tune
2. unlabeled data를 활용해…
-
- SURE assumes Gaussian noise, but FDK is not. SURE formula for noise in the exponential family?
- SURE in its basic form needs an identity linear model. Generalized SURE is the one for other models…
-
**Edit** I found a closed issue https://github.com/facebookresearch/vissl/issues/452 regarding similar problems, the clusterfit run error did not occur again. However, I still have some doubts about t…
-
### 論文へのリンク
[[arXiv:1811.11212] Self-Supervised GANs via Auxiliary Rotation Loss](https://arxiv.org/abs/1811.11212)
### 著者・所属機関
Ting Chen, Xiaohua Zhai, Marvin Ritter, Mario Lucic, Neil Houls…
-
## 🚀 Feature
Add support for self supervised learning, especially for multimodal input and improve the current vissl backed features.
### Motivation
I have been working on multimodal self super…
-
- https://arxiv.org/abs/2105.12787
- 2021
近年、機械学習を用いたプログラム解析は、形式的な推論と確率的な推論を統合してソフトウェア開発を支援するものとして期待されています。
しかし、大規模なアノテーションされたコーパスがない場合、これらの分析をトレーニングすることは困難です。
この問題を解決するために、我々はBugLabを発表する。
BugL…
e4exp updated
3 years ago
-
- https://arxiv.org/abs/2105.04553
- 2021
コンピュータビジョンの分野では、CNNからTransformerへとモデルチェンジが進んでいます。
本研究では、Vision Transformersをバックボーン・アーキテクチャとする、MoBYと呼ばれる自己教師付き学習アプローチを発表する。
このアプローチには基本的に新しい発明はなく、MoCo v2…
e4exp updated
3 years ago
-
Hi,
May I know if espnet supports self-supervised loss with conformer training for unsupervised ASR, such as contrastive loss?
Look forward to your reply!