[26] CLIP: Learning Transferable Visual Models From Natural Language Supervision

[Dongwoo-Im]

Links

• Paper : https://arxiv.org/abs/2103.00020
• Github : https://github.com/openai/CLIP

한 줄 요약

• (image, text) pair에 대한 contrsative objective를 사용하여 pre-training을 시키면 zero-shot trasnfer (task-learning) 성능이 좋더라.
• 논문을 읽고 제목을 다시 보니, 저자들이 어필하고 싶은 내용이 잘 포함된 것 같다.
• 리뷰는 아마 작성하지 않을 것 같다. (이미 작성된 좋은 글도 많고, 논문 내용도 너무 많다..)

선택 이유

• 너무나 유명한 논문이라 읽어보지 않을 수 없었다.