search

YoojLee / paper_review

paper review archive
6 stars 2 forks source link

EVA-CLIP: Improved Training Techniques for CLIP at Scale (2023) #74

Open YoojLee opened 8 months ago

YoojLee commented 8 months ago

image

Summary

CLIP training의 efficiency와 effectiveness를 제고한 EVA-CLIP을 제안함. EVA-CLIP은 동일한 파라미터 수와 훨씬 더 적은 training cost로 superior performance를 보여줌.

clip은 여러모로 유용하지만, training cost & instability 이슈가 문제가 된다.