[6] A Closer Look at Prototype Classifier for Few-Shot Image Classification

[letme-hj]

NeurIPS 2022 paper : https://openreview.net/pdf?id=U_hOegGGglw

[letme-hj]

Introduction

Preliminary

• ProtoNet (Prototypical Network)

  • meta-learning based approach
  • Advantages
  • NN applied -> no hyperparameters required.
  • Quickly adapt to new classes since no re-training is needed.

• Linear-evaluation-based approach

  • meta-learning based 아닌데 그에 준하는 성능을 냄.
  • meta-learning 대비 장점
  • meta-learning 보다 빠른 수렴
  • 구현의 단순함
  • meta-learning 기반은 meta-training 때와 meta-testing 때 shot의 개수가 다르면 성능이 저하되지만, 얘는 상관 없음. 하지만 그만큼, linear classifier를 새로운 클래스가 등장할 때마다 학습해줘야 함.

• 둘의 장점만 활용하기 위해, training phase에는 Meta learning을 피하고 (빠른 수렴을 위해) test phase에는 linear evaluation을 피하고 싶음. -> testing phase에는 prototype classifier를 쓰는 데에 집중, training은 standard classification manner로 하는 방식 채택.

• 즉, 학습된 feature extractor에다가 prototype classifier 적용하는 것. 어떤 feature extractor에든 적용 가능. linear-evaluation methods(logistic regression/SVM)보다 간단함.

  • test phase에 training이 필요 없음.
  • query data와 class prototype 사이에 NN이 적용되므로 test phase의 클래스의 개수가 test phase의 computation에 영향을 주지 않는다. (linear-evaluation methods는 ㅇㅇ)
  • linear-evaluation methods보다 적은 수의 hyperparameter를 요구함.

이들은 목표가, linear-evaluation methods를 prototype classifier로 대체할 것이다! 이게 아니라, prototype classifier가 linear-evaluation의 짝꿍(?)으로 사용될 수 있고, few-shot learning 문제를 다루는 실용적인 첫번째 step이 될 수 있다는 걸 보이는 것이라고 함.