[arXiv2019] Diverse mini-batch Active Learning

[liv0vil]

• arXiv 링크: Click
• 요약: batch 단위로 어노테이터에게 쿼리를 보내는 미니 배치 기반으로 Diversity와 Informativeness를 결합한 AL 방법론이다. K-means를 사용하여 iteration 별 k개의 센터와 가장 가까운 인스턴스들을 쿼리하여 Diversity를 기반으로 데이터를 쿼리하는데, 이 때 K-means의 목적함수에 Informativeness score(Marginal Sampling 방식으로 Uncertainty를 측정한 스코어)를 추가하여 Informativeness 까지 고려하였다.
• x-review 정리 go to the x-review

[liv0vil]

• 2021에 게재된 서베이에 의하면 다양성과 정보량 모두를 고려하는 것을 hybrid query strategy 이라고 한다.
• 해당 논문의 등장으로 하이브리드 쿼리 방식이 꽤나 인기를 끌었는데 특히 아래 그림을 통해 그 차이를 확인할 수 있다.
  (좌) 정보량만 고려한 배치 쿼리 방식 (우) 하이브리드 배치 쿼리 방식
• 해당 방법과 비슷하게 두 개의 정보를 모두 활용하는 Weighted Incremental Dictionary Learning(WI-DL) 논문도 존재한다.