[FEAT] 다양한 efficientNet backbone 실험

[woohee-yang]

Background

• time 라이브러리 내의 추가적인 pre-trained model들 중 efficientNet 관련 모델들을 추가적으로 실험해봅니다.

Model List

• efficientnet_el
• efficientnet_el_pruned
• efficientnet_em
• efficientnet_es
• efficientnet_es_pruned
• efficientnet_lite0
• efficientnetv2_rw_m
• efficientnetv2_rw_s
• efficientnetv2_rw_t

Expectation

• 남는 시간에 성능이 좋은 다른 backbone을 찾을 수 있을 것 같습니다.

[woohee-yang]

실험 완료 항목

• efficientnetv2_rw_m
• efficientnetv2_rw_s
• efficientnet_el
• efficientnet_es

---

결과

• v2_rw_m 모델이 실험상 validation f1 score가 기존 베이스인 b4에 비해 best score가 0.03 높아진 것을 확인했습니다.
• 또한, epoch별 전체적인 validation score가 높게 유지됩니다.
• 그러나, validation loss가 아직 타 모델들에 비해 높게 유지되는 것으로 보아 epoch을 늘릴 필요성이 있어 보입니다.
• v2_rw_s 모델은 유의미한 변화가 있지 않았습니다.
• 4가지 모델간의 유의미한 변화는 없지만, b4 모델에 비해 실험결과로는 성능이 높았습니다.
• 하지만, 리더보드에 제출하면 오히려 성능이 떨어지는 모습을 보이고 있습니다.
• 그 중에선 v2_rw_m 모델이 유일하게 b4에 비해 리더보드 제출 결과 acurray가 좋아졌고, 실험 결과에선 모든 지표가 좋았습니다.
  • 제출 성능 (f1-score | accuracy)
    • b4 : 0.7035 | 75.1429
    • v2_rw_m : 0.6989 | 75.9524