boostcampaitech2 / mrc-level2-nlp-04

mrc-level2-nlp-04 created by GitHub Classroom
4 stars 5 forks source link

Model valid score 비교 (klue/roberta-small, klue/roberta-base, klue-roberta/large, klue/bert-base, monologg/koelectra-base) #3

Open raki-1203 opened 2 years ago

raki-1203 commented 2 years ago

Model valid score 비교 (klue/roberta-small, klue/roberta-base, klue-roberta/large, klue/bert-base, monologg/koelectra-base-v3-discriminator)

아마 여기 들어가시면 좀 더 자세히 볼 수 있을거라고 생각됩니다.

10 epoch 기준으로 exact_match score 순위입니다.

  1. klue/roberta-large
  2. klue/roberta-base
  3. klue/bert-base
  4. monologg/koelectra-base-v3-discriminator
  5. klue/roberta-small

image

10 epoch 기준으로 runtime 시간입니다.

image

mrc eval/exact_score 는 높지만 LB 상에서는 점수가 낮은 걸 생각해보면 역시 retrieval 이 중요한 것 같아요!