boostcamp-5th-NLP05 / level1_semantictextsimilarity-nlp-05

0 stars 0 forks source link

batch size에 따른 학습률 변화 (2023/04/18) #12

Open yunjinchoidev opened 1 year ago

yunjinchoidev commented 1 year ago

[JLake310] 지금까지 테스트 결과가 가장 좋았던 실험의 경우 batch size를 8 또는 16으로 진행했었습니다.

가장 최근에 진행한 테스트들의 경우 모두 32, 64 등 비교적 큰 batch를 사용하였는데, 점수가 생각보다 잘 안 나오는 것을 확인했습니다.

batch size는 8 또는 16으로 하는 것을 추천드립니다!