[ML_modeling] 김동하

[DHki]

모델 설명

BERT 모델 위에, 간단한 classify 레이어를 쌓았습니다. BERT 모델은 SKT Brain 팀에서 발표한 kobert를 사용했습니다.

[ kaggle notebook 링크 ]

https://www.kaggle.com/code/donngha/hai-2023-summer-dongha

모델 구현을 하고 평가를 제출하면서, 로그를 남기는 것을 잊어버려 재현한 노트북입니다..!! 첫 모델 학습과 조금은 상이할 수 있습니다!

[ 모델 정확도 ]

모델을 15회 학습시켰습니다. valid 데이터에 대해서 약 87%의 정확도를 보여주었습니다. test 데이터에 대해 예측을 진행하고, 이를 제출했을 때에 90%의 정확도를 보여주었습니다.

[MyeongGuJo]

고생하셨습니다!! 다음엔 옵티마이저를 Adam으로 해보는걸로!!