[실험] Optimizer 실험

[dudskrla]

목적

Optimizer 간 성능 비교 실험

실험 내용

고정된 내용

• batch size : 12
• max epoch : 200
• num worker : 4
• scheduler : MultiStepLR
• Cross validation : cv_1.json

Optimizer

• [x] SGD (lr = 1e-3)
• [x] Adam (lr = 1e-3)
• [x] AdamW (lr = 1e-3)
• [x] SGD (lr = 1e-2)

실험 결과

  | f1 | recall | precision | -- | -- | -- | -- | SGD (lr = 1e-3) | 0.1838 | 0.1605 | 0.2150 | Adam | 0.4659 | 0.3777 | 0.6078 | AdamW | 0.3423 | 0.2655 | 0.4814 | SGD (lr = 1e-2) | 0.2335 | 0.1568 | 0.4571 |

[dudskrla]

• Optimizer를 Adam으로 적용하는 것이 성능 향상에 도움이 되었다.