kakao / khaiii

Kakao Hangul Analyzer III
Apache License 2.0
1.41k stars 284 forks source link

띄어쓰기 모델과 함께 Multi-task 학습 실험 #58

Closed krikit closed 5 years ago

krikit commented 5 years ago

음절 기반으로 convolution 부분을 공유하고 마지막 fully connected layer만 다르게 하여 띄어쓰기(공백)를 분류하는 모델과, 형태소 태그를 분류하는 모델을 multi-task learning을 적용하여 한꺼번에 학습할 수 있지 않을까 생각합니다.

krikit commented 5 years ago
mtl

역시 분석 내용은 이곳

krikit commented 5 years ago
mtl_base

MTL base model

krikit commented 5 years ago

mtl_compare

v0.3 vs MTL