[Feature][config] inference config parser 기능 추가 - Githubissues

boostcampaitech5 / level2_klue-nlp-04

level2_klue-nlp-04 created by GitHub Classroom

1 stars 0 forks source link

[Feature][config] inference config parser 기능 추가 #36

Closed kms7530 closed 1 year ago

kms7530 commented 1 year ago

현재 상황과 문제점

현재 Train 부분에는 config parser에 추가되어있으나, inference는 추가되어있지 않음.
- 둘간에 통일성이 없음.
inference에서 tokenizer와 model 생성 시 각기 다른 변수를 이용하여 부르기 때문에 추론 시 혼동 발생.
- BERT 기본과 RoBERT는 심지어 각각 엇갈린 tokenizer와 model을 사용해도 오류 혹은 경고가 없음.

개선 제안 사항

Train에 적용된 config parser를 inference 부분에도 추가.
- 기존에 "config.conf" 파일을 이용하여 한곳에서 두 기능 모두를 관리하기 위함.

기대점

"config.conf"에서 train과 inference를 모두 통합하여 관리 가능해짐.

Tasks

[x] train에 fp16, gradient_checkpointing 옵션 추가.
[x] train에서 config 미지정 시 python 코드 내의 설정값으로 작동하지 않는 버그 해결.
[x] train에서 scheduler에 대한 config 생성.
[x] config.conf 설정값 정리.
[x] Dataset 생성시 사용되는 tokenized_dataset 옵션 추가.