[Dev] Solution/Models 생성

[Amber-Chaeeunk]

Reader Models Baseline

Extractive Models

• __ init __.py
• modeling_bart.py
• modeling_bert.py

※ Base : AutoModelForQuestionAnswering

Generative Models

• __ init __.py
• modeling_bart.py
• modeling_mt5.py

※ Base : AutoModelForSeq2SeqLM

전달사항

• 현재 Bart, Bert, MT5 모델을 기본으로 포함해두었습니다. 이 외에 사용하고자 하는 모델이 있다면, 파일명 형식에 맞추어 새로운 파일을 생성해주세요.

• 새로운 모델을 위한 파일을 추가했다면, __ init __.py 에 추가한 파일을 import 해주세요.

• configs/baseline.yaml 파일 내의 ModelingaArgument architectures에 사용하고자 하는 모델 architecture를 설정해주세요. (예시)

• HuggingFace Architecture에서 크게 벗어나는 모델은 __ init __.py 에 위치한 ext_model_ini 함수 아래에 새로운 모델 초기화 함수를 정의하시고, 하단 MODEL_INIT_FUNC 에 key, value를 새롭게 추가해주세요. 그 후, 'basic'이 아닌 새롭게 설정한 key값을 configs/baseline.yaml 파일 내의 ModelingaArgument model_init 에 설정해주세요. (예시)

변경 사항

• ReaderModelBase 상속 구조 삭제

• 사용하고자 하는 model architecture별 파일 생성

[jinmang2]

Extractive/Generative 통합 모델 개발 실시. reader_type으로 검사