Open kimziont opened 2 years ago
KLUE dataset의 query에 가장 근사한 오답 passage를 wiki dataset에서 가져오기 위해 wiki dataset을 토크나이징 합니다 .
토크나이징된 query와 가장 유사하지만 정답을 포함하지 않는 passage를 구합니다.
gold passage와 bm25 passage를 concatenate하여 passage_encoder 모델에 넣고, query는 query_encoder에 넣어서 두 BERT 계열의 모델을 학습시킵니다.
BM25로 passage 가져온 결과
Batch size별 정답/오답 개수
model: klue/roberta-small, __batch_size: [4. 8], epoch__: [2, 5]
악 졌다
진행 순서
실험 상세 내용
KLUE dataset의 query에 가장 근사한 오답 passage를 wiki dataset에서 가져오기 위해 wiki dataset을 토크나이징 합니다
.
토크나이징된 query와 가장 유사하지만 정답을 포함하지 않는 passage를 구합니다.
gold passage와 bm25 passage를 concatenate하여 passage_encoder 모델에 넣고, query는 query_encoder에 넣어서 두 BERT 계열의 모델을 학습시킵니다.
실험 결과
BM25로 passage 가져온 결과![bm25_result](https://user-images.githubusercontent.com/46557183/138357858-a4b4575f-3198-47a5-ac9e-76ef767806e1.png)
Batch size별 정답/오답 개수
model: klue/roberta-small, __batch_size: [4. 8], epoch__: [2, 5]![result_1](https://user-images.githubusercontent.com/46557183/138358342-d53c78b5-6750-428f-a2ba-ed0582844949.png)
이슈
추가로 진행 예정인 것