KeyBERT

[RanruKim]

• [ ] KeyBERT

[mmhjp]

내부회의 데이터셋.txt

자체제작 데이터셋 153개

2022/07/22

[mmhjp]

• 딥러닝 적용모델 : KoBERT + NER을 이용한 개체명 인식기

• https://koreascience.kr/article/CFKO201924664108265.pdf (BERT를 활용한 개체명 인식기)

• BERT : BERT는 언어 표현을 사전 학습시키는 방법입니다. 사전 학습은 BERT가 Wikipedia와 같은 대량의 텍스트 소스로 처음 학습되는 방법을 나타냅니다. 이후 학습 결과를 질문 답변 및 감정 분석과 같은 다른 자연어 처리(NLP) 태스크에 적용할 수 있습니다.

-KoBERT : https://github.com/SKTBrain/KoBERT

• SKTBrain에서 만든 한국어에 집중한 공개번역 모델입니다.

-NER( Named Entity Recognition) : 개체명인식

• 이를 이용한 방법으로 문제를 입력시 명사로 토큰화 시켜 각 명사들이 해당하는 뜻을 인물, 장소, 시간등으로 구분시켜 이들을 DB에 저장시킨뒤 자동으로 해당 날짜에 스케쥴러로 등록시키는 방법으로 사용하고자합니다.
• 활용방안 : 음성인식, 챗봇기능을 활용하여 인공지능어시스턴트로 더욱 활용할 수 있는 방법들을 고안해볼 수 있습니다.

활용 중인 DataSet : Aihub 대화셋 +자체 제작 데이터셋 네이버 챌린지 데이터셋 해양대학교 자연어처리 데이터셋

트러블슈팅

1. 딥러닝 모델을 활용하고자 파이썬 라이브러리 버전을 맞추는 작업에서 각 라이브러리들 간의 충돌현상

• 모델을 활용하고자 Requirement에 나와있는 버전대로 임포트를 진행하였으나 버전이 맞지않아 충돌이 나는 문구를 자주 볼 수있었습니다.

2. 경로지정을 하였음에도 불구하고 학습되지 않는 현상

• 이부분은 현재 해결중이라서 나중에 해결되면 정리하겠습니다.

• 현재 두개의 현상이 개선되지 않아서 위의 딥러닝모델 개발을 중단하고 다른 방법을 이용하여 아래와 같은 결과를 얻어냈습니다.

-테스트로 진행하여서 진행 코드 예제 그대로 진행하여 동작여부만을 확인하였습니다.

네이버 챌린지 데이터셋을 활용하여 만든 딥러닝 모델의 결과

우리 조에서 의도한 개체명 분류와 잘맞는 느낌이 아니기 때문에 다른 데이터셋을 학습시켜 다른 모델을 적용시켜 전처리 와 학습의 세팅값을 변경 시켜볼 예정입니다.

[mmhjp]

https://ratsgo.github.io/nlpbook/docs/ner/train/

[mmhjp]

그래서 대안으로 만들어진 모델 https://ratsgo.github.io/nlpbook/docs/ner/train/ 예시를 이용하여 개체명 분석모델을 만들어보았다.

KcBERT를 활용한 개체명 분석 모델을 만드는 예제를 참고하여, 기존의 KcBERT에 말뭉치 데이터셋을 전이학습시켜 개체명분석을 하는 딥러닝모델을 구현하였다.

전이학습 데이터셋 https://github.com/kmounlp/NER 한국해양대학교 자연어처리 데이터셋