-
## ๐ Bug
pip install git+https://git@github.com/SKTBrain/KoBERT.git@master๋ฅผ ํตํด ์ค์น์ ๋ค์๊ณผ ๊ฐ์ ์๋ฌ๊ฐ ๋ฉ๋๋ค
## To Reproduce
ERROR: Could not find a version that satisfies the requirement onnxruntimโฆ
-
์ด์ ์ด์์์๋ KoBERT ๋ชจ๋ธ์ด ์ข๋ค๊ณ ๋งํ์๋๋ฐ ๊ทธ๊ฒ๋ณด๋ค ์ข์ ๋ชจ๋ธ์ด ์๋ค.
์ด์ ์ด์์ 2๋ฒ์งธ ๋ชจ๋ธ์ธ 'Korean Contextualized Topic Models'์ ์ด์ฉํ๋ ๊ฒ์ด ์ข์๋ณด์
๋ค๋ง ์๊ฐ์ด ๋ง์ด ๊ฑธ๋ฆฐ๋ค๊ณ ํ๋๋ฐ ์ด๋ ์๊ฐํํ๋ pyLDAvis ๋๋ฌธ์ ์ค๋ ๊ฑธ๋ฆฌ๋ ๊ฒ์ด์ง ํ์ต์์ฒด๋ ๊ธ๋ฐฉ ๋๋๋ ๊ฒ์ ํ์ธํจ
๋ฐ๋ผ์ ์ด ๋ชจโฆ
-
```
model.load_state_dict(convert_keys)
File "/home/yyoo/crf/lib/python3.8/site-packages/torch/nn/modules/module.py", line 1671, in load_state_dict
raise RuntimeError('Error(s) in loadingโฆ
-
- ์ฃผ์ต์ธก ์ ๊ณต ๋ ํผ๋ฐ์ค :
https://github.com/MahmoudWahdan/dialog-nlu/issues
httpโฆ
-
## DEC์ ์๊ฐํ
https://codlingual.tistory.com/99
- ํด๋ฌ์คํฐ๋ง ๊ฒฐ๊ณผ
- ํ์ต๋ฅ + loss ๊ฒฐ๊ณผ๊ฐ
- result.csv ํ์ผ์ ์ ํ๋
## ์ฝ๋ ์ ๋ฆฌ
DEC ์ฝ๋์์ ๋ฐ๊ฟ ์ ์๋ ๋ณ์ ๊ฐ๋ค ์ ๋ฆฌํด๋ณด๊ธฐ
## kobert ๊ณต๋ถ
http://www.aitimes.kr/news/articleView.htโฆ
-
๊ตฌ๊ธ ๋๋ผ์ด๋ธ์ ์๋
```./experiments/base_model_with_crf/best-epoch-16-step-1500-acc-0.993.bin```
```./experiments/base_model_with_crf_val/best-epoch-12-step-1000-acc-0.960.bin```
ํ์ผ์ ๊ฐ์ง๊ณ model load ํ์ฌ ```โฆ
-
-
Thanks for great work!
My code based on https://github.com/UKPLab/sentence-transformers/blob/master/examples/training/nli/training_nli.py and https://github.com/UKPLab/sentence-transformers/blob/maโฆ
-
๋ชจ๋ธ์ด ๊ธ์ ๋ฌด๋ค!
๋ง์ผ์คํค 0.2.0
๋์ปค ๋ฐฐํฌ ์ค ์๋ฃ
๋ฐ์ดํฐ๋ ์ผ์ถ ๋ชจ์์ผ๋ ํตํฉํ๋ฉด ๋จ
**Today To do**
- [x] ํ์ธโฆ
-
- [ ] KeyBERT