Closed ZiminPark closed 3 months ago
"내 회사 데이터"
라면 주제가 묶여있나? 주제가 묶여있지 않아도 되나?
Domain?
adapting LLMs to the specialized domains (e.g., recent news, enterprise private documents, or program resources constructed after the training cutoff)
Task Specific (요약, 의견서 작성) Knowledge
Domain Specific vs Task Specific.
은행용어 시설자금? 운전대? -> GPT3.5 handle, 은행 용어 따로 있음.
Domain adoptation의 경우 vocap 문제가 생길수 있어서 Token을 확장해야 할수도 있다.
한국어 확장 케이스 https://huggingface.co/yanolja/EEVE-Korean-Instruct-10.8B-v1.0
같은 주제의 묶음?
Finite한 문서?