nlpai-lab / KULLM

☁️ 구름(KULLM): 고려대학교에서 개발한, 한국어에 특화된 LLM
http://nlp.korea.ac.kr/
Apache License 2.0
569 stars 71 forks source link

[질문] finetuning training 결과 사용법에 관한 질문 드립니다. #14

Open memeoo opened 1 year ago

memeoo commented 1 year ago

이슈는 아니고, 질문을 드릴데가 이곳 밖에 없어서 올립니다. 데이터 셋을 만들어서, 알려주신 방법으로 kullm으로 finetuning 을 마쳤더니, ckpt라는 폴더에, adapter_config.json, adapter_model.bin 이라는 파일과 checkpoint-200, checkpoint-400 이라는 폴더가 생성되었습니다. checkpoint-200, 400 폴더에도 마찬가지로, adapter_config.json, adapter_model.bin 파일이 생성되었고, trainer_state.json, training_args.bin 과 같은 파일들도 생성되어있습니다. 위의 생성된 파일과 폴더들을 어떻게 사용해야, 구름을 파인튜닝한 결과를 적용(챗봇에 이용)할 수 있는지요? 딥러닝 초보여서, 트레이닝을 마치고 나서 정작 결과물을 활용을 못하겠네요. ㅠ 도와주세요. 감사드립니다. ㅠㅠ

다음은 생성된 ckpt 파일 내용입니다.

image
bekhzod-olimov commented 1 year ago

안녕하세요, @memeoo! 이 링크를 사용하여 polyglot 학습된 모델로 추론 코드를 참고하시면 될 것 같습니다. https://github.com/nlpai-lab/KULLM/issues/24