[FEAT] LLM API 대신 fine-tuned model 직접 사용

[2018007956]

Background

• Google ML Bootcamp 2024 Gemma Sprint 참여
• 개발 지식에 더욱 fine tuning 시켜 신뢰도 및 정확도 향상

To do

• tech qa datasets 활용
  • https://www.kaggle.com/datasets/syedmharis/software-engineering-interview-questions-dataset
  • https://paperswithcode.com/dataset/techqa

[2018007956]

• unsloth 사용하여 학습 (메모리 절약)
• hugging face api 호출 (https://huggingface.co/docs/api-inference/parameters?code=js#id6)
  • { error: 'Model Chaea/Gemma-2-2b-it-preddit time out' } 출력

[2018007956]

• hugging face에 업로드한 파인튜닝된 모델 사용 안함
• 참고 : https://hi-cod.tistory.com/81