GPT 파인튜닝

[Daeye0l]

진행 과정

• [x] OpenAI 가입
• [x] Gpt API키 발급
• [x] 데이터 생성
• [x] train, validation 데이터를 사용해서 파인튜닝
• [ ] train, validation loss가 충분히 줄도록 개선

[Daeye0l]

1차 튜닝

• 이름, 교무처 전화번호, 4,5,6 학사일정으로 구성된 90개 데이터로 진행
• 검증 데이터 없이 훈련 데이터로만 진행

개선할점

• 손실값이 오르락 내리락 하지 않고 수렴하도록 하기
• 더 많은 데이터를 계속 추가하기
• API에서 제공하는 에포크, 학습률 손대보기

[Daeye0l]

2차 튜닝

• 이름, 교무처 전화번호, 4,5,6 학사일정으로 구성된 90개 데이터로 진행
• 검증 데이터 없이 훈련 데이터로만 진행
• 질문 형식과 답변 형식의 패턴을 규칙적으로 조정
• 전보다는 손실값이 잘 수렴하는 것을 확인

개선할점

• 더 많은 데이터 추가하기
• 간혹 거짓말을 하는 현상 해결하기
  • 모델의 정체성을 정하는 system content 적절하게 설정하기
• API에서 제공하는 에포크, 학습률 손대보기