Mr-Jack-Tung / PhoGPT-7.5B-Fine-tuning-QLoRA

Fine-tuning PhoGPT-7.5B model with only one poem (^.^)
10 stars 4 forks source link

PhoGPT-7.5B-Fine-tuning-QLoRA

Fundamental:

Sự kiện:

Lý do:

Fine-tuning model PhoGPT-7.5B

alt text

alt text

Update 05/02/2024 - 01PM:

bnb_config = BitsAndBytesConfig(

model = AutoModelForCausalLM.from_pretrained(

alt text

peft_config = LoraConfig(

training_arguments = TrainingArguments(

trainer = SFTTrainer(

Sử dụng model mặc định, chưa qua fine-tuning:

alt text

alt text

alt textalt text

Update 23Feb2024 - 08PM

Test thử em vinai/PhoGPT-4B-Chat-v0.1 thấy cũng hay phết ^.^ Cấu hình chạy cũng nhẹ nhàng, chỉ cần dùng Colab-T5 là dùng được, mà chỉ cần chạy có 50% là khoảng 7GB GPU thôi nhé.

alt text