search

AkihikoWatanabe / paper_notes

たまに追加される論文メモ
https://AkihikoWatanabe.github.io/paper_notes
21 stars 0 forks source link

LLaMA2を3行で訓練 #886

Open AkihikoWatanabe opened 1 year ago

AkihikoWatanabe commented 1 year ago

https://huggingface.co/docs/trl/main/en/lora_tuning_peft#finetuning-llama2-model

AkihikoWatanabe commented 1 year ago

LLaMA2を3行で、1つのA100GPU、QLoRAで、自前のデータセットで訓練する方法