jasonvanf / llama-trl

LLaMA-TRL: Fine-tuning LLaMA with PPO and LoRA
Apache License 2.0
185 stars 23 forks source link

多卡内存分配不均导致0号GPU内存溢出 #6

Open czx-li opened 4 months ago

czx-li commented 4 months ago

如题,请问作者考虑写一版多卡的代码吗?