search

Mingrui-Li / Qwen-VL-Lora-Model

可以成功Lora微调的Qwen-VL模型
Other
12 stars 2 forks source link

v100显存不够问题 #1

Open jiinhui opened 6 months ago

jiinhui commented 6 months ago

finetuning lora 方式 在v100 单卡 跑显存不够啊。据说要 用 qlora 跑。不知道你是怎么优化的，能单卡跑lora。

Yan0613 commented 2 weeks ago

我A30用Qwen-VL-Chat-Int4可以跑，可以试试Qwen-VL-Chat-Int4模型