search

yuanzhoulvpi2017 / zero_nlp

中文nlp解决方案(大模型、数据、模型、训练、推理)
MIT License
2.81k stars 351 forks source link

chatglm2-6b在8bit量化后使用get_peft_model会报错 #142

Open wxz2002 opened 1 year ago

wxz2002 commented 1 year ago

image

yuanzhoulvpi2017 commented 1 year ago

现在lora训练不支持chatglm自己提供的量化