yuanzhoulvpi2017 / zero_nlp

中文nlp解决方案(大模型、数据、模型、训练、推理)
MIT License
2.85k stars 355 forks source link

请问4.1版Chatglm6b_ModelParallel训练loss下降学不到东西bug修复了嘛 #90

Open guoswang opened 1 year ago

yuanzhoulvpi2017 commented 1 year ago

没有修复~实际上现在多卡lora已经做完了。但是代码现在懒得发布了。

juemifuji commented 1 year ago

没有修复~实际上现在多卡lora已经做完了。但是代码现在懒得发布了。 别啊,大佬。还等着你的最新代码