search

liangwq / Chatglm_lora_multi-gpu

chatglm多gpu用deepspeed和
404 stars 61 forks source link

Deepspeed并未生效 #45

Closed Mrjude closed 11 months ago

Mrjude commented 1 year ago

有测试过加了deepspeed和未加deepspeed的效率吗？没有变化，而且看DeepTransformerInference并未生效

liangwq commented 11 months ago

有测试过加了deepspeed和未加deepspeed的效率吗？没有变化，而且看DeepTransformerInference并未生效

可以测试下最新代码，有做过测试加deepspeed是有提效的