search

THUDM / ChatGLM2-6B

ChatGLM2-6B: An Open Bilingual Chat LLM | 开源双语对话语言模型
Other
15.73k stars 1.85k forks source link

[友情链接] <Colossal-AI加速ChatGLM2> #663

Open Yanjia0 opened 9 months ago

Yanjia0 commented 9 months ago

Is your feature request related to a problem? Please describe.

No response

Solutions

Colossal-AI的shardformer模型可以自动切分ChatGLM2，并使用后续一系列并行与内存异构方法对其进行训练加速。非常感谢您能在友情链接中加入我们的开源仓库https://github.com/hpcaitech/ColossalAI,并在requirements.txt对colossalai进行声明。 谢谢！

Additional context

No response