shibing624 / textgen

TextGen: Implementation of Text Generation models, include LLaMA, BLOOM, GPT2, BART, T5, SongNet and so on. 文本生成模型,实现了包括LLaMA,ChatGLM,BLOOM,GPT2,Seq2Seq,BART,T5,UDA等模型的训练和预测,开箱即用。
Apache License 2.0
937 stars 109 forks source link

作者大哥,请问可以让chatglm系列支持单机多卡吗,改了一下午,改崩溃了,终于可以训练了,但是保存不了··· 你来吧 #24

Closed hangzeli08 closed 1 year ago

shibing624 commented 1 year ago

我得先搞个有多gpu卡的机器。。。

shibing624 commented 1 year ago

done