请问有用多节点DCU跑DeepSpeed的示例吗？

yuguo-Jack / ChatGLM-6B-in-DeepSpeed-Chat

ChatGLM-6B in DeepSpeed-Chat for DCU

Apache License 2.0

8 stars 0 forks source link

Closed mhy9989 closed 12 months ago

mhy9989 commented 12 months ago

我通过提交sbatch文件进行计算。单节点已经没问题了，单多节点DCU跑DeepSpeed仍然有问题，不太确定sbatch的正确格式。来问一下是否有相关示例。十分感谢