你好，我的开发环境有2张卡，推理时想使用2张卡进行并行推理。请问推理时，可以指定用哪张卡吗 - Githubissues

li-plus / chatglm.cpp

C++ implementation of ChatGLM-6B & ChatGLM2-6B & ChatGLM3 & GLM4(V)

MIT License

2.92k stars 333 forks source link

你好，我的开发环境有2张卡，推理时想使用2张卡进行并行推理。请问推理时，可以指定用哪张卡吗 #346

Open XiaoYangWu opened 3 weeks ago