关于多GPU训练 - Githubissues

liangwq / Chatglm_lora_multi-gpu

chatglm多gpu用deepspeed和

404 stars 61 forks source link

Closed z1968357787 closed 11 months ago

z1968357787 commented 1 year ago

你好，我想请问一下，假如我有8张卡(0~7)，这个程序有没有办法能让我指定哪几张特定的卡运行（比如5~7）呢？

liangwq commented 1 year ago

你好，我想请问一下，假如我有8张卡(0~7)，这个程序有没有办法能让我指定哪几张特定的卡运行（比如5~7）呢？

可以的执行前指定，用export CUDA_VISIBLE_DEVICES=0,1