search

shenuiuin / LXD_GPU_SERVER

实验室GPU服务器的LXD虚拟化
401 stars 65 forks source link

博主,您好?请问,多张GPU卡虚拟化后,部署推理深度学习模型还是和普通的调用方式一样吗? #25

Open zhd5120153951 opened 8 months ago

zhd5120153951 commented 8 months ago

比如我有8张卡,通过显卡虚拟化后8张卡可看作一张,然后部署推理深度学习模型,这个调度问题是由自己写的代码决定嘛?还是说有其他方式?