关于单机多gpu的应用

wolverinn / stable-diffusion-multi-user

stable diffusion multi-user django server code with multi-GPU load balancing

https://image.stable-ai.tech/

GNU General Public License v3.0

304 stars 64 forks source link

Open slhtom opened 4 months ago

slhtom commented 4 months ago

您好,请问如果使用该框架在单机上调用多个gpu可以实现吗? ip_list = { "1.1.1.1": {}, "2.2.2.2": {}, } 这个设置调用的逻辑是?

wolverinn commented 4 months ago

这个只是负载均衡那一层的设置，你还需要部署GPU的服务，然后这里就设置GPU的服务的监听地址

slhtom commented 4 months ago

这个只是负载均衡那一层的设置，你还需要部署GPU的服务，然后这里就设置GPU的服务的监听地址

感觉您的解答,意思是如果暂时不需要使用云服务器进行负载均衡的话,lb_view可以不设置吗?

wolverinn commented 4 months ago

yes