search

ShannonAI / service-streamer

Boosting your Web Services of Deep Learning Applications.
Apache License 2.0
1.22k stars 187 forks source link

分布式问题 #99

Open ZTurboX opened 1 year ago

ZTurboX commented 1 year ago

此框架是对batch的分布式推理加速吗？如果有多个用户请求，是调用不同的gpu吗？另外支持多机多卡的分布式吗