Closed weizhoujie closed 6 days ago
测试单个请求5s,20并发平均值100多s,机器资源也没多少占用 队列似乎也不应该变得这么慢
单个任务速度30it/s,两个任务15it/s,似乎刚好腰斩,显存上涨也不大,这是为何呢
并发无意义,瓶颈在gpu
测试单个请求5s,20并发平均值100多s,机器资源也没多少占用
队列似乎也不应该变得这么慢