Closed ppx0001 closed 1 month ago
现在只能使用GPU0进行推理,还有多个空闲GPU
多卡、流式输出在现行的算法框架下都是比较难改造的点。。。要实现这类工程改造需要从源头对算法框架进行重构,难度比较大,也很难保证是否能实现
现在只能使用GPU0进行推理,还有多个空闲GPU