如何使用多GPU推理

BadToBest / EchoMimic

Lifelike Audio-Driven Portrait Animations through Editable Landmark Conditioning

https://badtobest.github.io/echomimic.html

Apache License 2.0

2.26k stars 263 forks source link

Closed ppx0001 closed 1 month ago

ppx0001 commented 1 month ago

现在只能使用GPU0进行推理，还有多个空闲GPU

yuange250 commented 1 month ago

多卡、流式输出在现行的算法框架下都是比较难改造的点。。。要实现这类工程改造需要从源头对算法框架进行重构，难度比较大，也很难保证是否能实现