search

sophgo / sophon-stream

Other
68 stars 10 forks source link

SC5+多卡多芯片如何调度，比如我有100路视频，3张卡9个芯片如何调度 #13

Open fygroup opened 6 months ago

fygroup commented 6 months ago

如题

yizhou-xu commented 6 months ago

九个芯片对应0-8的device_id，可以在engine_group.json文件里指定整个graph的device_id。 我在多芯卡上部署时，一般会采用多进程的方式。即：n个xxx_demo.json，n个engine_group.json，分别对应n个chip。每个chip开启一个进程来运行。

fygroup commented 6 months ago

收到，谢谢