search

ZhenZHAO / iMAS

[CVPR'23] Instance-specific and Model-adaptive Supervision for Semi-supervised Semantic Segmentation
https://arxiv.org/abs/2211.11335
36 stars 5 forks source link

关于dist.all_gather的疑问 #12

Closed Hugo-cell111 closed 11 months ago

Hugo-cell111 commented 1 year ago

您好！请问您在代码里用dist.all_gather这个函数的时候，会出现以下几个问题吗？（1）显存利用率卡在100%，训练进程卡住；（2）训练不稳定，中途可能会报nccl相关的bug. 谢谢！

ZhenZHAO commented 1 year ago

不好意思，我没碰到过~ 这是个挺常用的api吧