Closed hanzifan closed 1 year ago
问题如题目
从log上看,在ddp初始化阶段就出错了,可能不是显存不够的问题? 这组卡其他ddp代码是可以跑的吗?
其他的ddp可以跑,可能是显存不够。我在v100上使用checkpoint运行,显存占用达到了16g。但我这个2080ti卡只有12g显存。
问题如题目