Open zshuo7615 opened 4 months ago
采用的内存50GB的3090进行单gpu训练,批次设置为1但是依旧出现显存不足的情况,有解决方案吗
可以减少Transformer参数的可训练部分。
The trainable parameters of Transformer Blocks in ImageReward can be reduced.
采用的内存50GB的3090进行单gpu训练,批次设置为1但是依旧出现显存不足的情况,有解决方案吗