luhua-rain / MRC_Competition_Dureader

机器阅读理解 冠军/亚军代码及中文预训练MRC模型
732 stars 150 forks source link

CUDA : out of memory #31

Closed ADaBenxiong closed 3 years ago

ADaBenxiong commented 3 years ago

使用roberate_wwm_large_ext会报错CUDA:out of memory, 是因为模型的参数太大导致显存放不下是嘛,用的是10G的显存,请问题主训练使用的显存大小为多大啊

luhua-rain commented 3 years ago

10G的话batchsize=2行了