GPU显存问题

[anonymouslycn]

你好！我也是从 bilibili过来的(为什么要说‘也’？( •̀ ω •́ )y)！灰常感谢你的视频讲解！ 现在有个问题是，我也是在用笔记本电脑学习tensorflow，2G显存，so。。。也是经常遇到显存不够的问题，有什么类似swap一样的东西可以增加显存的吗？

[CreatCodeBuild]

我目前用的 GTX960M，只有2G。显存不够只有将网络的体量变小或者将Batch变小。显卡是没有类似CPU内存的Swap空间的。这其实也不太符合显卡内存的初衷吧。Swap用的是硬盘，速度比内存慢了很多倍。 实在不行只有升级显卡。 或者你使用其他框架。TF目前很吃内存

[Vast-Stars]

我想知道是不是一直训练下去，显存最终会全部消耗？ 为什么呢？不是很能理解这个机制，我所有数据的大小都预先分配好了的

[CreatCodeBuild]

@Vast-Stars 这个我没有研究过。猜测是内存释放不及时造成的。我遇到过类似的问题。有一点要知道，数据是从CPU内存通过总线到达GPU内存的。所以，GPU内存的释放与总线新数据的到达的速度不一定一样。像生产者消费者问题。当然，这一切都是我的猜测。