search

YuanEZhou / show-attend-and-tell

This is a modification version of yunjey's code(TensorFlow Implementation of "Show, Attend and Tell" ).
4 stars 2 forks source link

显存不够 #1

Open liiiiiiiiil opened 7 years ago

liiiiiiiiil commented 7 years ago

载入一个[128,64,224,224]的tensor的时候显存不够了，我的显卡可用显存11g左右，请问这个tensor是vgg里面的tensor吗，需要怎么调整

YuanEZhou commented 7 years ago

可以截个图看一下吗

liiiiiiiiil commented 7 years ago

我猜想是vgg的里面的问题，因为vgg第一层就为[batch_size,64,224,224],所以我把原来的128的batch_size改成了32，这个tensor就从[128,64,224,224]变成了[32,64,224,224]，所需显存就从25g左右变成8g左右，应该够用了，但是不知道效果如何，现在正在实验。