a question of cuda out of memory in test one video

ryanxingql / stdf-pytorch

Implementation of "Spatio-Temporal Deformable Convolution for Compressed Video Quality Enhancement" (AAAI'20).

Apache License 2.0

155 stars 20 forks source link

Closed LHL731 closed 2 years ago

LHL731 commented 2 years ago

您好，当我使用一个视频进行测试时，我用416240与832480的yuv序列进行测试的时候没有问题，但使用更高分辨率的yuv序列进行测试的时候就会爆显存，我有看到训练的时候会裁剪成128*128的，但是对一个视频进行测试的时候为了更好的显示增强结果就没有进行图片裁剪，想问问您是怎么解决这个问题的呢

ryanxingql commented 2 years ago

您好，目前框架确实存在这一问题，例如BasicVSR++也一样

我建议通过切块的方法做。代码和示例可以参考这里： https://gist.github.com/ryanxingql/e126eeb0d2e156bcfe28bc532143d82e

块可以在显存允许的情况下尽量大一些，减少对性能的影响。