search

Liuchen1997 / RFAConv

RAFConv: Innovating Spatital Attention and Standard Convolutional Operation
136 stars 18 forks source link

not enough memory #6

Open ChenJian7578 opened 1 year ago

ChenJian7578 commented 1 year ago

我尝试复现论文中所提出的注意力模块，当我将复现的模块添加到yolov8中进行模型生成时，出现了以下错误 RuntimeError: [enforce fail at C:\cb\pytorch_1000000000000\work\c10\core\impl\alloc_cpu.cpp:81] data. DefaultCPUAllocator: not enough memory: you tried to allocate 8589934592 bytes.

ChenJian7578 commented 1 year ago

image

CV-ZhangXin commented 1 year ago

@centianbao 你好，你是用cpu跑的吗？内存是多少？batch-size是多少？

ChenJian7578 commented 1 year ago

image image image 用的gpu, 2080ti, batchsize为8，内存为32G

CV-ZhangXin commented 1 year ago

@ChenJian7578 你看你报的错是cpu奥， data. DefaultCPUAllocator: not enough memory。

ChenJian7578 commented 1 year ago

是的，我想我应该找到问题所在了，模型构建的时候存在问题，谢谢！

cunning2017 commented 1 year ago

是的，我想我应该找到问题所在了，模型构建的时候存在问题，谢谢！

你好，请问你的RFCBAM_Block加在哪个部分呢，上面的类是完整的模块吗？