search

PaddlePaddle / PaddleDetection

Object Detection toolkit based on PaddlePaddle. It supports object detection, instance segmentation, multiple object tracking and real-time multi-person keypoint detection.
Apache License 2.0
12.36k stars 2.84k forks source link

运行出错 #8945

Closed 11075225 closed 1 month ago

11075225 commented 2 months ago

问题确认 Search before asking

请提出你的问题 Please ask your question

memory_mask_tiled = memory_mask.tile([fakesetsize, 1])运行这行代码报错显示

'NoneType' object has no attribute 'tile'

lyuwenyu commented 2 months ago

什么模型，自己的数据嘛？

11075225 commented 2 months ago

用的是rtdetr 数据集是自己的数据

lyuwenyu commented 2 months ago

没道理啊 我用coco跑起来没问题 你再check下数据 另外用的什么版本的paddle

11075225 commented 2 months ago

这行代码我在Deformable DETR网络模型中运行没问题，但是将它换到rtdetr中就会出现上述问题， 我用的paddle版本是2.6.0

11075225 commented 2 months ago

我感觉我的数据集应该是没问题的

lyuwenyu commented 2 months ago

再debug下 什么情况下导致的memory_mask为None 还是说一开始就这样

11075225 commented 2 months ago

图片1 我看代码报错显示好像是前向传播这里把 memory_mask设为None 但是我看QRDeformableDETR网络中好像也是设置为None的

lyuwenyu commented 2 months ago

你用的那个分支

11075225 commented 2 months ago

我这里没动过 我只是重写了Decoder里面的方法然后重写了self.decoedr=我重写的decoder 其他都没动，分支应该就是原来的分支

lyuwenyu commented 2 months ago

试一下原来的代码还能跑嘛

11075225 commented 2 months ago

原来的代码是可以跑的

11075225 commented 2 months ago

我想知道这个memory_mask参数可以自己设置一个数值初始化吗 它的shape是什么样子的

lyuwenyu commented 2 months ago

原来的代码是可以跑的

我想知道这个memory_mask参数可以自己设置一个数值初始化吗 它的shape是什么样子的

和输入的size有关系，check下你修改的代码的问题吧