Closed UCPRER closed 11 months ago
我想使用224的图片训练，推理的时候输入448的完整图片，因此我注释掉了关于限制分辨率的assert，在推理时将模型的img_size改为了448。但是发现这样修改之后在导入权重的时候attn_mask的尺寸匹配不上，训练时是[64, 49, 49]，推理模型是[256, 49, 49]。 我想是否可以让不同窗口的注意力模块共享权重来实现支持不同分辨率的输入呢？
我想使用224的图片训练，推理的时候输入448的完整图片，因此我注释掉了关于限制分辨率的assert，在推理时将模型的img_size改为了448。但是发现这样修改之后在导入权重的时候attn_mask的尺寸匹配不上，训练时是[64, 49, 49]，推理模型是[256, 49, 49]。 我想是否可以让不同窗口的注意力模块共享权重来实现支持不同分辨率的输入呢？