偏移的相关问题

[MaChao1013]

作者你好： 今天有幸读了这篇文章，感觉非常的潜力。同时我目前在进行图像融合方面的研究，在此有几个问题希望作者可以解惑。 1.agent_tokens = self.pool(q[:, 1:, :].reshape(b, h, w, c).permute(0, 3, 1, 2)).reshape(b, c, -1).permute(0, 2, 1)在此行代码中，对Q做了切片处理，但是切片之后reshape的话是不是就没办法变成（b, h, w, c)了呢。 2.在Agent-feature加了bias，但是position_bias = torch.cat([self.ac_bias.repeat(b, 1, 1, 1), position_bias], dim=-1)这里的偏移是cat在一起的，这样的话不就多出一个维度了。 3.如果不加偏移的话，请问结果会有很大的出入吗 4.bias是依据什么来划分的呢。 期待您的回复

[tian-qing001]

Hi @MaChao1013, thank you for your attention to our work. Regarding points 1 and 2, you highlighted the code for Agent-DeiT, which preserves the cls token of DeiT, resulting in an additional dimension, n+1. For points 3 and 4, I recommend consulting our paper, where we thoroughly outline the construction method of agent bias and present ablation experiments demonstrating its effectiveness.