search

wofmanaf / SA-Net

Code for our ICASSP 2021 paper: SA-Net: Shuffle Attention for Deep Convolutional Neural Networks
246 stars 42 forks source link

你好，请问sa模块是否可以作为即插即用的子模块，用在特征图之后的其他任务分支上？ #14

Open n1-k0 opened 2 years ago

n1-k0 commented 2 years ago

你好，请问sa模块是否可以作为即插即用的子模块，用在特征图之后的其他任务分支上？如使用resnet提取特征之后，特征图在不同head上的操作中加入sa模块

Feng-Xu97 commented 2 years ago

同问

HaoRenkk123 commented 2 years ago

你好，请问sa模块是否可以作为即插即用的子模块，用在特征图之后的其他任务分支上？如使用resnet提取特征之后，特征图在不同head上的操作中加入sa模块

有试过吗，效果如何

wofmanaf commented 2 years ago

特征图在不同的head上添加sa模块没有尝试过，但我觉得并不是一个好的尝试。如果将sa用在特征金字塔上，可以将不同level的特征先reshape到同一尺寸大小，然后将其作是sa模块的分组，之后再使用sa的其它操作进行特征增强。我没有做这方面的实验，想法也仅供参考

n1-k0 commented 2 years ago

特征图在不同的head上添加sa模块没有尝试过，但我觉得并不是一个好的尝试。如果将sa用在特征金字塔上，可以将不同level的特征先reshape到同一尺寸大小，然后将其作是sa模块的分组，之后再使用sa的其它操作进行特征增强。我没有做这方面的实验，想法也仅供参考

thank you!

123cjjjj commented 1 year ago

你好，如果应用到特征金字塔上，需要将不同level的特征图reshape到相同宽高尺寸和通道数大小吗？还是只要宽高尺寸大小一样即可？