h-z-h-cell / SpikeFormer

我按照我的理解对SpikeFormer的源码加了一些注释
5 stars 0 forks source link

求教 #2

Open chenyeefanfan opened 1 year ago

chenyeefanfan commented 1 year ago

您好,想问一下您 关于在model.py文件里面的几个model问题

  1. 每个class 代表的应该都是不同的model吧?比如MLP Spikeformer 都是不同的?

  2. 是只有spikeformer这个model是用到了 snn+Transformer吧? 其他应该都只是snn?是这个意思吗?

感谢您的回答!

h-z-h-cell commented 1 year ago

很抱歉,今天才注意到这个问题。关于第一个问题,整个model.py描述的是同一个模型,这个模型是Spikeformer,它主要分为SPS、Block、Head三部分,其中Block由包含SSA和MLP两个部分。关于第二个问题,我有些没看懂您的描述,如果您还没解决这个问题得到话可以描述地再详细一些我再回答。

chenyeefanfan commented 1 year ago

感谢您的回答!想问一下这里的SPS指的是什么意思?我好像没听过这个名词

chenyeefanfan commented 1 year ago

image

您好 我是小白 想再打扰您一下,根据原文图中所示,我可以理解为这个SPS是相当于SNN中的encoding部分吗?然后后面的SSA是相当于transformer中的注意力机制部分,然后SSA和MLP 二者组成为spikeformer?

h-z-h-cell commented 1 year ago

是的,你的理解基本没有问题。SPS和若干个SSA及MLP以及一个Classification Head组成Spikformer,SSA和MLP 二者组成为spikeformer Encoder Block