search

happynear / caffe-windows

Configure Caffe in one hour for Windows users.
Other
1.32k stars 649 forks source link

关于全连接层Forward部分中(114~117行代码)weight的归一化问题 #264

Open jnulzl opened 6 years ago

jnulzl commented 6 years ago

https://github.com/happynear/caffe-windows/blob/2e9ade3075d86321342966ed0aa2961031a06daf/src/caffe/layers/inner_product_layer.cpp#L114-L117 @happynear 如题所示，貌似在处理weight归一化时只考虑了非transpose的情况(此时weight的维数为：NxK)，但是weight进行transpose的情况(此时weight的维数为：KxN)好像不能用相同的代码进行处理了。

weight归一化不应该是对每个(共N个，为输出类别数目)长度为K的weight向量进行归一化吗？？？

happynear commented 6 years ago

额，真的有人用transpose这个参数吗？我感觉毫无意义啊。

jnulzl commented 6 years ago

呵呵，其实我也没用过，就是感觉没有的话会缺少点东西，既然有这个参数说不定啥时候就会有人用了，还是多谢您了。