hanbt / learn_dl

Deep learning algorithms source code for beginners
Apache License 2.0
1.2k stars 988 forks source link

FC的 backward 有错 #3

Closed Ucag closed 7 years ago

Ucag commented 7 years ago

delta 应该是等于 self.activator.backward(self.ouput) * np.dot(self.W.T, delta_arry) 吧,你写成了 input 。

hanbt commented 7 years ago

没有错,激活函数的导数就是使用输入值来计算的。

WalterMa commented 6 years ago

我认为: input中保存的是此层输入向量,而sigmoid的导数是output*(1-ouput) 此处使用input真的没有错误嘛,还是我理解有误


又仔细读了您的代码并亲自实现了下发现此处self.delta是要传给前一层的,我理解有误。打扰了,抱歉/(ㄒoㄒ)/~~