search

hanbt / learn_dl

Deep learning algorithms source code for beginners
Apache License 2.0
1.2k stars 988 forks source link

FC的 backward 有错 #3

Closed Ucag closed 7 years ago

Ucag commented 7 years ago

delta 应该是等于 self.activator.backward(self.ouput) * np.dot(self.W.T, delta_arry) 吧，你写成了 input 。

hanbt commented 7 years ago

没有错，激活函数的导数就是使用输入值来计算的。

WalterMa commented 7 years ago

我认为： input中保存的是此层输入向量，而sigmoid的导数是output*(1-ouput) 此处使用input真的没有错误嘛，还是我理解有误

又仔细读了您的代码并亲自实现了下发现此处self.delta是要传给前一层的，我理解有误。打扰了，抱歉/(ㄒoㄒ)/~~