Open codershenghai opened 5 years ago
http://www.zhangshenghai.com/posts/39784/
简介反向传播是利用链式法则递归计算表达式的梯度的方法，理解反向传播的精妙之处，对于理解、实现、设计和调试神经网络非常关键。 问题陈述：这节的核心问题是：给定函数$f(x)$，其中$x$是输入数据的向量，需要计算函数$f$关于$x$的梯度，也就是$\nabla f(x)$。 使用链式法则计算复合表达式考虑包含多个函数的复杂函数，如$f(x,y,z) = (x+y)z$。将这个公式分成两部分：$q=x
http://www.zhangshenghai.com/posts/39784/
简介反向传播是利用链式法则递归计算表达式的梯度的方法，理解反向传播的精妙之处，对于理解、实现、设计和调试神经网络非常关键。 问题陈述：这节的核心问题是：给定函数$f(x)$，其中$x$是输入数据的向量，需要计算函数$f$关于$x$的梯度，也就是$\nabla f(x)$。 使用链式法则计算复合表达式考虑包含多个函数的复杂函数，如$f(x,y,z) = (x+y)z$。将这个公式分成两部分：$q=x