Open simo-an opened 2 years ago
习题7-4 证明公式(7.43).
Xavier初始化
为什么前向计算的时候使用 M(l-1) 即 l 层前一层神经元个数,而在反向传播过程不使用 M(l+1) 即 l 层后一层神经元个数? 因为 a(l-1) 的维度和 l-1 层神经元个数相等, a(l) 的维度和 l 层神经元个数相等
题目
习题7-4 证明公式(7.43).
解答
Xavier初始化
附加
为什么前向计算的时候使用 M(l-1) 即 l 层前一层神经元个数,而在反向传播过程不使用 M(l+1) 即 l 层后一层神经元个数? 因为 a(l-1) 的维度和 l-1 层神经元个数相等, a(l) 的维度和 l 层神经元个数相等