G-SS-Hacker / G-SS-Hacker.github.io

https://G-SS-Hacker.github.io
2 stars 0 forks source link

Softmax函数反向传播求导详细过程 | G-SS-Hacker #67

Open G-SS-Hacker opened 4 years ago

G-SS-Hacker commented 4 years ago

https://g-ss-hacker.github.io/G-SS-Hacker.github.io/Softmax%E5%87%BD%E6%95%B0%E5%8F%8D%E5%90%91%E4%BC%A0%E6%92%AD%E6%B1%82%E5%AF%BC%E8%AF%A6%E7%BB%86%E8%BF%87%E7%A8%8B/#more

Softmax函数反向传播求导详细过程 图:纽约,曼哈顿(Manhattan, New York) Guderian出品 回顾:Softmax函数正向传播第一步:计算Z函数对神经网络输出层(即第$ L $层)有$Z^{[L]}=W^{[L]}a^{[L-1]}+b^{[L]}$,其中$a^{[L-1]}$为上一层输出值。 第二步:计算Softmax函数for i in range(C):