search

Ereebay / blog

1 stars 0 forks source link

Decoupled Neural Interfaces using Synthetic Gradients | Eree's Blog #13

Open Ereebay opened 4 years ago

Ereebay commented 4 years ago

https://ereebay.me/posts/51469/

Decoupled Neural Interfaces using Synthetic Gradients Abstract 神经网络的训练通常需要计算图向前推到，然后再向后传播误差更新权重。因此从某种意义上来说，网络的所有层都被锁定了，因为他们必须等待网络其他部分向前推理并向后传播才能对其进行更新。在这项工作中，我们引入了网络图的未来计算模型，来通过对模块进行解耦，从而打破这个约束。这些模型仅使

tao-shen commented 4 years ago

好文帮顶

Ereebay commented 4 years ago

@tao-shen 好文帮顶

这个点赞好像不支持了尴尬