Closed murphypei closed 2 years ago
https://murphypei.github.io/blog/2020/09/relu-dying.html
最近在看 MobileNetV3 的结构特征,又碰到了新的激活函数,查看了其与 ReLU 的联系,联想到之前看到过的 ReLU 的问题,做个记录。
讲的很好
@ZhiQiangYang513 讲的很好
谢谢
https://murphypei.github.io/blog/2020/09/relu-dying.html
最近在看 MobileNetV3 的结构特征,又碰到了新的激活函数,查看了其与 ReLU 的联系,联想到之前看到过的 ReLU 的问题,做个记录。