Open Liam0205 opened 5 years ago
https://liam.page/2019/06/18/OCD-needs-stochastic-gradient-descent/
作为一个强迫症(OCD)患者,曾经我一直对随机梯度下降(Stochastic Gradient Descent)表示怀疑。毕竟,每次只选择少量样本计算梯度,这靠谱吗?强迫症患者心里泛起了浓浓的怀疑。然而经年的实践经验结合理论分析表明,强迫症患者也需要随机梯度下降。 这篇文章尝试尽可能用少的数学公式,讲一讲这个问题。
依旧保持怀疑
LaTex 的渲染出问题了
@QiuJueqin LaTex 的渲染出问题了
我这看是好的。
https://liam.page/2019/06/18/OCD-needs-stochastic-gradient-descent/
作为一个强迫症(OCD)患者,曾经我一直对随机梯度下降(Stochastic Gradient Descent)表示怀疑。毕竟,每次只选择少量样本计算梯度,这靠谱吗?强迫症患者心里泛起了浓浓的怀疑。然而经年的实践经验结合理论分析表明,强迫症患者也需要随机梯度下降。 这篇文章尝试尽可能用少的数学公式,讲一讲这个问题。