Vernlium / vernlium.github.io

1 stars 3 forks source link

梯度下降法 #6

Open Vernlium opened 6 years ago

Vernlium commented 6 years ago

用于训练模型的迭代方法

image

回归问题产生的损失与权重图为凸形 image

梯度下降法的起点 image

梯度下降法依赖于负梯度 image

一个梯度步长将我们移动到损失曲线上的下一个点 image

计算方向 image

局部最小值与全局最小值

image

三维全局最小值和局部最小值 image