一文看懂常用的梯度下降算法：一文帮你秒懂梯度下降算法

一文看懂常用的梯度下降算法：一文帮你秒懂梯度下降算法如何判断哪个方向最陡呢？可以对该点求导数，导数代表的是该点在某方向的最大变化率。梯度下降的过程类似于一步步走到山底下。每走一步，算法都要判断从哪个方向下是最陡峭的，然后朝着那个方向重新校准权重，最终到达最低点。某一商品的销售价格会受到当地人口、收入水平的影响。假设当地人口稳定不变，收入水平持续增长。则商品销售价格表示为：销售价格 = 当地人口 常数 ｘ 收入水平梯度下降算法示例

梯度下降算法属于机器学习算法的一种，主要用于线性回归。千万不要被“机器学习”给吓怕了呀，其实有些算法还是很简单的。

比如今天要说的“梯度下降算法”，如果百度搜索的话，很容易被一堆复杂的公式给吓到。本文通过简单示例来帮助理解“梯度下降算法”。顺便也给自己的学习成果做下记录。

由于头条对特殊字符及数学公式支持不好，因此大部分内容会粘贴截图。

梯度下降算法引出

某一商品的销售价格会受到当地人口、收入水平的影响。假设当地人口稳定不变，收入水平持续增长。则商品销售价格表示为：

销售价格 = 当地人口 常数 ｘ 收入水平

梯度下降算法示例

梯度下降的过程类似于一步步走到山底下。每走一步，算法都要判断从哪个方向下是最陡峭的，然后朝着那个方向重新校准权重，最终到达最低点。

如何判断哪个方向最陡呢？可以对该点求导数，导数代表的是该点在某方向的最大变化率。

梯度下降算法推导

梯度下降算法运行结果