优化算法——梯度下降法
2014-01-10 17:18
288 查看
在机器学习,我们需要寻找输入特征与标签之间的映射关系,在寻找这样的映射关系时,有一条重要的原则就是使得寻找到的映射结果与原始标签之间的误差最小。机器学习问题归纳起来就是把一个学习的问题转化为优化的问题,机器学习算法的本质就是如何对问题抽象建模,使一个学习的问题变为一个可求解的优化问题。
优化的算法有很多种,从最基本的梯度下降法到现在的一些启发式算法,如遗传算法(GA),差分演化算法(DE),粒子群算法(PSO)和人工蜂群算法(ABC)。
梯度下降法又被称为最速下降法(Steepest descend method),其理论基础是梯度的概念。梯度与方向导数的关系为:梯度的方向与取得最大方向导数值的方向一致,而梯度的模就是函数在该点的方向导数的最大值。对于一个无约束的优化问题:
,例如
如图,在
处的切线。显然在
处函数取得最小值。沿着梯度的方向是下降速度最快的方向。具体的过程为:初始时,任取
的值,如取
,则对应的
。利用梯度下降法
,其中
为学习率,可以取固定常数。如取
,则
,对应的
,类似的
,对应的
。算法终止的判断准则是:
,其中
是一个指定的阈值。梯度的更新公式为:
梯度下降法的流程:
与梯度下降法对应的是被称为梯度上升的算法,主要的区别就是在梯度的方向上,一个方向是下降最快的方向,相反的就是梯度上升最快的方法。主要用来求解最大值问题:
。梯度的更新公式为:
。
下面以
为例,给出一下的Java程序:
主函数:
优化的算法有很多种,从最基本的梯度下降法到现在的一些启发式算法,如遗传算法(GA),差分演化算法(DE),粒子群算法(PSO)和人工蜂群算法(ABC)。
梯度下降法又被称为最速下降法(Steepest descend method),其理论基础是梯度的概念。梯度与方向导数的关系为:梯度的方向与取得最大方向导数值的方向一致,而梯度的模就是函数在该点的方向导数的最大值。对于一个无约束的优化问题:
,例如
如图,在
处的切线。显然在
处函数取得最小值。沿着梯度的方向是下降速度最快的方向。具体的过程为:初始时,任取
的值,如取
,则对应的
。利用梯度下降法
,其中
为学习率,可以取固定常数。如取
,则
,对应的
,类似的
,对应的
。算法终止的判断准则是:
,其中
是一个指定的阈值。梯度的更新公式为:
梯度下降法的流程:
1、初始化:随机选取取值范围内的任意数 2、循环操作: 计算梯度; 修改新的变量; 判断是否达到终止:如果前后两次的函数值差的绝对值小于阈值,则跳出循环;否则继续; 3、输出最终结果 |
。梯度的更新公式为:
。
下面以
为例,给出一下的Java程序:
public class SteepestDescend { public static double alpha = 0.5;// 迭代步长 public static double e = 0.00001;// 收敛精度 public double x0; public double y0; public double getY(double x) { return (x * x - 3 * x + 2); } public double getDerivative(double x) { return (2 * x - 3); } public void init() { x0 = 0; y0 = this.getY(x0); } public double getSteepestDescend() { double min = 0; double x = x0; double y = y0; double y1; double temp = 0; /* * 做梯度运算 */ while (true) { temp = this.getDerivative(x); x = x - alpha * temp; y1 = this.getY(x); if (Math.abs(y1 - y) <= e) { break; } y = y1; min = y; } return min; } }
主函数:
public class TestMain { public static void main(String args[]) { double min; SteepestDescend sd = new SteepestDescend(); sd.init(); min = sd.getSteepestDescend(); System.out.println("最小值:"+ min ); } }
相关文章推荐
- 梯度下降优化算法综述
- 梯度下降优化算法概述
- 梯度下降优化算法综述
- 深度网络 梯度下降优化算法综述 An overview of gradient descent optimization algorithms
- 梯度下降优化算法概述
- 梯度下降优化算法综述
- 深度解读最流行的优化算法:梯度下降
- 梯度下降优化算法综述
- 机器学习(六)梯度下降的优化算法和matlab/octave中的应用
- 梯度下降优化算法综述
- 梯度下降优化算法综述(转载)
- 机器学习常用优化算法--梯度下降,牛顿法,共轭梯度法,拉格朗日乘数法
- 优化算法之梯度下降法
- 梯度下降优化算法概述
- 梯度下降优化算法综述
- 常见优化算法批量梯度下降、小批量梯度下降、随机梯度下降的对比
- 梯度下降优化算法综述
- 梯度下降优化算法综述
- 一文看懂各种神经网络优化算法:从梯度下降到Adam方法
- 梯度下降优化算法综述