您的位置:首页 > 大数据

一种适合于大数据的并行坐标下降法

2014-06-03 23:43 465 查看
 
在机器学习中,模型的训练是一个很重要的过程,它通常是对一个目标函数进行优化,从而获取模型的参数,比较常见的优化算法包括梯度下降法、牛顿法与拟牛顿法等。但在大数据的背景下,尤其对于并行实现来说,优化算法通常是越简单越好,如坐标下降法(CD)和随机梯度下降法(SCG)就比较受欢迎。
本文是阅读完论文 Distributed Coordinate Descent Method for Learning with Big Data 后的一则笔记,主要介绍算法 Hydra (一种分布式坐标下降法)的算法框架、收敛性理论、参数选取和并行实现细节。
作者: peghoty 出处: http://blog.csdn.net/itplus/article/details/28329603欢迎转载/分享, 但请务必声明文章出处.
                                            
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息