机器学习与智能优化 之 学习也民主
2015-01-31 09:48
246 查看
要点
拥有一些不同的准确率相似的模型让你能够做一些独立使用这些模型之外的提升性能的方法(合作法,议会,机器学习内的民主)。
在堆叠或混合方法中,这些系统由在独立模型输出上添加一层组合而来。
创造多样性有不同 的方法策略。在bagging(bootstrap aggregation)中,对同一个样本集做有替换的采样。在boosting中,与添加模型相关,一系列的模型被训练,因此,现在系统中最难的样本能够为新添加的组件而拥有更大的权值。用不同的特征子集或者不同的随机数生成器是创造多样性的另外方法。Error-correcting output codes为多位输出比特提供冗余的模型编码以增加应对独立错误的鲁棒性。
Additive logistic regression 是通过增加模型和类牛顿优化来解释boosting 的优雅方法。优化加速了我们知识的增长。
机器学习中的合作法与爵士音乐类似:整体大于部分的和。音乐家和模型都协同工作,互相依靠,胜过自己单独的创造。
拥有一些不同的准确率相似的模型让你能够做一些独立使用这些模型之外的提升性能的方法(合作法,议会,机器学习内的民主)。
在堆叠或混合方法中,这些系统由在独立模型输出上添加一层组合而来。
创造多样性有不同 的方法策略。在bagging(bootstrap aggregation)中,对同一个样本集做有替换的采样。在boosting中,与添加模型相关,一系列的模型被训练,因此,现在系统中最难的样本能够为新添加的组件而拥有更大的权值。用不同的特征子集或者不同的随机数生成器是创造多样性的另外方法。Error-correcting output codes为多位输出比特提供冗余的模型编码以增加应对独立错误的鲁棒性。
Additive logistic regression 是通过增加模型和类牛顿优化来解释boosting 的优雅方法。优化加速了我们知识的增长。
机器学习中的合作法与爵士音乐类似:整体大于部分的和。音乐家和模型都协同工作,互相依靠,胜过自己单独的创造。
相关文章推荐
- 机器学习与智能优化 之 学习有道
- 智能&大数据时代,架构师思维的十个学习步骤(优化版)
- 机器学习与智能优化 之 KNN
- 深度学习/机器学习入门基础数学知识整理(三):凸优化,Hessian,牛顿法
- 机器学习与优化的课程学习站
- 机器学习基础-学习笔记 优化分析(二)
- 机器学习基础-学习笔记 优化分析(一)
- 机器学习与智能优化 之 浅层和深层神经网络
- 机器学习与智能优化 之 几个特殊非线性模型
- 机器学习在知乎:深度学习助力内容分析处理,智能问答产品或成未来目标
- 智能优化算法学习清单
- 机器学习中的优化问题学习资料
- 机器学习与智能优化 之 排序与选择特征
- 机器学习与智能优化 之 自顶而下聚类:K均值
- 机器学习之优化算法学习总结
- 玩转数据系列:利用阿里云机器学习在深度学习框架下实现智能图片分类
- 【云周刊】第118期:利用阿里云机器学习在深度学习框架下实现智能图片分类
- 机器学习与智能优化 之 规则、决策树和森林
- 机器学习与智能优化 之 自底向上(层次)聚类
- 智能计算与优化方法——学习笔记摘要