统计学习方法读后小结(1)
2016-09-28 13:05
225 查看
一、名词解析
1. 损失函数和风险函数
损失函数(loss function)是度量模型一次预测的好坏,风险函数度量平均意义下模型预测好坏。
期望风险是模型关于联合分布的期望损失,经验风险是模型关于训练样本集的平均损失。根据大数定理,当样本容量N趋于无穷大时,经验风险Remp趋于期望风险Rexp。当用经验风险去预测期望风险时,要对经验风险进行一定的矫正,经常使用的是监督学习的经验风险最小化、结构风险最小化。两种方法。
2. 泛化能力:学习方法对未知数据的预测能力称为泛化能力generalization ability。
1. 损失函数和风险函数
损失函数(loss function)是度量模型一次预测的好坏,风险函数度量平均意义下模型预测好坏。
期望风险是模型关于联合分布的期望损失,经验风险是模型关于训练样本集的平均损失。根据大数定理,当样本容量N趋于无穷大时,经验风险Remp趋于期望风险Rexp。当用经验风险去预测期望风险时,要对经验风险进行一定的矫正,经常使用的是监督学习的经验风险最小化、结构风险最小化。两种方法。
2. 泛化能力:学习方法对未知数据的预测能力称为泛化能力generalization ability。
相关文章推荐
- 决策树小结----统计学习方法读书笔记
- 统计学习方法笔记--EM算法--三硬币例子补充
- [置顶] 【统计学习方法】 逻辑斯谛回归(logistic regression) Python实现
- 统计学习方法-李航(第5章 决策树笔记)
- <统计学习方法>5 逻辑斯蒂回归与最大熵模型
- 统计学习方法笔记:决策树
- 统计学习方法 笔记<第二章 感知机>
- Linux 系统信息监控统计命令小结
- 统计学习方法第五章决策树的ID3算法代码实践 例5.3
- 软件学习方法小结
- 统计学习方法-概率知识补充
- 统计学习方法笔记 -- 决策树
- [统计学习方法]朴素贝叶斯法
- [统计学习方法]决策树
- 李航统计学习方法-K邻近法
- [ML] 统计学习方法概论
- 统计学习方法 6-逻辑斯谛回归与最大熵模型
- 统计学习方法 习题5.1 c4.5实现
- 极大似然估计是经验风险最小化的理解(统计学习方法)
- 统计学习方法-李航