局部加权线性回归
2017-03-27 14:14
393 查看
局部加权线性回归是机器学习里的一种经典的方法,弥补了普通线性回归模型欠拟合或者过拟合的问题。机器学习里分为无监督学习和有监督学习,线性回归里是属于有监督的学习。普通的线性回归属于参数学习算法(parametric learning algorithm);而局部加权线性回归属于非参数学习算法(non-parametric learning algorithm)。所谓参数学习算法它有固定的明确的参数,参数 一旦确定,就不会改变了,我们不需要在保留训练集中的训练样本。而非参数学习算法,每进行一次预测,就需要重新学习一组
, 是变化的,所以需要一直保留训练样本。也就是说,当训练集的容量较大时,非参数学习算法需要占用更多的存储空间。
基本假设是
其中假设
符合公式
其中x是带预测的点,x(i)为每个训练样本,为每个训练样本计算一个w(i)
, 是变化的,所以需要一直保留训练样本。也就是说,当训练集的容量较大时,非参数学习算法需要占用更多的存储空间。
带权重的线性回归
基本假设是其中假设
符合公式
其中x是带预测的点,x(i)为每个训练样本,为每个训练样本计算一个w(i)
相关文章推荐
- 机器学习基础(三十) —— 线性回归、正则化(regularized)线性回归、局部加权线性回归(LWLR)
- 机器学习python局部加权线性回归
- 线性回归和局部加权线性回归
- Locally Weighted Linear Regression 局部加权线性回归-R实现
- 2.局部加权线性回归和逻辑回归
- 线性回归和局部加权线性回归
- 局部线性加权回归
- 线性回归与局部加权线性回归
- 机器学习算法实践:标准与局部加权线性回归
- 机器学习—局部加权线性回归
- (斯坦福机器学习课程笔记)局部加权线性回归练习
- 局部加权线性回归
- 局部加权线性回归
- 机器学习(三):局部加权线性回归算法、Logistic回归算法
- 线性回归以及局部加权回归
- 线性回归、局部加权线性回归、岭回归、lasso及逐步线性回归
- 【机器学习】局部加权线性回归
- # 机器学习笔记2——参数学习、非参数学习、局部加权线性回归、线性回归的概率解释、logistics回归
- 机器学习实战之线性回归+局部加权线性回归
- 机器学习:线性回归、局部加权线性回归、岭回归、前向逐步回归