机器学习入门:Linear Regression与Normal Equation
2014-01-02 17:42
330 查看
本文会讲到:
(1)另一种线性回归方法:Normal Equation;
(2)Gradient Descent与Normal Equation的优缺点;
前面我们通过Gradient Descent的方法进行了线性回归,但是梯度下降有如下特点:
(1)需要预先选定Learning rate;
(2)需要多次iteration;
(3)需要Feature Scaling;
因此可能会比较麻烦,这里介绍一种适用于Feature数量较少时使用的方法:Normal Equation;
当Feature数量小于100000时使用Normal Equation;
当Feature数量大于100000时使用Gradient Descent;
Normal Equation的特点:简单、方便、不需要Feature Scaling;
其中Normal Equation的公式:
![](http://img.my.csdn.net/uploads/201209/06/1346902734_3211.png)
其中
![](http://img.my.csdn.net/uploads/201209/06/1346902740_2209.png)
![](http://img.my.csdn.net/uploads/201209/06/1346902743_5518.png)
表示第i个training example;
![](http://img.my.csdn.net/uploads/201209/06/1346902746_7484.png)
表示第i个training example里的第j个feature的值;
m为#training example;
n为#feature;
举个实际的例子:
![](http://img.my.csdn.net/uploads/201209/06/1346902749_3522.png)
相关文章推荐
- 机器学习入门:Linear Regression与Normal Equation
- 机器 学习入门 知识
- 机器学习自学入门相关推荐
- 机器学习-tensorflow入门教程一——基础内容
- 机器学习之工程师入门路线
- 机器学习入门:线性回归及梯度下降
- 【阿里云大学免费精品课】机器学习入门:概念原理及常用算法
- 机器学习入门:线性回归及梯度下降
- 机器学习入门阶段程序员易犯的5个错误
- 机器学习入门指南
- TensorFlow入门学习(让机器/算法帮助我们作出选择)
- [机器学习入门] 经典台大李宏毅机器学习课程从这里开始
- 深度学习的基础:机器学习入门和数学基础(一)
- 一步一步入门机器学习之一:Python(x,y)下载,安装,使用入门
- 通俗易懂的机器学习入门指导
- 机器学习入门:监督学习与无监督学习
- 机器学习入门:线性回归及梯度下降
- 机器学习入门--MNIST(一)
- [机器学习入门] 经典台大李宏毅机器学习课程从这里开始
- 《用Python玩转数据》scikit-learn机器学习经典入门项目