机器学习笔记week1
2017-08-02 18:15
204 查看
监督学习:需要数据集已有正确答案
回归问题:预测连续值 如:预测房价分类问题:预测离散值 如:预测是否是恶性肿瘤
监督学习工作方式
training set ->learning algorithm->hypothesis----------------------------------------------------------------------------------------------------
m:训练样本数目(样本容量)
x:输入变量
y:输出变量(目标变量)
(x,y):一个训练样本
第i个训练样本
单变量线性回归
代价函数
平方差代价函数梯度下降最小化代价函数:初始化θ0和θ1之后不断更新二者的值使得代价函数J最小
α:学习速率,即以多大幅度更新参数,太小导致梯度下降速度太慢,太大可能会越过最低点甚至不会收敛会发散。
事实证明线性回归的代价函数总是一个弓形的函数,叫做凸函数。凸函数意味着一个碗状的函数,所以这个函数除了一个全局最优之外没有任何局部的最优。当你使用线性回归时它总是收敛于全局最优的。
无监督学习:数据集没有正确答案
聚类问题:鸡尾酒会算法(非聚类):
octave
相关文章推荐
- Andrew Ng机器学习课程笔记--week1(机器学习介绍及线性回归)
- Machine Learning Foundations(机器学习基石) By Hsuan-Tien Lin (林轩田) week1 笔记
- 《深度学习Ng》课程学习笔记03week2——机器学习(ML)策略(2)
- Coursera 机器学习(by Andrew Ng)课程学习笔记 Week 8(一)——无监督学习
- 吴恩达机器学习笔记(week1)
- 课程笔记|吴恩达Coursera机器学习 Week1 笔记-机器学习基础
- [置顶] 机器学习笔记week4(Andrew NG)
- Coursera 机器学习(by Andrew Ng)课程学习笔记 Week 7——支持向量机
- 斯坦福机器学习-week 3 学习笔记(1)
- 斯坦福机器学习-week 3 学习笔记(2)——Matlab最优问题求解
- Andrew NG 机器学习 笔记-week2-多变量线性回归
- 吴恩达深度学习笔记 course3 week1 机器学习策略(1)
- Coursera 机器学习(by Andrew Ng)课程学习笔记 Week 4——神经网络(一)
- 斯坦福机器学习视频笔记 Week1 线性回归和梯度下降 Linear Regression and Gradient Descent
- Andrew NG 机器学习 笔记-week1-单变量线性回归
- Coursera 机器学习(by Andrew Ng)课程学习笔记 Week 5——神经网络(二)
- Andrew Ng机器学习笔记week6 机器学习的应用与设计
- [置顶] 机器学习笔记week2(Andrew NG)
- Coursera 机器学习(by Andrew Ng)课程学习笔记 Week 3——逻辑回归、过拟合与正则化
- Coursera 机器学习(by Andrew Ng)课程学习笔记 Week 9(二)——推荐系统作业