白话机器学习算法(十)感知机
2015-02-13 10:03
260 查看
http://blog.csdn.net/wangxin110000/article/details/22401133
感知机是神经网络里最简单的一种算法,由误分类驱动。
当正确分类时,权值矩阵不变,错误分类时候,用梯度下降法不断极小化目标函数,说得直接点,就是将权值向量的“稍微”指向误分类点。
这个方法背后的数学原理,就是梯度下降法。
总结:
只要线性可分,最终权值向量必然收敛,如果本身就不可分,那么权值向量会“震荡”,算法得不到解;
还有一个就是学习率,对应的就是梯度下降法的“步长”;
感知机是神经网络里最简单的一种算法,由误分类驱动。
当正确分类时,权值矩阵不变,错误分类时候,用梯度下降法不断极小化目标函数,说得直接点,就是将权值向量的“稍微”指向误分类点。
这个方法背后的数学原理,就是梯度下降法。
总结:
只要线性可分,最终权值向量必然收敛,如果本身就不可分,那么权值向量会“震荡”,算法得不到解;
还有一个就是学习率,对应的就是梯度下降法的“步长”;
相关文章推荐
- 白话机器学习算法(十四)数据降维
- 白话机器学习算法(十六)HMM 隐马尔科夫链
- 白话机器学习算法(九)朴素贝叶斯
- 无公式无代码白话机器学习算法之决策树
- 白话机器学习算法(十)感知机
- 白话机器学习算法(十二)聚类,分类的一些总结
- 白话机器学习算法(十三)LVQ
- 白话机器学习算法(一)分层聚类
- 白话机器学习算法(十一) GMM
- 白话机器学习算法(二十一)logistic回归
- 白话机器学习算法(十四)数据降维
- 白话机器学习算法(二)KNN
- 白话机器学习算法(十二)聚类,分类的一些总结
- 白话机器学习算法(十七)熵,条件熵
- 白话机器学习算法(二十)梯度下降算法
- 白话机器学习算法(十一) EM(附三个硬币模型代码)
- [机器学习算法详解]感知机模型——以马的患病分类问题为例
- 白话机器学习算法(三)基于密度的聚类 DBSCAN
- 白话机器学习算法(十三)LVQ
- 白话机器学习算法(十五)文档与图片的特征提取(学习笔记)