白话机器学习算法（十）感知机
2014-03-28 14:52
148 查看
感知机是神经网络里最简单的一种算法，由误分类驱动。
当正确分类时，权值矩阵不变，错误分类时候，用梯度下降法不断极小化目标函数，说得直接点，就是将权值向量的“稍微”指向误分类点。
这个方法背后的数学原理，就是梯度下降法。
总结：
只要线性可分，最终权值向量必然收敛，如果本身就不可分，那么权值向量会“震荡”，算法得不到解；
还有一个就是学习率，对应的就是梯度下降法的“步长”；
当正确分类时，权值矩阵不变，错误分类时候，用梯度下降法不断极小化目标函数，说得直接点，就是将权值向量的“稍微”指向误分类点。
这个方法背后的数学原理，就是梯度下降法。
总结：
只要线性可分，最终权值向量必然收敛，如果本身就不可分，那么权值向量会“震荡”，算法得不到解；
还有一个就是学习率，对应的就是梯度下降法的“步长”；
内容来自用户分享和网络整理，不保证内容的准确性，如有侵权内容，可联系管理员处理 
相关文章推荐
- 白话压缩感知（含Matlab代码）
- 白话压缩感知（含Matlab代码）
- 白话机器学习算法（十三）LVQ
- 白话机器学习算法（六） PCA
- 白话机器学习算法（二十一）logistic回归
- 白话压缩感知（含Matlab代码）
- 白话机器学习算法（十四）数据降维
- 白话机器学习算法（七）LDA
- 白话机器学习算法（十七）熵，条件熵
- 白话压缩感知（含Matlab代码）
- 白话机器学习算法（十一） EM（附三个硬币模型代码）
- 白话机器学习算法（八）MDS
- 白话机器学习算法（二十）梯度下降算法
- 白话压缩感知（含Matlab代码）
- 白话机器学习算法（十五）文档与图片的特征提取(学习笔记)
- 白话机器学习算法（十六）HMM 隐马尔科夫链
- 白话机器学习算法（九）朴素贝叶斯
- 白话机器学习算法（十八）决策树
- 白话压缩感知（含Matlab代码）
- 白话机器学习算法（一）分层聚类