简单推导 PCA
2016-12-10 21:48
274 查看
考虑二维数据降低到一维的例子，如下图所示：
最小化投影方差（maximize projected variance）：
1N∑n=1N(uuT1xn−uuT1x¯)=uuT1Suu1,s.t.uuT1uu1=1
则根据拉格朗日乘子法，有：
uuT1Suu1+λ(1−uuT1uu1)
对 uu1 求导数，得：
Suu1=λuu1
可见投影的最佳方向就是，样本协方差矩阵的特征向量方向；
最小化投影方差（maximize projected variance）：
1N∑n=1N(uuT1xn−uuT1x¯)=uuT1Suu1,s.t.uuT1uu1=1
则根据拉格朗日乘子法，有：
uuT1Suu1+λ(1−uuT1uu1)
对 uu1 求导数，得：
Suu1=λuu1
可见投影的最佳方向就是，样本协方差矩阵的特征向量方向；
内容来自用户分享和网络整理，不保证内容的准确性，如有侵权内容，可联系管理员处理 
相关文章推荐
- 主成分分析（PCA）算法的简单推导和实例
- 简述LDA,PCA,SVD原理推导及其简单应用
- 【模式识别】PCA检测人脸的简单示例MATLAB实现
- POJ 2231 Moo Volume(排序+简单公式推导)
- SVD 与 PCA 的直观解释(3): SVD的直观解释及推导
- 主成分分析(PCA)原理及推导
- 线性判别分析（LDA）, 主成分分析(PCA)及其推导【转】
- BNU27945——整数边直角三角形——————【简单数学推导】
- 简单易学的机器学习算法——主成分分析(PCA)
- LQR 的直观推导及简单应用
- PCA检测人脸的简单示例_matlab实现
- 由语法推导树理解确定短语、直接短语（简单短语）、句柄
- Python 3.2中 推导列表的简单小例子
- PCA 分解的基本推导和计算方法
- PCA基本推导和计算方法
- 统计知识选讲（二）——主成分分析（PCA）的推导和应用
- 算法时间复杂度的简单推导
- codeforces 153 A. Points on Line 简单数学题 简单推导推导的事情
- PCA的数学原理，推导的很详细
- 主成分分析(PCA)原理及推导