PCA目标函数的推导

   主成分量分析方法（PCA）是一种代表性的无监督的线性特征提取技术。它展示的是高
维空间中数据的变化。PCA
先通过提取高维数据的协方差矩阵的特征向量来得到一个低维的
线性子空间，然后将原始的高维数据投影到这个线性子空间中来进行降维。它的目标是同时
寻找一个正交基函数的集合，这个正交基集合可以捕捉到数据的最大变化的方向，也就是保
证高维数据在投影到低维空间后，原始数据之间包含的变化信息能最大程度的保留到降维后

得到的低维数据中。

         目的是使数据投影后的值尽可能的分散，在数学上这种分散程度我们用方差表示，  我们假设每一个样本的先验概率是均匀分布，p(xi)=1/N,

目标函数：

                     


yi表示各个样本在各个基向量中的投影坐标。  假设M为样本的维数，  投影后N的维数小于N,,,M>>N;

现在目的是求得原样本基向量与新的基向量之间的转换矩阵。。

假设yi=wT*xi;