在许多领域的研究与应用中，往往需要对反映事物的多个变量进行大量的观测，收集大量数据以便进行分析寻找规律。多变量大样本无疑会为研究和应用提供了丰富的信息，但也在一定程度上增加了数据采集的工作量，更重要的是在多数情况下，许多变量之间可能存在相关性，从而增加了问题分析的复杂性，同时对分析带来不便。如果分别对每个指标进行分析，分析往往是孤立的，而不是综合的。盲目减少指标会损失很多信息，容易产生错误的结论。 因此需要找到一个合理的方法，在减少需要分析的指标同时，尽量减少原指标包含信息的损失，以达到对所收集数据进行全面分析的目的。由于各变量间存在一定的相关关系，因此有可能用较少的综合指标分别综合存在于各变量中的各类信息。主成分分析与因子分析就属于这类降维的方法。

在PCA中，数据从原来的坐标系转化到新的坐标系中。当然这里新的坐标系也不是随便设定的，而是应该根据数据本身的特征来设计。通常第一个新坐标轴选择的是原始数据方差最大的方向，第二个坐标轴是与第一个坐标轴正交且具有最大方差的方向。这句话的意思就是，第二个选取的方向应该和第一个方向具有很弱的相关性。如果有很强的相关性的话，那么选其中一个就ok了。然后依此类推，选出后面的方向，其数目应该和原始数据的特征数目一致。 通常我们会发现，大部分的方差就集中在前面几个方向中，因此可以忽略后面的方向，达到降维的效果。 然后书上有这么一段话，介绍实现该过程的伪代码。

看不懂这里的协方差矩阵是啥，为什么是这样子的？ 只好从初中数学的方差开始学习了。。。

统计学里有几个基本的概念，有均值，方差，标准差等等。比如有一个含有n个样本的集合：X={x1,...,xn} 那么，

分析完了方差我们再看看啥是协方差。 方差描述的是其本身数据的情况，如果我们想知道，某2种数据之间的关系，该怎么描述呢，比如，男生帅气程度(or猥琐程度)，和受女孩子欢迎程度。假设这里有样本集合f(x,y)=(xi,...,yi)，x表示男生帅气指数，y表示相应的受女生欢迎指数，那么2者之间的关联程度可以这么定义：

那么从上面可知，如果结果为正值，那么说明2者是正相关，男生越帅，女生越喜欢。。(废话-.-)

再看看协方差矩阵，上面提到的协方差是二维数据的情况，那么如果是多维，比如三维，x,y,z.那么两两之间的协方差就有6个，再加上自己与自己的协方差就有9个，可以画成矩阵的形式了。

讲完协方差矩阵，再回头看看PCA，PCA和这个矩阵又有啥关系呢。 PCA的理念就是将高维空间的数据映射到低维空间，降低维度之间的相关性，并且使自身维度的方差尽可能的大。那么哪种数据方式可以同时表达维度之间的相关性以及，维度本身的方差呢？就是上面提到的协方差矩阵。协方差矩阵对角线上是维度的方差，其他元素是两两维度之间的协方差(即相关性)。

PCA的目的之一：降低维度之间的相关性，也就说减小协方差矩阵非对角线上的值。如何减小呢？可以使协方差矩阵变成对角矩阵。对角化后的矩阵，其对角线上是协方差矩阵的特征值。这里又提到了特征值，看看它到底有啥潜在的含义。

根据其定义Ax=cx,其中A是矩阵，c是特征值，x是特征向量； Ax矩阵相乘的含义就是，矩阵A对向量x进行一系列的变换(旋转或者拉伸)，其效果等于一个常数c乘以向量x。 通常我们求特征值和特征向量是想知道，矩阵能使哪些向量(当然是特征向量)只发生拉伸，其拉伸程度如何(特征值的大小)。这个真正的意义在于，是为了让我们看清矩阵能在哪个方向(特征向量)产生最大的变化效果。 好比以下来自书本的图片：

回头再看刚才的协方差矩阵对角化之后，得到了协方差矩阵的特征值；那么我们就能明白协方差矩阵在特征值对应的特征向量的方向上有最大的变化效果。当然这里的特征值会有多个，我们只需要取最大的几个就可以了，特征值越大，表示其在特征向量上的变化越大。我们把这几个特征值对应的特征向量的方向作为新的维度，于是，降维的目的达到了。。。

   为了说明什么是数据的主成分，先从数据降维说起。数据降维是怎么回事儿？假设三维空间中有一系列点，这些点分布在一个过原点的斜面上，如果你用自然坐标系x,y,z这三个轴来表示这组数据的话，需要使用三个维度，而事实上，这些点的分布仅仅是在一个二维的平面上，那么，问题出在哪里？如果你再仔细想想，能不能把x,y,z坐标系旋转一下，使数据所在平面与x,y平面重合？这就对了！如果把旋转后的坐标系记为x',y',z'，那么这组数据的表示只用x'和y'两个维度表示即可！当然了，如果想恢复原来的表示方式，那就得把这两个坐标之间的变换矩阵存下来。这样就能把数据维度降下来了！但是，我们要看到这个过程的本质，如果把这些数据按行或者按列排成一个矩阵，那么这个矩阵的秩就是2！这些数据之间是有相关性的，这些数据构成的过原点的向量的最大线性无关组包含2个向量，这就是为什么一开始就假设平面过原点的原因！那么如果平面不过原点呢？这就是数据中心化的缘故！将坐标原点平移到数据中心，这样原本不相关的数据在这个新坐标系中就有相关性了！有趣的是，三点一定共面，也就是说三维空间中任意三点中心化后都是线性相关的，一般来讲n维空间中的n个点一定能在一个n-1维子空间中分析！    上一段文字中，认为把数据降维后并没有丢弃任何东西，因为这些数据在平面以外的第三个维度的分量都为0。现在，假设这些数据在z'轴有一个很小的抖动，那么我们仍然用上述的二维表示这些数据，理由是我们可以认为这两个轴的信息是数据的主成分，而这些信息对于我们的分析已经足够了，z'轴上的抖动很有可能是噪声，也就是说本来这组数据是有相关性的，噪声的引入，导致了数据不完全相关，但是，这些数据在z'轴上的分布与原点构成的夹角非常小，也就是说在z'轴上有很大的相关性，综合这些考虑，就可以认为数据在x',y' 轴上的投影构成了数据的主成分！   特征选择的问题，其实就是要剔除的特征主要是和类标签无关的特征。而这里的特征很多是和类标签有关的，但里面存在噪声或者冗余。在这种情况下，需要一种特征降维的方法来减少特征数，减少噪音和冗余，减少过度拟合的可能性。   PCA的思想是将n维特征映射到k维上（k= 0 , XXT是半正定的对称矩阵, u1TXXTu1是半正定阵的二次型，由矩阵代数知识得出，目标函数存在最大值！ 下面我们求解最大值、取得最大值时u1的方向这两个问题。 先解决第一个问题，对于向量x的二范数平方为:

式中，σ1是矩阵A的最大奇异值（亦是矩阵A的二范数），它等于 AAT（或ATA）的最大特征值开平方。 针对本问题来说，XXT是半正定对称阵，也就意味着它的特征值都大于等于0，且不同特征值对应的特征向量是正交的，构成所在空间的一组单位正交基。

针对第二个问题，我们取上式中的

［1］From 主成分分析（PCA）原理详解 ［2］From 机器学习实战-PCA主成分分析、降维