主成分分析方法VIP免费

.1/15'.主成分分析方法我们进行系统分析评估或医学上因子分析等时，多变量问题是经常会遇到的。变量太多，无疑会增加分析问题的难度与复杂性，而且在许多实际问题中，多个变量之间是具有一定的相关关系的。因此，我们就会很自然地想到，能否在各个变量之间相关关系研究的基础上，用较少的新变量代替原来较多的变量，而且使这些较少的新变量尽可能多地保留原来较多的变量所反映的信息？事实上，这种想法是可以实现的，本节拟介绍的主成分分析方法就是综合处理这种问题的一种强有力的方法。第一节主成分分析方法的原理主成分分析是把原来多个变量化为少数几个综合指标的一种统计分析方法，从数学角度来看，这是一种降维处理技术。假定有n样本，每个样本共有p个变量描述，这样就构成了一个n×p阶的数据矩阵：111212122212.....................ppnnnpxxxxxxXxxx⋯⋯⋯⋯(1).2/15'.如何从这么多变量的数据中抓住事物的内在规律性呢？要解决这一问题，自然要在p维空间中加以考察，这是比较麻烦的。为了克服这一困难，就需要进行降维处理，即用较少的几个综合指标来代替原来较多的变量指标，而且使这些较少的综合指标既能尽量多地反映原来较多指标所反映的信息，同时它们之间又是彼此独立的。那么，这些综合指标（即新变量)应如何选取呢？显然，其最简单的形式就是取原来变量指标的线性组合，适当调整组合系数，使新的变量指标之间相互独立且代表性最好。如果记原来的变量指标为pxxx,,21，它们的综合指标——新变量指标为21,zz，mz（m≤p)。则)2.........(..........22112222121212121111pmpmmmppppxlxlxlzxlxlxlzxlxlxlz在（2)式中，系数lij由下列原则来决定：（1)zi与zj（i≠j；i，j=1，2，⋯，m)相互无关；（2)z1是x1，x2，⋯，xp的一切线性组合中方差最大者；z2是与z1不相关的x1，x2，⋯，xp的所有线性组合中方差最大者；⋯⋯；zm是与z1，z2，⋯⋯zm-1都不相关的x1，x2，⋯，xp的所有线性组合中方差最大者。.3/15'.且（2）式要求：22212....1iiiplll这样决定的新变量指标z1，z2，⋯，zm分别称为原变量指标x1，x2，⋯，xp的第一，第二，⋯，第m主成分。其中，z1在总方差中占的比例最大，z2，z3，⋯，zm的方差依次递减。在实际问题的分析中，常挑选前几个最大的主成分，这样既减少了变量的数目，又抓住了主要矛盾，简化了变量之间的关系。从以上分析可以看出，找主成分就是确定原来变量xj（j=1，2，⋯，p)在诸主成分zi（i=1，2，⋯，m)上的载荷lij（i=1，2，⋯，m；j=1，2，⋯，p)。同时，12(,,....,)iiiplll不是别的，而恰好是x1，x2，⋯，xp的相关矩阵的特征值所对应的特征向量。且z1方差取到最大就是x1，x2，⋯，xp相关矩阵在第一个特征值所对应特征向量处达到。zm方差取到最大就是x1，x2，⋯，xp相关矩阵在第m个特征值所对应特征向量处达到。第二节主成分分析的解法主成分分析的计算步骤通过上述主成分分析的基本原理的介绍，我们可以把主成分分析计算步骤归纳如下：.4/15'.（1)计算相关系数矩阵PPPPPPrrrrrrrrrR212222111211...........................⋯⋯⋯(3)在公式（3)中，ijr（i，j=1，2，⋯，p)为原来变量ix与jx的相关系数，其计算公式为nknkjkjikinkjkjikiijxxxxxxxxr11221)()())((⋯⋯.(4)因为R是实对称矩阵（即rij=rji)，所以只需计算其上三角元素或下三角元素即可。（2)计算特征值与特征向量首先解特征方程｜λI-R｜=0求出特征值λi（i=1，2，⋯，p)，并使其按大小顺序排列，即λ1≥λ2≥⋯，≥λp≥0；然后分别求出对应于特征值λi的特征向量ei（i=1，2，⋯，p)。（3)计算主成分贡献率及累计贡献率.5/15'.pkkmkkpkkiipirz111),,,2,1(/累计贡献率：贡献率：主成分。一般取累计贡献率达85-95％的特征值m,,21，所对应的第一，第二，⋯⋯，第m（m≤p)个主成分。（4)计算主成分得分矩阵由此可以进一步计算主成分得分矩阵：Z=nmnnmmlllllllll212222111211............（5）进一步还可以根据式：pmpmmmppppxlxlxlzxlxlxlzxlxlxlz22112222121212121111计算各主成分得分：11...jjjppZlXlX（6）和总得分：1212...mjmmmmiiiiiiyzzz（7）.6/15'.主成分分析应用实例实证研究1本文是...