主成分分析实例及含义讲解
大学生数学建模——主成分分析方法页PPT文档
从以上的分析可以看出，主成分分析的
实质就是确定原来变量xj（j=1，2 ，…， p） 在诸主成分zi（i=1，2，…，m）上的荷载 lij （ i=1，2，…，m； j=1，2 ，…，p）。
从数学上容易知道，从数学上可以证明，
它们分别是的相关矩阵的m个较大的特征值所 对应的特征向量。
二、计算步骤
1540.29 926.35 1501.24 897.36 911.24 103.52 968.33 957.14 824.37 1255.42 1251.03 1246.47 814.21 1124.05 805.67 1313.11
216.39 291.52 225.25 196.37 226.51 217.09 181.38 194.04 188.09 211.55 220.91 242.16 193.46 228.44 175.23 236.29
65.601 1181.54 270.12 18.266 0.162 7.474 12.489
33.205 1436.12 354.26 17.486 11.805 1.892 17.534
16.607 1405.09 586.59 40.683 14.401 0.303 22.932
6 68.337 7 95.416 8 62.901 9 86.624 10 91.394 11 76.912 12 51.274 13 68.831 14 77.301 15 76.948 16 99.265 17 118.505 18 141.473 19 137.761 20 117.612 21 122.781
人) 295.34
x 6：经济 作物占农 作物面积 比例(％)
26.724
x 7：耕地 占土地面 积比率
主成分分析案例
主成分分析 法通过研究指标体系的内在结构 关系，从而将多个指 转化为少数几个 相互独立 且包含原来指标大部分信息（80%或85%以上）的 综合指标。其优点在于它确定的权数是基于数据 分析而得出的指标之间的内在结构关系，不受主 观因素的影响，有较好的客观性，而且得出的综 合指标（主成分）之间相互独立，减少信息的交 叉，这对分析评价极为有利。
81.05
5.37
86.42
4.15
90.57
3、 求特征根所对应的单位特征向量
特征向量 X1 X2 X3 X4 X5 X6 X7 X8 X9 X10 X11 X12 X13 X14 X15 X16 X17
Y1
0.038466 0.276020 0.243654 0.263487 0.180546 0.290834 0.259842 0.280523 0.094233 0.215946 0.292016 0.288268 0.282016 0.259006 0.216793 0.259962 0.212293
将被调查者按性别与年龄分成10组
以组为单位，在每组中每个成员都对100 种食品给 予评分，然后计算每组成员对每种食品评分的平均值。
食 品
1 2 3 . . 100
组号
1
7.8 1.6
. . 3.1
2
5.4 2.8
. 2.8
3
3.9 4.4
. 3.3
4
3.5 4.0
. 3.0
5
3.0 3.5 . .
用 y1 得分来表示食品嗜好程度可有七成把握。 在充分注意到人们普遍的嗜好程度基础上，进一 步考虑到青少年和老年人的嗜好程度，对食品业 的开发方针作出决策时，将有85%的把握。
主成分分析和因子分析实例
因子分析
我们如果想知道每个变量与公共因子的关系， 则就要进行因子分析了。因子分析模型为：
x1 a11F1 a12F2 a1mFm ε 1 x2 a21F1 a22F2 a2pFP ε 2 xp ap1F1 ap2F2 apmFm ε p
因子载荷
-. 201
EN GLIS H
.9 13
-. 216
Extraction Method: Principal Component Analysis. Rotation Method: Varimax with Kaiser Normalization.
a. Rotation converged in 3 iterations.
由原始数据的协方差阵或相关系数据阵，
可计算出矩阵的特征根：
1 2 p
则： 1 对应 Y1的方差
2
对应
Y
的方差
2
p 对应
Y
的方差
p
主成分的含义
但是，spss软件中没有直接给出主成分系 数，而是给出的因子载荷，我们可将因子 载荷系数除以相应的 i ，即可得到主成分 系数。
1对应的特征向量 11，：12， 1p
椭圆（球）的长短轴相差得越大降维也越有道理。
主成分分析
对于多维变量的情况和二维类似，也有高 维的椭球，只不过无法直观地看见罢了。
首先把高维椭球的主轴找出来，再用代表 大多数数据信息的最长的几个轴作为新变 量；这样，主成分分析就基本完成了。
注意，和二维情况类似，高维椭球的主轴 也是互相垂直的。这些互相正交的新变量 是原先变量的线性组合，叫做主成分 (principal component)。
主成分分析法概念及例题
主成份分析法之巴公井开创作时间：二O二一年七月二十九日主成份分析（principal components analysis,PCA）又称：主分量分析,主成份回归分析法目录[显示]• 1 什么是主成份分析法• 2 主成份分析的基本思想• 3 主成份分析法的基来源根基理• 4 主成份分析的主要作用• 5 主成份分析法的计算步伐• 6 主成份分析法的应用分析o 6.1 案例一：主成份分析法在啤酒风味评价分析中的应用[1]▪ 6.1.1 1 资料与方法▪ 6.1.2 2 主成份分析法的基来源根基理▪ 6.1.3 3 主成份分析法在啤酒质量一致性评价中的应用▪ 6.1.4 4 结论•7 参考文献[编纂]什么是主成份分析法主成份分析也称主分量分析,旨在利用降维的思想,把多指标转化为少数几个综合指标.在统计学中,主成份分析（principal components analysis,PCA）是一种简化数据集的技术.它是一个线性变换.这个变换把数据变换到一个新的坐标系统中,使得任何数据投影的第一年夜方差在第一个坐标(称为第一主成份)上,第二年夜方差在第二个坐标(第二主成份)上,依次类推.主成份分析经经常使用减少数据集的维数,同时坚持数据集的对方差贡献最年夜的特征.这是通过保管低阶主成份,忽略高阶主成份做到的.这样低阶成份往往能够保管住数据的最重要方面.可是,这也不是一定的,要视具体应用而定.[编纂]主成份分析的基本思想在实证问题研究中,为了全面、系统地分析问题,我们必需考虑众多影响因素.这些涉及的因素一般称为指标,在多元统计分析中也称为变量.因为每个变量都在分歧水平上反映了所研究问题的某些信息,而且指标之间彼此有一定的相关性,因而所得的统计数据反映的信息在一定水平上有重叠.在用统计方法研究多变量问题时,变量太多会增加计算量和增加分析问题的复杂性,人们希望在进行定量分析的过程中,涉及的变量较少,获得的信息量较多.主成份分析正是适应这一要求发生的,是解决这类题的理想工具.同样,在科普效果评估的过程中也存在着这样的问题.科普效果是很难具体量化的.在实际评估工作中,我们经常会选用几个有代表性的综合指标,采纳打分的方法来进行评估,故综合指标的选取是个重点和难点.如上所述,主成份分析法正是解决这一问题的理想工具.因为评估所涉及的众多变量之间既然有一定的相关性,就肯定存在着起支配作用的因素.根据这一点,通过对原始变量相关矩阵内部结构的关系研究,找出影响科普效果某一要素的几个综合指标,使综合指标为原来变量的线性拟合.这样,综合指标不单保管了原始变量的主要信息,且彼其间不相关,又比原始变量具有某些更优越的性质,就使我们在研究复杂的科普效果评估问题时,容易抓住主要矛盾. 上述想法可进一步概述为：设某科普效果评估要素涉及个指标,这指标构成的维随机向量为.对作正交变换,令,其中为正交阵,的各分量是不相关的,使得的各分量在某个评估要素中的作用容易解释,这就使得我们有可能从主分量中选择主要成份,削除对这一要素影响微弱的部份,通过对主分量的重点分析,到达对原始变量进行分析的目的.的各分量是原始变量线性组合,分歧的分量暗示原始变量之间分歧的影响关系.由于这些基本关系很可能与特定的作用过程相联系,主成份分析使我们能从扑朔迷离的科普评估要素的众多指标中,找出一些主要成份,以便有效天时用年夜量统计数据,进行科普效果评估分析,使我们在研究科普效果评估问题中,可能获得深条理的一些启发,把科普效果评估研究引向深入.例如,在对科普产物开发和利用这一要素的评估中,涉及科普创作人数百万人、科普作品发行量百万人、科普财富化（科普示范基地数百万人）等多项指标.经过主成份分析计算,最后确定个或个主成份作为综合评价科普产物利用和开发的综合指标,变量数减少,并到达一定的可信度,就容易进行科普效果的评估.[编纂]主成份分析法的基来源根基理主成份分析法是一种降维的统计方法,它借助于一个正交变换,将其分量相关的原随机向量转化成其分量不相关的新随机向量,这在代数上暗示为将原随机向量的协方差阵变换成对角形阵,在几何上暗示为将原坐标系变换成新的正交坐标系,使之指向样本点散布最开的p 个正交方向,然后对多维变量系统进行降维处置,使之能以一个较高的精度转换成低维变量系统,再通过构造适当的价值函数,进一步把低维系统转化成一维系统.[编纂]主成份分析的主要作用概括起来说,主成份分析主要由以下几个方面的作用.1．主成份分析能降低所研究的数据空间的维数.即用研究m维的Y空间取代p维的X空间(m＜p),而低维的Y空间取代高维的x空间所损失的信息很少.即：使只有一个主成份Y l(即 m＝1)时,这个Y l仍是使用全部X变量(p个)获得的.例如要计算Yl的均值也得使用全部x的均值.在所选的前m个主成份中,如果某个X i 的系数全部近似于零的话,就可以把这个X i删除,这也是一种删除过剩变量的方法.2．有时可通过因子负荷a ij的结论,弄清X变量间的某些关系.3．多维数据的一种图形暗示方法.我们知道当维数年夜于3时便不能画出几何图形,多元统计研究的问题年夜都多于3个变量.要把研究的问题用图形暗示出来是不成能的.然而,经过主成份分析后,我们可以选取前两个主成份或其中某两个主成份,根据主成份的得分,画出n个样品在二维平面上的分布况,由图形可直观地看出各样品在主分量中的位置,进而还可以对样本进行分类处置,可以由图形发现远离年夜大都样本点的离群点.4．由主成份分析法构造回归模型.即把各主成份作为新自变量取代原来自变量x做回归分析.5．用主成份分析筛选回归变量.回归变量的选择有着重的实际意义,为了使模型自己易于做结构分析、控制和预报,好从原始变量所构成的子集合中选择最佳变量,构成最佳变量集合.用主成份分析筛选变量,可以用较少的计算量来选择量,获得选择最佳变量子集合的效果.[编纂]主成份分析法的计算步伐1、原始指标数据的标准化收集p 维随机向量x =(x1,X2,...,X p)T)n 个样品x i = (x i1,x i2,...,x ip)T,i=1,2,…,n,n＞p,构造样本阵,对样本阵元进行如下标准化变换：其中,得标准化阵Z.2、对标准化阵Z 求相关系数矩阵其中, .3、解样秘闻关矩阵R 的特征方程得p 个特征根,确定主成份按确定m 值,使信息的利用率达85%以上,对每个λj, j=1,2,...,m, 解方程组Rb= λj b得单元特征向量 .4、将标准化后的指标变量转换为主成份U1称为第一主成份,U2称为第二主成份,…,U p称为第p 主成份.5 、对m 个主成份进行综合评价对m 个主成份进行加权求和,即得最终评价值,权数为每个主成份的方差贡献率.[编纂]主成份分析法的应用分析[编纂]案例一：主成份分析法在啤酒风味评价分析中的应用[1]啤酒是个多指标风味食品, 为了全面了解啤酒的风味, 啤酒企业开发了年夜量的检测方法用于分析啤酒的指标, 可是面对年夜量的指标数据, 年夜大都企业又感到茫然,不知道如何利用这些年夜量的数据, 由上面的介绍可知,在这种情况下,主成份分析法能够派上用场.近年来,科研人员为了获得对啤酒风味更好的理解, 多元统计技术的使用越来越多.这主要有以下两方面的原因:①在啤酒领域里, 几乎没有一个问题能够使用单变量(单指标)就能反映事物的属性, 例如啤酒的好坏、一致性, 不能通过双乙酰一个指标说明问题;②另一个重要的原因就是, 近年来年夜量数学统计软件的不竭呈现和个人电脑的普及增进了多元统计分析技术的应用.多元统计技术在啤酒风味研究中的一个重要任务就是找出啤酒风格和啤酒理化指标(风味成份指标也属于理化指标)之间的相关性.例如可以用多元统计技术来找出啤酒的风味指标和啤酒风味的关系或分歧啤酒的风味不同性.经常使用的多元统计技术有聚类分析、判别分析、主成份分析和回归分析等.其中主成份分析能够用于多指标产物, 主成份分析可以依照事物的相似性区分产物, 结果可用一维、二维或三维平面坐标图标示, 特别直观.使用主成份分析法可以研究隐藏在分歧变量面前的关系,而且根据这些变量能够获得主成份的布景解释.鉴于主成份分析在啤酒风味质量应用中的强年夜作用, 本文简单介绍主成份分析的基来源根基理及其在啤酒一致性监控中的应用,以引起我国啤酒同行的广泛关注.[编纂]1 资料与方法1.1 仪器HP 6890 毛细管气相色谱仪 (美国安捷伦公司),FID 检测器, HP 7694E 顶空自动进样器, HP 气相色谱化学工作站.1.2 分析方法1.2.1 样品制备啤酒于5 ℃冷藏, 量取 5 mL 酒液于 20 mL 顶空瓶中, 添加2.0 g/L 正丁醇溶液 0.10 mL, 加密封垫及铝盖密封,振荡混匀以供顶空气相色谱测定.1.2.2 色谱条件毛细管色谱柱 (DB- WAXETR 30 m×0.53 mm i.d,膜厚1.0μm);柱温:起始温度为 35 ℃, 以 10 ℃/min 法式升温至150 ℃, 再以 20 ℃/min 升温到180 ℃, 并继续恒温5 min;进样口温度 150 ℃; 检测器温度 200 ℃; 载气为高纯氮气, 流速为5 mL/min;氢气 30 mL/min;空气400 mL/min;采纳分流进样,分流比为1∶1.[编纂]2 主成份分析法的基来源根基理2.1 主成份分析法在啤酒研究中应用的需要性这里通过一个例子说明, 主成份分析在啤酒研究中的需要性.假如有6 个啤酒样品,分别标为A- F,每个啤酒样品用3 个指标来描述.这些指标可以是仪器的分析数据、感官分析数据或两者都用.为了便于讨论,假设这3 个指标分别为苦味值(BU)、DMS和酒精浓度.为了解这6 个样品两两之间的相似性, 便于将这6 个样品进行分类,可以把这6 个样品画在三维空间中,见图1.显然在这个简单的例子中,这6 个样品倾向于形成两类, 即分别是A- C 和 D- F.通过所测的指标可以解释这种分类, 例如, 第一组(A- C)有较高的苦味值和较低的酒精浓度.这个例子中只涉及到6 个样品和3 个指标.可是实际上, 样品数量和指标数量城市很年夜, 例如, 有20 个指标, 这时, 样品不能在20 维的坐标系中画出.为了解决多指标的样品的比力问题,可以使用主成份分析法.2.2 主成份分析法的基来源根基理主成份分析的第一步是将所有的指标数据进行标准化, 标准化的一般方法为: (x ij−x j mean) / δj, 这里x ij是样品j 的第 i个指标, x j mean和δj是第j 个指标的平均值和标准偏差, 通过标准化后, 每个变量的平均值酿成0,标准偏差为1.标准化的好处是可以消除分歧指标间的量纲不同和数量级间的不同.第二步求出指标间的相关矩阵, 通过相关矩阵, 可以确定具有高度相关性的指标, 这些指标间的协方差可以通过另一个变量替代, 这个变量叫作第一成份.去失落第一成份后, 计算残留相关阵, 通过残留相关阵, 第二组高度相关的变量也可以发现, 它们的协方差可以用第二成份替代, 第二成份和第一成份是正交的.第二成份对原始数据的贡献去除后, 可以提取第三成份.此过程一直继续, 直到原始数据的所有方差都被提取后结束.结果是原数据转化成了同样数量的新变量, 可是, 这些新变量之间是正交的.因此, 每个样品的原始变量的标准化数据就被转换成一系列成份的计算值.每一个样品, 原始数据能够表告竣新成份的线性组合值, 例如一个有9 个指标的数据集就可转换成:………………是原始数据的标准化值.是原变量与新成份之间的相关水平的指标, 一般将其称为因子荷载.通过计算机的主成份法式生成对方差的贡献率.一般而言, 原数据的总方差总是高度集中在前几个成份中.因此,在这个分析中,可以基于可以接受的最低方差贡献率,来选择几个数目较少的主成份.最终,可以用选择的几个主成份来重新计算所用的样品.重新计算的值叫做主成份得分.因为原始数据阵的方差通常集中在前几个主成份中(一般为2 或 3 个), 因此样品的一系列标准化因子得分可以在二维的平面坐标中画出, 这样就能够根据样品的相似性来分类样品.另外, 还可以根据因子荷载对这种分类做出某种解释.[编纂]3 主成份分析法在啤酒质量一致性评价中的应用3.1 主成份分析法在分歧品牌啤酒风味不同性评价中的应用啤酒是含酒精的饮料酒, 啤酒的风味是人们选择啤酒的主要影响因素.显然啤酒分歧于同浓度的酒精水溶液, 主要是因为啤酒除含有酒精外还含有数以百计的微量成份, 例如醛、醇及酯类等.对啤酒生产企业来说, 把自己的啤酒和竞争啤酒的风味进行比力非常重要, 这样可以了解自己的啤酒和竞品的不同, 分析竞争啤酒受市场欢迎的原因, 以改进自己的产物, 或者找出自己啤酒的风格特点, 走不同化竞争之路.为了完成此工作, 啤酒企业可以把自己的啤酒和竞争啤酒进行比较品评, 这是一种非常好的方法, 可是此方法很难从实质上找到与竞品的不同, 很难形成指导生产的定性定量办法.为了解决此问题, 啤酒企业可以对啤酒的风味成份进行分析, 理论上讲, 分析的成份越多, 获得的信息量越年夜, 可是, 很难从总体上进行比较分析, 这时, 可以通过主成份分析法, 提取主要的综合成份, 然后在平面坐标系中画图进行比力.图2 是我国市场上主要啤酒的风味物质经主成份分析后的前两个主成份的平面坐标.分析的风味成份有乙醛、乙酸乙酯、异丁酯、乙酸异戊酯、异戊醇及己酸乙酯.分析的时间跨度为半年, 这些数据通过主成份分析法后, 提取前两个主成份, 这两个主成份可以反映全部信息的83.1 %, 提取较为完全, 这说明这两个主成份替代原始的6 个风味成份反映的样品信息.百威啤酒、喜力啤酒和青岛啤酒是我国啤酒市场上的3 种知名品牌,同时这3 种啤酒的质量也是获得人们的认可的.从图2 可看出, 尽管百威啤酒、喜力啤酒和青岛啤酒随着时间的变动每种啤酒的风味成份的含量有所摆荡, 可是, 每种啤酒还是各自成一团, 自成一类, 三者的中心犹如一个三角形的3 个极点, 三者组成一个风味三角形.从图2 还可看出, 南方某品牌的啤酒有单独成型的特点, 即其分歧于青岛啤酒、也分歧喜力啤酒和百威啤酒的风格,实际上通过感官品尝也可以获得此结论.主成份分析法采纳的分类是可以通过对主成份的分析做出解释的,图3 是前两个主成份的因子荷载图.从图3 可以看出, 主成份 1 主要由乙酸乙酯、乙酸异戊酯和己酸乙酯决定, 这些酯含量高, 主成份1 就越年夜, 即主成份1 代表了啤酒的酯香, 酯香越浓, 主成份 1就越年夜.主成份2 主要由乙醛、异丁醇和异戊醇决定,这些成份能够代表啤酒的“酒劲”的年夜小, 这些成份含量越高,主成份2 就越年夜,即啤酒的酒味就越重.结合这种解释, 就可以对图2 中的分类做出分析, 其中百威啤酒是酒味适中和酯香相对较浓的“浓香型”啤酒, 喜力啤酒是酒味和酯香均较浓的“浓醇型”啤酒, 青岛啤酒是酒味较重, 而酯香较弱的“醇型”啤酒, 而某品牌的啤酒则是酒味和酯香均弱的“淡型”啤酒.3.2 主成份分析法在同一品牌啤酒风味一致性评价中的应用3.2.1 主成份分析法在同一品牌分歧生产厂之间一致性评价中的应用近十几年来, 我国啤酒行业发展非常快, 啤酒企业的规模越来越年夜, 很多啤酒企业已经走出啤酒的“原产地”到异地建厂,进一步扩年夜企业的规模.对一些啤酒企业来说, 新建厂面对的消费群体和建厂前面对的消费群体较为一致, 这时就要求新建厂生产的啤酒要与原厂生产的啤酒风格一致, 以免生产厂在切换时, 消费者不认可的情况发生.图4 是同一企业的3 个分歧生产厂之间的同一品种啤酒的主成份分析图.从图4 可以看出, 总的来说, 3 个生产厂生产的啤酒还是比力一致的, 因为3 个厂生产的同一品种的啤酒的摆荡范围较小.从图4 还可以看出, 生产厂1 因为生产的历史长, 生产较稳定,因此其摆荡较小(图中的圆圈);生产厂2 和生产厂3 的稳定性就稍差一点, 这是由于这两个厂都是新厂,有个磨合的过程.同时,生产厂2和生产厂1 的风味较为一致, 生产厂 3 和生产厂1 的一致性就稍差,其中生产厂3 是最新的厂.3.2.2 主成份分析在同一生产厂啤酒一致性评价中的应用同一生产厂生产的同一品种的啤酒, 由于分歧时间的水质、原辅料等的摆荡, 最终体现在产物风味的摆荡上.同一主成份分析也可以评价产物随时间的一致性.现以某一啤酒企业2006 年生产的某品种啤酒为例说明主成份分析在产物风味一致性评价中的应用.要评价啤酒风味的一致性, 啤酒企业首先要测定啤酒的风味指标,目前通过顶空-毛细管技术能测定年夜约10 种的风味物质,分别为乙醛、DMS、甲酸乙酯、乙酸乙酯、乙酸异丁酯、正丙醇、异丁醇、乙酸异戊酯、异戊醇和己酸乙酯.以前的一些统计技术例如统计过程控制(SPC)的控制图等只能说明某一指标的摆荡情况, 而不能从总体上反映产物的摆荡性, 因为有些指标的摆荡, 不会引起产物风格的摆荡, 而主成份分析法, 是从总体上说明产物的摆荡性,比控制图更能说明产物的摆荡性.图5 是某啤酒企业 2006 年一年生产的某品种的啤酒的10 种风味指标的前两个主成份的平面坐标图,这两个主成份可反映产物约60 %的信息.图 5 中的第一个小椭圆是95 %的置信区, 即在这个椭圆外的点占5 %, 通过对该椭圆外的点进行跟进分析可以发现摆荡的原因, 并在以后的生产过程中加以防止, 以提高产物的一致性.[编纂]4 结论4.1 主成份分析法, 可以消除各变量之间的共线性, 减少变量的个数,利于后续的分析.4.2 使用主成份分析可以依照事物的相似性区分产物, 结果可用一维、二维或三维平面坐标图标示, 特别直观.4.3 将样品的数据通过主成份分析进行浓缩, 然后通过平面坐标可以实现从总体上对样品进行一致性的分析,一般的统计技术只能对某一指标进行评价.4.4 静态顶空进样高效毛细管气相色谱分析啤酒香味组分技术结合, 主成份分析技术可以有效地应用于评价分歧品牌啤酒风味的不同性、同一啤酒的风味一致性与均一性.[编纂]参考文献1. ↑邵威平,李红,张五九.主成份分析法及其在啤酒风味评价.酿酒科技2007 年第 11 期(总第 161 期)。
主成分分析
语言表达就是要求Cov(F1，F2)＝0，称F2为第二主成分， 依此类推可以造出第三，四，…，第p个主成分。不难 想像这些主成分之间不仅不相关，而且它们的方差依次 递减。因此在实际工作中，就挑选前几个最大主成分， 虽然这样做会损失一部分信息，但是由于它使我们抓住 了主要矛盾，并从原始数据中进一步提取了某些新的信 息，因而在某些实际问题的研究中得益比损失大，这种 既减少了变量的数目又抓住了主要矛盾的做法有利于问 题的分析和处理。
第p个特征值所对应特征向量处达到。
这里要说明两点：一个是数学模型中为什么作线性组合? 基于两种原因：①数学上容易处理；②在实践中效果很好。 另一个要说明的是每次主成分的选取使Var(Fi)最大，如果 不加限制就可使Var(Fi) 则就无意义了，而常用的 限制是要求 （2 ）主成分的几何意义 从代数学观点看主成分就是p个变量X1…，Xp的 一些特殊的线性组合，而在几何上这些线性组合正是把 X1，…，Xp构成的坐标系旋转产生的新坐标系，新坐标 轴使之通过样品变差最大的方向(或说具有最大的样品 方差 )。下面以最简单的二元正态变量来说明主成分的 9 2015/12/16 几何意义。
我们看到F1，F2是原变量 X1 和 X2 的线性组合，用矩阵表 示是
显然
且是正交矩阵，即
从上图还容易看出二维平面上的n个点的波动(可用方 差表示)大部分可以归结为在 F1 轴上的波动，而在F2轴上 的波动是较小的。如果上图的椭园是相当扁平的，那么我 们可以只考虑F1方向上的波动，忽略F2方向的波动。这样 一来，二维可以降为一维了，只取第一个综合变量 F1即可。 2015/12/16 11 而F1是椭园的长轴。
2、主成分分析的数学模型及几何解释
（1 ）、 数学模型
设有 n 个样品，每个样品观测p项指标(变量), X1, X2， …，Xp，得到原始数据资料阵： 2015/12/16 5
主成分分析法例子之一
l11 l12 l1p x1
Z
l21
l22
l2
p
x2
.
ln1
ln2
lnp
x
p
（6）
第十页，共19页。
三、 主成分分析方法应用实例
表1 某农业生态经济系统各区域单元的有关数据
样本 序号
1
x1：人 口密度
(人 /km2)
363.91
x 2：人 均耕地 面积
(ha)
0.352
2 141.5 1.684
j 1
第八页，共19页。
③ 计算主成分贡献率及累计贡献率
▲贡献率:
i
p
k
k 1
▲累计贡献率:
(i 1,2,, p)
i
k
k 1
p
k
k 1
(i 1,2,, p)
一般取累计贡献率达85—95%的特征值 1, 2 ,, m
所对应的第一、第二、…、第m（m≤p）个主成分。
第九页，共19页。
④各主成分的得分
第五页，共19页。
从以上的分析可以看出，主成分分析的实质
就是确定原来变量xj（j=1，2 ，…， p）在诸主 成分zi（i=1，2，…，m）上的载荷 lij（ i=1， 2，…，m； j=1，2 ，…，p）。
从数学上可以证明，载荷lij分别是相关矩 阵的m个较大的特征值所对应的特征向量。
第六页，共19页。
0.29
x9 0.744 0.094 -0.924 0.073 0.747 0.707 0.89 0.29
1
第十三页，共19页。
（2）由相关系数矩阵计算特征值，以及各个 主成分的贡献率与累计贡献率（见表3）。由 表3可知，第一，第二，第三主成分的累计贡 献率已高达86.596%（大于85%），故只需要求
Matlab主成分分析：详解+实例
主成分分析
总结:
主 原始变量 目标
成
X1, , Xm
主成分
Z1, ,Zp
分
线性组合
分
Z1, , Zp 互不相关
析 的
信息不重合 按‘重要性’排序
求解主 成分
思
Z1, , Zp
想 Var(Z1) Var(Z2 ) Var(Zp )
r
i r 2(z j , xi )，
j1
这里r(z j , xi )表示zj 与 xi 的相关系数。
主成分分析
1 2 0
例1 设 x [ x1, x2 , x3 ]T 且 R 2 5 0
0 0 0
则可算得1 5.8284，2 0.1716，如果我们仅取第
一个主成分，由于其累积贡献率已经达到97.14%， 似乎很理想了，但如果进一步计算主成分对原变量的
c1 x1+ c2 x2+… +cp xp
我们希望选择适当的权重能更好地区分学生的 成绩. 每个学生都对应一个这样的综合成绩, 记 为s1, s2,…, sn , n为学生人数. 如果这些值很分散, 表明区分好, 即是说, 需要寻找这样的加权, 能使 s1, s2,…, sn 尽可能的分散, 下面来看的统计定义.
x5:交通和通讯,
x6:娱乐教育文化服务,
x7:居住,
x8:杂项商品和服务.
对居民消费数据做主成分分析.
聚类分析
聚类分析
聚类分析
计算的Matlab程序如下:
clc,clear load czjm1999.txt
%把原始数据保存在纯文本文件czjm1999.txt中
主成分分析法实例
【转】主成分分析法概述、案例实例分析主成分分析法主成分分析也称主分量分析，旨在利用降维的思想，把多指标转化为少数几个综合指标。
在实证问题研究中，为了全面、系统地分析问题，我们必须考虑众多影响因素。
这些涉及的因素一般称为指标，在多元统计分析中也称为变量。
因为每个变量都在不同程度上反映了所研究问题的某些信息，并且指标之间彼此有一定的相关性，因而所得的统计数据反映的信息在一定程度上有重叠。
在用统计方法研究多变量问题时，变量太多会增加计算量和增加分析问题的复杂性，人们希望在进行定量分析的过程中，涉及的变量较少，得到的信息量较多。
主成分分析正是适应这一要求产生的，是解决这类题的理想工具。
主成分分析法是一种数学变换的方法, 它把给定的一组相关变量通过线性变换转成另一组不相关的变量，这些新的变量按照方差依次递减的顺序排列。
在数学变换中保持变量的总方差不变，使第一变量具有最大的方差，称为第一主成分，第二变量的方差次大，并且和第一变量不相关，称为第二主成分。
依次类推，I 个变量就有I个主成分。
这种方法避免了在综合评分等方法中权重确定的主观性和随意性，评价结果比较符合实际情况；同时，主成份分量表现为原变量的线性组合，如果最后综合指标包括所有分量，则可以得到精确的结果，百分之百地保留原变量提供的变差信息，即使舍弃若干分量，也可以保证将85％以上的变差信息体现在综合评分中，使评价结果真实可靠。
是在实际中应用得比较广的一种方法。
由于其第一主成份（因子）在所有的主成分中包含信息量最大，很多学者在研究综合评价问题时常采用第一主成分来比较不同实体间的差别。
综上所述，该方法的优点主要体现在两个方面：1.权重确定的客观性；2.评价结果真实可靠。
1．主成分分析的基本原理主成分分析：把原来多个变量划为少数几个综合指标的一种统计分析方法，是一种降维处理技术。
）记原来的变量指标为x1，x2，…，xP，它们的综合指标——新变量指标为z1，z2，…，zm（m≤p），则z1，z2，…，zm分别称为原变量指标x1，x2，…，xP的第一，第二，…，第m 主成分，在实际问题的分析中，常挑选前几个最大的主成分。
主成分分析的数学原理和实际应用案例
主成分分析的数学原理和实际应用案例主成分分析是一种常见的数据降维方法，它能够将多维数据转化为少数几个主成分，并保留大部分原数据的信息。
这种方法在数据处理、统计分析、机器学习等领域有着广泛的应用。
本文将对主成分分析的数学原理和实际应用案例进行探讨。
一、数学原理1.1 协方差和相关系数主成分分析的核心在于协方差矩阵和相关系数矩阵。
协方差矩阵描述了多个随机变量之间的线性关系，它的元素为各个变量的协方差。
相关系数矩阵是协方差矩阵标准化后的结果，能够消除变量之间的量纲差异。
两个变量的相关系数越大，它们之间的线性关系就越强。
1.2 特征值和特征向量对于一个协方差矩阵或相关系数矩阵，它的特征值和特征向量是非常重要的，它们能够帮助我们找到主成分。
特征值是一个标量，它描述了矩阵的特殊性质。
特征向量是一个非零向量，是满足线性方程组Av=λv的向量v。
其中，A是矩阵，λ是特征值。
特征向量的方向与其所对应的特征值有关，特征值越大，特征向量的重要性就越大。
1.3 主成分分析步骤主成分分析的步骤如下：（1）求出协方差矩阵或相关系数矩阵。
（2）求出矩阵的特征值和特征向量。
（3）按照特征值大小排序，选取前k个主成分。
一般来说，特征值越大，对应的特征向量就越重要。
主成分的个数取决于对数据降维的需求。
（4）将原始变量线性组合得到主成分。
主成分的特点是互相独立，同时能够代表原始变量的主要信息。
二、实际应用案例2.1 股票数据分析人们在研究股票市场时，经常需要处理大量的股票数据。
主成分分析可以帮助我们找到一些重要的指标，从而更好地预测股票的走势。
例如，我们可以选取股票的收盘价、成交量、市盈率等指标，分析它们之间的关系，并将它们转化为若干个主成分。
2.2 图像压缩在数字图像处理中，主成分分析常常用于图像压缩。
我们可以将一张高分辨率的图片转化为若干个主成分，每个主成分包含了原始图像的大部分信息。
在存储和传输图片时，仅需要保留少数几个主成分即可，从而大大节省了存储空间和传输带宽。
第十讲主分量(主成分)分析
•概 述 • 主分量分析的基本原理 • 主分量分析的计算步骤 • 主分量分析主要的作用 • 使用PRINCOMP过程进行主成分分析 • 主分量分析方法应用实例
一、概述
一般情况下，系统是由多要素构成的复杂结构， 多变量问题是经常会遇到的.变量太多，无疑会增加 分析问题的难度与复杂性，而且在许多实际问题中， 多个变量之间是具有一定的相关关系的.
从以上的分析可以看出，主成分分析的实质就
是确定原来变量xj（j=1，2 ，…， p）在诸主成分zi （i=1，2，…，m）上的系数 lij（ i=1，2，…，m； j=1，2 ，…，p）.
从数学上可以证明，它们分别是相关矩阵m个 较大的特征值所对应的特征向量.
三、主分量分析的计算步骤
（一）计算相关系数矩阵(假设该矩阵为正定阵）
1434.95 5943
1025.5
115.8
114.3
3524.79 2249
1006.39 6619
754.4
116.6
113.5
工业总产值 x8 843.43 582.51 1234.85 697.25 419.39 1840.55 762.47 1240.37 1642.95 2026.64 916.59
k 1
k 1
（1.3.2）
（二）计算特征值与特征向量
① 解特征方程 I R 0 ，常用雅可比法（Jacobi）
求出特征值，并使其按大小顺序排列
；
1 2 p 0
② 分别求出对应于特征值i 的特征向量 li (i 1,2,, p)
p
要求 li =1，即 li2j 1 ，其中lij 表示向量 li 的 第j个 j 1
分量.