《多元统计分析》第五章 主成分分析
主成分分析
主成分分析主成分分析、因子分析等在多元统计分析中属于协方差逼近技术。
主要是从协方差矩阵出发，实现一种正交变换，从而将高维系统表示为低维系统，在此过程中可以揭示研究对象的许多性质和特征。
主成分分析的结果可以用于回归分析、聚类分析、神经网络分析等等。
只要懂得线性代数中二次型化为标准型的原理，就很容易掌握主成分分析的原理，进而掌握因子分析的原理。
在理解正交变换数学原理的基础上，我们可以借助Excel 开展主成分分析。
为了清楚地说明主成分的计算过程，不妨给出一个简单的计算实例。
【例】2000 年中国各地区的城、乡人口的主成分分析。
这个例子只有两个变量（m=2）：城镇人口和乡村人口；31 个样品：即中国的31 个省、自治区和直辖市（n=31）。
资料来自2001 年《中国统计年鉴》，为2000 年全国人口普查快速汇总的11 月1 日零时数。
由于变量太少，这个例子仅仅具有教学意义——简单的实例更容易清楚地展示计算过程的细节。
计算步骤5.1.1 详细的计算过程首先，录入数据，并对数据进行适当处理（图5-1-1）。
计算的详细过程如下。
第一步，将原始数据绘成散点图主成分分析原则上要求部分变量之间具有线性相关趋势。
如果所有变量彼此之间不相关（即正交），则没有必要进行主成分分析，因为主成分分析的目的就是用正交的变量代替原来非正交的变量。
如果原始变量之间为非线性关系，则有必要对数据进行线性转换，否则效果不佳。
从图5-1-2 可见，原始数据具有非线性相关趋势，可以近似匹配幂指数函数，且测定系数R2=0.5157，相应地，相关系数R=0.7181（图5-1-2a）；取对数之后，点列具有明显的线性趋势（图5-1-2b）。
第二步，对数据进行标准化标准化的数学公式为我们将对对数变换后的数据开展主成分分析，因此只对取对数后的数据标准化。
根据图5-1-1所示的数据排列，应该按列标准化，用xij 代表取对数之后的数据，则下式分别为第j 列数据的均值和标准差，xij 为第i 行（即第i 个样本）、第j 列（即第j 个变量）的数据，xij*为相应于xij 的标准化数据，n=31 为样品数目（参见图5-1-1）。
《多元统计分析》第五章 主成分分析
盗窃罪 1881.9 3369.8 4467.4 1862.1 3499.8 3903.2 2620.7 3678.4 3840.5 2170.2 3920.4 2599.6 2828.5 2498.7 2685.1 2739.3
┆
汽车犯罪 280.7 753.3 439.5 183.4 663.5 477.1 593.2 467 351.4 297.9 489.4 237.6 528.6 377.4 219.9 244.3 ┆
伤害罪 278.3 284 312.3 203.4 358 292.9 131.8 194.2 449.1 256.5 64.1 172.5 209 153.5 89.8 180.5
┆
夜盗罪 1135.5 1331.7 2346.1 972.6 2139.4 1935.2 1346 1682.6 1859.9 1351.1 1911.5 1050.8 1085 1086.2 812.5 1270.4
v 线性组合含义的解释，从系数角度来说，取决于变量系数的符号和相对大小；从 相关系数角度来说，取决于线性组合与各变量相关系数的符号和相对大小。
11
原始变量方差差异大的情形
v 例2（书中例7.2.2 ） 设x=(x1,x2,x3)′的协方差矩阵为
16 2 30
Σ
2 30
1 4
4 100
经计算，Σ的特征值及特征向量为
需要给出这前几个主成分一个符合实际背景和意义的 解释。
(2)在更多的另一些应用中，主成分只是要达到目的 的一个中间结果 （或步骤），而非目的本身。
例如，主成分聚类、主成分回归、评估正态性、寻找 异常值，以及寻找原始变量间的多重共线性关系等。
此时的主成分可不必给出解释。
多元统计分析中的协方差矩阵与主成分分析
多元统计分析中的协方差矩阵与主成分分析在多元统计分析中，协方差矩阵和主成分分析是两个非常重要的概念。
协方差矩阵用于描述随机变量之间的相关性，而主成分分析则是一种通过线性变换将高维数据转化为低维数据的方法。
本文将详细介绍协方差矩阵和主成分分析的原理和应用。
一、协方差矩阵的概念和计算方法协方差矩阵是多元统计分析中用于描述随机变量之间关系的一种矩阵。
对于n个随机变量X1，X2，...，Xn，其协方差矩阵定义为一个n×n的矩阵Σ，其中Σij表示随机变量Xi和Xj之间的协方差。
协方差矩阵的计算方法如下：1. 首先计算随机变量Xi的均值μi和随机变量Xj的均值μj；2. 然后计算随机变量Xi和Xj的协方差Cov(Xi,Xj)；3. 将协方差填入协方差矩阵Σ的对应位置。
需要注意的是，协方差矩阵是一个对称矩阵，即Σij=Σji。
同时，协方差矩阵的对角线上的元素是各个随机变量的方差。
二、主成分分析的原理和步骤主成分分析(Principal Component Analysis, PCA)是一种通过线性变换将原始数据转化为具有统计特性的新坐标系的方法。
主成分分析的原理如下：1. 假设我们有m个样本，每个样本有n个特征，可以将这些样本表示为一个m×n的矩阵X；2. 对X进行去均值操作，即将每个特征减去该特征的均值，得到一个新的矩阵X'；3. 计算X'的协方差矩阵Σ；4. 对Σ进行特征值分解，得到特征值和对应的特征向量；5. 将特征值按照从大到小的顺序排列，选择前k个特征值对应的特征向量作为主成分；6. 将原始数据X'与主成分构成的新坐标系相乘，得到降维后的数据X''。
通过主成分分析，我们可以将高维的数据降维到低维，并且保留了大部分的信息。
主成分分析在数据降维、特征提取和数据可视化等领域都有广泛的应用。
三、协方差矩阵与主成分分析的应用协方差矩阵和主成分分析在实际应用中有着广泛的应用。
[统计学]多元统计分析(何晓群 中国人民大学)5第五章主成分分析
![[统计学]多元统计分析(何晓群 中国人民大学)5第五章主成分分析](https://img.taocdn.com/s3/m/71b4f5042f60ddccdb38a008.png)
1 μ 2
则上述二元正态分布的密度函数有如下矩阵形式：
2019/1/20
中国人民大学六西格玛质量管理研究中心
16
目录 上页 下页 返回 结束
§5.2 主成分分析的几何意义
1 1 / 2 ( X μ )'Σ 1 ( X μ ) f ( X1, X 2 ) e 1/ 2 2 | Σ |
Y1 X 1 cos X 2 sin Y2 X 1 sin X 2 cos
2019/1/20
中国人民大学六西格玛质量管理研究中心
13
目录 上页 下页 返回 结束
§5.2 主成分分析的几何意义
其矩阵形式为：
Y1 cos Y2 sin sin X1 U X cos X 2
2012318中国人民大学六西格玛质量管理研究中心11目录上页下页返回结束52主成分分析的几何意义由第一节的介绍我们知道在处理涉及多个指标问题的时候为了提高分析的效率可以不直接对个指标构成的随机向量进行分析而是先对向量进行线性变换形成少数几个新的综合变量使得各综合变量之间相互独立且能解释原始变量尽可能多的信息这样在以损失很少部分信息为代价的前提下达到简化数据结构提高分析效率的目的
U 为旋转变换矩阵，由上式可知它是正交阵， 其中， 即满足
U' U1 ,
U 'U I
2019/1/20
中国人民大学六西格玛质量管理研究中心
14
目录 上页 下页 返回 结束
§5.2 主成分分析的几何意义
经过这样的旋转之后，N 个样品点在 Y1 轴上的离散程度最 大，变量 Y1代表了原始数据绝大部分信息，这样，有时在研 究实际问题时，即使不考虑变量 Y2 也无损大局。因此，经过 上述旋转变换就可以把原始数据的信息集中到 Y1 轴上，对数 据中包含的信息起到了浓缩的作用。进行主成分分析的目的 就是找出转换矩阵 U ，而进行主成分分析的作用与几何意义 也就很明了了。下面我们用遵从正态分布的变量进行分析， 以使主成分分析的几何意义更为明显。为方便，我们以二元 正态分布为例。对于多元正态总体的情况，有类似的结论。
主成分分析
主成分分析法主成分分析是多元统计分析的一个分支。
20世纪30年代，由于费希尔、霍特林、许宝禄及罗伊等人的一系列奠基工作，多元统计分析成为应用数学的一个重要分支。
主成分分析法是处理多元变量数据的一种数学方法，它从众多的观测变量中找出几个相互独立的因素来解释原有的变量，这些因素称为主成分。
通过主成分分析法的数学处理，可以将互相间有联系的多变量复杂系统简化成几个可以解释这些变量的综合因素，这样可以清楚的解释系统的本质及相互间的关系。
抽取抽取综合因素及如何定义要按综合因素与原变量的关系而定，即按综合和因素对变量的影响程度，称为变量在综合因素上的“负荷”。
最终还可以计算出受测样本在综合因素上的水平，称为主成分分析。
主成分分析发广泛应用于复杂系统的相互比较研究中。
设一个系统共有P个指标表示，而且这P个指标中可能有些指标互相有影响。
主成分分析法就是要用几个综合因素反映原来几个指标的信息，而且这些因素又是相互无关的。
一基本原理现实生活中，人们常常遇到多指标问题。
在大多数情况下，不同指标之间具有一定的相关性，这就增加了分析处理问题的难度。
于是统计学家们就设法将指标重新组合成一组相互独立的少数几个综合指标来代替原有指标，并且反映原有指标的主要信息。
这种将多指标化为少数独立的综合指标的方法就称为主成分分析法。
主成分分析(Principal Component Analysis,PCA),首先是由英国的皮尔生（Karl Pearosn）对非随机变量引入的，而后美国的数理统计学家霍特林在1933年将此法推广到随即向量的情形。
主成分分析法的降维思想从一开始就很好的为综合评价提供了有力的理论和技术支持。
主成分分析是研究如何将多指标问题转化为较少的综合指标的一种重要统计方法，它能将高维空间的问题转化到低维空间去处理，使问题变得比较简单、直观，而且这些较少的综合指标之间互不相关，又能提供原有指标的绝大部分信息。
主成分分析除了降低多变量数据系统的维度外，同时还简化了变量系统的统计数字特征。
多元统计分析公式主成分分析判别分析
多元统计分析公式主成分分析判别分析多元统计分析是一种通过收集和分析多个变量之间相互作用关系来帮助我们理解、解释和预测数据的方法。
其中，主成分分析和判别分析是常用的多元统计分析方法。
本文将对这两种方法的公式和应用进行介绍。
一、主成分分析主成分分析（Principal Component Analysis，简称PCA）是一种通过线性变换将一组可能存在相关性的变量转化为一组线性无关的新变量的方法。
它的基本思想是通过将原始变量进行线性组合来构建主成分，这些主成分能够解释原始数据中大部分的方差。
主成分分析的公式如下：X = A * T其中，X是原始数据矩阵，A是变量相关系数矩阵，T是主成分得分矩阵。
主成分分析的步骤如下：1. 标准化数据：将原始数据标准化，确保各个变量具有相同的尺度。
2. 计算相关系数矩阵：计算标准化后的数据的相关系数矩阵A。
3. 计算特征值和特征向量：对相关系数矩阵进行特征值分解，得到特征值和对应的特征向量。
4. 选择主成分：根据特征值的大小选择前n个主成分。
5. 计算主成分得分：将原始数据投影到所选的主成分上，得到主成分得分矩阵T。
主成分分析的应用十分广泛，常用于降维、数据可视化、变量选择等领域。
例如，在社会科学研究中，可以将大量的社会经济指标通过主成分分析进行降维，从而更好地理解社会现象。
二、判别分析判别分析（Discriminant Analysis）是一种帮助我们根据已知类别数据预测未知类别数据的方法。
判别分析通过寻找最佳投影方向，将不同类别的样本在投影后最大程度地分离开来，从而提高分类的准确性。
判别分析的公式如下：D = W * X其中，D是判别得分，W是权重系数，X是原始数据。
判别分析的步骤如下：1. 计算类内散度矩阵和类间散度矩阵：分别计算各个类别的散度矩阵。
2. 计算广义特征值和广义特征向量：对类内散度矩阵和类间散度矩阵进行广义特征值分解，得到广义特征值和对应的广义特征向量。
多元统计分析课后练习答案
第1章 多元正态分布1、在数据处理时,为什么通常要进行标准化处理数据的标准化是将数据按比例缩放,使之落入一个小的特定区间;在某些比较和评价的指标处理中经常会用到,去除数据的单位限制,将其转化为无量纲的纯数值,便于不同单位或量级的指标能够进行比较和加权;其中最典型的就是0-1标准化和Z 标准化;2、欧氏距离与马氏距离的优缺点是什么欧氏距离也称欧几里得度量、欧几里得度量,是一个通常采用的距离定义,它是在m 维空间中两个点之间的真实距离;在二维和三维空间中的欧氏距离的就是两点之间的距离;缺点：就大部分统计问题而言,欧氏距离是不能令人满意的;每个坐标对欧氏距离的贡献是同等的;当坐标表示测量值时,它们往往带有大小不等的随机波动,在这种情况下,合理的方法是对坐标加权,使变化较大的坐标比变化较小的坐标有较小的权系数,这就产生了各种距离;当各个分量为不同性质的量时,“距离”的大小与指标的单位有关;它将样品的不同属性之间的差别等同看待,这一点有时不能满足实际要求;没有考虑到总体变异对距离远近的影响;马氏距离表示数据的协方差距离;为两个服从同一分布并且其协方差矩阵为Σ的随机变量与的差异程度:如果协方差矩阵为单位矩阵,那么马氏距离就简化为欧氏距离,如果协方差矩阵为对角阵,则其也可称为正规化的欧氏距离;优点：它不受量纲的影响,两点之间的马氏距离与原始数据的测量单位无关;由标准化数据和中心化数据计算出的二点之间的马氏距离相同;马氏距离还可以排除变量之间的相关性的干扰;缺点：夸大了变化微小的变量的作用;受协方差矩阵不稳定的影响,马氏距离并不总是能顺利计算出;3、当变量X1和X2方向上的变差相等,且与互相独立时,采用欧氏距离与统计距离是否一致统计距离区别于欧式距离,此距离要依赖样本的方差和协方差,能够体现各变量在变差大小上的不同,以及优势存在的相关性,还要求距离与各变量所用的单位无关;如果各变量之间相互独立,即观测变量的协方差矩阵是对角矩阵, 则马氏距离就退化为用各个观测指标的标准差的倒数作为权数的加权欧氏距离;4、如果正态随机向量12(,,)p X X X X '=的协方差阵为对角阵,证明X 的分量是相互独立的随机变量;解： 因为12(,,)p X X X X '=的密度函数为 又由于21222p σσσ⎛⎫ ⎪ ⎪= ⎪ ⎪ ⎪⎝⎭Σ 则1(,...,)p f x x则其分量是相互独立;5.1y 和2y 是相互独立的随机变量,且1y ～）1,0（N ,2y ～）4,3（N ;（a ）求21y 的分布;（b ）如果⎥⎦⎤⎢⎣⎡-=2/)3(21y y y ,写出y y '关于1y 与2y 的表达式,并写出y y '的分布; （c ）如果⎥⎦⎤⎢⎣⎡=21y y y 且y ～∑），（μN ,写出∑-'1y y 关于1y 与2y 的表达式,并写出∑-'1y y 的分布;解：a 由于1y ～）1,0（N ,所以1y ～）1（2χ; b 由于1y ～）1,0（N ,2y ～）4,3（N ；所以232-y ～）1,0（N ；故2221)23(-+='y y y y ,且y y '～）2（2χ第2章 均值向量和协方差阵的检验1、略2、试谈Wilks 统计量在多元方差分析中的重要意义;3、题目此略多元均值检验,从题意知道,容量为9的样本 ,总体协方差未知假设H0：0μμ= , H1：0μμ≠ n=9 p=5检验统计量/n-1)()(0102μμ-'-=-X S X n T 服从P,n-1的2T 分布 统计量2T 实际上是样本均值与已知总体均值之间的马氏距离再乘以nn-1,这个值越大,相等的可能性越小,备择假设成立时,2T 有变大的趋势,所以拒绝域选择2T 值较大的右侧部分,也可以转变为F 统计量零假设的拒绝区域 {n-p/n-1p}2T >,()p n p F α-1/102T >F5,45μ0= 2972 ’样本均值 ’样本均值-μ0’=协方差矩阵降维——因子分析——抽取Inter-Item Covariance Matrix人均GDP元三产比重%人均消费元人口增长%文盲半文盲%人均GDP元三产比重%人均消费元人口增长%文盲半文盲%协方差的逆矩阵计算：2T=9s^-1 ’F统计量=> 拒绝零假设,边缘及少数民族聚居区的社会经济发展水平与全国平均水平有显着差异;4、略第3章聚类分析1.、聚类分析的基本思想和功能是什么聚类分析的基本思想是研究的样品或指标之间存着程度不同的相似性,于是根据一批样品的多个观测指标,具体找出一些能够度量样品或指标之间的相似程度的统计量,以这些统计量作为划分类型的依据,把一些相似程度较大的样品聚合为一类,把另外一些彼此之间相似程度较大的样品又聚合为另外一类,直到把所有的样品聚合完毕,形成一个有小到大的分类系统,最后再把整个分类系统画成一张分群图,用它把所有样品间的亲疏关系表示出来;功能是把相似的研究对象归类;2、试述系统聚类法的原理和具体步骤;系统聚类是将每个样品分成若干类的方法,其基本思想是先将各个样品各看成一类,然后规定类与类之间的距离,选择距离最小的一对合并成新的一类,计算新类与其他类之间的距离,再将距离最近的两类合并,这样每次减少一类,直至所有的样品合为一类为止; 具体步骤：1、对数据进行变换处理；不是必须的,当数量级相差很大或指标变量具有不同单位时是必要的2、构造n个类,每个类只包含一个样本；3、计算n个样本两两间的距离ijd；4、合并距离最近的两类为一新类；5、计算新类与当前各类的距离,若类的个数等于1,转到6；否则回4；6、画聚类图；7、决定类的个数,从而得出分类结果;3、试述K-均值聚类的方法原理;K-均值法是一种非谱系聚类法,把每个样品聚集到其最近形心均值类中,它是把样品聚集成K个类的集合,类的个数k可以预先给定或者在聚类过程中确定,该方法应用于比系统聚类法大得多的数据组;步骤是把样品分为K个初始类,进行修改,逐个分派样品到期最近均值的类中通常采用标准化数据或非标准化数据计算欧氏距离重新计算接受新样品的类和失去样品的类的形心;重复这一步直到各类无元素进出;4、试述模糊聚类的思想方法;模糊聚类分析是根据客观事物间的特征、亲疏程度、相似性,通过建立模糊相似关系对客观事物进行聚类的分析方法,实质是根据研究对象本身的属性构造模糊矩阵,在此基础上根据一定的隶属度来确定其分类关系;基本思想是要把需要识别的事物与模板进行模糊比较,从而得到所属的类别;简单地说,模糊聚类事先不知道具体的分类类别,而模糊识别是在已知分类的情况下进行的;模糊聚类分析广泛应用在气象预报、地质、农业、林业等方面;它有两种基本方法:系统聚类法和逐步聚类法;该方法多用于定性变量的分类;5、略第4章判别分析1、应用判别分析应该具备什么样的条件答：判别分析最基本的要求是,分组类型在两组以上,每组案例的规模必须至少在一个以上,解释变量必须是可测量的,才能够计算其平均值和方差;对于判别分析有三个假设：1每一个判别变量不能是其他判别变量的线性组合;有时一个判别变量与另外的判别变量高度相关,或与其的线性组合高度相关,也就是多重共线性;2各组变量的协方差矩阵相等;判别分析最简单和最常用的的形式是采用现行判别函数,他们是判别变量的简单线性组合,在各组协方差矩阵相等的假设条件下,可以使用很简单的公式来计算判别函数和进行显着性检验;3各判别变量之间具有多元正态分布,即每个变量对于所有其他变量的固定值有正态分布,在这种条件下可以精确计算显着性检验值和分组归属的概率;2、试述贝叶斯判别法的思路;答：贝叶斯判别法的思路是先假定对研究的对象已有一定的认识,常用先验概率分布来描述这种认识,然后我们取得一个样本,用样本来修正已有的认识先验概率分布,得到后验概率分布,各种统计推断都通过后验概率分布来进行;将贝叶斯判别方法用于判别分析,就得到贝叶斯判别;3、试述费歇判别法的基本思想;答：费歇判别法的基本思想是将高维数据点投影到低维空间上来,然而利用方差分析的思想选出一个最优的投影方向;因此,严格的说费歇判别分析本身不是一种判别方法,只是利用费歇统计量进行数据预处理的方法,以使更有利于用判别分析方法解决问题;为了有利于判别,我们选择投影方向a应使投影后的k个一元总体能尽量分开同一总体中的样品的投影值尽量靠近;k要做到这一点,只要投影后的k个一元总体均值有显着差异,即可利用方差分析的方法使组间平方和尽可能的大;则选取投影方向a使Δa达极大即可;4、什么是逐步判别分析答：具有筛选变量能力的判别方法称为逐步判别分析法;逐步判别分析法就是先从所有因子中挑选一个具有最显着判别能力的因子,然后再挑选第二个因子,这因子是在第一因子的基础上具有最显着判别能力的因子,即第一个和第二个因子联合起来有显着判别能力的因子；接着挑选第三个因子,这因子是在第一、第二因子的基础上具有最显着判别能力的因子;由于因子之间的相互关系,当引进了新的因子之后,会使原来已引入的因子失去显着判别能力;因此,在引入第三个因子之后就要先检验已经引入的因子是否还具有显着判别能力,如果有就要剔除这个不显着的因子；接着再继续引入,直到再没有显着能力的因子可剔除为止,最后利用已选中的变量建立判别函数;5、简要叙述判别分析的步骤及流程答：1研究问题：选择对象,评估一个多元问题各组的差异,将观测个体归类,确定组与组之间的判别函数;2设计要点：选择解释变量,样本量的考虑,建立分析样本的保留样本;3假定：解释变量的正态性,线性关系,解释变量间不存在多重共线性,协方差阵相等;4估计判别函数：联立估计或逐步估计,判别函数的显着性;5使用分类矩阵评估预测的精度：确定最优临界得分,确定准则来评估判对比率,预测精确的统计显着性;6判别函数的解释：需要多少个函数;评价单个函数主要从判别权重、判别载荷、偏F值几个方面；评价两个以上的判别函数,分为评价判别的函数和评价合并的函数;7判别结果的验证：分开样本或交叉验证,刻画组间的差异;6、略第5章主成分分析1、主成分的基本思想是什么在对某一事物进行实证研究时,为更全面、准确地反映事物的特征及其发展规律,往往考虑与其有关的多个指标,在多元统计中也称为变量;一方避免遗漏重要信息而考虑尽可能多的指标看,另一方面考虑指标的增多,又难以避免信息重叠;希望涉及的变量少,而得到的信息量有较多;主成分的基本思想是研究如何通过原来的少数几个线性组合来解释原来变量绝大多数信息的一种多元统计方法;研究某一问题涉及的众多变量之间有一定的相关性,必然存在着支配作用的公共因素;通过对原始变量相关矩阵或协方差矩阵内部结构关系的研究,利用原始变量的线性组合形成几个无关的综合指标主成分来代替原来的指标;通常数学上的处理就是将原来P个指标作线性组合,作为新的综合指标;最经典的做法就是用F1选取的第一个线性组合,即第一个综合指标的方差来表达,即VarF1越大,表示F1包含的信息越多;因此在所有的线性组合中选取的F1应该是方差最大的,故称F1为第一主成分,如果第一主成分不足以代表原来P个指标的信息,再考虑选取F2即选第二个线性组合,为了有效地反映原来信息,F1已有的信息就不需要再出现在F2中,用数学语言表达就是要求CovF1,F2=0则称F2为第二主成分,依此类推可以构造出第三、第四······,第P个主成分;2、主成分在应用中的主要作用是什么作用：利用原始变量的线性组合形成几个综合指标主成分,在保留原始变量主要信息的前提下起到降维与简化问题的作用,使得在研究复杂问题时更容易抓住主要矛盾;通过主成分分析,可以从事物之间错综复杂的关系中找出一些主要成分,从而能有效利用大量数据进行定量分析,解释变量之间的内在关系,得到对事物特征及其发展规律的一些深层次的启发,把研究工作引向深入;主成分分析能降低所研究的数据空间的维数,有时可通过因子载荷aij的结论,弄清X变量间的某些关系,多维数据的一种图形表示方法,用主成分分析筛选变量,可以用较少的计算量来选择,获得选择最佳变量子集合的效果;3.由协方差阵出发和由相关阵出发求主成分有什么不同1由协方差阵出发设随即向量X=X1,X2,X3,……Xp’的协方差矩阵为Σ,1≥2≥……≥p为Σ的特征值,γ1,γ2,……γp为矩阵A各特征值对应的标准正交特征向量,则第i个主成分为Yi=γ1iX1+γ2iX2+……+γpiXp,i=1,2,……,p此时VARYi=i,ＣＯＶＹｉ,Ｙｊ＝０,ｉ≠ｊ我们把X1,X2,X3,……Xp的协方差矩阵Σ的非零特征根1≥2≥……≥p＞0向量对应的标准化特征向量γ1,γ2,……γp分别作为系数向量,Y1=γ1’X, Y2=γ2’X,……, Yp=γp’X分别称为随即向量X的第一主成分,第二主成分……第p主成分;Y的分量Y1,Y2,……,Yp依次是X的第一主成分、第二主成分……第p主成分的充分必要条件是：1Y=P’X,即P为p阶正交阵,2Y的分量之间互不相关,即DY=diag1,2,……,p,3Y的p个分量是按方差由大到小排列,即1≥2≥……≥p;2由相关阵出发对原始变量X进行标准化,Z=Σ^1/2^-1X-μ covZ=R原始变量的相关矩阵实际上就是对原始变量标准化后的协方差矩阵,因此,有相关矩阵求主成分的过程与主成分个数的确定准则实际上是与由协方差矩阵出发求主成分的过程与主成分个数的确定准则相一致的;λi,γi 分别表示相关阵R的特征根值与对应的标准正交特征向量,此时,求得的主成分与原始变量的关系式为：Yi=γi’Z=γi’Σ^1/2^-1X-μ在实际研究中,有时单个指标的方差对研究目的起关键作用,为了达到研究目的,此时用协方差矩阵进行主成分分析恰到好处;有些数据涉及到指标的不同度量尺度使指标方差之间不具有可比性,对于这类数据用协方差矩阵进行主成分分析也有不妥;相关系数矩阵计算主成分其优势效应仅体现在相关性大、相关指标数多的一类指标上;避免单个指标方差对主成分分析产生的负面影响,自然会想到把单个指标的方差从协方差矩阵中剥离,而相关系数矩阵恰好能达到此目的;4、略第6章因子分析1、因子分析与主成分分析有什么本质不同答：1因子分析把诸多变量看成由对每一个变量都有作用的一些公共因子和一些仅对某一个变量有作用的特殊因子线性组合而成,因此,我们的目的就是要从数据中探查能对变量起解释作用的公共因子和特殊因子,以及公共因子和特殊因子的线性组合;主成分分析则简单一些,它只是从空间生成的角度寻找能解释诸多变量绝大部分变异的几组彼此不相关的新变量2因子分析中,把变量表示成各因子的线性组合,而主成分分析中,把主成分表示成各变量的线性组合3主成分分析中不需要有一些专门假设,因子分析则需要一些假设,因子分析的假设包括：各个因子之间不相关,特殊因子之间不相关,公共因子和特殊因子之间不相关;4在因子分析中,提取主因子的方法不仅有主成分法,还有极大似然法等,基于这些不同算法得到的结果一般也不同;而主成分分析只能用主成分法提取;5主成分分析中,当给定的协方差矩阵或者相关矩阵的特征根唯一时,主成分一般是固定；而因子分析中,因子不是固定的,可以旋转得到不同的因子;6在因子分析中,因子个数需要分析者指定,结果随指定的因子数不同而不同;在主成分分析中,主成分的数量是一定的,一般有几个变量就有几个主成分; 7与主成分分析相比,由于因子分析可以使用旋转技术帮助解释因子,在解释方面更加有优势;而如果想把现有的变量变成少数几个新的变量新的变量几乎带有原来所有变量的信息来进行后续的分析,则可以使用主成分分析;2、因子载荷ij a 的统计定义是什么它在实际问题的分析中的作用是什么答：1因子载荷ij a 的统计定义：是原始变量i X 与公共因子j F 的协方差,i X 与j F ),...,2,1;,...,2,1(m j p i ==都是均值为0,方差为1的变量,因此ij a 同时也是i X 与j F 的相关系数;（2）记),,...,2,1(...222212m j a a a g pjj j j =+++=则2j g 表示的是公共因子j F 对于X 的每一分量),...,2,1(p i X i =所提供的方差的总和,称为公共因子j F 对原始变量X 的方贡献,它是衡量公共因子相对重要性的指标;2j g 越大,表明公共因子j F 对i X 的贡献越大,或者说对X的影响作用就越大;如果因子载荷矩阵对A 的所有的),...,2,1(2m j g j =都计算出来,并按大小排序,就可以依此提炼出最有影响的公共因子;3、略第7章 对应分析1、试述对应分析的思想方法及特点;思想：对应分析又称为相应分析,也称R —Q 分析;是因子分子基础发展起来的一种多元统计分析方法;它主要通过分析定性变量构成的列联表来揭示变量之间的关系;当我们对同一观测数据施加R 和Q 型因子分析,并分别保留两个公共因子,则是对应分析的初步;对应分析的基本思想是将一个联列表的行和列中各元素的比例结构以点的形式在较低维的空间中表示出来;它最大特点是能把众多的样品和众多的变量同时作到同一张图解上,将样品的大类及其属性在图上直观而又明了地表示出来,具有直观性;另外,它还省去了因子选择和因子轴旋转等复杂的数学运算及中间过程,可以从因子载荷图上对样品进行直观的分类,而且能够指示分类的主要参数主因子以及分类的依据,是一种直观、简单、方便的多元统计方法;特点：对应分析的基本思想是将一个联列表的行和列中各元素的比例结构以点的形式在较低维的空间中表示出来;它最大特点是能把众多的样品和众多的变量同时作到同一张图解上,将样品的大类及其属性在图上直观而又明了地表示出来,具有直观性;另外,它还省去了因子选择和因子轴旋转等复杂的数学运算及中间过程,可以从因子载荷图上对样品进行直观的分类,而且能够指示分类的主要参数主因子以及分类的依据,是一种直观、简单、方便的多元统计方法;2、试述对应分析中总惯量的意义;总惯量不仅反映了行剖面集定义的各点与其重心加权距离的总和,同时与2x 统计量仅相差一个常数,而2x 统计量反映了列联表横联与纵联的相关关系,因此总惯量也反映了两个属性变量各状态之间的相关关系;对应分析就是在对总惯量信息损失最小的前提下,简化数据结构以反映两属性变量之间的相关关系;3、略 第8章 典型相关分析1、试述典型相关分析的统计思想及该方法在研究实际问题中的作用;答： 典型相关分析是研究两组变量之间相关关系的一种多元统计方法;用于揭示两组变 量之间的内在联系;典型相关分析的目的是识别并量化两组变量之间的联系;将两z |Uz |V 组变量相 关关系的分析转化为一组变量的线性组合与另一组变量线性组合之间的相关关系;基本思想：1在每组变量中找出变量的线性组合,使得两组的线性组合之间具有最大的相关系数;即：X X 1, X 2, , , X p 、XX 1, X 2, , , X q 是两组相互关联的随机变量,分别在两组变量中选取若干有代表性的综合变量 U i 、Vi,使是原变量的线性组合;U i a 1X 1 a 2 X 2..... a P X P ≡ a ‘XV i b 1Y 1 b 2 Y 2 .... b q Y q ≡ b‘Y 在 D aX D bX 1 的条件下,使得 aX , bX 达到最大;2选取和最初挑选的这对线性组合不相关的线性组合,使其配对,并选取相关系数最大的一对;（3）如此继续下去,直到两组变量之间的相关性被提取完毕为此;其作用为：进行两组变量之间的相关性分析,用典型相关系数衡量两组变量之间的相关性;2、简述典型相关分析中冗余分析的内容及作用;答：典型型冗余分析的作用即分析每组变量提取出的典型变量所能解释的该组样本总方差的比 例,从而定量测度典型变量所包含的原始信息量;第一组变量样本的总方差为 t r R 11 p ,第二组变量样本的总方差为 t r R 22 q ;*A ˆz和*B ˆz 是样本典型相关系数矩阵,典型系数向量是矩阵的行向量, Z z z **A ˆU ˆ=,Z z z **B ˆV ˆ=前 r 对典型变量对样本总方差的贡献为则第一组样本方差由前 r 个典型变量解释的比例为：第二组样本方差由前 r 个典型变量解释的比例为：3、典型变量的解释有什么具体方法实际意义是什么答：主要使用三种方法：1典型权重标准相关系数：传统的解释典型函数的方法包括观察每个原始变量在它的典型变量中的典型权重,即标准化相关系数StandardizedCanonical Coefficients 的符号和大小;有较大的典型权重,则说明原始变量对它的典型变量的贡献较大,反之则相反;原始变量的典型权重有相反的符号说明变量之间存在一种反面关系,反之则有正面关系;但是这种解释遭到了很多批评;这些问题说明在解释典型相关的时候应慎用典型权重;（2）典型载荷结构系数：由于典型载荷逐步成为解释典型相关分析结果的基础;典型载荷分析,即典型结构分析Canonical Structure Analyse,是原始变量自变量或者因变量与它的典型变量间的简单线性相关系数;典型载荷反映原始变量与典型变量的共同方差,它的解释类似于因子载荷,就是每个原始变量对典型函数的相对贡献;（3）典型交叉载荷交叉结构系数：它的提出时作为典型载荷的替代,也属于典型结构分析;计算典型交叉载荷包括每个原始因变量与自变量典型变量直接相关,反之亦然;交叉载荷提供了一个更直接地测量因变量组与自变量组之间的关系的指标;实际意义：即使典型相关系数在统计上是显着的,典型根和冗余系数大小也是可接受的,研究者仍需对结果做大量的解释;这些解释包括研究典型函数中原始变量的相对重要性;4.、略。
多元统计分析主成分分析
第主 成 分
二分 析 的
章基 本 概 念
定义与目的
定义
主成分分析是一种降维技术，通过线 性变换将多个具有相关性的变量转化 为少数几个互不相关的综合变量，这 些综合变量称为主成分。
目的
简化数据结构，降低维度，揭示隐藏在 数据中的模式和关系，同时保留原始数 据中的大部分变异信息。
原理与步骤
原理与步骤
02 03
碎石图（Scree Plot）
一种可视化工具，用于辅助确定主成分的数量。通过观察特征值 的变化趋势，可以判断哪些特征值对应的主成分具有较大的解释 力度，从而决定保留的主成分数量。
解释性原则
根据实际问题的需求和背景知识，选择能够解释数据变异性、反 映主要结构或关系的主成分。
第主 成 分
四分 析 的
转换数据
将原始数据转换为新的主成分坐 标系，得到主成分得分。
结果解释与讨论
结果解释
通过主成分分析，我们提取了三个主成分，这三个主成分分别代表了用户购买的商品类别、购买频率和购买金额。这 三个主成分解释了原始数据方差的80%。
结果讨论
通过主成分分析，我们可以更好地理解用户购买行为的特点和规律。例如，我们可以发现某些商品类别对用户购买行 为的影响较大，而有些商品类别的影响较小。此外，我们还可以发现购买频率和购买金额对用户购买行为的影响程度 不同。这些结果可以为电商平台的营销策略提供有价值的参考信息。
因子分析
识别潜在因子
主成分分析可以用于识别潜在的因子，这些因子可能对数据的解释有重要影响。通过主 成分分析，可以确定这些因子的数量和性质，从而更好地理解数据的内在结构。
解释变量间的关系
主成分分析可以帮助解释变量间的关系，通过将多个变量转化为少数几个主成分，可以 更好地理解变量间的相互作用和依赖关系。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
y1* 的贡献率为
0.241
t2*
0.856 0.457
,
0.741
t3*
0.142 0.656
1* 2.114 0.705
33
1
1 2
3
109.793 117
0.938
18
相应的主成分分别为 y1* 0.627x1* 0.497x2* 0.600x3*
y2* 0.241x1* 0.856x2* 0.457x3*
v 通常取（相对于p）较小的m ，使得累计贡献达到一个较高的百分比
（如80％～90％）。此时，y1,y2, ⋯ ,ym可用来代替x1,x2,⋯ ,xp，从而达到 降维的目的，而信息的损失却不多。
8
3.原始变量xi与主成分yk之间的相关系数
v
x=Ty
即
所以
xi=ti1y1+ti2y2+…+tipyp
y* T *x*
15
y* T *x*
从R出发的主成分性质
v (1) E
y*
0，V
y*
Λ* ，其中Λ* diag
1*
,
2*
,
,
* p
。
p
p
p
v (2) i* p 。
i ii
i 1
i 1
i1
v (3) 变量xi*与主成分yk*之间的相关系数
xi ,yk
k ii
tik
v 几何上，ti表明了第i主成分的方向，且t1,t2,⋯ ,tp相互垂直。
2
主成分向量与原始向量之间的关系式
v
y1 t1x t1
y
y2
t2 x
t2
x
T
x
y
p
t
p
x
t
p
其中T t1,t2 ,,t p tik 是正交矩阵。
v 该变换的几何意义是将由x1,x2,⋯ ,xp构成的原p维坐标轴作一正交旋转。
v 线性组合含义的解释，从系数角度来说，取决于变量系数的符号和相对大小；从 相关系数角度来说，取决于线性组合与各变量相关系数的符号和相对大小。
11
原始变量方差差异大的情形
v 例2（书中例7.2.2 ） 设x=(x1,x2,x3)′的协方差矩阵为
16 2 30
Σ
2 30
1 4
4 100
经计算，Σ的特征值及特征向量为
14
v
设 1*
2*
* p
0
为R的p个特征值，
t1*, t2*,,
t
* p
为相应的单位特征
向量，且相互正交，则p个主成分为
y1* t1*x* , y2* t2*x* ,, y*p t*px*
v记
于是
y*
y1* , y2* ,, y*p ,
T*
t1*
,
t2*
,,
t
* p
ti*k
4
主成分降维的说明性例子
V(y1)=max
旋转公式：
y1 y2
x1 cos x2 sin x1 sin x2 cos
5
《多元统计分析》MOOC
5.2 总体的主成分
王学民
一、主成分的定义及解
V ka1x
v 设x ( x1, x2,, x p )，E(x)=μ，V(x)=Σ。考虑如下的线性函数 k2V a1x y1 a11x1 a21x2 a p1x p a1x
它的方差具有最大值λ1。
1
v 如果第一主成分所含信息不够多，则需考虑再使用y2 a2 x，并要求
Cov(y1,y2) =0
在此条件和约束条件 a2 1下寻求向量a2，使得V y2 a2 Σa2 达到最
大，所求的y2称为第y2二主t12成x1分 t。22 x可2 求得 t p2 x p t2 x
v
yk=t1kx1+⋯ +tikxi+⋯ +tpkxp
称tik为yk在xi上的载荷，它反映了xi对yk的重要程度。
v xi ,yk (
k ii
tik
)
与tik同符号，且成正比。
v 在解释主成分时，我们需要考察载荷，同时也应考察一下相关系数，
前者更值得重视。
10
对原始变量线性组合含义的解释
v 例1 设高考的四门课成绩（满分同为150分）：数学（x1）、物理（x2）、语文（ x3）和外语（x4），解释如下一些线性组合的大致含义： a 0.54x1 0.47x2 0.60x3 0.45x4 b 0.54x1 0.47x2 0.60x3 0.45x4 c 0.54x1 0.47x2 0.60x3 0.45x4 d 5.4x1 4.7x2 6.0x3 4.5x4 e 0.054x1 0.047x2 0.060x3 0.045x4
v 通常我们取前几个主成分，因此所取主成分会过于照顾方差大的原始变量 ，而对方差小的原始变量却照顾得不够。
v 原始变量的方差大小差异大时第一主成分的贡献率或前几个主成分的累计 贡献率往往显得很大。
Ø 在例2中，
1
1 2
3
109.793 117
0.938
13
三、从相关阵出发求主成分
v 通常有两种情形不适合直接从协方差矩阵Σ出发进行主成分分析。
xi*，yk* k*ti*k，i,k 1, 2,, p
变换为
xi*，yk*
ti*k
k*，
i 1, 2,, p, k 1, 2,, p
16
即有
x1*，yk*
x2*，yk*
x*p，yk*
t1*k
t2*k
t *pk
k* ,
k 1, 2, , p
于是
x1*，yk* :
y3* 0.741x1* 0.142x2* 0.656x3*
1
州 Alabama Alaska Arizona Arkansas California Colorado Connecticut Delaware Florida Georgia Hawaii Idaho Illinois Indiana Iowa Kansas ┆
杀人罪 14.2 10.8 9.5 8.8 11.5 6.3 4.2 6 10.2 11.7 7.2 5.5 9.9 7.4 2.3 6.6 ┆
17
v 例3（书中例7.2.3） 在例2中，x的相关阵
1 0.5 0.75
R=
0.5 0.75
1 0.4
0.4 1
R的特征值及特征向量为
16 2 30
Σ
2 30
1 4
4 100
1* 2.114, 2* 0.646, 3* 0.240
0.627
t1*
0.497 0.600
,
希望在约束条件 a1 1下寻求向量a1，使得V y1 a1Σa1达到最大，y1
就称为第一主成分。
v 设λ1≥ λ2≥⋯ ≥λp≥0为Σ的特征值，ti t1i ,t2i ,,tpi ，i=1,2,⋯ ,p为相应的
一组正交单位特征向量。则可求得第一主成分为 y1 t11x1 t21x2 t p1x p t1x
伤害罪 278.3 284 312.3 203.4 358 292.9 131.8 194.2 449.1 256.5 64.1 172.5 209 153.5 89.8 180.5
┆
夜盗罪 1135.5 1331.7 2346.1 972.6 2139.4 1935.2 1346 1682.6 1859.9 1351.1 1911.5 1050.8 1085 1086.2 812.5 1270.4
《多元统计分析》MOOC
5.1 引言
王学民
例1（书中习题7.6） 下表给出的是美国50个州每100 000个人中七种 犯罪的比率数据。这七种犯罪是：
杀人罪（x1）
夜盗罪（x5）
强奸罪（x2）
盗窃罪（x6）
抢劫罪（x3）
汽车犯罪（x7）
伤害罪（x4）
希望对50个州的这些犯罪情况进行（整体的）比较分析。
其方差为λ2。 v 一般来说，x的第i主成分 yi aix 是指：
在约束条件 ai 1和Cov(yk,yi)=0, k=1,2,⋯ ,i−1下寻求ai，使得
V yi aiΣai 达到最大。可求得
yi t1i x1 t2i x2 tpi xp tix, i 1, 2,, p 其方差为λi。
┆
盗窃罪 1881.9 3369.8 4467.4 1862.1 3499.8 3903.2 2620.7 3678.4 3840.5 2170.2 3920.4 2599.6 2828.5 2498.7 2685.1 2739.3
┆
汽车犯罪 280.7 753.3 439.5 183.4 663.5 477.1 593.2 467 351.4 297.9 489.4 237.6 528.6 377.4 219.9 244.3 ┆
v 主成分分析的目的就是为了减少变量的个数，因而一般是不会使用所
有p个主成分的，忽略一些带有较小方差的主成分将不会给总方差带来
大的影响。
7
v 前m个主成分的贡献率之和
m
p
i i
i 1
i 1
称为主成分y1,y2,⋯ ,ym的累计贡献率，它表明y1,y2, ⋯ ,ym解释x1,x2,⋯ ,xp 的能力。
强奸罪 25.2 51.6 34.2 27.6 49.4 42 16.8 24.9 39.6 31.1 25.5 19.4 21.8 26.5 10.6 22 ┆
抢劫罪 96.8 96.8 138.2 83.2 287 170.7 129.5 157 187.9 140.5 128 39.6 211.3 123.2 41.2 100.7 ┆