统计分析与方法-第八章 主成分与因子分析
主成分和因子分析
• 对于计算机，因子分析并不费事。
• 从输出旳成果来看，因子分析也有 因子载荷（factor loading）旳概念， 代表了因子和原先变量旳有关系数。 但是在因子分析公式中旳因子载荷 位置和主成份分析不同。
• 因子分析也给出了二维图；其解释 和主成份分析旳载荷图类似。
• 主成份分析与因子分析旳公式上旳区别
xp ap1 f1 ap2 f2 apm fm p
f1 11x1 12 x2 1p xp f2 21x1 22 x2 2 p xp
因子得分
fm m1x1 m2 x2 mp xp
因子分析旳数学
• 因子分析需要许多假定才 干够解. • 详细公式.
• 对于我们旳数据，SPSS因子分析输出为
Extraction Sums of Squared Loadings
Total % of Variance Cumulative %
3.735
62.254
62.254
1.133
18.887
81.142
• 这里旳Initial Eigenvalues就是这里旳六个
主轴长度，又称特征值（数据有关阵旳特
• 假如长轴变量代表了数据包括旳 大部分信息，就用该变量替代原
先旳两个变量（舍去次要旳一 维），降维就完毕了。
• 椭圆旳长短轴相差得越大，降维 也越有道理。
-4
-2
0
2
4
-4
-2
0
2
4
主轴和主成份
• 多维变量旳情况和二维类似，也有 高维旳椭球，只但是不那么直观罢 了。
• 首先把高维椭球旳主轴找出来，再 用代表大多数数据信息旳最长旳几 种轴作为新变量；这么，主成份分 析就基本完毕了。
因子分析与主成分分析的基本概念
因子分析与主成分分析的基本概念因子分析和主成分分析是常用的多元统计分析方法，用于研究变量之间的关系和数据的结构。
本文将介绍因子分析和主成分分析的基本概念和应用场景。
一、因子分析因子分析是一种多元统计分析方法，用于揭示观测变量背后的潜在因子结构。
通过降维，将一组原始变量拆分为若干个潜在因子，以解释观测变量之间的关系和共享的信息。
1. 基本原理在因子分析中，我们将观测变量表示为潜在因子和误差项的线性组合。
其中，潜在因子是无法直接观测到的，而误差项则代表了无法被潜在因子解释的特殊因素。
该方法基于以下假设：观测变量间的相关性可以通过潜在因子来解释。
2. 应用场景因子分析广泛应用于一些具有观测变量过多、相关性较高的数据集分析中，如社会科学研究、心理学测试、市场调查等。
通过因子分析，我们可以更好地理解变量之间的关系，挖掘变量背后的潜在结构。
二、主成分分析主成分分析是一种降维技术，它通过寻找观测变量间的最大方差方向，将原始变量投影到新的坐标系上。
新坐标系的特征向量称为主成分，通过保留最重要的主成分，我们可以将高维数据转化为低维表示。
1. 基本原理在主成分分析中，我们通过数学方法寻找原始数据的特征向量和特征值。
特征向量表示了数据在新空间中的方向，而特征值则表示了数据在该方向上的方差。
我们选择特征值最大的几个特征向量作为主成分，将原始数据投影到这些主成分上。
2. 应用场景主成分分析广泛应用于数据可视化、维度约减和特征选择等领域。
通过主成分分析，我们可以减少数据的维度，消除冗余信息，提取出最具代表性的特征，从而更方便地进行数据分析和建模。
结语因子分析和主成分分析是常用的多元统计分析方法，它们可以帮助我们揭示数据背后的潜在结构和关系。
通过降维和特征提取，我们可以更好地理解和解释数据，为后续的研究和应用提供支持。
注意事项：由于文章给定的题目是“因子分析与主成分分析的基本概念”，因此本文采用说明文的格式，分别介绍了因子分析和主成分分析的基本原理和应用场景。
spss第8章主成分分析与因子分析
, yn ) 是 n 维随机向量. 若对任
⎛ Cov(x1, y1) Cov(x1, y2 )
⎜ ⎜
Cov(
x2
,
y1
)
Cov(x2 , y2 )
⎜
⎜ ⎝ Cov(xm , y1) Cov( xm , y2 )
⎟ ⎟
⎟
xpn ⎟⎟⎠
(σ ij ) p× p
， F = AX
Cov(F) = Cov(AX, AX) = ACov(X)A′ V (F)
由于 Cov(X) 是非负定对称矩阵，所以存在正交矩阵 U ，使得
⎡λ1 0
0⎤
U−1Cov(X)U
=
⎢ ⎢ ⎢
0
λ2
0
⎥ ⎥
⎥
⎢ ⎣
0
0
λ
p
⎥ ⎦
其中 λ1, λ2, ,λp 为 Cov(X) 的特征根，不妨假设 λ1 ≥ λ2 ≥
（5）若 X 是随机向量， Cov(X) 存在，则 Cov(X) 是非负定矩阵.
后面的推导过程中用到两个线性代数中的 2 个重要结论. 定理 7-2 （1）若 A 是 p 阶实对称阵，则一定可以找到正交阵 U ，使
⎡λ1 0
0⎤
U−1AU
=
⎢ ⎢ ⎢
0
λ2
0
⎥ ⎥
⎥
⎢ ⎣
0
0
λp
⎥ ⎦
其中 λi ,i = 1.2. p 是 A 的特征根.
（3）对任何向量 a = (a1, a2 , , am )′ ， b = (b1,b2 , , bn )′ ，有 Cov(a′X, b′Y) = a′Cov(X, Y)b . （4）对任何 p × m 阶矩阵 A ， q × n 阶矩阵 B ，有 Cov(AX, BY) = ACov(X, Y)B′
SPSS主成分分析与因子分析
参考文献
6、甘肃省区域综合经济实力变动分析 作者：魏奋子《开发研究》2003年第3期P43~45 7、江苏省区域经济实力的综合评价与实证分析 作者：门可佩《江苏统计》2001年第12期P15~17 8、数理统计方法在河南经济发展水平和分区研究中
的应用 作者：刘钦普《数理统计与管理》 2002年第3期
X1
cos2 sin2 1
(
sin
)
2
cos2
1
cos ( sin ) sin cos 0
Y1 Y2
cos sin
s in cos
X1 X2
U
X
§8.1.2主成分分析的基本概念
主成分分析(Principle Component Analysis) 也称主分量分析,是一种将多个指标化为少数几个综合指 标的统计分析方法。
2.Y1是X1、X2、…、X p的一切线性组合中方差最大的； Y2是与Y1不相关的X1、X2、…、X p的一切线性组合 中方差最大的；（ Y2的方差小于Y1的方差）； Y p是与Y1、Y2、…、Yp-1都不相关的X1、X2、…、X p的一切线性组合中方差最大的（ Y p的方差小于 Y1 、Y2 、 … 、 Yp-1的方差)。 这样确定的综合指标就称为原变量的第一主成分, 第二主成分,第p主成分。
二、几个重要的概念
1．因子载荷
在因子分析模型中，a i j称为因子载荷，它反应了第i个原始 变量Xi在第j个公因子F j上的相对重要性。可以证明原始 变量Xi与公因子F j之间的相关系数等于a i j ，即
rYk ,Xi aij k eki
k, i 1,2,, p
a i j的绝对值越大，表示原始变量Xi与公因子F j之间 关系越密切。
因子分析、主成分分析
通过主成分分析，可以研究多个变量之间的相关性，揭示变量
之间的内在联系。
多元回归分析
03
在多元回归分析中，主成分分析可以用来消除变量间的多重共
线性，提高回归分析的准确性和稳定性。
金融数据分析
风险评估
在金融数据分析中，主成分分析可以用来评估投资组合的风险， 通过提取主要因子来反映市场的整体波动。
市场趋势分析
主成分分析案例：金融数据分析
总结词
主成分分析用于金融数据分析中，能够 降低数据维度并揭示主要经济趋势。
VS
详细描述
在金融领域，主成分分析被广泛应用于股 票、债券等资产组合的风险评估和优化。 通过对大量金融数据进行主成分分析，可 以提取出几个关键主成分，这些主成分代 表了市场的主要经济趋势。投资者可以利 用这些信息进行资产配置和风险管理。
特征提取
主成分分析能够提取出数据中的 主要特征，突出数据中的主要变 化方向，有助于揭示数据的内在 规律。
数据可视化
降低数据维度后，数据的可视化 变得更加容易，有助于直观地理 解和分析数据。
多元统计
多元数据描述
01
主成分分析可以用来描述多元数据的总体特征，提供对多元数
据分布的整体理解。
多元相关分析
02
目的
通过找出影响观测变量的潜在结构， 更好地理解数据的意义，简化复杂数 据的分析，并解决诸如多重共线性等 问题。
因子分析的原理
1 2 3
基于相关性
因子分析基于观测变量之间的相关性，通过找出 这些相关性背后的公因子来解释变量之间的依赖 关系。
降维
通过提取公因子，将多个观测变量的复杂关系简 化为少数几个潜在因子的线性组合，实现数据的 降维。
卫生统计学：主成分分析与因子分析
通常先对x作标准化处理，使其均值为 零，方差为１．这样就有
x i a i1 f1 a i2 f2 a im fm e i
假定〔１〕fi的均数为 i22 ０，方差为１； 〔２〕ei的均数为０，方差为δi； 〔３〕 fi与ei相互独立．
那么称x为具有m个公共因子的因子模型
〔２〕δi称为特殊方差〔specific variance〕，是不能由公共因子解 释的局部
▪ 因子载荷〔负荷〕aij是随机变量xi与 公共因子fj的相关系数。
▪设
p
g
2 j
a
2 ij
i1
j 1, 2 ,..., m
▪ 称gj2为公共因子fj对x的“奉献〞， 是衡量公共因子fj重要性的一个指标。
根本思想：使公共因子的相对负荷 〔lij/hi2〕的方差之和最大，且保持 原公共因子的正交性和公共方差总和 不变。
可使每个因子上的具有最大载荷的变量 数最小，因此可以简化对因子的解释。
〔2〕斜交旋转〔oblique rotation〕
因子斜交旋转后，各因子负荷发生 了较大变化，出现了两极分化。各 因子间不再相互独立，而彼此相关。 各因子对各变量的奉献的总和也发 生了改变。
ai2j
g
2 j
i1
▪ 极大似然法〔maximum likelihood factor〕
▪ 假定原变量服从正态分布， 公共因子和特殊因子也服从正态分 布，构造因子负荷和特殊方差的似 然函数，求其极大，得 factor〕
▪ 设原变量的相关矩阵为 R=(rij)，其逆矩阵为R-1=(rij)。 各变量特征方差的初始值取为逆 相关矩阵对角线元素的倒数， δi’=1/rii。那么共同度的初始值 为(hi’) 。
主成分分析和因子分析-回归分析和相关分析的区别
主成分分析和因子分析的区别通过主成分分析所得来的新变量是原始变量的线性组合，每个主成分都是由原有P个变量线组合得到，在诸多主成分z中，Z1在总方差中占的比重最大，说明它综合原有变量的能力最强，其余主成分在总方差中占的比重依次递减，说明越往后的主成分综合原信息的能力越弱。
以后的分析可以用前面几个方差最大的主成分来进行，一般情况下，要求前几个z所包含的信息不少于原始信息的85％，这样既减少了变量的数目，又能够用较少的主成分反映原有变量的绝大部分信息。
如利用主成分来消除多元回归方程的多重共线性，利用主成分来筛选多元线性回归方程中的变量等。
通过因子分析得来的新变量是对每一个原始变量进行内部剖析。
打比喻来说，原始变量就如成千上万的糕点，每一种糕点的原料都有面粉、油、糖及相应的不同原料，这其中，面粉、油、糖是所有糕点的共同材料，这正好象是因子分析中的新变量即因子变量。
正确选择因子变量后，如果想考虑成千上万糕点的物价变动，只需重点考虑面粉、油、糖等公共因子的物价变动即可。
所以因子分析不是对原始变量的重新组合，而是对原始变量进行分解，分解为公共因子与特殊因子两部分。
即因子分析就是要利用少数几个公共因子去解释较多个要观测变量中存在的复杂关系，它把原始变量分解为两部分因素，一部分是由所有变量共同具有的少数几个公共因子构成的，另一部分是每个原始变量独自具有的因素，即特殊因子。
1、因子分析中是把变量表示成各因子的线性组合，而主成分分析中则是把主成分表示成各个变量的线性组合。
在主成分分析中，最终确定的新变量是原始变量的线性组合，如原始变量为x1，x2，. . . ，x3 ，经过坐标变换,将原有的p个相关变量xi 作线性变换,每个主成分都是由原有p 个变量线性组合得到。
在诸多主成分Zi 中,Z1 在方差中占的比重最大,说明它综合原有变量的能力最强,越往后主成分在方差中的比重也小,综合原信息的能力越弱。
2、主成分分析的重点在于解释各变量的总方差，而因子分析则把重点放在解释各变量之间的协方差。
第8章主成分分析与因子分析1PPT课件
Y2 u21X1 u22X2 u2pXp
或
Yp up1X1 up2X2 uppXp
YUX
且（1）D (Y i) i, i 1 ,2 , .p
（2）co Y ,Y v ) U (co X ,X v )U (
或
UU
主成分的保留
主成分总方差=原变量的总方差
tr U (U )tr )(
p
p
D(Yi )D(Xi )
i1
i1
p
p
i ii
i1
i1
13
选择主成分的方法(1)
贡献率:第i 个主成分的贡献率为
ri
i
p
j
j1
累积贡献率:前m个主成分的累积贡献率为
(Cumulative)
mr1r2 rm
选择法则: m 80% 保留m 个主成分
14
选择主成分的方法(2)
特征值大于1原则
若
m m
1 11
则保留m个主成分
34
点击2 点击1
35
命名
计算
36
命名
计算
37
主成分的应用（1）
利用第一主成分进行综合评价
标准化变量的协 方差阵为原始变 量的相关系数阵
19
求相关系数阵的特征值： 12 p 和对应的单位特征向量：
u 11
u 12
,
u 1 p
u 21
u 22
,
u 2 p
,
u p 1 u p2 u pp
20
❖写出p个主成分的表达式
Y 1u 1X 111u 12 X 22 u 1pX pp
4
主成分分析原理
消除自变量间的相关性与多维变量降维
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
析 和
主成分与因子分析
主成分与因子分析
好裁缝做上衣，要测量上体长、手臂长、 胸围等 14 个指标。用流水线生产上衣时要 测量每个顾客的 14 个指标是不可能的。 于是统计学家出了个主意：这 14 个指标 是相关的，可以找出几个反映上衣特征的综 合指标，加工出的上衣大多数人都能穿，当 然特体除外。
对于我们的数据，SPSS输出为：
Total Variance Explained
Initial Eigenvalues
Component Total % of Variance Cum2.254
62.254
2
1.133
18.887
81.142
3
.457
7.619
88.761
主成分分析
正如二维椭圆有两个主轴，三维椭球有三 个主轴一样，有几个变量，就有几个主成分。 选择越少的主成分，降维就越好。什么是 标准呢？那就是这些被选的主成分所代表的 主轴的长度之和占了主轴长度总和的大部分。 有些文献建议，所选的主轴总长度占所有主 轴长度之和的大约85%即可，其实，这只是一 个大体的说法；具体选几个，要看实际情况 而定。
4
.323
5.376
94.137
5
.199
3.320
97.457
6
.153
2.543
100.000
Extraction Method: Principal Component Analysis.
Extraction Sums of Squared Loadings
Total % of Variance Cumulative %
3
主成分与因子分析
结果统计学家成功了! 这两个不相关的指标就是上衣的型和 号。 本章的教学目的就是教会学生如何建 立和使用降维模型。
4
主成分分析
每个人都会遇到有很多变量的数据。 比如全国或各个地区的带有许多经济和社 会变量的数据；各个学校的研究、教学等各 种变量的数据等等。 这些数据的共同特点是变量很多，在如此 多的变量之中，有很多是相关的。人们希望 能够找出它们的少数“代表”来对它们进行 描述。
i
，即可得到主成分系
C om p on e nt Ma t ri xa
Component
1
2
MATH
-.806
.353
PHYS
-.674
.531
CHEM
-.675
.513
LITERAT
.893
.306
HISTORY
.825
.435
ENGLISH
.836
主成分分析
对于多维变量的情况和二维类似，也有高 维的椭球，只不过无法直观地看见罢了。 首先把高维椭球的主轴找出来，再用代表 大多数数据信息的最长的几个轴作为新变量； 这样，主成分分析就基本完成了。 注意，和二维情况类似，高维椭球的主轴 也是互相垂直的。这些互相正交的新变量是 原先变量的线性组合，叫做主成分 (principal component)。
100个学生的数学、物理、化学、语文、历 史、英语的成绩如下表（部分）。
从本例可能提出的问题
目前的问题是，能不能把这个数据的6个变 量用一两个综合变量来表示呢？ 这一两个综合变量包含有多少原来的信息 呢？ 能不能利用找到的综合变量来对学生排序 呢？这一类数据所涉及的问题可以推广到对 企业，对学校进行分析、排序、判别和分类 等问题。
1 2 p 则：1 对应Y1的方差
2 对应Y2的方差
p 对 应Yp的 方 差
主成分的含义
1对应的特征向量： 11，12，1p
为第一主成分的线性组 合系数，即：
y1 11x1 12x2 1p
但是，spss软件中没有直接给出主成分系
数，而是给出的因子载荷，我们可将因子载
荷系数除以相应的 数。
3.735
62.254
62.254
1.133
18.887
81.142
这里的Initial Eigenvalues就是这 里的六个主轴长度，又称特征值（数 据相关阵的特征值）。
主成分分析的一般模型
Y1 μ 11x1 μ 12x2 μ 1pxp Y2 μ 21x1 μ 22x2 μ 2pxp Yp μ p1x1 μ p2x2 μ ppxp
μ ij为系数 组成的系数矩阵就是U
这个方程且满足：
μ
2 k1
μ
2 k2
μ
2 kp
1
主成分分析
其中 μ ij 有以下原则来确定：
Yi与Yj相互无关
Y1是x1
x
的
p
一
切线一
切
线性组最合大
的
Y2是
x 1
x
的
p
一
切线一切
线
性组第合二
大的
这时称：Y1是第一主成分 Y2是第二主成分 ｜
主成分的含义
有原始数据的协方差阵或相关系数据阵， 可计算出矩阵的特征根：
10
-4
-2
0
2
4
-4
-2
0
2
4
主成分分析
那 么 这 个 椭 圆 有 一 个 长 轴 和 一 个 短 轴 。 在短轴方向上，数据变化很少；在极端 的情况，短轴如果退化成一点，那只有 在长轴的方向才能够解释这些点的变化 了；这样，由二维到一维的降维就自然 完成了。
主成分分析
当坐标轴和椭圆的长短轴平行，那么代表 长轴的变量就描述了数据的主要变化，而代 表短轴的变量就描述了数据的次要变化。 但是，坐标轴通常并不和椭圆的长短轴平 行。因此，需要寻找椭圆的长短轴，并进行 变换，使得新变量和椭圆的长短轴平行。 如果长轴变量代表了数据包含的大部分信 息，就用该变量代替原先的两个变量（舍去 次要的一维），降维就完成了。 椭圆（球）的长短轴相差得越大，降维也 越有道理。
主成分分析和因子分析
本章就介绍两种把变量维数降低以便 于描述、理解和分析的方法：主成分分 析 （ principal component analysis ） 和因子分析（factor analysis）。实际 上主成分分析可以说是因子分析的一个 特例。在引进主成分分析之前，先看下 面的例子。
成绩数据（student.sav）
主成分分析
例中的的数据点是六维的；也就是说，每 个观测值是6维空间中的一个点。我们希望把 6维空间用低维空间表示。 先假定只有二维，即只有两个变量，它们 由横坐标和纵坐标所代表；因此每个观测值 都有相应于这两个坐标轴的两个坐标值；如 果这些数据形成一个椭圆形状的点阵（这在 变量的二维正态的假定下是可能的）