ppt 第10章 主成分分析与因子分析
合集下载
主成分分析与因子分析
• 本章就介绍两种把变量维数降低以便于描述、理解和分 析 的 方 法 ： 主 成 分 分 析 （ principal component analysis）和因子分析（factor analysis）。实际上 主成分分析可以说是因子分析的一个特例。在引进主成 分分析之前，先看下面的例子。
成绩数据（student.sav）
1
3.735 62.254 62.254 3.735 62.254 62.254
2
1.133 18.887 81.142 1.133 18.887 81.142
3
.457
7.619 88.761
4
.323
5.376 94.137
5
.199
3.320 97.457
6
.153
2.543 100.000
Extraction Method: Principal Component Analysis.
主成分分析:原始变量的线性组合表示新的 综合变量，即主成分，无误差项；
因子分析：潜在的假想变量和随机影响变 量的线性组合表示原始变量，有误差项。
• 主成分分析与因子分析的公式上的区别
F1 a11x1 a12x2 a1pxp F2 a21x1 a22x2 a2 pxp
主成分分析
Fp ap1x1 ap2x2 appxp
因子分析(m<p)
x1 a11f1 a12 f2 a1mfm 1 x2 a21f1 a22 f2 a2mfm 2
xp ap1f1 ap2 f2 apmfm p
f1 11x1 12x2 1pxp f2 21x1 22x2 2pxp
因子得分
fm m1x1 m2x2 mpxp
.002
成绩数据（student.sav）
1
3.735 62.254 62.254 3.735 62.254 62.254
2
1.133 18.887 81.142 1.133 18.887 81.142
3
.457
7.619 88.761
4
.323
5.376 94.137
5
.199
3.320 97.457
6
.153
2.543 100.000
Extraction Method: Principal Component Analysis.
主成分分析:原始变量的线性组合表示新的 综合变量，即主成分，无误差项；
因子分析：潜在的假想变量和随机影响变 量的线性组合表示原始变量，有误差项。
• 主成分分析与因子分析的公式上的区别
F1 a11x1 a12x2 a1pxp F2 a21x1 a22x2 a2 pxp
主成分分析
Fp ap1x1 ap2x2 appxp
因子分析(m<p)
x1 a11f1 a12 f2 a1mfm 1 x2 a21f1 a22 f2 a2mfm 2
xp ap1f1 ap2 f2 apmfm p
f1 11x1 12x2 1pxp f2 21x1 22x2 2pxp
因子得分
fm m1x1 m2x2 mpxp
.002
主成分分析和因子分析案例分析PPT课件
主成分分析和因子分析
+姓名
主成分分析
基础概念：主要成分分析就是考虑各指标之间的相互关系，利用降维方法将 多个指标转换为少数几个互不相关的指标，从而使进一步研究变得简单的一 种统计方法。
分析步骤： （1）原始数据标准化处理 （2）计算相关数矩阵 （3）计算特征值及单位特征向量 （4）计算主成分的方差贡献率和累积方差贡献率 （5）计算主成分
试分析一个国家参与经济全球化的过程主要受哪些因素影响?
从数据来看，一共15个因 素，但有些因素是存在相 关性的，同时各因素对全 球化影响程度也不一样， 故可采用主成分分析。
确定变量及相关步骤
因子分析结果
（1）特征值和方差贡献值
从表中可看前3个主成分已经 解释了总方差的近86.7%，故 可以选择前3个主成分进行分 析。
谢谢大家
荣幸这一路，与你同行
It'S An Honor To Walk With You All The Way
演讲人：XXXXXX 时 间：XX年XX月XX日
表明因子提取方法是 主成分分析，旋转的 方法是方差极大法。
得出结论：北京受x1-x15因素的影响排在第一位。山东排在最后一位。
结束语
当你尽了自己的最大努力时，失败也是伟大的， 所以不要放弃，坚持就是正确的。
When You Do Your Best, Failure Is Great, So Don'T Give Up, Stick To The End
旋转后的因子载荷矩阵
是按照前面设定的“方差极大法”对因子载荷矩 阵旋转的结果。在旋转前的的矩阵中，因子变 量在许多变量上均有较高的载荷，从旋转后的 因子可以看出，因子1在1、3、6、7、12、13、 14上有较大载荷，反映科技投入与产出情况， 可以命名为创新水平因子：因子2在指标5、8、 15上较大载荷，反映地区经济发展及财政科技 投入水平，可以命名为创新因子；因子3在指 标9和10上有较大载荷，可以命民为高科技产 业发展因子。
+姓名
主成分分析
基础概念：主要成分分析就是考虑各指标之间的相互关系，利用降维方法将 多个指标转换为少数几个互不相关的指标，从而使进一步研究变得简单的一 种统计方法。
分析步骤： （1）原始数据标准化处理 （2）计算相关数矩阵 （3）计算特征值及单位特征向量 （4）计算主成分的方差贡献率和累积方差贡献率 （5）计算主成分
试分析一个国家参与经济全球化的过程主要受哪些因素影响?
从数据来看，一共15个因 素，但有些因素是存在相 关性的，同时各因素对全 球化影响程度也不一样， 故可采用主成分分析。
确定变量及相关步骤
因子分析结果
（1）特征值和方差贡献值
从表中可看前3个主成分已经 解释了总方差的近86.7%，故 可以选择前3个主成分进行分 析。
谢谢大家
荣幸这一路，与你同行
It'S An Honor To Walk With You All The Way
演讲人：XXXXXX 时 间：XX年XX月XX日
表明因子提取方法是 主成分分析，旋转的 方法是方差极大法。
得出结论：北京受x1-x15因素的影响排在第一位。山东排在最后一位。
结束语
当你尽了自己的最大努力时，失败也是伟大的， 所以不要放弃，坚持就是正确的。
When You Do Your Best, Failure Is Great, So Don'T Give Up, Stick To The End
旋转后的因子载荷矩阵
是按照前面设定的“方差极大法”对因子载荷矩 阵旋转的结果。在旋转前的的矩阵中，因子变 量在许多变量上均有较高的载荷，从旋转后的 因子可以看出，因子1在1、3、6、7、12、13、 14上有较大载荷，反映科技投入与产出情况， 可以命名为创新水平因子：因子2在指标5、8、 15上较大载荷，反映地区经济发展及财政科技 投入水平，可以命名为创新因子；因子3在指 标9和10上有较大载荷，可以命民为高科技产 业发展因子。
《主成份与因子分析》课件
助我们理解变量之间的关系。
因子分析的原理和步骤
1
原理
通过假设存在一些潜在的因子来解释观测数据中的相关性。
2
步骤
1. 确定因子数目 2. 估计因子载荷矩阵 3. 旋转因子载荷矩阵 4. 解释因子载荷矩阵 5. 命名解释出的因子
3
总结与展望
因子分析可以帮助我们理解观测数据中的潜在结构与因果关系。
区别与联系
主成份与因子分析
在这份PPT课件中，我们将探讨主成份与因子分析的定义、背景以及它们在 不同领域的应用。我们还将介绍分析的原理和步骤，并通过案例研究加深理 解。让我们一同进入这个令人着迷的主题！
定义和背景
1 主成份分析
通过线性组合一组变量，提取出能够解释数据方差最多的几个主成份。
2 因子分析
通过假设存在一些无法直接观测到的“因子”，解释观测数据的相关性。
3 背景
这些分析方法应用广泛，从社会科学到自然科学，都有探索变量关系的需求。
主成份分析的原理和步骤
1
原理
通过寻找能够最大化解释数据方差的线
步骤
2
性组合来减少变量数目。
1. 标准化变量
2. 计算协方差矩阵
3. 计算特征值和特征向量
4. 选择最大特征值对应的特征向量
3
总结与展望
5. 归一化主成份
主性组合减少变量数目，因子分析 通过解释观测数据的相关性来揭示潜在的因子。
联系
两种分析方法都可以帮助我们理解变量之间的关系， 从而为进一步研究和应用提供依据。
应用领域
社会科学
主成份和因子分析被广泛用 于心理学、教育学等社会科 学领域，帮助揭示变量之间 的潜在关系。
市场研究
通过主成份和因子分析，我 们可以了解消费者偏好、产 品特征等市场信息。
因子分析PPT课件
3. 公共因子的方差贡献:是某公共因子对所有原变量载荷的平方和, 它
反映该公共因子对所有原始总变异的解释能力，等于因子载荷矩阵中某 一列载荷的平方和。一个因子的方差贡献越大，说明该因子就越重要。
2024/6/2
15
★ 确定公因子数目的准则
1）因素的特征值（Eigenvalues）大于或等于1；
2）因素必须符合陡阶检验（Screen Test）,陡阶检
仅仅是为了化简、浓缩数据，则采用正交旋转（保持
直角90度，不允许公因子相关）。如果研究的目的是
为了得到理论上有意义的研究结果，则采用斜交旋转。
（不呈90度，允许公因子相关；有证据表明公因子之
间是相关的才用）
旋转之后，特征值发生变化，但共同度不变
2024/6/2
18
第六步：单击Scores按纽,弹出对话框
输出旋转后的 因子载荷矩阵
2024/6/2
输出载荷散点图17
★ 因子旋转
为了更好地解释因子分析解的结果，常常需要将
因子载荷转换为比较容易解释的形式（相当于相机的
调焦，使看得更清楚；一般会使各因子对应的载荷尽
可能地向0和1两极分化）。
常用的方法有正交旋转（varimax procedure）
和斜交旋转（oblique rotation），如果研究的目的
2024/6/2
1
二、因子分析思想与方法的由来
● 英国统计学家Scott 1961年对英国157个 城镇发展水平进行调查时，原始测量的变量有57 个，而通过因子分析发现，只需要用5个新的综 合变量（它们是原始变量的线性组合），就可以 解释95%的原始信息。
● 美国统计学家Stone在1947年研究国民经
第十章因子分析
E( AF)2 2E( AFE) E(E 2 )
1 ( AF)( AF) E(E 2 ) n
A( 1 FF ) A 1 EE
n
n
AD(F ) A D(E)
AA
▪ 但此公式并非唯一公式：
R AA AUU A AU(AU) A*( A*)
▪ 其中： UU I ▪ 两个变量xk*与xl*的相关系数和协方差等于因子载荷阵
10.1%
56%
共同度
0.16 0.36 0.49 0.89 0.72 0.74
56%
特殊因子方差
0.84 0.64 0.51 0.11 0.28 0.26
44%
因子变量的特点
1、因子变量的数量远少于原有指标变量的数量。 2、因子变量是对原始变量的重新组构，能够反映
原有众多指标的绝大部分信息。 3、因子变量之间没有线性相关关系，对因子变量
▪ 确定公共因子的个数有两种方法：一是根据具体 问题的专业理论来确定，二是利用主成分分析中 选取主成分个数的方法
第四节 方差最大正交旋转
因子旋转的目的： 使每个变量在尽可能少的因子上有比较高的载荷，
让某个变量在某个因子上的载荷趋于1，而在其他 因子上的载荷趋于0。
要求每一列上的载荷大部分为很小的值，每一 行中只有少量的最好只有一个较大的载荷值；每两 列中大载荷与小载荷的排列模式应该不同。
▪ xi=∑aijfj+ei
第二节 因子分析模型
一、因子分析模型 X*:标准化后的数据，F：公共因子，E：特殊因子 假设x*、F、E满足这样一些性质：
(1)E(x*)=0 Var(x*)=1 (2)E(F)=0, cov(F)=I (3)E(E)=0, cov(E)=∑，cov(ei,F)=0
怎样用做Eviews主成分分析和因子分析ppt课件
中属于第 i 个主成分（被第 i 个主成分所解释）的比例为
i 1 2 p
称为第 i 个主成分的贡献度。定义
（13.1.12）
m
j
j 1
p
i
i 1
m p
（13.1.13）
称为前 m 个主成分的累积贡献度，衡量了前 m 个主成份对原 始变量的解释程度。
10
性质3 记第k个主成分 Yk 与原始变量 Xi 的相关系数为 r(Yk，Xi)，称为因子载荷，或者因子负荷量，则有
假如对某一问题的研究涉及 p 个指标，记为X1，X2, …, Xp，由这 p 个随机变量构成的随机向量为X=(X1, X2, …, Xp)，
设 X 的均值向量为，协方差矩阵为。设Y=(Y1, Y2 , … , Yp)
为对 X 进行线性变换得到的合成随机向量，即
Y1 11
Y2
21
12
22
(2) Y1在满足约束 (1) 即的情况下，方差最大；Y2是在满 足约束(1) ，且与Y1不相关的条件下，其方差达到最大；……； Yp是在满足约束(1) ，且与Y1，Y2，…，Y p-1不相关的条件下， 在各种线性组合中方差达到最大者。
满足上述约束得到的合成变量Y1, Y2, …, Yp分别称为原始 变量的第一主成分、第二主成分、…、第 p 主成分，而且各 成分方差在总方差中占的比重依次递减。在实际研究工作中，
19
13.3.1 EViews软件中主成分分析的计算
本节以例13.1的数据为例，介绍EViews软件中主成 分分析的实现过程。首先将所涉及的变量建成一个组(g1)， 选择组菜单的View/Principal Components...，出现如图 13.6所示的窗口。在窗口中有两个切换钮：第一个钮标着 Components，第二个钮标着Calculation，控制着组中各 序列离差矩阵的计算和估计。默认的，EViews完成主成 分分析使用普通的（Pearson）相关矩阵，也可以在这个 菜单下重新设定主成分的计算。
i 1 2 p
称为第 i 个主成分的贡献度。定义
（13.1.12）
m
j
j 1
p
i
i 1
m p
（13.1.13）
称为前 m 个主成分的累积贡献度，衡量了前 m 个主成份对原 始变量的解释程度。
10
性质3 记第k个主成分 Yk 与原始变量 Xi 的相关系数为 r(Yk，Xi)，称为因子载荷，或者因子负荷量，则有
假如对某一问题的研究涉及 p 个指标，记为X1，X2, …, Xp，由这 p 个随机变量构成的随机向量为X=(X1, X2, …, Xp)，
设 X 的均值向量为，协方差矩阵为。设Y=(Y1, Y2 , … , Yp)
为对 X 进行线性变换得到的合成随机向量，即
Y1 11
Y2
21
12
22
(2) Y1在满足约束 (1) 即的情况下，方差最大；Y2是在满 足约束(1) ，且与Y1不相关的条件下，其方差达到最大；……； Yp是在满足约束(1) ，且与Y1，Y2，…，Y p-1不相关的条件下， 在各种线性组合中方差达到最大者。
满足上述约束得到的合成变量Y1, Y2, …, Yp分别称为原始 变量的第一主成分、第二主成分、…、第 p 主成分，而且各 成分方差在总方差中占的比重依次递减。在实际研究工作中，
19
13.3.1 EViews软件中主成分分析的计算
本节以例13.1的数据为例，介绍EViews软件中主成 分分析的实现过程。首先将所涉及的变量建成一个组(g1)， 选择组菜单的View/Principal Components...，出现如图 13.6所示的窗口。在窗口中有两个切换钮：第一个钮标着 Components，第二个钮标着Calculation，控制着组中各 序列离差矩阵的计算和估计。默认的，EViews完成主成 分分析使用普通的（Pearson）相关矩阵，也可以在这个 菜单下重新设定主成分的计算。
主成分分析与因子分析法ppt课件
9
事实上，以上问题在平时的研究中，也会经 常遇到。它所涉及的问题可以推广到对企业、 对学校、对区域进行分析、评价、排序和分 类等。
比如对n个样本进行综合评价，可选的描述样 本特征的指标很多，而这些指标往往存在一 定的相关性（既不完全独立，又不完全相 关），这就给研究带来很大不便。若选指标 太多，会增加分析问题的难度与复杂性，选 指标太少，有可能会漏掉对样本影响较大的 指标，影响结果的可靠性。
在各种线性组合中方差达到最大者。
满足上述约束得到的合成变量Y1, Y2, …, Yp分别称为 原始变量的第一主成分、第二主成分、…、第 p 主成分，
而且各成分方差在总方差中占的比重依次递减。在实际研究
工作中，仅挑选前几个方差较大的主成分，以达到简化系统
结构的目的。
24
24
三、主成分分析的计算步骤
25
21
(二) 主成分分析的基本思想
假如对某一问题的研究涉及 p 个指标，记为X1，X2, …,
Xp，由这 p 个随机变量构成的随机向量为X=(X1, X2, …,
Xp)，设 X 的均值向量为，协方差矩阵为。设Y=(Y1, Y2 ,
… , Yp)为对 X 进行线性变换得到的合成随机向量，即
Y1 11
主成分分析法与因子分析法
1
主要内容
➢ 主成分分析法 ➢ 因子分析法 ➢ 附：主成分分析法与因子分析法的区别
2
主成分分析法
（Principal Components Analysis,PCA） ➢ 主成分分析法概述 ➢ 主成分分析的基本原理 ➢ 主成分分析的计算步骤
3
一、主成分分析概述
4
引子
假定你是一个公司的财务经理，掌握了公 司的所有数据，这包括众多的变量，比如 固定资产、流动资金、每一笔借贷的数额 和期限、各种税费、工资支出、原料消耗、 产值、利润、折旧、职工人数、职工的分 工和教育程度等等。
事实上，以上问题在平时的研究中，也会经 常遇到。它所涉及的问题可以推广到对企业、 对学校、对区域进行分析、评价、排序和分 类等。
比如对n个样本进行综合评价，可选的描述样 本特征的指标很多，而这些指标往往存在一 定的相关性（既不完全独立，又不完全相 关），这就给研究带来很大不便。若选指标 太多，会增加分析问题的难度与复杂性，选 指标太少，有可能会漏掉对样本影响较大的 指标，影响结果的可靠性。
在各种线性组合中方差达到最大者。
满足上述约束得到的合成变量Y1, Y2, …, Yp分别称为 原始变量的第一主成分、第二主成分、…、第 p 主成分，
而且各成分方差在总方差中占的比重依次递减。在实际研究
工作中，仅挑选前几个方差较大的主成分，以达到简化系统
结构的目的。
24
24
三、主成分分析的计算步骤
25
21
(二) 主成分分析的基本思想
假如对某一问题的研究涉及 p 个指标，记为X1，X2, …,
Xp，由这 p 个随机变量构成的随机向量为X=(X1, X2, …,
Xp)，设 X 的均值向量为，协方差矩阵为。设Y=(Y1, Y2 ,
… , Yp)为对 X 进行线性变换得到的合成随机向量，即
Y1 11
主成分分析法与因子分析法
1
主要内容
➢ 主成分分析法 ➢ 因子分析法 ➢ 附：主成分分析法与因子分析法的区别
2
主成分分析法
（Principal Components Analysis,PCA） ➢ 主成分分析法概述 ➢ 主成分分析的基本原理 ➢ 主成分分析的计算步骤
3
一、主成分分析概述
4
引子
假定你是一个公司的财务经理，掌握了公 司的所有数据，这包括众多的变量，比如 固定资产、流动资金、每一笔借贷的数额 和期限、各种税费、工资支出、原料消耗、 产值、利润、折旧、职工人数、职工的分 工和教育程度等等。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
表10.1 相关矩阵
•
表10.2给出的是各成 分的方差贡献率和累计贡 献率，由表10.2可知，只 有前2个特征根大于１，因 此SPSS只提取了前二个主 成分。第一主成分的方差 所占所有主成分方差的 62.254%，前二个主成分的 方差贡献率达到81.142%， 因此选前二个主成分已足 够描述学生成绩的水平。
F2 0.311x1 0.468x2 0.453x3 0.270x4 0.384x5 0.375x6
10.3 因子分析
• 因子分析是由Charles Spearman在1904年首次提出，并 在其后半生一直致力于发展此理论，使之最终成为了现代 统计学的重要分支，因此它被公认为因子分析之父。因子 分析在某种程度上可以被看成是主成分分析的推广和扩展 ，它对问题的研究更为深入，是将具有错综复杂关系的变 量（或样品）综合为数量较少的几个因子，以再现原始变 量与因子之间的相互关系，探讨多个能够直接测量，并且 具有一定相关性的实测指标是如何受少数几个内在的独立 因子所支配的，同时根据不同因子还可以对变量进行分类 ，属于多元分析中处理降维的一种统计方法。
• 10.2.2 主成分分析的步骤 主成分分析常常通过以下４步解决： （１）对原来的个指标进行标准化，以消除变量在数量极或 量纲上的影响。 （２）根据标准化后的数据矩阵求出协方差或相关阵。 （３）求出协方差矩阵的特征根和特征向量。 （４）确定主成分，结合专业知识给各主成分所蕴含的信息 给予适当的解释。
第10章 主成分分析与因子分析
• 实际工作中，为了全面系统地反映问题，往往收集的 变量较多，但这样就会经常出现所收集的变量间存在较强 相关关系的情况。这些变量间存在着较多的信息重复，直 接用它们分析现实问题，不但模型复杂，还会因为变量间 存在的多重共线性而引起极大的误差。 • 为了能够充分而有效的利用数据，通常希望用较少的 新指标代替原来较多的旧变量，同时要求这些新指标尽可 能地反映原变量的信息。主成分分析和因子分析正是解决 此问题最有效的多元统计方法，它们能够提取信息，使变 量简化降维，从而使问题更加简单直观，在经济、社会等 领域得到广泛应用。
10.1 主成分分析
主成分分析是考察多个变量间相关性的一种多元统计 方法。它是研究如何通过少数几个主分量来解释多个变量 间的内部结构。也就是说，从原始变量中导出少数几个主 分量，使它们尽可能多地保留原始变量的信息，且彼此间 互不相关。主成分分析的应用目的可以被简单归结为两句 话：数据的压缩、数据的解释。它常被用来寻找判断某种 事物或现象的综合指标，并且给综合指标所包含的信息以 适当的解释，从而更加深刻的揭示事物的内在规律。
• （４）因子分析中各公因子应该具有实际意义。在主成分 分析中，各主成分实际上是矩阵变换的结果，因此意义不 明显并不重要。但是在因子分析中，提取出的各因子应该 具有实际意义，否则就应该重新设计要测量的原始变量。
• 10.4.2 简单分析实例 在前面我们对100个学生的成绩进行 了主成分分析，最终的结果并不是 十分明确，现在采用因子分析法进 行分析，操作如下： 1) 选择菜单： 【分析】【降维】【因子分析】 2）选择参与主成分分析的变量到【 变量】框中，点击【描述】弹出子 窗口选中【KMO和Bartlett的球形度 检验】【继续】如图10.5
• （２）各变量间应该具有相关性。如果变量间彼此独立， 则无法从中提取公因子，也就谈不上因子分析法的应用。 在SPSS中，可以通过Bartlett球形检验来判断，如果相关阵 是单位阵，则各变量独立，因子分析法无效。 • （３）KMO检验。KMO检验用于检查变量间的偏相关性， 取值在0～1之间。KMO统计量越接近于1，变量间的偏相 关性越强，因子分析的效果越好。实际分析中，KMO统计 量在0.7以上时，效果比较好；而当KMO统计量在0.5以下 时，此时不适合应用因子分析法，应考虑重新设计变量结 构或者采用其他统计分析方法。
10.4 因子分析数学模型
• 因子分析是通过研究多个变量间相关系数矩阵（或协 方差矩阵）的内部依赖关系，找出能综合所有变量的少数 几个随机变量，这几个随机变量是不可测量的，通常称为 因子。然后根据相关性的大小把变量分组，使得同组内的 变量之间相关性较高，但不同组的变量相关性较低。 • 各个因子间互不相关，所有变量都可以表示成公因子 的线性组合。因子分析的目的就是减少变量的数目，用少 数因子代替所有变量去分析整个经济问题。
3）点击【抽取】按钮 ，弹出因子分析抽取 子窗口，选中【碎石 图】【继续】如图10.6 所示。
•
表10.7为我们可以计算出 每个学生的第一个因子和第 二个因子的大小，即算出每 个学生的因子得分和。
F1 0.216x1 0.180x2 0.181x3 0.239x4 0.221x5 0.224x6
• （２）主成分回归 在线性回归模型中，常用最小二乘法求回归系数的估计。 但是当存在多重共线性时，最小二乘法的估计结果并不很 理想，因为此时它的均方误差大，使估计不稳定。这时可 考虑用主成分回归求回归系数的估计，所谓主成分回归是 用原自变量的主成分代替原自变量作回归分析。多重共线 是由自变量之间关系复杂、相关性大引起的，而主成分既 保留了原指标的绝大部分信息，又有主成分间互不相关的 优点，故用主成分替代原指标后，再用最小二乘法建立主 成分与目标变量间回归方程所得的回归系数估计能克服“ 估计不稳定”的缺点。但主成分估计不是无偏估计。
• 选择参与主成分分析 的变量到【变量】框 中，点击【描述】于 是出现如图10.4所示的 窗口
•
SPSS在调用因子分 析过程进行分析时， 首先会自动对原始变 量进行标准化，因此 以后的输出结果中在 通常情况下都是指标 准化后的变量。在结 果输出中会涉及一些 因子分析中的内容， 因此这里仅给出与主 成分分析有关的部分 如下：
• 10.2.4．分析实例 例10.1我们对100个 学生的成绩进行分析 ，具体的6项成绩指 标是数学、物理、化 学、语文、历史、英 语。的成绩的数据， 数据文件student.sav 。
•
这是一个综合分析 问题，八项指标较多 ，可以用主成分分析 法进行综合。打开文 件后在SPSS中的操作 如下： 选择菜单： 【分析】【降维】【 因子分析】于是出现 如图10.3所示的窗口。
• 依次类推可以造出第3，第4，⋯，第个主成分。这些主成 分间互不相关，且方差递减。在实际应用中，通常只选前 面几个最大的主成分，虽然这样损失了部分信息，但抓住 了主要矛盾，并从原始变量中进一步提取了某些信息，从 而既减少了变量的数目又抓住了主要矛盾，有利于问题的 分析和处理。
• 10.2.1 主成分模型中各统计量的意义 （１）特征根：它可以被看成是主成分影响力 度的指标，代表引入该主成分后可以解释平 均多少原始变量的信息。如果特征根小于１ ，说明该主成分的解释力度还不如直接引入 一个原变量的平均解释力度大。因此一般可 以用特征根大于１作为纳入标准。 （２）主成分的方差贡献率：其计算公式为表明主
10.2 主成分分析的数学模型
通常数学上的处理是将原来的个指标作线性组合， 作为新的综合指标。如果将选取的第一个线性组合即第一 个综合指标记为，一般自然希望中尽可能多地反映原来指 标的信息，这里的“信息”用什么表示呢？最经典的方法 就是用的方差来表达，即越大，则表示包含的信息越多。 因此在所有的线性组合中所选取的第1主成分应该是方差 最大的。如果第1主成分不足以完全代表原来个指标的信 息，再考虑选第2个线性组合，即第2主成分，
成分的方差在全部方差中的比重。这个值越大，表 明主成分综合信息的能力越强。
（３）累计贡献率：前个主成分的累计贡献率定义为，表示 前面个主成分累计提取了多少的信息。一般来说，如果前 个主成分的贡献率达到85％，表明前个主成分基本包含了 全部测量指标所具有的信息，这样既减少了变量的个数又 便于对实际问题的分析和研究。
• 在表10.3中的输出为主成 分系数矩阵，可以说明各 主成分在各变量上的载荷 ，从而得出各主成分的表 达式，这里每一列代表一 个主成分作为原来变量线 性组合的系数（比例）。 比如第一主成分为数学、 物理、化学、语文、历史 、英语这六个变量的线性 组合，系数（比例）为0.806, -0.674, -0.675, 0.893, 0.825, 0.836。
• （１）样本量不能太小。对于因子分析而言，要求样本量 比较充足，否则结果可能不太可靠。一般而言，要求样本 量至少是变量数的５倍以上，如果要想得到比较理想的结 果，则应该在１０倍以上。其次，除了比例关系外，样本 总量也不能太少，按理论要求应该在１００以上。不过在 实际的经济和社会问题中，很多时候样本量都达不到这个 要求，这时也可以适当放宽要求，通过检验来判断结果的 可靠性。
• SPSS中没有把主成分分析作为一种独立的分析方法，而是 和因子分析共用一个过程，因此在SPSS中进行主成分分析 时会输出许多因子分析中的结果，但是这并不影响分析结 果的准确性，而且相应的输出都可以根据因子分析模型和 主成分分析模型之间的关系进行转换。
• 10.2.3 主成分分析的用途 如前所述，主成分分析往往会在大型研究中成为一个中间 环节，用于解决数据信息浓缩等问题，这就可能产生各种 各样的组合方法。这里仅举最为典型的两种应用情况。 （１）主成分评价 在进行多指标综合评价时，由于要求评价结果客观、全面 ，就需要从各个方面用多个指标进行测量，但这样就使得 观测指标间存在信息重叠，同时还会存在量纲、累加时如 何确定权重系数等问题。为此就可以使用主成分分析方法 进行信息的浓缩，并解决权重的确定等问题。本章最后的 综合分析实例即为此类问题。