第六章 因子分析 (2)
因子分析 PPT课件
同时假定随机向量 X 满足以下模型： X 1 a11F1 a12 F2 a1m Fm 1 X a F a F a F 2 12 1 22 2 2m m 2 X p a p1 F1 a p 2 F2 a pm Fm P 则称模型(3.1)为正交因子模型。
设 X ( X1 , X 2 ,
E( F ) 0 ， Cov( F ) I m （即 F 的各分量方差为 1，且互不相关） 。又设 (1, 2 , , p ) 与 F 互不相关，且
2 E ( ) 0 ， Cov( ) diag(12 ,2 , 2 , p )。
之因子分析
SPSS软件
• 因子分析（Factor Analysis）是多元统计 分析中处理降维问题的一种重要方法。变 量的共线性很多是都对分析结果具有显著 的影响。所谓降维，就是独钓共线性，剩 下的，或者合并的都是线性无关的，或者 正交的，或者垂直的。
一、什么是主成分分析和因子分析？
• 主成分分析（Principal Components Analysis）也是多元统计分析中简化数据 结构（降维问题）的一种重要方法。简化 数据结构是指将某些较复杂的数据结构通 过变量变换等方法使相互依赖的变量变成 互不相关的；或把高维空间的数据投影到 低维空间，使问题得到简化而损失的信息 市的实证 设施建设情况。
案例1
• 中国统计年鉴，2005，各地区城市市政设施数据。 变量有： • City—城市名称； • X1—年末实有道路长度（公里）； • X2—年末实有道路面积（万平方公里）； • X3—城市桥梁（座）； • X4—城市排水管道长度（公里）； • X5—城市污水日处理能力（万立方米）； • X6—城市路灯（盏）；
第六章 因子分析
k 1 m m
= Cov( = aij
a
k 1
ik
Fk , Fj ) Cov( i , Fj )
如果对 X i 作了标准化处理， X i 的标准差为 1，且 Fj 的标准差 为 1，因此
rX i , Fj
m * ij
i j i j
i, j 1, 2,, p
（6.10） 我们知道 A 的解是不唯一的，可以有许多。这种方法要求得 到的解使得第一公共因子 F1 对 X 的贡献 g1
2
ai2 达到最 1
i 1
p
大，第二共因子 F2 对 X 的贡献 g 2
2
ai22 达到次之， ，
第一，变量 X 的协差阵 Σ 的分解式为
D( X ) D( AF ε) E[( AF ε)( AF ε)] AE (FF ) A AE (Fε) E (εF ) A E (εε) AD(F ) A D(ε )
由模型（6.2）式所满足的条件知
第六章 因子分析
第一节
引言
一般认为因子分析是从Charles Spearman在 1904年发表的文章《对智力测验得分进行统 计分析》开始，他提出这种方法用来解决智 力测验得分的统计方法。目前因子分析在心 理学、社会学、经济学等学科中都取得了成 功的应用，是多元统计分析中典型方法之一 。
因子分析(factor analysis)也是一种降维、 简化数据的技术。它通过研究众多变量之间 的内部依赖关系，探求观测数据中的基本结 构，并用少数几个“抽象”的变量来表示其 基本的数据结构。这几个抽象的变量被称作 “因子”，能反映原来众多变量的主要信息 。原始的变量是可观测的显在变量，而因子 一般是不可观测的潜在变量。
第六章 因子分析
2
4
6
8
10 t
12
14
16
18
20
主因子的概念
如果对m个原变量(x1, x2,…, xm)进行n次观测，则各主成分的时间序列可表示为：
x11 x Y LT X LT 21 xm1 x12 ... x1n y11 y x22 ... x2 n = 21 xm 2 ... xmn ym1 y12 ... y1n y22 ... y2 n ym 2 ... ymn
第1主成分y1 第2主成分y2 第m主成分ym
主成分的方差，即X的协方差阵的特征值，按照y1、y2、…、ym的顺序从大到小进 行排列。 为了分析各主成分对原变量的作用、研究原变量与各主成分的关系:
对各主成分进行标准化，使它们的方差都等于1，这时的主成分称为“主因子”。
第i个主因子就是第i个主成分yi的标准化，记为fi, 有：
为了提高因子的利用率，需要将公共信息与独立信息尽可能地分离开来，以
便采取公共信息作为新的因子变量(少于原变量的个数m)建立预报方程，从而 达到减少误差，提高预报准确率的效果。 简言之，从数量较多的因子变量中分离出数量较少的新因子，并分析原变量 与各个新因子之间的关系，这称为“因子分析”。
例： x1和x2两个变量，存在相关性，寻找它们的共同信息和独立信息，并分离。 对x1和x2做了20次观测， 如右图所示20个散点，两样本的相关系 数为0.92。 可见，第一主成分y1可以表征x1和x2的共同的成分； 所以因子分析与主成分分析(或经验正交函数分解)有密切联系。
2因子分析
775.8
0.82
2410.05
2295.19
1.1496
62.8
14
江西
1103.2
1.3
2310.98
1804.93
0.6649
59.9
15
山东
2475.1
1.44
3109.11
1989.53
0.8809
55
16
河南
2815.8
1.5
3782.26
1508.36
0.5823
58.5
17
湖北
1296.5
11559.83
1257.71
0.4349
70.4
26
陕西
1046.1
2.6
2228.55
1091.96
0.4383
59.7
27
甘肃
672
5.86
2879.36
1037.12
0.4883
57.2
28
青海1Biblioteka 7.12.626725.11
1133.06
0.4096
70.3
29
宁夏
139.1
4.01
5607.97
X5
-0.9089 0.3057 -0.0356 0.9210
X6
0.9086 0.0296
0.192
0.8634
用统计学术语叫权重表示x的分量cov的共同度共同度公共因子方差剩余方差变量共同度的统计意义变量共同度的统计意义因子载荷据阵a中各列元素的平方和记为表示第j个因子对所有分量的总影响称为第j因子对x的贡献它是衡量第j个因子相对重要性的指标公共因子公共因子ffjj方差的统计意义方差的统计意义因子载荷阵的估计方法因子载荷阵的估计方法主成分法主因子法极大似然法则协差阵可分解为其中分量a和d就是因子模型的一个解a中的第j中的第j个主成分的系数相差一个倍数
第六章 温度因子分析
不同生态系统生产力
化，形成与此相应的植物发育节律，称为物候。 • 植物发芽、生长、现蕾、开花、结实、落叶、 休
眠等生长发育阶段的开始和结束称为物候期。 • 植物物候具有稳定性，可以用来指导林业生产。
影响物候的因素
• 纬度、经度和海拔 • 霍普金斯通过研究发现： • 在北美洲温带，每向北移动纬度1度，或向
东移动经度5度，或海拔上升124m，植物 在春天和初夏 物候会延迟4天。这一规律称 为霍普金斯定律。 • 南京和北京，纬度相差6度，桃、李开花 间 差19天；但到4、5月间，两地物候相差9天。
二、关于温度的一些生态概念
• （一）三基点温度 • 最适温度：生物生长发育或生理活动得以
正常进行的温度范围。 • 最低温度和最高温度：植物生长发育和生
理活动的低温和高温限度。 • 合称为三基点温度。
• （二）积温： 积温既能说明某一地区的热 量条件，又能说明生物各生长发育阶段或 整个生长期所需要的热量条件。
• *昼夜变温与种子萌发
•
有一些植物的种子在变温下萌发良好。
低温有利于增加氧在细胞中的溶解度；提
高透性。
• 昼夜变温与生长发育 • 较低的夜温和适宜的昼温对植物生长、开花、结
实和物质的贮藏有利。 • 云南松林：1000m 3/ha。 • 波密云杉林：2000m 3/ha。 • （二）物候 • 季节明显地区，植物适应于气候条件的节律性 变
第六章因子分析
第六章因子分析第六章因子分析§6.1因子分析的基本原理与模型一、因子分析的基本思想基本思想：根据相关性的大小将变量分组，使得同组内变量间的相关性较高，不同组间的相关性较低。
每组变量代表一个基本结构，并用一个不可观测的综合变量形式表示，这个基本结构成为公共因子。
此时的原始变量就可以分解成两部分之和的形式，一部分是少数几个不可测的所谓公共因子的线性函数，另一部分是与公共因子无关的特殊因子。
目的：从一些有错综复杂的问题中找出几个主要因子，每个主要因子代表原始变量间相互依赖的一种作用。
二、因子分析的基本模型常用的因子分析模型：R型因子分析和Q 型因子分析（一）R型因子分析模型R型因子分析是对变量作因子分析。
R型因子分析中的公共因子是不可直接观测但又客观存在的共同影响因素，每一个变量都可以表示成公共因子的线性函数与特殊因子之和，即:其中：称为公共因子，称为的特殊因子矩阵表达式：且满足：（1）（2），即公共因子与特殊因子是不相关的（3），即各公共因子不相关且方差为1（4），即各个特殊因子不相关，方差不要求相等模型中称为因子载荷，是第个变量在第个因子上的负荷，如果把变量看成维空间中的一个点，则表示它在坐标轴上的投影，因此矩阵称为因子载荷矩阵。
（二）Q型因子分析Q型因子分析是对样品作因子分析。
模型同上注：主成分分析与因子分析的区别主成分分析的数学模型本质上是一种线性变换，是将原始坐标变换到变异程度大的方向上去，相当于从空间上转换观看数据的的角度，突出数据变异的方向，归纳重要信息。
因子分析与主成分分析一样都属降低变量维数的方法。
但因子分析的本质是从显在变量去“提炼”潜在因子的过程。
模型中应注意的问题：（1）变量的协方差阵的分解式为即（2）因子载荷不是唯一的。
三、因子载荷阵的统计意义（一）因子载荷的统计意义对于因子模型可知的协方差若对作标准化处理，的标准差为1，且的标准差为1则（相关系数）综上可知：对于标准化后的，是的相关系数，一方面表示的依赖程度，绝对值越大，密切程度越高；另一方面也反映了变量对公共因子的相对重要性。
《因子分析》PPT课件 (2)
24.12.2020
精选PPT
8
输出结果及其解释
这是用主成分分析法提取初始公因子的第１部分
结果，相关矩阵的特征值总和为4(指标数)，前
２个特征值1.718252和1.093536都大于１,下面将
根据这２个较大的特征值提取２个相应的初始
公因子。
24.12.2020
精选PPT
9
含有２个公因子的初始公因子模型为:
24.12.2020
精选PPT
11
24.12.2020
精选PPT
12
经最大方差旋转法旋转后的因子模型为:
x1= 0.87226G1+0.30149G2
x2= 0.94758G1-0.08748G2 x3=-0.09851G1+0.94739G2
x4= 0.13687G1+0.35848G2 旋转后的第１和第２公因子能解释的方差 分别为1.687177和1.124611；４个标准化指标共 性之和以及它们各自的共性估计值与旋转前相 同。
精选PPT
28
(3)转轴法：正交转轴法(最大变异法，VARIMAX
ROTATION) Rotation Method：Varimax
转换矩阵
1 2
Orthogonal Transformation Matrix
1
2
0.74346
0.66878
-0.66878
0.74346
24.12.2020
精选PPT
置置所h有2i为的在h2０i ＝与１１;之间服
⑤SMC[S] 相关系数的平均。
置h2i为xi与其他指标之间全
24.12.2020
精选PPT
5
第六讲因子分析
第六讲因⼦分析第五讲因⼦分析在许多实际问题中，涉及的变量众多，各变量间还存在错综复杂的相关关系，这时最好能从中提取少数综合变量，这些综合变量彼此不相关，⽽且包含原变量提供的⼤部分信息。
因⼦分析就是为解决这⼀问题提供的统计分析⽅法。
以后，如⽆特别说明，都假定总体是⼀个p维变量：它的均值向量，协⽅差矩阵V=(ij)pp都存在。
第⼀节正交因⼦模型1．1 公共因⼦与特殊因⼦从总体中提取的综合变量：F1, F2, … , F m(m于是，我们有：变量X i的信息＝公共因⼦可以表达部分公共因⼦不可表达部分这就是所谓因⼦模型。
⽬前，公共因⼦可以表达的部分由公共因⼦的线性组合表⽰。
即上⾯的因⼦模型可以写成以下的形式：1．2 正交因⼦模型设总体，均值向量，协⽅差矩阵。
因⼦模型有形式：其中m如果引⼊以下向量与矩阵：则因⼦模型的矩阵形式为：对于正交的因⼦模型，还要进⼀步要求：z1. 。
即有：公共因⼦是互相不相关的。
z2. 。
即：特殊因⼦和公共因⼦不相关。
1．3 因⼦载荷矩阵1．矩阵A称为因⼦载荷矩阵(component matrix)，系数a ij称为变量X i在因⼦F j上的载荷(loading)。
由于特别，如果总体是标准化的，则有Var(X i)=1，从⽽有：于是：即变量X i在公共因⼦F j上的载荷a ij就是X i与F j的相关系数。
2．载荷矩阵的估计：主成分法。
主成分法是估计载荷矩阵的⼀种⽅法，由于其估计结果和变量的主成分仅相差⼀个常数倍，因此就冠以主成分法的名称。
在学到这⾥的时候，不要和主成分分析混为⼀谈。
主成分法是SPSS系统默认的⽅法，在⼀般情况下，这是⽐较好的⽅法。
以数据“应征⼈员”为例，按特征值⼤于1提取公共因⼦。
在⽤不同⽅法获得因⼦载荷时，公共因⼦对总体⽅差的贡献率以主成分法为最⾼：⽅法贡献率 %Principle components 81.476Maximum likelihood74.304Unweighted least squares74.485Principal axis factoring74.462Alpha factoring74.540Image factoring69.365关于主成分法的内容可参看任何⼀本多元统计分析书，例如：《应⽤多元统计分析》，⾼惠璇著，北京⼤学出版社，p301。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第五章主成分分析
clear
set more off
cd
"C:\Users\zhou\OneDrive\Lectures_ebook\multivariate_statistics\labora tory\03principal"
use data
*定义变量的标签
label var area "省份"
label var x1 "GDP(亿元）"
label var x2 "居民消费水平(元）"
label var x3 "固定资产投资(亿元)"
label var x4 "职工平均工资（元）"
label var x5 "货物周转量(亿吨公里)"
label var x6 "居民消费价格指数(上年100)"
label var x7 "商品零售价格指数(上年100)"
label var x8 "工业总产值(亿元)"
describe
sum
corr
//findit factortest
//ssc install factortest
//check the data
factortest x1-x8
pca x1-x8, correlation /*主成分估计*/
pca x1-x8, covariance component(3) /*主成分估计*/
//test
estat kmo /*KMO检验，越高越好*/
estat smc /*SMC检验，值越高越好*/
screeplot /* 碎石图（特征值等于1处的水平线标示保留主成分的分界点）*/ loadingplot , yline(0) xline(0)/*载荷图 */
loadingplot , combined factors(3) yline(0) xline(0)/*载荷图 */
predict f1 f2 f3 /*预测变量得分*/
scoreplot,mlabel(area) yline(0) xline(0) /*得分图*/
scoreplot,xtitle("经济社会总量") ytitle("人民生活水平") mlabel(area) yline(0) xline(0) /*得分图*/
scatter f2 f3,xtitle("人民生活水平") ytitle("物价水平") mlabel(area) yline(0) xline(0) /*得分图*/
scoreplot, factors(3) mlabel(area) /*得分图*/
scoreplot,combined factors(3) mlabel(area) yline(0) xline(0) /*得分图*/
//ranking by score
describe f1-f3
sort f1 //sorting
gen rank_nature=_n //ranking
browse area f1 rank_nature // show dat
gsort -f1 //generalized sorting
gen rank_nature1=_n //ranking
browse area f1 rank_nature rank_nature1 // show dat
cor x1-x8
matrix CM=r(C) //define covariance matrix
pcamat CM, comp(3) n(1000) names(a1 a2 a3 a4 a5 a6 a7 a8)
//rotate /*旋转*/。