sas主成分分析与因子分析
主成分分析和因子分析-回归分析和相关分析的区别
主成分分析和因子分析的区别通过主成分分析所得来的新变量是原始变量的线性组合，每个主成分都是由原有P个变量线组合得到，在诸多主成分z中，Z1在总方差中占的比重最大，说明它综合原有变量的能力最强，其余主成分在总方差中占的比重依次递减，说明越往后的主成分综合原信息的能力越弱。
以后的分析可以用前面几个方差最大的主成分来进行，一般情况下，要求前几个z所包含的信息不少于原始信息的85％，这样既减少了变量的数目，又能够用较少的主成分反映原有变量的绝大部分信息。
如利用主成分来消除多元回归方程的多重共线性，利用主成分来筛选多元线性回归方程中的变量等。
通过因子分析得来的新变量是对每一个原始变量进行内部剖析。
打比喻来说，原始变量就如成千上万的糕点，每一种糕点的原料都有面粉、油、糖及相应的不同原料，这其中，面粉、油、糖是所有糕点的共同材料，这正好象是因子分析中的新变量即因子变量。
正确选择因子变量后，如果想考虑成千上万糕点的物价变动，只需重点考虑面粉、油、糖等公共因子的物价变动即可。
所以因子分析不是对原始变量的重新组合，而是对原始变量进行分解，分解为公共因子与特殊因子两部分。
即因子分析就是要利用少数几个公共因子去解释较多个要观测变量中存在的复杂关系，它把原始变量分解为两部分因素，一部分是由所有变量共同具有的少数几个公共因子构成的，另一部分是每个原始变量独自具有的因素，即特殊因子。
1、因子分析中是把变量表示成各因子的线性组合，而主成分分析中则是把主成分表示成各个变量的线性组合。
在主成分分析中，最终确定的新变量是原始变量的线性组合，如原始变量为x1，x2，. . . ，x3 ，经过坐标变换,将原有的p个相关变量xi 作线性变换,每个主成分都是由原有p 个变量线性组合得到。
在诸多主成分Zi 中,Z1 在方差中占的比重最大,说明它综合原有变量的能力最强,越往后主成分在方差中的比重也小,综合原信息的能力越弱。
2、主成分分析的重点在于解释各变量的总方差，而因子分析则把重点放在解释各变量之间的协方差。
SPSS主成分分析与因子分析
参考文献
6、甘肃省区域综合经济实力变动分析 作者：魏奋子《开发研究》2003年第3期P43~45 7、江苏省区域经济实力的综合评价与实证分析 作者：门可佩《江苏统计》2001年第12期P15~17 8、数理统计方法在河南经济发展水平和分区研究中
的应用 作者：刘钦普《数理统计与管理》 2002年第3期
X1
cos2 sin2 1
(
sin
)
2
cos2
1
cos ( sin ) sin cos 0
Y1 Y2
cos sin
s in cos
X1 X2
U
X
§8.1.2主成分分析的基本概念
主成分分析(Principle Component Analysis) 也称主分量分析,是一种将多个指标化为少数几个综合指 标的统计分析方法。
2.Y1是X1、X2、…、X p的一切线性组合中方差最大的； Y2是与Y1不相关的X1、X2、…、X p的一切线性组合 中方差最大的；（ Y2的方差小于Y1的方差）； Y p是与Y1、Y2、…、Yp-1都不相关的X1、X2、…、X p的一切线性组合中方差最大的（ Y p的方差小于 Y1 、Y2 、 … 、 Yp-1的方差)。 这样确定的综合指标就称为原变量的第一主成分, 第二主成分,第p主成分。
二、几个重要的概念
1．因子载荷
在因子分析模型中，a i j称为因子载荷，它反应了第i个原始 变量Xi在第j个公因子F j上的相对重要性。可以证明原始 变量Xi与公因子F j之间的相关系数等于a i j ，即
rYk ,Xi aij k eki
k, i 1,2,, p
a i j的绝对值越大，表示原始变量Xi与公因子F j之间 关系越密切。
第13章主成分分析与因子分析
洛衫矶对12个人口调查区的数据
编号 总人口 中等学校平均
no
pop
校龄School
1
5700 12.8
2
1000 10.9
3
3400
8.8
4
3800 13.6
5
4000 12.8
6
8200
8.3
7
1200 11.4
8
9100 11.5
9
ห้องสมุดไป่ตู้
9900 12.5
10
9600 13.7
11
9600
9.6
12
第13章 主成分分析与因子分析
介绍： 1、主成分分析与因子分析的概念 2、主成分分析与因子分析的过程
主成分分析与因子分析的概念
需要与可能：在各个领域的科学研究中，往往需要对反映事物的 多个变量进行大量的观测，收集大量数据以便进行分析寻找规律。 多变量大样本无疑会为科学研究提供丰富的信息，但也在一定程 度上增加了数据采集的工作量，更重要的是在大多数情况下，许 多变量之间可能存在相关性而增加了问题分析的复杂性，同时对 分析带来不便。如果分别分析每个指标，分析又可能是孤立的， 而不是综合的。盲目减少指标会损失很多信息，容易产生错误的 结论。因此需要找到一个合理的方法，减少分析指标的同时，尽 量减少原指标包含信息的损失，对所收集的资料作全面的分析。 由于各变量间存在一定的相关关系，因此有可能用较少的综合指 标分别综合存在于各变量中的各类信息。主成分分析与因子分析 就是这样一种降维的方法。
Pop 0.01602 f1 + 0.9946f2 School 0 .941f1 - 0.00882f2 employ 0.137f1 + 0.98f2 Services 0.825f1 +0.447f2 house 0.968f1 - 0.00605f2 第一主因子对中等学校平均校龄,专业服务项目,中等房价有绝对值较大的载荷(代 表一般社会福利-福利条件因子); 而第二主因子对总人口和总雇员数有较大的载荷 (代表人口-人口因子). P326 比较有用的结果:因子得分fac1_1, fac2_1。其计算公式：因子得分系数和原始 变量的标准化值的乘积之和（P326)。然后可以利用因子得分进行聚类p327 （Analyze->Classify->Hierarchical Cluster）。
sas主成分分析
sas主成分分析sas主成分分析第七章主成分分析实验目的：熟悉并掌握主成分分析和因子分析的原理和在变量分类、综合评价、主成分回归等几个方面的应用，以及相应的SAS程序实现。
实验内容：对我国钢铁行业上市公司的财务绩效状况进行主成分分析，选择的财务指标共有以下几个：流动比率，速动比率，存货周转率，总资产周转率，净资产收益率，经营净利率，每股收益，净资产收益率增长率，股东权益增长率。
数据如下：完成以下工作：（1）选取累积贡献率>85%的前几个主成分，分别计算得分；并对选取的主成分进行解释；（2）对各上市公司的财务绩效进行综合评价；（3）利用选取的主成分得分，借助聚类分析过程对钢铁行业上市公司进行分类。
datazcf;inputname$x1-x9;cards;邯郸钢铁1.5510.9717.1650.88910.7689.2680.451-16.0246.122武钢股份2.1921.828.0880.97515.05411.1140.336-3.0392.588钢联股份1.2860.9418.0441.1247.3894.5990.205-59.988122.041宝钢股份0.9790.5718.130.6019.7428.780.205-17.6853.989莱钢股份1.3640.4975.0780.9314.1039.1370.523-24.26114.16西宁特钢1.4330.6721.4620.4716.4297.2680.1559.3493.027杭钢股份2.1081.4988.3731.41816.7567.9370.531-18.72513.662邢台轧辊2.11.5951.8830.3966.4848.9810.1325.275-1.061宁夏恒力1.3641.0641.8680.2787.46919.8420.201-35.19455.428凌钢股份1.7721.0617.8411.11912.8838.8040.5285.34310.107南钢股份1.8181.3928.8661.54612.8855.1530.409-7.0286.131酒钢宏兴1.4410.88410.1681.07112.8317.8250.36744.0376.686抚顺特钢0.9550.6523.4160.5097.1476.8510.193-8.0741.93安阳钢铁1.8931.3335.1070.9810.9497.9150.3500上海科技1.3131.1824.6430.5689.5499.4230.19935.6353.582沪昌特钢10.8139.536.5850.5671.1031.6560.01915.031-7.171山川股份1.2520.5851.4850.45110.34414.6930.209-1.6159.799浦东不锈6.1865.1212.3630.2650.7542.5130.013-45.439-1.176新华股份1.8171.3143.2910.7469.9249.0280.137-3.5771.985工益股份1.8091.2674.0460.8280.6950.450.011104.419-4.714马钢股份1.5841.0694.3180.5692.0032.1830.03235.279-12.487宝信软件3.5943.2015.0140.82114.669.7210.147126.91123.243北特钢1.3851.0922.6910.467-11.21-7.917-0.14853.839-11.058广钢股份0.8590.513.8840.7224.2472.6850.096-32.409-4.004;procprincompn=9out=prin;varX1-x9;run;procprintdata=prin;varprin1-prin9;run;主要输出结果：相关阵的特征值和特征向量EigenvalueDifferenceProportionCumulative13.626730451.710877240.40300.403021.915853210.519337180.21290.615831.396516020.349008540.15520.771041.047507480.371047740.11640.887450.676459740.478913290.07520.962660.197546440.106501190.02190.984570.091045260.044878480.01010.994680.046166770.043992140.00510.999890.002174630.00021.0000EigenvectorsPrin1Prin2Prin3Prin4Prin5Prin6Prin7Prin8Prin9x1-.2632570.5528190.3251720.0999320.0123340.1292890.077190-.0215500.697189x2-.2696730.5512290.3176490.0909930.0600930.065411-.0196680.049407-.709595x30.3207430.454750-.227474-.1958410.013020-.7729000.0382700.0086860.033825x40.3790330.331485-.342911-.1840840.0144020.490904-.3231210.4986720.026498x50.4608530.1052280.1235360.3670920.0903870.094185-.486791-.610331-.003691x60.308953-.1918380.4762280.4505290.202663-.228562-.0285870.5848690.042126x70.4802260.1255120.0219100.155827-.2454280.2558630.762567-.122168-.082054x8-.1693840.077314-.5106640.4440140.6759650.0353110.220767-.0214310.005659x90.210440-.0652010.347445-.5918860.6553280.1132300.140544-.1355950.001607由输出特征值可知，第一主成分的贡献率为40.30%，第二个主成分的.贡献率为61.58%，第三个主成分的贡献率为77.10%，前四个主成分累计贡献率为88.74%。
数据分析中的因子分析与主成分分析
数据分析中的因子分析与主成分分析在当今信息爆炸的时代，数据分析已经成为了各行各业中不可或缺的一部分。
在数据分析的过程中，因子分析和主成分分析是常用的两种统计方法。
它们可以帮助我们理解数据背后的隐藏规律和关联性。
本文将介绍因子分析和主成分分析的基本概念、应用场景以及它们之间的区别。
一、因子分析因子分析是一种用于探索多个变量之间关系的统计方法。
它的基本思想是将多个相关的变量归纳为少数几个潜在因子，从而简化数据的复杂性。
通过因子分析，我们可以找到隐藏在数据背后的共性因素，并将其用较少的变量来代表。
在因子分析中，我们需要确定两个重要的概念：因子载荷和公因子。
因子载荷表示变量与因子之间的相关性，取值范围为-1到1。
而公因子则是指影响多个变量的共同因素。
通过因子分析，我们可以得到每个变量对于每个公因子的因子载荷，从而得知变量之间的相关性以及它们与公因子的关系。
因子分析在实际应用中有着广泛的用途。
例如，在市场调研中，我们可以利用因子分析来确定消费者对于某个产品的偏好因素；在心理学研究中，我们可以通过因子分析来探索人们的个性特征。
因子分析的结果可以帮助我们更好地理解数据，为进一步的分析提供基础。
二、主成分分析主成分分析是一种用于降维的统计方法。
它的目标是通过线性组合将原始变量转化为一组新的互相无关的变量，即主成分。
主成分分析通过保留原始数据的大部分信息，同时减少数据的维度，从而达到简化数据和减少冗余的目的。
在主成分分析中，我们首先需要计算协方差矩阵。
然后，我们通过求解协方差矩阵的特征值和特征向量，得到主成分。
特征值表示主成分的重要性，而特征向量则表示主成分的方向。
通过选择特征值较大的主成分，我们可以保留较多的原始数据信息。
主成分分析在实际应用中也有着广泛的用途。
例如，在金融领域，我们可以利用主成分分析来构建投资组合，降低风险；在图像处理中，我们可以利用主成分分析来提取图像的特征。
主成分分析可以帮助我们更好地理解数据的结构，发现数据中的重要特征。
因子分析和主成分分析的方法步骤
因子分析和主成分分析的方法步骤
一、主成分分析
步骤（详细步骤见算法大全低二十九章：多元分析）
1）对原始数据进行标准化处理
2）计算相关系数矩阵R
3）计算特征值和特征向量
（要对特征向量进行正则化，即特征向量值/sqrt(对应的特征值)，这一步需要自己计算）
4）根据累计贡献率得到主成分P，计算综合评价值
5）②计算综合得分
二、因子分析
步骤（详细步骤见算法大全低二十九章：多元分析）
1．选择分析的变量
2．计算所选原始变量的相关系数矩阵
3．提出公共因子
4．因子旋转
5．计算因子得分
用SPSS解决步骤：
注：以上为主成分分析和因子分析对应的操作步骤，对得到的结果进行相应的分析可以参考《SPSS 统计分析高级教程》中的主成分分析和因子分析。
主成分分析 因子分析
主成分分析 因子分析主成分分析和因子分析是很重要的统计分析方法。
两者都是用于对一组同质或异质的变量进行数据探索研究的技术，它们都可以提供有价值的结论，增强数据有意义的理解。
1. 主成分分析主成分分析（Principal Component Analysis，简称PCA）是从一大组变量中提取具有代表性的正交变量，组成一个新的变量集合。
PCA通过减少变量数量，减少多变量间相关性带来的重复性，从而提升数据分析的准确性和有效性。
注意减少变量数量不是减少观测样本数量，而是把原先高维度的变量合并成一组较低维度的变量。
PCA算法的基本思想是：它分析原始数据集中的变异，并从中提取主要的变量，然后将这些变量的组合（叫做主成分）用推断法来重新构建原来的数据集，最后能够说明原始变量的结构，对被研究的变量结构有系统的解释。
2. 因子分析因子分析（Factor Analysis，简称FA）是一种用来探索相关变量之间潜在关系的统计分析方法。
这一方法注重的是把一系列的变量映射到一个尽可能少的多个隐变量的过程。
其中，这些隐变量就是“因子”，它们是原来变量的代表性变量，且变量之间有因果或相关的结构关系。
FA的基本思想是，将一组变量之间的复杂的相关关系映射到一组基本关系，即因子上。
然后，当每个变量映射到一个或几个因子上后，只需要解释因子就能够完全解释自变量变化的原因。
常用的因子模型有因子旋转、因子分层、因子波动等。
相比较，主成分分析和因子分析都有各自的专业领域，它们都有不同的数据需求和分析方法，在不同的数据处理中也表现出各自的优势和劣势。
主成分分析处理比较复杂的数据，可以根据原始变量的关系构建视图，但不涉及因果关系的推断；而因子分析可以推导出被研究的变量之间的关系，进而探索或验证其原因。
【2019年整理】因子分析SAS程序
4.因子得分
Proc factor data= Score out=bb； var 变量； run； Proc print data=bb； var factor1 factor2 factor3 factor4； run；
总结
Proc factor data= simple corr msa； var 变量； run；
诊断符 合率 X8
97.51 97.94 98.48 99.41 99.71 99.03 99.69 99.48 99.48 99.76 99.10 100.00 99.77 100.00
抢救成 功率 X9
61.66 73.33 76.79 63.16 80.00 63.16 73.53 61.11 70.73 79.07 80.49 78.95 80.53 81.97
1.描述检验
（简单的描述统计量、相关阵、偏相关阵和 抽样适当的Kaiser度量）
Proc factor data= simple corr msa； var 变量； run；
2.构造因子
Proc factor data= method=prin（主成分 分析法）/ml（最大似然分析法）/ prinit （主因子分析法） N=/P=（确定因子个 数） Scree（特征值的碎石图）； var 变量； run；
84
100
11
69
75
78
738997源自127271
78
68
75
96
13
64
63
75
76
73
92
14
66
77
84
55
SPSS主成分分析与因子分析(1)
主成分分析
每个人都会遇到有很多变量的数据。 比如全国或各个地区的带有许多经济和社会变 量的数据；各个学校的研究、教学等各种变量 的数据等等。 这些数据的共同特点是变量很多，在如此多的 变量之中，有很多是相关的。人们希望能够找 出它们的少数“代表”来对它们进行描述。 本章就介绍两种把变量维数降低以便于描述、 理解和分析的方法：主成分分析（principal component analysis ） 和 因 子 分 析 （ factor analysis）。实际上主成分分析可以说是因子 分析的一个特例。在引进主成分分析之前，先 看下面的例子。
25000 10000 9000 25000
5
6 7 8 9 10 11 12
4000
8200 1200 9100 9900 9600 9600 9400
12.8
8.3 11.4 11.5 12.5 13.7 9.6 11.4
1600
2600 400 3300 3400 3600 3300 4000
Score:Save as variables
比较有用的结果：3个主成分及其因子载荷矩阵(Component Matrix)：第一主 成分和第二主成分的载荷图（Loading plots） 比较有用的结果:因子得分fac1_1, fac2_1 , fac3_1。然后可以利用因子得分 进行各种分析：做偏好图： 用fac1_1, fac2_1做散点图（Graphs->Scatter： X- fac1_1 , Y- fac2_1）:第一主成分反映了车的产地，第二主成分反映了车 的特性（质量、动力、座位数等） 具体见P332-334
-4
-2
0
2
主成分分析、因子分析
主成分分析在许多领域的研究与应用中，往往需要对反映事物的多个变量进行大量的观测，收集大量数据以便进行分析寻找规律。
多变量大样本无疑会为研究和应用提供了丰富的信息，但也在一定程度上增加了数据采集的工作量，更重要的是在多数情况下，许多变量之间可能存在相关性，从而增加了问题分析的复杂性，同时对分析带来不便。
如果分别对每个指标进行分析，分析往往是孤立的，而不是综合的。
盲目减少指标会损失很多信息，容易产生错误的结论。
因此需要找到一个合理的方法，在减少需要分析的指标同时，尽量减少原指标包含信息的损失，以达到对所收集数据进行全面分析的目的。
由于各变量间存在一定的相关关系，因此有可能用较少的综合指标分别综合存在于各变量中的各类信息。
主成分分析与因子分析就属于这类降维的方法。
主成分分析是设法将原来众多具有一定相关性（比如P个指标），重新组合成一组新的互相无关的综合指标来代替原来的指标。
主成分分析，是考察多个变量间相关性一种多元统计方法，研究如何通过少数几个主成分来揭示多个变量间的内部结构，即从原始变量中导出少数几个主成分，使它们尽可能多地保留原始变量的信息，且彼此间互不相关.通常数学上的处理就是将原来P个指标作线性组合，作为新的综合指标。
最经典的做法就是用F1（选取的第一个线性组合，即第一个综合指标）的方差来表达，即Var(F1)越大，表示F1包含的信息越多。
因此在所有的线性组合中选取的F1应该是方差最大的，故称F1为第一主成分。
如果第一主成分不足以代表原来P个指标的信息，再考虑选取F2即选第二个线性组合，为了有效地反映原来信息，F1已有的信息就不需要再出现在F2中，用数学语言表达就是要求Cov(F1, F2)=0，则称F2为第二主成分，依此类推可以构造出第三、第四，……，第P个主成分。
2. 问题描述下表1是某些学生的语文、数学、物理、化学成绩统计：首先，假设这些科目成绩不相关，也就是说某一科目考多少分与其他科目没有关系。