《多元统计分析》第五章 主成分分析
《多元统计分析》MOOC
5.1 引言
王学民
例1（书中习题7.6）下表给出的是美国50个州每100 000个人中七种犯罪的比率数据。这七种犯罪是：
杀人罪（x
1）夜盗罪（x
5
）
强奸罪（x
2）盗窃罪（x
6
）
抢劫罪（x
3）汽车犯罪（x
7
）
伤害罪（x
4
）
希望对50个州的这些犯罪情况进行（整体的）比较分析。
州杀人罪强奸罪抢劫罪伤害罪夜盗罪盗窃罪汽车犯罪Alabama14.225.296.8278.31135.51881.9280.7 Alaska10.851.696.82841331.73369.8753.3 Arizona9.534.2138.2312.32346.14467.4439.5 Arkansas8.827.683.2203.4972.61862.1183.4 California11.549.42873582139.43499.8663.5 Colorado 6.342170.7292.91935.23903.2477.1 Connecticut 4.216.8129.5131.813462620.7593.2 Delaware624.9157194.21682.63678.4467 Florida10.239.6187.9449.11859.93840.5351.4 Georgia11.731.1140.5256.51351.12170.2297.9 Hawaii7.225.512864.11911.53920.4489.4 Idaho 5.519.439.6172.51050.82599.6237.6 Illinois9.921.8211.320910852828.5528.6 Indiana7.426.5123.2153.51086.22498.7377.4 Iowa 2.310.641.289.8812.52685.1219.9 Kansas 6.622100.7180.51270.42739.3244.3┆┆┆┆┆┆┆┆
该相关矩阵表明，变量之间存在一定的相关性，即彼此之间信息有不少是重复的，从而有一定的降维空间。
该案例可用主成分分析进行降维，降成少数几个（作为综合变量的）主成分之后再进行比较分析。
主成分的应用
(1)在一些应用中，用前少数几个主成分替代众原始
变量以作分析，这些主成分本身就成了分析的目标。 需要给出这前几个主成分一个符合实际背景和意义的解释。
(2)在更多的另一些应用中，主成分只是要达到目的的一个中间结果（或步骤），而非目的本身。
例如，主成分聚类、主成分回归、评估正态性、寻找异常值，以及寻找原始变量间的多重共线性关系等。 此时的主成分可不必给出解释。x1,x2,x3,x4,x5,x6,x7→y
1
,y2,
主成分降维的说明性例子
112212cos sin sin cos y x x y x x θθθθ
=+??
=-+?旋转公式：
V (y 1)=max
《多元统计分析》MOOC
5.2 总体的主成分
王学民
一、主成分的定义及解
v
设
，E (x )=μ，V (x )=Σ。考虑如下的线性函数希望在约束条件
下寻求向量a 1，使得 达到最大，y 1就称为第一主成分。
v 设λ1≥ λ2≥?≥λp ≥0为Σ的特征值， ，i=1,2,?,p 为相应的
一组正交单位特征向量。则可求得第一主成分为
它的方差具有最大值λ1。
12(,,,)p x x x '= x 111121211p p y a x a x a x '=+++= a x
11=a ()111V y '=a Σa ()12,,,i i i pi t t t '= t 111121211p p y t x t x t x '=+++= t x
()()121
V k k V ''=a x a x
v
如果第一主成分所含信息不够多，则需考虑再使用 ，并要求
Cov(y 1,y 2) =0
在此条件和约束条件 下寻求向量a 2，使得 达到最
大，所求的y 2称为第二主成分。可求得
其方差为λ2。
v 一般来说，x 的第i 主成分
是指：在约束条件
和Cov(y k ,y i )=0, k=1,2,?,i ?1下寻求a i ，使得
达到最大。可求得其方差为λi 。
v 几何上，t i 表明了第i 主成分的方向，且t 1,t 2,?,t p 相互垂直。
22y '=a x 21=a ()222V y '=a Σa 212122222p p y t x t x t x '=+++= t x
1i =a ()i i i V y '=a Σa 1122,1,2,,i i i pi p i y t x t x t x i p
'=+++== t x i i y '=a x
主成分向量与原始向量之间的关系式
v
其中 是正交矩阵。
v 该变换的几何意义是将由x 1,x 2,?,x p 构成的原p 维坐标轴作一正交旋转。v 111222p p p y y y ''??????
? ? ?'' ? ? ?'==== ? ? ? ? ? ?''??????
t x t t x t y x T x t x t ()()12,,,p ik t == T t t t =x Ty
二、主成分的性质
v1.主成分向量的协方差矩阵
v2.主成分的总方差
v3.原始变量x i与主成分y k之间的相关系数
v4.原始变量对主成分的影响
1.主成分向量的协方差矩阵
v V(y)=Λ
其中Λ=diag(λ1,λ2,?,λp)，即V(y i)= λi, i=1,2,?,p，且y1,y2,?,y p互不相关。
2.主成分的总方差v
或
11
p p
i ii
i i
λσ
==
=
∑∑
()() 11
p p
i i i i
V y V x ==
=
∑∑
v
总方差中属于第i 主成分y i （或被y i 所解释）的比例为
称为主成分y i 的贡献率。
v 第一主成分y 1的贡献率最大，表明它解释原始变量x 1,x 2,?,x p 的能力最强，而y 2,y 3,?,y p 的解释能力依次递减。
v 主成分分析的目的就是为了减少变量的个数，因而一般是不会使用所有p 个主成分的，忽略一些带有较小方差的主成分将不会给总方差带来大的影响。
1
p
i
j
j λλ
=∑
v
前m 个主成分的贡献率之和
称为主成分y 1,y 2,?,y m 的累计贡献率，它表明y 1,y 2, ?,y m 解释x 1,x 2,?,x p 的能力。
v 通常取（相对于p ）较小的m ，使得累计贡献达到一个较高的百分比（如80％～90％）。此时，y 1,y 2, ?,y m 可用来代替x 1,x 2,?,x p ，从而达到降维的目的，而信息的损失却不多。
1
1
p
m
i
i
i i λλ
==∑∑
3.原始变量x i 与主成分y k 之间的相关系数
v
x =Ty 即x i =t i 1y 1+t i 2y 2+…+t ip y p
所以
Cov(x i ,y k )=Cov(t ik y k , y k )=t ik λk
v i (i=1,2,?,p )与y k (k=1,2,?,m )的相关系数感兴趣。()()()
Cov()
,,1,2,,k i k i k ik ii i k x y x y i k p
V x V y λρσ===?,,
4.原始变量对主成分的影响
v
y k =t 1k x 1+?+t ik x i +?+t pk x p
称t ik 为y k 在x i 上的载荷，它反映了x i 对y k 的重要程度。v
与t ik 同符号，且成正比。v 在解释主成分时，我们需要考察载荷，同时也应考察一下相关系数，前者更值得重视。
()()k
i k ik ii
x y t λρσ=
,
对原始变量线性组合含义的解释
v
例1 设高考的四门课成绩（满分同为150分）：数学（x 1）、物理（x 2）、语文（x 3）和外语（x 4），解释如下一些线性组合的大致含义：
v
线性组合含义的解释，从系数角度来说，取决于变量系数的符号和相对大小；从相关系数角度来说，取决于线性组合与各变量相关系数的符号和相对大小。
1234
123412341234
1234
0.540.470.600.450.540.470.600.450.540.470.600.455.4 4.7 6.0 4.50.0540.0470.0600.045a x x x x b x x x x c x x x x d x x x x e x x x x =+++=+--=--+=+++=+--
原始变量方差差异大的情形
v
例2（书中例7.2.2 ） 设x =(x 1,x 2,x 3)′的协方差矩阵为
经计算，Σ的特征值及特征向量为
λ1=109.793，λ2=6.469，λ3=0.738
相应的主成分分别为
16230214304100?? ?= ? ???
Σ1230.3050.9440.1270.041,0.120,0.9920.9510.3080.002-?????? ? ? ?=== ? ? ? ? ? ?--??????
t t t
y1=0.305x1+0.041x2+0.951x3
y2=0.944x1+0.120x2?0.308x3
y3=?0.127x1+0.992x2?0.002x3
v方差大的主成分与方差大的原始变量有较密切的联系，而方差小的主成分与方差小的原始变量有较强的联系。
v通常我们取前几个主成分，因此所取主成分会过于照顾方差大的原始变量，而对方差小的原始变量却照顾得不够。
v原始变量的方差大小差异大时第一主成分的贡献率或前几个主成分的累计贡献率往往显得很大。
?在例2中，
1
123109.7930.938 117
λ
λλλ==
++
PCA主成分分析计算步骤
主成分分析（ Principal Component Analysis ， PCA ）是一种掌握事物主要矛盾的统计分析方法，它可以从多元事物中解析出主要影响因素，揭示事物的本质，简化复杂的问题。计算主成分的目的是将高维数据投影到较低维空间。给定 n 个变量的 m 个观察值，形成一个 n*m 的数据矩阵， n 通常比较大。对于一个由多个变量描述的复杂事物，人们难以认识，那么是否可以抓住事物主要方面进行重点分析呢？如果事物的主要方面刚好体现在几个主要变量上，我们只需要将这几个变量分离出来，进行详细分析。但是，在一般情况下，并不能直接找出这样的关键变量。这时我们可以用原有变量的线性组合来表示事物的主要方面， PCA 就是这样一种分析方法。 PCA 的目标是寻找 r （ r 第五章主成分分析 一、填空题 1．主成分分析就是设法将原来众多的指标，重新组合成一组新的的综合指标来代替原来指标。 2．主成分分析的数学模型可简写为，该模型的系数要求。 3．主成分分析中，利用的大小来寻找主成分。 4．第k个主成分 y的贡献率为，前k个主成分的累积贡献率 k 为。 5．确定主成分个数时，累积贡献率一般应达到，在spss中，系统默认为。 6．主成分的协方差矩阵为_________矩阵。 7．原始变量协方差矩阵的特征根的统计含义是________________。 8．原始数据经过标准化处理，转化为均值为__ __，方差为__ __的标准值，且其________矩阵与相关系数矩阵相等。 9．在经济指标综合评价中，应用主成分分析法，则评价函数中的权数为________。10．SPSS中主成分分析采用______________命令过程。 二、判断题 1．主成分分析就是设法将原来众多具有一定相关性的指标，重新组合成一组新的相互无关的综合指标来代替原来指标。 （ ） 2．主成分y 的协差阵为对角矩阵。 （ ） 3.p x x x ,,,21 的主成分就是以∑的特征向量为系数的一个组合，它们互不相关，其方差为∑的特征根。 （ ） 4．原始变量i x 的信息提取率()m i V 表示这m 个主成分所能够解释第i 个原始变量变动的程度。 （ ） 5．在spss 中，可以直接进行主成分分析。 （ ） 6．主成分分析可用于筛选回归变量。 （ ） 7．SPSS 中选取主成分的方法有两个：一种是根据特征根≥1来选取； 另一种是按照累积贡献率≥85%来选取。 （ ） 8．主成分方差的大小说明了该综合指标反映p 个原始观测变量综合变动程度的能力的大小。 （ ） 9．主成分表达式的系数向量是协方差矩阵∑的特征向量。 （ ） 10．主成分k y 与原始变量i x 的相关系数()i k x y ,ρ反映了第k 个公共因子对第i 个原始变量的解释程度。 （ ） 第14章主成分分析 1 概述 1.1 基本概念 1.1.1 定义 主成分分析是根据原始变量之间的相互关系，寻找一组由原变量组成、而彼此不相关的综合变量，从而浓缩原始数据信息、简化数据结构、压缩数据规模的一种统计方法。 1.1.2 举例 为什么叫主成分，下面通过一个例子来说明。 假定有N 个儿童的两个指标x1与x2，如身高和体重。x1与x2有显著的相关性。当N较大时，N观测量在平面上形成椭圆形的散点分布图，每一个坐标点即为个体x1与x2的取值，如果把通过该椭圆形的长轴取作新坐标轴的横轴Z1，在此轴的原点取一条垂直于Z1的直线定为新坐标轴的Z2，于是这N个点在新坐标轴上的坐标位置发生了改变；同时这N个点的性质也发生了改变，他们之间的关系不再是相关的。很明显，在新坐标上Z1与N个点分布的长轴一致，反映了N个观测量个体间离差的大部分信息，若Z1反映了原始数据信息的80%，则Z2只反映总信息的20%。这样新指标Z1称为原指标的第 358 一主成分，Z2称为原指标的第二主成分。所以如果要研究N个对象的变异，可以只考虑Z1这一个指标代替原来的两个指标（x1与x2），这种做法符合PCA提出的基本要求，即减少指标的个数，又不损失或少损失原来指标提供的信息。 1.1.3 函数公式 通过数学的方法可以求出Z1和Z2与x1与x2之间的关系。 Z1=l11x1+ l12x2 Z2=l21x1+ l22x2 即新指标Z1和Z2是原指标x1与x2的线性函数。在统计学上称为第一主成分和第二主成分。 若原变量有3个，且彼此相关，则N个对象在3维空间成椭圆球分布，见图14-1。 通过旋转和改变原点（坐标0点），就可以得到第一主成分、第二主成分和第三主成分。如果第二主成分和第三主成分与第一主成高度相关，或者说第二主成分和第三主成分相对于第一主成分来说变异很小，即N个对象在新坐标的三维空间分布成一长杆状时，则只需用一个综合指标便能反映原始数据中3个变量的基本特征。 359 一、概述 在处理信息时，当两个变量之间有一定相关关系时，可以解释为这两个变量反映此课题的信息有一定的重叠，例如，高校科研状况评价中的立项课题数与项目经费、经费支出等之间会存在较高的相关性；学生综合评价研究中的专业基础课成绩与专业课成绩、获奖学金次数等之间也会存在较高的相关性。而变量之间信息的高度重叠和高度相关会给统计方法的应用带来许多障碍。 为了解决这些问题，最简单和最直接的解决方案是削减变量的个数，但这必然又会导致信息丢失和信息不完整等问题的产生。为此，人们希望探索一种更为有效的解决方法，它既能大大减少参与数据建模的变量个数，同时也不会造成信息的大量丢失。主成分分析正式这样一种能够有效降低变量维数，并已得到广泛应用的分析方法。 主成分分析以最少的信息丢失为前提，将众多的原有变量综合成较少几个综合指标，通常综合指标（主成分）有以下几个特点： ↓主成分个数远远少于原有变量的个数 原有变量综合成少数几个因子之后，因子将可以替代原有变量参与数据建模，这将大大减少分析过程中的计算工作量。 ↓主成分能够反映原有变量的绝大部分信息 因子并不是原有变量的简单取舍，而是原有变量重组后的结果，因此不会造成原有变量信息的大量丢失，并能够代表原有变量的绝大部分信息。 ↓主成分之间应该互不相关 通过主成分分析得出的新的综合指标（主成分）之间互不相关，因子参与数据建模能够有效地解决变量信息重叠、多重共线性等给分析应用带来的诸多问题。 ↓主成分具有命名解释性 总之，主成分分析法是研究如何以最少的信息丢失将众多原有变量浓缩成少数几个因子，如何使因子具有一定的命名解释性的多元统计分析方法。 二、基本原理 主成分分析是数学上对数据降维的一种方法。其基本思想是设法将原来众多的具有一定相关性的指标X1，X2，…，XP （比如p 个指标），重新组合成一组较少个数的互不相关的综合指标Fm 来代替原来指标。那么综合指标应该如何去提取，使其既能最大程度的反映原变量Xp 所代表的信息，又能保证新指标之间保持相互无关（信息不重叠）。 设F1表示原变量的第一个线性组合所形成的主成分指标，即 11112121...p p F a X a X a X =+++,由数学知识可知，每一个主成分所提取的信息量可 用其方差来度量，其方差Var(F1)越大，表示F1包含的信息越多。常常希望第一主成分F1所含的信息量最大，因此在所有的线性组合中选取的F1应该是X1，X2，…，XP 的所有线性组合中方差最大的，故称F1为第一主成分。如果第一主成分不足以代表原来p 个指标的信息，再考虑选取第二个主成分指标F2，为有效地反映原信息，F1已有的信息就不需要再出现在F2中，即F2与F1要保持独立、不相关，用数学语言表达就是其协方差Cov(F1, F2)=0，所以F2是与F1不 主成分分析的计算步骤 样本观测数据矩阵为： ??????? ??=np n n p p x x x x x x x x x X 21 2222111211 第一步：对原始数据进行标准化处理 )var(*j j ij ij x x x x -= ),,2,1;,,2,1(p j n i == 其中 ∑==n i ij j x n x 1 1 21 )(11)var(j n i ij j x x n x --=∑= ),,2,1(p j = 第二步：计算样本相关系数矩阵 ?????? ????????=pp p p p p r r r r r r r r r R 212222111211 为方便，假定原始数据标准化后仍用X 表示，则经标准化处理后的数据的相关系数为: tj n t ti ij x x n r ∑=-=1 11 ),,2,1,(p j i = 第三步：用雅克比方法求相关系数矩阵R 的特征值（p λλλ 21,）和相应的特征向量()p i a a a a ip i i i 2,1,,,21==。 第四步：选择重要的主成分，并写出主成分表达式 主成分分析可以得到p 个主成分，但是，由于各个主成分的方差是递减的，包含的信息量也是递减的，所以实际分析时，一般不是选取p 个主成分，而是根据各个主成分累计贡献率的大小选取前k 个主成分，这里贡献率就是指某个主成分的方差占全部方差的比重， 实际也就是某个特征值占全部特征值合计的比重。即 贡献率=∑=p i i i 1λ λ 贡献率越大，说明该主成分所包含的原始变量的信息越强。主成分个数k 的选取，主要根据主成分的累积贡献率来决定，即一般要求累计贡献率达到85%以上，这样才能保证综合变量能包括原始变量的绝大多数信息。 另外，在实际应用中，选择了重要的主成分后，还要注意主成分实际含义解释。主成分分析中一个很关键的问题是如何给主成分赋予新的意义，给出合理的解释。一般而言，这个解释是根据主成分表达式的系数结合定性分析来进行的。主成分是原来变量的线性组合，在这个线性组合中个变量的系数有大有小，有正有负，有的大小相当，因而不能简单地认为这个主成分是某个原变量的属性的作用，线性组合中各变量系数的绝对值大者表明该主成分主要综合了绝对值大的变量，有几个变量系数大小相当时，应认为这一主成分是这几个变量的总和，这几个变量综合在一起应赋予怎样的实际意义，这要结合具体实际问题和专业，给出恰当的解释，进而才能达到深刻分析的目的。 第五步：计算主成分得分 根据标准化的原始数据，按照各个样品，分别代入主成分表达式，就可以得到各主成分下的各个样品的新数据，即为主成分得分。具体形式可如下。 ?????? ? ??nk n n k k F F F F F F F F F 212222111211 第六步：依据主成分得分的数据，则可以进行进一步的统计分析 其中，常见的应用有主成份回归，变量子集合的选择，综合评价等。 主成分分析计算方法和步骤： 在对某一事物或现象进行实证研究时,为了充分反映被研究对象个体之间的差异, 研究者往往要考虑增加测量指标,这样就会增加研究问题的负载程度。但由于各指标都是对同一问题的反映,会造成信息的重叠,引起变量之间的共线性,因此,在多指标的数据分析中,如何压缩指标个数、压缩后的指标能否充分反映个体之间的差异,成为研究者关心的问题。而主成分分析法可以很好地解决这一问题。 主成分分析的应用目的可以简单地归结为: 数据的压缩、数据的解释。它常被用来寻找和判断某种事物或现象的综合指标,并且对综合指标所包含的信息给予适当的解释, 从而更加深刻地揭示事物的内在规律。 主成分分析的基本步骤分为: ①对原始指标进行标准化,以消除变量在数量极或量纲上的影响;②根据标准化后的数据矩阵求出相关系数矩阵 R; ③求出 R 矩阵的特征根和特征向量; ④确定主成分,结合专业知识对各主成分所蕴含的信息给予适当的解释;⑤合成主成分,得到综合评价值。 结合数据进行分析 本题分析的是全国各个省市高校绩效评价，利用全国2014年的相关统计数据(见附录)，从相关的指标数据我们无法直接评价我国各省市的高等教育绩效，而通过表5-6的相关系数矩阵，可以看到许多的变量之间的相关性很高。如：招生人数与教职工人数之间具有较强的相关性，教育投入经费和招生人数也具有较强的相关性，教工人数与本科院校数之间的相关系数最高，到达了0.963，而各组成成分之间的相关性都很高，这也充分说明了主成分分析的必要性。 表5-6 相关系数矩阵 本科院校 数招生人数教育经费投入 相关性师生比0.279 0.329 0.252 重点高校数0.345 0.204 0.310 教工人数0.963 0.954 0.896 本科院校数 1.000 0.938 0.881 招生人数0.938 1.000 0.893 教育经费投 0.881 0.893 1.000 入 主成分分析原理 （一）教学目的 通过本章的学习，对主成分分析从总体上有一个清晰地认识，理解主成分分析的基本思想和数学模型，掌握用主成分分析方法解决实际问题的能力。 （二）基本要求 了解主成分分析的基本思想，几何解释，理解主成分分析的数学模型，掌握主成分分析方法的主要步骤。 （三）教学要点 1、主成分分析基本思想，数学模型，几何解释 2、主成分分析的计算步骤及应用 （四）教学时数 3课时 （五）教学内容 1、主成分分析的原理及模型 2、主成分的导出及主成分分析步骤 在实际问题中，我们经常会遇到研究多个变量的问题，而且在多数情况下，多个变量之间常常存在一定的相关性。由于变量个数较多再加上变量之间的相关性，势必增加了分析问题的复杂性。如何从多个变量中综合为少数几个代表性变量，既能够代表原始变量的绝大多数信息，又互不相关，并且在新的综合变量基础上，可以进一步的统计分析，这时就需要进行主成分分析。 第一节主成分分析的原理及模型 一、主成分分析的基本思想与数学模型 （一）主成分分析的基本思想 主成分分析是采取一种数学降维的方法，找出几个综合变量来代替原来众多的变量，使这些综合变量能尽可能地代表原来变量的信息量，而且彼此之间互不相关。这种将把多个变量化为少数几个互相无关的综合变量的统计分析方法就叫做主成分分析或主分量分析。 主成分分析所要做的就是设法将原来众多具有一定相关性的变量，重新组合为一组新的相互无关的综合变量来代替原来变量。通常，数学上的处理方法就是将原来的变量做线性组合，作为新的综合变量，但是这种组合如果不加以限制，则可以有很多，应该如何选择呢？如果将选取的第一个线性组合即第一个综合变量记为1F ，自然希望它尽可能多地反映原来变量的信息，这里“信息”用方差来测量，即希望)(1F Var 越大，表示1F 包含的信息越多。因此在所有的线性组合中所选取的1F 应该是方差最大的，故称1F 为第一主成分。如果第一主成分不足以代表原来p 个变量的信息，再考虑选取2F 即第二个线性组合，为了有效地反映原来信息，1F 已有的信息就不需要再出现在2F 中，用数学语言表达就是要求0),(21=F F Cov ，称2F 为第二主成分，依此类推可以构造出第三、四……第p 个主成分。 （二）主成分分析的数学模型 对于一个样本资料，观测p 个变量p x x x ,,21，n 个样品的数据资料阵为： ?? ? ? ? ? ? ??=np n n p p x x x x x x x x x X 2 1 22221 11211 ()p x x x ,,21= 其中：p j x x x x nj j j j ,2,1, 21=???? ?? ? ??= 主成分分析就是将 p 个观测变量综合成为p 个新的变量（综合变量），即 ?? ???? ?+++=+++=+++=p pp p p p p p p p x a x a x a F x a x a x a F x a x a x a F 22112222121212121111 简写为： p jp j j j x x x F ααα+++= 2211 p j ,,2,1 = 要求模型满足以下条件： 主成分分析の操作过程 原始数据如下（部分） 调用因子分析模块（Analyze―Dimension Reduction―Factor），将需要参与分析の各个原始变量放入变量框，如下图所示： 单击Descriptives按钮，打开Descriptives次对话框，勾选KMO and Bartlett’s test of sphericity选项（Initial solution选项为系统默认勾选の，保持默认即可），如下图所示，然後点击Continue按钮，回到主对话框： 其他の次对话框都保持不变（此时在Extract次对话框中，SPSS已经默认将提取公因子の方法设置为主成分分析法），在主对话框中点OK按钮，执行因子分析，得到の主要结果如下面几张表。 ①KMO和Bartlett球形检验结果： KMO为0.635>0.6，说明数据适合做因子分析；Bartlett球形检验の显着性P值为0.000<0.05，亦说明数据适合做因子分析。 ②公因子方差表，其展示了变量の共同度，Extraction下面各个共同度の值都大於0.5，说明提取の主成分对於原始变量の解释程度比较高。本表在主成分分析中用处不大，此处列出来仅供参考。 ③总方差分解表如下表。由下表可以看出，提取了特征值大於1の两个主成分，两个主成分の方差贡献率分别是55.449%和29.771%，累积方差贡献率是85.220%；两个特征值分别是3.327和1.786。 ④因子截荷矩阵如下： 根据数理统计の相关知识，主成分分析の变换矩阵亦即主成分载荷矩阵U与因子载荷矩阵A以及特征值λの数学关系如下面这个公式： 故可以由这二者通过计算变量来求得主成分载荷矩阵U。 新建一个SPSS数据文件，将因子载荷矩阵中の各个载荷值复制进去，如下图所示： 计算变量（Transform-Compute Variables）の公式分别如下二张图所示： 计算变量得到の两个特征向量U1和U2如下图所示（U1和U2合起来就是主成分载荷矩阵）： 所以可以得到两个主成分Y1和Y2の表达式如下： 基于主成分分析及二次回归分析的城市生活垃圾热值建模 1. 引言 随着人们经济水平的提高、环保意识的增强、环保法规日益严格和国家垃圾处理产业化政策的实施，垃圾填埋处理的弊端将引起重视、运营费用将大大增加，而垃圾焚烧处理的优势将逐渐呈现出来并最终获得人们的认可。以城市生活垃圾为燃料而建立垃圾电站进行电力生产，很好的实现了生活垃圾的无害化、资源化利用。 而我国的城市生活垃圾成分复杂，用作为燃料时稳定性较差，因此分析垃圾的成分、计算垃圾的热值模型是垃圾焚烧发电的工艺设计和运营管理中必不可少的基础性工作。 因为我国不同地区人们生活习惯及生活条件差异较大，导致城市生活垃圾成分也存在很大的地域性差异，因此，本文以深圳市为例，对深圳市宝安区的生活垃圾采样数据进行分析，并建立其计算模型。 2. 回归分析及主成分分析理论 2.1. 回归分析 回归分析是一种应用极为广泛的数量分析方法。它用于分析事物之间的统计关系，通过回归方程的形式描述和反应这种关系。 2.2. 一般回归模型 如果变量与随机p 变量y 之间存在着相关关系，通常就意味着当x , x ....x 1 2 p x , x ....x取定值后y 便有相应的概率分布与之对应，其概率模型为： = ( , ... ) +e （2-1）1 2 p y f x x x其中p为称自变量，y 称为因变量，为自变量的确定性关系，ε表示x , x ....x 1 2 ( , .... ) 1 2 p f x x x随机误差。 2.3. 线性回归模型 回归模型分为线性回归模型和非线性回归模型，线性回归又有一元线性回归和多元线性回归之分。当变量之间的关系是线性关系的模型都称为线性回归模 型，否则就称之为非线性回归模型。当概率模型（2-1）中的回归函数为线性函数时，有： = b + b + b +e （2-2）p p y x ... x 0 1 1其中βi 是p+1 个未知参数，β0 称为回归常数，β1...βp 称为回归系数。 2.4. 主成分分析 上述的线性回归模型的应用前提是作为自变量的各指标之间相互独立，即不 （一）主成分分析法的基本思想 主成分分析（Principal Component Analysis）是利用降维的思想，将多个变量转化为少数几个综合变量（即主成分），其中每个主成分都是原始变量的线性组合，各主成分之间互不相关，从而这些主成分能够反映始变量的绝大部分信息，且所含的信息互不重叠。[2] 采用这种方法可以克服单一的财务指标不能真实反映公司的财务情况的缺点，引进多方面的财务指标，但又将复杂因素归结为几个主成分，使得复杂问题得以简化，同时得到更为科学、准确的财务信息。 （二）主成分分析法代数模型 假设用p个变量来描述研究对象，分别用X1，X2…X p来表示，这p个变量构成的p维随机向量为X=(X1，X2…X p)t。设随机向量X的均值为μ，协方差矩阵为Σ。对X进行线性变化，考虑原始变量的线性组合： Z=μX+μX+…μX Z=μX+μX+…μX ……………… Z=μX+μX+…μX 主成分是不相关的线性组合Z1，Z2……Z p，并且Z1是X，X…X的线性组合中方差最大者，Z2是与Z1不相关的线性组合中方差最大者，…，Z是与Z1，Z2……Z p-1都不相关的线性组合中方差最大者。 （三）主成分分析法基本步骤 第一步：设估计样本数为n，选取的财务指标数为p，则由估计样本的原始数据可得矩阵X=(x ij)m×p，其中x ij表示第i家上市公司的第j项财务指标数据。 第二步：为了消除各项财务指标之间在量纲化和数量级上的差别，对指标数据进行标准化，得到标准化矩阵（系统自动生成）。 第三步：根据标准化数据矩阵建立协方差矩阵R，是反映标准化后的数据之间相关关系密切程度的统计指标，值越大，说明有必要对数据进行主成分分析。其中，R ij（i，j=1，2，…，p）为原始变量X i与X j的相关系数。R为实对称矩阵 主成分分析操作步骤 1）先在spss中录入原始数据。 2）菜单栏上执行【分析】——【降维】——【因子分析】，打开因素分析对话框，将要分析的变量都放入【变量】窗口中。 3）设计分析的统计量 点击【描述】：选中“Statistics”中的“原始分析结果”和“相关性矩阵”中的“系数”。（选中原始分析结果，SPSS自动把原始数据标准差标准化，但不显示出来；选中系数，会显示相关系数矩阵）然后点击“继续”。 点击【抽取】：“方法”里选取“主成分”；“分析”、“输出”、“抽取”均选中各自的第一个选项即可。 点击【旋转】：选取第一个选项“无”。（当因子分析的抽取方法选择主成分法时，且不进行因子旋转，则其结果即为主成分分析） 点击【得分】：选中“保存为变量”，方法中选“回归”；再选中“显示因子得分系数矩阵”。 点击【选项】：选择“按列表排除个案”。 4）结果解读 5）A. 相关系数矩阵：是6个变量两两之间的相关系数大小的方阵。通过相关系 数可以看到各个变量之间的相关，进而了解各个变量之间的关系。 相關性矩陣 食品衣着燃料住房交通和通讯娱乐教育文化相關食品 1.000 .692 .319 .760 .738 .556 衣着.692 1.000 -.081 .663 .902 .389 燃料.319 -.081 1.000 -.089 -.061 .267 住房.760 .663 -.089 1.000 .831 .387 交通和通讯.738 .902 -.061 .831 1.000 .326 娱乐教育文化.556 .389 .267 .387 .326 1.000 B. 共同度：给出了这次主成分分析从原始变量中提取的信息，可以看出交通和 通讯最多，而娱乐教育文化损失率最大。 Communalities 起始擷取 食品 1.000 .878 衣着 1.000 .825 燃料 1.000 .841 住房 1.000 .810 交通和通讯 1.000 .919 娱乐教育文化 1.000 .584 擷取方法：主體元件分析。 C. 总方差的解释：系统默认方差大于1的为主成分。如果小于1，说明这个主 因素的影响力度还不如一个基本的变量。所以只取前两个，且第一主成分的方差 为3.568，第二主成分的方差为1.288，前两个主成分累加占到总方差的80.939%。 說明的變異數總計 元件 起始特徵值擷取平方和載入 總計變異的% 累加% 總計變異的% 累加% 1 3.568 59.474 59.474 3.568 59.474 59.474 2 1.288 21.466 80.939 1.288 21.466 80.939 3 .600 10.001 90.941 4 .358 5.97 5 96.916 5 .142 2.372 99.288 6 .043 .712 100.000 擷取方法：主體元件分析。 主成分分析法 主成分分析（principal components analysis，PCA）又称：主分量分析，主成分回归分析法 [编辑] 什么是主成分分析法 主成分分析也称主分量分析，旨在利用降维的思想，把多指标转化为少数几个综合指标。 在统计学中，主成分分析（principal components analysis,PCA）是一种简化数据集的技术。它是一个线性变换。这个变换把数据变换到一个新的坐标系统中，使得任何数据投影的第一大方差在第一个坐标(称为第一主成分)上，第二大方差在第二个坐标(第二主成分)上，依次类推。主成分分析经常用减少数据集的维数，同时保持数据集的对方差贡献最大的特征。这是通过保留低阶主成分，忽略高阶主成分做到的。这样低阶成分往往能够保留住数据的最重要方面。但是，这也不是一定的，要视具体应用而定。 [编辑] 主成分分析的基本思想 在实证问题研究中，为了全面、系统地分析问题，我们必须考虑众多影响因素。这些涉及的因素一般称为指标，在多元统计分析中也称为变量。因为每个变量都在不同程度上反映了所研究问题的某些信息，并且指标之间彼此有一定的相关性，因而所得的统计数据反映的信息在一定程度上有重叠。在用统计方法研究多变量问题时，变量太多会增加计算量和增加分析问题的复杂性，人们希望在进行定量分析的过程中，涉及的变量较少，得到的信息量较多。主成分分析正是适应这一要求产生的，是解决这类题的理想工具。 同样，在科普效果评估的过程中也存在着这样的问题。科普效果是很难具体量化的。在实际评估工作中，我们常常会选用几个有代表性的综合指标，采用打分的方法来进行评估，故综合指标的选取是个重点和难点。如上所述，主成分分析法正是解决这一问题的理想工具。因为评估所涉及的众多变量之间既然有一定的相关性，就必然存在着起支配作用的因素。根据这一点，通过对原始变量相关矩阵内部结构的关系研究，找出影响科普效果某一要素的几个综合指标，使综合指标为原来变量的线性拟合。这样，综合指标不仅保留了原始变量的主要信息，且彼此间不相关，又比原始变量具有某些更优越的性质，就使我们在研究复杂的科普效果评估问题时，容易抓住主要矛盾。上述想法可进一步概述为：设某科普效果评估要素涉及个指标，这指标构成的维随机向量为。对作正交变换，令，其中为正交阵，的各分量是不相关的，使得的各分量在某个评估要素中的作用容易解释，这就使得我们有可能从主分量中选择主要成分，削除对这一要素影响微弱的部分，通过对主分量的重点分析，达到对原始变量进行分析的目的。的各分量是原始变量线性组合，不同的分量表示原始变量之间不同的影响关系。由于这些基本关系很可能与特定的作用过程相联系，主成分分析使我们能从错综复杂的科普评估要素的众多指标中，找出一些主要成分，以便有效地利用大量统计数据，进行科普效果评估分析，使我们在研究科普效果评估问题中，可能得到深层次的一些启发，把科普效果评估研究引向深入。 例如，在对科普产品开发和利用这一要素的评估中，涉及科普创作人数百万人、科普作品发行量百万人、科普产业化（科普示范基地数百万人）等多项指标。经过主成分分析计算，最后确定个或个主成分作为综合评价科普产品利用和开发的综合指标，变量数减少，并达到一定的可信度，就容易进行科普效果的评估。 [编辑] 主成分分析法的基本原理 主成分分析法是一种降维的统计方法，它借助于一个正交变换，将其分量相关的原随机向量转化成其分量不相关的新随机向量，这在代数上表现为将原随机向量的协方差阵变换成对角形阵，在几何上表现为将原坐标系变换成新的正交坐标系，使之指向样本点散布最开的p 个正交方向，然后对多维变量系统进行降维处理，使之能以一个较高的精度转换成低维变量系统，再通过构造适当的价值函数，进一步把低维系统转化成一维系统。 [编辑] 主成分分析的主要作用 第七章主成分分析 （一）教学目的 通过本章的学习，对主成分分析从总体上有一个清晰地认识，理解主成分分析的基本思想和数学模型，掌握用主成分分析方法解决实际问题的能力。 （二）基本要求 了解主成分分析的基本思想，几何解释，理解主成分分析的数学模型，掌握主成分分析方法的主要步骤。 （三）教学要点 1、主成分分析基本思想，数学模型，几何解释 2、主成分分析的计算步骤及应用 （四）教学时数 3课时 （五）教学内容 1、主成分分析的原理及模型 2、主成分的导出及主成分分析步骤 在实际问题中，我们经常会遇到研究多个变量的问题，而且在多数情况下，多个变量之间常常存在一定的相关性。由于变量个数较多再加上变量之间的相关性，势必增加了分析问题的复杂性。如何从多个变量中综合为少数几个代表性变量，既能够代表原始变量的绝大多数信息，又互不相关，并且在新的综合变量基础上，可以进一步的统计分析，这时就需要进行主成分分析。 第一节主成分分析的原理及模型 一、主成分分析的基本思想与数学模型 （一）主成分分析的基本思想 主成分分析是采取一种数学降维的方法，找出几个综合变量来代替原来众多的变量，使这些综合变量能尽可能地代表原来变量的信息量，而且彼此之间互不相关。这种将把多个变量化为少数几个互相无关的综合变量的统计分析方法就叫做主成分分析或主分量分析。 主成分分析所要做的就是设法将原来众多具有一定相关性的变量，重新组合为一组新的相互无关的综合变量来代替原来变量。通常，数学上的处理方法就是将原来的变量做线性组合，作为新的综合变量，但是这种组合如果不加以限制，则可以有很多，应该如何选择呢？如果将选取的第一个线性组合即第一个综合变量记为1F ，自然希望它尽可能多地反映原来变量的信息，这里“信息”用方差来测量，即希望)(1F Var 越大，表示1F 包含的信息越多。因此在所有的线性组合中所选取的1F 应该是方差最大的，故称1F 为第一主成分。如果第一主成分不足以代表原来p 个变量的信息，再考虑选取2F 即第二个线性组合，为了有效地反映原来信息，1F 已有的信息就不需要再出现在2F 中，用数学语言表达就是要求0),(21=F F Cov ，称2F 为第二主成分，依此类推可以构造出第三、四……第p 个主成分。 （二）主成分分析的数学模型 对于一个样本资料，观测p 个变量p x x x ,,21，n 个样品的数据资料阵为： ??????? ??=np n n p p x x x x x x x x x X 21 222 21112 11()p x x x ,,21= 其中：p j x x x x nj j j j ,2,1,21=?????? ? ??= 主成分分析就是将p 个观测变量综合成为p 个新的变量（综合变量），即 ???????+++=+++=+++=p pp p p p p p p p x a x a x a F x a x a x a F x a x a x a F 22112222121212121111 简写为： p jp j j j x x x F ααα+++= 2211 p j ,,2,1 = 要求模型满足以下条件： 怎样用SPSS进行主成分分析 怎样用SPSS进行主成分分析 一、基本概念与原理 主成分分析（principal component analysis） 将多个变量通过线性变换以选出较少个数重要变量的一种多元统计分析方法。又称主分量分析。在实际课题中，为了全面分析问题，往往提出很多与此有关的变量（或因素），因为每个变量都在不同程度上反映这个课题的某些信息。但是，在用统计分析方法研究这个多变量的课题时，变量个数太多就会增加课题的复杂性。人们自然希望变量个数较少而得到的信息较多。在很多情形，变量之间是有一定的相关关系的，当两个变量之间有一定相关关系时，可以解释为这两个变量反映此课题的信息有一定的重叠。主成分分析是对于原先提出的所有变量，建立尽可能少的新变量，使得这些新变量是两两不相关的，而且这些新变量在反映课题的信息方面尽可能保持原有的信息。主成分分析首先是由K.皮尔森对非随机变量引入的，尔后H.霍特林将此方法推广到随机向量的情形。信息的大小通常用离差平方和或方差来衡量。 （1）主成分分析的原理及基本思想。 原理：设法将原来变量重新组合成一组新的互相无关的几个综合变量，同时根据实际需要从中可以取出几个较少的总和变量尽可能多地反映原来变量的信息的统计方法叫做主成分分析或称主分量分析，也是数学上处理降维的一种方法。 基本思想：主成分分析是设法将原来众多具有一定相关性（比如P个指标），重新组合成一组新的互相无关的综合指标来代替原来的指标。通常数学上的处理就是将原来P个指标作线性组合，作为新的综合指标。最经典的做法就是用F1（选取的第一个线性组合，即第一个综合指标）的方差来表达，即Var(F1)越大，表示F1包含的信息越多。因此在所有的线性组合中选取的F1应该是方差最大的，故称F1为第一主成分。如果第一主成分不足以代表原来P个指标的信息，再考虑选取F2即选第二个线性组合，为了有效地反映原来 偏最小二乘回归是一种新型的多元统计数据分析方法，它与1983年由伍德和阿巴诺等人首次提出。近十年来，它在理论、方法和应用方面都得到了迅速的发展。密西根大学的弗耐尔教授称偏最小二乘回归为第二代回归分析方法。 偏最小二乘回归方法在统计应用中的重要性主要的有以下几个方面：（1）偏最小二乘回归是一种多因变量对多自变量的回归建模方法。 （2）偏最小二乘回归可以较好地解决许多以往用普通多元回归无法解决的问题。在普通多元线形回归的应用中，我们常受到许多限制。最典型的问题就是自变量之间的多重相关性。如果采用普通的最小二乘方法，这种变量多重相关性就会严重危害参数估计，扩大模型误差，并破坏模型的稳定性。变量多重相关问题十分复杂，长期以来在理论和方法上都未给出满意的答案，这一直困扰着从事实际系统分析的工作人员。在偏最小二乘回归中开辟了一种有效的技术途径，它利用对系统中的数据信息进行分解和筛选的方式，提取对因变量的解释性最强的综合变量，辨识系统中的信息与噪声，从而更好地克服变量多重相关性在系统建模中的不良作用。 （3）偏最小二乘回归之所以被称为第二代回归方法，还由于它可以实现多种数据分析方法的综合应用。 由于偏最小二乘回归在建模的同时实现了数据结构的简化，因此，可以在二维平面图上对多维数据的特性进行观察，这使得偏最小二乘回归分析的图形功能十分强大。在一次偏最小二乘回归分析计算后，不但可以得到多因变量对多自变量的回归模型，而且可以在平面图上直接观察两组变量之间的相关关系，以及观察样本点间的相似性结构。这种高维数据多个层面的可视见性，可以使数据系统的分析内容更加丰富，同时又可以对所建立的回归模型给予许多更详细深入的实际解释。 一、偏最小二乘回归的建模策略\原理\方法 《多元统计分析》MOOC 5.1 引言 王学民 例1（书中习题7.6）下表给出的是美国50个州每100 000个人中七种犯罪的比率数据。这七种犯罪是： 杀人罪（x 1）夜盗罪（x 5 ） 强奸罪（x 2）盗窃罪（x 6 ） 抢劫罪（x 3）汽车犯罪（x 7 ） 伤害罪（x 4 ） 希望对50个州的这些犯罪情况进行（整体的）比较分析。 州杀人罪强奸罪抢劫罪伤害罪夜盗罪盗窃罪汽车犯罪Alabama14.225.296.8278.31135.51881.9280.7 Alaska10.851.696.82841331.73369.8753.3 Arizona9.534.2138.2312.32346.14467.4439.5 Arkansas8.827.683.2203.4972.61862.1183.4 California11.549.42873582139.43499.8663.5 Colorado 6.342170.7292.91935.23903.2477.1 Connecticut 4.216.8129.5131.813462620.7593.2 Delaware624.9157194.21682.63678.4467 Florida10.239.6187.9449.11859.93840.5351.4 Georgia11.731.1140.5256.51351.12170.2297.9 Hawaii7.225.512864.11911.53920.4489.4 Idaho 5.519.439.6172.51050.82599.6237.6 Illinois9.921.8211.320910852828.5528.6 Indiana7.426.5123.2153.51086.22498.7377.4 Iowa 2.310.641.289.8812.52685.1219.9 Kansas 6.622100.7180.51270.42739.3244.3┆┆┆┆┆┆┆┆ 第五章 主成分分析 一、填空题 1．主成分分析就是设法将原来众多 的指标，重新组合成一组新的 的综合指标来代替原来指标。 2．主成分分析的数学模型可简写为 ，该模型的系数要 求 。 3．主成分分析中，利用 的大小来寻找主成分。 4．第k 个主成分k y 的贡献率为 ，前k 个主成分的累积贡献率 为 。 5．确定主成分个数时，累积贡献率一般应达到 ，在spss 中，系统默认 为 。 6．主成分的协方差矩阵为_________矩阵。 7．原始变量协方差矩阵的特征根的统计含义是________________。 8．原始数据经过标准化处理，转化为均值为__ __，方差为__ __的标准值，且其________ 矩阵与相关系数矩阵相等。 9．在经济指标综合评价中，应用主成分分析法，则评价函数中的权数为________。 10．SPSS 中主成分分析采用______________命令过程。 二、判断题 1．主成分分析就是设法将原来众多具有一定相关性的指标，重新组合成一组新的相互无关 的综合指标来代替原来指标。 （ ） 2．主成分y 的协差阵为对角矩阵。 （ ） 3.p x x x ,,,21 的主成分就是以∑的特征向量为系数的一个组合，它们互不相关，其方差为 ∑的特征根。 （ ） 4．原始变量i x 的信息提取率()m i V 表示这m 个主成分所能够解释第i 个原始变量变动的程度。 （ ） 5．在spss 中，可以直接进行主成分分析。 （ ） 6．主成分分析可用于筛选回归变量。 （ ） 7．SPSS 中选取主成分的方法有两个：一种是根据特征根≥1来选取； 另一种是按照累积贡 献率≥85%来选取。 （ ） 8．主成分方差的大小说明了该综合指标反映p 个原始观测变量综合变动程度的能力的大小。 （ ） 9．主成分表达式的系数向量是协方差矩阵∑的特征向量。 （ ） 10．主成分k y 与原始变量i x 的相关系数()i k x y ,ρ反映了第k 个公共因子对第i 个原始变量 的解释程度。 （ ） 三、简答题 1．简述主成分的概念及几何意义。 2．主成分分析的基本思想是什么？ 3.简述主成分分析的计算步骤。 4．主成分有哪些性质？ 5．主成分主要应用在哪些方面？ 四、计算题 1．假设3个变量1x 、2x 和3x 的协方差矩阵为： ???? ??????--=∑200053 032 在对某一事物或现象进行实证研究时,为了充分反映被研究对象个体之间的差异, 研究者往往要考虑增加测量指标,这样就会增加研究问题的负载程度。但由于各指标都是对同一问题的反映,会造成信息的重叠,引起变量之间的共线性,因此,在多指标的数据分析中,如何压缩指标个数、压缩后的指标能否充分反映个体之间的差异,成为研究者关心的问题。而主成分分析法可以很好地解决这一问题。 主成分分析的应用目的可以简单地归结为: 数据的压缩、数据的解释。它常被用来寻找和判断某种事物或现象的综合指标,并且对综合指标所包含的信息给予适当的解释, 从而更加深刻地揭示事物的内在规律。 主成分分析的基本步骤分为: ①对原始指标进行标准化,以消除变量在数量极或量纲上的影响;②根据标准化后的数据矩阵求出相关系数矩阵 R; ③求出 R 矩阵的特征根和特征向量; ④确定主成分,结合专业知识对各主成分所蕴含的信息给予适当的解释;⑤合成主成分,得到综合评价值。 结合数据进行分析 本题分析的是全国各个省市高校绩效评价，利用全国2014年的相关统计数据(见附录)，从相关的指标数据我们无法直接评价我国各省市的高等教育绩效，而通过表5-6的相关系数矩阵，可以看到许多的变量之间的相关性很高。如：招生人数与教职工人数之间具有较强的相关性，教育投入经费和招生人数也具有较强的相关性，教工人数与本科院校数之间的相关系数最高，到达了，而各组成成分之间的相关性都很高，这也充分说明了主成分分析的必要性。 表5-6 相关系数矩阵 本科院校 数招生人数教育经费投入 相关性师生比 重点高校数 教工人数 本科院校数 招生人数 教育经费投 入 师生比重点高校数教工人数 相关性师生比 重点高校数 教工人数 本科院校数 招生人数 教育经费投 入（元） 表5-7给出的是各主成分的方差贡献率和累计贡献率，我们选取主成分的标准有两个：第一，特征根大于1，因为，如果特征根小于1，说明该主成分的解释力度太弱，还比不上直接引入一个原始变量的平均解释力度大；第二，方差贡献率大于85%，如果这两个标准不能同时符合要求,则往往是因为选择的指标不合理或者样本容量太小,应继续调整。表5-7还显示，只有前2个特征根大于1，因此SPSS只提取了前两个主成分，而这两个主成分的方差贡献率达到了%，因此选取前两个主成分已经能够很好地描述我国高等教育地区现状。第5章 主成分分析
主成分分析原理及详解
主成分分析法的原理应用及计算步骤..
主成分分析的计算步骤
主成分分析计算方法和步骤
主成分分析原理
spss进行主成分分析的步骤图文)
主成分分析及二次回归分析的
主成分分析法的步骤和原理
主成分分析操作步骤
主成分分析法概念及例题.doc
主成分分析原理
用SPSS进行详细的主成分分析步骤
(整理)(真正的好东西)偏最小二乘回归=多元线性回归分析+典型相关分析+主成分分析.
《多元统计分析》第五章 主成分分析
第章主成分分析报告
主成分分析计算方法和步骤