MATLAB主成分分析法
主成分分析 MATLAB代码
%特征向量图(效果等价于主成分载荷图)
figure(4); %创造第二个图形窗口
e1=-E(:,1);e2=-E(:,2); %提取特征向量并转换符号
Co2=Co1+A(:,2).^2; %提取2个主成分的公因子方差
Co3=Co2+A(:,3).^2; %提取3个主成分的公因子方差
Co4=Co3+A(:,4).^2; %提取4个主成分的公因子方差
Rz=cov(F); %计算协方差矩阵
Rz=corrcoef(F); %计算相关系数矩阵
Rz=corrcoef(Z); %计算相关系数矩阵
%计算非标准化数据协方差矩阵的三种方法
Covz=Z'*Z/(n-1); %计算协方差矩阵
Covz=cov(Z); %计算协方差矩阵
%计算主成分得分相关系数的四种方法
Rz=F'*F/(n-1); %计算相关系数矩阵
grid on %添加网格
%几个用于检验的语句
%计算再生相关系数矩阵
Rp=H*H'; %计算再生相关矩阵
Re=R-Rp; %计算相关矩阵的残差矩阵
%综合得分
S=Z(:,1)+Z(:,2)+Z(:,3)+Z(:,4) %非标准化得分四列加和
S1=F(:,1)*eigv(1)^0.5+F(:,2)*eigv(2)^0.5+F(:,3)*eigv(3)^0.5+F(:,4)*eigv(4)^0.5
%计算T平方统计量(2)
eigv=diag(G); %提取角矩阵的对角线元素
主成分分析matlab理论+实验
x1
若将该坐标系按逆时针方向旋转某个角度θ变成新坐标系，变 换公式为
Y1 X 1 cos X 2 sin Y2 X 1 sin X 2 cos
y2 x2
y1
x1
记x1，x2，…，xP为原变量指标，z1，z2，…，zm（m<p）为新
变量指标
z1 a11 x1 a12 x2 L a1 p x p z2 a21 x1 a22 x2 L a2 p x p ............ z a x a x L a x m1 1 m2 2 mp p m
七. 主成分分析的应用
1. 综合评价 进行综合评价时，如何选择评价指标以及对这些指标进 行综合评价？一般做法是通过对各指标加权的办法。 由于主成分分析能从选定的指标体系中归纳出大部分信 息，根据主成分提供的信息进行综合评价，不失为一个可行 的选择。
利用主成分进行综合评价时，对主成分进行加权综合， 权数根据其方差贡献率确定 。
例5-3 用Matlab自带数据进行主成分分析，数据文件. hald文件包含影响温度的4个因素，保存在ingredients变量 中。代码见5.3.m
第一步：考虑变量之间相关性 load hald %载入Matlab 自带的数据文件 corrcoef(ingredients) % 自变量相关系数矩阵 ans = 1.0000 0.2286 -0.8241 -0.2454 0.2286 1.0000 -0.1392 -0.9730 -0.8241 -0.1392 1.0000 0.0295 -0.2454 -0.9730 0.0295 1.0000 第二步：主成分分析 [pc,score,latent,tsquare]=princomp(ingredients)
主成分分析（PCA）算法介绍及matlab实现案例
主成分分析（PCA）算法介绍及matlab实现案例主成分分析经常被⽤做模型分类时特征的降维，本篇⾸先介绍PCA的步骤，并根据步骤撰写对应的MATLAB代码，最后指明使⽤PCA的步骤。
我们在做分类时，希望提取的特征能够最⼤化将数据分开，如果数据很紧密，模型就⽐较难将其分开，如果数据⽐较离散，那么就⽐较容易分开，换句话说，数据越离散，越容易分开。
那怎么让数据离散呢？离散⼜⽤什么指标衡量呢？统计学的知识告诉我们，数据越离散，⽅差越⼤。
因此，PCA的问题就变为：寻找⼀个坐标轴，使得数据在该坐标轴上⾯离散度最⾼。
也就是寻找⼀个基使得所有数据在这个基上⾯的投影值的⽅差最⼤。
那具体怎么做呢？科学家们已经帮我们做好了，如下步骤：设有m个样本，每个样本有n个特征，组成m⾏n列的矩阵1）将每⼀列特征进⾏均值化处理，特征归⼀化，也称为数据中⼼平移到坐标原点2）求取协⽅差矩阵3）求取协⽅差矩阵的特征值和特征向量4）将特征向量按对应特征值⼤⼩从上到下按⾏排列成矩阵，取前K列组成系数矩阵matlab代码function [coffMatrix,lowData,eigValSort,explained,meanValue] = myPCA(data)%data为row⾏col列矩阵，row为样本数量，col为特征列，每⼀列代表⼀个特征[row , col] = size(data);% 求出每⼀列的均值meanValue = mean(data);% 将每⼀列进⾏均值化处理，特征归⼀化,数据中⼼平移到坐标原点normData = data - repmat(meanValue,[row,1]);%求取协⽅差矩阵covMat = cov(normData);%求取特征值和特征向量[eigVect,eigVal] = eig(covMat);% 将特征向量按对应特征值⼤⼩从上到下按⾏排列成矩阵[sortMat, sortIX] = sort(eigVal,'descend');[B,IX] = sort(sortMat(1,:),'descend');coffMatrix = eigVect(:,IX);% 排序后的特征向量就是新的坐标系lowData = normData * coffMatrix;% 分量得分explained = 100*B/sum(B);%特征值eigValSort = B;%%% [U,S,V] = svd(data);end我们在实际应⽤PCA的时候需要注意保留以下⼏个值。
主成分分析方法及matlab运用解释
主成分分析方法在许多实际问题中,多个变量之间就是具有一定的相关关系的。
因此,我们就会很自然地想到,能否在各个变量之间相关关系研究的基础上,用较少的新变量代替原来较多的变量,而且使这些较少的新变量尽可能多地保留原来较多的变量所反映的信息？事实上,这种想法就是可以实现的,这里介绍的主成分分析方法就就是综合处理这种问题的一种强有力的方法。
一、主成分分析的基本原理主成分分析就是把原来多个变量化为少数几个综合指标的一种统计分析方法,从数学角度来瞧,这就是一种降维处理技术。
假定有n 个地理样本,每个样本共有p 个变量描述,这样就构成了一个n×p 阶的地理数据矩阵:111212122212p p n n np x x x x x x X x x x ⎧⎪⎪=⎨⎪⎪⎩L L L L L LL (1)如何从这么多变量的数据中抓住地理事物的内在规律性呢？要解决这一问题,自然要在p 维空间中加以考察,这就是比较麻烦的。
为了克服这一困难,就需要进行降维处理,即用较少的几个综合指标来代替原来较多的变量指标,而且使这些较少的综合指标既能尽量多地反映原来较多指标所反映的信息,同时它们之间又就是彼此独立的。
那么,这些综合指标(即新变量)应如何选取呢？显然,其最简单的形式就就是取原来变量指标的线性组合,适当调整组合系数,使新的变量指标之间相互独立且代表性最好。
如果记原来的变量指标为x 1,x 2,…,x p ,它们的综合指标——新变量指标为z 1,z 2,…,zm(m≤p)。
则11111221221122221122,,.........................................,p p p p m m m mp p z l x l x l x z l x l x l x z l x l x l x =+++⎧⎪=+++⎪⎨⎪⎪=+++⎩L L L (2)在(2)式中,系数l ij 由下列原则来决定:(1)z i 与z j (i≠j ;i,j=1,2,…,m)相互无关;(2)z 1就是x 1,x 2,…,x p 的一切线性组合中方差最大者;z 2就是与z 1不相关的x 1,x 2,…,x p 的所有线性组合中方差最大者;……;z m 就是与z 1,z 2,……z m-1都不相关的x 1,x 2,…,x p 的所有线性组合中方差最大者。
matlab主成分分析
matlab主成分分析主成分分析（PrincipalComponentAnalysis,PCA）是一种用来降低复杂数据集的维度的常用统计工具。
它的主要目的是把一组可能相关的变量（比如一组测量的实验数据）降维到一个更低维的表示中，从而找出数据中有意义的规律。
主成分分析可以从大量变量中选择出主导变量，可以用来剔除噪声，消除数据间的相关性，提取隐藏变量，简化数据集，以及建立统计模型。
Matlab一种常用的计算机科学编程语言，拥有强大的数学和图形处理功能，能够解决各种复杂的计算问题。
Matlab内置函数和第三方工具箱可以被用来实现主成分分析。
Matlab 中原生的主成分分析实现可以分为两步：一是数据准备，二是主成分分析。
数据准备是主成分分析过程中非常重要的一步，可以使用Matlab 中的函数实现。
主要包括提取变量、清洗数据和数据标准化三个部分。
提取变量可以通过从原始数据中选择需要的变量来实现，即将原始数据拟合到需要的维度中；清洗数据是指将原始数据中含有错误或者不可信的数据剔除；数据标准化则是指将原始数据的连续型变量转换成统一的数值范围，以便于分析。
主成分分析是从输入数据中学习到一组新的变量，这些变量能够说明输入数据中大部分的变量变化。
Matlab中主成分分析可以通过调用标准统计工具箱（Statistics and Machine Learning Toolbox）中的pca函数来实现，该函数能够从原始数据中抽取有意义的变量。
通过pca函数，可以在输入数据中学习到有意义的变量，并得到它们的系数和贡献率，以此说明主成分分析后数据的变化程度。
主成分分析的应用非常广泛，涉及到很多不同的领域。
如在统计学中用以进行常规数据分析，在计算机视觉中用来进行图像分析，在生物学中用于基因表达等。
Matlab供了强大的数学和图形处理能力，能够满足上述应用领域的需求，使用者可以通过原生函数和第三方工具箱快捷的实现主成分分析。
当然，主成分分析也有一些缺点，如把复杂的变量降维可能会损失一些原始数据的信息，也存在隐藏的偏差，因而也会影响分析的准确性。
主成分分析报告matlab程序
主成分分析报告matlab程序主成分分析报告 Matlab 程序在数据分析和处理的领域中，主成分分析（Principal Component Analysis，PCA）是一种常用且强大的工具。
它能够将多个相关变量转换为一组较少的不相关变量，即主成分，同时尽可能多地保留原始数据的信息。
在 Matlab 中，我们可以通过编写程序来实现主成分分析，这为我们的数据处理和理解提供了极大的便利。
主成分分析的基本思想是找到数据中的主要方向或模式。
这些主要方向是通过对数据的协方差矩阵进行特征值分解得到的。
最大的特征值对应的特征向量就是第一主成分的方向，第二大的特征值对应的特征向量就是第二主成分的方向，以此类推。
在 Matlab 中，我们首先需要导入数据。
假设我们的数据存储在一个名为｀data` 的矩阵中，每一行代表一个观测值，每一列代表一个变量。
｀｀｀matlabdata ＝ load(＇your_data_filetxt'）；％替换为您的数据文件路径｀｀｀接下来，我们需要对数据进行中心化处理，即每个变量减去其均值。
｀｀｀matlabcentered_data ＝ data repmat(mean(data)， size(data, 1)， 1)；｀｀｀然后，计算协方差矩阵。
｀｀｀matlabcov_matrix ＝ cov(centered_data)；｀｀｀接下来进行特征值分解。
｀｀｀matlabV, D ＝ eig(cov_matrix)；｀｀｀｀V` 是特征向量矩阵，｀D` 是对角矩阵，其对角元素是特征值。
我们对特征值进行从大到小的排序，并相应地对特征向量进行重新排列。
｀｀｀matlablambda, index ＝ sort(diag(D)，＇descend'）；sorted_V ＝ V(：， index)；｀｀｀此时，｀sorted_V` 的每一列就是一个主成分的方向。
为了计算每个观测值在主成分上的得分，我们可以使用以下代码：｀｀｀matlabprincipal_components ＝ centered_data sorted_V;｀｀｀我们还可以计算每个主成分解释的方差比例。
主成分分析PCA(含有详细推导过程以和案例分析matlab版)
主成分分析法(PCA)在实际问题中.我们经常会遇到研究多个变量的问题.而且在多数情况下.多个变量之间常常存在一定的相关性。
由于变量个数较多再加上变量之间的相关性.势必增加了分析问题的复杂性。
如何从多个变量中综合为少数几个代表性变量.既能够代表原始变量的绝大多数信息.又互不相关.并且在新的综合变量基础上.可以进一步的统计分析.这时就需要进行主成分分析。
I. 主成分分析法(PCA)模型（一）主成分分析的基本思想主成分分析是采取一种数学降维的方法.找出几个综合变量来代替原来众多的变量.使这些综合变量能尽可能地代表原来变量的信息量.而且彼此之间互不相关。
这种将把多个变量化为少数几个互相无关的综合变量的统计分析方法就叫做主成分分析或主分量分析。
主成分分析所要做的就是设法将原来众多具有一定相关性的变量.重新组合为一组新的相互无关的综合变量来代替原来变量。
通常.数学上的处理方法就是将原来的变量做线性组合.作为新的综合变量.但是这种组合如果不加以限制.则可以有很多.应该如何选择呢？如果将选取的第一个线性组合即第一个综合变量记为1F .自然希望它尽可能多地反映原来变量的信息.这里“信息”用方差来测量.即希望)(1F Var 越大.表示1F 包含的信息越多。
因此在所有的线性组合中所选取的1F 应该是方差最大的.故称1F 为第一主成分。
如果第一主成分不足以代表原来p 个变量的信息.再考虑选取2F 即第二个线性组合.为了有效地反映原来信息.1F 已有的信息就不需要再出现在2F 中.用数学语言表达就是要求0),(21 F F Cov .称2F 为第二主成分.依此类推可以构造出第三、四……第p 个主成分。
（二）主成分分析的数学模型 对于一个样本资料.观测p 个变量p x x x ,,21.n 个样品的数据资料阵为：⎪⎪⎪⎪⎪⎭⎫⎝⎛=np n n p p x x x x x x x x x X 212222111211()p x x x ,,21=其中：p j x x x x nj j j j ,2,1,21=⎪⎪⎪⎪⎪⎭⎫ ⎝⎛=主成分分析就是将p 个观测变量综合成为p 个新的变量（综合变量）.即⎪⎪⎩⎪⎪⎨⎧+++=+++=+++=ppp p p p pp p p x a x a x a F x a x a x a F x a x a x a F 22112222121212121111 简写为：p jp j j j x x x F ααα+++= 2211p j ,,2,1 =要求模型满足以下条件：①j i F F ,互不相关（j i ≠.p j i ,,2,1, =） ②1F 的方差大于2F 的方差大于3F 的方差.依次类推 ③.,2,1122221p k a a a kp k k ==+++于是.称1F 为第一主成分.2F 为第二主成分.依此类推.有第p 个主成分。
Matlab主成分分析：详解+实例
主成分分析
总结:
主 原始变量 目标
成
X1, , Xm
主成分
Z1, ,Zp
分
线性组合
分
Z1, , Zp 互不相关
析 的
信息不重合 按‘重要性’排序
求解主 成分
思
Z1, , Zp
想 Var(Z1) Var(Z2 ) Var(Zp )
r
i r 2(z j , xi )，
j1
这里r(z j , xi )表示zj 与 xi 的相关系数。
主成分分析
1 2 0
例1 设 x [ x1, x2 , x3 ]T 且 R 2 5 0
0 0 0
则可算得1 5.8284，2 0.1716，如果我们仅取第
一个主成分，由于其累积贡献率已经达到97.14%， 似乎很理想了，但如果进一步计算主成分对原变量的
c1 x1+ c2 x2+… +cp xp
我们希望选择适当的权重能更好地区分学生的 成绩. 每个学生都对应一个这样的综合成绩, 记 为s1, s2,…, sn , n为学生人数. 如果这些值很分散, 表明区分好, 即是说, 需要寻找这样的加权, 能使 s1, s2,…, sn 尽可能的分散, 下面来看的统计定义.
x5:交通和通讯,
x6:娱乐教育文化服务,
x7:居住,
x8:杂项商品和服务.
对居民消费数据做主成分分析.
聚类分析
聚类分析
聚类分析
计算的Matlab程序如下:
clc,clear load czjm1999.txt
%把原始数据保存在纯文本文件czjm1999.txt中
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
[F1,I1]=sort(F,'descend'); %给出各市名次的序号
[F2,I2]=sort(I1); %给出各市排名
plot(1:m,F,'*'); %主成分得分图
实验结果分析
结果分析34
2.41
8.11
99.54
江西
26.75
12
65.12
2.51
5.6
98.69
山东
31.6
17.64
59.02
2.94
9.91
99.36
河南
37.7
13.02
65.02
2.68
6.86
98.58
湖北
33.75
10.65
54.28
2.17
9.87
98.56
湖南
35.96
16.62
62.35
2.62
55.26
2.56
32.94
99.21
上海
27.39
12.42
45.62
2.13
8.04
99.26
江苏
26.45
14.02
58.99
2.88
6.91
99.64
浙江
24.48
14.82
58.81
3.18
6.17
99.65
安徽
35.13
10.63
65.65
2.39
4.95
98.4
福建
29.76
12.67
（2）利用协方差和相关系数，最大特征值对应的不是正向量，所以均不能用第一主成分进行排名
（3）构造的实对称矩阵，最大特征值对应的是正向量，且其贡献率为71.68%，所以能用第一主成分进行排名，排名结果为：
北京
天津
河北
山西
内蒙古
辽宁
吉林
黑龙江
上海
江苏
16
6
11
27
17
15
30
14
13
5
浙江
安徽
福建
江西
山东
A2=(A(:,2)-min(A(:,2)))./(max(A(:,2))-min(A(:,2)));
A3=(max(A(:,3))-A(:,3))./(max(A(:,3))-min(A(:,3)));
A4=(A(:,4)-min(A(:,4)))./(max(A(:,4))-min(A(:,4)));
A5=(A(:,5)-min(A(:,5)))./(max(A(:,5))-min(A(:,5)));
A6=(A(:,6)-min(A(:,6)))./(max(A(:,6))-min(A(:,6)));
A=[A1,A2,A3,A4,A5,A6];
%利用相关系数矩阵进行主成分分析
R=corrcoef(A);
7
99.32
广东
32.84
17.68
48.65
2.88
12.85
99.36
广西
32.31
12.12
64.04
2.45
7.72
101.2
海南
35.02
13.59
49.41
2.34
14.5
101.23
重庆
32.96
11.97
59.24
2.03
5.97
96.58
四川
37
10.72
63.54
1.7
8.62
98.8
%在指标中无明显的共线关系
[v,d]=eig(R);%计算特征值与特征向量
%输出结果显示，最大特征值对应的不是正向量，所以不能用第一主成分进行排名
%利用协方差矩阵进行主成分分析
R1=cov(A);
[v1,d1]=eig(R1);
%输出结果显示，最大特征值对应的不是正向量，所以不能用第一主成分进行排名
（4）排名的结果是否合理？为什么？
程序：
clc,clear
A=load('shiyan4_1.txt');
[m,n]=size(A);
%根据指标的属性将原始数据统一趋势化,其中资产负债率为成本型，转换成，效益型。
A1=(A(:,1)-min(A(:,1)))./(max(A(:,1))-min(A(:,1)));
河南
湖北
湖南
广东
广西
4
23
7
19
10
20
21
12
9
2
海南
重庆
四川
贵州
云南
西藏
陕西
甘肃
青海
宁夏
1
29
18
25
8
31
24
26
28
22
新疆
3
（4）排名结果不合理，因为从第一主成分得分图可以看出，指标的属性并没有明显的区别：
建议利用总贡献率达到90%以上后运用加权得分的结果，再进行排名得出结果。
教师评语
贵州
37.49
12.52
65.69
1.86
8.97
98.35
云南
41.22
20.94
49.16
1.85
12.44
99.42
西藏
63.03
3.32
20.4
0.53
10.76
90.38
陕西
43.67
16.61
57.28
1.91
17.82
98.36
甘肃
26.57
13.42
58.38
2.54
7.51
98.31
统计与数学模型分析实验中心
《MATLAB数据分析方法》实验报告
实验名称：主成分分析实验使用软件名称：MATLAB
目的
1.熟练掌握利用matlab软件进行主成分分析的计算步骤。
2.掌握选择主成分个数的原则以及利用特征值建立权向量的方法。
3.能根据主成分的数学公式，针对实际问题给出主成分的合理解释。
实验内容
主成分分析实验：
实验数据表见表一
表1 各地区国有及国有控股工业企业主要经济效益指标
地区
工业
增加值率
总资产
贡献率
资产
负债率
流动资产
周转次数
工业成本
费用利润率
产品
销售率
北京
25.92
5.52
34.04
2.05
7.93
99.19
天津
34.29
16.18
62.66
2.62
12.44
99.58
河北
29.46
11.87
青海
41.62
14.58
63.15
1.92
26.59
98.11
宁夏
38.98
8.27
63.53
1.83
5.07
98.53
新疆
45.58
25.84
49.36
3.16
29.88
100.29
（1）根据指标的属性将原始数据统一趋势化。
（2）利用协方差、相关系数矩阵进行主成分分析，可否只用第一主成分排名？
（3）构造新的实对称矩阵，使得可以只用第一主成分排名。
61.02
2.53
7.23
99.34
山西
37.58
11.28
67.65
1.95
8.68
98.18
内蒙古
47.36
11.43
62.23
2.21
13.8
99.08
辽宁
28.73
8.86
60.88
2.17
4.14
99.21
吉林
30.31
15.14
58.53
2.66
9.26
95.97
黑龙江
52.12
33.67
%利用R矩阵进行主成分分析
for i=1:n
for j=1:n
R2(i,j)=2*dot(A(:,i),A(:,j))./[sum(A(:,i).^2)+sum(A(:,j).^2)];
end
end
[v2,d2]=eig(R2);
w=sum(d2)/sum(sum(d2));
%输出结果显示，最大特征值对应的是正向量，且其贡献率为71.68%，所以能用第一主成分进行排名