多维标度分析
多维标度法介绍
A牌 B牌
B牌
1Hale Waihona Puke C牌32▪ 各种品牌的相似次序矩阵是多维标度法的输入 资料。在第四节中我们将介绍几种建立相似次 序矩阵的方法。
多维标度法的基本思想：
▪ 用r维空间(r待定)中的点分别表示各样品，使得各 样品间距离的次序能完全反映原始输入的相似次 序(两样品间的距离越短，则越相似)。通常，要 通过两步来完成。
2．计算初步图形结构中各点之间的距离
▪ 为叙述方便，有时我们将A，B，C三种品牌分 别称为第一、第二、第三品牌。
▪ 用欧氏距离公式计算A品牌和B品牌(第一品牌 和第二品牌)的距离
d12 （10 1）2 （5 - 5）2 9
▪ 同样计算d13，d23，并将它们排成矩阵形式 (dii=dii)，这个矩阵称为初步图形结构的距离矩 阵，如表3所示。
第十一章 多维标度法
(Multidimensional Scaling)
第一节 引 言
第一节 引 言
▪ 多维标度法(MDS)是著名计量心理学家谢泼 德(Shephard)和克鲁斯克 (Kruskal)分别于 1962年和1964年发展起来的一种计量心理学 技术。
▪ 多维标度法现在已经广泛应用于心理学、市 场调查、社会学、物理学、政治科学以及生 物学等领域的数据分析方法。
▪ 因此，多维标度法是用间接方法推断出品 牌有关的特性。
▪ 在许多情形中，我们可能不知道那些特性 与品牌有关，或者应答者不能够或不愿意 准确地回答，这时必须采用间接推断的方 法。
▪ 广义的MDS可以将聚类分析和对应分析 (Correspondence Analysis)也包括进 来。
▪ 根据它所利用的信息来看，多维标度法 可以分为两大类：
▪ 多维标度法可以说是上述问题的逆问题， 即给定样品两两之间的距离或相似度的排 序，反求各样品点的坐标。
典型相关分析与多维标度法
典型相关分析与多维标度法典型相关分析与多维标度法是两种常用的数据分析方法，用于分析两组变量之间的关系，其中典型相关分析主要用于分析两组多元变量之间的关系，而多维标度法则用于将多个变量转换为低维空间中的坐标，以观察它们之间的相似性或差异性。
典型相关分析是一种针对多个自变量和多个因变量之间的关系进行分析的方法。
典型相关分析的主要目标是找到一些线性组合，使得两组变量之间的相关性最大化。
通过这种方法，我们可以了解两组变量之间的相互作用和影响，对于构建预测模型或解释问题起到重要作用。
在典型相关分析中，我们首先将两组变量分别表示为X和Y，其中X 包含p个自变量（X1，X2，…，Xp），Y包含q个因变量（Y1，Y2，…，Yq）。
我们寻找一些线性组合，使得X和Y之间的相关性最大化。
我们可以将X和Y的线性组合表示为Z和W。
多维标度法是一种数据降维的方法，它可以将多个变量转换为低维空间中的坐标，以便于观察它们之间的相似性或差异性。
多维标度法的主要目标是通过将变量映射到低维空间中的坐标来保留变量之间的相对距离关系。
通过这种方法，我们可以更容易地观察和解释多个变量之间的关系。
在多维标度法中，我们首先计算变量之间的距离矩阵，然后通过寻找一些低维坐标来最小化原始距离矩阵与降维后的距离矩阵之间的误差。
我们可以使用不同的方法来计算坐标，如主成分分析法或岭回归法。
典型相关分析与多维标度法之间存在一些区别。
首先，典型相关分析主要用于分析两组多元变量之间的关系，而多维标度法则用于将多个变量转换为低维空间中的坐标。
其次，典型相关分析着重于寻找最大化相关性的线性组合，而多维标度法则着重于保留变量之间的距离关系。
最后，典型相关分析可以用于预测建模和解释问题，而多维标度法则主要用于观察和解释变量之间的相似性或差异性。
在实际应用中，我们可以根据具体的问题选择使用典型相关分析或多维标度法。
如果我们想要探索和解释两组多元变量之间的关系，可以使用典型相关分析。
三角模糊数多维标度分析及其应用_张菊花
其中 a ˉ i × = 1 å aij a ˉ ×j = 1 å aij a ˉ × × = 12 å å aij . n j=1 n i=1 n i=1 j=1 第三步： 求 B 的特征根 λ1 ³ λ 2 ³ × × × ³ λ n , 若无负特征 根， 表明 B ³ 0 ， 从而 D 是欧氏型的;若有负特征根, D 一 定不是欧氏型的。依据 λ + × × × +λk φ= 1 ³φ | λ1 | + × × × +| λn | 0 来确定最小的 k 值,但必要求 λ1 ³ × × × ³ λ k > 0 ,其中 φ0 为预先给定的阈值 （即变差贡献比例） 。 ̂ 第四步： 令 X = x(1) × × × x(k) ， 则 X̂ 的 行 向 量
n
n
n
n
bm ( λ) bu ( λ)] 为
[
] [
]
12
(al - bl )2 + (a m - bm)2 + (au - bu)2 ρ 2 (a͂ b͂ ) = ; 3 S (a͂ b͂ ) = 1 |al - bl | + |a m - bm| + |au - bu| 。 容 易 验 证 ρ1 和 3 ρ 2 都是距离, S 是相似度. 显然 S (a͂ b͂ ) 越大, 则 a͂ b͂ 相似 程度越大. 特别地, 当 S (a͂ b͂ ) = 1 时， 有 a͂ = b͂ , 即三角模糊
理论新探
三角模糊数多维标度分析及其应用
张菊花,魏立力
(宁夏大学 数学计算机学院,银川 750021) 摘 要： 多维标度法(MDS)是一种利用客体间的相似性去揭示其空间关系的统计分析方法。文章将经典的 MDS 扩展到了数据为三角模糊数的情形. 首先对多维标度理论、 三角模糊数的理论进行了概括; 其次依据三角 模糊数的两个距离和一个相似度, 构建了模糊数多维标度分析模型; 最后, 利用所得方法对我国中部省份计算 机拥有率、 计算机的联网率进行了分析。 关键词： 多维标度; 三角模糊数; 三角模糊数的距离; 距离阵 中图分类号： O212.4 文献标识码： A 文章编号： 1002-6487 （2014） 18-0028-04
第10章多维标度分析
第10章多维标度分析10.1多维标度法的基本思想当维数p>3时，即使给出了p维空间R P中n个样本点的坐标，我们都难以想象这n个点的相互位置关系，因此自然希望在我们熟悉的低维空间R k(k<p,如k=1,2,3)中能以较高的相似度重新展示这n个点的数据结构，并由此对原始样本数据进行统计分析.另外，即使维数p≤3,有时问题也不容易解决.比如地图上任意两个城市之间的直线距离和实际道路距离不一样，若仅给了一组城市相互间的实际道路距离，你能否标出这些城市之间的相对位置呢?又假定只知道哪两个城市最近，哪两个城市次近，等等，你还能确定它们之间的相对位置吗?重新标度的位置与实际位置相似度达到多大?把上面的不同“城市”换作不同的“产品”、“品牌”、“指标”等，也会遇到类似的问题.多维标度法(multidimensional scaling,MDS)就是一类将高维空间中的研究对象(样本或变量)简化到低维空间中进行定位、归类和分析，同时又有效地保留研究对象间原始关系的多元数据分析技术的总称，是一种维数缩减方法.多维标度法于20世纪40年代起源于心理测度学，用于大致测定人们判断的相似性，1958年Torgerson在其博士论文中首先正式提出了这一方法.多维标度法现在已广泛应用于心理学、市场营销、经济管理、交通、生态学及地质学等领域.多维标度法内容丰富、方法较多，其理论分析手段与主成分分析有相通之处，但也有自己的特点.根据研究对象的相关指标是用距离、比例等度量化数据给出还是用顺序、秩等给出，相应的分析方法分为度量分析法和非度量分析法，而古典多维标度法是其中最常用的度量分析法.10.2古典多维标度法下面根据参考文献[2],用一个例子来介绍几个与多维标度法相关的基本概念.【例10.1】(数据文件为eg10.1)表10-1给出了我国部分城市间的距离，由于道路弯弯曲曲，这些距离并不是这些城市间的真正距离.我们希望在地图上重新标出这八个城市，使得它们之间的距离尽量接近表10-1中的距离.表10-1 我国八个城市间的距离单位：千米北京天津济南青岛郑州上海杭州南京北京0天津118 0济南439 363 0青岛668 571 362 0郑州714 729 443 772 0上海1259 1145 886 776 984 0杭州1328 1191 872 828 962 203 0南京1065 936 626 617 710 322 305 0 10.2.1多维标度法的几个基本概念定义10.1一个n×n阶矩阵,如果满足条件(1)(2)则称矩阵D为广义距离阵，dij称为第i点与第j点间的距离.注意：这样定义的距离不是通常意义下的距离，而是通常距离的拓广，比如人们熟悉的距离三角不等式在这里就未必成立.对于距离阵,多维标度法的目的是要寻找较小的正整数k(如k=1,2,3)和相应低维空间R k中的n个点x₁,x₂,…,xn ,记表示xi与xj在R k中的欧氏距离，使得与D在某种意义下尽量接近.将找到的这n个点写成矩阵形式称X为D的一个古典多维标度(CMDS)解.在多维标度分析中，形象地称xi为D的一个拟合构造点，称X为D的拟合构图，称为D的拟合距离阵.特别地，当=D时，称xi为D的构造点，称X为D的构图.又若X为D的构图，令式中，P为正交阵，a为常数向量，则Y=(y₁,y₂,…,yn)也为D的构图，这是因为平移和正交变换不改变两点间的欧氏距离，即若D的构图存在，那么它是不唯一的.定义10.2对于一个n×n的距离阵,如果存在某个正整数k和R k中的n个点x₁,x₂,…,xn,使得(10.1)则称D为欧氏距离阵.下面讨论如何判断一个距离阵D是否为欧氏距离阵；在已知D为欧氏距离阵的条件下，如何确定定义10.2中相应的k和R k中的n个构造点x₁,x₂,…,xn.令(10.2)(10.3)式中，In 为n×n阶单位阵，1n,为分量全为1的n维列向量.借助这些定义，下面给出一个距离阵D为欧氏距离阵的充要条件.定理10.1设D为n×n阶距离阵，B由式(10.3)定义，则D是欧氏距离阵的充要条件为B≥0.证明：(必要性)设D是欧氏距离阵，由定义和式(10.2)可知，存在正整数k 和R k中的n个构造点x₁,x₂,…,xn,使得又由式(10.3)可得(10.5)式中，为元素全为1的nxn阶矩阵.注意式中(10.6)将它们代入式(10.5)中，可得(10.7)由式(10.4)知,再结合式(10.6),可得(10.8)将代入式(10.8),化简可得式中，将式(10.9)表示为矩阵形式，得到这里乘积HX所得的结果是将X中心化，即(10.10)(充分性)反之，若B≥0,记k=rank(B),λ₁,λ₂,…,λk (λ₁≥λ₂≥…≥λk>0)为B的正特征值，x(1),(2),…,x(k)为相应的特征向量，且令注意：这里x₁,x₂,…,xn表示由X的各行转置后得到的k×1列向量.令A=diag(λ₁,λ₂,…,λk),,则,即P的列为标准正交化特征向量，于是(10.11)由此可得说明正好是D的构图，所以D是欧氏距离阵，充分性得证.注意：充分性的证明给出了从欧氏距离阵D出发得到构图X的方法，即D→A→B→X具体步骤为：由D知dij,由得A,再由得B,最后求B的特征值λ₁,λ₂,…,λk和相应的特征向量x(1),(2),…,x(k),n×k阶矩阵X=(x(1),(2),…,x(k))的行向量转置后得到的n个k×1列向量x₁,x₂,…,xn 即为D的n个构成点，而矩阵即为D的构图，据式(10.11),X 也可以由来计算.由定理10.1知，D是欧氏距离阵的充要条件是B≥0.因此若B有负特征值，那么D一定不是欧氏距离阵，此时不存在D的构图，只能求D的拟合构图，记作,以区别真正的构图X.在实际中，即使D为欧氏距离阵，记它的构图为n×k 矩阵X,当k较大时也失去了实用价值，这时宁可不用X,而去寻找低维的拟合构图.也就是说，在D的构图不存在和构图存在但k较大两种情形下都需要寻找D的低维拟合构图.令这两个量相当于主成分分析中的累积贡献率，我们希望k不要取太大，就可以使a₁.k和a₂.k比较大，比如说，大于80%就比较合适.当k取定后，用表示B的对应于特征值λ₁,λ₂,…,λk的正交化特征向量，使得.通常还要求λk >0,若λk<0,要缩小k的值.最后，令则即为D的拟合构图，或者说为D的古典多维标度解，(均为k×1列向量)即为D的n个拟合构造点.有的文献也把称为X的主坐标，把多维标度分析称为主坐标分析.下面用一个具体例子(参见参考文献[2])来说明上述求解步骤.【例10.2】设有距离阵D如下(为简洁起见，对称阵都只写出上三角部分):由于,可求得A,āig ,āgj及āgg如下：再由bij =aij-āig-āgj+āgg可得由于B的7个列b₁,b₂,…,b₇有如下线性关系b₃=b₂-b₁,b₄=-b₁,b₅=-b₂,b₆=b₁-b₂,b₇=0于是B的秩最多为2,注意到B的第一个二阶主子式非退化，故rank(B)=2=k,并且可求得B的7个特征值分别为：λ₁=λ₂=3,λ₃=λ₄=…=λ₇=0且对应于λ₁,λ₂的特征向量分别为：故7个拟合构造点在R²中的坐标分别为：(√3/2,1/2),(√3/2,-1/2),(0,-1),(-√3/2,-1/2),(-√3/2,1/2),(0,1 ),(0,0)因为B≥0,所以原矩阵D是欧氏距离阵，故这7个拟合构造点就是D的构造点.容易验证，这7个构造点在R²中的欧氏距离阵恰为D,即10.2.2已知距离矩阵时CMDS解的计算上面计算CMDS解的过程在R中可使用stats包中的cmdscale()函数来实现，也可以使用MASS包中处理非度量MDS问题的isoMDS()函数来实现，但cmdscale()函数的好处是可以同时计算出B的特征值和特征向量以及两个累积贡献率a₁.k 和a₂.k的值.【例10.3】(数据文件为eg10.3)根据表10-1给出的我国八个城市间的距离矩阵D,利用R软件stats包中的cmdscale()函数求D的CMDS解，给出拟合构图及拟合构造点.解：在R中的程序为：#例10.3打开数据文件eg10.3.xls,选取数据区域C2:K10,然后复制>eg10.3=read.table("clipboard",header=T) #在R中读入数据>D10.3=cmdscale(eg10.3,k=2,eig=T) #k取为2,eig=T给出矩阵B的前两个特征#向量和特征值>D10.3$points[,1] [,2]北京-658.14610 -52.301759天津-522.00992 -133.917153济南-229.30657 32.365307青岛-80.72182 -277.225217郑州-171.98297 474.047645上海610.52727 -102.636996杭州659.93216 5.717159南京391.70794 53.951014$eig[1]1.756015e+06 3.367695e+05 7.888679e+04 3.770390e+041.320482e+04 -4.001777e-11 -1.434722e+04 -3.259473e+04......>sum(abs(D10.3$eig[1:2]))/sum(abs(D10.3$eig)) #计算a1.2[1] 0.9221257>sum((D10.3$eig[1:2])~2)/sum((D10.3$eig)~2) #计算a2.2[1] 0.9971656>x=D10.3$points[,1]>y=D10.3$points[,2]>plot(x,y,xlim=c(-700,800),ylim=c(-300,600)) #绘散点图(见图10-1)#根据两个特征向量的分量大小>text(x,y,labels=s(eg10.3),adj=c(0,-0.5),cex=0.8) #名标出#将拟合点用行#名标出图10-1我国八城市距离阵的拟合构图由R计算结果可见，矩阵B的八个特征值分别为：1756015,336770,78887,37704,13205,0,-14347,-32595最后两个特征值为负，表明距离矩阵D不是欧氏距离阵.a1.2=92.2%,a2.2=99.7%,故k=2就可以了.由前两个特征向量可得八个拟合构造点分别为：(-658.1,-52.3),(-522.0,-133.9),(-229.3,32.4),(-80.7,-277.2) (-172.0,474.0),(610.5,-102.6),(659.9,5.7),(391.7,54.0)容易计算出八个拟合构造点在R²中的欧氏距离阵，如表10-2所示.将它们与表10-1中城市间的原始距离数据进行比对，可以发现大多数距离数据拟合较好，少数数据误差较大.表10-2我国八个城市间的距离阵的拟合构图10.2.3已知相似系数矩阵时CMDS解的计算定义10.3一个n×n阶的矩阵,如果满足条件(1)(2)则称C为相似系数矩阵，cij称为第i点与第j点间的相似系数.在进行多维标度分析时，如果已知的数据不是n个对象之间的广义距离，而是n个对象间的相似系数，则只需将相似系数矩阵C按式(10.12)转换为广义距离阵D,其他计算与上述方法相同.令(10.12)由定义10.3可知，,显见,故D为距离)为欧氏距离阵. 阵，可以证明，当C≥0时，由式(10.12)定义的距离阵D=(dij【例10.4】(数据文件为eg10.4)为了分析下列六门课程之间的结构关系，找到了由劳雷和马克斯维尔得到的相关系数矩阵(见表10-3).其中，相关系数的值越大(小),表示课程越(不)相似.易见相关系数矩阵也为相似系数矩阵，记为C,求C的CMDS解，并给出拟合构图及拟合构造点.表10-3六门课程相关系数矩阵盖尔语英语历史算术代数几何盖尔语 1 0.439 0.41 0.288 0.329 0.248 英语0.439 1 0.351 0.354 0.32 0.32g 历史0.41 0.351 1 0.164 0.19 0.181 算术0.288 0.354 0.164 1 0.595 0.47 代数0.329 0.32 0.19 0.595 1 0.464 几何0.248 0.329 0.181 0.47 0.464 1解：据表10-3知，.于是由变换式(10.12)知(10.13)由式(10.13)易得六门课程的广义距离阵D,如表10-4所示.表10-4由六门课程相关系数矩阵转化所得的距离阵盖尔语英语历史算术代数几何盖尔语0 1.059 1.086 1.193 1.158 1.226英语 1.059 0 1.139 1.137 1.166 1.158 历史 1.086 1.139 0 1.293 1.273 1.280 算术 1.193 1.137 1.293 0 0.900 1.030 代数 1.158 1.166 1.273 0.900 0 1.035 几何 1.226 1.158 1.280 1.030 1.035 0余下工作可以仿照例10.3进行，在R中的程序为：#例10.4打开数据文件eg10.4.xls,选取数据区域A10:G16,然后复制>eg10.4=read.table("clipboard",header=T) #在R中读入数据>D10.4=cmdscale(eg10.4,k=2,eig=T) #k取为2,eig=T给出矩阵B的前两个特#征向量和特征值>D10.4$points[,1] [,2]盖尔语0.4028583 0.26570653英语0.2415986 0.48339407历史0.6210937 -0.50817963算术-0.4575066 0.03803193代数-0.4216733 -0.04017726几何-0.3863706 -0.23877565$eig[1]1.142825e+00 6.225908e-01 6.022539e-01 5.245848e-013.963587e-01 1.998401e-15......>sum(abs(D10.4$eig[1:2]))/sum(abs(D10.4$eig)) #计算a1.2[1] 0.5368268>sum((D10.4$eig[1:2])^2)/sum((D10.4$eig)~2) #计算a2.2[1] 0.6805523>x=D10.4$points[,1]>y=D10.4$points[,2]>plot(x,y,xlim=c(-0.6,0.8),ylim=c(-0.6,0.7)) #根据两个特征向量的分量大小绘制拟合图>text(x,y,labels=s(eg10.4),adj=c(0,-1),cex=0.8) #将拟合点用行名标出由R计算出的B的六个特征值按大小顺序依次为：λ₁=1.1428,λ₂=0.6226,λ₃=0.6023,λ₄=0.5246,λ₅=0.3964λ₆=0.0000因为a1.2=53.68%,a2.2=68.06%,不足80%,可考虑取k=3(这里从略).由前两个特征向量可得8个拟合构造点，分别为：(0.403,0.266),(0.242,0.483),(0.621,-0.508),(-0.458,0.038),(-0.422,-0. 040),(-0.386,-0.239).图10-2大体反映了这六门课程的基本结构，从图中可以直观地看出，算术、代数、几何较为接近，英语和盖尔语较为相近，而历史课程与其他课程的差异较大.图10-2六门课程相似系数矩阵的古典拟合构图10.3非度量多维标度法在实际问题中，涉及更多的可能是不易量化的相似性测度，如两种颜色的相似性，虽然我们可以用较小(大)的数字表示颜色非常(不)相似，但是这里的数字只表示颜色之间的相似或不相似程度，并不表示色彩实际的数值大小，因而这是一种非度量的定序尺度，能够利用的唯一信息就是这种顺序(秩).古典多维标度法基于主成分分析的思想，在低维空间上利用主坐标重新标度距离，这时式中，是距离dij 的拟合值；eij是拟合误差.但有时dij和之间的拟合关系可以表示为：(10.14)式中，f为一个未知的单调递增函数.这时，我们用来构造的唯一信息就是{dij }的秩，将{dij,i<j}从小到大排列为：与(i,j)所对应的dij 在上面的排列中的名次(由小到大)称为(i,j)的秩或dij的秩.我们欲寻找一个拟合构图(或一组拟合构造点),使后者相互之间的距离也有如上的次序，即并记为：这种模型大多出现在相似系数矩阵的场合，因为相似系数强调的是研究对象之间的相似，而不是它们的距离.在处理这种模型的各种方法中，最为流行的是Shepard-Kruskal算法，它的计算步骤如下：(1)已知相似系数矩阵D=(dij)(这里仍用D来记相似系数矩阵),并将其非对角元素从小到大排列为：(2)设是k维拟合构造点，相应的距离阵为,令(10.15)极小是对一切而言的，使上式达到极小的称为对的最小二乘单调回归.如果,在式(10.15)中取,这时是D 的构图.若对X作一正交平移变换yi =Pxi+b,P为正交阵，b为常数向量，则式(10.15)的分子不变.(3)若k固定，且能存在一个,使得则称为k维最佳拟合构图.(4)由于Sk (也称为压力指数，stress)是k的单调下降序列，取k,使Sk适当地小.例如Sk ≤5%最好，5%<Sk≤10%次之，Sk>10%较差.求解可用梯度法进行迭代(参见参考文献[2]).10.4案例分析与R实现案例10.1(数据文件为case10.1)表10-5给出了2010年我国31个省、直辖市、自治区农村居民家庭人均生活消费支出的统计数据.一共选取8个指标：x₁为食品消费；x₂为衣着消费；x₃为居住消费；x₄为家庭设备用品及服务；x₅为交通通信；x₆为文教娱乐用品及服务；x₇为医疗保健；x8为其他商品和服务支出.试用多维标度法对其进行统计分析，并对分析结果的实际意义进行解释.表10-5 2010年我国各地区农村居民家庭人均生活消费支出单位：元地区x₁x₂x₃x₄x₅x₆x₇x8北京2994.66 699.42 1990.21 473.62 1112.44 950.61 840.61 193.21天津2060.83 365.86 888.32 233.02 467.48 462.25 360.47 98.50河北1351.41 250.92 839.66 218.90 464.80 462.25 360.47 78.87山西1372.49 315.78 614.70 173.62 357.74 420.21 328.92 80.40内蒙古1675.04 317.71 751.99 177.91 598.61 374.19 467.97 97.41辽宁1714.15 369.15 745.03 185.23 448.97 500,28 413.83 112.87吉林1523.32 309.75 752.79 171.92 368.64 454.05 462.42 104.47黑龙江1483.95 387.17 793.80 164.63 455.90 560.71 443.16 101.86上海3806.82 554.13 2020.25 528.01 1459.45 997.65 584.51 209.66 江苏2491.51 350.01 1170.88 327.69 785.53 908.10 362.28 146.87浙江3055.59 551.53 2044.32 410.62 1145.99 839.19 709.30 172.34安1632.96 232.20 867.51 231.23 338.99 363.92 264.39 82.10 徽2537.15 310.14 865.50 292.71 638.07 462.17 251.36 141.23 福建江1812.66 174.61 782.72 205.27 331.81 285.23 243.84 75.48 西1804.45 305.56 832.95 324.70 649.21 421.91 383.89 84.51 山东河1371.17 261.52 765.18 254.47 401.44 250.47 287.83 90.14 南湖1763.05 217.61 816.42 262.26 331.35 288.12 295.24 116.73 北湖2087.85 209.85 719.20 243.90 343.82 315.93 293.59 96.23 南2630.05 215.51 986.70 235.01 637.08 326.53 307.43 177.27 广东1675.41 110.46 692.51 192.77 310.30 182.55 228.99 62.30 广西1724.47 117.36 609.77 135.22 312.53 318.04 138.35 90.49 海南1750.01 224.13 548.00 260.71 281.73 239.03 270.31 50.70 重庆1881.18 226.62 625.28 239.48 360.70 218.62 276.06 69.59 四川1319.43 137.49 621.80 135.64 229.66 186.19 178.07 44.21 贵州云1604.50 160.72 638.09 167.66 337.85 206.45 239.94 43.11 南西1325.71 326.65 352.88 181.27 282.43 51.06 71.16 75.77藏1299.22 237.87 837.54 233.37 336.22 397.61 376.20 75.77 陕西1315.25 184.23 551.63 146.93 256.70 238.03 203.13 46.0g 甘肃1442.88 255.19 944.23 193.59 369.60 198.53 307.92 62.55 青海1541.77 302.61 776.44 188.12 444.02 241.08 417.92 101.22 宁夏1394.38 303.66 695.17 137.69 382.14 170.15 314.73 59.94 新疆解：本案例我们采用R软件MASS包中的isoMDS()函数来实现分析计算(当然也可以用前面使用的cmdscale()函数),在R中的操作过程如下：#打开数据文件case10.1.xls,选取A2:I33区域，然后复制>case10.1<-read.table("clipboard",header=T) #将eg10.1.xls数据读入到#Case10.1中>D1=as.matrix(case10.1) #需要将数据转换成矩阵形式>D=dist(D1) #求距离阵>library(MASS) #载入MASS包，这样才能使用isoMDS()函数>fit=isoMDS(D,k=2)>fit$points[,1] [,2]北京-1882.08165 -405.5501799天津-181.18356 83.5568197河北378.06842 -316.9090361山西519.63551 -161.3723531内蒙古140.53475 -118.3236722辽宁239.59269 -57.3466211 吉林311.06135 -196.5769112 黑龙江257.18237 -303.2689490 上海-2574.54791 164.4633867 江苏-864.88942 19.9653109 浙江-1891.26840 -273.7180203 安徽241.99333 -56.7533361 福建-562.74468 426.2460037 江西187.41927 149.4628003 山东-23.94055 -68.0772001 河南480.52386 -165.0996828 湖北186.03261 68.3345125 湖南-11.86522 317.5767900 广东-645.99328 471.6486570 广西377.05811 164.2765177 海南362.23481 229.5403989 重庆360.53994 226.6307228 四川206.07019 261.9414880 贵州708.60794 -0.5224843 云南435.30179 117.9074584 西藏836.32175 163.8641180 陕西475.58204 -309.3702220 甘肃712.09253 -10.0972309 青海372.00020 -192.4072738 宁夏321.09711 -124.8186386 新疆529.56410 -105.2031733 $stress[1] 3.267686>x=fit$points[,1]>y=fit$points[,2]>plot(x,y) #画散点图(见图10-3)>text(x,y,labels=s(case10.1),adj=c(0.5,1.5),cex=0.7) #设置标签位#置大小>abline(h=0,v=0,lty=3) #采用虚线划分四个象限从图10-3可以比较直观地看出在总支出方面，上海、北京、广东、浙江、江苏、天津、福建等沿海地区是我国传统的经济发达地带，又是改革开放的前沿，雄厚的经济实力为农业和农村经济发展奠定了坚实的基础，农村居民的人均消费水平相对较高.北京在享受型消费方面领先于其他省区，说明北京的农民比较重视文化生活，由于他们身处祖国的政治文化中心，因此在文化、教育、医疗等方面有很高的消费和投入.而广东农民更重视物质上的消费，尤其在食物方面，广东人很下工夫，但是他们在文化生活上支出却不高，也不太注重这方面的投入.从总体来看，我国绝大多数地区农村居民家庭的消费水平比较低，消费结构不合理，我国农村居民家庭消费水平在不同地区间存在着明显的差异.图10-3 2010年我国农村居民家庭人均生活消费支出古典拟合构图习题10.1证明当C≥0时，由式(10.12)定义的距离阵D=(d₂)为欧氏距离阵.10.2(数据文件为ex10.2)在R中利用古典多维标度法对表10-6中的六个经济发展指标数据进行分析评价.其中，x₁为农业产值，x₂为林业产值，x₃为牧业产值，x₄为企业人数，x₅为企业总产值，x₆为利润总额.表10-6 2003年广东省各地区农村经济发展状况指标城市x₁x₂x₃x₄x₅x₆广州市97.84 1.28 38.86 141.98 2089.55 121.07深圳市11.20 0.66 12.59 156.52 418.16 50.12珠海市 5.67 0.11 3.60 17.39 360.58 10.58汕头市29.87 0.57 17.26 52.45 673.74 24.07佛山市52.39 0.29 32.14 90.77 1649.81 62.74韶关市47.82 4.47 18.44 27.91 144.51 16.14河源市33.57 3.10 12.84 12.62 51.25 4.73梅州市57.10 2.74 28.02 44.12 226.65 19.75惠州市61.57 4.70 25.20 70.38 568.79 40.39汕尾市29.82 1.70 12.09 30.52 189.00 6.78东莞市20.97 0.14 20.35 134.63 1380.42 74.01中山市16.87 0.21 5.33 91.43 1148.14 52.10江门市57.33 1.79 39.21 85.64 1252.07 32.68阳江市47.72 3.27 21.39 19.52 191.64 11.08湛江市87.20 4.72 34.07 40.60 390.06 20.96茂名市112.00 7.85 81.36 76.47 739.34 40.85肇庆市76.06 16.45 46.77 52.97 569.93 19.40清远市57.35 6.67 28.47 17.95 75.29 6.76潮州市27.05 1.63 14.88 35.22 501.63 20.97揭阳市71.08 2.09 26.43 50.52 891.76 17.79云浮市44.07 4.65 38.97 22.23 188.47 8.7010.3(数据文件为ex10.3)表10-7给出了2011年全国31个省、直辖市、自治区的城镇居民家庭人均消费性支出的8个主要指标数据，根据这些数据，采用多维标度法进行分析评价.表10-7全国31个省、直辖市、自治区城镇居民家庭人均消费性支出数据(2011年)单位：元地区食品x₁衣着x₂居住x₃家庭设备及用交通通信x₅文教娱乐x₆医疗保健x7其他x8品x₄北京6905.512265.881923.711562.553521.23306.821523.32975.37天津6663.311754.981763.441174.622699.532116.011415.39836.82河北3927.261425.991372.25809.85 1526.61203.99955.95 387.40山西3558.041461.91327.78832.74 1487.661419.43851.30 415.44内蒙古4962.42514.091418.61162.872003.541812.071239.36765.13辽宁5254.961854.631385.62929.37 1899.061614.521208.3643.15吉林4252.851769.471468.29839.31 1541.371468.341108.51562.48黑龙江4348.451681.881185.96723.58 1363.621190.871082.96476.89上海8905.952053.812225.681826.223808.413746.381140.821394.86江苏6060.911772.061187.741193.812262.192695.52962.45 647.06浙江7066.222138.991518.061109.423728.232816.121248.9811.51安徽5246.761371.011501.39690.66 1365.011631.28907.58 467.77福建6534.941494.961661.841179.842470.181879.02773.26 667.00江西4675.161272.881114.49914.88 1310.211429.3641.23 389.06山东4827.612008.841510.841013.822203.991538.44938.86 518.27河南4212.761706.941087.08977.52 1573.641373.94919.83 484.76湖北5363.681677.911172.11814.81 1382.21489.67915.72 347.68湖南4943.891499.021292.55940.79 1975.51526.1790.76 434.25广东7471.881404.62005.151370.283630.622647.94948.18 773.17广西5074.491019.341237.91884.85 2000.571502.65779.08 349.48海南5673.65 780.101342.29729.86 1830.81141.81783.34 360.91重庆5847.92056.791205.661079.271718.731474.881050.62540.63四川5571.691483.541226.141020.161757.521369.47735.26 532.52贵州4565.851209.881102.99857.55 1395.281331.43578.33 311.57云南4802.261587.18827.84 570.46 1905.861350.65822.41 381.38西藏5184.181261.29781.12 428.03 1278.0514.44 424.10 527.74陕西5040.471673.241193.81914.26 1502.441857.61100.51500.42甘4182.41470.21139.8660.48 1289.81158.3874.05 413.37肃7 6 5 0 0青海4260.271394.281055.15723.23 1293.45967.90 854.25 406.93宁夏4483.441701.731247.14885.36 1637.611441.18978.12 521.47新疆4537.461715.94888.16 791.43 1377.671122.18912.99 493.56 10.4(数据文件为ex10.4)对表10-8给出的我国12个城市间的航空距离矩阵D,利用R软件中的cmdscale()函数求D的CMDS解，并给出拟合构图X及拟合构造点.表10-8我国12个城市间的航空距离矩阵10.5(数据文件为ex10.5)在R中利用古典多维标度法对表10-9中给出的2006年我国东部和西部地区20省区工资水平数据.请对相关经济发展指标数据进行分析评价.其中x₁为国有单位工资，x₂为城镇集体单位工资，x3为股份合作单位工资，x₄为联营单位工资，x5为有限责任公司工资，x₆为股份有限公司工资，x₇为其他单位工资，x8为港、澳、台商投资单位工资，x9为外商投资单位工资.表10-9我国2006年20个省区工资水平数据单位元地区x₁x₂x₃x₄x₅x₆x₇x8X 9北京41313 17550 14603 20154 30732 54595 28023 52593 64192 河北17057 10255 12947 23894 17580 15835 10362 17282 18014 山西18540 12014 10208 16308 20554 15917 11883 14583 17363 内蒙古19275 12404 11216 12238 17439 18211 12966 14222 19041 辽宁20305 10793 13175 11859 18852 24453 10095 19206 19756 吉林16983 9106 9698 10413 15249 20657 10381 13461 22562 上海40141 22959 20912 30984 31305 43673 42206 26244 42556 江苏28143 15279 16199 17302 20453 25487 15954 18200 23446 浙江41920 22006 19220 32979 19903 26994 21657 19593 20950 江西16227 10000 12118 13939 14710 17365 10388 10982 13731 山东22552 13024 13588 27823 15732 17440 12798 15602 18248 湖北17708 10265 10787 14262 14683 14985 9671 12545 23261 湖南18459 12490 14442 14328 15754 18228 15525 15812 17574 广西18384 12025 11071 13637 16549 17854 13231 12910 22427 重庆21168 13471 14460 16283 15637 21497 13368 17098 25037 四川19884 12624 13522 14962 13251 16606 10693 16909 20749 贵州17248 12590 14796 12306 14227 19361 12482 13436 15359 云南19520 11859 12806 14890 16308 19720 10833 15054 20944 陕西16894 8879 19713 14943 18215 18856 13613 14634 18077 甘肃17836 11411 9832 6439 13998 22076 8407 16877 20139。
多元统计分析 (2)
设B
(bij
)
，经过计算可得
nn
bij
aij
1 n
n j 1
aij
1 n
n i 1
aij
1 n2
n i 1
n
aij
j 1
因为式（14.2.1）aij
1 2
dij 2，所以
bij
1 2
(di2j
1 n
n j 1
di2j
1 n
n i 1
di2j
1 n2
n i 1
n
di2j )
j 1
（14.2.3） （14.2.4）
j
2 n
n
XiX j
j 1
2 n
n i 1
X iX
j
2 n
n i 1
n
XiX j )
j 1
( XiX j XiX X X j X X ) ( Xi X )( X j X ) （14.2.10）
其中，X
1 n
n i 1
X
。
i
用矩阵表示为：
B
(bij
)nn
( X1
X
)
(
X1
X,
( Xn X )
在解决上述问题之前，首先明确相关的概念。
1．相似数据与不相似数据 相似数据：如果用较大的数据表示非常相似，用较小 的数据表示非常不相似，则数据为相似数据。如用10 表示两种饮料非常相似，用1表示两种饮料非常不相似。 不相似数据：如果用较大的数值表示非常不相似，较 小的数值表示非常相似，则数据为不相似数据，也称 距离数据。如用10表示两种饮料非常不相似，用1表示 两种饮料非常相似。
n i 1
mds多维标度法
mds多维标度法多维标度法（Multidimensional Scaling, MDS）是一种用于分析和可视化数据相似性或距离的统计技术。
它被广泛应用于心理学、市场研究、地理学、计算机科学等领域。
MDS的基本原理是通过将数据样本的相似性或距离转换成几何空间中的位置，来呈现数据之间的关系。
MDS的操作过程包括两个主要步骤：距离矩阵的计算和空间位置的估计。
首先，需要构建一个距离矩阵，该矩阵反映了数据样本之间的相似性或差异程度。
常见的距离度量方法包括欧氏距离、曼哈顿距离、闵可夫斯基距离等。
然后，利用数学算法对距离矩阵进行分析和转换，将数据转化为低维空间的坐标。
常见的算法有最小平方逼近（Least Squares Approximation）、主坐标分析（Principal Coordinate Analysis）、核主元分析（Kernel Principal Component Analysis）等。
MDS的最终结果通常通过散点图或轮廓图来呈现。
在散点图中，每个数据样本被表示为一个点，点的位置反映了样本之间的相似性。
相似的样本会更接近，而不相似的样本则会更远离。
轮廓图则用于衡量不同数据样本在转换后空间中的“质量”，即某个样本在低维空间中的位置是否合理。
轮廓系数越高，表示样本被正确地分配到了相应的位置，反之则表示分配不合理。
MDS的应用非常广泛。
在心理学研究中，MDS可用于分析人类对于不同刺激物或概念之间的感知相似性，比如测量产品、品牌或文字的相似性。
在市场研究中，MDS可用于揭示消费者对于产品的感知和比较，从而指导产品定位和市场策略。
在地理学中，MDS可用于分析地理空间上不同地点之间的相似性或距离，以帮助理解地理现象的关联性。
在计算机科学中，MDS可用于处理高维数据的可视化问题，将多维数据映射到二维或三维空间中进行展示和分析。
MDS在实际应用中也存在一些限制和挑战。
首先，MDS的性能很大程度上依赖于初始的距离矩阵，因此需要确保距离矩阵的准确性和合理性。
第10章-多维标度分析
2015/10/9
主编：费宇
12
10.2.2 已知距离矩阵时CMDS解
上面求解CMDS解的实现过程，可使用
stats包中的cmdscale函数；也可使用MASS包 中isoMDS函数．
例10.3 对表10.1给出的我国八个城市间 的距离矩阵D ，利用R软件stats包中的 cmdscale函数求 的CMDS解，给出拟合构 ˆ 及拟合构造点． 图D
X ( x1, x2 ,, xn )T
称 X 为 D 的一个古典多维标度(CMDS)解, 称 xi 为 D 的一个拟合构造点，称 X 为 D 的拟 ˆ 为 D 的拟合距离阵． 合构图，称 D
2015/10/9
主编：费宇
7
ˆ 时 ，称x 为 D 的一个构造点， 特别，当 D D i 称 X 为 D 的构图，注意 D 的构图不唯一．
2015/10/9
T T
1 2, 1 2, 1, 0 )
主编：费宇
11
例10.2（续） 由D求 X的过程示例
ˆ 恰为 D 由 x(1) 和 x(2) 所得的 7 个构造点在 R 中的欧氏距离阵D
2
7 个构造点：( 3 2, 1 2), ( 3 2, 1 2), (0, 1), ( 3 2, 1 2), ( 3 2, 1 2), (0, 1), (0, 0).
由 aij d 2 A
2 ij
由 bij aij ai a j a B
B 的特征值和前两个特征向量分别为：
1 2 3, 3 4 =7 =0.
x(1) ( 3 2, 3 2, 0, 3 2, 3 2, 0, 0 ) x(2) ( 1 2, 1 2, 1,
多维标度法
多维标度法内容丰富、方法较多。 按相似性（距离）数据测量尺度的不同MDS可分为： 度量MDS：当利用原始相似性（距离）的实际数值为间隔尺 度和比率尺度时称为度量MDS(metric MDS) 非度量MDS：当利用原始相似性（距离）的等级顺序（即有 序尺度）而非实际数值时称为非度量MDS(nonmetric MDS) 按相似性（距离）矩阵的个数和MDS模型的性质MDS可分
2
Shepard和Kruskal等人进一步加以发展完善。多维标度法 现在已经成为一种广泛用于心理学、市场调查、社会学、物 理学、政治科学及生物学等领域的数据分析方法。 多维标度法解决的问题是：当n个对象（object）中各对对象 之间的相似性（或距离）给定时，确定这些对象在低维空间 中的表示（感知图Perceptual Mapping），并使其尽可能与 原先的相似性（或距离）“大体匹配”，使得由降维所引起 的任何变形达到最小。多维空间中排列的每一个点代表一个 对象，因此点间的距离与对象间的相似性高度相关。也就是 说，两个相似的对象由多维空间中两个距离相近的点表示， 而两个不相似的对象则由多维空间两个距离较远的点表示。 多维空间通常为二维或三维的欧氏空间，但也可以是非欧氏 三维以上空间。
整数 r 和 R r 中的 n 个点 X1 , X 2 ,
2 dij ( X i X j )( X i X j )
, X n ，使得
i, j 1,2,
,n
则称 D 为欧氏距离阵 3．相似系数阵
定义 10.3 一个 n n 阶的矩阵 C (cij )nn ，如果满足条件：
定义10.1 一个n n阶的矩阵D=(dij ) n n ，如果满足条件：
8
（ 1） D D （ 2） dij 0, dii 0,
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
武夷学院实验报告
课程名称：多元统计分析项目名称：多维标度分析姓名：专业： 14信计班级：1班学号：同组成员：无
(一)操作步骤
(1)点击分析-度量--多维尺度 ,进入多维标度分析的主对话框，如下图。
(2变量为设定变量列表框，用于将要分析的表示距离的变量移入此处。
本案例是将北京，合肥，长沙，杭州，南昌，南京，上海，武汉，广州，成都，福州，昆明放置于此框。
(3)单个矩阵表示如果数据文件中有多个受访者的距离阵时。
就应当使用该选项选取代表不同受访者的变量。
(4)距离用于设置所使用距离的产生方式。
①数据为距离数据表示如果所提供的数据为距离阵，可直接用于分析。
单击"形状"有3个选项(图:正对称表示距离阵为完全对称形式，且行列表示相同的项目，要对角线上下三角中相应的数值对称相等，正对称表示距离阵为不完全对称结构且行列表示相同项目，上下三角中相应的数值不想等，矩形表示距离阵为距离完全不对称形式，并需要在行数框中输入行数，如下图。
②从数据中创建度量表示如果数据代表的不是距离，使用该选项可以根据数据生成距离阵。
单击"度量标准"打开数据测度方法对话框，如下图。
其中，度量标准用于选择不相似性量度方法，转换值是选择进行标准化转化的方法，创建距离矩阵表示是根据变量还是根据样品创建距离阵(变量间计算成对变量之间的不相似性矩阵，个案间计算两两样品之间的不相似性距离矩阵)。
设置完成后，点击继续返回主对话框。
(5)在主对话框中点击模型，用于设置数据和模型的类型，如下图。
①度量水平用于指定测量尺度。
其中，序数为有序数据，区间为定距数据，比率为比例数据，鉴于本例中的数据是距离，因此选择interval。
②条件性用于进一步定义距离阵的情况。
矩阵表示只有一个矩阵或者每个矩阵代表不同的个体时采用，它表示距离阵的数值意义相同，是可以相互比较的，行只在非对称或者距离阵时才使用。
表示只对同一行间数据进行比较才有意义，无约束表示不受任何限制，资料中所有数值的比较都有意义。
③维数用于指定多维尺度分析的维度。
最小值输入最少维度，最大值输入最大维度，由于一般是计算二维解，均输入2。
④度量模型用于选择距离测量模式。
Euclidean 距离是欧几里得距离，个别差异Euclidean 距离加权欧几里距离。
运行结果：
（1）
上图为最优标度的距离阵
古典解的迭代过程以及压力，RSQ数值（表）。
在criteria栏指定的迭代最大次数为30，拟合劣度S-stress值小于时停止。
RSQ表示总变异种能够被相对空间距离所揭示的比例，数值越接近1说明拟合效果很好；S-stress是拟合劣度指标，其值越高说明拟合越差。
从表中可以看出本例迭代到第三次S-stress 为小于，迭代过程结束；RSQ数值为，S-stress为，都说明拟合效果好。
（2）拟合构造点在二维标度中的坐标，如下表。
上图为最优标度的距离阵。
（3）
派生的激励配置图。
是不同点对距离的散点图。
将各样点按照各个样品之间的距离在空间中排列起来。
从下图中可以看出长沙、南昌、武汉三者之间的距离比较靠近，杭州、合肥、南京、上海四者间的距离比较近，昆明与成都比较靠近，北京与其他城市相距最远。
（4）
线性拟合散点图，如下图。
该图提供的是原始数据的不一致程度和用线性模型计算出来的欧式距离间的散点图。
如果模型拟合程度好，则所有散点应当在一条直线上。
从该图中可以发现，各点基本上呈线性趋势，不存在明显的离群点，因此采用欧几里得距离来拟合原始数据的距离阵是非常适合的。
五、实验总结
这个实验还是有一定的难度,?因为这不单单是一门学科知识,而需要一定的统计学知识，因而操作起来并没有前几个实验那么简单,在整个实验中遇到了种种困难,不过最终在实验书的指导和各位同学们的帮助还是顺利的完成了整个实验。
虽然实验时间短暂但收获还是颇丰的，至少对spss软件有了基本了解，掌握了该软件的一些基本操作。
实验报告成绩（百分制）__________ 实验指导教师签字：__________。