聚类分析
聚类分析
聚类分析（一）聚类分析基本概念（1）有若干个变量（或指标），例3-1的2个变量是样本均值和样本标准差；例3-2的变量是对式样、图案、颜色、材料的态度；例3-3的变量是销售增长、销售利润和新客户销售额；例3-4的变量是出生率、死亡率和婴儿死亡率；…。
这些变量称为自变量或聚类变量。
（2）有若干次观测，每次观测值由若干个数值组成，每次观测值称为1个个体或1个样品：例3-1其观测次数共有4次（甲、乙、丙、丁），其观测值都是2个值组成：第1次观测（第1个样品）是向量,第2次观测（第2个样品）是，……。
例3-2有5次观测（5位顾客），每人4项指标；例3-3、3-4、3-5，的变量各有50、97、39次观测值；而例3-6将许多次原始观测整理为协方差阵，并未提供原始观测数据。
（3）要求分类（或分组）：例3-3、3-4要求把观测值分为3类，而例3-1和例3-2则不限定观测值分为几类；例3-1、3-2、3-3、3-4要求按观测值分类，而例3-5，3-6要求按变量分类。
因为是把大量的样品变为少量的类，通常这种分类称为聚类。
（二）聚类原理1）聚类原则选定观测值（点）间距离，类间距离，按照距离最近两类合并在一起的原则合并。
（也有用相似远离）。
常用聚类方法分为：（1）系统聚类MINITAB译为观测值聚类（得到谱系图或树状图）（2）动态聚类MINITAB译为K均值聚类。
可由统计>多变量>观测值聚类，统计>多变量>K均值聚类分别进入。
2）常用点间距离（距离度量）有时先把数据标准化再聚类以免单位影响，例如x1观测值3，2，1，0，-1；x2取值30，20，10，0，-10。
X1均值1，样本标准差；将x1观测值减去平均值1，除以，得到，，，，；，，，，是3，2，1，0，-1的标准化。
X2标准化后也得到，，，，。
标准化后的数与单位无关。
系统聚类从“统计>多变量>观测值聚类”进入观测值聚类框；点间距离，类间距离根据情况选取。
什么是聚类分析,它有哪些应用？
什么是聚类分析，它有哪些应用？
一、聚类分析的实现方式
聚类分析的实现方式有很多种，如下面几种：
1. 基于距离的聚类：
这种方法将数据点之间的距离作为相似性的度量，然后将距离最近的数据点聚在一起，并逐渐地将距离较远的数据点加入到不同的簇中。
2. 基于密度的聚类：
这种方法通过计算数据点的密度来确定簇边界，而不是使用距离来度量相似性。
将密度较高的数据点聚集在一起，而将密度较低的数据点单独作为一个簇。
3. 基于层次的聚类：
这种方法将数据点逐层进行聚合，每一层都是由多个子层组成的。
聚类过程一直持续到所有数据点都被分配到一个簇中，或者簇的数量达到预设的值。
二、聚类分析的应用领域
聚类分析作为一种重要的数据挖掘技术，在多个领域中都有着广泛的应用，下面介绍一些主要应用领域：
1. 市场细分：
聚类分析可以帮助企业将市场分割成不同的细分市场，然后根据每个细分市场的特点定制相应的市场策略。
2. 生物分类：
聚类分析在生物学领域中应用非常广泛，例如，可以用于分类分子或组分、成本分析以及微生物学等方面。
3. 网络流量分析：
聚类分析可以帮助网络管理员对网络流量进行分类，以便更好地了解网络中流动的数据类型，从而更好地优化网络性能。
4. 风险评估：
聚类分析可以用于对风险进行分类和评估，例如，可以将客户分类成高风险、中风险和低风险客户，以快速响应某些意外事件。
结论
聚类分析是一种非常有用的技术，可以用于许多不同的领域。
以上只是聚类分析的一些基本理解和应用，随着技术的不断发展，聚类分析在未来也将有着更广泛的应用。
聚类分析
C
E
A
F B
重心距离
D
4.中间距离法（Median clustering ）
如果类与类之间的距离既不采用两类之间最近的距离,也 不采用两类之间最远的距离,而是采用两者之间的距离, 则称为中间距离法.当两类 G p 和 Gq 合并成新类 Gr Gp Gq 时, Gr 与任一类 Gk 的距离如何决定呢? Gkq 、 G pq 为边作三角形，可设 Gkq Gkp ，按最短 以Gkp、 距离法核算类间距离；若 Gkq Gkp ，按最远距离法核 算类间距离；若 Gkq Gkp 取其中线，由初等几何知这 个中线的平方等于任一类 Gk 与 Gr 间的距离。计算公式 如下： 1 2 1 2 1 2 2 Gkr Gkp Gkq G pq 2 2 4
得到新矩阵
G6 G1 G 2 G 5 G 6 0 D1 G1 13.12 0 G 2 24.06 11.67 0 G 5 2.21 12.80 23.54 0
合并类6和类5，得到新类7
类7与剩余的1、2之间的距离分别为：
d(5,6)1=min(d51,d61)=min(12.80,13.12)=12.80 d(5,6)2=min(d52,d62)=min(23.54,24.06)=23.54
0 2.20 3.51
因此将3.4合并为一类，为类6，替代了3、4两类 类6与剩余的1、2、5之间的距离分别为：
d(3,4)1=min(d31,d41)=min(13.80,13.12)=13.12 d(3,4)2=min(d32,d42)=min(24.63,24.06)=24.06 d(3,4)5=min(d35,d45)=min(3.51,2.21)=2.21
聚类分析
聚类分析也是一种分类技术。
与多元分析的其他方法相比，该方法较为粗糙，理论上还不完善，但应用方面取得了很大成功。
与回归分析、判别分析一起被称为多元分析的三大方法。
聚类的目的。
根据已知数据，计算各观察个体或变量之间亲疏关系的统计量（距离或相关系数）。
根据某种准则（最短距离法、最长距离法、中间距离法、重心法），使同一类内的差别较小，而类与类之间的差别较大，最终将观察个体或变量分为若干类。
聚类分析又叫群分析、点群分析或者簇分析，是直接比较各事物之间的性质，将性质相近的归为一类，将性质差别较大的归入不同的类。
1、聚类分析聚类分析也称群分析、点群分析。
例如，我们可以根据各个银行网点的储蓄量、人力资源状况、营业面积、特色功能、网点级别、所处功能区域等因素情况，将网点分为几个等级，再比较各银行之间不同等级网点数量对比状况。
1、基本思想：我们所研究的样品（网点）或指标（变量）之间存在程度不同的相似性（亲疏关系——以样品间距离衡量）。
于是根据一批样品的多个观测指标，具体找出一些能够度量样品或指标之间相似程度的统计量，以这些统计量为划分类型的依据。
把一些相似程度较大的样品（或指标）聚合为一类，把另外一些彼此之间相似程度较大的样品（或指标）又聚合为另一类，直到把所有的样品（或指标）聚合完毕，这就是分类的基本思想。
在聚类分析中，通常我们将根据分类对象的不同分为Q型聚类分析和R型聚类分析两大类。
R型聚类分析是对变量进行分类处理，Q型聚类分析是对样本进行分类处理。
R型聚类分析的主要作用是：1、不但可以了解个别变量之间的关系的亲疏程度，而且可以了解各个变量组合之间的亲疏程度。
2、根据变量的分类结果以及它们之间的关系，可以选择主要变量进行回归分析或Q型聚类分析。
Q型聚类分析的优点是：1、可以综合利用多个变量的信息对样本进行分类；2、分类结果是直观的，聚类谱系图非常清楚地表现其数值分类结果；3、聚类分析所得到的结果比传统分类方法更细致、全面、合理。
聚类分析应用
聚类分析简介
▪ 聚类分析的算法选择
1.根据数据集的特点和聚类目的选择合适的聚类算法，例如对于大规模数据集可以采用高效的 划分聚类算法，对于形状复杂的簇可以采用密度聚类算法。 2.对于不同的聚类算法，需要了解它们的优缺点和适用场景，以便在实际应用中选择最合适的 算法。 3.聚类算法的选择需要考虑数据的维度、规模、分布等因素，以及聚类结果的解释性和可用性 。 以上是关于聚类分析简介的三个主题内容，希望能够帮助到您。
聚类分析应用
目录页
Contents Page
1. 聚类分析简介 2. 聚类分析方法 3. 数据预处理 4. 距离度量方法 5. 聚类质量评估 6. 常见聚类算法 7. 聚类应用案例 8. 总结与展望
聚类分析应用
聚类分析简介
聚类分析简介
▪ 聚类分析简介
1.聚类分析是一种无监督学习方法，用于将数据集中的对象根据相似性进行分组，使得同一组 （即簇）内的对象尽可能相似，而不同组的对象尽可能不同。 2.聚类分析可以应用于各种领域，如数据挖掘、模式识别、图像处理、生物信息学等，帮助研 究者发现数据中的内在结构和规律。 3.常见的聚类算法包括划分聚类、层次聚类、密度聚类、网格聚类等，不同的算法有着不同的 优缺点和适用场景。
▪ 共享最近邻聚类
1.共享最近邻聚类是一种基于数据点之间共享最近邻信息的聚 类方法，通过计算数据点之间的相似度，实现簇的划分。 2.共享最近邻聚类算法对噪声和异常点有较好的鲁棒性，可以 处理形状复杂的簇和高维数据，但计算复杂度较高。 3.通过改进相似度计算方式、引入近似算法或结合其他技术， 可以优化共享最近邻聚类的性能和可扩展性。
常见聚类算法
▪ 密度峰值聚类
1.密度峰值聚类是一种基于密度的聚类方法，通过寻找具有最 高局部密度的数据点作为聚类中心，实现簇的划分。 2.密度峰值聚类算法不需要预先设定簇的数量，对形状复杂的 簇和噪声有较好的鲁棒性，但计算复杂度较高。 3.通过优化密度峰值定义方式、引入核函数或结合其他算法， 可以提高密度峰值聚类的性能和效率。
聚类分析
步骤：
• • • • • • • 1、对数据进行变换处理，消除量纲 2、构造n个类，每个类只包含一个样本计算 3、n个样本两两间的距离{dij} 4、合并距离最近的两类为一新类 5、计算新类与当前各类的距离，重复（4） 6、画聚类图 7、决定类的个数和类
12
类与类间距离的确定
一、最短距离法 二、最长距离法 三、中间距离法 四、重心距离法 五、类平均法 六、离差平方和
聚类分析
(Cluster Analysis)
1
聚类分析(Cluster Analysis)
• 一、聚类分析基本原理 • 二、层次聚类法(Hierarchical Cluster) • 三、K-均值聚类法(K-means cluster)
2
一、聚类分析(Cluster analysis)基本原理 • 聚类分析又称群分析或点群分析，它是研
G8={G1,G2}
17
d78=min{d71,d72}=12.80 7 D4= 7 8 河南3 甘肃4 青海5 辽宁1 浙江2 0 12.8 0 8
18
最长距离法(furthest neighbor)
• 用两类之间最远点 的距离代表两类之 间的距离。
例2：对例1的数据以最长距离法聚类。
19
d13=13.80 d14=13.12 d15=12.80 d23=24.63 d24=24.06 d25=23.54 d34=2.2 d35=3.51 d45=2.21 1 D1= 1 2 3 4 5 0 11.67 0 13.80 24.63 0 13.12 24.06 2.20 0 0 12.80 23.54 3.51 2.21 2 3 4 5 河南与甘肃的距离最近， 先将二者（3和4）合 为一类G6={G3，G4}
聚类分析(共8张PPT)
聚类分析
三、聚类分析中的测度与标准化
在聚类分析技术的发展过程中，形成了很多种测度相似性的方法。每一种方法 都从不同的角度测度了研究对象的相似性。
在数据采集过程中，一般可以用三种方式采集数据：二分类型数据、等级类型 数据和连续类型数据。在进行聚类分析时可以根据不同的数据特点采用相应的测度 方法。
尽量避免绝对数据。
研究个案 A B C
受教育年限 10 16 6
年收入（万元） 2
1.5 1
年收入（元） 20000 15000 10000
A、B、C在不同距离单位时的距离图
A
B
B
10.01
C
A
10000
C
单位：万元
第6页，共8页。
单位：元
聚类分析
四、常用两种聚类分析方法
1.快速聚类法
快速聚类过程是初始分类的有效方法。适用于大容量样本的情形，由用户指定须聚类的 类数之后，系统采用标准迭代算法进行运算，把所有的个案归并在不同的类中。
m维空间中点与点之间的某种距离就可用来描述样品之间的亲疏程度。 而聚类分析则较常使用于将变量属性相似程度较高的观察值，加以分类，使类与类间的异质性达到最大，而同一类的几个观察值同质性很高。 ③对数据进行变换处理，（如标准化或规格化）；
mm维维空 空间间中中点点与与点点实之之际间间的的应某某用种种距距时离离，就就可可两用用者来来描描的述述主样样品品要之之差间间的的别亲亲在疏疏程程于度度因。。子分析是针对“变量”予以分组，而聚类分析 按照这种方则法是不断将进“行合观并察，直值到个把所体有”的样予品以合为分一组个，大类亦为即止。因子分析时，根据因变量（题项）间关系密切与 四⑦、最常 后用绘两制否种系，聚统类聚将分类变析谱方系量法图予，按以不分同的类分（类标分准为或不几同个的层分类面原因则，子得）出不；同而的分聚类类结果分。析则较常使用于将变量属性相似 从数据结构程和度统计较形高式上的看观，因察子值分析，是加一种以“横分向类合并，”的使方类法，与聚类类分间析的则是异一质种“性纵向达合到并”最的方大法，。 而同一类的几个观察值 适每用一于 种大方容法同量都质样从本不性的同很情的形角高，度。由测用度户了指研定究须对聚象类的的相类似数性之。后，系统采用标准迭代算法进行运算，把所有的个案归并在不同的类中。 研究学生学业差异、因教师素教分学水析平：等等横，向都需简要化对研，究聚对象类进分行分析类：。纵向分组
第十二章 聚类分析
第十二章聚类分析聚类分析（CLUSTER）是将样本或变量进行分类的一种方法。
通常用相似性指标“距离”和“相似系数”来衡量研究对象的联系紧密程度，从而进行合理分类。
“距离”常用来对样本分类，即把每一个样本看作是m维空间（若样本被m个变量所描述）的一个点，把距离较近的点归为一类，距离较远的点归为不同的类。
“相似系数”用来对变量分类，将变量间相似系数较大的归为一类，较小的归为不同类。
第一节距离和相似系数一、距离1、“欧几里得”距离A和B两点由m个变量所描述，其坐标分别是(x1,x2,…,x m)和(y1,y2,…,y m)，那么d(A,B)=例如：某次收视率调查中的部分数据如表1，则1号被访者和2号被访者的Array“距离”为：d(A,B)=表1：原始数据-上述测量的距离存在问题：（1）同一个变量单位不同会导致不同的距离；（2）不同变量的度量不一致，无法判断变量值大小和变量的重要程度，从而无法判断距离的意义。
因而需要对原始数据进行标准化。
表2：标准化数据2、SPSS 聚类分析中提供的距离（1）欧式距离（EUCLID ），等于 （2）欧式距离的平方（SEUCLID ），等于变量差2+变量差2+……（3）曼哈顿距离（BLOCK ），等于变量差的绝对值之和（4）切比雪夫距离（CHEBYCHEV ），等于变量差中绝对值最大者（5）幂距离POWER(p,r)，等于变量差的绝对值的p 次方之和，再求r 方根。
2、相似系数（1）变量间的相关系数即皮尔逊相关系数； …（2）变量间的夹角余弦，即将两变量分别看成n 维空间的向量时的夹角余弦值。
相关系数一般针对定距变量，对于定类变量特别是二项变量也可引入虚拟变量后计算相关系数。
例1：假定5个样本（人）具有如下指标：（1）请对个体进行分类；（2）对变量进行分类。
表3：五个人的六种身体特征指标解：变量中包含定距和定类变量，可以全部变成虚拟变量（也可将后四个虚拟），令X 1= ；X 2= ；X 3= ； ; X 4= ；X 5= ；X 6= ，表3可转化为表4：（1）根据两个个体共同特征的多少来对个体分类，以欧式距离的平方来进行聚类，个体之间的距离越小越相似，可求得： d 2(1,2)=(0-1)2+(0-1)2+(0-1)2+(1-0)2+(0-0)2+(1-0)2=5； d 2(1,3)=(0-0)2+(0-1)2+(0-0)2+(1-1)2+(0-0)2+(1-0)2=2； d 2(1,4)=(0-0)2+(0-0)2+(0-1)2+(1-0)2+(0-0)2+(1-1)2=2；d 2(1,5)=(0-1)2+(0-1)2+(0-1)2+(1-0)2+(0-1)2+(1-0)2=6；同理计算其他距离，得到下表：表5：5个体间距离1,身高≥170 0,身高＜170 1,体重≥130 ^1,双眼皮 0,单眼皮1,高鼻梁 0,低鼻梁1,用左手 0,用右手1,女 0,男根据距离大小，判断相似程度。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
聚类分析聚类分析又称群分析，它是研究（样品或指标）分类问题的一种多元统计方法，所谓类，通俗地说，就是指相似元素的集合。
聚类分析内容非常丰富，按照分类对象的不同可分为样品分类（Q-型聚类分析）和指标或变量分类（R-型聚类分析）；按照分类方法可分为系统聚类法和快速聚类法。
1. 系统聚类分析先将n 个样品各自看成一类，然后规定样品之间的“距离”和类与类之间的距离。
选择距离最近的两类合并成一个新类，计算新类和其它类（各当前类）的距离，再将距离最近的两类合并。
这样，每次合并减少一类，直至所有的样品都归成一类为止。
系统聚类法直观易懂。
1.1系统聚类法的基本步骤：第一，计算n 个样品两两间的距离 ，记作D= 。
第二，构造n 个类，每个类只包含一个样品。
第三，合并距离最近的两类为一新类。
第四，计算新类与各当前类的距离。
第五，重复步骤3、4，合并距离最近的两类为新类，直到所有的类并为一类为止。
第六，画聚类谱系图。
第七，确定类的个数和类。
1.2 系统聚类方法：1.2.1最短距离法1.2.2最长距离法1.2.3中间距离法1.2.4重心法1.2.5类平均法1.2.6离差平方和法（Ward 法）上述6种方法归类的基本步骤一致，只是类与类之间的距离有不同的定义。
最常用的就是最短距离法。
1.3 最短距离法以下用ij d 表示样品i X 与j X 之间距离，用ij D 表示类i G 与j G 之间的距离。
定义类i G 与j G 之间的距离为两类最近样品的距离，即ij G G G G ij d D j J i i ∈∈=,min设类p G 与q G 合并成一个新类记为r G ，则任一类k G 与r G 的距离是：ij G X G X kr d D j j i i ∈∈=,min ⎭⎬⎫⎩⎨⎧=∈∈∈∈ij G X G X ij G X G X d d q j k i p j k i ,,min ,min min {}kq kp D D ,min = 最短距离法聚类的步骤如下：ij d {}ij d（1）定义样品之间距离，计算样品两两距离，得一距离阵记为)0(D ，开始每个样品自成一类，显然这时ij ij d D =。
（2）找出)0(D 的非对角线最小元素，设为pq D ，则将p G 和q G 合并成一个新类，记为r G ，即{}q p r G G G ,=。
（3）给出计算新类与其它类的距离公式：{}kq kp kr D D D ,min =，将)0(D 中第p 、q 行及p 、q 列用上面公式并成一个新行新列，新行新列对应r G ，所得到的矩阵记为)1(D 。
（4）对)1(D 重复上述对)0(D 的（2）、（3）两步得)2(D ；如此下去，直到所有的元素并成一类为止。
如果某一步)(k D 中非对角线最小的元素不止一个，则对应这些最小元素的类可以同时合并。
最短距离法也可用于指标（变量）分类，分类时可以用距离，也可以用相似系数。
但用相似系数时应找最大的元素并类，也就是把公式),min(iq ip ik D D D =中的min 换成max 。
2. 快速聚类分析选取若干个样品作为凝聚点，计算每个样品和凝聚点的距离，进行初始分类，然后根据初始分类计算其重心，再进行第二次分类，一直到所有样品不再调整为止。
动态聚类法计算简单，分类迅速，占用计算机内存少，特别是当样品数较大时，采用动态聚类法比较有利；但动态聚类法的分类结果与最初凝聚点的选择有关，有较大的不确定性。
聚类过程如下图所示：2.1第一，选择凝聚点；第二，初始分类，对于取定的凝聚点，视每个凝聚点为一类，将每个样品根据定义的距离向最近的凝聚点归类。
第三，修改分类，得到初始分类，计算各类的重心，以这些重心作为新的凝聚点，重新进行分类，重复步骤二，三，直到分类的结果与上一步的分类结果相同，表明分类已经合理为止。
凝聚点就是一批有代表性的点，是欲形成类的中心。
凝聚点的 选择直接决定初始分类，对分类结果也有很大的影响，由于凝聚点 的不同选择，其最终分类结果也将出现不同。
故选择时要慎重。
2.2 通常选择凝聚点的方法（1）人为选择，当人们对所欲分类的问题有一定了解时，根据经验，预先确定分类个数和初始分类，并从每一类中选择一个有代表性的样品作为凝聚点。
（2）重心法，将数据人为地分为A 类，计算每一类的重心，将重心作为凝聚点。
（3）密度法，以某个正数d 为半径，以每个样品为球心，落在这个球内的样品数(不包括作为球心的样品)称为这个样品的密度。
计算所有样品点的密度后，首先选择密度最大的样品为第一凝聚点。
然后选出密度次大的样品点，若它与第一个凝 聚点的距离大于2d ，则将其作为第二个凝聚点；否则舍去这点。
这样，按密度由大到小依次考查，直至全部样品考查完毕为止．此方法中，d 要给得合适，太大了使凝聚点个数太 少，太小了使凝聚点个数太多。
（4）人为地选择一正数d ，首先以所有样品的均值作为第一凝聚点。
然后依次考察每个样品，若某样品与已选定的凝聚点的距 离均大于d ，该样品作为新的凝聚点，否则考察下一个样品。
3．聚类分析度量方法：距离和相似系数为了将样品（或指标）进行分类，就需要研究样品之间关系。
目前用得最多的方法有两个：一种方法是用相似系数，性质越接近的样品，它们的相似系数的绝对值越接近1，而彼此无关的样品，它们的相似系数的绝对值越接近于零。
比较相似的样品归为一类，不怎么相似的样品归为不同的类。
另一种方法是将一个样品看作P 维空间的一个点，并在空间定义距离，距离越近的点归为一类，距离较远的点归为不同的类。
设有n 个样品，每个样品测得p 项指标（变量），原始资料阵为px x x np n n p p n x x x x x x x x x X X X X 2122221112112121 ⎥⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎢⎣⎡= 其中),,1;,,1(p j n i x ij ==为第i 个样品的第j 个指标的观测数据。
第i 个样品X i 为矩阵X 的第i 行所描述，所以任何两个样品K K 与X L 之间的相似性，可以通过矩阵X 中的第K 行与第L 行的相似程度来刻划；任何两个变量K x 与L x 之间的相似性，可以通过第K 列与第L 列的相似程度来刻划。
3.1 距离如果把n 个样品（X 中的n 个行）看成p 维空间中n 个点，则两个样品间相似程度可用p 维空间中两点的距离来度量。
令d ij 表示样品X i 与X j 的距离。
常用的距离有：3.1.1明氏（Minkowski ）距离q pa q ja ia ij x x q d 11)(⎪⎪⎭⎫ ⎝⎛-=∑=当q =1时，∑=-=pa ja ia ij x x d 1)1( 即绝对距离当q =2时，112)()2(⎪⎪⎭⎫ ⎝⎛-=∑=p a ja ia ij x x d 即欧氏距离当∞=q 时，ja ia pa ij x x d -=∞≤≤1max )( 即切比雪夫距离 当各变量的测量值相差悬殊时，要用明氏距离并不合理，常需要先对数据标准化，然后用标准化后的数据计算距离。
明氏距离特别是其中的欧氏距离是人们较为熟悉的也是使用最多的距离。
但明氏距离存在不足之处，主要表面在两个方面：第一，它与各指标的量纲有关；第二，它没有考虑指标之间的相关性，欧氏距离也不例外。
除此之外，从统计的角度上看，使用欧氏距离要求一个向量的n 个分量是不相关的且具有相同的方差，或者说各坐标对欧氏距离的贡献是同等的且变差大小也是相同的，这时使用欧氏距离才合适，效果也较好，否则就有可能不能如实反映情况，甚至导致错误结论。
因此一个合理的做法，就是对坐标加权，这就产生了“统计距离”。
比如设),,,(21'=p x x x P ，),,,(21'=p y y y Q ，且Q 的坐标是固定的，点P 的坐标相互独立地变化。
用s 11,s 12,…,s pp 表示p 个变量p x x x ,,,21 的n 次观测的样本方差，则可以义P 到Q 的统计距离为：ppp p s y x s y x s y x Q P d 22222211211)()()(),(-++-+-= 所加的权是ppp s k s k s k 1,,1,1222111=== ，即用样本方差除相应坐标。
当取021====p y y y 时，就是点P 到原点O 的距离。
若pp s s s === 2211时，就是欧氏距离。
1.3.2马氏（Mahalanobis ）距离马氏距离是由印度统计学家马哈拉诺比斯于1936年引入的，故称为马氏距离。
这一距离在多元统计分析中起着十分重要的作用，下面给出定义。
设∑表示指标的协差阵即：p p ij ⨯=∑)(σ∑==---=na j aj i ai ij x x x x n 1p ,1,j i, ))((11 σ ；∑∑====na aj j na ai i x n x n x 111x 1 如果1-∑存在，则两个样品之间的马氏距离为)()()(12j i j i ij X X X X M d -∑'-=-这里i X 为样品i X 的p 个指标组成的向量，即原始资料阵的第i 行向量。
样品j X 类似。
顺便给出样品X 到总体G 的马氏距离定义为)()(),(12μμ-∑'-=-X X G X d其中μ为总体的均值向量，∑为协方差阵。
马氏距离既排除了各指标之间相关性的干扰，而且还不受各指标量纲的影响。
除此之外，它还有一些优点，如可以证明，将原数据作一线性交换后，马氏距离仍不变等等。
1.3.3兰氏（Canberra ）距离它是由Lance 和Williams 最早提出的，故称兰氏距离。
∑==+-=p a ja ia ja ia ij x x x x p L d 1n ,1,j i, 1)(此距离仅适用于一切0>ij x 的情况，这个距离有助于克服各指标之间量纲的影响，但没有考虑指标之间的相关性。
计算任何两个样品i X 与j X 之间的距离ij d ，其值越小表示两个样品接近程度越大，ij d 值越大表示两个样品接近程度越小。
如果把任何两个样品的距离都算出来后，可排成距离阵D ：⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=nn n n n n d d d d d d d d d D 212222111211 其中02211====nn d d d 。
D 是一个实对称阵，所以只须计算上三角形部分或下三角形部分即可。
根据D 可对n 个点进行分类，距离近的点归为一类，距离远的点归为不同的类。
3.2相似系数研究样品之间的关系，除了用距离表示外，还有相似系数，顾名思义，相似系数是描写样品之间相似程度的一个量，常用的相似系数有：3.2.1夹角余弦这是受相似形的启发而来的，下图曲线AB 和CD 尽管长度不一，但形状相似。