模糊聚类分析方法汇总

模糊聚类分析方法对所研究的事物按一定标准进行分类的数学方法称为聚类分析，它是多元统计“物以类聚”的一种分类方法。

载科学技术、经济管理中常常要按一定的标准（相似程度或亲疏关系）进行分类。

例如，根据生物的某些性状可对生物分类，根据土壤的性质可对土壤分类等。

由于科学技术、经济管理中的分类界限往往不分明，因此采用模糊聚类方法通常比较符合实际。

一、模糊聚类分析的一般步骤1、第一步：数据标准化[9]（1） 数据矩阵设论域12{,,,}n U x x x =为被分类对象，每个对象又有m 个指标表示其性状，即12{,,,}i i i im x x x x = (1,2,,)i n =，于是，得到原始数据矩阵为111212122212m m n n nm x x x x x x x x x ⎛⎫ ⎪ ⎪⎪ ⎪⎝⎭。

其中nm x 表示第n 个分类对象的第m 个指标的原始数据。

（2） 数据标准化在实际问题中，不同的数据一般有不同的量纲，为了使不同的量纲也能进行比较，通常需要对数据做适当的变换。

但是，即使这样，得到的数据也不一定在区间[0,1]上。

因此，这里说的数据标准化，就是要根据模糊矩阵的要求，将数据压缩到区间[0,1]上。

通常有以下几种变换： ① 平移·标准差变换ik kikkx x x s -'= (1,2,,;1,2,,)i n k m ==其中 11n k ik i x x n ==∑，k s = 经过变换后，每个变量的均值为0，标准差为1，且消除了量纲的影响。

但是，再用得到的ikx '还不一定在区间[0,1]上。

② 平移·极差变换111min{}max{}min{}ikik i nikikik i ni nx x x x x ≤≤≤≤≤≤''-''=''-，(1,2,,)k m =显然有01ikx ''≤≤，而且也消除了量纲的影响。

③ 对数变换lg ikik x x '= (1,2,,;1,2,,)i n k m ==取对数以缩小变量间的数量级。

2、第二步：标定（建立模糊相似矩阵）设论域12{,,,}n U x x x =，12{,,,}i i i im x x x x =，依照传统聚类方法确定相似系数，建立模糊相似矩阵，i x 与j x 的相似程度(,)ij i j r R x x =。

确定(,)ij i j r R x x =的方法主要借用传统聚类的相似系数法、距离法以及其他方法。

具体用什么方法，可根据问题的性质，选取下列公式之一计算。

（1） 相似系数法① 夹角余弦法21mikjkij mikjkk xx r x==∑∑。

② 最大最小法11()()mikjk k ij mikjk k x x r xx ==∧=∨∑∑。

③ 算术平均最小法112()()mik jk k ij mikjk k x x r xx ==∧=+∑∑。

④ 几何平均最小法12()mik jk k ij mk x x r ==∧=∑。

以上3种方法中要求0ij x >，否则也要做适当变换。

⑤ 数量积法11,,1,,m ij ik jk k i j r x x i j M ==⎧⎪=⎨≠⎪⎩∑，其中 1max()mik jk i jk M x x ≠==∑。

⑥ 相关系数法21(miki jk jij mjkk xx x x r x=--=-∑∑其中 11m i ik k x x m ==∑，11mj jk k x x m ==∑。

⑦ 指数相似系数法221()13exp[]4m ik jk ij k kx x r m s =-=-∑， 其中 211()nk ik ik i s x x n ==-∑，而 11nk ik i x x n ==∑ (1,2,,)k m =。

（2） 距离法① 直接距离法1(,)ij i j r cd x x =-，其中c 为适当选取的参数，使得01ij r ≤≤，(,)i j d x x 表示他们之间的距离。

经常用的距离有 ● 海明距离1(,)mi j ik jk k d x x x x ==-∑。

● 欧几里得距离(,)i j d x x =● 切比雪夫距离1(,)mi j ik jk k d x x x x ==∨-。

② 倒数距离法1,,,,(,)ij i j i j M r i j d x x =⎧⎪=⎨≠⎪⎩。

其中M 为适当选取的参数，使得01ij r ≤≤。

③ 指数距离法exp[(,)]ij i j r d x x =-。

3、第三步：聚类（求动态聚类图）（1）基于模糊等价矩阵聚类方法① 传递闭包法根据标定所得的模糊矩阵R 还要将其改造称模糊等价矩阵*R 。

用二次方法求R 的传递闭包，即()t R =*R 。

再让λ由大变小，就可形成动态聚类图。

② 布尔矩阵法[10]布尔矩阵法的理论依据是下面的定理： 定理2.2.1 设R 是12{,,,}n U x x x =上的一个相似的布尔矩阵，则R 具有传递性（当R 是等价布尔矩阵时）⇔矩阵R 在任一排列下的矩阵都没有形如11111001,,,10011111⎛⎫⎛⎫⎛⎫⎛⎫ ⎪ ⎪ ⎪ ⎪⎝⎭⎝⎭⎝⎭⎝⎭的特殊子矩阵。

布尔矩阵法的具体步骤如下： ① 求模糊相似矩阵的λ-截矩阵R λ.② 若R λ按定理2.2.1判定为等价的，则由R λ可得U 在λ水平上的分类，若R λ判定为不等价，则R λ在某一排列下有上述形式的特殊子矩阵，此时只要将其中特殊子矩阵的0一律改成1直到不再产生上述形式的子矩阵即可。

如此得到的*R λ为等价矩阵。

因此，由*R λ可得λ水平上的分类（2） 直接聚类法所谓直接聚类法，是指在建立模糊相似矩阵之后，不去求传递闭包()t R ，也不用布尔矩阵法，而是直接从模糊相似矩阵出发求得聚类图。

其步骤如下： ① 取11λ=（最大值），对每个i x 作相似类[]i R x ，且 []i R x ={|1}j ij x r =，即将满足1ij r =的i x 与j x 放在一类，构成相似类。

相似类与等价类的不同之处是，不同的相似类可能有公共元素，即可出现[]{,}i R i k x x x =,[]{,}i R j k x x x =,[][]i j x x ⋂≠∅.此时只要将有公共元素的相似类合并，即可得11λ=水平上的等价分类。

② 取2λ为次大值，从R 中直接找出相似度为2λ的元素对(,)i j x x （即2ij r λ=），将对应于11λ=的等价分类中i x 所在的类与j x 所在的类合并，将所有的这些情况合并后，即得到对应于2λ的等价分类。

③ 取3λ为第三大值，从R 中直接找出相似度为3λ的元素对(,)i j x x （即3ij r λ=），将对应于2λ的等价分类中i x 所在的类与j x 所在的类合并，将所有的这些情况合并后，即得到对应于3λ的等价分类。

④ 以此类推，直到合并到U 成为一类为止。

二、最佳阈值λ的确定在模糊聚类分析中对于各个不同的[0,1]λ∈，可得到不同的分类，许多实际问题需要选择某个阈值λ，确定样本的一个具体分类，这就提出了如何确定阈值λ的问题。

一般有以下两个方法：① 按实际需要，在动态聚类图中，调整λ的值以得到适当的分类，而不需要事先准确地估计好样本应分成几类。

当然，也可由具有丰富经验的专家结合专业知识确定阈值λ，从而得出在λ水平上的等价分类 ② 用F 统计量确定λ最佳值。

[11] 设论域12{,,,}n U x x x =为样本空间（样本总数为n ），而每个样本i x 有m 个特征：12{,,,}i i i im x x x x =，(1,2,,)i n =。

于是得到原始数据矩阵，如下表所示，其中11(1,2,,)nk ik i x x k m n ===∑，x 称为总体样本的中心向量。

in x x x11()i n x x x x x设对应于λ值的分类数为r ，第j 类的样本数为j n ，第j 类的样本记为：()()()12,,,jj j j n x x x ，第j 类的聚类中心为向量()()()()112(,,,)j j j j m x x x x =，其中()j k x 为第k 个特征的平均值，即()()11jn j j kiki jx xn ==∑，(1,2,,)k m =，作F 统计量()1()()11(1)()jrj jj n r j j i j i nx x r F x x n r ===--=--∑∑∑，其中()j xx -=为()j x 与x 间的距离，()()j j i x x -为第j 类中第i 个样本()j x 与其中心()j x 间的距离。

称为F 统计量，它是遵从自由度为1r -，n r -的F 分布。

它的分子表征类与类之间的距离，分母表征类内样本间的距离。

因此，F 值越大，说明类与类之间的距离越大;类与类间的差异越大，分类就越好。

基于模糊聚类分析的多属性 决策方法的实际应用聚类分析是将事物根据一定的特征，并按某种特定要求或规律分类的方法。

由于聚类分析的对象必定是尚未分类的群体，而且现实的分类问题往往带有模糊性，对带有模糊特征的事物进行聚类分析，分类过程中不是仅仅考虑事物之间有无关系，而是考虑事物之间关系的深浅程度，显然用模糊数学的方法处理更为自然，因此称为模糊聚类分析。

第一节 雨量站问题一、问题的提出某地区设置有11个雨量站，其分布图见图1，10年来各雨量站所测得的年降雨量列入表1中。

现因经费问题，希望撤销几个雨量站，问撤销那些雨量站，而不会太多的减少降雨信息？图1 雨量站分布图二、问题的分析应该撤销那些雨量站，涉及雨量站的分布，地形，地貌，人员，设备等众多因素。

我们仅考虑尽可能地减少降雨信息问题。

一个自然的想法是就10年来各雨量站所获得的降雨信息之间的相似性，对全部雨量站进行分类，撤去“同类”（所获降雨信息十分相似）的雨量站中“多余”的站。

问题求解假设为使问题简化，特作如下假设①每个观测站具有同等规模及仪器设备；②每个观测站的经费开支均等；具有相同的被裁可能性。

分析：对上述撤销观测站的问题用基于模糊等价矩阵的模糊聚类方法进行分析，原始数据如上。

三、问题的解决求解步骤：1、数据的收集原始数据如表1所示。

2、建立模糊相似矩阵利用相关系数法，构造模糊相似关系矩阵1111)(⨯αβr ，其中ij r ＝2111221])()([|)(||)(|∑∑∑=-=-⋅---n k nk j jk i ik nk j jk i ikx x x x x x x x其中i x ＝∑=101101k ik x ，i ＝1，2， (11)j x ＝∑=nk jk x n 11，j ＝1，2， (11)取2,1i j ==，代入公式得21r =0.839，由于运算量巨大用C 语言编程计算出其余数值，得模糊相似关系矩阵1111)(⨯αβr ，具体程序如下 #include<stdio.h> #include<math.h>double r[11][11]; double x[11]; void main(){ int i,j,k; double fenzi=0,fenmu1=0,fenmu2=0,fenmu=0;int year[10][11]={276,324,159,413, 292 ,258,311,303,175,243,320,251 ,287,349,344,310,454,285,451,402,307,470,192 ,433,290,563,479,502,221,220,320,411,232,246 ,232,243,281,267,310,273,315,285,327,352,291,311,502,388 ,330,410,352,267,603,290,292,466 ,158,224,178,164,203,502,320,240,278,350,258,327,432 ,401,361,381,301,413,402,199,421,453,365,357 ,452,384,420,482,228,360,316,252,158 ,271,410,308,283,410,201,179,430,342,185,324,406,235,520 ,442,520,358,343,251,282,371};for(i=0;i<11;i++){ for(k=0;k<10;k++){ x[i]=x[i]+year[k][i];}x[i]=x[i]/10;}for(i=0;i<11;i++){for(j=0;j<11;j++){ for(k=0;k<10;k++){ fenzi=fenzi+fabs((year[k][i]-x[i])*(year[k][j]-x[j]));fenmu1=fenmu1+(year[k][i]-x[i])*(year[k][i]-x[i]);fenmu2=fenmu2+(year[k][j]-x[j])*(year[k][j]-x[j]);fenmu=sqrt(fenmu1)*sqrt(fenmu2);r[i][j]=fenzi/fenmu;}fenmu=fenmu1=fenmu2=fenzi=0;}}for(i=0;i<11;i++){ for(j=0;j<11;j++){printf("%6.3f",r[i][j]);}printf("\n");}getchar();}得到模糊相似矩阵R1.000 0.839 0.528 0.844 0.828 0.702 0.995 0.671 0.431 0.573 0.712 0.839 1.000 0.542 0.996 0.989 0.899 0.855 0.510 0.475 0.617 0.572 0.528 0.542 1.000 0.562 0.585 0.697 0.571 0.551 0.962 0.642 0.568 0.844 0.996 0.562 1.000 0.992 0.908 0.861 0.542 0.499 0.639 0.607 0.828 0.989 0.585 0.992 1.000 0.922 0.843 0.526 0.512 0.686 0.584 0.702 0.899 0.697 0.908 0.922 1.000 0.726 0.455 0.667 0.596 0.511 0.995 0.855 0.571 0.861 0.843 0.726 1.000 0.676 0.489 0.587 0.719 0.671 0.510 0.551 0.542 0.526 0.455 0.676 1.000 0.467 0.678 0.994 0.431 0.475 0.962 0.499 0.512 0.667 0.489 0.467 1.000 0.487 0.485 0.573 0.617 0.642 0.639 0.686 0.596 0.587 0.678 0.487 1.000 0.688 0.712 0.572 0.568 0.607 0.584 0.511 0.719 0.994 0.485 0.688 1.000对这个模糊相似矩阵用平方法作传递闭包运算，求442:R R R −→−即4*()t R R R ==。