快速聚类方法
快速聚类方法
快速聚类方法
1.概要
2.背景
2.1传统的聚类分析
2.2本文创新点
3.本文聚类分析
4.实验
4.1 论文中算法
4.2 改进方法
5.分析总结
6.参考文献
1.概要
本文算法的核心：聚类中心点的密度大于周围的点，高密度之间具有很大的距离。论文下
载点这
2.背景
2.1传统的聚类分析
kmeans之类的没法解决非球面类型
很明显效果很差1
2.2本文创新点
非球形数据不方便聚类，基于密度的方法很方便的可以检测到任意形状的簇。
于是本文重新定义了簇的概念，聚类算法的依据：簇就是点密度较高的峰值，即概率分布的
峰值
Clusters=peaks in the density of points =peaks in the “mother” probability
distribution 本文算法的基础假设：聚类中心被周围具有低密度的邻点包围，和周围具有高局部
密度的点有着很大的相对距离,点的局部密度计算如下：
通常等于周围距离小于点的个数。的选取很重要
通过观察，通过计算点与其他任意具有更高密度的点：
对于密度最大的点, 设置. 注意只有那些密度是局部或者全局最大的点才会有
远大于正常的相邻点间距.
由上图可知
上图是所有点在二维空间的分布, 右图是以为横坐标, 以为纵坐标, 这种图称作决策图
(decision tree). 可以看到, 1和10两个点的和都比较大, 作为类簇的中心点. 26, 27, 28三个点的也比较大, 但是较小, 所以是异常点.
3.本文聚类分析
在聚类分析中, 通常需要确定每个点划分给某个类簇的可靠性. 在该算法中, 可以首先为每个
类簇定义一个边界区域(border region), 亦即划分给该类簇但是距离其他类簇的点的距离小
于的点. 然后为每个类簇找到其边界区域的局部密度最大的点, 令其局部密度为. 该类簇
中所有局部密度大于的点被认为是类簇核心的一部分(亦即将该点划分给该类簇的可靠性
很大), 其余的点被认为是该类簇的光晕(halo), 亦即可以认为是噪音. 图例如下
A图为生成数据的概率分布, B, C二图为分别从该分布中生成了4000, 1000个点. D, E分别是
B, C两组数据的决策图(decision tree), 可以看到两组数据都只有五个点有比较大的和很大的. 这些点作为类簇的中心, 在确定了类簇的中心之后, 每个点被划分到各个类簇(彩色点),
或者是划分到类簇光晕(黑色点). F图展示的是随着抽样点数量的增多, 聚类的错误率在逐渐
下降, 说明该算法是鲁棒的.
4.实验
4.1 论文中算法
计算数据后的决策图，手工选取的过程,通过框选认可的类簇中心
不同的有不同的效果，预期达到分类效果，需要选取合适的阈值
当阈值选的偏差过大，聚类效果不明显，由此可以阈值的选取很重要
4.2 改进方法
原文作者提供的程序运行比较慢，改进主要是利用高斯核距离代替线性距离计算，
但是没有实现文献中提到的利用熵来动态划分的选取2
5.分析总结
在本文中阈值的选取及其重要，直接影响了聚类的效果，但是本文中是人工手动选择，
缺乏普适性，还有一点就是本文中的密度的距离的划分是线性距离。在文献中，作者提出
了针对本文算法的一些改进方法，首先就是使用高斯核距离代替线性
距离划分，通过加权可以更好的区分边缘点和簇内点,另一篇文献中通过热力图来计算密
度，基于热力图的有限域，该方法在划分和核密度边界评估(Kernel density estimation)有
着很好效果。本文的核心思想在于用密度划分簇，在数据量充足的情况下接近数据真实分
布，在查阅一些资料后，有人认为本文算法虽然可以不对数据分布做预期假设，对于高维不
充足的数据密度估计不准确，但是这似乎并没有问题，在本文另一项试验中是对人脸进行聚
类，表现很好，关键点在于metric的选择，通过改变metric可以提高本文的鲁棒性。本算法
还有个好处，没有优化过程，没有多变量参数，簇是直接从数据中广义的获得。
6.参考文献
1. Alex Rodriguez, Alessandro Laio.Clustering by fast search and find of density peaks2
3
.Science 27 Jun 2014: ↩
2. S Wang，D Wang，C Li，Y Li.Comment on “Clustering by fast search and find of
density peaks”.《Computer Science》, 2015 ↩
3. Rashid Mehmooda, b, , Guangzhi Zhanga, , Rongfang Biea, Hassan
Dawoodd,Haseeb Ahmadc.Clustering by fast search and find of density peaks via
heat diffusion.doi:10.1016/j.neucom.2016.01.102 ↩
一种基于改进的Newman快速算法的文本聚类方法
第１０卷第３０期２０１０年１０月 ｌ６７１—１８１５（２０１０）３０・７５５０—０４ 科学技术与工程 Ｓｃｉｅｎｃｅ Ｔｅｃｈｎｏｌｏｇｙ ａｎｄ Ｅｎ￣ｎｅｅｆｉｎｇ Ｖｏ１．１０ Ｎｏ．３０ ０ｃｔ．２０１０ ⑥２０１０ Ｓｅｉ．Ｔｅｅｈ．Ｅｎｇｎｇ．
一种基于改进的Ｎｅｗｍａｎ快速算法
的文本聚类方法
安娜赵继广 刘绍海
（装备指挥技术学院，北京１０１４１６；武警沈阳指挥学院 ，沈阳１１０１１３）
摘要针对文本聚类计算量大的特点，提出了一种将概念格和Ｎｅｗｍａｎ快速算法两种理论相结合的聚类方法。首先将文本 表示为特征词语集，用统计方法抽取特征向量；同时，用ＩＤＦ权重计算公式来计算词语的权重，并将词语权值离散化；然后，用 形式背景表达关键词，通过相似度公式，计算出形式概念相似度大小；最后，构造Ｎｅｗｍａｎ网络，根据Ｎｅｗｍａｎ网络算法规则对 待聚类文本进行聚类。实例表明，该算法不仅得到了正确的分类结果，而且大大降低了算法的复杂度，Ｎｅｗｍａｎ快速算法仅为 Ｏ（（ｍ＋ｎ）ｎ）。 关键词复杂网络 Ｎｅｗｍａｎ快速算法 文本聚类 概念格
中图法分类号ＴＰ３９１．４３； 文献标志码Ａ
文本聚类是当前文本信息挖掘的一个重要领
域，其目标是在分析文本内容的基础上，给文本分
配一个或多个比较合适的类别，从而提高文本检
索、存储等应用的处理效率。目前已经有许多文本
分类方法应用于该领域，这些传统的方法有着不同
的缺陷，计算量太大，收敛速度慢，很难找到一个执
行效率高、精确率和召回率都理想的算法。
复杂网络ＧＮ算法虽然准确度比较高，但是它
的算法复杂度还是比较大，因此仅仅局限于研究中
等规模的复杂网络。文本聚类中的网络通常都包
含几百万个以上的节点，在这种情况下，传统的ＧＮ
算法就不能满足要求。基于这个原因，作者在先前
研究工作（如文献［１］）的基础上，提出一种将概念
格和Ｎｅｗｍａｎ两种理论相结合的聚类方法，它可以
数学建模里的聚类分析
聚类分析
聚类，或称分集，即所谓“物以类聚”，它是按某种相
似规则对给定样本集、指标簇进行某种性质的划分，使之成
为不同的类．
将数据抽象化为样本矩阵
()
ijnmXX
，
ijX表示第
i个样本的
第
j个变量的值．聚类目的，就是从数据出发，将样本或变
量分成类．其方法大致有如下几个．
（1） 聚类法．即谱系聚类法．将
n个样本看成
n类，将
性质最接近的两类并为一新类，得
1n类；再从
1n类中找出
最接近的两类加以合并，得
2n类；继之，最后所有样本都
成一类，得一聚类谱系，从谱系中可确定划分多少类，每类
含有哪些样本．
（2） 分解法．它是系统聚类的逆过程，将所有样本视
为一类，按某种最优准则将它分成两类，继之，每一类都分
到只含一个样本为止．
（3） 动态聚类．即快速聚类法．将
n个样本粗糙地分
成若干类，然后用某种最优准则进行调整，直至不能调整为
止．
（4） 有序样本聚类．按时间顺序，聚在一类的样本必
须是次序相邻的样本．
（5） 模糊聚类．它是将模糊数学用于样本聚类． （6） 运筹学聚类．它是将聚类问题化为线性规划、动
态规划、整数规划模型的聚类．
（7） 神经网络聚类．它是将样本按自组织特征映射的
方法进行，也是我们要加以叙述的一个重点．
（8） 预测中聚类．它是聚类在预测中的应用，以弥补
非稳定信号回归的预测与分析．
这里主要介绍谱系聚类法和快速聚类法．
一、距离定义
样本矩阵
()
ijnmXx
，是
m维空间中
n个点，以距离度量样
本之间的贴近度，就是距离聚类方法．最常用的第
i个与第
j
个样本的Minkowski距离为
pm
kp
jkikijxxd/1
1)||(
式中
p为一正整数．当
2p,
ijd就是欧几里德距离；当
1p，
ijd就是绝对距离，或称“布洛克（cityblock）”距离．而切
比雪夫距离为
||max
1jkik
mkijxxd
设
mmC
是变量的协方差矩阵，
ix,
jx为第
i行与第
j行
m个变
量构成的向量，则马哈兰罗比斯距离定义为
一种基于密度的快速聚类方法
ISSN１００４‐９０３７，CODENSCYCE４JournalofDataAcquisitionandProcessingVol．３０，No．４，Jul．２０１５，pp．８８８－８９５DOI：１０．１６３３７／j．１００４‐９０３７．２０１５．０４．０２２眗２０１５byJournalofDataAcquisitionandProcessinghttp：／／sjcj．nuaa．edu．cnE‐mail：sjcj＠nuaa．edu．cnTel／Fax：＋８６‐０２５‐８４８９２７４２
一种基于密度的快速聚类方法
张 晓１ 张媛媛２ 高 阳２ 周新民３
（１．伊犁师范学院电子与信息工程学院，伊宁，８３５０００；２．南京大学计算机软件新技术国家重点实验室，南京，２１００２３；３．江苏省公安厅物证鉴定中心，南京，２１００４６）
摘 要：具有噪声的基于密度的聚类方法（Density‐basedspatialclusteringofapplicationswithnoise，DBSCAN）在数据规模上的扩展性较差。本文在其基础上提出一种改进算法———具有噪声的基于密度
的快速聚类方法（Fast‐density‐basedspatialclusteringofapplicationswithnoise，F‐DBSCAN），对核心对象邻域中的对象只作标记，不再进行扩展检查，通过判断核心对象邻域中是否存在已标记对象来实现簇合并，对边界对象判断其邻域中是否存在核心对象来确认是否为噪声。此方法避免了原始算法中对重叠区域的重复操作，在不需创建空间索引的前提下，其时间复杂度为O（nlogn）。通过实验数据集和真实数据集，验证其聚类效果及算法效率。实验表明F‐DBSCAN算法不仅保证了有良好的聚类效果及算法效率，并且在数据规模上具有良好的扩展性。关键词：聚类；密度；F‐DBSCAN；算法效率中图分类号：TP３０１ 文献标志码：A
FastDensity‐BasedClusteringApproach
一种快速、鲁棒的有限高斯混合模型聚类算法
第４０卷第８期 ２０１３年８月 计算机科学 Ｃｏｍｐｕｔｅｒ Ｓｃｉｅｎｃｅ Ｖｏ１．４０ Ｎｏ．８ Ａｕｇ．２０１３
一种快速、鲁棒的有限高斯混合模型聚类算法
胡庆辉Ｌ 丁立新Ｌ 陆玉靖。 何进荣
（武汉大学软件工程国家重点实验室 武汉４３００７２） （武汉大学计算机学院 武汉４３００７２）。
（桂林航天工业学院信息工程系 桂林５４１Ｏ０４）。
摘要有限混合模型聚类是一种基于概率模型的有效聚类方法。针对高斯混合模型的聚类算法，分别对模型的成
分混合系数及样本所属成分的概率系数施加熵惩罚算子，实现对模型成分数的两级控制，快速消除无效成分，使算法
能在很少的迭代次数内收敛到确定解。传统算法对初始值（成分数目Ｃ需事先指定）的设置非常敏感，容易导致ＥＭ
算法陷入局部最优解或收敛到解空间的边界，而文中的算法对初始值的设定没有特殊的要求，实验证明其具有很好的 鲁棒性。
关键词高斯混合模型，聚类，信息熵，ＥＭ算法
中图法分类号ＴＰ３０１．６ 文献标识码Ａ
Ｒａｐｉｄ Ｒｏｂｕｓｔ Ｃｌｕｓｔｅｒｉｎｇ Ａｌｇｏｒｉｔｈｍ ｆｏｒ Ｇａｕｓｓｉａｎ Ｆｉｎｉｔｅ Ｍｉｘｔｕｒｅ Ｍｏｄｅｌ
ＨＵ Ｑｉｎｇ－ｈｕｉ１’ ’。ＤＩＮＧ Ｌｉ－ｘｉｎ１，。ＬＵ Ｙｕ－ｊｉｎｇ。ＨＥ Ｊｉｎ－ｒｏｎｇ ’
（Ｓｔａｔｅ Ｋｅｙ Ｌａｂｏｒａｔｏｒｙ ｏｆ Ｓｏｆｔｗａｒｅ Ｅｎｇｉｎｅｅｒｉｎｇ，Ｗｕｈａｎ Ｕｎｉｖｅｒｓｉｔｙ，Ｗｕｈａｎ ４３００７２，Ｃｈｉｎａ） （Ｓｃｈｏｏｌ ｏｆ Ｃｏｍｐｕｔｅｒ，Ｗｕｈａｎ Ｕｎｉｖｅｒｓｉｔｙ，Ｗｕｈａｎ ４３００７２，Ｃｈｉｎａ） （Ｓｃｈｏｏｌ ｏｆ Ｉｎｆｏｒｍａｔｉｏｎ Ｅｎｇｉｎｅｅｒｉｎｇ，Ｇｕｉｌｉｎ Ｕｎｉｖｅｒｓｉｔｙ ｏｆ Ａｅｒｏｓｐａｃｅ Ｔｅｃｈｎｏｌｏｇｙ，Ｇｕｉｌｉｎ ５４１００４，Ｃｈｉｎａ）０
Ａｂｓｔｒａｃｔ Ｆｉｎｉｔｅ ｍｉｘｔｕｒｅ ｍｏｄｅｌ ｉｓ ａｎ ｅｆｆｅｃｔｉｖｅ ｃｌｕｓｔｅｒｉｎｇ ｍｅｔｈｏｄ ｂａｓｅｄ ｏｎ ｐｒｏｂａｂｉｌｉｔｙ ｍｏｄｅ１．Ａｉｍｉｎｇ ａｔ ｔｈｅ ｃｌｕｓｔｅｒｉｎｇ
共词分析法研究_三_共词聚类分析法的原理与特点
基金项目:广东医学科研课题/广东省热点医学科研主题现状研究0(编号:A2006474)。作者简介:钟伟金,男,1976年生,硕士,馆员,研究方向为文献计量分析。共词分析法研究(三)
)))共词聚类分析法的原理与特点TheResearchofCo-wordAnalysis(3))))ThePrincipleandCharacteristicsoftheCo-WordClusterAnalysis
钟伟金 李 佳 杨兴菊
(广东医学院图书馆 湛江 524023)
摘 要 共词聚类分析法采用聚类的计算方法,对文章中共现的词对(主题词或关键词)的关联性进行运算,将关系密切的词聚集归类,从而达到挖掘隐含信息的目的。通过对聚类原理的分析,认为该方法具有客观性、科学性、敏感性的特点。并讨论了共词聚类分析法的不足以及其解决办法,最后介绍了共词聚类分析法的最新研究进展。关键词 共词聚类分析法 研究进展 共词聚类原理中图分类号 G251.5 随着期刊数量的增长与学科的细化发展,给情报工作者带来了新的挑战:文献的组织与检索、文献内容的分析评价、文献信息的提取与挖掘。传统的文献检索方式如分类号、主题词、关键词等,由于缺乏文献内容间的联系、智能化检索程度低,在文献呈爆炸式增长的时代,传统的检索方式已难以在查全率与查准率间取得平衡,说明这种信息的组织检索方式难以满足人们的需求。由于人类科研活动及其成果主要是以文献方式记录储存的,因此对文献量与文献主题的统计分析可在某种程度上反映出一门科学在一定时期研究的基本趋势、研究的水平和发展速度[1],文献量的大量增长,无疑给情报人员通过对文献集的分析来评价学科的发展现状的难度,也为情报人员通过文献集提取、挖掘有用的信息带来困难。为解决这一矛盾,需要采用新的方法来处理组织、整理和分析文献集。新方法应该具有以下三方面的特点:能对文献内容进行识别;能反映文献之间的内容联系;能借助机器进行批量处理。共词聚类分析法是共词分析法中的一种,它的分析对象是科技论文中高度概括文献内容并被专家规范的主题词,研究的是在一篇文献中同时出现的主题词对,通过这种共现的词对把文献集关联起来形成相互关联的网。对这种共词进行聚类统计分析的过程是共词聚类分析的全部。1 共词聚类分析的原理共词分析法利用文献集中词汇对或名词短语共同出现的情况,来确定该文献集所代表学科中各主题之间的关系。一般认为词汇对在同一篇文献中出现的次数越多,则代表这两个主题的关系越紧密。由此,统计一组文献的主题词之间两两在同一篇文献出现的频率,便可形成一个由这些词对关联所组成的共词网络,网络内节点之间的远近便可以反映主题内容的亲疏关系。共词聚类分析是共词分析中常用的一种方法,在共词分析的基础上,以共词出现的频率为分析对象,利用聚类的统计学方法,把众多分析对象之间错综复杂的共词网状关系简化为数目相对较少的若干类群之间的关系并直观地表示出来的聚类的过程。通常在一篇文献中,由多个主题词组合在一起反映文献的内容,这个些主题词因为存在着一定的内容上的联系,而标引到一篇文章中,如果一对主题词同时在多篇文献中出现,则说明这对主题词的关系紧密。在文献群的主题中,通过聚类分析,能把这些关联密切的主题聚集在一起形成类团,表达某一领域分支的组成。类团的组成、演化以及消失是共词聚类分析的重点。共词在同一篇文献出现的频率的大小,反映主题间关系紧密的程度。在主题词关系网中,有些主题词内容联合紧密,相互靠拢聚集在一块,形成概念相对独立的类团。相互关联的共词网络中,一个主题与多个主题形成关联,相互间构成立体状的关系网,在这种关系网中,很难分辨出由哪些主题词组成类团。为此,要借助数据挖掘中的聚类分析法,对共词关系网络中的词与词之间的距离进行数学运算分析,将距离较近的主题词聚集起来,形成一个个概念相对独立的类团,使得类团内属性相似性最大,类团间属性相似性最小[2]。 1.1 聚类时距离的确定 在进行聚类分析时,类组合的确定有两种概念方式:一是类和类之间的距离;二是点和点之间的距离。类间距离是基于点间距离定义的,比如两类之间最近点之间的距离可以作为这两类之间的距离,也可以用两类中最远点之间的距离作为这两类之间的距离;当然也可以用各类的中心之间的距离来作为类间距离。在计算时,各种点间距离和类间距离的选择是通过统计软件的选项实现的。统计类间的距离时,采用组间距离法(Between-groupslinkage),即两类的平均距离最小。点间距离有很多定义方式,常用的是欧氏距离(Euclideandistance),其算法为[3]:118情报杂志2008年第7期 JournalofInformationNo.7,2008
基于密度和层次的快速聚类算法在数据挖掘中的设计及实现.doc
龙源期刊网
基于密度和层次的快速聚类算法在数据挖掘中的设计及实现
作者：张艳
来源：《信息安全与技术》2013年第08期
【 摘 要 】 本论文在对各种算法深入分析的基础上，尤其在对基于密度的聚类算法he 基于层次的聚类算法深入研究的基础上，提出了一种全新的基于密度和层次的快速聚类算法。该算法保持了基于密度聚类算法发现任意形状簇的优点，而且具有近似线性的时间复杂性，因此该算法适合对大规模数据的挖掘。理论分析和实验结果也证明了基于密度和层次的聚类算法具有处理任意形状簇的聚类、对噪音数据不敏感的特点，并且其执行效率明显高于传统的DBSCAN算法。
【 关键词 】 密度；层次；聚类；数据挖掘
1 前言
聚类其实就是将数据对象分组成多个类或簇，在同一个簇中的对象之间具有较高的相似度，而不同簇中的对象差别较大。
基于密度的DBSCAN聚类方法能够发现任意形状的聚类结果，这类方法将簇看作是数据空间中被低密度区域分割开的高密度对象区域。但是，该算法的时间复杂性是O（n2），用这种复杂度的算法聚类大型数据库是不太现实的。层次聚类CURE算法选择基于质心和基于代表对象方法之间的中间策略。使用CURE形成代表点的思想来形成DBSCAN算法所需要的m（m
2 基于密度和层次的快速聚类算法设计
多维空间与二维空间的距离计算相似，为了方便地描述算法，在本文中以二维空间为例来分析基于密度和层次的聚类算法。
本算法采用的是凝聚的层次聚类方法，即自底向上的方法。该凝聚过程由三层组成，如图1所示。最底层所有的数据对象被视为各自处于一个簇中，作为该算法的输入参数。将整个数据集中的数据凝聚为以候选代表点为中心的一个个集合，并通过密度阈值筛选，去掉一些过稀疏的候选代表点，如图中代表集和“ab”的代表点，留下的代表点即为排除孤立点的中间层聚类结果。最高层，也就是最终的聚类结果层，它是在中间层的基础上，将邻接代表点聚类形成的簇，一个簇中由多于一个的代表点构成，使得它能够适应非球形的几何形状。
一种快速减法聚类算法
第３１卷
Ｖｏ１．３１ 第３期 ＮＯ．３ 西南师范大学学报（自然科学版） Ｊｏｕｒｎａｌ ｏｆ Ｓｏｕｔｈｗｅｓｔ Ｃｈｉｎａ Ｎｏｒｍａｌ Ｕｎｉｖｅｒｓｉｔｙ（Ｎａｔｕｒａｌ Ｓｃｉｅｎｃｅ） ２００６年６月 Ｊｕｎ． ２００６
文章编号：１０００—５４７１（２００６）０３—０１２６—０４
一种快速减法聚类算法
张 枸 ， 湛成伟。， 邓辉文 。， 唐甘翌
１．西南大学逻辑与智能研究中心，重庆４００７１５ｉ ２．西南大学计算机与信息科学学院，重庆４００７１５； ３，涪陵广播电视大学计算机中心，重庆涪陵４０８０００
摘要：在对山峰聚类和减法聚类进行分析之后提出了一种通过划分网格、规约数据、减法聚类３步完成的聚类算 法．仿真试验表明，此方法较之山峰聚类，减法聚类能明显减少计算量，提高聚类的速度． 关 键 词：山峰聚类；减法聚类；密度指标；网格 中图分类号：ＴＰ３９１．４ 文献标识码：Ａ
聚类分析在科学研究中有相当广泛的应用 ］，而文献［３，４］提出的模糊Ｃ一均值类型算法（ＦＣＭ算法）
是应用最广泛的算法之一，但其本质属于局部搜索的爬山法［＝５］，对聚类中心的初始化较敏感。文献［６］提出
的山峰聚类（ｍｏｕｎｔａｉｎ ｃｌｕｓｔｅｒｉｎｇ，ＭＣ）除了作为一种独立聚类算法之外，还可以作为ＦＣＭ算法的初始化
方法，不过该方法的计算量随样本维数增加呈指数增长．为此，文献［７］对山峰聚类做了改进，提出了减法 聚类（Ｓｕｂｔｒａｃｔｉｖｅ Ｃｌｕｓｔｅｒｉｎｇ），使得计算量由样本数目决定且不会随样本维数增加呈指数增长．其后，文献 ［８］对减法聚类进行了改进（本文中称之为改进的减法聚类），但实验中发现速度提升极其有限．并且，作为
一种初始化算法，减法聚类以及改进的减法聚类在面对大数据集时，其聚类效率仍然较低．
本文结合山峰聚类与减法聚类给出了一种新的聚类方法．仿真实验表明，这种算法比前述３种聚类算 法更加快捷．另外，像前面３种算法一样，也可以用来对ＦＣＭ算法进行初始化．
快速Fuzzy聚类方法的实现
Realization of Quick Fuzzy Cluster Method
Shiqiang ZHANG1,2,Chunli WANG1,2,Ting WANG 1,2
1. Dept. of mathematics, Chongqing Medical University, Chongqing,China 2. Lab. of forensic medicine and biomedicine information, Chongqing Medical University, Chongqing,China Abstract: Cluster analysis in Statistics is a multi-dimensional analysis method. Traditional cluster analysis re-quires that the boundary between given objects is clear. Paper[1] analyzes different cluster processes in syste-matic cluster method. It turns out that there only one cluster process(maximum statistics method cluster process)will not interfere the primary information, no matter to target cluster(R cluster) or sample cluster(Q cluster); Other cluster processes will all increase Disturbance information or lose primary information. The key of cluster analysis is to build similar square. Once the boundaries between the given objects are unclear, the traditional cluster analysis is useless. The fuzzy cluster method introduced by paper [2] can overcome the flaw of system cluster. Based on paper [2], this paper introduces the calculation method of the degree of member-ship of fuzzy complementary set. It also enhances the fuzzy similar square and gives a feasible quick fuzzy cluster method.
聚类分析
聚类分析
聚类分析又称群分析，它是研究（样品或指标）分类问题的一种多元统计方法，所谓类，通俗地说，就是指相似元素的集合。聚类分析内容非常丰富，按照分类对象的不同可分为样品分类（Q-型聚类分析）和指标或变量分类（R-型聚类分析）；按照分类方法可分为系统聚类法和快速聚类法。
1. 系统聚类分析
先将n个样品各自看成一类，然后规定样品之间的“距离”和类与类之间的距离。选择距离最近的两类合并成一个新类，计算新类和其它类（各当前类）的距离，再将距离最近的两类合并。这样，每次合并减少一类，直至所有的样品都归成一类为止。系统聚类法直观易懂。
1.1系统聚类法的基本步骤：
第一，计算n个样品两两间的距离 ，记作D= 。
第二，构造n个类，每个类只包含一个样品。
第三，合并距离最近的两类为一新类。
第四，计算新类与各当前类的距离。
第五，重复步骤3、4，合并距离最近的两类为新类，直到所有的类并为一类为止。
第六，画聚类谱系图。
第七，确定类的个数和类。
1.2 系统聚类方法：
1.2.1最短距离法
1.2.2最长距离法
1.2.3中间距离法
1.2.4重心法
1.2.5类平均法
1.2.6离差平方和法（Ward法）
上述6种方法归类的基本步骤一致，只是类与类之间的距离有不同的定义。最常用的就是最短距离法。
1.3 最短距离法
以下用ijd表示样品iX与jX之间距离，用ijD表示类iG与jG之间的距离。定义类iG与jG之间的距离为两类最近样品的距离，即
ijGGGGijdDjJii,min
设类pG与qG合并成一个新类记为rG，则任一类kG与rG的距离是：
ijGXGXkrdDjjii,minijGXGXijGXGXddqjkipjki,,min,minminkqkpDD,min
最短距离法聚类的步骤如下： ijdijd（1）定义样品之间距离，计算样品两两距离，得一距离阵记为)0(D，开始每个样品自成一类，显然这时ijijdD。
birch聚类算法
birch聚类算法
Birch（Balanced Iterative Reducing and Clustering using Hierarchies）聚类算法，是1996 年开发的一种层次聚类算法，由柯林斯科特和妮托拉。它的构建是基于CF（Curetted）树的算法，可以聚类巨大的数据集，比较适合用于大数据集的聚类分析。Birch将密集聚类和选择性扩展技术有机地结合在一起，从而使其具有良好的可扩展性。
Birch算法主要有三个步骤：建立CF（Curetted）树，更新CF（Curetted）树，以及分裂CF（Curetted）树。
（2）更新CF（Curetted）树：当余下的新数据加入到CF树中时，Birch算法会自动更新CF树，这时候会把数据分布在CF树节点中；
Birch算法的优势在于：
1、 相对简单，收敛迅速，可以用于大规模数据集；
2、可以精确的捕捉簇的结构，可以增加或减少簇的数量不影响簇的结构；
3、能够自动聚类，减少人为因素的影响；
4、可以快速地发士簇的内部结构，具有良好的扩展性。
总之,Birch聚类算法是一种有效、快速、简单的聚类方法，可以准确地捕获簇结构，用于大数据集的聚类分析，具有良好的可扩展性，为数据挖掘提供了一种有效、可靠的分类方法。