基于最近邻优先的高效聚类算法

第36卷第6期四川大学学报(工程科学版)V ol.36N o.6 2004年11月JOURNA L OF SICH UAN UNIVERSITY(E NG INEERING SCIE NCE E DITION)N ov.2004文章编号:100923087(2004)0620093207

基于最近邻优先的高效聚类算法

胡建军1,唐常杰1,李　川1,彭　京1,2,元昌安1,3,陈安龙1,蒋永光4

(1.四川大学计算机学院,四川成都610064;2.成都市公安局科技处,四川成都610017;

3.广西师范学院信息技术系,广西南宁530001;

4.成都中医药大学,四川成都610075)

摘　要:针对高维空间中任意形状的多层次聚类问题,基于“同类相近”的思想,提出并实现了最近邻优先吸收聚类算法NNAF算法。证明了最近邻点搜索定理,基于这一定理又提出了S NN(Searching Nearest Neighbors)算法和G S NN

(G rid2based Searching Nearest Neighbors)算法,其时间复杂度为O(n3log(n)),当用扫描图像所得数据时,时间复杂

度会降为O(n);而使用传统的搜索算法,时间复杂度为O(n2);提出了实现任意形状高维空间聚类的NNAF算法,时间复杂度为O(n);提出了M LC A(Multi2layer Cluster Alg orithm)算法并证明了两个相关的定理,在改变阈值后重新聚类时,使用M LC A算法可以节省90%以上的时间。实验结果显示,以上算法适应于任意形状的高维空间数据的聚类,可以有效过滤噪声数据,且用户需要的先验知识少、可快速获得各种层次的聚类结果。

关键词:数据挖掘;聚类分析;最近邻优先吸收;多层次聚类

中图分类号:TP311.13文献标识码:A

An E fficient Multi2layer Clustering Algorithm B ased on N earest N eighbors First

H U Jian2jun1,T ANG Chang2jie1,LI Chuan1,PENG Jing1,2,YUAN Chang2an1,3,CHEN An2long1,JIANG Yong2guang4

(1.School of C om puter,S ichuan Univ.,Chengdu610064,China;2.Dept.of Sci.and T ech.,Chengdu Public Security Bureau,Chengdu610017,China;

3.Dept.of In fo.and T ech.,G uangxi T eachers Education Univ.,G uangxi Nanning530001,China;

4.Chengdu Univ.of T raditional Chinese M edicine,Chengdu610075,China)

Abstract:Nearest Neighbors Abs orbed First(NNAF)clustering alg orithm was proposed to res olve the problem of the mul2 ti2layer clustering for high dimensional data with arbitrary shape based on the idea that the data in same cluster must be near.A searching nearest neighbor theorem was proved.Based on the theorem,S NN(Searching Nearest Neighbors)and G S NN(G rid2based Searching Nearest Neighbors)alg orithms were proposed with time com plexity O(n3log(n))or O(n)if the data are gained by scanning image.They are much faster than the traditional searching nearest neighbors al2 g orithm with O(n2).A clustering alg orithm of NNAF to process multi2dimensional data with arbitrary shape was proposed with time com plexity O(n).Multi2layer Clustering Alg orithm(M LC A)was proposed and tw o interrelated theorems were proved.In the case for threshold adjusting,it saves time over90%.The experiments showed that the new alg orithms can efficiently process high dimensional data in arbitrary shape with noisy.They can produce multi2layer clustering quickly and need less field knowledge.

K ey w ords:data mining;clustering;nearest neighbor first;multi2layer clustering

收稿日期:2004206212

基金项目:国家自然科学基金资助项目(60473071;90409007);国家973计划资助项目(2002C B111504);高等学校博士学科点专项科研基金SRFDP资助项目(20020610007);广西自然科学基金资助项目(桂科自0339039)和国家中医药管理局基金S ATC M资助项目

(2003JP40)

作者简介:胡建军(19702),男,博士生.研究方向:数据库与知识工程;智能信息处理.

聚类分析是知识发现(K DD)中一项重要研究内容,旨在将数据集合划分为若干类的过程,使得类内差异小,类间差异大。通常用数据之间的距离来描述相似度,距离越大,相似度越小,反之则越大。理想的聚类算法应该具有可扩展性、能发现任意形状、用户输入参数少、对噪声不敏感、能处理高维数据、可解释性和可用性。国内外学者已经提出了不少相关的算法,大体上可分为划分方法、层次方法、基于密度的方法、基于网格的方法和基于模型的方法。典型算法分别有K2means算法[2]、C URE算法[3]、DB2 SC AN算法[4]、C LI QUE算法[5]和BIRCH算法[6,7],等等。这些算法以自己的特色和方式解决了一类特殊问题。然而,对于任意形状的高维数据的多层次聚类,仍是一个具有挑战性的研究内容。

基于“同类相近”的思想,提出了一种改进的最短距离聚类算法———最近邻优先吸收聚类算法NNAF(Nearest Neighbors Abs orbed First)。与其它聚类算法相比,NNAF算法具有以下优点:

1)适应于任意形状的聚类;

2)可快速处理高维数据;

3)可以快速获得各种层次的高质量聚类;

4)用户需要的先验知识少;

5)可以有效过滤噪声数据。

主要工作在于:

1)提出并证明了一个可以快速获得最近邻点的搜索定理;

2)提出了寻找最近邻点的S NN(Searching Near2 est Neighbors)算法和G S NN(G rid2based Searching Near2 est Neighbors)算法;

3)提出了NNAF(Nearest Neighbors Abs orbed First)聚类算法,实现基于最近邻点优先的聚类;

4)提出了快速进行多层次聚类的M LC A(Multi2 layer Cluster Alg orithm)算法和两个相关的定理,使得改变阈值后重新聚类的时间平均可以节约90%以上;

5)对相应算法进行了实验比较。

1　相关工作

层次聚类方法可分为自下而上和自上而下两种基本方法。自下而上方法是以数据对象作为原子类,然后将这些原子类进行聚合。逐步聚合成越来越大的类,直到满足终止条件。自上而下方法是首先将所有数据对象作为一类,然后逐步分解成越来越小的类,直到满足终止条件。典型的层次聚类算法有BIRCH算法、C URE算法、最短距离法[8]和CH AM A LE ON算法[9]等。

NNAF算法与最短距离法有很多相似之处。最短距离法又称最近邻连接法。其基本思想是把两个类的距离定义为两类中距离最近的元素之间的距离。并依此逐次选择最“靠近”的类聚集,直到满足终止条件。传统的最近邻搜索算法需要并比较数据点两两之间的距离,其时间复杂度为O(n2),计算量很大。因此传统的最近邻算法很难处理大数据量的聚类。对于噪声数据,该算法也将无能为力。针对这些不足,提出了可以高效处理以任意形状分布的具有噪声数据的聚类算法———NNAF算法。它继承了最短距离法的优点,可高效处理高维数据,且用户需要的先验知识少。

2　最近邻优先吸收(NNAF)算法

NNAF(Nearest Neighbors Abs orbed First)算法的基本思想是:空间中的每一点和与之最近的点属于同一类的可能性最大。如果两个距离最近的点之间的距离小于用户输入的距离阈值,那么就认为它们属于同一类。当某一聚类所包含的元素个数大于用户输入的数量阈值时,则该类数据成为一个真正的聚类;否则为噪声数据集合。

2.1　基本概念

定义1:设V是高维数据空间中的点集合,V= {p1,p2,…,p n},p1∈V,p2∈V,给定距离阈值d,d >0,则

1)p1和p2之间的距离记为D(p1,p2);

2)如果D(p1,p2)

3)如果MN(p1)=p2,并且D(p1,p2)≤d,那么p2与p1属于同一类。

NNAF算法的基本思想是试图把两个最近邻的点归为一类。假设M N(p1)=p2,且D(p1,p2)≤d,d是用户设定的距离阈值:当p1点属于第一类,而p2尚没有归类时,则把p2点也归为第一类;当p1尚没有归类,而p2点属于第一类时,则把p1点也归为第一类;当p1点属于第一类,而p2属于第二类时,则把第一类和第二类合并为一个新类,并把p1、p2点和分别属于原第一类和第二类的所有点都归于这个新类。

定义2:设V={p1,p2,…,p n}是一任意空间点集,点p i∈V,p h∈V。

49四川大学学报(工程科学版)第36卷

1)V中任一点p i都存在一个五元组的属性集合(Dir,Distance,Cluster,Neighbors,Anti2Neighbors),其中,Dir表示点p i的坐标;Distance表示点p i到其最近邻点之间的距离;Cluster表示点p i的类别;Neigh2 bors表示点p i的最近邻点的集合;Anti2Neighbors表示以点p i为最近邻点的点集合。

2)如果M N(p i)=p h,且M N(p h)=p i,则称点p i和p h为互最近邻点。

3)如果M N(p i)=p h,且p h点的属性Cluster 的值不为空,则称p h点为p i点的已归类近邻点。否则称为未归类近邻点。

显然,互近邻点其实是已归类近邻点的一种特例,即当某点的已归类邻点是以其为最近邻点的点时,已归类近邻点就变成了互近邻点。

出现互近邻点和已归类近邻点这两种情况是本文提出的NNAF中形成每个聚类的终止条件。

2.2　最近邻搜索(S NN)算法

度量两点之间距离的常用模型有欧氏距离、Manhattan距离、Minkowski距离[1]等,以及上述距离模型的加权版本。在NNAF算法中可以使用以上几种距离度量公式中的任何一种。本文中均采用欧氏距离。

在搜索某点的最近邻点时,为了避免比较其它所有点到它之间的距离,提出了S NN算法,它的目标是快速找到每一点的最近邻点。S NN(Searching Nearest Neighbors)算法只需计算每一点到它们的δ(用户设置的距离阈值)邻域附近的点之间的距离,然后通过比较得到距其最近的点。

定理1:设V={p1,p2,…,p i,…,p m}为n维空间中的点集,p i是集合V中的任一点,距离阈值为d,则到p i的距离小于d的点一定在每一维上都在p i 的相应维的d邻域内。

证明:设点集V中存在一点p,它到p i的距离小于d。p到p i的距离

D(p,p i)=((p1-p i1)2+(p2-p i2)2+…+

(p k-p ik)2+…+(p n-p in)2)1/2≤d 现在反设p在第k维上的投影不在p i的d邻域内,即|p k-p ik|>d,

则有(p k-p ik)2>d2,由此推出D(p,p i)>d,但这与题设矛盾,故定理成立。

算法1S NN算法

输入:点集V={p1,p2,…,p i,…,p m},其中数据点已按某一维(称为排序维)排序,距离阈值d。

输出:每一点的五元组属性值,其中,属性Clus2ter值为空,属性Neighbors和Anti2neighbors中的点分别是满足距离阈值的点。

Begin

　01.点集S=NU LL;

　02.for(i=1;i<=m;i++)

　03.　{

　04.　找出在排序维上位于p i点的d邻域内的点

集S;

　05.　if　S中的某点在某一维上不在p i点的d邻

域内

then　从S中删除该点

　06.　if　S<>NU LL

then　计算S中所有的点到p i点的距离,然

后比较得出距p i点最近的点及其之间的距

离Distance;

　07.　if　Distance<=d

then　把p i的最近邻的点写入其Neighbors

属性,把Distance写入其Distance属性,把p i

写入其所有最近邻点的Anti2neighbors属性,

p i的Cluster=NU LL;

　08.　else　Distance=NU LL,Neighbors=NU LL,

Anti2neighbors=NU LL,Cluster=NU LL,认为

p i是孤立点;

　09.　}

End.

S NN算法避免了求两两之间的距离,只需比较它的一个较小邻域内的点,从而大大提高了计算速度。其时间复杂度为O(n3log(n))。当数据是通过扫描空间图像所得时,因为扫描后数据自然已按某一维排序,所以其时间复杂度就会降为O(n)。而传统的逐点比较法的时间复杂度为O(n2)。当用户改变距离阈值d后,仅需用S NN算法搜索孤立点的最近邻点。

当数据在排序维上的坐标值比较集中,特别是当所有数据在排序维上的值相同时,S NN算法并不能提高搜索效率。因此,排序维的选取也是一个重要的问题。

可以先对数据随机取样,然后比较取样数据在每一维上的方差,选取方差最大的维作为排序维。也可以选取具有不同坐标值个数最多的维作为排序维。

选取排序维的时间复杂度是O(n)。所以S NN 算法总的时间复杂度还是O(n3log(n))或O(n)。

59

第6期胡建军,等:基于最近邻优先的高效聚类算法

2.3　基于网格的最近邻搜索(G S NN)算法

S NN算法只搜索满足用户设定阈值的最近邻点,对于不满足阈值条件的最近邻点,则在用户重新设定阈值后再用S NN算法搜索。这对于只设定一次阈值的情况效率无疑是最高的。然而,很多情况下用户并不能一次就能确定好合适的距离阈值,需要反复试验才行。这时就要多次调用S NN算法以及下文所述的M LC A算法。为了避免多次调用S NN 算法,可以采用G S NN(G rid2based Searching Nearest Neighbors)算法一次把所有点的最近邻点全部快速找出。

G S NN算法的基本思想是:首先用S NN算法求出满足阈值条件的最近邻点,对于还未搜索到最近邻点的点,则用2倍的用户阈值作为距离阈值,调用S NN算法,搜索满足2倍阈值的最近邻点。反复以2倍的速度提高阈值条件,直到所有点都搜索到最近邻点为止。

算法2G S NN算法

输入:点集V={p1,p2,…,p i,…,p m},距离阈值d。

输出:产生所有点的记录属性值。

Begin

　01While(没有找到最近邻点的点集不为空)

　02　{

　03　S NN();//调用S NN算法

　04　d=2d;

　05　}

End.

在G S NN算法中,每一次循环,都调用S NN算法搜索出满足当前距离阈值条件的最近邻点。如果在当前距离阈值条件下,还存在没有搜索到最近邻点的点,则把距离阈值加倍,重新调用S NN算法搜索其最近邻点。直到所有的点都搜索到最近邻点为止。

2.4　NNAF算法

NNAF算法是先把一个点作为一类,然后把这一点的所有的最近邻点和所有以这一点为最近邻点的点归于这一类;然后再把所有以新加入这一类的点为最近邻点的点和新加入这一类的点的所有最近邻点也归于这一类。反复这样操作,直到这一类的点不再增加为止,即所有以新加入这一类的点为最近邻点的点和新加入这一类的点的所有最近邻点全部都是已归类点。然后再以一个未归类点为下一个聚类,按上述方法进行聚类操作,直到把所的点都归入某一聚类,这时聚类过程完成。

算法3NNAF算法

输入:点集V={p1,p2,…,p n},距离阈值d,数量阈值q。

输出:每一点的Cluster属性的值。

Begin

　01.F or(i=1;n;i++)//调用S NN算法找每一

点的最近邻点

　02.　{

　03.　用S NN算法找点p i的所有最近邻点及其之

间的距离Distance,并在其最近邻点的属性

Anti2neighbors集合中加入p i;

　04.　建立点p i的属性集五元组;

　05.　}

　06.j=1;//j为类别编号

　07.堆栈Stack=NU LL;

　08.P oint=NU LL;

　09.While(V<>NU LL)do

　10.　{

　11.　Push(V中任一个点),把该点赋给P oint,并

它从V中删除,把其Cluster置为j,;

　12.　Repeat

　13.　I f　点P oint的Neighbors和Anti2neighbors中

存在Cluster值为空的点

　14.　Then　Push(Neighbors和Anti2neighbors中

Cluster值为空的点),把压入堆栈的点的

Cluster置为j,并把这些点从V中删除;

　15.　P oint=P op;

//栈顶点的最近邻点和以之为最近邻点的

点全为互近邻点和已归类近邻点

　16.　Until　(堆栈Stack=NU LL);

　17.　j=j+1;

　18.　}

　19.I f　(某类包含的点的个数>q)

　20.Then　输出这些类别

End.

NNAF算法主要分为3个步骤:1)求出每一点的最近邻点;2)求出所有的聚类;3)输出满足阈值条件的聚类。

定理2:设集合V={p1,p2,…,p i,…,p m}为多维空间中的点集,如果按照NNAF算法把集合V中的部分点分成了n个聚类C1,C2,…,C n,则当进行第n+1个聚类C n+1时,属于第n+1个聚类C n+1的点不可能已属于前n个聚类C1,C2,…,C n。

69四川大学学报(工程科学版)第36卷

证明:设点p i属于第k类(k

定理2保证了当进行新的聚类时,只需在没有归类的点中进行就可以了,从而提高了效率。

定理3:对于集合V={p1,p2,…,p i,…,p m}中的任意点p i,1≤i≤m,其Distance属性的值一定小于其Anti2neighbors属性中的点到它之间的距离。

证明:设p i是n维空间集合V中任意一点,由定义2知点p i的Distance属性的值是点p i与其最近邻点之间的距离,若p i的Anti2neighbors属性中的点到p i之间的距离小于等于Distance,则p i的Anti2neigh2 bors属性中的点将成为其最近邻点,而不能出现在其Anti2neighbors属性中,只能在其Neighbors中。所以,p i的Distance属性的值一定小于其Anti2neighbors 属性中的点到它之间的距离。定理3证毕。

定理4:设集合V={p1,p2,…,p i,…,p m}为n 维空间中的点集,且已用NNAF算法把集合V中的点按距离阈值d1进行过聚类,当按距离阈值d2(d2 >d1)对V中的点重新聚类时,对于d1

证明:设p i点的Distance属性值满足d1

定理3和定理4保证了在加大阈值后重新聚类时,只需考虑满足新阈值的点的聚类即可,不必对已归类的点重新进行聚类。

2.5　多层次聚类(M LC A)算法

当用户对数据缺乏先验知识时,很难一下就确定好合适的阈值,往往是经过多次实验后,才能找到合适的阈值参数。在其它聚类算法中,当用户改变阈值后,往往需要重新进行聚类计算,每次所消耗的时间基本一样,这使得用户每修改一次阈值参数就要耗费大量时间。而使用本文提出的NNAF算法后,如果用户改变阈值,再使用M LC A(Multi2layer Cluster Alg orithm)算法,则可以节省90%以上的时间。从而可以快速得到不同层次的聚类,进而找到满足要求的阈值参数和聚类。在这里,假设新的距离阈值大于上次聚类的距离阈值。

算法4M LC A算法。

输入:点集V={p1,p2,…,p n}为未归类的点,上次的距离阈值d1和新的距离阈值d2(d2>d1);数量阈值q,已有最大类标号i。

输出:新的聚类。

Begin

　01.堆栈Stack=NU LL;

　02.P oint=NU LL;

　03.While(V<>NU LL)

　04.　{

　05.　Push(V中任一个点),把该点赋给P oint,并

把它从V中删除;

　06.　Repeate

　07.　I f　point.Distance<=d2

　08.　Then　Case P oint的最近邻点的Cluster属性

值of

　09.　1.不为空且相同:P oint.Cluster=P oint的最

近邻点的Cluster属性值;

　10.　2.不为空且不相同:把这几类Cluster合并成

一类,并把P oint也归为这一类;

　11.　3.为空:P oint.Cluster=i+1;Push(点P oint

的最近邻点),并把这些点从V中删除;

　12.　I f　点P oint的Anti2neighbors中存在Cluster

值为空的点

　13.　Then　Push(P oint.Anti2neighbors中Cluster值

为空的点),把压入堆栈的点的Cluster置为

P oint.cluster,并把这些点从V中删除;

　14.　P oint=P op;

　15.　Until(堆栈Stack=NU LL);

　16.　i=i+1;

　17.　}

　18.I f　(某类包含的点的个数>q)

　19.Then　输出这些类别

End.

在M LC A算法中,而当用户输入的距离阈值增大时,需要已知满足距离阈值的最近邻点。对仅满足新的阈值条件的点进行聚类的过程中,第09-11

79

第6期胡建军,等:基于最近邻优先的高效聚类算法

行处理栈顶点,当其所有最近邻点归属于同一类,则该点也属于这一类;当其所有最近邻点分属于不同的类别,则因该数据的增加,需合并这些类别为同一类,并把该点归于这一类;当其所有最近邻点的Cluster为空时,则形成一个新类,并把该点归于这一新类。第12-13行把以栈顶点为最近邻点的点归于栈顶点这一类。第18、19行输出满足阈值条件的类别。

从以上算法可以看出,当用户改变阈值重新聚类时,已经归类的点无须重新聚类,只是在需要时合并不同的类别。因此,所需时间比重新开始聚类减少90%以上。所以,用M LC A算法可以快速获得不同层次的高质量聚类。

2.6　算法分析

使用本文提出的聚类算法,用户所需的先验知识少,仅输入两个阈值参数就可以了。对于阈值设定的大小,用户可以通过多次试验,直到得出满意的聚类为止。当用户改变阈值重新聚类时,使用M L2 C A算法可以快速得到各种不同粒度的聚类。

NNAF算法是根据数据点的最近邻点得出的聚类,它与聚类的形状无关,与选择的起始点无关,与数据的维度无关,较好地反映了事物之间的本质规律,而且需要的先验知识少,降低了用户选择参数的难度。因此该算法适合求任意维度、任意形状的聚类。该算法只需扫描一遍数据库,因而它的时间复杂度为O(n)。如果再加上寻找最近邻点的时间,则整个算法的时间复杂度为O(n3log(n))。如果是对图像数据进行扫描,则扫描后的数据就已排好序,从而省去了排序时间。这样,整个算法的时间复杂度就会降为O(n)。

3　实验结果

使用人工合成的数据,在赛扬1G/256M的PC 机上,使用Windows XP操作系统,用Delphi编写程序,对本文提出的算法进行了实验。首先使用二维数据进行实验,原始数据的分布如图1所示。

在这组数据中,采用了具有噪声的不同分布形状的数据。对于这样的数据分布,很多传统的聚类算法将无能为力。而采用NNAF算法,得到的聚类结果如图2所示。

实验结果表明,本文提出的算法可以有效处理具有噪声的以任意形状分布的数据的聚类问题。

为了说明S NN算法找最近邻点的高效性,用了两种不同的方法搜索最近邻点,一种是S NN方法,另一种就是传统的逐点比较法。实验结果如表1所示。其中第一列为使用的数据量,第二、三列分别是两种不同算法在不同数据量下所用的时间,时间单位是毫秒。可以看出,S NN算法远远优于传统算法,效率可以提高2-3数量级

。

图1　参考数据集

Fig.1　

Dataset

图2　NNAF算法聚类结果

Fig.2　The clustering result by NNAF

表1　寻找最近邻点的时间比较

T ab.1　Time of searching nearest neighbors

Data Quantity T ime of S NN/ms T ime of T raditional alg orithm/ms

2000395587

40006910825

600010017314

800012923052

1000016028892

1062417929161

在图3中,采用NNAF算法对二维数据进行聚类实验,所设距离阈值是2,数量阈值是30。横坐标是数据点的个数,单位是K;纵坐标是聚类所用时间,单位是ms。可以看出聚类所用时间与数据量成线性关系。在图3中,没有把NNAF算法与最短距离法相比较,是由于NNAF算法所用时间与其相比太少,很难画在一个图中。

89四川大学学报(工程科学版)第36卷

图3　NNAF 聚类算法所用时间与数据量的关系

Fig.3　The relationship of clustering time and qu antity of

objects by NNAF

很多聚类算法可以有效地处理低维数据,当维

度超过10维以后,其效率将显著降低,出现了维度灾难。而在本文所提的算法中,NNAF 算法和数据的维度无关,只有搜索最近邻点的S NN 算法和数据的维度相关。因此只对S NN 算法进行了高维数据的实验。

实验结果如图4所示。纵坐标是搜索最近邻点所用时间,单位是ms ,横坐标是使用数据的维度。所用数据量是4000个

。

图4　S NN 算法寻找最近邻点所用时间与维度的关系

Fig.4　The relationship of searching nearest neighbors time

and dimensionality by SNN

图4表明,S NN 算法搜索最近邻点所用时间随

着维度的增长增加并不明显。

4　结　论

提出了一系列处理高维空间数据聚类的算法,提出了相关定理并从理论上加以证明。实验表明该算法是有效的,可以快速产生不同层次的高质量聚类。参考文献:

[1]Han J W ,K ambr M.Data mining concepts and techniques

[M].Beijing :Higher Education Press ,2001.145～176.

[2]K au fan L ,R ousseeuw P J.Finding groups in data :an introduc 2tion to cluster analysis [M ].New Y ork :John Wiley &S ons ,1990.

[3]G uha S ,Rastogi R ,Shim K.C URE:an efficient clustering al 2g orithm for large databases[A].Haas L M ,T iwary A.Proceed 2ings of the AC M SIG M OD International C on ference on Manage 2

ment of Data[C].Seattle :AC M Press ,1998.73～84.[4]Ester M ,K riegel H P ,Sander J ,et al.A density based alg o 2rithm for discovering clusters in large spatial databases with noise [A].S im oudis E ,Han J W ,Fayyad U M.Proceedings of the 2nd International C on ference on K nowledge Discovery and Data Mining[C].P ortland :AAAI Press ,1996.226～231.[5]Agrawal R ,G ehrke J ,G unopolos D ,et al.Automatic subspace clustering of high dimensional data for data mining application [A].Haas L M ,T iwary A.Proceedings of the AC M SIG M OD International C on ference on Management of Data [C ].Seattle :AC M Press ,1998.94～105.

[6]Zhang T ,Ramakrishnan R ,Livny M.BIRCH :an efficient data clustering method for very large database[R].C omputer Sciences Dept ,Univ of Wisconsin 2Madis on ,1995.

[7]Zhang T ,Ramakrishnan R ,Livny M.BIRCH :an efficient data

clustering method for very large databases[A ].Jagadish H V ,Mumick I S.Proceedings of the 1996AC M SIG M OD Interna 2tional C on ference on Management of Data [C ].Quebec :AC M Press ,1996.103～114.

[8]Beyer K S ,G oldstein J ,Ramakrishnan R ,et al.When is ’near 2

est neighbor ’meaning ful ?[A ].Beeri C ,Buneman P.Proceed 2ings of the 7th International C on ference on Data Theory [C ].IC DT ’99.LNCS1540,Jerusalem ,Israel :S pringer ,1999.217

～235.

[9]K arypis G,Han E H ,K umar V.CH AME LE ON :a hierarchical clustering alg orithm using dynamic m odeling[J ].IEEE C omput 2er ,1999,32(8):68～75.

(编辑　杨　蓓)

9

9第6期胡建军,等:基于最近邻优先的高效聚类算法