各种聚类方法及举例
聚类算法经典案例
聚类算法经典案例聚类算法是一种机器学习技术，它通过将数据分成不同的类别或群集并分配标签来发现数据内在的结构和模式。
下面将介绍几个聚类算法的经典案例。
1. K-Means算法K-Means算法是聚类算法中最常见和最简单的方法之一。
它将数据分成K个类别，并在每个类别中放置一个聚类质心。
接着，算法计算每个数据点到聚类质心的距离，并将其分配给最近的质心，形成一个聚类。
最后，算法更新每个聚类的质心，并重新分配每个数据点，直到收敛为止。
经典案例：在市场细分中，K-Means算法可以用来将消费者分成不同的群体。
例如，可以使用购买历史和口味偏好来将消费者分成健康食品用户、零食用户和高端餐饮用户等。
2. 层次聚类算法层次聚类算法也是一种常见的聚类算法，它将数据分成不同的类别，并使用树状结构来表示聚类过程。
层次聚类算法可以分为凝聚式和分裂式两种。
经典案例：在癌症治疗中，层次聚类算法可以用来识别患者是否属于某种分子亚型，以确定他们的最佳治疗方案。
3. DBSCAN算法DBSCAN算法是一种密度聚类算法，它将数据分成具有相似密度的群集。
该算法定义了两个核心参数：半径和密度。
接着，算法将密度高于某个阈值的点分配给一个聚类，并且任何不在聚类中的点都被视为噪声。
经典案例：在地理空间数据分析中，DBSCAN算法可以用来识别热点区域或者犯罪高发区，同时排除低密度的区域。
综上所述，聚类算法广泛用于分类、市场细分、癌症治疗、地理空间数据分析等领域。
不同的聚类算法可以应用于不同的问题，选择适当的算法可以帮助得出准确的结论。
7种常用的聚类方法
7种常用的聚类方法K均值聚类是一种基于距离的聚类方法，它将数据点分成K个簇，每个簇都有一个代表性的点，称为质心。
该方法的优点是简单易懂，计算速度快，适用于大规模数据集。
然而，K均值聚类对初始质心的选择敏感，容易陷入局部最优解。
层次聚类是一种树状聚类方法，它通过不断合并最相似的簇来构建聚类树。
这种方法不需要事先指定聚类个数，且对初始值不敏感，但计算复杂度较高，不适用于大规模数据集。
密度聚类是一种基于密度的聚类方法，它将高密度区域划分为簇，并能够发现任意形状的簇。
该方法对噪声和离群点具有较好的鲁棒性，但对参数的选择较为敏感。
模型聚类是一种基于概率模型的聚类方法，它假设数据是由若干个概率分布生成的，并通过模型拟合来进行聚类。
这种方法可以很好地处理数据中的噪声和缺失值，但对数据分布的假设较为苛刻。
谱聚类是一种基于图论的聚类方法，它将数据点视为图中的节点，通过图的拉普拉斯矩阵来进行聚类。
谱聚类能够发现任意形状的簇，且对参数的选择较为鲁棒，但计算复杂度较高，不适用于大规模数据集。
基于网格的聚类是一种将数据空间划分为网格单元，然后在每个单元中进行聚类的方法。
这种方法适用于高维数据和大规模数据集，但对网格大小的选择较为敏感。
分布式聚类是一种将聚类过程分布在多台计算机上进行的方法，它能够处理大规模数据集，并能够并行计算，但需要考虑数据通信和同步的开销。
综上所述，不同的聚类方法适用于不同的数据特点和应用场景。
在选择聚类方法时，需要综合考虑数据规模、数据特征、计算资源等因素，以及对聚类结果的要求。
希望本文介绍的7种常用聚类方法能够为读者在实际应用中的选择提供一定的参考和帮助。
常见的六大聚类算法
常见的六大聚类算法六大常见的聚类算法包括K-means聚类算法、层次聚类算法、DBSCAN 算法、OPTICS算法、谱聚类算法和高斯混合模型聚类算法。
1. K-means聚类算法：K-means聚类算法是一种基于距离的聚类算法，它通过最小化数据点与聚类中心之间的欧氏距离来划分数据点。
算法的步骤如下：a.随机选择K个聚类中心。
b.将每个数据点分配到距离最近的聚类中心。
c.更新聚类中心为选定聚类的平均值。
d.重复步骤b和c直到聚类中心不再改变或达到最大迭代次数。
2.层次聚类算法：层次聚类算法是一种自底向上或自顶向下递归地将数据划分成不同的聚类的方法。
它通过计算数据点之间的距离或相似度来判断它们是否应该被合并到同一个聚类中。
算法的步骤如下：a.初始化每个数据点为一个单独的聚类。
b.计算两个最近的聚类之间的距离或相似度。
c.合并两个最近的聚类，形成一个新的聚类。
d.重复步骤b和c直到所有数据点都被合并到一个聚类中。
3.DBSCAN算法：DBSCAN（Density-Based Spatial Clustering of Applicationswith Noise）算法是一种基于密度的聚类算法，它通过寻找具有足够密度的数据点来划分聚类。
算法的步骤如下：a.随机选择一个未被访问的数据点。
b.如果该数据点的密度达到预设的阈值，则将其归为一个聚类，同时将其相邻且密度达到阈值的数据点添加到聚类中。
c.重复步骤a和b直到所有数据点都被访问。
4.OPTICS算法：OPTICS（Ordering Points To Identify the Clustering Structure）算法是一种基于密度的聚类算法，它通过将数据点按照密度排序来划分聚类。
算法的步骤如下：a.计算每个数据点的可达距离和局部可达密度。
b.根据可达距离和局部可达密度排序所有数据点。
c.根据可达距离和阈值划分聚类。
d.重复步骤b和c直到所有数据点都被访问。
常见聚类方法
常见聚类方法聚类是一种无监督机器学习方法，将数据集中的样本分成若干个子集，使得每个子集内部的样本相似度尽可能高，而不同子集间的相似度尽可能低。
在现实生活中，聚类应用广泛，比如将市场上的消费者分成不同的群体，或将某个领域的文献分类。
本文将介绍常见的聚类方法。
1. K-means聚类K-means是一种基于距离的聚类方法，它将数据集分成K个簇，每个簇的中心被称为质心。
算法的核心是不断地迭代更新质心，直到质心不再发生变化或达到最大迭代次数。
K-means聚类的缺点是对初始质心的选择敏感，可能会陷入局部最优解。
2. 层次聚类层次聚类是一种基于距离的聚类方法，将数据集中的样本逐层合并成越来越大的簇。
具体来说，它分为自上而下和自下而上两种方法。
自上而下的方法从整个数据集开始，每次将最相似的两个样本合并成一个簇，直到只剩下一个簇。
自下而上的方法从每个样本开始，逐步将相似度高的样本合并成簇，直到只剩下一个簇。
层次聚类的优点是不需要预设簇的数量，缺点是计算复杂度高，难以处理大规模数据集。
3. 密度聚类密度聚类是一种基于密度的聚类方法，将样本分为若干个密度相似的区域。
具体来说，它以每个样本为中心，计算在一定距离范围内的样本个数，若该数目超过预设阈值，则将它们归为同一簇。
密度聚类的优点是能够处理任意形状的簇，缺点是对参数的设定比较敏感，容易陷入噪声区域。
4. 谱聚类谱聚类是一种基于图论的聚类方法，将样本看作图中的节点，节点之间的相似度看作边的权重，然后通过图的拉普拉斯矩阵进行谱分解得到特征向量，最后将特征向量作为新的样本空间进行聚类。
谱聚类的优点是能够处理非凸的簇，缺点是计算复杂度较高。
不同的聚类方法有各自的优缺点，需要根据具体的应用场景来选择合适的方法。
聚类分析及其应用实例ppt课件
Outlines
聚类的思想 常用的聚类方法 实例分析：层次聚类
在整堂课的教学中，刘教师总是让学 生带着 问题来 学习， 而问题 的设置 具有一 定的梯 度，由 浅入深 ，所提 出的问 题也很 明确
3. 实例分析：层次聚类算法
定义：对给定的数据进行层次的分解
第4 步
➢
凝聚的方法（自底向上）『常用』
思想：一开始将每个对象作为单独的
第3 步
一组，然后根据同类相近，异类相异 第2步 的原则，合并对象，直到所有的组合
并成一个，或达到一个终止条件。 第1步
a, b, c, d, e c, d, e d, e
X3 Human（人） X4 Gorilla（大猩猩） X5 Chimpanzee（黑猩猩） X2 Symphalangus（合趾猿） X1 Gibbon（长臂猿）
在整堂课的教学中，刘教师总是让学 生带着 问题来 学习， 而问题 的设置 具有一 定的梯 度，由 浅入深 ，所提 出的问 题也很 明确
离差平方和法（ ward method ）：
各元素到类中心的欧式距离之和。
Gp
Cluster P
Cluster M
Cluster Q
D2 WM Wp Wq
G q
在整堂课的教学中，刘教师总是让学 生带着 问题来 学习， 而问题 的设置 具有一 定的梯 度，由 浅入深 ，所提 出的问 题也很 明确
凝聚的层次聚类法举例
Gp G q
Dpq max{ dij | i Gp , j Gq}
在整堂课的教学中，刘教师总是让学 生带着 问题来 学习， 而问题 的设置 具有一 定的梯 度，由 浅入深 ，所提 出的问 题也很 明确
常见的聚类方法及应用
常见的聚类方法及应用常见的聚类方法有层次聚类、K-means聚类、DBSCAN聚类和密度聚类。
层次聚类（Hierarchical clustering）是一种自下而上或自上而下的聚类方法。
这种方法通过划分数据集来构建聚类树，然后根据树的分支情况划分簇。
层次聚类方法有两种：凝聚性（Agglomerative）和分裂性（Divisive）。
凝聚性层次聚类是自下而上的方法，首先将每个样本看作一个簇，然后逐步合并相似的簇，直到形成一个大簇。
而分裂性层次聚类则是自上而下的方法，首先将所有样本看作一个大簇，然后逐步将大簇分割成更小的簇，直到每个样本都成为一个簇。
层次聚类方法的应用包括文本聚类、图像聚类和生物学数据分析等方面。
K-means聚类是一种基于划分的聚类方法。
这种方法将数据集划分为K个簇，每个簇包含与之最相似的数据点。
K-means聚类的过程分为两个步骤：选择初始质心和迭代优化。
选择初始质心可以用多种方法，比如随机选择或根据数据分布选择。
迭代优化通过计算数据点到簇质心的距离，并将每个点分配到最接近的质心，然后更新质心的位置，直到质心位置不再变化或达到预设迭代次数。
K-means聚类的应用包括图像分割、推荐系统和市场分析等方面。
DBSCAN聚类（Density-Based Spatial Clustering of Applications with Noise）是一种基于密度的聚类方法。
这种方法将数据点分为核心点、边界点和噪声点。
核心点是一个密度可达的点，即在以该点为圆心，以一定半径内至少包含最小样本数的区域内有足够的样本点。
边界点是在以核心点为圆心，以一定半径内包含小于最小样本数的样本点。
噪声点是既不是核心点也不是边界点的点。
DBSCAN聚类的过程是通过寻找核心点的相邻点和扩展密度直达的样本点，从而形成一个簇。
DBSCAN聚类的应用包括异常检测、土壤学分析和客户细分等方面。
密度聚类（Density-based clustering）是一种基于样本密度的聚类方法。
聚类分析及其应用实例.ppt
Gp Gq
D pq ? max{ d ij | i ? G p , j ? G q }
类平均距离（ average linkage ）：
Gp和Gq中每两两样本间距离的平均值作为两个类之间的距离。
Gp Gq
?? D pq
?
1 t ptq
tp i?1
? 相似系数----常用于对变量的聚类
? Pearson相关系数：两个连续变量间呈线性相关 ? Spearman相关系数：利用两变量的秩次大小作线性相关分析 ? Kendall等级相关系数，。。。
凝聚的层次聚类示意图
C3
X4 X3
C4
X5 X2
X1
X1：Gibbon （长臂猿） X2：Symphalangus （合趾猿） X3：Human （人） X4：Gorilla （大猩猩） X5：Chimpanzee （黑猩猩）
tq
X (q) i i ?1
用Gp和Gq表示两个类，它们所包含的样本数目分别为tp和tq，类Gp和Gq之间
的距离用Dpq表示。
离差平方和法（ ward method ）：
各元素到类中心的欧式距离之和。
Gp
Cluster P
Cluster M
Cluster Q
Gq
D 2 ? WM ? W p ? Wq
凝聚的层次聚类示意图
Oh？
X4 X3
X5 X2
X1
X1：Gibbon （长臂猿） X2：Symphalangus （合趾猿） X3：Human （人） X4：Gorilla （大猩猩） X5：Chimpanzee （黑猩猩）
常用的聚类统计量
聚类8种方法
聚类8种方法聚类是一种无监督学习方法，它将数据集中的对象分成不同的组或簇，使得同一组内的对象相似度较高，而不同组之间的对象相似度较低。
聚类方法可以应用于各种领域，如数据挖掘、图像处理、生物信息学等。
本文将介绍8种常见的聚类方法。
1. K均值聚类K均值聚类是最常见的聚类方法之一。
它将数据集中的对象分成K 个簇，每个簇的中心点称为质心。
算法的过程是先随机选择K个质心，然后将每个对象分配到最近的质心所在的簇中，接着重新计算每个簇的质心，重复以上步骤直到质心不再改变或达到预设的迭代次数。
2. 层次聚类层次聚类是一种自下而上或自上而下的聚类方法。
它将数据集中的对象逐步合并成越来越大的簇，直到所有对象都被合并为一个簇或达到预设的簇数。
层次聚类有两种方法：凝聚聚类和分裂聚类。
凝聚聚类是自下而上的方法，它从每个对象开始，逐步合并成越来越大的簇。
分裂聚类是自上而下的方法，它从所有对象开始，逐步分裂成越来越小的簇。
3. DBSCAN聚类DBSCAN聚类是一种基于密度的聚类方法。
它将数据集中的对象分为核心点、边界点和噪声点三类。
核心点是在半径为ε内有至少MinPts个对象的点，边界点是在半径为ε内有少于MinPts个对象的点，但它是核心点的邻居，噪声点是既不是核心点也不是边界点的点。
DBSCAN聚类的过程是从任意一个未被访问的核心点开始，找到所有密度可达的点，将它们合并成一个簇，直到所有核心点都被访问。
4. 密度聚类密度聚类是一种基于密度的聚类方法，它将数据集中的对象分为不同的簇，每个簇的密度较高，而不同簇之间的密度较低。
密度聚类的过程是从任意一个未被访问的点开始，找到所有密度可达的点，将它们合并成一个簇，直到所有点都被访问。
5. 谱聚类谱聚类是一种基于图论的聚类方法。
它将数据集中的对象看作是图中的节点，将它们之间的相似度看作是边的权重。
谱聚类的过程是将相似度矩阵转换成拉普拉斯矩阵，然后对拉普拉斯矩阵进行特征值分解，得到特征向量，将它们作为新的特征空间，再用K均值聚类或其他聚类方法进行聚类。
聚类分析方法详细介绍和举例
聚类分析⽅法详细介绍和举例聚类分析例如：下表是1999年中国省、⾃治区的城市规模结构特征的⼀些数据，可通过聚类分析将这些省、⾃治区进⾏分类，具体过程如下：省、⾃治区⾸位城市规模（万⼈）城市⾸位度四城市指数基尼系数城市规模中位值（万⼈）京津冀699.70 1.4371 0.9364 0.7804 10.880 ⼭西179.46 1.8982 1.0006 0.5870 11.780 内蒙古111.13 1.4180 0.6772 0.5158 17.775 辽宁389.60 1.9182 0.8541 0.5762 26.320 吉林211.34 1.7880 1.0798 0.4569 19.705 ⿊龙江259.00 2.3059 0.3417 0.5076 23.480⼀、聚类分析的数据处理1、地理数据的对数变换：原始数据⾃然对数变换省、⾃治区⾸位城市规模（万⼈）城市⾸位度四城市指数基尼系数城市规模中位值（万⼈）⾸位城市规模（万⼈）城市⾸位度四城市指数基尼系数城市规模中位值（万⼈）京津冀699.7 1.4371 0.9364 0.7804 10.88 6.5507 0.3626 -0.0657 -0.2479 2.3869 ⼭西179.46 1.8982 1.0006 0.587 11.78 5.1900 0.6409 0.0006 -0.5327 2.4664 内蒙古111.13 1.418 0.6772 0.5158 17.775 4.7107 0.3492 -0.3898 -0.6620 2.8778 辽宁389.6 1.9182 0.8541 0.5762 26.32 5.9651 0.6514 -0.1577 -0.5513 3.2703 吉林211.34 1.788 1.0798 0.4569 19.705 5.3535 0.5811 0.0768 -0.7833 2.9809 ⿊龙江259 2.3059 0.3417 0.5076 23.48 5.5568 0.8355 -1.0738 -0.6781 3.1561 2、地理数据标准化：⾃然对数变换标准差标准化数据⾸位城市规模（万⼈）城市⾸位度四城市指数基尼系数城市规模中位值（万⼈）⾸位城市规模（万⼈）城市⾸位度四城市指数基尼系数城市规模中位值（万⼈）6.5507 0.3626 -0.0657 -0.2479 2.3869 1.5572 -1.1123 0.4753 1.7739 -1.30255.1900 0.6409 0.0006 -0.5327 2.4664 -0.5698 0.3795 0.6309 0.2335 -1.08204.7107 0.3492 -0.3898 -0.6620 2.8778 -1.3189 -1.1841 -0.2851 -0.4660 0.05935.9651 0.6514 -0.1577 -0.5513 3.2703 0.6419 0.4356 0.2594 0.1330 1.14835.3535 0.5811 0.0768 -0.7833 2.9809 -0.3142 0.0588 0.8096 -1.1218 0.34535.5568 0.8355 -1.0738 -0.6781 3.1561 0.0037 1.4225 -1.8900 -0.5526 0.8316⼆、采⽤欧⽒距离，求出欧式距离系数欧式距离系数表d1 d2 d3 d4 d5 d6 d1 0d2 1.3561 0d3 1.7735 1.0618 0d4 1.5479 1.1484 1.2891 0d5 1.7936 0.9027 0.9235 0.8460 0d6 2.2091 1.5525 1.5312 1.1464 1.4006 0三、最短距离法进⾏聚类分析如下：第⼀步：以欧式距离作为分类统计量，得出初始距离矩阵D（0）D(0)表G1 G2 G3 G4 G5 G2 1.3561G3 1.7735 1.0618G4 1.5479 1.1484 1.2891G5 1.7936 0.9027 0.9235 0.8460G6 2.2091 1.5525 1.5312 1.1464 1.4006第⼆步：在D（0）中，最⼩元素为D54=0.846，将G5与G4合并成⼀新类G7，G7={G5，G4},然后在计算新类G7与其它各类间的距离D7，1= min(d41,d51)=min(1.5479, 1.7936)= 1.5479D7，2= min(d42,d52) = min(1.1484,0.9027)= 0.9027D7，3= min(d43,d53) = min(1.2891, 0.9235)= 0.9235D7,6= min(d64,d65) = min(1.1464, 1.4006)= 1.1464第三步:作D （1）表，先从D(0)表中删除G4，G5类所在⾏列的所有元素，然后再把新计算出来的G7与其它类间的距离D71,D72,D73填到D （0）中，得D(I)表第四步：在D （1）中，最⼩元素为D72=0.9027，将G7与G2合并成⼀新类G8，G8={G2，G7}={G2，G4,G5},然后在计算新类G8与其它各类间的距离D8,1= min(d21,d71)= min(1.3561, 1.5479)= 1.3561 D8,3= min(d23,d73) = min(1.0618, 0.9235)= 0.9235 D8,6= min(d62,d76)= min(1.5525, 1.1464)= 1.1464第五步：作D （2）表，先从D(1)表中删除G2，G7类所在⾏列的所有元素，然后再把新计算出来的G8与其它类间的距离D81,D83,D86填到D （2）中，得D(2)表D （2）表G1 G3 G6 G3 1.7735 G6 2.2091 1.5312 G81.35610.92351.1464第六步：在D （2）中，最⼩元素为D38=0.9235，将G8与G3合并成⼀新类G9，G9={G3，G8},然后在计算新类G9与其它各类间的距离D9,1= min(d13,d18) = min(1.7735, 1.3561)= 1.3561 D9,6= min(d36,d86) = min(1.5312, 1.1464)= 1.1464第七步：作D （3）表，先从D(2)表中删除G3，G8类所在⾏列的所有元素，然后再把新计算出来的G9与其它类间的距离D91 ,D96填到D （3）中，得D(3)表第⼋步：在D （3）中，最⼩元素为D69= 1.1464，将G6与G9合并成⼀新类G10，G10={G6，G9},然后在计算新类G10与其它各类间的距离D10，1= min(d16,d69) = min(2.2091, 1.1464)= 1.1464第九步：作D （4）表，先从D(3)表中删除G6，G9类所在⾏列的所有元素，然后再把新计算出来的G10与其它类间的距离D10,1填到D （4）中，得D(4)表D （1）表G1 G2 G3G6G2 1.3561 G3 1.7735 1.0618 G6 2.2091 1.5525 1.5312 G71.54790.90270.9235 1.1464D （3）表G1 G6 G6 2.2091 G9 1.3561 1.1464D（4）表G1G10 1.1464G11={G10.G1}由此表可知，G10和G1类最后合成了⼀类，计算过程结束。
四种常用聚类方法
聚类就是按照某个特定标准把一个数据集分割成不同的类或簇，使得同一个簇内的数据对象的相似性尽可能大，同时不在同一个簇中的数据对象的差异性也尽可能地大。
即聚类后同一类的数据尽可能聚集到一起，不同类数据尽量分离。
主要的聚类算法可以划分为如下几类：划分方法、层次方法、基于密度的方法、基于网格的方法以及基于模型的方法。
下面主要对k-means聚类算法、凝聚型层次聚类算法、神经网络聚类算法之SOM,以及模糊聚类的FCM算法通过通用测试数据集进行聚类效果的比较和分析。
k-means聚类算法k-means是划分方法中较经典的聚类算法之一。
由于该算法的效率高，所以在对大规模数据进行聚类时被广泛应用。
目前，许多算法均围绕着该算法进行扩展和改进。
k-means算法以k为参数，把n个对象分成k个簇，使簇内具有较高的相似度，而簇间的相似度较低。
k-means算法的处理过程如下：首先，随机地选择k个对象，每个对象初始地代表了一个簇的平均值或中心;对剩余的每个对象，根据其与各簇中心的距离，将它赋给最近的簇;然后重新计算每个簇的平均值。
这个过程不断重复，直到准则函数收敛。
通常，采用平方误差准则，其定义如下：E=\sum_{i=1}^{k}\sum_{p\in C_i}\left\|p-m_i\right\|^2这里E是数据中所有对象的平方误差的总和，p是空间中的点，$m_i$是簇$C_i$的平均值[9]。
该目标函数使生成的簇尽可能紧凑独立，使用的距离度量是欧几里得距离，当然也可以用其他距离度量。
算法流程：输入：包含n个对象的数据和簇的数目k；输出：n个对象到k个簇，使平方误差准则最小。
步骤：(1) 任意选择k个对象作为初始的簇中心；(2) 根据簇中对象的平均值，将每个对象(重新)赋予最类似的簇；(3) 更新簇的平均值，即计算每个簇中对象的平均值；(4) 重复步骤(2)、(3)直到簇中心不再变化；层次聚类算法根据层次分解的顺序是自底向上的还是自上向下的，层次聚类算法分为凝聚的层次聚类算法和分裂的层次聚类算法。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
聚类，也被称为Clustering，是一种无监督学习方法，用于将数据集分割成不同的类或簇。
每个簇内的数据对象的相似性尽可能大，而不在同一个簇中的数据对象的差异性也尽可能地大。
以下是一些常见的聚类方法及其简要描述：
1. K-Means: K-Means聚类算法是最常用的聚类方法之一，它将数据点分为K个簇，每个簇的中心点是其所有成员的平均值。
例如，可以使用K-Means对顾客按照购买行为进行分组。
2. Affinity Propagation: 这是一种基于图论的聚类算法，旨在识别数据中的"exemplars" (代表点)和"clusters" (簇)。
例如，可以使用Affinity Propagation来识别新闻文章中的主题。
3. Agglomerative Clustering (凝聚层次聚类): 这是一种自底向上的聚类算法，它将每个数据点视为一个初始簇，并将它们逐步合并成更大的簇，直到达到停止条件为止。
例如，可以使用Agglomerative Clustering来对基因进行分类。
4. Mean Shift Clustering: 此算法根据数据的密度来进行聚类。
例如，可以使用Mean Shift 对天气数据进行空间分区。
5. Bisecting K-Means: 它是K-Means的衍生算法，通过不断地将当前簇一分为二来找到更好的聚类效果。
例如，可以使用Bisecting K-Means对文档进行主题分类。
6. DBSCAN: DBSCAN是一个基于密度的聚类算法，它可以识别出任意形状的簇，并且可以处理噪声数据。
例如，可以使用DBSCAN对地理空间数据进行区域划分。