数据挖掘中的聚类分析方法
利用聚类分析技术研究心电图数据挖掘方法
利用聚类分析技术研究心电图数据挖掘方法近年来，数据挖掘技术在医学领域的应用越来越广泛。
其中，心电图数据挖掘是一个热门的方向，可以帮助医师精确诊断和治疗心脏病等心血管疾病。
而在数据挖掘中，聚类分析技术是一种常用的方法，可用于对心电图数据的分类和聚类分析。
本文将探讨利用聚类分析技术研究心电图数据挖掘方法的相关问题。
一、聚类分析技术简介聚类分析是一种将一组对象分成子组的技术。
聚类的目标是将具有相似特征的对象划分到同一组，同时将不同的对象划分到不同的组中。
聚类分析技术可分为层次聚类和非层次聚类两种方法。
层次聚类是一种自下而上或自上而下的逐步聚合方法。
它通过计算每个对象之间的相似度并将其相似度转换为距离来确定对象之间的聚类。
所有对象开始为单个聚类，然后在具有最小平均距离的两个聚类之间建立一条新的连接，直到所有对象都被聚类。
这种方法的代表性算法有单元聚类分析法（UPGMA）和Ward方法。
非层次聚类是一种自上而下或自下而上的聚类分组方法，其中聚类的数量是预先确定的。
此方法不依赖于距离矩阵，而是使用启发式算法，如K-means和K-medoids算法等。
二、心电图数据挖掘心电图（ECG）是一种描绘心脏电活动的非侵入性检测方法。
ECG信号可以反映心脏的各种疾病和异常，如心肌缺血、心律失常、心肌梗死等。
ECG数据通常由时间序列构成，可以使用不同的数据处理技术进行分析。
例如，通过分析心律失常的ECG波形，可以帮助医生诊断疾病的类型和严重程度。
ECG数据的挖掘可以利用机器学习和数据挖掘技术，通常以下几个步骤进行：1. 数据预处理：将原始ECG信号转换为数字信号，并进行低通滤波、降采样和去除基线漂移等预处理。
2. 特征提取：从经过预处理的ECG信号中提取特征，例如R波峰值、QRS宽度和心跳间期等。
3. 数据聚类：利用聚类分析技术将ECG特征进行聚类分析，将相似的ECG曲线分成不同的簇。
4. 结果分析：根据聚类结果进行数据分析和分类诊断。
聚类分析法
聚类分析法聚类分析法（ClusterAnalysis）是一种基于模式识别及统计学理论的数据挖掘技术，它通过让数据集中的项以有联系的方式归入不同的簇（Cluster）来呈现其特征，以此发掘出隐藏在数据背后的所谓的“模式”和知识。
聚类分析法主要应用于定性分析（Qualitative Analysis）、模式识别、决策分析（Decision Analysis）、图象处理（Image Processing）、系统自动推理（System Inference）等领域，其主要性质属于非监督式学习。
基本流程聚类分析法的基本流程包括：数据准备（Data Preparation）、预处理（Pre-processing）、聚类（Clustering）、结果评估（Result Evaluation）等步骤。
在数据准备阶段，需要完成原始数据的清洗、转换、结构化以及标准化等操作。
而预处理步骤同样很重要，在此步骤中，可以得到样本的特征数据，并用于聚类模型的建立。
接下来，便是聚类的核心步骤了，完成聚类需要确定聚类的具体方法，例如层次聚类（Hierarchical Clustering）、基于密度的聚类（Density-Based Clustering）、均值聚类（K-means Clustering）等。
最后便是评估结果，在这一步中，会根据聚类的执行情况以及聚类的结果，采用相应的评估指标，对聚类结果做出评价，确定聚类模型的合理性。
工作原理聚类分析法的工作原理，主要是利用距离函数（Distance Function）来度量数据项之间的距离，从而将数据项归入不同的簇。
常用的距离函数有欧氏距离（Euclidean Distance）、曼哈顿距离（Manhattan Distance）、闵可夫斯基距离（Minkowski Distance）、切比雪夫距离（Chebyshev Distance）等。
其中欧氏距离被广泛应用，由于它比较容易实现，可以很好地表现出数据项之间的相似性。
聚类分析指标怎么操作方法
聚类分析指标怎么操作方法聚类分析是一种常用的数据挖掘方法，它将相似的数据样本分为一组，并将不相似的数据样本分为不同的组。
聚类分析可以帮助我们理解数据之间的相似性和差异性，发现数据的内在结构和规律。
在聚类分析中，我们可以使用不同的指标来评估聚类的质量和效果。
聚类分析指标主要有内部评价指标和外部评价指标两大类。
一、内部评价指标内部评价指标主要是通过对聚类结果的内部特性进行评估和比较，判断聚类的质量和效果。
常用的内部评价指标有以下几种。
1.紧密度指标紧密度指标衡量了聚类中样本之间的相似度或距离，主要有以下几种。
（1）SSE（Sum of Squared Errors）SSE是一种衡量样本与其所在中心点之间距离平方和的指标。
其中，每个样本到其所在中心点的距离平方和的总和越小，表示聚类的效果越好。
（2）SSB（Sum of Squares Between）SSB是一种衡量各个聚类中心之间的距离平方和的指标。
其中，聚类中心之间的距离越大，表示聚类的效果越好。
2.分离度指标分离度指标衡量了不同聚类之间的距离或差异性，主要有以下几种。
（1）ARI（Adjusted Rand Index）ARI是一种衡量聚类结果与真实分类结果一致性的指标。
其中，ARI的取值范围为[-1,1]，值越接近1表示聚类结果与真实分类结果越一致。
（2）FM指数（Fowlkes-Mallows Index）FM指数是一种衡量两个聚类结果之间的相似度的指标。
其中，FM指数的取值范围为[0,1]，值越接近1表示聚类结果越一致。
3.紧密度与分离度的综合指标紧密度和分离度都是衡量聚类质量的重要指标，可以使用综合指标来综合考虑二者的效果。
常用的综合指标有以下几种。
（1）DB指数（Davies-Bouldin Index）DB指数是一种衡量聚类质量的综合指标，考虑了聚类中样本之间的平均距离和聚类中心之间的最大距离。
其中，DB指数的取值范围为[0,无穷大]，值越小表示聚类质量越好。
数据挖掘中聚类算法研究综述
数据挖掘中聚类算法研究综述随着数据量的不断增加，数据挖掘成为了探索数据背后规律的一种重要方法。
而聚类算法作为数据挖掘中的一种基本技术，其在数据分析、模式识别、生物信息学、社交网络分析等领域都有着广泛的应用。
本文就对数据挖掘中的聚类算法进行了研究和总结，旨在对聚类算法的原理、特点、应用等方面进行探讨。
一、聚类算法的基本原理聚类算法是指将一组对象划分为若干个组或类，使得组内对象之间的相似度尽可能大，组间对象之间的相似度尽可能小，从而达到数据分类和分析的目的。
聚类算法的基本原理包括以下三个方面：1. 相似度度量：聚类算法的基础在于相似度度量，即将每个对象之间的相似度进行计算。
相似度度量可以采用欧几里得距离、曼哈顿距离、余弦相似度等多种方法。
2. 聚类分配：聚类分配是指将每个对象划分到合适的聚类中。
聚类分配可以通过最近邻法、k-means算法等实现。
3. 聚类更新：聚类更新是指对各个聚类进行调整，使得聚类内对象之间的相似度尽可能大，聚类间对象之间的相似度尽可能小。
聚类更新可以采用层次聚类法、DBSCAN算法等。
二、聚类算法的分类根据聚类算法的不同特点和应用场景，可以将聚类算法分为以下几种类型：1. 基于距离的聚类算法：包括最近邻法、k-means算法、k-medoid 算法等。
2. 基于密度的聚类算法：包括DBSCAN算法、OPTICS算法等。
3. 基于层次的聚类算法：包括凝聚层次聚类法、分裂层次聚类法等。
4. 基于模型的聚类算法：包括高斯混合模型聚类、EM算法等。
三、聚类算法的应用聚类算法在各种领域中都有着广泛的应用，包括数据分析、模式识别、社交网络分析、生物信息学等。
下面简单介绍一下聚类算法在这些领域中的应用：1. 数据分析：聚类算法可以对数据进行分类和分组，从而提取出数据中的规律和趋势，帮助人们更好地理解和利用数据。
2. 模式识别：聚类算法可以对图像、声音、文本等数据进行分类和分组，从而实现对数据的自动识别和分类。
聚类分析的基本概念与方法
聚类分析的基本概念与方法聚类分析（Cluster Analysis）是一种将数据分组或分类的统计学方法，通过将相似的对象归为同一组，使得组内的对象之间更加相似，而不同组之间的对象则差异较大。
它是数据挖掘和机器学习领域中常用的技术之一，被广泛应用于市场分析、生物信息学、图像处理等领域。
一、聚类分析的基本概念聚类分析基于相似性的概念，即认为具有相似特征的对象更有可能属于同一类别。
在聚类分析中，每个对象都被视为一个数据点，而聚类则是将这些数据点分组。
基本概念包括以下几点：1. 数据点：数据集中的每个样本或对象都被看作是一个数据点，它具有多个特征或属性。
2. 相似性度量：聚类分析的关键是如何计算数据点之间的相似性或距离。
常用的相似性度量包括欧氏距离、曼哈顿距离、闵可夫斯基距离等。
3. 簇/类别：将相似的数据点归为一组，这个组被称为簇或类别。
簇内的数据点相似度较高，而不同簇之间的数据点相似度较低。
4. 聚类算法：聚类分析依赖于具体的算法来实现数据点的分组。
常见的聚类算法有K均值聚类、层次聚类、密度聚类等。
二、聚类分析的方法1. K均值聚类（K-means Clustering）：K均值聚类是一种迭代的聚类方法，它将数据点分成K个簇，每个簇代表一个样本集。
算法的基本思想是通过最小化簇内数据点与簇中心之间的平方误差来确定最优的簇中心位置。
2. 层次聚类（Hierarchical Clustering）：层次聚类是一种基于树状结构的聚类算法，它根据数据点之间的相似性逐步合并或分割簇。
层次聚类分为凝聚型和分裂型两种方法，其中凝聚型方法从单个数据点开始，逐步合并最相似的簇；分裂型方法从所有数据点开始，逐步分割最不相似的簇。
3. 密度聚类（Density-Based Clustering）：密度聚类基于密度可达的概念，将具有足够高密度的数据点归为一簇。
核心思想是在数据空间中通过密度连通性来确定簇的边界，相对于K均值聚类和层次聚类，密度聚类能够有效处理不规则形状和噪声数据。
聚类分析方法
聚类分析方法
聚类分析是一种常用的数据挖掘方法，它可以将相似的数据点分组在一起。
在聚类分析中，数据被分为多个类别，每个类别都包含具有类似特征的数据点。
聚类分析方法有很多种，其中一种是K均值聚类。
K均值聚
类的目标是将数据点分为K个簇，使得每个数据点都属于与
其最近的质心所代表的簇。
首先，在聚类分析中，需要先选择一个初始的簇质心，然后迭代地将每个数据点分配到与其最近的质心所代表的簇中，然后更新簇质心的位置，直到达到收敛。
另一种常见的聚类分析方法是层次聚类。
层次聚类将数据点逐渐合并成一个个的簇，直到所有数据点都属于同一个簇。
层次聚类可以根据不同的相似性度量来合并簇，例如单链接、完全链接或平均链接等。
另外，谱聚类是一种基于图论的聚类方法，它利用数据点之间的相似性构建一个相似度矩阵，并将其转化为一个图。
然后，通过计算图的特征向量来对数据进行聚类分析。
聚类分析方法还有很多其他的变体和扩展，例如密度聚类、模糊聚类和网格聚类等。
这些方法可以根据具体的问题和数据类型来选择和应用。
总的来说，聚类分析方法是一种无监督学习的方法，可以用于发现数据中的内在结构和模式。
它在很多领域都有广泛的应用，
如市场分析、社交网络分析和生物信息学等。
通过应用聚类分析方法，可以帮助我们更好地理解和分析数据。
数据挖掘的主要技术——聚类
高校 理科 研 究
数据 控 掘 的 主 要 技 术
［ 摘
秉 夫 墼
培
同济 大学软件 学院 天 津渤 来 发展 相 当迅 猛 的数 据 挖 掘 技 术 ， 文 讨 论 聚 类 ， 种 数 据挖 掘 的 一种 主 要 技 术 ， 结 本 这 目的 是 通过 深入 探 索挖 掘 的 方 神 经 网络 的 研究 课 题 。 随着数据挖掘研究的深入 ， 出现 了很 多 的聚 类 算法 。常见 的聚 类 算 法有 五 大 类 。即划 分 法 、 层 法 、 于密 度 的方 法 、 于 网格 的方 法 和 基 分 基 基 于模 型的方法 。 １划 分 方 法 （ ａｔｉｎｎ ｔｏ 、 ｐｒｔ ｉｇ ｈｄ） ｉｏ ｍｅ 给 定 要 构 建 的划 分 的 数 目 ｋ创 建 一 个 初 始 划 分 。每 个 划 分 表 示 一 ， 个 簇 ， 个 簇 至 少 包 含 一 个 数 据 对 象 ， 时 ， 个 数 据 对 象 只 能 属 于 一 每 同 每 个簇 （ 模糊聚类 中可放宽约束 ） 然后采用一种迭代的重定位技术 ， 。 尝试 通过对象在划分问移动来改进划分 ， 直到 以局部最优结束 。 一个好的划 分的准则是 ： 在同一类中的对象之间尽可能“ 接近” 或相关 ， 而不同类中 的 对象 之 间尽 可 能 的 远 离 或 不 同 。 最 著 名 与常 用 的划 分 方 法是 Ｋ ｎｅｎ 、— ｅ ｏ ｓ — ｌ ｓＫ ｍ ｄｉ 以及 它 们 的 变种 。 ａ ｄ ２ 层 次 方 法 （ｉ ａｃｉａｍｅ ｏ ） 、 ｈｅ ｒｈｃｌ ｔ ｄ ｒ ｈ 层次式聚类算法对给定数据对象集合进行层次 的分解 ，根据层次 分解形成 的方 向又可以分成凝聚式和分列式两种。前者采用 自底向上 的方法 ， 先将每个对 象归为单独底组 ， 然后 逐渐合并相近 的对象 或组 ， 直 到所有 的组合并为一个 ， 或者达到一个 中止条件。后者则采用 自顶向 下 的方法 ， 初始将所有的对 象置 于一个组 中，然后在迭代的过程中 ， 每 个 组 被 分 裂 为 更 小 的 组 ， 到 最 终 每 个 对 象 在 单 独 的 一 个 组 中 ， 者 达 直 或 到一 个 中止 条 件 。 层次式聚类算法的缺陷在于 ， 旦完成一个合并或分裂的步骤后 ， 一 即使 是 错 误 的 ， 无 法 被撤 销 ， 影 响 其 后 的 聚类 过 程 。 也 且 ＣＲ Ｕ Ｅ算法就是采用 了层次 聚类算 法 ，解决 了绝大多数 聚类算 法 偏好球形和相似大小的问题 ， 在处理孤立点上也更加健壮 。 Ｃ Ｒ 但 Ｕ Ｅ不 能处理分类属性。 ３ 基 于 密 度 的 方法 （ｅ ｓｙ ｂ ｓｄｍ ｔｏ ） 、 ｄ ｎｉ － ａｅ ｅｈｄ ｔ 基于距离的聚类方法只能发现球状的簇 ，而在发现任意形状 的簇 上遇到 了困难 ， 为此 提出了基 于密度 的聚类 。其 中心思想是 ： 只要 临近 区域的密度（ 对象或数 据点 的数 目） 超过 某个 阈值就继续 聚类 。也就是 说， 对类中的每个数据 点 ， 在一个 给定 范围的区域 中必须 至少包含某个 数 目的点 。这种方法可以用来过滤噪声数据 ， 发现任意形状的簇 。 Ｅｔｒ ｒｎ等人提出的 ＤＢ Ｃ Ｎ算法是一种基于密度的空间数据 ｓ ｔ ｅ Ｍａ ｉ ＳＡ 聚 类 算 法 。该 算 法 利 用 基 于 密度 的聚 类 （ 者 类 ｃｕｔ ） 念 。这一 算 法 或 ｌｓ ｒ ｅ概 的显著优点是聚类速度快 ， 且能够有效处理噪声点（ｕｌｒ） ０ ｔｅｓ ｉ 和发现任意 形状的空间聚类 。但是它 又有两个 比较 明显 的弱点 ： Ｉ 当数据量增大 （） 时， 要求较大的内存支持， Ｏ消耗也很大；２ 当空间聚类的密度不均匀 ， Ｉ ／ （） 聚类间距离相差很大时 ， 聚类质量较差。 ４基 于 网格 的方 法 （ ｄ ａｅ ｔｏ ） 、 —ｂｓｄ ｈ ｄ ｍｅ 基于网格 的方法把对象空 间量化为有限数 目的单元 ，形成一个 网 格结构 ， 所有 的聚类操作都在这个 网格结构 （ 即量化空间 ） 上进行 。 Ｃ Ｉ Ｕ算法综合 了基于密度和基于 网格 的聚类 方法，利用 自顶 向 ＬＱ 上方法求 出各个子空间的聚类单元， 主要用于找出高维数据空 间中存在 的低维聚类 。 但为了求 出 Ｋ维空间聚类， 则必须组合给 出所有 Ｋ １ 一 维子 空间的聚类 ， 导致其算法的空间和时间效率都很低 ， 而且要求用户输入 两个参数 ， 数据聚值空间等间隔距离 ∈和密度阈值 。这些数据与样本 数据紧密相关 ， 用户一般难以确定 。但它对数据的输入顺序不敏感 。 ５、 于模 型 的方 法 （ ｏ ｅ ｂｓｄｍ ｔｏ ） 基 ｍ ｄ ｌ ａｅ ｅｈｄ — 基于模 型的方法为每个聚类假定 了一个模型 ，然后去寻找能够很 好满 足这个模型的数据集 。一个基于模型的算法可以通过构造反映数 据点空间分布的密度函数来定位聚类 ，也可以基于标准的统计数字 自 动决 定 聚 类 的数 目 。 现 在 人 们 又 把 数 学 中 的 模 糊 理 论 应 用 到 聚 类 领 域 中 ，从 而产 生 了 模糊聚类算法。传统意义上的聚类分 析是把 每个样本 严格地 划分到某 类 ， 于硬划分的范畴， 属 即硬 聚 类 。 着 模 糊 集理 论 的提 出 ， 聚 类 被 随 硬 推 广 为模 糊 聚类 ， 即软 聚类 。在 模 糊 聚类 中 ， 个样 本 不 再 仅 属 于某 一 每 类 ， 是 以一 定 的隶 属 度分 别 属 于 每 一类 。换 句 话 说 ， 过 模 糊 聚类 分 而 通 析 得 到 了 样 本 属 于 各个 类 别 的 不 确定 性 程度 ，即建 立 起 了样 本 对 于类 别 的不 确 定 性 的 描 述 。这 样 就 能 更 准 确 地 反 映 现 实世 界 。 随着聚类算法研究 的深入 ，聚类分析 的应用也逐渐深入到科学研 究 、 会 生 活 的 方方 面 面 。聚 类 算 法 的 研究 有 着积 极 的现 实 意义 。 社
数据挖掘的四大方法
数据挖掘的四大方法随着大数据时代的到来，数据挖掘在各行各业中的应用越来越广泛。
对于企业来说，掌握数据挖掘的技能可以帮助他们更好地分析数据、挖掘数据背后的价值，从而提升企业的竞争力。
数据挖掘有很多方法，在这篇文章中，我们将讨论四种常见的方法。
一、关联规则挖掘关联规则挖掘是数据挖掘中常用的方法之一。
它的基本思想是在一组数据中挖掘出两个或多个项目之间的相关性或关联性。
在购物中，关联规则挖掘可以被用来识别哪些产品常常被同时购买。
这样的信息可以帮助商家制定更好的促销策略。
关联规则挖掘的算法主要有 Apriori 和 FP-Growth 两种。
Apriori 算法是一种基于候选集搜索的方法，其核心思路是找到频繁项集，然后在频繁项集中生成关联规则。
FP-Growth 算法则是一种基于频繁模式树的方法，通过构建 FP-Tree 实现高效挖掘关联规则。
二、聚类分析聚类分析是另一种常用的数据挖掘方法。
它的主要目标是将数据集合分成互不相同的 K 个簇，使每个簇内的数据相似度较高，而不同簇内的数据相似度较低。
这种方法广泛应用于市场营销、医学、环境科学、地理信息系统等领域。
聚类分析的算法主要有 K-Means、二分 K-Means、基于密度的DBSCAN 等。
其中，K-Means 是一种较为简单的方法，通过随机初始化 K 个初始中心点，不断将数据点归类到最近的中心点中，最终形成 K 个簇。
DBSCAN 算法则是一种基于密度的聚类方法，而且在数据分布比较稀疏时表现较好。
三、分类方法分类方法是一种利用标记过的数据来训练一个分类模型，然后使用该模型对新样本进行分类的方法。
分类方法的应用非常广泛，例如将一封电子邮件分类为垃圾邮件或非垃圾邮件等。
常见的分类方法有决策树、朴素贝叶斯、支持向量机等。
决策树是一种易于理解、适用于大数据集的方法，通过分类特征为节点进行划分，构建一颗树形结构，最终用于样本的分类。
朴素贝叶斯是一种基于贝叶斯定理的分类方法，其核心思想是计算不同类别在给定数据集下的概率，从而进行分类决策。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
电脑知识与技术计算机工程应用技术本栏目责任编辑：贾薇薇
数据挖掘中的聚类分析方法黄利文（泉州师范学院理工学院，福建泉州３６２０００）摘要：聚类分析是多元统计分析的重要方法之一，该方法在许多领域都有广泛的应用。本文首先对聚类的分类做简要的介绍，然后给出了常用的聚类分析方法的基本思想和优缺点，并对常用的聚类方法作比较分析，以便人们根据实际的问题选择合适的聚类方法。
关键词：聚类分析；数据挖掘
中图分类号：ＴＰ３１１文献标识码：Ａ文章编号：１００９－３０４４（２００８）１２－２０５６４－０２ＣｌｕｓｔｅｒＡｎｌａｙｓｉｓＭｅｔｈｏｄｓｏｆＤａｔａＭｉｎｉｎｇＨＵＡＮＧＬｉ－ｗｅｎ（ＳｃｈｏｏｌｏｆＳｃｉｅｎｃｅ，ＱｕａｎｚｈｏｕＮｏｒｍａｌＵｎｉｖｅｒｓｉｔｙ，Ｑｕａｎｚｈｏｕ３６２０００，Ｃｈｉｎａ）Ａｂｓｔｒａｃｔ：Ｃｌｕｓｔｅｒａｎａｌｙｓｉｓｉｓｏｎｅｏｆｔｈｅｉｍｐｏｒｔａｎｔｍｅｔｈｏｄｓｏｆｍｕｌｔｉｖａｒｉａｔｅｓｔａｔｉｓｔｉｃａｌａｎａｌｙｓｉｓ，ａｎｄｔｈｉｓｍｅｔｈｏｄｈａｓａｗｉｄｅｒａｎｇｅｏｆａｐｐｌｉｃａ－ｔｉｏｎｓｉｎｍａｎｙｆｉｅｌｄｓ．Ｉｎｔｈｉｓｐａｐｅｒ，ｔｈｅｃｌａｓｓｉｆｉｃａｔｉｏｎｏｆｔｈｅｃｌｕｓｔｅｒｉｓｉｎｔｒｏｄｕｃｅｄｂｒｉｅｆｌｙ，ａｎｄｔｈｅｎｇｉｖｅｓｓｏｍｅｃｏｍｍｏｎｍｅｔｈｏｄｓｏｆｃｌｕｓｔｅｒａｎａｌｙｓｉｓａｎｄｔｈｅａｄｖａｎｔａｇｅｓａｎｄｄｉｓａｄｖａｎｔａｇｅｓｏｆｔｈｅｓｅｍｅｔｈｏｄｓ，ａｎｄｔｈｅｓｅｃｌｕｓｔｅｒｉｎｇｍｅｔｈｏｄｗｅｒｅｃｏｍｐａｒｅｄａｎｄａｎｓｌｙｚｅｄｓｏｔｈａｔｐｅｏｐｌｅｃａｎｃｈｏｓｅｓｕｉｔａｂｌｅｃｌｕｓｔｅｒｉｎｇｍｅｔｈｏｄｓａｃｃｏｒｄｉｎｇｔｏｔｈｅａｃｔｕａｌｉｓｓｕｅｓ．
Ｋｅｙｗｏｒｄｓ：ＣｌｕｓｔｅｒＡｎａｌｙｓｉｓ；ＤａｔａＭｉｎｉｎｇ１引言
聚类分析是数据挖掘中的重要方法之一，它把一个没有类别标记的样本集按某种准则划分成若干个子类，使相似的样品尽可能归为一类，而不相似的样品尽量划分到不同的类中。目前，该方法已经被广泛地应用于生物、气候学、经济学和遥感等许多领域，其目的在于区别不同事物并认识事物间的相似性。因此，聚类分析的研究具有重要的意义。本文主要介绍常用的一些聚类方法，并从聚类的可伸缩性、类的形状识别、抗“噪声”能力、处理高维能力和算法效率五个方面对其进行比较分析，以便人们根据实际的问题选择合适的聚类方法。２聚类的分类
聚类分析给人们提供了丰富多彩的分类方法，这些方法大致可归纳为以下几种［１，２，３，４］：划分方法、层次方法、基于密度的聚类方
法、基于网格的聚类方法和基于模型的聚类方法。２．１划分法（ｐａｒｔｉｔｉｏｎｇｉｎｇｍｅｔｈｏｄｓ）给定一个含有ｎ个对象（或元组）的数据库，采用一个划分方法构建数据的ｋ个划分，每个划分表示一个聚簇，且ｋ≤ｎ。在聚类的过程中，需预先给定划分的数目ｋ，并初始化ｋ个划分，然后采用迭代的方法进行改进划分，使得在同一类中的对象之间尽可能地相似，而不同类的中的对象之间尽可能地相异。这种聚类方法适用于中小数据集，对大规模的数据集进行聚类时需要作进一步的改进。２．２层次法（ｈｉｅｔａｒｃｈｉｃａｌｍｅｔｈｏｄｓ）层次法对给定数据对象集合按层次进行分解，分解的结果形成一颗以数据子集为节点的聚类树，它表明类与类之间的相互关系。根据层次分解是自低向上还是自顶向下，可分为凝聚聚类法和分解聚类法：凝聚聚类法的主要思想是将每个对象作为一个单独
的一个类，然后相继地合并相近的对象和类，直到所有的类合并为一个，或者符合预先给定的终止条件；分裂聚类法的主要思想是将所有的对象置于一个簇中，在迭代的每一步中，一个簇被分裂为更小的簇，直到最终每个对象在单独的一个簇中，或者符合预先给定的终止条件。在层次聚类法中，当数据对象集很大，且划分的类别数较少时，其速度较快，但是，该方法常常有这样的缺点：一个步骤（合并或分裂）完成，它就不能被取消，也就是说，开始错分的对象，以后无法再改变，从而使错分的对象不断增加，影响聚类的精度，此外，其抗“噪声”的能力也较弱，但是若把层次聚类和其他的聚类技术集成，形成多阶段聚类，聚类的效果有很大的提高。２．３基于密度的方法（ｄｅｎｓｉｔｙ－ｂａｓｅｄｍｅｔｈｏｄｓ）该方法的主要思想是只要临近区域的密度（对象或数据点的数目）超过某个阈值，就继续聚类。也就是说，对于给定的每个数据点，在一个给定范围的区域中必须至少包含某个数目的点。这样的方法就可以用来滤处＂噪声＂孤立点数据，发现任意形状的簇。
２．４基于网格的方法（ｇｒｉｄ－ｂａｓｅｄｍｅｔｈｏｄｓ）这种方法是把对象空间量化为有限数目的单元，形成一个网格结构。所有的聚类操作都在这个网格结构上进行。用这种方法进行聚类处理速度很快，其处理时间独立于数据对象的数目，只与量化空间中每一维的单元数目有关。２．５基于模型的方法（ｍｏｄｅｌ－ｂａｓｅｄｍｅｔｈｏｄ）基于模型的方法为每个簇假定一个模型，寻找数据对给定模型的最佳拟合。该方法经常基于这样的假设：数据是根据潜在的概
收稿日期：２００８－０２－１７作者简介：黄利文（１９７９－），男，助教。
５６４计算机工程应用技术本栏目责任编辑：贾薇薇
率分布生成的。该方法主要有两类：统计学方法和神经网络方法。３常用的聚类算法
目前，已经提出的聚类算法很多，常用的聚类算法主要有以下几种：系统聚类法、动态聚类法、ＣＬＡＲＡＮＳ、ＣＵＲＥ、ＤＢＳＣＡＮ、ＳＴＩＮＧ和模糊聚类法（ＦＣＭ）。
３．１系统聚类法
系统聚类法［５］是将ｎ个样品看成ｎ类，即一类包含一个样品；然后将性质最接近的两类合并成一个新类，这样就得到ｎ－１类，再从这ｎ－１类中找出性质最接近的两类加以合并，成了ｎ－２类；如此下去，最后所有的样品均成一类；将上述类的合并过程画成一张
图（这图常称为聚类图），这样便可决定分多少类，每类各有什么样品。
系统聚类法的计算简单，而且其聚类结果给出一个谱系图，因此，可以根据该图选择所需要的聚类结果。但是，它也有不足之处，其主要表现在以下几个方面：（１）当样品数量很多时，而且只需要划分为较少的类别时，这种聚类方法的重复计算量很大；（２）当某一样品划归某一个类后，其属性不变，若分类方法的选择不当，对聚类的精度影响很大；（３）对大数据量进行处理时，计算机内存开销很大，有时，计算机受此限制而无法进行聚类分析，而且其速度很慢；（４）抗干扰的能力很弱。
３．２动态聚类算法
动态聚类法［５］就是在开始时先建立一批初始中心，而让待分的各个样品依据某种判别准则向初始中心凝聚，然后再逐步修改调整中心，重新分类；并根据各类离散性统计量（如均方差）和两类间可分离性的统计量（如类间标准化距离、Ｊ－Ｍ距离等）再进行合并和分裂。此后在修改调整中心，这样不断继续下去，直到分类比较合适为止。动态聚类法使用随机方式选择作为初始聚类中心，按照算法的迭代执行，整个算法的结束条件是类的重心（或凝聚点）不再改变，它的计算复杂性是Ｏ（ｎｋｔ），其中，ｎ为样本数量，ｋ为聚类数，ｔ为迭代次数。与系统聚类法相比，动态聚类法明显的优势是运算量小，能用于处理庞大的样本数据，也为实时处理提供了一定的可能性，但其也存在一些缺点，主要表现在以下几个方面：（１）动态聚类法要求用户必须事先给出聚类的数目，选择初始划分的最佳方向、更新分区和停止准则，且其结果与数据输入顺序有关，不同的初
始值可能会导致不同的结果；（２）对于噪声和孤立点敏感，很容易受例外情况的影响，适用于发现球状类，但不适合发现非凸面状的簇，不适合大小差别较大的簇；（３）一个对象只能属于一个类中，不能多维揭示其多重属性。３．３ＣＬＡＲＡＮＳ算法
ＣＬＡＲＡＮＳ［２，６，９］
也叫随机搜索聚类算法，是一种分割聚类方法。该算法是基于ＣＬＡＲＡ算法的改进，与ＣＬＡＲＡ算法不同的是：
ＣＬＡＲＡ算法在每个阶段都选取一个固定样本，而ＣＬＡＲＡＮＳ在搜索的每一步都带一定的随机性选取一个样本，在替换了一个中心
点后得到的聚类结果被称为当前聚类结果的邻居，搜索的邻居点数目被用户定义的一个参数加以限制。如果找到一个比它更好的邻居，则把中心点移到该邻居节点上，否则把该点作为局部最小量，然后再随机选择一个点来寻找另一个局部最小量。该算法能够探测孤立点，并适用于大型数据库，但其计算复杂度复杂度较高，大约为Ｏ（ｎ２）；此外，该算法对数据输入的顺序敏
感，适用于凸形或球形数据。３．４ＣＵＲＥ算法
ＣＵＲＥ［６，７，８］
算法是一种使用代表点的聚类算法。该方法首先把每个数据点看成一簇，然后再以一个特定的收缩因子向中心“收
缩”，即合并两个距离最近的代表点的簇，直至达到预先给定的聚类个数为止。它回避了用所有点或单个质心来表示一个簇的传统方法，将一个簇用多个代表点来表示，使ＣＵＲＥ可以适应非球形的几何形状。另外，收缩因子降底了噪音对聚类的影响，从而使ＣＵＲＥ对孤立点的处理更加健壮，而且能识别非球形和大小变化比较大的簇。
该算法采用随机抽样与分割相结合的方法来提高聚类效率，对于大型数据库，它也具有良好的伸缩性，运行速度很快，而且有较好的聚类效果，其计算复杂度为Ｏ（ｎ）。３．５ＤＢＳＣＡＮ算法
ＤＢＳＣＡＮ算法［６，７，８，９］
是一种基于高密度连接区域密度的聚类算法。该方法将密度足够高的区域划分为簇，并可以在带有“噪声”的
空间数据库中发现任意形状的聚类。其主要的思想是通过检查数据库中每个点的ε－邻域来寻找聚类。如果第一个点ｐ的ε－邻域包含多于ＭｉｎＰｔｓ个点，则创建一个以Ｐ作为核心对象的新簇，否则先把它暂时标为噪声点，跳到下一个点，并判断它是否为核心点。然
后反复地寻找从这些核心点直接密度可达的对象，当没有新的点可以被添加到任何簇时，该过程结束。该算法可以数据集中的所有簇和噪声，但其不对数据集进行预处理而直接进行聚类操作，当数据集很大时，占用内存很大，而且Ｉ／Ｏ消耗也很大，如果采用空间索引，其计算复杂度为Ｏ（ｎｌｏｇｎ），否则，其计算复杂度为Ｏ（ｎ２）。
３．６ＳＴＩＮＧ算法
ＳＴＩＮＧ算法［２，３，８］
是一种基于风格的多分辨率聚类技术，它将空间区域划分为矩形单元。针对不同级别的分辨率，通常存在多个级
别的矩形单元，这些单元形成了一个层次结构，高层的每个单元被划分为多个低一层的单元，高层单元的统计参数可以很容易地从低层单元计算得到，而统计信息的查询则采用自顶向下的基于网格的方法。这些参数包括：属性无关的参数ｃｏｕｎｔ；属性相关的参数ｍ（平均值）、ｓ（标准偏差）、ｍｉｎ（最小值）、ｍａｘ（最大值）以及该单元中属性值遵循的分布（ｄｉｓｔｒｉｂｕｔｉｏｎ）类型。该算法预先计算和存储每个单
元的统计信息，它不依赖于查询的汇总信息。该算法主要优点是效率高，有利于并行处理和增量更新；它通过扫描数据库一次来计算单元的统计信息，因而其计算复杂度为Ｏ（ｎ）。在层次结构建立后，其查询处理的计算复杂度为Ｏ（ｍ），其中ｍ为最低层网格单元的数目。其缺点是聚类质量取决于网格结构