--数据挖掘方法--聚类分析

在医学研究中的聚类需求举例：
o 在解剖学研究中，希望能依据骨骼的形状、大小等特征 将人类从猿到人分为几个不同的阶段； o 在临床诊治中，希望能根据耳朵的特征，把正常耳朵划 分为几个类别，为临床修复耳缺损时提供参考；
o 在卫生管理学中，希望能根据医院的诊治水平、工作效
率等众多指标将医院分成几个类别； o 在营养学研究中，如何能根据各种运动的耗糖量和耗能 量将十几种运动按耗糖量和耗能量进行分类，使营养学 家既能对运动员适当的补充能量，又不增加体重。
– – – – 单一连接法(single linkage)：又称最短距离法。 完全连接法(complete linkage)：又称最长距离法。 平均连接法(average linkage) 重心法(centroid method)
C
B A
算法
• 聚类分析算法，不需要事先知道资料该分 成几个已知的类型，而可以依照资料间彼 此的相关程度来完成分类分群的目的。此 法可概分为：
3）重心距离法，类间距离等于两类的重心之间的距离，即，
D(A, B)=d(Xa, Xb)， 其中Xa和Xb分别是类A和类B的重心，即类内所有样本的 均值坐标。 4）平均距离法，类间距离等于两类中所有样本对之间距离的 平均值，即， D(A, B)={sumD( i, j )} / (ab)。 5）中间距离法，类间距离等于两类中所有样本对之间距离的 中间值，即， D(A, B)=median{D( i, j )}。
– 分割算法 (Partitioning Algorithms)， – 层次算法 (Hierarchical Algorithms)， – 密度型算法 (Density-Based Algorithms)
分割算法
• 数据由使用者指定分割成K个集群群组。每一个 分割 (partition) 代表一个集群(cluster)，集群是以 最佳化分割标准 (partitioning criterion) 为目标， 分割标准的目标函数又称为相似函数 (similarity function)。因此，同一集群的数据对象具有相类 似的属性。 • 分割算法中最常见的是
* 距离越小，说明两个样本的性质越相似。
* 它的取值大小受量纲影响，不稳定。因此， 一般使用标准化的距离公式。
2、描述两个指标变量之间的相似程度：相似系数
令 Xs =(x 1 s … x i s … x n s )是第 s 个指标变
量， Xt =(x 1 t … x i t … x n t )是第 t 个指标变
量， 那么，指标变量 Xs和Xt之间的相关系数是：
*
相关系数越大，说明两个指标变量的性质越相似。
* 这是一个无量纲统计量。
3、度量类与类之间的距离：类间距离
令类A和类B中各有a和b个样本，D(i ,j)为类A中第 i 个样本
与类B中第 j 个样本之间的距离；假设D(A, B)为类A和类B
之间的距离，那么，常用的几种类间距离定义的方法是： 1）最短距离法，类间距离等于两类中距离最小的一对样 本之间的距离，即， D(A, B)=min{D( i, j )}。 2）最长距离法，类间距离等于两类中距离最大的一对样 本之间的距离，即， D(A, B)=max{D( i, j )}。
有多种变形形式
• k-平均方法有多种变形形式，不同改进在于：
–初始k个平均值的选择 –相异度的计算 –计算类平均值
• 产生较好聚类结果的一个有趣策略：
–首先用层次聚类方法决定结果簇的个数，并找 到初始的聚类 –然后用迭代重定位来改进聚类结果。
K-medoid算法
聚类分析的统计量
数据
从几何学角度看，上面表中的每一行或每一列 都表示了空间中的一个点或一个向量。
1、描述两个样本之间的相似程度:
距离
令 Xi =(x i 1 … x i t … x i k )是第 i 个样本观察 值， Xj =(x j 1 … x j t … x j k )是第 j 个样本观 察值，那么，样本 Xi 和 Xj 之间的欧氏距离是：
且它们的组合系数使得这两个新变量具有最大的方 差，则称Za和Zb之间的相关系数为类A和类B之间的 相关系数。 说明： 类间相似系数越大，说明两个类内的指标变量 性质 越相似。
举例
距离(distance)或称相似度(similarity)
A3
• 两点之间的距离：
A2 A1
– 欧氏距离(Euclidean distance) – 欧氏距离的平方(squared Euclidean distance) – 曼哈顿距离(Manhattan distance ; City-Block)
聚类分析也不同于判别分析：
判别分析是要先知道各种类，然后判断某个案是否属于某一类。
•聚类分析（聚类）：把总体中性质相近的归为一类，把
性质不相近的归为其他类。
•判别分析（分类）：已知总体分类，判别样本属于总体
中的哪一类。
问题: 如何刻画样本/特征变量间的 亲疏关系或相似程度？
聚类分析的基本原理
聚类分析是一种数值分类方法（即完全是根据数据关系）。要进行 聚类分析就要首先建立一个由某些事物属性构成的指标体系，或者说是 一个变量组合。入选的每个指标必须能刻画事物属性的某个侧面，所有 指标组合起来形成一个完备的指标体系，它们互相配合可以共同刻画事 物的特征。 所谓完备的指标体系，是说入选的指标是充分的，其它任何新增变 量对辨别事物差异无显著性贡献。如果所选指标不完备，则导致分类偏 差。 简单地说，聚类分析的结果取决于变量的选择和变量值获取的两个 方面。变量选择越准确、测量越可靠，得到的分类结果越是能描述事物 各类间的本质区别。
Update the cluster means
4 3 2 1 0 0 1 2 3 4 5 6 7 8 9 10
reassign
10 9 8
10 9 8 7 6
reassign
K=2
Arbitrarily choose K object as initial cluster center
7 6 5 4 3 2 1 0 0 1 2 3 4 5 6 7 8 9 10
2. 各数据挖掘工具中聚类分析的主要方法
聚类分析的基本思想是认为我们所研究的样本或指标 （变量）之间存在着程度不同的相似性（亲疏关系）。于是 根据一批样本的多个观测指标，具体找出一些彼此之间相似 程度较大的样本（或指标）聚合为一类，把另外一些彼此之 间相似程度较大的样本（或指标）又聚合为另一类，关系密 切的聚合到一个小的分类单位，关系疏远的聚合到一个大的 分类单位，直到把所有样本（或指标）都聚合完毕，把不同 的类型一一划分出来，形成一个由小到大的分类系统。最后 把整个分类系统画成一张谱系图，用它把所有样本（或指标） 间的亲疏关系表示出来。这种方法是最常用的、最基本的一 种，称为系统聚类分析。
K-Means
特点
• 该算法试图找出使平方误差值最小的k个划分。当 结果簇是密集的，而簇与簇之间区分明显时，它的 效果较好。 • 算法复杂度O（nkt），其中 t是迭代次数。因此其 可扩展性较好，对大数据集处理有较高的效率。 • 算法常以局部最优结束。全局最优要穷举所有可能 的划分。 • 缺点：不适合发现非凸面状的簇。不适合大小差别 较大的簇。对于噪声和孤立点是敏感的，由于少量 的该类数据对平均值产生较大的]影响。
关于曼哈顿距离
曼哈顿距离——两点在南北方向上 的距离加上在东西方上的距离， 即D（I，J）=|XI-XJ|+|YI-YJ|。 对于一个具有正南正北、正东正 西方向规则布局的城镇街道，从 一点到达另一点的距离正是在南 北方向上旅行的距离加上在东西 方向上旅行的距离因此曼哈顿距 离又称为出租车距离。
• 类间距离:
聚类分析完全是根据数据情况来进行的。就一个由n个样本、k 个特征变量组成的数据文件来说 ，当对样本进行聚类分析时，相当 于对k 维坐标系中的n 个点进行分组，所依据的是它们的距离 ；当 对变量进行聚类分析时，相当于对n维坐标系中的k个点进行分组， 所依据的也是点距。所以距离或相似性程度是聚类分析的基础。点 距如何计算呢？拿连续测量的变量来说，可以用欧氏距离平方计算： 即各变量差值的平方和。
替原来的多个指标（主成分分析？因子分析？）。
例如：
• 在医生医疗质量研究中，有n个医生参加医疗质量评比， 每一个医生有k个医疗质量指标被记录。利用聚类分析可 以将n个医生按其医疗质量的优劣分成几类，或者把 k个 医疗质量指标按反映的问题侧重点不同分成几类。
• 在冠心病研究中，观察n个病人的 k个观察指标，并利用
聚类分析方法分析这n个病人各自属于哪一类别，相似 的病人可以采取相似的治疗措施；同时也能将k个指标分 类，找出说明病人病情不同方面的指标类，帮助医生更 好地全面了解病人病情。
• 聚类分析不同于因素分析：
因素分析是根据所有变量间的相关关系提取公共因子； 聚类分析是先将最相似的两个变量聚为一小类，再去与最相似 的变量或小类合并，如此分层依次进行；
* 类间距离越小，说明两个类内的样品性质越相似。
*4、度量类与类之间的相似系数：类间相似系数
令类A和类B中各有a和b个指标变量，Za和Zb分别是 由类A和类B中所有指标变量的线性组合构成的新变 量（称为类成分），例如： Za = a1 X1 + a2 X2
Zb = b1 X3 + b2 X4 + b3 X5
The K-Means Clustering Method
• Example
10
10 9 8 7 6 5
10
9
9
8
8
7
7
6
6
5
5
4
4 3 2 1 0 0 1 2 3 4 5 6 7 8 9 10
Assign each objects to most similar center