基于流形距离的生产状态聚类分析

收稿日期：２０１１唱０１唱０６；修回日期：２０１１唱０３唱０７ 基金项目：国家自然科学基金资助项目（５０９３４００７，５０９０５０１３，５１００４０１３）；国家“８６３”计划资助项目（２００９ＡＡ０４Ｚ１３６）；国家“十二五”科技支撑计划资助项目（２０１１ＢＡＥ２３Ｂ００）；中国博士后基金资助项目（２０１１０４９０２９４）；高等学校博士学科点专项科研基金资助项目（２００９０００６１２０００７）；冶金装备及其控制教育部重点实验室开放基金资助项目（２００９Ａ１６） 作者简介：何飞（１９８２唱），男，山西右玉人，讲师，博士，主要研究方向为生产过程监控与诊断、模式识别等（ｈｅｆｅｉ＠ｕｓｔｂ．ｅｄｕ．ｃｎ）；梁治国（１９７７唱），男，山西太原人，讲师，博士，主要研究方向为热轧带钢表面检测、图像处理等；王晓晨（１９８２唱），男，山西太原人，讲师，博士，主要研究方向为冷轧带钢生产过程控制及质量检测等；马粹，女，黑龙江伊春人，硕士，主要研究方向为冶金设备等．

基于流形距离的生产状态聚类分析倡何　飞，梁治国，王晓晨，马　粹（北京科技大学国家板带生产先进装备工程技术研究中心，北京１０００８３）

摘　要：现代生产中的大量生产数据蕴藏着丰富的生产过程和质量信息，通过聚类分析可以了解生产状态，进行生产故障诊断或有针对性的质量检测，而经常使用的相似性的度量欧式距离只能反映数据空间分布为球形或超球形的结构特性。难以刻画复杂数据分布特性，将流形距离引入到生产过程状态的聚类分析中，利用标准数据、田纳西—伊斯曼过程和热轧带钢实际生产过程数据对方法的有效性进行验证，进而可以更加有效地了解生产过程的状态。关键词：流形距离；聚类分析；生产状态分析；Ｋ唱中心聚类中图分类号：ＴＰ３９１ 文献标志码：Ａ 文章编号：１００１唱３６９５（２０１１）０９唱３２４２唱０３ｄｏｉ：１０．３９６９／ｊ．ｉｓｓｎ．１００１唱３６９５．２０１１．０９．０１０

ＰｒｏｄｕｃｔｉｏｎｓｔａｔｅｃｌｕｓｔｅｒｉｎｇｂａｓｅｄｏｎｍａｎｉｆｏｌｄｄｉｓｔａｎｃｅＨＥＦｅｉ，ＬＩＡＮＧＺｈｉ唱ｇｕｏ，ＷＡＮＧＸｉａｏ唱ｃｈｅｎ，ＭＡＣｕｉ（ＮａｔｉｏｎａｌＥｎｇｉｎｅｅｒｉｎｇＲｅｓｅａｒｃｈＣｅｎｔｅｒｏｆＦｌａｔＲｏｌｌｉｎｇＥｑｕｉｐｍｅｎｔ，ＵｎｉｖｅｒｓｉｔｙｏｆＳｃｉｅｎｃｅ＆ＴｅｃｈｎｏｌｏｇｙＢｅｉｊｉｎｇ，Ｂｅｉｊｉｎｇ１０００８３，Ｃｈｉｎａ）Ａｂｓｔｒａｃｔ：Ｍｏｒｅａｎｄｍｏｒｅｄａｔａａｒｅｃｏｌｌｅｃｔｅｄｉｎｍｏｄｅｌｍａｎｕｆａｃｔｕｒｉｎｇｐｒｏｃｅｓｓ．Ｔｈｅｒｅａｒｅｒｉｃｈｉｎｆｏｒｍａｔｉｏｎｏｆｔｈｅｐｒｏｄｕｃｔｉｏｎｓｔａｔｅａｎｄｑｕａｌｉｔｙａｍｏｎｇｔｈｅｄａｔａ．Ｔｈｅｃｌｕｓｔｅｒｉｎｇｍｅｔｈｏｄｗｉｔｈｐｒｏｃｅｓｓｄａｔａｉｓｕｓｅｄｔｏａｃｑｕｉｒｅｔｈｅｐｒｏｄｕｃｔｉｏｎｓｔａｔｕｓ，ｔｈｕｓｆｏｒｐｒｏｃｅｓｓｄｉａｇｎｏｓｉｓａｎｄｅｎｈａｎｃｉｎｇｔｈｅｆｏｃａｌｐｏｉｎｔｓｏｆｔｈｅｑｕａｌｉｔｙｉｎｓｐｅｃｔ．ＴｈｅＥｕｃｌｉｄｅａｎｄｉｓｔａｎｃｅａｓｔｈｅｃｏｍｍｏｎｓｉｍｉｌａｒｉｔｙｍｅａｓ唱ｕｒｅ，ｃａｎｏｎｌｙｅｘｔｒａｃｔｔｈｅｆｅａｔｕｒｅｓｏｆｔｈｅｓｐｈｅｒｉｃａｌｌｙｄｉｓｔｒｉｂｕｔｉｏｎｄａｔａａｎｄｃａｎｎｏｔｅｘｐｒｅｓｓｔｈｅｃｏｍｐｌｅｘｄｉｓｔｒｉｂｕｔｉｏｎｄａｔａ．Ｔｈｉｓｐａｐｅｒｉｎｔｒｏｄｕｃｅｄｔｈｅｍａｎｉｆｏｌｄｄｉｓｔａｎｃｅｔｏｄｏｔｈｅｐｒｏｄｕｃｔｉｏｎｓｔａｔｅｃｌｕｓｔｅｒｉｎｇ．Ｉｔｕｓｅｄｔｈｅｂｅｎｃｈｍａｒｋｄａｔａ，Ｔｅｎｎｅｓｓｅｅ唱Ｅａｓｔｍａｎｐｒｏｃｅｓｓｄａｔａａｎｄｈｏｔｓｔｅｅｌｒｏｌｌｉｎｇｐｒｏｃｅｓｓｄａｔａｆｏｒｍｏｄｅｌｖａｌｉｄａｔｉｏｎ．Ａｓａｒｅｓｕｌｔｔｈｅｐｒｏｐｏｓｅｄｍｅｔｈｏｄｈａｓｂｅｔｔｅｒｐｅｒｆｏｒｍａｎｃｅｏｎｃｌｕｓｔｅｒｉｎｇ，ｃｏｍｐａｒｅｄｗｉｔｈｔｈｅＥｕｃｌｉｄｅａｎｄｉｓｔａｎｃｅ．Ｋｅｙｗｏｒｄｓ：ｍａｎｉｆｏｌｄｄｉｓｔａｎｃｅ；ｃｌｕｓｔｅｒｉｎｇａｎａｌｙｓｉｓ；ｐｒｏｄｕｃｔｉｏｎｓｔａｔｅａｎａｌｙｓｉｓ；Ｋ唱ｍｅｄｉｏｄｓ

０　引言现代工业生产的自动化产生了大量的过程数据，其中蕴涵着丰富的生产状态和产品质量信息［１］。聚类分析作为数据分

析的预处理方法，可以剔除异常样本，如获得某一生产流程建模所需的数据后，先用聚类分析进行预处理，剔除不正常状态的数据后建模，可以有效提高建模的效率和模型的准确性；通过聚类分析对生产过程进行优化，选取优化操作模式，如选择聚类中心样本作为最优操作模式进而进行生产过程的指导；利用聚类分析进行生产故障的诊断，在已有部分样本质量信息的先验知识的情况下，可以推测出类内其他样本的质量信息；利用聚类分析指导质量的重点检测，若某些样本远离已有的类别可以在质量检测过程中进行重点检测。如在热轧带钢生产中可以利用聚类分析方法对生产过程数据进行分析，对远离原类别的产品进行重点的力学性能质量检测，提高了检测的针对性［２］。

聚类分析即无监督分类，是一种重要的数据分析方法，已经被广泛应用于计算机视觉、信息检索、数据挖掘和模式识别

等领域［３］。Ｋ唱ｍｅａｎ和Ｋ唱ｍｅｄｉｏｄｓ是典型的聚类方法，但常用

的相似性度量欧氏距离存在一个重要的缺点，只对空间分布为球形或超球形的数据具有较好的性能，而对空间分布复杂的流形结构的数据效果较差。本文将流形聚类作为相似性度量指标引入到聚类分析中，使用简单的Ｋ唱ｍｅｄｉｏｄｓ方法就可以实现较好的聚类效果。

１　流形距离

１畅１　欧式距离的局限性目前常用的聚类算法通常是以欧氏距离作为相似性的度量，而实际数据的分布往往具有不可预期的复杂结构，导致了基于欧氏距离的相似性度量无法反映聚类的全局一致性（即位于同一流形上的数据点具有较高的相似性）。从图１所示的双月模型的例子中可以形象地看出，期望数据点１与数据点３的相似性要比数据点１与数据点２的相似性大，这样才有可能将数据点１和３划分为同一类。但是，按照欧氏距离进行相似性度量时，数据点１与２的欧氏距离要明显小于数据点１与３的欧氏距离，从而导致了数据点１与２划分为同一类的概率

第２８卷第９期２０１１年９月　计算机应用研究

ＡｐｐｌｉｃａｔｉｏｎＲｅｓｅａｒｃｈｏｆＣｏｍｐｕｔｅｒｓ

Ｖｏｌ．２８Ｎｏ．９

Ｓｅｐ．２０１１要大于数据点１与３划分为同一类的概率。也就是说，用欧氏距离作为相似性度量时，根本无法反映图１中所示数据的全局一致性。因此，对于现实世界中的复杂的聚类问题，简单地采用欧氏距离作为相似性度量会严重影响聚类算法的性能［３］。

基于以上考虑，本文尝试设计一种能反映聚类全局一致性的相似性度量，期望新的相似性度量能够打破在欧氏空间“两点之间直线最短”的定理，使得两点间直接相连的路径长度不一定最短，也就是说新的相似性度量并不一定满足欧氏距离下的三角不等式定理。为了达到这一目的，首先定义一个流形上的线段长度。１畅２　流形距离

空间上两点ｘｉ与ｘｊ之间流形上的线性长度为［３，４］Ｌ（ｘｉ，ｘｊ）＝ρｄｉｓｔ（ｘｉ，ｘｊ）－１（１）

其中，ｄｉｓｔ（ｘｉ，ｘｊ）为ｘｉ与ｘｊ之间的欧氏距离；ρ＜１为伸缩因子，常取自然指数ｅ。进而可以定义流形上任意两点间的距离。将数据点看做是一个加权无向图Ｇ＝（Ｖ，Ｅ）的顶点Ｖ，边集合Ｅ＝｛Ｗｉｊ｝表示的是在每一对数据点间定义的流形上的线

段长度，令ｐ∈Ｖｌ表示图上一个长度为ｌ＝｜ｐ｜－１的连接点ｐ１

与ｐ｜ｐ｜的路径，其中边（ｐｋ，ｐｋ＋１），１≤ｋ≤｜ｐ｜。令Ｐｉｊ表示连接数

据点ｘｉ与ｘｊ的所有路径的集合，则ｘｉ与ｘｊ之间的流形距离计算如下：Ｄ（ｘｉ，ｘｊ）＝ｍａｘｐ∈Ｐｉｊ∑｜ｐ｜－１ｋ＝１Ｌ（ｐｋ，ｐｋ＋１）（２）

其中：Ｌ（・，・）表示两点间流形上的线段长度；流形距离Ｄ（ｘｉ，ｘｊ）是图上所有连接ｘｉ与ｘｊ两点路径上线段总长的最

小值。上述新的距离测度方法满足测度的四个条件，即ａ）对称性，Ｄ（ｘｉ，ｘｊ）＝Ｄ（ｘｊ，ｘｉ）；ｂ）非负性，Ｄ（ｘｉ，ｘｊ）≥０；ｃ）三角不等

式，对于任意的ｘｉ，ｘｊ，ｘｋ，Ｄ（ｘｉ，ｘｊ）≤Ｄ（ｘｉ，ｘｋ）＋Ｄ（ｘｋ，ｘｊ）；ｄ）

自反性，Ｄ（ｘｉ，ｘｊ）＝０，当且仅当ｘｉ＝ｘｊ。

２　Ｋ唱ｍｅｄｉｏｄｓ聚类方法

２畅１　初始聚类中心的选取初始聚类中心的选取会对聚类结果产生重要的影响，可以使用最大距离算法选取初始聚类中心，其基本思想是取尽可能离得远的对象作为聚类中心，避免了初值选取时可能出现的初始聚类中心过于近邻的情况，提高样本划分的效率和准确性。设待聚类的数据集Ｓ＝｛ｘ１，ｘ２，…，ｘｎ｝，需要选取的聚类数为

ｋ，其算法步骤如下：ａ）从Ｓ中选取流形距离最远的两个样本点作为第一、第二

个聚类中心ｚ１和ｚ２；

ｂ）从Ｓ中其他样本中选取与前二个聚类中心ｚ１和ｚ２流形

距离和最大的样本为第三个样本ｚ３；

ｃ）依此类推选取第ｋ个聚类中心ｚｋ。

２畅２　最佳聚类数的确定聚类分析中聚类数的选取是一个关键问题，只有选取合适的聚类数才可以有效揭示数据间的本质特性，本文采用聚类有效性指标ｓｉｌｈｏｕｅｔｔｅ指标［５］，确定最佳聚类数。设Ｄ（ｉ）为样本

ｉ与类内所有其他样本的平均距离，ｂ（ｉ）为样本ｉ到其他每个

类中样本平均距离的最小值，则ｓｉｌｈｏｕｅｔｔｅ指标定义为ｓｉｌ（ｉ）＝ｂ（ｉ）－Ｄ（ｉ）ｍａｘ（ｂ（ｉ），Ｄ（ｉ））（３）

Ｓｉｌｈｏｕｅｔｔｅ指标反映了聚类结构的类内紧密性和类间分离

性，既可用于评价聚类质量，也可用于估计最佳聚类数，其值在［－１，１］内变动。所有样本的平均ｓｉｌｈｏｕｅｔｔｅ指标值越大表示聚类质量越好，其最大值对应的聚类数为最佳聚类数。２畅３　基于流形距离Ｋ唱ｍｅｄｉｏｄｓ的聚类过程

结合常规的Ｋ唱ｍｅｄｉｏｄｓ聚类过程［６］给出流形距离Ｋ唱ｍｅｄ唱ｉｏｄｓ聚类过程如下：

ａ）计算所有样本点的流形距离；ｂ）利用２．１节中的方法选取较优的聚类初始中心点；ｃ）将非中心样本点的其他样本划分到相应的类别中；ｄ）计算类内样本流形距离平方和，并更新各类别中的中

心点；ｅ）重复ｃ）ｄ）直到类内流形距离平方和收敛或超过迭代次

数。３　实验

下面通过标准数据、ＴＥ生产过程数据以及热轧带钢实际生产数据对方法的有效性进行验证。３畅１　仿真数据聚类分析

１）同心圆数据假设有三类样本分别来自于三个同心圆，在各类样本中各添加一定的高斯噪声，具体数据来源为

类别１ｘ１＝ｓｉｎ（ｔ）＋ｅ１ｙ１＝ｃｏｓ（ｔ）＋ｅ２；类别２ｘ２＝３ｓｉｎ（ｔ）＋ｅ３

ｙ２＝３ｃｏｓ（ｔ）＋ｅ４

类别３ｘ３＝５ｓｉｎ（ｔ）＋ｅ５

ｙ３＝５ｃｏｓ（ｔ）＋ｅ６

其中，ｔ＝［０：２π／（Ｎ－１）：２π］，Ｎ＝２００，ｅ１，ｅ２，ｅ３，ｅ４，ｅ５，ｅ６