基于变粒度原理的脱机手写体汉字识别决策信息系统的研究

基于变粒度原理的脱机手写体汉字识别决策信息系统的研究

摘 要 基于粗糙集理论和变粒度原理的方法，构建了一种脱机手写体汉字识别决策信息系统，定义了该识别系统特征属性约简的几个性能指标熵。根据定义的汉字特征属性重要度对特征属性进行分类，使特征属性在单层次和单粒度上的知识表示变为部分属性所构成的知识在多种层次和多种粒度上的表示，并给出分层递阶约简算法，弥补了传统单粒度原理分辨率固定和约简不精的缺点。利用D-S证据理论对约简后手写体汉字识别决策信息系统的决策规则进行融合，可提高汉字识别率。实验结果表明，该方法是有效可行的。

【关键词】汉字识别 粗糙集 粒度原理 分层递阶约简 证据原理 1 引言 手写体汉字识别是超多类模式识别问题，由于手写体汉字具有汉字类别多、字体结构复杂、字形变化多、相似字多等特点，其识别被认为是模式识别领域中难题之一。其关键在于：如何建立较完备稳定的特征表示和提取方法，以及处理不确定、不精确和不完全性特征信息的识别决策机制。 手写体汉字识别中单一特征对手写体汉字识别往往具有局限性，难以满足手写体汉字的识别要求，采用多特征组合来表征汉字是提高手写体汉字识别的准确率的途径之一。如：文献[3]将矩变换与弹性网格方法结合起来，用正交矩提取全局特征，用弹性网格提取局部特征，然后用一变换对局部特征向量正交化，从而得到最有分辨能力的特征向量，以提高汉字识别率。文献[4]将特征融合应用到手写体汉字识别中，提取具有一定互补性的轮廓方向特征和方向距离分布特征，并进行K-L变换降维处理，用多特征合成一个区分能力更强的新特征。文献[5]在动态网格的手写汉字特征抽取方法中引入重叠网格划分，定义了一种反映书写结构的加权点密度，并提出了一种根据密度投影计算模糊隶属度的方法，提高了特征的分类能力，从而提高识别率。采用多特征组合方法可提高手写体汉字特征表示的较完备性和可识别率，但是，多特征组合集庞大，冗余特征多，带来的是特征的多重性和识别不确定性，一定程度上影响了识别结果，也降低了识别速度。 粗糙集理论是Z.Pawlak于1982年提出的一种新的处理模糊和不确定性知识的数学工具，目前已被广泛应用于机器学习、决策分析、模式识别、数据挖掘等研究领域[6]。本文基于粗糙集理论，构建脱机手写体汉字识别决策信息系统，同时引入变粒度原理，根据汉字特征属性重要度的定义对特征属性进行分类，使特征属性在单层次和单粒度上的知识表示变为部分属性所构成的知识在多种层次和多种粒度上的表示，并给出分层递阶约简算法，弥补了传统单粒度原理分辨率固定，约简不精的缺点。 另外，手写体汉字识别决策信息系统约简后的特征属性与样本汉字标准特征库难以获得完全的匹配，本文利用具有强大的和灵活的处理不确定性、不精确性和不完全性信息的D-S证据理论数学工具，对约简后的手写体汉字识别决策信息系统决策规则进行融合，实现对所有待识别汉字的识别。实验证明该方法对于提高手写体汉字识别系统的识别率十分有效。 2 构建脱机手写体汉字识别决策信息系统 2.1 脱机手写体汉字识别信息系统 根据粗糙集理论对广义论域信息系统的定义[8]，对脱机手写体汉字识别信息系统可作如下定义。 定义1：设脱机手写体汉字识别信息系统为：S=（U，A，V，f）。其中：为待训练手写体汉字样本集；为所提取的手写体汉字特征属性集；是特征属性a的值域，即；为信息函数，即汉字样本集U与特征属性集A之间的映射集，通过映射的方法用低维特征的空间表征高维的手写体汉字样本，这种映射过程实际上就是特征提取。 2.2 脱机手写体汉字识别决策信息系统 人类在识字中往往采用有导师学习过程。因此，在脱机手写体汉字识别系统中，样本汉字的真实值可作为先验信息指导训练过程，即通过在手写体汉字识别信息系统S=（U，A，V，f）中加入样本汉字的真实属性D={d}构建脱机手写体汉字识别决策信息系统。 定义2：设手写体汉字识别决策信息系统为：S=（U，CD，V，f）。其中C={c1，c2，„，cn}为条件属性集，即所提取的手写体汉字样本特征属性集，D={d}为决策属性集，即样本汉字的真实属性，CD=A，CD=。记：，。 其中：RC表示特征属性集C中所有特征值相同的汉字样本组成的等价类，Rd表示真实值相同的汉字样本组成的等价类，这两种等价类分别对手写体汉字样本集U进行了划分。若RCRd，即特征属性对样本汉字的划分细于真实属性对样本汉字的划分，所选特征足以将样本汉字正确分类。称S=（U，CD，V，f）为脱机手写体汉字识别决策信息系统。 2.3 脱机手写体汉字识别决策信息系统特征约简集 手写体汉字识别通常采用多特征组合提取方式获取定义2中汉字识别决策信息系统条件属性集合，但多特征集庞大，冗余特征较多，一定程度上影响了识别结果，因此需要对高维手写体汉字识别决策信息系统S进行特征属性约简，去除冗余特征。其特征约简集可作如下定义。 定义3：设S=（U，CD，V，f）为手写体汉字决策信息系统，若存在特征子集BC满足下列两个条件：（1）RB=Rd，即特征子集B中所选特征足以将样本汉字正确分类；（2） ，即B中任何真子集都不足以将样本汉字正确分类，则称B为脱机手写体汉字决策信息系统S的特征约简集。 3 基于变粒度原理的特征属性分层约简及规则获取 3.1 几个性能指标熵的定义 根据粒度原理的相关知识，基本信息粒度函数不能完全反映整个划分（粒度）所代表的信息，因此可用粒度熵，即信息的平均信息粒度来表示[9]。对脱机手写体汉字识别决策信息系统特征属性约简的几个性能指标熵作如下定义。 定义4：设脱机手写体汉字识别决策信息系统S=（U，CD，V，f），RC为特征属性集C中所有特征值相同的汉字样本组成的等价类，Rd为真实值相同的汉字样本组成的等价类，可得到RC在U上的划分U/RC={X1，X2，„，Xn}，及 Rd在U上的划分U/Rd={Y1，Y2，„，Ym}，则手写体汉字特征属性知识粒度熵为： （1） 手写体汉字真实值决策属性知识粒度熵为： （2） 其中：I（U/RC）表示手写体汉字决策信息系统特征属性所提供的平均信息容量；I（U/Rd）表示手写体汉字决策信息系统决策属性所提供的平均识别信息容量。G（?）=|?||U|为基本知识粒度。i=1，2，„，n；j=1，2，„，m。 定义5：脱机手写体汉字决策信息系统真实决策属性相对于特征属性的相对粒度熵定义为： （3） 其中：D为汉字真实决策属性集，C为特征子集。G（Yi/Xi）=|YiXi| |Xi|，i=1，2，„，n；j=1，2，„，m。I（D/C）表示手写体汉字样本特征属性集C确定后手写体汉字识别决策信息系统残留的平均信息量。 定义6：脱机手写体汉字识别决策信息系统S=（U，CD，V，f），C为条件属性集，即所提取的手写体汉字样本特征集，D为决策属性集，即样本汉字的真实属性，特征子集BC，则任意特征属性c∈{C-B}相对于汉字真实决策属性集D的属性重要度定义为： （4） 上述定义表明特征属性c∈{C-B}关于特征属性子集B的重要性由在B中添加{c}后所引起的信息量的变化大小来度量。SGF（c，B，D）的值愈大，说明汉字特征属性c∈{C-B}对B愈重要，即对识别结果的影响越大。 3.2 属性约简及识别规则获取 根据特征属性相对重要度的概念，研究设计了一种基于特征属性相对重要度的分层递阶约简与识别规则获取算法。该算法根据汉字特征属性的重要度，对特征属性进行分层，使特征属性在单层次和单粒度上的知识表示变为部分特征属性所构成的知识集在多种层次和多种粒度上的表示，然后按特征属性重要度高低逐层进行属性约简，直到某层决策系统中决策属性唯一或到达底层无法向下分层为止。三层递阶约简流程实例如图1所示。 首先将特征属性重要度最高的特征属性归为第一层，与决策属性构成首层决策系统，对该层系统进行约简。如约简后决策属性唯一则直接输出匹配规则，如果不唯一，则继续建立次层决策系统。将特征属性重要度其次的特征属性归为第二层，与决策属性构成次层决策系统，重复约简识别步骤。以此类推，特征属性重要度最低的特征属性归为第三层，与决策属性构成次层决策系统进行识别。三层结构的特征递阶约简可以得到部分决策属性唯一的匹配规则，且得到简化的手写体汉字识别决策信息系统。 该算法弥补了传统单粒度分辨率单一，包含信息量固定，约简不精的缺点，使单层次上的问题求解转为知识层次由浅到深和知识粒度由粗到细的多种粒度多种层次的问题求解，可在知识较浅层次和较粗粒度上缩小汉字决策属性范围，或直接输出唯一决策值，减少了约简计算量，提高了约简速度。具体算法如下： 算法1：基于特征属性相对重要度的分层递阶约简算法。 输入：手写体汉字识别决策信息系统S=（U，CD，V，f），其中U={x1，x2，„，xn}为待训练手写体汉字样本集；C={c1，c2，„，cn}为所提取的手写体汉字样本特征集，即条件属性；D={d}为汉字的真实值，即决策属性集。 输出：属性约简集B和识别规则。 （1）属性分层。 ①由公式（3）分别计算手写体汉字决策信息系统的相对粒度熵I（D/{ci}），i=1，2，„，n。 ②令Bβ为使I（D/{ci}）最大的特征属性，对分别按公式（4）计算SGF（ci，Bβ，D）并按递减顺序排列。 ③根据计算的特征属性重要度，将条件属性分成C1，C2，„，CM共M类，M一般取2―4，每类重要度递减。 （2）首层决策系统。 以条件属性C1和决策属性d构成首层决策系统，记作（U1，C1{d}），U1=U。 对首层决策系统进行约简，得到其简约，共包含n组规则。 （3）次层决策系统。 利用首层简约将U分为U21U22„U2n共n个论域，并且 在每个论域中，以条件属性C2和d的子集构成次层决策系统，分别记作。 对n个次层决策系统分别进行约简并得到n个次层决策系统的简约。当某层决策系统中的决策属性唯一时，将不再