基于粗糙集的决策表属性约简方法的研究

粗糙集属性约简matlab程序

粗糙集-属性约简-matlab程序 Data2为条件属性，decision2为决策属性 %%%my_test函数实现 clc; %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%读取信息系统文件 file = textread('data2.txt','%s','delimiter','\n','whitespace',''); %读取文件信息，每一行为一个胞元 [m,n]=size(file); %胞元的大小 for i=1:m words=strread(file{i},'%s','delimiter',' ');%读取每个胞元中字符，即分解胞元为新的胞元 words=words';%转置 X{i}=words; end X=X'; %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% [B,num,AT]=my_reduct(X); %信息系统的约简 ind_A T=ind(X); %信息系统的不可等价关系 %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%显示约简信息系统 disp('约简后的条件系统为：'); [m,n]=size(B); for i=1:m disp(B{i}); end %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%读取决策系统文件 file = textread('decision2.txt','%s','delimiter','\n','whitespace',''); [m,n]=size(file); for i=1:m words=strread(file{i},'%s','delimiter',' '); words=words'; D{i}=words; end D=D'; %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%决策系统的正域约简 X_D=X; [l,k]=size(X_D{1}); pos_d=pos(X_D,D);%正域 for i=1:m %%%%%%%%%%%%%%正域有问

属性约简

粗糙集的几种属性约简算法分析 分类:默认栏目 2006.6.16 10:32 作者：万富| 评论：0 | 阅读：1628 陈淑珍，基于粗集的几种属性约简算法分析，武汉工业学院学报，Vol.2 4No.3，Sep .20 05 1.1 利用差别矩阵求最小约简 差别矩阵(Discernibility Matrix)是由波兰华沙大学的著名数学家Skowron[21 提出来的，利用这个工具，可以将存在于复杂的信息系统中的全部不可区分关系表达出来。利用差别矩阵求取最小约简的一个前提是:在数据表的预处理阶段要先对不相容的记录进行处理，即差别矩阵不处理不相容记录。预处理的方法如将冲突的记录数除以记录总数，得到一个粗糙度的量度，该量度可以作为数据表的一个特征。 通过差别矩阵可以很方便地求取核属性，以核属性为出发点，再求取差别函数的最小析取范式，则求析取范式的运算就可以得到很大的简化。而最后得到的每个析取分量对应着一个约简。因此，一定可以得到最小约简。 但该算法的缺陷十分明显:首先，当论域的对象与属性的规模较大时，差别矩阵将占有大量的存储空间口(n的二次方);其次，差别函数的化简本身就是一个NP一hard问题，因此只要数据集稍大一点，就不具备可操作性。 1.2 基于属性依赖度约简算法 求取所有约简是一个NP一hard问题，因此运用启发信息来简化计算以找出最优或次优约简显然是一种可取的方法。 许多启发式约简算法的基本步骤都是:由信息系统或决策表的核为起始点，然后根据属性重要性的某种测度，依次选择最重要的属性加人核中，直到满足终止条件。便得到信息系统或决策表的一个约简(更确切的说，是包含约简的一个属性集)。 一个信息系统中的所有属性对于决策来说并不是同等重要的，在粗集理论中，属性重要性可通过相依度来体现。 决策属性D对于属性R(R属于C)的相依度y(R,D)定义为[3]:显然有，O <,y(R,D), l,y(R,D)给出了决策D对属性R之间相依性的一种测度。它反映了属性R对于决策D的重要程度。在已知条件R的前提下，一个属性R对于决策D的重要度SGF(a,R,D)可以定义为如下的差值:SGF = (a ,R,D)=y(R+{a},D)一y(R,D),SG F= ( a,R,D)反映了把属性a加到R后，R 与D之间相依度的增长程度。事实上，属性对于R与之间相依性的影响越强，则SGF= (a,R,D)的值就越大。 1.3 基于条件信息嫡约简算法 基于属性依赖度的启发式约简方法在实际应用中遇到的一个重大困难是属性间不确定关系的表达。粗糙集约简表达的是属性间的确定性关系，正区域之外等价类族表达的属性间关系并不被粗糙集认可，因此除要求属性满足确定性关系外，挑选有强烈概率因果关系的属性集具有十分意义。 为了描述概率因果关系，人们在处理这类数据时，在约简算法中引人信息嫡来度量属性重要度。 事实上基于信息嫡与基于属性依赖度的启发式算法也是不完备的。 应当指出的是以上所分析的两种算法都只是搜索次优解的算法，采用属性重要性方法的约简算法并不能保证一定能够找到信息系统的最优解。出现这种情况的原因在于属性的“组合爆炸”。在信息系统中各个属性并不是孤立存在的，而是存在着互相之间的联系和影响。某些属性虽然它们的单个重要性都很小，但是当这些属性组合在一起时，却能对整个信息系统的正确分类产生很大的作用，而这一点有时仅仅凭借单个属性的重要性评价方法是很难发现的，因为那些重要性很小的属性很难被约简算法所选择。尽管采用每次属性扩张后都动态调整各属性重要性的办法能够在一定程度上克服这一问题，但还是无法从根本上解决问题。 利用启发式算法的确能够提高约简的求解速度，而且在解空间不复杂的情况下有可能得到最优解或次优解，但在解空间较复杂或属性间关系较为复杂的情况下，用这些方法找到的解极有可能陷人局部最优解，这种算法并非对所有的知识表达系统都适用。 1.4 基于遗传算法的属性约简 遗传遗传算法是一种自适应随机搜索方法，其搜索方式不是由单一的方向或结构，它将多个个体作为可能的解并考虑搜索空间全局范围内的抽样，从而导致以更大的可能性收敛到全局最优解，因此，人们把遗传算法引人粗集属性约简。 算法通过用计算机模拟生物进化过程，使群体不断优化，并在变化过程中找出最优解。在遗传算法中，适应度函数的设计是整个GA 算法的核心步骤，由于几个遗传算子都依赖于染色体的适应度值，因此适应度函数的设计目标，在很大程度上决定着迭代收敛的方向。而粗糙集的属性约简主要是为了求得最小的约简属性集。这样，在保证属性集满足一定精度的情况下，使其属性个数最小，即最终所

粗糙集属性约简matlab程序

粗糙集-属性约简-m a t l a b程序 Data2为条件属性，decision2为决策属性 %%%my_test函数实现 clc; %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%读取信息系统文件 file=textread('data2.txt','%s','delimiter','\n','whitespace','');%读取文件信息，每一行为一个胞元 [m,n]=size(file);%胞元的大小 fori=1:m words=strread(file{i},'%s','delimiter','');%读取每个胞元中字符，即分解胞元为新的胞元 words=words';%转置 X{i}=words; end X=X'; %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% [B,num,AT]=my_reduct(X);%信息系统的约简 ind_AT=ind(X);%信息系统的不可等价关系%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%显示约简信息系统 disp('约简后的条件系统为：'); [m,n]=size(B); fori=1:m disp(B{i}); end %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%读取决策系统文件 file=textread('decision2.txt','%s','delimiter','\n','whitespace',''); [m,n]=size(file); fori=1:m words=strread(file{i},'%s','delimiter',''); words=words'; D{i}=words; end D=D'; %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%决策系统的正域约简 X_D=X; [l,k]=size(X_D{1}); pos_d=pos(X_D,D);%正域 fori=1:m%%%%%%%%%%%%%%正域有问题%%%%%%%%%%%%%%%%%%%%%%%%%%% if(~ismember(num(i),pos_d)) B{i}='';%若约简后的信息系统B{i}不在正域中则删除该行 end%因为相同的条件得到的决策不一样， end %将在正域规则下约简过的信息系统B连接决策系统D

决策表的一种知识约简与规则获取方法

收稿日期:2006-02-28 作者简介:孙 胜(1978-),男,湖北黄冈人,博士研究生,研究方向为现代数据库理论与技术及系统实现;导师:王元珍,教授,博士生导师,主要研究方向为现代数据库理论及实现技术。 决策表的一种知识约简与规则获取方法 孙 胜1,2 (1.华中科技大学计算机学院,湖北武汉430074; 2.黄石理工学院计算机学院,湖北黄石435003) 摘 要:粗糙集理论是一种新型的数据挖掘和决策分析方法,利用粗糙集理论进行决策表的知识约简与决策规则挖掘已经成为研究热点。文中介绍了粗糙集的基本理论,在此基础上运用该理论对从决策表中获取最小规则进行了研究,提出了决策表约简的启发式方法,并通过一个具体实例详细说明了决策规则获取过程,实例分析表明了其有效性。关键词:粗糙集;决策表;决策规则;属性约简 中图分类号:T P311.131 文献标识码:A 文章编号:1673-629X(2006)09-0035-03 Knowledge Reduction and Rule Acquirement Method in Decision Table SUN Sheng 1,2 (1.Schoo l of Computer Science,Huazhong U niv ersity of Science and T echnolog y,Wuhan 430074,China; 2.School of Computer Science,Huangshi Institute of T echnolog y,Huangshi 435003,China) Abstract:Rough set theory is a new data mining and decision analysis method.Knowledge reduction and decision rule mining in decision table by using rough set theory has become a research hotspot.T he article introduces basic con cepts in rough set theory first.M inimal dec-i sion rule acquirement in deci sion table based on rough set theory i s researched.A heuristic approach for rule reduction is put forward,and the procedure of decisi on rule acquirem ent is i lluminated using an example.T he instance analysis show s its validity.Key words:rough set;deci sion table;decision rule;attribute reduction 0 引 言 粗糙集理论是由波兰科学家Z.Paw lak 教授于1982年提出的一种研究不精确、不确定性知识的数学工具[1,2]。已应用于机器学习、知识发现、数据挖掘、决策支持与分析、专家系统、归纳推理和模式识别等许多科学和工程领域[3]。从实际系统采集到的数据可能包含各种噪声,存在许多不确定因素和不完全信息有待处理。传统的不确定信息处理方法,如模糊集理论、证据理论和概率统计理论等需要数据的附加信息或先验知识,而粗糙集理论能在缺少关于数据的先验知识的情况下,仅仅以对数据的分类能力为基础,对模糊或不确定性数据进行分析和处理,这就克服了以上几种方法的不足之处。 知识约简就是在保持知识库的分类和决策能力不变的条件下,删除其中不相关或不重要的知识[4] 。决策表的简化是知识约简的重要内容之一,并在数据挖掘和知识发现等领域有重大应用价值。粗糙集理论的研究对象是一个二元信息表,称为信息系统 [5] 。信息系统由一些对象通 过在一些属性上的取值来构成。若属性集合分为条件集和决策集,则信息系统称为决策表。决策表简化的理论基础是属性的核与约简及其关系、规则的核与约简及其关系。根据决策表简化的结果,利用决策规则挖掘算法可以获取决策系统的规则。 1 有关的粗糙集概念 现实世界中的信息,在粗糙集理论中用决策表的形式给出。下面先简要介绍一下文中主要用到的Rough 集基本概念,详细的请参考文献[3~5]。 定义1 称S =(U,A ,V ,f )是一个知识表达系统,其中U 是非空有限对象集合,U ={X 1,X 2,,,X n };A 是非空有限属性集合;f 是一个U @A 到属性值集合V 上的一个映射,它表示每个对象在每个属性上对应一个值,称为信息函数。若A =C G D ,其中C 是非空有限条件属性集合,D 是非空有限决策属性集合,且C H D =a,则称 该知识表达系统为决策表。此知识表达系统又称为决策系 统。 定义2 若X A U,则称R -(X ){x I U:[x ]R A X }为X 的下近似集,R -(X )={x I U:[x ]R H X X a}为X 的上近似集。pos R (X )=R -(X )称为X 的R 正域,neg R (X )=U -R -(X )称为X 的R 负域。 第16卷 第9期2006年9月 计算机技术与发展 COM PUT ER TECHNOLOGY AND DEVELOPM ENT Vo l.16 N o.9Sep. 2006

属性约简方法概述

属性约简方法概述 属性约简又称维规约或特征选择，从数学的角度考虑，就是有p 维数据 x =(x 1,x 2……x p )，通过某种方法，得到新的数据 x’=(x’1,x’2…… x’k ) , k ≤p , 新的数据在某种评判标准下，最大限度地保留原始数据的特征。属性约简主要是为了解决高维数据计算的复杂性和准确性问题。目标是消除冗余和不相关属性对计算过程和最终结果造成的影响。 对数据进行属性约简的意义，主要从以下几个方面考虑： a) 从机器学习的角度来看，通过属性约简去除噪音属性是非常有意义的； b) 对一些学习算法来说，训练或分类时间随着数据维数的增加而增加，经过属性约简可以降低计算复杂度，减少计算时间； c) 假如不进行属性约简，噪音或不相关属性和期望属性对分类的作用一样，就会对最终结果产生负面影响； d) 当用较多的特征来描述数据时，数据均值表现得更加相似，难以区分。 为了描述属性约简方法，这里假设数据集合为D ，D ={x 1,x 2….x n }, x i 表示D 中第i 个实例，1≤i≤n ，n 为总的实例个数。每个实例包含p 个属性{|x i |=p }。从机器学习的角度来看，属性约简方法可以分为监督的和非监督的两类。下面是几种常用的方法。 (1) PCA 主成分分析 主成分概念是Karl parson 于1901年最先引进。1933年，Hotelling 把它推广到随机变量。主成分分析把高维空间的问题转换到低维空间来处理，有效的降低了计算的复杂度。通过主成分的提取，降低了部分冗余属性的影响，提高了计算的精度。 主成分分析的基本思想为：借助一个正交变换，将分量相关的原随机变量转换成分量不相关的新变量。从代数角度，即将原变量的协方差阵转换成对角阵；从几何角度，将原变量系统变换成新的正交系统，使之指向样本点散布最开的正交方向，进而对多维变量系统进行降维处理[43]。 定义4-1[44]：设12(,,...,)'p X X X X =为p 维随机向量，它的第i 主成分分量可表示'i i Y u X =，i =1,2,…, p 。其中i u 是正交阵U 的第i 列向量。并且满足： 1Y 是12,,...,p X X X 的线性组合中方差最大者； k Y 是与11,...k Y Y -不相关的12,,...,p X X X 的线性组合中方差最大。 (k =2，3，…p )。 定义4-2[45]: 设∑是随机向量12(,,...,)'p X X X X =的协方差矩阵，其特征值-特征向量对1122(,),(,),...(,)p p e e e λλλ，其中12...0p λλλ≥≥≥≥。则第i 个主成分为： 1122 '...i i i i i p p Y e X e X e X e X ==+++ i =1, 2, …p ………………….式

第八章 决策表值约简

第八章信息表值约简 值约简是在属性约简的基础上对决策表的进一步简化。本章将就决策表的值约简问题进行系统分析，并介绍几种主要的值约简算法。 8.1 决策表值约简概述 在第7章中，我们介绍了决策信息表的属性约简，通过属性约简，可以将决策表中对决策分类不必要的属性省略，从而实现决策表的简化，这有利于从决策表中分析发现对决策分类起作用的属性。但是，属性约简只是在一定程度上去掉了决策表中的冗余属性，但是还没有充分去掉决策表中的冗余信息。 例如，在表7.3-1所示的关于气象信息的决策表表的属性约简结果中，如果在条件Outlook=Sunny∧Temperature=Hot下，决策属性的取值肯定是N，而无需考虑条件属性Windy的取值是True还是False。 显然，这个属性约简结果，对于决策分类来说，仍然包含冗余信息。根据第四章中介绍的决策规则，我们不能够直接从该表中得到满意的决策规则。这就是说我们还需要进一步对决策表进行处理，得到更加简化的决策表，这就是我们本章将要讨论的决策表值约简问题。 与属性约简中的属性核一样，值约简中也可以定义相应的值核。 决策表S=(U,C,D,V,f)，对于任意的x∈U，用d x表示决策规则，即 d x：des([x]C)?des([x]D)，d x(a)=a(x)，a∈C?D， 且d x|C、d x|D分别称为d x的条件和决策。 定义8.1-1 考虑一个相容知识表达系统S，对决策规则d x有[x]C?[x]D。若?r∈C，有[x]C-{r}?[x]D，则r为d x的核值属性，r为d x中不可省略的；若[x]C-{r}?[x]D，则r不是d x的核值属性，r为d x中可省略的。

粗糙集属性约简matlab程序

粗糙集属性约简m a t l a b程序 (总3页) -CAL-FENGHAI.-(YICAI)-Company One1 -CAL-本页仅作为文档封面，使用请直接删除

粗糙集-属性约简-matlab程序 Data2为条件属性， decision2为决策属性 %%%my_test函数实现 clc; %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%读取信息系统文件 file = textread('data2.txt','%s','delimiter','\n','whitespace',''); %读取文件信息，每一行为一个胞元 [m,n]=size(file); %胞元的大小 for i=1:m words=strread(file{i},'%s','delimiter',' ');%读取每个胞元中字符，即分解胞元为新的胞元 words=words';%转置 X{i}=words; end X=X'; %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% [B,num,AT]=my_reduct(X); %信息系统的约简 ind_AT=ind(X); %信息系统的不可等价关系%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%显示约简信息系统 disp('约简后的条件系统为：'); [m,n]=size(B); for i=1:m disp(B{i}); end %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%读取决策系统文件 file = textread('decision2.txt','%s','delimiter','\n','whitespace',''); [m,n]=size(file); for i=1:m words=strread(file{i},'%s','delimiter',' '); words=words'; D{i}=words; end D=D'; %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%决策系统的正域约简 X_D=X; [l,k]=size(X_D{1}); pos_d=pos(X_D,D);%正域 for i=1:m %%%%%%%%%%%%%%正域有问题%%%%%%%%%%%%%%%%%%%%%%%%%%% if(~ismember(num(i),pos_d)) B{i}=''; %若约简后的信息系统B{i}不在正域中则删除该行 end %因为相同的条件得到的决策不一样， end %将在正域规则下约简过的信息系统B连接决策系统D [m,n]=size(B);

第七章 决策表属性约简

第七章信息表属性约简 基于Rough集理论的知识获取，主要是通过对原始决策表的约简，在保持决策表决策属性和条件属性之间的依赖关系不发生变化的前提下对决策表进行约简（简化），包括属性约简和值约简。本章将对决策表的属性约简从代数集合观点和信息论的信息熵观点进行系统分析，并介绍几种有效的属性约简算法。 7.1决策表属性约简概述 一个决策表就是一个决策信息系统，表中包含了大量领域样本（实例）的信息。在第四章中，我们曾经对决策规则进行了讨论，决策表中的一个样本就代表一条基本决策规则，如果我们把所有这样的决策规则罗列出来，就可以得到一个决策规则集合，但是，这样的决策规则集合是没有什么用处的，因为其中的基本决策规则没有适应性，只是机械地记录了一个样本的情况，不能适应新的、其他的情况。为了从决策表中抽取得到适应度大的规则，我们需要对决策表进行约简，使得经过约简处理的决策表中的一个记录就代表一类具有相同规律特性的样本，这样得到的决策规则就具有较高的适应性。 根据定义2.1-1，我们可以进一步讨论决策表中属性的必要性和相应的约简算法。 定义7.1-1 设U是一个论域，P是定义在U上的一个等价关系簇，R∈P。如果IND(P-{R})=IND(P)，则称关系R在P中是绝对不必要的（多余的）；否则，称R在P中是绝对必要的。 绝对不必要的关系在知识库中是多余的，如果将它们从知识库中去掉，不会改变该知识库的分类能力。相反，若知识库中去掉一个绝对必要的关系，则一定改变知识库的分类能力。 定义7.1-2 设U为一个论域，P为定义在U上的一个等价关系簇，R∈P。如果每个关系R∈P在P中都是绝对必要的，则称关系簇P 是独立的；否则，称P是相互依赖的。 对于相互依赖的关系簇来说，其中包含有冗余关系，可以对其约简；而对于独立的关系簇，去掉其中任何一个关系都将破坏知识库的分类能力。

粗糙集属性决策表约简算法研究

粗糙集属性决策表约简算法研究 薛楠，刘守荣 中国农业大学工学院，北京（100083） E-mail ：xue_nan@https://www.360docs.net/doc/9e18115905.html, 摘 要：本论文通过对无决策属性的粗糙集决策表的研究，按照粗糙集最小决策算法的原则，提出一种新的核属性算法和最小决策算法。实验验证，基于以上两种算法开发出的程序简单易懂，并且源代码少，能广泛适用于所有无决策属性的粗糙集决策表模型分析。 关键词：粗糙集；决策属性表；核属性算法；最小决策算法 中图分类号：TP301 0. 引言 粗糙集理论是一种新的处理模糊和不确定性知识的数学工具，其主要思想就是在保持分类能力不变的前提下，通过知识约简，导出问题的决策或分类规则。目前粗糙集理论已被成功的应用于机器学习、决策分析、过程控制、模式识别与数据挖掘等领域。[1][2]现实中经常遇到含有大量信息的决策表，人工计算耗时耗力。本文通过对粗糙集核属性和最小决策算法的公式的研究，提出一种新的核属性算法和最小决策算法。通过编程验证，该算法能够更简捷明了的计算核属性并得出最小决策表，能够广泛适用于所有无条件属性和决策属性的粗糙集决策表模型分析。 1. 粗糙集核属性算法 1.1 粗糙集基本理论 定理1设U ≠?是我们感兴趣的对象组成的有限集合，称为论域。任何子集X U ?称 为U 中的一个概念和范畴。U 上的一族划分成为关于U 的一个知识库（knowledge base ） 。 定理2设R 是U 上的一个等价关系，U /R 表示R 的所有等价类（或者U 上的分类）构成的集合，[]R x 表示包含元素x U ∈的R 等价类。一个知识库就是一个关系系统 (,)K U R =,其中设U ≠?是非空有限集合，称为论域，R 是U 上的一个等价关系。[3] 定理3若P R ?，且P ≠?，则P ∩（P 中所有等价关系的交集）也是一个等价关系，称为P 上的不可区分(indiscernibility)关系,记为ind(P ),且有： [][]()ind P R R P x x ∈=∩

属性约简方法概述

属性约简方法概述 Document number：NOCG-YUNOO-BUYTT-UU986-1986UT

属性约简方法概述 属性约简又称维规约或特征选择，从数学的角度考虑，就是有p 维数据 x =(x 1,x 2……x p )，通过某种方法，得到新的数据 x’=(x’1,x’2…… x’k ) , k ≤p , 新的数据在某种评判标准下，最大限度地保留原始数据的特征。属性约简主要是为了解决高维数据计算的复杂性和准确性问题。目标是消除冗余和不相关属性对计算过程和最终结果造成的影响。 对数据进行属性约简的意义，主要从以下几个方面考虑： a) 从机器学习的角度来看，通过属性约简去除噪音属性是非常有意义的； b) 对一些学习算法来说，训练或分类时间随着数据维数的增加而增加，经过属性约简可以降低计算复杂度，减少计算时间； c) 假如不进行属性约简，噪音或不相关属性和期望属性对分类的作用一样，就会对最终结果产生负面影响； d) 当用较多的特征来描述数据时，数据均值表现得更加相似，难以区分。 为了描述属性约简方法，这里假设数据集合为D ，D ={x 1,x 2….x n }, x i 表示D 中第i 个实例，1≤i≤n ，n 为总的实例个数。每个实例包含p 个属性{|x i |=p }。从机器学习的角度来看，属性约简方法可以分为监督的和非监督的两类。下面是几种常用的方法。 (1) PCA 主成分分析 主成分概念是Karl parson 于1901年最先引进。1933年，Hotelling 把它推广到随机变量。主成分分析把高维空间的问题转换到低维空间来处理，有效的降低了计算的复杂度。通过主成分的提取，降低了部分冗余属性的影响，提高了计算的精度。 主成分分析的基本思想为：借助一个正交变换，将分量相关的原随机变量转换成分量不相关的新变量。从代数角度，即将原变量的协方差阵转换成对角阵；从几何角度，将原变量系统变换成新的正交系统，使之指向样本点散布最开的正交方向，进而对多维变量系统进行降维处理[43]。 定义4-1[44]：设12(,,...,)'p X X X X =为p 维随机向量，它的第i 主成分分量可表示'i i Y u X =，i =1,2,…, p 。其中i u 是正交阵U 的第i 列向量。并且满足： 1Y 是12,,...,p X X X 的线性组合中方差最大者； k Y 是与11,...k Y Y -不相关的12,,...,p X X X 的线性组合中方差最大。(k =2， 3，…p )。

属性约简

粗糙集的研究对象是一个数据集，数据集一般被保存为数据表格形式，即数据库或信息系统。信息系统的形式是由研究对象和属性值关系构成的二维数据表，类似于基础数学中的关系数据库。信息系统实现了粗糙集模型的知识表示。 定义 2.1.1[46] 设(,,,)S U A V f =为一个数据库，即信息系统，也称为知识表示系统。其中12{,}U U x x x = 为一个非空的有限对象集，12{,,}A A a a a = 是属性的有限非空集合，a V V =?，a A ∈，a V 为属性a 的值域；定义信息函数 :U V c a f A ?→ . 例如表2.1.1是一个信息系统，其中12345{,,,,}U x x x x x =， 1234{,,,}A a a a a =，123a a a V V V ==={0,1}，4a V ={0,1,2}. 表2.1.1 信息系统 定义2.1.2[46] 对于a A ?∈，x U ?∈，(,)a f x a V ∈，对于P A ??≠?，定义：{(,):(,)(,),}I x y U U f x q f y q q P =∈?=?∈， I U 称为上的不可分辨关系。 (1)若(,)x y I ∈，则称：x y 和是不可分辨的。 (2)不可分辨关系是等价关系，具有： 自反性：xIx ； 对称性：xIy yIx ?；

传递性：,xIy yIz xIz ? ． (3) I 是U 上的一个等价关系，[]{,}I x y y U xIy =∈， 12{[]}{,}I k U I x x U X X X =∈= ，12,k X X X 称为U 关于I 的一个划分。 (4)P I ?≠?,1,2I I I ∈, 112{,}k U I X X X = ,212{,}l U I Y Y Y = , 12{,1,2,1,2}i j U I I X Y i k j l ?=?== ,()I P ind P I P ∈== ， 则称：()ind P U 是上的一个等价关系，称为P 上的不可区分关系。 ()[][]ind P I I P x x ∈= 称为P 的基本知识。 当12()()ind I ind I ?，称1,I 比2I 细，21I I ． 1.1.1粗糙集与近似 定义2.1.3[46] X U ?，I 是U 上的一个等价关系，12{,}k U I X X X = ，若存在1i X ，2i X j i X U I ∈，.st X =1 t j i t X = ，称X 是关于I 的精确集。否 则称X 是I 的粗糙集。 定义 2.1.4[46] 给定一个知识系统(,,,)S U A V f =，D A ?，X U ?， x U ∈，集合X 关于D 的下近似，上近似，负区域及边界区域分别为： 下近似：()D apr X DX ={:()}x U D x X = ∈? {,}Y U D Y X =∈? {[][],}D D x x X x U =?∈ ; 上近似： ()D apr X =DX = {:()}x U D x X ∈?≠? {,}Y U D Y X =∈?≠? {[][],}D D x x X x U =?≠?∈ ; 负区域：()D neg X =()D U apr X -= {:()}x U D x X ∈?=? ;

【文献综述】决策粗糙集均值模型

文献综述 数学与应用数学 决策粗糙集均值模型 由于社会已经进入了网络信息时代，信息量不断增长（信息爆炸），并且由于人类的参与，使数据与信息系统中的不确定性更加显著（复杂系统）。面对大量的、杂乱无章的数据，人们希望能从中挖掘出潜在的、有用的信息，这给人类的智能信息处理能力提出了前所未有的挑战。由此产生了人工智能的新领域——知识发现（规则提取、数据挖掘和机器学习）。 波兰数学家Pawlak于1982年发表了论文“Rough Sets”[9]提出了一种能够定量分析处理不精确、不一致、不完整信息与知识的理论——粗糙集理论。1992年，第一届关于粗糙集理论国际学术会议在波兰召开。粗糙集的主要特点是不需要预先给定所需处理的数据集合之外的任何信息，而是直接从给定问题的分类知识出发，提供潜在知识和决策支持。国内外学者对该理论进行了广泛而深入的研究，提出了许多粗糙集模型，并且已经成功应用于很多领域和开发了大量的实用系统[7]。目前，对粗糙集理论的研究集中在它的数学性质、粗糙集拓展、其它不确定方法的关系和互补、有效算法和粒度计算等方面。目前，有3个有关粗糙集的系列国际会议，即RSCTC、RSFDGrC和RSKT。中国学者在这方面虽然起步晚，但发展较快，从2001年开始每年召开中国粗糙集与软计算学术会议；2003年中国人工智能学会粗糙集与软计算专业委员会成立；一系列学术会议也有在中国召开，特别值得一提的是2010年第二届国际粗糙集理论研讨会在我校（浙江海洋学院）召开。中国第四届粗糙集与软计算会议也于2004年10月24日在我校召开，大大增加了我校在国内外的知名度。 在经典粗糙集理论的研究中，Pawlak的代数粗糙集模型是研究的主要对象。粗糙集理论是建立在分类机制的基础上的。它将研究对象组成的集合称为论域，将分类理解为在论域上的等价关系，而等价关系构成了对该论域的划分。粗糙集理论将知识理解为对数据的划分,每一被划分的集合称为概念或范畴。一个等价关系对应一个划分，把论域分解成子集族，作为描述论域中任意概念的基本信息粒子。这产生了一个颗粒集合，其中一个颗粒看作一丛点（对象），因其不可区分性、相似性、接近的功能而被看做一致[24]。 对于一个等价关系（划分），某些子集不能精确地由一个等价类或者几个等价类来表