信息系统的属性约简算法-【中文】概要51页PPT

一种基于粗糙熵的信息系统属性约简算法

龙源期刊网

一种基于粗糙熵的信息系统属性约简算法

作者：史进玲

来源：《电脑知识与技术》2012年第24期

摘要：在信息系统中，研究了知识的粗糙性，定义了一种粗糙熵度量方法，并证明了知识的粗糙熵随着划分的增大而单调增加的结论，给出了属性的重要性度量方法，在此基础上提出了一种基于粗糙熵的启发式属性约简算法。实例验证表明，该算法能有效地从信息系统中获取最优属性约简。

关键词：信息系统；粗糙熵；属性重要度；属性约简

中图分类号：TP312文献标识码：A文章编号：1009-3044(2012)24-5872-03

An Attribute Reduction Algorithm Based on Rough Entropy in Information System

SHI Jin-ling

(International School of Education, Xuchang University, Xuchang 461000, China)

Abstract：In information system, a rough entropy is defined by studying roughness of

knowledge, then knowledge rough entropy’s mo? notonous increasing property with the increase of

partition is proved. On this basis, attribute significance measure method is given and a heuristic

reduction algorithm based on rough entropy is proposed. A detailed example is shown that the

信息系统中基于证据理论的属性约简【文献综述】

文献综述

信息与计算科学

信息系统中基于证据理论的属性约简

粗糙集理论[1,2,3]是波兰数学家Pawlak[4]于1982年提出的用于数据分析的理论. 由于该理论能够处理模糊和不确定性信息, 因此作为一种有效的知识获取工具受到了人工智能研究者的关注. 目前粗糙集理论已被成功应用在机器学习与知识发现、过程控制、数据挖掘、决策分析、模式识别等领域, 成为信息科学的研究热点之一.

粗糙集理论是一种处理模糊和不确定性知识的数学工具. 粗糙集属性约简是一种有效的特征选择方法, 被广泛应用于知识库约简和特征选择. 近年来, 一些关于字符识别的文献使用粗糙集属性约简方法, 删除冗余属性, 搜索分辨力高的属性集合, 然后利用约简的属性集构成分类器. 这样可以降低分类器维度, 并且保持分类能力. 字符样本的属性一般是连续的数值型属性, 受噪声影响大. 基于等价关系的粗糙集处理数值属性数据时一般要经过离散化过程. 根据信息论, 离散化过程必然会引入信息损失. 另外, 等价关系粗糙集属性约简仅考虑属性集合在不同类样本上的差异性, 一些在同类异类对象之间变化频繁、易受干扰的特征也会被选择, 这些特征会降低分类器的性能. 为了克服经典粗糙集理论处理数值属性对象的不合理性, 一些文献将经典等价关系粗糙集理论扩展到模糊粗糙集、相似关系和邻域关系粗糙集.

D-S证据理论是由Dempster于1967年提出,他首先提出了上、下界概率[5]的定义, 后由Shafer[6]于1976年加以推广和发展, 使之称为符合有限离散领域中推理的形式, 并使之系统化、理论化, 形成了一种不确定性推理的理论, 即D-S理论. 证据理论讨论一个识别框架,它是关于命题的相互独立的可能答案或假设的一个有限集合. 按传统方法可以把的幂集表示为2. 它是的所有子集的集合, D-S理论证据对这个识别框架进行运算, 并提供计算中所有幂集元素的逻辑, 然后使用这些计算结果完成对命题的高和低的不确定性表示.证据理论是一种重要的不确定推理方法, 近年来该理论有了很大发展, 并逐渐得到了国际学术界的承认, 正受到不同领域的学者越来越多的关注. 由于证据理论在表达和处理不确定性信息方面的优势, 已有学者将其应用于产品可靠性评估时主观可靠性信息的综合处理工作之中. 然而, 在很多时候, 专家由于自身的局限性只能给出一些模糊评价信息, 如“该产 1 品可靠度非常高”等等. 为了灵活运用此类模糊主观信息, 需要把证据理论向模糊集合推广.

信息系统中知识约简的一种启发式算法

信息系统中知识约简的一种启发式算法.txt16生活，就是面对现实微笑，就是越过障碍注视未来；生活，就是用心灵之剪，在人生之路上裁出叶绿的枝头；生活，就是面对困惑或黑暗时，灵魂深处燃起豆大却明亮且微笑的灯展。17过去与未来，都离自己很遥远，关键是抓住现在，抓住当前。本文由yuerlover1230贡献

pdf文档可能在WAP端浏览体验不佳。建议您优先选择TXT，或下载源文件到本机查看。

第26 卷第2 期 2004 年4 月

压

电

与

声

光

Vol. 26 No. 2 Apr. 2004

PIEZOELECT2ICS & ACO5STOOPTICS

文章编号： 1004-2474 2004）（ 02-0158-03

不完备信息系统中知识约简的一种启发式算法

何先刚1 ，黄兵2 ，温平川3

（1. 重庆邮电学院学报编辑部，重庆 400065；南京理工大学自动化系， 2. 南京

210094；重庆邮电学院外语学院， 3. 重庆 400065）

摘要：不完备信息系统中的知识获取是粗集理论应用的难点。通过引入信息熵和条件信息熵，对信息系统中属性的必要性进行了定义；提出了一种基于条件信息熵的知识约简启发式算法，并指出该算法的时间复杂度是多项式的。通过实例说明，该算法能得到信息表的约简和决策表的最小相对约简。关键词：粗糙集；信息熵；启发式算法；知识约简 TP18

文献标识码： A 中图分类号：

A Heuristic Algorithm for Reduction of Knowledge under Incomplete Information

Systems

HE Xian-gang1 ，HUANG Bing2 ， WEN Ping-Chuan3

第七章决策表属性约简

第七章信息表属性约简

基于Rough集理论的知识获取，主要是通过对原始决策表的约简，在保持决策表决策属性和条件属性之间的依赖关系不发⽣变化的前提下对决策表进⾏约简（简化），包括属性约简和值约简。本章将对决策表的属性约简从代数集合观点和信息论的信息熵观点进⾏系统分析，并介绍⼏种有效的属性约简算法。7.1决策表属性约简概述

⼀个决策表就是⼀个决策信息系统，表中包含了⼤量领域样本（实例）的信息。在第四章中，我们曾经对决策规则进⾏了讨论，决策表中的⼀个样本就代表⼀条基本决策规则，如果我们把所有这样的决策规则罗列出来，就可以得到⼀个决策规则集合，但是，这样的决策规则集合是没有什么⽤处的，因为其中的基本决策规则没有适应性，只是机械地记录了⼀个样本的情况，不能适应新的、其他的情况。为了从决策表中抽取得到适应度⼤的规则，我们需要对决策表进⾏约简，使得经过约简处理的决策表中的⼀个记录就代表⼀类具有相同规律特性的样本，这样得到的决策规则就具有较⾼的适应性。

根据定义2.1-1，我们可以进⼀步讨论决策表中属性的必要性和相应的约简算法。

定义7.1-1 设U是⼀个论域，P是定义在U上的⼀个等价关系簇，R∈P。如果IND(P-{R})=IND(P)，则称关系R在P中是绝对不必要的（多余的）；否则，称R在P中是绝对必要的。

绝对不必要的关系在知识库中是多余的，如果将它们从知识库中去掉，不会改变该知识库的分类能⼒。相反，若知识库中去掉⼀个绝对必要的关系，则⼀定改变知识库的分类能⼒。

定义7.1-2 设U为⼀个论域，P为定义在U上的⼀个等价关系簇，R∈P。如果每个关系R∈P在P中都是绝对必要的，则称关系簇P 是独⽴的；否则，称P是相互依赖的。

对于相互依赖的关系簇来说，其中包含有冗余关系，可以对其约简；⽽对于独⽴的关系簇，去掉其中任何⼀个关系都将破坏知识库的分类能⼒。

定义7.1-3 设U 为⼀个论域，P 为定义在U 上的⼀个等价关系簇，P 中所有绝对必要关系组成的集合，称为关系簇P 的绝对核，记作CORE(P)。

集值信息系统的属性约简

马建敏;朱朝晖

【摘要】属性约简是粗糙集理论研究中的重要内容之一.本文主要研究集值信息系统的属性约简问题.在集值信息系统中基于拟序关系引入了信息量的概念,给出了属性特征的判定方法,以及信息量与属性约简之间的关系.根据信息量定义了属性重要性,研究了属性重要性与属性约简之间的关系.进而得到了基于信息量和属性重要性的属性约简算法,给出了该算法的时间复杂度.通过实例说明,该算法是有效的.

【期刊名称】《工程数学学报》

【年(卷),期】2010(027)005

【总页数】6页(P883-888)

【关键词】集值信息系统;拟序关系;信息量;属性重要性;属性约简

【作者】马建敏;朱朝晖

【作者单位】长安大学理学院数学与信息科学系,西安,710064;深圳卓成混凝土模块研究所,深圳,518000

【正文语种】中文

【中图分类】TPL8

1 引言

粗糙集理论是由波兰数学家Pawlak于1982提出的一种数据分析理论[1]。该理论由于能分析处理不精确、不协调和不完备等信息引起人工智能工作者的广泛关注，并被成功应用在机器学习与知识发现、数据挖掘、决策支持与分析、过程控制、模式识别等领域[2]。

属性约简作为粗糙集理论的重要研究内容之一[1,3]，是在保持分类能力不变的前提下删除其中的冗余属性。由于属性约简并不唯一，人们希望找出所有约简或最小约简。但寻找最小约简是NP-hard问题[4]。解决这类问题的一般方法是采用启发式搜索方法求出最优或次优约简[5]。苗夺谦等人[6]提出了基于互信息的知识相对约简的启发式算法。王国胤等人提出了基于条件信息熵的决策表约简算法[7]。梁吉业等人[8]提出了基于信息量的属性约简算法。黄兵等人[9]给出了不完备信息系统的属性约简算法。而对不确定或缺省信息，则需研究不完备信息系统或集值信息系统。

本文在集值信息系统中建立了拟序关系，由此引入了信息量的概念，通过信息量研究了属性特征，以及信息量与约简之间的关系。进而给出了属性重要性的定义，研究了属性重要性与约简之间的关系。并基于信息量和属性重要性给出了获取集值信息系统的属性约简的算法。通过实例验证了该算法的有效性。

信息系统属性增量约简算法的设计与实现

夏富春１苗夺谦１李道国－・２　

（同济大学计算机科学与工程系，上海２０００９２）　

（太原理工大学阳泉学院，山西阳泉０４５００１）　

Ｅ－ｍａｉｌ：Ｆｕｃｈｕｎ．Ｘｉａ＠ｇｍａｉｌ．ｃｏｍ　

摘要信息系统是一种重要的知识表达形式，对它的增量算法研究主要集中在对象的动态增加上。论文分析了信息系　

统核和约简在增加属性后的变化规律，设计并实现了信息系统的属性增量约简算法。实验表明，该算法能够有效利用原　

信息系统的知识，快速、准确地计算出新信息系统的核和约简。　

关键词　粗糙集信息系统属性约简　限定相对正域增量算法　

文章编号１００２—８３３１一（２００６）２１—０１４９—０４　文献标识码Ａ　中图分类号ＴＰ１８　

Ｔｈｅ　Ｄｅｓｉｇｎ　ａｎｄ　Ｒｅａｌｉｚａｔｉ０ｎ　０ｆ　Ａｔｔｒｉｂｕｔｅ　Ｉｎｃｒｅｍｅｎｔａｌ　Ｒｅｄｕｃｔｉｏｎ　

Ａｌｇｏｒｉｔｈｍｓ　ｏｎ　Ｉｎｆｏｒｍａｔｉｏｎ　Ｓｙｓｔｅｍ　

Ｘｉａ　Ｆｕｃｈｕｎ　Ｍｉａｏ　Ｄｕｏｑｉａｎ　Ｌｉ　Ｄａｏｇｕｏ　・　

（Ｄｅｐａｒｔｍｅｎｔ　ｏｆ　Ｃｏｍｐｕｔｅｒ　Ｓｃｉｅｎｃｅ　ａｎｄ　Ｅｎｇｉｎｅｅｒｉｎｇ　ｏｆ　Ｔｏｎ￣ｉ　Ｕｎｉｖｅｒｓｉｔｙ，Ｓｈａｎｇｈａｉ　２０００９２）　

（Ｙａｎｇｑｕａｎ　Ｃｏｌｌｅｇｅ　ｏｆ　Ｔａｉｙｕａｎ　Ｕｎｉｖｅｒｓｉｔｙ　ｏｆ　Ｔｅｃｈｎｏｌｏｇｙ，Ｙａｎｇｑｕａｎ，Ｓｈａｎｘｉ　０４５００１）　

Ａｂｓｔｒａｃｔ：Ｉｎｆｏｒｍａｔｉｏｎ　Ｓｙｓｔｅｍ（ＩＳ）ｉｓ　ａｎ　ｉｍｐｏｒｔ　ｆｏｒｍ　ｏｆ　ｋｎｏｗｌｅｄｇｅ　ｒｅｐｒｅｓｓｉｏｎ　ａｎｄ　ｍｏｓｔ　ｏｆ　ｔｈｅ　ｅｘｉｓｔｉｎｇ　ｉｎｃｒｅｍｅｎｔａｌ　

ａｌｇｏｒｉｔｈｍｓ　ｒｅｓｅａｒｃｈ　ｆｏｃｕｓ　ｏｎ　ｉｎｃｒｅａｓｉｎｇ　ｏｂｊｅｃｔｓ　ｆｒｏｍ　ＩＳ．Ｔｈｉｓ　ｐａｐｅｒ　ａｎａｌｙｓｅｓ　ｔｈｅ　ｃｈａｎｇｉｎｇ　ｒｕｌｅ　ｏｆ　ｔｈｅ　ｃｏｒｅ　ａｎｄ　ｒｅｄｕｃｔｉｏｎ　

基于博弈论的决策信息系统的属性约简与智能体操作策略模型 (1)

页眉内容

来源于网络问题重述：

随着科技的发展，社会的进步，智能体的出现也为学科的研究打开了一个新的局面。本题针对智能体的决策提出了问题，考虑到不同对象，不同的属性对智能体的影响，如何在不影响公平的情况下，科学地排除一些属性因素，得到属性约简的若干模式，通过这些模式对数据进行系统的约简。同时考虑到删减的属性个数越多越好的情况下，如何给出相对应的数学模型和算法，并通过附件所给数据进行求解验证。进一步，当各种属性重要程度不一的时或者在属性取值范围D是②，③，④时讨论数学模型以及算法的拓展性。并且，若考虑到智能体的私下操作，该如何改进模型，才能更好的为智能体提供技术支持。最后，针对生活学习，从实际出发，进行对模型的讨论分析。

基本假设：

1.假设题目所给数据真实可靠；

2.假设每个对象在决策时知道其他人在该属性上所对应的数据，且他们必须同时做出抉择；

3.假设对每个对象来说他放弃或者留下该属性是等可能的；

4.假设每个属性的重要程度相同，互不影响；

5.假设我们所评估的对象在这个问题里并没有一个具有约束力的协议；

符号说明：

1. 我们用来描述评价体系的五元组 UADf（）;

2. U表示一组需要评价的对象的集合；

3. A表示一组用于评价U中对象的属性，属性之间相互独立；D代表A中属性的取值范围，在本题中，所有属性的取值范围是一样的；

4. 函数fUAD：，即对于每一个对象，每一个属性，给定D中的某个值；

5. 符号是求和评价规则，即对于每一个对象，把与之对应的每个属性值求和。

6. 参与博弈的智能体用123{}XUUUUU，，，，表示，相应的属性用123{}YAAAAA，，，来表示，第i个智能体的第j个的可能的决策用123{}ijYAaaaa，，，（这里a的下标1,2,3y，代表对应的属性123YAAAA，，，）并且，这里的1,2,3),(iaiy的值只有0,1，其中:0代表该智能体向决策者提建议去掉iA，1代表该智能体向决策者提建议保留iA.

一种基于相对信息粒度的属性约简算法

引言：

属性约简是一种常见的数据预处理技术，它通过从属性集中删除冗余和无关的属性来提高数据挖掘模型的效率和准确性。目前，存在着许多属性约简算法，但很少有基于粒度的约简算法，本篇论文我们将介绍一种基于相对信息粒度的属性约简算法，它能够使用粗糙集理论对属性进行量化，从而避免信息丢失，提高算法的效率和准确性。

粗糙集理论是一种用于处理不确定，模糊和不完整信息的数学模型。在粗糙集理论中，一个决策系统由属性和类别组成。一般而言，类别可

以被看做是一个确定值，而属性则有多个取值。对于属性集 A，决策类别集 Y 和数据表 D，定义如下概念：

1. 下近似集：在数据表 D 中，通过 A 构建的属性集 A'的下近似集是

D 中满足以下条件的样本的集合：在该属性集 A'下，每个样本都属于相同的类别集 Y'。

2. 上近似集：在数据表 D 中，通过 A 构建的属性集 A'的上近似集是

D 中满足以下条件样本的集合：在该属性集 A'下，存在至少一个样本属于类别集 Y'。

3. 近似度：属性集 A'的近似度被定义为下近似集和上近似集的比值。该算法的主要思想是将属性之间的相关程度量化为每个属性的相对

信息值，并据此构建属性子集的分级调整关系，然后进行约简。算法具体过程如下：

1. 从待约简属性集 A 中任意选取一个属性，将其与全局最优属性集

C 组成的子集进行比较。

2. 计算选择当前属性后相对信息值的变化，如果比全局最优属性集

C 好，则将该属性添加到 C 中。 3. 考虑选择与当前属性无关的属性进行删除，计算删除这样一个属性的相对信息损失，如果删除的收益大于失去的代价，则进行删除。

4. 重复 2 和 3 步骤，直到不能继续改进结果为止。

5. 返回全局最优属性集。

上述算法的核心是相对信息值的计算，相对信息的计算通过“KMR”

（KRIPKE-MOGILSKI-REICHENBACH）模型来实现，KMR 模型的核心思想是通过逻辑公式间的关联关系来比较属性的相关性。这种模型将属性的关系表示为逻辑公式，并将逻辑公式转换为可比较的形式，然后通过量化的方式来度量两个逻辑公式之间的差异。该算法的主要步骤如下：

序信息系统属性约简的一种启发式算法

—１６８　２００８，４４（２７）　Ｃｏｍｐｕｔｅｒ　Ｅｎｇｉｎｅｅｒｉｎｇ　ａｎｄ　Ａｐｐｌｉｃａｔｉｏ　计算机工程与应用　

序信息系统属性约简的一种启发式算法　

桂现才　

ＧＵＩ　Ｘｉａｎ—ｃａｉ　

湛江师范学院数学与计算科学学院，广东湛江５２４０４８　

Ｓｃｈｏｏｌ　ｏｆ　Ｍａｔｈｅｍａｔｉｃｓ　ａｎｄ　Ｃｏｍｐｕｔａｔｉｏｎａｌ　Ｓｃｉｅｎｃｅ，Ｚｈａｎｊｉａｎｇ　Ｎｏｒｍａｌ　Ｃｏｌｌｅｇｅ，Ｚｈａｎｊｉａｎｇ，Ｇｕａｎｇｄｏｎｇ　５２４０４８，Ｃｈｉｎａ　Ｅ－ｍａｉｌ：ｇｘｃ３２７＠２ｌｅｎ．ｃｏｒｎ　

ＧＵＩ　Ｘｉａｎ－ｃａｉ・Ｈｅｕｒｉｓｔｉｃ　ａｌｇｏｒｉｔｈｍ　ｆｏｒ　ａｔｔｒｉｂｕｔｅ　ｒｅｄｕｃｔｉｏｎ　ｉｎ　ｏｒｄｅｒｅｄ　ｉｎｆｏｒｍａｔｉｏｎ　ｓｙｓｔｅｍｓ．Ｃｏｍｐｕｔｅｒ　Ｅｎｇｉｎｅｅｒｉｎｇ　ａｎｄ　Ａｐｐｌｉｃａｔｉｏｎｓ，２００８，４４（２７）：１６８—１７１．　

Ａｂｓｔｒａｃｔ：　Ｂｙ　ｉｎｔｒｏｄｕｃｉｎｇ　ｔｈｅ　ｃｏｎｃｅｐｔ　ｏｆ　ｉｎｆｏｒｍａｔｉｏｎ　ｑｕａｎｔｉｔｙ　ａｎｄ　ｋｎｏｗｌｅｄｇｅ　ｇｒａｎｕｌａｒｉｔｙ　ｔｏ　ｏｒｄｅｒｅｄ　ｉｎｆｏｒｍａｔｉｏｎ　ｓｖｓｔｅｍ。ｓｅｖｅｒｍ　ｐｒｏｐｅｒｔｉｅｓ　ａｎｄ　ｔＩｌｅｏｒｅｍｓ　ａｒｅ　ｇａｉｎｅｄ．Ｉｎ　ｔｈｅ　ｐｒｏｃｅｓｓ　ｏｆ　ａｔｔｒｉｂｕｔｅ　ｒｅｄｕｃｔｉｏｎ，ｔｈｅ　ａｕｔｈｏｒ　ｐｒｏｖｅｓ　ｔｈａｔ　ｔｈｅ　ｉｎｆｏｒｍａｔｉｏｎ　ｑｕａｎｔｉｔｙ　ｉｓ　ｍｏｒｔ０一　

ｔｏｎｅ　ｄｅｃｒｅａｓｉｎｇ．Ｕｓｉｎｇ　ｉｎｆｏｒｍａｔｉｏｎ　ｑｕａｎｔｉｔｙ　ｔｏ　ｄｅｆｉｎｅｄ　ｔｈｅ　ｓｉｇｎｉｆｉｃａｎｃｅ　ｏｆ　ａｔｔｒｉｂｕｔｅ．Ｗｉｔｈ　ｔｈｅ　ｓｉｇｎｉｆｉｃａｎｃｅ　ｏｆ　ａｔｔｒｉｂｕｔｅ　ａｓ　ｈｅｕｒｉｓｔｉｃ　ｉｎｆｏｒｍａｔｉｏｎ，ａ　ｈｅｕｒｉｓｔｉｃ　ａｌｇｏｒｉｔｈｍ　ｂａｓｅｄ　ｏｎ　ｉｎｆｏｒｍａｔｉｏｎ　ｑｕａｎｔｉｔｙ　ｆｏｒ　ｒｅｄｕｃｔｉｏｎ　ｏｆ　ａｔｔｒｉｂｕｔｅ　ｉｓ　ｐｒｅｓｅｎｔｅｄ．Ｔｈｅ　ｔｉｍｅ　ｃｏｍｐｌｅｘｉｔｖ　ｏｆ　ｔｈｉｓ　ａｌ—　ｇｏｒｉｔｈｍ　ｉｓ　０（１ｆ４Ｉ％ｑ　）．Ｆｉｎａｌｌｙ，ｔｈｅ　ｅｘｐｅｒｉｍｅｎｔａｌ　ｒｅｓｕｌｔｓ　ｓｈｏｗ　ｔｈａｔ　ｔｈｉｓ　ａｌｇｏｒｉｔｈｍ　ｃａｎ　ｆｉｎｄ　ｔｈｅ　ｒｅｄｕｃｔｉｏｎ　ｏｆ　ａｎ　ｏｒｄｅｒｅｄ　ｉｎｆｏｒｍａｔｉｏｎ　ｓｙｓｔｅＩｎ．　

合成随机信息系统的属性约简方法

赵兹;马建敏

【期刊名称】《计算机工程与应用》

【年(卷),期】2014(000)019

【摘要】This paper discusses the attribute reduction problem in combined

random information systems based on the random information systems,

and analyzes the relationship between the combined and the original

information systems, as well as the relationship between the lower and

upper approximation operators, then finds the consistent set on the

combined random information systems can be constructed through two

consistent sets of the original information systems. On the other hand,

from the point of the inclusion degree it considers the reduction problem

on the combined information systems, to verify whether the equivalent

relationship exists between the inclusion degrees. Finally, the conclusions

are verified through the instance.%基于一般随机信息系统上的属性约简方法讨论合成随机信息系统上的属性约简问题，分析它与原随机信息系统上属性约简问题之间的联系，并尝试讨论其上、下近似算子之间的关系，发现合成随机信息系统上的协调集可以通过两个原随机信息系统的协调集来构造；另一方面从包含度的角度讨论属性约简问题，验证合成随机信息系统上的包含度和原随机信息系统上包含度之间是否存在等价关系。最后通过实例验证了得出的结论。