模糊决策树
模糊决策树
模糊决策树的归纳过程
模糊决策树的归纳过程由以下步骤组成： (1)数据预处理； (2)归纳建立决策树； (3)把得到的模糊决策树转换成一组模糊规则； (4)把得到的模糊规则应用于分类。
（1）数据预处理
数据预处理,包括噪声检查、缺失属性处理、数据 离散化、数据模糊化、训练数据和测试数据的划 分等操作.
模糊集合
用模糊集合来描述模糊概念 属性：身高 属性值：高，矮----语言术语
两种不确定性
一般认为，不确定性可以分为两大类： 一类是统计上的不确定性(Statistical Uncertainty)， 一类是人类认识、思维、感觉、推理等上的不确定性 (Cognitive Uncertainty)。
不确定性度量
(2)归纳建立决策树
Outlook
Plan
Day
Sunny
Overcast
Rain
Volleyball Swimming W-lifting
D1
1
0
0
0.0
0.8
0.2
D2
1
0
0
1.0
0.7
0.0
…
…
…
…
…
…
…
S(Sunny, Volleyball) = 0.38 S(Sunny, Swimming) = 0.67 S(Sunny, Weight_lifting) = 0.20. The normalized possibility distribution is {0.56, 1,0.29}.
重点是数据模糊化： 一般数据库属性都是：离散的和连续的很少有以
模糊集形式给出的。 离散的模糊的 连续的模糊的 把数据的分布信息转化成数据的模糊程度。
动态模糊二叉决策树构造方法
Ａ ｅ ｈｏ ｆ Ｃｏ ｒ ｔｏ ｏ ｎ ｍ ｉ ｚ ｙ Ｂｉ ｒ ｃ ｓｏ ｅ Ｍ ｔ ｄ ｏ ｎｔ ｕｃ ｉ ｎ ｆ ｒ Ｄｙ ａ ｃ Ｆｕ ｚ ｎａ ｙ Ｄｅ ｉｉ ｎ Ｔｒ ｅ
Ｘｉ ｎ ｅ Ｌｉ
（ ｏｌ ｅｏ ｒｓｈｏ ｏ Ｓ ｚｏ ，ｉ ｇｕＩｓｔｔ ｏ ｄ ｃｔｎ，ｕｈｕ２５ ０ ， ｈｎ ） Ｃ ｌｇ ｆ ｅｃ ｏｌ ｆ ｕｈｕ Ｊ ｎ ｓ ｎｔｕｅ ｆ ｕａｉ Ｓｚｏ １０ ８ Ｃ ｉａ ｅ Ｐ ａ ｉ Ｅ ｏ
划分组成 的集合既是一个线性有序集也是一个动态模糊划分格等．
［ 关键词 ］ 动态模糊格， 动态模糊决策树， 动态模糊二叉决策树
【 中图分类号 】Ｔ １ １ ［ Ｐ ８ 文献标志码 】Ａ ［ 文章 编号］ ６ ２１９ （ ０ １ ０ － ５ －６ １７ ． ２ ２ １ ）４０ ７０ ２ ０
Ａ ｓｒｃ ： ｈ ｙ ａ ｃｆｚｙｄｔ ａ ａ ｓ ｎ ｆｈ ｅ ｐｃ ｒ ｓ ａａ ｏ ａｙｒｓａｃｅｓ ｓ ｚｙｌ ｃ ｂ ｔａｔ Ｔ ｅｄｎｍｉ ｕｚ ａａ ｎｌ ｉｉ ｏｅｏ ｅｋｙｔ ｉ ｆ ｓ ｔ．Ｎ ｗ ｍ ｎ ｅｒｈｒ ｕｅ ｕｚ ｇ ｙ ｓｓ ｔ ｏ ｓ ｏ ｍａ ｄ ｅ ｆ ｏ ｉ
的介 绍 ， 出 了动 态 模 糊 决 策 树 中 各 结 点 以 及 各 层 对 实 例 集 划分 之 间 的关 系 ． 于 划 分 格 是 对 论 域 的 划 分 ， 一 步 定 义 了 动 态 给 由 进 模 糊 划 分 格 ， 出 了关 于 动 态 模 糊 决 策 树 各 层 对 实 例 集 划 分 组成 的集 合 的定 理 ， 且 证 明 了 动 态模 糊 决 策 树 的各 层 对 实 例 集 的 给 并
根 据 属性 （ ａ） ，ｉ 的取值 不 同 ， ａ 可得 到 属性 （ ，ｉ对实 例集 （的划分 ，［ ｉ（， ） ａ ， ￣Ｄｖ Ｉ
模糊语言群决策影响因素的分析方法
模糊语言群决策影响因素的分析方法模糊语言是指在描述现实世界时存在模糊性、不确定性和主观性的语言。
模糊语言群决策是指在群体决策过程中，人们使用模糊语言进行沟通和表达意见。
模糊语言群决策的影响因素包括决策者的知识、经验、态度、个性特征等。
为了更好地理解和分析模糊语言群决策的影响因素，可以采用以下方法。
首先，可以利用模糊语言的数学模型进行分析。
模糊集理论是一种有效的工具，可以处理模糊语言的不确定性和模糊性。
在模糊集理论中，可以使用隶属度函数来表示每个决策者对一些选项的偏好程度。
通过对多个决策者的隶属度函数进行聚类和相似度分析，可以得出整个群体对选项的偏好程度，从而分析影响因素。
其次，可以进行问卷调查和访谈，收集决策者的意见和观点。
通过问卷调查可以收集大量的数据，对决策者的态度、偏好等进行分析。
访谈可以深入了解决策者对问题的理解和看法，收集更加详细的信息。
在问卷调查和访谈中，可以使用模糊语言的量表，如模糊温度计、模糊测率等，来收集决策者对选项的偏好程度。
此外，可以使用模糊决策树和模糊认知图进行分析。
模糊决策树是将模糊语言与决策树相结合的方法，能够直观地表示决策者的判断过程和决策结果。
通过构建模糊决策树，可以分析决策者的知识结构和决策偏好。
模糊认知图是一种图形化工具，可以用于表示决策者对问题和选项的认知过程。
通过分析模糊认知图，可以揭示决策者对问题的理解和认知方式。
最后，可以运用模糊综合评判方法进行分析。
模糊综合评判方法是一种通过模糊集合的运算和逻辑推理来综合评价的方法。
通过定义模糊关系和模糊评判矩阵，可以对决策者的意见进行综合评价，得出最终决策结果。
通过分析模糊综合评判结果中的权重分配和偏好程度，可以揭示影响因素。
综上所述，模糊语言群决策的影响因素可以通过数学模型、问卷调查和访谈、模糊决策树和模糊认知图以及模糊综合评判方法进行分析和理解。
这些方法可以帮助决策者更好地了解决策过程中的不确定性和模糊性，从而做出更加准确和合理的决策。
基于互信息的模糊决策树及其增量学习
法 中， 即模糊决策树归纳算法． 常用的模糊决策树算
法有 Ｑ ｕ ｉ ｎ ｌ ａ ｎ的 Ｆ ｕ ｚ ｚ ｙ ＿ Ｉ Ｄ ３算 法 和 Ｙ ｕ ａ ｎ的 Ｍ ｉ ｎ — Ａ ｍ—
ｂ ｉ ｇ ｕ ｉ ｔ ｙ 算法 ． 对模糊决策树归纳学习的研究 已经
成 为 当前 的一个 研究 热 点 圳． 在 实 际应用 中 ， 一 方 面 有 些 数 据 随着 时 间 的增 长 逐步 产生 ， 这 造成 不 能 一 次性 获 取 整个 需 要 分 析
第３ ８ 卷第１ 期
２ ０ １ ４年 １ 月
江 西师 范大 学学 报 （ 自然科 学 版 ） Ｊ ｏ ｕ ｒ ｎ ａ ｌ ｏ ｆ Ｊ ｉ ａ ｎ ｇ ｘ ｉ Ｎ ｏ ｒ ｍａ ｌ Ｕ ｎ ｉ ｖ ｅ ｒ ｓ ｉ ｔ ｙ （ Ｎ ａ ｔ ｕ ｒ ａ ｌ Ｓ ｃ ｉ ｅ ｎ ｃ ｅ ）
基于后验熵和互信息理论来选择属性 ， 使构建 的模 型更合理． 另外 ， 通过对连续 型数据进行模糊 化处 理， 提取模糊规则 ， 并且通过集成学习来完成对数据
集 的增 量学 习 ．
性， 这要求人们从模糊环境中获取知识 ， 因而人们引
进 了模 糊度 量 Ｌ ４ Ｊ ， 并 将模 糊 概 念 引 入决 策 树 归 纳 算
１ 数 据预 处 理及 数 据模 糊 化
在数 据分 析之前 ， 需 要 将 原 始 数据 集 进 行 预 处 理， 包 括数 据清 洗 、 数据集 成 、 数据 转换 和数 据归 约 ， 以删 除噪 声数 据 、 解 决数 据不 一致 的现 象等 ， 并将 预 处理 后 的数据 进行模 糊 化． 由于 本 文采 用 Ｕ Ｃ Ｉ 标 准 数据 ， 因而 此处讨 论 数据 的模 糊化．
模糊决策树归纳算法要求首先把数据模糊化 ，
模糊决策树的等效剪枝研究
Ｗ ａ ｇ Ｘｉ ａ Ｄ ｎ ａ ｊ Ｉ・ ｎ ｚ ｏ ｈ ｏ ｇ Ｙ ｎｕＩ
（ ｃ ｉｅ Ｌ ａｎｎ ｅ ｔ ，ｃ ｏｌｏ ｔｅ ａｉｓａ ｄ Ｃｏ ｕｅ ｃ ｅ ｃ ， Ｍａｈｎ ｅ ｒｉｇ Ｃ ｎｒ Ｓ ｈ ｏ ｆＭａｈ ｍ ｔ ｎ ｍｐ ｔｒ Ｓ ｉ ｎ ｅ ｅ ｃ
ｖ ｌｅ ａ ｕ ｍｅ ｔ ｎ ｄ ｂ ｖ ｌ ｅ ｄ ｔ ｏ ｅ — ｒ ｎ ｎ ｗ ｉｈ ｎ ｉ ｅ ａ ｏ ｅ ｗｉ ｌａ ｏ ｖ ｒ ｐ ｕ ｉ ｇ ｈ ｃ ｍａ ｅ ｒ ａ ｅ ｈ ｒ ｅ Ｓ ｅ ｔ ｃ ｕ ａ ｙ ． ｉ ａ ｌ ｙ ｃ ｍｐ ｒｓ ｎ ｏ ｌ ｙ ｄ ｃ ｅ ｓ ｔｅ ｔｅ ’ ｔ ｓ ａ ｃ ｒ ｃ Ｆ ｎ ｌ ｂ ｏ ａ ｏ ｙ ｉ
维普资讯
模糊决策树 的等效剪枝研究
王 熙照 董 彦 军 ｔ
（ 河北大学数学与计算机学院机器学 习 究中心 ， 研 保定 ０ １０ ） ７ ０２
（ 定师 范专科 学校 教 育信 息技 术 系， 定 ０ １５ ）： ｅ
ｔ ａ ， ｔ ｉ ａ ｐ ｃ ｆ ｉｔ ｒ ａ ａ ｄ ｈ ｔ ｗｉ ｎ ｓ ｅ ｉ ｃ ｎ ｅ ｖ ｌ ｎ ｗｉ ｔ ｅ ｎ ｒａ ｅ ｆ ｅ ａ ａ ｔｒ ｔ ｅ ｉｅ ｆ ｆ ｚ ｙ ｅ ｉ ｏ ｔｅ ｗｉ ｄ ｃ ｅ ｓ ｈ ｉ ｔ ｈ ｉｃ ｅ ｓ ｏ ｈ ｐ ｒ ｍｅｅ ， ｓ ｏ ｕ ｚ ｄ ｃ ｓ ｎ ｒ ｅ ｈ ｈ ｚ ｉ ｌ ｅ ｒａ ｅ ｌ ｒ ｄ ａｌ ｗ ｉ ｇ ａ ｕ ｌ ｈ ｌ ｋ ｅ ｉ ｇ ｒ ｒ ｉｉｇ ｔ ｅ ｒｇｎ ｌ ｔ ｓｉ ｇ ａ ｃ ｒ ｃ ． ｈ ｎ ｈ ｐ ｒ ｍｅ ｅ ｅ ｃ ｅ ａ ｐ ｉ ｌ ａｕ ， ｅ ｔ ｅ ｙ ｅ ｅ ｐ ｎ ｏ ａｓｎ ｈ ｏ ｉ ａ ｅ ｔ ｃ ｕ ａ ｙＷ ｅ ｔ ｅ ａ ａ ｔｒ ｒ ａ ｈ ｓ ｎ ｏ ｔ ｉ ｎ ｍａ ｖ ｌ ｅ ｔ ｒ ｈ ｅ ｒ ａ ｈ ｓ ｉ ｐ ｉ ｌ ｅ ｔ ｃ ｕ ａ ｙ ｎ ｓ ｌ ｓ ｓｚ ． ｅ ｌ ｎ ｈ ｔ ｌｒ ｅ ａ ｕ ｆ ｔ ｅ ａ ａ ｔ ｒ ｏ ｅ ｅ ｏ ｔ ｌ ｅ ｃ ｅ ｔ ｏ ｔ ｓ ｍａ ｔｓ ａ ｃ ｒ ｃ ａ ｄ ｍａｌ ｔ ｉｅ Ｗ ａｓ ｆ ｄ ｔ ａ ｅ ｏｉ ａ ａ ｇ ｒ ｖ ｌ ｅ ｏ ｈ ｐ ｒ ｍｅ ｅ ｖ ｒ ｔ ｐ ｉ ｈ ｍａ
模糊逻辑分类
模糊逻辑分类引言：在日常生活中，我们经常会遇到一些模糊的情况，例如天气的状况、人的情绪以及商品的质量等等。
针对这些模糊的情况，传统的二值逻辑并不能很好地进行描述和处理。
而模糊逻辑分类是一种能够处理模糊信息的方法，它通过引入模糊集合和模糊关系，对模糊的情况进行分类和推理。
一、模糊逻辑分类的基本概念在模糊逻辑分类中，我们首先要了解几个基本概念。
1. 模糊集合：模糊集合是一种能够容纳模糊元素的集合。
与传统的集合不同，模糊集合中的元素并不是严格的属于或不属于关系，而是根据其隶属度来判断。
例如，我们可以用模糊集合“高”来描述一个人的身高，其中的元素“170cm”可能具有一个隶属度为0.8，表示其高度很高。
2. 模糊关系：模糊关系是一种能够描述模糊集合之间关系的方法。
传统的关系是基于二值逻辑的，而模糊关系则是基于隶属度的。
例如，我们可以用模糊关系“相似”来描述两个物体之间的相似程度，其中的关系“很相似”可能具有一个隶属度为0.9，表示它们非常相似。
二、模糊逻辑分类的方法在模糊逻辑分类中，我们可以使用模糊集合和模糊关系来进行分类和推理。
下面介绍几种常见的模糊逻辑分类方法。
1. 模糊C均值聚类算法：这是一种常见的模糊聚类算法，它通过迭代计算每个样本点属于每个类别的隶属度，并根据隶属度来对样本进行分类。
该算法在处理模糊的情况下能够很好地进行分类，但是算法的收敛速度较慢。
2. 模糊决策树：模糊决策树是一种基于模糊集合和模糊关系的分类方法，它通过构建一棵决策树来对样本进行分类。
在构建决策树的过程中，我们可以根据样本的属性和隶属度来选择最佳的划分点，从而得到一个更好的分类结果。
3. 模糊支持向量机：模糊支持向量机是一种能够处理模糊信息的分类方法，它通过构建一个最优的超平面来对样本进行分类。
在构建超平面的过程中，我们可以考虑样本的隶属度和间隔，从而得到一个更好的分类结果。
三、模糊逻辑分类的应用领域模糊逻辑分类在许多领域中都有广泛的应用。
决策树的典型算法
决策树的典型算法1.什么是决策树算法决策树算法是机器学习中常用的一种分类和回归的算法。
它可以从一组已知分类的数据中，自动构建一个可视化的树形结构，用来推断新数据的分类。
决策树算法的优点是易于理解和实现，同时能够处理多类别问题，并且可以克服一些数据不平衡的问题。
2.决策树的构建过程决策树是由节点和边组成的树形结构，用来表示一些判断和分类的规则。
每个节点表示一个特征属性，每个边表示一个决策规则，将样本数据分到子节点中。
决策树的构建过程包括选择属性、划分节点和剪枝等几个步骤。
选择属性：选择最优的属性作为当前节点的划分属性，可以使用信息增益、信息增益率、基尼指数等算法来评价每个属性的贡献度。
划分节点：将每个属性对应的值进行分类，生成子节点。
对于分类问题，每个叶节点表示一个类别；对于回归问题，每个叶节点表示一个数值。
剪枝：为了避免过拟合，可以对已经生成的树进行剪枝，即减去一些无用的叶节点，保留决策树的更一般化模型。
3.决策树的应用领域决策树算法广泛应用于医疗诊断、金融风险、智能推荐、社交网络等各个领域。
医疗诊断：利用决策树算法，可以基于病人的症状和病例历史数据，推断出病人是否患有某种疾病。
金融风险：利用决策树算法，可以根据客户的财务资料和信誉情况，推断出借款人的还款能力和违约概率。
智能推荐：利用决策树算法，可以基于用户的历史购买记录和最新搜索信息，推断出用户可能感兴趣的相关商品。
社交网络：利用决策树算法，可以根据用户的关注和好友关系，推断出用户所属的社交圈和潜在的好友。
4.决策树算法的优缺点优点：1）易于理解和实现；2）可以处理多类别问题；3）可以克服一些数据不平衡的问题；4）可以处理连续型或离散型的特征属性；5）决策树可以可视化，便于解释和展示。
缺点：1）容易出现过拟合现象，特别是处理复杂数据时；2）对异常值比较敏感；3）不适合处理数据的包含比重差异比较大的数据集；4）决策树算法不适用于处理缺失数据。
5.决策树算法的改进与发展随着机器学习和数据挖掘技术的发展，决策树算法也在不断地发展和改进。
模糊数学例题大全
模糊数学例题大全标题：模糊数学例题大全模糊数学，又称为模糊性数学或者弗晰数学，是一个以模糊集合论为基础的数学分支。
它不仅改变了过去精确数学的观念，而且广泛应用于各个领域，从物理学、生物学到社会科学，甚至。
下面，我们将通过一些具体的例题来展示模糊数学的应用。
例1：模糊逻辑门在经典的逻辑门中，我们使用AND、OR和NOT等操作符来处理布尔值（0或1）。
然而，在现实世界中，很多情况并不是绝对的0或1。
例如，我们可以将“温度高”定义为大于25度，但24度是否算高呢？模糊逻辑门提供了更广泛的定义方式，允许我们使用模糊集合来描述这些边界情况。
例2：模糊聚类分析在统计学中，聚类分析是一种将数据集分类成几个组的方法，其中同一组内的数据点相似度高。
然而，在某些情况下，我们无法用精确的数值来描述数据点的相似度。
这时，模糊聚类分析就派上用场了。
它允许我们使用模糊矩阵来表示数据点之间的相似度，从而更准确地分类数据。
例3：模糊决策树在机器学习中，决策树是一种用于分类和回归的算法。
然而，在某些情况下，我们无法用精确的规则来描述决策过程。
这时，模糊决策树就派上用场了。
它允许我们在决策节点使用模糊规则来代替传统的布尔值规则，从而更好地模拟人类的决策过程。
例4：模糊控制系统在控制系统中，我们通常需要设计一个控制器来控制系统的行为。
然而，在某些情况下，系统的输入和输出并不是绝对的0或1。
这时，模糊控制系统就派上用场了。
它允许我们使用模糊集合来描述系统的输入和输出，从而更准确地控制系统的行为。
例5：模糊图像处理在图像处理中，我们通常需要分类、识别或分割图像中的对象。
然而，在某些情况下，图像中的对象边界并不清晰。
这时，模糊图像处理就派上用场了。
它允许我们使用模糊集合来描述图像中的对象边界，从而更准确地分类、识别或分割图像中的对象。
以上只是模糊数学众多应用的一小部分。
这个领域仍在不断发展，为解决各种复杂的现实问题提供了新的工具和方法。
通过学习模糊数学，我们可以更好地理解和处理那些边界模糊、难以用传统数学方法描述的问题。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
熵(Entropy)
ID3算法的核心问题：如何选取属性？ { Outlook, Temperature, Humidity, Wind}
一组样本S对于二元分类的熵为：
Entropy(S) p log2 ( p ) p log2 ( p )
其中p+和 p-为S中的正例、反例所占比例。 例子：S中有9个正例，5个负例
Warm Warm Cold Warm
Normal High High High
Wind Strong Strong Strong Strong
Water Warm Warm Warm Cool
Forecast EnjoySport
Same
Yes
Same
Yes
Change
No
Change
Yes
训练样例 条件属性(Sky,AirTemp Humidity,…) 决策属性(EnjoySport) 属性取值(对于Sky:Suny,Rainy)
不确定性度量
模糊决策树
模糊决策树是传统决策树的一种推广。它将模糊理论应用于 训练与匹配过程，结合了决策树的可理解性和模糊集合的表示能 力，用来处理模糊性和不确定信息，使决策树具有更好的健壮性 ，提高了决策树的可理解性，并使决策树归纳算法的扩展能力增 强。具有代表性的模糊决策树生成算法是：
Umano提出的Fuzzy ID3算法 Yuan和Shaw提出的Min-Ambiguity算法
Entropy(Sv )
其中Sv是S中属性A值为v的子集。
ID3算法选择信息增益最大的属性来分裂当前结点。
连续值属性
连续属性的离散化：对于连续值的属性A，算法可动态 地创建一个新的布尔属性Ac，如果A<c，那么为Ac真， 否则为假。 例子：
可供选择的阈值（48+60）/2=54，（80+90）/2=85 c=54所对应的信息增益大。所以选择Temperture54
人类认知上的不确定性还能够深入分为两个子类： 模糊性 (Vagueness) 不可指定性(Ambiguity)
两种不确定性
模糊性是现实世界中关于作出精确决定的一类难题， 比如一些应用领域中的某些利益关系不能够用清晰的边界 划分开来。
不可指定性是关于一对多的关系，诸如一个选择面临 的两个或者多个的情形。
模糊决策树
Yuan和Shaw提出的算法是基于Min-Ambiguity即不 确定性的减少建立决策树，它基于可能性分布模型。
Fuzzy ID3算法采用基于模糊熵的信息增益的启发 式算法，这种启发式的目的是根据最大的信息增益值（ 最小模糊熵）选择扩展属性，使得生成树的平均规模最 小，它基于概率分布模型。
模糊决策树
主讲人：高相辉 河北大学机器学习中心
主要内容
•清晰决策树 •属性 •两种不确定性及其度量 •模糊决策树 •模糊规则 •模糊推理
分类问题
分类问题示例：Aldo进行水上运动的日子
Example 1 2 3 4
Sky Sunny Sunny Rainy Sunny
AirTemp Humidity
(对于EnjoySport:Yes,No)
决策树简介
Outlook
Sunny
Rain
Overcast
Humidity
Wind
High Normal Yes Strong Weak
No
Yes
No
Yes
结点：属性 边：属性值 叶子结点：类别
决策树表示方法
Outlook
IF-THEN规则：
Sunny
Rain
模糊集合
用模糊集合来描述模糊概念 属性：身高 属性值：高，矮----语言术语
两种不确定性
一般认为，不确定性可以分为两大类： 一类是统计上的不确定性(Statistical Uncertainty)， 一类是人类认识、思维、感觉、推理等上的不确定性 (Cognitive Uncertainty)。
Overcast
IF Outlook = Sunny
Humidity
Wind AND
High Normal Yes
Strong
Humidity = High WeakTHEN
PlayTennis = No
No
Yes
No
Yes
……
基本的决策树学习算法
主要内容： （1）ID3算法 （2）熵(Entropy) （3）信息增益(Information Gain)
模糊决策树的归纳过程
模糊决策树的归纳过程由以下步骤组成： (1)数据预处理； (2)归纳建立决策树； (3)把得到的模糊决策树转换成一组模糊规则； (4)把得到的模糊规则应用于分类。
（1）数据预处理
数据预处理,包括噪声检查、缺失属性处理、数据 离散化、数据模糊化、训练数据和测试数据的划 分等操作.
重点是数据模糊化： 一般数据库属性都是：离散的和连续的很少有以
模糊集形式给出的。 离散的糊的 连续的模糊的 把数据的分布信息转化成数据的模糊程度。
离散的模糊的
Day D1 D2 D3 D4 D5 D6 D7 D8 D9 D10 D11 D12 D13 D14
日常生活中的模糊概念
在人类的认知世界中，有很多概念是模糊的，没有明 确的两极边界，例如在日常生活中的厚薄、快慢、大小、 长短、轻重、高低、稀稠、贵贱、强弱、软硬、锐钝、深 浅、美丑等等都是模糊概念。
传统的集合理论对这类概念的划分显得无能为力。 1965年，美国工程师L.A.Zadeh提出了模糊集合论，有了 模糊集合论，计算机就可以跨越两极的黑白边界，在“灰 色”中间地带发挥作用，从而提供更符合现实情况的答案 。
对于连续属性的关键问题是如何选取最佳的阈值c.
属性
属 性：条件属性，决策属性。 属性值：离散的，连续的，模糊的。 •离散的:形状{三角，圆形} 颜色{红，黄} Crisp Decision Tree •连续的：身高 {175cm} Binary Decision Tree •模糊的：身高{高，矮} Fuzzy Decision Tree
9
95
5
E
ntropy(S
)
14
log
2
( 14
)
14
log
2
( 14
)
0.940
熵(Entropy)
Entropy(S) p log2 ( p ) （1 p）log2 (1 p )
信息增益
属性的信息增益是按该属性分割后熵的消减期望值：
Gain(S,A) Entropy(S)
Sv
S vValues(A)