遗传算法在数据挖掘多种分类器合并中的应用
遗传算法应用于数据挖掘中的关联规则挖掘研究
遗传算法应用于数据挖掘中的关联规则挖掘研究随着互联网时代的到来，人们每天都会产生大量的数据，数据分析成为了不可或缺的一部分。
数据挖掘技术作为一种有效的数据分析手段，也得到了广泛的应用。
关联规则挖掘是数据挖掘领域中的一个重要分支，通过挖掘数据集中的相关性关系，可以帮助企业做出精准的营销决策，提高企业的运营效率。
然而，传统的关联规则挖掘方法往往只能处理数据集中的简单关联关系，面对复杂关系和大量维度的数据集就容易出现效果不理想的情况。
为了解决这个问题，研究人员将遗传算法引入到数据挖掘中，成功地解决了大规模数据集中的关联规则挖掘问题。
遗传算法作为一种模拟生物进化的优化算法，通过模拟自然选择、交叉、变异等基本操作，不断优化个体的适应度，最终得到最优解。
在数据挖掘领域中，遗传算法被广泛用于优化聚类算法、分类算法、回归算法和关联规则挖掘算法等数据挖掘基本技术。
在关联规则挖掘中，遗传算法主要通过以下步骤实现：首先，将关联规则挖掘问题转化为遗传算法中的优化问题；然后，利用遗传算法不断优化个体的适应度，最终得到最优解；最后，根据最优解挖掘出数据集中的相关性规则。
具体来说，遗传算法实现关联规则挖掘主要分为四个步骤：初始化、适应度函数、选择机制和重组机制。
首先，需要对数据集进行初始化，随机生成一些规则集合作为种群的初始个体。
然后，定制适应度函数来衡量每个个体的优劣程度，进而通过选择和重组机制不断去寻找优化的最优解。
最后，根据得到的最优解计算出数据集中的相关性规则。
相比传统的关联规则挖掘算法，利用遗传算法进行关联规则挖掘具有以下优点。
首先，遗传算法可以有效地解决大市场数据集中的关联规则挖掘问题。
其次，遗传算法多次迭代产生新的优化解，避免了深度学习算法可能导致的局部最优解问题。
此外，遗传算法可以灵活地根据实际情况进行修改和优化，可扩展性强。
遗传算法在关联规则挖掘中的应用不仅提高了数据挖掘的效率和准确度，也为数据挖掘这一领域带来了新的思路和技术。
遗传算法在数据挖掘中的应用
遗传算法在数据挖掘中的应用随着互联网的普及，大量的数据被收集和存储，如何从这些数据中发掘出有用的信息成为了数据挖掘领域的一个重要任务。
而遗传算法作为一种优化算法，在数据挖掘中也得到了广泛的应用。
什么是遗传算法？遗传算法是一种基于生物进化原理的优化算法。
它的基本思想是通过模拟生物种群进化过程来寻找最优解。
具体地，遗传算法将问题看成是一个染色体序列，每个染色体表示一个潜在的解，需要经过交叉、变异、选择等过程，从而不断进化出更优的解。
遗传算法在数据挖掘中被用作数据的分类、聚类和预测等方面。
在分类中，利用遗传算法进行特征选择，可以提高分类的准确性。
在聚类中，通过遗传算法进行聚类中心的选择，可以得到更合理的聚类结果。
在预测中，利用遗传算法来训练模型参数，可以提高预测的精度。
例如，在文本分类问题中，可以通过遗传算法来选择文本的特征，提高分类的准确性。
首先，将文本转化成特征向量，然后进行特征选择。
遗传算法可以通过不断地变异、交叉等方式，来选择最优的特征子集。
最后，利用选择出的特征子集来训练分类器，在测试集上进行验证。
又比如，在聚类问题中，可以通过遗传算法来选择聚类中心，得到更合理的聚类结果。
首先，根据数据的分布情况，选定聚类中心的初始位置。
然后，通过遗传算法，不断地调整聚类中心的位置，得到更优的聚类结果。
总结遗传算法在数据挖掘中具有广泛的应用前景，可以用来解决各种各样的问题。
通过遗传算法的优化，可以得到更好的挖掘结果，提高工作效率。
不过，遗传算法还存在一些问题，例如易陷入局部最优解，复杂度较高等，需要进一步研究和改进。
遗传算法在分类问题中的应用
遗传算法在分类问题中的应用随着科技的日益发展，计算机科学和人工智能领域也在快速发展，人工智能算法不断涌现并应用到各个领域，其中遗传算法作为一种常用的优化算法，在分类问题中也得到了广泛的应用。
本文将探讨遗传算法在分类问题中的应用。
一、遗传算法简介遗传算法也称遗传进化算法，是一种生物进化过程的模拟算法，模仿了进化论中的基本原则：适者生存和优胜劣汰。
遗传算法是一种通过模拟自然界中的生物进化过程来解决优化问题的算法，其基本思想是通过选择、交叉、变异等遗传操作对种群中的个体进行不断演化，直到找到最优解为止。
遗传算法的基本流程如下：1.初始化种群：随机生成一组个体作为种群，每个个体以染色体形式表示。
2.适应度评价：根据问题的实际需求，设定适应度函数对每个个体进行评价。
3.选择：从当前种群中按照适应度大小选择若干个个体，用于产生下一代种群。
4.交叉：对选出的个体进行交叉操作，生成新的子代个体。
5.变异：对子代个体进行基因突变，产生新的个体。
6.种群更新：将生成的新个体与当前种群结合起来，形成新一代种群，重复上述步骤，直到满足终止条件。
二、分类问题是一种常见的机器学习问题，即将已知类别的样本数据集建立分类模型，再预测未知样本的类别。
在分类问题中，根据给定的特征值，需要将数据分为不同的类别。
遗传算法在分类问题中的应用主要有以下几个方面：1.参数优化在机器学习中，往往需要对模型参数进行优化，以得到更好的分类效果。
遗传算法可以用来优化机器学习模型的参数，以达到最佳的分类效果。
比如在神经网络中，调整权重和偏置等参数，可以通过遗传算法来进行优化。
2.特征选择在分类问题中，某些特征可能对分类结果的贡献很小，有些甚至会干扰分类，而忽略了某些更重要的特征。
因此，选择适当的特征对于分类问题来说非常重要。
遗传算法可以用于特征选择，进而降低维度，提高分类效果。
3.数据挖掘数据挖掘是从大量数据中提取有价值的信息的一种方法。
数据挖掘的主要任务是发现数据中的模式、关联、规律等。
遗传算法在数据挖掘聚类分析中的应用研究的开题报告
遗传算法在数据挖掘聚类分析中的应用研究的开题报告一、选题背景及问题意义随着数据量的不断增大，数据挖掘逐渐成为了一个研究热点。
数据挖掘主要包括分类、聚类、关联规则挖掘等。
其中，聚类分析是一种对数据进行分组的技术，其目的是使组内的数据相似度尽可能大，组间的数据相似度尽可能小。
传统聚类方法存在着一些问题，如易陷入局部最优解，需要事先指定聚类簇数等。
为了克服这些问题，遗传算法被引入到聚类分析中。
遗传算法是一种基于自然选择和遗传机制的优化算法。
它可以自动寻找最优解，避免局部最优答案，并可以动态地调整聚类簇数。
因此，本文选取遗传算法在聚类分析中的应用作为研究课题，旨在探究遗传算法在聚类分析中的优势和局限性，及其在实际应用中的表现。
二、研究目的1.了解聚类分析、遗传算法以及两者的基本原理。
2.比较传统聚类方法和遗传算法在聚类分析中的优缺点，并发掘遗传算法在聚类分析中的优势。
3.研究遗传算法在聚类分析中的实际应用，并分析其表现。
4.提出进一步优化遗传算法在聚类分析中的方法。
三、研究内容和初步方案1.遗传算法的基本原理及其在聚类分析中的应用。
2.比较传统聚类方法和遗传算法在聚类分析中的优缺点。
3.实现遗传算法在聚类分析中的应用，并通过实验验证其表现。
4.进一步优化遗传算法在聚类分析中的方法，提高其表现。
初步方案如下：第一阶段：文献调研。
对聚类分析、遗传算法及其在聚类分析中的应用相关文献进行收集和研究。
第二阶段：算法实现。
利用Python语言实现遗传算法在聚类分析中的应用。
第三阶段：实验验证。
利用UCI数据集进行实验验证，比较遗传算法和传统聚类方法在聚类分析中的表现。
第四阶段：进一步优化。
对算法进行进一步优化，提高其表现，提出改进方法。
四、研究意义1.探究遗传算法在聚类分析中的应用，拓展了聚类分析的研究领域。
2.比较分析传统聚类方法和遗传算法在聚类分析中的优缺点，为实际应用提供参考。
3.实验验证遗传算法在聚类分析中的表现，为实际应用提供优化方案。
遗传算法在数据挖掘中的应用案例解析
遗传算法在数据挖掘中的应用案例解析随着大数据时代的到来，数据挖掘成为了一个重要的技术领域。
数据挖掘旨在从大量的数据中发现隐藏的模式、规律和关联，为决策提供支持和指导。
在数据挖掘的过程中，算法的选择和应用至关重要。
其中，遗传算法作为一种基于生物进化原理的优化算法，逐渐在数据挖掘领域中得到应用。
一、遗传算法简介遗传算法（Genetic Algorithm，GA）是模拟达尔文进化论中的自然选择和遗传机制的一种优化算法。
它通过模拟生物进化的过程，将问题的解表示为染色体的形式，并通过遗传算子（交叉、变异）对染色体进行操作，以产生更好的解。
遗传算法具有全局搜索能力、并行性和自适应性等优点，在解决复杂问题时具有较好的效果。
二、遗传算法在数据挖掘中的应用案例1. 聚类分析聚类分析是数据挖掘中常用的一种技术，旨在将相似的数据对象划分为同一类别。
遗传算法可以用于优化聚类算法中的参数选择，如聚类中心的初始化、聚类数目的确定等。
通过遗传算法对聚类算法进行优化，可以提高聚类结果的准确性和稳定性。
2. 特征选择在数据挖掘中，特征选择是一个重要的预处理步骤，旨在从大量的特征中选择出最具有代表性和区分性的特征。
遗传算法可以通过评估特征的贡献度和相关性等指标，对特征进行选择和优化。
通过遗传算法的特征选择，可以减少特征空间的维度，提高分类和回归等任务的性能。
3. 参数优化在数据挖掘中，很多算法都需要设置一些参数，如支持向量机中的惩罚因子、决策树中的划分准则等。
遗传算法可以通过搜索参数空间，找到最优的参数组合，从而提高算法的性能。
通过遗传算法的参数优化，可以使算法更好地适应不同的数据集和问题。
4. 关联规则挖掘关联规则挖掘是数据挖掘中的一个重要任务，旨在从大规模数据集中发现项集之间的关联关系。
遗传算法可以用于优化关联规则挖掘算法中的参数设置，如最小支持度、最小置信度等。
通过遗传算法的优化，可以提高关联规则挖掘算法的效率和准确性。
三、遗传算法在数据挖掘中的优势和挑战遗传算法在数据挖掘中具有以下优势：1. 全局搜索能力：遗传算法能够在大范围的解空间中搜索最优解，避免陷入局部最优解。
遗传算法在数据挖掘中的应用
郑州
４０ １ ） ５ ０ １
要 】 文对 数 据 挖 掘进 行 了概 述 ， 明 了数 据 挖 掘 的 概 念 、 本 阐 方法 及 其 重要 性 。 次 介 绍 了数 据 挖掘 中 的一 个 重要 算 法一 其 一遗传 算 法 。 对
遗 传 算 法的 产 生 与发 展 以及 主 要理 论 等 进 行 了简要 的介 绍 ， 出了基 于遗 传 算 法 的 关联 规 则 的提 取 方 法。 最 后 结合 实例 给 出了 用遗 传 算 法进 提
（ ｈ ｅ ａ ｔ ｎ ｆ ｃ ａ ｉａ ｎ ｉｅ ｒｎ ， ｒｈ Ｃ ｉ ａ Ｉ ｓｉ ｔ ｏ ｏ ｓ ｒ ａ ｃ ｎ ｄ ｏ ｌｃｒｃＰ ｗｅ ， ｈ ｎ Ｚ ｏ ４ ０ １ ； ｈ Ｔ ｅｄ ｐ ｒｍｅ ｔ ｈ ｎ ｃ ｌ ｇｎ ｅ ｇ Ｎｏ ｔ ｈ ｎ ｎ ｔ ｕ ｅ ｆＣ ｎ ｅ ｖ ｎ ｙａ ｄ Ｈｙ ｒ ｅ ｔｉ ｏ ｒ ｅ ｇ ｈ ｕ，５ ０ １ Ｔ ｅ ｏ Ｍｅ Ｅ ｉ ｔ ｅ Ｚ
遗传算法的应用领域
遗传算法的应用领域
遗传算法（GA）是一种基于自然选择和遗传机制，模拟生物进化的优化技术。
答题者可以
在特定的问题领域中将其用于所有的最优化需要。
这是一种随机搜索算法，可以有效快速
地搜索最优解。
遗传算法在很多领域中都被广泛应用。
在求解优化问题中，它通常可以被用于在约束条件
下搜索和优化结构设计。
例如，求解结构优化问题时，可以对原有的结构进行变形，使其
更加有效率。
还可以用于网络调度问题、资源分配问题等。
遗传算法还可以用于解决数据挖掘问题。
数据挖掘是一种从海量的原始数据中自动搜索有
意义的数据和关联的知识的技术，它通常用于探索未知的规律和模式。
例如，为了改善客
户关系管理系统，可以使用遗传算法来分析客户的购买行为和购买决策，以找出相关的模
式和关联。
此外，遗传算法还可以用于控制自动机的设计与调试中。
例如，不同的控制器可以在硬件
实现中采用GA法，以获得比传统方法更完整的控制算法。
GA还被用于解决维修调度问题、视频编码问题等。
总而言之，遗传算法在许多领域中都有广泛的应用，被用于优化搜索问题、数据挖掘、控
制算法设计等，是一种很有效、适用性广泛的算法技术。
遗传算法及其在数据挖掘中的应用
ａｇ ｒ ｈ ｓ ｗ ｌ— ｕｔｄ ｆｒ ｄ ｔ ｍｉｉｇ ｊｂＯ ｈ ａ ｉ ｏ ａ ｏ ａｅ ａ ｄ ｃ ａａ ｔ ｓ ｃ ，ｔｉ ｐ ｐ ｒ ｈ ｓ ｍａ ｅ ｓ ｍ ｌ ｉ ｍ ｉ ｅ ｓ ｉ ｏ ａａ ｎ ｏ ． ｎ ｔｅ ｂ ｓ ｆ ｒｔ ｎ ｌ ｎ ｈ ｒｃ ｒ ｔ ｓ ｈｓ ａ ｅ ａ ｄ ｏ ｅ ｏｔ ｌ ｅ ｎ ｓ ｉ ｅ ｉ ｉ
ＳＦＷ Ｒ ＥＥ０Ｍ Ｎ Ｎ ＥＩＮ ０ ｒ Ａ Ｅ Ｖ ＬＰＥ Ｔ ＤＤＳ Ｄ Ａ Ｇ
软件开发 与设计
遗传算 法及 其在Biblioteka 数据挖掘 中的应用 徐 波
（ 三峡大学 电气 信息学院 ，宜昌 ４ ３ ０） ４ ０ ２
摘 要 ：遗 传 算 法 是 一 种 模 拟 生物 进 化 过 程 的 自适 应 全 局 优 化 算 法 ，是 解 决 现 代 非 线 性 优 化 问题 的 一 种 重 要 方 法 。
Ｋｅ ｒ ｓ ｙ ｗｏ ｄ ：Ｇｅ ｅ ｉ Ａｌｏ ｔ ｍ； Ｏ ｔ ｚ ｔ ｎ； Ｄ ｔ ｎ ｎ ； Ａｐ ｌ ａｉ ｎ ｎｔ ｇｒｈ ｃ ｉ ｐ ｉ ａｉ ｍｉ ｏ ａ ａ Ｍｉ ｉ ｇ ｐ ｉ ｔｏ ｃ
遗传算法 （ ｅ ｅ ｃＡｇｒｈ Ｇ ｎ ｔ ｌ ｉ ｍ，以下 简称 Ｇ ）是生命科学 ｉ ｏｔ Ａ 与工程科 学相互 交叉 、相互渗 透的产 物 ，最 初源 于用计 算方
１ 遗 传 算 法 的 基 本 原 理 及 理 论 基 础 ． ２ Ｇ 以 Ｄ ｒ ｉ 进化 论 和 Ｍｅｄ ｌ Ａ ａｗｎ的 ｎ ｅ 的遗 传 理 论 为 基 础 ，将
其经典 著作 《 自然界 和人工 系统 中的适应性》 中 ，第一 次 明
确 提 出 Ｇ 的 概 念 ，并 系 统 阐述 了 Ｇ Ａ Ａ的 基 本 理 论 和 方 法 。８ Ｏ 年 代 Ｇ ｌ ｅｇ Ｇ ｏｄ ｒ 对 Ａ进 行 归 纳 总 结 ，形 成 了 Ｇ 的 基 础 框 架 。 ｂ Ａ
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
…, CN 重要性的权值矢量 , w ik 代表第 k 个分类器在对类
别 Ci 的分类中 ,相对于其他分类器的重要性 。
由各个分类器给出的对于类 Ci 的分类结果 mi1 , mi2 ,
…, mi K 加权相加相应的权值 w i1 , w i2 , …, w i K , 得到关于
此类最终的分类结果 oi ,用公式表达即为 :
在遗传算法中 ,需要把假设表示成一个称作染色体 (chromosome) 的串 ,通常是二进制串 ,然后再利用交叉和 变异等遗传算子对这些串进行操作 ,以生成新的串 ,即下 一代染色体 。在这里 ,把假设表示成一个真实值的串 。这 些真实 值 的 取 值 即 权 值 w i1 , w i2 , …, w i K ( i = 1 ,2 , …, N) 。要解决的问题就是在搜索空间中找到最优的权值矩 阵 ,以合并 K 个分类器产生的分类结果 。串的表示方法如 图 4 所示 。
图 1 串行分类器合并的结构示意图
图 2 并行分类器合并的结构示意图 分类器输出的分类结果有三种形式 :抽象形式 、排序 形式和分类度量值形式 。抽象形式的输出直接给出输入 数据属于某一类的类别标签 ;排序形式将输入数据按照属 于每一类的可能性大小排序后的排序结果作为输出 ;分类
© 1995-2005 Tsinghua Tongfang Optical Disc Co., Ltd. All rights reserved.
·17 ·
续表 ②交叉 :根据上面给出的 Pr ( hi) ,从 P 中按概率选择 r ·
p/ 2 对假设 。对于每对假设 < h1 , h2 > , 应用交叉算 子产生两个后代 ,把所有的后代加入 Ps
③变异 :使用均匀的概率从 Ps 中选择 m % 的成员 。对于 选出的每个成员 ,在它的表示中随机选择一位取反
从 P 中选择假设 hi 的概率为 Pr ( hs) =
Fit ness ( hi)
S
∑Fitness ( hj)
j =1
© 1995-2005 Tsinghua Tongfang Optical Disc Co., Ltd. All rights reserved.
第 1 期 任江洪等 :遗传算法在数据挖掘多种分类器合并中的应用
摘 要 :数据挖掘在电子商务中发挥着越来越重要的作用 。分类是数据挖掘中一项非常重要的任务 。由于单独的分类器 都具有一定的适用范围 ,所以将多个分类器的分类结果进行合并形成更高精度的分类结果是很有意义的一种方法 。文中 提出了一种基于遗传算法将多种分类器进行合并 ,以提高分类精度 ,扩大数据挖掘程序应用范围的方法 。 关键词 :数据挖掘 ;遗传算法 ;分类 ;合并 中图分类号 : TP301 . 6 文献标识码 :A 文章编号 :1005 - 3751 (2004) 01 - 0015 - 03
分类是数据挖掘中的一个非常重要的应用方面 。有 许多不同的分类算法 ,例如决策树分类 、贝耶斯分类器 、神 经网络以及粗糙集等等 。虽然某些算法会在某些特定的 应用中优于其他的算法 ,但不存在某一种分类算法在所有 的分类任务中都一定优于其他的算法 。某些问题由于其 特征可能特别适于某种算法 ,但人们很难事前就发现这种 算法 。所以采用多种分类器 ,利用多种分类器的分类结果 之间具有的互补性 ,通过合并算法整合多个分类结果产生 精确度更高的结果是一种非常可行的方法 。
Abstract :Data mining has more and more importance in E - Commence. Because of t he limited applicable field of a single special classifier , combining t he classifying output of multi - classifier to get more accuracy is very valuable. Classification is a very important task of data mining . The paper proposes an approach combining several different classifiers toget her based on genetic algorit hm to improve t he classify2 ing accuracy and extend t he applicable area of data mining. Key words :data mining ;genetic algorit hm ;classify ; combining
w ik mik , w ik 是权值矩阵 Wq 中
k =1
的成员 。η是常数 ,控制 H ( Wq) 对整个学习过程的影响 。j
· 1 6 · 微 机 发 展 第 14 卷
度量值形式是文中将要考虑的形式 ,它的值是输入数据属 于某一类的可能性度量结果 。神经网络分类器的输出就 是这样的形式 。
1 遗传算法在分类方法合并中的应用
笔者提出了一种基于遗传算法的多分类器合并方法 ,
机选择的权值开始 ,通过优化这些权值不断反应出各分类
器的相对重要性 。
图 3 基于遗传算法的多分类器结合的结构图 1. 1 基于遗传算法的学习
遗传算法是受生物进化过程启发的一种随机搜索的 优化算法 。它不再是从一般到特殊或者简单到复杂地搜
索假设 ,而是通过变异或重组当前已知的最好假设来生成 后续的假设 。每一步 ,更新当前称为群体 ( Population) 的 一组假设 ,方法是通过使用目前适应度高的假设作为候 选 ,通过某些运算形成新的个体组成新一代群体 。遗传算 法常用于系统参数的优化 ,例如模糊成员函数的优化都非 常适于使用遗传算法求解 。遗传算法的优点在于它在问 题的求解过程中对求解值能够随机地引入一些很大的变 化 ,避免陷入局部极小 ,这种特性特别适于求解一些用逐 步下降法难以解决的处于离散空间中的问题 。
表 1 遗传算法原型
GA ( Fitness ,Fitness - t hreshold , p , r , m)
Fitness :适应度函数 ,为给定假设赋予一个评估分数
Fitness - t hreshold :指定终止判据的阈值
p :群体中包含的假设数量
r :每一步通过交叉取代群体成员的比例
图 4 串的示意图 Wi ( i = 1 ,2 , …, K) 分别为 K 个分类器的权值矢量 , w ik 是 Wk 的第 i 个权值 ,代表第 k 个分类器相对于第 i 类 的相对重要性 ,取值范围为(0 ,1) 。 对遗传算法而言 ,一个群体需要被初始化并且随着进 化进程不断被更新 。在此应用中初始群体通过随机产生 每个个体中的权值而形成 。一旦初始群体形成 ,遗传算法 不断地更新群体 。在这个算法的每一次迭代中 ,使用概率 的方法在当前一代中选择某个个体作为候选 。在当前这 一代的成员已被选入下一代群体后 ,使用交叉与变异操作 生成下一代的其他的成员 。遗传算法的原型描述如表 1 所示[2 ] 。
第
14 卷 第 1 2004 年 1 月
期
Micro微com p机ute r 发Dev e展lopment
VoJla. n1.4
No . 2004
1
遗传算法在数据挖掘多种分类器合并中的应用
任江洪 ,曹长修
(重庆大学 自动化学院 ,重庆 400044)
m :变异率
◆ 初始化群体 : P ←随机产生的 p 个假设
◆ 评估 :对于 P 中的每个 h ,计算 Fitness( h)
◆ 当 maxFitness ( h) < Fitness - t hreshold , 做 :
产生新一代 Ps :
①选择 :用概率方法选择 P 的(1 - r) p 个成员加入 Ps ,
E( X) =
i <Λ
排除 其它情况
α是给定的阈值 。
如图 3 所示 ,这种带权值的多分类器合并实际是一个
单层网络 。从各分类器得到的度量值被传递给输入层 , o1 , o2 , …, oN 是输出层的输出值 。输出层的节点数等于所有
的分类数 。利用遗传算法不断优化网络的连接权值 ,从随
0 引 言 数据挖掘 (Data Mining ,DM) 通过数据的分析 ,对客户
行为进行预测的能力 ,已使其成为电子商务不可或缺的一 个基点[1 ] ,同时也成为人工智能和机器学习的一个极其重 要和活跃的应用领域 。数据挖掘的任务就是从大量的原 始数据中挖掘出隐含的 、有用的 、尚未发现的信息和知识 (如概念 、关联规则 、分类信息 、聚类信息等) ,为决策者提 供决策支持 。
合并算法分为两大类 :串行合并和并行合并 。串行合 并按一定顺序将分类器排成一列 ,前一个分类器的分类结
收稿日期 :2003 - 06 - 09 作者简介 :任江洪 (1976 —) ,男 ,重庆人 ,硕士研究生 ,研究方向为数 据挖掘 、机器学习 。
果作为输入被送入下一个分类器 ;并行合并将分类器并行 排列 ,输入 (训练值或者待分类数据) 被同时送入各个分类 器 ,各个分类器的分类结果再通过合并算法合并 。在串行 合并中 ,分类器的排列顺序相对于单个分类器的性能对系 统总的性能更加重要 ;而并行合并中 ,系统的性能主要依 赖于合并算法的效果 。文中提出的算法属于并行合并 。 串行合并与并行合尝的结构示意图分别如图 1 、图 2 所 示。
能够把多个分类器输出的分类结果进行合并 ,产生精确度
更高的单一结果 。
对于模式分类问题 ,任一模式 x 属于事先给定的 N 类 可能的分类 C1 , C2 , …, CN 中的一类 。用Λ = { 1 ,2 , …, N } 表示类标签的集合 。假设拥有 K 个分类器 , 每个分类器使