数据挖掘现阶段最常用的算法
数据挖掘十大算法
数据挖掘十大算法
数据挖掘十大算法是一种关于数据挖掘的技术，其主要任务是从大量的原始数据中挖掘出有价值的信息。
其中包括关联规则挖掘、分类、聚类、关联分析、统计模型预测和时间序列分析等。
其中，最常用的是关联规则挖掘、分类和聚类。
关联规则挖掘是从大量的事务数据中发现隐藏的关联规则，以发现有价值的知识。
该算法利用数据库中的模式，发现频繁的项集或规则，以发现有价值的关联规则。
分类是一种利用数据挖掘技术，根据特定的特征对对象进行归类的方法。
它可以用来识别具有不同特征的对象，从而帮助企业更有效地管理其信息系统。
聚类是一种基于数据挖掘技术的分类技术，用于将相似的对象归类到同一个组中。
它可以帮助企业识别各种不同类别的对象，从而更好地管理信息系统。
除了上述三种算法之外，关联分析、统计模型预测和时间序列分析也是常用的数据挖掘算法。
关联分析是利用数据挖掘技术，从原始数据中挖掘出有价值的知识，从而帮助企业更好地管理其信息系统。
统计模型预测是一种基于统计模型的数据挖掘技术，用于预测未来的发展趋势和趋势，以便更好地满足企业的需求。
最后，时间序列
分析是一种基于时间序列的数据挖掘技术，用于分析时间序列数据，以发现有价值的信息。
总之，数据挖掘十大算法是一种重要的数据挖掘技术，包括关联规则挖掘、分类、聚类、关联分析、统计模型预测和时间序列分析等。
这些算法可以帮助企业发现有价值的信息，更好地管理其信息系统。
大数据挖掘——数据挖掘的方法
大数据挖掘——数据挖掘的方法数据挖掘是指通过对大量数据进行分析和挖掘，发现其中隐藏的模式、关联和规律，从而提取有价值的信息和知识的过程。
在大数据时代，数据挖掘成为了一种重要的技术手段，可以帮助企业和组织发现商业机会、优化决策、改进运营等。
数据挖掘的方法有很多，下面将介绍几种常见的方法。
1. 关联规则挖掘：关联规则挖掘是通过分析数据集中的项集之间的关联关系，发现其中的规律和模式。
常用的关联规则挖掘算法有Apriori算法和FP-Growth算法。
例如，通过分析超市的购物数据，我们可以发现“购买尿布的顾客也会购买啤酒”的关联规则，进而可以采取相应的营销策略。
2. 分类与预测：分类与预测是通过对已知数据集进行学习，构建模型，然后对未知数据进行分类或预测。
常用的分类与预测算法有决策树、朴素贝叶斯、支持向量机等。
例如，通过分析客户的个人信息和购买记录，我们可以构建一个客户分类模型，根据新客户的信息预测其可能的购买行为。
3. 聚类分析：聚类分析是将数据集中的对象划分为若干个类别，使得同一类别内的对象相似度高，不同类别之间的相似度低。
常用的聚类算法有K-means算法和层次聚类算法。
例如，通过对用户的行为数据进行聚类分析，我们可以发现不同类型的用户群体，为精准营销提供依据。
4. 异常检测：异常检测是通过分析数据集中的异常值，发现其中的异常模式和趋势。
常用的异常检测算法有基于统计的方法和基于机器学习的方法。
例如，在金融领域，通过对交易数据进行异常检测，可以及时发现欺诈行为。
5. 文本挖掘：文本挖掘是通过对大量的文本数据进行分析和挖掘，提取其中的主题、情感、关键词等信息。
常用的文本挖掘算法有词频统计、主题模型、情感分析等。
例如，通过对社交媒体上的用户评论进行情感分析，可以了解用户对产品或服务的满意度。
6. 时间序列分析：时间序列分析是对按时间顺序排列的数据进行建模和预测。
常用的时间序列分析方法有ARIMA模型、指数平滑法等。
常见数据挖掘分析方法介绍
常见数据挖掘分析方法介绍在数据分析领域，数据挖掘是一种重要的技术，它可以帮助我们从大量的数据中提取有价值的信息和知识。
在实际应用中，有许多常见的数据挖掘分析方法，本文将对其中一些方法进行介绍。
一、聚类分析聚类分析是一种将数据集合划分为不同群组的方法，以使得同一群组内的数据对象相似度高，不同群组之间的相似度低。
其中，K均值算法是一种常用的聚类分析方法。
它首先将数据集合划分为K个初始聚类中心，然后迭代地将数据对象分配到最近的聚类中心，再更新聚类中心的位置，直到达到收敛条件。
二、分类分析分类分析是一种通过对已有数据进行学习，来预测新数据所属类别的方法。
其中，决策树算法是一种常用的分类分析方法。
决策树通过构建一棵树状结构，每个节点代表一个属性，每个分支代表属性的取值，从根节点到叶节点的路径表示一个分类规则。
通过遍历决策树，我们可以将新数据进行分类。
三、关联规则挖掘关联规则挖掘是一种寻找数据集中项集之间相关性的方法。
其中，Apriori算法是一种常用的关联规则挖掘方法。
Apriori算法基于一个重要的原则：如果一个项集是频繁的，那么它的所有子集也是频繁的。
Apriori算法通过迭代地生成候选项集，并计算其支持度来寻找频繁项集，然后通过计算置信度来生成关联规则。
四、回归分析回归分析是一种通过对数据的学习来预测数值型输出的方法。
其中，线性回归是一种常用的回归分析方法。
线性回归通过拟合一条直线或者超平面来表示输入与输出之间的关系。
它通过最小化实际输出值与预测输出值之间的差距来求解模型参数。
五、异常检测异常检测是一种发现与正常模式不符的数据对象的方法。
其中，基于密度的离群点检测算法是一种常用的异常检测方法。
该算法通过计算数据对象与其邻域之间的密度来确定是否为离群点。
六、时序分析时序分析是一种对时间序列数据进行建模和预测的方法。
其中，ARIMA模型是一种常用的时序分析方法。
ARIMA模型通过将时间序列数据转化为平稳时间序列，然后通过自回归与滑动平均的组合进行建模与预测。
数据挖掘十大经典算法
数据挖掘十大经典算法一、 C4.5C4.5算法是机器学习算法中的一种分类决策树算法,其核心算法是ID3 算法. C4.5算法继承了ID3算法的优点，并在以下几方面对ID3算法进行了改进：1) 用信息增益率来选择属性，克服了用信息增益选择属性时偏向选择取值多的属性的不足；2) 在树构造过程中进行剪枝；3) 能够完成对连续属性的离散化处理；4) 能够对不完整数据进行处理。
C4.5算法有如下优点：产生的分类规则易于理解，准确率较高。
其缺点是：在构造树的过程中，需要对数据集进行多次的顺序扫描和排序，因而导致算法的低效。
1、机器学习中，决策树是一个预测模型；他代表的是对象属性与对象值之间的一种映射关系。
树中每个节点表示某个对象，而每个分叉路径则代表的某个可能的属性值，而每个叶结点则对应从根节点到该叶节点所经历的路径所表示的对象的值。
决策树仅有单一输出，若欲有复数输出，可以建立独立的决策树以处理不同输出。
2、从数据产生决策树的机器学习技术叫做决策树学习, 通俗说就是决策树。
3、决策树学习也是数据挖掘中一个普通的方法。
在这里，每个决策树都表述了一种树型结构，他由他的分支来对该类型的对象依靠属性进行分类。
每个决策树可以依靠对源数据库的分割进行数据测试。
这个过程可以递归式的对树进行修剪。
当不能再进行分割或一个单独的类可以被应用于某一分支时，递归过程就完成了。
另外，随机森林分类器将许多决策树结合起来以提升分类的正确率。
决策树是如何工作的？1、决策树一般都是自上而下的来生成的。
2、选择分割的方法有好几种，但是目的都是一致的：对目标类尝试进行最佳的分割。
3、从根到叶子节点都有一条路径，这条路径就是一条―规则4、决策树可以是二叉的，也可以是多叉的。
对每个节点的衡量：1) 通过该节点的记录数2) 如果是叶子节点的话，分类的路径3) 对叶子节点正确分类的比例。
有些规则的效果可以比其他的一些规则要好。
由于ID3算法在实际应用中存在一些问题，于是Quilan提出了C4.5算法，严格上说C4.5只能是ID3的一个改进算法。
数据挖掘的常用分类算法
数据挖掘的常⽤分类算法分类算法分类是在⼀群已经知道类别标号的样本中，训练⼀种分类器，让其能够对某种未知的样本进⾏分类。
分类算法属于⼀种有监督的学习。
分类算法的分类过程就是建⽴⼀种分类模型来描述预定的数据集或概念集，通过分析由属性描述的数据库元组来构造模型。
分类的⽬的就是使⽤分类对新的数据集进⾏划分，其主要涉及分类规则的准确性、过拟合、⽭盾划分的取舍等。
分类算法分类效果如图所⽰。
常⽤的分类算法包括：NBC（Naive Bayesian Classifier，朴素贝叶斯分类）算法、LR（Logistic Regress，逻辑回归）算法、ID3（Iterative Dichotomiser 3 迭代⼆叉树3 代）决策树算法、C4.5 决策树算法、C5.0 决策树算法、SVM（Support Vector Machine，⽀持向量机）算法、KNN(K-Nearest Neighbor，K 最近邻近)算法、ANN（Artificial Neural Network，⼈⼯神经⽹络）算法等。
NBC算法NBC 模型发源于古典数学理论，有着坚实的数学基础。
该算法是基于条件独⽴性假设的⼀种算法，当条件独⽴性假设成⽴时，利⽤贝叶斯公式计算出其后验概率，即该对象属于某⼀类的概率，选择具有最⼤后验概率的类作为该对象所属的类。
NBC算法的优点NBC算法逻辑简单，易于实现；NBC算法所需估计的参数很少；NBC 算法对缺失数据不太敏感；NBC 算法具有较⼩的误差分类率；NBC 算法性能稳定，健壮性⽐较好；NBC算法的缺点1.在属性个数⽐较多或者属性之间相关性较⼤时，NBC 模型的分类效果相对较差；2.算法是基于条件独⽴性假设的，在实际应⽤中很难成⽴，故会影响分类效果⼀、LR算法LR 回归是当前业界⽐较常⽤的机器学习⽅法，⽤于估计某种事物的可能性。
它与多元线性回归同属⼀个家族，即⼴义线性模型。
简单来说多元线性回归是直接将特征值和其对应的概率进⾏相乘得到⼀个结果，逻辑回归则是在这样的结果上加上⼀个逻辑函数。
数据挖掘 常用方法
数据挖掘常用方法
常用的数据挖掘方法包括以下几种：
1. 关联规则挖掘：通过发现数据中的频繁项集和关联规则来揭示数据中的关联关系。
2. 分类算法：根据已有的特征和标签，训练分类模型以预测未知数据的标签。
3. 聚类算法：将数据分为不同的群组，使得同一群组内的数据相似度较高，不同群组间的数据差异较大。
4. 预测建模：通过建立数学模型来预测未来事件或未知数据的数值结果。
5. 时间序列分析：通过分析时间序列数据的趋势和周期性，预测未来的数据趋势。
6. 异常检测：通过发现与正常数据差异较大的数据点或数据模式来检测异常行为。
7. 文本挖掘：通过分析和提取文本数据中的信息，如关键词、主题、情感等，来揭示文本数据的隐含信息。
8. 图挖掘：通过分析和挖掘网络结构和节点之间的关系，揭示图数据中的模式和规律。
9. 基于规则的挖掘：通过定义和挖掘一些领域专家制定的规则，揭示数据中的潜在知识。
10. 基于统计的挖掘：利用统计方法和模型，从数据中发现统计规律和相关性。
这些方法可以单独应用于不同的数据挖掘任务，也可以结合使用以获得更好的结
果。
具体选择哪种方法取决于具体的数据集和研究目标。
数据挖掘技术的分类算法与性能评估
数据挖掘技术的分类算法与性能评估数据挖掘技术是一种通过从大量数据中发现有用信息的过程和方法。
数据挖掘技术被广泛应用于商业领域、金融领域、医疗领域等各个行业，帮助企业和组织发现隐藏在数据背后的模式和规律，帮助做出更明智的决策。
其中，分类算法是数据挖掘中最重要的技术之一，用于将数据集中的对象划分为不同的类别。
一、分类算法的分类在数据挖掘领域，有多种分类算法被广泛使用。
这些算法可以根据不同的属性进行分类，下面将介绍几种常见的分类算法。
1. 决策树算法决策树算法是一种基于树结构的分类算法，它将数据集根据特征属性的取值进行分割，并形成一个树状结构，从而进行预测和分类。
决策树算法简单易懂，可以显示特征重要性，但容易过拟合。
2. 朴素贝叶斯算法朴素贝叶斯算法是一种概率模型，以贝叶斯定理为基础，通过计算各个特征值在已知类别条件下的条件概率，对新的数据进行分类。
朴素贝叶斯算法有较高的分类准确率，并且对缺失数据具有很好的鲁棒性。
3. 支持向量机算法支持向量机算法是一种基于统计学习理论的分类算法，通过找到最优的超平面来将数据集划分为不同的类别。
支持向量机算法在处理线性可分问题时表现良好，但对于复杂的非线性问题可能会面临挑战。
4. K近邻算法K近邻算法是一种基于实例的分类算法，它根据离新数据点最近的K个邻居来判断其所属的类别。
K近邻算法简单直观，但在处理大规模数据时会比较耗时。
二、性能评估方法对于分类算法的性能评估，有多种指标和方法可以使用。
下面介绍几种常见的性能评估方法。
1. 准确率准确率是最直观的评估分类算法性能的指标，它表示分类器正确分类的样本数量占总样本数量的比例。
然而，当数据集存在不平衡的情况下，准确率可能不是一个很好的评估指标，因为算法可能更倾向于预测数量较多的类别。
2. 精确率与召回率精确率和召回率是一种用于评估分类算法性能的常用指标，尤其在存在不平衡数据集的情况下更能体现算法的表现。
精确率指分类器正确分类为阳性的样本数量与所有被分类为阳性的样本数量的比例。
数据挖掘的10大算法
数据挖掘的10大算法数据挖掘的10大算法1-决策树算法●简介：决策树是一种基于树结构的预测模型，通过分析数据集中的特征和目标变量之间的关系，来进行分类或回归分析。
●实现步骤：根据数据集中的特征和目标变量，构建一个树结构，在每个节点上根据某个特征的取值将数据集划分为子集，然后根据某个准则选择最佳的特征进行划分，继续构建子树，直到满足停止条件。
●应用场景：决策树算法常用于金融风险评估、医疗诊断、客户行为分析等领域。
2-K均值算法●简介：K均值算法是一种聚类分析的方法，通过将数据集中的样本划分为K个簇，使得簇内的样本相似度最大化，簇间的相似度最小化。
●实现步骤：随机选择K个样本作为簇的中心点，然后对每个样本计算与各簇中心的距离，将样本划分到距离最近的簇中，更新簇的中心点，重复以上过程直到簇的中心点不再改变。
●应用场景：K均值算法常用于客户分群、文本聚类、图像分割等领域。
3-支持向量机算法●简介：支持向量机是一种二分类模型，通过构造一个超平面来将不同类别的样本分开，同时最大化样本与超平面之间的间隔。
●实现步骤：选择合适的核函数，转化样本特征空间，构造目标函数并进行优化，最终得到一个能够将样本正确分类的超平面。
●应用场景：支持向量机算法常用于图像识别、文本分类、异常检测等领域。
4-朴素贝叶斯算法●简介：朴素贝叶斯算法是一种基于贝叶斯理论的分类算法，通过计算样本的后验概率来进行分类。
●实现步骤：基于训练数据集计算类别的先验概率和条件概率，然后根据贝叶斯公式计算样本属于各个类别的后验概率，选择后验概率最大的类别作为预测结果。
●应用场景：朴素贝叶斯算法常用于垃圾邮件过滤、情感分析、文本分类等领域。
5-神经网络算法●简介：神经网络是一种模拟人脑神经元网络结构的算法，通过构造多层神经元网络，通过学习调整网络中的权重和偏置，从而实现对数据的分类或回归分析。
●实现步骤：选择合适的网络结构和激活函数，通过前向传播计算网络的输出，通过反向传播更新网络中的参数，不断迭代直到网络收敛。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
数据挖掘最常见的十种方法下面介绍十种数据挖掘（Data Mining）的分析方法，以便于大家对模型的初步了解，这些都是日常挖掘中经常遇到的算法，希望对大家有用！（甚至有数据挖掘公司，用其中的一种算法就能独步天下）1、基于历史的MBR分析（Memory-Based Reasoning；MBR）基于历史的MBR分析方法最主要的概念是用已知的案例（case）来预测未来案例的一些属性（attribute），通常找寻最相似的案例来做比较。
记忆基础推理法中有两个主要的要素，分别为距离函数（distance function）与结合函数（combination function）。
距离函数的用意在找出最相似的案例；结合函数则将相似案例的属性结合起来，以供预测之用。
记忆基础推理法的优点是它容许各种型态的数据，这些数据不需服从某些假设。
另一个优点是其具备学习能力，它能藉由旧案例的学习来获取关于新案例的知识。
较令人诟病的是它需要大量的历史数据，有足够的历史数据方能做良好的预测。
此外记忆基础推理法在处理上亦较为费时，不易发现最佳的距离函数与结合函数。
其可应用的范围包括欺骗行为的侦测、客户反应预测、医学诊疗、反应的归类等方面。
2、购物篮分析（Market Basket Analysis）购物篮分析最主要的目的在于找出什么样的东西应该放在一起？商业上的应用在藉由顾客的购买行为来了解是什么样的顾客以及这些顾客为什么买这些产品，找出相关的联想（association）规则，企业藉由这些规则的挖掘获得利益与建立竞争优势。
举例来说，零售店可藉由此分析改变置物架上的商品排列或是设计吸引客户的商业套餐等等。
购物篮分析基本运作过程包含下列三点：（1）选择正确的品项：这里所指的正确乃是针对企业体而言，必须要在数以百计、千计品项中选择出真正有用的品项出来。
（2）经由对共同发生矩阵（co-occurrence matrix）的探讨挖掘出联想规则。
（3）克服实际上的限制：所选择的品项愈多，计算所耗费的资源与时间愈久（呈现指数递增），此时必须运用一些技术以降低资源与时间的损耗。
购物篮分析技术可以应用在下列问题上：（1）针对信用卡购物，能够预测未来顾客可能购买什么。
（2）对于电信与金融服务业而言，经由购物篮分析能够设计不同的服务组合以扩大利润。
（3）保险业能藉由购物篮分析侦测出可能不寻常的投保组合并作预防。
（4）对病人而言，在疗程的组合上，购物篮分析能作为是否这些疗程组合会导致并发症的判断依据。
3、决策树（Decision Trees）决策树在解决归类与预测上有着极强的能力，它以法则的方式表达，而这些法则则以一连串的问题表示出来，经由不断询问问题最终能导出所需的结果。
典型的决策树顶端是一个树根，底部有许多的树叶，它将纪录分解成不同的子集，每个子集中的字段可能都包含一个简单的法则。
此外，决策树可能有着不同的外型，例如二元树、三元树或混和的决策树型态。
4、遗传算法（Genetic Algorithm）遗传算法学习细胞演化的过程，细胞间可经由不断的选择、复制、交配、突变产生更佳的新细胞。
基因算法的运作方式也很类似，它必须预先建立好一个模式，再经由一连串类似产生新细胞过程的运作，利用适合函数（fitness function）决定所产生的后代是否与这个模式吻合，最后仅有最吻合的结果能够存活，这个程序一直运作直到此函数收敛到最佳解。
基因算法在群集（cluster）问题上有不错的表现，一般可用来辅助记忆基础推理法与类神经网络的应用。
5、聚类分析（Cluster Detection）这个技术涵盖范围相当广泛，包含基因算法、类神经网络、统计学中的群集分析都有这个功能。
它的目标为找出数据中以前未知的相似群体，在许许多多的分析中，刚开始都运用到群集侦测技术，以作为研究的开端。
6、连接分析（Link Analysis）连接分析是以数学中之图形理论（graph theory）为基础，藉由记录之间的关系发展出一个模式，它是以关系为主体，由人与人、物与物或是人与物的关系发展出相当多的应用。
例如电信服务业可藉连结分析收集到顾客使用电话的时间与频率，进而推断顾客使用偏好为何，提出有利于公司的方案。
除了电信业之外，愈来愈多的营销业者亦利用连结分析做有利于企业的研究。
7、OLAP分析（On-Line Analytic Processing；OLAP）严格说起来，OLAP分析并不算特别的一个数据挖掘技术，但是透过在线分析处理工具，使用者能更清楚的了解数据所隐藏的潜在意涵。
如同一些视觉处理技术一般，透过图表或图形等方式显现，对一般人而言，感觉会更友善。
这样的工具亦能辅助将数据转变成信息的目标。
8、神经网络（Neural Networks）神经网络是以重复学习的方法，将一串例子交与学习，使其归纳出一足以区分的样式。
若面对新的例证，神经网络即可根据其过去学习的成果归纳后，推导出新的结果，乃属于机器学习的一种。
数据挖掘的相关问题也可采类神经学习的方式，其学习效果十分正确并可做预测功能。
9、判别分析（Discriminant Analysis）当所遭遇问题它的因变量为定性（categorical），而自变量（预测变量）为定量（metric）时，判别分析为一非常适当之技术，通常应用在解决分类的问题上面。
若因变量由两个群体所构成，称之为双群体—判别分析（Two-Group Discriminant Analysis）；若由多个群体构成，则称之为多元判别分析（Multiple Discriminant Analysis；MDA）。
（1）找出预测变量的线性组合，使组间变异相对于组内变异的比值为最大，而每一个线性组合与先前已经获得的线性组合均不相关。
（2）检定各组的重心是否有差异。
（3）找出哪些预测变量具有最大的区别能力。
（4）根据新受试者的预测变量数值，将该受试者指派到某一群体。
10、罗吉斯回归分析（Logistic Analysis）当判别分析中群体不符合正态分布假设时，罗吉斯回归分析是一个很好的替代方法。
罗吉斯回归分析并非预测事件（event）是否发生，而是预测该事件的机率。
它将自变量与因变量的关系假定是S行的形状，当自变量很小时，机率值接近为零；当自变量值慢慢增加时，机率值沿着曲线增加，增加到一定程度时，曲线协率开始减小，故机率值介于0与1之间。
补充：常用数据挖掘算法频繁模式挖掘，关系挖掘，以及相互关系挖掘所谓频繁模式挖掘，指的是比如在商品交易数据库记录中，找出一起出现的商品集合，这些商品集合出现的频率要高于一个阈值，这些经常出现的商品集合称之为频繁模式。
频繁模式的思路很简单，首先统计出每个单个商品出现的次数，这就构成了一个一维表。
然后再根据一维表，商品两两组合产生一个二维表。
然后再由二维表产生三维表，直至到n维表。
其中可以利用apriori，进行剪枝，也就是说一维表中如果出现的频率低于阈值的商品，就可以直接去掉，应为包含该商品的高维商品集合的出现频率不可能高于该阈值，可以直接剪枝去掉。
频繁模式挖掘还有一种更加高效的方式，就是FP Growth，该方法通过扫描一遍数据库，在内存中构造一颗FP tree，基于这棵树就可以产生所有的频繁模式。
很显然FP Growth算法的效率要高很多，但是其缺陷也很明显，在内存中维护一颗FP tree的开销也是很大的。
为了解决这个问题，一个直接的思路是将数据库水平分表到各台机器上，在各台机器上执行本地的FP Growth，然后再将各台机器上的结果汇总起来，得到最终的FP Growth的结果。
所谓关系挖掘，值得是挖掘出各个项目之间的因果关系。
关系挖掘的基础是频繁模式挖掘，通过频繁模式挖掘，很容易得出关系，举例就很容易明白，比如我们得到一个频繁集合：那么通过排列组合可以得到l的子集集合：那么很容易得到下面的推理集合，也就是挖掘出的关系：所有的关系挖掘本质上都是基于频繁模式推导出来的。
在关系挖掘中，有一种非常有用的关系模式挖掘:mining quantitative association rules。
所谓quantitative association rules是这样一种关系模式：该关系模式的挖掘，首先是确定我们所感兴趣的属性：quan1,quan2,cat，然后根据事先确定的间隔，将quan1，quan2按照一定的间隔划分成一定的catorgory，然后进行频繁模式挖掘，得出一些关系，然后将这些关系按照grid进行聚合，生成最后的关系模式。
通过关系挖掘挖出的关系中往往有很多不是非常有用，因此需要通过另外的指标排除一些这样的关系，这个指标就是correlation，如下：Correlation是用来衡量A，B之间的相关性，从而排除那些没有意义的规则。
对于上述所提到的关系挖掘，有一种称之为constraint-based association mining，这是一种特殊的关系挖掘，它对于所挖掘出的条件加了一些限制条件，这些限制条件可能是由用户提出的，其主要目的是排除一些不感兴趣的关系。
对于这种关系挖掘，最直接的办法先按照最普通的关系挖掘方法进行挖掘，然后利用条件来对结果进行。
但是还有更好的方法，就是在挖掘的过程中利用这些条件，从而缩小整个挖掘过程中的search space，从而提高效率。
这些限制条件分为这么几种：antimonotonic，monotonic，succinct，convertible，inconvertible，针对每一种的限制条件，都有一些通用的方法或策略来缩小挖掘的search space，可参阅相关资料。
分类和预测分类树分类树是一种很常用的分类方法，它该算法的框架表述还是比较清晰的，从根节点开始不断得分治，递归，生长，直至得到最后的结果。
根节点代表整个训练样本集,通过在每个节点对某个属性的测试验证,算法递归得将数据集分成更小的数据集.某一节点对应的子树对应着原数据集中满足某一属性测试的部分数据集.这个递归过程一直进行下去。
该算法是数据挖掘中常用的一类方法。
贝叶斯分类器贝叶斯分类的思想很简单，就是计算属性和分类之间的条件概率，选择使得条件概率最大的分类作为最终的分类结果，这是一种基于统计的分类方法，得到了广泛的引用。
贝叶斯分类器分为两种，一种是朴素贝叶斯分类器，它基于贝叶斯理论：其中X代表特征向量, C代表分类.我们的目标就是找出使得这个后验概率最大的那个类.其中需要注意的是X中的各个特征分量是分布独立的.这样就有:朴素贝叶斯分类器最经典的应用场景就是垃圾邮件过滤。
朴素贝叶斯分类器的升级版本就是贝叶斯网络，因为朴素贝叶斯网络假设样本的特征向量的各个特征属性是独立的，但对于现实世界，这样的建模未必合理，因此有人就提出了贝叶斯网络，贝叶斯网络假设各个属性之间是存在条件概率的。