3-决策树与集成算法
集成算法实例
集成算法实例集成算法，又称为集成学习（Ensemble learning），是一种通过结合多个学习模型来解决复杂问题的机器学习方法。
与单个模型相比，集成算法能够通过对多个模型进行训练和预测，获得更好的性能和鲁棒性。
在这篇文章中，我们将介绍几种常见的集成算法，包括随机森林、AdaBoost、梯度提升树和投票法，并给出相关的参考内容。
1. 随机森林（Random Forest）是一种基于决策树的集成算法。
它的基本思想是通过建立多个决策树来进行预测，并通过对每个决策树的预测结果进行投票或取平均值来得到最终的预测结果。
相比于单个决策树，随机森林能够减小过拟合的风险，并且在处理大量特征的数据时表现出色。
可以参考以下内容：- 《The Elements of Statistical Learning》（作者：Trevor Hastie、Robert Tibshirani和Jerome Friedman），这本经典的机器学习教材详细介绍了集成算法和随机森林的原理、应用和性能评估方法。
- 《Random Forests》（作者：Leo Breiman），这是一篇关于随机森林原理的经典论文。
它介绍了随机森林的基本思想、构建方法和性能评估，并提供了一些实际应用案例。
2. AdaBoost（Adaptive Boosting）是一种基于弱分类器的集成算法。
它通过多次迭代训练，每一次都根据上一次的分类结果调整样本的权重，使得被错误分类的样本更受关注，从而逐步提高整体分类效果。
AdaBoost在处理高维数据和处理噪声数据时具有优势。
可以参考以下内容：- 《A Short Introduction to Boosting》（作者：Yoav Freund和Robert E. Schapire），这是一篇简明扼要介绍AdaBoost算法的论文。
它解释了AdaBoost的基本思想、算法步骤和性能分析，并提供了一些案例和实验结果。
数据挖掘十大经典算法
数据挖掘十大经典算法数据挖掘是一种通过计算机科学的方法，从大量数据中挖掘出有用的信息和知识的过程。
在这个过程中，数据挖掘算法扮演着非常重要的角色，它们能够帮助我们从数据中抽取出精华，更好地理解和利用数据。
下面是十大经典数据挖掘算法。
1. K-Means算法：K-Means算法是一种聚类算法，可以将数据集分成K个不同的类别。
这种算法的基本思想是将数据分成若干个类别，使得同一类别内的数据点的距离比其他类别内的数据点的距离更短。
2. Apriori算法：Apriori算法是一种关联规则挖掘算法，可以用来发现最常见的数据项之间的关联性。
这种算法基于频繁项集的概念，通过计算数据中频繁项集的支持度和置信度来挖掘关联规则。
3. 决策树算法：决策树算法是一种基于树结构的分类算法，可以将数据集分成若干个不同的类别。
这种算法的基本思想是通过递归地将数据集划分成不同的子集，直到子集中所有数据都属于同一类别为止。
4. SVM算法：SVM算法是一种基于统计学习理论的分类算法，可以用于解决非线性问题。
这种算法的基本思想是将数据集映射到高维空间中，然后在高维空间中建立超平面，将不同类别的数据分开。
5. 神经网络算法：神经网络算法是一种模拟人脑神经系统的分类算法，可以用来处理非线性问题。
这种算法的基本思想是通过构建一个多层的神经网络，将输入数据映射到输出数据。
6. 贝叶斯分类算法：贝叶斯分类算法是一种基于贝叶斯定理的分类算法，可以用来预测数据的类别。
这种算法的基本思想是根据已知数据的先验概率和新数据的特征，计算这个数据属于不同类别的概率，然后选择概率最大的类别作为预测结果。
7. 随机森林算法：随机森林算法是一种基于决策树的集成算法，可以用来处理大量的数据和高维数据。
这种算法的基本思想是通过随机选取特征和样本，构建多个决策树，然后将多个决策树的结果汇总，得到最终的分类结果。
8. Adaboost算法：Adaboost算法是一种基于加权的集成算法，可以用来提高分类算法的准确率。
机器学习常见算法分类
机器学习常见算法分类机器学习算法主要可以分为监督学习、无监督学习和强化学习三大类。
在这三大类下，又可以进一步细分为多个具体的算法。
1.监督学习算法：- 线性回归（Linear Regression）: 基于线性模型，通过最小化预测与实际值之间的差距进行训练。
- 逻辑回归（Logistic Regression）: 用于二分类问题，通过建立逻辑回归模型，将输入映射到一个概率值。
- 决策树（Decision Tree）: 通过一系列判断节点和叶节点的组合，建立一个树形结构的分类模型。
- 支持向量机（Support Vector Machine，SVM）: 通过寻找最大间隔来划分不同类别之间的边界。
- 随机森林（Random Forest）: 基于多个决策树的集成算法，通过投票选择最终结果。
- K近邻算法（K-Nearest Neighbors，KNN）: 根据新样本与训练样本之间的距离来确定分类。
2.无监督学习算法：无监督学习是指从输入数据中寻找隐藏结构或模式，而不需要预先标记的训练数据。
常见的无监督学习算法包括：- 聚类算法（Clustering）: 将数据分成不同的簇，使得同一簇内的数据相似度较高，不同簇间的数据差异较大。
- K均值算法（K-Means）: 将数据分成K个簇，每个簇中的数据与该簇的中心点距离最近。
-DBSCAN:根据数据点的密度划分簇，具有自动确定簇个数的能力。
- 关联规则学习（Association Rule Learning）: 发现数据中的关联规则，例如购物篮分析等。
3.强化学习算法：强化学习是一种与环境进行交互的学习方式，通过试错而不是通过标记的训练数据进行学习。
常见的强化学习算法包括：- Q学习（Q-Learning）: 通过探索和利用的方式学习到一个动作值函数，用于选择在给定状态下的最优动作。
- 深度强化学习（Deep Reinforcement Learning）: 结合深度神经网络和强化学习的方法，用于处理高维、复杂的任务。
七种分类算法的特点
通常将分类算法分为以下七种：决策树、朴素贝叶斯、逻辑回归、K-最近邻、支持向量机、神经网络和集成学习。
这些算法都有各自的特点和应用场景。
1. 决策树：它利用树形结构，根据样本属性划分节点，直到达到叶子节点，叶子节点即为类别。
其优点包括易于理解和解释，对于数据的准备往往是简单或者不必要的，能够同时处理数据型和常规型属性，是一个白盒模型等。
2. 朴素贝叶斯：基于贝叶斯定理与特征条件独立假设的算法，该算法是一种有监督的学习模型，主要用于解决分类问题。
3. 逻辑回归：虽然名字中有“回归”，但它实际上是一种分类算法，用于解决二分类问题。
4. K-最近邻(KNN)：这是一个基于距离度量的算法，主要适用于数值型数据。
5. 支持向量机(SVM)：这是一种二分类模型，它的基本模型是定义在特征空间上的间隔最大的线性分类器，间隔最大使它有别于感知机。
6. 神经网络：它是一种模拟人脑神经元工作原理的算法，可以处理大量非线性数据。
7. 集成学习：通过组合多个基学习器的预测结果来进行分类，常见的方法有Bagging和Boosting。
数据挖掘领域的十大经典算法原理及应用
数据挖掘领域的十大经典算法原理及应用数据挖掘是指从大量的数据中发现关联规则、分类模型、聚类模型等有用的信息的过程。
以下是数据挖掘领域的十大经典算法原理及应用：1. 决策树算法（Decision Tree）决策树是一种基于树形结构的分类模型，它通过构建树来将输入数据集划分为不同的类别。
决策树算法在金融风险评估、医疗诊断等领域有广泛应用。
2. 支持向量机算法（Support Vector Machine，SVM）支持向量机是一种二分类模型，其目标是在高维空间中找到一个最优的超平面，将不同类别的样本分离开来。
SVM在图像识别、文本分类等领域有广泛应用。
3. 神经网络算法（Neural Network）神经网络模拟人脑的工作原理，通过连接众多的神经元来完成学习和预测任务。
神经网络在图像处理、自然语言处理等领域有广泛应用。
4. 朴素贝叶斯算法（Naive Bayes）朴素贝叶斯算法是一种基于贝叶斯定理的统计分类方法，它假设所有特征之间相互独立，并通过计算后验概率来进行分类。
朴素贝叶斯在垃圾邮件过滤、文本分类等领域有广泛应用。
5. K均值聚类算法（K-means Clustering）K均值聚类是一种无监督学习算法，它通过将样本分成K个簇来实现数据的聚类。
K均值聚类在市场细分、客户群体分析等领域有广泛应用。
6. Apriori算法Apriori算法是一种频繁项集挖掘算法，它可以找出数据集中项之间的关联关系。
Apriori算法在购物篮分析、推荐系统等领域有广泛应用。
7. PageRank算法PageRank算法是一种用于网页排序的算法，它通过计算网页之间的链接关系来确定网页的重要性。
PageRank算法在引擎领域有广泛应用。
8. 随机森林算法（Random Forest）随机森林是一种集成学习算法，它通过构建多个决策树，并通过投票方式来进行分类或回归。
随机森林在金融风险评估、信用评分等领域有广泛应用。
9. AdaBoost算法AdaBoost是一种迭代的强学习算法，它通过调整样本权重来训练多个弱分类器，并通过加权投票方式来进行分类。
13种ai智能算法
13种ai智能算法以下是13种常见的AI智能算法：1.K-近邻算法（K-Nearest Neighbors，KNN）：根据周围K个最近邻的类别来预测未知数据的类别。
K值的选择和距离度量方式对结果影响较大。
2.决策树算法（Decision Trees）：通过将数据集划分为若干个子集，并根据每个子集的特征进行进一步的划分，从而构建一棵树状结构。
决策树的分支准则通常基于信息增益或信息熵等指标。
3.随机森林算法（Random Forests）：通过构建多个决策树，并对它们的预测结果进行投票来预测未知数据的类别。
随机森林算法能够提高预测的准确性和稳定性。
4.梯度提升树算法（Gradient Boosting Trees，GBRT）：通过迭代地添加新的决策树来优化损失函数，从而逐步提高预测的准确性。
梯度提升树算法通常能够处理非线性关系和解决过拟合问题。
5.支持向量机算法（Support Vector Machines，SVM）：通过将数据映射到高维空间中，并寻找一个超平面将不同类别的数据分隔开来。
SVM算法通常用于分类和回归任务。
6.线性回归算法（Linear Regression）：通过拟合一个线性模型来预测连续数值型数据的目标变量。
线性回归算法可以解决回归问题，即预测数值型目标变量。
7.逻辑回归算法（Logistic Regression）：通过拟合一个逻辑函数来预测离散二元型数据的目标变量。
逻辑回归算法可以解决分类问题，即预测离散二元型目标变量。
8.朴素贝叶斯算法（Naive Bayes）：基于贝叶斯定理和特征条件独立假设来预测未知数据的类别。
朴素贝叶斯算法通常用于文本分类和垃圾邮件过滤等任务。
9.集成学习算法（Ensemble Learning）：通过将多个学习模型（如决策树、SVM等）的预测结果进行集成，从而提高预测的准确性和稳定性。
常见的集成学习算法有Bagging和Boosting两种类型。
10.决策树桩算法（Decision Stump）：通过对每个特征进行一次划分来构建一个单层决策树，从而简化决策树的构建过程。
决策树(完整)
无缺失值样本中在属性 上取值 的样本所占比例
ቤተ መጻሕፍቲ ባይዱ
谢谢大家！
举例：求解划分根结点的最优划分属性
根结点的信息熵：
用“色泽”将根结点划分后获得3个分支结点的信息熵分别为：
属性“色泽”的信息增益为：
若把“编号”也作为一个候选划分属性，则属性“编号”的信息增益为：
根结点的信息熵仍为：
用“编号”将根结点划分后获得17个分支结点的信息熵均为：
则“编号”的信息增益为：
三种度量结点“纯度”的指标：信息增益增益率基尼指数
1. 信息增益
香农提出了“信息熵”的概念，解决了对信息的量化度量问题。香农用“信息熵”的概念来描述信源的不确定性。
信息熵
信息增益
一般而言，信息增益越大，则意味着使用属性a来进行划分所获得的“纯度提升”越大。决策树算法第8行选择属性
著名的ID3决策树算法
远大于其他候选属性信息增益准则对可取值数目较多的属性有所偏好
2. 增益率
增益率准则对可取值数目较少的属性有所偏好著名的C4.5决策树算法综合了信息增益准则和信息率准则的特点：先从候选划分属性中找出信息增益高于平均水平的属性，再从中选择增益率最高的。
3. 基尼指数
基尼值
基尼指数
著名的CART决策树算法
过拟合：学习器学习能力过于强大，把训练样本自身的一些特点当作了所有潜在样本都会具有的一般性质，导致泛化性能下降。欠拟合：学习器学习能力低下，对训练样本的一般性质尚未学好。
过拟合无法彻底避免，只能做到“缓解”。
不足：基于“贪心”本质禁止某些分支展开，带来了欠拟合的风险
预剪枝使得决策树的很多分支都没有“展开”优点：降低过拟合的风险减少了训练时间开销和测试时间开销
大数据的经典的四种算法
大数据的经典的四种算法大数据经典的四种算法一、Apriori算法Apriori算法是一种经典的关联规则挖掘算法，用于发现数据集中的频繁项集和关联规则。
它的基本思想是通过迭代的方式，从单个项开始，不断增加项的数量，直到不能再生成频繁项集为止。
Apriori算法的核心是使用Apriori原理，即如果一个项集是频繁的，则它的所有子集也一定是频繁的。
这个原理可以帮助减少候选项集的数量，提高算法的效率。
Apriori算法的输入是一个事务数据库，输出是频繁项集和关联规则。
二、K-means算法K-means算法是一种聚类算法，用于将数据集划分成K个不同的类别。
它的基本思想是通过迭代的方式，不断调整类别中心，使得每个样本点都属于距离最近的类别中心。
K-means算法的核心是使用欧氏距离来度量样本点与类别中心的距离。
算法的输入是一个数据集和预设的类别数量K，输出是每个样本点所属的类别。
三、决策树算法决策树算法是一种分类和回归算法，用于根据数据集中的特征属性，构建一棵树形结构，用于预测目标属性的取值。
它的基本思想是通过递归的方式，将数据集分割成更小的子集，直到子集中的样本点都属于同一类别或达到停止条件。
决策树算法的核心是选择最佳的划分属性和划分点。
算法的输入是一个数据集，输出是一个决策树模型。
四、朴素贝叶斯算法朴素贝叶斯算法是一种基于贝叶斯定理的分类算法，用于根据数据集中的特征属性，预测目标属性的取值。
它的基本思想是假设特征属性之间相互独立，通过计算后验概率来进行分类。
朴素贝叶斯算法的核心是使用贝叶斯定理和条件独立性假设。
算法的输入是一个数据集，输出是一个分类模型。
五、支持向量机算法支持向量机算法是一种用于分类和回归的机器学习算法，用于找到一个超平面，将不同类别的样本点分开。
它的基本思想是找到一个最优的超平面，使得离它最近的样本点到超平面的距离最大化。
支持向量机算法的核心是通过求解凸二次规划问题来确定超平面。
算法的输入是一个数据集，输出是一个分类或回归模型。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
树模型
决策树：从根节点开始一步步走到叶子节点（决策）
所有的数据最终都会落到叶子节点，既可以做分类也可以做回归
树的组成
根节点：第一个选择点
非叶子节点与分支：中间过程叶子节点：最终的决策结果
决策树的训练与测试
训练阶段：从给定的训练集构造出来一棵树（从跟节点开始选择特征，如何进行特征切分）
测试阶段：根据构造出来的树模型从上到下去走一遍就好了
一旦构造好了决策树，那么分类或者预测任务就很简单了，只需要走一遍就可以了，那么难点就在于如何构造出来一颗树，这就没那么容易了，需要考虑的问题还有很多的！
如何切分特征（选择节点）
问题：根节点的选择该用哪个特征呢？接下来呢？如何切分呢？
想象一下：我们的目标应该是根节点就像一个老大似的能更好的切分数据（分类的效果更好），根节点下面的节点自然就是二当家了。
目标：通过一种衡量标准，来计算通过不同特征进行分支选择后的分类情况，找出来最好的那个当成根节点，以此类推。
衡量标准-熵
熵：熵是表示随机变量不确定性的度量
（解释：说白了就是物体内部的混乱程度，比如杂货市场里面什么都有那肯定混乱呀，专卖店里面只卖一个牌子的那就稳定多啦）
公式：H(X)=-∑ pi * logpi, i=1,2, ... , n
一个栗子：A集合[1,1,1,1,1,1,1,1,2,2]
B集合[1,2,3,4,5,6,7,8,9,1]
显然A集合的熵值要低，因为A里面只有两种类别，相对稳定一些
而B中类别太多了，熵值就会大很多。
（在分类任务中我们希望通过节点分支后数据类别的熵值大还是小呢？）
衡量标准-熵
熵：不确定性越大，得到的熵值也就越大
当p=0或p=1时，H(p)=0,随机变量完全没有不确定性当p=0.5时，H(p)=1,此时随机变量的不确定性最大
如何决策一个节点的选择呢？
信息增益：表示特征X使得类Y的不确定性减少的程度。
（分类后的专一性，希望分类后的结果是同类在一起）
决策树构造实例
数据：14天打球情况特征：4种环境变化目标：构造决策树
决策树构造实例
划分方式：4种
问题：谁当根节点呢？依据：信息增益
决策树构造实例
在历史数据中（14天）有9天打球，5天不打球，所以此时的熵应为：
4个特征逐一分析，先从outlook特征开始：
Outlook = sunny时，熵值为0.971
Outlook = overcast时，熵值为0
Outlook = rainy时，熵值为0.971
决策树构造实例
根据数据统计，outlook取值分别为sunny,overcast,rainy的概率分别为：
5/14, 4/14, 5/14
熵值计算：5/14 * 0.971 + 4/14 * 0 + 5/14 * 0.971 = 0.693
（gain(temperature)=0.029 gain(humidity)=0.152 gain(windy)=0.048）信息增益：系统的熵值从原始的0.940下降到了0.693，增益为0.247
同样的方式可以计算出其他特征的信息增益，那么我们选择最大的那个
就可以啦，相当于是遍历了一遍特征，找出来了大当家，然后再其余的
中继续通过信息增益找二当家！
决策树算法
ID3：信息增益（有什么问题呢？）
C4.5：信息增益率（解决ID3问题，考虑自身熵）CART：使用GINI系数来当做衡量标准
GINI系数：
（和熵的衡量标准类似，计算方式不相同）
连续值怎么办？
决策树剪枝策略
为什么要剪枝：决策树过拟合风险很大，理论上可以完全分得开数据（想象一下，如果树足够庞大，每个叶子节点不就一个数据了嘛）
剪枝策略：预剪枝，后剪枝
预剪枝：边建立决策树边进行剪枝的操作（更实用）
后剪枝：当建立完决策树后来进行剪枝操作
决策树剪枝策略
预剪枝：限制深度，叶子节点个数叶子节点样本数，信息增益量等
后剪枝：通过一定的衡量标准
（叶子节点越多，损失越大）
Ensemble learning
目的：让机器学习效果更好，单个不行，群殴走起
Bagging：训练多个分类器取平均
Boosting：从弱学习器开始加强，通过加权来进行训练
（加入一棵树，要比原来强）Stacking ：聚合多个分类或回归模型（可以分阶段来做）
Bagging 模型
全称：bootstrap aggregation
（说白了就是并行训练一堆分类器）最典型的代表就是随机森林啦森林：很多个决策树并行放在一起
随机：数据采样随机，特征选择随机
随机森林
构造树模型：
由于二重随机性，使得每个树基本上都不会一样，最终的结果也会不一样
Bagging模型
树模型：
之所以要进行随机，是要保证泛化能力，如果树都一样，那就没意义了！
随机森林优势
它能够处理很高维度（feature
很多）的数据，并且不用做特征选择在训练完后，它能够给出哪些feature 比较重要可以进行可视化展示，便于分析容易做成并行化方法，速度比较快
Bagging模型
KNN模型：
KNN就不太适合，因为很难去随机让泛化能力变强！
Bagging模型
树模型：
理论上越多的树效果会越好，但实际上基本超过一定数量就差不多上下浮动了
Boosting 模型
典型代表：AdaBoost ，
Xgboost Adaboost 会根据前一次的分类效果调整数据权重最终的结果：每个分类器根据自身的准确性来确定各自的权重，再合体解释：如果某一个数据在这次分错了，那么在下一次我就会给它更大的权重
Adaboost工作流程
每一次切一刀！
最终合在一起
弱分类器这就升级了！
Stacking模型
堆叠：很暴力，拿来一堆直接上（各种分类器都来了）
可以堆叠各种各样的分类器（KNN,SVM,RF等等）
分阶段：第一阶段得出各自结果，第二阶段再用前一阶段结果训练为了刷结果，不择手段！
Stacking模型
堆叠在一起确实能使得准确率提升，但是速度是个问题
集成算法是竞赛与论文神器，当我们更关注于结果时不妨来试试！。