随机森林算法(优选.)
随机森林的公式
随机森林的公式
随机森林的公式主要包括以下几个部分：
1. 基尼不纯度公式：Gini(U) = ∑ p(ui) * (1 - p(ui))，其中p(ui)表示随机样本属于类别i的概率。
这个公式用于度量样本集的不纯度，即样本集中各类别的分布情况。
2. 熵公式：H(U) = - ∑ p(ui) * log2 p(ui)，其中p(ui)表示随机样本属于类别i的概率。
这个公式用于度量样本集的熵，即样本集中各类别的分布的混乱程度。
3. 树建立过程中的公式：基于基尼不纯度或熵公式，随机森林在构建每一棵树时，采用在每次划分中考虑k个特征的随机采样方式，并选择最优的特征进行划分，以达到减小Gini指数或增加熵值的目的。
这样可以在每一棵树中尽可能地提高分类的准确性。
4. 森林投票公式：在随机森林中，每一棵树都会对输入样本进行分类，最后通过投票的方式决定最终的分类结果。
具体来说，如果大部分树将样本分类为某一类别，那么最终的分类结果就是这一类别。
这些公式是随机森林算法的重要组成部分，它们用于度量样本集的不纯度、熵、分类准确性等指标，并指导如何建立每一棵树和如何进行最终的分类决策。
随机森林算法的原理优点和主要参数
随机森林算法的原理优点和主要参数随机森林算法的原理优点是：
1、特征和数据的随机抽样
（1）它可以处理很多高维度（特征很多）的数据，并且不用降维，无需做特征选择；
（2）如果有很大一部分的特征遗失，仍可以潍柴准确度；
（3）不容易过拟合；
2、树模型的特性
（1）较好的解释性和鲁棒性；
（2）能够自动发现特征间的高阶关系；
（3）不需要对数据进行特殊的预处理如归一化；
3、算法结构
（1）训练速度比较快，容易做成并行方法；
（2）实现起来比较简单。
随机森林算法的主要参数是：
1、n_estimators：决策树的个数，越多越好，但也不能太多。
2、criterion：决策树支持的标准是”gini”（gini系数）
or“entropy”（熵值）（default=”gini”）。
3、max_depth：树的最大深度。
4、min_samples_split：根据属性划分节点时，每个划分最少的样本数。
5、min_samples_leaf：叶子节点最少的样本数。
随机森林算法作用
随机森林算法作用随机森林（Random Forest）是一种集成学习算法，它由多个决策树组成。
随机森林算法通过集成多个弱分类器来构建一个强分类器，具有较高的准确性和泛化能力。
1. 集成学习算法的优势：集成学习算法是通过组合多个分类器的预测结果来进行决策的，不同的分类器可能有不同的预测准确性，但是当它们结合在一起时，可以提供更加准确的结果。
随机森林通过集成多个决策树来提高分类的准确性。
2. 决策树算法：决策树是一种基于树状结构进行决策的算法，它通过对输入的特征进行划分来推断输出的类别。
决策树算法的优势在于易于理解和解释，但是它往往容易过拟合，即对训练数据的预测准确性高，但是对新数据的预测准确性低。
3. 随机森林的工作原理：随机森林算法首先从训练集中通过自助采样（bootstrap sampling）得到多个训练子集。
然后，对每个训练子集构建一个决策树，构建决策树时每次从所有特征中随机选择一部分特征用于划分。
最后，对测试数据进行分类时，通过集成多个决策树的预测结果来决定最终的分类。
4. 随机森林的优势：随机森林具有以下几个优势：- 可以处理高维数据和大样本的数据集。
- 对缺失值和异常值具有较好的鲁棒性。
- 能够进行特征选择，通过计算特征的重要性评估指标，得到最优的特征子集。
- 能够有效地处理非线性特征和交互特征。
5. 随机森林的应用：- 分类问题：随机森林算法可以用于分类问题，如信用评估、医学诊断等。
- 回归问题：随机森林算法可以用于回归问题，如房价预测、销量预测等。
- 特征选择：通过计算特征的重要性评估指标，随机森林可以用于特征选择，选择出对分类或回归结果有较大影响的特征。
- 异常检测：通过比较样本与随机森林的预测结果的差异，可以用于异常检测。
总结一下，随机森林算法通过集成多个决策树的预测结果来提高分类的准确性和泛化能力。
它具有处理高维数据和大样本的能力，对缺失值和异常值具有较好的鲁棒性，能够进行特征选择，并且能够有效地处理非线性特征和交互特征。
随机森林算法
随机森林算法1.算法简介随机森林由LeoBreiman（2001）提出，它通过自助法（bootstrap）重采样技术，从原始训练样本集N中有放回地重复随机抽取k个样本生成新的训练样本集合，然后根据自助样本集生成k个分类树组成随机森林，新数据的分类结果按分类树投票多少形成的分数而定。
其实质是对决策树算法的一种改进，将多个决策树合并在一起，每棵树的建立依赖于一个独立抽取的样品，森林中的每棵树具有相同的分布，分类误差取决于每一棵树的分类能力和它们之间的相关性。
特征选择采用随机的方法去分裂每一个节点，然后比较不同情况下产生的误差。
能够检测到的内在估计误差、分类能力和相关性决定选择特征的数目。
单棵树的分类能力可能很小，但在随机产生大量的决策树后，一个测试样品可以通过每一棵树的分类结果经统计后选择最可能的分类。
2.算法原理决策树（decision tree）是一个树结构（可以是二叉树或非二叉树）。
其每个非叶节点表示一个特征属性上的测试，每个分支代表这个特征属性在某个值域上的输出，而每个叶节点存放一个类别。
使用决策树进行决策的过程就是从根节点开始，测试待分类项中相应的特征属性，并按照其值选择输出分支，直到到达叶子节点，将叶子节点存放的类别作为决策结果。
随机森林模型的基本思想是：首先，利用bootstrap抽样从原始训练集抽取k 个样本，且每个样本的样本容量都与原始训练集一样；其次，对k个样本分别建立k个决策树模型，得到k种分类结果；最后，根据k种分类结果对每个记录进行投票表决决定其最终分类，如下图所示。
在建立每一棵决策树的过程中，有两点需要注意采样与完全分裂。
首先是两个随机采样的过程，random forest对输入的数据要进行行、列的采样。
对于行采样，采用有放回的方式，也就是在采样得到的样本集合中，可能有重复的样本。
假设输入样本为N个，那么采样的样本也为N个。
这样使得在训练的时候，每一棵树的输入样本都不是全部的样本，使得相对不容易出现over-fitting。
随机森林优化调参的算法
随机森林优化调参的算法1. 引言随机森林是一种集成学习方法，由多个决策树组成。
它在解决分类和回归问题时具有很强的鲁棒性和准确性。
然而，为了获得最佳性能，我们需要对随机森林进行调参。
本文将介绍随机森林的基本原理，并提供一种优化调参的算法。
2. 随机森林基本原理随机森林由多个决策树组成，每个决策树都是通过对训练数据的自助采样（bootstrap sampling）建立起来的。
在每个决策树中，对于每个节点，在一个随机选择的特征子集上进行划分。
最终预测结果是通过多数投票或平均得到的。
随机森林有以下几个重要参数： - 树的数量（n_estimators）：决定了模型中树的数量。
较大的值可以提高模型的稳定性和准确性，但也会增加计算时间。
- 最大特征数（max_features）：在建立每个决策树时使用的特征数目。
较小的值可以减少模型复杂度，防止过拟合。
- 树的最大深度（max_depth）：决定树的最大深度。
较小的值可以减少模型复杂度，防止过拟合。
- 节点最小样本数（min_samples_split）：决定了一个节点在进行划分之前必须具有的最小样本数。
较大的值可以减少模型复杂度，防止过拟合。
为了获得最佳性能，我们需要对这些参数进行调参。
3. 随机森林优化调参算法下面介绍一种优化随机森林调参的算法，包括以下步骤：3.1 数据准备首先，我们需要准备好训练数据和测试数据。
确保数据集包含正确的标签，并将其分割成训练集和测试集。
3.2 初始参数设置设置初始参数，并定义一个空字典用于存储不同参数组合下的模型评估结果。
parameters = {'n_estimators': [50, 100, 200],'max_features': ['sqrt', 'log2'],'max_depth': [None, 10, 20],'min_samples_split': [2, 5, 10]}results = {}3.3 参数组合生成使用itertools.product生成所有可能的参数组合。
随机森林算法
随机森林算法随机森林，顾名思义就是由多棵决策树组成的一种算法（这里可以回想一下上节课讲的决策树算法的实现过程），同样既可以作为分类模型，也可以作为回归模型。
在现实中更常用作分类模型，当然它也可以作为一种特征选择方法。
而“随机”主要指两个方面：第一，随机选样本，即从原始数据集中进行有放回的抽样，得到子数据集，子数据集样本量保持与原始数据集一致，不同子数据集间的元素可以重复，同一个子数据集间的元素也可以重复。
第二，随机选特征，与随机选样本过程类似，子数据集从所有原始待选择的特征中选取一定数量的特征子集，然后从再已选择的特征子集中选择最优特征的过程。
通过每次选择的数据子集和特征子集来构成决策树，最终得到随机森林算法。
随机森林算法生成过程：1、从原始数据集中每次随机有放回抽样选取与原始数据集相同数量的样本数据，构造数据子集；2、每个数据子集从所有待选择的特征中随机选取一定数量的最优特征作为决策树的输入特征；3、根据每个数据子集分别得到每棵决策树，由多棵决策树共同组成随机森林；4、最后如果是分类问题，则按照投票的方式选取票数最多的类作为结果返回，如果是回归问题，则按照平均法选取所有决策树预测的平均值作为结果返回。
随机森林优缺点优点：1、由于是集成算法，模型精度往往比单棵决策树更高；2、每次随机选样本和特征，提高了模型抗干扰能力，泛化能力更强；3、对数据集适应能力强，可处理离散数据和缺失数据，数据规范化要求低；4、在每次随机选样本时均有1/3的样本未被选上，这部分样本通常称之为袋外数据OOB(out of bag)，可以直接拿来作为验证集，不需占用训练数据。
缺点：1、当决策树的数量较多时，训练所需要时间较长；2、模型可解释性不强，属于黑盒模型。
随机森林算法原理和步骤
随机森林算法原理和步骤随机森林算法是一种集成学习方法，它基于决策树构建而成。
随机森林算法的原理是通过构建多个决策树，并将它们集成在一起来进行预测，以提高模型的准确性和鲁棒性。
下面我会详细介绍随机森林算法的原理和步骤。
首先，随机森林算法的原理是基于Bagging（Bootstrap Aggregating）和随机特征选择。
Bagging是一种集成学习方法，它通过随机采样训练数据集来构建多个模型，再将这些模型的预测结果进行平均或投票来得到最终的预测结果。
随机特征选择是指在构建每棵决策树的过程中，对特征进行随机选择，以增加每棵树之间的差异性。
接下来是随机森林算法的步骤：1. 数据准备，首先，需要准备训练数据集，包括特征和标签。
2. 随机采样，从训练数据集中随机选择一定比例的样本，采用有放回的方式进行抽样，构成新的训练数据集。
3. 特征随机选择，对于每棵决策树的构建，从所有特征中随机选择一部分特征，以增加每棵树之间的差异性。
4. 决策树构建，使用随机选择的特征和随机采样的训练数据集来构建决策树，可以采用CART（Classification and Regression Trees）算法或者ID3（Iterative Dichotomiser 3）算法。
5. 集成预测，对于新的样本，将其输入到每棵决策树中进行预测，最后将所有树的预测结果进行平均或投票来得到最终的预测结果。
随机森林算法的优点包括能够处理高维数据和大规模数据集，具有较好的泛化能力，对缺失值不敏感，并且能够评估各个特征的重要性。
然而，随机森林算法在处理噪声较大的数据集时可能会过拟合，且对于稀有类别的预测效果可能较差。
总的来说，随机森林算法通过构建多棵决策树并进行集成预测，能够有效提高模型的准确性和鲁棒性，是一种非常实用的机器学习算法。
随机森林算法填补缺失值的数学表达
随机森林算法填补缺失值的数学表达随机森林(Random Forest)算法是一种常用的机器学习算法，它可以用于填补数据集中的缺失值。
在本文中，我们将详细介绍随机森林算法以及它如何用于填补缺失值。
1.引言数据集中的缺失值是指数据集中某些变量或特征的值缺失或不完整。
缺失值的存在可能会导致数据分析和模型建立过程中的问题，因为大多数算法无法处理缺失值。
因此，在进行数据分析和建模之前，我们需要解决缺失值的问题。
随机森林算法是一种常用的方法之一。
2.随机森林算法随机森林算法是一种集成学习算法，它由多个决策树组成。
每个决策树都是独立训练的，且具有一定的随机性。
随机森林通过对每个决策树进行投票或平均等方式来进行预测。
它具有较高的准确性和鲁棒性，并且能够处理大规模数据集。
3.填补缺失值在使用随机森林算法填补缺失值之前，首先需要确定数据集中的缺失模式。
缺失模式指的是在数据集中存在的缺失值的分布情况。
缺失模式可以分为三种类型：（1）完全随机缺失：缺失数据是完全随机的，没有与其他变量相关的特点。
（2）随机缺失：缺失数据是与其他变量相关的，但没有明显的规律。
（3）非随机缺失：缺失数据是有明显规律或者系统性的。
对于完全随机缺失，随机森林算法可以直接用于填补缺失值。
对于随机缺失和非随机缺失，我们需要通过一些策略来解决。
4.随机森林填补缺失值算法随机森林填补缺失值的算法可以分为以下几个步骤：（1）构建随机森林模型：使用数据集中不含缺失值的样本构建一个包含多个决策树的随机森林模型。
（2）缺失值预测：对于数据集中含有缺失值的样本，使用已经构建好的随机森林模型进行预测，得到缺失值的预测值。
（3）填补缺失值：将缺失值用其预测值替代。
（4）重复步骤（2）和（3）直到所有缺失值都被填补完毕。
当数据集中含有多个变量时，可以使用多个随机森林模型进行填补。
每个变量使用一个独立的模型进行填补，这样可以更好地保留变量之间的相关性。
5.随机森林填补缺失值的优势相比于传统的缺失值填补方法，使用随机森林填补缺失值具有以下优势：（1）能够处理多个变量：随机森林可以同时填补多个变量的缺失值，而不需要单独处理每个变量。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
统计预测算法选讲随机森林算法原理与应用报告人：刘思叶◆绪论◆统计预测◆统计预测发展历程◆随机森林研究现状◆分类决策树◆决策树引导◆决策树定义◆决策树构造◆决策树构造实例◆随机森林◆随机森林引导◆随机森林原理◆随机森林特性◆随机森林优化方法◆随机森林在遥感中应用何为预测？《韦伯斯特辞典》中预测的定义为：“以现有的相应资料的理论研究和分析成果来预报未来的某些事件或情况”。
“知斗则修备，时用则知物，二者形则万货之情可得而观已。
”统计预测是在大量统计资料的基础上，运用社会、经济、环境统计和数理统计方法研究事物发展变化趋势和方向的预测方法。
统计预测的方法按照其发展时间顺序可以分为以下三个阶段：◆结构计量模型阶段◆时间序列模型阶段◆数据挖掘和智能预测阶段◆结构计量模型阶段结构计量模型是先找到关于某个问题的理论，并先假定这个理论是正确的，然后根据该理论来设定具体的统计模型以用于估计和预测。
该类模型最常见的是线性回归模型。
◆时间序列模型阶段时间序列分析模型遵从的原则是利用某变量的历史数据来预测它的未来可能值，可以无须其他外生解释变量，也可以考虑考虑其它外生解释变量。
该类模型最常见得是自回归条件异方差模型。
数据挖掘和智能预测阶段信息技术以及计算机的发展，使得数据收集变得更加便捷，数据量呈爆炸式增长，比如超市的交易记录、地面的遥感图像和人体的心率数据。
尽管传统的基于数学假设的参数模型某种程度任然有用，但是大量数据的获取显然可以使得我们进一步探索系统更加精细的结构，从而使得我们获得对真实世界更加合理和接近的解释，因此数据挖掘技术至此诞生。
目前主要的数据挖掘和智能预测方法主要有：决策树、神经网络、支持随机森林向量机遗传算法和随机森林等。
1.3随机森林研究现状单模型分类方法模型往往精度不高，容易出现过拟合问题，因此很多学者往往通过组合多个多个单分类模型来提高预测精度，这些方法称为分类器组合方法。
随机森林（Random Forest,RF）是决策树的组合，每棵决策树都是通过对原始数据集中随机生成新的数据集来训练生成，随机森林决策的结果是多数决策树的决策结果。
该算法由Bireman于2001提出，并被广泛应于医学、经济学、管理和遥感等领域，例如：在生态学方面，Gislason等利用RF方法对土地的覆盖面积进行了研究，发现RF与其它组合算法相比，训练更快；在医学方面，Kouzania等人利用RF技术对肺部CT图像进行肺结核的自动检测；在遥感地理学上，Gislason等利用RF分类器进行了土地覆盖研究。
◆绪论◆统计预测◆统计预测发展历程◆随机森林研究现状◆分类决策树◆决策树引导◆决策树定义◆决策树构造◆决策树构造实例◆随机森林◆随机森林引导◆随机森林原理◆随机森林特性◆随机森林优化方法◆随机森林在遥感中应用通俗来说，决策树分类的思想类似于找对象。
女儿：多大年纪了？母亲：26。
女儿：长的帅不帅？母亲：挺帅的。
女儿：收入高不？母亲：不算很高，中等情况。
女儿：是公务员不？母亲：是，在税务局上班呢。
女儿：那好，我去见见。
假设这个女孩对男人的要求是：30岁以下、长相中等以上并且是高收入者或中等以上收入的公务员，那么这个可以用下图表示女孩的决策逻辑。
决策树定义决策树（decision tree）是一个树结构（可以是二叉树或非二叉树，一般取二叉树）。
其每个非叶节点表示一个特征属性上的测试，每个分支代表这个特征属性在某个值域上的输出，而每个叶节点存放一个类别。
使用决策树进行决策的过程就是从根节点开始，测试待分类项中相应的特征属性，并按照其值选择输出分支，直到到达叶子节点，将叶子节点存放的类别作为决策结果。
决策树构造即通过对样本数据的学习和训练，生成能够有效区分样本数据的决策树的过程。
在生成过程中往往依据某种分裂属性（增益率，信息熵等），来确定决策树内部节点的判断条件，从而将样本数据集D分为D1、D2……Dn，通常使得D1、D2……Dn的区分度较高或各自的内聚性较好，并进而对D1、D2……Dn进行递归分裂，最终获得的能够区分样本的决策树。
ID3算法ID3算法的核心思想就是以信息增益作为分裂属性，选择分裂后信息增益最大的属性进行分裂。
设D为全部样本的集合，则D的熵（entropy）表示为：将训练元组D按属性A进行划分，则A对D划分的熵为：信息增益即为两者的差值：ID3算法实例首先计算按照日志密度分类获得的信息增益：好友密度的信息增益分别是0.033和0.553。
按照好友密度进行分割得到的决策树如下：◆绪论◆统计预测◆统计预测发展历程◆随机森林研究现状◆分类决策树◆决策树引导◆决策树定义◆决策树构造◆决策树构造实例◆随机森林◆随机森林引导◆随机森林原理◆随机森林特性◆随机森林优化方法◆随机森林在遥感中应用◆单模型分类方法模型往往精度不高，容易出现过拟合问题，因此很多学者往往通过组合多个多个单分类模型来提高预测精度，这些方法称为分类器组合方法。
随机森林是为了解决单个决策树模型过拟合问题而提出的算法◆过拟合模型的分类误差可以分为训练误差（样本数据集上误差）和泛化误差（未知数据上误差）。
决策树在训练过程中，其训练误差一般随着训练数据集的增大而减小；但其泛化误差在数据集规模超过一定界限后，逐渐增加。
标准定义：给定一个假设空间H，一个假设h属于H，如果存在其他的假设h’属于H,使得在训练样例上h的错误率比h’小，但在整个实例分布上h’比h 的错误率小，那么就说假设h过度拟合训练数据。
（《Machine learing》）对过拟合的认识可以这么简单来理解这个现象，如果我们把样本数据分为有效信息和噪声信息。
在小规模数据时，随着有效信息的增加，我们对分类的标准了解也就越多，因此决策树能够正确分类的数据的比例也就上升。
但是当数据规模比较大的时候，决策树已经蕴含了大部分的有效信息，因此当新的有效信息在加入时，对决策树的改进微乎其微，然而噪声信息是一种随机的信息，噪声信息集合的测度一般来说比有效信息的测度要大，新加入的噪声信息一般不包含在已有噪声信息中，此时对决策树进行改变的信息则主要是噪声信息，因此决策树的泛化能力就逐渐下降。
◆随机森林随机森林是一种统计学习理论，它利用bootstrap重抽样方法从原始样本中抽取多个样本，然后对每个bootstrap样本进行决策树建模，然后组合成多棵决策树进行预测，并通过投票得出最终预测结果。
◆bootstrap重抽样核心思想在n个原始样本数据的范围内做有放回的抽样，样本容量仍为n，每个观测对象被抽到的概率相等，即为1/n．它是将样本看作整体，将从样本中抽样得到的子样本看作样本，把所得到的这个子样本称为Bootstrap样本。
随机森林随机森林是一种统计学习理论，它利用bootstrap重抽样方法从原始样本中抽取多个样本，然后对每个bootstrap样本进行决策树建模，然后组合成多棵决策树进行预测，并通过投票得出最终预测结果。
1.每棵决策树由样本量为K的训练样本X和随机向量θk生成2.随机向量序列{θk, k=1,2,…K}独立同分布3.随机森林即所有决策树的集合{ℎX,θk, k=1,2,…K}4.每个决策树模型ℎX,θk都有一票投票权来选择输入变量x的分类结果H x= maxY σi=1k I(ℎix=Y)其中，H x表示随机森林分类结果，ℎi x是单个决策树分类结果，Y表示分类目标，I·为示性函数，RF分类模型使用简单的投票策略来完成最终的分类随机森林随机森林优于决策树？假设1：数据样本D中元素只有两类{0,1}假设2：随机森林中每棵决策树的正确率p=0.8假设3：随机森林中每棵决策树之间相关系数0<ρ<1假设4：包含k棵决策树的随机森林的正确率，位于k棵完全相关决策树和k棵完全非相关决策树之间对于k棵完全相关决策树，由于某棵树分类正确等价于其它树分类正确，其正确率p1=p=0.8对于k棵完全非相关决策树，每棵决策树分类正确与否完全独立，服从二项分布。
k=1时: p(T)=p=0.8,p(F)=1-p=0.2k=3时：P(T)=p^3+3*p*p*(1-p)=0.896,p(F)=1-p(T)=0.104k=5时：p(T)=p^5+5*p^4*(1-p)+10*p^3*(1-p)^2=0.94208 p(F)=0.05792随机森林优于决策树？假设1：数据样本D中元素只有两类{0,1}假设2：随机森林中每棵决策树的正确率p=0.8假设3：随机森林中每棵决策树之间相关系数0<ρ<1假设4：包含k棵决策树的随机森林的正确率，位于k棵完全相关决策树和k棵完全非相关决策树之间pk收敛性定义余量函数：mr X,Y=av k IℎX,θk=Y−maxj≠Yav k IℎX,θk=jmr X,Y代表余量函数，I·为示性函数，ℎX,θk代表分类模型序列，余量函数反映了输入样本X对应的正确分类结果Y的得票数超过其他错误分类类别中得票数最多者的程度。
按照随机森林通过简单投票进行的特点定义泛化误差：PE∗=P X,Y mr X,Y<0泛化误差收敛的表示：lim k→∞PE∗=P X,Y PθℎX,θk=Y−maxj≠YPθℎX,θk=j<0意义：模型不会随着决策树数目的增加而产生过度拟合的问题泛化误差上界由契比雪夫不等式PE∗≤var X,Y mr X,Y E X,Y mr X,Y2定义单棵决策树分类强度s，决策树之间的相关性തρs=E X,Y mr X,Ysdθ=var X,Y(IℎX,θ=Y−maxj≠YIℎX,θ=j)തρ=Eθ,θ′ρθ,θ′sdθsdθ′Eθ,θ′sdθsdθ′泛化误差上界：PE∗≤ഥρ1−s 2s2意义：决策树分类强度越大，决策树间相关性越小，模型越准确◆实验性质◆优点1. 对于很多种资料，它可以产生高准确度的分类器。
2. 它可以处理大量的输入变量。
3. 它可以在决定类别时，评估变量的重要性。
4. 在建造森林时，它可以在内部对于一般化后的误差产生不偏差的估计。
5. 它包含一个好方法可以估计遗失的资料，并且，如果有很大一部分的资料遗失，仍可以维持准确度。
6. 它提供一个实验方法，可以去侦测variable interactions 。
7. 对于不平衡的分类资料集来说，它可以平衡误差。
8. 它计算各例中的亲近度，对于数据挖掘、侦测偏离者（outlier）和将资料视觉化非常有用。
9. 使用上述。
它可被延伸应用在未标记的资料上，这类资料通常是使用非监督式聚类。
也可侦测偏离者和观看资料。
10. 学习过程是很快速的。
◆实验性质◆缺点1. 随机森林已经被证明在某些噪音较大的分类或回归问题上会过拟2. 对于有不同级别的属性的数据，级别划分较多的属性会对随机森林产生更大的影响，所以随机森林在这种数据上产出的属性权值是不可信的。