快速多分类器集成算法研究

合集下载

集成学习Boosting算法综述

集成学习Boosting算法综述一、本文概述本文旨在全面综述集成学习中的Boosting算法，探讨其发展历程、基本原理、主要特点以及在各个领域的应用现状。

Boosting算法作为集成学习中的一类重要方法，通过迭代地调整训练数据的权重或分布，将多个弱学习器集合成一个强学习器，从而提高预测精度和泛化能力。

本文将从Boosting算法的基本概念出发，详细介绍其发展历程中的代表性算法，如AdaBoost、GBDT、GBoost等，并探讨它们在分类、回归等任务中的性能表现。

本文还将对Boosting算法在各个领域的应用进行综述，以期为读者提供全面、深入的Boosting 算法理解和应用参考。

二、Boosting算法概述Boosting算法是一种集成学习技术，其核心思想是将多个弱学习器（weak learner）通过某种策略进行组合，从而形成一个强学习器（strong learner）。

Boosting算法的主要目标是提高学习算法的精度和鲁棒性。

在Boosting过程中，每个弱学习器都针对前一个学习器错误分类的样本进行重点关注，从而逐步改善分类效果。

Boosting算法的基本流程如下：对训练集进行初始化权重分配，使得每个样本的权重相等。

然后，使用带权重的训练集训练一个弱学习器，并根据其分类效果调整样本权重，使得错误分类的样本权重增加，正确分类的样本权重减少。

接下来，使用调整后的权重训练下一个弱学习器，并重复上述过程，直到达到预定的弱学习器数量或满足其他停止条件。

将所有弱学习器进行加权组合，形成一个强学习器，用于对新样本进行分类或预测。

Boosting算法有多种变体，其中最具代表性的是AdaBoost算法。

AdaBoost算法采用指数损失函数作为优化目标，通过迭代地训练弱学习器并更新样本权重，逐步提高分类精度。

还有GBDT（Gradient Boosting Decision Tree）、GBoost、LightGBM等基于决策树的Boosting算法，它们在处理大规模数据集和高维特征时表现出良好的性能。

机器学习技术中的多标签分类问题解决方法

机器学习技术中的多标签分类问题解决方法在机器学习领域中，分类问题一直是一个重要的研究方向。

传统的分类问题通常是将输入样本分配到预定义的单个类别中。

然而，在现实生活中，很多样本可能属于多个不同的类别，这就引出了多标签分类问题。

多标签分类问题可以描述为给定一个样本，预测其对应的多个标签。

解决多标签分类问题的方法有很多种，下面将介绍几种常用的方法。

1. 问题转化方法问题转化方法是将多标签分类问题转化为多个独立的单标签分类问题。

常用的转化方法有二进制关联、标签级联和问题转变方法。

- 二进制关联是将每个标签视为一个独立的二分类问题。

对于每个标签，训练一个二分类模型来判断样本是否属于该标签。

这种方法简单直接，但忽略了标签之间的关联。

- 标签级联是依次训练多个分类器，每个分类器预测一个标签。

每个分类器的训练样本由前面的分类器预测的结果进行调整。

这种方法考虑了标签之间的顺序关系，但忽略了标签之间的相关性。

- 问题转变方法是将多标签分类问题转化为单标签分类问题。

根据样本的标签情况，将多标签问题转化为一系列的单标签问题。

例如，可以将多标签问题转化为多个二分类问题，每个二分类问题用来判断样本是否属于某个标签或不属于任何标签。

这种方法可以充分利用现有的单标签分类方法，但会引入标签之间的错误传播问题。

2. 算法改进方法除了问题转化方法，还有一些针对多标签分类问题的算法改进方法。

- One-vs-Rest (OvR) 方法：OvR 方法是将多标签问题转化为多个二分类问题。

对于每个标签，训练一个二分类模型以区分该标签是否出现。

最后，将每个二分类模型的预测结果组合起来得到最终的多标签分类结果。

- K-Nearest Neighbors (KNN) 方法：KNN 方法是一种基于实例的方法。

对于一个待分类的样本，KNN 方法会找出其最近的 K 个邻居，并基于这 K 个邻居的标签情况进行分类。

KNN 方法可以灵活地处理多标签问题，但对于大规模数据集可能计算开销较大。

多集成算法

多集成算法多集成算法是机器学习领域中常用的一种方法，它通过结合多个基分类器的预测结果来提高整体的预测准确性和鲁棒性。

本文将介绍多集成算法的概念、常见的几种算法以及其在实际应用中的优势和局限性。

一、多集成算法的概念多集成算法是指将多个基分类器（也称为弱分类器）的预测结果进行组合，得到一个综合的预测结果的方法。

这样的组合可以通过多种方式实现，例如加权平均、投票、堆叠等。

多集成算法的基本思想是通过结合多个弱分类器的优点，弥补单个分类器的缺点，从而提高整体的分类性能。

二、常见的多集成算法1. Bagging（装袋法）Bagging是Bootstrap Aggregating的缩写，它通过随机有放回地从原始训练集中抽取多个子训练集，然后使用这些子训练集分别训练多个基分类器。

最后，通过对这些基分类器的预测结果进行投票或平均，得到最终的预测结果。

2. Boosting（提升法）Boosting是一种迭代的方法，它通过训练一系列的基分类器，每个基分类器都试图修正前一个分类器的错误。

在Boosting过程中，每个样本都会被赋予一个权重，这些权重会根据前一个基分类器的预测结果进行调整。

Boosting算法最终将这些基分类器的预测结果进行加权结合，得到最终的预测结果。

3. Random Forest（随机森林）随机森林是一种基于决策树的集成算法。

它通过随机选择特征子集和样本子集，训练多个决策树。

最后，通过对这些决策树的预测结果进行投票，得到最终的预测结果。

随机森林具有较好的鲁棒性和泛化能力，并且可以处理高维数据和大规模数据。

4. Stacking（堆叠法）堆叠法是一种将多个基分类器进行堆叠，形成一个更强大的元分类器的方法。

在堆叠过程中，首先将原始训练集分成两部分，一部分用于训练多个基分类器，另一部分用于训练元分类器。

然后，将这些基分类器的预测结果作为元分类器的输入特征，通过元分类器进行预测。

三、多集成算法的优势和局限性多集成算法具有以下优势：1. 提高预测准确性：通过结合多个基分类器的预测结果，多集成算法可以减少单个分类器的错误率，提高整体的预测准确性。

基于旋转森林的分类器集成算法研究

基于旋转森林的分类器集成算法研究邵良杉;马寒【摘要】为提高决策树的集成分类精度,介绍了一种基于特征变换的旋转森林分类器集成算法,通过对数据属性集的随机分割,并在属性子集上对抽取的子样本数据进行主成分分析,以构造新的样本数据,达到增大基分类器差异性及提高预测准确率的目的.在Weka平台下,分别采用Bagging、 AdaBoost及旋转森林算法对剪枝与未剪枝的J48决策树分类算法进行集成的对比试验,以10次10折交叉验证的平均准确率为比较依据.结果表明旋转森林算法的预测精度优于其他两个算法,验证了旋转森林是一种有效的决策树分类器集成算法.【期刊名称】《计算机工程与应用》【年(卷),期】2015(051)023【总页数】6页(P149-154)【关键词】旋转森林;分类器集成;主成分分析;决策树【作者】邵良杉;马寒【作者单位】辽宁工程技术大学系统工程研究所,辽宁葫芦岛125105;辽宁工程技术大学系统工程研究所,辽宁葫芦岛125105【正文语种】中文【中图分类】TP181990年，Schapire[1]在 PAC（Probably Approximately Correct）学习模型[2]的基础上分析并证明了弱学习算法与强学习算法的等价性，即可通过集成，把好于随机猜测的弱学习算法提升为强学习算法。

此后，集成学习逐渐成为机器学习领域众多学者关注与研究的热点问题[3]。

Bagging[4]和AdaBoost[5]是集成学习领域中的两个重要的集成策略。

Bagging方法通过在原始数据集上有放回地等概率抽取多个自助子样本，分别在每个子样本上训练基分类器，而最后的分类结果则由最大投票策略来决定。

AdaBoost方法则是迭代式的训练基分类器，不断调整样本权重，增加错分样本权重，减少正确分类样本权重，以每个基分类器的错误率来计算该分类器的重要性，各分类器预测根据其重要性加权，最大加权预测值为最后输出分类结果。

基分类器的差异性是影响集成效果的一个重要因素[6]，然而以上两种方法在此方面有所欠缺。

机器学习中的多分类问题

机器学习中的多分类问题机器学习是人工智能领域的关键技术之一，它的应用领域十分广泛，从语音识别、图像识别到金融风控等，都有着广泛和深入的应用。

而在机器学习中，多分类问题是一个非常重要的研究方向，本文将着重探讨机器学习中的多分类问题。

一、多分类问题简介多分类问题是指在一个数据集中，需要将数据分成三个或三个以上的类别。

这种问题常常出现在实际生活中，比如我们想通过若干个指标（年龄、性别、受教育水平等）来预测某个人是否患有某种疾病，或者想在商品评论中判断某篇评论的情感倾向，这时就需要用到多分类问题的解决方法。

二、分类算法的种类在机器学习中，分类算法可以分为线性分类算法、非线性分类算法和集成分类算法三种类型。

1. 线性分类算法线性分类算法是一种非常简单的分类方法，这种算法建立了一个线性方程，将数据集分成不同的类别。

最常见的线性分类算法包括逻辑回归、线性判别分析和支持向量机等。

逻辑回归是一种常见的分类算法，它可以将样本分为两类。

在逻辑回归中，我们将变量与某种分层后的结果之间的函数关系表示为概率函数，进而进行相关的分析和预测。

2. 非线性分类算法非线性分类算法适用于不是线性分布的数据，其表现在数据空间中的可视化通常是一个曲线或者复杂的图形。

非线性分类算法包括决策树、朴素贝叶斯、神经网络等。

其中，决策树是一种基于树形结构的分类算法，它通过逐步划分样本，最终确定样本分类的过程，是一种非常直观的分类方法。

3. 集成分类算法集成分类算法通过将多个分类器集成起来建立一个更智能，更强大的分类器。

常用的集成分类算法包括Bagging、Boosting、随机森林等。

随机森林是一种通过样本随机采样的方式，多次建立决策树，从而得到一个更为稳定的结果。

三、多分类问题解决方案在多分类问题中，我们可以通过多种方法来解决分类问题。

这里介绍两个常用的方法：一对一（one-vs-one）和一对多（one-vs-all）。

1. 一对一一对一方法是在任意两个不同的类别之间建立一个分类器，并且在最终结果中选择出现次数最多的类别。

分布式环境下多分类器识别和应用的开题报告

分布式环境下多分类器识别和应用的开题报告一、研究背景随着大数据和云计算等技术的不断发展，分布式计算成为一种趋势。

在传统的单机环境下，使用单个分类器对数据进行分类，但是在海量数据且实时性要求高的情况下，单个分类器处理效率会受到限制。

为了提高分类的准确率和速度，多分类器技术被广泛应用。

多分类器分别处理数据，并将处理结果集成起来，提高了分类的准确率，同时分布式多分类器的并行处理能力也大大提高了分类的速度。

因此，研究分布式环境下多分类器的识别与应用，有重要的理论和实际意义。

二、研究目的本研究的目的是探讨分布式环境下多分类器的识别与应用。

具体包括以下方面：1. 构建基于Hadoop的分布式数据处理平台，实现大数据集的处理和分布式多分类器的并行处理。

2. 研究分布式多分类器的算法，探讨分类器之间的集成方法，提高分类的准确率和稳定性。

3. 基于实际数据集，使用分布式多分类器进行图像识别、语音识别、文本分类等应用，验证算法的有效性和实用性。

三、研究内容1. 分布式数据处理平台的搭建通过搭建基于Hadoop的分布式数据处理平台，实现对大规模数据的处理和管理。

在平台中，使用MapReduce框架实现多分类器的并行处理。

2. 分布式多分类器算法的研究在多分类器中，使用不同的分类器适应不同的数据类型和特点。

在分类器的基础上，研究集成多个分类器的方法，以提高分类的准确度和可靠性。

3. 分布式多分类器应用的研究在分布式环境下，使用多分类器处理图像、语音和文本数据，并对处理结果进行比较和分析。

在实验中，对比不同的分类器和集成方法，验证算法的有效性和实用性。

四、研究意义本研究的意义在于：1. 探究分布式多分类器技术的研究和应用，在海量数据处理和实时性要求高的场景中具有重要作用。

2. 提出分布式多分类器算法的集成方法，并验证其有效性和实用性。

3. 构建基于Hadoop的分布式平台，为分布式多分类器技术的研究和应用提供基础。

五、研究方法本研究涉及到分布式计算、数据挖掘和机器学习等领域的知识，采用实验和理论相结合的方法进行研究。

基于随机子空间的多分类器集成

并投影，并得到子空间上的基分类器，而通过基分类器构成集成分类器，由集成分类器来进行文本的分类．从并将该算法与单一
分类器和基于重抽样技术的ｂｎ算法进行了比较，ａｇ在标准数据集上进行了实验．结果表明，该方法不仅优于单一分类器的分
类性能，而且一定程度上优于ｂｇｉｇａｇｎ算法．
Ｆｒ，ｎａｐｏｒｔｆｔｒｓｂｅｓｅｉｓｌｃｄｔｅｕｓｔｏａｒｓａｎｏｌａｄｐｏｃｄｏｅｔｉｎｉｔａｐｒｐａａｕｅｕｓｔｉｅｔ，ｈｎｓｂｅｆｅｔｅｒｒｄｍｙｎｒｅｔｎｔａｎｇｓｉｅｅｚｓｅｅｓｆｕｅａｊｅｈｒｉ
近年来，集成学习已成为模式识别研究的热点问题，已在模式识别的多个应用方面，如字符识别、并目标识别、文本分类等领域，获得了较好的应用效果．集成学习的研究被Ｄｅｅｉｉｔｃ为是当前机器学习的ｔｒｈ认
ＹｅＹｕｌｎｎｏｇ，ＹａｇＭｉｇｎｎ
（ｃｏｌｆｔｅｔｓｎｏｐｔｃｅｃ，Ｎｎｉｏｍｌｎｖｒｔ，Ｎｎｉｇ２０９ＣｉａＳｈｏｈｍａｃｄＣｍｕｅＳｉｅａｊｇＮｒａＵｉｓｙａｊ１０７，ｈｎ）ｏＭａｉａｒｎｎｅｉｎ
ｓｔａｄｔｅｐｍａｙｃａｓｅｆｓｂｐｃｅｏｔｉｅ，ａｄｔｕｎｅｌｄｃａｓｆｒｒｏｍｅｔｈｓｒｍａｙｅ，ｎｈｒｒｌｉｒｏｕｓａｅａｂａｎｄｎｈｓｅｓｍｂｅｌｓｉｅａｅｆｒｄｗｉｔｅｅｐｉｒｉｓｆｓｉｒｉｓｈｃａｓｆｒ．Ａｔｌｓ，ｗｓｈｎｅｌｄｃａｓｅｌｓｆｈｘ．ｅｃｍｐｅｔｅａｇｒｔｍｔａｇｎｇｒｔｍｌｉｅｓｓｉａｔｅｕｅｔｅｅｓｍｂｅｌｉｒｔｃａｉｔｅｔｔＷｏａｏｈｗｉｂｇｉｇａｏｉｓｆｉｏｓｙｅｒｈｌｉｈｌｈｗｈｃｓｂｅｎｒ —ａｌｇｔｃｎｑｅｄｓｇｅｃａｓｆｒｎｔｅｓａｄｒａａｅｓｈｅｕｔｈｗｔａＳｎａ— ｉｈｉａｄｏｅｓｍｐｉｈｉｕｓａｉｌｌｓｉｅｈｔａｄｄｔｔ．ＴｅｒｓｌｓｏｔＲＦＥｓｎｅｎｎｉｏｎｓｓｈｌｇｒｈｉｏｎｙｓｐｒｒｔｉｇｅｃａｓｆｒｉｒｒａｃｏｉｍｓｎｔｌｕｅｏｏｓｎｌｌｉｅｐｆｍｎｅ，ｂｔｅｔｒｔａａｇｎｌｏｔｍｎｓｍｅｄｇｅ．ｔｏｉｓｉｎｅｏｕｔｈｂｇｉｇａｇｒｈｉｏｅｒｅｂｅｎｉＫｅｒｓ：ｒｎｏｓｂｓａｅ，ｃａｓｅｎｅｌ，ｒ－ａｌｇｙｗｏｄａｄｍｕ —ｐｃｌｓｉｒｅｓｍｂｅｅｓｍｐｉｉｆｎ

分类器器常用算法-概述说明以及解释

分类器器常用算法-概述说明以及解释1.引言1.1 概述概述随着大数据时代的到来，分类器算法在机器学习领域中扮演着重要的角色。

分类器算法通过对数据进行分类，帮助我们从海量的数据中提取有用的信息，从而支持决策制定、预测和推荐等应用。

本文将介绍一些常用的分类器算法，包括算法1、算法2和算法3。

分类器算法主要用于将数据集划分为不同的类别或标签。

这些算法根据已有的数据样本进行训练，学习样本中的模式和规律，并将这些模式和规律应用于未知数据的分类。

分类器算法可以用于处理各种类型的数据，包括数值型、文本型和图像型数据等。

在本文中，我们将详细介绍算法1、算法2和算法3这三种常用的分类器算法。

这些算法在实际应用中广泛使用，并取得了良好的效果。

对于每个算法，我们将介绍其基本原理和重要的要点，以及其在实际应用中的优缺点。

通过对这些算法的比较和分析，我们可以更全面地了解不同分类器算法的特点和适用范围，为实际应用中的分类问题选择合适的算法提供参考。

本文结构如下：引言部分将对本文的背景和目的进行介绍，为读者提供一个整体的了解；正文部分将详细介绍算法1、算法2和算法3这三种常用的分类器算法；结论部分将对本文进行总结，并展望分类器算法的未来发展趋势。

在阅读本文之后，读者将能够对常用的分类器算法有一个清晰的认识，并能够根据实际问题的需求选择合适的算法进行分类任务。

本文旨在为广大的学者和从业者提供一个分类器算法的综合性参考，推动分类器算法在实际应用中的发展和应用。

1.2 文章结构本文将主要介绍常用的分类器算法。

首先引言部分将对分类器算法进行概述，包括定义和应用领域。

接着，正文部分将详细介绍三种常用的分类器算法，分别是常用分类器算法1、常用分类器算法2和常用分类器算法3。

每一种算法都将详细描述其要点，并通过案例或实验说明其应用场景和效果。

在正文部分，我们将依次介绍每种算法的要点。

对于每个要点，我们将详细说明其原理、特点以及在实际应用中的应用场景。

1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。

中图分类号：Ｐ８Ｔ１
快速多分类器集成算法研究
张伟橙，高智英
（中国科学技术大学电子科学与技术系，合肥２０２）３０７
摘
要：研究快速多分类器集成算法。对多分类器集成需选定一定数量的弱分类器，再为每个弱分类器分配一定权重。在选择弱分类器时，
ＡｄＢｏｓ算法相比，该算法能有效降低训练时间，提高识别准确率。ａｏｔ
关健词：快速多分类器集成；差分演化；Ａａｏｓ算法；人脸识剐；调练时间ｄＢｏｔ
Ｒｅｅｒｈ０ｓｕｔ．ｌｓｉｅｓｍｂｅＡｌｏｉｈｓａｃｎＦａｔＭｌｉｃａｓｆｒＥｎｅｉｌｇｒｔｍ
ｗｅｇｔｆｃｓｉｅ．ｈｅｏｄｉＤ — ＥｂｓｄｏｆｒｎｉｌｖｌｔｎＤＥａｇｒｈｗｉｐｉｚｓｈｅｇｔｏｌｅｅｔｄｃａｓｅｓｉｈｌｓｒＴｅｓｃｎＥＭＣａｅｎＤｉｅｅｔｏｕｉ（）ｌｏｔｍｈｃｏｔｅｅｗｉｈｓｆｌｓｌｃｌｓｉｒ．ｏａｆｉｓａＥｏｉｈｍｉｔａｅｉｆ
ＤｏＩ１．６／ｉｎ１０ —４８２１．２０８：０３９．ｓ．００３２．２０．９ｊｓ０５
１概述
ＡａｏｓｄＢｏｔｌｌ是一个重要的多分类器集成学习算法，在模ｎ式识别与机器学习领域有着广泛的应用” 。ＡａｏｓｄＢｏｔ具有算法结构简单、易于实现的特点，学习得到的分类器集成一般具有较高的分类准确率和泛化能力。但是，经典ＡａｏｓｄＢｏｔ学习的计算代价较高，当用于高维大样本集的学习问题时，
ＺＨＡＮＧｅ－ｏｇＧＡｏｉｉｇＷｉｎ．ｓＺｈ－ｎｙ（ｐｒｎｆｌｔｎｃＳｉｎｅａｄｅｈｏｏｙＵｉｅｓｙｏｃｅｃｄＴｃｎｌｇｆｈｎ，ｆｉ３２，ｈｎ）ＤｅａｔｔｅｒｉｃｃｎｃｎｌｇＨｅｅ￣７ＣｉａｍｅｏＥｃｏｅＴｔＳｎＣ２
第３８卷第２期
Ｖｂ－１３８
・
计
算
机
工
程
２１０２年１月
Ｊｎｒ２ａｕａｙ０１２
ＮＯ．２
ＣｏｍｐｔｒＥｎｇｎｅｉｇｕｅｉｅｒｎ
人工智能及识别技术・
文章编号：０１－４８０２２－１８－３文１０－３２（１）－０７－０）－２０－－－献标识码：Ａ
［ｅｏｄｌｆｔｌ— ａｉｅＥｓｍｌＭＣ）ＤｆｒｎａＥｏｔｎＤ）ｄＢｏｔｌｒｈ；ａｅｅｏｎｉ；ａｉｇｉｅＫｙｒｓａｔｃｓｆｒｎｅｂ（Ｅ；ｉｅｔｌｖｌｉ（Ｅ；ａｏｓａｏｔｍｆｃｇｉｎｔｉｎｍｗｓＭｕｉｌｓｉｅｆｅｉｕｏＡｇｉｃｒｔｒｎｔｏ
［ｓｒｃ］ＴｉｐｐｒｒｓｎｓｈｓａｃｎｌｓＭｕｔｃａｓｉｎｅｌ（Ｅｌｏｔｍ．Ａｂｔａｔｈｓａｅｅｅｔｔｅｒｅｒｈｏａｔｌ—ｌｓｉｅＥｓｍｂｅＭＣ）ａｒｈＭＣＥｇｔａｎｍｂｒｏｌｓｉｅｓａｄａｓｎｐｅｉｆｒｇｉｅｓｕｅｆａｓｒ，ｎｓｉｓｃｉｆｇ
ｗｅｇｔｏｔｌｓｉｅｓｉｈｓｔｈｅｃａｓｆｒ．Ａｅｔｉｕｅｆｂｓｌｓｉｅｓｃｎｂｏｔｎｂｓｄｏｈｒｏａｅｏｖｒｌｓｉｉｒｉｃｒａｎｎｍｂｒｏｅｔｃａｓｆｒａｅｇｔａｅｎｔｅｅｒｒｒｔｆｅｅｙｃａｓｆｅ．Ａｓｉｎｎｈｉｈｔｏｉｅｓｇｉｇｔｅｗｅｇｆｃａｓｆｅｓｒｓａｃｅｎｎｗｏｔａｎｎｔｏｄｅｐｅｅｔｄ．ｅｆｒｔｉＢｉｓｄＡｄＢｏｓｌｏｔｍｉｈｉｅｅｔｌｏｃｍｐｔｈｌｓｉｒｉｅｅｈｄｏ，ａｄｔｒｉｉｇｍｅｈｓａｒｓｎｅＴｈｉｓａｅａｏｔａｇｒｈｗｈｃｓｓｑｕｎｉｌｔｏｕｅｔｅｉｒｒｓｉａｙ
通过计算每个弱分类器在全部训练样本集上的分类错误率，对其进行排序，挑选出分类效果最好的若干弱分类器。多分类器权萤分配策在略上，提出２种权重分配方法：ＢａｄＡａｏｓ算法与基于差分演化的多分类器集成算法。在人脸数据库上的实验结果表明，与经典ｉｅｄＢｏｔｓ
Ｅｘｅｍｅｔｌｅｕｔｎｆｃｅｏｎｔｏｈｏｈｔｔｅｔａｎｎｍｅｏｅａｇｒｔｍｓｂｔｅａａｏｔｌｏｉｈａｄｈｓｈｇｃｕａｙｒｔ．ｐｒｉｎａｓｌｏａｅｒｃｇｉｉｎｓｗｓａｉｉｇｔｆｔｌｏｈｉｅｔｒｔｎＡｄＢｏｓｇｒｔｍ，ｎａｉｈａｃｒｃａｅｒｔｈｒｉｈｉｈａ