常用大数据量、海量数据处理方法 (算法)总结
大数据常用的算法
大数据常用的算法标题：大数据常用的算法引言概述：随着大数据时代的到来，大数据算法成为处理海量数据的重要工具。
本文将介绍大数据常用的算法，帮助读者更好地了解大数据处理的方法和技术。
一、聚类算法1.1 K均值算法：是一种常用的聚类算法，通过迭代计算数据点之间的距离，将数据点划分为K个簇。
1.2 DBSCAN算法：基于密度的聚类算法，能够发现任意形状的簇，并对噪声数据点进行过滤。
1.3 层次聚类算法：通过构建树状结构的聚类，将数据点逐层聚合，形成层次化的簇结构。
二、分类算法2.1 决策树算法：通过构建树状结构的决策规则，将数据点划分为不同的类别。
2.2 逻辑回归算法：用于处理二分类问题，通过逻辑函数对数据进行分类。
2.3 随机森林算法：基于多个决策树的集成学习算法，提高了分类准确度和泛化能力。
三、关联规则挖掘算法3.1 Apriori算法：用于发现频繁项集和关联规则，帮助分析数据中的关联性。
3.2 FP-growth算法：基于频繁模式树的挖掘算法，能够高效地挖掘大规模数据集中的频繁项集。
3.3 Eclat算法：基于垂直数据表示的关联规则挖掘算法，适用于稠密数据集。
四、回归算法4.1 线性回归算法：通过线性模型对数据进行拟合，预测连续性变量的取值。
4.2 支持向量机回归算法：基于支持向量机理论的回归算法，能够处理非线性回归问题。
4.3 岭回归算法：通过加入正则化项，解决多重共线性问题，提高回归模型的泛化能力。
五、降维算法5.1 主成分分析算法：通过线性变换将高维数据转化为低维数据，保留数据的主要信息。
5.2 t-SNE算法：用于可视化高维数据，通过保持数据点之间的相对距离，将数据映射到二维或三维空间。
5.3 自编码器算法：通过神经网络模型学习数据的压缩表示，实现高维数据的降维和重构。
结论：大数据算法在数据处理和分析中发挥着重要作用，不同的算法适用于不同的场景和问题。
通过了解和应用这些常用算法，可以更好地处理和利用大数据资源，实现数据驱动的决策和创新。
大数据常用的算法
大数据常用的算法一、概述在大数据时代，随着数据量的快速增长，人们需要更高效、准确地处理和分析海量数据。
大数据算法是指为了解决大数据量、高维度、高速度的数据处理和分析问题而设计的算法。
本文将介绍几种常用的大数据算法，包括聚类算法、分类算法、关联规则算法和推荐算法。
二、聚类算法1. K-means算法K-means算法是一种常用的聚类算法，它将数据集分成K个不同的簇，每个簇中的数据点与该簇的质心最为相似。
K-means算法的步骤如下：a. 随机选择K个初始质心。
b. 将每个数据点分配到最近的质心。
c. 更新质心位置，计算每个簇的平均值。
d. 重复步骤b和c，直到质心不再改变或达到最大迭代次数。
2. DBSCAN算法DBSCAN算法是一种基于密度的聚类算法，它将数据点分为核心点、边界点和噪声点。
DBSCAN算法的步骤如下：a. 随机选择一个未访问的数据点。
b. 如果该点的邻域内有足够数量的数据点，则形成一个新的簇，将该点及其邻域内的点加入簇中。
c. 重复步骤b，直到所有数据点都被访问。
三、分类算法1. 决策树算法决策树算法是一种常用的分类算法，它通过构建树形结构来对数据进行分类。
决策树算法的步骤如下：a. 选择一个属性作为根节点。
b. 根据该属性的取值将数据集划分为不同的子集。
c. 对每个子集递归地应用步骤a和b，直到满足停止条件。
d. 为每个叶节点分配一个类别。
2. 支持向量机算法支持向量机算法是一种常用的二分类算法，它通过找到一个最优超平面来将数据点分开。
支持向量机算法的步骤如下：a. 将数据映射到高维空间。
b. 在高维空间中找到一个最优超平面，使得两个类别的数据点距离超平面最远。
c. 根据超平面将数据点分为不同的类别。
四、关联规则算法1. Apriori算法Apriori算法是一种常用的关联规则挖掘算法，它通过计算频繁项集和关联规则来发现数据集中的关联关系。
Apriori算法的步骤如下：a. 找出数据集中的所有频繁项集。
大数据常用的算法
大数据常用的算法在大数据时代，处理海量数据的需求日益增长。
为了更高效地处理和分析这些数据，大数据算法应运而生。
本文将介绍几种常用的大数据算法，包括朴素贝叶斯算法、K均值算法、随机森林算法和支持向量机算法。
一、朴素贝叶斯算法朴素贝叶斯算法是一种基于贝叶斯定理的分类算法。
它假设样本特征之间相互独立，通过计算给定特征下某个类别的概率来进行分类。
朴素贝叶斯算法在文本分类、垃圾邮件过滤等领域有广泛应用。
例如，我们可以使用朴素贝叶斯算法来判断一封邮件是否为垃圾邮件。
通过对邮件中的词语进行统计，计算出给定某些词语的情况下，该邮件为垃圾邮件的概率。
根据概率大小，我们可以将邮件分类为垃圾邮件或者非垃圾邮件。
二、K均值算法K均值算法是一种聚类算法，用于将数据集划分为K个不同的簇。
它通过计算数据点与簇中心的距离，并将数据点分配给距离最近的簇来实现聚类。
K均值算法在图象分割、客户细分等领域有广泛应用。
例如，我们可以使用K均值算法将一组学生按照成绩划分为不同的等级。
通过计算每一个学生与不同等级的平均成绩之间的距离，将学生分配到最近的等级中。
三、随机森林算法随机森林算法是一种集成学习算法，通过构建多个决策树来进行分类或者回归。
每一个决策树的结果投票决定最终的分类结果。
随机森林算法在图象识别、金融风控等领域有广泛应用。
例如，我们可以使用随机森林算法来预测一辆二手车的价格。
通过构建多个决策树，每一个决策树根据不同的特征对车辆进行分类，最终通过投票得出预测的价格区间。
四、支持向量机算法支持向量机算法是一种二分类算法，通过构建超平面将数据点划分为两个类别。
它通过最大化两个类别之间的间隔来实现分类。
支持向量机算法在文本分类、图象识别等领域有广泛应用。
例如，我们可以使用支持向量机算法来判断一封邮件是否为垃圾邮件。
通过将邮件中的特征转化为向量表示，构建超平面将垃圾邮件和非垃圾邮件分开。
综上所述，朴素贝叶斯算法、K均值算法、随机森林算法和支持向量机算法是大数据处理中常用的算法。
大数据常用的算法
大数据常用的算法（分类、回归分析、聚类、关联规则）在大数据时代，数据挖掘是最关键的工作。
大数据的挖掘是从海量、不完全的、有噪声的、模糊的、随机的大型数据库中发现隐含在其中有价值的、潜在有用的信息和知识的过程，也是一种决策支持过程。
其主要基于人工智能，机器学习，模式学习，统计学等。
通过对大数据高度自动化地分析，做出归纳性的推理，从中挖掘出潜在的模式，可以帮助企业、商家、用户调整市场政策、减少风险、理性面对市场，并做出正确的决策。
目前，在很多领域尤其是在商业领域如银行、电信、电商等，数据挖掘可以解决很多问题，包括市场营销策略制定、背景分析、企业管理危机等。
大数据的挖掘常用的方法有分类、回归分析、聚类、关联规则、神经网络方法、Web 数据挖掘等。
这些方法从不同的角度对数据进行挖掘。
(1)分类。
分类是找出数据库中的一组数据对象的共同特点并按照分类模式将其划分为不同的类，其目的是通过分类模型，将数据库中的数据项映射到摸个给定的类别中。
可以应用到涉及到应用分类、趋势预测中，如淘宝商铺将用户在一段时间内的购买情况划分成不同的类，根据情况向用户推荐关联类的商品，从而增加商铺的销售量。
(2)回归分析。
回归分析反映了数据库中数据的属性值的特性，通过函数表达数据映射的关系来发现属性值之间的依赖关系。
它可以应用到对数据序列的预测及相关关系的研究中去。
在市场营销中，回归分析可以被应用到各个方面。
如通过对本季度销售的回归分析，对下一季度的销售趋势作出预测并做出针对性的营销改变。
(3)聚类。
聚类类似于分类，但与分类的目的不同，是针对数据的相似性和差异性将一组数据分为几个类别。
属于同一类别的数据间的相似性很大，但不同类别之间数据的相似性很小，跨类的数据关联性很低。
(4)关联规则。
关联规则是隐藏在数据项之间的关联或相互关系，即可以根据一个数据项的出现推导出其他数据项的出现。
关联规则的挖掘过程主要包括两个阶段：第一阶段为从海量原始数据中找出所有的高频项目组;第二极端为从这些高频项目组产生关联规则。
大数据常用的算法
大数据常用的算法一、介绍在大数据时代，海量的数据需要被高效地处理和分析，而大数据算法就是为了解决这个问题而诞生的。
大数据算法可以帮助我们从海量数据中提取有用的信息和知识，以支持决策和预测。
本文将介绍几种常用的大数据算法，包括关联规则挖掘、聚类分析、分类算法和推荐系统算法。
二、关联规则挖掘关联规则挖掘是一种用于发现数据集中的频繁项集和关联规则的算法。
它可以帮助我们发现数据集中的潜在关联关系，以便做出相应的决策。
常用的关联规则挖掘算法包括Apriori算法和FP-Growth算法。
Apriori算法通过迭代的方式生成候选项集，并使用支持度和置信度进行剪枝，最终得到频繁项集和关联规则。
FP-Growth算法则通过构建FP树来高效地发现频繁项集和关联规则。
三、聚类分析聚类分析是一种将数据集中的对象划分为不同的组或类别的算法。
聚类分析可以帮助我们发现数据集中的内在结构和模式，以便进行更深入的分析。
常用的聚类分析算法包括K-means算法和层次聚类算法。
K-means算法通过迭代的方式将数据点划分为K个簇，使得簇内的数据点相似度最大化，簇间的数据点相似度最小化。
层次聚类算法则通过不断合并最相似的簇来构建聚类树，最终得到聚类结果。
四、分类算法分类算法是一种将数据点分配到不同类别的算法。
分类算法可以帮助我们对未知数据进行预测和分类。
常用的分类算法包括决策树算法、朴素贝叶斯算法和支持向量机算法。
决策树算法通过构建一棵树来进行分类，每个节点表示一个特征，每个分支表示一个特征值，叶子节点表示一个类别。
朴素贝叶斯算法则基于贝叶斯定理进行分类，假设特征之间相互独立。
支持向量机算法则通过构建超平面来进行分类，使得不同类别的数据点之间的间隔最大化。
五、推荐系统算法推荐系统算法是一种根据用户的历史行为和偏好来推荐个性化内容的算法。
推荐系统算法可以帮助我们提供个性化的推荐，提高用户的满意度和体验。
常用的推荐系统算法包括基于内容的推荐算法、协同过滤算法和深度学习算法。
海量数据处理方法
海量数据处理方法随着互联网的迅猛发展，海量数据的产生和积累已经成为了一种常态。
如何高效地处理海量数据成为了一个非常重要的问题。
针对海量数据的处理，有以下几种常见的方法：1.分布式计算：分布式计算是指将一个大规模的计算任务分解为多个小任务，并在多个计算节点上同时进行计算。
每个计算节点都能独立地处理一部分数据，然后将计算结果进行合并得到最终结果。
分布式计算能够充分利用多台计算机的计算能力，加快数据处理的速度。
2. MapReduce：MapReduce（映射-归约）是一种分布式计算模型，广泛应用于海量数据处理。
其核心思想是将数据处理任务划分为两个阶段：映射和归约。
映射阶段将输入数据分割成若干片段，并在多个计算节点上同时进行处理。
归约阶段将映射阶段得到的中间结果进行合并得到最终结果。
MapReduce能够自动处理节点故障、数据分片和任务调度等问题，提高数据处理的可靠性和效率。
3. 数据压缩：对于海量数据的处理，数据压缩是一个重要的技术手段。
通过数据压缩能够降低数据的存储和传输成本，并提高数据处理的速度。
常见的数据压缩算法有LZO、GZIP、Snappy等。
数据压缩也能够减少磁盘IO，提高磁盘读写的效率。
4.数据分片：对于海量数据的处理，常常需要将数据分割成若干个小块进行处理。
数据分片可以有效地利用多台计算机的计算能力，并降低单个任务的复杂度。
数据分片可以根据数据的键、哈希函数等进行划分，保证每个分片之间的数据量均匀。
5.增量处理：海量数据处理往往需要对数据进行实时的处理，而不是一次性的处理。
增量处理是指对新到达的数据进行即时处理，而不需要重新处理整个数据集。
增量处理能够减少处理时间，并节省计算资源。
6.数据预处理：对于海量数据的处理，常常需要进行一些预处理，如数据清洗、去重、排序等。
数据预处理的目的是为了提高数据质量和减少后续处理的复杂度。
通过数据预处理能够减少冗余数据和噪声数据，提高后续处理的效果。
大数据常用的算法
大数据常用的算法一、介绍在大数据时代，处理海量数据的能力对于企业和组织来说变得至关重要。
大数据算法是一种数学和统计方法的应用，用于从大规模数据集中提取有用的信息和洞察力。
本文将详细介绍几种常用的大数据算法。
二、K均值聚类算法K均值聚类算法是一种无监督学习算法，用于将数据集划分为K个不同的簇。
该算法的基本原理是通过计算数据点之间的距离来确定簇的中心，并将每个数据点分配到最近的中心。
K均值聚类算法在大数据分析和图像处理等领域得到了广泛应用。
三、决策树算法决策树算法是一种基于树状结构的分类和回归方法。
它通过对数据集进行递归划分来构建一棵决策树，每个节点代表一个属性，每个分支代表一个属性值，叶子节点代表一个类别或数值。
决策树算法在大数据分析和数据挖掘中常用于预测和分类任务。
四、随机森林算法随机森林算法是一种集成学习算法，通过构建多个决策树并对其结果进行集成来提高预测准确性。
随机森林算法在每棵决策树的构建过程中引入了随机性，以减少过拟合的风险。
它在大数据分类和回归问题中具有较高的准确性和鲁棒性。
五、支持向量机算法支持向量机算法是一种二分类方法，通过在特征空间中找到一个最优超平面来分离两个不同类别的数据点。
支持向量机算法在大数据分类和回归问题中具有良好的泛化能力和鲁棒性。
它在文本分类、图像识别和生物信息学等领域得到了广泛应用。
六、朴素贝叶斯算法朴素贝叶斯算法是一种基于贝叶斯定理的分类方法，假设特征之间相互独立。
该算法通过计算给定类别的条件概率来进行分类。
朴素贝叶斯算法在大数据文本分类和垃圾邮件过滤等任务中表现出色。
七、神经网络算法神经网络算法是一种模拟人脑神经元之间相互连接的计算模型。
它通过多个神经元的层次化组织来学习和处理数据。
神经网络算法在大数据模式识别、语音识别和自然语言处理等领域具有强大的学习和适应能力。
八、聚类算法聚类算法是一种将数据集中的对象划分为相似组或簇的方法。
聚类算法通过计算数据点之间的相似度或距离来确定簇的划分。
高效处理大数据的四种方法
高效处理大数据的四种方法随着科技的不断发展和数据的爆炸增长，大数据已经成为了人们生活和工作中不可或缺的一部分。
然而，高效处理大数据却是一个复杂的挑战。
在本文中，我将介绍四种高效处理大数据的方法，以帮助读者更好地处理和分析海量的数据。
方法一：并行计算并行计算是一种将大数据划分为多个小任务并同时处理的方法。
采用并行计算的好处是能够同时利用多个处理器或计算机资源，提高处理数据的速度和效率。
在并行计算中，常用的技术包括分布式系统、多线程编程和图形处理器（GPU）等。
通过将大数据分割为多个小部分，并由多个处理单元同时处理，能够减少数据的传输和计算时间，从而提高了大数据的处理速度和效率。
方法二：数据压缩数据压缩是一种通过减少数据占用的存储空间以提高处理速度和效率的方法。
当处理大规模的数据时，数据压缩可以减少物理存储介质的开销，并提高数据的传输速度。
常用的数据压缩算法包括哈夫曼编码、Lempel-Ziv-Welch（LZW）编码和差分编码等。
通过选择合适的压缩算法和参数，可以大幅度减少存储空间和传输时间，使得大数据的处理更加高效。
方法三：分布式存储和计算分布式存储和计算是一种将大数据分散存储在多个节点上，并通过并行计算的方式对数据进行处理的方法。
在分布式系统中，数据通常存储在多个节点上，并由多个计算节点同时进行计算。
这种方式可以充分利用集群系统的资源，并实现数据的快速处理。
常见的分布式存储和计算框架包括Hadoop和Spark等。
通过使用这些框架，可以将大数据分布式存储和并行处理，从而提高数据处理的速度和效率。
方法四：增量计算增量计算是一种将大数据划分为小批次，并逐步处理的方法。
通过将大数据分成多个小批次，并逐一处理每个批次，可以降低计算和存储的复杂性，提高处理效率。
在增量计算中，常用的技术包括流处理和迭代计算等。
通过增量计算，可以高效处理大数据，并及时获取计算结果，满足实时业务需求。
综上所述，高效处理大数据是一个复杂的问题，但我们可以采用并行计算、数据压缩、分布式存储和计算以及增量计算等四种方法来提高处理大数据的速度和效率。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
大数据量的问题是很多面试笔试中经常出现的问题，比如baidu goog le 腾讯这样的一些涉及到海量数据的公司经常会问到。
下面的方法是我对海量数据的处理方法进行了一个一般性的总结，当然这些方法可能并不能完全覆盖所有的问题，但是这样的一些方法也基本可以处理绝大多数遇到的问题。
下面的一些问题基本直接来源于公司的面试笔试题目，方法不一定最优，如果你有更好的处理方法，欢迎与我讨论。
1.Bloom filter适用范围：可以用来实现数据字典，进行数据的判重，或者集合求交集基本原理及要点：对于原理来说很简单，位数组+k个独立hash函数。
将hash函数对应的值的位数组置1，查找时如果发现所有hash函数对应位都是1说明存在，很明显这个过程并不保证查找的结果是100%正确的。
同时也不支持删除一个已经插入的关键字，因为该关键字对应的位会牵动到其他的关键字。
所以一个简单的改进就是counting Bloom filter，用一个counter数组代替位数组，就可以支持删除了。
还有一个比较重要的问题，如何根据输入元素个数n，确定位数组m 的大小及hash函数个数。
当hash函数个数k=(ln2)*(m/n)时错误率最小。
在错误率不大于E的情况下，m至少要等于n*lg(1/E)才能表示任意n个元素的集合。
但m还应该更大些，因为还要保证bit数组里至少一半为0，则m应该>=nlg(1/E)*lge 大概就是nlg(1/E)1.44倍(lg 表示以2为底的对数)。
举个例子我们假设错误率为0.01，则此时m应大概是n的13倍。
这样k大概是8个。
注意这里m与n的单位不同，m是bit为单位，而n则是以元素个数为单位(准确的说是不同元素的个数)。
通常单个元素的长度都是有很多bit的。
所以使用bloom filter内存上通常都是节省的。
扩展：Bloom filter将集合中的元素映射到位数组中，用k（k为哈希函数个数）个映射位是否全1表示元素在不在这个集合中。
Counting bloom filter（CBF）将位数组中的每一位扩展为一个counter，从而支持了元素的删除操作。
Spectral Bloom Filter（SBF）将其与集合元素的出现次数关联。
SBF采用counter中的最小值来近似表示元素的出现频率。
问题实例：给你A,B两个文件，各存放50亿条URL，每条URL占用6 4字节，内存限制是4G，让你找出A,B文件共同的URL。
如果是三个乃至n个文件呢？根据这个问题我们来计算下内存的占用，4G=2^32大概是40亿*8大概是340亿，n=50亿，如果按出错率0.01算需要的大概是650亿个bit。
现在可用的是340亿，相差并不多，这样可能会使出错率上升些。
另外如果这些urlip是一一对应的，就可以转换成ip，则大大简单了。
2.Hashing适用范围：快速查找，删除的基本数据结构，通常需要总数据量可以放入内存基本原理及要点：hash函数选择，针对字符串，整数，排列，具体相应的hash方法。
碰撞处理，一种是open hashing，也称为拉链法；另一种就是closed hashing，也称开地址法，opened addressing。
扩展：d-left hashing中的d是多个的意思，我们先简化这个问题，看一看2 -left hashing。
2-left hashing指的是将一个哈希表分成长度相等的两半，分别叫做T1和T2，给T1和T2分别配备一个哈希函数，h1和h 2。
在存储一个新的key时，同时用两个哈希函数进行计算，得出两个地址h1[key]和h2[key]。
这时需要检查T1中的h1[key]位置和T2中的h2[key]位置，哪一个位置已经存储的（有碰撞的）key比较多，然后将新key存储在负载少的位置。
如果两边一样多，比如两个位置都为空或者都存储了一个key，就把新key 存储在左边的T1子表中，2-left也由此而来。
在查找一个key时，必须进行两次hash，同时查找两个位置。
问题实例：1).海量日志数据，提取出某日访问百度次数最多的那个IP。
IP的数目还是有限的，最多2^32个，所以可以考虑使用hash将ip 直接存入内存，然后进行统计。
3.bit-map适用范围：可进行数据的快速查找，判重，删除，一般来说数据范围是int的10倍以下基本原理及要点：使用bit数组来表示某些元素是否存在，比如8位电话号码扩展：bloom filter可以看做是对bit-map的扩展问题实例：1)已知某个文件内包含一些电话号码，每个号码为8位数字，统计不同号码的个数。
8位最多99 999 999，大概需要99m个bit，大概10几m字节的内存即可。
2)2.5亿个整数中找出不重复的整数的个数，内存空间不足以容纳这2. 5亿个整数。
将bit-map扩展一下，用2bit表示一个数即可，0表示未出现，1表示出现一次，2表示出现2次及以上。
或者我们不用2bit来进行表示，我们用两个bit-map即可模拟实现这个2bit-map。
4.堆适用范围：海量数据前n大，并且n比较小，堆可以放入内存基本原理及要点：最大堆求前n小，最小堆求前n大。
方法，比如求前n小，我们比较当前元素与最大堆里的最大元素，如果它小于最大元素，则应该替换那个最大元素。
这样最后得到的n个元素就是最小的n个。
适合大数据量，求前n小，n的大小比较小的情况，这样可以扫描一遍即可得到所有的前n元素，效率很高。
扩展：双堆，一个最大堆与一个最小堆结合，可以用来维护中位数。
问题实例：1)100w个数中找最大的前100个数。
用一个100个元素大小的最小堆即可。
5.双层桶划分适用范围：第k大，中位数，不重复或重复的数字基本原理及要点：因为元素范围很大，不能利用直接寻址表，所以通过多次划分，逐步确定范围，然后最后在一个可以接受的范围内进行。
可以通过多次缩小，双层只是一个例子。
扩展：问题实例：1).2.5亿个整数中找出不重复的整数的个数，内存空间不足以容纳这2. 5亿个整数。
有点像鸽巢原理，整数个数为2^32,也就是，我们可以将这2^32个数，划分为2^8个区域(比如用单个文件代表一个区域)，然后将数据分离到不同的区域，然后不同的区域在利用bitmap就可以直接解决了。
也就是说只要有足够的磁盘空间，就可以很方便的解决。
2).5亿个int找它们的中位数。
这个例子比上面那个更明显。
首先我们将int划分为2^16个区域，然后读取数据统计落到各个区域里的数的个数，之后我们根据统计结果就可以判断中位数落到那个区域，同时知道这个区域中的第几大数刚好是中位数。
然后第二次扫描我们只统计落在这个区域中的那些数就可以了。
实际上，如果不是int是int64，我们可以经过3次这样的划分即可降低到可以接受的程度。
即可以先将int64分成2^24个区域，然后确定区域的第几大数，在将该区域分成2^20个子区域，然后确定是子区域的第几大数，然后子区域里的数的个数只有2^20，就可以直接利用direct addr table进行统计了。
6.数据库索引适用范围：大数据量的增删改查基本原理及要点：利用数据的设计实现方法，对海量数据的增删改查进行处理。
扩展：问题实例：7.倒排索引(Inverted index)适用范围：搜索引擎，关键字查询基本原理及要点：为何叫倒排索引？一种索引方法，被用来存储在全文搜索下某个单词在一个文档或者一组文档中的存储位置的映射。
以英文为例，下面是要被索引的文本：T0 = "it is what it is"T1 = "what is it"T2 = "it is a banana"我们就能得到下面的反向文件索引："a": {2}"banana": {2}"is": {0, 1, 2}"it": {0, 1, 2}"what": {0, 1}检索的条件"what", "is" 和"it" 将对应集合的交集。
正向索引开发出来用来存储每个文档的单词的列表。
正向索引的查询往往满足每个文档有序频繁的全文查询和每个单词在校验文档中的验证这样的查询。
在正向索引中，文档占据了中心的位置，每个文档指向了一个它所包含的索引项的序列。
也就是说文档指向了它包含的那些单词，而反向索引则是单词指向了包含它的文档，很容易看到这个反向的关系。
扩展：问题实例：文档检索系统，查询那些文件包含了某单词，比如常见的学术论文的关键字搜索。
8.外排序适用范围：大数据的排序，去重基本原理及要点：外排序的归并方法，置换选择败者树原理，最优归并树扩展：问题实例：1).有一个1G大小的一个文件，里面每一行是一个词，词的大小不超过16个字节，内存限制大小是1M。
返回频数最高的100个词。
这个数据具有很明显的特点，词的大小为16个字节，但是内存只有1 m做hash有些不够，所以可以用来排序。
内存可以当输入缓冲区使用。
9.trie树适用范围：数据量大，重复多，但是数据种类小可以放入内存基本原理及要点：实现方式，节点孩子的表示方式扩展：压缩实现。
问题实例：1).有10个文件，每个文件1G，每个文件的每一行都存放的是用户的query，每个文件的query都可能重复。
要你按照query的频度排序。
2).1000万字符串，其中有些是相同的(重复),需要把重复的全部去掉，保留没有重复的字符串。
请问怎么设计和实现？3).寻找热门查询：查询串的重复度比较高，虽然总数是1千万，但如果除去重复后，不超过3百万个，每个不超过255字节。
10.分布式处理mapreduce适用范围：数据量大，但是数据种类小可以放入内存基本原理及要点：将数据交给不同的机器去处理，数据划分，结果归约。
扩展：问题实例：1).The canonical example application of MapReduce is a process to count the appearances ofeach different word in a set of documents:void map(String name, String document):// name: document name// document: document contentsfor each word w in document:EmitIntermediate(w, 1);void reduce(String word, Iterator partialCounts):// key: a word// values: a list of aggregated partial countsint result = 0;for each v in partialCounts:result += ParseInt(v);Emit(result);Here, each document is split in words, and each word is counte d initially with a "1" value bythe Map function, using the word as the result key. The framew ork puts together all the pairswith the same key and feeds them to the same call to Reduce, thus this function just needs tosum all of its input values to find the total appearances of that word.2).海量数据分布在100台电脑中，想个办法高效统计出这批数据的TOP10。