大数据基础知识入门
大数据必备基础知识
大数据必备基础知识在当今信息爆炸的时代，大数据正日益成为各行各业的关键词之一。
无论是企业决策还是科学研究，了解大数据的基础知识都是必不可少的。
本文将从大数据的定义、特点、技术和应用等方面，介绍大数据必备的基础知识。
一、大数据的定义及特点大数据是指规模巨大、类型多样、生成速度快，无法用传统的数据管理技术进行采集、存储、管理和分析的数据集合。
大数据的特点主要体现在以下几个方面：1. 规模巨大：大数据的规模通常以TB、PB甚至EB来衡量，具有海量的数据量。
2. 类型多样：大数据涵盖了结构化数据、半结构化数据和非结构化数据等多种类型的数据。
3. 生成速度快：大数据的生成速度非常快，数据源源不断地产生，需要及时处理和分析。
4. 数据价值潜力大：大数据中蕴含着丰富的信息和价值，通过分析可以发现新的商业机会和潜在风险。
二、大数据的技术支持为了有效处理和分析大数据，需要借助一系列的技术手段和工具。
以下是大数据的几个关键技术：1. 数据采集与存储：大数据的采集和存储是第一步，包括数据的获取、传输和存储等技术。
常用的数据采集和存储技术包括网络爬虫、分布式文件系统和关系数据库等。
2. 数据处理与分析：大数据的处理和分析是核心环节，包括数据清洗、数据集成、数据挖掘和机器学习等技术。
常用的数据处理和分析技术包括Hadoop、Spark和机器学习算法等。
3. 数据可视化与展示：大数据的可视化与展示是将数据分析结果以直观的图表形式展示出来，帮助用户更好地理解和利用数据。
常用的数据可视化与展示技术包括Tableau、D3.js和Power BI等。
三、大数据的应用领域大数据的应用广泛，几乎涉及了所有行业和领域。
以下是一些典型的大数据应用场景：1. 金融行业：大数据在金融风控、高频交易和反欺诈等方面有广泛应用，可以帮助银行和投资机构预测风险、优化决策。
2. 零售行业：大数据可以通过分析客户购买行为和偏好，实现精准营销和个性化推荐，提升用户体验和销售额。
大数据基础知识入门
大数据基础知识入门大数据是当今社会不可忽视的重要组成部分，其对商业、科学、医疗等领域都产生了深远的影响。
作为一门新兴的技术和概念，了解大数据的基础知识是非常重要的。
本文将介绍大数据的定义、特征以及其在不同领域的应用。
一、大数据的定义大数据指的是规模巨大、类型繁多且产生速度快的数据集合。
传统的数据处理技术已经无法胜任大数据的处理任务，因此需要新的技术和工具来帮助分析处理大数据。
二、大数据的特征1. 三个V：大数据的特征可以用“三个V”来概括，即Volume（数据量大）、Velocity（数据产生速度快）和Variety（数据类型多样化）。
2. 可信度低：由于大数据的多样性和复杂性，数据的质量和可信度往往较低，需要进行数据清洗和处理。
3. 快速决策：大数据的处理速度非常快，可以帮助决策者更快地做出准确的决策。
三、大数据的应用1. 商业领域：大数据在商业领域的应用非常广泛。
通过对大数据的分析，企业可以更好地了解消费者的需求，优化产品设计，并制定更精确的市场营销策略。
2. 科学研究：大数据在科学研究中扮演着重要角色。
科学家可以通过对大数据的分析来发现规律、预测趋势，并进行更深入的研究。
3. 医疗健康：大数据在医疗健康领域的应用不断增加。
医疗机构可以通过大数据分析来改进临床治疗，预防疾病，并提供个性化的医疗服务。
4. 城市管理：大数据在城市管理中的应用可以提高城市的智能化程度。
例如，通过对大数据的分析，城市可以更好地优化交通流量、提高能源利用效率等。
四、大数据处理工具和技术为了更好地处理和分析大数据，许多工具和技术得到了广泛应用。
以下列举几种常用的大数据处理工具和技术：1. Hadoop：是一个开源的大数据处理框架，能够高效地存储和处理大规模数据。
2. Spark：是一种快速、通用的大数据处理引擎，具有高效的内存计算能力。
3. NoSQL数据库：与传统的关系数据库相比，NoSQL数据库具有更好的横向扩展性和性能表现，适用于大数据存储和查询。
大数据的基础知识
大数据的基础知识大数据是当前信息时代的热门话题，随着互联网技术的发展，数量庞大且多样化的数据在日常生活中普遍存在。
大数据的兴起，对以往数据处理方式提出了新的挑战，同时也为数据分析提供了新的机遇。
本文将着重介绍大数据的基础知识，包括大数据的定义、特征、分类、处理技术以及应用。
一、大数据的定义大数据是指数据量极大、数据类型广泛、可采用分布式存储和计算处理的一种信息资源。
其定义有多种之说，但大体上可以总结为三个方面：大数量、多样性和高速度。
量的方面，大数据的数量很大，其数量级常常是亿级吨位的，可预测开发聚集分布在多个地理位置、机构或社区的海量数据，以及来自各种数据源的各种数据。
多样性方面，大数据的类型多样，包括结构化、半结构化和非结构化数据，其中非结构化数据占比70%以上，包括各种文本、图像、音频、视频等等。
速度方面，大数据的生成速度很快，以互联网为例，其数据每秒钟增长的速度超过10亿条。
二、大数据的特征大数据的特征主要有以下四个方面：1.高速度：大数据的信息更新速度很快，个人可以浏览的数据量与全球数据量的增长速度大大不一致，新的数据一直在源头不断涌现；2.高维度：大数据的信息维度复杂，包括时间、空间、行为、情境等方面的多元信息；3.高价值：大数据的信息资源具有高价值性，往往蕴藏着商业、科学和人文领域的深刻隐含结构和规律；4.高异构性：大数据的信息资源非常异构，包含有结构化、半结构化、非结构化数据和数字、文字、图像、音视频等多种类型信息。
三、大数据的分类根据处理方法和数据来源的不同，大数据可被分为三类：1.结构化数据：结构化数据是通过一定的方式封装在数据表中，以类似于电子表格的形式呈现。
这种数据是最为固定和整齐的数据，通常用于描述数值、统计和财务资料;2.半结构化数据：半结构化数据不依赖于表格形式，但它包含有明确定义的字段，而字段之间的关系不确定。
一些比较流行的半结构化数据类型包括音频、视频和XML数据;3.非结构化数据：非结构化数据不具有明确的字段标签，但它包含了在生活中常见的文字、图像、音频和视频等类型的数据。
大数据的基础知识
大数据的基础知识大数据是指规模庞大，传统数据库处理能力无法胜任的数据集合。
随着互联网和移动设备的普及，全球每天都在产生大量的数据，这就需要一种全新的技术和方法来处理这些大规模的数据集合。
在这篇文章中，我们将深入探讨大数据的基础知识，包括大数据的定义、特征、处理技术、应用领域以及未来发展趋势等方面。
一、大数据的定义和特征1.定义：大数据可以简单地理解为规模庞大的数据集合。
通常情况下，大数据是指由传感器、移动设备、社交媒体等各种渠道采集得到的数据，这些数据可能包含结构化数据、半结构化数据和非结构化数据。
大数据的特点在于数据量大、数据来源复杂、数据类型多样等。
2.特征：大数据的特征主要包括四个方面：即量大、速度快、多样化和价值密度低。
量大指的是数据集合的规模非常庞大，常常是以亿计或甚至更多；速度快指的是数据的产生速度很快，需要实时或近实时的处理能力；多样化指的是大数据可能包含结构化、半结构化和非结构化数据，这些数据类型可能会混合在一起；价值密度低则表示数据中包含很多无用的信息，需要进行筛选和加工才能提取有用的信息。
二、大数据的处理技术1.存储技术：传统的关系型数据库在处理大数据时会遇到存储能力不足的问题，因此出现了一系列新的存储技术，比如分布式文件系统（HDFS）、NoSQL数据库（MongoDB、Cassandra等）和内存数据库（Redis、Memcached等）等。
2.处理技术：由于大数据的处理需要大规模的并行计算和分布式处理，因此出现了一系列用于大数据处理的技术和框架，比如MapReduce、Spark、Hadoop等。
3.分析技术：大数据分析通常涉及数据挖掘、机器学习、统计分析等技术，这些技术需要用到各种算法和工具，比如K-means、支持向量机、随机森林等。
三、大数据的应用领域1.金融行业：金融行业是大数据应用的一个典型领域，在金融行业，大数据可以应用于风险管理、反欺诈、智能投资、智能营销等方面。
大数据基础知识
大数据基础知识
随着互联网和智能化时代的到来，大数据已成为人们研究和开发新技术、新产品的重要工具和基础。
那么，什么是大数据？大数据有哪些特点？大数据的应用有哪些？让我们一起来学习大数据的基础
知识。
一、什么是大数据？
大数据是指数据量巨大、类型复杂、处理速度快的数据集合。
通常，大数据的数据量在TB或PB级别，而且受众范围广泛，包括企业、政府、科研机构等。
二、大数据的特点
1.数据量大：大数据的数据量通常在TB或PB级别，远远超过传统数据处理的能力。
2.类型复杂：大数据包括结构化数据、半结构化数据和非结构化数据，数据类型多样，难以分析。
3.处理速度快：大数据的处理速度需要快速高效，否则难以满足实时处理的要求。
4.价值高：大数据中蕴含着重要的商业价值、科研价值和社会价值，可以帮助企业、政府等机构做出更好的决策。
三、大数据的应用
1.商业智能：通过大数据的分析，企业可以了解市场需求、产品趋势、竞争对手等商业信息，为业务决策提供支持。
2.营销策略：利用大数据分析，企业可以更有效地实施精准营销，
提高营销效率和效果。
3.医疗健康：大数据可以帮助医疗机构进行疾病预测、诊断和治疗，提升医疗效率和健康水平。
4.公共服务：政府可以利用大数据分析提高公共服务的效率和质量，如城市交通管理、环境保护、安全监控等。
总之，大数据是当今时代的重要资源，具有广泛的应用前景和商业价值。
掌握大数据的基础知识，可以更好地把握时代机遇，实现个人和企业的发展。
大数据基础知识点
大数据基础知识点一、什么是大数据随着互联网的快速发展和各种智能设备的普及，人们产生的数据呈现爆炸式增长的趋势。
这些数据体量庞大、种类繁多，涵盖了各个领域的信息。
大数据就是指这些海量、高速、多样化的数据集合，它们对于传统的数据处理技术和工具来说存在着无法处理的挑战。
因此，大数据的处理和分析是当今科技领域的热点问题。
二、大数据的特点1. 体量巨大：大数据的体量往往以PB（1PB=1024TB=1048576GB）或EB（1EB=1024PB）为单位，远远超过了传统数据处理的能力范围。
2. 高速性：大数据的产生速度非常快，要求对数据进行及时的采集、存储和分析。
3. 多样性：大数据涵盖了结构化数据、半结构化数据和非结构化数据，包括文本、图像、音视频等多种形式。
4. 来源广泛：大数据的来源多样，包括社交媒体、传感器、移动设备等各种渠道。
三、大数据的应用领域1. 金融行业：大数据可以用来进行风险评估、信用评分、个性化推荐等，提供精准的金融服务。
2. 医疗行业：大数据可以用来进行疾病预测、基因分析、医疗资源优化等，提高医疗效率和质量。
3. 零售行业：大数据可以用来进行消费者行为分析、商品推荐、供应链管理等，提升销售业绩和客户满意度。
4. 交通运输行业：大数据可以用来进行交通流量预测、路况优化、智能导航等，提高交通效率和安全性。
5. 媒体行业：大数据可以用来进行内容推荐、舆情监测、营销策划等，增强媒体的影响力和竞争力。
四、大数据的处理方法1. 数据采集：通过各种方式收集数据，包括传感器、网络爬虫、日志文件等。
2. 数据存储：将采集到的数据存储到分布式文件系统（如Hadoop）或数据库中，以便后续处理和分析。
3. 数据清洗：对数据进行清理和去重，排除无效的数据和异常值，保证数据的质量和准确性。
4. 数据分析：通过数据挖掘、机器学习等方法，对数据进行统计分析和模式识别，以发现隐藏在数据中的规律和趋势。
5. 数据可视化：通过图表、图像等形式，将分析结果以直观的方式展示出来，帮助用户理解和利用数据。
大数据基础知识
大数据基础知识在当今数字时代，数据变得异常庞大和复杂，为了应对这样的挑战，大数据技术应运而生。
大数据指的是规模之大以至于传统的数据处理工具无法处理的数据集合。
对于许多人来说，大数据可能是一个陌生的概念，因此本文将介绍一些大数据的基础知识，希望能为读者提供一个全面的了解。
一、大数据的定义大数据的定义可以从不同的角度进行解释。
从技术层面来看，大数据是指具有极大体积、复杂性和多样性的数据集合，这些数据需要进行高效的处理和分析以从中发现有价值的信息。
此外，大数据还具有高速性和实时性，即数据的快速产生和处理。
从应用层面来看，大数据可用于各种领域，如金融、医疗、电子商务等。
通过对大数据的分析，企业可以深入了解市场趋势、消费者行为并作出相应决策，从而提高效率和竞争力。
二、大数据的特点大数据有以下几个典型的特点：1. 体积大：大数据的数据量通常以TB、PB甚至EB为单位，远远超过个人电脑或传统数据库的处理能力。
2. 多样性：大数据来自不同的来源，包括结构化数据（如关系数据库）、半结构化数据（如日志文件）和非结构化数据（如文本、图像和音频等），并且以不同的格式呈现。
3. 速度快：大数据的产生速度极快，企业需要实时处理和分析数据以及做出快速决策。
4. 真实性：大数据的真实性是指数据必须准确无误，并且具有可靠性和可信度。
三、大数据的处理和分析针对大数据的处理和分析，一般有以下几个步骤：1. 数据采集：大数据的采集可以通过传感器、网络爬虫、日志文件等方式进行。
为了确保数据的质量和准确性，采集过程需要遵循一定的规范和标准。
2. 数据存储：大数据的存储一般采用分布式文件系统，如Hadoop 和HDFS。
这些系统能够高效地存储和管理大量的数据。
3. 数据清洗：由于大数据的多样性和来源的不同，其中可能会包含一些无效或冗余的数据。
因此，为了减少误差和提高分析的准确性，在进行数据分析之前需要对数据进行清洗和预处理。
4. 数据分析：数据分析是对大数据进行挖掘和发现有价值信息的过程。
大数据的基础知识与应用
大数据的基础知识与应用随着信息技术的飞速发展，数据已成为现代社会的基石之一。
而大数据的概念则是在互联网时代兴起的，它指的是一种数据集合，通常包含一组超大规模、高度变化和复杂的数据。
这种数据集合需要精确的处理和分析，以便发现其中的规律和价值。
本文将着重介绍大数据的基础知识和应用，以帮助读者了解和掌握这一重要的技术趋势。
一、大数据的基础知识1. 数据类型数据可以分为结构化数据和非结构化数据。
结构化数据通常以表格形式存在，具有严格的格式和固定的字段。
而非结构化数据则没有固定的格式，包括文本、音频、图像等各种形式。
大数据通常包含大量的非结构化数据，这就需要对数据进行有效的解析和处理。
2. 处理方式大数据需要处理海量的数据，在传统的处理方式下，往往需要很长的时间才能完成。
因此，采用分布式并行计算的方式来处理大数据已成为一种趋势。
通过将数据分散到多个计算机上进行处理，大大缩短了处理时间。
3. 处理工具Hadoop是目前最为流行的大数据处理工具。
它是一个开源的分布式存储与计算框架，支持批量处理和实时处理，可以针对海量数据进行有效的管理和分析。
除此之外，Spark也是另一种流行的大数据处理框架。
它同样是免费的开源工具，具有更快的处理速度和更好的扩展性。
4. 数据挖掘数据挖掘是大数据应用的重要环节。
它指的是从大量数据中挖掘出有用的信息、模式和规律。
数据挖掘可以应用于推荐系统、金融风险管理、社交网络分析等领域。
常见的数据挖掘算法包括聚类、分类、回归、关联规则等。
5. 人工智能人工智能是大数据领域的另一个热点。
在过去的几年中，机器学习、深度学习和神经网络等技术已经成为了大数据处理的重要手段。
这些技术可以从数据中自动学习出一定的模式和规律，支持机器自主地进行判断和决策。
二、大数据的应用1. 金融风险管理金融行业是大数据应用的一个重要领域。
通过收集和分析大量的数据，金融机构可以识别出风险，制定有效的策略进行风险控制。
例如，大型银行可以通过大数据技术跟踪客户的操作记录，分析客户的交易行为和信用水平，以及其他银行的数据来做出决策。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
Spark
Apache Spark 是专为大规模数据处理而设计的快速通用的计算引擎。 Spark在借鉴Hadoop MapReduce优点的同时，很好地解决了MapReduce所面临的问题。 Spark的计算模式也属于MapReduce，但不局限于Map和Reduce操作，还提供了多种数 据集操作类型，编程模型比Hadoop MapReduce更灵活。 Spark基于DAG的任务调度执行机制，要优于Hadoop MapReduce的迭代执行机制，因此 Spark能更好地适用于数据挖掘与机器学习等需要迭代的MapReduce的算法。
2. Google AlphaGo 第一个战胜围棋世界冠军的人工智能机器人。 结合了3大块技术：先进的搜索算法、机器学习算法 （即强化学习），以及深度神经网络。
1、根据当前盘面已经落子的情况提取相应特征；
2、利用策略网络估计出棋盘其他空地的落子概率；
3、根据落子概率来计算此处往下发展的权重，初始值为落子概
数据分析
数据分析：主要利用分布式数据 库，或者分布式计算集群来对存 储于其内的海量数据进行普通的 分析和分类汇总等，以满足大多 数常见的分析需求。
推荐书籍：
《谁说菜鸟不会数据分析(入门篇)》 《Spark快速大数据分析》 《社交网站的数据挖掘与分析》
数据建模和人工智能
数据建模：建模是指把具体问题抽象成为某一类问题并用数学模型表示，是应用于工 程、科学等各方面的通用方法，是一种对现实世界的抽象总结。 人工智能：在广义上，人工智能（AI）是指由人工制造出的智能机器，是一种能够学习 的计算机程序，可代替人类去解决需要人类智慧才能解决的问题。
Hadoop之父Doug Cutting
Hadoop技术介绍
Hadoop的架构
Cloudera Manger
大数据集群管理方式
分 为 手 工 方 式 （ Apache
hadoop）和工具方式（Ambari +
hdp 和 Cloudera Manger +
CDH）
Ambari 和 Cloudera
Manger都是基于Web的工具，支持
Apache Hadoop集群的供应、管理
和 监 控 。 支 持 大 多 数 Hadoop 组
件 ， 包 括 HDFS 、 MapReduce 、
Spark 、 Hive 、 Pig 、 Hbase 、
Zookeper、Sqoop等
HDFS
HDFS （ Hadoop Distributed File System ） 是 Hadoop项目的核心组件之一，是分布式计算中数据存储 管理的基础，是基于流数据模式访问和处理超大文件的 需求而开发的，可以运行于廉价的商用服务器上。它所 具有的高容错、高可靠性、高可扩展性、高吞吐率等特 征为海量数据提供了不怕故障的存储，为超大数据集的 应用处理带来了很多便利。主要包含NameNode(用来管理 文件系统的命名空间)和DataNode(文件系统中真正存储 数据的地方)
HBase
HBase 是 Google bigTable 的 开 源 版本，是Hadoop的数据库，是建立在hdfs 之上，被设计用来提供高可靠性，高性 能、列存储、可伸缩、多版本，的Nosql 的分布式数据存储系统，实现对大型数据 的实时，随机的读写请求。
Hbase特点： •大 • 列存储 • 稀疏性 • 多版本 • 高性能
率本身(如0.18)。实际情况可能是一个以概率值为输入的函数。
4、利用价值网络和快速走棋网络分别判断局势，两个局势得分
相加为此处最后走棋获胜的分。
5、利用第四步计算的得分来更新之前那个走棋位置的权重(如从
0.18变成了0.12)；此后，从权重最大的0.15那条边开始继续搜
索和更新。
谢谢观看
2003-2006年，Google提出了三大关键技术来解决大规模数据的存 储和处理: GFS、MapReduce、BigTable并称Google大数据的三驾马 车。虽然Google没有公布这三个产品的源码，但是他发布了这三个 产品的详细设计论文，奠定了风靡全球的大数据的基础！
Hadoop的起源
大数据基础知识入门
社会保障事业部 张火磊
主要内容
01 大数据概念、特性、由来
02 Hadoop技术介绍
03
大数据价值
04 大数据应用举例
大数据概念、特性、由来
什么叫大数据？
麦肯锡全球研究所给出的定义是：一 种规模大到在获取、存储、管理、分 析方面大大超出了传统数据库软件工 具能力范围的数据集合，具有海量的 数据规模、快速的数据流转、多样的 数据类型和价值密度低四大特征。
受此启发的Doug Cutting等人用2 年的业余时间实现了GFS和MapReduce机制。 2005年，Hadoop作为Lucene的子项目Nutch 的一部分正式引入Apache基金会。2006年2 月被分离出来，成为一套完整独立的软件， 起名为Hadoop。
总结起来，Hadoop起源于Google的三大论文 GFS—->HDFS Google MapReduce—->Hadoop MapReduce BigTable—->HBase
举例：如果想统计下过去10年计算机论文出现 最多的几个单词 传统方法：首先写一个遍历论文的程序，部署 到N台机器上去，然后把论文集分成N份，一台 机器跑一个作业。这个方法从理论上可以实 现，但是部署起来很麻烦，我们要人工把程序 copy到别的机器，要人工把论文集分开，最后 还要把N个运行结果进行整合。
Spark简单工作流程
RDD（Resilient Distributed Dataset）叫做弹性分布式数据集，是Spark中最基本的数 据抽象，它代表一个不可变、可分区、里面的元素可并行计算的集合。
val spark = new SparkContext(master, appName, [sparkHome], [jars]) val file = sc.textFile("hdfs://...") val word = file.flatMap(_.split(",")) val wordOne = word.map((_,1)) val wordCounts = wordOne.reduceByKey(_+_) wordCounts.saveAsTextFile("hdfs://...")
HBase VS Oracle
HBase应用场景
人员画像： 用Hbase集群来存储用户的数
据，使用rowkey快速检索方式来构 建查询。rowkey基于用户身份证号 码设计，因为每个人的社会保障号 +姓名是唯一的，再根据用户不同 维度的信息给用户打标签，到最后 展示在页面上。
HIVE 数据仓库
大数据的特性
• 大量（Volume） • 多样（Variety） • 快速（Velocity） • 价值（Value）
大数据技术的由来
自 2002 年 数 字 时 代 开 启 以 来，数据呈现海量增长趋势(如图 所示)。特别是在2004年社交媒体 产生后，数据更是呈现爆炸性增 长趋势.
随着数据的增长，尤其数据 达 到 PB 级 以 后 ， 数 据 的 存 储 和 分 析都会变得非常困难。
Hive 是 建 立 在 Hadoop 上 的数据仓库基础架构。它提 供了一系列的工具，用来进 行数据提取、转换、加载， 这是一种可以查询和分析存 储 在 Hadoop 中大规模数据的 机制。 Hive 定义了简单的 类 SQL 查 询 语 言 ， 称 为 HQL，它允许熟悉 SQL 的用 户查询数据。
MapReduce
MapReduce是一个高性能的批处理分布式 计算框架，用于对海量数据进行并行分析和处 理。MapReduce采用"分而治之"的思想，把对大 规模数据集的操作，分发给一个主节点管理下 的各个分节点共同完成，然后通过整合各个节 点的中间结果，得到最终结果。简单地说， MapReduce就是"任务的分解与结果的汇总"。
HIVE与关系型数据库对比
Solr
Solr是一个高性能，基于Lucene的全 文搜索服务。同时对其进行了扩展， 提 供 了 比 Lucene 更 为 丰 富 的 查 询 语 言，同时实现了可配置、可扩展并对 查询性能进行了优化，并且提供了一 个完善的功能管理界面，是一款非常 优秀的全文搜索引擎。
大数据的价值
大数据的价值
数据，已经渗透到当今每一个行业和业务职能 领域，成为重要的生产因素。人们对于海量数据的挖 掘和运用，预示着新一波生产率增长和消费者盈余浪 潮的到来。
大数据的关键点不在大，而在于有用。大数 据思维首先需要能够充分理解数据所蕴含的价值，并 且知道如何利用大数据，让它为企业的经营决策提供 依据。也就是通过数据处理创造商业价值。
挖掘大数据价值的三个层面 1.数据预处理 2.数据分析 3.数据建模和人工 智能
数据预处理
采集到的数据大体上都是不完整，不一致的脏数据，无法直接 进行数据挖掘或挖掘结果无法满足需求。通过数据预处理工作，可以 使残缺的数据完整，并将错误的数据纠正、多余的数据去除，进而将 所需的数据挑选出来，并且进行数据集成。数据预处理的常见方法有 数据清洗、数据集成与数据变换等。由于获得的数据规模太过庞大， 数据不完整、重复、杂乱，在一个完整的数据挖掘过程中，数据预处 理要花费60%左右的时间。
Spark
优点： 运行速度快：使用DAG执行引擎以支持循环数据流与内存计算 容易使用：支持使用Scala、Java、Python和R语言进行编程，可以通过Spark Shell 进行交互式编程 通用性：Spark提供了完整而强大的技术栈，包括SQL查询、流式计算、机器学习和 图算法组件 运行模式多样：可运行于独立的集群模式中 ，可运行于Hadoop中，也可运行于 Amazon EC2等云环境中，并且可以访问HDFS、Cassandra、HBase、Hive等多种数据 源