第5章 数据采集与预处理 大数据基础
大数据在商业决策中的应用作业指导书
大数据在商业决策中的应用作业指导书第1章大数据概述 (4)1.1 数据的概念与分类 (4)1.1.1 数据的定义 (4)1.1.2 数据的分类 (4)1.2 大数据的发展历程 (4)1.2.1 数据存储与处理技术的发展 (4)1.2.2 数据分析技术的发展 (4)1.2.3 大数据时代的来临 (5)1.3 大数据的关键技术 (5)1.3.1 数据采集与预处理 (5)1.3.2 数据存储与管理 (5)1.3.3 数据分析与挖掘 (5)1.3.4 数据可视化 (5)1.3.5 大数据安全与隐私保护 (5)第2章商业决策与大数据 (5)2.1 商业决策的演变 (5)2.1.1 经验决策阶段 (5)2.1.2 数据分析决策阶段 (5)2.1.3 大数据决策阶段 (6)2.2 大数据在商业决策中的作用 (6)2.2.1 提高决策效率 (6)2.2.2 降低决策风险 (6)2.2.3 优化资源配置 (6)2.2.4 创新商业模式 (6)2.3 大数据时代商业决策面临的挑战 (6)2.3.1 数据质量参差不齐 (6)2.3.2 数据安全与隐私保护 (6)2.3.3 数据分析人才短缺 (7)2.3.4 技术更新迅速 (7)2.3.5 数据孤岛现象严重 (7)第3章数据采集与预处理 (7)3.1 数据源的选择与接入 (7)3.1.1 确定数据需求 (7)3.1.2 数据源评估 (7)3.1.3 数据接入 (7)3.2 数据采集方法与技术 (7)3.2.1 网络爬虫 (7)3.2.2 传感器与物联网 (8)3.2.3 公开数据集与第三方数据服务 (8)3.3 数据预处理技术与策略 (8)3.3.1 数据清洗 (8)3.3.3 数据转换 (8)3.3.4 数据降维 (8)3.3.5 数据采样 (8)第4章数据存储与管理 (8)4.1 分布式存储技术 (8)4.1.1 分布式存储原理 (9)4.1.2 分布式存储在商业决策中的应用 (9)4.2 数据仓库与数据湖 (9)4.2.1 数据仓库 (9)4.2.2 数据湖 (9)4.2.3 数据仓库与数据湖在商业决策中的应用 (10)4.3 数据质量管理与维护 (10)4.3.1 数据质量管理方法 (10)4.3.2 数据维护 (10)4.3.3 数据质量管理与维护在商业决策中的应用 (10)第5章数据挖掘与分析 (10)5.1 数据挖掘的基本概念与方法 (10)5.1.1 数据挖掘的基本概念 (11)5.1.2 数据挖掘的方法 (11)5.2 关联规则挖掘与应用 (11)5.2.1 关联规则的基本概念 (11)5.2.2 关联规则挖掘方法 (11)5.2.3 关联规则在商业决策中的应用 (11)5.3 聚类分析与应用 (11)5.3.1 聚类分析的基本概念 (11)5.3.2 聚类分析方法 (11)5.3.3 聚类分析在商业决策中的应用 (11)5.4 时间序列分析与应用 (12)5.4.1 时间序列分析的基本概念 (12)5.4.2 时间序列分析方法 (12)5.4.3 时间序列分析在商业决策中的应用 (12)第6章机器学习与人工智能 (12)6.1 机器学习基本概念与算法 (12)6.1.1 机器学习概述 (12)6.1.2 常见机器学习算法 (12)6.2 深度学习技术与应用 (12)6.2.1 深度学习概述 (12)6.2.2 常见深度学习模型 (13)6.2.3 深度学习在商业决策中的应用 (13)6.3 人工智能在商业决策中的应用案例 (13)6.3.1 零售行业 (13)6.3.2 金融行业 (13)6.3.3 医疗行业 (13)6.3.5 制造业 (13)第7章数据可视化与故事化 (14)7.1 数据可视化技术与方法 (14)7.1.1 可视化工具与技术 (14)7.1.2 可视化设计原则 (14)7.2 数据故事化与传播 (14)7.2.1 数据故事化的重要性 (14)7.2.2 数据故事化的步骤 (14)7.3 数据可视化在商业决策中的应用案例 (14)7.3.1 市场趋势分析 (15)7.3.2 客户细分 (15)7.3.3 风险评估 (15)第8章大数据在市场营销中的应用 (15)8.1 客户细分与精准营销 (15)8.1.1 数据收集与处理 (15)8.1.2 客户细分方法 (15)8.1.3 精准营销策略 (15)8.2 产品推荐与个性化定制 (15)8.2.1 基于大数据的推荐算法 (15)8.2.2 个性化定制策略 (15)8.2.3 产品推荐的优化与调整 (15)8.3 营销活动监测与优化 (16)8.3.1 营销活动数据监测 (16)8.3.2 营销活动效果评估 (16)8.3.3 营销策略优化与调整 (16)8.3.4 大数据在营销活动中的应用案例 (16)第9章大数据在供应链管理中的应用 (16)9.1 供应链数据分析与优化 (16)9.1.1 数据采集与整合 (16)9.1.2 数据分析方法 (16)9.1.3 供应链绩效评估 (16)9.2 需求预测与库存管理 (17)9.2.1 需求预测方法 (17)9.2.2 多维度数据分析 (17)9.2.3 库存管理优化 (17)9.3 供应商评价与风险管理 (17)9.3.1 供应商数据收集与分析 (17)9.3.2 供应商风险评估 (17)9.3.3 供应商关系管理 (17)第10章大数据在商业决策中的未来趋势与挑战 (17)10.1 新技术发展趋势 (17)10.1.1 人工智能与大数据的结合 (17)10.1.2 物联网与大数据的融合 (18)10.1.3 边缘计算在大数据中的应用 (18)10.2 数据安全与隐私保护 (18)10.2.1 数据安全策略与法规 (18)10.2.2 数据加密与脱敏技术 (18)10.2.3 用户隐私保护意识与合规性 (18)10.3 大数据在商业决策中的实践与创新 (18)10.3.1 数据驱动的决策模式 (18)10.3.2 跨界融合与创新 (19)10.3.3 个性化定制与智能化服务 (19)10.4 我国大数据产业发展现状与展望 (19)10.4.1 产业发展现状 (19)10.4.2 产业挑战与展望 (19)第1章大数据概述1.1 数据的概念与分类1.1.1 数据的定义数据是对客观事物的记录和描述，是信息的载体。
《大数据导论》复习资料
《大数据导论》课程期末复习资料《大数据导论》课程讲稿章节目录：第1章大数据概述（1）大数据的概念（2）大数据的特征（3）大数据的数据类型（4）大数据的技术（5）大数据的应用第2章大数据采集与预处理（1）大数据采集（2）大数据预处理概述（3）数据清洗（4）数据集成（5）数据变换（6）数据规约第3章大数据存储（1）大数据存储概述（2）数据存储介质（3）存储系统结构（4）云存储概述（5）云存储技术（6）新型数据存储系统（7）数据仓库第4章大数据计算平台（1）云计算概述（2）云计算平台（3）MapReduce平台（4）Hadoop平台（5）Spark平台第5章大数据分析与挖掘（1）大数据分析概述（2）大数据分析的类型及架构（3）大数据挖掘（4）大数据关联分析（5）大数据分类（6）大数据聚类（7）大数据分析工具第6章大数据可视化（1）大数据可视化概述（2）大数据可视化方法（3）大数据可视化工具第7章社交大数据（1）社交大数据（2）国内社交网络大数据的应用（3）国外社交网络大数据的应用第8章交通大数据（1）交通大数据概述（2）交通监测应用（3）预测人类移动行为应用第9章医疗大数据（1）医疗大数据简介（2）临床决策分析应用（3）医疗数据系统分析第10章大数据的挑战与发展趋势（1）大数据发展面临的挑战（2）大数据的发展趋势一、客观部分：（单项选择、多项选择）（一）、单项选择1.以下不是NoSQL数据库的是（）A.MongoDBB.HBaseC.CassandraD.DB2★考核知识点:NoSQL与NewSQL主流系统参考讲稿章节：3.7附1.1.1（考核知识点解释）：目前市场上主要的NoSQL数据存储工具有：BigTable、Dynamo 、Hbase、MongoDB、CouchDB、Hypertable还存在一些其他的开源的NoSQL数据库，Neo4j、Oracle Berkeley DB、Apache Cassandra等另外，NewSQL数据库。
大数据开发项目实战-广电大数据用户画像——数据采集与预处理
模拟数据产生
➢ Elasticsearch的head插件是一种界面化的集群操作和管理工具，用来辅助管理Elasticsearch集群。 ➢ Elasticsearch的head插件安装在node1节点上，使用默认的端口9100。 ➢ 浏览器访问head插件的地址“http://192.168.111.75:9100”。
5
模拟数据产生
➢ Elasticsearch安装配置的具体步骤 • 浏览器的地址栏访问“http://192.168.111.75:9200”。
其他节点的安装，可以复制当前节点的整个elasticsearch-6.3.2目录到其他节点中，只需要修改 elasticsearch.yml的和network.host的值即可，其他步骤是相同的。
➢ Elasticsearch集群各节点的角色
节点
IP地址
node1
192.168.111.75
node2
192.168.111.76
node3
192.168.111.77
角色 既作为data节点也能够被选举为master节点 既作为data节点也能够被选举为master节点 既作为data节点也能够被选举为master节点
差的月数month_delta，再将mmconsume_billevents数据中的year_month字段都加上month_delta，最后将修改后 的数据更新到Elasticsearch集群中。
23
模拟数据产生
➢ 具体步骤 • 参考4.2.1小节数据从Elasticsearch传输到Hive中的方法，将Elasticsearch集群中的mmconsume_billevents 数据同步到Hive的user_profile库的mmconsume_billevents_id表中，模拟产生的账单数据都是以Hive中的 mmconsume_billevents表为基础的。 • 编写mmconsume_billevents_1d.sh脚本，主要用于计算当前时间与2018年7月相差的月数month_delta， 即将原账单数据的year_month字段数据加上month_delta，修改后的数据以覆盖的模式保存在Hive的 user_profile库的mmconsume_billevents_1d表中，最后通过运行一个Spark程序将Hive中的 mmconsume_billevents_1d表中的数据以覆盖的模式保存到Elasticsearch中。
大数据基础-数据采集与预处理
大数据基础-数据采集与预处理大数据基础数据采集与预处理在当今数字化的时代，数据已成为企业和组织决策的重要依据。
大数据的价值日益凸显，而数据采集与预处理作为大数据处理的基础环节，其重要性不言而喻。
本文将详细探讨数据采集与预处理的相关知识，帮助您更好地理解这一关键领域。
一、数据采集数据采集是获取原始数据的过程，它就像是为大数据这座大厦收集原材料。
常见的数据采集方法包括以下几种：（一）系统日志采集许多系统和应用程序会自动生成日志，记录其运行过程中的各种信息，如用户操作、错误信息等。
通过对这些日志的收集和分析，可以了解系统的运行状况和用户行为。
（二）网络爬虫当我们需要从互联网上获取大量数据时，网络爬虫是一个常用的工具。
它可以按照一定的规则自动访问网页，并提取所需的信息。
（三）传感器数据采集随着物联网的发展，各种传感器被广泛应用于收集物理世界的数据，如温度、湿度、位置等。
（四）数据库导入企业内部通常会有各种数据库存储业务数据，通过特定的接口和工具，可以将这些数据导入到大数据处理系统中。
在进行数据采集时，需要考虑数据的来源、质量和合法性。
数据来源的多样性可以保证数据的丰富性，但也可能带来数据格式不一致、数据重复等问题。
同时，要确保采集的数据合法合规，遵循相关的法律法规和隐私政策。
二、数据预处理采集到的原始数据往往存在各种问题，如缺失值、噪声、异常值等，这就需要进行数据预处理，将数据“清洗”和“整理”，为后续的分析和处理做好准备。
（一）数据清洗1、处理缺失值缺失值是数据中常见的问题。
可以通过删除包含缺失值的记录、填充缺失值（如使用平均值、中位数或其他合理的方法）等方式来处理。
2、去除噪声噪声数据会干扰分析结果，需要通过平滑技术或聚类等方法来去除。
3、识别和处理异常值异常值可能是由于数据录入错误或真实的异常情况导致的。
需要通过统计方法或业务知识来判断并处理。
（二）数据集成当数据来自多个数据源时，需要进行数据集成。
大数据采集与预处理技术研究
大数据采集与预处理技术研究随着互联网的不断发展，人们日常生活中产生的数据量也越来越大。
而这些数据本身具备着极高的价值，可以为各行各业带来不同的发展机遇。
因此，如何高效地采集和预处理数据已成为当前大数据研究的热点之一。
一、大数据采集技术大数据采集是指从不同数据源中收集数据，旨在获得可用于分析的有价值的信息。
目前，大数据采集技术主要通过网络爬虫来实现。
其核心是通过一定的算法和技术，自动地从互联网上的不同网站，甚至是社交媒体和邮件中提取有价值的数据。
网络爬虫技术是一种基于网络协议以及数据传输和解析算法，从指定的数据源中快速抓取大量数据的技术。
其中主要包括四个步骤：1）确定采集的目标网站；2）确定采集的网页链接；3）爬取网页，并从中提取有价值的信息；4）存储数据为结构化数据。
网络爬虫技术的特点是能够自动化地完成大量数据的采集和处理，但也存在一些挑战。
例如，一些网站对爬虫进行了访问限制，需要采用一些技术手段绕过限制。
而一些网站则采取了人工反爬虫策略，需要通过技术手段准确模拟用户行为进行访问。
二、大数据预处理技术在大数据采集的过程中，数据通常具有不确定性、冗余性和噪音问题，需要经过预处理才能用于后续的分析和应用。
数据预处理的目标是提高数据质量、减少数据量，以及把数据转化为可分析的形式。
1. 数据清洗数据清洗是指通过一系列技术手段处理数据中的错误、不完整、不一致以及多余的信息，以便使其更具有参考和研究价值。
通过数据清洗技术，可以实现数据的去重、缺失值填充、异常值检测和处理以及格式转换等操作。
例如，对于销售记录数据里出现重复的记录，可以通过去重操作把重复记录合并成一条记录。
对于缺失或错误的数据，可以采取插值或替换等技术手段，补全或修正数据；对于噪音数据，可以采用平滑处理、滤波处理等手段进行有效处理。
2. 数据转换数据转换指将数据从原始状态转换为适用于特定数据结构或模型的状态，包括数据标准化、数据规范化、数据集成等技术。
大数据技术应用基础作业指导书
大数据技术应用基础作业指导书第1章大数据概述 (4)1.1 大数据定义与特征 (4)1.1.1 定义 (4)1.1.2 特征 (4)1.2 大数据应用领域与发展趋势 (4)1.2.1 应用领域 (4)1.2.2 发展趋势 (5)第2章数据采集与存储 (5)2.1 数据来源与采集技术 (5)2.1.1 网络数据采集 (5)2.1.2 传感器数据采集 (5)2.1.3 公共数据资源采集 (5)2.1.4 企业内部数据采集 (5)2.2 数据存储技术 (6)2.2.1 关系型数据库 (6)2.2.2 非关系型数据库 (6)2.2.3 分布式文件存储系统 (6)2.3 数据仓库与数据湖 (6)2.3.1 数据仓库 (6)2.3.2 数据湖 (6)第3章数据预处理 (6)3.1 数据清洗 (6)3.1.1 数据缺失处理 (7)3.1.2 异常值处理 (7)3.1.3 重复数据处理 (7)3.2 数据集成 (7)3.2.1 数据集成策略 (7)3.2.2 数据集成方法 (7)3.3 数据转换与归一化 (7)3.3.1 数据转换 (8)3.3.2 数据归一化 (8)第4章数据分析算法 (8)4.1 描述性统计分析 (8)4.1.1 集中趋势分析 (8)4.1.2 离散程度分析 (8)4.1.3 分布形态分析 (8)4.2 摸索性数据分析 (9)4.2.1 数据可视化 (9)4.2.2 数据挖掘方法 (9)4.2.3 异常值分析 (9)4.3 假设检验与预测分析 (9)4.3.1 假设检验 (9)4.3.2 预测分析 (10)4.3.3 模型评估与优化 (10)第5章数据挖掘技术 (10)5.1 关联规则挖掘 (10)5.1.1 概述 (10)5.1.2 关联规则挖掘算法 (10)5.1.3 应用实例 (10)5.2 聚类分析 (10)5.2.1 概述 (10)5.2.2 聚类算法 (11)5.2.3 应用实例 (11)5.3 分类与预测 (11)5.3.1 概述 (11)5.3.2 分类与预测算法 (11)5.3.3 应用实例 (11)第6章机器学习与深度学习 (11)6.1 机器学习基础 (11)6.1.1 机器学习概述 (11)6.1.2 机器学习算法 (12)6.1.3 模型评估与优化 (12)6.2 线性回归与逻辑回归 (12)6.2.1 线性回归 (12)6.2.2 逻辑回归 (12)6.2.3 回归模型评估 (12)6.3 神经网络与深度学习 (12)6.3.1 神经网络基础 (12)6.3.2 深度学习框架 (12)6.3.3 卷积神经网络（CNN） (12)6.3.4 循环神经网络（RNN） (12)6.3.5 对抗网络（GAN） (12)6.3.6 深度学习模型评估与优化 (13)第7章大数据可视化 (13)7.1 数据可视化基本概念 (13)7.1.1 可视化的目的 (13)7.1.2 可视化类型 (13)7.1.3 可视化流程 (13)7.2 常用可视化工具与技术 (13)7.2.1 常用可视化工具 (14)7.2.2 常用可视化技术 (14)7.3 可视化设计原则与案例 (14)7.3.1 可视化设计原则 (14)7.3.2 可视化案例 (14)第8章大数据应用实践 (15)8.1 大数据技术在金融领域的应用 (15)8.1.1 客户画像与精准营销 (15)8.1.2 信贷风险评估 (15)8.1.3 智能投顾 (15)8.1.4 交易欺诈检测 (15)8.2 大数据技术在医疗领域的应用 (15)8.2.1 疾病预测与预防 (15)8.2.2 临床决策支持 (16)8.2.3 药物研发 (16)8.2.4 健康管理 (16)8.3 大数据技术在智慧城市中的应用 (16)8.3.1 智能交通 (16)8.3.2 环境监测 (16)8.3.3 公共安全 (16)8.3.4 城市规划 (16)8.3.5 智能家居 (16)第9章大数据安全与隐私保护 (16)9.1 数据安全概述 (16)9.1.1 大数据安全背景 (17)9.1.2 安全威胁 (17)9.1.3 安全策略 (17)9.2 数据加密与安全存储 (17)9.2.1 数据加密算法 (17)9.2.2 加密技术在存储设备中的应用 (17)9.2.3 安全存储方案 (17)9.3 隐私保护技术 (17)9.3.1 隐私保护技术 (17)9.3.2 隐私泄露途径 (18)9.3.3 隐私保护策略 (18)第10章大数据未来发展趋势与挑战 (18)10.1 新一代大数据技术 (18)10.1.1 概述 (18)10.1.2 新技术发展趋势 (18)10.2 大数据与云计算、物联网的融合 (18)10.2.1 概述 (18)10.2.2 云计算与大数据 (18)10.2.3 物联网与大数据 (18)10.3 大数据面临的挑战与解决方案 (19)10.3.1 数据安全与隐私保护 (19)10.3.2 数据质量与数据治理 (19)10.3.3 数据存储与管理 (19)10.3.4 数据分析与挖掘算法 (19)10.3.5 人才培养与知识普及 (19)第1章大数据概述1.1 大数据定义与特征1.1.1 定义大数据（Big Data）指的是传统数据处理应用软件难以捕捉、管理和处理的在一定时间范围内迅速增长的、复杂的数据集合。
《大数据导论》—教学大纲
本课程旨在实现以下几个培养目标：
（1）引导学生步入大数据时代，积极投身大数据的变革浪潮之中；
（2）了解大数据概念，熟悉大数据应用，培养大数据思维，养成数据安全意识；
（3）了解大数据专业知识体系，形成对大数据专业的整体认知；
（4）熟悉大数据各个环节的相关技术，为后续深入学习相关大数据技术奠定基础；
（1）平时成绩：包括上课考勤和作业；
（2）期末考试：采用笔试，闭卷；
（3）最终成绩：平时成绩和期末考试成绩按5:5比例加权求和。
六、选用教材
七、参考书目与文献
八、课程网站等支持条件
课程主讲教师建设了国内高校首个大数据课程公共服务平台，提供讲义PPT、课程习题、学习指南、授课视频、技术资料等全方位、一站式免费服务，帮助学生更好学习大数据课程，网站地址：
（5）激发学生基于大数据的创新创业热情。
三、教学方法
本课程以课程理论教学为主，并提供大量补充学习资料，以深化学生对知识的理解。在理论教学层面，高屋建瓴地探讨大数据，超脱技术讲解技术，内容深入浅出，简单易懂，适合各个年级学生学习；同时，在课堂上为学生展示丰富的实际应用案例，激发学生学习兴趣，开拓学生视野，培养学生大数据思维。
4
第7章 数据处理与分析
数据处理与分析的概念、机器学习和数据挖掘算法、大数据处理与分析技术、大数据处理与分析代表性产品
6
第8章数据可视化
可视化概述、可视化图表、可视化工具、可视化典型术选择、系统实现、案例所需知识和技能
2
合计
32
五、考核方式与要求
四、主要内容及学时安排
章（或节）
主要内容
学时安排
第1章 大数据概述
数据的概念、大数据时代到来的背景、大数据的发展历程、世界各国的大数据发展战略、大数据的概念与影响、大数据的应用以及大数据产业
数据采集与预处理技术在大数据分析中的应用研究
数据采集与预处理技术在大数据分析中的应用研究引子随着物联网、互联网以及移动互联网的不断普及与快速发展，各种各样的信息被加工和储存了起来，而大量的数据产生了新的挑战：如何进行有效分析？如何将数据转化成能帮助我们做出决策的信息？一般来说数据分析过程中的最核心环节是数据采集与预处理，本文将详细介绍数据采集与预处理技术在大数据分析中的应用研究。
什么是数据采集与预处理？数据采集与预处理是整个数据分析过程的基础和核心，是耗时与耗力最大的环节。
简单的说，数据采集便是将源端数据抓取、收集，保存至数据库中；而数据预处理则是对这些数据进行清洗、筛选、转换，以便进行下一步有效的计算和分析。
数据采集包含三个主要步骤：数据抓取、数据处理、数据存储。
在这里，我们主要介绍第二个步骤——数据处理数据采集与预处理的意义数据采集和处理过程涉及到大量的数据格式转换的工作，而数据采集和处理的质量直接决定了最后的数据质量，极大的影响了数据分析和挖掘的结果，因此，数据采集与预处理技术的重要性不言而喻。
数据采集与预处理是整个大数据分析系统中的最为基础的前置工作，包括数据预处理的清洗、整理、转换、提取等。
数据预处理完成后对于结果导出和模型的构建都会起到很好的帮助。
数据采集的方法在数据采集前，我们需要清楚的了解什么是数据采集，除此之外，我们还需要对数据采集过程中可能出现的问题有所预见，以便在实际操作中能够快速地寻找出解决方案。
数据采集办法有多种，但一般来说，包含以下三种：1.统计抽样法数据采集：选择一个样本组，对样本组作为总体进行抽样、调查，以此推算整体的数据。
2.短期观察数据采集：在一个较短时间里，对数据进行采集，以此推算出长时间内的数据分析。
3.长期观察数据采集：对长时间内甚至是多年的数据进行采集，并用这些数据来做更为常见的数据分析。
以上三种数据采集方法，统计抽样法数据采集比较适用于数据规模较大，但又无法收集全部数据的环境下；短期观察数据采集适用于小规模的数据问题，如近期的流量、调查等；长期观察数据采集适用于对历史数据的记录、跟踪、统计。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
大数据项目组
2018年7月
华中科技大学软件学院
目录
流数据采集工具Flume 数据传输工具Sqoop 数据接入工具Kafka
2
流数据采集工具Flume
数据流 ：数据流通常被视为一个随时间延续而无限增长的动态数据集 合，是一组顺序、大量、快速、连续到达的数据序列。通过对流数据 处理，可以进行卫星云图监测、股市走向分析、网络攻击判断、传感 器实时信号分析。 Apache Flume是一种分布式、具有高可靠和高可用性的数据采集系统， 可从多个不同类型、不同来源的数据流汇集到集中式数据存储系统中。
23
Sqoop的安装
在安装Sqoop之前，请确保已经安装了JDK和Hadoop。从官网下载 地址下载Sqoop1.99.7版本Sqoop。 （1）安装前环境检测，查看JDK和Hadoop版本。 （2）Sqoop官网下载，解压缩到local目录 （3）进入到解压缩目录，创建两个相关目录 （4）配置环境变量并使之生效
18
通道、拦截器与处理器
1．通道 在Flume代理中，通道是位于Flume源和槽之间，为流动的事件提供 缓存的一个中间区域，是事件暂存的地方，源负责往通道中添加事件， 槽负责从通道中移出事件，其提供了多种可供选择的通道，如 Memory Channel、File Channel、JDBC Channel、Psuedo Transaction Channel。
5
流数据采集工具Flume
2、Flume代理 一个Flume代理是一个JVM进程，它是承载事件从外部源流向下一个 目标的组件，主要包括事件源（Source）、事件通道（Channel）、 事件槽/接收器（Sink）和其上流动的事件。
6
流数据采集工具Flume
3、源 Flume消费由外部源（如Web服务器）传递给它的事件。外部源以 Flume源识别的格式向Flume发送事件。
21
目录
流数据采集工具Flume 数据传输工具Sqoop 数据接入工具Kafka
22
数据传输工具Sqoop
Apache Sqoop是一个开源的数据库导入/导出工具，允许用户将关系 型数据库中的数据导入Hadoop的HDFS文件系统，或将数据从 Hadoop导入到关系型数据库。Sqoop整合了Hive、Hbase和Oozie， 通过MapReduce任务来传输数据，具有高并发性和高可靠性的特点。
25
Sqoop实例
本实例主要讲解如何从MySQL数据库导出数据到HDFS文件系统。从 MySQL官网下载JDBC驱动压缩包，并解压其中的jar包文件，到 Sqoop的server/lib和shell/lib目录下。
（1）登陆Hadoop平台，进入MySQL数据库，新建数据库test，新建 表user（name,age），添加两条数据到user表。 （2）进入sqoop-1.99.7-bin-hadoop200/bin目录
33
Sqoop导入过程
（1）在导入前，Sqoop使用JDBC来检查将要导入的数据表，提取导 入表的元数据，如表的列名、SQL数据类型等； （2）Sqoop把这些数据库的数据类型映射成Java数据类型，如 （Varchar、Integer）-->（String，Integer）。根据这些信息， Sqoop生成一个与表名同名的类，完成反序列化工作，在容器中保存 表中的每一行记录； （3）Sqoop启动MapReduce作业，调度MapReduce作业产生 imports和exports； （4）Map函数通过JDBC读取数据库中的内容，使用Sqoop生成的类 进行反序列化，最后将这些记录写到HDFS中。
3
流数据采集工具Flume
图给出Flume的一个应用场景。用户使用Flume可以从云端、社交网 络、网站等获取数据，存储在HDFS、HBase中，供后期处理与分析。 理解Flume的工作机制，需要了解事件、代理、源、通道、接收器等 关键术语。
4
流数据采集工具Flume
1、Flume事件 在Flume中，数据是以事件为载体进行传输的。Flume事件被定义为 具有字节有效载荷的事件体和可选的一组字符串属性事件头的数据流 单元。下图为一个事件的示意图，Header部分可以包括时间戳、源IP 地址等键值对，可以用于路由判断或传递其他结构化信息等。事件体 是一个字节数组，包含实际的负载，如果输入由日志文件组成，那么 该数组就类似于一个单行文本的UTF-8编码的字符串。
19
通道、拦截器与处理器
2．拦截器 拦截器（Interceptor）是简单插件式组件，设置在源和通道之间，源 接收到事件在写入到对应的通道之前，可以通过调用的拦截器转换或 者删除过滤掉一部分事件。
20
通道、拦截器与处理器
3．处理器 为了在数据处理管道中消除单点失败，Flume提供了通过负载均衡以 及故障恢复机制将事件发送到不同槽的能力，这里需要引入一个逻辑 概念Sink groups（Sink组），用于创建逻辑槽分组，该行为由槽处理 器来控制，决定了事件的路由方式。
8
流数据采集工具Flume
5、槽/接收器 Flume代理的输出数据部分称为槽（Sink）或接收器，负责从通道接 受数据，并可传递到另外一个通道。接收器只可以从一个通道里接收 数据。如图5.4所示的Flume代理a1与a2的Avro接收器从内存通道接 受数据，并传递给Flume代理b的Avro源，形成多级Flume。
17
Flume槽
3．HDFS Sink HDFS Sink将事件写到Hadoop分布 式文件系统HDFS中，当前支持创建 文本和序列化文件，并支持文件压缩。 这些文件可以依据指定的时间、数据 量或事件数量进行分卷，且通过类似 时间戳或机器属性对数据进行分区 （Buckets/Partitions）操作。
24
Sqoop的配置与运行
（1）配置sqoop.properties文件，指定Hadoop的安装路径 （2）在conf目录下，添加catalina.properties文件，加入本机 Hadoop相关的jar文件路径 （3）Sqoop2的运行模式不再是Sqoop1的一个小工具，而是加入了 服务器，这样只要能访问到MapReduce配置文件及其开发包， Sqoop服务器部署在哪里都无所谓，而客户端Shell是不需要任何配置 的，可直接使用。 （4）启动sqoop2客户端
11
Flume的配置与运行
使用Flume监听指定文件目录的变化，并通过将信息写入logger接收 器的示例。 其关键是通过配置一个配置文件，将数据源s1指定为spooldir类型， 将数据槽/接收器k1指定为logger，配置一个通道k1，并指定s1的下 游单元和k1的上游单元均为c1，实现Source->Channel->Sink的事件 传送通道。
9
Flume的安装
（1）解压并修改名字
（2）配置环境变量，修改vi /etc/profile文件，添加环境变量 （3）运行flume-ng version
10
Flume的配置与运行
安装好Flume后，使用Flume的步骤分为如下两步： （1）在配置文件中描述Source、Channel与Sink的具体实现； （2）运行一个Agent实例，在运行Agent实例的过程中会读取配置文 件的内容，这样Flume就会采集到数据。
7
流数据采集工具Flume
4、通道 事件在每个代理程序的通道暂存，并传递到下一个代理或终端存储库 （如HDFS）。事件只有在存储到下一代理程序的通道或终端存储库中 之后才被从通道中删除。一个代理中可以有多个通道、多个接收器。 Flume支持文件通道和内存通道。文件通道由本地文件系统支持，提 供通道的可持久化解决方案；内存通道将事件简单地存储在内存中的 队列中，速度快，但若由于故障，保留在内存通道中，事件将无法恢 复。
（6）创建HDFS链接，Sqoop2默认提供了支持HDFS的connector， 执行： sqoop:000> create link -connector hdfs-connector 执行以上命令会进入交互界面，依次配置下表中的信息。
30
Sqoop实例
（7）创建Sqoop的job提交到MapReduce框架平台运行，执行： sqoop:000> create job –f name1 –t name2
15
Flume源
5．Syslog TCP源 Syslog是一种用来在互联网协议（TCP/IP）的网络中传递记录档信息 的标准，Flume syslog源包括UDP、TCP和多端口TCP源三种。在传 递消息的负载较小的情况下，可以选择UDP源，否则应选择TCP或多 端口TCP源。Syslog源必须设置的属性有Channels、host、port（多 端口TCP源为ports）。
16
Flume槽
1．File Roll Sink 在本地文件系统中存储事件。每隔指定时长生成文件，并保存这段时 间内收集到的日志信息。必要属性包括type、directory；间隔时间使 用rollInterval属性。 2．Avro Sink Avro Sink在实现Flume分层数据采集系统中有重要作用，是实现多级 流动、1∶N出流和N∶1入流的基础。可以使用Avro RPC实现多个 Flume节点的连接，将进入Avro槽的事件转换为Avro形式的事件，并 送到配置好的主机端口。其中，必要属性包括type、hostname和 port。
26
Sqoop实例
（3）连接服务器，配置参数如表所示。
27
Sqoop实例
（4）Sqoop2导入数据需要建立两条链接，一条链基于一个Connector。可以通 过如下命令查看Sqoop2服务中已存在的Connector： sqoop:000> show connector
13