搭建大规模高性能的时间序列大数据平台
大数据分析平台的构建方法和优化技巧

大数据分析平台的构建方法和优化技巧随着技术的不断发展,大数据分析已成为许多企业和组织获取数据洞察力的重要手段。
然而,构建一个高效、稳定的大数据分析平台并不是一件容易的事情。
本文将介绍大数据分析平台的构建方法和优化技巧,帮助读者提高大数据分析的效率和准确性。
一、大数据分析平台的构建方法1. 硬件和基础设施:大数据分析平台需要强大的计算能力和存储空间。
因此,在构建平台时应考虑使用高性能的服务器、大容量的存储设备以及高速网络连接。
2. 数据采集和清洗:大数据分析平台的第一步是数据的采集和清洗。
采集数据的方法可包括批处理、实时流处理和事件驱动等。
清洗数据时需要去除冗余数据、处理缺失值和异常值,以确保数据的质量和准确性。
3. 数据存储和管理:在大数据分析平台中,数据的存储和管理是非常重要的环节。
常用的数据存储方式包括关系型数据库、NoSQL数据库和分布式文件系统等。
根据数据量和访问需求选择适当的存储方式,并配置相应的索引和分区策略以提高查询效率。
4. 数据处理和分析工具:构建大数据分析平台时需要选择合适的数据处理和分析工具。
常用的工具有Hadoop、Spark、Storm和Flink等。
这些工具各有特点,可以根据不同的业务需求选择合适的工具进行数据处理和分析。
二、大数据分析平台的优化技巧1. 并行计算和分布式处理:大数据分析平台通常处理的数据量非常庞大,因此并行计算和分布式处理是提高处理效率的关键。
通过将任务拆分成多个子任务,并分配到不同的计算节点上进行并行计算,可以大大提高处理速度。
2. 数据压缩和索引优化:大数据分析平台中的数据通常非常庞大,对存储空间的需求也很高。
因此,对数据进行压缩可以减少存储空间的占用。
同时,合理地设计索引可以提高查询和分析的效率。
3. 数据缓存和预加载:在大数据分析平台中,经常会遇到重复的数据读取和分析操作。
通过使用缓存技术和预加载数据,可以避免重复的计算和IO操作,提高数据处理的速度和效率。
如何实现时间序列数据库

如何实现时间序列数据库随着互联网和物联网的快速发展,现今数据量的爆炸式增长已经成为了一个不争的事实。
而在这些数据中,时间序列数据也占据了重要的一席之地。
时间序列数据指的是按时间顺序排列的数据,例如气象数据、股票价格、传感器数据等等。
而时间序列数据库针对的正是这种数据类型。
在如今数据爆炸的时代,使用时间序列数据库处理时间序列数据已成为了一种趋势。
那么,如何实现时间序列数据库呢?一、什么是时间序列数据库?时间序列数据库又称时间序列存储,是一种专门用于存储和处理时间序列数据的数据库。
它所针对的是一些按照时间顺序排列的数据,例如传感器数据、股票价格、气象数据等等。
相较于传统的数据库,时间序列数据库更具有实时性和高效性。
时间序列数据库不仅能够减小存储空间,而且能够提高数据查询的效率。
其实现比较简单,只需要使用类似于哈希表的结构,可以快速进行时间段查询,还可以对时间序列数据进行特殊的压缩算法,进一步减小存储空间。
因此,时间序列数据库也因此得到了广泛的应用。
二、实现时间序列数据库需要考虑的因素1. 存储方案存储方案是在实现时间序列数据库时需要考虑的重要因素之一。
传统的数据库是基于行或列的存储结构,而在时间序列数据库中,大量数据是按照时间先后排序的。
因此,采用基于列的方式进行存储是比较适合的。
而在存储时,考虑到实时性和高效性,可以采用类似于哈希表的结构,避免了传统数据库中利用B-Tree索引的一些缺点。
2. 数据压缩算法时间序列数据通常具有一定的规律性和周期性,因此对于这些数据的压缩算法是非常重要的。
在实现时间序列数据库时,可以采用一些特殊的压缩算法,例如LZO算法、Snappy算法等等,可以对时间序列数据进行压缩,从而减小存储空间大小。
3. 数据索引在实现时间序列数据库时,数据索引也是必不可少的一部分。
因为数据量很大,如果没有索引,查询效率会非常低。
传统数据库通常采用B-Tree索引,但是在时间序列数据库中,B-Tree索引速度并不是非常理想,因此,可以采用常见的哈希表的方法对数据进行索引处理,提高查询速度和效率。
大数据平台建设方案

大数据平台建设方案1. 引言随着互联网的发展和技术的进步,大数据已经成为企业获得竞争优势和实现可持续发展的关键。
大数据平台的建设是企业实现数据驱动决策的基础,本文将介绍一套完整的大数据平台建设方案。
2. 建设目标大数据平台的建设目标是实现数据的高效收集、存储、处理和分析,以及提供可靠的数据服务支持决策和业务发展。
3. 技术架构大数据平台的技术架构包括数据采集、数据存储、数据处理和数据分析等核心组件。
数据采集是大数据平台的第一步,要从多个数据源收集和整合数据。
可以使用各种数据采集工具,如日志收集工具、爬虫工具和传感器等。
采集的数据要经过清洗和转换,以确保数据的质量和一致性。
3.2 数据存储大数据平台需要具备可扩展的数据存储能力,以应对不断增长的数据量。
常用的数据存储方式包括分布式文件系统和分布式数据库等。
数据存储应具备高可用性、高性能和可靠性。
3.3 数据处理数据处理是大数据平台的核心功能,主要包括实时处理和批处理。
实时处理可使用流处理框架,如Apache Kafka和Apache Flink;批处理可使用分布式计算框架,如Apache Hadoop和Apache Spark等。
数据分析是大数据平台的重要应用场景之一,可以通过数据挖掘和机器学习等技术对数据进行分析和挖掘,以发现数据中的模式、规律和趋势,支持决策和业务发展。
4. 方案实施大数据平台的建设需要进行全面的规划和实施。
以下是一个具体的大数据平台建设实施流程:4.1 确定需求首先,需要明确大数据平台的需求,包括数据的来源和用途,以及业务的需求和目标。
需求分析是建设大数据平台的基础,可以帮助选择适合的技术和工具。
4.2 技术选型根据需求分析的结果,可以进行技术选型。
需要考虑数据采集、数据存储、数据处理和数据分析等方面的技术选型,选择适合的开源或商业工具和框架。
4.3 平台搭建根据技术选型的结果,可以开始搭建大数据平台。
需要安装和配置相关的软件和硬件环境,同时进行网络和安全设置。
大数据分析平台搭建与使用流程指南

大数据分析平台搭建与使用流程指南随着数字化时代的到来,大数据分析已经成为各行业的标配,帮助企业提升效率、进行预测和决策。
为了实现有效的数据分析,搭建一个高效、稳定的大数据分析平台至关重要。
本文将向您介绍大数据分析平台的搭建与使用流程,帮助您快速上手并充分利用其功能。
一、需求分析与规划在搭建大数据分析平台之前,首先需要对自身的需求进行全面的分析和规划。
明确以下问题可以帮助您更好地选择适合的大数据分析平台:1. 你的数据规模是多大?需要处理的数据量大致有多少?2. 你需要进行的分析是实时的还是离线的?3. 你需要的分析功能是什么?比如数据可视化、机器学习等。
4. 你有多少人员和资源来维护这个平台?5. 你的预算是多少?二、选择适合的大数据分析平台根据需求分析的结果,选择适合的大数据分析平台非常重要。
以下是几个常见的大数据分析平台:1. Apache Hadoop:是一个开源的大数据处理框架,集成了分布式文件系统HDFS和分布式计算框架MapReduce。
2. Apache Spark:是一个高速、通用的集群计算系统,提供了内存级的计算速度和丰富的API。
3. Apache Flink:是一个开源的流处理和批处理框架,支持真正的流式计算。
4. AWS EMR:是亚马逊云计算服务中的一项,支持使用Hadoop、Spark和Flink等框架。
三、搭建大数据分析平台在选择好大数据分析平台之后,可以开始搭建平台。
以下是搭建过程中的几个关键步骤:1. 硬件规划:根据需求分析的结果,确定硬件设备的规模和配置。
大数据平台通常需要很高的计算和存储能力。
2. 软件安装:安装所选择的大数据分析平台的相关软件。
这个过程可能需要一些技术人员的操作和调试。
3. 数据采集:通过不同的方式采集数据,包括数据抓取、日志文件、传感器数据等。
可以利用数据采集工具或编写脚本来完成这一任务。
4. 数据清洗与转换:对采集到的数据进行清洗和转换,确保数据的质量和准确性。
时空大数据与云平台建设方案

Ⅴ
Ⅳ
加入共享目录(租户)
管理员经过审核后将数据或服务 地址映射至衡阳市时空信息大数 据共享目录.
3 核心需求之四—应用更加简单
2 市县一体化理论基础—六位一体化的原则
标准一体化
一体化平台建设标准、基础测绘数 据标准、地理框架数据标准、地理 信息服务标准
硬件一体化
计算资源、存储资源、网络资源一 体化建设、一体化管理、
0 数据资源方面
空
时
DLG数据 DOM数据 三维数据 专题数据 。。。
看到超市的过去
二维
动态更新 实时数据 民生数据(水电气) 运营商数据
展在示。城。市 。
的现
规划数据 数据挖掘 模拟推算 大数据分析 。。。
展望城市的未来
多维
0 平台主要功能
按需提供软、硬件、数据资源 按需快速搭建平台 按需提供在线GIS功能服务
15 0
10 0
5 0
0 数据生产费用
3 0 2 0
软件开发费用
5
3
0
0
3
3
0
0
0
0
基础硬件费用
基础软件费用
单位:万元
3 0
0 0
人力资源费用
1
0
基础版
政务版
公众版
2 县级平台建设技术的问题—技术能力不足
建设前所需技术能力
项目设计删选能力
项目招投标把关
常规模式—依据一期建设经验
按照国家标准一个完整县级数字城市建设项目,建设单位的工作
一个平台
多种应用模式
2 一套标准体系
市县一体化基础测绘数据标准
建立衡阳市地理实体编码体系,规范数据生产标准与流程,建 立数据存储模型,增加地理实体时间域属性
大数据平台建设方案报告

大数据平台建设方案报告大数据平台建设方案一、项目背景在“十三五”期间,我国现代信息技术蓬勃发展,信息化建设模式发生了根本性转变,大数据、云计算、物联网、移动应用等技术成为“新IT”浪潮的核心。
为了积极应对“互联网+”和大数据时代的机遇和挑战,适应全省经济社会发展与改革要求,某政府部门决定建设大数据平台。
该平台将整合省社会经济发展资源,打造集数据采集、数据处理、监测管理、预测预警、应急指挥、可视化平台于一体的大数据平台,以信息化提升数据化管理与服务能力,及时准确掌握社会经济发展情况,做到“用数据说话、用数据管理、用数据决策、用数据创新”,牢牢把握社会经济发展主动权和话语权。
二、建设目标大数据平台是顺应目前信息化技术水平发展、服务政府职能改革的架构平台。
它的主要目标是强化经济运行监测分析,实现企业信用社会化监督,建立规范化共建共享投资项目管理体系,推进政务数据共享和业务协同,为决策提供及时、准确、可靠的信息依据,提高政务工作的前瞻性和针对性,加大宏观调控力度,促进经济持续健康发展。
为了实现这些目标,大数据平台将采取以下措施:1、制定统一信息资源管理规范,拓宽数据获取渠道,整合业务信息系统数据、企业单位数据和互联网抓取数据,构建汇聚式一体化数据库,为平台打下坚实稳固的数据基础。
2、梳理各相关系统数据资源的关联性,编制数据资源目录,建立信息资源交换管理标准体系,在业务可行性的基础上,实现数据信息共享,推进信息公开,建立跨部门跨领域经济形势分析制度。
3、在大数据分析监测基础上,为政府把握经济发展趋势、预见经济发展潜在问题、辅助经济决策提供基础支撑。
三、建设原则大数据平台以信息资源整合为重点,以大数据应用为核心,坚持“统筹规划、分步实施,整合资源、协同共享,突出重点、注重实效,深化应用、创新驱动”的原则,全面提升信息化建设水平,促进全省经济持续健康发展。
为了贯彻这些原则,大数据平台将先结合我省经济发展与改革领域实际需求,明确总体目标和阶段性任务,科学规划建设项目。
大数据平台建设方案报告

大数据平台建设方案(项目需求与技术方案)一、项目背景“十三五”期间,随着我国现代信息技术的蓬勃发展,信息化建设模式发生根本性转变,一场以云计算、大数据、物联网、移动应用等技术为核心的“新IT”浪潮风起云涌,信息化应用进入一个“新常态”。
***(某政府部门)为积极应对“互联网+”和大数据时代的机遇和挑战,适应全省经济社会发展与改革要求,大数据平台应运而生。
大数据平台整合省社会经济发展资源,打造集数据采集、数据处理、监测管理、预测预警、应急指挥、可视化平台于一体的大数据平台,以信息化提升数据化管理与服务能力,及时准确掌握社会经济发展情况,做到“用数据说话、用数据管理、用数据决策、用数据创新”,牢牢把握社会经济发展主动权和话语权。
二、建设目标大数据平台是顺应目前信息化技术水平发展、服务政府职能改革的架构平台。
它的主要目标是强化经济运行监测分析,实现企业信用社会化监督,建立规范化共建共享投资项目管理体系,推进政务数据共享和业务协同,为决策提供及时、准确、可靠的信息依据,提高政务工作的前瞻性和针对性,加大宏观调控力度,促进经济持续健康发展。
1、制定统一信息资源管理规范,拓宽数据获取渠道,整合业务信息系统数据、企业单位数据和互联网抓取数据,构建汇聚式一体化数据库,为平台打下坚实稳固的数据基础。
2、梳理各相关系统数据资源的关联性,编制数据资源目录,建立信息资源交换管理标准体系,在业务可行性的基础上,实现数据信息共享,推进信息公开,建立跨部门跨领域经济形势分析制度。
3、在大数据分析监测基础上,为政府把握经济发展趋势、预见经济发展潜在问题、辅助经济决策提供基础支撑。
三、建设原则大数据平台以信息资源整合为重点,以大数据应用为核心,坚持“统筹规划、分步实施,整合资源、协同共享,突出重点、注重实效,深化应用、创新驱动”的原则,全面提升信息化建设水平,促进全省经济持续健康发展。
1、统筹规划、分步实施。
结合我省经济发展与改革领域实际需求,明确总体目标和阶段性任务,科学规划建设项目。
大数据分析平台的搭建与使用教程

大数据分析平台的搭建与使用教程随着互联网的全面普及和信息技术的快速发展,大数据分析已成为企业决策和业务优化的重要手段。
为了充分利用海量数据中蕴含的商机和价值,许多企业开始搭建大数据分析平台,并通过数据分析来指导决策和业务发展。
本文将介绍大数据分析平台的搭建与使用教程,帮助读者了解如何构建一个高效可靠的大数据分析平台。
一、搭建大数据分析平台的基本步骤1.需求分析:在搭建大数据分析平台之前,首先要明确自己的需求和目标。
确定需要分析的数据类型、数据源、分析指标等等,并根据这些需求来选择合适的技术和工具。
2.选取适合的大数据技术:大数据技术包括分布式存储、分布式计算和分布式文件系统等。
常用的大数据技术有Hadoop、Spark等。
根据需求和预算,选择合适的技术来构建大数据分析平台。
3.搭建分布式存储系统:分布式存储系统是大数据分析平台的基础,用于存储海量的数据。
常用的分布式存储系统有HDFS、Amazon S3等。
根据选取的大数据技术,搭建相应的分布式存储系统。
4.搭建分布式计算平台:分布式计算平台用于对存储在分布式存储系统中的数据进行计算和分析。
常用的分布式计算平台有MapReduce和Spark。
根据选取的大数据技术,搭建相应的分布式计算平台。
5.建立数据采集系统:数据采集系统用于从各种数据源中获取数据,并存储到分布式存储系统中。
常用的数据采集工具有Flume、Kafka等。
根据需求和数据源类型,选择合适的数据采集工具。
6.构建数据分析模型:根据需求和目标,构建合适的数据分析模型,并使用分布式计算平台进行计算和分析。
常用的数据分析工具有Hive、Pig、R、Python等。
7.可视化和报表展示:将分析结果以可视化和报表的形式展示,便于理解和决策。
常用的可视化工具有Tableau、Power BI等。
二、大数据分析平台的使用教程1.数据采集:首先,通过数据采集系统采集各种数据源中的数据,并存储到分布式存储系统中。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
E.g., {entity=host1, key=age}
每一个独特的key/value (或entity/key) 组合对应了一个时序数列
典型的基于时序系列的监测系统架构
告警系统 数据可视化和查询 数据的实时整合和采样
时序数据库 (TSDB)
消息总线 (message-bus)
虚拟机
Gorilla集群
Gorilla冗余集群1
Gorilla冗余集群2
•
•
慎用通用型的Key/Value数据库
通用型的Key/Value数据库在存储时序数 列时较低效
WBL (Write-behind logs)
WBL
WBL
HDFS
•
•
Purpose-built TSDB更有潜力
根据数据的使用规律采用不同成本 的存储方案
成本
少量昂贵的查询可能影 响系统的性能
监测系统被用于关键服 务的一环
反垃圾(anti-spam)数据
实时的数据分析器
按指标名/集群名/服务名 等各种维度统计当前 时间窗口里的数据量,并和过去的时间窗口对 比。如果发现有突发的爆炸性增长,制定垃圾 数据的黑名单。 垃圾数据的黑名单
消息总线
虚拟机
代理 (agent )
例如,“整个US-1数据中心的平均服务器CPU使用率是多少?”
•
防范措施
Facebook有另一套基于采样和内存的实时数据查询系统Scuba 执行查询前,利用meta-data的索引预估该查询需要读入的数据量。超过一定阈值时,禁止其被服务
监测系统被引入关键服务本身的设计 – 危险!
真实案例1
CPU利用率
服务器
虚拟机
配置参数
配置参数 服务器
代理 (agent )
虚拟机
配置参数 服务器
代理 (agent )
把垃圾数据黑名单加入到 服务器代理的配置参数里
反垃圾数据自身的可伸缩性(scalability)
•
垃圾数据的探测不需要100%准确,可以通过采样降低数据处理量
•
Zookeeper很可能成为瓶颈
•
某关键服务的autoscaling,用该服务的 CPU利用率来决定资 源的增减
监测系统的设计目标一般是可扩展性, 但允许极少量的数据丢失
监测系统的自身复杂性导致了其可靠性 往往低于关键服务的期望值 应对
时序 数据库
•
真实案例2
时序 数据库
如果上游服务的 成功率低于80%, 发出警报
•
搭建多个独立监测系统,用冗余换取高可靠性 和关键服务的开发者加强沟通,关键服务必须在监测系 统失效时有备份方案
某关键服务收到该警报 后,自动重启
可伸缩性和可靠性
使用者对监测系统的滥用
成本
数据的不可删除性对存 储资源的压力
实时性对计算资源的压 力 监测系统本身的复杂性 对运维人员资源的压力
降低检测系统的成本
•
•
数据的适度拷贝
左边的架构中,WBL有9份拷贝!把WBL 挪到LogDevice后只需3份拷贝
用途:用户可以用诠释数据模糊查询相关的时序数列
时序数据 + 数据名map
案例: (1) 已知机器名是key, 查询所有机器名是foo的时序数据 (2) 列出所有指标名含有 error 的时序数据 (3) 找出过去一个小时内所有新产生的时序数据
可伸缩性和可靠性
使用者对监测系统的滥用 极少量的有用数据 (~5%),大量的冗余 无用数据 少数指标产生过量的垃 圾数据,威胁数据库稳 定
告警疲劳的对策
•
告警的合并
合并同一时间段内相同目的地的告警 合并描述类似的告警 提供语言来描述告警间的相互触发依赖关系
•
• •
提高告警参数的设置
允许用历史数据来测试告警参数 提倡用异常检测来代替部分人工告警
原始的时序数据库 数据来源 实时计算 用户界面和API Kafka
聚合的时序数据库
学习预聚合规则
评估预聚合规则的效率
存储
预聚合规则
Kafka
原始时序数据的写入
实时数据的聚合
规则
时序 数据库
用户查询数据的日志
7月1号15:30, 查询集群 A 的最大单机CPU 利用率
预聚合规则学习器
我学习到如下规则: 没有人查询集群A里的单机CPU利用率,所以可 以只保留集群A的总体CPU利用率 关于集群A的总体CPU利用率,必须计算最大和 平均值 有人查询了集群B里的单机CPU利用率,所以不 能对集群B做聚合
WWW服务器和API服务器产生的数据 Java服务产生的数据
TSDB(最近2小时)
互为备份
TSDB(最近2小时)
互为备份
TSDB(无限期)
TSDB(无限期)
当前负载 查询成功率 查询延迟
Router (根据各TSDB集群反馈的指标选择最佳集群)
数据可视化和查询
Facebook的分层存储
Flash TSDB (最近14天)
三个时序数列被聚合成三个,压缩比为1
o
只有压缩比大于1的聚合规则才有意义 原始维度过小的时序列不需要预聚合
o
诠释数据(meta-data)
消息总线
时序数 新时序数列的诠释数据, 包括key/value 或 entity/key, 以及产生时间 时序数据库
实时数据导入和预 处理模块
诠释数据的索引 和管理
用于监测目的的时序数列(timeБайду номын сангаасseries)
时序数列的定义
id ⇨ (时间1, 测量值1), (时间2, 测量值2), (时间3, 测量值3),…
id可以有不同的定义
•
(Pinterest) 数列名字+ 多个(key, value)对
•
E.g., age{host=foo}
•
(Facebook) entity + key
Facebook利用了基于Zookeeper开发出的Zeus (链接) Pinterest让程序不直接和Zookeeper建立TCP连接(链接)
•
已被过滤掉的垃圾数据,应该找到并修改相应的代码。不然传送垃圾数 据会浪费服务器的资源
对昂贵查询的防范
•
昂贵查询通常要对多个维度的,大量的时序数据做查询和计算,导致整 个TSDB集群的变慢和不稳定
•
前面的meta-data可用于此目的
• • •
监测系统的基本架构 三个挑战和应对 智能监测
智能监测系统
•
传统监测系统
数据的采集,存储
系统的可伸缩性和可靠性
•
智能监测系统
从海量数据里迅速地提取有价值的信息以用于故障的发现和修复
异常检测产生告警
异常检测+警报系统
传统人工方式产生告警
Facebook的异常检测采用了以色列Anodot公司的算法引擎
搭建基于时序数据的大型监测 系统
Facebook Engineering Manager
运维里的监测
基于时序数据的监 控和警报
查障
修复
实时监测系统
隔离
检测
•
• •
监测系统的基本架构
三个挑战和应对
智能监测
典型监测系统规模
三万台虚拟机 每秒搜集三百万个数据点 存储一个亿的时序数列 实时监控五千个告警 六个工程师 几百万台服务器 每秒搜集20亿个数据点 存储超两百亿的时序数列 实时监控一百万个告警 十二个工程师
数据的查询响应时间从几秒降低到~0.1秒 文章发表于 VLDB 2015。 Github上的开源代号为Beringei 多个公司 (如Twitter, Pinterest)基于Gorilla的思想,独立 开发了自己的内存TSDB
数据的预聚合(pre-aggregation)
服务器1
(时间1, 测量值1), (时间2, 测量值2), (时间3, 测量值3),…
代理 (agent )
服务器
虚拟机
代理 (agent )
服务器
虚拟机
代理 (agent )
服务器
•
典型的监测系统
•
•
三个挑战和应对
智能监测
三个挑战
可伸缩性和可靠性 使用者对监测系统的滥用 成本
海量的测量数据需要高 吞吐量和大容量的存储 方案
系统可靠性要高 读数据要快 必须能模糊搜索
Pinterest的分片分级存储
集 群
服务器2
(时间1, 测量值1), (时间2, 测量值2), (时间3, 测量值3),…
预聚合
集群
(时间1, 最小测量值1), (时间2,最小测量值2),
(时间3,最小测量值3),…
集群
(时间1, 平均测量值1), (时间2,平均测量值2), (时间3,平均测量值3),…
服务器3
(时间1, 测量值1), (时间2, 测量值2), (时间3, 测量值3),…
(时间3,平均测量值3),…
服务器3
(时间1, 测量值1), (时间2, 测量值2), (时间3, 测量值3),…
o
预聚合把高维度的时序数据压缩成低维度,同时保留统计意义。 减少存储压力并加快查询速度
数据的预聚合 - Facebook 版本
按集群或服务的预聚合 按数据中心的预聚合
数据的预聚合 – Pinterest 版本
集群
(时间1, 最大测量值1), (时间2,最大测量值2), (时间3,最大测量值3),…
集 群
服务器2
(时间1, 测量值1), (时间2, 测量值2), (时间3, 测量值3),…