气象大数据平台建设方案

合集下载

气象云计算数据中心方案

气象云计算数据中心方案

气象云计算数据中心方案目录1. 气象云计算数据中心方案概述 (3)1.1 方案背景 (3)1.2 方案目标 (4)1.3 方案原则 (5)2. 气象数据资源管理 (7)2.1 气象数据的特点 (8)2.2 数据资源的获取 (9)2.3 数据存储与管理 (10)3. 云计算架构设计 (12)3.1 云计算技术基础 (13)3.2 数据中心基础设施 (15)3.3 系统架构设计 (16)4. 气象数据分析处理 (18)4.1 气象数据分析方法 (19)4.2 数据处理平台 (21)4.3 数据挖掘与智能分析 (22)5. 气象云服务平台建设 (24)5.1 云服务平台架构 (25)5.2 服务接口与协议 (26)5.3 服务管理与维护 (28)6. 安全性与可靠性保障 (29)6.1 数据安全 (31)6.2 系统稳定性和容错 (32)6.3 灾难恢复计划 (33)7. 运营与维护管理 (34)7.1 资源调度与优化 (36)7.2 性能监控与评估 (38)7.3 用户支持与培训 (38)8. 案例分析与部署实施 (40)8.1 国内外案例研究 (41)8.2 部署实施流程 (43)8.3 部署实施注意事项 (46)9. 挑战与展望 (48)9.1 技术挑战 (49)9.2 政策与法律挑战 (50)9.3 未来发展方向 (52)10. 结论与建议 (54)10.1 方案总结 (55)10.2 实施建议 (56)10.3 持续改进策略 (58)1. 气象云计算数据中心方案概述随着全球气候变化和气象灾害频发,气象数据的需求日益增长。

为了更好地应对这一挑战,提高气象数据的处理能力和服务水平,我们提出了一种基于云计算的气象数据中心方案。

该方案旨在构建一个高效、稳定、安全的气象数据处理和存储平台,为气象预报、预警、防灾减灾等领域提供强有力的支持。

本方案采用先进的云计算技术,将气象数据进行集中管理和处理,实现数据资源的有效利用和共享。

气象智慧平台建设方案范文

气象智慧平台建设方案范文

气象智慧平台建设方案范文气象智慧平台建设方案一、项目概述随着数字化技术的普及和应用,气象领域的管理和服务也面临着新的机遇和挑战。

本项目旨在构建一套气象智慧平台,整合天气预报、气象测量、气象预警、气候变化监测等多项气象数据和信息资源,提供更加精准、及时、便捷的气象服务,为社会各界决策、应对气象灾害、开展气象科普等方面提供支撑。

二、主要功能和特点1.数据整合:整合国内外气象管理、科研机构的各类气象数据和信息,包括气象测量数据、天气预报、气象预警、气象灾害实时监控和预测等,并进行分类管理和分布式存储。

2.应用服务:根据用户需求和场景,提供定制化的气象服务,包括天气预报、气象预警、天气查询、气象数据分析等,同时提供气象预报播报和防灾减灾指导等专业服务。

3.信息管理:实时搜集、分析、管理气象相关的信息,构建完整的气象信息库,以支持用户的决策和应对。

4.技术架构:采用大数据、云计算、物联网、人工智能和区块链等新兴技术,确保平台的高效、稳定、安全、可扩展性和智能化特点。

三、建设方案1. 数据整合:构建国内外气象数据和资源库,提供数据采集、存储、整合、分析和展示等功能,包括气象测量数据、卫星遥感数据、数值预报数据和实况监测数据等。

支持数据加密、备份、安全传输和权限控制等。

2. 应用服务:针对不同用户群体和应用场景,提供个性化、多样化的气象服务和应用,包括天气预报、气象灾害预警、天气查询、气象数据分析、防灾减灾指导等。

建立相应的气象订阅、推送、反馈和评价机制,以提供更加智能和人性化的气象服务。

3. 信息管理:整合气象信息和公共信息,提供数据查询、维护、更新等功能。

建立气象检索引擎和知识图谱,以支持快速检索和自主学习。

同时开展气象环境、生态、气候变化等方面的研究,为决策者提供科学依据。

4. 技术架构:基于云计算、物联网、大数据、人工智能等新兴技术,构建高效、稳定、安全的气象智慧平台。

采用框架化的设计和开发,建立可扩展、模块化的基础设施,以应对数据规模和业务突增的挑战。

气象集约化应用平台规划建设方案

气象集约化应用平台规划建设方案

应对气候变化
气象集约化应用平台能够提供更加科学的气 候变化监测和评估服务,为政府制定应对气 候变化政策提供有力支持,从而有利于应对 气候变化。
THANKS
建设原则
坚持标准化、模块化、可扩展性和可 维护性的原则,确保平台具有良好的 适应性、可扩展性和可维护性。
建设内容与步骤
建设内容
包括硬件设备购置、软件系统开发、数 据资源整合、安全保障体系建设等。
VS
建设步骤
分为需求分析、设计、开发、测试、部署 、上线等阶段,确保平台建设的有序推进 。
建设周期与预算
应用层
提供各种气象应用服务,如气 象预报、气象监测、气象服务 等。
用户层
面向不同用户提供定制化的气 象服务界面和交互体验。
功能模块设计
数据采集模块
负责从各种气象数据源中采集数据,并 进行预处理。
应用服务模块
提供各种气象应用服务,如气象预报、 气象监测、气象服务等。
数据处理模块
对采集的数据进行清洗、整合、分析和 挖掘。
技术需求分析
数据采集
采用先进的气象传感器和数据采集技术,确保数 据的准确性和实时性。
数据处理
具备强大的数据处理能力,能够快速处理和分析 大量的气象数据。
数据存储
提供稳定可靠的数据存储方案,确保数据的完整 性和安全性。
数据需求分析
数据质量
确保数据的准确性和可靠性,以满足业务和技术需求 。
数据完整性
通过集约化管理和资源共享,提高气象数 据的处理速度和准确性,为用户提供更准 确、及时的气象服务。
气象集约化应用平台的建设可以推动气象 科技创新和产业发展,促进气象服务的商 业化和市场化。
气象集约化应用平台可以为政府和应急管 理部门提供精准的气象信息和预警服务, 提高公共安全和应急响应能力。

气象数据共享平台的构建与发展

气象数据共享平台的构建与发展

气象数据共享平台的构建与发展在当今数字化和信息化的时代,气象数据对于各个领域的决策和发展都具有至关重要的意义。

从农业生产到航空航天,从能源供应到城市规划,准确和及时的气象信息都能为相关工作提供有力的支持。

为了更好地满足社会各界对气象数据的需求,构建一个高效、便捷、开放的气象数据共享平台成为了必然的趋势。

一、气象数据共享平台的重要性气象数据的价值不言而喻。

它不仅能够帮助我们提前了解天气变化,从而合理安排生产和生活,还能为科学研究提供宝贵的基础资料。

例如,农业部门可以根据气象数据预测灾害性天气,及时采取措施保护农作物;交通运输部门可以根据气象条件优化路线规划,保障出行安全;能源企业可以依据气象信息调整能源供应策略,提高能源利用效率。

然而,在过去,气象数据往往分散在不同的机构和部门中,获取和使用存在诸多困难。

这不仅造成了资源的浪费,也限制了气象数据在各领域的广泛应用。

因此,构建一个气象数据共享平台,将分散的数据整合起来,实现数据的集中管理和共享,具有重要的现实意义。

二、气象数据共享平台的构建1、数据收集与整合要构建气象数据共享平台,首先需要广泛收集各类气象数据。

这包括气象观测站的实时数据、卫星遥感数据、数值预报模型数据等。

同时,还需要对收集到的数据进行整合和标准化处理,确保数据的一致性和准确性。

在数据收集过程中,需要建立与各个数据源的稳定连接,实现数据的自动采集和传输。

对于不同格式和类型的数据,需要采用相应的数据转换和清洗技术,去除重复和错误的数据,提高数据质量。

2、技术架构选择合适的技术架构是构建气象数据共享平台的关键。

一般来说,平台应采用云计算技术,以提供强大的计算和存储能力。

同时,还应运用大数据技术对海量的气象数据进行处理和分析,挖掘数据中的潜在价值。

在架构设计上,应采用分层架构,包括数据采集层、数据存储层、数据处理层、数据服务层和应用层等。

各层之间应通过标准化的接口进行交互,保证系统的灵活性和可扩展性。

数字化气象服务平台设计与实现

数字化气象服务平台设计与实现

数字化气象服务平台设计与实现一、前言近年来,随着互联网、大数据和人工智能技术的发展,数字化气象服务平台在气象领域的应用越来越广泛。

数字化气象服务平台可以利用大数据和人工智能技术,对海量气象数据进行分析和挖掘,为用户提供更加准确、及时的气象信息和服务。

本文将介绍数字化气象服务平台的设计与实现,包括平台的架构设计、功能模块设计和实现方法等内容。

二、平台架构设计数字化气象服务平台的架构设计是平台设计的基础,其合理性和稳定性对平台的功能和性能有着直接的影响。

平台架构设计的关键是要满足大规模数据处理、存储和分析的需求,同时保证平台的可扩展性和稳定性。

1. 数据采集与存储层数据采集与存储层是数字化气象服务平台的基础层,包括气象观测数据的采集和存储。

平台需要与气象观测设备进行数据交互,并将各种气象观测数据进行实时采集和存储。

为了保证数据的完整性和实时性,平台需要具备高可用性和可靠性。

2. 数据处理与分析层数据处理与分析层是平台的核心层,包括对气象观测数据进行处理、分析和挖掘。

平台需要利用大数据和人工智能技术,对海量气象观测数据进行实时处理和分析,从中挖掘出有价值的信息。

平台还需要提供灵活的数据分析工具和算法库,为用户提供个性化的数据处理和分析服务。

3. 服务接口与应用层服务接口与应用层是平台对外提供服务的接口层,包括平台的API接口和应用程序接口。

通过这一层,用户可以通过各种终端设备(如PC、手机、平板等)访问平台的气象数据和服务。

平台需要提供丰富的API接口和开发工具,为用户提供丰富多样的气象数据和服务。

三、功能模块设计基于平台架构设计,数字化气象服务平台可以划分为以下几个功能模块:2. 数据存储模块数据存储模块主要负责对已采集的气象数据进行存储和管理,保证数据的存储安全和可靠性。

该模块需要考虑数据的存储结构和存储方式,以及数据的备份和恢复策略,保证数据的稳定性和可恢复性。

数据服务模块主要负责为用户提供气象数据和服务,包括查询、检索、分析、预警等功能。

气象云计算和大数据平台建设方案

气象云计算和大数据平台建设方案

气象云计算和大数据平台建设方案
气象云计算和大数据平台建设方案主要包括以下几个方面:
一、基础设施建设
气象云计算和大数据平台的建设需要首先搭建基础设施。

比如,需要建设高性能计算机集群、存储系统、网络系统等。

同时,需要对硬件进行优化,以满足气象数据的超大规模计算和存储需求。

二、数据采集、处理和管理
气象云计算和大数据平台需要实现对各类气象数据的采集、处理和管理,包括气象观测数据、卫星遥感数据、数值预报数据等。

数据处理需要借助高性能计算机和分布式存储系统,实现快速处理和存储。

同时,需要建设数据管理系统,对气象数据进行标准化管理和共享。

三、数据分析与应用
气象云计算和大数据平台需要实现数据分析与应用,包括数据挖掘、模型建立、预测等应用。

需要借助机器学习、深度学习等技术,对气象数据进行准确分析和预测。

同时,需要建设可视化系统,将分析结果呈现出来,方便相关人员进行决策。

四、安全保障
气象云计算和大数据平台建设需要考虑安全问题。

需要建设安全保障系统,包括网络安全、数据安全等。

对于数据安全,需要对气象数据进行加密和备份,确保数据不被泄露和丢失。

五、成果展示
气象云计算和大数据平台建成后,需要进行成果展示。

确保气象数据分析的结果能够为各类应用提供指导和支持。

同时,需要建设数据共享平台,方便科研机构、决策部门、媒体等方面进行数据共享和交流。

气象智慧平台建设方案

气象智慧平台建设方案

气象智慧平台建设方案背景随着社会经济的发展和科技的进步,人们对气象信息的需求越来越高。

在过去,气象信息的获取、处理和应用由气象部门独立完成,而且信息的传递效率不高。

随着信息化技术的不断发展,人们需要建设一个智慧的气象平台,提高气象信息服务的效率和质量,满足公众、政府和企业等各方面的需求。

目的本方案旨在建设一个气象智慧平台,提供一系列的气象数据服务,便于公众及各行业获取气象信息、做好气象灾害防范和减灾救援工作,同时促进气象服务与社会经济发展的深度融合。

方案硬件设施建设为了实现气象平台的建设,需要建设一套完整的硬件设施体系,包括气象监测仪器、数据处理器、存储器、传输器等,用于对气象数据进行实时、准确的监测、处理和传输。

其中,气象监测仪器应根据需要选用不同的专业设备,例如气压计、温度计、湿度计等。

数据处理器应选用大数据处理技术,能够对海量气象数据进行分析和处理。

存储器的选择应以安全、可靠、容量大等要求为主。

传输器的选用应以高速、稳定、安全等为主要考虑因素。

软件系统开发为了实现气象智慧平台的建设和运行,需要根据需求开发一套完整的软件系统。

涵盖了数据采集、传输、处理、分析、展示等一系列环节。

包括气象数据自动获取和实时处理模块、信息展示和推送模块等。

在应用软件的实现过程中,需要使用到多种技术和工具,例如Python、Java、Hadoop、Kafka等,根据需要实现相应的功能模块。

至于软件系统的架构,则应根据实际情况进行选择和设计。

用户界面设计用户界面是气象平台与用户之间交互的窗口,需要具备良好的用户体验和用户友好的交互方式,保证用户能方便、高效地获取所需信息。

在设计用户界面时需要考虑以下因素:界面的规范性、易用性和美观性。

界面设计应以用户为中心,根据不同的用户群体制定不同的用户交互方式。

例如,针对政府部门和企业用户,需要提供更复杂和详细的信息图表和数据分析功能。

而对于普通用户来说,需要更加直观和易懂的信息展示方式和推送方式。

气象云大数据处理平台建设及应用

气象云大数据处理平台建设及应用

气象云大数据处理平台建设及应用随着科技的不断发展和互联网的迅速普及,大数据已经成为各个领域中的一个热门话题。

在气象领域中,大数据的应用也越来越广泛,气象云大数据处理平台的建设和应用已经成为气象工作者们必须要面对的一个问题。

一、气象云大数据处理平台的建设气象云大数据处理平台是一个集数据处理、存储、计算、应用等多种功能于一体的云平台。

它可以为气象工作者们提供强大的技术支持,帮助他们更加高效地完成各种气象数据处理任务。

1. 数据采集气象数据是气象云大数据平台的核心资料。

建设气象云大数据平台的第一步就是要进行数据采集工作。

数据采集可以是自动化的,也可以是手动的。

在自动化采集方面,可以使用各种传感器设备,如自动气象站、气象雷达等;在手动采集方面,则需要人员手动输入各种气象数据。

2. 数据存储气象数据量很大,如何对这大量的数据进行管理和存储是气象云大数据平台建设过程中的重要问题。

在数据存储方面,可以使用各种存储设备,如硬盘、云存储等。

同时,为了保证数据的安全性和可靠性,需要考虑备份和恢复方案。

3. 数据处理数据处理是气象云大数据平台的核心功能之一。

在数据处理方面,主要包括数据清洗、数据挖掘、数据分析、数据可视化等多个环节。

这些环节需要各种算法、技术的支撑,包括神经网络、机器学习、人工智能等。

4. 数据应用气象数据处理完之后,还需要将结果进行应用。

气象云大数据平台可以用于各种气象预测、预警等应用程序的开发。

同时,可以利用平台进行气象数据的监测、处理和分析,为气象工作者们提供更加精准的气象服务。

二、气象云大数据处理平台的应用气象云大数据处理平台的应用场景非常广泛,主要包括以下方面:1. 气象预测气象预测一直是气象工作者们关注的问题。

气象云大数据平台可以用于各种气象预测模型的开发和优化,并可以通过数据分析和预测算法,预测未来某一时刻的天气变化。

2. 气象监测气象云大数据平台可以用于各种气象监测任务,包括气象站的监测、气象卫星数据的监测等。

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

气象大数据平台建设方案目录1引言 (1)2大数据平台的基本构成 (3)2.1概述 (3)2.2数据基础决定平台框架 (4)2.2.1从分类大数据到选择大数据解决方案 (4)2.2.2依据大数据类型对业务问题进行分类 (7)2.2.3使用大数据类型对大数据特征进行分类 (9)2.3数据分类决定应用方案 (12)2.4大数据平台的逻辑层次 (13)2.4.1大数据集成层 (14)2.4.2大数据存储层 (15)2.4.3大数据分析层 (15)2.4.4大数据应用层 (16)3大数据平台的功能架构 (16)3.1组件构成 (16)3.1.1横向层 (16)3.1.1.1大数据集成层 (16)3.1.1.2大数据存储层 (19)3.1.1.3分析层 (20)3.1.1.4使用层 (21)3.1.2垂直层 (23)3.1.2.1信息集成 (24)3.1.2.2大数据治理 (24)3.1.2.3服务质量层 (25)3.1.2.4系统管理 (27)3.3原子模式 (28)3.3.1数据使用组件 (29)3.3.1.1可视化组件 (29)3.3.1.2即席发现组件 (30)3.3.1.3数据转储组件 (31)3.3.1.4信息推送/通知组件 (31)3.3.1.5自动响应组件 (32)3.3.2数据处理组件 (32)3.3.2.1历史数据分析组件 (32)3.3.2.2高级分析组件 (33)3.3.2.3预处理原始数据组件 (34)3.3.2.4即席分析组件 (35)3.3.3数据访问组件 (36)3.3.3.1web和社交媒体访问组件 (36)3.3.3.2物联网设备数据的访问组件 (39)3.3.3.3基础数据(观测数据和生产数据)的访问模式 (40)3.3.4数据存储组件 (41)3.3.4.1分布式非结构化数据存储组件 (41)3.3.4.2分布式结构化数据存储组件 (42)3.3.4.3传统数据存储组件 (42)3.3.4.4云存储组件 (42)3.4复合模式 (43)3.4.1存储和探索复合组件 (43)3.4.2专业分析和预测分析组件 (44)3.4.3OLAP在线分析 (45)3.4.4原子模式和符合模式的映射 (46)3.4.4.1.1图 10. 将原子模式映射到架构层 (48)3.5解决方案模式(模拟应用场景) (48)4.1概述 (49)4.2技术架构的关键问题 (49)4.2.1hadoop (49)4.2.2数据库 (49)4.2.3流计算 (50)4.3数据库功能支持 (50)4.3.1开发及应用接口 (50)4.3.2SQL语法兼容性 (52)4.3.3生命周期管理功能 (55)4.3.4热数据 (56)4.3.5冷数据 (56)4.3.6表分区功能 (57)4.3.7表压缩功能 (58)4.3.8大表索引管理 (58)4.3.9数据导入与导出 (59)4.3.10多级数据存储 (60)4.3.11半结构化与非结构化数据支持 (61)4.3.12全文数据处理 (61)4.3.12.1安全可靠与运维能力 (62)4.3.12.2资源管理 (62)4.3.12.3系统容错性 (65)4.3.13单点故障消除 (66)4.3.14容灾与备份 (68)4.3.15在线扩容 (69)5大数据创新平台设计 (1)5.1质控治理服务(云平台) (1)5.1.1质量规则 (3)5.1.3数据比对 (4)5.1.4数据检测 (5)5.1.5数据质量评分 (5)5.2数据资源服务(云平台和智慧城市) (6)5.2.1架构设计 (6)5.2.2服务总线 (7)5.2.2.1服务总线架构 (7)5.2.2.2服务生命周期管理 (8)5.2.2.3服务目录 (9)5.2.2.4服务授权 (10)5.2.2.5服务网关 (10)5.2.2.6服务监控 (11)5.2.2.7服务SDK (11)5.2.3数据超市 (12)5.2.3.1数据多维展示 (12)5.2.3.2数据检索 (13)5.2.3.3数据订阅 (13)5.2.3.4数据评分、评论 (13)5.2.3.5数据可视化 (14)5.2.3.6数据气象局 (14)5.2.3.7数据反馈 (15)5.3数据资源服务 (15)5.3.1数据目录创建 (15)5.3.1.1数据目录申请 (15)5.3.1.2数据集目录完善 (16)5.3.1.3数据目录初始化 (17)5.3.2标签生成 (17)5.3.3目录审批管理 (17)5.4.1数据挖掘 (18)5.4.2数据可视化 (22)5.4.2.1地图 (23)5.4.2.2图表 (24)5.5数据开放服务 (34)5.5.1数据开放目录管理 (34)5.5.1.1目录设计 (34)5.5.1.2数据开放目录的梳理 (35)5.5.2数据开放加工机制 (35)5.5.2.1数据再整理 (35)5.5.2.2数据失真 (36)5.5.3数据开放方式管理 (38)5.5.4数据开放生命周期管理 (38)5.5.4.1数据规划设计 (38)5.5.4.2数据运行维护 (39)5.5.4.2.1待发布数据集 (39)5.5.4.2.2数据集目录查询 (39)5.5.4.2.3数据集更新 (39)5.5.4.2.4数据集目录修改 (40)5.5.4.2.5数据集目录下线 (41)5.5.4.2.6数据集目录删除 (41)5.5.4.2.7数据绩效评价 (41)5.5.5数据开放授权管理 (41)5.5.6开放服务管理机制 (42)5.5.6.1数据目录申请流程 (42)5.5.6.2数据集目录完善 (43)1引言在气象行业内部,气象数据的价值已经和正在被深入挖掘着。

但是,不能将气象预报产品的社会化推广简单地认为就是“气象大数据的广泛应用”。

大数据实际上是一种混杂数据,气象大数据应该是指气象行业所拥有的以及锁接触到的全体数据,包括传统的气象数据和对外服务提供的影视音频资料、网页资料、预报文本以及地理位置相关数据、社会经济共享数据等等。

传统的”气象数据“,地面观测、气象卫星遥感、天气雷达和数值预报产品四类数据占数据总量的90%以上,基本的气象数据直接用途是气象业务、天气预报、气候预测以及气象服务。

“大数据应用”与目前的气象服务有所不同,前者是气象数据的“深度应用”和“增值应用”,后者是既定业务数据加工产品的社会推广应用。

“大数据的核心就是预测”,这是《大数据时代》的作者舍恩伯格的名言。

天气和气候系统是典型的非线性系统,无法通过运用简单的统计分析方法来对其进行准确的预报和预测。

人们常说的南美丛林里一只蝴蝶扇动几下翅膀,会在几周后引发北美的一场暴风雪这一现象,形象地描绘了气象科学的复杂性。

运用统计分析方法进行天气预报在数十年前便已被气象科学界否决了——也就是说,目前经典的大数据应用方法并不适用于天气预报业务。

现在,气象行业的公共服务职能越来越强,面向政府提供决策服务,面向公众提供气象预报预警服务,面向社会发展,应对气候发展节能减排。

这些决策信息怎么来依赖于我们对气象数据的处理。

气象大数据应该在跨行业综合应用这一“增值应用”价值挖掘过程中焕发出的新的光芒。

2大数据平台的基本构成2.1概述“大数据”是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。

大数据技术的战略意义不在于掌握庞大的数据信息,而在于对这些含有意义的数据进行专业化处理。

换言之,如果把大数据比作一种产业,那么这种产业实现盈利的关键,在于提高对数据的“加工能力”,通过“加工”实现数据的“增值”。

从技术上看,大数据与云计算的关系就像一枚硬币的正反面一样密不可分。

大数据必然无法用单台的计算机进行处理,必须采用分布式架构。

它的特色在于对海量数据进行分布式数据挖掘(SaaS),但它必须依托云计算的分布式处理、分布式数据库(PaaS)和云存储、虚拟化技术(IaaS)。

大数据可通过许多方式来存储、获取、处理和分析。

每个大数据来源都有不同的特征,包括数据的频率、量、速度、类型和真实性。

处理并存储大数据时,会涉及到更多维度,比如治理、安全性和策略。

选择一种架构并构建合适的大数据解决方案极具挑战,因为需要考虑非常多的因素。

气象行业的数据情况则更为复杂,除了“机器生成”(可以理解为遥测、传感设备产生的观测数据,大量参与气象服务和共享的信息都以文本、图片、视频等多种形式存储,符合“大数据”的4V特点:Volume(大量)、Velocity(高速)、Variety(多样)、veracity(真实性) 。

这些信息长期存储于气象各部门的平台上未能加以合理利用。

另一方面,这些数据本身就是分散存储于多个服务器平台上,急需应用分布式平台统一管理。

因此,我们亟需一种结构化和基于模式的方法来简化定义完整的大数据架构的任务。

因为评估一个业务场景是否存在大数据问题很重要,所以我们包含了一些线索来帮助确定哪些业务问题适合采用大数据解决方案。

2.2数据基础决定平台框架2.2.1从分类大数据到选择大数据解决方案RDBMS:关系型数据库;ETL:数据清晰、转换、装载的过程;ELT:数据清晰、装载、转换的过程;CDC:增量数据复制。

有同步和异步两种模式。

结构化数据半结构化数据“非结构化数据非结构化数据2.2.2依据大数据类型对业务问题进行分类根据气象服务需要,业务问题可分类为不同的大数据问题类型。

以后,我们将使用此类型确定合适的分类模式(原子或复合)和合适的大数据解决方案。

但第一步是将业务问题映射到它的大数据类型。

下表列出了常见的业务问题并为每个问题分配了一种大数据类型。

2.2.3使用大数据类型对大数据特征进行分类按特定方向分析大数据的特征会有所帮助,例如以下特征:数据如何收集、分析和处理。

对数据进行分类后,就可以将它与合适的大数据模式匹配:●分析类型—对数据执行实时分析还是批量分析。

请仔细考虑分析类型的选择,因为这会影响一些有关产品、工具、硬件、数据源和预期的数据频率的其他决策。

一些用例可能需要混合使用两种类型:⏹临近分析;分析必须实时或近实时地完成。

⏹历史分析针对战略性业务决策的趋势分析;分析可采用批量模式。

●处理方法—要应用来处理数据的技术类型(比如预测、分析、临时查询和报告)。

业务需求确定了合适的处理方法。

可结合使用各种技术。

处理方法的选择,有助于识别要在您的大数据解决方案中使用的合适的工具和技术。

●数据频率和大小—预计有多少数据和数据到达的频率多高。

知道频率和大小,有助于确定存储机制、存储格式和所需的预处理工具。

数据频率和大小依赖于数据源:⏹按需分析,与社交媒体数据一样⏹实时、持续提供(天气数据、交易数据)⏹时序(基于时间的数据)●数据类型—要处理数据类型—交易、历史、主数据等。

相关文档
最新文档