H3C轨道交通地铁大数据解决方案

合集下载

大数据在城市地铁轨道交通中的应用有哪些(一)2024

大数据在城市地铁轨道交通中的应用有哪些(一)2024

大数据在城市地铁轨道交通中的应用有哪些(一)引言概述:大数据的兴起与快速发展为多个行业带来了深刻的变革,其中城市地铁轨道交通领域也不例外。

通过结合大数据技术和城市地铁轨道交通系统,可以实现对乘客出行行为的实时监测、列车调度的精确性优化、线路规划的智能化等一系列应用。

本文将从五个大点来展开介绍大数据在城市地铁轨道交通中的应用。

正文:一、乘客出行行为监测1. 实时乘客流量监测:通过数据采集系统对地铁车站乘客的进出流量进行监测,可以及时了解车站客流情况。

2. 乘客OD分析:利用大数据分析技术,分析乘客的出行OD (起点和终点),可以为后续线路规划、优化车站布局等提供参考依据。

3. 乘客行为预测:通过对历史数据进行深度学习和模型训练,可以预测出乘客的出行行为,为车站调度和列车运营提供有效的决策支持。

二、列车调度优化1. 实时列车运行状态监测:通过大数据分析技术,监测列车运行状态,包括车速、到站时间等,以及预测列车故障等异常情况。

2. 列车排班优化:结合实时行程数据和乘客出行需求,对列车排班进行优化调整,以提高乘客出行的便利性和运输效益。

三、线路规划智能化1. 基于乘客流量分析的线路优化:通过对乘客出行OD以及乘客流量的分析,对地铁线路进行优化规划,提高运输效率和乘客出行体验。

2. 地铁站点设置优化:通过对乘客出行行为的分析和预测,对地铁站点的设置进行优化,提高乘客换乘的便捷性和效率。

四、安全风险预警1. 实时监测安全风险点:通过大数据分析技术,对地铁站点周边环境进行实时监测,及时发现安全隐患并采取相应的预警措施。

2. 乘客安全行为分析:通过对乘客的行为数据进行分析,提前发现和预测可能的安全风险,以保证乘客的乘车安全。

五、乘客服务提升1. 个性化推送服务:通过大数据技术,对乘客的出行历史和偏好进行分析,为乘客提供个性化的推送服务,如车票预订、行程提醒等。

2. 智能导航系统:通过对乘客出行行为数据的分析,为乘客提供智能导航服务,指引乘客最佳乘车路线和换乘方案。

城轨大数据治理方案

城轨大数据治理方案

城轨大数据治理方案摘要随着城市轨道交通系统的迅速发展和智能化进程的加速,城轨大数据的规模与复杂性也在不断增加。

如何有效地管理和利用城轨大数据成为一个亟待解决的问题。

本文基于城轨大数据的特点和需求,提出了一套城轨大数据治理方案,旨在提高城轨大数据的质量、安全性和价值。

1. 引言城轨大数据是指通过城市轨道交通系统所收集到的大量数据,包括列车运行数据、乘客出行数据、设备监测数据等。

这些数据量大、种类繁多,对于城轨系统的管理和运营具有重要意义。

然而,由于数据规模的庞大和数据来源的多样性,城轨大数据的管理面临许多挑战。

城轨大数据的治理是指对数据进行规范化、集成化、安全化和价值化的管理过程。

一个高效的城轨大数据治理方案可以帮助城轨管理部门更好地理解和利用数据,提升城轨系统的运营效率和服务水平。

本文将详细介绍城轨大数据治理的关键步骤和技术手段,以期为城轨管理部门提供参考和指导。

2. 城轨大数据治理的关键步骤城轨大数据治理包括以下关键步骤:数据收集、数据存储、数据清洗、数据集成、数据安全和数据分析。

2.1 数据收集数据收集是城轨大数据治理的第一步,通过设备监测和传感器等手段,采集列车运行数据、乘客出行数据和设备状态数据等。

数据收集需要确保数据的准确性和完整性,采用合适的数据采集设备和技术,并建立数据采集规范和标准化的接口。

2.2 数据存储城轨大数据的存储是数据治理的基础,合理的数据存储架构可以提高数据的访问和处理效率。

建议采用分布式存储系统,对数据进行分区和分片存储,提高数据的可扩展性和可靠性。

此外,还需要建立数据备份和恢复机制,防止数据的丢失和损坏。

2.3 数据清洗城轨大数据往往存在噪声、空缺和冗余等问题,需要进行数据清洗和预处理。

数据清洗包括数据去重、缺失值处理、异常值检测和数据转换等,以保证数据的质量和一致性。

建议借助机器学习和统计分析等技术手段,对数据进行自动清洗和修复。

2.4 数据集成城轨大数据通常来自于不同的系统和数据源,需要进行数据集成和整合。

h3c数据中心解决方案

h3c数据中心解决方案

h3c数据中心解决方案
《H3C数据中心解决方案:高效、可靠、安全的架构》
随着云计算、大数据、人工智能等新兴技术的迅速发展,数据中心越来越成为企业信息化建设的核心和基础设施。

在这样的背景下,H3C数据中心解决方案应运而生,为用户提供了一
套高效、可靠、安全的数据中心架构。

H3C数据中心解决方案以构建灵活、可扩展、易管理的数据
中心为宗旨,采用了创新的技术和理念,使得用户可以以更低的成本构建高性能的数据中心。

该解决方案包括网络、计算、存储和管理等多个方面,涵盖了从硬件设备到软件平台的全方位支持。

在网络方面,H3C数据中心解决方案采用了SDN技术,支持
灵活的网络虚拟化和动态流量调度,使网络更加灵活、可靠。

在计算方面,该解决方案采用了高性能、高可靠的服务器设备,支持虚拟化技术,可以满足各种不同的应用需求。

在存储方面,H3C数据中心解决方案采用了高性能、高可靠的存储设备,
支持多种存储虚拟化技术,可以提供高速的数据读写速度和可靠的数据保护。

在管理方面,该解决方案提供了强大的管理平台,可以对整个数据中心进行统一的监控和管理。

总的来说,H3C数据中心解决方案是一套完整的、高效的数
据中心架构,可以满足用户对于高性能、高可靠、安全的数据处理需求。

随着越来越多的企业和组织对数据中心的重视,
H3C数据中心解决方案必将成为更多用户的首选。

基于鲲鹏技术的大数据地铁客流分析解决方案

基于鲲鹏技术的大数据地铁客流分析解决方案

基于鲲鹏技术的大数据地铁客流分析解决方案1. 引言在城市交通地铁系统中,乘客的客流量是归纳间接展现了地铁运营效率和客流密度的重要指标。

因此,如何确保地铁客流量的稳定和有效预测成为地铁管理的重要任务之一。

随着现代技术的不断发展,数据分析技术在地铁客流管理中发挥着越来越重要的作用。

本文基于鲲鹏技术,提出一种大数据地铁客流分析解决方案,旨在提高地铁客流管理的效率和准确性。

2. 鲲鹏技术简介鲲鹏技术是华为公司推出的一种计算机芯片技术。

该技术虽然推出时间不久,但其强大的计算能力和出色的数据处理能力引起了许多企业和研究机构的关注和追捧。

鲲鹏技术具有以下特点:(1)高性能:鲲鹏技术的计算能力非常强大,能够支持大规模应用和处理海量数据。

(2)低能耗:鲲鹏技术采用先进的硅片技术,相比其他计算机芯片,在相同的工作条件下,其能耗更低,运行效率更高。

(3)通用性:鲲鹏技术兼容多种操作系统,能够支持多种语言和框架。

(4)安全性:鲲鹏技术具备可信计算和高度安全的硬件加密功能,能够保护用户数据安全。

3. 大数据地铁客流分析方案(1)数据采集地铁客流数据的采集是大数据分析的关键环节之一。

在地铁客流分析过程中,可以利用多种数据源获取客流数据,如安装在车站和车厢门口的传感器、地铁系统内部设备的监控视频、乘客刷卡记录等。

对于不同的数据源,需要进行数据的集成和转换,确保数据的一致性和完整性。

(2)数据存储地铁客流数据量庞大,存储和管理成为另一个需要考虑的问题。

可以采用分布式存储方案,如Hadoop分布式文件系统(HDFS)或分布式数据库系统(如MongoDB)来存储这些数据。

分布式存储方案可以有效地处理海量数据和实现数据的快速访问。

(3)数据处理数据处理是大数据分析的核心。

可以使用多种数据处理方式,如批处理、流处理和实时处理。

批处理可以通过MapReduce、Hive或Spark等批处理框架实现,实现大规模数据的离线处理。

流处理则可以通过Apache Flink、Apache Storm或Kafka等流处理框架来实现,支持数据的实时处理和分析。

『地铁主打胶片』『WLAN』H3C新_代地铁车地无线通信解决方案09(PPT38页)

『地铁主打胶片』『WLAN』H3C新_代地铁车地无线通信解决方案09(PPT38页)

H3C无线产品实现了WLAN QOS协议802.11e与有线QOS协议802.1p之间的相互映射,从 而在PIS承载网中实现跨越有线和无线网络的端到端的QOS保障,确保流量突发时优先传送 关键业务
有线无线一体化管理--维护效率更高
MPLS VPN管理
◆ 基于向导式VPN业务发现、业务部署 ◆ 直观的VPN告警与性能监控功能 ◆ 立即、定期配置审计、连通性审计 ◆ 基于业务功能、用户身份鉴权
5725-5850MHz,需申请
20MHz,40MHz (11n)、80MHz 及未来160MHz (11ac)
欧洲确定5855-5875MHz(非安全类) 5905-5925MHz(安全类)
TD-LTE
1785-1805MHz中的一部分, 需申请
支持1.4MHz, 3MHz, 5MHz, 10Mhz
H3C下一代车地无线通信方案总结
成熟
先进
专业
我们一直努力为地铁客户提供最佳方案和服务!
地铁车地无线通信发展趋势 地铁车地无线通信发展趋势 H3C PIS车地无线通信案例介绍 LTE车地无线通信技术对比分析
城市轨道交通运输协会的指导意见
1.8GHz频段宝贵,TD-LTE车地无线通信带宽有限,该频段要用于地铁的安全运 营,负责承载CBTC和紧急文本信息等安全运营类业务
6930M
地铁车地无线通信发展趋势 H3C新一代车地无线通信方案 H3C PIS车地无线通信案例介绍 LTE车地无线通信技术对比分析
H3C新一代车地无线产品WA4320-TQ\TS
802.11ac产品:物理带宽867Mbps,实测静止带宽 500Mbps以上, 实测车地带宽250Mbps以上 工业级产品,宽温、振动、EMC等满足行业标准要 求,QMA\SMA射频口、 M12网口和电源口、SFP光口

H3C武汉地铁CCTV解决方案·优选.

H3C武汉地铁CCTV解决方案·优选.

武汉地铁背景武汉是华中地区最大都市及中心城市以及中国长江中下游的特大城市,全境面积8494平方公里,人口约千万,世界第三大河长江及其最长支流汉江横贯市区,将武汉一分为三,三镇之间距离远、跨度大,长期以来只能以公交系统为出行的单一方式。

为了缓解武汉市交通现状与交通资源之间的矛盾,适应城市建设和发展的速度,实现交通发展战略的需要,提升武汉交通枢纽地位,武汉市将在2012年前建成1号线二期工程、2号线一期工程和4号线一期工程,形成总长约70公里轨道交通线网。

后期将建设轨道交通2号线二期、3号线、4号线二期、5号线、6号线、7号线工程。

220公里轨道交通线网建成后将全面连接武汉三镇,形成快速便捷的城市公共交通体系。

解决方案闭路电视监视系统是保证城市轨道交通行车组织和安全的重要手段。

闭路电视监视系统给地铁运营管理者、调度员和值班员提供一个直观、实时的现场图像画面。

利用闭路电视监视系统可监视列车运行、客流情况、变电所设备室设备运行情况,是提高行车指挥透明度的辅助通信工具。

由于电视监控图像具有很强的直观性、实时性和可逆性,使得它在预防问题、解决问题和制止犯罪、处理治安和刑事案件,保障地铁运营安全、高效性以及在地铁站厅、站台等公共场所出现突发事件时、为公安侦察破案提供线索等方面有着其它防范设施难以发挥的作用,已经成为人们在类似的运营管理中进行监视控制的一种极为有效的安全防范工具。

对达到有效组织、指挥客运作业,对提高轨道交通运营能力,保障运营安全和加强车站治安管理都具有重要意义。

对于地铁闭路电视监视系统应用来说,对系统功能性、可靠性要求很高,尤其是存储的可靠性要求非常高,在任何情况下,不能出现录像丢失的问题,同时,历史图像要能够迅速调取出来。

当有突发情况时,控制中心的行车、电力、环控调度员以及车站值班员需要同时调用一路摄像头的图像,要求实况图像能够低延时、高并发传送。

武汉地铁闭路电视监控系统规划至少有八条线,每条线有多个站点,监控点数多,一号线一期的建设,采用传统的DVR和矩阵模式,随着监控规模的扩大,系统的扩展性越来越受到整体架构本身的制约。

h3c 解决方案

h3c 解决方案

h3c 解决方案
《H3C解决方案》
H3C是全球领先的数字解决方案提供商,在网络、云计算、
大数据和物联网等领域拥有丰富的产品和解决方案。

面对日益复杂的企业网络环境,H3C为客户提供了一系列高效可靠的
解决方案,帮助客户解决各种网络和信息安全挑战。

首先,H3C在网络解决方案方面拥有丰富的产品线和解决方案,包括以太网交换机、路由器、无线局域网、光纤通信等产品,覆盖了企业、运营商、政府机构等不同领域的网络需求。

H3C不断创新,不断推出新产品和技术,为客户提供高性能、高可靠性的网络解决方案。

其次,H3C在云计算方面也有丰富的解决方案。

通过虚拟化、软件定义网络、云管理平台等技术,H3C为客户提供了高效
灵活的云计算解决方案,帮助客户实现数字化转型,提升IT
资源的利用率和管理效率。

此外,H3C还在大数据和物联网领域拥有一系列解决方案,
帮助客户管理和分析海量数据,实现智能化生产和运营。

综上所述,H3C凭借丰富的产品和解决方案,良好的品质和
服务,成为了众多企业和机构的首选合作伙伴。

未来,H3C
将继续不断创新,为客户提供更多更好的数字解决方案,助力客户实现业务发展和创新。

H3C数据中心解决处理方案总结

H3C数据中心解决处理方案总结

H3C数据中心解决处理方案总结数据中心解决方案前言数据中心(Data Center,DC)是数据大集中而形成的集成IT应用环境,是各种IT应用业务的提供中心,是数据计算、网络传输、存储的中心。

数据中心实现了IT基础设施、业务应用、数据的统一、安全策略的统一部署与运维管理。

数据中心是当前运营商和各行业的IT建设重点。

运营商、大型企业、金融证券、政府、能源、电力、交通、教育、制造业、网站和电子商务公司等正在进行或已完成数据中心建设,通过数据中心的建设,实现对IT信息系统的整合和集中管理,提升内部的运营和管理效率以及对外的服务水平,同时降低IT建设的TCO。

H3C长期致力于IP技术与产品的研究、开发、生产、销售及服务。

H3C不但拥有全线以太网交换机和路由器产品,还在网络安全、IP存储、IP监控、语音视讯、WLAN、SOHO及软件管理系统等领域稳健成长。

目前,网络产品中国市场份额第一,安全产品中国市场份额位居三甲,IP存储亚太市场份额第一,IP监控技术全球领先,H3C已经从单一网络设备供应商转变为多产品IT oIP 解决方案供应商。

H3C长期保持对数据中心领域的关注,持续投入力量于数据中心解决方案的研发,融合了网络、安全、IP存储、软件管理系统、IP监控等产品的基于IT oIP架构的数据中心解决方案,有效地解决了用户在数据中心建设中遇到的各种难题,已经在各行各业的数据中心建设中广泛应用。

基于H3C在数据通信领域的长期研发与技术积累,纵观数据中心发展历程,数据中心的发展可分为四个层面:数据中心基础网络整合:根据业务需求,基于开放标准的IP协议,完成对企业现有异构业务系统、网络资源和IT资源的整合,解决如何建设数据中心的问题。

数据中心基础网络的设计以功能分区、网络分层和服务器分级为原则和特点。

通过多种高可用技术和良好网络设计,实现数据中心可靠运行,保证业务的永续性;数据中心应用智能:基于TCP/IP的开放架构,保证各种新业务和应用在数据中心的基础体系架构上平滑部署和升级,满足用户的多变需求,保证数据中心的持续服务和业务连续性。

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

H3C轨道交通大数据解决方案01 02轨道交通信息化发展分析H3C 轨道交通大数据解决方案轨道交通信息化发展分析专业信息化资源整合信息共享决策支持驱动业务模式创新手工作业手工作业+个人计算机完成基础数据采集、个人报表等工作信息系统在各专业中广泛采用信息孤岛,系统分散、资源利用率不高建立统一的数据和信息管理平台,实现跨专业系统的资源整合信息共享。

信息化应用从事物性处理往智能化方向发展,有效支撑决策,实现精细化管理新技术开发促进新的管理理念和管理手段的产生,使业务创新成为可能。

大集中面向标准化组件虚拟化面向资源云计算面向服务1、部分分散的数据资源、IT 资源进行物理集中;2、实施数据和业务的整合。

1、提升IT架构的灵活性;2、提高资源利用率;3、降低运行成本。

1、IT 资源能够弹性扩展、按需服务,将服务作为IT 的核心;2、提升业务灵敏性;3、进一步大幅降低成本。

IT孤岛面向单一业务1、各专业信息系统独立设置;2、物理设备和工作负载1比1 绑定;3、独占资源。

业 务技 术轨道交通信息化发展分析数据采集前端轨道交通数据来源数据预处理数据处理融合和预测数据过滤和预处理模型匹配客流信息视频信息数据信息的比对、融合和预测•车辆•轨道•通风•供电•通信•信号•空调•给排水•AFC•FAS•BAS•PIS•OA•门禁•屏蔽门•电扶梯静态、人工采集单一模式、单一数据多模式、多方法采集多专业数据整合u遗传算法u神经网络u预测模型u模式识别u时间序列分析u回归分析u系统仿真u优化u空间分析u社会网络分析 数据采集:从单一数据来源向多专业数据整合发展 数据分析:从简单数据处理向大数据深度挖掘发展轨道交通信息化发展分析轨道交通各类监测数据+视频数据轨道交通客流特点u掌握轨道交通设备运行状态,客流状态;u进行轨道交通客流信息、限流封站发布;u突发事件的实时获取。

设备运行状态资产数据+维修数据运营管理分析u实时了解轨道交通运营管理状况、进行作业管理分析;u 预测修、预防修等。

作业管理分析客流信息智能导乘简单轨道交通信息查询服务轨道交通信息单一服务便民服务增值服务智能导航•运营公告信息手机推送•客流状态信息手机推送• 实时周边地理位置信息导航• 实时周边交通信息导航实时轨道交通运行信息,到达目的地的快速路径导航服务轨道交通信息个性化推送服务决策支持:从基础数据统计向智能化决策支持发展 信息发布:从普通查询服务向全面个性化服务发展基于大数据有机融合的数据中心借助大数据分析强大的数据整合、数据分析和数据挖掘能力,轨道交通可以充分发掘潜在的数据价值,全面提升行业的运营管理能力、科学规划能力、应急辅助决策能力及公众信息服务能力。

实现行业数据整合能力整合SCADA、FAS、BAS、ATC、AFC、ACC等专业数据,实现客流、行车、设备数据的集中统一,形成企业级数据统一视图,实现行业数据标准化。

实现客流、设备、行车、票务、运维等信息的实时统计分析,帮助管理人员及时了解路网客流、行车运营、设备资产、票卡收入、维修维护等情况,在保证地铁路网安全运营的前提下,不断提升运能、降低成本。

结合客流数据、周边环境数据、市政规划数据等,提供新线路规划的数据支持,同时可预测新增线路对路网的影响。

收集突发事件预案,形成应急预案知识库,加强安全培训和预演,在发生紧急事件情况下提供决策支持。

结合客流、行车等数据为乘客提供实时路网信息,方便乘客进行出行选择。

结合地铁线站周边环境等资源信息为乘客提供所需信息查询服务。

提行业业运营管理能力辅助路网规划科学决策突发应急事件辅助支撑提升公众信息服务能力轨道交通行业智能化运营管理战略统计分析运营评估应急辅助数据仿真信息服务行业监管大数据分析平台ACCEAM TCC PCC ISCS……FAS服务层应用层数据层地铁信息库的数据模型分类1. 资源(EQUIPMENT)列车类基础信息设备类基础信息如:列车运行计划、AFC车站终端设备信息、环境监测设备信息、电梯信息2. 资源事件(EQUIPMENT EVENT)列车类运行信息设备类运行信息如:ACC运行日志、运营报送信息、BAS数据、PSCADA数据、FAS数据、SIG行进列车信息、SIG实际时刻表、AFC设备运行状态、OIS上传信息、系统日志3. 线路(ITEM)站台类基础信息线路类基础信息4. 票卡(ACCOUNT)票卡类信息如:票务中心卡初始化信息7. 位置(LOCATION)位置类信息、渠道类信息12. 厂商(VENDOR)设备厂商信息类5. 行程(TRAVEL)票卡交易类数据如:AFC进站信息、AFC出站信息6. 财务管理(FINANCIALANGEMENT)企业财务类信息清分清算类信息如:AFC票务信息、充值信息、补票信息、退票信息、ACC财务报表、ACC票价表、ACC清分规划表、维修备件财务信息、合同财务信息8. 维护(MRO)保养、维护、大修、备件类信息9. 库存(INVENTORY)资源、备件、票卡的库存类信息10. 当事人(PARTY)工作人员、第三方合作伙伴信息11. 协议(AGREEMENT)合同类信息合约类信息13. 多媒体(MULTIMEDIA)监视信息类、乘客服务信息类、文件14. 地址(ADDRESS)联系方式类、地址类信息15. 预测(FORCAST)预测类数据地铁信息中心数据的特征数据特征l数据单位存储价值不同 高价值:AFC财务、ACC清分 中价值:线路、行程低价值:ACC日志,资源监控l实时要求不同分钟、小时、日、月、年l数据结构多样结构化-业务数据半结构化-各种日志信息非结构化-图像处理特征l调度模式不同批量任务、小批量任务、实时处理l加工特征跨域数据关联整合汇总统计关联整合+汇总数据更新、刷新使用特征l使用角色不同业务人员:低操作能力IT分析师:中操作能力数据科学家:高操作能力l使用方式不同浏览型:决策层简单查询类:业务人员复杂查询探索型:分析师高级编程型:机器学习地铁信息中心业务相关数据表现出明显的数据体量大(Volumn)、数据实时性强(Velocity)、跨域数据之间关联复杂(Varity)、数据价值不均等(Value)的大数据的4V特征。

01 02轨道交通信息化发展分析H3C 轨道交通大数据解决方案传统数据库应用程序,如刷卡进站、路程、票价信息传统数据库技术VS 大数据系统技术交易型:日常业务分析型:周期型业务大数据平台(Hadoop + MPP)如北京市过去5年内所有刷卡进站、路程、票价信息数据抽取大数据平台:•定期分析一大批数据,找趋势。

数据类型多样、量大。

•不关注数据的一致性。

•不制造数据,从其他数据库抽取数据•分析、多数据关联查询是主要操作传统数据库:•处理日常交易。

读写频繁、数据量小类型单一。

•必须保证数据一致、真实,不能出现偏差。

•制造数据,是数据产生的主要源头•增加、删除、查询、修改是主要的数据操作内容•不适合海量数据关联查询、异构数据关联操作。

不支持视频等非结构化数据处理海量数据分析慢H3C 大数据解决方案IT大数据应用安全大数据应用数据标准管理数据质量检测数据资源监测数据资源目录元数据管理无线大数据应用工业大数据应用教育大数据应用医疗大数据应用多并发ETL集中调度系统容错报警机制数据交换系统网络服务器安全非结构化ERP 应用CRM SCM 其他数据物联网ETL数据集成DS-Engine数据服务引擎开发者管理应用开发环境应用布署应用运行应用发布APPStoreDA-Engine开发创新平台大数据数据应用安装布署运维监控用户管理权限管理安全审计功能导航运维管理H3C DataEngine大数据平台用户门户MPP分布式数据库集群Hadoop集群R语言可视化数据挖掘模型建立第三方算法集成机器学习AI-Engine人工智能引擎数据操作监控场景预设政务大数据应用大数据农业旅游电信金融I T教育医疗地铁工业政务……地铁信息中心建设——技术选型地铁信息平台大数据的数据类型复杂,涵盖线路、行程、资源、清分清算信息、资源事件(包括系统日志的半结构化数据等)和GIS模型、视频、建设图纸等各类非结构化信息,单一技术平台无法满足对所有这些数据的存储和处理需求,所以地铁大数据平台的技术选择未来应以“适才适所”为原则,进行多种平台的数据集成。

主体技术平台包括: 传统数据库/数据仓库 + MPP+Hadoop+流数据处理模式,并进行深度定制与融合。

主流数据库技术对比传统OLTP数据库数据仓库一体机MPP分布式数据库Hadoop/NoSQL技术特点技术短板适用场景•基于行数据增删改•数据强一致性•行锁、多版本控制•高并发•支持各类复杂查询•支持高并发/高性能查询•支持Share Nothing 存储•并行处理•高可靠性专用硬件•适合多表关联、复杂查询•MPP+Share Nothing的高可扩展架构,PB级别数据•开放的X86 PC平台•兼容性好•对半结构化、非结构化数据的强大支持和处理能力•开放架构设计•扩展性最好•最低成本分布式架构•大数据索引困难•聚集处理的I/O高•数据批量写代价大•扩展性差•依赖高性能硬件•依赖高性能专用硬件•兼容性弱,平台迁移困难•扩展性较差•更加擅长结构化数据•并发能力一般•只处理结构化数据•平台可靠性稍差•系统规模增大时,运维负担加重•并发程度低•不适合复杂关系处理和迭代算法•更新能力弱适合一写多读•高并发事务处理•严格无丢失的高价值密度数据管理•实时复杂查询•高并发的实时分•更大规模数据的复杂关联、聚集以及数据模型加工•分钟级几十并发程度查询•批量ETL处理,预加工•海量数据存储和备份•通用大数据算法引擎地铁解决方案:OLTP+MPP+Hadoop通过异构的OLTP数据库、MPP数据库和Hadoop平台集成,构建逻辑结构上统一但物理结构上可分离的大数据架构。

OLTP数据库OLTP数据库一方面负责支撑日常事务型的处理,定期批量往大数据平台吞吐数据;另一方面整合最有价值的数据,支撑KPI、报表的及时呈现,进行高效的用户交互的数据加工MPPMPP数据库作为深度分析库,可以进行各类数据模型加工,支持对海量模型数据的OLAP分析处理Hadoop存储非结构化数据,实现标准或自定义的灵活的数据ETL加工逻辑或者数据挖掘算法功能,并且可实现海量数据的存储与简单查询决策者数据分析专家数据预处理工程师地铁AFC大数据分析示例OISPIS CCTV AFC ACC FASBASHadoop大数据预处理平台OLTP数据仓库行程域线路域MPP深度分析库乘客换乘汇总统计乘车时间汇总统计数据处理层进站信息,出站信息,购票信息客流预测CoMET指标乘客行为洞察运营指标监控财务分析应急预案1. 利用Hadoop ETL加工能力,提取用户AFC进出站信息,和购票信息,形成ODS层数据2. 在MPP内部利用复杂关联和聚集计算能力,进行数据汇总,形成基础统计信息3. 在OLTP数据仓库内部,形成用户出行路径标签和换乘特征分析的主题域,在此基础上进行OLAP分析4. 挖掘地铁乘客出行特征和规律,为地铁客流分析提供支撑,帮助实现地铁的行车组织优化、设施优化等。

相关文档
最新文档