山西公司-网优大数据定位算法研究与应用
山西省大数据发展应用促进办法(草案).doc

征求意见稿山西省大数据发展应用促进办法(草案)第一章总则第一条为促进大数据发展应用,推动数据资源共享开放,运用大数据促进经济转型升级、完善社会治理、服务改善民生,根据有关法律、法规规定,结合本省实际,制定本办法。
第二条本省行政区域内大数据发展应用及其相关活动,适用本办法。
第三条大数据发展应用应当坚持统筹规划、创新驱动、应用引领、共享开放、安全规范的原则。
第四条县级以上人民政府应当建立完善大数据发展应用政策体系和协调机制,将大数据发展应用纳入本行政区域国民经济和社会发展规划,确定大数据发展应用重点领域,解决大数据发展应用重大问题。
第五条县级以上人民政府经济和信息化主管部门负责本行政区域内大数据发展应用工作的统筹推进、指导协调和监督管理。
县级以上人民政府其他部门按照各自职责做好大数据发展应用相关工作。
第六条省人民政府经济和信息化主管部门会同有关部门,制定全省大数据发展应用总体规划,报省人民政府批准后公布实施。
设区的市、县级人民政府以及省人民政府有关行政主管部门编制的本行政区域、本部门、本行业大数据发展应用专项规划,应当与省大数据发展应用总体规划相衔接,并报省人民政府经济和信息化主管部门备案。
第七条县级以上人民政府应当建立大数据发展应用工作评价机制,对本行政区域内公共机构信息系统的统筹整合、公共数据资源共享开放、数据安全管理、推进大数据产业发展及应用等情况进行评价。
第二章发展应用第八条省人民政府统筹大数据基础设施建设工作,推动基础设施的共建共享和互联互通。
设区的市、县级人民政府应当做好信息基础设施建设与保护工作,提高城乡宽带、移动互联网覆盖率和接入能力,引导企业合理布局数据中心。
通信运营企业应当加强骨干传输网、无线宽带网及新一代移动互联网建设和改造升级,提升互联网省际出口带宽,提高业务承载能力;加快推进互联网协议第6版(IPv6)大规模部署和商用,构建高速率、广普及、全覆盖、智能化的下一代互联网。
第九条省人民政府设立大数据发展专项资金,支持全省大数据发展应用;设立大数据发展引导基金,鼓励社会资本投资大数据发展应用。
大数据分析技术在移动通信网络优化中的应用

大数据分析技术在移动通信网络优化中的应用摘要:在当今信息时代,移动通信网络在日常生活中的应用越来越广泛,几乎成为每个个体都离不开的必需品。
然而,在频繁的使用过程中,网络问题频繁出现,影响了用户的使用体验。
这就迫切需要对移动通信网络进行优化。
然而,通信网络的优化需要大量的数据,而这些数据规模之大、结构之复杂,往往超出了传统数据库的处理能力。
因此,大数据分析技术的出现,带给移动通信网络优化工作极大的便利,也使得其重要性得到体现。
关键词:大数据分析技术;移动通信网络;优化;应用一、大数据分析技术对移动通信网络优化的重要意义(一)为移动通信提供强大的数据处理能力大数据分析在优化移动通信网络中的最大优势就在于其强大的数据处理能力。
大数据较传统数据库所能处理的数据量大得多,而且,当处理海量数据时,它还能保持高效、准确、快速,满足了移动通信网络优化对数据处理的高要求。
只有对网络中的各种数据进行全面、准确的分析,才能对网络中的问题进行准确的定位,进而制定出符合实际需要的优化方案。
(二)为移动通信增强处理问题的能力其次,大数据分析技术能够实时监控网络状态,挖掘其中的问题,进而为网络优化提供依据。
在移动通信网络中,信令、业务等数据不断变化,而大数据分析技术能够实时对这些数据进行收集和分析,及时发现网络运行中的问题,有效避免了因网络问题而导致的用户体验下降。
通过大数据分析,运营商能够不断优化网络,保证网络的稳定。
(三)为移动通信强化分析消费者行为能力大数据分析技术还可以挖掘消费者行为,从而优化网络。
消费者的行为对移动通信网络的影响极大,可以通过消费者行为分析恰当地调整网络资源配置,提升通信效率和服务质量。
例如,通过大数据分析得出用户利用移动通信网络的高峰期,运营商可以在这个时间段内提供更多的网络资源,以保证用户的使用体验。
(四)为移动通信提供业务策略辅助能力另外,大数据分析技术还能帮助运营商制定更有效的业务策略。
通过分析用户行为和网络状态数据,运营商可以更准确地了解用户需求,实施精准营销,实现增值服务。
智能优化技术在无线网络优化中的应用及算法研究

C D( 区数 据设计 ) D 小 等数 据 。
2 创新 二 : 能优 化专家 库 ) 智 运用智 能优化 专家 库 的网络优化 分析 流程是 首
单 一 门限值实 现 ,导 致接 近 门限的 问题 小 区的判决
存在不 确定性 , 判和漏 判 的概 率较 高 。同时 , 误 判决
门限值 的设定 对诊 断结果 影响很 大 ,使 得 网络故 障
T H 掉话 率 的计算 和分 析 , 选 出 网络 中高掉话 小 C 筛
对近 1 0种 网络 数据 源进行 统一整 合 , 结合 不 同
的 时间粒 度 ( 时 、 、 、 、 等 ) 实 现数 据 分析 忙 天 周 月 年 , 的全 面和整 体关联 , 有效 提高优 化分析 的准 确率 。 主 要 数据 源包 括统 计指 标 、 R(, MR O 量报 告记 录 )R R n 0 、I
f性 能告警 和报 告 : wod形 式输 出全 网告警 ) 以 r 小 区的情况 和全 网掉话 率 、 通率等性 能指 标数据 。 接
决 的精 细度 。 另外 , 专家库 的分析 步骤 可进行参 数判
断 门限的用户 设置 ,根据 不 同网络 的实际情 况进行
g 通信保 障 : 现每 1 钟输 出保障 区域 小 区 ) 实 5分
高
状态
判决条件
>
…
障 囤
健康:
障 的问题 小 区。 小 区特征 值算 法如 图 3所 示 。 5 创新 五 : ) 系统缓 存 和排 队算法
4 创新 四 : 区特 征值算 法 ) 小 不 同地 区 网络或 同一 网络 的不 同区域 由于 网络 结构 、 地域特 征 、 务模 型 以及用 户行 为等 因素 的不 话 同. 导致小 区性 能和指 标存 在较大 的差 异 。 如果 采用 统一 指标进 行判 断 , 导致小 区故 障定位 不准 确 。 会 通 过 引入小 区特征 值 ,实现小 区判决 门限的特 征化 和 个性化 , 在不 同网络环境 下 ( 山区 、 如 沿海 、 园等特 校
基于大数据的企业决策分析与优化

基于大数据的企业决策分析与优化随着大数据技术的不断发展和应用,企业越来越依靠数据分析来决策和优化业务。
无论是市场营销、供应链管理、人力资源等领域,大数据都可以帮助企业更好地了解客户需求、预测市场趋势、优化生产流程、提高员工效率等。
本文将围绕基于大数据的企业决策分析与优化展开讨论。
一、大数据在企业决策中的应用1.市场营销在市场营销方面,大数据可以帮助企业更准确地了解客户需求和偏好。
通过对客户行为和消费数据的分析,企业可以制定更具针对性的推广策略,提高广告投入的效果,并更好地预测市场趋势和竞争对手的动向。
2.供应链管理大数据在供应链管理方面的应用也十分广泛。
通过对供应链中的运输、库存、订单等数据的分析,企业可以更好地掌握物流情况,预测物流风险,优化物流规划,提高物流效率和降低物流成本。
另外,大数据还可以帮助企业优化供应商选择和管理,提高供应商的可靠性和服务质量。
3.人力资源在人力资源管理方面,大数据可以帮助企业更好地了解员工培训、招聘和绩效情况,并据此制定更精准的人才招聘和培养计划、培训方案和绩效评估标准。
同时,大数据还可以帮助企业更好地管理员工薪酬、福利和离职率。
二、大数据在企业决策中的挑战和解决方案虽然大数据的应用能够帮助企业提高决策效率和优化业务流程,但是在实际应用中,存在着一些挑战。
1.数据质量数据质量是大数据应用面临的主要挑战之一。
由于数据来源的不同、数据采集、处理和传输过程中可能出现的错误等原因,大数据中的数据质量难以保证。
为了解决这个问题,企业需要建立严格的数据质量管理机制,包括数据收集、清理、整合和分析等环节。
2.数据安全大数据的应用使得企业面临着更多的数据安全风险。
在数据收集、存储和传输的过程中,存在着数据泄露、数据篡改和网络攻击等安全问题。
为了确保数据安全,企业需要建立完善的安全机制和流程,包括数据备份、数据加密、访问权限管理等。
3.技术人才大数据的处理和分析需要一定的技术支持,技术人才的缺乏是企业应用大数据的另一个挑战。
基于大数据技术的智能选址算法研究

基于大数据技术的智能选址算法研究随着互联网时代的到来,大数据技术已经成为了各个领域的发展重点之一,其中不乏各种应用场景,如金融领域、智能交通、医疗健康、农业等等。
在商业领域中,大数据技术可以帮助企业进行销售预测、客户行为分析、产品推广以及智能选址等多种场景,而本文主题便是围绕基于大数据技术的智能选址算法的研究展开。
一、智能选址算法的背景及概述在商业竞争日益激烈的当今时代,企业在进行新业务拓展时,选择一个合适的地址来建立新的门店或者办公场所是至关重要的。
而如何选择这个合适的地址,就需要借助大数据技术来进行分析和决策。
智能选址算法便是一种基于大数据技术的分析方法,它可以帮助企业进行地理空间分析、消费者行为分析、竞争对手分析等,从而为企业提供数据支持,智能推荐最适合的地点。
二、智能选址算法的技术实现智能选址算法的实现需要基于多种大数据技术,包括地理信息系统、数据挖掘、图像处理等相关知识。
下面简要介绍每项技术:1.地理信息系统(GIS):GIS是指一种通过计算机系统对地球表面上的信息进行处理、存储、分析、管理和展示的技术手段。
GIS可以帮助企业进行地理空间分析和高精度地图绘制,对于智能选址算法来说,GIS技术可以帮助企业预测潜在客户数量、交通状况、土地规划和用途等。
2.数据挖掘:数据挖掘是一种从海量数据中自动分析、识别、提取和评估有意义模式的过程。
在智能选址算法中,数据挖掘技术可以帮助企业分析客户行为、消费习惯和趋势,以及对竞争对手进行分析,并产生有效的选址建议。
3.图像处理:图像处理是指使用计算机科学的技术手段,对图像进行分析、识别和改变的过程。
在智能选址算法中,图像处理技术可以帮助企业进行街道照片、商场推荐和环境评估等操作,直观展示地点的风景和特征。
三、智能选址算法的应用场景智能选址算法在商业领域有着广泛的应用,主要包括以下几个方面:1.新店选址:新店选址是智能选址算法最常见的应用场景之一。
通过大数据技术进行地理分析、竞争对手分析以及消费者分析,算法可以输出最优的新店选址方案,以提高新店的盈利。
中国移动通信网优大数据平台运营指导意...

中国移动网络部网优大数据平台运营指导意见V3.0中国移动通信集团网络部2018年3月目录1、总则 (3)2、目的与适用范围 (3)3、运营原则 (3)4、运营主体及职责划分 (3)5、平台运营流程 (6)5.1 平台部署流程 (6)5.2 应用开发流程 (9)5.3 日常运维流程 (11)6、修订历史 (14)附录一:网优大数据平台需求申请表 (14)附录二:网优大数据平台应用开发安全责任承诺书 (17)1、总则总部网络部提出以“一级平台、两级集中”的工作目标,打造一套集全网汇总、质量分析、专项优化、智能分析、集中优化、应急保障于一体的网优大数据平台。
通过网优大数据平台的自主研发和全网部署,构建全网统一的系统架构、数据来源、算法实现和分析规则,逐步落实网优IT自主开发、核心能力内化,探索各省分布部署、总部网络部与各省联合集中运营的网优大数据平台新模式和新流程。
为明确总部网络部、各省公司工作流程与职责,保证网优大数据平台全面应用于优化生产的落地效果,特制定本指导意见。
本指导意见对网优大数据平台运营各个环节的工作内容、职责划分进行了明确的说明,从运营原则、运营主体、运营流程等方面进行了内容细分,构建了以总部网络部为中心、各省公司为节点的统一运营管理方式,保证网优大数据平台的高效运营。
2、目的与适用范围本指导意见适用于总部网络部网优大数据平台的开发部署工作以及各省基于总部网络部网优大数据平台的日常运维、二次开发与自主创新工作。
3、运营原则网优大数据平台基础平台由总部网络部自主研发部署,构建网优数据采集解析、基础汇总分析以及数据共享能力,作为全网网优数据的唯一数据接口;上层应用由总部、省公司及支撑单位根据一线生产需求共同研发,实现上层应用的百花齐放。
4、运营主体及职责划分网优大数据平台的运营包含三大运营主体,分别为“网优大数据平台技术咨询委员会”、“总部网络部无线优化处”、“各省网优中心”,各运营主体职责如下:1)网优大数据平台技术咨询委员会由总部网络部与部分先进省公司的网优与IT领域技术专家共同成立“网优大数据平台技术咨询委员会”,人员为10-20人。
网优中经常遇到的几种Mapinfo功能讲解学习
网优中经常遇到的几种Mapinfo功能一、基站查找功能MAPINFO是网优普遍使用的软件,但是因为无法进行定位基站,使查找基站时只能按照经纬度在地图上拖动,相当麻烦,其实Mapyifo中可以有自动定位功能,具体打开方法如下:1、打开Mapyifo工具软件,然后导入基站数据,按以下步骤操作。
2、在表结构中选择使用的基站图层(即需查找内容所在表)3、在需要定位的索引中打勾,如站名或者小区标识,点确定4、确认搜索表、查找对象所在列,便可以直接使用Ctrl + F 实现查找功能。
查找到的地点会用标注符号做出标记,默认为空五角星,可以更换样式及颜色,见下图。
5、找到查找站点,并标注(如果查找站点不在当前所视窗口内,查找后便自动将查找站点居中)二、如何导入.excel数据Mapyifo支持2种格式文件的导入.excel和.txt 2种格式导入方法略有不同,下面将对如何导入.excel和.txt做简要的说明及图解。
(注意表格是否存在公式的数据,经纬度的小数点应为实心,而不是句号)2.1 如何导入.excel数据1、通过打开找到需要导入的表格(注意所选格式及首选视图)2、打开所选表格,命名范围选择其他,并在(以选中范围的上以行作为列标题)前打勾。
在其他范围内,将A1改为A2.然后点击确定。
3、确定后,基站数据就被导入,然后选中表----创建点。
此步操作就是对导入数据以点的形式在Mapinfo中表现出来。
4、需修改内容包括:为哪个表创建点,使用符号,经度,纬度。
确认无误后,点确定,此时将会在导入表格同目录下生成与表格同名的.TAB .ID .MAP文件,5、生成3个图层文件后,就可以关闭浏览窗口,重新打开,就可以看到TAB文件了,直接打开即可。
6、直接打开后,就可以看到很多的黑色实心点,每个点代表一个基站,通过右键图层控制,可以对标注内容,标注字体的大小,锚点等进行修改7、可以通过插件将实心点,根据具体的方位角把基站以扇区形式显示出来,(也可以通过插件直接将表格导入,但是还有创建点的过程,根据个人习惯操作方法也略有不同)8、生成后效果如下图所示:2.2 如何导入.txt数据1、打开Mapinfo,导入.txt文件,(往往因为表格的格式或者是经纬度的问题,导致无法导入.excel文件,但是可以转换为.txt文件,一般均可以正常导入)2、注意文件字符集的选择,并在以第一行作为标题前打勾3、打开.txt文件后,同样会提示创建点,其余的步骤也导入.excel文件一样,故后续步骤略。
大数据在电信行业的应用
大数据在电信行业的应用电信行业是一个庞大的市场,涉及到许多领域。
大数据在电信行业中的应用可谓是方方面面,包括网络优化、客户服务、营销策略、经营管理等多个方面。
本文将重点介绍大数据在电信行业中的应用。
一、网络优化在电信行业中,网络质量和性能对于客户体验至关重要。
网络优化不仅可以提高客户满意度,而且还可以降低运营成本。
大数据技术可用于网站流量分析、网络性能监测、故障诊断等方面。
1. 网站流量分析借助大数据技术,电信公司可以收集和分析用户的历史行为数据,如用户使用互联网的频率、访问的网页数、下载的数据量、视频观看时间等等。
然后,这些数据可以通过算法进行处理,并产生可视化的结果。
这些信息有助于电信公司找出热点区域和服务,从而更好地优化网络性能,并为用户提供更好、更个性化的服务。
2. 网络性能监测网络质量和性能监测是电信公司日常运营的重要组成部分。
电信公司可以采集不同类型的数据,如终端设备信息、网络环境数据、用户行为数据等,以评估网络性能。
借助大数据算法和可视化工具,电信公司可以更加准确地检测网络故障、带宽限制等情况,并迅速解决这些问题。
3. 故障诊断在电信行业中,如何快速、准确地诊断网络故障是一个巨大的挑战。
借助大数据技术,电信公司可以收集并分析大量的数据,以更好地了解网络健康状况,快速发现故障,缩短故障恢复时间。
例如,电信公司可以通过实时监测系统性能指标,如网络延迟、数据包丢失率等方式,来预估和识别网络问题,提前修复或避免故障。
二、客户服务电信公司的核心业务是提供通信服务,因此客户服务对于公司的成功至关重要。
利用大数据技术,电信公司可以更好地了解客户需求,提升客户体验,增加客户满意度。
1. 精准定位服务通过手机定位服务,电信公司可以获取用户的地理位置信息、移动路径等,为用户提供个性化服务。
例如,电信公司可以通过用户驻留时间近似于旅游的做法,了解消费者日常去哪里玩、吃、住、行,以便进一步的精准营销等。
2. 客户满意度分析通过收集用户反馈数据和存储客户使用行为数据,电信公司可以分析用户体验和满意度,并提供更好的服务。
企业大数据平台建设与应用研究
企业大数据平台建设与应用研究随着信息时代的到来,大数据已经成为企业发展的关键资产之一。
企业对大数据的需求越来越迫切,因此建设和应用大数据平台已经成为企业发展的重要任务。
本文将对企业大数据平台建设和应用进行研究,探讨其重要性和实施方法,并介绍一些成功案例。
一、企业大数据平台的重要性企业大数据平台是指用于收集、存储、分析和应用海量数据的系统。
它可以帮助企业从数据中获取有价值的洞察,为决策提供支持,并改善业务运营效率。
企业大数据平台的重要性体现在以下几个方面:1. 战略决策支持:大数据平台可以收集和分析海量数据,为企业高层决策提供可靠而准确的数据支持。
通过对市场趋势、竞争对手和消费者行为等方面的数据进行深入分析,企业可以制定更具实效的战略和发展规划。
2. 业务流程优化:大数据平台可以分析企业内部各个环节的数据,发现瓶颈和问题点,并提出相应的优化措施。
通过深度挖掘数据潜力,企业可以实现成本的降低、效率的提高,从而提升整体竞争力。
3. 客户关系管理:大数据平台可以帮助企业更好地了解和服务客户。
通过分析客户行为数据和消费习惯,企业可以提供个性化的产品和服务,增加客户忠诚度和满意度。
4. 创新和新产品开发:大数据平台可以通过对市场和用户需求的数据分析,发现新的商机和潜在需求。
通过及时抓住这些机会并进行创新,企业可以推出具有竞争力的新产品,赢得市场份额。
二、企业大数据平台建设方法企业大数据平台建设需要系统化的方法和步骤,以下为一个较为完整的建设过程:1. 需求分析:明确企业对大数据平台的需求和目标。
这一步骤需要与业务部门共同参与,了解业务流程和数据处理需求。
2. 数据采集和处理:建立数据采集系统,收集企业内部和外部的数据。
同时,进行数据清洗、转换和整合,保证数据质量和一致性。
3. 数据存储和管理:选择适合企业需求的数据库或数据仓库系统,进行数据存储和管理。
同时,确保数据的可靠性、安全性和可扩展性。
4. 数据分析和挖掘:建立数据分析和挖掘平台,进行数据算法调优和开发。
研究大数据时代下的推荐算法和优化策略
研究大数据时代下的推荐算法和优化策略随着数字化的快速发展,人们开始越来越依赖互联网,从而产生了大量的数据和信息。
这些信息可以进行收集、处理和分析,用于为人们提供更好的服务和体验。
其中,推荐算法和优化策略是互联网产品中非常重要的一部分,它们能够为用户提供个性化的服务和产品。
在大数据时代,如何利用数据去优化推荐算法和优化策略已成为科学家面临的重要挑战。
一、推荐算法的意义和作用推荐算法最早是应用在电影和音乐的推荐上,随着电子商务和社交网络的迅速发展,推荐算法被扩展到了各个领域。
推荐算法的主要目的是在海量数据中发现隐藏的关联性和规律性,从而给用户推送个性化的内容。
推荐算法可以优化用户体验和提升产品的转化率。
另外,推荐算法对于业务发展也有相当的促进作用,能够增加用户留存率和用户粘性,提高盈利能力等。
二、传统推荐算法的挑战传统的推荐算法有基于内容的推荐、基于协同过滤的推荐和基于热度的推荐等。
这些推荐算法的精准度和效果会受到很多限制,如数据量有限、数据质量不高、数据时效性差、数据稀疏性等。
这也就意味着传统推荐算法的效果会随着数据量的增大而下降。
为了解决这些问题,科学家们开始使用大数据和机器学习技术,开发更加智能和灵活的推荐算法。
三、大数据时代下的推荐算法优化策略在大数据时代,推荐算法的优化需要从以下几个方面入手:1. 数据收集和处理如何从海量数据中提取有用的信号并使其可用,是推荐算法的核心问题。
一些新的技术,如NoSQL数据库、Hadoop、Spark等大数据处理技术,为推荐算法提供了更好的支持和处理能力。
2. 深度学习与传统的推荐算法不同,深度学习可以自动学习模式和特征,并从数据中挖掘更多的信息。
深度学习可以在自动识别图像、语音和自然语言等方面发挥出色的效果,同时它也被广泛用于推荐算法中。
3. 多维数据建模在大数据时代下,数据的多维度描述更加丰富,因此如何将多维数据进行建模成为了推荐算法优化的重要方向。
例如,基于LDA主题模型的推荐算法就可以自动将文本进行主题聚类,从而推荐更加准确的内容。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
1.2 重点工作1-常驻用户识别
通过建立用户常驻位置模型,识别常驻区域,通过OTT数据对常驻用户赋值经纬度信息。
1、基于用户周期性潮汐类别对用户常驻位置进行场景划分: 2、用户小区驻留时长(频次)算法:
基于S1_MME消息的TAU_TYPE=3的TAU , (T3412,现网设置为54min),即用户在持续空 闲态1小时内一定会触发TAU_TYPE=3的TAU,以 小时粒度统计用户在对应小区下的驻留小时频次 基于S1-U消息各类话单,例,用户单天特定时段 内在同一小区的3个小时时段均产生过S1-U话单记 录即认为在该小区的业务态驻留频次为3
1.1 OTT平台架构-搭建中遇到的问题
问题 问题定位 解决措施
1.与网管中心商议,后续网管涉及 1.MR北向服务器IP地址发生变 MR北向服务器的操作必须邮件或工 化导致MR采集服务器无法连通 单至网优中心; 2.通过工单明确MR常态化及全量开 MR数据缺失 启时间段,每地市指定MR负责人, 2.OMC侧未开启测量任务 常态化临时关闭及全量测量项开启前 必须通知网优中心相关负责人; 3.MR全量开启后,MR采集服务 3.扩容采集服务器; 器无法全部解析 1.需求提出错误,OTT平台需要 16进制文本格式的原始码流,而 1.按照16进制文本格式入库 http字段无法 非提出的二进制的原始码流 录入大数据平 2.http原始码流没有明确的关键 台 2.DPI解析厂家对HTTP码流进行标 字,不能录入业支大数据平台库 识 中 涉及网管网和业支网两个域,需 MR采集服务器与接口机打通,本地 网络不通 要打通网络 数据库服务器与接口机打通网络 数据处理中需 在网管网和业 网管网和业支网分属两个域 对账号进行VPN授权 支网来回切换 接口机会停止 每天对6TMR数据进行上传,分 工作,导致文 接口机账户下的空间进行扩容 配的资源无法满足 件不上传
2
网管域
3.接口机的flume程 序再将MR文件上传到 业支租户的HDFS目录 下
5
业支域
数据安全:XDR信息入库 前业支大数据平台已对关 键信息进行脱敏处理,厂 家无法接触到用户信息
3
4
Hadoop集群
网管设备采集侧
硬采解析服务器 硬采数据S1MME/SGS/S6a 统一DPI设备 用户面数据S1-U 新增httpcontent_ul 和 httpcontent_dl字段:解出 http请求及响应报文的content部分,按照16进制 码流输出在xdr(S1-U)后面,即在原来的xdr增加 字段httpcontent_ul 和 httpcontent_dl。上行长度 要求小于3000字节,下行长度要求小于1500字节。 5
1.实时从北向MR服务 器采集15分钟粒度 MR文件,解析形成 txt格式文件 6.将数据应用处理结 果进行分发和呈现
1
2.将解析后的MR数据 通过FTP实时上传到业 支大数据平台接口机
6
5.通过业支大数据平 台的FTP分发模块, 将计算结果输出到本 地数据库中 4.堡垒机采用Spark处 理架构,通过大数据 平台的Oozie调度模 块关联MR和XDR及指 纹库的计算
网优大数据定位算法研究与应用
山西移动 2017年7月
-1-
目录
1 基于OTT定位平台及应用
2 基于软硬采相结合的楼宇KPI分析
3 基于MR的高负荷小区分流
2
1.1 OTT平台架构-平台功能
16年底OTT平台已在全省11地市推广应用,支撑日常集中分析中的覆盖分析和网络结构分析。
目前平台日处理160G的MR北向文件,生成87亿采样点数据。实现对全省城区34万栋楼宇进行覆盖
6
1.2 重点工作1-经纬度信息回填
OTT数据直接关联MR信息,位置信息回填率不足5%,通过识别常驻用户识别、搭建OTT指纹
库、传统仿真指纹库进行全量MR采样点经纬度回填。
MR XDR
关联、运动状 态识别
关联位置采 样点
高速运动用户
未关联位置 采样点
静止用户
关联位置采样点
未知状态用户
未关联位置采样点
业支大数据平台租户:需每天关联1.2T的MRO文 件,XDR及指纹库数据,租户分配1T内存、 300CPU、 300T存储,每天8点开始前1天数据的 计算,计算时长约10小时。 新增httpcontent_ul 和 httpcontent_dl字段每 天8T,保留3天数据
4
1.1 OTT平台架构-数据处理
评估,占比74%,对全省城区1-5级道路、高速和高铁全段进行覆盖评估。应用常驻用户识别算法对 居民区、写字楼、高校、城中村等重点场景进行长期覆盖质量评估。
应 用 层
道路模拟测试 竞对分析 室内模拟测试 用户级分析 特殊场景分析 4G倒流问题点 楼宇透视 无覆盖区域识别 网络规划 ……
外部系统
接口
系统管理层
数据 问题 网络 问题
OTT平 台搭建 的问题
接口 机问 题 调度 问题
队列资源不足、队列调度优先级 Oozie调用 对调度优先级由最低提升至中级,并 Spark程序经 低和集群的调度方式等方面存在 进行硬件扩容 常失败 问题 堡垒机只能通过业支4A云桌面进 上传指纹库时 行操作,云桌面因为有超时断开 设置长任务保护机制,对于长任务操 无法长时间连 的机制(超时门限在20分钟以 作,保护时间延长 接堡垒机 内),导致与堡垒机的ssh连接 会中断
系统自监控
Mc
Gb
IuPS
Gn
LTE-S1
LTE-S6a
LTE-SGs
……
1.1 OTT平台架构-IT架构
应用端:1台服务器提供BS访问的WEB服务器和 提供CS访问及数据预处理
MR数据采集:3台采集服务器,实时采集北向服 务器中的MRO数据 (每天MRO数据约160G)。 数据库服务器:2台存储服务器,存储及运算匹配 后的OTT数据
更新指纹库
常驻用户识别 更新用户常驻地 指纹库
常驻用户 非常驻用户
道路栅格 指纹库
道路指纹 回填
道路回填 采样点
用户常驻地数 据库 常驻楼宇 常驻小区
常驻位置经纬 度回填
OTT高精度 指纹库回填
仿真指 纹库回 填
高精度OTT采样点MR回填率不足5%
常驻用户可以回填32%的MR采样点
OTT指纹库可以回填46%,剩余 采样点使用仿真指纹库回填
共 享 层 数 据 预 处 理 采 集 层
分布式数据库
FTP/WebService/CS
分布式实时流处理系统
数据加 载 数据关 联 数据聚 合 数据统 计 数据挖 掘
接口管理 日志管理 配置管理
编解码子系统
解码 合成 关联 回填 预统 计 业务 识别
…
解码 合成
编解码子系统
关联 回填 预统 计 业务 识别