互联网业务质量指标体系及测试评估系统

互联网业务质量指标体系及测试评估系统 一、项目背景 互联网作为全业务发展的重要基础，业务质量直接影响3G、WLAN和有线宽带业务的发展。然而当前网络指标无法反映业务质量、用户业务感知无法量化评估、优化工作只能围绕网络指标分段分层开展的问题，凸显出互联网业务质量指标不完善、监控手段的匮乏。

网络指标与用户感知不对应：尽管网内时延、抖动等各项指标优秀，但是用户实际上网感知网速慢的问题突出； 业务感知无法定量评估：用户业务质量感知、和竞争对手的业务质量对比、各种优化手段对业务质量的提升效果无法定量评估； 业务质量劣化无法预警：日常维护优化工作主要围绕网络指标分段分层开展，无法通过数据统计分析对业务质量劣化进行预警。 各种问题说明互联网业务质量指标体系不完善，不能反映真实的业务质量状态和用户感知。 指标体系不够全面：现有监控指标体系侧重于网络性能指标监控，无法反映现网业务的真实情况，单靠网络性能指标无法准确反应用户的真实感知。 故障发现速度慢：现有指标监控体系不完善，不能快速发现业务质量故障和性能劣化情况，不能根据指标波动对业务质量进行预警。 本课题从互联网业务感知角度出发，对主流互联网业务流程深入分析提炼，建立了互联网业务质量指标体系，对主要业务指标、采集方法、评估标准进行了规范。同时为使指标落地，自主开发了互联网业务质量测试评估系统，通过软探针采集数据，在服务端呈现报表，构建了完整的互联网业务质量监控系统，通过全网各种业务质量数据自动采集和监控，实现分业务、分地区、分时段业务质量评估，解决了监控手段不足的问题。

网络性能指标 实际业务质量 二、技术方案 （一）概述 本项目研究的目标在于量化互联网用户体验感知，形成可采集、可监控、可提升的业务质量指标体系，并通过开发业务质量测试评估系统，达到持续监控优化互联网业务质量、提高用户感知的目的。

项目从网络、业务、用户感知等层面现状分析，梳理出影响用户业务感知各项主要因素，并且在对各项目主要业务应用协议流程深入分析的基础上，总结对用户感知关联密切的项目，整理制订了互联网业务质量指标集。为了实现指标的落地，本课题开发了业务质量监控系统，通过业务测试探针和集中管理系统，实现对业务质量指标的采集和监控。后续围绕业务质量监控系统，以质量指标的提升为目标，将逐步优化互联网运维管理流程，建立业务质量预警机制，实现由被动维护向主动维护的转变。

（二）方案介绍

本项目的总体研究思路和步骤为： 第一步，用户感知分析：从投诉分析、用户回访等渠道，分析用户对网络的感知以及影响用户业务感知的各种因素。 第二步，建立指标体系：全面分析互联网业务类型，总结主要业务，从应用协议流程分析入手，总结对用户感知关联密切的项目。 第三步，开发应用系统:开发互联网业务质量采集与测试评估系统，实现业务质量指标自动采集，以自主开发软件方式为主，在全网分级、分层部署软探针，实现覆盖范围广、成本低的业务质量监控体系。 第四步，形成一体化运维体系：将监控系统融合到已有网络优化运维流程中，形成质量监控、质量优化、质量评估与提升的互联网业务质量运维管理体系。 以下重点介绍两部分内容： 互联网业务质量指标体系； 互联网业务质量测试评估系统的研究情况。

1、建立标准：互联网业务质量指标体系

为了衡量用户感知，量化互联网业务质量，我们对互联网业务类型进行了深入分析，从信令协议过程入手，制订了完整的互联网业务质量指标体系；另一方面为了将互联网业务质量指标落地，与现实网络维护工作相结合，从网络的实际拓扑和维护分工，互联网质量指标体系从管理上同样采取分层结构。

（1）、业务质量指标体系

通过对当前互联网主要业务的梳理，对各项主要业务协议流程、网络层次建立了评估模型，并且按照不同的业务类型，分别定义了各环节的指标及指标分层组合关系，随后通过现网模拟，确定了各项指标的测试获取方法；最后为了使评估结果更加直观，通过各项KPI指标的加权组合，为各项业务制订了综合评分的规则，并且对测试结果对应的业务质量等级确定了取值范围。 评价标准定义

评估对象建模

指标层次关系定义

测量方法定义

SAP_AServiceSAP_ZService Link

Layered Networks通过模型描述评估对象（网络/业务）；

明确评估范围；约定网络及业务存量对象命名规则及权重设置规则等

定义一致的评价标准（SLA/SLO/指标阈值/指标权重）规范测量方法及参数，以及测量结果处理规则；

规范测量设备或软件部署方案；

定义指标及层次关系；定义指标计算规则；

优SLA符合度=100，即没有一项Critical、Major不符合条款（或只有Minor条款不满足）；良好SLA良好控制线<= SLA符合度< 100，即没有Critical条款突破，有少量Major条款突破

中等SLA中控制线<= SLA符合度< SLA良好控制线，即没有Critical条款突破，有Major条款突破

差0 <= SLA符合度< SLA中控制线，即有Critical条款突破（SLA符合度为0）；或者有Major条款突破

结合目前业务开展情况和中长期的业务规划，业务质量指标体系现阶段重点考虑了WEB浏览、文件下载、在线游戏、自有业务、IPTV内容：

请点击下方文件查看中国移动CMNET网络及业务指标体系技术规范（建议稿）。 J:\创新申报\中国移动CMNET网络及业

（2）、CMNET分层指标体系 为了将互联网业务质量指标落地，集团公司、省公司、地市公司有明确的运维范围与职责的划分，在CMNET网络及业务指标体系时，需要与目前的运维体系相一致。 CMNET质量指标体系宏观分级结构 分级指标体系的实施建议按照“整体规划，分步实施，逐级衔接关联，持续优化”的过程实施。 整体规划 整体规划可以保证指标体系的一致性，保证同级运维实体间指标的可对比性。制订统一的技术规范是整体规划得以落实的关键，技术规范的定义的主导权与解释权归属于集团公司，技术规范定义后，各级省、地市分公司需要对技术规范进行理解，提出意见与建议，以保证技术规范的有效性。 分步实施 在统一的技术规范指导约束下，集团、省、地市可分别独立实施，条件成熟的省公司、地市公司可以先行。同一公司在实施过程中，可以分业务逐步实施，比如先实施IP网络及HSI业务，再逐步补充其他业务如VoIP业务或IPTV业务。 逐级衔接关联 地市公司指标体系可以向上与省级指标体系衔接，省级公司指标体系可以向上与集团公司指标体系衔接。衔接的过程可以是逐步进行的。 持续优化 整个指标体系（包括技术规范与运行系统）应被视为一种宝贵的“智力资产”，提升运营能力的核心竞争力，需要持续经营，持续优化。技术规范需要长期维护，并及时修订，以满足网络及业务质量提升的要求，新的网络技术、新业务要求指标体系及时跟进。 2、指标落地：互联网业务质量测试评估系统 为实现互联网业务质量指标体系的落地，项目组开发了“互联网业务质量采集与测试评估系统”，以自主开发软探针方式为主，在全网部署，将IP网络网格化，从用户侧、城域网、省网、骨干网各层各级，采集网络质量、业务质量，从而实现“点-线-面”结合，既能查看整体业务质量，同时也能按时间、按地区进行统计和分析。 互联网业务质量测试评估系统架构包括三个部分： 服务端：运行在服务器上，实现集中控制功能，探针管理、任务配置、指标采集与分析、告警监控等功能。 探针/客户端（Probe）：自主开发软件，安装在PC终端上，接收服务端指令，进行质量测试（网络质量、业务质量），上传至服务端。 网管系统：即IP综合网管，从服务端获取告警和报表数据，实现业务质量告警、报表的集中输出和呈现。 互联网业务质量测试评估系统包括质量指标体系设置、业务路径与网络链路自动关联、探针关联关系及故障定位、业务质量告警、业务质量评估等五个主要的功能模块。

质量指标体系设置 指标体系主要完成各种典型业务与KPI指标的定义、各指标的权重等，并且根据接入方式、用户体验，定义指标评价范围：优、良、中、差。

业务路径与网络路径自动关联 系统在进行业务测试时，自动跟踪业务路径，与网络设备和链路进行关联，完整记录业务运行情况，可协助维护人员快速进行故障定位和处理。

图：业务路径与设备关联关系 探针关联关系设置及故障定位 探针关联是为了进行故障定位使用，在实际网络中，探针与探针、探针与业务目标之间存在关联和归属关系，明确探针关系，可以进行更精确的网络质量评估和故障定位。  归属地的关联：如省、市、县、小区等；  运营商、网络层次的关联；  探针之间的归属关联：在接入网络层次中，探针有属于它的上级和下级，这样可以更加精确地进行故障定位。 探针关联设置详细功能参加以下文档。

探针关联设置及故障定位.doc

业务质量告警 业务质量告警主要报告告警条件设置和告警类别两部分功能。告警条件主要包括单项KPI指标告警、指定用例告警、专项任务告警三种类型；告警类别主要包括基线告警、门限告警、可用性告警、系统状态告警等四种： ✓ 基线告警：当前指标与前一段（7天）周期同时段（小时）指标值进行比较超过一定的百分比，优先级（严重50、一般20、次要10） 实现：配置页面，配置内容为：告警时间段（默认7天）、告警等级阀值：（严重50%、一般20%、次要10%）。查询纬度：时间段、告警等级、下降比率 ✓ 门限告警：按照用例类型、源--目（归属运营商、地理区域归属省是否一致）指标、进行设置。（一般告警） 实现：门限配置页面，按照用例类型进行配置，每个用例按照，探针与目的地址的运营商和地理区域是否一致和指标进行设置。 ✓ 可用性告警：用例执行情况、对失败原因的区分告警（一般告警） 实现：根据客户端实际情况输出告警原因，进行告警。 ✓ 系统状态告警：探针掉线，系统关键进程（严重告警）

业务质量评估 根据指标体系定义，可以根据自定义条件，实现特定区域、时间、业务类型、目标网站所属区域（如运营商、地理区域等）的质量评估，从而实现业务质量变化的预警。 业务质量评估指标定义方向详见以下文档。