cVideo云视频系统技术白皮书

cVideo云视频监控系统

技术白皮书

目录

一、背景概述 (3)

二、cVideo云视频介绍 (4)

2.1 cVideo系统简介 (4)

2.2 系统架构 (4)

2.3 产品优势 (6)

三、cVideo产品技术架构与关键技术 (8)

3.1 cVideo系统数据流 (8)

3.2 关键技术 (9)

3.2.1 cVideo智能识别 (10)

3.2.1.1简介 (10)

3.2.1.2 应用案例 (10)

3.2.2 cVideo云端转码 (12)

3.2.2.1 视频转码简介 (12)

3.2.2.2 云转码 (13)

3.2.3 cDispath云调度 (14)

3.2.3.1 cDispath简介 (14)

3.2.3.2 cDispath主要优势 (14)

3.2.3.3 cDispath架构 (15)

3.2.4 cProc云处理 (18)

3.2.4.1 cProc简介 (18)

3.2.4.2 cProc主要优势 (18)

3.2.4.3 cProc系统架构 (19)

3.2.5 cStor 云存储 (20)

3.2.5.1 cStor简介 (20)

3.2.5.2 cStor主要优势 (20)

3.2.5.3 cStor系统构架 (21)

3.3 技术创新 (23)

四、cVideo系统部署解决方案 (24)

4.1 一级云视频监控系统部署方案 (24)

4.2 多级系统部署方案 (25)

一、背景概述

随着城市的现代化建设和经济的快速发展，构建和谐社会的必要性与日俱增，每个城市都为打造“平安城市”而努力。其中，安防监控系统作为保障城市居民人生财产安全的有力措施，也理所当然地成为了平安城市中的一项重要指标。

视频监控技术正在不断地发展，视频监控技术按照主流设备发展过程，可以分为3个大的阶段，即20世纪70年代开始的模拟视频监控阶段、20世纪90年代开始的数字视频阶段及近几年兴起的智能网络视频监控阶段。模拟监控阶段的核心设备是视频切换矩阵，数字视频阶段的核心设备是硬盘录像机(DVR)，智能网络视频监控时代没有核心硬件设备，系统变得开放而分散，主要由网络摄像机、视频编码器、高清摄像机、网络录像机、海量存储系统及视频内容分析技术（Video Content Analysis, VCA）构成，可以实现视频网络传输、远程播放、存储、视频分发、远程控制、视频内容分析与自动报警等多种功能。

目前视频监控系统正朝着智能化、高清化的方向发展，用户对于视频监控产品的要求也在不断提高，用户希望的产品要有着更高的清晰度，更完善的功能，更稳定的性能，更丰富的终端等等。要实现大规模高清监控，就必须从视频源的采集、视频信号的编解码、视频信号的传输、视频实时监控与记录、录像文件的回放等环节全面支持大规模网络高清。这样就给高清监控系统带来了一系列现实的问题：网络带宽紧张、存储空间庞大、对性能的要求成倍增长、投资与维护成本高昂、系统扩容升级压力等等。

因此，云视频监控的模式应运而生，充分利用“云”的计算能力和存储能力，从而保障了海量高清视频监控的可行性和可靠性。

二、cVideo云视频介绍

2.1 cVideo系统简介

cVideo云视频监控系统是南京云创存储公司自行研发和设计的大规模高清视频监控解决方案。依托本公司的cStor云存储平台，以及cProc云处理平台，使得cVideo构架下的综合调度和云端转码可以完美地满足超大规模视频监控、海量数据存储、以及远距离监控的要求。同时，cVideo研发了国际领先的智能图像识别算法，采用大规模分布式云处理，使得计算机对视频数据达到了空前的识别和认知水平。

2.2 系统架构

cVideo云视频监控系统利用cStor云存储和cProc云处理技术实现高清视频监控，是在服务器集群上部署一整套基于云架构的视频处理软件，下图为简化的cVideo云平台框图，其核心内容是对接入视频的实时处理分析。基于云计算的模式，采取海量分布式cDispath云调度架构，以集群的形式共同对外服务。以实现诸如视频内容识别、云端转码、智能分析等实时数据、动态伸缩等需求。最后将处理好的图像信息以流媒体的形式输出，并提供给上层各类应用对应的接口。

图2-1 cVideo系统架构图

●资源层：包括摄像头、卡口等前端数据采集设备所采集到的原始视频图像数

据，以及响应业务信息，如：人力、车辆、区域分布等资源信息。

●接入层：整合数据资源、业务资源、存储资源，使其符合系统标准，实现不

同资源的接入。

●数据存储层：即cStor云存储系统，提供海量的存储空间，以备历史数据的

回看与处理。

●数据处理层：即cProc云处理系统，提供高效的视频转码、内容识别等大规

模数据处理能力。

●API层：提供API接口，实现上层应用对底层资源的透明操作，提供业务应

用的开发支持。

●调度控制层：实现对以上各层的综合调度与控制，以实现整套系统机制。

●应用层：主要包括实时监控、调阅查询、内容识别等视频相关应用，为用户

提供友善的界面、人性化的操作方式，能够让用户简单高效的监控多个视频源。功能如下：

1. 信息采集设备的管理，监控控制端对视频中心服务器中的设备数据

库进行操作，实现添加和删除系统中的卡口和摄像头。

2. 用户管理，监控控制端对视频中心服务器中的用户数据库进行操作，

实现用户注册、注销以及权限设置。

3、按时间检索历史记录，提供按时间检索记录的窗口，向视频中心服

务器发送检索命令，获取历史记录的相关信息。

4、历史记录回放，根据历史记录的相关信息，播放cStor中的历史记

录。

5、录像，监控控制端通过中心服务器向存储管理端发送录像命令，存

储管理端控制设备进行录像，获取的数据直接存储到cStor中。

图2-2 cVideo客户端监控界面

2.3 产品优势

极高的性价比

高清视频监控中的主要问题是如何处理庞大的高清视频数据。如果采用1080P的高清视频监控，使用能获得最高压缩比的H.264图像压缩技术处理收集的高清视频，则压缩输出码率最高可达到6Mbps，也就是每台摄像机每天将大约

产生50GB左右的数据量，这对于存储的压力是十分巨大的。

cVideo构建于cStor云存储、cProc云计算平台之上，有着低廉、高可靠性的海量存储能力和无限可扩展能力，当用户存储需求增长时，也仅需添加与硬盘价格相仿的cStor存储节点即可，这将大幅降低用户的投资及升级维护费用，监控系统规模越大越能体现出性价比。

百万路高清视频支持

传统的监控系统大多铺设模拟电缆或构建于局域网之上，也有少数小规模的远程监控，几乎无法实现支持超远距离的大规模视频监控。

cVideo基于cTrans传输体系，能够有效地支持公网高效传输，使得以超远距离异地高清视频监控，从而使需求成为了可能。同时优良的架构设计，拥有良好的扩展性，能够满足用户不同规模等级的需求。并支持大规模的分级网络，如街道级视频监控系统，接入到区级的监控系统中，然后可再接入到市级监控中心，从而形成一个大规模分级网络视频监控云平台。

云端转码技术

为了尽可能优化系统性能，cVideo将根据用户客户端的监控需求瞬时动态地调整视频分辨率，从而在满足用户需求的同时降低对网络带宽的消耗，因而支持更高的系统规模。

对于摄像头采集的高清视频信号，cVideo将在cProc云计算平台上采用高效实时转码技术，将采集到的各路高清视频信号转换为符合监控客户端需求的信号，并实时转发，这样可以有效地减小监控端处的解码压力，使得监控更为流畅，并能有效地支持诸如手机等移动终端的监控需求。

智能内容识别

cVideo的智能图像检索采用先进的图像处理技术并结合模式识别对已有的海量视频进行事件检索，实现了对事件发生视频的切片回放、运动帧提取和对象跟踪。构架于cProc云处理架构上，使许多传统模式下难以处理的识别应用得以实现。诸如在犯罪嫌疑人识别问题中，cVideo研发了国际领先的运动目标DNA

算法，首先分析监控视频中目标人物的运动模式，建立运动DNA序列，为后续分析处理提供基础。后续分析包括运动目标优化、运动轨迹分析、运动特征提取、步态建模等等。

三、cVideo产品技术架构与关键技术

3.1 cVideo系统数据流

图3-1 cVideo数据流图

接入服务器：传统视频监控和防范报警系统建设具有投资大、技术要求高、设计用户广、链接环节多等特点。同时，不同厂商间的设备对视频接入要求不同，因此要整合现有平台，提供标准输出。将前端各类设备采集到的视频数据接入到cVideo系统中。同时，实现与其他平台的对接，完成信令流的转换。

中心服务器：负责获取用户从客户端或者其他的上层系统发出的指令，综合调度各个服务器，实现整套cVideo的控制机制。

cStor存储服务器：用以长期存储视频数据，以备视频回看、重新处理等需求。

cProc处理服务器：提供诸如视频转码、内容识别、行为检测、智能分析等所需的大规模数据处理能力，为实现传统架构下难以实现的应用提供支持。 分发服务器：以流媒体的形式将处理后的视频数据提供对外接口，支持标准RTSP协议。

客户端：与用户的交互平台，用以向中心服务器发送各种控制指令。

其他平台：指其他的可能需要与cVideo对接亦或上层应用的系统

上图简要描述了cVideo的综合处理云平台。其中支持RTSP标准协议的网络摄像机等前端设备，可以直接接入cVideo综合处理云平台中；模拟摄像头经过编码器编码后接入到平台中；其他平台或前端设备可以经过SDK整合后接入。经过接入服务器后，进入云处理集群进行数据处理，实现对实时视频流的内容识别、转码、智能分析等功能，并经过转发服务器以流媒体的形式对外提供服务。对于经过cVideo处理后流出的视频数据，如果是终端设备（手机、IPAD等）需求，则直接由cVideo的转发服务器发送转码后的视频流；如果是上电视墙显示的需求，将视频流推送给解码器进行解码上墙。

3.2 关键技术

以上系统架构中，涉及到的具体技术包括了cVideo的智能识别技术、cVideo 的云端转码技术、cDispath云调度方法、cStor云存储技术、以及cProc云处理框架。其中cVideo的智能识别和云端转码技术负责对视频流的进一步处理，cStor 实现对海量视频数据的存储，而cDispath和cProc负责综合管理和统一调度，实现云内计算机的联动和各类保障，共同对外提供服务。

3.2.1 cVideo智能识别

3.2.1.1简介

随着平安城市的建设，视频监控系统的基础建设已经初具规模并且仍在迅速扩大，几十万甚至几百万个摄像头所得到的视频监控影像资料是庞大的，要从中获取事件相关的信息需要花费巨大的时间和人力。视频内容分析技术(Video Content Analysis, VCA)来源于计算机视觉，它能够在图像及图像描述之间建立映射关系，从而使计算机能够通过图像处理和分析来理解画面中的内容，其实质是“自动分析和抽取视频源中的关键信息”。视频内容分析技术将大量的、枯燥的视频内容分析工作交给了编码器或计算机，将保安人员从传统的繁重监控任务中解脱出来，它对传统的视频监控技术是一个“颠覆性”的创新，改变了多年来人们应用视频监控系统的习惯。

cVideo的智能图像检索采用国际先进的图像处理技术并结合模式识别技术对已有的海量视频进行事件检索，实现了对事件发生视频的切片回放、运动帧提取和对象跟踪。

3.2.1.2 应用案例

特定人物视频检索

cVideo自行研发的视频DNA算法，应用在犯罪嫌疑人识别问题中，首先分析监控视频中目标人物的运动模式，建立运动DNA序列，为后续分析处理提供基础。后续分析包括运动目标优化、运动轨迹分析、运动特征提取、步态建模等等。

图3-2 目标运动DNA序列图3-3 目标运动图谱

图3-4 目标运动DNA序列图3-5 目标运动图谱

人流/车流统计

由于车辆的急剧增加，虽然道路基础设施得到了很大程度的改善，但是交通拥挤的现象日趋严重，简单的道路视频监控已经不能满足当前的需要。为了改善这种局面，为道路状况提供实时、准确的信息成为更加迫切的需求，推广实施各重要交通道口区域实时交通状况图像监控是非常必要的。即在城市各重要交通道口安装一套智能交通监控系统，通过图像传输通道将路面交通状况实时上传到道路监控指挥中心，中心值班人员可以据此及时了解各区域路面状况，并据此调整各路口车辆流量，保持道路通畅。

图3-6 交通道口车流检测统计

这项技术同样可以应用于人流统计、以及对旅游景点、闹市区和大型展会的人员密度分析等。视频分析的结果受到监控视频图像质量的影响，雨雪等恶劣天气条件下得到的监控视频图像质量要比晴朗天气条件下的图像质量要差很多。于是，如何消除雾雨雪等恶劣天气的影响是至关重要的。

图3-7 雾雨雪等恶劣天气检测

事件检测

事件检测是cVideo智能视频分析的又一个成功例子。事件检测包括禁区检测、过线检测、遗留物检测、物品丢失检测、打架/徘徊检测等，事件的成功检测能够大大降低危险事件的发生率，将犯罪扼杀在摇篮里。我们采用的事件检测方法具有参数自适应且错检率低的优点。

图3-8 行为检测（遗留钱包）

3.2.2 cVideo云端转码

3.2.2.1 视频转码简介

随着前端摄像机的清晰度不断提升，其码流和数据量成倍增长。然而一些终端的处理能力有限，无法支持高清的分辨率；或者需要用到公网传输，带宽无法满足高清的码流的需求等。

视频转码是一种将已压缩的视频数据从一种格式转换为另一种格式的技术，视频的编码格式主要的有MPEG、H264、DivX、WMA、RM等，封装格式主要有avi、ps、ts、mov、mkv、mpg等，而不同的播放器对格式的支持也不同，因此不同终端对视频流格式也有着特殊的需求。

视频转码是一个高运算负荷的过程，需要对输入的视频流进行全解码、视频过滤/图像处理、并且对输出格式进行全编码。最简单的转码过程仅仅涉及到解

码一个比特流和用不同的编解码器重新编码两个步骤。这种硬转码看似很简单，只需要一个解码器和一个编码器，但是最终显示结果并不理想，因为视频数据解码后重新编码会降低画质。

硬解码无法利用捷径，所以和采用智能转码算法的方法相比，要求更高的处理器性能并且产生更大的功耗。如果全部通过软件进行临时处理，需要2GHz频率的处理器。以现在PC上的CPU的运算能力，在运行其他程序的情况下，是无法支持实时的高清视频转码

3.2.2.2 云转码

由于视频转码计算量很大，单一的计算机不可能实现整个监控系统内的摄像头实时视频数据的转码。cVideo研发了云端转码技术，将视频转码计算放大云端，实现整个系统内的实时视频转码，以满足用户对不同分辨率，不同码流，不同终端的使用需求。

图3-9转码前图3-10转码后

视频接入模块首先将不同厂家的前端设备接入进来，对于支持RTSP的采集设备，我们利用标准的流媒体协议接口实现视频和音频数据的传输。对于不支持RTSP的采集设备，我们利用设备厂商提供的SDK进行接入。然后在cProc云计算平台上利用高效的转码技术，将采集到的高清视频信号解码后再重新编码，在满足用户需求的同时降低对网络带宽的消耗。同时将转码后的视频流推送给流媒体服务器分发出去。

……………

图3-11 云转码流程

3.2.3 cDispath云调度

3.2.3.1 cDispath简介

如何保证在云计算平台中部分硬件或软件发生故障的情况下仍不影响系统的正常运行；如何保证在云计算平台中高效稳定的合理化分配和执行任务；如何设计一套无人值守，自动生长的高效系统。

这是云创团队在很长的一段时间内思考的问题。最终在无数次失败又无数次钻研的过程中我们设计研发出了一套能够完全解决系统单点故障问题。负载均衡，自动调度与部署的高效云调度平台，这就是cDispath。

3.2.3.2 cDispath主要优势

高可靠性

平台采用“多主多备，负载均衡”的管理节点设计模式，和“处理实时跟踪”的处理节点设计模式，从而保证无论管理节点还是处理节点都不存在任何单点故障问题。

低依赖性

平台采用模块化设计思想，通过统一化配置和API接口的方式向用户提供服务。无论用户应用是用何种语言开发，何种处理方式，都可以交由平台

进行统一的调度管理。

低干预性

平台采用基于事件化的统一管理模式。无论是动态扩展集群处理系统能力，还是单点故障的任务转移，又或者是任务的实时监控和动态分配，都将在系统无人值守的情况下自动完成。

高实时性

平台在高效率并行分布式软件的支撑下，可以实现对任务的实时分配，实时调度，实时处理。在机器性能允许的范围内，计算任务不会出现堆积的显现，所有任务的控制工作基本都在秒级完成，具有前所未有的高效性。

3.2.3.3 cDispath架构

图3-11 cDispath架构图

上图为cDispath的基本架构图，下面对其各层作一定描述。

应用层：一组用于管理和结果反馈的显示组件。用于显示任务的处理情况以及集群中机器的活动情况，同时其也是一个上层应用和底层服务的对接平台。是整个系统

面向用户和开发人员的基础承载。

业务层：对于应用层的相关功能的业务化，数字化处理，用于将应用层的需求任务进行规则化划分，形成统一的处理化模式。

数据处理层：独立的数据处理程序，是对不同需求数据的统一处理方案，他的运行

与监控的工作将由cDispath调度平台进行统一的配置管理。

存储层：用来存储数据存储层的处理结果集或者其他中间结果集的单元。

虚拟化资源层：将实体的机器进行虚拟化，形成更大范围的服务集群。

cDispath调度平台是建立于虚拟化资源层之上，统一调度，统一配置的管理平台，用于对集群中任务实时的处理调度，实时结果集的反馈，集群的负载均衡，失败调度，集中管理，集中配置的平台。用来保证整个集群的超低人员干预。同时，提供完善的集群伸缩机制为整个服务提供更高的可靠性。

图3-12 cDispath调度平台任务流程

cDispath调度平台任务流程如上图，它是由一组管理节点（Master Node）和一组处理节点（Task Node）组成，管理节点组是一组基于Webserver的RPC （注：RPC采用客户机/服务器模式。请求程序就是一个客户机，而服务提供程序就是一个服务器。首先，客户机调用进程发送一个有进程参数的调用信息到服务进程，然后等待应答信息。在服务器端，进程保持睡眠状态直到调用信息的到达为止。当一个调用信息到达，服务器获得进程参数，计算结果，发送答复信息，然后等待下一个调用信息，最后，客户端调用进程接收

答复信息，获得进程结果，然后调用执行继续进行）。

服务器节点组，负责对处理节点的系统信息以及任务处理信息进行实时的跟踪和保存，对应的信息镜像存储在基于cStor或者NFS服务的存储系统上，保证每个管理节点中的镜像信息的实时同步。同时架设在管理节点上的ZooKeeper服务（注：ZooKeeper是一个分布式的，开放源码的分布式应用程序协调服务，包含一个简单的原语集。分布式应用可以使用它来实现诸如：统一命名服务、配置管理、分布式锁服务、集群管理等功能），用于对整个管理节点组进行统一的配置化管理。

处理节点组通过RPC的远程调用获取各自节点的任务处理目标，并实时的和处理节点上的任务处理目标进行对比，控制程序的执行和结束。处理节点组会在一个设定的心跳间隔内主动的和管理节点组联系一次，报告节点存活状态。如果在若干个心跳间隔后管理节点组仍然没有获取到处理节点心跳报告，那么该处理节点将会被踢出处理节点组，同时该节点处理的所有处理任务也会被重新调度。随着集群处理数据量的不断增大，处理节点组提供了简单高效的自动化部署方案，当新机器加入处理集群后，会主动的与管理节点组同步心跳信息，从同一配置服务器ZooKeeper上获取相关配置信息，通过WebServer服务获取任务列表，开始执行数据处理工作。

cDispath调度平台提供了一套基于Web的管理化界面，可以实时的观察各个处理节点的任务运行状态，以及任务列表的分配情况，机器的负载情况等。用户在管理系统界面上可以完成所有的工作，如新任务的添加，任务的手动调度以及集群日志的查看与分析等。

任务处理节点和管理节点之间维护一个心跳时间，实时向管理节点汇报任务处理信息，同时，任务处理节点在每个心跳时间内向管理节点获取该处理的任务列表，并和本机正在处理的任务列表进行比对，完成相关的任务调度工作。若一个处理节点在多个心跳时间范围内仍然没有主动的和管理节点相互联系，那么管理节点将会根据各机器的负载情况，将失去心跳连接的处理节点上的任务进行任务的重新分配和执行。

3.2.4 cProc云处理

3.2.

4.1 cProc简介

cProc是一种处理海量数据的并行编程模型和计算框架，用于对大规模数据集的并行计算。cProc通过把对数据集的大规模操作分发给网络上的每个节点实现数据处理,每个节点会周期性的把完成的工作和状态的更新报告回来。随着节点的增多，cProc的处理能力将成倍数增长。

3.2.

4.2 cProc主要优势

实时性

平台在高效率并行分布式软件的支撑下，可以实时完成数据计算和分析工作，如数据计算、数据查询、和统计分析等。数据计算不会出现数据堆积现象，各类分析和查询工作基本都在秒级完成，具有前所未有的高效性。

高可靠性

基于对云计算可靠性深厚的研究积累，彻底解决了当前分布式计算平台易出现的单点故障问题。任何一个节点出现故障，系统将自动屏蔽，而且不会出现丢失数据的现象。

可伸缩性

在不停机的情况下，增加节点，平台的处理能力自动增加；减少节点，平台的处理能力自动缩减。这样，可以做到与资源池的无缝对接，根据计算和存储任务动态地申请或释放资源，最大限度地提高资源利用率。

高性价比

采用X86架构廉价计算机构建云计算平台，用软件容错替代硬件容错，大大节省成本。在目标性能和可靠性条件下，可比传统的小型机加商用数据库方案节省10倍左右的成本。

全业务支持

采用NoSQL＋关系数据库混合模式，绝大部分海量数据存放于分布式平台并进行分布式处理，少量实时性要求很高的数据存放于关系数据库，可支撑各种类型的业务。不仅支撑查询、统计、分析业务，还可支撑深度数据挖掘和商业智能分析业务。

3.2.

4.3 cProc系统架构

cProc云处理平台是搭建在云存储系统上，对应用层和接口层直接提供对外开发接口和传输数据的分布式平台。云存储层包括公司自主研发的云储存系统cStor和apache开源云储存系统HDFS；而在数据处理层中，cProc云处理平台又包括两层，第一层包含数据立方、MapReduce、Pig，第二层包含Hbase、Hive、Cassandra；最后的监控协调层则包括zookeeper和Chukwa来实现对整个系统的实时监控和数据管理。

下图为cProc云处理平台架构：

图3-13 cProc云处理平台架构

3.2.5 cStor 云存储

3.2.5.1 cStor简介

cStor云存储系统是9年来不断积累研发的高科技产品，是国内最早实现并保持领先的云存储系统，整套系统包括软件与硬件，是一个海量的云存储平台。与传统的大规模存储系统相比，它具有构建成本低、性能高效可靠、使用简单方便的特点。在需要存储大量数据（如视频数据、业务数据等）的应用场合，可以大幅提高存储系统性价比。与目前国际上知名的Google、Amazon等云存储相比，具有更高的性价比、更低的能耗、更加通用和更方便的使用模式。

图3-14 cStor云存储系统

3.2.5.2 cStor主要优势

超低成本——系统中采用廉价的大容量存储服务节点，通过cStor系统软件实现统一管理和容错，提供高效、稳定服务。与使用专用服务器相比，可以将系统构建成本节省5-10倍以上，且规模越大，优势越明显。