TCloud云测平台解决方案
Part 2
成果展示
云真机 流程控制 自动化测试 项目管理(需求，迭代，缺陷，看板) 用例管理 资产管理 Dashboard
Part 2
云真机
• 支持Android，IOS
• 根据手机品牌，系统版本，分辨率等筛选设备
• 远程设备提供，统计设备使用次数和时长
• 屏幕操作和显示
WE
技术栈
平 台 架 构
为什么开源
回馈社区 开源意味着更高的要求 让更多的人加入进来 提升企业品牌价值
TCloud云测平台解决方案
CONTENTS
1、项目背景 2、成果展示
3、未来展望 4、技术实现
Part 1
项目背景
市面上平台无法满足多业务线，多项目 多项目工作量难以整合统计 移动设备共享困难 集团环境下产研流程不统一 工具平台过多，降低工程效率
应P用art 1
应用
应P用art 1
建议：每次测试事件建议>3小时，可以进行单个app压力，稳定性测试
Part 2
APP性能测试
APP性能测试（Airtest）
策略：执行特定的Air test脚本，运行期间，后台用adb打点收集APP相 关的各种性能数据
操作：自动安装APP，运行脚本执行特定场景的测试用例，最后产出性 能报表
建议：最好使用同一台手机的这次运行与上一次运行比较。
Part 2
Part 2
Part 3
Part 4
技术实现
Flask
Flask实例
平台接口入参规则定义
代码目录
开发历程
• python2转python3 • 单服务拆多服务，服务间相互调用通过trpc • 定制化Flask，Logger，Exception • 调用library中的公共模块与配置，可快速启动新项目 • 自动化测试，性能测试 • 服务监控，接口程各节点的耗时，可以更加有针对性的提升工程效率
Part 2
Part 2
自动化测试
• 接口自动化，基于Httprunner • monkey测试 • APP性能测试 • 测试报告 • 自定义数据展示
Part 2
Part 2
Monkey测试
随机测试（Maxim） 策略：70%控件解析随机点击，其余30%按原Monkey事件概率分布 操作：模拟用户点击，滑动等操作，进行app安装，卸载测试
• 支持多点触控操作远程设备
• 设备信息的展示
• 拖拽安装APK，IPA包
• 设备画质选择
Part 2
Part 2
Part 2
Dashboard
Part 2
流程控制
• 提测流程定制 • 一键部署 • 执行自动化测试 • 流程统计 • 支持第三平台接入，自动创建 • 告警通知 • 权限控制
Part 2
国产一体化移动三维测量系统-中海达
系统应用
HiScan-C 系统可广泛应用于互联网街景地图，带状地测绘、三维数字/智慧城市、数字城管，数字公安、智 慧交通、数字航道、数字矿山及海岛礁测绘等应用领域。
互联网街景地图
HiScan-C一体化移动测量系统，可以采集整个城市的高 清全景照片与相应采集点坐标信息，并为客户提供整体的 xplore天地图等各类地图服务 平台无缝对接，构建出整体城市的三维实景，促进城市的 智慧化发展。
海达三维实景应用平台（HD MapCloud RealVision）
海达三维实景应用平台可在互联网上实现流畅便捷的全景浏览、基于全景和点云数据的 标注和测量、支持路名路口导向标注、支持鼠标探面效果，提供基于鼠标探面的街景定 位---跳--转--体--验---等--功--能---，--并--提---供--了--F--le--x-、--J-a-v-a--S-c-r-i-p-t-二--次---开--发--接---口--。------------------------------
HiScan-C SU2
总体指标
型号*
扫描仪数量 测程
最大激光频率 扫描角分辨率
扫描角度 全景分辨率 系统测量精度
扫描频率 重量
*可根据用户需求定制
HiScan-C SU1
1个 最远650m@90%反射率
最大50万点/秒 0.001° 360°
7500万像素 5cm
200Hz 15kg
Features
智慧交通应用
HiScan-C一体化移动测量系统可提供从交通基础设施数据采集、生产、建库到综合应用管理平台服务的全流程一体化数字交通解决方 案，可广泛应用于交通行业管理信息化、道路设计改扩建、拆改移、桥梁及道路竣工验收、数字海域/航道可视化监管等方面，为交通现 代化日常维护、管理、应急决策、公众服务提供数据支持。
最新版云计算平台系统建设项目设计方案
云计算平台系统建设项目设计方案1.1设计方案1.1.1平台架构设计**高新区云计算平台将服务器等关键设备按照需要实现的功能划分为两个层面，分别对应业务层和计算平台层。
业务层中，功能区域的划分一般都是根据安全和管理需求进行划分，各个部门可能有所不同，云数据中心中一般有公共信息服务区(DMZ区)、运行管理区、等保二级业务区、等保三级业务区、开发测试区等功能区域，实际划分可以根据业务情况进行调整，总的原则是在满足安全的前提下尽量统一管理。
计算平台层中分为计算服务区和存储服务区，其中计算服务区为三层架构。
计算服务区部署主要考虑三层架构，即表现层、应用层和数据层，同时考虑物理和虚拟部署。
存储服务区主要分为IPSAN、FCSAN、NAS 和虚拟化存储。
云计算平台中计算和存储支持的功能分区如下图所示：图云计算平台整体架构图平台分层架构基础架构即服务：包括硬件基础实施层、虚拟化&资源池化层、资源调度与管理自动化层。
硬件基础实施层：包括主机、存储、网络及其他硬件在内的硬件设备，他们是实现云服务的最基础资源。
虚拟化&资源池化层：通过虚拟化技术进行整合，形成一个对外提供资源的池化管理（包括内存池、服务器池、存储池等），同时通过云管理平台，对外提供运行环境等基础服务。
资源调度层：在对资源（物理资源和虚拟资源）进行有效监控管理的基础上，通过对服务模型的抽取，提供弹性计算、负载均衡、动态迁移、按需供给和自动化部署等功能，是提供云服务的关键所在。
平台即服务：主要在IaaS基础上提供统一的平台化系统软件支撑服务，包括统一身份认证服务、访问控制服务、工作量引擎服务、通用报表、决策支持等。
这一层不同于传统方式的平台服务，这些平台服务也要满足云架构的部署方式，通过虚拟化、集群和负载均衡等技术提供云状态服务，可以根据需要随时定制功能及相应的扩展。
软件即服务：对外提供终端服务，可以分为基础服务和专业服务。
基础服务提供统一门户、公共认证、统一通讯等，专业服务主要指各种业务应用。
cloudstack云技术平台部署
云平台安全责任与治理
云平台安全责任与治理前言当前，云计算技术全面成熟并得到广泛普及，是各行业数字化转型普遍采用的通用技术模式，各类云计算服务平台（简称云平台）成为支撑经济社会运行的网络基础设施。
随着云平台广泛普及，云平台安全风险也日益凸显并复杂泛化，云平台安全成为各国政府监管的重点对象。
但是，由于云平台服务模式特殊性，云平台安全治理涉及监管、平台、用户等多元嵌套主体，如何科学界定各类多元主体的安全责任成为云平台安全治理的重要前提。
基于上述背景，本报告聚焦云平台安全责任议题，以“安全域-责任主体-服务模式”的分析框架，结合国内外的法律法规以及产业实践开展研究。
首先，界定报告研究的云平台安全的责任主体，确定云平台的四个主要安全域——系统安全、应用安全、数据安全、内容安全，并划定报告研究的云平台安全责任范围；其次，梳理国内外相关政策法规，观测不同安全域下各国、各类监管部门对不同主体的安全责任界定；继而，分析全球主要云平台企业安全管理实践，总结不同云服务模式下的云安全责任分担的行业实践；最后，基于“安全域-责任主体-服务模式”的维度，构建“权利-责任”动态匹配的云平台安全责任分担框架，并以此为指引对我国云平台安全治理提出具体的对策建议。
本报告的核心观点与重要发现：➢云平台是经济社会健康运行的网络基础设施，提供互联网接入和网络接入资源设施等服务，按照电信业务分类目录主要提供四类业务：互联网资源协作服务业务、互联网内容分发服务业务、互联网接入服务、互联网域名解析服务。
➢在云计算产业服务链中存在着产业生态依存现象，“服务商—用户”身份IV可随着产业链延伸而不断衍化。
报告中的云平台用户是指云平台服务商的直接客户，而非最终用户。
➢本报告探讨的与云平台相关的责任主体包括监管部门、云平台服务商和云平台用户，其安全责任问题一方面来自于监管部门对云平台服务商的责任要求，另一方面则是云平台服务商与云平台用户之间的责任划分。
➢云平台主要涉及的四个安全风险域为系统安全、应用安全、数据安全、内容安全。
云平台建设方案
云平台建设方案云平台云平台建设原则1、标准化当前云服务在整个信息产业中还不够成熟，相关的标准还没有完善。
为保障方案的前瞻性，在设备选型上力求充分考虑对云服务相关标准的扩展支持能力，保证良好的先进性，以适应未来的信息产业化发展。
2、高可用为保证数据业务网的核心业务的不中断运行，在网络整体设计和设备配置上都是按照双备份要求设计的。
在网络连接上消除单点故障，提供关键设备的故障切换。
关键设备之间的物理链路采用双路冗余连接，按照负载均衡方式或active-active 方式工作。
关键主机可采用双路网卡来增加可靠性。
全冗余的方式使系统达到电信级可靠性。
要求网络具有设备/链中故障毫秒的保护倒换能力。
具有良好扩展性，网络建设完毕并网后应可以进行大规模改造、服务器集群、软件功能模块应可以不断扩展良好的易用性。
简化系统结构，降低维护量。
对突发数据的吸附，缓解端口拥塞压力，能保证业务的流畅性等。
3、增强二级网络云平台下，虚拟机迁移与集群式两种典型的应用模型，这两种模型均需要二层网络支持。
随着云计算资源池的不断扩大，二层网络的范围正在逐步扩大，甚至扩展到多个数据中心内，大规模部署二层网络则带来一个必然的问题就是二层环路问题。
采用传统的STP+VRRP 技术部署二层网络时会带来部署复杂、链路利用率低、网络收敛时间慢等诸多问题，因此网络方案的设计需要重点考虑增强二级网络技术（女口IRF/VSS、TRILL等）的应用，以解决传统技术带来的问题。
4、虚拟化虚拟资源池化是网络发展的重要趋势，将可以大大提高资源利用率，降低运营成本。
应有效开展服务器、存储的虚拟资源池技术建设，网络设备的虚拟化也应进行设计实现。
服务器、存储器、网络及安全设备应具备虚拟化功能。
5、高性能由于云服务网络中的流量模型发生了变化，随着整个云平台相关业务的开展，业务都分布在各个服务器上，流量模型从纵向流量转换成复杂的多维度混合的方式，整个系统具有较高的吞吐能力和处理能力，满足PB级别的数据处理请求，具备对突发流量的承受能力。
天云科技TCloud云计算平台简介
加载虚拟机镜像
VM Image Repository on Cloud Storage
VLAN的支持
• 管理员可以创建VLAN来给虚拟机网络划分网段 • 管理员可以将VLAN的管理权限授权给某个用户 • 用户创建虚拟机的时候可以选择在那个VLAN中运行
VLAN 用例
创建一个灵活的虚拟数据中心，为不同的用户 提供不同的网段。
TCDS.StorageServer
TCNS.FileServer
基本网络拓扑
基本工作流程
1
启动虚拟机
4
启动虚拟机
3 2
11
读取虚拟机镜像
分配到某一个 Hypervisor
Copyright 2010 TCloud Computing Inc. 11
典型网络Topology
典型应用，用VLAN来 实现虚拟化数据中心
VM Upload Server
Hypervisor Monitor Server Metadata Server
VM.ImageRepository
VM.Hypervisor TCDS.MonitorServer TCDS.MetadataServer
Data Storage Server
File Server
/metadata
Mon
Mon
OSD
OSD
OSD
OSD
Mon
Mon
Classification 8/11/2012
3 3
数据如何存储
文件被分块存储到多个节点上 采用CRUSH 算法管理数据
TCloud网络文件系统
AD Server
DNS
Production Network LDAP Server
电信金融行业云解决方案
金融云现状分析-IOE阵地即将被攻陷，不参与变革就将被淘汰
15年6月25日，浙江网商银行 正式上线运营，国内首个自主可控去 IOE银行系统。银行核心系统需要保
15年4月14日，一人多户政策 第一天，传统IOE架构的中登公司数
字证书系统崩溃，集中式处理系统， 持一致性，安全性等理由将无法阻止
对内
建立以组件为基础的、 模块化的系统架构，为 产品创新和经营管理提 供技术支撑
建立以SOA为基础的服 务架构
架构组件化
不断提炼应用组件，提升系统 的灵活度，使IT系统更加随需 应变，易于扩展，与其他IT系 统更有效的协作
Efficiency 效率
简化应用系统分布 降低复杂度
平台虚拟化
采用SOA作为平台的基础技术架构， 通过平台分层和流程化、应用服务组 合、交易信息处理整合，获得更快的 软件开发和改进速度
无法灵活扩容应对大并发量的访问， 去IOE的分布式系统飞天云平台的脚
架构是否应该改变需要思考。 步银行。开始从与互联网金融有关的外围业务来尝试“去IOE”，比如云计算、柜台系统、分行特色应用
系统、网上银行业务；
人民银行：科技司王永红司长：蚂蚁金服集团愿意将支付宝技术体系产品化并服务于银行；邀请阿里
WIFI+PAD展业 智慧信贷+信贷鹰眼
迷你网点 解决方案
多媒体VTM
灾备中心
生产中心
总行
分行
解决方案 全景视图
银行网点
VTM
POS机
金融机构协同办公 解决方案
总机服务+会易通4G
离行设备接入 解决方案
数据中心云化改造
天融信云安全(完整版)
教室
教研
高
教
行
业
图书馆
实验室
投影、多媒体 数据集中
远程运维 故障修复慢 破坏、攻击 数据丢失 数据保密
国产虚拟化系统 审计员、管理员、保密员分立
自助运维，远程维护
如外何设打策略的管理赢？
传输安全通讯加密 GPU虚拟化
TSM-TVS
虚拟化
服务器虚拟化
服务器虚拟化
聚焦安全能力虚拟化
安全能力虚拟化
办公用机替换 会议培训 防泄密 政务大厅
卖给谁?
办公用机替换 会议培训 防泄密 政务大厅 监管中心
卖给谁?
办公用机替换 会议培训 防泄密 政务大厅 监管中心 呼叫中心
我来举个栗子！
政务内网
政务外网
政
府
办
公
政务大厅
服务热线
数据在办公机 外设管控 操作审计 外网接入
故障修复慢 不能集中管理
成本高 办公区高温高噪音
虚天拟更融网多信解络的云决中虚安云的拟全平现租化三台阶户安级等段安全等保全产保问问 品解题题 来决还 解方需 决案要
我们是否落后了？
云安全在 期望的顶
峰
2016年Gartner技术成熟曲线
从这里开始 投入研发的 企业基本都
故去了
这才是落 地的开始
云解决方案与我司一样
解决方案完整
无落地产品
虚拟化防火墙产品 军队装备列装
实现智能安全
客户原有资源
SDN
安全资源池
云时代机遇与挑战共存 我们携手共创未来
产品型号 NGFW4000-UF TopRules 8000 TopAudit TopAudit TopADS 3000 TopIDP 3000 TopWAF TopFilter 8000 TopIDP 3000 TopScanner 7000 TopVPN 6000 TSM
天翼云高级解决方案架构师理论考试复习题
1、以下哪些不属于技术架构所包含的?A.计算架构B.存储架构C. 网络架构D.业务架构正确答案是D2、以下哪一项不属于按照架构层级所进行的分类A业务架构B. 数据架构c.SOA架构D. 技术架构E.应用架构正确客案是C3、以下哪个不离于Pivotal最新官网定义的云原生概念?A. DevOpsB. 持续交付C. 微服务D. 自服务敏捷招构正确答案是D4、大型IT系统经常会提到“两地三中心”架构，其中不包括?A.生产厂数据中心B. 同城灾备中心c. 异地双活中心D. 异地灾备中心正确答案是C5、以上哪个不属于云负载均衡的待点?A支持多协议B. 不支持会话保持C. 转发灵活D. 配台弹性伸缩正确答案是B6、以下那个不离于弹性架构的优点A弹性B.按需计算c. 充分优化企业的计算资源D.人工缩容正确管案是D7、数据库RDS的典型应用是数据读写分离，这其中只读实例是什么扩展方式?A.水平扩展B. 纵向扩展C. 垂直扩展D.横向扩展正确管案是A，回答正确8、天翼云单台弹件云主机的可用性可达到多少?A 99.95%8. 99.9%C. 99%D. 95%正确答案是A8、系统在运行中，以下哪一项不是可能出现的故障?A.资源不可用B.资源不充足c.节点功能有问题D.资源充足正确答案是D9、以下哪个是在提高服务器性能时不需要考虑的?A CPUB. 内存C.位置D. 磁盘正确答案是C10、天翼云主机根据业务场景和使用场景可支持几种存情类型?A 1B.2C.3D.4正确答案是C11、以下哪个不离于紧耦合会面临的问题?A.故障影响范围大B.变更成本高C.无法支持大规模计算D变更成本低正确答案是D12、以下哪个不高于天翼云做服务云应用平台的优势?A、复杂的做服务框架B、保障高可靠C、全生命周期D、弹性伸缩正确答案是A，回答正确13、天翼云数据库安全为天翼云用户提供的功能不包括下列哪个?A. 数据脱敏B.数据库审计C.数据清洗D.数据库攻击防护正确答案是C，回答正确14、Anti-DDoS流量清洗(CT-AntiDDoS ，Anti-DDoS ) 通过专业的DDOS护设备来为用户与联网应用提供精细化抵御DDOS攻击能力，可以抵御下列那些攻击?A. XSS政击B. UDP FIood攻击C. SYN Flood攻击攻击正确答案是B,C,D，回答正确15、关于天翼云安全架构设计，一般情况下，业务系统可粗粒度的分为四部分，下列说法错误的是A.网络部分: ELB对公网提供服务接入B. 业务部分: 微服务云应用平台提供业务系统应用逻辑及运算处理C. 数据部分: RDS或者自建数据库提供关键应用数据的持久化储存D. 存储部分: EVS、0OS等存储服务提供业务资源数据的的存储正确答案是B16、是一些预先定义的函数，目的是提供应用程序与开发人员基于某软件或硬件得以访问一组例程的能力，而又无需访问源码，或理解内部工作机制的纽2.0分节A.APIB. SDKc. Cloud shellD. IAM正确答案A17、云审计支持在管理控制台对内操作记录按照事件来源、资源类型、事件名称、资源名称MD、事件级别和时间范里等多个维度进行组合查询，2.0分A. 3天B. 7天C. 15天D. 1个月正确答案是B，回答正确18、灾害给不同行业带来的损失是不同的，下面哪个行业每小时停机损失最高?电信业A.B.医疗业C. 能源业D. 金融业正确答案是D19、下列哪个容灾指标是以应用为出发点，衡量能够容忍的应用系统恢复时间段2.0分A. RTOB. RPOC. MBCODTCO正确答案是A20、以下那种备份方式恢复方式最简单，只需要一块硬盘即可进行数据恢复.2.0分A.全量备份B.增量备份C.差异备份D. 半同步备份正确案是A21、天翼云提供智能解析、方便流量分配或容灾切换A.ELBB. ECSC、DNSD. RDS正确答案是C22、XX银行存储到天翼云对象存储中的数据采用哪种形式进行备份?A.三副本B. 热备C. 温备D.多副本正确答案是A23、XX银行依托天翼云云专线将省内14个数据节点汇总到的数信中心实现与总部数据互联互通，并通过天翼云提供的哪个服务汇，将数据存储到天翼云的对金2.0分存储?A. APIB.高性能云主机C. 存储网关D、本地硬盘正确答案是C，回答正确24、以下哪个不属于上云迁移流程中评估分析的步票?A.信息收集B.关键性分析c. 规划分析D.评估正确答案是C，回答正确25、以下哪一项不属于服务器上云迁移的具体操作步票?2.0分A安装控制端B、购买LicenseC.源端安装客户端D.配置客户端正确答案是D，回答正确26、以下哪个不属于在线迁移步骤?A、上线双写B历史数据离线搬迁c. 历史教据在线搬迁D. 清理沉淀正确答案是C，回答正确27、以下哪一选项不离于传统NAS江移过程的会遇到的情况?2.0分A.迁移教据规模B.网络延识感知C.云端适配D.迁移时间正确答案 D28、为了避免两个过程互相交叉缠绕，在迁移出现问题时，不影响故障定位，明晰分工职责，我们必须美承什么样的迁移原则?2.0分A.先迁移，后优化原则B. 分阶段、逐步迁移原则c. 业务连续性原则D. 数据安全性原则正确答案是A，回答正确29、HPC高性能计算的行业挑战不包括下列哪项?A.初始投资大B.运维管理难c上线周期长D上线周期短正确管案是D，回答正确30、天翼云混合云解决方案的架构优势不包括下列哪项?A. 统一管理，统一服务B.云网协同，弹性部署c.独立运维，自由管理D. 无缝互联，灾备保障正确答案是C，回答正确31、在线教育IT系统面临的挑战不包括下列哪项?A.敏捷运维8. 信息孤鸟C.家重运维D. 缺乏敏捷正确答案是A，回答正确32、十三五提出的“健康中国“号召及国务院70号文件将远程医疗作为一个重要发展方向迅速推进，远程医疗的核心思想是:2.0分A. 远程会诊B. 分级诊疗c. 远程门诊D. 远程教学正确答案是B1、天翼云关系型数据库的高可用性主要集中在几个方面?A.双机热备B.数据备份C.数据恢复D.数据删除正确答案是A,B,C，2、以下哪些居于计算高可用架构?A主备架构B.主从架构C.对称集群架构D. 非对称集群架构正确答案是A,B,C,D3、弹性一主机的功能有哪些?A. 提供多种规格B. 弹性体缩服务c. 多种计费模式D. 价格晶贵正确答案是A,B,C4、天翼EIP不支持主机实例息活地绑定与解绑正确答案是错误5负载均衡主要有以下哪几种?A.HTTP重定向负载均衡B. DNS域名解析负载均衡c. 反向代理负载均衡D. IP负载均街正确答案是A,B,C,D6、对于云上基础架构，主要有哪些构成?A.云服务器B. 负载均衡C.关系潦奥数据库D. 对象存储正确答案是A,B.C.D7、在架构安全性的设计时，我们需要关注的点主要是哪些?A.设计安全性B.设备安全性c.云端安全D. 网络中的数据安全正确答案是A,B,C,D，回答正确8、IT架构通常分为哪些?A.数据架构B.应用架构c安全架构D. 技术架构正确答案是A,B,C,D，9、架构师的主要职责有哪些?A. 确认需求B.制作技术规格说明C. 系统分解D. 技术选型正确答案是A,B,C.D，回答正确10、云原生架构的典型技术持征有哪些?A采用轻是级的容器B. 设计为松散耦合的微服务c. 通过API进行交互写作D. 使用最佳语言和框架开发E. 通过DevOps流程进行管理正确答案是A,B,C,D,E，11、存储高性能主要解决存储层读写件能低的问题，常见的方式有哪些?A、读写分离B. 数据分片c. 以上都不属于D. 添加缓存正确管案是A,B,D12、GPU图形加速基础型云主机都有哪些型号?A、G1B、G3C、G2D、G5正确答案是A,C,D13、消息队列能解决的问题有哪些?A.系统合性高B.系统性能较低C. 系统扩展难度大D. 消息一致性问题正确答案是A,B,C14、紧锡合架构的优点有哪些?A、架构简单B. 设计简单c. 开发周期短D.能够快速的开发正确答案是A,B,CD15、翼云提供安全服务等级保护“共担责任”模型。
腾讯云私有云存储产品方案介绍_20180531
私有云存储方案介绍目录1.产品简介2.产品特性3.产品原理4.适用场景5.竞品分析1产品简介持久可用、按需扩容、开放兼容产品简介腾讯云私有云存储CSP（Cloud Storage on Private）是面向企业提供可扩展、高可靠、强安全、低成本的PB级海量数据存储能力，同时保证核心敏感数据私密性。
CSP提供客户机房私有部署、腾讯云机房专区部署两种方式，满足客户多种场景需求，并保障客户对系统100%可控。
S3、Swift 、FTP 、NFS 、CIFS 、iSCSI 、LibRBD 接口协议兼容集群状态监控数据一致性管理数据分布算法集群故障自愈X86 CPU SAS/SATA NVMe SSD 10GE/IB集群概览存储池管理主机管理用户管理日志管理集群巡检管理模块存储接入层存储桶管理对象管理权限控制读写缓存恢复控制生命周期管理集群巡检备份容灾配额管理压缩加密存储逻辑层存储引擎层硬件设备层OpenStack金融专有云T-Stack媒资编辑归档备份非结构化数据应用场景大数据分析媒资归档安防监控流媒体平台基因测序自动驾驶私有云平台CloudStack 结构化数据虚拟桌面数据库S3、Swift 、FTP 、NFS 、CIFS 、iSCSI 、LibRBD 接口协议C l u s t e r M a n a g e r 集群部署监控模块C l u s t e r M o n i t o r 分布式监控集群Index Storage 索引存储集群Index Storage Index Storage Index Storage Index StorageIndex StorageIndex StorageData Access 数据接入集群Data Access Data Access Data Access Data AccessData Storage Device(DSD)数据存储设备集群DSD DSD DSD DSD DSDDSDDSDDSD应用接入•S3、Swift 、FTP 、NFS 、CIFS 、iSCSI 、LibRBD •集群水平无限扩展•无单点故障数据层•数据跨机器存储•索引和数据模块水平扩展•自动精简配置集群监控部署•集群组件纬度监控•节点纬度监控•心跳检测，秒级切换•集群可视化部署2产品特性持久可用、按需扩容、开放兼容、高IO混合盘、冷热分层对象存储文件存储块存储数据中心A机架1机架2机架31.分布式架构2.副本/纠删码冗余策略3.支持主机、机架、数据中心容灾4.两地三中心容灾5.腾讯云COS备份6.恢复QoS7.硬件监控、磁盘Smart监控（坏块率、慢盘检测）数据中心B数据中心C最小集群4096+1.支持磁盘、主机、机架纬度扩容2.支持存储桶跨Pool ，减轻扩容对系统冲击3.支持配置数据均衡策略（按带宽）、数据均衡时间段（业务低峰期），减轻扩容对线上业务影响对象存储文件存储块存储机架1机架3私有云存储CSPS3、Swift 、FTP 、NFS 、CIFS 、iSCSI 、LibRBD私有云| OpenStack | 媒资归档| 大数据分析| 虚拟桌面| 数据库应用InfiniBand 、RDMA10GE 、40GE机架21.上游存储协议（S3、Swift 、FTP 、NFS 、CIFS 、iSCSI 、LibRBD ）2.上游软件框架集成（OpenStack 、CloudStack 、ZStack 、金融私有云、媒资归档平台、大数据分析、虚拟桌面、数据库应用）3.底层硬件兼容（X86、NVMe 、IB 、RDMA ）产品特性–高IO 方案1.访问IO 由访问层进入到存储集群，进行对应的协议转换，包括NFS/SMB 等2.在索引层获取对应数据的key value ，即寻址地址3.Cache 层中，会采用SSD 的介质，进行文件的合并，或者热数据的预读4.合并的小文件会存储到更为温冷的SATA 介质中，或者将温冷数据加载到Cache 层总Indexing 索引CacheDS 数据存储访问IO 1234产品特性–冷热沉降方案NVMeSSDSSD混合SATA SATA介质生命周期归档数据(年)Rarely Accessed安全事件通知版本控制跨区域复制“温”数据(天，月)Less-frequently Accessed“热”数据(秒,分,时)Active & Temporary1.根据策略可以将数据在不同热温冷的存储介质中进行迁移2.可以根据应用所需的吞吐，IOPS进行不同存储介质的选择，并且兼顾性价比3.对于生产、容灾场景，可以做到更为灵活的策略迁移大数据分析内容分发优选数据临时小文件媒体转码文件企业数据备份容灾跨地域冗余深度离线归档3适用场景安防监控、备份归档、大数据分析、混合云架构、企业网盘互联网专线接入实时监控回看高性能转码数据生命周期管理热数据缓存层S3兼容RESTful APISDK 开发包数据归档与备份数据降冷数据保护视频监控集中管理平台人工智能人脸验身区域境界人流统计物品追踪RTMPRTSPHLSFLV/MP4报警系统出入口控制系统管理腾讯私有云存储-CSP场景特点：1.高IO 吞吐带宽2.在线扩容3.数据到期自动删除4.敏感数据保护数据压缩纠删编码高密度机型低成本高可靠故障域隔离多副本冗余Smart 磁盘检测强安全数据生命周期数据加密数据保护适用场景–备份上云及云内备份适用场景–大数据分析&在线媒资编辑数据可视化Visualization 开发套件SDK实时SQL引擎Real-time SQL Engine数据挖掘Data Mining文本分析Text Mining消息队列Message Queue并行处理框架Map/Reduce数据采集平台Data Acquisition Platform结构化数据ETL工具标准协议HTTP/MQTT行业协议IEC/CSG数据存储Data Storage 高IO 吞吐>10GB性能、成本折衷权限管理分布式文件存储File Storage分布式对象存储Object Storage分布式块存储Block Storage海量小文件优化数据缓存场景特点：1.吞吐量大2.兼顾成本3.海量小文件优化4.权限管理适用场景–混合云架构数据分块/加密归档数据取回历史媒体带库非编站点加密磁带网关加密文件网关CSP私有化存储VTL数据分块/加密私有云公有云2-3PB~500TB 转码服务适用场景–企业网盘文件存储与内容管理多种自定义同步，云端同步状态实时监控，文件回收站，文件预览水印，文件历史版本，高级搜索系统，文件内容全文检索等安全日志与审计权限与角色管理文件夹权限设置，支持多维度权限组合查询，自定义角色系统，自定义权限继承模式等弹性网盘存储空间共享与协作消息与通知云端全同步，内部文件一键发送，临时文件夹共享借阅，文件评论，文件锁功能等高可靠，高可用基于腾讯云存储+云计算提供的IaaS通讯录与组织架构管理企业通讯录，部门隐藏模式，支持成员禁用状态，独立部门管理员配置等腾讯云+ 够快7*24 售后服务账号安全与管理数据私密性高敏感数据存储在私有环境内，非敏感数据存储在公有云中享受多种腾讯云优惠政策（云服务器，云存储，云硬盘）3技术细节方案-两层分布式架构母机子机/dev/sdaqume qcow2raw 存储cellcellcellM10TS6-10Gclientagentmaster mastermasterzookeeper接入控制中心读写IO 路径写IO 复制路径拓扑、路由和卷信息推送路径控制中心选主和元数据存储M10接入：包含client(IO)和agent(管理)模块，负责将CBS 以块设备形式在母机上展现存储：cell 模块，三份数据副本，基于链式复制，NRW 一致性模型，cache+binlog 写入模型控制中心：master 模块，基于ZK 实现高HA 的控制中心，负责管理拓扑、路由和卷信息BlockVolumeCell Cell CellConsistency hash●用户看到的逻辑地址空间由多个Block 组成，Block 大小1M ●用户请求通过一致性Hash 计算后，转发到相应Cell Pair方案-数据分布.1方案-数据分布.2●Disk 初始化为多个Block ，Block 大小与用户逻辑Block 一致●Block 是空间分配管理的最小单位●Tablet 是路由管理的基本单元，大小2GB●Tablet 包含若干固定大小BlockTablet TabletCP2Tablet TabletDiskBlock Block Block BlockBlock Block Block Block Block Logic View Physic Viewlazy 路由同步策略方案-路由同步•lazy 路由同步drivermastercellcellcellRouteIO ERR Route Get①master 路由更新master 推送路由到所有normal celldriver 正常IO 请求cell 返回路由异常driver get route 请求cell 返回路由增量当前cell 异常，driver get route 请求从masterRouteGetmaster 返回路由增量②③④⑤⑥⑦⑧master 保存路由表信息，cell 、driver 存路由副本（见CHT 结构）路由信息增量同步（减小同步路由信息大小）路由变更时master 主动推送路由到cellcell 上架时master 主动推送路由到新上cell driver （本机群）首次挂盘时master 主动推送路由到driverdriver IO 时发现路由版本低主动从主cell 拉取主cell 发现自身路由比driver 版本低从master 拉取主cell 发现自身路由比从cell 版本低从从cell 拉取从cell 发现自身路由比主cell 版本低从master 拉取所有向cell 拉取路由失败后都改为向master 拉取方案-多副本备份扇形多副本备份Cell (master)Cell (slave)Cell (slave)② write③ ack② write③ ack① write ④ ack Driver 数据写/删Cell (master)① read ② ack Driver 数据读取扇形多副本说明：a.cell (tablet)分主从b.主从节点以tablet 为粒度c.主从节点在tabletpair 中表示d.主节点down 升级从节点为主e.读请求从主节点读取f.写/删请求先路由到主节点，主节点并行路由到从节点•存储引擎示意图IO调度：调度触发：定时、水位当前活跃平面：block顺序落地非活跃平面：lru顺序落地先非活跃平面后当前平面方案-存储引擎内存布局：元数据、数据缓存区硬盘布局：meta双平面、binlog双平面、data区优化：增加binlog区，提升数据安全性优化调度，防止数据满导致的IO失败方案-故障恢复ClientReplicationReplicationReplication故障恢复节点①写请求②写备副本②写备副本③写主副本④写返回Binlog 增量恢复部署模型Cell Cell Cell CellMaster Client仓库：3x4组Cell•仓库模型：4组Cell ，构成，容量86T(1.8T*4*12)•Zone 规模：80PB(SSD+SATA)Master性能估算母机子机/dev/sdaqume qcow2raw 存储cellcellcellM10TS6-10Gclient接入T1T2T3T4T5IO 时延模型分析T1子机块设备和虚拟化路径，0.1msT2母机块设备IO 路径，<0.01ms T3Client 到主副本，0.4msT4主副本到从副本，0.4msT5磁盘读延时，10ms ；写延时，3ms简化模型：T total = T 读写磁盘+ T 非读写磁盘写延时：binlog 延时+flush 延时= 1000/50MB/18K(平均请求大小) + 1000/600(顺序化IOPS) = 2.06ms T total_NCBS <= T total_apollo谢谢。