阿里云-飞天系统-总体框架
阿里云—飞天系统总体架构
西门老衲研究整理
关于华博科技（ Technology ）目录
1. 飞天体系结构—飞天系统+ 飞天应用
2. 飞天系统—分布式基础架构
9 5. 飞天系统—集群监控—神农
3. 飞天系统—分布式文件系统—盘古
4. 飞天系统—任务调度—伏羲
7. 结束语
6. 飞天应用—阿里云系列韵公园
什么是飞天？
飞天体系—技术框架
关于华博科技（ Technology ）目录
1. 飞天体系结构—飞天系统+ 飞天应用
2. 飞天系统—分布式基础架构
9 5. 飞天系统—集群监控—神农
3. 飞天系统—分布式文件系统—盘古
4. 飞天系统—任务调度—伏羲
7. 结束语
6. 飞天应用—阿里云系列韵公园
关于华博科技（ Technology ）目录
1. 飞天体系结构—飞天系统+ 飞天应用
2. 飞天系统—分布式基础架构
9 5. 飞天系统—集群监控—神农
3. 飞天系统—分布式文件系统—盘古
4. 飞天系统—任务调度—伏羲
7. 结束语
6. 飞天应用—阿里云系列韵公园
飞天文件系统-盘古
飞天盘古—特性
飞天盘古系统—设计
飞天盘古—针对在线业务的优化
关于华博科技（ Technology ）目录
1. 飞天体系结构—飞天系统+ 飞天应用
2. 飞天系统—分布式基础架构
9 5. 飞天系统—集群监控—神农
3. 飞天系统—分布式文件系统—盘古
4. 飞天系统—任务调度—伏羲
7. 结束语
6. 飞天应用—阿里云系列韵公园
任务调度—伏羲
飞天伏羲—体系架构
飞天伏羲
关于华博科技（ Technology ）目录
1. 飞天体系结构—飞天系统+ 飞天应用
2. 飞天系统—分布式基础架构
9 5. 飞天系统—集群监控—神农
3. 飞天系统—分布式文件系统—盘古
4. 飞天系统—任务调度—伏羲7. 结束语
6. 飞天应用—阿里云系列韵公园
飞天系统—集群监控—神农
飞天神农—特点
关于华博科技（ Technology）
目录
1. 飞天体系结构—飞天系统+ 飞天应用
2. 飞天系统—分布式基础架构
95. 飞天系统—集群监控—神农
3. 飞天系统—分布式文件系统—盘古
4. 飞天系统—任务调度—伏羲
7. 结束语
6. 飞天应用—阿里云系列韵公园
飞天应用
阿里云邮箱服务
阿里云金融数据仓库
阿里云渲染计算服务
问题
关于华博科技（ Technology）
目录
1. 飞天体系结构—飞天系统+ 飞天应用
2. 飞天系统—分布式基础架构
95. 飞天系统—集群监控—神农
3. 飞天系统—分布式文件系统—盘古
4. 飞天系统—任务调度—伏羲
7. 结束语
6. 飞天应用—阿里云系列韵公园
仅供分享学习只用
敬请尊重阿里云—飞天系统相关研发者的知识产权！！。
飞天操作系统,中国科技的创新力量
万台集群规模 多维度资源请求 额度控制
负载均衡 复杂的调度约束
Fuxi Master
APP Master
APP Worker APP Worker
APP Worker APP Worker
APP Master APP Worker
两级调度：批发＋零售 增量调度：一次请求、多次分配
单集群规模一万台，10万个进程，毫秒级响应 2015年排序竞赛四项冠军，100TB排序377秒完成
天基Master
预期状态
当前状态
部署、升级、扩容、下线、配置变更 执行计划
Agent Agent Agent Agent Agent
面向恢复的计算模型
Recovery-oriented Computing Model
Paxos
CS
CS
CS CS
盘古：分布式存储管理
Pangu: Distributed Storage Management
额度超售 实际使用 额度拉伸
额度收缩
30% 10% 10%
20% 20%
40% 30%
50% 50% 27%
总和
30% 30%
80%
60% 53%
150% 资源复用率 70% 90% 130% 100%
兼顾效率与公平
Achieving Efficiency and Fairness
弹性额度 离线在线混合调度
硬件上架
OS克隆
OS升级
应用升级
硬件下架
应用迁移
应用部署 应用启动
自天动基化：运从维批挑处战理到状态机
TCihaanljlie: nfrgoems Boaf tAcuhtSonteopmPoruosceOspseinrgattioonState Machine
阿里云飞天开放平台-技术白皮书-改
飞天开放平台技术白皮书目录文档图索引 (3)1.概述 (4)2. 体系架构 (5)3. 飞天内核 (6)4.分布式系统底层服务 (7)4.1.协调服务（女娲） (7)4.2.远程过程调用（夸父） (7)4.3. 安全管理（钟馗） (8)4.4. 分布式文件系统（盘古） (8)4.5. 资源管理和任务调度（伏羲） (9)4.6.集群监控和部署 (11)文档图索引图 1 飞天体系架构 (5)1.概述阿里云飞天开放平台是在数据中心的大规模Linux集群之上构建的一套综合性的软硬件系统，将数以千计的服务器联成一台“超级计算机”，并且将这台超级计算机的存储资源和计算资源，以公共服务的方式，输送给互联网上的用户或者应用系统。
阿里云致力于打造云计算的基础服务平台，注重为中小企业提供大规模、低成本的云计算服务。
阿里云的目标是通过构建飞天这个支持多种不同业务类型的公有云计算平台，帮助中小企业在云服务上建立自己的网站和处理自己的业务流程，帮助开发者向云端开发模式转变，用方便、低廉的方式让互联网服务全面融入人们的生活，将网络济模式带入移动互联网，构建出以云计算为基础的全新互联网生态链。
在此基础上，实现阿里云成为互联网数据分享第一平台的目标。
2. 体系架构图 1 飞天体系架构如图2.1所示是飞天的体系架构图。
整个飞天平台包括飞天内核（图2.1中浅灰色组件）和飞天开放服务（图2.1中白色组件）两大组成部分。
飞天内核为上层的飞天开放服务提供存储、计算和调度等方面的底层支持，对应于图2.1 中的协调服务、远程过程调用、安全管理、资源管理、分布式文件系统、任务调度、集群部署和集群监控模块。
飞天开放服务为用户应用程序提供了存储和计算两方面的接口和服务，包括弹性计算服务（Elastic Compute Service，简称ECS）、开放存储服务（OpenStorage Service，简称OSS）、开放结构化数据服务（Open Table Service，简称OTS）、关系型数据库服务（Relational Database Service，简称RDS）和开放数据处理服务（Open DataProcessing Service，简称ODPS），并基于弹性计算服务提供了云服务引擎（Aliyun Cloud Engine，简称ACE）作为第三方应用开发和Web应用运行和托管的平台。
分布式云计算平台
产品彩页分布式云计算系统产品概述•数梦飞天云平台是数梦工场基于阿里云平台为行业客户量身定制的专有云平台，数梦飞天云平台完全基于自主知识产权，先后获85项国家技术专利，获得国家发改委的云计算专项资金支持。
•数梦飞天云致力于打造云计算的服务能力平台，注重为政府、教育、医疗、金融、企业等行业客户提供大规模、低成本的云计算和大数据服务。
数梦飞天的目标是通过构建支持多种不同业务类型的行业专有云平台，帮助行业用户简单快速建立自己业务系统，帮助用从关注运维向关注开发转变，将网络经济模式带入政府、行业客户，构建出以云计算为基础的全新生态链。
•数梦工场为用户提供互联网化云服务交付，真正体现计算能力的规模效益，致力于大数据的价值挖掘，让数据增值，辅助政府决策，助力经济产业升级，服务公众。
让最卓越的数据技术，去实现人类最美好的梦想！数梦飞天云业务全景图简单高效的弹性计算服务（ECS）•稳定，云磁盘数据可靠性不低于99.999%，自动宕机迁移、数据备份和回滚，系统性能报警。
•安全，支持防DDos攻击、安全组自动划分访问权限，多租户安全隔离，支持防密码暴力破解。
•弹性，10分钟内可创建和释放上百台云服务器，分钟级升级CPU和内存。
•性能，随即IOPS达到1.2万，300MB/s的磁盘性能，高性价比，节约成本。
•运维，提供简单自动化的运维界面，支持通过工具实现自动化备份和自定义镜像，实现云服务器的快速扩展、复制。
产品彩页海量存储服务（OSS）•空间无限：海量的存储空间，随用户使用量的增加，空间弹性增长，无需担心数据容量的限制。
并同时支持高并发、大容量的读写服务。
•压缩存储：对存储在开放存储服务上的图片，支持缩略、裁剪、水印、压缩和格式转换等图片处理功能。
•安全可靠：服务可用性高达99.9%，系统规模自动扩展，不影响对外服务，数据三重备份，可靠性达到99.99999999%。
安全稳定的数据库服务（RDS）•数据库是应用的核心，数据库的安全、可伸缩是系统稳定的第一保证，数梦飞天提供一种即开即用、稳定可靠、可弹性伸缩的在线数据库服务。
阿里云计算架构
阿里云计算架构飞天是由阿里云开发的大规模分布式计算系统，其中包括飞天内核和飞天开放服务。
如下图所示。
飞天体系架构飞天体系架构主要包含四大块：资源管理、安全、远程过程调用等构建分布式系统常用的底层服务；分布式文件系统；任务调度；集群部署和监控。
飞天管理着互联网规模的基础设施。
最底层是遍布全球的几十个数据中心，数百个POP（Point of Presence，入网点）。
飞天内核负责管理数据中心Linux集群的物理资源，控制分布式程序运行，隐藏下层故障恢复和数据冗余等细节，有效提供弹性计算和负载均衡，调度集群的计算、存储资源，支撑分布式应用的部署和执行，并自动进行故障恢复和数据冗余。
安全管理根植在飞天内核最底层，飞天内核提供的授权机制能够有效实现“最小权限原则”，同时，还建立自主可控的全栈安全体系。
监控报警诊断是飞天内核的最基本能力之一。
飞天内核为上层应用提供非常详细的、无间断的监控数据和系统事件采集，能够回溯到发生问题那一刻的现场，帮助工程师找到问题的根源。
在飞天体系架构中，“盘古”是存储管理服务，“伏羲”是资源调度服务，飞天内核之上应用的存储和资源的分配都由盘古和伏羲管理。
“天基”负责飞天各个子系统的部署、升级、扩容以及故障迁移，进行自动化运维服务。
分布式监控—“神农”是飞天平台上负责信息收集、监控和诊断的系统。
它通过在每台物理计算机上部署轻量级的信息采集模块，获取各个计算机的操作系统与应用软件运行状态，监控集群中的故障，并通过分析引擎对整个飞天系统的运行状态进行评估。
分布式协同—“女娲”为飞天平台提供高可用的协调服务，是整个飞天系统的核心服务，它的作用类似于文件系统的树形命名空间，让分布式进程互相协同工作。
远程过程调用—“夸父”在飞天平台中是负责网络通信的组件，它提供远程过程调用的接口，简化编写基于网络的分布式应用。
安全管理—“钟馗”为飞天操作系统中的安全管理机制提供以用户为单位的身份认证和授权，以及对集群数据资源和服务进行的访问控制。
阿里飞天平台总架构师唐洪：飞天开放平台
以下为演讲实录：唐洪：我讲题目是飞天开放平台，大数据和云计算有一个比喻是硬币的两面。
很多专家讲了跟大数据有关的东西，我讲跟云计算有关的东西。
我在这次会议上主要讲到底为什么要设计这个系统？设计原则是什么？里面我觉得一些技术创新的地方在哪里？我先大概讲一讲阿里云，我不知道在座各位知不知道阿里云的历史，阿里云是阿里巴巴集团子公司，成立开始是以云计算作为它的业务，今天已经有大概60万个客户，这些客户把他们的网站、应用、服务都放在阿里云的平台上，每天我们有数十亿次访问，阿里云可以说是中国最大的云计算服务提供商。
大家知道云计算是一个生态，阿里云整个云计算生态定位比较清晰，我们想做最基础的云服务。
为什么这么定位？可以看到我们大概思路是这样，最底层是数据中心层，我们有阿里巴巴自己管理的数据中心，也有和第三方合作的数据中心，这个完全取决于咱们怎么合作。
唯一阿里巴巴想到的就是飞天的平台。
上面有一些平台级别的服务，比如说AC 是引擎，我们希望有第三方的平台在我们上面成长起来。
阿里提供了一些应用级别的服务，包括搜索、邮箱还有地图服务。
我们也欢迎很多第三方应用，我们相信大多数应用是第三方应用，我们提供邮箱、地图、搜索的服务，因为这些服务需要很多资源，技术门槛比较高，这些服务也是很多做互联网应用必须用到的服务，所以我们作为基础服务提供给互联网开发者。
我们用户大概有三类：一类直接消费我们应用级别的服务，还有一类比如说独立的软件开发商和系统集成商，他们在我们平台帮助他们的客户完成一些解决方案，第三类是一些独立开发者，移动应用开发者，他们直接开发一款应用在我们云平台上。
下面讲一下为什么我们有这样的定位，说起这个问题主要从云计算本质说起，云计算有三个本质，第一个大规模的本质，云计算是应运互联网而生，所以大规模是一个必须要解决的问题。
有一个不完全统计就是说今天每天大概有2.5个EB这样的数据产生，并且这个数字每40个月会翻一番，之前Michael StacK教授说今年年末有35个GB的数据。
阿里云体系架构ppt课件
弹性计算服 务SLB/ECS 集 群 部 署
(分布式)关系数据库 DRDS/RDS 分布式文件系统
大数据 ODPS/ADS 任务调度 远程过程调 用
开放存储 OSS
分布协同服 务
安全管理
资源管理
基础 设施
x86服务器 & Linux
网络设备
机房环境
5
阿里云的产品体系
6
分布式文件系统-（一层结构）
负载均衡
LB / LVS
协议处理、访问控制
协议接入层 RESTful 数据访问层 Key-Value引擎 持久存储层 Pangu
1. 海量、分布式的KV存储 2. 可扩展至数千台服务器 3. KVMaster/KVServer/Nuwa 1. 基于分布式文件系统Pangu 2. Master-Slave，基于Paxos的多 Master设计。 3. 三份拷贝分布不同机架存储 16
云市场及第三方服务
集群 部署 Depl oym ent
关系型数据 库服务 (RDS)
分布式文件系统 Distributed File System
Distributed Coordination Service
集群 监控 Mon itori ng
分布协同服务
Security Manag客户端主要为： ECS OSS/OSA ODPS/Opensearch OTS/SLS
2019
-
8
分布式文件系统-二层结构
Paxos
2019
-
9
任务调度系统-伏羲
2019
-
10
物理部署示意图
2019
-
11
IAAS基础服务-ECS弹性服务器
阿里飞天云平台架构简介
阿⾥飞天云平台架构简介飞天是由阿⾥云开发的⼀个⼤规模分布式计算系统，其中包括飞天内核和飞天开放服务。
飞天内核负责管理数据中⼼集群的物理资源，控制分布式程序运⾏，隐藏下层故障恢复和数据冗余等细节，有效提供弹性计算和负载均衡。
如图所⽰，飞天体系主要包含四⼤块：1、资源管理、安全、远程过程调⽤等构建分布式系统常⽤的底层服务;2、分布式⽂件系统;3、任务调度;4、集群部署和监控。
飞天开放服务为⽤户应⽤程序提供了计算和存储两⽅⾯的接⼝和服务，包括弹性计算服务(Elastic ComputeService，简称ECS)、开放存储服务(Open Storage Service，简称OSS)、开放结构化数据服务(Open Table Service，简称OTS)、关系型服务(Relational Database Service，简称RDS)和开放数据处理服务(Open Data Processing Service，简称ODPS)，并基于弹性计算服务提供了云服务引擎(Aliyun Cloud Engine，简称ACE)作为第三⽅应⽤开发和Web 应⽤运⾏和托管的平台。
阿⾥有限公司(简称“阿⾥云”)成⽴于2009年9⽉10⽇，致⼒于打造云计算的基础服务平台，注重为中⼩企业提供⼤规模、低成本、⾼可靠的云计算应⽤及服务。
飞天开放平台(简称“飞天平台”或者“飞天”)是由阿⾥云⾃主研发完成的公共云计算平台，该平台所提供的服务于2011年7⽉28⽇在正式上线，推出了第⼀个云服务——弹性计算服务。
截⾄本书出版时，阿⾥云已经推出了包括弹性计算服务、开放存储服务、关系型数据库服务、开放结构化数据服务在内的⼀系列服务和产品。
飞天平台内核包含的模块可以分为以下⼏部分。
分布式系统底层服务：提供分布式环境下所需要的协调服务、远程过程调⽤、安全管理和资源管理的服务。
这些底层服务为上层的分布式⽂件系统、任务调度等模块提供⽀持。
分布式⽂件系统：提供⼀个海量的、可靠的、可扩展的数据存储服务，将集群中各个节点的存储能⼒聚集起来，并能够⾃动屏蔽软硬件故障，为⽤户提供不间断的数据访问服务；⽀持增量扩容和数据的⾃动平衡，提供类似于POSIX的⽤户空间⽂件访问API，⽀持随机读写和追加写的操作。
阿里云架构介绍ppt课件
解决方案：弹性计算服务
• 提供云平台，免去中小企业的初始IT
投资
• 提供通用的、可定制的，且保证服务
质量的应用，大幅减少企业的运营开 销
• 企业IT人员可专注于业务应用的开发
创新
• 适用范围
• 利用云平台的协作能力和分析能力提
高企业的响应能力
– 中小企业：希望减少IT初期投资和运营开销，
• 专注于业务系统的使用及开发
– 新兴企业：形成业务价值链、产生更多的新 兴服务
目前产品
• 云主机 • 云建站
21
ALIYUN 存储-OSS
22
业务扩张，存储 需求激增
传统存储缺陷
数据丢失
配置、维护设备
权限泄露
资金短缺
23
24
阿里云存储的优势
安全、可靠 通用、便捷 存储容量可扩展 任何人都可以使用
价格低廉、按需付费
25
OSS SLA保障
27
OSS产品方案
28
OSS基础架构
29
用户场景一：图片分享
30
用户场景二：动漫图片渲染
• 最终用户数据的存储 • 企业级的大规模数据备份和存档
31
可行性案例分析
• 阿里云OSS提供与Amazon S3相同的公有云存储服务 • Amazon S3在国外支撑的企业有很多，阿里云OSS也可以
为相应服务提供支撑
关键点，做到“大道至简”。 • 大量自动热点聚焦的实时新闻，随时随地满足用户阅读资讯的需求。
音乐搜索 • 音乐搜索正在朝正版化和个性化推送服务进军，可在线视听和支付下载
地图搜索 • 阿里云地图服务是阿里云地图团队开发和支持的互联网地图应用，包括： • 基本地图应用（） • 地图API（/jsdoc/）
阿里巴巴云安全体系介绍
王涛-中国科学院大学
柯国霖-厦门大学
柯文炜-南京航空航天大学
• 2014年11月12日，阿里宣布参赛团 队挑战双11任务成功，超过天猫团队 效果16%，赢得100万奖金
阿里云安全团队
组织结构
• 超百人团队，专注云计算安全 • 安全产品 • 安全运营（底层安全、系统网络、
WEB安全、数据安全、行业运营) • 安全研究（APT研究、反欺诈研
阿里金融云安全框架
安全合规
• 2012年全国首个以产品为认证范围通过GB/T 22080：2008信息安全 管理体系认证
• 2012年全国首个云服务系统通过公安部等级保护三级测评 • 2013年全球首个云安全国际认证金牌 • 2014年金融云通过绿盟科技金融安全评估，名列一级优等 • 2014年云服务通过工信部可信云认证，质量有保证 • 2014年作为试点企业参加中央网信办“面向党政部门使用云计算安全
8
“天池”大赛
简介：
• 基于天池（大数据服务ODPS+开放数据集）平台开展的市场活动，旨在借助社
会的力量来挖掘数据的价值
• 开放数据：天猫用户在2011年04月-
08月的品牌行为数据。对品牌的点击、
购买、收藏、加入购物车等。
马健-南京大学
瞿天善-南京大学
李森栋-北京航空航天大学
• 预测数据：同样这些用户在同年9月 份将会购买的品牌
• 曾担任NIPS、SIGIR等顶级国际会议领域主席，曾担任KDD、AAAI、IJCAI等顶级会
议高级程序委员会委员。获得过美国国家科学基金会NSF Career Award
4
DaaS—分布式大数据处理平台架构
工具
数据开发平台
设计 开发 质量 运维
阿里云飞天总体架构
女娲技术架构图：
(三) 第三日：主神说神要懂文化，要说仓颉语
仓颉
a) 统一的消息格式，序列化/反序列化时使用
b) 众神之间沟通的语言
仓颉的目标
a) 兼容
b) 高效
c) 易用
c) 高智能
功曹、公明、钟馗、愚公技术架构图：
穿越而来的后羿
后羿：
a) 通过虚拟技术共享计算资源
b) 单机应用在云平台运行
后羿系统技术架构图：
后羿技术架构图：
【编者加注】
个人非常不看好国内绝大多数公司云计算系统的开发和服务提供，主要国内80%以上的公司属于概念炒作型，剩下19.8%属于技术实力不够或资金投入 不足等类，即使这些99.8%公司有几家公司把云计算服务的系统搭建起来了，也很难提供可靠的服务和保证服务的质量，更难在云计算服务市场中分到一杯羹， 最多是骗得国家向云计算服务企业提供的政府补助资助资金而已，像阿里云却非常不同，大概有以下五大优势：
c) SI Engine —- 文本搜索
有巢技术架构图：
(七) 第七日：主神说有个大病小灾的要找神农
神农
a) 素问：收集众神信息，异常情况报警
b) 灵枢：异常情况预警，自动故障预防/b) 易扩展
(四) 第四日：主神造伏羲以规范神界
伏羲
a) 管理计算资源，调度Service和Job
b) 提供编程接口
伏羲的目标
a) 易用性：编写分布式程序很简单
b) 可扩展：完善的容错机制
c) 可共享：支持多Service和Job，支持Quota和Billing
c) 多用户共享：提供访问控制、配额管理和资源统计