[PPT]《云计算(第二版)》教材配套课件6—第三章 Amazon云计算AWS
合集下载
《云计算(第三版)》配套PPT之二:第2章 Google云计算原理与应用(一)

10 of 41
2.1 Google 文件系统 GFS GFS的特点
《云计算》第三版配套PPT课件
2
不缓存数据
文件操作大部分是流式读写,不存在大量重复读写,使用Cache 对性能提高不大 Chunk Server上数据存取使用本地文件系统从可行性看,Cache 与实际数据的一致性维护也极其复杂
11 of 41
24 of 41
《云计算》第三版配套PPT课件
2.2 分布式数据处理 MapReduce
2.2.1 产生背景 2.2.2 编程模型 2.2.3 实现机制
2.2.4 案例分析
of 41
2.2 分布式数据处理 MapReduce 实现机制
《云计算》第三版配套PPT课件
26 of 41
2.2 分布式数据处理 MapReduce 实现机制
Google MapReduce 架构设计师 Jeffrey Dean
还提供了一个简单而强大的接口。
这就是MapReduce
20 of 41
2.2 分布式数据处理 MapReduce 产生背景
《云计算》第三版配套PPT课件
MapReduce这种并行编程模式思想最早是在1995年提出的。 与传统的分布式程序设计相比,MapReduce封装了并行处理、容错处理、本 地化计算、负载均衡等细节,还提供了一个简单而强大的接口。 MapReduce把对数据集的大规模操作,分发给一个主节点管理下的各分节点 共同完成,通过这种方式实现任务的可靠执行与容错机制。
21 of 41
《云计算》第三版配套PPT课件
2.2 分布式数据处理 MapReduce
2.2.1 产生背景 2.2.2 编程模型 2.2.3 实现机制
《云计算(第二版)》教材配套6—第三章Amazon云计算AWS(1)精品PPT课件

➢需求——Amazon平台中 有只Am是很azo多读n怎服取么务、处对写理存入这储,个需的(求需满?求足 简单的键/值式存储)
面向服务的Amazon平台架构
Dynamo ➢简单的键/值方式存储数据,不支持复杂的查询 ➢ 存储的是数据值的原始形式(bit),不解析数据的 具体内容、不识别任何数据结构,这使得它几乎可以 处理所有的数据类型
机制,涉及三个参数W、R、N
W—代表一次成功的写操作至少
需要写入的副本数
R—代表一次成功读操作需由服
务器返回给用户的最小副本数
N—每个数据存储的副本数
➢满足R+W>N,用户即可自行配 置R和W ➢优势:实现可用性与容错性之 间的平衡
容错机制
2)永久性故障处理机制
➢Merkle哈希树技术
每个虚拟节点保存三颗Merkle树,即每个键值区间建立一个 Merkle树 哈希树的叶子节点是存储每个数据分区内所有数据对应的哈希值, 父节点是其所有子节点的哈希值
➢AMI是用户云计算平台运行的基 础,用户使用EC2服务的第一步就 是要创建一个自己的AMI
➢Amazon提供的AMI有四种类型
(1)公共AMI (2)私有AMI (3)付费AMI (4)共享AMI
EC2基本架构及主要概念
EC2的基本架构
EC2基本架构及主要概念
实例(Instance)
➢用户创建好AMI后,实际运行的系统称为一个实例
➢Dynamo采用的改进算法
虚拟节点 数据分区和等份存储
➢数据备份
当数据被均匀存储到环上各节 点后,Dynamo将冗余存储数据 (备份数据)
思考:Amazon可以保证相邻的节点分别位于不同地区区域,即 使某个数据中心由于自然灾害或断电的原因整体瘫痪,仍可以 保证在世界上其他数据中心中保存有数据的备份。这里就有一 个非常重要的问题——如何进行节点分布,保证相邻节点位于 不同的数据中心 ?
面向服务的Amazon平台架构
Dynamo ➢简单的键/值方式存储数据,不支持复杂的查询 ➢ 存储的是数据值的原始形式(bit),不解析数据的 具体内容、不识别任何数据结构,这使得它几乎可以 处理所有的数据类型
机制,涉及三个参数W、R、N
W—代表一次成功的写操作至少
需要写入的副本数
R—代表一次成功读操作需由服
务器返回给用户的最小副本数
N—每个数据存储的副本数
➢满足R+W>N,用户即可自行配 置R和W ➢优势:实现可用性与容错性之 间的平衡
容错机制
2)永久性故障处理机制
➢Merkle哈希树技术
每个虚拟节点保存三颗Merkle树,即每个键值区间建立一个 Merkle树 哈希树的叶子节点是存储每个数据分区内所有数据对应的哈希值, 父节点是其所有子节点的哈希值
➢AMI是用户云计算平台运行的基 础,用户使用EC2服务的第一步就 是要创建一个自己的AMI
➢Amazon提供的AMI有四种类型
(1)公共AMI (2)私有AMI (3)付费AMI (4)共享AMI
EC2基本架构及主要概念
EC2的基本架构
EC2基本架构及主要概念
实例(Instance)
➢用户创建好AMI后,实际运行的系统称为一个实例
➢Dynamo采用的改进算法
虚拟节点 数据分区和等份存储
➢数据备份
当数据被均匀存储到环上各节 点后,Dynamo将冗余存储数据 (备份数据)
思考:Amazon可以保证相邻的节点分别位于不同地区区域,即 使某个数据中心由于自然灾害或断电的原因整体瘫痪,仍可以 保证在世界上其他数据中心中保存有数据的备份。这里就有一 个非常重要的问题——如何进行节点分布,保证相邻节点位于 不同的数据中心 ?
《云计算(第二版)》教材配套课件11—第五章 VMware云计算

云架构服务提供平台vCloud Service Director VMwarector在设计上支持资源隔离和多租户机制。两个非常核 心的概念:一是用于对资源进行隔离的虚拟数据中心(VDC);二是用 于支持多租户机制的组织 VDC两个类别——供应商级和组织级。管理员先创建多个供应商级 VDC(如图示Gold VDC和Silver VDC等)。之后,管理员在供应商VDC 的基础上为组织创建新的组织级VDC(如图示Org 1 Gold VDC)注意, 一个组织级VDC能够和创建其供应商级VDC一样大,并且一个组织可以 拥有多个组织级VDC
虚拟机数据备份恢复工具
1. VMware Consolidated Backup (VCB)
备份代理,本身没有备份功能,需要第三方备份软件来配合
2. VMware Data Recovery
vSphere新提供的数据备份功能,与VCB共存,不替代VCB,是一种基 于磁盘的数据备份方式,不支持以磁带为目标的备份
5)VLAN
VLAN支持将虚拟网络与物理网络VLAN 集成
存储虚拟化
vSphere支持多种不同的本地存储和网络存储,包括SCSI、 SAS和SATA磁盘及基于网络的iSCSI、NFS协议的存储设备和光 纤通道(FC)数据存储 vSphere提出的高性能集群文件系统,叫做虚拟机文件系统 (Virtual Machine File System,VMFS),允许来自多个不 同主机服务器的并发访问,即允许多个物理主机同时读写同一 存储器。功能主要包括
VMotion可以在不停机、不中断业务的情况下自动维护硬件,并行 地将多个任意操作系统的虚拟机从运行不正常的服务器中迁出,实 时提供迁移向导 虚拟机迁移过程三项技术:①将虚拟机状态信息压缩存储在共享 存储器的文件中;②将虚拟机的动态内存和执行状态通过高速网络 在源ESX服务器和目标ESX服务器之间快速传输;③虚拟化网络以确 保在迁移后虚拟机的网络身份和连接能保留
虚拟机数据备份恢复工具
1. VMware Consolidated Backup (VCB)
备份代理,本身没有备份功能,需要第三方备份软件来配合
2. VMware Data Recovery
vSphere新提供的数据备份功能,与VCB共存,不替代VCB,是一种基 于磁盘的数据备份方式,不支持以磁带为目标的备份
5)VLAN
VLAN支持将虚拟网络与物理网络VLAN 集成
存储虚拟化
vSphere支持多种不同的本地存储和网络存储,包括SCSI、 SAS和SATA磁盘及基于网络的iSCSI、NFS协议的存储设备和光 纤通道(FC)数据存储 vSphere提出的高性能集群文件系统,叫做虚拟机文件系统 (Virtual Machine File System,VMFS),允许来自多个不 同主机服务器的并发访问,即允许多个物理主机同时读写同一 存储器。功能主要包括
VMotion可以在不停机、不中断业务的情况下自动维护硬件,并行 地将多个任意操作系统的虚拟机从运行不正常的服务器中迁出,实 时提供迁移向导 虚拟机迁移过程三项技术:①将虚拟机状态信息压缩存储在共享 存储器的文件中;②将虚拟机的动态内存和执行状态通过高速网络 在源ESX服务器和目标ESX服务器之间快速传输;③虚拟化网络以确 保在迁移后虚拟机的网络身份和连接能保留
亚马逊云计算AWS讲解PPT课件

问题 数据均衡分布 数据冲突处理 临时故障处理
永久故障后的恢复 成员资格以及错误检测
采取的相关技术
改进的一致性哈希算法,数据备份
向量时钟(vector clock) Hinted handoff(数据回传机制),参数
(W,R,N)可调的弱quorum机制 Merkle哈希树
基于gossip的成员资格协议和错误检测
• EC2的场景描述
EC2的主要特性
• 灵活性:可自行配置运行的实例类型、数量,还 可以选择实例运行的地理位置。可以根据用户的 需求随时改变实例的使用数量。
• 低成本:按小时计费 • 安全性:SSH、可配置的防火墙机制、监控等 • 易用性:用户可以根据亚马逊提供的模块自由构
建自己的应用程序,同时EC2还会对用户的服务请 求自动进行负载平衡 • 容错性:弹性IP
SmugMug的基本架构
处理照片
队列服务
用户 访问 SmugMug
存储照片 队列服务
EC2 存储
S3
控制器
AWS的业务流程
• 注册账户 • 资源申请 • 创建虚拟节点 • 将虚拟节点映射到物理节点 • 分割算法 • 数据处理 • 数据同步
基础存储架构Dynamo
Байду номын сангаас
• Dynamo在Amazon服务平台中的地位 • Dynamo架构的主要技术
数据均衡分布的问题
节点G
计算数据键 值的哈希值
节点F
计算节点的 哈希值
节点A
节点E 节点D
节点B 节点C
• 一致性哈希算法
• 优势:
--负载均衡
键k
虚拟 节点A
虚拟
节点B
--屏蔽节点处理 能力差异
云计算技术Amazon云计算AWS(2)(精)

READ_ACP
WRITE_ACP FULL_CONTROL
S3数字签名具体实现过程
Amazon平台基础存储架构:Dynamo 弹性计算云EC2 简单存储服务S3 简单队列服务SQS
ቤተ መጻሕፍቲ ባይዱ提 纲
简单数据库服务Simple DB
关系数据库服务RDS 内容推送服务CloudFront 其他Amazon云计算服务 AWS应用实例
消息
消息
1.消息的格式
(1)消息ID(Message ID) (2)接收句柄(Receipt Handle) (3)消息体(Body) (4)消息体MD5摘要(MD5 of Body)
2.消息取样
队列中的消息冗余存储,目 的是为了保证系统的高可用性 基于加权随机分布(Based on a Weighted Random Distribution)的消息取样
提 纲
简单数据库服务Simple DB
关系数据库服务RDS 内容推送服务CloudFront 其他Amazon云计算服务 AWS应用实例
小结
重要概念
简单数据库服务Simple DB (SDB)
主要用于存储结构化的数据, 并为这些数据提供查找、删除等 基本的数据库功能 SDB基本结构图中包含了SDB中 以下几个最重要的概念
Content-Type Content-Length
系统默认元数据
基本概念
2.键
对象的唯一标示符
3.桶
存储对象容器(最多创建 100个桶,不限桶中数量)
桶具体命名规则
建议使用规则
S3的基本结构图
基本操作
基本操作
根据Amazon提供的技术文档,目前S3支持的主要操作包括:Get、 Put、List、Delete和Head
《云盘算(第二版)》教材配套1―第一章绪论PPT课件

负载均衡
故障检测
故障恢复 监视统计
身份认证
安 全
访问授权
管 理
综合防护
安全审计
资源池
计算资源池 存储资源池 网络资源池 数据资源池 软件资源池
物理资源
计算机
存储器
网络设施
数据库
软件
封装云计算能力 成标准的Web SOA构建层 Services服务,并 纳入到SOA体系
管理中间件层
云计算的资源管理, 并对众多应用任务进
中国 2008年,IBM先后在无锡和北京建立了两个云计算中心 阿里巴巴成立了阿里云公司。还有许多公司触云:腾讯、盛大、广达、 800APP、
世纪互联… 中国移动研究院已经建立起1024个CPU的云计算试验中心;中国电信、中国联通都
有相应动作。华为、中兴都转入了云计算研发 作为云计算技术的一个分支,云安全技术通过大量客户端的参与和大量服务器端的
统计分析来识别病毒和木马,取得了巨大成功 2008年11月25日,中国电子学会专门成立了云计算专家委员会 2009年5月22日,中国电子学会隆重举办首届中国云计算大会,1200多人与会,盛
况空前。2010年5月,将举办第二届,规模将达3000人; 2009年12月,举办中国首届云计算学术会议 2010年5月,举办第二届中国云计算大会 2011年5月,举办第三届中国云计算大会 2012年5月,举办第四届中国云计算大会
微软于2008年10月推出了Windows Azure操作系统。Azure(译为“蓝天 ”)是继Windows取代DOS之后,微软的又一次颠覆性转型。
微软在2010年10月的PDC大会上,公布了Windows Azure云计算平台的 未来蓝图,跳出单纯的基础架构作服务的框架,将Windows Azure定位为平 台作服务
云计算PPT

虚拟应用
虚拟信息
虚拟存储
虚拟进程
底层结构虚拟
集成 & 开发
Cloud Collaboration
- * -
云计算对未来动态IT架构的支撑
商业流程
协作/消息
服务/资源管理 & 安全
集成 & 开发
用户界面 & 接口
虚拟应用
虚拟信息
虚拟存储
Cloud Storage
Cloud Servers/ Processing
主流速度
高速网络
2 Mbps
1 Gbps
Japan
最大下载速度
- * -
当今互联网用户的需求是什么?
接入能力 可以从任何地点、任何设备接入服务和数据 共享能力 数据的建立和存储共享 容易方便 自由 不希望受数据的影响 简单 容易学会, 容易使用 安全 相信数据不会丢失或不会被不允许的人看到
互联网用户的新需求为云计算提供了服务基础!!!
- * -
云计算的应用--iaaS
Amazon Infrastructure web services EC2 (Elastic Compute Cloud) - now with Windows (99.95% availability!) S3 (Simple Storage Service) SimpleDB SQS (Simple Queue Service) Payments and Billing On-demand workforce (Mechanical Turk) Search (Alexa) Fulfilment web service Rackspace Mosso JungleDisk SliceHost
《云计算(第二版)》—第三章 Amazon云计算AWS

存储的是数据值的原始形式(bit),不解析数据的
具体内容、不识别任何数据结构,这使得它几乎可以 处理所有的数据类型
Amazon平台基础存 储架构:Dynamo
Dynamo架构的主要技术
问题
采取的相关技术
数据均衡分布
数据冲突处理 临时故障处理 永久故障后的恢复 成员资格以及错误检测
改进的一致性哈希算法,数据备份
提 纲 Amazon平台基础存储架构:Dynamo
弹性计算云EC2 简单存储服务S3 简单队列服务SQS
简单数据库服务Simple DB
关系数据库服务RDS 内容推送服务CloudFront 其他Amazon云计算服务 AWS应用实例
小结
基本概念
S3系统构架在Dynamo之上,采取的并不是传统的关系数据库 存储方式,原因:
向量时钟(vector clock) Hinted handoff(数据回传机制),参数(W,R,N) 可调的弱quorum机制 Merkle哈希树 基于gossip的成员资格协议和错误检测
数据均衡分布的问题
一致性哈希算法
平衡性 单调性 分散性 负载 两步进行:
求出设备节点的哈希值,并 配置到环上的一个点;接着 计算数据的哈希值,按顺时 针方向将其映射到环上距其 最近的节点; 添加新节点时, 按照上述规则,调整相关数 据到新的节点上。删除节点 和添加节点过程相反
电子工业出版社《云计算(第二版)》配套课件
第3章 Amazon云计算AWS
解放军理工大学 刘鹏 教授主编 华东交通大学 刘鹏 制作
《云计算(第二版)》购买网址: 当当网 京东商城
姊妹力作《实战Hadoop》购买网址: 当当网 京东商城
提 纲 Amazon平台基础存储架构:Dynamo
具体内容、不识别任何数据结构,这使得它几乎可以 处理所有的数据类型
Amazon平台基础存 储架构:Dynamo
Dynamo架构的主要技术
问题
采取的相关技术
数据均衡分布
数据冲突处理 临时故障处理 永久故障后的恢复 成员资格以及错误检测
改进的一致性哈希算法,数据备份
提 纲 Amazon平台基础存储架构:Dynamo
弹性计算云EC2 简单存储服务S3 简单队列服务SQS
简单数据库服务Simple DB
关系数据库服务RDS 内容推送服务CloudFront 其他Amazon云计算服务 AWS应用实例
小结
基本概念
S3系统构架在Dynamo之上,采取的并不是传统的关系数据库 存储方式,原因:
向量时钟(vector clock) Hinted handoff(数据回传机制),参数(W,R,N) 可调的弱quorum机制 Merkle哈希树 基于gossip的成员资格协议和错误检测
数据均衡分布的问题
一致性哈希算法
平衡性 单调性 分散性 负载 两步进行:
求出设备节点的哈希值,并 配置到环上的一个点;接着 计算数据的哈希值,按顺时 针方向将其映射到环上距其 最近的节点; 添加新节点时, 按照上述规则,调整相关数 据到新的节点上。删除节点 和添加节点过程相反
电子工业出版社《云计算(第二版)》配套课件
第3章 Amazon云计算AWS
解放军理工大学 刘鹏 教授主编 华东交通大学 刘鹏 制作
《云计算(第二版)》购买网址: 当当网 京东商城
姊妹力作《实战Hadoop》购买网址: 当当网 京东商城
提 纲 Amazon平台基础存储架构:Dynamo
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
5.监控服务(CloudWatch)
测功能
4.弹性负载平衡(Elastic Load Balancing)
允许EC2实例自动分发应用流量, 从而保证工作负载不会超过现有 能力,并且在一定程度上支持容 错
包括EC2实例状态、资源利用率、 需求状况、CPU利用率、磁盘读取、 写入和网络流量等指标
EC2的关键技术
(1)公共AMI
(2)私有AMI (3)付费AMI (4)共享AMI
EC2的基本架构
EC2基本架构及主要概念
实例(Instance)
用户创建好AMI后,实际运行的系统称为一个实例
资 源 Small 32位 1ECU 1.7GB 160GB m1.small Large 64位 4ECU 7.5GB 850GB rge Extra Large 64位 8ECU 15GB 1690GB m1.xlarge High-CPU Medium 32位 5ECU 1.7GB 350GB c1.medium High-CPU Extra Large 64位 20ECU 7GB 1690GB c1.xlarge
向量时钟(vector clock) Hinted handoff(数据回传机制),参数(W,R,N) 可调的弱quorum机制 Merkle哈希树 基于gossip的成员资格协议和错误检测
数据均衡分布的问题
一致性哈希算法
平衡性 单调性 分散性 负载 两步进行:
求出设备节点的哈希值,并 配置到环上的一个点;接着 计算数据的哈希值,按顺时 针方向将其映射到环上距其 最近的节点; 添加新节点时, 按照上述规则,调整相关数 据到新的节点上。删除节点 和添加节点过程相反
使文件操作尽量简单、高效; 使用关系数据库只会增加系统的复杂性
1.对象
数据(任意类型) 和元数据(描述数据 的数据 ) 元数据是通过一对 键-值(Name-Value) 集合来定义
元数据名称 last-modified ETag Content-Type
名称含义 对象被最后修改的时间 利用MD5哈希算法得出的对象值 对象的MIME(多功能网际邮件扩充协 议)类型,默认为二进制/八位组 对象数据长度,以字节为单位
电子工业出版社《云计算(第二版)》配套课件
第3章 Amazon云计算AWS
解放军理工大学 刘鹏 教授主编 华东交通大学 刘鹏 制作
《云计算(第二版)》购买网址: 当当网 京东商城
姊妹力作《实战Hadoop》购买网址: 当当网 京东商城
提 纲 Amazon平台基础存储架构:Dynamo
弹性计算云EC2 简单存储服务S3 简单队列服务SQS
EC2安全及容错机制
EC2特点之一:允许用户随时更新实例状态,用户可以随时 加入或删除实例,实例状态的动态变化方便了用户,但是却 给防火墙的配置带来了麻烦 EC2引入了安全组(Security Group)概念
安全组其实就是一组规则,用户利用这些规则来决定哪些网络流 量会被实例接受,其他则全部拒绝 一个用户目前最多可以创建100个安全组。当用户的实例被创建 时,如果没有指定安全组,则系统自动将该实例分配给一个默认组 (Default Group)
可用区域(Availability Zone)
EC2的关键技术
3.EC2的通信机制
EC2服务中,系统各模块之间及 系统和外界之间的信息交互是通 过IP地址进行
公共IP地址(Public IP Address) Amazon CloudWatch是一个Web 私有IP地址(Private IP Address) 弹性IP地址(Elastic IP Address) 服务,提供了AWS资源的可视化检
主 要 特 性
安全性:EC2向用户提供了一整套安全措施,包括基于密钥 对机制的SSH方式访问、可配置的防火墙机制等,同时允许 用户对它的应用程序进行监控
易用性:用户可以根据Amazon提供的模块自由构建自己的 应用程序,同时EC2还会对用户服务请求自动进行负载平衡 容错性:利用系统提供的诸如弹性IP地址之类的机制,在 故障发生时EC2能最大程度地保证用户服务仍能维持在稳定 的水平
7.服务管理控制台(AWS Management Console)
服务管理控制台是一种基于Web 的控制环境,可用于启动、管理 EC2实例和提供各种管理工具和 API接口
6.自动缩放(AutoScaling)
自动缩放可以按照用户自定义 的条件,自动调整EC2的计算能力
关 键 技 术 配 合 工 作 图
用户使用密钥对登录服务
EC2安全及容错机制
弹性IP地址
弹性IP地址和用户账号绑定而不是和某个特定的实例绑定,这 给系统的容错带来极大的方便,每个账号默认绑定5个弹性IP地 址。 当系统正在使用的实例出现故障时,用户只需要将弹性IP地址 通过网络地址转换技术转换为新实例所对应的私有IP地址,这样 就将弹性IP地址与新的实例关联起来,访问服务时不会感觉到任 何差异
平台 CPU 内存 存储容量 实例类型 名
实例类型和其相关配置
EC2的关键技术
1.弹性块存储(EBS)
长期保存或比较重要的数据, 需要用弹性块存储(Elastic Block Store,EBS),Amazon限 制每个EBS最多创建20个卷 快照(Snapshot)
2.区域
地理区域(Region Zone)
哈希树的叶子节点是存储每个数据分区内所有数据对应的哈希值, 父节点是其所有子节点的哈希值
成员资格及错误检测 基于Gossip协议的成员资格检测机制
Gossip(闲聊)协议
错误检测机制
基于Gossip协议的成员资格检测机制
基于Gossip协议的最优传遍路径
提 纲 Amazon平台基础存储架构:Dynamo
(1)一个进程写入一个新的对象并立即尝试读取它,但在该改变被传送到 S3的多个服务器前,服务器对该操作可能返回“键不存在” 为什么出现这些现象 ? (2)一个进程写入一个新的对象并立即尝试列出桶中已有的对象,但在该 改变被传送到S3的多个服务器前,该对象很可能不会出现在列表中 (3)一个进程用新数据替换现有的对象并立即尝试读取它,但在该改变被 传送到S3的多个服务器前,S3可能会返回以前的数据 (4)一个进程删除现有的对象并立即尝试读取它,但在该改变被传送到S3 的多个服务器前,S3可能会返回被删除的数据 (5)一个进程删除现有的对象并立即尝试列出桶中的所有对象,但在该改 变被传送到S3的多个服务器前,S3可能会列出被删除的对象
Content-Length
系统默认元数据
基本概念
2.键
对象的唯一标示符
3.桶
存储对象容器(最多创建 100个桶,不限桶中数量)
桶具体命名规则
建议使用规则
S3的基本结构图
基本操作
基本操作
根据Amazon提供的技术文档,目前S3支持的主要操作包括:Get、 Put、List、Delete和Head
简单数据库服务Simple DB
关系数据库服务RDS 内容推送服务CloudFront 其他Amazon云计算服务 AWS应用实例
小结
Amazon提供的云计算服务
弹性计算云EC2 简单存储服务S3 简单数据库服务Simple DB 简单队列服务SQS 弹性MapReduce服务 内容推送服务CloudFront 电子商务服务DevPay 灵活支付服务FPS
EC2基本架构及主要概念
Amazon机器映像(AMI)
AMI(Amazon Machine Image) 是一个可以将用户的应用程序、 配置等一起打包的加密机器映像 AMI是用户云计算平台运行的基 础,用户使用EC2服务的第一步就 是要创建一个自己的AMI Amazon提供的AMI有四种类型
出现这些现象是因为S3为 了保证用户数据的一致性 而采取的一种折中手段, 即在数据被充分传播到所 有的存放节点之前返回给 用户的仍是原数据
S3安全措施
1.身份认证
基于HMACSHA1的数字签 名方式来2.访问控制列表
S3提供的可供用户自行定义的访问控制策略列表 S3中有三大类型的授权用户
数据冲突问题
Dynamo系统选择牺牲一致性
来换取系统的可靠性和可用性 解决数据冲突:
最终一致性模型(Eventual Consistency) 向量时钟
向量时钟原理图
容错机制 1)临时故障处理机制
在数据读写中采用了一种称为 弱quorum(Sloppy quorum)的 机制,涉及三个参数W、R、N
Dynamo采用的改进算法
虚拟节点 数据分区和等份存储
数据备份
当数据被均匀存储到环上各节 点后,Dynamo将冗余存储数据 (备份数据)
思考:Amazon可以保证相邻的节点分别位于不同地区区域,即 使某个数据中心由于自然灾害或断电的原因整体瘫痪,仍可以 保证在世界上其他数据中心中保存有数据的备份。这里就有一 个非常重要的问题——如何进行节点分布,保证相邻节点位于 不同的数据中心 ?
W—代表一次成功的写操作至少 需要写入的副本数
R—代表一次成功读操作需由服
务器返回给用户的最小副本数
N—每个数据存储的副本数
Dynamo临时故障处理机制
满足R+W>N,用户即可自行配 置R和W 优势:实现可用性与容错性之 间的平衡
容错机制
2)永久性故障处理机制 Merkle哈希树技术
每个虚拟节点保存三颗Merkle树,即每个键值区间建立一个 Merkle树
Dynamo在Amazon服务平台的地位
Amazon平台的架构是完 全的分布式、去中心化 需求——Amazon平台中 有很多服务对存储的需求 Amazon怎么处理这个需求? 只是读取、写入,(满足 简单的键/值式存储)
面向服务的Amazon平台架构