分布式文件系统研究-GFS
GFS和NFS比较分析
GFS和NFS比较分析首先从它们的功能上进行分析。
NFS即网络文件系统，是由SUN公司开发的。
它是FreeBSD 支持的文件系统中的一种，允许一个系统在网络上与它人共享目录和文件。
通过使用NFS，用户和程序访问远端系统上的文件就像访问本地文件一样。
而GFS是Google为了满足本公司迅速增长的数据处理要求而开发的文件系统。
GFS 是一个可扩展的分布式文件系统，用于大型的、分布式的、对大量数据进行访问的应用。
它是针对Google的计算机集群进行设计的，专门是为Google页面搜索的存储进行了优化。
所以从功能上看，它们两者是完全不同的概念。
其次从结构上比较，NFS至少包括两个主要部分：一台服务器，以及至少一台客户机。
被共享的目录和文件存放在服务器上，客户机远程地访问保存在服务器上的数据。
GFS则由一台Master(通常有几台备份)和若干台TrunkServer构成。
GFS中文件备份成固定大小的Trunk分别存储在不同的TrunkServer上，每个Trunk有多份(比如3)拷贝，也存储在不同的TrunkServer上。
Master负责维护GFS中的Metadata，即文件名及其Trunk信息。
客户端先从Master上得到文件的Metadata，根据要读取的数据在文件中的位置与相应的TrunkServer通信，获取文件数据。
再从跨平台性上，NFS的基本原则是“容许不同的客户端及服务端通过一组RPCs分享相同的文件系统”，它是独立于操作系统的，容许不同的操作系统共同地进行文件的共享。
而GFS则没有这一特点，文件只能被集群系统中的PC所访问，而且这些PC的操作系统一般是Linux。
最后从规模上比较，目前Google拥有超过200个的GFS集群，其中有些集群的PC 数量超过5000台。
集群的数据存储规模可以达到5个PB，并且集群中的数据读写吞吐量可达到每秒40G。
而NFS一般没有这么巨大的规模。
gfs名词解释
gfs名词解释
GFS指Google文件系统（Google File System），是由Google
开发的一个分布式文件系统，旨在为大规模数据密集型应用程序提供高性能、可扩展和可靠的存储解决方案。
以下是GFS的几个重要概念： 1. Master节点：GFS中的Master节点是整个系统的控制中心，负责对元数据进行管理和协调数据访问请求。
2. Chunk节点：GFS中的Chunk节点是存储实际数据的地方，它们保存多个数据块的备份副本。
3. Chunk大小：GFS将文件划分成固定大小的数据块（通常为64MB），以便更好地适应大型数据集和高并发访问需求。
4. 快照：GFS支持快照功能，可以以只读方式获取历史版本的文件或目录状态。
5. 冗余备份：GFS将每个数据块复制到多个Chunk节点上，以确保数据的可靠性和可用性。
6. 数据流传输：GFS采用数据流传输技术，通过优化数据传输来提高性能和效率。
总之，GFS是一种高性能、可扩展和可靠的分布式文件系统，具有很强的容错能力和快速访问数据的能力，广泛应用于云计算、科学研究和大规模数据处理等领域。
fet的gfs参数
fet的gfs参数FET的GFS参数GFS（Google File System）是Google开发的分布式文件系统，它的设计目标是在大规模数据存储和处理环境中实现高可靠性、高性能和可扩展性。
FET（Fusion Exascale Supercomputer）是中国研发的一种超级计算机系统，具备强大的计算和存储能力。
本文将探讨FET的GFS参数，以及它们对系统性能的影响。
一、块大小（Block Size）GFS的块大小是指在文件系统中最小的可访问数据单元。
较大的块大小可以提高系统的吞吐量，但会降低系统的灵活性和存储效率。
FET的GFS参数中，块大小需要根据具体的应用场景和数据类型进行选择。
二、副本数量（Replication Factor）GFS使用数据的冗余副本来提高系统的可靠性。
副本数量的选择需要权衡可靠性和存储开销之间的关系。
较高的副本数量可以提高系统的容错能力，但会增加存储开销。
FET的GFS参数中，副本数量需要根据数据的重要性和存储资源的可用性进行合理的设置。
三、数据切分（Data Sharding）GFS将文件切分成多个数据块，并分布在不同的存储节点上。
数据切分的方式可以影响系统的负载均衡和数据访问的效率。
FET的GFS参数中，数据切分需要考虑文件的大小和访问模式，以及存储节点的性能和网络带宽，以实现最佳的数据分布和访问性能。
四、写入策略（Write Strategy）GFS采用了延迟写入的策略，即数据首先被写入本地磁盘的日志文件（Write Ahead Log），然后再异步地写入数据块。
这种写入策略可以提高系统的写入性能和可靠性，但会增加数据的访问延迟。
FET 的GFS参数中，写入策略需要根据应用的数据一致性要求和性能需求进行调整。
五、数据恢复（Data Recovery）GFS通过定期检查数据块的一致性和完整性，以及修复损坏的数据块来保证系统的可靠性。
数据恢复的效率和准确性对系统的可靠性和性能有着重要的影响。
谷歌gfs论文中文版
摘要我们设计并实现了Google文件系统，一个面向分布式数据密集型应用的、可伸缩的分布式文件系统。
虽然运行在廉价的日用硬件设备上，但是它依然了提供容错功能，为大量客户机提供了很高的总体性能。
虽然与很多之前的分布式文件系统有很多相同目标，但是，我们的设计已经受应用的负载情况和技术环境影响，现在以及可预见的将来都反映出，我们的设计和早期的分布式文件系统的设想有了显著的分离。
这让我们重新审视了传统文件系统在设计上的选择，探索彻底不同的设计点。
GFS成功满足了我们的存储需求。
其作为存储平台被广泛的部署在Google内部，该平台用来产生和处理数据，这些数据被我们的服务以及需要大规模数据集的研究和开发工作使用。
迄今为止，最大的一个集群利用一千多台机器上的数千个硬盘，提供数百TB的存储空间，同时被数百个客户机访问。
在本论文中，我们展示了设计用来支持分布式应用的文件系统接口的扩展，讨论我们设计的许多方面，最后对小规模基准测试和真实使用作了测量报告。
常用术语设计，可靠性，性能，测量关键词容错，可伸缩性，数据存储，集群存储1. 简介为了满足Google迅速增长的数据处理需求，我们设计并实现了Google文件系统(Google File System–GFS)。
GFS与之前的分布式文件系统有着很多相同的目标，比如，性能、扩展性、可靠性以及可用性。
但是，我们的设计还受对我们的应用的负载和技术环境的观察的影响，现在以及可预见的将来都反映出，我们的设计和早期的分布式文件系统的设想有了显著的分离。
这让我们重新审视了传统文件系统在设计上的选择，在设计上探索了彻底不同的设计点。
首先，组件失效被认为是常态事件，而不是意外事件。
文件系统由几百乃至数千台由廉价的日常部件组装成的存储机器组成，同时被相当数量的客户机访问。
部件的数量和质量事实保证了任意给定时间，一些部件无法工作，一些部件无法从它们目前的失效状态中恢复。
我们遇到过如下原因导致的问题，比如应用程序bug、操作系统的bug、人为失误，甚至还有硬盘、内存、连接器、网络以及电源失效。
Google文件系统GFS精讲
GFS设计原则
➢ 组件失效被认为是常态事件，而不是意外事件。 ➢ 能应付对大型/超大型文件处理。 ➢ 绝大部分文件的修改是采用在文件尾部追加数
据，而不是覆盖原有数据的方式。 ➢ 应用程序和文件系统API的协同设计提高了整
➢ 在控制流从客户机到主Chunk、然后再到所有二 级副本的同时，数据以管道的方式，顺序的沿 着一个精心选择的Chunk 服务器链推送。
➢ 目标是充分利用每台机器的带宽，避免网络瓶 颈和高延时的连接，最小化推送所有数据的延 时。
数据流
➢ 为了充分利用每台机器的带宽，数据沿着一个 Chunk 服务器链顺序的推送。
记录追加失败
如果记录追加操作在任何一个副本上失败了，客户端就需要 重新进行操作。重新进行记录追加的结果是，同一个Chunk 的不同副本可能包含不同的数据，或者重复包含一个记录全 部或者部分的数据。
一致性保障
如果操作成功执行，数据一定已经写入到Chunk 的所有副本的相同偏移位置上。这之后，所有的 副本至少都到了记录尾部的长度，任何后续的记 录都会追加到更大的偏移地址，或者是不同的 Chunk上，即使其它的Chunk 副本被Master 节点 选为了主Chunk。就一致性保障模型而言，记
Google文件系 统GFS
Google设计GFS的动机
➢ 为了满足Google迅速增长的数据处理需求， 需要一个支持海量存储的文件系统
• 购置昂贵的分布式文件系统与硬件？
Google设计GFS的动机
➢ 为什么不使用当时现存的文件系统？
• Google所面临的问题与众不同
不同的工作负载，不同的设计优先级（廉价、不可靠的硬 件）
分布式存储解决方案
分布式存储解决方案下面将系统地介绍几种常见的分布式存储解决方案。
1. 分布式文件系统（Distributed File System, DFS）：分布式文件系统将文件分割为多个块，并将这些块存储在不同的节点上，实现文件的高可靠性、高可扩展性和高性能。
其中比较著名的有Hadoop分布式文件系统（Hadoop Distributed File System, HDFS）和谷歌分布式文件系统（Google File System, GFS）。
HDFS将文件分割为固定大小的数据块，并将这些数据块复制到多个节点上。
通过对数据块的复制，实现了数据的冗余和高可靠性。
同时，HDFS还采用了主从架构和数据局部性原理，使得数据的读写操作能够高效地在节点之间实现负载均衡和数据局部性。
GFS采用了类似的设计思想，将文件分割为大量的数据块，并将这些数据块按照一定的规则分布到多个节点上。
通过为每个文件存储多个副本和采用主从架构，实现了数据的冗余和高可靠性。
同时，GFS还使用了日志结构文件系统和数据局部性原理，使得数据的读写操作能够高效地在节点之间实现负载均衡和数据局部性。
2. 分布式对象存储（Distributed Object Storage, DOS）：分布式对象存储将数据存储为对象，并将这些对象通过哈希算法分布到多个节点上，实现对象的高可靠性、高可扩展性和高性能。
其中比较著名的有亚马逊云存储服务（Amazon S3）和谷歌云存储服务（Google Cloud Storage）。
这些分布式对象存储系统采用了分布式哈希表的设计思想，将对象根据其哈希值分布到多个节点上。
通过为每个对象存储多个副本和采用主从架构，实现了对象的冗余和高可靠性。
同时，这些系统还使用了一致性哈希算法和数据局部性原理，使得对象的读写操作能够高效地在节点之间实现负载均衡和数据局部性。
3. 分布式块存储（Distributed Block Storage, DBS）：分布式块存储将数据划分为固定大小的块，并将这些块存储在多个节点的硬件设备上，实现块的高可靠性、高可扩展性和高性能。
gfs分布式文件系统
gfs分布式⽂件系统1、介绍gfs是构建在廉价服务器之上的⼤型分布式⽂件系统。
设计原则：gfs组件失效是常态事件，⽽不是意外事件。
gfs构建在普通商业PC之上，这些PC的稳定性并没有很⾼的保障，任何时间都可能发⽣组件⽆法⼯作。
gfs⽂件系统中存储的⽂件⼤部分是数GB的⼤⽂件。
绝⼤部分⽂件的修改是在⽂件末尾追加数据，⽽不是覆盖原有数据的⽅式。
⽂件随机写⼊在实际中⼏乎不存在。
⼀旦写完之后，对⽂件的操作就只有读，⽽且通常是顺序读。
2、整体架构gfs⽂件系统的整体架构如图所⽰：gfs⽂件系统gfs⽂件系统⼀共包含四个部分：gfs主控服务器（master）chunk servergfs客户端(2.1)主控服务器（master）gfs的主控服务器是⼀个主从结构。
有点是整个存储系统存在⼀个全局的主控节点，管理相对简单。
缺点是很多的服务请求都需要经过主控服务器，所以很容易成为整个系统的瓶颈。
master的作⽤包括以下⼏个⽅⾯：i、维护系统中的元数据：命名空间（⽂件及chunk命名空间）、⽂件到chunk的映射关系、chunk的存储位置信息。
其中前两种需要持久化存储到磁盘，第三种可以通过chunkserver汇报获取（master服务器只需要不到64个字节的元数据就能够管理⼀个64M的chunk）ii、负载均衡：包括chunk的创建、复制以及负载均衡其中chunk的创建会根据以下因素来选择chunk副本的存放位置：1）新副本所在的chunkserver的磁盘利⽤率低于平均⽔平；2）限制每个chunkserver最近创建的数量。
因为创建chunk往往意味着后续有⼤量的写⼊操作。
3）为了提⾼系统的可⽤性，gfs会尽量将同⼀个chunk的不通副本放在不同的机架上iii、垃圾回收：gfd采⽤延时回收策略。
当要删除⽂件时，gfs只是在元数据中将⽂件改为⼀个隐藏的名字，并且包含⼀个删除时间。
master定期检查，如果发现⽂件删除超过⼀定时间，就会从内存中将元数据删除。
谷歌分布式文件系统GFS
谷歌文件系统GFS分布式文件系统是分布式存储系统的一种，根据处理数据的类型，分布式存储系统主要分为四类，分布式文件系统、分布式键值系统、分布式表格系统、分布式数据库。
分布式文件系统存储三种类型的数据：Blob（Binary Large Object 二进制大对象数据）对象，也就是图片，照片，视频等非结构化数据对象，以及定长块，大文件。
在系统实现层面，分布式文件系统内部按照数据块（chunk）来组织数据。
每个数据块大小大致相同，每个数据块可以包含多个Blob对象或者定长块，一个大文件也可以拆分为多个数据块。
分布式文件系统将这些数据块分散到存储集群，处理数据复制、一致性、负载均衡、容错等分布式系统难题，并将用户对Blob对象、定长块以及大文件的操作映射为对底层数据块的操作。
另外，分布式文件系统也常作分布式表格系统以及分布式数据库的底层存储。
Google文件系统（GFS）是构建在廉价服务器之上的大型分布式系统。
他将服务器故障视为正常现象，通过软件的方式自动容错，在保证系统可靠性和可用性的同时，大大降低系统的成本。
GFS是Google分布式存储的基石，其他存储系统，如Google Bigtable 、Google Megastore、Google Percolator均直接或者间接地构建在GFS之上。
另外，Google大规模批处理系统MapReduce也需要利用GFS作为海量数据的输入输出。
GFS与过去的分布式文件系统有很多相同的目标，但GFS的设计受到了当前及预期的应用方面的工作量及技术环境的驱动，这反映了它与早期的文件系统明显不同的设想。
这就需要对传统的选择进行重新检验并进行完全不同的设计观点的探索。
GFS与以往的文件系统的不同如下：1.部件错误不再被当作异常，而是将其作为常见的情况加以处理。
因为文件系统由成百上千个用于存储的机器构成，而这些机器是由廉价的普通部件组成并被大量的客户机访问。
部件的数量和质量使得一些机器随时都有可能无法工作并且有一部分还可能无法恢复。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
分布式文件系统研究16：Global File System
分类：技术日志
前段时间比较忙，好久没发技术文章了，几天来一个，嘿嘿
Global File System
简介
GFS（Global File System）是Minnesota大学开发的基于SAN的共享存储的机群文件系统，后来Sis tina公司将GFS产品化。
GFS在很长一段时间都是以源代码开放软件的形式出现的，后来由于Sistina希望通过向用户提供支持和服务的计划未能取得成功，为了要促进自己的财务收入，Sistina在2001年将GFS 变成了一种“专有软件”。
Red Hat公司收购Sistina之后，在遵循GPL协议（General Public License）的条件下履行诺言公开了GFS的源代码。
现在，GFS的全名被称为“红帽全球文件系统”（Red Hat Global File System ，GFS）的软件，每台服务器每年收取2200美元的费用。
可能是redhat为了更好的收取服务费的缘故，有关GFS的文档真是少之又少，我只能从网上一些零星的资料来看看GFS的概貌。
框架
GFS最初是在IRIX上开发的，后来移植到LINUX上，并开放源码。
基本框架如下图所示。
图1 GFS的基本框架图
通过使用GFS，多台服务器可以共用一个文件系统来存储文件。
信息既可以存储在服务器上，也可以存储在一个存储局域网络上。
GFS与GPFS结构相似，但它是全对称的机群文件系统，没有服务器，因而没有性能瓶颈和单一故障点。
GFS将文件数据缓存于节点的存储设备中，而不是缓存在节点的内存中。
并通过设备锁来同步不同节点对文件的访问，保持UNIX文件共享语义。
GFS实现了日志，节点失效可以快速恢复。
GFS使用SCSI
设备锁来进行同步，目前很少设备实现这种设备锁。
在没有设备锁的情况下，GFS也是通过唯一的锁服务器来进行同步，因此，锁服务器是其性能的瓶颈。
用户通过GFS可以加快数据访问速度，并进行信息复制。
一旦一台服务器出现问题，用户仍可以通过网络内其他的计算机访问有关的数据。
GFS对于以以下两种方式连接而成的计算机集群尤其有用：1、计算机集群中任何一台机器都可以在另一台机器发生故障时接管这台计算机的工作，2、计算机集群中的所有机器联合起来组成一台超级计算机。
GFS允许多个Linux机器通过网络共享存储设备。
每一台机器都可以将网络共享磁盘看作是本地磁盘，而且GFS自己也以本地文件系统的形式出现。
如果某台机器对某个文件执行了些操作，则后来访问此文件的机器就会读到写以后的结果。
图2 GFS通过NFS和HTTP的扩展
如上图所示，GFS设计时就考虑到了可以通过NFS或者HTTP协议进行扩展。
但是数据控制和数据传输的开销显然要小于NFS。
图3 NFS的控制和数据传输路径
上图是NFS的控制和数据传输路径。
控制路径从用户应用通过VFS传递到NFS客户端。
NFS通过T CP/IP协议执行远程调用。
NFS服务器端响应调用请求，通过VFS访问本地文件系统，然后由本地文件系统来访问本地的存储设备。
数据传输路径包括：用户内存和NFS客户端缓存之间的内存拷贝，NFS客户端与网络缓存之间的拷贝，缓存网络缓存和NFS服务器端缓存之间的拷贝。
这些拷贝通过系统总线和网络连接进行。
图4 GFS的数据传输路径
GFS的控制和数据传输路径由上图所示。
控制路径从用户应用通过VFS到达GFS。
GFS向网络存储池（network storage pool，NSP）中的存储设备发出请求。
块对齐数据（Block aligned data）在用户内存和存储设备间传输，非对齐数据则临时的通过系统内存传递。
GFS中有一个很重要的概念，叫网络存储池（The network storage pool，NSP)。
NSP为每台机器提供了一个统一的存储地址空间。
GFS通过NSP实现了存储设备的网络共享。
这些存储设备可以是共享SCS I(Shared SCSI)和共享通道(Fibre Channel - FC)。
NSP包装这些存储设备使得它们好像节点本地的文件系统。
NSP还可以根据存储设备的类型分为多个子存储池（subpools）。
NSP同时也对锁进行管理。
GFS发送“锁”和“解锁”命令给NSP，NSP收到后把逻辑锁号转成对应的物理设备的锁号进行锁定。
GFS把文件系统组织成数个资源组（resource groups，RG）。
通过RG，GFS把文件系统的资源分布在整个NSP上。
一个存储设备上可以存在多个RG。
RG实际上是各微型的文件系统(minifile system)。
图5 文件到存储池和资源组的映射
上图演示了从文件到RG，以及从RG到NSP子池的映射。
文件可能被存放在数个RG和多重存储池中。
优点：
GFS的主要优点在于：
●高可用性：如果一个GFS客户失效，数据还可以通过其他GFS客户访问；
●扩展性：因为不需要中心服务器，所有很容易扩展存储容量和访问带宽；
缺点：
●和现在流行的SAN型文件系统相比，设计思想似乎有点落后了；
●费用较高；。