分布式存储系统文件级连续数据保护技术研究
分布式存储系统文件级连续数据保护技术研究 董志强（中国海洋石油总公司，北京１０００１０） 【摘 要】信息技术的不断发展使得产生的数据规模也不断的增大，对其安全性得到有效保护就显得比较重要，而这就需要在存储系统方面要 能有良好可扩展性和通过有效措施来对用户的数据可靠性充分保障。基于此，本文则主要就分布式存储系统文件级连续数据保护技术进行研 究，对连续数据保护技术发展面临的挑战以及分布式存储系统应用连续数据保护优势等进行详细化研究。 【关键词】分布式存储；连续数据保护；优势 【中图分类号】ＴＰ３３３ 【文献标识码】Ａ 【文章编号】１００６—４２２２（２０１５）０９—０２１５—０１ 引言 典型的连续数据保护系统要能够有高效存储系统进行支 撑，连续数据保护是数据保护的高级形式。并在存储行业成为 关注焦点。由于传统数据保护方案注意力都集中在数据周期 性的备份方面，但连续数据保护则能够进行捕获和对数据的 变化进行保护．从而将数据恢复到单个时间点。 １连续数据保护技术及面临的挑战分析 １．１连续数据保护技术分析 连续数据保护是在对主要数据运行不造成影响基础上． 并能够实现持续捕捉及跟踪目标数据发生任何变化恢复任意 时间点的技术方法。其自身也具有着较为鲜明的特征，主要体 现在能够对数据恢复时间点目标大幅提高．连续数据保护能 实现任意时间点的数据访问，并且在恢复数据的灵活性方面 也相对比较灵活．当前部分产品解决方案已经允许最终用户 直接对数据实施恢复的操作．这样就对使用者提供了很大的 方便。在连续数据保护技术的这些方面的优势也使得其在实 际中的应用比较广泛『ｌ】ｎ １．２连续数据保护技术面临的挑战分析 传统的数据备份技术不能对由于人为错误操作以及计算 机病毒等影响造成的数据丢失起到防范作用。虽然连续数据 保护技术能够对各种粒度的数据重建有着一定作用效果．但 却不能对错误产生到发现中间的数据变化起到保护的作用． 并不能够阻止一个计算机病毒感染一个文件．虽能够恢复病 毒感染前的时间点，但在所有的数据变化都会由此而消失。连 续数据保护技术其实是和快照技术实现的细节有着诸多的相 似之处。 ２连续数据保护技术类型及优势 ２．１连续数据保护技术类型分析 数据块级连续数据保护技术能够在物理存储设备上进行 运行，同时也能在数据块传输层进行运行．数据块级连续数据 保护技术又能够在传输层以及主机层和存储层进行实现 而 在文件级连续数据保护技术方面主要是在文件系统上．能够 跟踪文件系统中文件数据和元数据改变．以及及时的对动态 信息备份记录发生改变时间从而方便于实现文件历史的任意 时间点恢复［２１ 还有就是应用级续数据保护技术．在实现应用级连续数 据保护技术的时候．要能在受保护应用程序当中插入及运行 连续数据保护功能程序代码，而连续数据保护程序代码能够 通过程序开发商直接在软件产品当中嵌入。应用程序当中所 实现的连续数据保护的最大优势就是和应用程序进行的无缝 整合，并以此确保应用程序实施连续保护中的一致性．而在实 际的管理上也较为灵活。通过以上的连续数据保护技术．能够 以多样的应用进行支持 ２．２分布式存储系统文件级连续数据保护技术优势 对于分布式存储系统文件级连续数据保护技术．分布式 文件系统调度下元数据操作和数据操作是分离进行的．在数 据的传输和数据操作方面能最大化的实现并行执行来对性能 进行提高，从而对时间的开销有了减少。连续数据保护性能开 销方面在数据恢复的时候能利用并行操作将数据恢复操作分 不到各相关存储服务器节点．而对于连续数据保护备份的数 据量层面，由于分布式体系结构自身的良好可扩展性．在分布 式文件系统合理策略下容量扩充能透明化的体现［３１ 再者就是连续数据保护通用性及易用性．能够将连续数 据保护当中备份数据元数据管理和分布式文件系统元数据管 理两者得到有机结合，从而把备份数据作为是分布式文件系 统分条数据对象。如此便能够轻易的实现文件历史版本的查 看．而对指定历史点的请求在返回指向和时间条件得到有机 结合。 ２－３对连续数据保护元数据管理的优化 针对连续数据保护元数据管理策略的优化要从多层面进 行实施。由于传统文件系统元数据是采取的一维分布．所记载 的文件以及目录数据的最新动态在元数据组织方式上会存在 相应的问题，倘若是需要连续数据保护。那么就只有额外新建 文件进行保存数据保护的相关数据信息 根据元数据符合的 不同数据更改类型要能采取特定数据备份的策略．进而在性 能和空间占用的效率上获取平衡。对数据的恢复是重要的内 容．主要就是要在提交数据恢复请求基础上实现文件系统数 据的恢复．而在恢复请求方面要采取指定时间标信息．进行提 示需要文件系统恢复的时间点 ３结语 总而言之．针对分布式存储系统文件级连续数据保护技 术的简要分析，能对实际的操作起到一定促进作用。当前所采 取的单一元数据服务器模式在对海量数据实施存储过程中。 就要能扩展到数据服务器的集群上。今后的发展过程中，“机 遇重复数据”的删除思想．以及差异数据备份方法。对数据的 被分量降低方面的研究还会进一步深化 由于本文的篇幅限制 不能进一步作出探究，希望此次努力能起到抛砖引玉的作用。 参考文献 ［１］李红艳．块级连续数据保护系统元数据管理方法ｆＪ］．计算机应用， ２ｏ１４（０８）． ［２］刘正伟，张华忠，文中领，王旭．海量数据持续数据保护技术研究及 实现ＩＪ】．计算机研究与发展，２ｏ１４（Ｓ１）． ［３］李琥，谭毓安，李元章．一种连续数据保护系统的快照方法【ＪＪ．软件 学报，２ｏ１４（１Ｏ）． １４］王超，李战怀，胡娜，侯利曼．一种低恢复时间低存储空间的块级 连续数据保护机制【Ｊ］．西北工业大学学报，２ｏ１３（０３）． 收稿日期：２０１５—４—１５
霾每 簪
联想分布式存储系统解决方案
联想分布式存储系统解决方案
目录
一、内容综述................................................2
1.1 背景与挑战...........................................3
1.2 目的与意义...........................................3
二、联想分布式存储系统概述..................................4
2.1 系统定义.............................................5
2.2 架构特点.............................................6
三、联想分布式存储系统架构..................................7
3.1 存储节点.............................................9
3.2 网络架构............................................10
3.3 数据分布与冗余......................................11
四、联想分布式存储系统功能.................................12
4.1 数据冗余与备份......................................13
4.2 数据安全与隐私保护..................................14 4.3 数据访问与共享......................................15
4.4 自动化与智能化管理..................................16
分布式存储设备技术参数
分布式存储设备技术参数
1、货物需求明细
序号 采购计划编号 货物名称 数量 单位 备注 预算金额（元）
1
全闪存分布式存储资源池-存储节点 5 套
2 全闪存分布式存储资源池-文件存储系统 5 套
3 大容量分布式存储资源池-存储节点 7 套
4 大容量分布式存储资源池-文件存储系统 7 套
2、技术要求
序号 货物名称 技术要求
1 全闪存分布式存储资源池-存储节点 1.1、CPU：配置≥2颗国产处理器，每颗处理器≥48核，≥2.6GHz；
1.2、内存：≥256G内存；
1.3、系统盘：≥2块480GB SSD硬盘；
1.4、数据盘：≥20块30.72TB NVMe SSD硬盘；
1.5、网口：≥2*25GE 光口（含多模光模块）+≥2*200G IB（含光模块）+≥1*1Gb；
1.6、单存储节点2U设备数据盘槽位数≥25； 2 全闪存分布式存储资源池-文件存储系统 2.1、全对称分布式架构，无独立元数据节点，性能、容量随节点数增加而线性增加，新增性能不低于单节点性能基线80%*新增节点个数，扩容过程中对业务无影响；
2.2、具备横向扩展能力，单集群规模最大可扩展至≥4096节点，单个集群支持配置独立的文件系统，每个文件系统支持1000亿以上文件；
2.3、依据(GB/T 9813.3-2017)标准，存储节点支持ROCE网络，支持EC数据保护模式，且支持+2/+3/+4 灵活EC配比。支持22+2的大比例EC；
2.4、依据(GB/T 9813.3-2017)标准，支持数据高冗余模式，最多可容忍任意4个节点同时失效而不丢失数据。支持动态EC，当节点故障时，自动调整EC配比，确保新数据可靠性不降级；
2.5、依据(GB/T 9813.3-2017)标准，一套存储支持NFS/CIFS/POSIX/MPI-IO/HDFS/S3多种访问协议，无需配置独立的网关节点；
2.6、依据(GB/T 9813.3-2017)标准，文件场景下，硬件设备包括保电内存、BBU、 SSD缓存、主存盘具有数据存储保护能力，NFS/CIFS/POSIX/MPI-IO/FTP/FTPS等协议的文件数据在断电后数据能够继续保存； 2.7、依据(GB/T 9813.3-2017)标准，支持检测磁盘SMART信息，支持慢盘检测，并在磁盘损坏前进行隔离并告警；
分布式文件存储系统研究及应用
分布式存储系统研究和应用实践
二〇一二年二月 《分布式存储系统研究和应用实践》
- 1 -
摘 要
物质、能量和信息是自然科学研究的三个基本对象，处理、传输和存储是信息计算的三大基本任务。随着网络技术及信息处理技术的不断发展，个人数据和企业数据的产生量呈现爆炸性膨胀的趋势，IT系统正面临着海量数据存储成本高、管理困难、可靠性低的问题，为了充分利用资源，减少重复的投资，数据存储作为IT系统的主要架构和基础设施之一，逐步被作为一个完整的系统从IT系统中独立出来，分布式存储系统因为具有海量数据存储、高扩展性、高性能、高可靠性、高可用性的特点，目前正被作为企业海量数据存储方案被业界所广泛讨论和应用。因此对于分布式存储系统的研究不仅紧跟目前发展的趋势，而且具有较高的应用价值。
本文基于对分布式存储系统的研究，旨在通过在网络环境下构建具有高传输性能、高可靠性、高可用性的网络分布式文件系统，通过网络数据流方式实现对海量文件系统中的数据进行存储和访问，解决大规模非结构化数据的存储、查询、高性能读取、高容错性的问题，为IT系统提供高性能、高可靠性、高可用性的存储应用服务，并为今后的分布式计算研究提供技术基础。
本文阐述的主要内容如下：
(1) 分布式架构的相关理论以及分布式存储系统的应用现状，介绍了分布式存储系统概念；
(2) 然后引入开源项目Hadoop的HDFS分布式文件系统，接着对HDFS关键运行机制进行了详细分析；
(3) 并在此基础上，通过搭建基于HDFS 0.23版本的实验环境进行实际的测试验证，采集实验数据，并对实验结果作出进一步的分析总结，得到理论和实际结合的第一手资料；
(4) 最后，通过结合实际需求，在对医学影像中心业务分析的基础上，对医学影像中心存储体系、功能结构及运行环境进行了设计和规划。
关键词:分布式存储系统、HDFS、Hadoop 《分布式存储系统研究和应用实践》
- 2 -
浅谈数据库灾备存在的问题和解决方案
浅谈数据库灾备存在的问题和解决方案
摘要：在现阶段的电厂中，数据库灾备是非常重要的内容。实时数据库是电厂厂级监控信息体系常用的非关系型实时数据库，其数据存储量大，信息量丰富完整。大量的冗余信息、非关系型的数据存储方式等特点，给工业管理应用带来了数据信息采集和数据处理等各方面的问题。本文首先分析系统拓扑说明，其次探讨企事业单位数据库灾备建设存在的问题，最后就制定适合本企业的灾备方案进行研究，满足了工业管理应用方面的需求。
关键词：实时数据库；数据采集；数据处理
引言
随着企业信息化建设的不断完善，应用系统的数量不断增加，数据库的安全性和稳定性愈发重要。数据库的稳定运行是保障企业业务系统持续运行的基本条件，数据库是企业最有价值的核心资产。分布式数据库集群系统由服务器集群、中间件、分布式系统组成，配置并行计算等多元技术构建的基础型软件，为海量数据的存储、计算、检索和查询提供强劲的支撑和动力。
1系统拓扑说明
备份系统项目根据现有业务系统数据备份需要，并结合现有环境现状，使用先进的备份技术，规划备份系统架构，提高数据备份效率，减少数据备份对业务系统的影响，提高备份系统的管理、监控、报警，保护数据备份与存放的安全性。本次项目备份系统业务系统数据备份范围包括财务系统，OA系统等其他业务系统数据备份。为满足当前数据库、虚拟化、文件、应用程序等备份需求，同时考虑了今后备份扩展及管理需求，备份拓扑如下：部署一台备份服务器。作为集中备份系统的管理控制平台，其上安装THEVRTS备份软件，制定备份策略对业务服务器和存储中的业务数据进行自动备份。部署一台裸容量64TB,2个16GbFC光纤通道端口，2个千兆网口,带重复数据删除、远程复制功能的虚拟磁带库，作为整个备份系统的核心设备，可将整个数据中心的数据进行集中统一备份，在数据发生各种故障或丢失时，可以通过备份系统将虚拟磁带库的备份数据进行恢复，有效降低数据安全风险，提高业务应用的连续性。未来可通过VTL虚拟磁带库的远程数据复制技术实现整个数据中心的数据级容灾功能，为以后建设灾备中心提供良好的基础。通过原有的网络链路将备份服务器、虚拟磁带库、磁盘阵列进行连接，可根据备份策略选择合理的备份链路。未来建议部署一套物理磁带库设备，建设为标准的D2D2T(磁盘到磁盘到磁带)备份架构，长久保存备份数据，全面保障数据安全。
存储发展技术综述
存储发展技术综述
吴海旋;鱼冰;李江;赵鹏翔
【摘 要】本文根据存储介质产生的先后顺序,并结合实例介绍了各个阶段存储介质形式的发展,概括了当前存储技术的发展状况及方向,并重点介绍了网络存储及其相关的技术.%According to the sequence of storage medium generation,this
paper introduces the development of the storage medium in every stage
based on the practical cases,summarizes the development status and
development trend of the existing storage technology,and introduces
network storage and its related technology on focus.
【期刊名称】《河南科技》
【年(卷),期】2015(000)018
【总页数】2页(P23-24)
【关键词】存储器;发展;介质;安全;数据存储
【作 者】吴海旋;鱼冰;李江;赵鹏翔
【作者单位】国家知识产权局专利局专利审查协作河南中心,河南 郑州 450000;国家知识产权局专利局专利审查协作河南中心,河南 郑州 450000;国家知识产权局专利局专利审查协作河南中心,河南 郑州 450000;国家知识产权局专利局专利审查协作河南中心,河南 郑州 450000
【正文语种】中 文
【中图分类】TP333
在社会发展之初已有人们使用骨骼、石头和树枝来记录数据，但只有记录者自己可看懂。随着人们之间交流频繁，文字语言便成了交流的工具，将自己所知的信息通过文字传递给他人，如今网络的盛行和普及更使人们的生活发生了革命性的变化。而存储的含义也从信息的记录转变为一种服务，可以根据应用环境的不同，采取合理、有效以及安全的方式将数据保存到若干物理介质上，并保证可被有效地访问，它结合了物理介质和保证数据安全完整的存放方式，为用户提供数据存放方案。数据的增长又使存储系统从计算系统中分离并形成独立的系统。
Linux系统平台下的存储
Linux系统平台下的存储
【摘 要】在互联网高速发展的今天，存储设备成为了系统硬件当中的主要设备之一，而存储设备不仅可以在系统当中使用内置的磁盘之外，可当内置的存储磁盘不够大，并且没有多余的磁盘插槽可用时，linux存储技术孕育而生，除了linux下一切皆文件以外，linux还结合了世界级的NAS和SAN技术，存储管理，云支持，数据保护以及固态存储。它的力量是他能够灵活的支持截然不同的使用模式，它可以根据客户需求而提供不同的存储方式，这大大的提高的存储的高效性，安全性，稳定性。
【关键词】文件系统；直接存储；网络存储
在探讨linux系统存储领域上的各种存储技术，我们可用从底部开始研究——存储架构，再层层替上：功能→文件系统→文件计划，如图（A）。
（A）
下面的三个架构基本覆盖了绝大多数的存储模型，如图（B）：
&直接附加存储（Drect-Attached-Storage）DAS；
&存储区域网络（Storage Area Network）SAN；
&网络附加存储（Network-Attached Storage）NAS；
（B）
直接附加存储即直连方式存储，它是通过SCSI接口而连接到服务器，输入输出直接发送存储设备当中，所以也可称为SAS（Server-Attached Storage），即服务器附加存储。因为它是依赖于服务器，所以基本不需要带任何存储系统。
下面是DAS的一些结构特点：
（1）实现了RAID技术；
（2）无法提供跨平台的共享文件功能（仅限于一个独立的操作系统），需相应的服务器操作系统支持；
（3）没有自身的管理软件；
（4）可在扩充性的前提上增加硬盘并重新做RAID，但会对网络服务有一定的影响；
（5）在多台服务器当中，对数据库的备份与恢复时比较费力；
SAN目前已经取得了空前的发展，在管理比较复杂且巨额预算的的IT技能企业当中，作为长远规划的企业级是比较不错的存储方式，它不仅解决了数据块增长的问题，还对IT部门用于存储体系结构适应变化的优化以便能够在性能和实用性上提高了成本和技术。在今天的SAN当中，它已经具有类于window的用户界面，并且安装十分简单，这大大降低了更多的管理人员。
基于分布式数据库的容灾系统的研究与应用
１．引言
在当前社会中，信息的价值越来越重要，作为信息的主
要载体，网络系统也经历着快速的发展。但是，由于开放性、
复杂性和各种天灾人祸等客观因素的存在，网络系统面临
着越来越严重的威胁。因而能够为数据的安全提供支持的
容灾系统成为近几年的研究热点。容灾系统的核心思想就
是对关键数据进行备份，一方面，随着网络系统的发展壮
大，要做到对所有数据的完全备份需要极高的成本；另一方
面，所有的工作设备同时出现故障是小概率事件，几乎不可
能发生。大型系统基本都采用设备间相互备份的折中方案：
如果其中一台工作设备出现故障，系统就把该设备的工作
分发给其它正常的设备来处理。
当前已有很多容灾方案被提出来，蔡皖东［１］对这些方案
做了很好的总结，他把这些方案分为：单机容灾系统、双机
容灾系统、单集群容灾系统、双集群容灾系统。刘文【２】对容灾
系统中应用到的各种关键技术做了整理和概述。在对关键
数据的管理和保护上，分布式数据库有着非常好的性能，ｏｒ．
ａｃｌｅ数据库已经在市场上有了非常高的占有率，潘立江［３］借
助Ｏｒａｃｌｅ数据库技术实现了一个简单的容灾系统。本文结
合典型容灾系统和分布式数据库的优点，提出基于分布式
数据库的容灾系统。
２．容灾系统研究
为了应用的连续性和数据的安全性要求，容灾系统从
一开始便选择了“分布式计算，集中式存储”的结构。按照不
同的需求，容灾分为数据级容灾、系统级容灾、应用级容灾。
这三者是逐渐递进的关系：数据级容灾是最基本和最核心
的，确保了应用数据的安全；系统级容灾在数据级容灾的基
础上进一步对应用服务器上的操作系统提出了要求，使得
灾难后恢复时间能尽量短；应用级容灾在系统级容灾的基
础上对灾难恢复提出时间性的要求，使得用户基本感觉不
到灾难的发生。
２．１ 容灾系统体系结构
一个典型的容灾系统的体系结构如图１所示，分为５部 分：用户、公网、应用服务器、ＳＡＮ（ＳｔｏｒａｇｅＡｒｅａＮｅｔｗｏｒｋ，存
存储服务器的作用
存储服务器的作用
第一点：存储服务器的基本概念与功能
存储服务器是现代数据中心的一个核心组件，其主要功能是为网络中的用户和应用程序提供数据存储和访问服务。在信息技术飞速发展的今天，存储服务器扮演着至关重要的角色，它不仅承担着数据存储和管理的关键任务，还直接影响到企业或组织的数据安全、业务连续性和效率。
存储服务器通常配备有大容量的存储设备，如硬盘驱动器（HDDs）、固态驱动器（SSDs）或磁带库，以及相应的管理软件，来优化数据的存储、检索、备份、恢复和保护。这些服务器通过高速网络与其他服务器和客户端连接，支持数据的高效共享和远程访问。
在企业级应用中，存储服务器往往还具备高可用性（HA）和故障转移（FT）能力，确保在硬件或软件故障情况下数据的持续可用性。此外，随着大数据、云计算和物联网等技术的发展，存储服务器也在向更加分布式、弹性和智能化的方向发展，以应对不断增长的数据存储和处理需求。
在存储服务器的架构中，不仅包括直接的存储设备，还包括诸如存储区域网络（SAN）和网络附加存储（NAS）等复杂的存储解决方案。SAN通过专用网络连接存储设备和服务器，提供了高性能、高可靠性和易于管理的存储服务。而NAS则是通过标准的网络协议（如NFS或SMB）提供文件级别的存储服务，更加便于跨平台共享数据。
存储服务器还承担着数据保护的重任，包括但不限于RAID（独立磁盘冗余阵列）技术来实现数据的条带化、镜像和 parity计算，从而提升数据的读写性能和容错能力。此外，现代存储服务器支持各种数据快照、备份和归档策略，确保数据在面临意外丢失、损坏或篡改时可以得到及时的恢复。
第二点：存储服务器在现代数据战略中的关键角色
在当今这个数字化和信息化日益深入的时代，数据已经成为了企业的核心资产。存储服务器在现代数据战略中扮演着不可或缺的角色，其主要表现在以下几个方面：
首先，存储服务器是实现数据集中管理和统一调度的基础。通过存储服务器，企业可以构建起统一的数据存储平台，将分散在不同部门、服务器甚至不同地理位置的数据集中起来，这样不仅便于数据的统一管理和维护，还大大提高了数据的访问效率。 其次，存储服务器是支撑企业级应用的关键。企业中的许多应用，如ERP（企业资源计划）、CRM（客户关系管理）、数据分析、人工智能等，都对数据存储提出了高性能、高可靠性和易用性的要求。存储服务器通过提供稳定和可扩展的存储资源，保证了这些应用的数据处理能力和业务连续性。