分布式独立内存简易集群搭建测试与应用 (2)
集群的配置步骤

集群的配置步骤一、搭建集群环境的准备工作在开始配置集群之前,我们需要先进行一些准备工作。
首先,确保所有服务器都已经正确连接到网络,并且能够相互通信。
其次,确保每台服务器上已经安装了操作系统,并且操作系统版本一致。
最后,确保每台服务器上已经安装了必要的软件和工具,例如SSH、Java等。
二、创建集群的主节点1.选择一台服务器作为集群的主节点,将其IP地址记录下来。
2.登录到主节点服务器上,安装并配置集群管理软件,例如Hadoop、Kubernetes等。
3.根据集群管理软件的要求,配置主节点的相关参数,例如集群名称、端口号等。
4.启动集群管理软件,确保主节点能够正常运行。
三、添加集群的工作节点1.选择一台或多台服务器作为集群的工作节点,将其IP地址记录下来。
2.登录到工作节点服务器上,安装并配置集群管理软件,确保与主节点的版本一致。
3.根据集群管理软件的要求,配置工作节点的相关参数,例如主节点的IP地址、端口号等。
4.启动集群管理软件,确保工作节点能够正常连接到主节点。
四、测试集群的连接和通信1.在主节点服务器上,使用集群管理软件提供的命令行工具,测试与工作节点的连接和通信。
例如,可以使用Hadoop的hdfs命令测试与工作节点的文件系统的连接。
2.确保主节点能够正确访问工作节点的资源,并且能够将任务分配给工作节点进行处理。
五、配置集群的资源管理1.根据集群管理软件的要求,配置集群的资源管理策略。
例如,可以设置工作节点的CPU和内存的分配比例,以及任务的调度算法等。
2.确保集群能够合理分配资源,并且能够根据需要动态调整资源的分配。
六、监控和管理集群1.安装并配置集群的监控和管理工具,例如Ganglia、Zabbix等。
2.确保监控和管理工具能够正常运行,并能够及时发现和处理集群中的故障和问题。
3.定期对集群进行巡检和维护,确保集群的稳定和可靠性。
七、优化集群的性能1.根据实际情况,对集群的各项参数进行调优,以提高集群的性能和效率。
hadoop分布式实验总结

hadoop分布式实验总结Hadoop分布式实验总结一、实验目标本次实验的目标是深入理解Hadoop分布式文件系统(HDFS)和MapReduce计算模型,通过实际操作和案例分析,掌握Hadoop的基本原理和应用。
二、实验内容在本次实验中,我们主要完成了以下几个部分的内容:1. HDFS的基本操作:包括在HDFS中创建文件夹、上传和下载文件等。
2. MapReduce编程:编写Map和Reduce函数,实现对数据的处理和分析。
3. Hadoop集群搭建:配置Hadoop集群,了解节点间的通信和数据传输机制。
4. 性能优化:通过调整参数和优化配置,提高Hadoop集群的性能。
三、实验过程1. HDFS操作:首先,我们在本地机器上安装了Hadoop,并启动了HDFS。
然后,我们通过Hadoop命令行工具对HDFS进行了基本的操作,包括创建文件夹、上传和下载文件等。
在操作过程中,我们遇到了权限问题,通过修改配置文件解决了问题。
2. MapReduce编程:我们选择了一个经典的问题——单词计数作为案例,编写了Map和Reduce函数。
在编写过程中,我们了解了MapReduce的基本原理和编程模型,以及如何处理数据的分片和shuffle过程。
3. Hadoop集群搭建:我们在实验室的局域网内搭建了一个Hadoop集群,配置了各个节点之间的通信和数据传输。
在配置过程中,我们注意到了防火墙和网络通信的问题,通过调整防火墙规则和配置网络参数,解决了问题。
4. 性能优化:我们对Hadoop集群进行了性能优化,通过调整参数和优化配置,提高了集群的性能。
我们了解到了一些常用的优化方法,如调整数据块大小、优化网络参数等。
四、实验总结通过本次实验,我们深入了解了Hadoop分布式文件系统和MapReduce计算模型的基本原理和应用。
在实验过程中,我们遇到了一些问题,但通过查阅资料和互相讨论,最终解决了问题。
通过本次实验,我们不仅掌握了Hadoop的基本操作和编程技能,还提高了解决实际问题的能力。
hadoop集群搭建实训报告

实训项目名称:搭建Hadoop集群项目目标:通过实际操作,学生将能够搭建一个基本的Hadoop集群,理解分布式计算的概念和Hadoop生态系统的基本组件。
项目步骤:1. 准备工作介绍Hadoop和分布式计算的基本概念。
确保学生已经安装了虚拟机或者物理机器,并了解基本的Linux命令。
下载Hadoop二进制文件和相关依赖。
2. 单节点Hadoop安装在一台机器上安装Hadoop,并配置单节点伪分布式模式。
创建Hadoop用户,设置环境变量,编辑Hadoop配置文件。
启动Hadoop服务,检查运行状态。
3. Hadoop集群搭建选择另外两台或更多机器作为集群节点,确保网络互通。
在每个节点上安装Hadoop,并配置集群节点。
编辑Hadoop配置文件,包括core-site.xml、hdfs-site.xml、mapred-site.xml等。
配置SSH无密码登录,以便节点之间能够相互通信。
4. Hadoop集群启动启动Hadoop集群的各个组件,包括NameNode、DataNode、ResourceManager、NodeManager 等。
检查集群状态,确保所有节点都正常运行。
5. Hadoop分布式文件系统(HDFS)操作使用Hadoop命令行工具上传、下载、删除文件。
查看HDFS文件系统状态和报告。
理解HDFS的数据分布和容错机制。
6. Hadoop MapReduce任务运行编写一个简单的MapReduce程序,用于分析示例数据集。
提交MapReduce作业,观察作业的执行过程和结果。
了解MapReduce的工作原理和任务分配。
7. 数据备份和故障恢复模拟某一节点的故障,观察Hadoop集群如何自动进行数据备份和故障恢复。
8. 性能调优(可选)介绍Hadoop性能调优的基本概念,如调整副本数、调整块大小等。
尝试调整一些性能参数,观察性能改善情况。
9. 报告撰写撰写实训报告,包括项目的目标、步骤、问题解决方法、实验结果和总结。
如何搭建一个高可用的分布式系统

如何搭建一个高可用的分布式系统一、概述随着互联网技术的不断发展,分布式计算成为了解决数据处理和资源利用效率的一种有效方式。
分布式系统在交换数据、计算任务和存储资源时能够提高性能和可靠性,并可应对负载均衡和容错需求。
搭建一个高可用的分布式系统需要考虑多个因素,包括分布式架构、操作系统、软件配置等。
本文将介绍如何设计和实现一个高可用的分布式系统。
二、分布式架构1. 硬件环境要搭建一个高效的分布式系统,首先要考虑硬件环境,包括服务器的数量和类型。
为了实现负载均衡和容错,需要至少两个服务器,这些服务器分布在不同的地理位置,以降低自然灾害等风险。
此外,硬件设置也需要考虑网络的稳定性、容错性等因素。
2. 分布式软件搭建一个分布式系统,需要选择合适的软件。
目前比较经典的分布式架构结构包括Master-Slave模型、Peer-to-Peer模型等。
其中Master-Slave模型,在Master上控制所有的从属节点,处理中央化、任务分配和完成任务之后的后续工作。
而Peer-to-Peer模型,所有节点都能够对彼此进行通信,节点之间具备对等关系,因此各个节点强化彼此之间的平衡并且提升系统的可用性。
三、操作系统选择适合的操作系统也是搭建高效分布式系统的必要因素。
通常,Linux是部署分布式应用最受欢迎的选择,因为它是一种开源操作系统,可定制性很高,并且具有强大的性能和支持。
但是,如果你不熟悉Linux,或者没有Linux的专业知识,那么你可以使用Windows Server 2019等Microsoft的操作系统版本,因为它们易于使用和管理,并为各种应用程序提供支持。
四、软件配置1. 配置java环境Java是一种非常流行的语言,是搭建分布式系统的首选之一。
因此你需要在每个服务器上安装Java JRE或JDK,以便能够运行Java应用程序。
此外,版本问题也要考虑,建议使用稳定版或者社区版本(Oracle或者OpenJDK)。
分布式系统性能测试实验报告

分布式系统性能测试实验报告一、引言分布式系统是由多台独立的计算机节点组成的系统,通过网络通信和协调合作来完成任务。
在实际应用中,分布式系统的性能测试至关重要,它可以评估系统的可靠性和效率。
本报告旨在介绍一次分布式系统性能测试的实验过程和结果。
二、实验环境1. 硬件配置:在本次实验中,我们使用了5台独立的计算机作为分布式系统的节点,每台计算机配置如下:CPU为Intel Core i7,内存为8GB,硬盘容量为1TB,网络带宽为1Gbps。
2. 软件配置:我们采用了开源软件Apache Hadoop作为分布式系统的基础框架,并在每台计算机上安装了相应版本的Hadoop。
实验中使用的Hadoop 版本为2.7.3。
三、实验设计1. 测试目标:本次实验旨在评估分布式系统的性能表现,包括系统的吞吐量和响应时间。
2. 测试内容:我们设计了三个不同的测试场景,分别是并行计算、数据分析和分布式存储。
对于每个场景,我们都设计了相应的数据集和任务。
3. 测试步骤:(1)并行计算:我们使用了一组大规模的计算任务,通过在分布式系统上同时执行这组任务来测试系统的计算能力和并行处理能力。
(2)数据分析:我们使用了一组真实的数据集,包括用户行为数据、销售数据等。
通过在分布式系统上进行复杂的数据分析和挖掘任务,来测试系统在大规模数据处理方面的性能。
(3)分布式存储:我们模拟了多台计算机同时读写数据的场景,测试系统在分布式存储方面的性能表现,包括数据传输速度和读写延迟。
四、实验结果与分析1. 并行计算场景:在并行计算场景下,我们观察到系统的吞吐量随着任务数量的增加而线性增长,表明系统具有良好的可扩展性和并行处理能力。
同时,随着计算任务规模的增大,系统的响应时间也略有增加,但整体表现仍然稳定。
2. 数据分析场景:在数据分析场景中,我们发现系统在处理大规模数据集时表现出色。
无论是复杂的数据挖掘任务还是统计分析,系统均能在短时间内完成,并且具有良好的稳定性。
分布式系统性能实验报告

分布式系统性能实验报告一、实验目的分布式系统是由多个独立的计算机节点组成的系统,每个节点通过通信协议进行交互,共同完成任务。
本实验旨在通过对分布式系统的性能进行测试和评估,以提供有关系统可靠性、扩展性和效率等方面的数据和结论。
二、实验环境本次实验使用了一个由5台计算机组成的分布式系统,这些计算机分别命名为节点A、节点B、节点C、节点D和节点E。
每个节点都装有相同的硬件和软件配置,包括操作系统、分布式系统运行环境等。
三、实验过程1. 引言在实验开始前,首先介绍了分布式系统的定义、特点和优势,以及本次实验的目标和意义。
2. 实验设计为了综合评估分布式系统的性能,我们进行了以下几个方面的测试:- 负载均衡测试:通过向各个节点发送任务并观察任务的分配情况,评估系统的负载均衡能力。
- 吞吐量测试:通过向系统发送大量请求,并测量系统在处理请求时的吞吐量,评估系统的处理能力。
- 响应时间测试:通过向系统发送请求,并测量系统在响应请求时的时间,评估系统的响应速度。
3. 实验步骤与结果分析首先,我们进行了负载均衡测试。
通过向各个节点发送不同数量的任务,我们观察到系统能够合理地将任务分配给各个节点,从而实现负载均衡。
同时,我们计算了每个节点的平均负载,并绘制了负载均衡的图表。
接下来,我们进行了吞吐量测试。
通过向系统发送大量请求并测量处理完成的请求数量,我们评估了系统在单位时间内能够处理的请求数量,即吞吐量。
我们根据不同的负载情况进行了多次测试,并对吞吐量进行了分析和比较。
最后,我们进行了响应时间测试。
通过向系统发送请求,并测量系统在响应请求时所花费的时间,我们得到了系统的响应时间数据。
我们分析了不同负载情况下的响应时间,并对系统的性能进行了评估。
4. 实验结论通过上述实验,我们得出了以下结论:- 分布式系统能够实现负载均衡,有效地将任务分配给各个节点。
- 分布式系统具备较高的处理能力,能够在单位时间内处理大量的请求。
分布式系统测试与验证

分布式系统测试与验证一、引言分布式系统是由多个相互协作的计算机节点组成的,旨在提供高性能、高可用性、可扩展性和容错性等特性。
然而,由于系统的复杂性和涉及的多个节点之间的通信,分布式系统的测试和验证成为确保系统稳定性和正确性的关键步骤。
二、测试策略1. 单元测试单元测试是分布式系统测试的基础,它用于验证系统中的每个独立模块的正确性。
对于分布式系统,单元测试需要在隔离的环境中对每个单元进行测试,以确保其功能符合预期。
单元测试还应该包括异常处理和边界情况的测试,以保证系统在面对各种情况时的稳定性。
2. 集成测试集成测试涉及到多个节点之间的通信和协作。
在分布式系统中,集成测试应该覆盖节点之间的消息传递、数据一致性和容错机制等方面。
通过模拟真实的系统工作流程,集成测试能够有效地验证系统的性能和可靠性。
3. 性能测试性能测试用于评估分布式系统在大负载下的工作表现。
通过模拟大量用户和并发请求,可以测试系统的吞吐量、响应时间和资源利用率等关键指标。
性能测试还可以帮助发现系统的瓶颈和优化潜力,以提供更好的用户体验。
4. 容错测试容错测试是通过模拟节点故障或通信中断等异常情况,验证系统是否能够正确地处理这些情况,并保持系统的可用性和数据一致性。
容错测试还可以用于测试系统的恢复能力和故障转移机制等关键功能。
三、测试工具1. JUnitJUnit是一种用于Java程序的单元测试框架。
它提供了一组用于编写和执行单元测试的类和方法。
在分布式系统的单元测试中,可以使用JUnit来编写和运行针对每个独立模块的测试用例,以验证其功能和正确性。
2. Apache JMeterApache JMeter是一种用于性能测试和负载测试的工具,它支持多种协议和技术。
在分布式系统的性能测试中,可以使用JMeter来模拟大规模用户和并发请求,以评估系统的性能和可靠性。
3. Chaos MonkeyChaos Monkey是Netflix开发的一种容错测试工具,它通过随机杀死节点或中断通信等方式来模拟节点故障和异常情况。
如何进行分布式系统测试

如何进行分布式系统测试分布式系统测试是一项关键的技术活动,它可以帮助我们评估和验证分布式系统的可靠性、可扩展性和性能等方面。
在本文中,我们将讨论如何进行分布式系统测试,以及如何设计和执行测试计划,以确保我们的系统能够正常高效地运行。
一、分布式系统测试概述在开始分布式系统测试之前,我们需要了解分布式系统的基本原理和特点。
分布式系统是由多个独立的计算机节点组成的系统,它们通过网络进行通信和协作。
分布式系统具有高度的分布性、并发性和复杂性,因此测试分布式系统需要考虑到这些特点。
二、分布式系统测试策略1. 功能测试功能测试是分布式系统测试的基础,它主要关注系统的功能是否符合需求和规范。
在进行功能测试时,我们需要明确系统的功能点和相应的测试用例,确保系统的每个功能都能正常运行。
2. 性能测试性能测试是评估分布式系统性能的重要手段。
在进行性能测试时,我们可以使用工具模拟真实的负载情况,通过监测系统的响应时间、吞吐量和并发能力等指标来评估系统的性能表现。
3. 可靠性测试可靠性测试是评估分布式系统可靠性的关键环节。
在进行可靠性测试时,我们需要模拟各种故障场景,如节点失效、网络中断等,通过观察系统的容错能力和恢复能力来评估系统的可靠性。
4. 安全性测试安全性测试是评估分布式系统安全性的必要手段。
在进行安全性测试时,我们需要模拟各种攻击场景,如入侵、拒绝服务攻击等,检查系统的安全防护措施是否有效,以及系统在攻击下的表现。
三、分布式系统测试设计1. 确定测试目标和范围在设计测试计划之前,我们需要明确测试的目标和范围。
测试目标可以包括功能验证、性能评估、可靠性验证和安全性测试等,而测试范围可以根据具体需求进行确定。
2. 制定测试用例测试用例是测试的核心内容,它们用于检测系统是否符合预期的行为。
在设计测试用例时,我们需要考虑各种典型和边界情况,以确保测试的全面性和准确性。
3. 构建测试环境分布式系统需要特定的测试环境才能进行有效的测试。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
分布式独立内存简易集群搭建测试与应用李仕诚韩菲苏辉摘要:新时期地球物理勘探事业的发展,对高性能计算给出了越来越高的要求。
我们也在不断的寻找提高计算效率的方法;本文提出一种基于linux系统下的小型高性能计算集群的构建方案,能够进行软件共享,数据共享,有效解决大规模计算问题,提高计算速度并且降低计算成本。
采用Linpack对集群浮点运算性能进行分析测试,分别与单机下浮点运算性能和刀片式服务器集群的浮点运算性能进行对比分析,得出结论。
最后,将搭建好的集群在地震资料处理中得到了有效的应用。
关键字:高性能计算计算效率软件共享数据共享环境应用引言随着计算机的广泛应用和性能的大幅度提高,计算机处理问题的规模也越来越大。
尤其在地震勘探领域中,快速处理大规模地震数据的要求与日俱增。
地震勘探方法是目前使用最为广泛、解决油气勘探问题最为有效的地球物理方法。
该原理是利用人工方法引起地壳震动,再用精密仪器按一定的观测方式记录爆炸后地面上各接收点的振动信息,通过分析和处理这些大量数据推断地下的地质构造。
该方法收集到的数据都数以TB,海洋探测的数据量更是数以PB级别。
高性能计算机若在短时间内完成对这种数据量的分析,需要具有惊人的计算能力。
因此,计算机的高性能计算能力在地震勘探领域中举足轻重,提高计算机的并行处理能力和浮点运算能力势在必行。
目前,单个处理器的计算性能可提升的空间越来越小,将一组高性能计算机连接起来组成具有并行结构的高性能集群,实现高效并行计算,是满足科学和工程计算问题中高性能数据处理要求的有效途径。
计算机集群的概念:多台同构或异构的计算机用某种方式连接起来,协同完成特定的任务就构成了集群系统,目前计算机集群技术按照使用目的可分为三类:高可用集群(High Availabilty Cluster)、负载均衡集群(Load Balance Cluster)、科学计算集群(High Performance Computing Cluster)。
高可用集群,利用集群管理软件,当主服务器出现故障时,备份服务器能够自动接管主服务器的工作,并及时切换过去,以实现对用户的不间断服务;负载均衡集群,负载压力根据某种算法合理分配到集群中的每一台计算机上,以减轻主服务器的压力,降低对主服务器的硬件和软件要求。
科学计算集群,即充分利用集群中的每一台计算机的资源,实现复杂运算的并行处理,通常用于科学计算领域。
集群所用计算机可以是工作站,普通PC机、刀片式服务器或机架式服务器。
针对地震资料处理的高吞吐量、高密度数据通信等特点,本文为解决大型地震数据处理问题,选用7台linuxPC机,构建小型高性能计算集群。
一、基于linux简易集群搭建集群是由一组独立的计算机系统构成的一个松耦合的多处理器系统。
他以网络技术将一组工作站或PC机连接起来,计算机之间高度紧密地协同工作。
像一个单独集成的计算资源运行一组共用的应用程序,为用户和应用程序提供类似单机系统的功能。
1、系统的构建(1)节点节点分为管理节点与计算节点。
集群中的每台计算机都是集群节点(node)。
管理节点是高性能集群的入口,作为集群中心的“核心”领导者,控制其他计算机,管理和监控各个节点的系统状态和网络状态,为其他计算机分配计算任务,调度负载,安装计算节点所需软件,一般称为集群的主节点。
计算节点是整个集群系统的重要组成部分,执行并行计算任务。
单个计算节点CPU主频越高,内存越大,总线带宽越高,对计算效率的提高越有利。
所以在选择硬件的架构方式时,硬件的参数也考虑到其中。
(2)存储节点存储节点也称I/O节点,连接到外部磁盘阵列,形成网络存储,存储大量地震数据。
存储基本模式分有NAS(Network Attached Storage),SUN(Storage Area Network and SAN Protocols);NAS:被定义为一种专用数据存储服务器,磁盘阵列,和内嵌系统软件,可提供跨平台文件共享功能,并且方便配置,有效降低总拥有成本,保护不必要的存储投资。
架构方式如图1.SAN:存储区域网络,是一种高速网络。
提供在计算机与存储系统之间的数据传输。
当前常见的可使用SAN技术,如IBM的光纤存储,或者说是一种更新的光纤信道技术。
SCSI 和ISCSI在存储区域网络中也运用高速以太网协议,目前是两种广泛的存储区域网络协议。
架构方式如图2,图2中蓝色线表示存储使用光纤网络技术连接。
图(1)NAS网络存储基本架构图(2)NAS网络存储基本架构(3)节点间通信集群中计算节点需要通过远程通信协议来完成任务的接受和执行,ssh和rsh是目前最为流行的两种远程通信协议。
本集群建立节点无密码ssh访问实现节点间通信技术,为的是让节点与节点之间是更高效的更快速紧密的进行通讯。
ssh是secure shell的缩写,是建立在应用层和传输层基础上的安全协议,起作用是提供安全快捷的远程管理服务。
在计算机集群中,每个节点都需要分担一定的任务,而这些任务都是有执行任务的主节点发起的。
集群网络中MPICH的通信,其余节点通过远程通信协议来完成任务的接收和执行,也就是说远程通信协议主要。
(4)文件共享集群系统需要共享各种数据文件,并行编程环境,处理地震数据,使用常用软件和地球物理软件。
选用NFS,将这些文件在同一个路径下共享,其他所有计算机可以对这些共享文件运行和读写。
NFS(Network File System)即网络文件系统,是一种在网络上的机器间共享文件的方法,文件如同位客户的本地磁盘驱动器上一样。
NFS构建一个单一映像系统,如采用NFS将管理节点的文件系统挂载到本地文件系统中,只需在管理节点/etc/export文件中加入需要共享的目录,目录下安装一次所需软件,其他计算机都可共享使用。
(5)并行编程环境本集群并行编程环境采用消息传递接口MPI(message passing interface)。
不同编程模型对应不同的编程环境。
MPI是一个库,一种规范,是目前最流行的分布存储并行编程环境。
MPI已经和fortran语言、C语言、C++语言绑定,它有较高的通信性能,很好的可移植性和强大的功能。
目前MPICH已经发展到2.0版本,它包括200多个函数,功能强大。
(6)作业管理系统作业管理系统提供对批量作业的定义、提交、调度、执行、监控机制,有软件管理机制和系统管理机制。
系统管理机制就是linux操作系统的TOP、netstat等系统监测命令,如地震数据处理软件cgg软件中的scp模块功能,它能从系统使用状态、使用率、I/O等待情况、用户使用情况。
从而更加有效地利用系统资源,平衡网络负载和提高系统整体性能,最终为用户用在大型主机上。
使系统或用户提交的作业以批处理的方式进行地震数据的计算处理。
在网格环境下,集群可能只是其中的一个节点网格节点之间依靠网格软件进行作业管理。
(此处加一张图)2、集群搭建(1)硬件的选择硬件是整个集群系统的物理基础,硬件的选择主要取决于用户对集群的功能、性能以及价格等因素要求。
在开始安装linux 之前,要先做的一些事情就是了解硬件环境。
因为linux 可能不支持一些较新的硬件,在linux 早期与X86个人计算机系统紧密结合,而且硬件与操作系统的关系也很大。
集群有多台同构或异构的计算机用某种方式连接起来组成,同有独立式内存集群与共享试内存集群。
共享内存的多核系统的特性(消息传递接口(Message Passing Interface ,MPI )使用程序可以配合MPI 来充分发挥共享内存的多核系统的特性,MPI 主要关注的是帮助开发在集群上运行的应用程序,会带来没有必要的额外资源开销;分布式内存系统会迫使您考虑数据分布问题,因为每一个获取远程数据的消息都会产生一个严重的延迟。
由于可以通过增加计算机(节点)的方式增加系统微处理器的数量,因此分布式内存的系统提供了很好的可扩展性。
本文采用的分布式独立内存一个管理节点与一组同构计算机节点通过网络相连的构建方案。
每个计算机都有独立的内存,并且互补占用资源,设置1个管理节点,6节点个计算节点,1个I/O 节点,其中管理节点和计算节点及I/O 节点都是同一个性能。
使用的是HP 920cn 机器。
硬件性能为CPU :intel core 2.6Ghz 内存为:4GB HDD 硬盘是600GB 的磁盘空间。
I/O 节点连接一个NAS 盘阵,一套千兆交换机,因为只有一块网卡,所以直接从访问层到计算层;如图3所示。
磁盘阵列计算节点计算节点计算节点计算节点计算节点管理节点图(3)计算机集群系统结构图3、软件选择(1)操作系统的选择常见的操作系统有Windows、Linux、Unix以及Mac OS。
虽然世界top100的集群中确实有Windows集群,但本集群选用Linux操作系统(Redhat Enterprise 5.4 X86_64 64为操作系统),因为Linux系统集群具有扩展性,高可用性,所以非常适合于程序开发与批量处理,并且有一种大优点,就是对不同的硬件架构具有兼容性,无论是同构还是异构的系统都可以用来构造集群。
很多地球物理软件是Linux环境下开发和运行的。
Linux是一套免费使用和自由传播的类似UNIX操作系统,主要用于基于Inetl X86系列CPU的计算机上。
Linux系统是由全世界各地的成千上万的程序员设计和实现的,其目的是建立不受任何商品化软件的版权所制约的。
全世界都能自由使用UNIX兼容产品。
在性能上与商业产品相比毫不逊色,并且价格低廉,源码开放。
Linux的版本目前有RedHat linux 、Debian linux、Suse linux。
(2)系统服务的构建:在构建服务上我们用最原始最简易的方法来构建:账户构建:首先将所有节点的账户共享将etc/目录下的passwd、group、shadow都与主节点同步,然后将家目录挂在到主节点上挂载,再从主节点收集所有计算节点的公钥。
网络传输:将ssh、rsh、dsh等做好无密码之间传输服务做好如/etc下的hosts、hosts.deny等文件。
文件传输:NFS (network file system) 进行配置从/etc下面的export文件将共享目录。
设置的时候重要的是注意格式以及权限设置,都可以在export文件里面写清楚。
文件挂载:(file system mount)这个过程是关键重要的,可以将其写入到开启自动启动,如果每次开机启动的时候就会非常的繁琐。
关闭防火墙:防火墙关系到主机与访问端的连接问题,以及数据远程拷贝问题。
本文中最终涉及到的技术问题的一部分系统配置也将是在这里。
yum包的安装:在Linux操作系统上,如果需要安装软件,就需要解决系统和软件之间的软件包的依赖关系,yum就是Linux系统里面的一个快速安装包的一个管理软件。