并行和分布计算技术现状及发展策略

计算1112 潘森林 2011810045

并行和分布计算技术现状及发展策略

摘要：随着网络的发展，网速已经不再成为技术上的制约，由原来的每秒几kb至今的几百兆。随之而来的云计算技术也逐渐趋于成熟。那么什么是云计算呢？本文将为你介绍云计算与分布式计算和并行计算的关系

关键字：云计算并行计算分布式计算

并行计算机从70年代的开始，到80年代蓬勃发展和百家争鸣，再到90年代体系结构框架趋于统一，近年来其快速发展，并行机技术日趋成熟。首先是市场的需求，一直是推动并行计算机发展的主要动力，大量实际应用部门，如天气预报、核武器、石油勘探、地震数据处理、飞行器数值模拟以及其他大型事务处理等，都需要每秒执行数十万亿次乃至数百万亿此浮点运算的计算机，基于这些应用问题本身的限制，并行计算是满足它们的唯一可行途径。而分布式计算技术随着云计算的兴起，也逐渐趋于成熟，分布式计算技术是把网络上分散于各处的资源汇聚起来,利用空闲的计算容量完成各种大规模、复杂的计算和数据处理任务。

⏹并行算法的基本原理

并行算法就是用多台处理机联合求解问题的方法和步骤，其执行过程是指将给定的问题首先分解成若干个尽量相互独立的子问题，然后使用多台计算机同时求解它，从而最终求得原问题的解。并行算法是并行计算中一个非常重要的问题。并行算法的研究应该确立一个“理论－设计－实现－应用”的系统方法，形成一个完善的“架构—算法—编程” 方法论，这样才能保证并行算法不断发展并变得更加实用。简单的说，算法就是求解问题的方法和步骤。并行算法，就是在并行机上用很多个处理器联合求解问题的方法和步骤。

⏹并行计算(Parallel Computing)是指同时使用多种计算资源解决计算

问题的过程。并行计算的主要目的是快速解决大型且复杂的计算问题。此外还包括:利用非本地资源，节约成本―使用多个"廉价"计算资源取代大型计算机，同时克服单个计算机上存在的存储器限制。传统地，串行计算是指在单个计算机(具有单个中央处理单元)上执行软件写操作。CPU 逐个使用一系列指令解决问题，但其中只有一种指令可提供随时并及时的使用。并行计算是在串行计算的基础上演变而来，它努力仿真自然世界中的事务状态:一个序列中众多同时发生的，复杂且相关的事件。

⏹并行计算的特点:将工作分离成离散部分，有助于同时解决；随时

并及时地执行多个程序指令；多计算资源下解决问题的耗时要少于

单个计算资源下的耗时。并行计算是相对于串行计算来说的，所谓并行计算分为时间上的并行和空间上的并行。时间上的并行就是指流水线技术，而空间上的并行则是指用多个处理器并发的执行计算。

⏹并行计算机的分类：并行计算科学中主要研究的是空间上的并行问

题。空间上的并行导致了两类并行机的产生，按照Flynn的说法分为:单指令流多数据流(SIMD)和多指令流多数据流(MIMD)。我们常用的

⏹串行机也叫做单指令流单数据流(SISD)。

⏹实际上，在自然界中并行是客观存在的普遍现象，关键问题在于能不

能很好的利用。由于人们的思维能力以及思考问题的方法对并行不太习惯，且并行算法理论不成熟，所以总是出现了需求再来研究算法，不具有导向性，同时实现并行算法的并行程序性能较差，往往满足不了人们的需求。并行算法的研究历史可简单归纳为：上世纪70到80年代，并行算法研究处于高潮；到上世纪90年代跌入低谷；目前，又处于研究的热点阶段。现在，人们已经可以自己搭建PC cluster，利用学习到的理论知识来解决实际问题，不再是纸上谈兵，这也为我们提供了新的机遇和挑战。

⏹分布式计算及其原理

⏹在计算机科学中，分布式计算（英语：Distributed computing，

又译为分散式计算）这个研究领域，主要研究分散系统（Distributed system）如何进行计算。分散系统是一组电子计算机（computer），通过计算机网络相互链接与通信后形成的系统。把需要进行大量计算的工程数据分区成小块，由多台计算机分别计算，在上传运算结果后，将结果统一合并得出数据结论的科学。

⏹分布式计算比起其它算法具有以下几个优点：1、稀有资源可以

共享。2、通过分布式计算可以在多台计算机上平衡计算负载。

3、可以把程序放在最适合运行它的计算机上。其中，共享稀有

资源和平衡负载是计算机分布式计算的核心思想之一。

⏹而最具代表性的分布式计算便是近年兴起的云计算技术。云计算

（英语：cloudcomputing），是一种基于互联网的计算方式，通过这种方式，共享的软硬件资源和信息可以按需提供给计算机和其他设备。整个运行方式很像电网。

⏹云计算是继1980年代大型计算机到客户端-服务器的大转变之后

的又一种巨变。用户不再需要了解“云”中基础设施的细节，不必具有相应的专业知识，也无需直接进行控制。云计算描述了一种基于互联网的新的IT服务增加、使用和交付模式，通常涉及通过互联网来提供动态易扩展而且经常是虚拟化的资源。云其实是网络、互联网的一种比喻说法。因为过去在图中往往用云来表示电信网，后来也用来表示互联网和底层基础设施的抽象。典型

的云计算提供商往往提供通用的网络业务应用，可以通过浏览器等软件或者其他Web服务来访问，而软件和数据都存储在服务器上。云计算关键的要素，还包括个性化的用户体验。

⏹云计算常与网格计算、效用计算、自主计算相混淆。（网格计

算：分布式计算的一种，由一群松散耦合的计算机集组成的一个超级虚拟计算机，常用来执行大型任务；效用计算：IT资源的一种打包和计费方式，比如按照计算、存储分别计量费用，像传统的电力等公共设施一样；自主计算：具有自我管理功能的计算机系统。）

⏹事实上，许多云计算部署依赖于计算机集群（但与网格的组成、

体系机构、目的、工作方式大相径庭），也吸收了自主计算和效用计算的特点。

⏹通过使计算分布在大量的分布式计算机上，而非本地计算机或远

程服务器中，企业数据中心的运行将与互联网更相似。这使得企业能够将资源切换到需要的应用上，根据需求访问计算机和存储系统。

⏹好比是从古老的单台发电机模式转向了电厂集中供电的模式。它

意味着计算能力也可以作为一种商品进行流通，就像煤气、水电一样，取用方便，费用低廉。最大的不同在于，它是通过互联网进行传输的。

⏹云计算可以认为包括以下几个层次的服务：基础设施即服务

（IaaS），平台即服务（PaaS）和软件即服务（SaaS）。云计算