并行计算 期末考试模拟题原题
并行计算期末试题及答案
并行计算期末试题及答案1. 基础概念部分并行计算是一种计算模式，它使用多个处理单元同时执行计算操作，以加快计算速度。
在现代计算机系统中，我们常常使用多核处理器、图形处理器（GPU）或者分布式系统来实现并行计算。
1.1 并行计算的优势并行计算具有以下几个优势：加速计算速度：通过同时执行多个计算任务，可以极大地提高计算效率。
解决大规模问题：并行计算可以处理大规模和复杂的问题，提供更精确的结果。
降低能耗：通过合理利用处理器资源，可以降低计算任务的能耗。
应用广泛：并行计算可以应用于各个领域，如科学计算、大数据分析、机器学习等。
1.2 并行计算的分类并行计算按照任务之间的关系可以分为两类：数据并行：将数据划分为多个子集，同时在不同的处理器上进行计算，然后将计算结果汇总。
常见的应用包括矩阵运算、图像处理等。
任务并行：将任务划分为多个子任务，每个子任务由一个独立的处理器执行，最后将各个子任务的结果合并。
常见的应用包括并行搜索算法、并行排序等。
2. 并行计算的算法设计2.1 并行算法设计要点在设计并行算法时，需要考虑以下几个要点：任务划分：将计算任务划分为多个子任务，确保各个子任务之间的计算工作均衡，并保持任务之间的独立性。
任务调度：合理安排各个处理器上的任务执行顺序和时间，最大程度地减少通信开销和等待时间。
数据通信：处理器之间需要进行数据交换和通信，应选择合适的通信方式，并考虑通信延迟和带宽等因素。
数据同步：在多个处理器之间，可能需要进行数据同步操作，确保各个处理器之间的数据一致性。
2.2 并行算法实例：并行矩阵乘法并行矩阵乘法是一个常见的数据并行算法，可以有效地利用多核处理器加速大规模矩阵运算。
具体算法如下：步骤1：将输入矩阵划分为若干个小矩阵，每个小矩阵分配给一个处理器。
步骤2：每个处理器计算相应小矩阵的部分结果。
步骤3：将各个处理器计算得到的部分结果进行求和，得到最终的矩阵乘积结果。
3. 并行计算的应用举例3.1 科学计算在科学计算领域，有大量的计算任务需要处理大规模的数据和复杂的数学模型。
并行计算-期末考试模拟题原题
Reviews on parallel programming并行计算英文班复习考试范围及题型：（1—10章）1 基本概念解释；Translation (Chinese)2 问答题。
Questions and answer3 算法的画图描述。
Graphical description on algorithms4 编程。
AlgorithmsReviews on parallel programming并行计算1 基本概念解释；Translation (Chinese)SMPMPPCluster of WorkstationParallelism,pipelining,Network topology,diameter of a network,Bisection width,data decomposition,task dependency graphsgranularityconcurrencyprocessprocessor,linear array,mesh,hypercube,reduction,prefix-sum,gather,scatter,thread s,mutual exclusionshared address space,synchronization,the degree of concurrency,Dual of a communication operation,2 问答题。
Questions and answerChapter 1 第1章1) Why we need parallel computing? 1）为什么我们需要并行计算？答：2) Please explain what are the main difference between parallel computing and sequential computing 2）解释并行计算与串行计算在算法设计中的主要不同点在那里？答：Chapter 2 第2章1) What are SIMD, SPMD and MIMD denote? 1）解释SIMD, SPMD 和 MIMD是什么含义。
计算机专业基础综合计算机组成原理(并行组织与结构)模拟试卷2
计算机专业基础综合计算机组成原理（并行组织与结构）模拟试卷2(总分：44.00，做题时间：90分钟)一、单项选择题(总题数：11，分数：22.00)1.下面关于并行处理技术的论述中，正确的是( )。
A.超标量流水线技术是指在一个处理机芯片上包含多个独立运行的内核的技术B.多核处理机技术是指在一个处理机芯片上设计多个逻辑处理机内核的技术C.超线程技术是指在操作系统的支持下，在一个处理机上同时运行多道程序的技术D.机群系统由一组完整的计算机(节点)通过高性能网络或局域网连接而成√2.以下关于超线程技术的描述，不正确的是( )。
A.超线程技术可以把一个物理内核模拟成两个逻辑核心，降低处理部件的空闲时间B.相对而言，超线程处理机比多核处理机具有更低的成本C.超线程技术可以和多核技术同时应用D.超线程技术是一种指令级并行技术√3.以下表述不正确的是( )。
A.超标量技术让多条流水线同时运行，其实质是以空间换取时间B.多核处理机中，要利用发挥处理机的性能，必须保证各个核心上的负载均衡C.现代计算机系统的存储容量越来越大，足够软件使用，故称为“存储墙”√D.异构多核处理机可以同时发挥不同类型处理机各自的长处来满足不同种类的应用的性能和功耗需求4.从处理数据的角度看，不存在并行性的是( )。
A.字串位串√B.字串位并C.字并位串D.字并位并5.按指令流(I)和数据流(D)的组织方式，单处理机系统属于( )结构。
A.SISD √B.SIMDC.MISDD.MIMD6.按指令流(I)和数据流(D)的组织方式，机群系统属于( )结构。
A.SISDB.SIMDC.MISDD.MIMD √7.以下处理中进入并行处理领域的是( )。
A.指令内部微操作并行B.指令级并行C.字串位并D.任务级或过程级并行√8.多处理机分类中，不属于紧耦合系统的是( )。
A.SMP(对称多处理机)B.PVP(并行向量处理机)C.MPP(大规模并行处理机) √D.DSM(分布共享存储器多处理机)9.下列机器中，属于机群系统的是( )。
计算机专业基础综合计算机组成原理(并行组织与结构)模拟试卷1
计算机专业基础综合计算机组成原理（并行组织与结构）模拟试卷1(总分：44.00，做题时间：90分钟)一、单项选择题(总题数：12，分数：24.00)1.下面的论述中，不正确的是( )。
A.超线程技术在一颗处理机芯片内设计多个逻辑上的处理机内核B.多线程技术能够屏蔽线程的存储器访问延迟，增加系统吞吐率C.多指令流单数据流(MISD)结构从来没有实现过D.超标量技术是同时多线程技术在英特尔系列处理机产品中的具体实现√2.下面的论述中，不正确的是( )。
A.指令级并行处理(ILP)通过增加每个时钟周期执行的指令条数来提高处理机性能B.超线程技术在一颗处理机芯片内设计多个逻辑上的处理机内核，这些逻辑上的内核可以共享处理机内的二级cache等资源，但每个线程有自己独立的运算器√C.英特尔集成众核处理机可作为中央处理机的协处理机工作D.多处理机系统利用任务级并行的方式提高系统性能，既把任务并行化并分配到多个处理机中去执行3.总线共享cache吉构的缺点是( )。
A.结构简单B.通信速度高C.可扩展性较差√D.数据传输并行度高4.计算机系统中的并行性是指( )。
A.只有一个事件发生B.两个以上的事件不在同一时刻发生C.两个以上的事件不在同一时间间隔内发生D.两个以上的事件在同一时刻发生或同一时间间隔内发生√5.从执行程序的角度看，并行性等级最高的是( )。
A.指令内部并行B.作业或程序级并行√C.指令级并行D.任务级或过程级并行6.按指令流(I)和数据流(D)的组织方式，多处理机系统属于结构。
A.SISDB.SIMDC.MISDD.MIMD √7.按指令流(I)和数据流(D)的组织方式，多核处理机系统属于( )结构。
A.SISDB.SIMDC.MISDD.MIMD √8.多处理机实现( )级并行。
A.指令内部B.指令C.处理机内部D.作业或程序√9.在以下四种类型的MIMI)计算机中，只有( )不能采用商品化的通用微机来构成并行处理系统。
南开大学“物联网工程”《并行程序设计》23秋期末试题库含答案
南开大学“物联网工程”《并行程序设计》23秋期末试题库含答案第1卷一.综合考核(共20题)1.1) R=XR*1.3;G=XG*1.8;B=XB*1.1; 2) R=X[0]*1.3;G=X[1]*1.8;B=X[2]*1.1;这两个程序片段哪个进行向量化效率更高?A.1)B.2)C.不确定D.以上皆错2.SSE指令移动单精度浮点数，不能实现____。
A.将64位数据移动到SSE寄存器高位B.将64位数据移动到SSE寄存器低位C.将32位数据移动到SSE寄存器指定位置D.在两个SSE寄存器高/低64位间移动3.并行计算的新兴应用领域不包括_____。
A.制药B.数字媒体C.国防D.游戏4.如果运算对象是独立无关的变量，则在向量运算之前需_____。
A.将变量拷贝到连续区域B.将变量地址拷贝到连续区域C.将变量逐个传输到向量寄存器D.以上皆错5.CUDA线程层次中不包括()。
A.KernelB.GridC.BlockD.Thread6.7.8.MPI不包括的通信类别是____。
A.点对点通信B.数据传输组通信C.计算和数据传输组通信D.加锁解锁通信9.用pthread_barrier_init初始化障碍，应提供的参数不包括_____。
A.障碍对象B.障碍初值C.障碍属性D.参与的线程数10.多线程是()架构下的并行模式。
A.MIMDB.共享内存C.分布式内存D.分离式地址空间11.12.对于效率E，下面描述错误的是()。
A.理想并行E=1B.总是在0～1之间C.可能1D.可能随着处理器数量增大趋向于013.记并行时间为T，串行时间为T'，处理器数量为p，并行效率E的定义是____。
A.T'-TB.T'/TC.T'/pTD.pT-T'14.求解同一个问题的4个并行算法的等效率函数分析结果如下，其中()的可扩展性最优。
A.θ(plogp)B.θ(p^2)C.θ(p^2logp)D.θ(p^3)15.两个n*n的矩阵相乘，将所有n^2个乘法计算划分给不同进程，再将对应某行某列的n个乘法结果累加得到结果矩阵对应元素，这是一种划分____的数据并行。
并行计算-习题及答案-例题习题讲解
例题习题讲解例1 SIMD-SM上求最大值算法Beginfor k=m-1 to 0 dofor j=2k to 2k+1-1 par-doA[j]=max{A[2j], A[2j+1]}end forend forend时间分析t(n)=m×O(1)=O(logn)p(n)=n/2c(n)=O(nlogn) 非成本最优例2 令n=2k(k>=0)，求n个数和的并行算法算法运行时间：t(n)=O(logn)总运算量: W(n)=W(1)(n)+W(2)(n)+W(3)(n)=n+∑n/2h+1=O(n)由Brent定理知: t(n)=O(n/p+logn)例3 设A为矩阵，有如下串行程序段：f o r i=1t o n d of o r j=1t o n d oa[3i,2j]=a[3i-2,2j-1]e n df o re n df o r其相关方向向量为，可知行和列间同时存在数据相关。
在此我们可以试用行划分、列划分和方块划分.在行划分的情况下令m=┌n/p┐,例1的串行程序段可以转化为如下的并行程序段：f o r k=1t o P P a r-d of o r i1=1t o m d of o r j=1t o n d oa[3(k-1)m+3i1,2j]=a[3(k-1)m+3i1-2,2j-1]e n df o re n df o re n df o r例4 设A为一个n阶方阵，有如下串行程序段：f o r i=1t o n d of o r j=1t o n d oa[i,j]=a[i-1,j]e n df o re n df o r分析矩阵A的元素下标i和j，则i和j的相关方向向量为，各列之间数据无任何相关关系。
因此对矩阵A可按列划分。
串行程序段可转化为如下并行程序段：f o r k=1t o P P a r-d of o r j1=1t o m d of o r i=1t o n d oa[i,(k-1)m+j1]=a[i-1,(k-1)m+j1] e n d f o re n df o re n df o r例5注：本例无链路竞争和死锁现象例6 E立方选路0110(S)1101(D)1011(R)例7 DNS乘法示例C00=1×(-5)+2×7=9C01=1×(-6)+2×8=10C10=3×(-5)+4×7=13C11=3×(-6)+4×8=14例8 上三角方程组的回代解法并行化(1)SISD上的回代算法Begin(1)for i=n downto 1 do(1.1)x i=b i/a ii(1.2)for j=1 to i-1 dob j=b j-a ji x ia ji=0endforendforEnd(2)SIMD-CREW上的并行回代算法- 划分: p个处理器行循环带状划分- 算法Beginfor i=n downto 1 dox i=b i/a iifor all P j, where 1≤j≤p do for k=j to i-1 step p do b k=b k-a ki x ia ki=0endforendforendforEnd // p(n)=n, t(n)=n例9 n=8的BF网络表示P r,i与上层P r-1,i, P r-1,j相连, 这里j与i仅在第r位不同例10 一个在MPI中创建新通信域的例子M P I_C o m m M y W o r l d,S p l i t W o r l d;i n t m y_r a n k,g r o u p_s i z e,C o l o r,K e y;M P I_I n i t(&a r g c,&a r g v);M P I_C o m m_d u p(M P I_C O M M_W O R L D,&M y W o r l d);M P I_C o m m_r a n k(M y W o r l d,&m y_r a n k);M P I_C o m m_s i z e(M y W o r l d,&g r o u p_s i z e);C o l o r=m y_r a n k%3;K e y=m y_r a n k/3;M P I_C o m m_s p l i t(M y W o r l d,C o l o r,K e y,&S p l i t W o r l d);例11 考虑如下程序段：L1:f o r I=1t o50d o...S:X(2*I)=......T:...=...X(3*I+1)......e n df o r这里：f1(I)=2*I；g1(J)=3*J+1。
2011并行程序设计期末考试卷 - 参考答案
五、 矩阵相乘的另一种并行算法是 Fox 算法（Fox Algorithm） ：将待相乘的矩
阵 A 和 B 分成 p 个方块 Ai,j 和 Bi,j (0≤i,j≤ 并将它们分配给
p p
p 1 ),每块大小为(
n
p
)× ( nP0,1, … ,P
p 1 , p 1 )。开始时处理器
语句 S 流依赖于语句 T，即 T f S，满足依赖关系的偶对集合为： { <T(i), S(j)> | i = j -2 ; 6≤j≤100 }
语句 S 输出依赖于语句 U，即 U o S ，满足依赖关系的偶对集合为： { <U(i), S(j)> | i = j -1 ; 5≤j≤100 }
参考解答： 依题意，主要是完成函数 MPI_Type_indexed 的参数填写工作。 （1） 由下三角矩阵构成的派生消息类型 lowTriangle; count=N; // 下三角矩阵包含 N 个数据块 for(i=0;i<N;i++) blocklens[i] = i+1; //每块数据含 1、2、…、N 个数据 for(i=0;i<N;i++) indices[i] = i*N; //每块首元素偏移从 0、N、2*N…、(N-1)*N MPI_Type_indexed(count,blocklens,indices,MPI_INT,&lowTriangle); MPI_Type_commit(&lowTriangle); （2） 主条带派生消息类型 mainStripe count=N; // 主条带矩阵包含 N 个数据块 blocklens[0] = 2;//首个数据块包含 2 个 old_type 数据 blocklens[N-1] = 2; //最后的数据块包含 2 个 old_type 数据 for(i=1;i<N-1;i++) blocklens[i] = 3; //其余各块均包含 3 个 old_type 数据 indices[0] = 0;//首块偏移为 0； for(i=1;i<N;i++) indices[i] = i*(N+1);//其余各块偏移。 MPI_Type_indexed(count,blocklens,indices,MPI_INT,&mainStripe); MPI_Type_commit(&mainStripe); （3） 5×5 的上三角矩阵 upTriangle5 count = 5; //含 5 个数据块 for(i=0;i<5;i++) blocklens[i] = 5-i; // 每块长度依次为 5、4、3、2、1 indices[0] = 0;//首块偏移为 0； for(i=1;i<5;i++) indices[i] = i*(N+1);//其余各块偏移 MPI_Type_indexed(count,blocklens,indices,MPI_INT,&upTriangle5); MPI_Type_commit(&upTriangle5); if(rank==0){ MPI_Send(&SA[0][11],1, upTriangle5, 1,2012,MPI_COMM_WORLD); } else if(rank==1){ MPI_Recv(&SA[0][11],1,upTriangle5, 0,2012,MPI_COMM_WORLD,&status); }
并行算法考试题
1、名词解释：（1）等分宽度：把网络划分为两个相等的部分（节点数之多差1），所需要去掉的网络边的条数。
（2）网络直径：网络中两个节点之间的最远的距离（3）并行运行时间：从第一台处理机开始执行任务开始，到最后一台处理机执行完任务所经历的时间。
（4）并行步：能够同时执行的操作数。
（5）加速比：同一任务在串行计算下的运行时间/并行计算下的运行时间。
2、介绍超立方体网络互连方式的性能指标解答：q维超立方体，等分宽度为2q-1，网络直径：q，网络接口数：q3、按照指令流和数据流，并行计算机可以分为哪些类型？各自适合什么样的并行计算？排名在前20的计算机都是什么类型的计算机？它们的区别是什么？解答：（1）SIMD：适合指令/操作级并行（2）MIMD：适合块、回路或子程序级的并行4、并行算法有哪些设计方法？（1）流水线技术（2）分而治之策略（3）平衡二叉树方法（4）倍增技术（5）加速级联策略5、举例说明平衡树方法的原理？参考：使用n/2台计算机，可以在⎡⎤nlog步完成运算。
26、Logp模型有哪些参数？BSP模型有哪些参数？这两个模型之间的关系是什么？（1） L ：源处理机与目标处理机之间进行消息通信所需要等待的延迟时间上限（2） o ：处理机用于发送或接收每个消息的时间开销（3） g ：连续发送/接收消息的时间间隙（4） P ：处理机个数BSP 模型：（1） P ：处理机数（2） g ：选路器吞吐率（3） L ：全局同步之间的时间间隔关系：（1） 本质上等效，可以相互模拟（2） 用BSP 模拟LOGP 所进行的计算时，通常会慢常数倍。
（3） 反之，慢对数倍7、 题目记不清了，只要知道两个公式就可以了，对于logp ：L+2o 对于logGp ：t α+t β8、 计算加速比和效率的题，具体记不清了，只要会使用公式就可以了。
9、 关于群集系统中QR 分解的题目。
将矩阵的行列都分成5等分，得到它的25个任务，按照贪婪算法的调度思想，画出子任务执行的并行步。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
Reviews on parallel programming并行计算英文班复习考试范围及题型：（1—10章）1 基本概念解释；Translation (Chinese)2 问答题。
Questions and answer3 算法的画图描述。
Graphical description on algorithms4 编程。
AlgorithmsReviews on parallel programming并行计算1 基本概念解释；Translation (Chinese)SMPMPPCluster of WorkstationParallelism,pipelining,Network topology,diameter of a network,Bisection width,data decomposition,task dependency graphsgranularityconcurrencyprocessprocessor,linear array,mesh,hypercube,reduction,prefix-sum,gather,scatter,thread s,mutual exclusionshared address space,synchronization,the degree of concurrency,Dual of a communication operation,2 问答题。
Questions and answerChapter 1 第1章1) Why we need parallel computing? 1）为什么我们需要并行计算？答：2) Please explain what are the main difference between parallel computing and sequential computing 2）解释并行计算与串行计算在算法设计中的主要不同点在那里？答：Chapter 2 第2章1) What are SIMD, SPMD and MIMD denote? 1）解释SIMD, SPMD 和 MIMD是什么含义。
答：2) Please draw a typical architecture of SIMD and a typical architecture of MIMD to explan. 2）请绘制一个典型的SIMD的体系结构和MIMD的架构。
答：3) What are the two typical communication models of Parallel Platforms? You can give a short introduction on Massage Passing and Shared address space models.3）并行平台的两个典型的通信模式是什么？你可以给一个简短的介绍信息传递和共享地址空间模型。
能说出Massage Passing和Shared address space models两种通讯模型。
答：4) In the ideal parallel random access machine(PRAM), what are the meaning of EREW, CREW and CRCW?4）在理想并行计算模型中（parallel random access machine(PRAM), EREW, CREW, 和CRCW表示的意思是什么？答：Chapter 3 第3章1) Be able to explain at least 2 kinds of the basic decomposition techniques, i.e., Recursive decomposition, Data decomposition, Exploration decomposition and Speculative decomposition.1）能够解释的基本的把问题分解技术，至少有2种，例如，递归分解，数据分解，探索分解和投机分解。
(1)递归分解，如快速排序(2)数据分解，矩阵乘法，矩阵与向量的乘法，按行或格网的数据划分。
(3)探索分解，人工智能中的状态空间的问题求解、如16数码问题。
(4)投机分解，利用处理器大多数时间处于空闲的特点，把后面可以先计算的任务，提前计算出，在许多情况下会加速程序的运行。
如对 case, if 语句的句子同时计算出来。
答：2) When the work balance of tasks become bed, which is scheduled based on data decomposition, what methods can improve the work balance of tasks, block-cyclic distribution, Randomized block distributions and graph partitioning.2）当平衡工作的任务成为基于数据分解，有什么方法可以改善平衡工作的任务。
对稀疏矩阵或在同一数据集合上，操作密度不同的计算，如何达到调度平衡的问题, 具体方法是什么：(1)block-cyclic distribution （采用在一个矩阵上循环安排任务计算完成的方法） (2)对矩阵的下标采用随机映射的方法 (3)图划分的方法答：Chapter 4 第4章1) Be familiar with the basic communication operations as well as their implementations on the typical models, hypercube, linear array and mesh (graphical description)1）熟悉的基本通信业务，以及对他们的典型模式实现，超立方体，线性阵列和网状（图形描述）one to all broadcast; all to one reductionall to all broadcast; all to all reductionscatter, gather, all reduce, prefix sum，all to all personalized communication. Circular shift个人认为以下的1-4更为重要，算法实现没必要记住，但是要知道每个操作具体是怎么做的答：2) be able to use basic communication operation to design parallel algorithms, e.g.matrix-vector multiplication, shortest path trees and minimum spanning tree.2）能使用基本的通信操作设计并行算法，例如：矩阵向量乘法，最短路径树和最小生成树。
答：Chapter 5 第5章1) The formulae of speedup, efficiency and cost of a parallel algorithm and be able to givea short exolaination.1）并行算法的加速，效率和成本的计算公式，并能给出一个简短解释。
(1)知道并行算法的分析测度，以及相应的测度计算公式。
(2)并行算法并行加速比S，S = Ts/Tp ， Tp 和Ts 表示并行算法和串行算法的时间复杂性。
(3)效率E = E= S/p= Ts/（Tp*p）,(4)费用cost = P * Tp答：2) The proof on Amdahl’s law: If a problem of size W has a serial component Ws, prove that W/Ws is an upper bound on its speedup, no matter how many processing elements are used.2）Amdahl定理的证明：设W表示某算法A求解问题的全部工作量，W= Ws+Wp, 其中 Ws 表示必须串行计算的工作量；Wp表示可以并行计算的工作量。
试证明该算法的并行加速比的上界是W/Ws ，无论有多少个处理单元。
答：1) Be able to describe the program architecture of a MPI program.1）能够来描述程序的MPI程序架构。
#include <mpi.h>Main(int argc, char *argv[]){int npes, myrank;MPI_init(&argc, &argv);MPI_Comm_szie(MPI_COMM_WORLD, &npes);MPI_Comm_rank(MPI_COMM_WORLD, &myrank);并行程序代码部分通讯结束部分MPI_Finilize()}2) fundimental functions for MPIa) MPI_Init establishing a parallel computational environmentb) MPI_Finalize closes all parallel tasksc) MPI_Comm_size get the number of processes availabled) MPI_Comm_rank get the id of processe) MPI_send message sending functionsf) MPI_Recv message receiving functions2）了解MPI的基本函数1）MPI_INIT建立一个并行计算环境2）MPI_Finalize关闭所有并行任务3）MPI_Comm_size获得可用的进程数4）MPI_Comm_rank得到进程ID5）MPI_send消息发送功能6）MPI_Recv消息接收功能3) Blocking and non-block message passing in MPI_Send.a) Return only after the corresponding MPI_Recv have been issued and the message has been sent to the receiver (blocking) completely.b) Initialize a process to copy the message into a buffer of the destination and then return (non-blocking with a buffer) without waiting the finish of the data transformation.Please give the corresponding sentences for the two kinds of massage passing in MPI.3）能说明在MPI_Send中的阻塞的消息传递（blocking Message Passing）和无阻塞的消息传递（Non-blocking Message Passing）的含义和具体如何实现的。