MPI程序进程间的通信

– 从进程：
• 计算所分到的行与一维矩阵的积 • 当从进程计算完成时如果矩阵还有行没有被分配继续向主进程 提起分配请求
二 进程间通信的程序设计
四 实验步骤
2 通过mpicc编译和链接生成可执行文件
– $mpicc -o matvec.o -l m matvec1.c
3 通过mpirun运行matvec.o查看输出结果
二 进程间通信的程序设计
35～57MPI程序的初始化
• 35 MPI_Init ( &argc, &argv ); – MPI程序初始化 • 37 elapsed_time = -MPI_Wtime(); – 记录程序开始的时间以便以后统计程序运行时间 • 41 ierr = MPI_Comm_rank ( MPI_COMM_WORLD, &my_id ); – 获取本进程的id • 45 ierr = MPI_Comm_size ( MPI_COMM_WORLD, &num_procs ); – 获取进程数
一 MPI进程间通信基本概念
• 基础函数
– 同步
int MPI_Barrier(MPI_Comm comm) comm 进程所在通信域
MPI_BARRIER阻塞所有的调用者直到所有的组成员 都调用了它，各个进程中这个调用才可以返回。
一 MPI进程间通信基础
• 预定义数据类型
MPI预定义数据类型 C数据类型
– 一类进程的集合，且在该集合内，进程间可以 相互通信； – 任何MPI通信函数均必须在某个通信域内发生； – MPI缺省的通信域MPI_COMM_WORLD，所 有启动的MPI进程通过调用函数MPI_Init()，包 含在该通信域内； – 各进程通过函数MPI_Comm_size()获取通信域 包含的(初始启动)的MPI进程个数;
一 MPI进程间通信基本概念
• 基础函数
– 消息发送 int MPI_Send(void* buf, int count, MPI_Datatype datatype, int dest, int tag, MPI_Comm comm)
buf 发送缓冲区的起始地址 count 将发送的数据的个数 datatype 发送数据的数据类型 dest 目的进程标识号 tag 消息标志 comm 通信域
一 MPI进程间通信基本概念
• 基础函数 – 通信域包含的进程数
int MPI_Comm_size(MPI_Comm comm, int *size)
comm 进程所在通信域 size 返回通信域内进程数
这一调用返回给定的通信域中所包括的进程的个数，不同的进程 通过这一调用得知在给定的通信域中一共有多少个进程在并行执 行。
– 主进程分配矩阵，及运算结果的内存空间
二 进程间通信的程序设计
– 主进程：
• • • • • • • • • • 71 for ( i = 1; i <= m; i++ ) 72 { 73 for ( j = 1; j <= n; j++ ) 74 { 75 a[k] = sqrt ( 2.0 / ( double ) ( n + 1 ) ) 77 * ( ( double ) ( i * j ) * pi / ( double ) ( n + 1 ) ); 79 fflush(stdout); 80 k = k + 1; 81 } 82 } – 初始化矩阵的值
M*1
按行分解
二 进程间通信的程序设计
三 实验原理
矩阵乘法被分 解为了M个任 务，可以分别 交给各个进程 运算然后进行 汇总
a
b . c ×
d
e .
f ×
. . .
a b c . . d a b c . . d
一 MPI进程间通信基础
• 程序设计模式
– 对等模式
• 对等模式中，各个进程的地位相同。功能和代码基 本一致，只是处理的数据或对象不同 ，比如我们之 前看到的helloworld程序
– 主从模式
• 有一个进程居于主导地位，由它控制、协调其他. 进 程完成计算. 比如本实验要设计的程序。
二 进程间通信的程序设计
实验三 MPI程序进程间的通信
一 MPI进程间通信基本概念
• MPI是一种消息传递模型，驻留在不同处理 器上的进程通过传递消息相互通信，从而 实现不同进程间的数据互访。 • MPI是一种标准或规范，它的实现包括 MPICH、LAM、IBM MPL等多个版本 • MPI虽然很庞大，但是它的最终目的是实现 进程间的通信
MPI_CHAR
MPI_SHORT MPI_INT
signed char
signed short int signed int
MPI_LONG
MPI_FLOAT MPI_DOUBLE MPI_LONG_DOUBLE
signed long int
float double long double
一 MPI进程间通信基础
MPI_Finalize是MPI程序的最后一个调用，它结束MPI 程序的运行，它是MPI程序的最后一条可执行语句。
一 MPI进程间通信基本概念
• 基础函数
– 当前进程标识 int MPI_Comm_rank(MPI_Comm comm, int *rank)
comm 进程通信域 rank 返回进程在通信域中的标识 这一调用返回调用进程在给定的通信域中的进程标识 号，有了这一标识号不同的进程就可以将自身和其它 的进程区别开来，实现各进程的并行和协作。
一 MPI进程间通信基本概念
• 基础函数 – MPI初始化
int MPI_Init(int *argc, char ***argv)
MPI_Init是MPI程序的第一个调用，它完成MPI程序所 有的初始化工作，所有MPI程序 的第一条可执行语 句都是这条语句。
– MPI结束
int MPI_Finalize(void)
一 MPI进程间通信基本概念
•
基础函数
– 消息接收 int MPI_Recv(void* buf, int count, MPI_Datatype datatype, int source, int tag,MPI_Comm comm, MPI_Status *status)
buf 接收缓冲区的起始地址 count 最多可接收的数据的个数 datatype 接收数据的数据类型 source 接收数据的来源即发送数据的进程的进程标识号 tag 消息标识与相应的发送操作的表示相匹配相同 comm 本进程和发送进程所在的通信域 status 返回状态
– $mpirun –np 4 ./matvec.o
二 进程间通信的程序设计
五 进程间通信的示意图
MPI_Init 主进程 生成矩阵 从进程 从进程
…
从进程
将用于相乘的一维矩 阵广播給各从进程
二 进程间通信的程序设计
主进程 从进程
.
.
. .
从进程
发送矩阵的 一行
运算与一维矩阵的积并返回给主进程 Y 是否还有未 发送的行？ N： 发送 带完成标 记的消息 打印结果
一 实验目的 • 1 理解MPI程序设计中进程的通信方式 • 2 运用MPI的计时器功能测定程序运行时间 二 实验要求 设计两个矩阵相乘的并行程序，通过对矩 阵按行分解实现并行计算。
二 进程间通信的程序设计
三 实验原理
a b . d e . . . . h i l
M*N
矩阵乘法
c f k j
• 预定义数据类型
MPI预定义数据类型 MPI_UNSIGNED_CHAR C数据类型 unsigned char
MPI_UNSIGNED_SHORT unsigned short int MPI_UNSIGNED MPI_UNSIGNED_LONG unsigned int unsigned long int
一 MPI进程间通信基本概念
• 消息的构成
– MPI消息包括信封和数据两个部分
• • • • 信封指出了发送或接收消息的对象及相关信息而 数据是本消息将要传递的内容 信封：<源/目><标识><通信域> 数据：<起始地址><数据个数>数据类型>
一 MPI进程间通信基本概念
• 通信域(Communicator)：
MPI_Finalize()
二 进程间通信的程序设计
六 参考程序简要说明：
1~32声明头文件及变量：
• • • • • • • • double *a 声明矩阵 double *a_row 矩阵里面的一行 double ans 缓存被乘数矩阵一行与一维矩阵的积 double *x 声明一维矩阵 double *b 矩阵相乘的结果 int dest 发送消息的目的进程标识 int master = 0 主进程 MPI_Status status 声明MPI_status类型由于记录消息传递状 态信息 • Int tag 声明消息标记 • int tag_done = 1000 将标记1000作为任务完成的标记 •
a b c . . d
a b c . . d



矩阵乘法
z2
d*a+e*b+….+f*d =
d
e .
f ×
zm
h*a+i*b+….+j*d
=
h
i l
×
a b c . . d
N*1
=