POSIX线程程序设计(中文版)

POSIX 多线程程序设计

Blaise Barney, Lawrence Livermore National Laboratory

目录表

1.摘要

2.Pthreads 概述

1.什么是线程?

2.什么是Pthreads?

3.为什么使用Pthreads?

4.使用线程设计程序

3.Pthreads API编译多线程程序

4.线程管理

1.创建和终止线程

2.向线程传递参数

3.连接（Joining）和分离（Detaching）线程

4.栈管理

5.其它函数

5.互斥量（Mutex Variables）

1.互斥量概述

2.创建和销毁互斥量

3.锁定（Locking）和解锁（Unlocking）互斥量

6.条件变量（Condition Variable）

1.条件变量概述

2.创建和销毁条件变量

3.等待（Waiting）和发送信号（Signaling）

7.没有覆盖的主题

8.Pthread 库API参考

9.参考资料

在多处理器共享内存的架构中（如：对称多处理系统SMP），线程可以用于实现程序的并行性。历史上硬件销售商实现了各种私有版本的多线程库，使得软件开发者不得不关心它的移植性。对于UNIX系统，IEEE POSIX 1003.1标准定义了一个C语言多线程编程接口。依附于该标准的实现被称为POSIX theads 或Pthreads。

该教程介绍了Pthreads的概念、动机和设计思想。内容包含了Pthreads API主要的三大类函数：线程管理（Thread Managment）、互斥量（Mutex Variables）和

条件变量（Condition Variables）。向刚开始学习Pthreads的程序员提供了演示例程。

适于：刚开始学习使用线程实现并行程序设计；对于C并行程序设计有基本了解。不熟悉并行程序设计的可以参考EC3500: Introduction To Parallel Computing。

什么是线程?

?技术上，线程可以定义为：可以被操作系统调度的独立的指令流。但是这是什么意思呢？

?对于软件开发者，在主程序中运行的“函数过程”可以很好的描述线程的概念。

?进一步，想象下主程序（a.out）包含了许多函数，操作系统可以调度这些函数，使之同时或者（和）独立的执行。这就描述了“多线程”程序。

?怎样完成的呢？

?在理解线程之前，应先对UNIX进程（process）有所了解。进程被操作系统创建，需要相当多的“额外开销”。进程包含了程序的资源和执行状态信息。如下：

o进程ID，进程group ID，用户ID和group ID

o环境

o工作目录

o程序指令

o寄存器

o栈

o堆

o文件描述符

o信号动作（Signal actions）

o共享库

o进程间通信工具（如：消息队列，管道，信号量或共享内存）

UNIX PROCESS THREADS WITHIN A UNIX

PROCESS

?线程使用并存在于进程资源中，还可以被操作系统调用并独立地运行，这主要是因为线程仅仅复制必要的资源以使自己得以存在并执行。

?独立的控制流得以实现是因为线程维持着自己的：

o堆栈指针

o寄存器

o调度属性（如：策略或优先级）

o待定的和阻塞的信号集合（Set of pending and blocked signals）

o线程专用数据（TSD：Thread Specific Data.）

?因此，在UNIX环境下线程：

o存在于进程，使用进程资源

o拥有自己独立的控制流，只要父进程存在并且操作系统支持

o只复制必可以使得独立调度的必要资源

o可以和其他线程独立（或非独立的）地共享进程资源

o当父进程结束时结束，或者相关类似的

o是“轻型的”，因为大部分额外开销已经在进程创建时完成了

?因为在同一个进程中的线程共享资源：

o一个线程对系统资源（如关闭一个文件）的改变对所有其它线程是可以见的

o两个同样值的指针指向相同的数据

o读写同一个内存位置是可能的，因此需要成员显式地使用同步

什么是Pthreads?

?历史上，硬件销售商实现了私有版本的多线程库。这些实现在本质上各自不同，使得程序员难于开发可移植的应用程序。

?为了使用线程所提供的强大优点，需要一个标准的程序接口。对于UNIX 系统，IEEE POSIX 1003.1c（1995）标准制订了这一标准接口。依赖于该标准的实现就称为POSIX threads 或者Pthreads。现在多数硬件销售商也提供Pthreads，附加于私有的API。

?Pthreads 被定义为一些C语言类型和函数调用，用pthread.h头（包含）文件和线程库实现。这个库可以是其它库的一部分，如libc。

为什么使用Pthreads?

?使用Pthreads的主要动机是提高潜在程序的性能。

?当与创建和管理进程的花费相比，线程可以使用操作系统较少的开销，管理线程需要较少的系统资源。

例如，下表比较了fork()函数和pthread_create()函数所用的时间。计时反应了50,000个进程/线程的创建，使用时间工具实现，单位是秒，没有优化标志。

备注：不要期待系统和用户时间加起来就是真实时间，因为这些SMP系统有多个CPU同时工作。这些都是近似值。

fork_vs_thread.txt

?

在同一个进程中的所有线程共享同样的地址空间。较于进程间的通信，在许多情况下线程间的通信效率比较高，且易于使用。 ? 较于没有使用线程的程序，使用线程的应用程序有潜在的性能增益和实际的优点：

o CPU 使用I/O 交叠工作：例如，一个程序可能有一个需要较长时间的I/O 操作，当一个线程等待I/O 系统调用完成时，CPU 可以被其它线程使用。

o 优先/实时调度：比较重要的任务可以被调度，替换或者中断较低优先级的任务。

o 异步事件处理：频率和持续时间不确定的任务可以交错。例如，web 服务器可以同时为前一个请求传输数据和管理新请求。

? 考虑在SMP 架构上使用Pthreads 的主要动机是获的最优的性能。特别的，如果一个程序使用MPI 在节点通信，使用Pthreads 可以使得节点数据传输得到显著提高。 ? 例如：

o MPI 库经常用共享内存实现节点任务通信，这至少需要一次内存复制操作（进程到进程）。

o Pthreads 没有中间的内存复制，因为线程和一个进程共享同样的地址空间。没有数据传输。变成cache-to-CPU 或memory-to-CPU 的带宽（最坏情况），速度是相当的快。 o 比较如下：

使用线程设计程序

并行编程:

?在现代多CPU机器上，pthread非常适于并行编程。可以用于并行程序设计的，也可以用于pthread程序设计。

?并行程序要考虑许多，如下：

o用什么并行程序设计模型？

o问题划分

o加载平衡（Load balancing）

o通信

o数据依赖

o同步和竞争条件

o内存问题

o I/O问题

o程序复杂度

o程序员的努力/花费/时间

o...

?包含这些主题超出本教程的范围，有兴趣的读者可以快速浏览下“Introduction to Parallel Computing”教程。

?大体上，为了使用Pthreads的优点，必须将任务组织程离散的，独立的，可以并发执行的。例如，如果routine1和routine2可以互换，相互交叉和（或者）重叠，他们就可以线程化。

?拥有下述特性的程序可以使用pthreads：

o工作可以被多个任务同时执行，或者数据可以同时被多个任务操作。

o阻塞与潜在的长时间I/O等待。

o在某些地方使用很多CPU循环而其他地方没有。

o对异步事件必须响应。

o一些工作比其他的重要（优先级中断）。

?Pthreads 也可以用于串行程序，模拟并行执行。很好例子就是经典的web 浏览器，对于多数人，运行于单CPU的桌面/膝上机器，许多东西可以同时“显示”出来。

?使用线程编程的几种常见模型：

o管理者/工作者（Manager/worker）：一个单线程，作为管理器将工作分配给其它线程（工作者），典型的，管理器处理所有输入和

分配工作给其它任务。至少两种形式的manager/worker模型比较常

用：静态worker池和动态worker池。

o管道（Pipeline）：任务可以被划分为一系列子操作，每一个被串行处理，但是不同的线程并发处理。汽车装配线可以很好的描述这

个模型。

o Peer:和manager/worker模型相似，但是主线程在创建了其它线程后，自己也参与工作。

共享内存模型（Shared Memory Model）:

?所有线程可以访问全局，共享内存

?线程也有自己私有的数据

?程序员负责对全局共享数据的同步存取（保护）

线程安全（Thread-safeness）:

?线程安全：简短的说，指程序可以同时执行多个线程却不会“破坏“共享数据或者产生“竞争”条件的能力。

?例如：假设你的程序创建了几个线程，每一个调用相同的库函数：o这个库函数存取/修改了一个全局结构或内存中的位置。

o当每个线程调用这个函数时，可能同时去修改这个全局结构活内存位置。

o如果函数没有使用同步机制去阻止数据破坏，这时，就不是线程安

全的了。

?如果你不是100%确定外部库函数是线程安全的，自己负责所可能引发的问题。

?建议：小心使用库或者对象，当不能明确确定是否是线程安全的。若有疑虑，假设其不是线程安全的直到得以证明。可以通过不断地使用不确定的函数找出问题所在。

?Pthreads API在ANSI/IEEE POSIX 1003.1 – 1995标准中定义。不像MPI，该标准不是免费的，必须向IEEE购买。

?Pthreads API中的函数可以非正式的划分为三大类：

1.线程管理（Thread management）:第一类函数直接用于线程：创

建（creating），分离（detaching），连接（joining）等等。包含了

用于设置和查询线程属性（可连接，调度属性等）的函数。

2.互斥量（Mutexes）:第二类函数是用于线程同步的，称为互斥量

（mutexes），是"mutual exclusion"的缩写。Mutex函数提供了创建，

销毁，锁定和解锁互斥量的功能。同时还包括了一些用于设定或修

改互斥量属性的函数。

3.条件变量（Condition variables）：第三类函数处理共享一个互斥

量的线程间的通信，基于程序员指定的条件。这类函数包括指定的

条件变量的创建，销毁，等待和受信（signal）。设置查询条件变

量属性的函数也包含其中。

?命名约定：线程库中的所有标识符都以pthread开头

?在API的设计中充满了不透明对象的概念，基本调用可以创建或修改不透明对象。不透明的对象可以被一些属性函数调用修改。

?Pthread API包含了60多个函数。该教程仅限于一部分（对于刚开始学习Pthread的程序是非常有用的）。

?为了可移植性，使用Pthread库时，pthread.h头文件必须在每个源文件中包含。

?现行POSIX标准仅定义了C语言的使用。Fortran程序员可以嵌入C函数调用使用，有些Fortran编译器（像IBM AIX Fortran）可能提供了Fortran pthreads API。

?关于Pthreads有些比较优秀的书籍。其中一些在该教程的参考一节列出。

?下表列出了一些编译使用了pthreads库程序的命令：

创建和结束线程

创建线程:

? 最初，main 函数包含了一个缺省的线程。其它线程则需要程序员显式地创建。

? pthread_create 创建一个新线程并使之运行起来。该函数可以在程序的任何地方调用。

?

pthread_create 参数：

o thread ：返回一个不透明的，唯一的新线程标识符。

o attr ：不透明的线程属性对象。可以指定一个线程属性对象，或者NULL 为缺省值。

o start_routine ：线程将会执行一次的C 函数。

o arg: 传递给start_routine 单个参数，传递时必须转换成指向void 的指针类型。没有参数传递时，可设置为NULL 。

? 一个进程可以创建的线程最大数量取决于系统实现。

?

一旦创建，线程就称为peers ，可以创建其它线程。线程之间没有指定的结构和依赖关系。

Q：一个线程被创建后，怎么知道操作系统何时调度该线程使之运行？

A：除非使用了Pthreads的调度机制，否则线程何时何地被执行取决于操作系统的实现。强壮的程序应该不依赖于线程执行的顺序。

线程属性:

?线程被创建时会带有默认的属性。其中的一些属性可以被程序员用线程属性对象来修改。

?pthread_attr_init和pthread_attr_destroy用于初始化/销毁先成属性对象。

?其它的一些函数用于查询和设置线程属性对象的指定属性。

?一些属性下面将会讨论。

结束终止:

?结束线程的方法有一下几种：

o线程从主线程（main函数的初始线程）返回。

o线程调用了pthread_exit函数。

o其它线程使用pthread_cancel函数结束线程。

o调用exec或者exit函数，整个进程结束。

?pthread_exit用于显式退出线程。典型地，pthread_exit()函数在线程完成工作时，不在需要时候被调用，退出线程。

?如果main()在其他线程创建前用pthread_exit()退出了，其他线程将会继续执行。否则，他们会随着main的结束而终止。

?程序员可以可选择的指定终止状态，当任何线程连接（join）该线程时，该状态就返回给连接（join）该线程的线程。

?清理：pthread_exit()函数并不会关闭文件，任何在线程中打开的文件将会一直处于打开状态，知道线程结束。

?讨论：对于正常退出，可以免于调用pthread_exit()。当然，除非你想返回一个返回值。然而，在main中，有一个问题，就是当main结束时，其它线程还没有被创建。如果此时没有显式的调用pthread_exit()，当

main结束时，进程（和所有线程）都会终止。可以在main中调用

pthread_exit()，此时尽管在main中已经没有可执行的代码了，进程和所有线程将保持存活状态，。

例子: Pthread 创建和终止

?该例用pthread_create()创建了5个线程。每一个线程都会打印一条“Hello World”的消息，然后调用pthread_exit()终止线程。

Example Code - Pthread Creation and Termination

}

向线程传递参数

?pthread_create()函数允许程序员想线程的start routine传递一个参数。当多个参数需要被传递时，可以通过定义一个结构体包含所有要传的参数，然后用pthread_create()传递一个指向改结构体的指针，来打破传递参数的个数的限制。

?所有参数都应该传引用传递并转化成（void*）。

Q：怎样安全地向一个新创建的线程传递数据？

A：确保所传递的数据是线程安全的（不能被其他线程修改）。下面三个Example 1 - Thread Argument Passing

}

Example 2 - Thread Argument Passing

}

Example 3 - Thread Argument Passing

}

连接（Joining）和分离（Detaching）线程

连接:

?“连接”是一种在线程间完成同步的方法。例如：

?pthread_join()函数阻赛调用线程知道threadid所指定的线程终止。

?如果在目标线程中调用pthread_exit()，程序员可以在主线程中获得目标线程的终止状态。

?连接线程只能用pthread_join()连接一次。若多次调用就会发生逻辑错误。

?两种同步方法，互斥量（mutexes）和条件变量（condition variables），稍后讨论。

可连接（Joinable or Not）?

?当一个线程被创建，它有一个属性定义了它是可连接的（joinable）还是分离的（detached）。只有是可连接的线程才能被连接（joined），若果创建的线程是分离的，则不能连接。

?POSIX标准的最终草案指定了线程必须创建成可连接的。然而，并非所有实现都遵循此约定。

?使用pthread_create()的attr参数可以显式的创建可连接或分离的线程，典型四步如下：

1.声明一个pthread_attr_t数据类型的线程属性变量

2.用pthread_attr_init()初始化改属性变量

3.用pthread_attr_setdetachstate()设置可分离状态属性

4.完了后，用pthread_attr_destroy()释放属性所占用的库资源

分离（Detaching）：

?pthread_detach()可以显式用于分离线程，尽管创建时是可连接的。

?没有与pthread_detach()功能相反的函数

建议：

?若线程需要连接，考虑创建时显式设置为可连接的。因为并非所有创建线程的实现都是将线程创建为可连接的。

?若事先知道线程从不需要连接，考虑创建线程时将其设置为可分离状态。

一些系统资源可能需要释放。

例子: Pthread Joining

Example Code - Pthread Joining

#define NUM_THREADS 3

void *BusyWork(void *null)

{

int i;

double result=0.0;

for (i=0; i<1000000; i++)

{

result = result + (double)random();

}

printf("result = %e\n",result);

pthread_exit((void *) 0);

}

int main (int argc, char *argv[])

{

pthread_t thread[NUM_THREADS];

pthread_attr_t attr;

int rc, t;

void *status;

/* Initialize and set thread detached attribute */ pthread_attr_init(&attr);

pthread_attr_setdetachstate(&attr,

PTHREAD_CREATE_JOINABLE);

for(t=0; t

{

printf("Creating thread %d\n", t);

rc = pthread_create(&thread[t], &attr, BusyWork, NULL); if (rc)

{

printf("ERROR; return code from pthread_create()

is %d\n", rc);

exit(-1);

}

}

/* Free attribute and wait for the other threads */ pthread_attr_destroy(&attr);

for(t=0; t

{

rc = pthread_join(thread[t], &status);

if (rc)

}

栈管理

防止栈问题:

?POSIX标准并没有指定线程栈的大小，依赖于实现并随实现变化。

?很容易超出默认的栈大小，常见结果：程序终止或者数据损坏。

?安全和可移植的程序应该不依赖于默认的栈限制，但是取而代之的是用pthread_attr_setstacksize分配足够的栈大小。

?pthread_attr_getstackaddr和pthread_attr_setstackaddr函数可以被程序用于将栈设置在指定的内存区域。

在LC上的一些实际例子:

?默认栈大小经常变化很大，最大值也变化很大，可能会依赖于每个节点的线程数目。

例子: 栈管理

Example Code - Stack Management