概率统计与随机过程知识点总结--最终版
《概率统计与随机过程》知识总结
第1章 随机事件及其概率
一、随机事件与样本空间 1、随机试验
我们将具有以下三个特征的试验称为随机试验，简称试验， （1）重复性：试验可以在相同的条件下重复进行；
（2）多样性：试验的可能结果不止一个，并且一切可能的结果都已知； （3）随机性：在每次试验前，不能确定哪一个结果会出现。
随机试验一般用大写字母E 表示，随机试验中出现的各种可能结果称为试验的基本结果。 2、样本空间
随机试验E 的所有可能结果组成的集合称为试验的样本空间，记为S ，样本空间中的元素，即E 的每个基本结果，称为样本点。 3、随机事件
称随机试验E 的样本空间S 的子集为E 的随机事件，简称事件。 随机事件通常利用大写字母A 、B 、C 等来表示。
在一次试验中，当且仅当这一子集（事件）中的某个样本点出现时，称这一事件发生。 特别地，将只含有一个样本点的事件称为基本事件；
样本空间S 包含所有的样本点，它在每次试验中都发生，称S 为必然事件；
事件?（S ??）不包含任何样本点，它在每次试验中都不发生，称?为不可能事件。 4、随机事件间的关系及运算
（1）包含关系：若B A ?，则称事件A 包含事件B ，也称事件B 含在事件A 中，它表示：若事件B 发生必导致事件A 发生。
（2）相等关系：若B A ?且A B ?，则称事件A 与事件B 相等，记为A B =。 （3）事件的和：称事件{|A B x x A ?=∈或}x B ∈为事件A 与事件B 的和事件。 事件A B ?发生意味着事件A 发生或事件B 发生，即事件A 与事件B 至少有一件发生。
类似地，称1
n i i A =?为n 个事件12n A A A ?、、
、的和事件，称1
i i A ∞
=?为可列个事件12 A A ?、、的和事件。
（4）事件的积：称事件{|A B x x A ?=∈且}x B ∈为事件A 与事件B 的积事件。 事件A B ?发生意味着事件A 发生且事件B 发生，即事件A 与事件B 都发生。
A B ?简记为AB 。
类似地，称1
n i i A =?为n 个事件12n A A A ?、、
、的积事件，称1
i i A ∞
=?为可列个事件12 A A ?、、的积事件。
（5）事件的差：称事件{|A B x x A -=∈且}x B ?为事件A 与事件B 的差事件。 事件A B -发生意味着事件A 发生且事件B 不发生。（A B AB A AB -==-）
（6）互不相容（互斥关系）：若A B ?=?，则称事件A 与事件B 互不相容，又称事件A
与事件B 互斥。事件A 与B 互不相容意味着事件A 与B 不可能同时发生。 （7）互逆关系（对立关系）：若A B S ?=且A B ?=?，则称事件A 与事件B 互为逆事
件，又称事件A 与事件B 互为对立事件，记为A B =或B A =。 注意：事件A 的对立事件记为A ；基本事件是两两互不相容的； 对立事件与互斥事件的关系：对立一定互斥，但互斥不一定对立。 事件的运算满足的规律：
交换律：A B B A ?=? A B B A ?=?；
结合律：()()A B C A B C ??=?? ()()A B C A B C ??=??；
分配律：()()()A B C A B A C ??=??? ()()()A B C A B A C ??=???； 对偶律：A B A B ?=? A B A B ?=? (德·摩根律)
二、随机事件的概率 1、频率
在相同的条件下，将一个试验重复进行n 次，在这n 次试验中，记事件A 发生的次数为A N 次，称比值
A
N n
为事件A 在这n 次试验中发生的频率，记为()n f A 。 频率描述了事件发生的频繁程度。 频率所具有的三个性质： 性质1：非负性 ()01n f A ≤≤； 性质2：规性 ()1n f S =；
性质3：可加性 如果事件12 , ,, k A A A ?两两互不相容，则
()()()()1212 n k n n n k f A A A f A f A f A ????=++?+。
2、概率的公理化定义
设E 是随机试验, S 是它的样本空间, 对于E 的每一事件A 赋予一个实数, 记为P (A ), 称为事件A 的概率，且满足以下三条公理： 非负性：对于任意事件A , 有P (A )≥0; 规性：对于必然事件S , 有P (S )=1;
可列可加性：设A 1,A 2,...是两两互不相容事件, 即对于i ≠j , A i A j =f , i ,j =1,2,..., 则有 P (A 1?A 2?...)=P (A 1)+P (A 2)+...
3、概率的性质
性质1 对不可能事件?，有P (?)=0.
性质2(有限可加性) 若A 1,A 2,...,A n 是两两互不相容的n 个事件, 则有
P (A 1?A 2?...?A n )=P (A 1)+P (A 2)+...+P (A n )
性质3(逆事件的概率) 对任意事件A , 有()1()P A P A =-
性质4 设A ,B 是两个事件, 若B ?A , 则有P (A -B )=P (A )-P (B ) P (A )≥P (B ) 性质5 对于任意事件A , P (A )≤1
性质6(加法公式) 对任意两个事件A ,B 有P (A ?B )=P (A )+P (B )-P (AB ) 性质6的推论：() P A B ?()()P A P B ≤+ 性质6的推广：
()P A B C ??()()()()()()()P A P B P C P AB P AC P BC P ABC =++---+
1n i i P A =??
? ???()1n
i i P A ==∑()1,i j i j n P A A ≤≤-∑()
1,,i j k i j k n
P A A A ≤≤+∑()()1121n n P A A A --?+-?
三、古典概率模型 1、古典概率模型
若随机试验满足下述两个条件：
(1) 它的样本空间只含有有限个样本点，即基本事件数有限； (2) 每个样本点出现的可能性相同.
称这种试验为古典概率模型，简称古典概型，又称为等可能概率模型。 若事件A 包含k 个基本事件，即{}{}
{}
12 k i i i A e e e =??
?，则有
()P A k n =
A S =包含的基本事件数中的基本事件总数
四、条件概率、全概率公式与贝叶斯公式 1、条件概率
设A 、B 是两个事件，且P (B )>0,则称()
(|)()
P AB P A B P B =(1)为在事件B 发生的条件下,事件A 的条件概率.
2、条件概率的性质
条件概率()|P A ?具备概率定义的三个条件： （1）非负性：对于任意的事件B ，()|0P B A ≥； （2）规性：()|1P S A =；
（3）可列可加性：设12,,B B …是两两互斥事件，则有：()11
i i i i P B A P B A ∞
∞==???= ???∑。
3、乘法公式
由条件概率的定义：()
(|)()
P AB P A B P B =
即得乘法定理：
若P (B )>0，则P (AB )=P (B )P (A |B )； 若P (A )>0 ，则P (AB )=P (A )P (B |A ). 乘法定理可以推广到多个事件的积事件的情况，
设A 、B 、C 为三个事件，且()0P AB >，且()()()()||P ABC P C AB P B A P A =， 一般地，设有n 个事件12,, , , 2 ,n A A A n ?≥并且()1210n P A A A -?>，则由条件概率的定义可得：
()()()()()()
1212-1112-2312211||||n n n n n P A A A P A A A A P A A A A P A A A P A A P A -?=???4、样本空间的划分
定义：设S 为试验E 的样本空间, B 1,B 2,...,B n 为E 的一组事件, 若 （1）,,,1,2,,i j B B i j i j n =?≠=；
（2）1
2n B B B S =
则称12,,
,n B B B 为样本空间S 的一个划分。
5、全概率公式
定理：设试验E 的样本空间为S ，A 为E 的事件，B 1,B 2,...,B n 为S 的一个划分，且
()0(1,2,
,),i P B i n >=则恒有全概率公式：
1122()()()()()()()n n P A P A B P B P A B P B P A B P B =++
+()()1
|n
i i i P B P A B ==∑
6、贝叶斯公式
定理：设试验E 的样本空间为S ，A 为E 的事件，B 1,B 2,...,B n 为S 的一个划分，且()0,P A >
()0,(1,2,,),i P B i n >=则1
()()
(),1,2,,.()()
i i i n
j
j
j P A B P B P B A i n P A B P B ==
=∑（贝叶斯公式）
n =2时，两个公式的简化：
全概率公式：()(|)()(|)()P A P A B P B P A B P B =+ 贝叶斯公式：(|)()
(|)(|)()(|)()
P A B P B P B A P A B P B P A B P B =
+
7、条件概率()P B A 与积事件概率()P AB 的区别
()P AB 表示在样本空间S 中，AB 发生的概率，而()P B A 表示在缩小的样本空间A S 中，B
发生的概率，用古典概率公式，则
()A AB P B A S =
中基本事件数中基本事件数， ()AB P AB S =中基本事件数
中基本事件数
，
一般来说，()P B A 比()P AB 大。
五、事件的独立性 1、事件的相互独立性
定义：设A ，B 是两事件，如果满足等式()()()P AB P A P B =，则称事件A ，B 相互独立，简称A ，B 独立。 说明：
(1) 事件 A 与 事件 B 相互独立,是指事件 A 的发生与事件 B 发生的概率无关. (2) 两事件相互独立与两事件互斥的关系：
两事件相互独立()()()P AB P A P B =与两事件互斥AB =?二者之间没有必然联系 （3）事件 A 、B 独立的充要条件为：
()()()| ,0P A B P A P B => 或 ()()()|,0P B A P B P A =>
三事件两两相互独立的概念
定义：设,,A B C 是三个事件，如果满足等式()()(),()()(),()()(),P AB P A P B P BC P B P C P AC P A P C =??
=??=?
则称事件,,A B C 两两
相互独立。
三事件相互独立的概念
定义：设,,A B C 是三个事件，如果满足等式()()(),()()(),()()(),()()()(),
P AB P A P B P BC P B P C P AC P A P C P ABC P A P B P C =??=?
?=??=?则称事件,,A B C
相互独立。
注意：三个事件相互独立 ? 三个事件两两相互独立
推广： 设12,,
,n A A A 是n 个事件，如果对于任意(1)k k n <≤，任意121k i i i n ≤<<
<≤，
具有等式1212()()()
()k k i i i i i i P A A A P A P A P A =，则称12,,
,n A A A 为相互独立的事件。
结论： 若事件12,,
,(2)n A A A n ≥相互独立，则其中任意(2)k k n ≤≤个事件也是相互独立的。
2、几个重要定理
定理一：设,A B 是两事件，且()0P A >，若,A B 相互独立，则()().P B A P B =反之亦然。 定理二：若,A B 相互独立，则下列各对事件，A 与B ，A 与B ，A 与B 也相互独立。 推广：n 个事件12,,
,(2)n A A A n ≥相互独立，则将12,,,n A A A 中任意多个事件换成它
们的对立事件，所得的n 个事件仍相互独立。 3、事件的独立性在可靠性问题中的应用
所谓系统（元件）的可靠性是指系统（元件）正常工作的概率。 补充：排列与组合知识 1、加法原理
设完成一件事有m 种方式，第i 种方式有n i 种方法，则完成这件事共有: n 1＋n 2＋……＋n m 种不同的方法。 2、乘法原理
设完成一件事有m 个步骤，第i 种步骤有n i 种方法，则完成这件事共有: n 1×n 2 ×……×n m 种不同的方法。 3、排列公式
（1）从n 个不同元素中不放回（不重复）地选取m 个元素进行排列，称为选排列，则所有不同排列的总数为：()(1)
(1)()m
m
n n n A P n n n m n m =
=--+-！
！
（2）当n =m 时，称为全排列，其计算公式为：n
n n P A n ==！
（3）有重复排列: 从n 个不同元素中有放回（可重复）地取m 个元素进行排列，称为可
重排列，其总数为 n m 。 4、组合公式
（1）从n 个不同元素中不重复地选取m 个元素，组成一组(不管其顺序)，称为从n 个不同元素中选取m 个元素的组合。 则所有不同组合的总数为：()m
n
n n C m m n m ??==
?-??
！！！ 选排列与选组合的关系：!m m
n n A C m =
说明：选组合也等价于：如果把n 个不同的元素分成两组，一组m 个，另一组n -m 个，组元素不考虑顺序，那么不同分法的总数为：
!
!()!
n m n m -
（2）多组组合：把n 个不同元素分成k 组(1≤ k ≤ n ) ，使第 i 组有n i 个元素，
1
k
i
i n
n ==∑，
若组元素不考虑顺序，那么不同分法的总数为：
1!
!!
k n n n
（3）常用组合公式：k n k n n
C C -=，11
k k k n n
n C
C C
-+=+，
k
k i k i n m
n
m
i C
C C
-+==∑，
2.n
i n n
i C
==∑