条件概率、乘法公式和Bayes公式学习笔记
1.5 条件概率、全概率公式与贝叶斯公式
因为 B A1 A2 A3 ,
所以 P(B) P( A1 A2 A3 ) P( A1)P( A2 A1)P( A3 A1 A2 )
(1 1)(1 7 )(1 9 ) 3 . 2 10 10 200
r ra t
ta .
r t r t a r t 2a r t 3a
此模型被波利亚用来作为描述传染病的数学模型.
三、全概率公式与贝叶斯公式
1. 样本空间的划分 (完备事件组)
定义 设 S 为试验E的样本空间, B1, B2 ,, Bn 为 E 的一组事件,若
(i) Bi Bj , i j, i, j 1,2,, n; (ii) B1 B2 Bn S, 则称 B1, B2 ,, Bn 为样本空间 S 的一个划分.
常用：
1、若AB=A,则A B; 若A B=A,则B A;
2、B A B A B AB，而AB B; 3、B S B,如：A B A (S B); 4、A AS A(B B) AB AB,
AB AB ; 5、AB BC B
6. P(B A) P(B A) P(B) P(AB) 对于任意事件A, B成立。
30 性质
不难验证，条件概率P( |A)复合概率定义中的三个条件
1°非负性： P(B | A) 0
2°规范性： P(S | A) 1
3°可列可加性：设B1 , B2 ,是两两互不相容的事
件，有 P( Bi | A) P(Bi | A)
i 1
i 1
从而，对概率所证明的重要结果都适用于条件概率。
以 (i, j) 表示第一次、 第二次分别取到第i 号、 第
条件概率 乘法公式 全概率公式 贝叶斯公式
称为全概率公式.
B2
A
B1
Bn1 Bn
B3
证 因为
A AS A( B1 B2 Bn )
B2
A
B1
Bn1 Bn
那么, 全概率公式和贝叶斯公式变为
P ( A) P ( A B ) P ( B ) P ( A B ) P ( B ),
P( A B )P(B ) P ( AB ) . P ( B A) P ( A) P ( A B ) P ( B ) P ( A B ) P ( B )
例5
某电子设备制造厂所用的元件是由三家
打破”.以B表示事件“透镜落下三次而未打破 ” .
因为B A1 A2 A3 , 故有 P ( B ) P ( A1 A2 A3 ) P ( A3 A1 A2 ) P ( A2 A1 ) P ( A1 ) 7 1 9 1 1 1 2 10 10
P ( B1 ) 0.3,
P ( B2 ) 0.5,
P ( B3 ) 0.2,
P ( A B1 ) 0.02, P ( A B2 ) 0.01, P ( A B3 ) 0.01, 故 P ( A) P ( A B1 ) P ( B1 ) P ( A B2 ) P ( B2 ) P ( A B3 ) P ( B3 )
例4 设某光学仪器厂制造的透镜, 第一次落下 时打破的概率为1/2, 若第一次落下未打破, 第二次 落下打破的概率为7/10, 若前两次落下未打破, 第三 次落下打破的概率为9/10. 试求透镜落下三次而未 打破的概率.（积事件概率） 解 以Ai ( i 1,2,3,4)表示事件“透镜第 i次落下
概率的定义及其计算学习笔记
例 Dewey G. 统计了约438023个英语单词中各 字母出现的频率，发现各字母出现的频率 不同：
A: 0.0788 E: 0.1268 I: 0.0707 M: 0.0244 Q: 0.0009 U: 0.0280 Y: 0.0202
B: 0.0156 F: 0.0256 J: 0.0010 N: 0.0706 R: 0.0594 V: 0.0102 Z: 0.0006
Anm n(n 1)(n 2)(n m 1)
全排列
Ann n!
可重复排列：从 n 个不同的元素中可重复地 取出 m 个排成一排, 不同的排法有
nm 种
23
不尽相异元素的全排列：n 个元素中有 m 类， 第 i 类中有 ki 个相同的元素，
k1 k2 km n, 将这 n 个元素按一定的次序排成一排，
（1）某指定的 k 个盒子中各有一球；
则 nA1 k!
P( A1)
（2）恰有 k 个盒子中各有一球；
nA1 n
k! Nk
nA2 CNk k !
P(
A2
)
CNk N
k!
k
7
（3）某指定的一个盒子没有球；
nA3 (N 1)k
P(
A3
)
(
N 1)k Nk
（4）某指定的一个盒子恰有 m 个球 ( m k )；
又由 AB B, P(B AB) P(B) P(AB) P(A B) P(A) P(B) P(AB)
19
推广： P( A B C) P( A) P(B) P(C)
P( AB) P( AC) P(BC)
P( ABC)
一般：P(n
Ai
)
n
P(
2、利用概率论中的乘法定理和全概率公式证明贝叶斯公式
利用概率论中的乘法定理和全概率公式证
明贝叶斯公式
贝叶斯公式是概率论中的一个重要公式，用于计算在已知条件下某事件发生的概率。
其基本形式为：
P(A|B) = P(B|A) * P(A) / P(B)
下面我们来证明该公式。
首先，我们考虑一个简单的例子，假设我们要计算事件A在条件B发生的概率。
我们可以将这个问题拆分成两个步骤：
1. 计算在条件B发生的概率，即P(B)。
2. 计算在B发生的情况下A发生的概率，即P(A|B)。
我们可以用乘法定理来计算第一步，即：
P(B) = P(B∩A) + P(B∩非A)
其中，B∩A表示同时发生事件B和A的情况，B∩非A 表示同时发生事件B但不发生事件A的情况，非A表示不发生事件A的情况。
我们可以用全概率公式来计算第二步，即：
P(A|B) = P(B|A) * P(A) / P(B)
其中，P(B|A)表示在A发生的情况下B发生的概率，可以用条件概率公式计算，即：
P(B|A) = P(B∩A) / P(A)
因此，我们可以将上面的式子转化为：
P(A|B) = P(B|A) * P(A) / P(B)
这就是贝叶斯公式的形式。
需要注意的是，贝叶斯公式的证明需要使用概率论中的一些基本概念和公式，包括乘法定理、加法定理、条件概率公式、全概率公式等。
在实际应用中，贝叶斯公式可以用来进行条件概率的计算，例如在机器学习中的贝叶斯分类器中就用到了该公式。
条件概率与概率的三个基本公式
球”， 则事件 A “第一次取到黑球”， 事件 B “第二次取到黑球”． （1）法一 已知第一次取到白球，那么袋中剩 4 个球，其中 2 个
白球， 2 个黑球，则已知第一次取到白球的条件下，第二次取到的是黑
球的概率为
P(B |
A)
2
1
．
42
法二 由古典概率知 P( A) 3 ， P( AB) P31 P21 3 .
注意 ① P(B) 表示“事件 B 发生”的概率，计算时，是
在整个样本空间 上考察事件 B 发生的概率；②而 P(B | A)
为已知事件 A 发生的条件下，事件 B 发生的条件概率，计算 时，实际上仅限于在事件 A 发生的范围内，来考察事件 B 的 概率．一般地， P(B | A) P(B) ．
§1.4 条件概率与概率的三个基本公式
条件概率是概率论的基本概念之一，同时又是计算概率 的重要工具．概率的三个基本公式（乘法公式、全概率公式
和贝叶斯 (Bayes) 公式）都建立在条件概率的概念之上．本
节重要学习以下内容： 一、条件概率
二、乘法公式
三、全概率公式
四、贝叶斯（Bayes）公式
第一章 随机事件与概率 1
3 这是因为事件 A 的发生，排除了 bb 发生的可能性，这时样本空间 也 随 之 缩 小 为 A ， 而 在 A 中 事 件 B 只 含 2 个 样 本 点 ， 故 P(B | A) 2 ． 事实上，以上条件概率还可写成
3 P(B | A) 2 2 / 4 P( AB) ． 3 3 / 4 P( A)
公式（1.5）和（1.6）都称为两个事件积的概率的乘法公式．这 两个乘法公式还可推广到有限个事件积的概率的情形：
设 A1, A2 , , An 是任意 n 个事件，且 P( A1A2 An ) 0 ，则 P( A1A2 An ) P( A1)P( A2 | A1)P( A3 | A1A2 ) . P( An | A1A2 An1)
概率论与数理统计笔记(重要公式)
第一章随机事件与概率
第二章随机变量及其概率分布
第三章多维随机变量及其概率分布
第四章随机变量的数字特征
E(X)=
E(Y)=E[g(X)]=
E(X)=D(X)=
第五章大数定律及中心极限定理
第六章统计量及其抽样分布
第七章 参数估计
包含所要估计的未知参数（其中它与未知参数无关。
）的概率密度的对称性（见
未知时因为
，，，,;)]n x θ'时取最大值则取＝。
的无偏估计，否则称
则称有效，即方差小参数估计越优。
，不等式.
不仅给出了统计量（对于已知时的置信区间），其中已知，而未
的置信度
可作为
采用
将上式开方即可得标准差
第八章假设检验
及备择假设
与
）分布，
的叫接受域，另一个的叫拒绝域，记为
则知小概率事件发生了，拒绝，接受
拒绝
时，
时，
时，
接受
落入接受域内时，则接受，拒绝
内，则拒绝，接受
未落在拒绝域内，则接受，拒绝
是从正态总体中抽取的一个样
为已知数，提出假设
引入统计量
相应的拒绝域
中抽取的一个样
本，其中
，其中
构造统计量
表求分位数
则拒绝域
未知，
本，欲检验假设：，其中
，可查
，即
若统计量，接受
若统计量，拒绝
第九章回归分析。
条件概率和概率的乘法公式
一、全概率公式
例
一个盒子中有６只白球、４只黑球，从中不放回 地每次任取１只，连取２次，求第二次取到白球 的概率 A={第一次取到白球} ，且ＡＢ与 A B
解
因为 Ｂ＝ＡＢ∪ A B
互不相容，所以
P ( B ) P ( A B ) P ( A B )
P ( A ) P ( B A ) P ( A ) P ( B A )
P ( A B ) P ( B ) ( B A ) 0 . 8 所求概率为 P P ( A ) P ( A )
甲，乙，丙3人参加面试抽签，每人的试题通过
不放回抽签的方式确定。假设被抽的10个试题签中有4
个是难题签，按甲先，乙次，丙最后的次序抽签。试求
1）甲抽到难题签，2）甲和乙都抽到难题签，3）甲没
B 1 =“第一个是男孩”
于是得
B
1
={(男, 男) , (男 , 女) }
3 1 P B BA P A P 4 4 1 1 P B1 P B P A 1A 2 4
乘法法则
P(AB) P(A)P(B A) P(B)P(A B)
P( AB) P(B A) P( A) P( AB) P( A B) P(B)
解
设从这批种子中任选一颗是一等，二等，三等，四 等种子的事件分别是Ａ1，Ａ2，Ａ3，Ａ4，则它们构 成完备事件组，又设Ｂ表示任选一颗种子所结的穗含 有50粒以上麦粒这一事件，则由全概率公式：
4 i 1
P ( B ) P ( A P ( BA i) i)
＝95.5％×0.5＋2％×0.15＋1.5％×0.1＋1％×0.05 ＝0.4825
贝叶斯公式 Bayes’ Theorem
概率统计公式大全复习重点
概率统计公式大全复习重点在学习概率统计这门学科时，掌握各种公式是至关重要的。
这些公式不仅是解决问题的工具，更是理解概率统计概念的关键。
本文将为您梳理概率统计中的重点公式，帮助您更好地复习和掌握这部分知识。
一、随机事件与概率1、古典概型概率公式如果一个随机试验所包含的基本事件总数为 n，事件 A 所包含的基本事件数为 m，则事件 A 发生的概率为：P(A) ＝ m ／ n2、几何概型概率公式设样本空间为几何区域Ω，事件 A 对应的区域为ω，则事件 A 发生的概率为：P(A) ＝ω 的测度／Ω 的测度3、条件概率公式设 A、B 是两个事件，且 P(B) ＞ 0，则在事件 B 发生的条件下，事件 A 发生的条件概率为：P(A|B) ＝ P(AB) ／ P(B)4、乘法公式P(AB) ＝ P(A|B)P(B) 或 P(AB) ＝ P(B|A)P(A)5、全概率公式设 B₁, B₂,， Bₙ 是样本空间Ω 的一个划分，且 P(Bᵢ) ＞ 0（i ＝ 1, 2,， n），A 是Ω 中的任意一个事件，则有：P(A) ＝∑ P(Bᵢ)P(A|Bᵢ)（i从 1 到 n）6、贝叶斯公式设 B₁, B₂,， Bₙ 是样本空间Ω 的一个划分，且 P(Bᵢ) ＞ 0（i ＝ 1, 2,， n），A 是Ω 中的任意一个事件，在事件 A 已经发生的条件下，事件 Bᵢ发生的概率为：P(Bᵢ|A) ＝ P(Bᵢ)P(A|Bᵢ) ／∑ P(Bₙ)P(A|Bₙ) （i从 1 到 n，k 从 1 到 n）二、随机变量及其分布1、离散型随机变量的概率分布设离散型随机变量 X 的可能取值为 x₁, x₂,， xₙ，对应的概率为p₁, p₂,， pₙ，则概率分布为：P(X ＝ xᵢ) ＝ pᵢ（i ＝ 1, 2,， n），且∑pᵢ＝ 12、二项分布如果随机变量 X 服从参数为 n 和 p 的二项分布，记为 X ～ B(n, p)，则概率质量函数为：P(X ＝ k) ＝ C(n, k) p^k （1 p)＾（n k) （k ＝ 0, 1, 2,， n）3、泊松分布如果随机变量 X 服从参数为λ 的泊松分布，记为 X ～P(λ)，则概率质量函数为：P(X ＝ k) ＝（e^（λ) λ^k) ／ k! （k ＝ 0, 1, 2,）4、连续型随机变量的概率密度函数设连续型随机变量 X 的概率密度函数为 f(x)，则分布函数为：F(x)＝∫∞， x f(t) dt5、正态分布如果随机变量 X 服从参数为μ 和σ² 的正态分布，记为 X ～N(μ, σ²)，则概率密度函数为：f(x) ＝（1 ／（σ√（2π)）） e^（（x μ)² ／（2σ²)）三、随机变量的数字特征1、数学期望离散型随机变量 X 的数学期望为：E(X) ＝∑ xᵢ pᵢ（i 从 1 到 n）连续型随机变量 X 的数学期望为：E(X) ＝∫∞，＋∞ x f(x) dx2、方差离散型随机变量 X 的方差为：D(X) ＝∑ （xᵢ E(X)）² pᵢ（i 从 1 到n）连续型随机变量 X 的方差为：D(X) ＝∫∞，＋∞ （x E(X)）² f(x) dx3、标准差随机变量 X 的标准差为：σ(X) ＝√D(X)4、协方差设随机变量 X 和 Y，其协方差为：Cov(X, Y) ＝ E(（X E(X)）（Y E(Y)））5、相关系数随机变量 X 和 Y 的相关系数为：ρ(X, Y) ＝ Cov(X, Y) ／（σ(X)σ(Y)）四、大数定律和中心极限定理1、大数定律当 n 足够大时，样本均值X依概率收敛于总体均值μ，即：P(｜Xμ| ＞ε) → 0 （n → ∞）2、中心极限定理设随机变量 X₁, X₂,， Xₙ 相互独立，且具有相同的分布和有限的数学期望μ 和方差σ²。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
非负性 规范性 可列可加性
P(B A) 0
P( A) 1
P
i1
Bi
A
P
i1
Bi
A
P(B1 B2 A) P(B1 A) P(B2 A) P(B1B2 A)
P(B A) 1 P(B A)
P(B1 B2 A) P(B1 A) P(B1B2 A)
5
乘法公式 利用条件概率求积事件的概率就是乘法公式
0.1 0.6
1 6
P( A2 )
若 BA
PB A P( AB) P(B) P(B)
P( A) P( A)
9
例 为了防止意外，矿井内同时装有两种报警 设备 A 与 B , 已知设备 A 单独使用时有效 的概率为0.92 , 设备 B 单独使用时有效的 概率为0.93，在设备 A 失效的条件下，设 备B 有效的概率为0.85, 求发生意外时至少 有一个报警设备有效的概率。
i0
P(Bi
A)
P(Bi )P( A Bi ) P( A)
,
i 0,1,2,3,4
16
称 P( Bi ) 为先验概率，它是由以往的经验 得到的，它是事件 A 的原因 称 P(Bi A) i 0,1,2,3,4 为后验概率，它是 得到了信息 — A 发生，再对导致 A 发生的 原因发生的可能性大小重新加以修正 本例中， i 较小时， P(Bi A) P(Bi )
定义
7 nA
设A、B为两事件,
nA
P
n( A
)
P( A)
> 0, 则称
P( AB) P( A)
为事件 A 发生的条件下事件 B 发生的条件概率，
记为
PB A
条件概率的计算方法
（1） 等可能概型可用缩减样本空间法 （2） 其他概型用定义与有关公式
4
条件概率也是概率，它符合概率的定义，具有 概率的性质：
P(Bi A), i 0,1,2,3,4
15
结果如下表所示
i
0 12 3 4
P( Bi ) 0.1 0.2 0.4 0.2 0.1
P( A Bi ) 1.0 0.9 0.809 0.727 0.652
P(Bi A) 0.123 0.221 0.397 0.179 0.080
4
P( A) P(Bi )P( A Bi ) 0.814
P ( Bk
A)
P( ABk P( A)
)
P(Bk )P( A Bk )
n
P(Bi )P( A Bi )
Bayes公式
i1
13
例 每100件产品为一批，已知每批产品中的 次品数不超过4件，每批产品中有 i 件次品 的概率为
i0 1 2 3 4
P 0.1 0.2 0.4 0.2 0.1
从每批产品中不放回地取10件进行检验，若 发现有不合格产品，则认为这批产品不合格， 否则就认为这批产品合格。求 （1）一批产品通过检验的概率 （2）通过检验的产品中恰有 i 件次品的概率
i 较大时，P(Bi A) P(Bi )
说明什么问题？
17
设事件 A, B 分别表示设备A, B 有效
已知 PA 0.92 PB 0.93
PB A 0.85
求 PA B
10
解 P(A B) P(A) P(B) P(AB)
由 PB A P(B) P( AB)
1 P( A)
即
0.85 0.93 P( AB) 0.08
P( AB) 0.862
解 设A1, A2 分别表示第一天下雨与第二天下雨
P( A2
A1 )
P( A1A2 ) P( A1)
P( A1) P( A1A2 ) P( A1)
0.6 0.1 5 0.6 6
P( A2 ) 0.7
8
一般地，条件概率与无条件概率之间的大小 无确定的关系
上例中
P( A2
A1 )
P( A1 A2 ) P( A1)
P( AB) P( A)PB A (P( A) 0)
P(AB) P(B)PA B (P(B) 0)
推广
P( A1A2 An ) P( A1)PA2 A1 P An A1A2 An1
(P( A1 A2 An1) 0)
6
例 已知某厂生产的灯泡能用到1000小时的概 率为0.8, 能用到1500小时的概率为0.4 , 求已用 到1000小时的灯泡能用到1500小时的概率
故 P( A B) P( A) P(B) P( AB)
解法二
0.92 0.93 0.862 0.988
P A B P( A B ) P( A) P(B A)
P( A) 1 P(B A)
0.081 0.85 0.012
P( A B) 0.988
11
2全概率公式与Bayes 公式
解 令 A 灯泡能用到1000小时 B 灯泡能用到1500小时
所求概率为
PB A P( AB) P(B) 0.4 1
P( A) P( A) 0.8 2
B A
7
例 某人外出旅游两天，需要知道两天的天气 情况，据天气预报，第一天下雨的概率为 0.6, 第二天下雨的概率为0.3, 两天都下雨 的概率为0.1. 求 第一天下雨时，第二天不 下雨的概率
2
所求的概率称为在事件A 发生的条件下 事件B 发生的条件概率。记为
PB A
问题：条件概率中样本空间 | A是什么？
解 列表
白球 红球 小计
木球
4
2
6
塑料球 3
1
4
小计
7
3
10
3
PB A 4
7
nB A 4 nAB , n A 7 nA ,
nAB
P B A 4 nAB n P( AB)
14
解 设一批产品中有 i 件次品为事件Bi , i = 0,1,…,4 A 为一批产品通过检验
则 A n Bi ,
i1
Bi Bj , i j,i, j 0,1,2,3,4
已知P( Bi )如表中所示，且
P(A
Bi )
C10 100i
C10 100
,
i 0,1, 2,3, 4
由全概率公式与Bayes 公式可计算P( A )与
条件概率、乘法公式 和Bayes公式 学习笔记
1 条件概率
条件概率与乘法公式
引例 袋中有7只白球，3只红球；白球中 有4只木球，3只塑料球；红球中有2只木球， 1只塑料球.
现从袋中任取1球，假设每个球被取到 的可能性相同. 若已知取到的球是白球，问 它是木球的概率是多少？
等可能概型
设 A 表示任取一球，取得白球； B 表示任取一球，取得木球
B1 AB1
A
AB2
B2
ABn
n
Bi
Bn i1
Bi B j
n
A ABi
i 1
( ABi )( ABj )
n
n
注意：A=A
A
（ i1
Bi）=
i1
ABi
12
n
n
P( A) P( ABi ) P(Bi ) P( A Bi ) 全概率公式
i1
i1
意义：事件组Bn一般是导致A发生的所有可能的“原因”