概率论与数理统计事件独立性与相关性共23页
合集下载
概率中的相关性与独立性
概率中的相关性与独⽴性
⾸先，概率中的相关性指的是线性相关，（见《概率论与数理统计》盛骤中“协⽅差与相关系数”⼀节）。
其次，概率中的(线性)相关性与独⽴性是不等价的，独⽴=》不（线性）相关；不（线性）相关=》独⽴。
其实很好理解，相关有线性相关和⾮线性相关，在⾮线性相关的情况下，变量之间仍有联系，因此不独⽴。
（1）独⽴=》不相关，很简单，如下：
（2）不线性相关的情况，两个变量也不独⽴，可以举个反例。
X 是在-2，-1，1，2上等可能取值的随机变量，即Pr(X=?)=1/4 for all ?，E(X)=0
Y=X^2，则Pr(Y=1)=1/2，Pr(Y=4)=1/2，E(Y)=5/2
XY=X^3的分布，是在-8，-1，1，8上等可能取值的随机变量，即Pr(XY=?)=1/4 for all ?，E(XY)=0
E(XY)-EXEY=0
X与Y是不（线性）相关。
但是显然他们不是独⽴的
当然，在某些特殊的情况下，不相关可以推出独⽴，这时候不相关和独⽴等价
1. X，Y的联合分布服从⼆元⾼斯分布
2. X，Y都是两值随机变量（Bernoulli random variable）。
概率论与数理统计教程(茆诗松)第1章
A = “针与平行线相交” 的充要条件是: x ≤ l/2 sin ϕ . 针是任意投掷的，所以这个问题可用几何方法 求解得
SA ∫0 P( A) = = SΩ
27 July 2011
π
l sinϕdϕ 2l 2 = d(π / 2) dπ
华东师范大学
第一章 随机事件与概率
第9页
§1.3 概率的性质
= (3/10)×(2/9)+(7/10)×(3/9) = 3/10
27 July 2011
华东师范大学
第一章 随机事件与概率
第24页 24页
1.4.4
贝叶斯公式
乘法公式是求“几个事件同时发生”的概率； 全概率公式是求“最后结果”的概率； 贝叶斯公式是已知“最后结果” ，求“原因” 的概率.
27 July 2011
第一章 随机事件与概率
第19页 19页
条件概率的三大公式
乘法公式; 全概率公式； 贝叶斯公式.
27 July 2011
华东师范大学
第一章 随机事件与概率
第20页 20页
1.4.2
性质1.4.2
乘法公式
(1) 若 P(B)>0，则 P(AB) = P(B)P(A|B)； 若 P(A)>0，则 P(AB) = P(A)P(B|A). (2) 若 P(A1A2 ······An−1)>0，则 P(A1A2 ······An) = P(A1)P(A2|A1) ······ P(An|A1A2 ······An−1)
古典方法 设 Ω 为样本空间，若
① Ω只含有限个样本点; ② 每个样本点出现的可能性相等， 则事件A的概率为: P(A) = A中样本点的个数 / 样本点总数
SA ∫0 P( A) = = SΩ
27 July 2011
π
l sinϕdϕ 2l 2 = d(π / 2) dπ
华东师范大学
第一章 随机事件与概率
第9页
§1.3 概率的性质
= (3/10)×(2/9)+(7/10)×(3/9) = 3/10
27 July 2011
华东师范大学
第一章 随机事件与概率
第24页 24页
1.4.4
贝叶斯公式
乘法公式是求“几个事件同时发生”的概率； 全概率公式是求“最后结果”的概率； 贝叶斯公式是已知“最后结果” ，求“原因” 的概率.
27 July 2011
第一章 随机事件与概率
第19页 19页
条件概率的三大公式
乘法公式; 全概率公式； 贝叶斯公式.
27 July 2011
华东师范大学
第一章 随机事件与概率
第20页 20页
1.4.2
性质1.4.2
乘法公式
(1) 若 P(B)>0，则 P(AB) = P(B)P(A|B)； 若 P(A)>0，则 P(AB) = P(A)P(B|A). (2) 若 P(A1A2 ······An−1)>0，则 P(A1A2 ······An) = P(A1)P(A2|A1) ······ P(An|A1A2 ······An−1)
古典方法 设 Ω 为样本空间，若
① Ω只含有限个样本点; ② 每个样本点出现的可能性相等， 则事件A的概率为: P(A) = A中样本点的个数 / 样本点总数
条件概率与事件独立性21页PPT
解 观察两个小孩性别的随机试验所构成的样本空间 ={(男, 男)、(男, 女)、(女, 男)、(女, 女)}． 则
A={(男,男), (男,女), (女,男)} 表示“两个小孩中至少有一个男孩”，
B={(女,女), (男,女), (女,男)} 表示“两个小孩中至少有一个女孩}”.
显然，P(A)=P(B)=3/4．现在B已经发生，排除了有两个男孩的
山东农业大学
概率论与数理统计
主讲人：程述汉 苏本堂
例4 今有一张足球票，n个人都想得到，故采用抽签的办法分 配这张票，试利用乘法公式说明每人得到足球票的概率都是 1/n．
解 将外形相同的个标签让个人依次抽取，事先将足球票放在
某标签中．记Ai={第i人抽到足球票} ，则 Ai A1L Ai1Ai ．由公
山东农业大学
概率论与数理统计
主讲人：程述汉 苏本堂
1.4.2 事件的独立性
一、事件的独立性 一般地 P(A|B)≠P(A), 即B的发生，会对A的发生产生影响，但
在某些情况下有Ｐ(A|B)＝P(A)，如：
设盒中3个白球，2个红球，从中取球两次，每次一个，就 a)不
放回取样; b)放回取样; 求下列事件的概率：
P(A)=0.2， P(B)=0.18， P(AB)=0.12，
则 P(A| B) P(AB) 0.12 0.67, P(B) 0.18
P(B | A) P(AB) 0.12 0.60, P(A) 0.2
山东农业大学
二、乘法公式
概率论与数理统计
主讲人：程述汉 苏本堂
若Ｐ(B)>0, 则 P(AB) = P(B)·P(A |B)
定理1 若P(A1 A2… An-1)>0，则 P(A1 A2… An)＝ P(A1 ) P(A2| A1) P(A3| A1 A2) … P(An ｜A1 A2… An-1). 证 反复应用两个事件的乘法公式，得到
概率论与数理统计 第一章-4-事件的独立性
下面四个结论中，正确的是：
1. P(B|A)>0， 3. P(A|B)=0 ，
2. P(A|B)=P(A)， 4. P(AB)=P(A)P(B)。
定理4.3 若两事件A、B相互独立，则 A与B, A与B, A与B也相互独立。
证明: 仅证A与 B 独立。
P(AB) P(A B) P(A AB)
概率论与数理统计
张保田 第一章 概率论的基本概念
第四节 事件的独立性
一、两事件的独立性 先看一个例子：
将一颗均匀骰子连掷两次，
设
B ={第二次掷出6点}，
A={第一次掷出6点}，
显然 P(B A) 1 P(B) 6
6
66
这就是说：已知事件A发生，并不影响事
件B发生的概率，这时称事件B独立于事件A。
= P(A) －P(AB) = P(A) － P(A) P(B)
A、B独立
=P(A)[1 －P(B)]
=P(A)P( B ),
故A与 B 独立。
二、多个事件的独立性 将两事件独立的定义推广到三个事件：
定义4.4 对于三个事件A、B、C，若
P(AB)= P(A)P(B)，
P(AC)= P(A)P(C) ,
例如：
甲、乙两人向同一目标射击，记 A={甲命中}, B={乙命中}，A与B是否独立？
由于“甲命中”并不影响“乙命中”的概率，
故认为A、B独立 。
(即一事件发生与否并不影响另一事件发生的概率)。
再如： 一批产品共n件，从中抽取2件，设
A1={第1件是合格品}， A2={第2件是合格品} (1) 若抽取是有放回的, 则A1与A2独立。
P(B A) P(B) P(AB) P(B)
P( A)
1. P(B|A)>0， 3. P(A|B)=0 ，
2. P(A|B)=P(A)， 4. P(AB)=P(A)P(B)。
定理4.3 若两事件A、B相互独立，则 A与B, A与B, A与B也相互独立。
证明: 仅证A与 B 独立。
P(AB) P(A B) P(A AB)
概率论与数理统计
张保田 第一章 概率论的基本概念
第四节 事件的独立性
一、两事件的独立性 先看一个例子：
将一颗均匀骰子连掷两次，
设
B ={第二次掷出6点}，
A={第一次掷出6点}，
显然 P(B A) 1 P(B) 6
6
66
这就是说：已知事件A发生，并不影响事
件B发生的概率，这时称事件B独立于事件A。
= P(A) －P(AB) = P(A) － P(A) P(B)
A、B独立
=P(A)[1 －P(B)]
=P(A)P( B ),
故A与 B 独立。
二、多个事件的独立性 将两事件独立的定义推广到三个事件：
定义4.4 对于三个事件A、B、C，若
P(AB)= P(A)P(B)，
P(AC)= P(A)P(C) ,
例如：
甲、乙两人向同一目标射击，记 A={甲命中}, B={乙命中}，A与B是否独立？
由于“甲命中”并不影响“乙命中”的概率，
故认为A、B独立 。
(即一事件发生与否并不影响另一事件发生的概率)。
再如： 一批产品共n件，从中抽取2件，设
A1={第1件是合格品}， A2={第2件是合格品} (1) 若抽取是有放回的, 则A1与A2独立。
P(B A) P(B) P(AB) P(B)
P( A)
1.5独立性及伯努利概型 《概率论与数理统计》课件
则称 A1,A2,An 相互独立.
n 个事件相互独立，则必须满足 2n n1个等式.
显然 n 个事件相互独立，则它们中的任意
m （2 mn）个事件也相互独立.
2.事件独立性的性质
定理1.5.1 四对事件{A、B}，{ A , B }，{A，B }、
{ A 、B }中有一对相互独立，则其它三对也相互独立.
证明 不失一般性.设事件 A 与 B 独立，仅证 A 与 B
相互独立，其余情况类似证明 因为 P ( A B ) P ( B A ) P ( B A ) P B ( B ) P ( A )B
又 A 与 B 独立，所以 P (A)B P (A )P (B )
从而 P ( A B ) P ( B ) P ( A ) P ( B ) P ( B ) 1 P ( ( A ) P ) ( A ) P ( B ) 所以， A 与 B 相互独立.
AB=｛（男、女），（女、男）｝
于是
P(A)= 1 , P(B)= 3 , P(AB)= 1
2
4
2
由此可知 P(AB) P(A) P(B).
所以 A与B 不独立.
2）有三个小孩的家庭，样本空间Ω=｛（男、
男、男），（男、男、女），（男、女、男），
（女、男、男）（男、女、女），（女、女、男），
（女、男、女），（女、女、女）｝
= 1 P(A1A2An) = 1 P(A 1)P(A 2)P(A n)
这个公式比起非独立的场合，要简便的多，它 在实际问题中经常用到.
例1.5.6 假若每个人血清中含有肝炎病的概率为 0.4%，混合100个人的血清，求此血清中含有肝炎病 毒的概率？
解: 设 A i={第 i 个人血清中含有肝炎病毒}
n 个事件相互独立，则必须满足 2n n1个等式.
显然 n 个事件相互独立，则它们中的任意
m （2 mn）个事件也相互独立.
2.事件独立性的性质
定理1.5.1 四对事件{A、B}，{ A , B }，{A，B }、
{ A 、B }中有一对相互独立，则其它三对也相互独立.
证明 不失一般性.设事件 A 与 B 独立，仅证 A 与 B
相互独立，其余情况类似证明 因为 P ( A B ) P ( B A ) P ( B A ) P B ( B ) P ( A )B
又 A 与 B 独立，所以 P (A)B P (A )P (B )
从而 P ( A B ) P ( B ) P ( A ) P ( B ) P ( B ) 1 P ( ( A ) P ) ( A ) P ( B ) 所以， A 与 B 相互独立.
AB=｛（男、女），（女、男）｝
于是
P(A)= 1 , P(B)= 3 , P(AB)= 1
2
4
2
由此可知 P(AB) P(A) P(B).
所以 A与B 不独立.
2）有三个小孩的家庭，样本空间Ω=｛（男、
男、男），（男、男、女），（男、女、男），
（女、男、男）（男、女、女），（女、女、男），
（女、男、女），（女、女、女）｝
= 1 P(A1A2An) = 1 P(A 1)P(A 2)P(A n)
这个公式比起非独立的场合，要简便的多，它 在实际问题中经常用到.
例1.5.6 假若每个人血清中含有肝炎病的概率为 0.4%，混合100个人的血清，求此血清中含有肝炎病 毒的概率？
解: 设 A i={第 i 个人血清中含有肝炎病毒}
概率论与数理统计-第3章-第4讲-随机变量的独立性
1, (x, y) G
f (x, y) 0,
其它.
1
2x
02 随机变量的独立性
例题 设二维离散型随机变量 X， Y 的联合分布律为
应用
Y X
1
1
1 6
2
3
1
1
9
18
2
1 3
试确定常数 ， 使得随机变量 X 与Y 相互独立．
02
随机变量的独立性 由表，可得随机变量 X 与Y 的边缘分布律为
P{XY Y 0} P{( X 1)Y 0}
P{X 1 0,Y 0} P{X 1 0,Y 0}
P(X ) P(X ) 1
2
P{X 1}P{Y 0} P{X 1}P{Y 0} 1111 1
22 22 2
第4讲 随机变量的独立性
本节我们学习了二维随机变量的独立性, 后续会推广到更多维. 随机变量的独立性在概率论和数理统计中会发挥重要的作用.
用分布函数表示, 即 设 X,Y 是两个随机变量, 若对任意的x, y, 有 F ( x, y) FX (x)FY ( y)
则称 X, Y 相互独立 .
它表明, 两个随机变量相互独立时, 联合分布函数等于两个 边缘分布函数的乘积 .
01 两个随机变量独立的定义
离散型
X与Y 独立
对一切 i , j 有
01 两个随机变量独立的定义 两个随机变量独立的定义
设 X,Y是两个随机变量, 若对任意的x,y ,有 P ( X x,Y y) P( X x)P(Y y)
则称X,Y相互独立 .
如何判断
两事件A, B独立的定义是： 若 P(AB)=P(A)P(B)则称事件A, B独立 .
01 两个随机变量独立的定义
概率论与数理统计 随机变量的独立性
g ( xi , y j ) f ( x, y)dxdy
概率论与数理统计
例9
求E(X),E(Y),E(XY).
E ( XY ) xi y j pij
j 1 i 1
解 X,Y的边缘分布为
1 3 (1 0) 0 (3 0) 3 (1 1) 3 (3 1) 0 1 E ( X ) xi pi 18 3 8 , 4 4 2 i 1 3 1 9 (1 2) (3 2) 0 3 (1 3) 0 (3 3) . 1 8 0 1 2 3 3 1 3 , 8 4 E (Y ) y j p j 8 8 8 8 2 j 1
E X i E( X i )
n i 1 n i 1
概率论与数理统计
例10
解
设随机变量Xi为
则X=X1+ X2+ …+ X10 故 E(X)=E(X1)+ E(X2)+ …+ E(X10) 而E(Xi)=1-(9/10)20 i=1,2,…,10
9 20 E( X ) E ( X i ) E ( X i ) 10 ] 8.784 [1 10 i 1 i 1
概率论与数理统计
若(X,Y)是二维离散型随机变量，Z=g(X,Y), 且E(Z)存在，则
E (Z ) E[ g ( X , Y )] g ( xi , y j ) pij
j 1 i 1
若(X,Y)是二维连续型随机变量，Z=g(X,Y), 且E(Z)存在，则
E (Z ) E[ g ( X , Y )]
概率论与数理统计
概率论与数理统计
概率论与数理统计
主讲：
第一章 随机事件及其概率
1.1 随机事件及其运算 1.2 随机事件的概率及性质 1.3 概率的计算 1.4 事件的独立性 1.5 独立事件概型
1.1.1 随机事件
手拿一枚硬币，松开手，硬币向下落。 结果唯一
种瓜得瓜，种豆得豆。
太阳每天从东方升起。
确定性现象
概率统计的 硬币落下时哪一面向上？
4040 验
10000
次 数
12000 不
24000
断 增
30000 大
正面出现的频数 1061 2048 4979 6019 12012 14994
频率 0.5181频 0.5069率稳 0.4979定 0.5016在 0.5005附 0.4998近
0.5
频率的特点
（1）波动性 （2）稳定性
当试验次数n增大时，(A) 逐渐趋向一个稳定 值。可将此稳定值记作P(A)，作为事件A的 概率。称为统计概率。
问题二：既然取到白粉笔的概率是确定的值，如何在白粉笔数 量确定但未知的情况下计算？
1.2.1 概率的统计定义
定义 设随机事件A在n次重复试验中发生了m次，则称比值m/n为 随机事件A在n次重复试验中发生的频率，记做 ( A) ，即
频率的性质：
( A) m
n
（1）对如何事件A，0 (A) 1;
A63
0.4762
A3 {从中有放回地连取三件都是正品}
P( A3)
63 103
0.216
思考 A1, A2 的概率相等是否巧合？
1.2.2 概率的古典定义
例2.3的推广
一批产品共N件,其中M件次品,N-M件正品,从中取出n个，记A={取出
主讲：
第一章 随机事件及其概率
1.1 随机事件及其运算 1.2 随机事件的概率及性质 1.3 概率的计算 1.4 事件的独立性 1.5 独立事件概型
1.1.1 随机事件
手拿一枚硬币，松开手，硬币向下落。 结果唯一
种瓜得瓜，种豆得豆。
太阳每天从东方升起。
确定性现象
概率统计的 硬币落下时哪一面向上？
4040 验
10000
次 数
12000 不
24000
断 增
30000 大
正面出现的频数 1061 2048 4979 6019 12012 14994
频率 0.5181频 0.5069率稳 0.4979定 0.5016在 0.5005附 0.4998近
0.5
频率的特点
（1）波动性 （2）稳定性
当试验次数n增大时，(A) 逐渐趋向一个稳定 值。可将此稳定值记作P(A)，作为事件A的 概率。称为统计概率。
问题二：既然取到白粉笔的概率是确定的值，如何在白粉笔数 量确定但未知的情况下计算？
1.2.1 概率的统计定义
定义 设随机事件A在n次重复试验中发生了m次，则称比值m/n为 随机事件A在n次重复试验中发生的频率，记做 ( A) ，即
频率的性质：
( A) m
n
（1）对如何事件A，0 (A) 1;
A63
0.4762
A3 {从中有放回地连取三件都是正品}
P( A3)
63 103
0.216
思考 A1, A2 的概率相等是否巧合？
1.2.2 概率的古典定义
例2.3的推广
一批产品共N件,其中M件次品,N-M件正品,从中取出n个，记A={取出