概率论 大数定律

( na )2 0 ( na )2 1 1 1 P 1 2 2 2n n 2n 2 1 2 2 E ( X n ) 2( na ) 2 a 2 , 2n Xn
2 ) [ E ( X n )]2 a 2 . D( X n ) E ( X n
2
说明离散型随机变量有有限方差, 故满足契比雪夫定理的条件.
依概率收敛于a , 记为
P Yn a
依概率收敛序列的性质:
设 Xn a , Yn b,
P P
又设函数 g( x , y ) 在点 (a , b) 连续,
P 则 g ( X n , Yn ) g (a , b ).
证明
因为 g( x , y ) 在 (a , b) 连续,
根据定理一有
1 lim P ( X 1 X 2 X n ) p 1, n n nA 即 lim P p 1. n n
关于伯努利定理的说明:
nA 伯努利定理表明事件发 生的频率 依概 n 率收敛于事件的概率p, 它以严格的数学形式 表达了频率的稳定性 .
n 0, P X n a P Yn b 2 2
故 lim P{ g( X n , Yn ) g(a, b) } 1.
n
[证毕]
定理二（伯努利大数定理）
伯努利
设 nA 是 n 次独立重复试验中事件 A 发生 的次数 , p 是事件 A 在每次试验中发生的概 率, 则对于任意正数 0, 有 nA nA lim P p 1 或 lim P p 0. n n n n
关于定理一的说明:
当 n 很大时, 随机变量 X 1 , X 2 ,, X n 的算术平 1 n 均 X k 接近于数学期望 n k 1 E ( X1 ) E( X 2 ) E ( X k ) ,
（这个接近是概率意义下的接近） 即在定理条件下, n个随机变量的算术平均, 当n 无限增加时, 几乎变成一个常数.
1 n 则对于任意正数 , 有 lim P X k 1. n n k 1
关于辛钦定理的说明: (1) 与定理一相比, 不要求方差存在; (2) 伯努利定理是辛钦定理的特殊情况.
三、典型例题
例1 设随机变量 X 1 , X 2 ,, X n ,相互独立,
第一节、典型例题 四、小结
一、问题的引入
实例 频率的稳定性
随着试验次数的增加, 事件发生的频率逐渐稳 定于某个常数. 单击图形播放/暂停 ESC键退出
启示:从实践 中人们发现 大量测量值 的算术平均 值有稳定性.
二、基本定理
定理一（契比雪夫定理的特殊情况） 契比雪夫 设随机变量 X 1 , X 2 ,, X n , 相互独立,
定理一的另一种叙述:
设随机变量 X 1 , X 2 ,, X n , 相互独立, 设Y1 ,Y2 ,,Yn是一个随 且具有相同的数学期望 和方差： E ( X k ) , 机变量序列, a是一个常 n 1 D( X k ) 2 ( k 1, 2,), 则序列 X Xk 数, 若对于任意正数 n k 1 有 P lim P {| Yn a | } 1, n 依概率收敛于 , 即 X . 则称序列 Y1 ,Y2 ,,Yn
所以 X 1 , X 2 ,, X n ,也是相互独立的，
2 2 得 E ( X ) D ( X ) [ E ( X ) ] , 由 E ( X k ) 0, k k k 2 2
由辛钦定理知
1 n 2 2 对于任意正数 , 有 lim P X k 1. n n k 1
na 0 具有如下分布律： 1 1 P 1 2 2 2n n 问是否满足契比雪夫定 理? Xn na 1 2n 2
解 独立性依题意可知, 检验是否具有数学期望？
E ( X n ) na 2
1 1 1 2 0 (1 2 ) na 2 0, 2 2n n 2n
说明每一个随机变量都有数学期望, 检验是否具有有限方差？
例2 设随机变量 X 1 , X 2 ,, X n ,独立同分布,
且 E ( X k ) 0, D( X k ) 2 , k 1,2,, 证明对任 意正数 有
1 n 2 2 lim P X k 1. n n k 1
2 2
解 因为 X1 , X 2 ,, X n ,是相互独立的，
且具有相同的数学期望 和方差：E ( X k ) , D( X k ) 2 ( k 1, 2,), 作前 n 个随机变量 的算术平均 数 有 1 n X Xk , n k 1 则对于任意正
1 n lim P{| X | } lim P X k 1. n n n k 1
2 1 n 1 n 1 2 D X k 2 D( X k ) 2 n , n n n k 1 n k 1
由契比雪夫不等式可得
1 n 2 P Xk 1 2 , n n k 1 并注意到概率不能大于1, 则 在上式中令n ， 1 n P X k 1. n k 1
故而当 n 很大时, 事件发生的频率与概率 有较大偏差的可能性很小. 在实际应用中, 当试 验次数很大时, 便可以用事件发生的频率来代 替事件的概率.
定理三（辛钦定理）
辛钦资料
设随机变量 X 1 , X 2 ,, X n ,相互独立, 服从同一分布, 且具有数学期望 E ( X k ) ( k 1,2,),
四、小结
契比雪夫定理的特殊情况 三个大数定理 伯努利大数定理 辛钦定理
频率的稳定性是概率定义的客观基础, 而伯 努利大数定理以严密的数学形式论证了频率的稳 定性.
二、基本定理
定理一（契比雪夫定理的特殊情况） 表达式的意义 设随机变量 1 , X 2 , , X n , 相互独立 {| X | }X 是一个随机事件 , 等式表 ,
且具有相同的数学期望 和方差：E ( X k ) 1, , 明, 当n 时这个事件的概率趋于 D( X k即对于任意正数 ) 2 ( k 1, 2, 作前 n 个随机变量 ), ,当 n充分大时 ,不
证明
引入随机变量
0, 若在第 k 次试验中 A 不发生, Xk 1, 若在第 k 次试验中 A 发生, k 1, 2,.
显然
nA X 1 X 2 X n ,
因为 X1 , X 2 ,, X n ,是相互独立的， 且X k 服从以 p 为参数的(0 1) 分布, 所以 E ( X k ) p, D( X k ) p(1 p), k 1, 2,.
0, 0,
使得当 x a y b 时, g( x , y ) g(a , b) ,
于是 { g( X n , Yn ) g(a, b) } { X n a Yn b }
X n a Yn b , 2 2 因此 P{ g( X n , Yn ) g(a, b) }
1 n 等式 | X | 成立的概率很大. 的算术平均 X X k , 则对于任意正 n k 1
1 n lim P{| X | } lim P X k 1. n n n k 1
数 有
证明
1 1 n 1 n E X k E ( X k ) n , n n k 1 n k 1