5-1大数定律

1 n lim P{| X k | } n n k 1 nA lim P{| p | } 1 n n
nA lim P{| p | } 1 n n
注: ▲ 定理 表明：当 n 很大时,事件A 发生的频率
nA n 接近于事件 A 发生的概率 P, 即证明了频
总结： 大数定律从各个角度描述 了样本的算术平均值的及频率 的稳定性 。也为人们习惯上经 常采用的用样本的算术平均值 去代替或 估计其平均值；用频 率去代替或估计其“概率”提 供了理论上的依据。
率的稳定性。从而，当 n (试验次数) 很大时 可以用事件发生的频率来近似代替事件的概率。 ▲ 称事件A 发生的频率 依概率收敛于事件A的 概率 P。 ▲ 贝努利大数定律提供了通过试验来确定事件概 率的方法。
前面两个大数定律在证明中都是以契比雪夫 不等式为基础的，所以要求随机变量具有方差。 但是进一步的研究表明，在随机变量服从相同分 布的场合，并不需要这一要求，我们有下面的定 理：
2、大数定律的概念 概率论中用来阐明大量随机现象平均结果的 稳定性的一系列定理，称为大数定律（law of large number) 本章将介绍三个大数定律： （1）契比雪夫大数定律、 （2）贝努利大数定律 （3）辛钦大数定律。 它们之间既有区别也有联系。
二、契比雪夫不等式
在介绍大数定律之前，我们先来介绍一个重要 的不等式－契比雪夫( chebyshev)不等式，它是大数 定律的理论基础 设随机变量X有期望E(X)=μ和方差 D(X)＝σ2 ,则对 于任给 >0,
第五章 大数定律与中心极 限定理
本章要解决的问题 1. 为何能以某事件发生的频率 作为该事件的概率的估计？ 2. 为何能以样本均值作为总体 期望的估计？
答复 大数 定律
3. 为何正态分布在概率论中占 有极其重要的地位？
4. 大样本统计推断的理论基础 是什么？ 本节我们先介绍大数定律
中心极 限定理
§5.1大数定律
定理2（贝努利大数定律）
频率的稳定性 设nA是n次独立重复实验中A发生的次 数。P是事件A在每次试验中发生的概率， 则对于任意正数ε> 0，有
nA lim P{| p | } 1 n n
或
贝努利
nA lim P{| p | } 0 n n
证 引入 r.v. 序列{Xk}
P{| X | } 2
2
或 P{| X | } 1 2
2

契比雪夫不等式的用途在于：在只知道随机 变量X均值与方差的条件下，可用契比雪夫不等式 粗略地估计事件的概率。
例1 在每次试验中，事件A发生的概率等于0.5，利用契 比雪夫不等式估计，在1000次试验中，事件A发生的次 数在450到550之间的概率。(P105) 解 设随机变量X表示事件A在1000次试验中发生 的次数，则X～b (1000，0.5) 易知 E(X)=500 , D(X)=250
由契比雪夫不等式可得
1 n 2 /n P{| X k } 1 2 n k 1
上式中令 ，得 n
1 n lim P{| X k } 1 n n k 1
1 n lim P{| X k } 1 n n k 1
lim P{| Yn a } 1
n
则称序列Y1，Y2，…,Yn, …依概率收敛于a记为
p Yn a
1 n 定理中 lim P{| X k } 1 即为序列 n n k 1 1 n Yn X k ( n 1, 2,) 依概率收敛于μ， n k 1
1, Xk 0,
第k次试验A发生 第k次试验A不发生
n k 1
k=1,2, …，
X 1 , X 2 ,, X n 相互独立， n A X k
设
P( X k 1) p,
则
E( Xห้องสมุดไป่ตู้k ) p
nA 1 n Xk , n n k 1
由 Chebyshev 大数定律
解 由契比雪夫不等式
0.01 P{( X 1 a ) ( X 1 a )} P{ X 1 a } 2 a 2 0.01 令 0.1 P{| X | } 2 2 a
a 2 0.1
a 0.32
三、大数定律
定理1（契比雪夫大数定律的特殊情况） 设随机变量X1,X2, …Xn , …相互独立， 且具有相同的数学期望和方差： E(Xk)=μ， 契比雪夫 2，k=1,2, …， D(Xk) =σ
注: ▲ 它表明当 n 很大时，随机变量 X 1 , X 2 , X n 的算术平均值在概率意义下接近于数学期望 E( X k ) 其作用：在数理统计中如不知道 ，则 可用其算术平均值来近似代替，则此定 理就提供了理论依据。
依概率收敛的定义
设Y1，Y2，…,Yn , …是一个随机变量序列,a是一 个常数.若对于任意正数ε,有
定理3（辛钦大数定律） 设随机变量序列X1,X2, …Xn , …独立同 分布，具有数学期望E(Xi)=μ, i=1,2,…， 则 对任给ε >0 ，
1 lim P{| X i | } 1 n n i 1
n
辛钦
注 ▲ 与契比雪夫大数定律的特殊情况相比, 不要 求方差存在. ▲ 辛钦大数定律为寻找随机变量的期望值 提供了 一条实际可行的途径。 请看演示 辛钦大数定律
令
1 n Yn X k n k 1
则对任意的ε>0，有
1 n lim P{| X k } 1 n n k 1
证明
1 n 1 n 1 由于 E[ 1 X k ] n 1 E ( X k ) n n n k k 1 n 1 n 1 2 D[ X k ] 2 D( X k ) 2 n 2 n k 1 n k 1 n n
law of large number
一、大数定律的背景和概念
1、大数定律的客观背景
事件发生的频率稳定于某一常数 大量随机试验中 测量值的算术平均值具有稳定性
例1、掷一颗均匀正六面体的骰子，出现1点的概 率是1/6。但掷的次数少时，出现1点的频率可能 与1/6相差较大，但掷次数很多时，出现1点的频 率接近1/6几乎是必然的。 例2、测量一个长度a，一次测量的结果不见得 就等于a，量了若干次，其算术平均值仍不见得 等于a,但当测量的次数很多时，算术平均值接 近于a几乎是必然的。
由契比雪夫不等式
250 P{450 X 550} P{ X - 500 50} 1 2 50 0.9
P{| X | } 1 2
2
例2 已知某种股票每股价格X的平均值 为1元，标准差为0.1元，求a，使股价超 过1＋a或低于1－a元的概率小于10％。