[理学]第五章 大数定律与中心极限定理
第五章 大数定律和中心极限定理
第三节 中心极限定理
所谓中心极限定理，就是关于大量微小的随机变量之和的极限分布在什么条件下是正态分布的定理. 定义 1 设 { X n } 为一随机变量序列， DX n ， n 1,2, ，若
2
83
n a n lim P(a X i b) P n i 1 n
X
i 1
n
i
n
n
b n b n a n ) ( ). ( n n n
例 1 一加法器同时收到 50 个噪声电压 Vi (i 1,2, ,50 ) ， 设 V i (单位： 微伏)相互独立且均在 [0,10] 上 服从均匀分布，求该加法器上总电压 V
i 1
n
1 n2
c n 0(n ) ，
i 1
n
c
推论 2 (贝努里大数定律) 设 S n 为 n 重贝努里试验中事件 A 出现的次数， p 为 A 在每次 n
证 明 ：令 Xi
1 在第i 次试验中A出现 ， 则 X i ~ B(1, p ) ， i 1,2,, n 且 相 互 独 立 ， 0 在第 i 次试验中 A 不出现
c 0 ，使得 DX n c ， n 1,2, ，则
P 1 n ( X i EX i ) 0 . n i 1
证明：只须验证马尔可夫条件成立即可.由于 { X n } 两两互不相关，故
0
因此马尔可夫条件成立.
n 1 1 D ( Xi) 2 2 n n i 1
DX i
大数定律和中心极限定理
从而有
EX=np=200×0.5=100，DX=np(1-p)= 200×0.5×0.5=50
由切贝晓夫不等式知道，男孩多于 80 个且少于 120 个的概率为：
P(80 <
X
< 120) =
P(|
X
−100 |<
20) ≥ 1−
50 202
= 0.875
例 2 用拉普拉斯定理计算例题 1 中的概率。
解 （1）设 1000 个产品中废品数为 X，则 X 服从二项分布，且
EX=np=30，DX=np(1-p)=29.1
由拉普拉斯定理知道，1000 个产品中废品多于 20 个且少于 40 个的概率为：
P(20
<
X
=
(Yk − μ)
k =1
n ⋅σ
=
n (Yn − μ ) ，则对任意实数 x∈R 有 k=1 n ⋅σ
n
∑(Yk − μ)
Lim
n→∞
P(Zn
≤
x)
=
Lim P(
n→∞
k =1
n ⋅σ
≤ x) =
∫ 1
x −u2
e 2 du
2 ⋅π −∞
（棣莫弗-拉普拉斯定理）（二项分布以正态分布为极限分布的中心极限定律）设随机变量
布进行近似计算。
P(a < Y < b) = P( a − np < Y − np < b − np ) np(1− p) np(1− p) np(1− p)
⎛ ≈ Φ⎝⎜⎜
b − np np(1− p)
⎞ ⎠⎟⎟
(完整word版)五、大数定律与中心极限定理(答案)
概率论与数理统计练习题系 专业 班 姓名 学号第五章 大数定律与中心极限定理一、选择题：1．设n μ是n 次重复试验中事件A 出现的次数,p 是事件A 在每次试验中出现的概率，则对任意的0ε>均有lim {}n n P p n με→∞-≥ ［ A ]（A ）0= (B ）1= （C)0> (D ）不存在2．设随机变量X ，若2() 1.1,()0.1E X D X ==，则一定有 [ B ]（A){11}0.9P X -<<≥ （B ）{02}0.9P X <<≥(C){|1|1}0.9P X +≥≤ (D){|}1}0.1P X ≥≤3．121000,,,X X X 是同分布相互独立的随机变量，~(1,)i X B p ，则下列不正确的是 ［ D ]（A ）1000111000i i X p =≈∑ （B)10001{}i i P a X b =<<≈Φ-Φ∑ (C)10001~(1000,)i i X B p =∑ （D ）10001{}()()i i P a X b b a =<<≈Φ-Φ∑二、填空题：1．对于随机变量X ，仅知其1()3,()25E X D X ==，则可知{|3|3}P X -<≥2．设随机变量X 和Y 的数学期望分别为2-和2，方差分别为1和4，而相关系数为5.0-，则根据契比雪夫不等式{}6P X Y +≥≤三、计算题:1．设各零件的重量是同分布相互独立的随机变量，其数学期望为0.5kg ,均方差为0.1kg，问5000只零件的总重量超过2510kg 的概率是多少？解：设第i 件零件的重量为随机变量i X ，根据题意得0.1.i EX ==5000500011()50000.52500,()50000.0150.i i i i E X DX ===⨯==⨯=∑∑5000500012500(2510)110.92070.0793.i i i X P X P =->=>≈-Φ≈-=∑∑2．计算器在进行加法时，将每个加数舍入最靠近它的整数，设所有舍入误差是独立的且在(0.5,0.5)-上服从均匀分布。
大数定律及中心极限定理
返回主目录
第五章 大数定律及中心极限定理
例1
§2 中心极限定理
某车间有200台车床,它们独立地工作着,开工 率为0.6,开工时耗电各为1千瓦,问供电所至少要 供给这个车间多少电力才能以99.9%的概率保证 这个车间不会因供电不足而影响生产. 解: 记某时在工作着的车床 数为 X, X ~ B(200,0.6). 则 设至少要供给这个车间r千瓦电才能以99.9%的概率 保证这个车间不会因供电不足而影响生产.由题 r k 意有:P{ X ≤ r} = ∑ C200 (0.6) k (0.4) 200k
1
k
∑X n
n
= p (1 p ), k = 1, 2 , , n ,
i
p |< ε } = 1 ,
第五章 大数定律及中心极限定理
§1 大数定律
定理 4(辛钦大数定律) 设 X 1 ,, X n , 相互独立同分布,且 具有 数学期望 EX k = ,k = 1,2,, n, ,
则:对任意的ε > 0 ,有
k =1 k =1 n n
∑ DX
k =1
n
k
,
若对任意 x ∈ R1 ,有 nlim P{Z n ≤ x} = >∞
1 2π
Hale Waihona Puke ∞∫ext2 2
dt .
则称 { X n } 服从中心极限定理.
返回主目录
第五章 大数定律及中心极限定理
§2 中心极限定理
定理1 (独立同分布的中心极限定理) 设 X 1 ,, X n , 是独立同分布的随机变量序 列,且 EX k = ,DX k = σ 2 ≠ 0, (k = 1,2,) 则 { X n } 服从中心极限定理,即:
概率论第五章大数定律与中心极限定理讲解
1 P
1200
Xk
k 1
10
0
2
1[
2
2
]
2 22 2 0.0228 0.0456
例2 根据以往经验，某种电器元件的寿命服从均 值为100小时的指数分布. 现随机地取16只，设它们的 寿命是相互独立的. 求这16只元件的寿命的总和大于 1920小时的概率.
可知，当 n 时，有 1nn 源自1XiP E( X1)
a
因此我们可取 n 次测量值 x1, x2, , xn 的算术平均值
作为a
得近似值，即
a
1 n
n i1
xi ,当n充分大时误差很小。
例4 如何估计一大批产品的次品率 p ？ 由伯努利大数定律可知，当 n 很大时，可取频率
则对任意的 x ，有
n ~ N(np, np(1 p)) n , 近似地
即 n np ~ N (0,1)
np(1 p)
或 lim P{ n np
x
x}
1
t2
e 2 dt x
n np(1 p)
2
证 因为 n ~ b(n, p)
n
所以 n X k k 1
i 1
1200
1200
心极限定理可得 X k ~ N (n,n 2),即 X k ~ N (0,100)
k 1
k 1
则所求概率为
1200
1200
P k1 X k
20
P
Xk 0
k 1
概率统计(5)大数定律与中心极限定理
i =1 上一页 下一页
返回
定理2: 定理
上一页
下一页
返回
贝努利大数定律) (贝努利大数定律)设nA是n次独立重复试 次独立重复试 定理3: 定理 验中事件A出现的次数 是事件 出现的次数. 是事件A在每次试验中发生的 验中事件 出现的次数 p是事件 在每次试验中发生的 概率 (0<p<1),则对任意的ε >0有: 则对任意的 有 或 证明:设Xi表示第 i 次试验中事件 出现的次数, 次试验中事件A出现的次数 出现的次数, 证明: i=1,2,…,n,则X1,X2,…,Xn相互独立且均服从参数为 的 相互独立且均服从参数为p的 则 (0-1)分布,故有 E(Xi)=p, D(Xi)=p(1-p) i=1,2,…,n 分布, 分布 由契比雪夫大数定律知, 且 ,由契比雪夫大数定律知,对于任意 的 ,有
定理1: 定理
相互独立, 证 因X1,X2,…相互独立,所以 相互独立
1 n 1 n 1 l D ∑ X i = 2 ∑ D( X i ) < 2 nl = n n n i =1 n i =1
又因
1 n 1 n E ∑ X i = ∑ E ( X i ), n i =1 n i =1
ε
ε2
可见契比雪夫不等式成立. 可见契比雪夫不等式成立
上一页
下一页
返回
设电站供电网有10000盏电灯 夜晚每一盏灯开灯的 盏电灯,夜晚每一盏灯开灯的 例2 设电站供电网有 盏电灯 概率都是0.7,而假定开,关时间彼此独立 估计夜晚同时 而假定开, 概率都是 而假定开 关时间彼此独立,估计夜晚同时 开着的灯数在6800与7200之间的概率 之间的概率. 开着的灯数在 与 之间的概率 表示在夜晚同时开着的灯的数目,它服从参数为 解 设X表示在夜晚同时开着的灯的数目 它服从参数为 表示在夜晚同时开着的灯的数目 n=10000,p=0.7的二项分布 的二项分布. 的二项分布 若要准确计算,应该用贝努利公式 应该用贝努利公式: 若要准确计算 应该用贝努利公式:
第5章 大数定律及中心极限定理
第五章 大数定律与中心极限定理● 随机现象的规律只有在大量随机现象的考察中才能显现出来。
● 研究大量的随机现象，常常采用极限形式。
● 极限定理的内容很广泛，其中最重要的有二种：大数定律与中心极限定理。
1 大数定律● 事件发生的频率具有稳定性；●大量测量值的算术平均值也具有稳定性。
大数定律就是从这种稳定性的研究中得出的。
定理一（契比雪夫大数定律）设随机变量序列,,,,21nXX X …相互独立，且具有相同的数学期望和方差：()()().,2,1,2 ===kX D X E k kσμ前n 个随机变量的算术平均：∑==nk k XnX 11对于任意正数ε，有{}εμ<-∞→||lim X P n =.1|1|1lim=⎭⎬⎫⎩⎨⎧<-∑=∞→εμnk kn XnP则称{X n }服从大数定律。
证：由于(),11111μμ=⋅==⎥⎦⎤⎢⎣⎡∑∑==n nX E nX nE nk knk k(),111222121nn nX D nX n D nk kn k k σσ=⋅==⎥⎦⎤⎢⎣⎡∑∑==由契比雪夫不等式可得：./1|1|221εσεμn XnP nk k-≥⎭⎬⎫⎩⎨⎧<-∑=在上式中令,∞→n 并注意到概率不能大于1，即得：.1|1|lim 1=⎭⎬⎫⎩⎨⎧<-∑=∞→εμnk k n X nP● 定理一给出了关于平均值稳定性的科学的描述。
● 上式的意义：⎭⎬⎫⎩⎨⎧<-∑=εμ|1|1nk k X n是一个随机事件，等式表明，当∞→n 时，这个事件的概率趋于1。
即对于任意正数ε，当n 充分大时，不等式εμ<-∑=|1|1nk kX n成立的概率很大。
● 还表明，当n 很大时，随机变量nX X X ,,,21 的算术平均∑==nk kXnX 11接近于数学期望()()()μ====k X E X E X E 21.这种接近是在概率意义下的接近。
● 说明平均结果∑==nk kXnX 11渐趋稳定性。
概率论与数理统计第5章-大数定律和中心极限定理
DX } 1
(2
DX DX
)2
3 4
．
例 1.2 设随机变量 X ~ P(9) ，试根据切比雪夫不等式 估计概率 P{X 19}． 解 由于 X ~ P(9) ，所以 EX DX 9 ，且
P{X 9 10} P{X 1} 0 ， 故有 P{X 19} P{X 9 10}
P{ X 9 10} 9 0.09 ． 102
例 1.3 设随机变量 X ,Y 独立同分布，且 D(X ) 2 ，
试根据切比雪夫不等式估计概率 P{ X Y 2} ．
解 由于 X ,Y 独立同分布，所以 E( X Y ) 0 ，且
D(X Y ) DX DY 4
lim
n
FYn
(
x)
(
x)
1
2
x
e
t2 2
dt
，
x
(,
)
．
【注 1】定理 2.1 称为列维—林德伯格中心极限定理，也 称为独立同分布随机变量序列的中心极限定理．
【注 2】由定理 2.1 表明，当 n 充分大时， FYn (x) (x) ，
近似
n
近似
即得Yn ~ N (0,1) ，从而有 Xi ~ N (n, n 2 ) ．
P{ X Y 2} 1 D(X Y ) 1 ，
22
2
二、大数定律（了解） 1.相关概念
定义 1.1 设有随机变量序列 X1, X 2 ,L , X n ,L ，如果
存在常数 a ，使得对任意的 0 ，有
lim P{
n
Xn
a
}1，
第五章 大数定律及中心极限定理
解:(1)由X~b(300,1/4)知,E(X)=np=75, D(X)= npq =300*1/4*3/4=225/4.所以所求概率为:
225 P{| X − E ( X ) |≤ 50} ≥ 1 − 502 = 0.9975 4
(2)由X~b(1000,1/4)知, E(X)=250, D(X)=375/2.所以
依概率收敛的意义
依概率收敛即依概率1收敛。随机变量序列{ X n }依概率 收敛于a，说明对于任给的ε > 0，当n很大时，事件 “ xn − a < ε”的概率接近于1，但正因为是概率，所以不排 除小概率事件“ xn − a ≥ ε”发生。所以说依概率收敛是不 确定现象中关于收敛的一种说法。
例 设在每次试验中,事件A发生的概率为1/4. (1)300次重复独立试验,以X记A发生的次数.用切 比雪夫不等式估计X与E(X)的偏差不大于50的 概率; ; (2)问是否可用0.925的概率,确信在1000次试验 中, A发生的次数在200到300之间.
数学期望 E ( X i )和方差 D( X i )都存在( i = 1,2, L)，且D( X i ) < C ( i = 1,2,L)，则对任意给定的 ε > 0，有 1 n lim P ∑ [ X i − E ( X i )] < ε = 1 n→ ∞ n i =1
切比雪夫定理的特殊情况
定理 序列， 设X 1 , X 2 , L , X n , L是相互独立的随机变量 序列，
有相同的数学期望和方 差，E ( X i ) = µ , D( X i ) = σ 2 ( i = 1,2, L)。则对任意给定的 ε > 0，有 1 n lim P ∑ X i − µ < ε = 1 n→ ∞ n i =1 即 X →µ
第五章大数定律及中心极限定理
那么我们就称随机变量序列{Yn，nZ+}依概率收 P 敛到随机变量Y ，记为 Yn Y.
依概率收敛的本质是Yn对Y的绝对偏差小于任一给 定量的可能性将随着n的增大而增大.
特当Y为退化分布时,即P{Y=a}=1,则称序列依概 P 率收敛于a,即 Yn a
如果把极限放到绝对值上，即差值的极限小于任意正数的概率为1则称 为几乎处处收敛
9/41
§5.1 大数定律
依概率收敛包含了依分布收敛，反之不成 立，依分布收敛是弱收敛 所谓“弱大数定律”，是指上述收敛为依 概率收敛(in probability)， 所谓“强大数定律”，是指上述收敛为 “几乎必然收敛”(almost surely/with probability one)
10/41
大量试验后事件发生的频率nA/n稳定于一个常数，即概 率 大量试验的算术平均值稳定于数学期望
大数定律就是以确切的数学形式表达了大量重复 出现的随机现象的统计规律性
即频率的稳定性和算术平均值的稳定性
2/41
§5.1 大数定律
弱大数定理 1(契比雪夫定理的特殊情况) 设随机变量X1, X2,..., Xn,...相互独立, 且具有相同 的数学期望和方差: E(Xk)=m, D(Xk)=s2(k=1,2,...), 作 前n个随机变量的算术平均值
§5.1 大数定律
上述定理中要求随机变量X1,X2,...的方差存在. 但这些随机变量服从相同分布的场合, 并不需要这 一要求, 我们有以下的定理.
弱大数定理(辛钦定理)
设随机变量X1,X2,...,Xn,...相互独立, 服从同一 分布, 且具有数学期望E(Xk)=μ (k=1,2,...), 则对于任 意正数, 有