概率统计第五章随机变量序列的极限
合集下载
西北工业大学《概率论与数理统计》课件-第5章大数定律及中心极限定理
正态的现象了。此例更好更形象地说明了中心极限定理。
E(X ) D(X ) 近似正态的峰值？ 稳定性
§2 中心极限定理
例2：设某种电器元件的寿命服从均值为100小时的指 数分布，现随机取得16只，设它们的寿命是相互独立 的,求这16只元件的寿命的总和大于1920小时的概率。
解：记16只电器元件的寿命分别为X1, X 2, , X16,
德莫佛-拉普拉斯定理是
E(n ) = np，D(n ) = np (1-p) (k = 1, 2,..., n)
独立同分布的中心极限 定理中Xk服从(0-1)的特
由定理一得：
lim P
n − np
x =
lim
P
n i =1
X i − np
殊情况
x x =
1
e−
t2 2
dt
=
(
x)
n→+ np(1 − p) n→+ np(1 − p) − 2
以下介绍三个常用的中心极限定理。
§2 中心极限定理
一、独立同分布的中心极限定理 independent identically distributed，i.i.d
定理一：设随机变量X1, X 2, , X n , 相互独立同分布，
且具有数学期望和方差：E ( Xi ) = , D ( Xi ) = 2 0,i = 1, 2,
X B (n, p), n = 10000, p = 0.017
由德莫佛--拉普拉斯中心极限定理，保险公司亏本的概率为：
P (10000X 10000 200) = P ( X 200)
思考题：
1−
200 − np
np (1− p)
第五章 大数定律和中心极限定理 第六章
定理5 5 (棣莫弗拉普拉斯中心极限定理) 设随机变量Zn是n次
独立重复试验中事件A发生的次数, p是事件A发生的概率, 则对任意
实数x有
x 1 t2 Z ( x). n 2 npq
X1 , X 2 ,
, X100相互独立,令Y X i则由中心极限定理知Y 近似服从于
i 1
正态分布,其方差为________.
4.(2008 -10)设总体X 的分布律为P{ X 1} p, P{ X 0} 1- p, 其中0 p 1. 设X 1 , X 2 , , X n为来自总体的样本, 则样本均值X 的标准差为( ).
P{| X E ( X ) | }
D( X )
2
,
识 记
或
P{| X E ( X ) | } 1
D( X )
2
.
1.(2006-7)设随机变量X服从参数为2的泊松分布,试由切比雪夫不等式估计 P{|X-E(X)|<2}≥_____.
2.(2008 7)设X 1 , X 2 ,
3.样本矩 设x1 , x2 ,
, xn是样本,则统计量
1 n k ak xi n i 1
称为样本k阶原点矩,特别地,样本一阶原点矩就是样本均值.
统计量
1 n bk ( xi x )k n i 1
2 称为样本k阶中心矩. Sn 表示二阶样本中心矩.
3.2 分位数的概念，要求：领会
3.3 查表计算常用分布的分位数，要求：简单应用
4. 正态总体的抽样分布
正态总体的抽样分布，要求：简单应用
定义 6.1 (统计量) 设x1, x2 , , xn为取自某总体的样本,若样本
第五章 大数定律
二、基本定理
定理4（独立同分布的林德贝尔格-勒维(Lindeberg －Levy)中心极限定理）设X1，X2，…，Xn，…是相 互独立，且服从同一分布的随机变量序列，并具有数 学期望和方差：
EX i , DX i 2 0, i 1,2,
则对任意的x有
n X i n i 1 lim P n x n
即 Yn中每一被加项对总和的影响都很微小，但 它们迭加的和却以标准正态分布作为极限。
例1有100个电子器件，它们的使用寿命X1，X2，…， X100 均服从参数为=0.05(h-1)的指数分布，其使用情 况为：第一个损坏第二个立即使用，第二个损坏第三
个立即使用等等。令X表示这100个电子器件使用的总
意思？
这与高等数学中的极限概念是否有联系？本章将 从理论上讨论这一问题。
二、基本定理
首先，我们引进依概率收敛的概念。
定义 设X1，X2，…，Xn，…是一个随机变量序列，a
是一个常数，若对任意的正数，有
n
lim P{| X n a | } 1
或
n
lim P{| X n a | } 0
解得
x 21.23
取最接近的整数 x=22，即总机至少应配备22 条外线，才能有95%以上的把握保证各个分机在 使用外线时不必等候。
伯努利大数定律说明了当n很大时事件发生的频率会非常接近概率而这里的辛钦大数定律则表明当n很大时随机变量x在n次观察中的算术平均值也会接近它的期望值即52一问题的引入二基本定理在第二章介绍正态分布时曾经特别强调了它在概率论与数理统计中的地位与作用为什么会有许多随机变量遵循正态分布
第五章 大数定律与中心极限定理
大数定律
np(1-p)
np(1-p)
这是一个十分有用的近似计算二项分布B(n,p)的概率公式 例3设有一批种子，其中良好占1/5，现从中任取5000粒， 求在该5000粒中良种数X介于940粒与1060之间的概率． 解： 5000次抽取，每次取一粒．
近似看成重复独立试验． X～B(5000,0.2)，于是
P(940 X 1060) (2.12) (-2.12) 1.966 1 0.966
它们不必服从同分布， 只要每个随机变量
对总和都只起“微小的作用”， 便近似服从正态分布
概率论与 数理统计
第五章 大数定律及中心极限定理
推论：设随机变量Xn服从参数为 n , p (0<p<1) 的二项分布,
即X n ~ B(n, p).
当 n 充分大时有：
P{a
n
b}
P{a
np npq
Xi～B(1,p)
X1,X2,…,Xn…是独立同分布的 E(Xi)=p D(Xi)=p(1-p)
按独立同分布中心极限定理有
lim P{
n
1 np(1
p)
n
(
i=1
Xi -np)
x}= x
nA
n 1
Xi
;
得证．
当n很大时，对
作标准化处理后的随机变量
Yn =
nA -np np(1-p)
lim P{
n
1
n
n i=1
Xi
-n
x}=
P{
1
n
n
( Xi -n)
i=1
x}
是随机变量
的分布函数，
第五章 大数定律与中心极限定理
∑200
【解】 设 X i 表示“该射手第 i 次射击的得分”，则 Y = X i 表示射手所得总分，
i=1
Xi (i =1, 2, , 200) 独立同分布，分布表如下：
Xi
0
2
3
4
5
p
由于
0.1
0.1
0.2
0.2
0.4
E( Xi ) = 0×0.1+ 2×0.1+ 3×0.2 + 4×0.2 + 5×0.4 = 3.6 ；
试验中发生的概率，这个定律以严格的数学形式刻画了频率的稳定性，在实际应用中，当试 验次数很大时，便可以用事件发生的频率来替代事件的概率.
3、辛钦大数定律
设随机变量序列 X , X , 12
，Xn,
相互独立且服从相同的分布,具有相同的数学期望
E(X i
)
=
μ
,（
i
=
1,
2,
） ,则对任意给定的正数 ε ，有
) ,则对任意实数 x ，有
∑ ⎧
⎪
n
X − nμ i
⎫ ⎪
⎨ lim P i=1
≤ x⎬ =
⎪ n→∞
nσ
⎪
⎩
⎭
∫ 1
2π
x −t2
e
−∞
2 dt = Φ(x) .
154
第五章 大数定律与中心极限定理
n
∑ 【评注】 n 个相互独立同分布、方差存在的随机变量之和 Xi ，当 n 充分大时，近似 i =1
第五章 大数定律与中心极限定理
本章学习要点
① 了解切比雪夫不等式； ② 了解切比雪夫大数定律、伯努利大数定律和辛钦大数定律（独立同分布随机变量的大
【解】 设 X i 表示“该射手第 i 次射击的得分”，则 Y = X i 表示射手所得总分，
i=1
Xi (i =1, 2, , 200) 独立同分布，分布表如下：
Xi
0
2
3
4
5
p
由于
0.1
0.1
0.2
0.2
0.4
E( Xi ) = 0×0.1+ 2×0.1+ 3×0.2 + 4×0.2 + 5×0.4 = 3.6 ；
试验中发生的概率，这个定律以严格的数学形式刻画了频率的稳定性，在实际应用中，当试 验次数很大时，便可以用事件发生的频率来替代事件的概率.
3、辛钦大数定律
设随机变量序列 X , X , 12
，Xn,
相互独立且服从相同的分布,具有相同的数学期望
E(X i
)
=
μ
,（
i
=
1,
2,
） ,则对任意给定的正数 ε ，有
) ,则对任意实数 x ，有
∑ ⎧
⎪
n
X − nμ i
⎫ ⎪
⎨ lim P i=1
≤ x⎬ =
⎪ n→∞
nσ
⎪
⎩
⎭
∫ 1
2π
x −t2
e
−∞
2 dt = Φ(x) .
154
第五章 大数定律与中心极限定理
n
∑ 【评注】 n 个相互独立同分布、方差存在的随机变量之和 Xi ，当 n 充分大时，近似 i =1
第五章 大数定律与中心极限定理
本章学习要点
① 了解切比雪夫不等式； ② 了解切比雪夫大数定律、伯努利大数定律和辛钦大数定律（独立同分布随机变量的大
第五章 数理统计 大数定律与中心极限定理
) 0.999
查正态分布函数表得
(3.1) 0.999
故
N 120 48
≥ 3.1,
从中解得N≥141.5,
即所求N=142.
也就是说, 应供应142 千瓦电力就能以99.9%的 概率保证该车间不会因供电不足而影响生产.
例3 对于一个学生而言，来参加家长会的家长人数
是一个随机变量，设一个学生无家长、 1名家长、名 2 家长来参加会议的概率分别为0.05、.8、.15.若学校 0 0 共有 400名学生，设各学生参加会议的家长数相互 独立，且服从同一分布.
lim P n X np np 1 p x 1 2
x
t
2
e
2
dt x
证明:设 则
第i次试验事件A发生 第i次试验事件A不发生
由中心极限定理,结论得证
当 n 充分大时，二项分布 X ~ B n , p 可近似地用正态分布N np , np 1 p 来代替。
由于无穷个随机变量之和可能趋于∞，故我们 不研究n个随机变量之和本身而考虑它的标准化的随 n 机变量. 即考虑随机变量X k ( k 1,n)的和 X k
k 1
讨论Yn的极限分布是否为标准 正态分布
在概率论中，习惯于把和的分布收敛于正态分 布这一类定理都叫做中心极限定理.
5.2
中心极限定理 标准化随机变量
如
意思是:当
时,Xn落在
内的概率越来越大.
a
而
意思是:
,当
几个常用的大数定律
定理5-2 切比雪夫大数定律
，
设{Xi, i=1,2,...}为独立的随机变量序列， 且存在数学期望、方差 E X n nDBiblioteka X n2 nDX
大数定律
则对于任意ε＞0，有
1
lnimlniPmPn
n
1n
i
X
1
nXi
En(
Xn
i 1
)E( Xi
)
1
1
记
1n X n n i1 X i
1 n
E( Xn ) n i1 E( Xi )
这意味着在n充分大时，相互独立的随机变量的算术平均值
X n 的值将比较紧密地聚集在它的数学 期望 E( Xn ) 附近．
第五章 极限定理
考试内容 切比雪夫（Chebyshev）不等式 切比雪夫大数定律 伯
努利（Bernoulli)大数定律 辛钦（Khinchine）大数定律 棣 莫弗－拉普拉斯（De Moivre－laplace）定理 列维－林德伯格 （Levy-Lindberg）定理
考试要求 1．了解切比雪夫不等式． 2．了解切比雪夫大数定律、伯努利大数定律和辛钦大数定
结束
二、大数定律
定理1(切贝雪夫大数定律)如果X1，X2…，Xn，…是相互独立的 随机变量序列，每一个Xi都有数学期望E(Xi）和有限的方差D(Xi), 且方差有公共的上界，即
D( Xi ) C, i 1, 2, , n, ; C 0 则对于任意ε＞0，有
lim P n
1 n
n i 1
(3 D(X ) )2 9
《概率统计》
返回
下页
结束
例2．若在每次试验中，A发生的概率为0.5，进行1000 次独立试验，估计 A 发生 400～600 次之间的概率。
解：因 X ～B（1000，0.5），E（X）=500，D（X）=250
所以 P{ 400 < X < 600 } = P{ | X-500 | < 100 }
1
lnimlniPmPn
n
1n
i
X
1
nXi
En(
Xn
i 1
)E( Xi
)
1
1
记
1n X n n i1 X i
1 n
E( Xn ) n i1 E( Xi )
这意味着在n充分大时，相互独立的随机变量的算术平均值
X n 的值将比较紧密地聚集在它的数学 期望 E( Xn ) 附近．
第五章 极限定理
考试内容 切比雪夫（Chebyshev）不等式 切比雪夫大数定律 伯
努利（Bernoulli)大数定律 辛钦（Khinchine）大数定律 棣 莫弗－拉普拉斯（De Moivre－laplace）定理 列维－林德伯格 （Levy-Lindberg）定理
考试要求 1．了解切比雪夫不等式． 2．了解切比雪夫大数定律、伯努利大数定律和辛钦大数定
结束
二、大数定律
定理1(切贝雪夫大数定律)如果X1，X2…，Xn，…是相互独立的 随机变量序列，每一个Xi都有数学期望E(Xi）和有限的方差D(Xi), 且方差有公共的上界，即
D( Xi ) C, i 1, 2, , n, ; C 0 则对于任意ε＞0，有
lim P n
1 n
n i 1
(3 D(X ) )2 9
《概率统计》
返回
下页
结束
例2．若在每次试验中，A发生的概率为0.5，进行1000 次独立试验，估计 A 发生 400～600 次之间的概率。
解：因 X ～B（1000，0.5），E（X）=500，D（X）=250
所以 P{ 400 < X < 600 } = P{ | X-500 | < 100 }
概率论与数理统计 第三版 第五章 大数定律和中心极限定理
上页 下页 返回
依概率收敛的序列还有以下性质: 设 X n p a, Yn pb, 且函数 g(x,y) 在点 (a,b)连续,
具有数学期望 E(X ) 和方差 D(X ) , 0 ,有
P{
X
E
(
X
)
≥
}≤
D(
X
2
)
,
或
P{ X E(X ) }≥1 D(X ) .
2
上页 下页 返回
证 以连续型随机变量X为例.
P{ X E( X ) ≥} f (x)dx x E ( X ) ≥
≤ x E ( X ) ≥
x E(X ) 2
E(
X
k
)
，D(
X
k
)
2
(k
1，2，
上页
,
n)．
下页
返回
则对任意的ε>0, 有
1
lim P{ n n
n
Xk
k 1
}1
证 由于
lim P X 1.
n
E
1 n
n k 1
X
k
1 n
n k 1
E(X
k
)
1 n
n
,
D
1 n
n k 1
Xk
1 n2
n
D
k 1
XK
1 n2
n
2
2
n
,
上页 下页 返回
由切比雪夫不等式知
P
1 n
n
Xk
k 1
≥1
2
n
2
.
令n , 并注意到概率不能大于1, 即得
1
lim
n
P
依概率收敛的序列还有以下性质: 设 X n p a, Yn pb, 且函数 g(x,y) 在点 (a,b)连续,
具有数学期望 E(X ) 和方差 D(X ) , 0 ,有
P{
X
E
(
X
)
≥
}≤
D(
X
2
)
,
或
P{ X E(X ) }≥1 D(X ) .
2
上页 下页 返回
证 以连续型随机变量X为例.
P{ X E( X ) ≥} f (x)dx x E ( X ) ≥
≤ x E ( X ) ≥
x E(X ) 2
E(
X
k
)
，D(
X
k
)
2
(k
1，2，
上页
,
n)．
下页
返回
则对任意的ε>0, 有
1
lim P{ n n
n
Xk
k 1
}1
证 由于
lim P X 1.
n
E
1 n
n k 1
X
k
1 n
n k 1
E(X
k
)
1 n
n
,
D
1 n
n k 1
Xk
1 n2
n
D
k 1
XK
1 n2
n
2
2
n
,
上页 下页 返回
由切比雪夫不等式知
P
1 n
n
Xk
k 1
≥1
2
n
2
.
令n , 并注意到概率不能大于1, 即得
1
lim
n
P