大数定理与中心极限定理
大数定理与中心极限定理.
P
X
-
2 2
证明：(对连续型情况证明)设随机变量X的概率密度为f (x).
对于X的取值x，当
所以有 P X
x
时，便有 (
f (x)dx
x
-
2
)2
1
(x - )2 2
x-
f
(
x)dx
x-
(x
-
)2
2
f
(
x)dx
2 2
注意：P
X
-
2 2
P
X
-
2 1 2
二、 Chebysherv不等式的应用
当观测次数n充分大时，“观测值得算术平均值接近 期望值”是一个大概率事件，即下式以大概率成立：
1
n
n i 1
Xi
n充分大
E(X )
➢ Bernoulli大数定理应用
寻找随机变量的期 望值提供了一条实
际可行的途径
这一定理表明：在相同条件下重复同一随机试验
n次，当试验次数n充分大时，“事件A发生的频率接近 其概率”是一个大概率事件，即下式以大概率成立：
➢ 概率的估算
P
X
1
2 2
例4.1 设一种小麦品种在某产地的平均产量为750斤，
标准差为15斤，试求该小麦品种今年在该地区亩产
量在700于800斤之间的概率。
解：设该地区次小麦品种的亩产量为X.
由题设知 E(X ) 750 D(X ) 152，由Chebysherv不等式有
P700
X
800
P
X
1 n
n i 1
Xi
1
这个定理表明 1
n
n i 1
大数定理与中心极限定理
的随机变量，使得X Xi . 易知 i 1
E( X ) np D( X ) npq
由Lindeberg-Levy中心极限定理知
lim
P
X
np
x
1
x t2
e 2 dt
n npq
2
n
理解：在定理条件下，总有 X ~ N(np, npq).
三、中心极限定理的应用
➢ Lindeberg-Levy中心极限定理应用
其概率分布一定是正态分布。
定理4(De Moivre-Laplace中心极限定理) 设随机变量X ~ B(n, p)，则对于任意的实数x，有
lim
P
X
np
x
1
x t2
e 2 dt
n npq
2
证明：因为X ~ B(n, p)，由Bernoulli大数定理证明有
X1, X 2 , , X n为独立同分布于参数为p的两点分布
P
1 n
n i1
1 Xi n
n
E( Xi )
i1
1
D(1 n n i1
2
Xi)
1
M
n 2
所以
lim P n
1 n
n i1
Xi
1 n
n i1
E( Xi )
1
推论：设X1, X 2 , , X n , 是独立同分布
随机变量序列，且数学期望为，方
差 2，则对于任意的正实数有
lim
n
当观测次数n充分大时，“观测值得算术平均值接近 期望值”是一个大概率事件，即下式以大概率成立：
1
n
n i 1
Xi
n充分大
E(X )
概率论中的大数定律与中心极限定理
概率论中的大数定律与中心极限定理概率论是数学中的重要分支，研究随机现象的规律性。
在概率论中，大数定律和中心极限定理是两个基本定理，它们对于理解和应用概率论具有重要意义。
一、大数定律大数定律是概率论中的一项重要成果，它研究的是随机事件重复进行时，随着试验次数的增加，事件的频率趋于稳定的现象。
大数定律的核心思想是：随机事件的频率会趋于其概率。
大数定律有多种形式，其中最著名的是弱大数定律和强大数定律。
弱大数定律指出，当随机事件重复进行时，事件的频率会接近其概率，但不一定完全相等。
而强大数定律则更加严格，它指出，当随机事件重复进行时，事件的频率几乎必定会趋于其概率。
大数定律的应用非常广泛。
例如，在赌场中，赌徒们常常利用大数定律来制定自己的投注策略。
他们相信，通过多次下注，最终能够获得稳定的胜率。
另外，在统计学中，大数定律也是重要的理论基础。
通过对大量样本的观察，我们可以得出对总体的推断。
二、中心极限定理中心极限定理是概率论中的另一个重要定理，它研究的是随机变量的和的分布趋于正态分布的现象。
中心极限定理的核心思想是：随机变量的和趋于正态分布的程度与随机变量的分布无关，只与样本容量有关。
中心极限定理有多种形式，其中最著名的是中心极限定理的拉普拉斯形式和莫尔根-拉普拉斯形式。
中心极限定理的拉普拉斯形式适用于二项分布和泊松分布，而莫尔根-拉普拉斯形式适用于任意分布。
中心极限定理的应用广泛而深入。
在实际生活中，我们常常遇到一些随机现象，如测量误差、人口统计等。
通过应用中心极限定理，我们可以对这些随机现象进行更准确的分析和预测。
三、大数定律与中心极限定理的关系大数定律和中心极限定理是概率论中两个相互关联的定理。
它们都是研究随机现象的规律性，但侧重点不同。
大数定律研究的是随机事件的频率趋于稳定的现象，它关注的是事件本身的概率。
而中心极限定理研究的是随机变量的和的分布趋于正态分布的现象，它关注的是随机变量的分布。
大数定律和中心极限定理的关系可以从两个方面来理解。
大数定律和中心极限定理
大数定律和中心极限定理1 大数定律这里强调的是总体与样本大数定律就是说：当随机事件发生的次数足够多时，发生的频率趋近于预期的概率大数定律说的是当随机事件重复多次时频率的稳定性，随着试验次数的增加，事件发生的频率趋近于预期的“概率”2 赌徒缪误：1，2，4，8-----在赌钱时——输了就翻倍，一直到赢为止有人说：如果已经连续4次出现正面，接下来的第5次还是正面的话，就接连有5次“正面”，根据概率论，连抛5次正面的几率是1/25=1/32。
所以，第5次正面的机会只有1/32，而不是1/2。
以上混淆了“在硬币第1次抛出之前，预测接连抛5次均为正的概率”和“抛了4次正之后，第5次为正的概率”，既（11111）---- 1/32，(1111)1 ---- 1/2。
3 中心极限定理3.1 大数定律和中心极限定理的关系：上面通过赌徒谬误介绍了概率论中的大数定律。
大数定律说的是当随机事件重复多次时频率的稳定性，随着试验次数的增加，事件发生的频率趋近于预期的“概率”。
但大数定律并未涉及概率之分布问题。
此外大数定律说明了在一定条件下，当系统的个体足够多时，系统的算数平均值会集中在期望位置。
从这个角度，中心极限定理包含了大数定律。
因为中心极限定理在于揭示系统在期望附近的统计性质，即“以何种方式”集中在期望。
总的来说就是——大数定律反映的是频率->概率（或者认为广义的期望）；而中心极限定理反映的是——在整体结果下，结果内部发生各种情况下的一个概率分布情况。
3.2 那什么是中心极限定理？中心极限定理指的是分别适用于不同条件的一组定理，但基本可以用一句通俗的话来概括它们：大量相互独立的随机变量，其求和后的平均值以正态分布（即钟形曲线）为极限。
Eg：以二项分布为例进行解释（抛硬币）对于抛n次硬币，出现正面k次的一个分布情况，如下：但是对于二项分布不一定是对对称的，除了受抛的次数n影响，还受对应的概率p的影响3.3 晋级再后来，中心极限定理的条件逐渐从二项分布推广到独立同分布随机序列，以及不同分布的随机序列。
3.5大数定理和中心极限定理
2. De Moiver − Laplace积分极限定理( 推论 )
若 X ~ B ( n , p ), 则对于任何实数 x , 有
X − np x 1 −t lim P ≤ x = ∫ e 2 dt = Φ( x) n→∞ npq −∞ 2π
b − np a − np − Φ (由Th) ≈ Φ 由 npq npq
例2 : 设电路供电网中有 10000 盏灯 , 夜晚每一盏灯开着的概 率都是 0.7 ,
假定各灯开 , 关时间彼此无关 , 计算同时开着的灯数在 6800 与7200 之间的概率 . 解 : X 表示同时开着的灯数
Xi
P
µ
1 n ∀ 即对 ε > 0, lim P ∑Xi − µ < ε =1 n→∞ n i=1
以上定理表明 : 随机变量取值的算术平 均值收敛于期望均值
3.5.2
伯努利大数定律
Th3.9 : 设每次试验中事件 A 发生的概率为 p( 0 < p < 1), n 次重复试验中 事件 A 发生的次数为 X , X P X → p 其频率 µ n ( A) = , 则有 n n
i =1
n
1n ∑ Xi − µ 2.若Y = n i=1 ~ N (0,1)
σ
σ2 1 n 令 X = ∑ X i 则X ~ N µ , n n i =1
n
在实际工作中 , 只要 n足够大 , 便可以把独立同分布的 随机变量之和当成正态 变量 .
3 .独立 , 不同分布： 不同分布：
1 −2 X i ~ N (0, 10 ) 12
大数定律和中心极限定理的关系
大数定律和中心极限定理的关系
大数定律和中心极限定理都是概率论中的重要定理，两者之间存在着
紧密的关系。
大数定律指的是，在进行无限次试验时，随着试验次数的增加，事件
发生的频率趋近于该事件的概率值。
也就是说，当试验次数趋于无限大时，样本均值会趋近于真实均值。
而中心极限定理则指的是，当样本容量足够大时，样本均值的分布会
趋向于正态分布。
也就是说，对于任何一种概率分布，当样本容量增大到
足够大时，样本均值的分布都会近似于正态分布。
可以看出，在大数定律中，我们是关注随着试验次数的增加，样本均
值逐渐逼近真实均值的过程。
而在中心极限定理中，我们是关注对于任何
一种分布，随着样本容量的增大，样本均值分布趋向于正态分布的规律。
因此，可以说中心极限定理是大数定律的推广和应用，两者之间有着
密不可分的联系。
第四章 大数定律和中心极限定理
设需N台车床工作， 现在的问题是：
求满足
P(X≤N)≥0.999
的最小的N.
（由于每台车床在开工时需电力1千瓦，N台 工作所需电力即N千瓦.）
由德莫佛-拉普拉斯极限定理
X np 近似N(0,1), np(1 p)
于是 P(X≤N)= P(0≤X≤N)
这里 np=120, np(1-p)=48
第四章
大数定律和中心极限定理
§1 大数定率
一. 切比雪夫不等式 若r.v.X的期望和方差存在，则对任意0，
有
D( X ) P{| X E( X ) | } ; 2
这就是著名的切比雪夫(Chebyshev)不等式。 它有以下等价的形式：
P{| X E( X ) | } 1 D( X ) . 2
P{Y 60000 0.9 }
P{Y>60000}=P{1000012-aX>60000}
=P{X60000/a}0.9; 由中心极限定理,上式等价于
60000 10000 0.006 ( a ) 0.9 10000 0.006 0.994
a 3017
例3 根据以往经验，某种电器元件的寿命服从均值为 100小时的指数分布. 现随机地取16只，设它们的寿 命是相互独立的. 求这16只元件的寿命的总和大于 1920小时的概率. 解: 设第i只元件的寿命为Xi , i=1,2, …,16
7 500 100 100 2 P{ X i 500} 1 35 1 (8.78) 0 i 1 10 12
2.德莫佛-拉普拉斯中心极限定理(De MoivreLaplace)
设随机变量n(n=1, 2, ...)服从参数为n, p(0<p<1) 的二项分布，则
167;34大数定律和中心极限定理
1 n
nk1 Xk E(Xk)
(3)
1n nk1Xk
P
也就是当观察次数无限增多时，观察
结果的算术平均值几乎变成一个常数，不是随机的了。
定理2（贝努利大数定理）设n是n次独立试验 中事件A发生的次数，则对任意的正数有
lim P | np| 1 , 其P 中 A p
n n
引人随机变量
k=1,2,…则对任意实数 x有
n
Xk
n
lim Pk1`
x
x
1
t2
e 2dt
n
n
2
n
Xk n
(1)令Ynk1 n 的分布Fn函 x， 数那么
n l i F m （ nx ） n l i P m (Y nx) x 2 1e t2 2d t (x)
E n Xk n E(Xk)n, k1 k1
课内练习2. 某单位设置一电话总机，共有200架分机.设每个 电话分机是否使用外线通话是相互独立的. 设每时刻每个分 机有 5% 的概率要使用外线通话. 问总机需要多少外线才能 以不低于90%的概率保证每个分机要使用外线时可供使用？
设需要k条外线, X为某时刻通话的分, 机数 则 X ~ B (2,0 0 .0 0 )5 n , p 1,n 0 p 9 .5 q P(0Xk)kn npp q 0 nnpp q
|X n a | a X n a
Xn
a a a
或Xn落在（a - ε，a + ε ）的概率无限接近于1。
二、两个大数定理
定理1 ( 切比雪夫大数定律 ) 设X1,X2,…,Xn…是一
个随机变量序列, 且E(Xk)= ,D(Xk)=2 (k=1,2,…）
则对任意正数 , 有
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
2
1.
解 因为 1,2,L ,n ,L 是相互独立的，
所以12,Fra bibliotek2 2
,L
, n2 ,L
也是相互n 立的，
由 Ek 0,
由辛钦定理知
得 Ek 2 D
对于任意正数
k
,
(E
有
k
)2
2,
lim
n
P
1 n
n
k 2
k 1
2
1.
四、小结
贝努里大数定理
三个大数定理 契贝晓夫大数定理
辛钦定理 频率的稳定性是概率定义的客观基础, 而伯 努利大数定理以严密的数学形式论证了频率的稳 定性.
当 n 很大时, 随机变量 1, 2,L ,n 的算术平
均 1 n
n i 1
k 接近于它们的数学期望的算术平均
值 1 n
n i 1
Ek
（这个接近是概率意义下的接近）
即在定理条件下, n个随机变量的算术平均, 当n 无限增加时, 几乎变成一个常数.
定理4.4（辛钦大数定律）
辛钦资料
设随机变量 1, 2,L , n服,L从独立同
4.1 大数定律
一、问题引入 二、基本定理 三、典型例题 四、小结
一、问题的引入
概率论与数理统计是研究随机现象统计 规律性的学科. 随机现象的规律性只有在相 同的条件下进行大量重复试验时才会呈现出 来. 也就是说，要从随机现象中去寻求必然 的法则，应该研究大量随机现象.
研究大量的随机现象，常常采用极限 形式，由此导致对极限定理进行研究. 极 限定理的内容很广泛，其中最重要的有两 种:
n
n
n
n
i E(i )
i1
i 1
n
二、基本定理
定理4.1（贝努里大数定理）
伯努利
设 A 是 n 次独立 重复试验中 事件A 发 生
的次数, p 是事件 A 在每次试验中发生的概率,
则对于任意正数 0, 有
lim
n
P
A
n
p
0
或
lim P n
A
n
p
1.
证明 引入随机变量
显然 A 1 2 L n
大数定律的定义
定义4.1设 1,2 ,L ,n ,L 是随机变量序列, 令
Yn
1 n
n
i
i 1
如果存在一个常数序列 a1, a2 ,L , an ,L ,
对任意的 0, 恒有
lim
n
P{|
Yn
an
|
}
0
则称随机变量序列{ n }服从大数定律.
{|
1 n
n i 1
k
1 n
n i 1
Ek
|
}是一个随机事件,
等式表明, 当n 时这个事件的概率趋
于0,即对于任意正数 , 当n充分大时,
不等式 |
1 n
n
k
i 1
1 n
n i 1
Ek
|
成立的概率很小.
定理4.2（契贝晓夫大数定理）
契贝晓夫
设随机变量 1,2,L ,n,L 两两不相关,
且都具有有限的方差, 并有公共的上界
D1 C, D2 C,L , Dn C,L , 则对于任意正数 有
n
D(i )
i 1
n2 2
.
n
n
D(i ) Di npq.
i 1
i 1
从而P(
n
n
p
)
npq
n2 2
0, n
关于贝努里定理的说明:
贝努里定理表明事件发生的频率 A 依概
n 率收敛于事件的概率p, 它以严格的数学形式 表达了频率的稳定性.
故而当n很大时, 事件发生的频率与概率有 较大偏差的可能性很小. 在实际应用中, 当试验 次数很大时, 便可以用事件发生的频率来代替 事件的概率.
大数定律 与 中心极限定理
下面我们先介绍大数定律
大数定律的客观背景 大量的随机现象中平均结果的稳定性
大量抛掷硬币 正面出现频率
生产过程中的 字母使用频率 废品率
……
思考：频率是概率的反映，随着观察的次数增加， 频率将会“逐渐稳定”或“靠近”到概率,“逐渐 稳定”或“靠近”到概率是什么？
n p n np
1
11
P 2n2 1 n2 2n2
问是否满足契比雪夫定理 ?
解 独立性依题意可知, 检验是否具有数学期望？
En
1
1
1
na 2n2 0 (1 n2 ) na 2n2 0,
说明每一个随机变量都有数学期望,
检验是否具有有限方差？
n2 (na)2 0 (na)2
Q P
1 1 1
1
2n2
n2 2n2
E
(
2 n
)
2(na )2
1 2n2
a2
Dn En2 (En )2 a2 ,
说明离散型随机变量有有限方差,
故满足契比雪夫定理的条件.
例2 设随机变量 1,2,L ,n ,L 独立同分布, 且 Ek 0, Dk 2, k 1, 2,L , 证明对任 意正数 有
lim
n
P
1 n
n
k 2
证明 因为{n}两两不相关,故
D
1 n
n i1
i
1 n2
n i1
D(i )
C n
由契贝晓夫不等式可得
n
0
P
1 n
n
k
i1
1 n
n i1
Ek
D(
1 n
i1
2
i )
C
n 2
,
在上式中令n ，则
P
1 n
n i 1
k
1 n
n i 1
Ek
0.
[证毕]
关于定理4.2的说明:
分布且期望为
Ek (k 1, 2,L ),
则对于任意正数
,
有lim n
P
1 n
n
k
k 1
0.
关于辛钦定理的说明:
(1) 与定理4.2相比, 不要求方差存在;
(2) 贝努利定理是辛钦定理的特殊情况.
三、典型例题
例1 设随机变量 1,2 ,L ,n ,L 相互独立,
n na 0 na
分布律如下：
因为 1,2,L ,n ,L 是相互独立的，
且k服从以 p 为参数的 (0 1) 分布,
所以 Ek p,
Dk
p(1
p)
1, 4
k 1, 2,L
n
n
于是 n
p
n
np
i E( i )
i 1
i 1
n
n
n
由契比晓夫不等式得
P
n
n
p
P(
n
i
i 1
n
E( i )
i 1
n ).
由独立性知道