概率论 第五章 大数定律与中心极限定理

合集下载

概率论与数理统计第五章 大数定律及中心极限定理

概率论与数理统计第五章 大数定律及中心极限定理
解: 设Xk为第k次炮击炮弹命中的颗数(k=1,2,…,100),
在100次炮击中炮弹命中的总颗数
100
X = ∑ Xk k =1
相互独立地服从同一分布,
E(Xk)=2, D(Xk)=1.52 (k=1,2,…,100)
随机变量
∑ 1
100 × 1.5
100 k =1
(
X
k

2)
=
1 15
(
X

200)
2. 伯努利定理 事件发生的频率依概率收敛于事件的概率
3. 辛钦定理 (随机变量序列独立同分布且数学期望存在)
n个随机变量的算术平均值以概率收敛于算术 平均值的数学期望。
给出了“频率稳定性”的严格数学解释. 提供了通过试验来确定事件概率的方法. 是数理统计中参数估计的重要理论依据之一.
§5.2 中心极限定理
望 E( Xk ) = µ (k = 1,2,"),则对于任意ε > 0,有
∑ lim
n→∞
P {|
1 n
n k =1
Xk

µ
|<
ε
}
=
1
说明
伯努利大数定理是辛钦定理的特殊情
况。n个随机变量的算术平均值以概率收敛于算
术平均值的数学期望。
三 小结
1、切比雪夫(Chebyshev)定理的特殊情况 算术平均值依概率收敛于数学期望
= 1 − P { V − 100 ≤ 0.387 } (10 12 ) 20
∫ 0.387
≈ 1−
1
e − t 2 dt
−∞ 2π
= 1 −Φ (0.387) = 0.348
所以 P{V > 105} ≈ 0.348

第五章 大数定律和中心极限定理

第五章 大数定律和中心极限定理
P 1 n 定理(辛钦大数定律) 设 { X n } 为独立同分布随机变量序列,若 EX 1 存在,则 X i . n i 1
第三节 中心极限定理
所谓中心极限定理,就是关于大量微小的随机变量之和的极限分布在什么条件下是正态分布的定理. 定义 1 设 { X n } 为一随机变量序列, DX n , n 1,2, ,若
2
83
n a n lim P(a X i b) P n i 1 n
X
i 1
n
i
n
n
b n b n a n ) ( ). ( n n n
例 1 一加法器同时收到 50 个噪声电压 Vi (i 1,2, ,50 ) , 设 V i (单位: 微伏)相互独立且均在 [0,10] 上 服从均匀分布,求该加法器上总电压 V
i 1
n
1 n2
c n 0(n ) ,
i 1
n
c
推论 2 (贝努里大数定律) 设 S n 为 n 重贝努里试验中事件 A 出现的次数, p 为 A 在每次 n
证 明 :令 Xi
1 在第i 次试验中A出现 , 则 X i ~ B(1, p ) , i 1,2,, n 且 相 互 独 立 , 0 在第 i 次试验中 A 不出现
c 0 ,使得 DX n c , n 1,2, ,则
P 1 n ( X i EX i ) 0 . n i 1
证明:只须验证马尔可夫条件成立即可.由于 { X n } 两两互不相关,故
0
因此马尔可夫条件成立.
n 1 1 D ( Xi) 2 2 n n i 1
DX i

第5章_大数定律和中心极限定理

第5章_大数定律和中心极限定理

3) 用平均值近似积分值
1 即 I N
g(r ) I
n1 n
N
问:若求 I b g ( x )dx 的值
a
应如何近似计算?请思考.
大数定律以严格的数学形式表达了随 机现象最根本的性质之一: 平均结果的稳定性 它是随机现象统计规律的具体表现. 大数定律在理论和实际中都有广泛的应用.
0
1
我们介绍均值法,步骤是
1) 产生在(0,1)上均匀分布的随机数rn, n=1,2,…,N 2) 计算g(rn), n=1,2,…,N
3) 用平均值近似积分值
1 即 I N
g(r ) I
n1 n
N
求 I g ( x )dx 的值
0
1
我们介绍均值法,步骤是
1) 产生在(0,1)上均匀分布的随机数rn, n=1,2,…,N 2) 计算g(rn), n=1,2,…,N
n
P a 则称{Xn}依概率收敛于a。可记为 X n
意思是: 当
n 时, Xn落在 (a , a )
Xn
内的概率越来越大。即 n0 , 使得n n0 ,
a
a
a
二、几个常用的大数定律
切比雪夫大数定律 设{Xk,k=1,2,...}为独立的随机变 量序列,且有相同的数学期望,及方差2>0,则
1 n P Yn X k n k 1
例 在掷骰子过程中,以Xn记第n次掷出的点数, 1 n 在依概率收敛意义下,求 X X k 的极限。
n
k 1
下面我们再举一例说明大数定律的 应用. 定积分的概率计算法 求 I g ( x )dx 的值
0 1

概率论与数理统计 第五章

概率论与数理统计 第五章

Xn ⎯ ⎯→ X 2. 依概率收敛与依分布收敛的关系
依概率收敛 ⇒ 依分布收敛
L
3. 定义:中心极限定理 设随机变量 X ~ N(0,1),{Xi },i = 1, 2, … 相互独 立,且数学期望和方差都存在, 若标准化随机变量序列

n
i =1
Xi −
∑ E(X
i =1
n
i
)

n
i =1
D(X i)
所以结论成立。 由此有,若X ~ B( n, p ),对于足够大的n,有 ⎧ m1 − np X − np m2 − np ⎫ ⎪ ⎪ < ≤ P{m1 < X ≤ m2 }= P ⎨ ⎬ np(1 − p) np(1 − p) ⎪ ⎪ np(1 − p) ⎩ ⎭
⎧ Yn − np ⎫ ⎪ ⎪ ≤ x ⎬ = Φ( x ) lim P ⎨ n →∞ ⎪ np(1 − p ) ⎪ ⎩ ⎭
证明:对于任意正整数n,随机变量Yn 可表示为 证明:对于任意正整数n Yn = X1+ X2+…+ Xn X1, X2,…, Xn 相互独立,Xi ~ B( 1, p ),且有 E( Xi ) = p , D( Xi ) = p(1-p) 所以随机变量序列{ Xi }, i =1,2,…满足独立同分布 中心极限定理条件。即有
切比雪夫不等式的应用 1)估计随机变量落在某个区间内的概率 (P125例5.5.2) 2)估计ε的值, 使 P(│X - E(X)│<ε) ≥ a (0<a<1) 3)证明大数定律。
二. 大数定律 定义: 依概率收敛 设{Xn}是一个随机变量序列,X 是一个随机变量 或常数,若对于任意的ε> 0,有 lim P{| X n − X |≥ ε } = 0

概率论与数理统计第五章大数定律及中心极限定理

概率论与数理统计第五章大数定律及中心极限定理

概率论与数理统计第五章大数定律及中心极限定理课前导读概率论是研究大量试验后呈现出的统计规律性的一门理论。

数学中研究大量的工具是极限。

因此这一章学习概率论中的极限定理。

第一节大数定律随着试验次数的增大,事件的频率逐步稳定到事件的概率。

意味着随着试验次数的增多,在其中一种收敛意义下,频率的极限是概率。

大数定律解释了这一结论。

首先介绍切比雪夫不等式。

一、切比雪夫(Chebyshev)不等式随机变量X的取值总是围绕着其期望变动,若X的分布已知时,可以计算事件\{,X-E(X),\geq \epsilon \}的概率。

切比雪夫不等式:对切比雪夫不等式的直观理解:方差越小,X在其期望附近取值的密集程度越高,原理期望的区域的概率上加越小。

进一步说明了方差的概率意义,方差时随机变量取值与其中心位置的偏离程度的一种度量指标。

当随机变量X的分布未知时,可由X的观测数据估计得到X的期望和方差,然后使用切比雪夫不等式估计X关于E(X)的偏离程度。

二、依概率收敛随机变量序列即由随机变量构成的一个序列。

不能用类似定义数列极限的方式定义随机变量序列的极限,因为序列中的每一个元素X_n是随机变量,取值不确定,不可能和一个常数c的距离任意小。

只能说一些事件A发生的频率f_n(A)收敛到A的概率P(A)。

依概率收敛的定义:定理2:三、大数定律三个大数定律:切比雪夫大数定律、辛钦大数定律和伯努利大数定律。

注意这三个大数定律的条件有何异同。

定理3 切比雪夫大数定律:若随机变量序列相互不相关,方差存在且一致有上界,当n充分大时,随机序列的前n项的算术平均值和自身的期望充分接近几乎总是发生的。

定理4 相互独立同分布的大数定律(辛钦大数定律):辛钦大数定律为算术平均值法则提供了理论依据。

伯努利大数定律:伯努利大数定律是相互独立同分布大数定律的特例,限定分布为两点分布。

伯努利大数定律体现了:随着试验次数的增大,事件的频率逐步稳定到时间的概率,这里的稳定即为依概率收敛。

(完整版)大数定律和中心极限定理

(完整版)大数定律和中心极限定理

第五章 大数定律和中心极限定理一、内容提要(一)切贝谢夫不等式 1. 切贝谢夫不等式的内容设随机变量X 具有有限的数学期望E (X )和方差D (X ),则对任何正数ε,下列不等式成立。

(){}()(){}().1,22εεεεX D X E X P X D X E X P -≤-≤≥-2. 切贝谢夫不等式的意义(1)只要知道随机变量X 的数学期望和方差(不须知道分布律),利用切贝谢夫不等式,就能够对事件(){}ε≥-X E X 的概率做出估计,这是它的最大优点,今后在理论推导及实际应用中都常用到切贝谢夫不等式。

(2)不足之处为要计算(){}ε≥-X E X P 的值时,切贝谢夫不等式就无能为力,只有知道分布密度或分布函数才能解决。

另外,利用本不等式估值时精确性也不够。

(3)当X 的方差D (X )越小时,(){}ε≥-X E X P 的值也越小,表明X 与E (X )有较大“偏差”的可能性也较小,显示出D (X )确是刻画X 与E (X )偏差程度的一个量。

(二)依概率收敛如果对于任何ε>0,事件{}ε a X n -的概率当n →∞时,趋于1,即{}1lim =-∞→ε a X P n n ,则称随机变量序列X 1,X 2,…,X n ,…当n →∞时依概率收敛于α。

(三)大数定律 1. 大数定律的内容(1)大数定律的一般提法若X 1,X 2,…,X n ,…是随机变量序列,如果存在一个常数序列α1,…,αn ,…,对任意ε>0,恒有11lim 1=⎭⎬⎫⎩⎨⎧-∑=∞→ε n i n i n a X n P , 则称序列{X n }服从大数定律(或大数法则)。

(2)切贝谢夫大数定律设随机变量X 1,X 2,…,X n ,…相互独立,分别有数学期望E(X i )和方差D(X i ),且它们的方差有公共上界C ,即()().,,,2,1, n i C X D i =≤则对于任意的ε>0,恒有()111lim 11=⎭⎬⎫⎩⎨⎧-∑∑==∞→ε n i ni i i n X E n X n P 。

概率论与数理统计----第五章大数定律及中心极限定理

概率论与数理统计----第五章大数定律及中心极限定理

= 1 − Φ(3.54)
=0.0002
一箱味精净重大于20500的概率为 的概率为0.0002. 一箱味精净重大于 的概率为
推论:
特别,若X~B(n,p),则当n充分大时, 特别, ~B(n 则当n充分大时,
X~N(np,npq) X~N(np,npq) np
若随机变量X~B( X~B(n, ),则对任意实数x有 ),则对任意实数 即 若随机变量X~B( ,p),则对任意实数 有
不等式证明 P{-1<X<2n+1}≥(2n+1)/(n+1)(n+1)
3. 设P{|X-E(X)|<ε}不小于 不小于0.9,D(X)=0.009.则用 不小于 则用
切比绍夫不等式估计ε的 最小值是( 切比绍夫不等式估计 的 最小值是
0.3 ).
4.(894) 设随机变量 的数学期望为 设随机变量X的数学期望为 的数学期望为µ, 标准差为σ,则由切比绍夫不等式 标准差为 则由切比绍夫不等式 P{|X-µ|≥3σ}≤( ). 1/9 5. 设随机变量X的分布律为 设随机变量 的分布律为 P{X=0.3}=0.2, P{X=0.6}=0.8, 用切比绍夫不等式估计 |X-E(X)|<0.2的概率 的概率. 的概率
1 n lim P ∑ Xi − µ < ε = 1 n→∞ n i =1
定理(贝努里利大数定律) 设每次实验中事件A发生的概率 定理(贝努里利大数定律) 设每次实验中事件A 为p,n次重复独立实验中事件A发生的次数为nA,则对任 次重复独立实验中事件A发生的次数为n 意的ε>0 意的ε>0 ,事件的频率 nA ,有 ε>

+∞
−∞

东华大学《概率论与数理统计》课件 第五章 大数定律与中心极限定理

东华大学《概率论与数理统计》课件 第五章 大数定律与中心极限定理

7 8.75E-06 6.2863E-05 7.19381E-05 7.28862E-05 7.2992E-05
8 3.65E-07 7.3817E-06 8.93826E-06 9.1053E-06 9.124E-06
4 0.01116 0.01494171 0.015289955 0.015324478 0.01532831
5 0.001488 0.00289779 0.003048808 0.003063976 0.00306566
6 0.000138 0.00046345 0.0005061 0.000510458 0.00051094
ln n) + 1 ( 2
ln n) = 0
Dn
=
E
2 n
=
1 2
(ln n) +
1 2
(ln n)
=
ln n

但 1
n2
n
D( i ) =
i =1
1 n2
n i =1
Di
=
1 n2
n
ln i
i =1
1 n2
n
ln n =
i =1
ln n n
→0
满足马尔可夫条件,{
}服从大数定律
n
注意: 辛钦大数定律只要求一阶矩存在,但是 随机变量序列是独立同分布的. 若所讨论的 随机变量序列是不服从同分布的要求或不独 立可应用切比雪夫大数定律 或者马尔可夫大 数定律 .
(2)设 n 为 n 次独立重复试验中 A 出现的次数, p 是事件 A 在每次试验中出现的概率, 0 ,

lim
n→
P{
n
n

p
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。


22 1 P{| X 20 | 4} 42 4
P{| X 20 | 4}
1 P{| X 20 | 4}
1 1 3 44
例:已知随机变量 X 的数学期望为 E(X)=μ,方 差 D(X ) 2 ,当 2 和 3 时,试用切比雪夫
不等式求概率 P X 的近似值.
解 当 2时
(5.5 5) ( 4.5 5) =0.1742
4.95
4.95
显然,本例中Possion 逼近较正态逼近更精确.
例: 将一颗骰子连掷100次,则点数之和不少于 500的概率是多少?
解 设Xk为第k 次掷出的点数,k=1,2,…,100,则
X1,…,X100独立同分布.
E( X1)
7 2
• 例如对某物的长度进行测量,在测量时有许多随机 因素影响测量的结果.如温度和湿度等因素对测量仪 器的影响,使测量产生误差X1;测量者观察时视线所 产生的误差X1;测量者心理和生理上的变化产生的测 量误差X3;…显然这些误差是微小的、随机的,而且 相互没有影响.测量的总误差是上述各个因素产生的 误差之和,即∑Xi.
(即方差有公共上界)则对于任意给定的ε>0,恒有
证明
lim P{|
n
1 n
n k 1
Xk
1 n
n k 1
E( X k ) | } 1

Xn
1 n
n k 1
Xk,
则E(X n )
E(1 n
n k 1
Xk
)
1 n
n k 1
E( X k
)
D(X n )
D( 1 n
n k 1
Xk)
1 n
n k 1
n
n
n
Yn
k 1
Xk E( Xk )
k 1
n
D( X k )
k 1
X k n n
n k 1
Xk n
k 1
的分布函数Fn(x),对于任意x,满足
lim lim Fn(x) P{Yn x}
n
n
1
t2
e 2 dt (x)
2
例.设每颗炮弹命中目标的概率为0.01,求500发炮弹中 命中 5发的概率。
证明 P{-1<X<2n+1}≥(2n+1)/(n+1)(n+1)
3. 设P{|X-E(X)|<ε}不小于0.9,D(X)=0.009.则用
切比绍夫不等式估计ε的 最小值是( 0.3 ).
4. 设随机变量X的数学期望为μ, 标准差为σ,则由切比绍夫不等式 P{|X-μ|≥3σ}≤( 1/9 ).
5. 设随机变量X的分布律为 P{X=0.3}=0.2, P{X=0.6}=0.8, 用切比绍夫不等式估计 |X-E(X)|<0.2的概率.
200 2
190 10
200 2
20.707 1 0.52
• 定理(De Moivre-Laplace中心极限定理):设随
机变量Yn服从二项分布Yn ~B(n,p), (o<p<1),则对 于任意x,恒有
lim P{ Yn np x} 1
t2
e 2 dt
n
np(1 p)
2
证明 设X1,X2,…,Xn是n个相互独立的服从(0-1)分布 (P{Xi=0}=1-p,P{Xi=1}=p)的随机变量,则

fn A
X n
而P
0.74
X n
0.76
P X 0.75n
0.01n
1
0.1875n
0.01n 2
1
1875 n
0.90
n
18750
20
§5.2 中心极限定理
• 在一定条件下,许多随机变量的极限分布是正态分 布:“若一个随机变量X可以看着许多微小而独立的 随机因素作用的总结果,每一种因素的影响都很小,都 有不起压倒一切的主导作用,则X一般都可以认为近 似地服从正态分布.”
• “概率是频率的稳定值”。前面已经提到,当 随机试验的次数无限增大时,频率总在其概 率附近摆动,逼近某一定值。大数定理就是 从理论上说明这一结果。正态分布是概率论 中的一个重要分布,它有着非常广泛的应用。 中心极限定理阐明,原本不是正态分布的一 般随机变量总和的分布,在一定条件下可以 渐近服从正态分布。这两类定理是概率统计 中的基本理论,在概率统计中具有重要地位。
例: 设随机变量 X1, X 2 , , X n , 相互独立,且有如 下表的分布律,问:对随机变量 X1, X 2 , , X n , 可 否使用大数定理?
Xi 2
0
pi
1 4
1 2
2
(i 1,2, , n, )
1 4

因为 X1, X 2 , , X n ,
相互独立, EX i 0 , E
n
Xi,
i 1
n 1,2,...
• 我们关心的是当n→∞时,随机变量和∑Xi的极限分
布是什么?由于直接研究∑Xi的极限分布不方便,故
先将其标准化为:
n
n
Xi E(Xi)
Yn i1
i 1 n
D( Xi )
i 1
再来研究随机变量序列{Yn}的极限分布.
• 定义:设{Xk}为相互独立的随机变量序列,有有限 的数学期望E(Xk)=μk和方差D(Xk)=σk2,令
i 1
n
定理(伯努里大数定理)
设 A 是 n 次独立 重复试验中 事件A 发 生
的次数, p 是事件 A 在每次试验中发生的概率,
则对于任意正数 0, 有
lim
n
P
A
n
p
0

lim P n
A
n
p
1.
证明 引入随机变量
0 A事件在第k次试验中不发生
k
1
A事件在第k次试验中发生
k 1,2,3 , n
D(X k )
C n
所以
lim
n
P{|
1 n
n k 1
Xk
1 n
n k 1
E(Xk )
|
}
lim
n
P{|
Xn
E( X n )
|
}
lim (1 D(X n )) lim (1 C ) 1
n
2
n n 2
• 推论(切比雪夫大数定律的特殊情况):设{Xk}是 相互独立同分布的随机变量序列,具有相同的数学 期望E(Xk)=μ和方差D(Xk)=σ2(k=1,2,…),则对于任 意给定的ε>0,恒有
Y100
210 .
i 1
解 因为 X i 服从 (2) ,i 1,2,
即 PX i
k
2k k!
e2 , (k
1,2,
)
所以 E( X i ) 2, D( X i ) 2 , i 1,2, ,100
近似服从 Y100
N 200, 10
22 ,于是
P 190 Y100 210
210 10
解: (1) 设X表示命中的炮弹数, 则 X~B(500,0.01)
C P{X 5} 5 0.015 0.99495 =0.17635 500
(2)np=λ=5,应用Possion逼近: P{X 5} 55 e5 =0.17547
5!
(3)应用正态逼近: X~N(5,4.95)
P{X=5}=).
由独立性知道
n
D(i )
i 1
n2 2
.
n
n
D(i ) Di npq.
i 1
i 1
从而P(
n
n
p
)
npq
n2 2
0, n
关于伯努里定理的说明:
贝努里定理表明事件发生的频率 A 依概
n 率收敛于事件的概率p, 它以严格的数学形式 表达了频率的稳定性.
故而当n很大时, 事件发生的频率与概率有 较大偏差的可能性很小. 在实际应用中, 当试验 次数很大时, 便可以用事件发生的频率来代替 事件的概率.
P X 2 2 1
2 2 4
当 3时
P X 3 2 1
3 2 9
课堂练习
P X EX 1 DX
2
1. 设随机变量X的方差D(X)=0.0001,
则由切比绍夫不等式可知
P{|X-E(X)|<3×0.01}>(
).
2. 设随机变量X~E(1/n),用切比雪夫不等式
0.08 0.07 0.06 0.05 0.04 0.03 0.02 0.01
0 12 14 16 18 20 22 24 26 28 30 32 34 36 38 40 42 44 46 48
P
23
• 一般地,在研究许多随机因素产生的总影响时,很 多可以归结为研究相互独立的随机变量之和的分布 问题,而通常这种和的项数都很大.因此,需要构造一 个项数越来越多的随机变量和的序列:
X
2 i
1

DX i
E
X
2 i
EX i
2
1 0
1, i
1,2,
, n,
所以,满足切比雪夫大数定理的条件,可使用大数定理.
思考:频率是概率的反映,随着观察的次数增加, 频率将会“逐渐稳定”或“靠近”到概率,“逐渐 稳定”或“靠近”到概率是什么?
n p n np
n
n
n
n
i E(i )
i1
• 定理(切比雪夫(Chebyshev)不等式):设随机变
量X具有数学期望E(X)=μ,方差D(X)=σ2 ,则对于任
意正数ε,有
P| X | 2
相关文档
最新文档