34切比雪夫不等式与大数定律
切比雪夫不等式及切比雪夫大数定律
第5 章
知识点名称：切比雪夫不等式及切比雪夫大数定律 主讲人：秦旭
切比雪夫大数定律
一、回顾
实验者
抛掷次数n
出现正面次数m
德·摩根 德·摩根 德·摩根 德·摩根 蒲丰 皮尔逊 皮尔逊 维尼
2048 2048 2048 2048 4040 12000 24000 30000
n
X
i 1
n
i
1 n
i 1
E( Xi
)
| ε}
1 n
1
D( n i1 ε2
Xi )
1
C nε2
1,
(as n ).
切比雪夫大数定律 五、切比雪夫(Chebyshev)不等式
设随机变量 X 的数学期望 E(X ) 和方差D(X )都存在, 则对于
任意的 > 0, 有
P{| X E(X ) | ε}
变量, 若对于任意的＞ 0, 有
lim
n
P {| X n
X
| ε }
0
或
lim P{| X n X | ε} 1
n
称随机变量序列{Xn}依概率收敛于X，记为
X n P X
或者
lim
n
Xn
X,
( P)
切比雪夫大数定律
注1 在定义中, 随机变量 X也可以是常数 a, 称随机变量序列 {Xn} 依概率收敛于常数 a .
注2 随机变量序列依概率收敛不同于微积分中数列或函数列的 收敛性.
结论 随机变量序列{Xn}依概率收敛于X，指当 n 足够大时, 有
足够大的概率保证Xn 任意接近于X , 但Xn仍然有可能与X相差很大.
切比雪夫不等式与大数定律
第六讲切比雪夫不等式与大数定律主讲教师叶宏副教授概率论与数理统计的研究内容是随机现象的统计规律性，而随机现象的规律性是通过大量的重复试验才呈现出来的.研究大量的随机现象，常常采用极限方法，利用极限定理进行研究. 极限定理的内容很广泛，其中最重要的有两种:大数定律与中心极限定理.设随机变量X 的期望E (X )与方差D (X )存在，则对于任意实数ε> 0,2)()|)((|εεX D X E X P ≤≥-切比雪夫不等式或2)(1)|)((|εεX D X E X P -≥<-理论价值证明大数定律等等实用价值估计概率例已知正常男性成人血液中，每一毫升白细胞数平均是7300，均方差是700 . 利用切比雪夫不等式估计每毫升白细胞数在5200~9400之间的概率.解：设每毫升白细胞数为X ，则EX =7300, DX =7002≤P (5200 X 9400)≤= P (-2100 X -E (X ) 2100)≤≤= P ( |X -E (X )| 2100)≤≤=P (5200-7300 X -7300 9400-7300)≤2)2100()(1X D -≥98911=-=估计每毫升白细胞数在5200~9400之间的概率不小于8/92)(1)|)((|εεX D X E X P -≥<-2)()|)((|εεX D X E X P ≤≥-22140.5{6}_____X Y P X Y +≥≤例设随机变量和的数学期望分别为－和，方差分别为和，而相关系数为－，则{6}{()()6}P X Y P X Y E X Y +≥=+-+≥由切比雪夫不等式()()()220,E X Y E X E Y +=+=-+=解: ()()()2cov(,)D X Y D X D Y X Y +=++()()2()()3XY D X D Y D X D Y ρ=++=2()1612D X Y +≤=大数定律大量的随机现象中平均结果的稳定性大数定律的客观背景：大量抛掷硬币正面出现频率伯努利大数定律设n A 是n 次独立重复试验中事件A 发生的次数, p 是每次试验中A 发生的概率,则0>∀ε有0lim =⎪⎭⎫ ⎝⎛≥-∞→εp n n P A n 或1lim =⎪⎭⎫ ⎝⎛<-∞→εp n n P A n 依概率收敛频率p伯努利大数定律的意义理论价值给概率的统计定义提供了理论依据在概率的统计定义中, 事件A发生的频率“稳定于”事件A在一次试验中发生的概率实用价值如命中率等在n足够大时, 可以用频率近似代替p. 这种稳定称为依概率稳定.切比雪夫大数定律且具有相同的数学期望和方差,2,1,)(,)(2===k X D X E k k σμ则0>∀ε有01lim 1=⎪⎭⎫ ⎝⎛≥-∑=∞→εμn k k n X n P 或11lim 1=⎪⎭⎫ ⎝⎛<-∑=∞→εμn k kn X n P ,,,,21n X X X 相互独立，设随机变量序列辛钦大数定律且具有数学期望(),1,2,k E X k μ==,,,,21n X X X 相互独立同分布，设随机变量序列当n 足够大时, 算术平均值几乎是一常数.具有相同数学期望和方差的独立随机变量序列的算术平均值依概率收敛于数学期望.算术均值数学期望近似代替可被定理的意义平均数法则12~(2),(,,),,1_______n n i X E X X n Y X n→∞=∑ 例设总体为其简单随机样本则时依概率收敛于12,,,n X X X 因为独立同分布，22212,,,n X X X 所以也独立同分布，22()i i i E X DX EX =+（）2111=()422+=因此根据大数定律有∑==n i i n X n Y 121依概率收敛于21.2i EX =。
概率论与数理统计 五大数定理
[注]： X n P → a 注： 推论(辛钦大数定律) 推论(辛钦大数定律)
X n − a P → 0
设独立随机变量 X 1 , X 2 ,⋅ ⋅ ⋅, X n 服从同一分布 并且有数学 服从同一分布, 期望 µ 及方差 σ 2， X 1 , X 2 ,⋅ ⋅ ⋅, X n 的算术平均值当 n → ∞ 则 时，按概率收敛于µ， 即对于任何正数 ε，恒有 按概率收敛于 ，
第五章 大数定理与中心极限定理
“大数定律”: 用来阐明大量随机现象平均结果稳定性的定理 大数定律” 用来阐明大量随机现象平均结果稳定性的定理. 大数定律
一、切比雪夫不等式
切比雪夫不等式: 切比雪夫不等式: 设随机变量 X 有数学期望 EX 及方差 DX， ， 下列不等式成立： 则对于任何正数 则对于任何正数 ε，下列不等式成立：
2 i
n
则：E(Yn ) =
2 µi , D(Yn ) = ∑σi2 = sn . ∑
n i =1
n
i =1
i =1
∴ Z n = Yn
1 = sn
∗
n Y n − EY n 1 n = = ∑ X i − ∑ µ i sn i =1 DY n i =1
∑ (X
i =1
n
i
− µ i ), 则有：E ( Z n ) = 0 , D ( Z n ) = 1 . 则有：
概率论中有关论证随机变量的和的极限分布是正态分布的定 概率论中有关论证随机变量的和的极限分布是正态分布的定 随机变量的和的极限分布是正态分布 是独立随机变量， 设 X 1 , X 2 ,⋅ ⋅ ⋅ , X n ,⋅ ⋅ ⋅ 是独立随机变量，并各有
EX i = µ i , DXi = σ , i = 1,2,⋅ ⋅ ⋅, n,⋅ ⋅ ⋅. 设 n = ∑Xi , Y
3-5切比雪夫不等式与大数定律
切比雪夫不等式与大数定律
主要内容（2学时）
一、切比雪夫不等式
二、依概率收敛简介
三、大数定律（难点） 1、切比雪夫大数定律
2、伯努利大数定律
3、辛钦大数定律
一、切比雪夫不等式
1、马尔科夫不等式
设X 是只取非负值的随机变量,且具有数学期望E ( X ), 则 对于任意正数 , 有 P{ X } E( X )
证 : nA代表n重伯努利试验中A发生的次数, nA
第i次试验中A发生 1 令X i 0 第i次试验中A没发生 (i 1, 2, ..., n)
B(n, p)
则
nA X1 X 2 ... X n
Xi
B(1, p) E( X i ) p, D( X i ) p(1 p) nA 1 n 1 n 又 X Xi = , E( X ) E( X i ) p n i 1 n n i 1
（证明见下页）
说明：
重要性在于: 不知道X的分布( f ( x ), pk )情况下,通过 E ( X )估计事件{ X }的概率下限.
证 : 以连续型X 证明, 设X的概率密度为f ( x ). X 只取非负值, 故x 0时, f ( x ) 0
E( X )
0
xf ( x )dx x f ( x )dx
P(0.01n X 0.75n 0.01n) P( X E ( X ) 0.01n)
D( X ) 0.1875n 1875 1 1 2 1 2 (0.01n) 0.0001n n
依题意，取 1
1875 0.9 n 1875 解得 : n 18750 1 0.9
大数定律公式切比雪夫不等式伯努利大数定律的计算公式
大数定律公式切比雪夫不等式伯努利大数定律的计算公式大数定律是概率论中的一项重要定理，用于描述大样本情况下随机变量的稳定性和收敛性。
其中，切比雪夫不等式和伯努利大数定律是两种常用的计算公式。
下面将分别介绍并推导这两个公式。
一、切比雪夫不等式切比雪夫不等式是描述随机变量与其均值之间关系的一种不等式。
设随机变量X的均值为μ，方差为σ^2，则对于任意正数ε，有：P(|X - μ| ≥ ε) ≤ σ^2 / ε^2其中，P表示概率。
该不等式说明随机变量与其均值相差较大的概率是有限的，且与方差的平方成反比。
推导过程如下：首先，对任意正数ε，可以得到以下不等式：P(|X - μ| ≥ ε) = P((X - μ)^2 ≥ ε^2)再利用方差的定义，有：σ^2 = E[(X - μ)^2]由期望的性质可得：E[(X - μ)^2] ≥ ε^2 * P((X - μ)^2 ≥ ε^2)化简后得到：P(|X - μ| ≥ ε) ≤ σ^2 / ε^2这就是切比雪夫不等式的推导过程。
二、伯努利大数定律伯努利大数定律是概率论中的一项重要定理，用于描述在独立重复试验中事件发生的频率趋于其概率的情况。
设事件A在一次试验中发生的概率为p，进行n次独立重复试验，则对于任意正数ε，有：lim(n→∞) P(|X/n - p| ≥ ε) = 0其中，X表示事件A在n次试验中发生的次数。
推导过程如下：首先，根据事件发生的频率，可以得到以下关系：X/n → p （n→∞）对于任意正数ε，可以得到以下等式：P(|X/n - p| ≥ ε) = P((X/n - p)^2 ≥ ε^2)再利用方差的定义，有：σ^2 = Var(X/n) = E[(X/n - p)^2]由期望的性质可得：E[(X/n - p)^2] ≥ ε^2 * P((X/n - p)^2 ≥ ε^2)化简后得到：P(|X/n - p| ≥ ε) ≤ σ^2 / (nε^2)由于n在趋于无穷大时，分母nε^2趋于无穷大，所以概率P(|X/n - p| ≥ ε)趋于0。
3.5 切比雪夫不等式与大数定理
Probability and Statistics
伯努利大数定理 设 nA 是 n 次独立重复试验中事件A 发生
的次数, p 是事件 A 在每次试验中发生的概 率, 则对于任意正数 0, 有 nA nA lim P p 1 或 lim P p 0. n n n n
Born: 19 Jul. 1894 in Kondrovo, Kaluzhskaya guberniya, Russia Died: 18 Nov. 1959 in Moscow, USSR
1 n 则对于任意正数 , 有 lim P X k 1. n n k 1
关于辛钦定理的说明: (1) 与定理1相比, 不要求方差存在; (2) 伯努利定理是辛钦定理的特殊情况.
Probability and Statistics
辛钦资料
Aleksandr Yakovlevich Khinchin
注：在不知道随机变量的分布，仅知道随机变 量的数学期望或者同时知道数学期望及方差时， 可以用Markov不等式和Chebyshev不等式来估 计概率值的界限.
Pafnuty Chebyshev
Born: 16 May. 1821 in Okatovo, Russia Died: 8 Dec. 1894, in St. Petersburg, Russia
Probability and Statistics
3.5 切比雪夫不等式与大数定理 一、马尔可夫（Markov)不等式
设X是只取非负值的随机变量，且具有数学期 望E(X),则对于任意正数ε ，有
概率论与数理统计 切比雪夫不等式和大数定律
3、定理5.3(辛钦定理): 设随机变量 X1 ,X2 , … , Xn , … 相互独立 , 服从 同一分布, 具有数学期望
E( Xk ) = (k = 1, 2,L ) ,
则对于任意正数 ε , 有
lim P n
1 n
n k =1
Xk
=1
.
伯努利大数定律是辛钦定理的特殊情况 . 在实际
问题的处理中辛钦定理十分有用也很重要 .
事实上, 由辛钦定理可知, 如果随机变量
X1 ,X2 , … , Xn … 相互独立, 服从同一分布且具有数
学期望 μ , 则前 n 个随机变量的算术平均值
依概率收敛于它们的数学期望 μ .
1 n
n
= lim P n
1n n k=1 X k
=
1
.
证 由于
E( 1 n
n k =1
Xk )
=
1 n
n k =1
E(Xk )
=
1 gn
n
=
D( 1 n
n k =1
Xk )
=
1 n2
n k =1
D( Xk )
=
1 gn 2
n2
=
12
n
由切比雪夫不等式, 得
= P X 7300 2100
1 7002 = 1 1 = 8
21002
99
注 切比雪夫不等式虽然不能准确地求出某事件 的概率, 只是给出一个估计值, 但这在实际 问题的处理中仍然十分有用 .
概率论与数理统计 五大数定理
,
i
1,2, , n, .
设Yn
Xi,
i 1
n
n
则： E Yn
i , D Yn
2 i
sn2 .
i 1
i 1
Zn
Yn
Yn
EYn DYn
1 sn
n i1
Xi
n i 1
i
1 n
sn i1
Xi i ,
则有：E(Zn ) 0, D( Zn ) 1.
11
林德伯格定理:
显然， 当n 时，P(Bn ) 1.
[注] 小概率事件尽管在个别试验中不可能发生，但在大量试验
中几乎必然发生。 10
第二节 中心极限定理
概率论中有关论证随机变量的和的极限分布是正态分布的定
理叫做中心极限定理。
设
X1
,
X
, , X , 是独立随机变量，并各有
2
n
n
EX i
i ,
DX i
2 i
的频率作为事件 A 的概率近似值时, 误差小于0.01的概率.
解
设事件A 在每次试验中发生的概率为 p，
在这10000次试验
中发生了X 次, 因此，所求事件的概率为
则 EX np 10000 p, DX 10000 p1 p,
P
X 10000
p
0.01 P
X 10000 p
100
P X EX 100 1 DX 1002
DX n
1 n2
nK
K n
由此，
当 n 充分大时，
随机变量
也就是说，
X 的值较紧密地聚集在它的数学期望 n
分散程度是很小的，
Xn
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
如果X P E( X ), 则称{Xn }服从大数定律.
说明：
(1)X P E( X ), 即对 0, lim P{ X E( X ) } 1. n
或表为: 对 0,
lim P{
n
1 n
n i 1
Xi
1 n
n i 1
E(Xi )
}
P( X E( X ) 2) P( X 7 2) 2
( X可取1, 6)
P( X 1) P( X 6) 2 1 63
1时,
D( X ) 35 2
2
P( X E( X ) 1) 12 3
2时,
D( X ) 1 35 35 1
(1)
另一种形式
lim P{
n
Xn
a
}
0
(2) 对N ,n N时,
落在邻域U
(a
,
)外的X
个数有限,测度为0.
n
(3) 设X n P a, Yn P b, 则X n Yn P a b. X n .Yn P a.b, X n / Yn P a / b(b 0)
1 ( 700 )2 1 1 8
2100
99
即估计每毫升白细胞数在5200~9400间的概率不小于8/9 .
二、依概率收敛简介
1、数列极限的定义
lim
n
X
n
a
对
0,
N ,
n
N时,
Xn a
n N时, P{ Xn a } 1, 必然事件.
p( A)
核心: X1, X2 , ..., Xn满足什么条件时,
1 n
n i 1
Xi
P
1 n
n i 1
E(Xi
)
即满足什么条件时, X P E( X )
1、大数定律的概念
设
{Xn }为一随机变量序列(n=1, 2, ...),
X
1 n
n i 1
X
为序列算术平均值,
（证明见下页） 说明：
重要性在于不知道X的分布(f(x),pk )情况下,通过
E(X)估计事件{X }的概率下限.
证明: 以连续型X证明, 设X的概率密度为f(x). X只取非负值, 故x 0时, f ( x) 0
E( X ) xf ( x)dx x f ( x)dx x f ( x)dx
0
0
x f ( x)dx
f ( x)dx
P{X }
改写为: P{X } E( X )
2、切比雪夫不等式
设随机变量X的E( X )存在, D( X ) 2 , 则对 >0,有
P{| X E( X ) | } 2 , 或 P{| X E( X ) | } 1 2
1.
（2）即大量随机变量的算术平均数是一个稳定值，非随机量
(3)大数定律即研究在什么条件下,X P E( X ).
2、切比雪夫大数定律
2
P( X E( X ) 2) 4 12 48 3
对 1, 2,
P(
X
E( X )
)
D( X )
2
例2 已知正常男性成人每毫升血液中的白细胞数平均是 7300，均方差是700 。利用切比雪夫不等式估计每毫升白 细胞数在5200~9400之间的概率下界。
6
2
(k 1, 2, ..., 6)
D( X ) 1 (12 22 ... 62 ) ( 7 )2 35
6
2 12
P( X E( X ) 1) P( X 7 1) 2
( X 可取1, 2, 5, 6)
P( X 1) P( X 2) P( X 5) P( X 6) 4 2 63
(4) 设Xn P a, 函数y g( x)在x a连续,则g( Xn ) P g(a).
三、大数定律（难点）
背景：
大数定律研究在什么条件下随机变量序列的算术平均值 收敛于其均值的算术平均值。
特例：频率的稳定性。
Rn ( A)
nA n
1ห้องสมุดไป่ตู้n
n i 1
Xi
n
解：设每毫升白细胞数为X。 依题意，E(X)=7300，D(X)=7002
P(5200 X 9400) P(5200 7300 X 7300 9400 7300)
P(2100 X E(X) 2100) P( X E(X) 2100)
1 D( X ) (2100)2
2、依概率收敛的定义
设 {Xn }为一随机变量序列(n=1, 2, ...), a R, 若对 0,
lim P{
n
Xn
a
} 1,
则称{Xn }依概率收敛于a.记作 : Xn P a.
对N, n N时, P{ Xn a } 1, 非必然事件.
说明：
2
2
重要性: 不知道X的分布(f(x),pk )情况下,通过E(X),D(X)
估计事件{ | X E( X ) | }的概率下限. 如取 3 , 则P{| X E( X ) | 3 } 2 0.111
9 2
证明 : P{| X E( X ) | } P{[ X E( X )]2 2}
E{[ X E( X )]2 )
2
D( X )
2
例1 设X是掷骰子出现的点数,给定 1, 2,实际计算 P( X E( X ) ),并验证切比雪夫不等式成立.
解 : X的概率分布律为: P( X k) 1
6
E( X ) 1 (1 2 ... 6) 7
第四节 切比雪夫不等式与大数定律
主要内容（1.5学时）
一、切比雪夫不等式 二、依概率收敛简介 三、大数定律（难点）
1、切比雪夫大数定律 2、伯努利大数定律 3、辛钦大数定律
一、切比雪夫不等式
1、马尔科夫不等式 设X是只取非负值的随机变量,且具有数学期望E( X ), 则
对于任意正数 ,有 P{X } E( X )