切比雪夫不等式及切比雪夫大数定律
34切比雪夫不等式与大数定律
如果X P E( X ), 则称{Xn }服从大数定律.
说明：
(1)X P E( X ), 即对 0, lim P{ X E( X ) } 1. n
或表为: 对 0,
lim P{
n
1 n
n i 1
Xi
1 n
n i 1
E(Xi )
}
P( X E( X ) 2) P( X 7 2) 2
( X可取1, 6)
P( X 1) P( X 6) 2 1 63
1时,
D( X ) 35 2
2
P( X E( X ) 1) 12 3
2时,
D( X ) 1 35 35 1
(1)
另一种形式
lim P{
n
Xn
a
}
0
(2) 对N ,n N时,
落在邻域U
(a
,
)外的X
个数有限,测度为0.
n
(3) 设X n P a, Yn P b, 则X n Yn P a b. X n .Yn P a.b, X n / Yn P a / b(b 0)
1 ( 700 )2 1 1 8
2100
99
即估计每毫升白细胞数在5200~9400间的概率不小于8/9 .
二、依概率收敛简介
1、数列极限的定义
lim
n
X
n
a
对
0,
N ,
n
N时,
Xn a
n N时, P{ Xn a } 1, 必然事件.
p( A)
核心: X1, X2 , ..., Xn满足什么条件时,
概率第五章_大数定律与中心极限定理090505
P ( − Eξ ε ) = ξ ≥
P(ξ ≥ Eξ + ε ) + P (ξ ≤ Eξ − ε )
k
=
≤
k : xk ≥ E +
∑ξ ε p
k
+
k : xk ≤ E −
∑ξ ε p
pk +
k :xk ≥ E +
∑ξ ε
( x − Eξ ) 2
ε
2
k :xk ≤ E −
∑ξ ε
( x − Eξ ) 2
， 方差 Dξ n ( n = 1, 2,L)，且 Dξi < l (i = 1, 2,L) 其中 l 与 i 无关的
1 Eξ = (1 + 2 + 3 + L + 6) 6
35 7 故 Eξ = Dξ = 12 2
4 2 = P (ξ = 5) + P(ξ = 6) + P (ξ = 1) + P (ξ = 2) = = 6 3 7 1 P( − 2 ) = P(ξ ≥ 5.5) + P(ξ ≤ 1.5) = P (ξ = 6) + P (ξ = 1) = ξ ≥
即
lim P ( − p < ε ) = 1 n →∞ n
ξ
此定理表明：当试验在不变的条件下重复进行很多次时， 随机事件的频率 频率在它的概率 概率附近摆动。 频率 概率 由贝努里大数定律可知，若事件A的概率很小很小时，则 它的频率也很小很小，即事件A很少发生或几乎不发生， 这种事件叫小概率事件。反之，若随机事件的概率很接近1， 则可认为在个别试验中这事件几乎一定发生。 同分布的两个或多个随机变量: 同分布的两个或多个随机变量 离散型: 它们的概率分布律相同. 离散型 它们的概率分布律相同 连续型: 它们的概率密度函数相同. 连续型 它们的概率密度函数相同 所以它们的期望与方差一定相同. 所以它们的期望与方差一定相同
概率论与数理统计51切比雪夫不等式和大数定律课件
目录
• 切比雪夫不等式 • 大数定律 • 切比雪夫不等式与大数定律的联系 • 案例分析 • 习题与解答
01
切比夫不等式
Chapter
切比雪夫不等式简介
01
切比雪夫不等式是概率论中的一个基本不等式，它提供了在一定条件下，一个随 机变量的概率分布的上界和下界。
注意事项
使用切比雪夫不等式时，应注意其适用条件，特 别是随机变量的方差必须存在。
大数定律
要点一
总结词
大数定律描述了当试验次数趋于无穷时，随机事件的相对 频率趋于其概率的规律。
要点二
详细描述
大数定律表明，当试验次数n趋于无穷时，随机事件的相 对频率将以概率收敛于该事件的概率。具体来说，对于任 意小的正数ε，有$lim_{n to infty} P(| frac{X_n}{n} - p| < varepsilon) = 1$，其中$X_n$是n次试验中事件A发生的 次数，p是事件A的概率。
切比雪夫不等式的限制
虽然切比雪夫不等式在许多情况下都 很有用，但它也有一些限制。例如， 当随机变量的分布不是对称的或者偏 斜度较大时，切比雪夫不等式的估计 可能会不准确。
VS
因此，在使用切比雪夫不等式时，需 要考虑到这些限制，并根据具体情况 进行适当的调整和修正。
02
大数定律
Chapter
大数定律的定义
大数定律
定义
大数定律是指在独立同分布随机变量 序列中，当样本量趋于无穷大时，样 本均值的概率分布趋近于真实均值。
应用
大数定律在统计学中有着重要的应用 ，例如在样本均值的分布、置信区间 估计和假设检验等领域。
切比雪夫不等式与大数定律的联系
伯努利Bernoulli大数定律
或
lim P
n
1 n
n k 1
Xk
1
定理的意义
具有相同数学期望和方差的独立 r.v.序列 的算术平均值依概率收敛于数学期望.
当 n 足够大时, 算术平均值几乎是一常数.
数学 期望
可被
算术 均值
近似代替
二、中心极限定理
定 林德伯格-列维中心极限定理 理 (Lindeberg-levi) 一 [ 独立同分布的中心极限定理 ]
1 6
k
5 6
6000k
0.959036
用Poisson分布近似计算
取 = 1000
P X 1 0.01
6000 6
P940 X 1060
1059 1000k e1000
k 941
k!
0.937934
例： 设每次试验中，事件 A 发生的概率为 0.75, 试用 Chebyshev 不等式估计, n 多大 时, 才能在 n 次独立重复试验中, 事件 A 出 现的频率在0.74 ~ 0.76 之间的概率大于 0.90?
E(Yn
)
1
2
pq n
故
lim
n
P
n
n
p
0
伯努利(Bernoulli)大数定律的意义
在概率的统计定义中, 事件 A 发生的频率
n n“稳定于”事件A在一次试验中发生
的概率是指：
频率 n
n
与
p
有较大偏差
大数定律与中心极限定理
第五章 大数定律与中心极限定理大数定律：概率论中，说明、提示大量随机现象平均结果的稳固性的一系列定律。
如：前面学习过：(1) 在一样条件下，进展大量重复独立实验时，随机事件发生的频率具有稳固性，即()()A n n f A p n n=→→+∞当时。
(2) 实践中得出，大量测量值的平均值也是具有稳固性， 即12...()n X X X X n nμ+++=→→+∞常数当时。
大数定律从理论上给出了这种问题的论证。
一、切贝雪夫不等式1. 切贝雪夫不等式：设随机变量X 有数学期望EX 及方差DX ，那么任意给出0ε>，有2{||}DX P X EX εε-≥≤或 2{||}1DXP X EX εε-<≥-。
例 1. 某批产品次品率，试估量10000件产品中，次品数X 介于400~600件之间的概率。
解：~(10000,0.05)X B ，500EX np ==，(1)100000.050.95475DX np p =-=⨯⨯=， 因此22475{400600}{|500|100}110.525100100DX P X P X <<=-<≥-=-=。
二、大数定律1. 依概率收敛：假设存在常数a ,使得关于任意正数ε，有lim {||}1,n n P X a ε→+∞-<=那么称随机变量序列{}n X 依概率收敛于a .2. 切比雪夫大数定律：设12,,...X X 是彼此独立的随机变量序列，各有数学期望12,,...EX EX 及方差12,,...DX DX ，而且关于所有1,2...i =都有i DX C <，其中常数C 与i 无关，那么关于0ε∀>，有1111lim {||} 1.n ni i n i i P X EX n n ε→+∞==-<=∑∑ 3. 贝努里大数定律：设A n 为n 重贝努里实验中事件A 发生的次数，p 为事件A 发生的概率。
切比雪夫不等式与大数定律
第六讲切比雪夫不等式与大数定律主讲教师叶宏副教授概率论与数理统计的研究内容是随机现象的统计规律性，而随机现象的规律性是通过大量的重复试验才呈现出来的.研究大量的随机现象，常常采用极限方法，利用极限定理进行研究. 极限定理的内容很广泛，其中最重要的有两种:大数定律与中心极限定理.设随机变量X 的期望E (X )与方差D (X )存在，则对于任意实数ε> 0,2)()|)((|εεX D X E X P ≤≥-切比雪夫不等式或2)(1)|)((|εεX D X E X P -≥<-理论价值证明大数定律等等实用价值估计概率例已知正常男性成人血液中，每一毫升白细胞数平均是7300，均方差是700 . 利用切比雪夫不等式估计每毫升白细胞数在5200~9400之间的概率.解：设每毫升白细胞数为X ，则EX =7300, DX =7002≤P (5200 X 9400)≤= P (-2100 X -E (X ) 2100)≤≤= P ( |X -E (X )| 2100)≤≤=P (5200-7300 X -7300 9400-7300)≤2)2100()(1X D -≥98911=-=估计每毫升白细胞数在5200~9400之间的概率不小于8/92)(1)|)((|εεX D X E X P -≥<-2)()|)((|εεX D X E X P ≤≥-22140.5{6}_____X Y P X Y +≥≤例设随机变量和的数学期望分别为－和，方差分别为和，而相关系数为－，则{6}{()()6}P X Y P X Y E X Y +≥=+-+≥由切比雪夫不等式()()()220,E X Y E X E Y +=+=-+=解: ()()()2cov(,)D X Y D X D Y X Y +=++()()2()()3XY D X D Y D X D Y ρ=++=2()1612D X Y +≤=大数定律大量的随机现象中平均结果的稳定性大数定律的客观背景：大量抛掷硬币正面出现频率伯努利大数定律设n A 是n 次独立重复试验中事件A 发生的次数, p 是每次试验中A 发生的概率,则0>∀ε有0lim =⎪⎭⎫ ⎝⎛≥-∞→εp n n P A n 或1lim =⎪⎭⎫ ⎝⎛<-∞→εp n n P A n 依概率收敛频率p伯努利大数定律的意义理论价值给概率的统计定义提供了理论依据在概率的统计定义中, 事件A发生的频率“稳定于”事件A在一次试验中发生的概率实用价值如命中率等在n足够大时, 可以用频率近似代替p. 这种稳定称为依概率稳定.切比雪夫大数定律且具有相同的数学期望和方差,2,1,)(,)(2===k X D X E k k σμ则0>∀ε有01lim 1=⎪⎭⎫ ⎝⎛≥-∑=∞→εμn k k n X n P 或11lim 1=⎪⎭⎫ ⎝⎛<-∑=∞→εμn k kn X n P ,,,,21n X X X 相互独立，设随机变量序列辛钦大数定律且具有数学期望(),1,2,k E X k μ==,,,,21n X X X 相互独立同分布，设随机变量序列当n 足够大时, 算术平均值几乎是一常数.具有相同数学期望和方差的独立随机变量序列的算术平均值依概率收敛于数学期望.算术均值数学期望近似代替可被定理的意义平均数法则12~(2),(,,),,1_______n n i X E X X n Y X n→∞=∑ 例设总体为其简单随机样本则时依概率收敛于12,,,n X X X 因为独立同分布，22212,,,n X X X 所以也独立同分布，22()i i i E X DX EX =+（）2111=()422+=因此根据大数定律有∑==n i i n X n Y 121依概率收敛于21.2i EX =。
第五章 大数定律与中心极限定理
【解】 设 X i 表示“该射手第 i 次射击的得分”，则 Y = X i 表示射手所得总分，
i=1
Xi (i =1, 2, , 200) 独立同分布，分布表如下：
Xi
0
2
3
4
5
p
由于
0.1
0.1
0.2
0.2
0.4
E( Xi ) = 0×0.1+ 2×0.1+ 3×0.2 + 4×0.2 + 5×0.4 = 3.6 ；
试验中发生的概率，这个定律以严格的数学形式刻画了频率的稳定性，在实际应用中，当试 验次数很大时，便可以用事件发生的频率来替代事件的概率.
3、辛钦大数定律
设随机变量序列 X , X , 12
，Xn,
相互独立且服从相同的分布,具有相同的数学期望
E(X i
)
=
μ
,（
i
=
1,
2,
） ,则对任意给定的正数 ε ，有
) ,则对任意实数 x ，有
∑ ⎧
⎪
n
X − nμ i
⎫ ⎪
⎨ lim P i=1
≤ x⎬ =
⎪ n→∞
nσ
⎪
⎩
⎭
∫ 1
2π
x −t2
e
−∞
2 dt = Φ(x) .
154
第五章 大数定律与中心极限定理
n
∑ 【评注】 n 个相互独立同分布、方差存在的随机变量之和 Xi ，当 n 充分大时，近似 i =1
第五章 大数定律与中心极限定理
本章学习要点
① 了解切比雪夫不等式； ② 了解切比雪夫大数定律、伯努利大数定律和辛钦大数定律（独立同分布随机变量的大
大数定律中心极限定理51切比雪夫不等式引理1设随机变量X的数学
不等式成立
P(|
X
E( X ) |
)
D( X )
2
或
P(|
X
E(X
)
|
)
1
D(
X
2
)
切比雪夫不等式示意图
F(x)
D(X)/2
E(X)
E(X) E(X) + x
例1 已知E(X)=100, D(X)=30，试估计随机 变量X 落在(70,130)内的概率。
本章要解决的问题
1. 为何能以某事件发生的频率
作为该事件的 概率的估计？
2. 为何能以样本均值作为总体 期望的估计？
3. 为何正态分布在概率论中占
有极其重要的地位？
4. 大样本统计推断的理论基础 是什么？
大数 定律
中心极 限定理
§5.1 切比雪夫不等式
引理1 设随机变量X的数学期望E(X)与方差
解: P{70<X<130} =P{|X100|<30}
由切比雪夫不等式可得
P{|
X
100
|
30} 1
30 302
0.967
契比雪夫不等式给出了在随机变量X的
分布未知的情况下，事件{ | X |< } 或 { | X |≥ }的概率的一种估计方法
§5.2 大数定律
大量抛掷硬币 正面出现频率
P
nA n
p
P
1 n
n k 1
Xk
E(Xk )
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第5 章
知识点名称：切比雪夫不等式及切比雪夫大数定律 主讲人：秦旭
切比雪夫大数定律
一、回顾
实验者
抛掷次数n
出现正面次数m
德·摩根 德·摩根 德·摩根 德·摩根 蒲丰 皮尔逊 皮尔逊 维尼
2048 2048 2048 2048 4040 12000 24000 30000
n
X
i 1
n
i
1 n
i 1
E( Xi
)
| ε}
1 n
1
D( n i1 ε2
Xi )
1
C nε2
1,
(as n ).
切比雪夫大数定律 五、切比雪夫(Chebyshev)不等式
设随机变量 X 的数学期望 E(X ) 和方差D(X )都存在, 则对于
任意的 > 0, 有
P{| X E(X ) | ε}
变量, 若对于任意的＞ 0, 有
lim
n
P {| X n
X
| ε }
0
或
lim P{| X n X | ε} 1
n
称随机变量序列{Xn}依概率收敛于X，记为
X n P X
或者
lim
n
Xn
X,
( P)
切比雪夫大数定律
注1 在定义中, 随机变量 X也可以是常数 a, 称随机变量序列 {Xn} 依概率收敛于常数 a .
注2 随机变量序列依概率收敛不同于微积分中数列或函数列的 收敛性.
结论 随机变量序列{Xn}依概率收敛于X，指当 n 足够大时, 有
足够大的概率保证Xn 任意接近于X , 但Xn仍然有可能与X相差很大.
三、大数定律
切比雪夫大数定律
设Xn，n=1,2…是随机变量序列，其数学期望都存在，若对于
任意的＞ 0，有
D(X ) ε2
或者
P{| X
E(X )|
ε}
1
D(X ε2
).
注：1）估计值是粗略的；
2 适用于方差存在的任何随机变量
3 进一步说明了方差的意义
切比雪夫大数定律 切比雪夫不等式的证明
设随机变量 X的概率密度为fX(x),则
P{| X E(X)| ε } fX (x)dx
{x:|xE( X )|ε}
“独立”可否换成“不相关”？
切比雪夫大数定律 思考：
（3）试用切比雪夫不等式证明下列不等式
e 1
2π
a a
x2
2
dx
(1
1 a2
)
lim P{|
n
1 n
n i 1
Xi
1 n
n i 1
E ( X i ) |
ε} 1
称随机变量序列{Xn}服从大数定律.
大数定律的概率意义：{Xk}，k=1,2…的前n 项算术平均将紧 密地聚集在其数学期望的附近.
切比雪夫大数定律 四、切比雪夫大数定律
定理5.1.1（切比雪夫大数定律）
设Xk，k=1,2…是相互独立的随机变量序列,其数学期望和 方差都存在，且存在常数C, 使得
| x E(X) |2
ε2
fX (x)dx
{x:|xE( X )|ε}
1
ε2
[x
E(X)]2
fX
(
x)dx
D( X) ε2
小结：
切比雪夫大数定律
切比雪夫不等式 描述的是方差存在的随机变量落在以数学期望为中 心的对称区间内的概率的粗略估计。
切比雪夫不等式 可用于概率计算及大数定律的证明 大数定律的概率意义：{Xk}，k=1,2…的前n 项算术平均将紧密地聚
频率稳定于概率
1061
1048
1017
1039
2048
6019
12012
14994
? 1 n
n i1 X i
1n
1
E( n i5181 0.5117 0.4966 0.5073 0.5069 0.5016 0.5005 0.4998
切比雪夫大数定律
二、依概率收敛 定义5.1.1 设Xn, n=1,2…是一个随机变量序列, X 是一个随机
集在其数学期望的附近.（依概率收敛）
切比雪夫大数定律：前提条件 （独立，方差一致有界）
切比雪夫大数定律 思考：
1 利用切比雪夫大数定律证明：泊松大数定律 设Xk，k=1,2…是相互独立的随机变量序列,
P{Xn 1} pn, P{Xn 0} 1 pn qn.
则随机变量序列{Xk}, k=1,2…服从大数定律. 2 切比雪夫大数定律的成立前提
D( Xk ) < C, k = 1,2,…
则随机变量序列{Xk}, k=1,2…服从大数定律.
切比雪夫大数定律
证明
E[1
n
n i1
Xi]
1 n
n i1
E(Xi )
1
D[ n
n i1
Xi]
1 n2
n i1
D(Xi)
nC n2
C n
根据切比雪夫不等式，对于任意的＞ 0，有
P{| 1 n