随机变量序列的极限
概率论极限定理讲解

则对 0, 都有
lim
n
P
Xn
1 n
n k 1
k
0.
P Xn
1
n
n k 1
k
3
2.辛钦大数定律
{Xn}独立同分布,EXn (n 1, 2,
则lim P n
1.已知n, p,,计算频率与概率之间的误差
P
Xn n
p
( 2
n pq
1)
2.已知p,
,
和P
Xn n
p
,求n
(即抽样方案的设计,确定样本容量)
3.已知n,
p和P
Xn n
p
,求
(事后评估,精度的估计) 15
例3. 已知某厂生产一大批无线电产品中合格品占1/6。某商店
从该厂任意选购6000个元件,试问这6000个元件中,合格品的 比例与1/6之间误差小于1%的概率是多少?
16
三个极限定理之间的关系
林德伯格(Lindeberg)定理(独立) 列维-林德伯格中心极限定理(独立同分布) 棣莫弗--拉普拉斯定理(独立同分布于0-1分布)
即n很大时,Xn以很大的可能性靠近X,其中ε 为误差。 (随机性消失)
1
定义2:设{X n}是一随机变量序列,
n
P
EXn (n 1, 2,
)存在,记X
n
=
1 n
随机分析1--均方极限

证明
E aX bY
2
E ( a X b Y )( a X b Y )
E ( a X b Y )( a X b Y ) E ( aX
2
bY
2
aX bY aX bY )
aX bY aX bY 2 Re( aX bY )
E a
二阶矩过程的均方微积分
研究对象 一类具有二阶矩的随机过程 研究内容 连续性、可导性与可积性等. 是均方极限意义下的随机微积分
重点
均方极限,均方连续,均方可导
以及均方可积的概念和准则.
要求 掌握均方极限,均方连续,均方可导 以及均方可积的的概念以及相应准则. 熟悉一阶线性随机微分方程及其解. 熟悉正态过程的随机分析的一些结果.
a
k
a l R X ( k , l )收 敛 .
二阶矩过程均方极限定义
设 { X ( t ), t T }是 二 阶 矩 过 程 , X H , t 0 T ,
如 果 lim E X ( t ) X
t t0 2
0,
则 称 当 t t 0时 ,X ( t ), t T }收 敛 于 X . {
定理(均方大数定理)
设 { X n , n 1, 2, } H
是相互独立同分布的随机变量序列,且
E X n , n 1, 2, , 则
l.i.m
n
1
X n
k 1
n
k
,
证明:E
n
1
n i 1
n
1
n
2
Xi
E
2
i 1
(X n
大数定律与中心极限定理

⼤数定律与中⼼极限定理⽬录随机变量序列的两种收敛性依概率收敛:设{X n}为⼀随机变量序列,X为⼀随机变量,若对于任意ϵ>0,有P(|X n−X|≥ϵ)→0(n→∞)则称序列{X n}依概率收敛于X,记作X n P →X依概率收敛的性质:若X n P →aY n P →b则:X n±Y n P→a±bX n Y n P→abX n÷Y n P→a÷b弱收敛(按分布收敛):随机变量X,X1,X2…的分布函数为F(x),F1(x),F2(x)…,若对于F(x)的任意⼀个连续点x,有lim n→∞F n(x)=F(x)则称分布函数序列{F n(x)}弱收敛于F(x),记作F n(x)W→F(x)也称{X n}按分布收敛于X,记作X n L →X特征函数特征函数:设X是⼀个随机变量,则φ(t)=E(e itX)为X的特征函数。
常⽤分布的特征函数0-1分布:φ(t)=pe it+q泊松分布:φ(t)=∑e itx λk e−λk!=e−λ∑(λe it)kk!=eλ(e it−1)均匀分布:φ(t)=∫b ae itxb−a dx=e itb−e itait(b−a)标准正态分布:φ(t)=e−1 2t2证明:φ(t)=∫∞−∞e itx1√2πe−12x2dx=1√2π∫∞−∞∞∑n=0(itx)nn!e−12x2dx=∞∑n=0(it)nn![∫∞−∞x n1√2πe−12x2]dx=∞∑n=0(it)nn!E(X n)当n为奇数时,E(X n)=∫∞−∞x n1√2πe−12x2dx=0当n为偶数时,E(X n)=E(X2m)=∫∞−∞x2m1√2πe−12x2dx=1√2π∫∞−∞−x2m−1d(e−12x2)=1√2π(2m−1)∫∞−∞x2m−2e−12x2dx=(2m−1)(2m−3)…1∫∞−∞1√2πe−12x2dx=(2m−1)!!=2m!2m(m−1)!故φ(t)=∞∑m=0(it)2m(2m)!E(X2m)=∞∑m=0(it)2m(2m)!2m!2m(m−1)!=∞∑m=0(−t22)mm!=e−1 2t2指数分布的特征函数:φ(t)=(1−it λ)−1证明:φ(t)=∫∞0e itxλe−λx dx=λ[∫∞0cos(tx)e−λx dx+i∫∞0sin(tx)e−λx dx]I=∫∞0cos(tx)e−λx dx=∫∞01t e−λx dsin(tx)=λt∫∞sin(tx)e−λx dx=−λt2[−1+λ∫∞cos(tx)e−λx dx]=−λ2t2I+λt2故I=λλ2+t2φ(t)=λ(λλ2+t2+itλ2+t2)=λλ2+t2(λ+it)=λλ−it=(1−it λ)−1特征函数的性质|φ(t)|≤φ(0)=1证明:|φ(t)|=|∫e itx f(x)dx|≤∫|e itx|f(x)dx=1若Y=aX+b,则φY(t)=e ibtφX(at)证明:φY(t)=∫e it(ax+b)f(x)dx=e itb∫e itax f(x)dx=e ibtφX(at)若X和Y相互独⽴,则有φX+Y(t)=φX(t)φY(t)证明:E(e it(X+Y))=E(e itx e ity)=E(e itx)E(e ity)=φX(t)φY(t)若E(X l)存在,则X的特征函数l次可导,且对1≤k≤l有φ(k)(0)=i k E(X k)证明:φ(k)(t)=∫i k x k e ixt f(x)dx将t=0代⼊得φ(k)(0)=i k∫x k f(x)dx=i k E(X k)⼤数定律 概率是频率的稳定值,其中稳定是什么意思?⼤数定律详细的描述了这个问题。
极限定理1

§2. 中心极限定理
定义:设r .v .X 1 , X 2 , X n , , EX i 与DX i 都存在,i 1 ,2 , 令Yn
EX i
DX i 2 , i 1,2 ,
则序列{Xn}服从大数定律
2. 伯努利定理:
设nA是n次独立重复试验中A发生的次数, p是事件 A在每次试验中发生的概率, 则
nA 对于 0, 有 lim P p 1 或 n n nA nA P lim P p 0, 即 p. n n n
Zn
k 1
X k E( X k )
k 1
n
n
D( X k )
k 1
n
k 1
Xk k )
k 1
n
n
Bn
n
的分布函数Fn ( x)对
n
任意的x满足 lim Fn ( x) lim P{ k 1
n n x
Xk k
k 1
P P
点(a, b)连续, 则g(X n , Yn ) g(a, b).
P
2.定义 设是随机变量序列 { X n }, 若
n 1 n 1 P X EX i , 即对任意的 0, i n i 1 n i 1
恒有
1 n 1 n lim P {| X i- EX i | } 1 n n i 1 n i 1
3. 辛钦定理: 设 r.v. X1, X2, …, Xn, …相互独立, 服从同一分布, 且具
随机变量序列的极限

p
P A
p
例1 设 X1, X 2 , 是独立同分布的随机变量序列, 且
E Xi , D Xi 2,i 1, 2, , 则
1
n
n i 1
X
2 i
P 2
2.
二、中心极限定理
在数理统计中经常要用到 n个独立同分布的随机变量
n
X1, X 2, , X n的和 X i 的分布, 但要给出其精确分布有 i 1
n
n i 1
Xi
1 n
n i 1
E
Xi
P 0.
特别地, 若E Xi ,i 1, 2, , 则上式表明
X
1 n
n i 1
Xi
P
.
注意 该定理的条件为方差有界.
定理 (独立同分布情形下的大数定律) 设 X1, X 2 ,
是独立同分布的随机变量序列, 且E Xi , D Xi 2,i 1, 2, , 则 X P .
间 2, 2上的均匀分布, 且每个部件的称量是独立的,
试问, 最多可以把这台机床分解成多少个部件, 才能以
不低于 99%的概率保证总重量的误差的绝对值不超过
10kg.
解 设将机床分解成 N个部件, 而 X i 表示第 i个部件的
重量, 则 Xi R2, 2,i 1, 2, , N. 所以
E
X
i
0,
D
例3 设一个车间有400台同类型的机床, 每台机床需用
电 Q瓦, 由于工艺关系, 每台机器并不连续开动, 开动的 时候只占工作总时间的3/ 4, 问应该供应多少瓦电力能
99%的概率保证该车间的车床能正常工作.(假定在工作 期内每台机器是否处于工作状态是相互独立的).
概率论与数理统计----第五章大数定律及中心极限定理

= 1 − Φ(3.54)
=0.0002
一箱味精净重大于20500的概率为 的概率为0.0002. 一箱味精净重大于 的概率为
推论:
特别,若X~B(n,p),则当n充分大时, 特别, ~B(n 则当n充分大时,
X~N(np,npq) X~N(np,npq) np
若随机变量X~B( X~B(n, ),则对任意实数x有 ),则对任意实数 即 若随机变量X~B( ,p),则对任意实数 有
不等式证明 P{-1<X<2n+1}≥(2n+1)/(n+1)(n+1)
3. 设P{|X-E(X)|<ε}不小于 不小于0.9,D(X)=0.009.则用 不小于 则用
切比绍夫不等式估计ε的 最小值是( 切比绍夫不等式估计 的 最小值是
0.3 ).
4.(894) 设随机变量 的数学期望为 设随机变量X的数学期望为 的数学期望为µ, 标准差为σ,则由切比绍夫不等式 标准差为 则由切比绍夫不等式 P{|X-µ|≥3σ}≤( ). 1/9 5. 设随机变量X的分布律为 设随机变量 的分布律为 P{X=0.3}=0.2, P{X=0.6}=0.8, 用切比绍夫不等式估计 |X-E(X)|<0.2的概率 的概率. 的概率
1 n lim P ∑ Xi − µ < ε = 1 n→∞ n i =1
定理(贝努里利大数定律) 设每次实验中事件A发生的概率 定理(贝努里利大数定律) 设每次实验中事件A 为p,n次重复独立实验中事件A发生的次数为nA,则对任 次重复独立实验中事件A发生的次数为n 意的ε>0 意的ε>0 ,事件的频率 nA ,有 ε>
∫
+∞
−∞
概率论第十六讲中心极限定理

反查标准正态函数分布表,得
3.09 99.9%
令 解得
a 120
r
3.09
48
a (3.09 48 120)r 141r (千瓦)
例5 设有一批种子,其中良种占1/6. 试估计在任选的6000粒种子中,良种 比例与 1/6 比较上下不超过1%的概率.
Y n ~ N (np , np(1-p)) (近似)
中心极限定理的应用
例1 炮火轰击敌方防御工事 100 次, 每次 轰击命中的炮弹数服从同一分布, 其数学 期望为 2 , 均方差为1.5. 若各次轰击命中 的炮弹数是相互独立的, 求100 次轰击
(1) 至少命中180发炮弹的概率; (2) 命中的炮弹数不到200发的概率.
独立同一分布, 且有期望和方差:
E( X k ) , D( X k ) 2 0 , k 1,2,
则对于任意实数 x ,
n
Xk
n
lim P k1
x
n
n
1
x
e
t2
2 dt
(x)
2
n
注
X k n
记 Yn k1 n
n
则 Y n 为 X k 的标准化随机变量.
k 1
lim
n
PYn
x
( x)
即 n 足够大时,Y n 的分布函数近似于标 准正态随机变量的分布函数
近似
n Yn ~ N (0,1)
X k nYn n 近似服从N (n,n 2 )
k 1
中心极限定理的意义
在第二章曾讲过有许多随机现象服从 正态分布 是由于许多彼次没有什么相依关 系、对随机现象谁也不能起突出影响,而 均匀地起到微小作用的随机因素共同作用 (即这些因素的叠加)的结果.
概率论与数理统计第4章 随机变量的数字特征与极限定理

25
定义4.3 设X是随机变量,若E[X-E(X)]2存 在,则称它为X的方差,记为D(X),即
由定义4.2,随机变量X的方差反映了X的可能取值 与其数学期望的平均偏离程度.若D(X)较小,则X的 取值比较集中,否则,X的取值比较分散.因此,方差 D(X)是刻画X取值离散程度的一个量.
3
定义4.1 设离散型随机变量X的分布律为
4
5
6
7
8
9
4.1.2 几个常用分布的数学期望 1.0—1分布 设随机变量X服从以p为参数的(0—1)分布,则X 的数学期望为
2.二项分布 设随机变量X~B(n,p),则X的数学期望为
10
3.泊松分布 设随机变量X~P(λ)分布,则X的数学期望为
41
Hale Waihona Puke 424.3 协方差、相关系数及矩
4.3.1 协方差 对于二维随机变量(X,Y),除了分量X,Y的数 字特征外,还需要找出能体现各分量之间的联系的数字 特征.
43
44
4.3.2 相关系数 定义4.5 设(X,Y)为二维随机变量,cov (X,Y),D(X),D(X)均存在,且D(X)>0,D(X) >0,称
15
16
17
定理4.2 设(X,Y)是二维随机变量,z=g(x,y) 是一个连续函数. (1)如果(X,Y)为离散型随机变量,其联合分布 律为
18
19
20
4.1.4 数学期望的性质 数学期望有如下常用性质(以下的讨论中,假设所 遇到的数学期望均存在):
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
x 为标准正态分布的分布函数.
n X i n lim P i 1 x x . n n
该定理的实际意义是, 若随机变量序列 X1 , X 2 , 满足定理条件, 记 Yn
X i , 则当n充分大时
i 1
所以原概率近似为
64 P X i 7000 0.2266. i 1
B 1, p , i 1,2,, 则 E X i p, D X i pq 0, 即随机变量序列
作为上面定理的特例, 如果 X i
满足上面定理的条件. 从而有下面的定理.
A, A,
引进随机变 量
1 Xi 0
第i次试验A发生 第i次试验A发生
Xi ~ B 1, p , E Xi p, i 1,2., n,
X1 , X 2 ,, X n
频率
p 1 f n A X i X P A p n i 1 n
由条件所设, 所求的概率为
x 0.99.
而 x 为标准正态分布的分布函数, 查表得 x 2.326. 即:
N 300 Q 2.326. 5 3 从而 3 N 300 2.326 20 Q 4
300 20 Q 320Q.
P Xn c.
若随机变量序列 X1 , X 2 , 依概率收敛于c, 则
lim P X n c 0.
n
定理
a, b 处连续,
如果 X n
a, Yn b, 且函数 g x, y 在点 P 则 g X n , Yn a, b.
相互独立,则在n次ຫໍສະໝຸດ 验中A发生的例1 设 X1 , X 2 ,是独立同分布的随机变量序列, 且
E X i , D X i 2 , i 1,2,, 1 n 2 P 2 2 X . i n i 1
则
二、中心极限定理
在数理统计中经常要用到 n 个独立同分布的随机变量
定理
(中心极限定理 )设 X1 , X 2 ,是一个独立同分
布的随机变量序列, 且 X i
B 1, p , 令
Yn X i ,
则对任意的 x x , 有
i 1
n
Y np n lim P x x, n np 1 p
距离相等, 上一层的每一个钉子的水平位置恰好位于下
一层的两个钉子的正中间. 从入口处放进一个直径略小 于两个钉子之间的距离的小球. 在小 球向下降落的过程中, 碰到钉子后均
以 0.5 的概率向左或向右滚下, 于是
又碰到下一层钉子. 如此进行下去, 直 到滚到底板的一个格子里为止. 把许
多同样大小的小球不断从入口处放下, 只要球的数目相 当大, 它们在底板将堆成近似正态分布 N
但很多情况下这样的分布并不能得到, 有时也不一定
有这个必要. 人们在长期实践中发现 , 在相当一般的条件下, 只要 n
n充分大,
总认为
X 近似服从正态分布.
i 1 i
下面这个例子说明了这个情况.
例
(高尔顿钉板实验) 高尔顿设计了一个钉板实验,
图中每个黑点表示钉在板上的一个钉子, 它们彼此间的
因此机床质量总误差不超过10kg 的概率近似为0.9544.
例6 某单位有200台分机, 每台使用外线通话的概率为 15%, 若每台分机是否使用外线是相互独立的, 问该单
位至少需要装多少多少条外线, 才能以95%的概率保证
每台分机能随时接通外线电话. 解 以 X 表示在时刻 t使用的外线数, 则
P P
定理
设 X1 , X 2 , 是两两不相关的随机变量序列, 如
果存在常数 c, 使得 D
X i c, i 1, 2,, 则
1 n 1 n P X E X 0. i i n i 1 n i 1
特别地, 若E
Xi , i 1,2,,
X B 400,0.75.
1 E X 400 0.75 300, D X 300 75. 4
设应供应N瓦电,由中心极限定理知:
N 300 N Q 0.99, P XQ N P X Q 75
1 1200 1200 E X i 1200 0 0, D X i 1200 =100 12 i 1 i 1
由独立同分布的中心极限定理:
X
i 1
n
i
~ N 0,100
.
1200 1200 P X i 20 1 P 20 X i 20 i 1 i 1
超过 7000 的概率.
解
所求概率为
E 0.01 . 此时 E X i 100, D X i 10000, i 1,2,,64. 64 64 E X i 6400, D X i 640000 i 1 i 1
1 2.12 0.017,
即求概率为 0.017.
例3 设一个车间有400台同类型的机床, 每台机床需用 电 Q 瓦, 由于工艺关系, 每台机器并不连续开动, 开动的
时候只占工作总时间的 3/ 4, 问应该供应多少瓦电力能
99%的概率保证该车间的车床能正常工作.(假定在工作 期内每台机器是否处于工作状态是相互独立的). 解 令 X 表示在时刻 t 时正在开动的机器数, 则
即当 n 充分大时,
np 1 p Yn np
近似服从标准正态分布.
该定理的实际意义是: 若 X
B n, p , 则当
n 充分大时
X np np 1 p
近似服从标准正态分布.即
.
X ~ N np, np 1 p .
例4 一本 20 万字的长篇小说进行排版, 假定每个字被 排错的概率为 105 , 试求这本小说出版后发现有6个字以
即: 只要供应 320Q 瓦的电力, 就能以99%的把握保证该 车间的机器能正常工作.
例5 为了测定一台机床的质量, 将其分解成75个部件 来称量. 假定每个部件的称量误差(单位: kg )服从区
间 1,1 上的均匀分布, 且每个部件的称量是独立的, 试
求机床的称量总误差的绝对值不超过10 kg 的概率. 解 以 X i 表示第i 个部件的称量误差 i 1,2,,75 , 由
绝对值超过 20 厘米的概率.
1200
解
设第i 段的测量误差为 X i , 所以累计误差为
X ,
i 1 i
又 X1, X 2 ,, X1200 为独立同分布的随机变量, 由
X i R 0.5,0.5
得
1 E X i 0, D X i , 12
i 1,2,,1200 .
上错字的概率, 假定各个字是否被排错是相互独立的.
解 设错字总数为 X , 则
1 X B 200000, , 100000
则有
np 2, np 1 p 2 0.99999 1.414,
所求概率为:
P X 6 1 P X 5 52 1 1.414
1 n P . X Xi n i 1
则上式表明
注意
该定理的条件为方差有界.
定理
(独立同分布情形下的大数定律) 设 X1 , X 2 ,
2
是独立同分布的随机变量序列, 且 E
D X i , i 1, 2,,
则
X .
P
X i ,
用独立同分布情形下的大数定律可以证明频率的稳 定性。 设进行n次独立重复的试验,每次试验只有两个结果
(k 1, 2, ,16)
程序如下
输出图形
定理
(独立同分布的中心极限定理)设 X1 , X 2 , 是
独立同分布的随机变量序列, 且
E X i , D X i 2 0
则对任意的 x x , 有
i 1,2, ,
其中
0, 的密
2
度函数图形.
高尔顿( Francis Galton,1822-1911) 英国人类学家和气 象学家
共16层小钉
-8 -7 -6 -5 -4 -3 -2 -1 O 1
x 2 3 4 5 6 7 8
Xk
1, 小球碰第 1, 小球碰第
k 层钉后向右落下 k 层钉后向左落下
20 0 20 0 1 10 10
1 2 2
2 1 2 0.0456.
例3 已知某厂生产的晶体管的寿命服从均值为100h 的指 数分布, 随机抽取64 只, 试求这 64只晶体管的寿命总和
n
Yn E Yn D Yn
近似服从标准正态分布. 即
Yn X i ~ N E Yn , D Yn .
i 1
n
.
例2 某人要测量甲、乙两地的距离, 限于测量工具, 他 分成1200段进行测量, 每段测量误差(单位: 厘米)服从
区间 0.5,0.5上的均匀分布, 试求总距离测量误差的
此时有 E
线数,
X 30, D X 25.5. 若以N表示安装的外 则分机能使用外线意味着此时有P X N . 由
X B 200,0.15.
X1, X 2 ,, X n的和 X i 的分布, 但要给出其精确分布有
时很困难. 有些情况下, 可以得到其分布. 例如