第五章随机变量的收敛性-精选
随机变量序列的两种收敛
概率论与数理统计
2）、设 n ,n 是两个随机变量序列， a，b为常数，
若 n P a,n Pb 且在g(x,y)在点（a,b）处连续， 则 g(n ,n ) P g(a,b), (n ). 证明略，方法类似于1） 3）、若 n P ,n P,
则n n P , (n )
nn P , (n )
1）、若 n P ,n P, 则P ( ) 1
证： n n
0
，由
则 n
2
与
n
2
中至
少有一个成立，即
n
2
n
2
于是
P(
) P(n
2
)
P(
n
) 0(n )
2
即 0,有P（ ） 1，从而P（ ） 1
这表明，若将两个以概率为1相等的随机变量看作 相等时，依概率收敛的极限是唯一的。
概率论与数理统计
定理5.6 随机变量序列 n P c(c为常数）
的充要条件为 Fn (x) W F (x)
这里 F(x)是 c 的分布函数，也就是退化分布
1, x c F(x) 0, x c
即
n P c
Fn (x) W F (x)
在F(x)的连续点．
当n P, (n ) 时，它们的分布函数之间就有
lim
n
Fn
(
x)
F
(
x)
成立．
1.定义
定义5.3
概率论与数理统计
设 Fx, F1(x), F2 (x), 是一列分布函数，如果对
F(x)的每一个连续点x，
都有
lim
n
Fn (x)
F ( x)
成立，
则称分布函数列 Fn (x) 弱收敛于分布函数F（x），
李贤平-概率论基础-Chap5
1 1 1/ 2 1/ 2
(2)
若对一切 n ,令 n ( ) ( ),显然 n ( )的分布列也是 (2) L ( ) 。 ，因此 n ( )
但是, 对任意的 0 2 ，因
P{| n ( ) ( ) | } P() 1
当然，当F(x) 是一个分布函数时,分布函数的左连续 性保证了 F 在不连续点上的值完全由它在连续点集 CF 上的值唯一确定，因此此时分布函数列的弱收敛极限是 唯一的.
以下我们研究一个分布函数序列弱收敛到一个分布 函数的充要条件，为此先建立一些重要的分析结果。
引理. 设{ Fn ( x )}是实变量x 的非降函数序列，D是R上的 稠密集. 若对于D中的所有点, 序列 { Fn ( x )}收敛于F(x),
所以，我们有
F ( x) Fn ( x) P{n x, x}
因为 { n } 依概率收敛于 ，则
P{n x, x} P{| n | x x} 0
因而有
F ( x) lim Fn ( x)
n
同理，对 x x,
i 1 i , 1, ki ( ) k k , i 1, 2, 0, otherwise
取 P 为勒贝格测度，则
, k.
1 0, P (| ki ( ) | ) , i 1, 2, k
, k . (*)
将 ki 依次记为 n , 如图:
n
则称 {n ( )}依概率收敛于 ( ) ，并记为
n ( ) ( )
P
定义3 (r阶矩收敛) 设对随机变量 n 及 有E | n |r , E | |r ， 其中 r 0 为常数，如果
《概率论与数理统计课件》 随机变量序列的收敛性
27
这个定理的证明只涉及数学分析的一些结果， 而 且证明比较冗长（参阅文献[1]） ，在此就不介绍 了．通常把以上定理称为特征函数的连续性定理， 因为它表明分布函数与特征函数的一一对应关系 有连续性．
28
例 4.3.3
如果随机变量 X 服从参数为 的
Poisson 分布，证明：
1 X lim P x 2
1 0 x n ． Fn x 1 1 x n
5
由于 xn
xn
1 是函数 Fn x 的跳跃型间断点，所以当 n 时，间断点 n
1 0 x0 ．那么，分布函数序列 Fn x 是否会收敛于分布函 n
数
0 x 0 ． F x 1 x 0
但是我们看到，对于任意的 n ， Fn 0 0 ，所以 lim Fn 0 0 ，然而
n
F 0 1 ，所以，
lim Fn 0 0 1 F 0 ．
6
n
这表明， 分布函数序列 Fn x 并不点点收敛于分布函数
F x ．事实上，分布函数序列 Fn x 点点收敛于 g x ：
由于 x C
W
2
与 x C 都是分布函数 F x 的连续点， 并且由
于 Fn x F x ，
23
所以，
lim Fn C F C 1 ， lim Fn C F C 0 ． n n 2 2
Xn X ，
L
n ．
（4.3.4） 9
注：以上定义的“弱收敛”是自然的，因为它 比在每一点上都收敛的要求的确“弱”了些．如 果 F x 是 连 续 函 数 ， 则 对 于 任 意 的 x ， 有
随机变量的几种收敛及其相互关系
论文摘要概率是对大量随机现象的考察中显现出来的，而对于大量的随机现象的描述就要采用极限的方法。
概率统计中的极限定理研究的是随机变量序列的某种收敛性，对随机变量收敛性不同定义将导致不同的极限定理，而随机变量的收敛性的确可以有各种不同的定义。
主要讨论了依概率收敛与依分布收敛，r阶收敛与几乎处处收敛，几乎处处收敛与依概率收敛之间的关系。
给出了由依概率收敛推出几乎处处收敛的条件和由依概率收敛推出r阶收敛的条件，从而比较完全地说明了随机变量序列的各种收敛性之间的关系。
本论文将对随机变量的几种收敛作出较为简单扼要的介绍和讨论.论文结构如下：一、随机变量的几种收敛的概念理论；二、随机变量的几种收敛之间的关系；从以上几个方面对随机变量的几种收敛理论简明扼要地分析，说明随机变量序列收敛理论在实际问题中的应用范围之广，在实际生活中的重要性。
关键词：r阶收敛；几乎处处收敛；依概率收敛；依分布收敛。
AbstractThe Probability is the study of a large number of random phenomena emerge, but for a large number of random phenomena should use extreme methods described. Probability and statistics in the limit theorem is asequence of random variables convergence, convergence of random variables with different definitions lead to different limit theorem, and indeed the convergence of random variables can have different definitions. Mainly discussed convergence in probability and convergence in distribution, convergence in order r and almost everywhere convergence, almost sure convergence and convergence in probability relationship. Convergence in probability is given by the launch of almost everywhere convergence of conditions and the convergence in probability by the introduction of r-order convergence conditions, which more completely describes the various random variables convergence relationship. This paper will make the convergence of several random variables is more brief presentations and discussions. Paper is structured as follows: 1. Convergence of random variables the concept of theory; 2. the convergence of several random variables between; From the above aspects of the theory of random variables of several brief analysis of convergence shows that the convergence theory of random variables in the actual problems in the wide range of applications, in real life importance.Keywords: convergence in order r ; almost everywhere or almost surely; convergence in probability; convergence in distribution.目录引言： 41 几种收敛性定义 42 依概率收敛与依分布收敛的关系 53 r阶收敛与几乎处处收敛的关系 114 依概率收敛与r阶收敛的关系 135 几乎处处收敛与依概率收敛和依分布收敛的关系 17总结 19四种收敛性 19四种收敛蕴涵关系 19致谢 21参考文献 22引言：概率论最早产生于17世纪，本来是保险事业的发展而产生的，但是来自于赌博者的请求，却是数学家们思考概率论中问题的源泉。
随机变量序列的收敛特性
概率空间•几乎必然收敛(almost sure convergence)–随机变量序列收敛到，同时}{n X X {li – a.s. 1}{lim ==∞→X X P n n X X =lim XX −→−.s .a 表示为或者n n ∞→n →)}()(lim :{ςςςX X n n =∞→•依概率收敛(convergence in probability)–随机变量序列以及满足对任意}{n X X li ε–p. 0}||{lim=>-∞→εX X P n n X X =lim XX −→−.p 表示为p 或者n n ∞→n →也有可能的数值极大|X X n -|•均方收敛(mean square convergence)–随机变量序列以及满足,同时}{n X X li ∞<}{2nX E –m.s. 0}){(lim2=-∞→X X E n n X X =lim XX −→−m.s.表示为或者n n ∞→n →•均方收敛(mean square convergence)–随机变量序列以及满足,同时}{n X X li ∞<}{2nX E –m.s. 0}){(lim2=-∞→X X E n n X X =lim XX −→−m.s.表示为或者则n n ∞→n →m s •若，则X X n −→−m.s.∞<}{2X E 几乎必然收敛或依概率收敛都不能确保均方收敛•以概率分布收敛(convergence in distribution)–随机变量序列以及满足在任意连续的x}{n X X li )()(limx F x F X X n n =∞→–表示为 d. 或者X X n n =∞→lim XX n −→−d.•依据特征函数判断收敛–XX n −→−d.––)}({)}({X f E X f E n →)t ()t (XX nΦ→Φ.s .a ⇒XX −→−.p(Cauthy criteria)在不知道极限的情况下，判定随机变量序列收敛随机变量序列的收敛特性。
随机变量序列极限
i 1
n
Xi
B 1, p ,
则
X
i 1
n
i
B n, p ,
进一步地有
X
则
B m, p , Y
B n, p ,
X Y
有这个必要.
B m n, p .
但很多情况下这样的分布并不能得到, 有时也不一定
人们在长期实践中发现 , 在相当一般的条件下, 只要 n
该定理的实际意义是, 若随机变量序列 X1 , X 2 , 满足定理条件, 记 Yn
X i , 则当n充分大时
i 1
n
Yn E Yn D Yn
近似服从标准正态分布. 即
Yn X i ~ N E Yn , D Yn .
i 1
n
.
例2 某人要测量甲、乙两地的距离, 限于测量工具, 他 分成1200段进行测量, 每段测量误差（单位: 厘米）服从
注意
该定理的条件为方差有界.
定理
（独立同分布情形下的大数定律） 设 X1 , X 2 ,
2
是独立同分布的随机变量序列, 且 E
D X i , i 1, 2,
,
则
X .
P
X i ,
用独立同分布情形下的大数定律可以证明频率的稳 定性。 设进行n次独立重复的试验，每次试验只有两个结果
第五章 随机变量序列的极限
本章要点
本章讨论两类重要的极限分布.
一、大数定律
定义 设 数c, 使得对于任意常数 0, 总有
n
X1 , X 2 ,
是一个随机变量序列, 如果存在常
陈国华等主编概率论与数理统计第五章习题解答
x>0 x≤0
(α > 0, β > 0)
a a 1 1 1 dx = ∫ cos(tx) ⋅ dx + ∫ sin(tx) ⋅ dx −a −a −a 2a 2a 2a 1 1 1 = ⋅ sin(tx) |a sin(at ) x =− a = at 2a t t −1 （2）参数为 λ 的指数分布的特征函数为， φ X (t ) = (1 − i ) ，参数为 λ 的指数分布可看做
1
π (1 + x 2 )
(−∞ < x < +∞) ；
⎧A ⎪ (D) X i 的概率函数为 ： g ( x) = ⎨ x 3 ⎪0 ⎩
x ≥1 x <1
(i = 1,2,3, ) ．
答案：CABAD 三．解答题
1．一颗骰子连续掷 4 次，点数总和记为 X ，估计 p (10 < X < 18) ．
3．已知随机变量 X 的数学期望为 10，方差 DX 存在且 P (−20 < X < 40) ≤ 0.1 ，则
DX ≥ ． 4．设 X 1 , X 2 , , X n， 为独立同分布的随机变量序列，且 X i (i = 1,2, ) 服从参数为 2 的
指数分布，则 n → ∞ 当时， Yn =
1 n 2 ∑ X i 依概率收敛于 n i =1
1 1 ln n + ln n = 0 2 2
n
DX n = EX n = ln n
n 1 1 D ( Xi) = 2 ∑ 2 n n i =1
2
∑ ln i → 0(n → ∞)
i =1
根据马尔可夫大数定律， {X n } 服从大数定律。
3 、 已 知 随 机 变 量 X 和 Y 的 数 学 期 望 、 方 差 以 及 相 关 系 数 分 别 为 E ( X ) = E (Y ) = 2 ,
随机变量的几种收敛及其相互关系
论文摘要概率是对大量随机现象的考察中显现出来的，而对于大量的随机现象的描述就要采用极限的方法。
概率统计中的极限定理研究的是随机变量序列的某种收敛性，对随机变量收敛性不同定义将导致不同的极限定理，而随机变量的收敛性的确可以有各种不同的定义。
主要讨论了依概率收敛与依分布收敛，r阶收敛与几乎处处收敛，几乎处处收敛与依概率收敛之间的关系。
给出了由依概率收敛推出几乎处处收敛的条件和由依概率收敛推出r阶收敛的条件，从而比较完全地说明了随机变量序列的各种收敛性之间的关系。
本论文将对随机变量的几种收敛作出较为简单扼要的介绍和讨论.论文结构如下：一、随机变量的几种收敛的概念理论；二、随机变量的几种收敛之间的关系；从以上几个方面对随机变量的几种收敛理论简明扼要地分析，说明随机变量序列收敛理论在实际问题中的应用范围之广，在实际生活中的重要性。
关键词：r阶收敛；几乎处处收敛；依概率收敛；依分布收敛。
AbstractThe Probability is the study of a large number of random phenomena emerge, but for a large number of random phenomena should use extreme methods described. Probability and statistics in the limit theorem is a sequence of random variables convergence, convergence of random variables with different definitions lead to different limit theorem, and indeed the convergence of random variables can have different definitions. Mainly discussed convergence in probability and convergence in distribution, convergence in order r and almost everywhere convergence, almost sure convergence and convergence in probability relationship. Convergence in probability is given by the launch of almost everywhere convergence of conditions and the convergence in probability by the introduction of r-order convergence conditions, which more completely describes the various random variables convergence relationship.This paper will make the convergence of several random variables is more brief presentations and discussions. Paper is structured as follows:1. Convergence of random variables the concept of theory;2. the convergence of several random variables between;From the above aspects of the theory of random variables of several brief analysis of convergence shows that the convergence theory of random variables in the actual problems in the wide range of applications, in real life importance.Keywords: convergence in order r ; almost everywhere or almost surely; convergence in probability; convergence in distribution.目录引言： (4)1 几种收敛性定义 (4)2 依概率收敛与依分布收敛的关系 (5)3 r阶收敛与几乎处处收敛的关系 (11)4 依概率收敛与r阶收敛的关系 (13)5 几乎处处收敛与依概率收敛和依分布收敛的关系 (17)总结 (19)四种收敛性 (19)四种收敛蕴涵关系 (19)致谢 (21)参考文献 (22)引言：概率论最早产生于17世纪，本来是保险事业的发展而产生的，但是来自于赌博者的请求，却是数学家们思考概率论中问题的源泉。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
弱大数定律（WLLN）
独立同分布（IID）的随机变量序列
敛方于差期望X i，即2对任，意则 样 0本均值
XXn1,X2n1...i,n1XXn i依，概称 X n 为 的一致估计（一致性）
证明：根据Cheyshev不等式
X n 2
X n 2 n2 0 ,a s
Quadratic mean (L2)
Point-mass distribution
probability
distribution
L1
反过来不成立！
almost surely
9
例：伯努利大数定律
设在一次观测中事件A发生的概率为 p A ，如果观
测了n次，事件A发生了n A 次，则当n充分大时，A在次观
在定理条件下，当样本数目n无限增加时，随机样本均值 将几乎变成一个常量
1、如果对每个 0 ，当 n 时，
Xn X
0
则Xn依概率收敛于X ，记为 Xn P X。 2、如果对所有F的连续点t，有
nlimFn t Ft
则Xn依分布收敛于X ，记为 X n
同教材上
X。
5
两种收敛的定义
当极限分布为点分布时，表示为
依概率收敛：
X c 1 , a n d X n P X , t h e n X n P c
F n t F t,f o r a l lt 0 X n 0
fort0,F n01 2F01
但 是 t 0 不 是 F 的 连 续 点
12
收敛的性质
5.5 定理：设X n , X ,Yn ,Y是随机变量，g是连续函数 a 如果X n P X，Yn P Y，那么 X n Yn P X Y. b 如果X n qm X，Yn qm Y，那么 X n Yn qm X Y . c 如果X n X，Yn c，那么 X n Yn X c. d 如果X n P X，Yn P Y，那么 X nYn P XY . e 如果X n X，Yn c，那么 X nYn cX . f 如果X n P X，那么 g X n P g X . g 如果X n X，那么 g X n g X .
发生的频率 fnAnA n逐渐稳定到概率p 。 那么lni mfnAp?
不对，若 lni m fnA p
则对于 0 ，总存在 N 0 ,当 n N时，有
fn
A p 成立
但若取 p , 由于
fnA 0 1pn0
即无论N多大,在N以后,总可能存在n ,使 fn A 0
所以 f n A 不可能在通常意义下收敛于p。
1
收敛性
主要讨论两种收敛性
依概率收敛
大数定律：样本均值依概率收敛于分布的期望
依分布收敛
中心极限定理：样本均值依分布收敛于正态分布
2
例1：依概率收敛
概率的频率解释：随着观测次数n的增加，频率将会逐渐稳定 到概率
设在一次观测中事件A发生的概率为 p A
如果观测了n次，事件A发生了n A 次，则当n充分大时，A在次观测中
或
lni m XnX0
:ln i m X n X 0
则称随机变量序列 X1,X2...,Xn,...几乎处处依概率收敛到X （converge almost surely to X） ，记为：Xn a .s.X
几乎处处收敛：比依概率收敛更强
8
各种收敛之间的关系
点分布，c为实数 Xc1
F
t
0 1
t0 t 0
X n~ N 0 ,1 n n X n~ N 0 ,1
for t 0,
F n t X n t n X n n t Z n t 0 , a s n
for t 0,
F n t X n t n X n n t Z n t 1 , a s n
测中发生的频率 fnAnA n 逐渐稳定到概率p 。
即对于 0，
lim
n
nnA
p
0
表示当n充分大时，事件发生的频率 n A 与其概率p存在较
大偏差的可能性小。
n
证明： nA ~ Binomial n, p , nA np, nA np 1 p ，
所以
nA
p,
nA
p1 p
，
n
n
n
对 0 ，根据 Chebyshev 不等式，有
3
例2：依分布收敛
考虑随机序列 X1,X2...,Xn ，其中 Xn~N0,1n
直观：X n 集中在0处，X n 收敛到0
但
Xn0
Xn 2
（Chebyshev不等式）
1
n
2
0
4
两种收敛的定义
5.1 定义：令 X1,X2...,Xn为随机变量序列，X为另 一随机变量，用Fn表示Xn的CDF，用F表示X的 CDF
当极限分布为点分布时，记为 Xn q mc
对应还有：L1收敛（converge to X in L1 ）
lim
n
Xn X 0
if X n X 0 ,a s ,th e n X n L 1 X
7
其他收敛
依概率收敛
lim
n
XnX0
或
lim
n
:X n X
0
随机变量序列 X1,X2...,Xn ，当对任意 0，
依分布收敛：
X c 1 , a n d X n X , t h e n X n c
6
其他收敛
还有一种收敛：均方收敛（L2收敛， converge to X in quadratic mean）
对证明概率收敛很有用
lim
n
XnX2 0
if X n X 2 0 ,a s ,th e n X n q m X
nA n
p
nA n
p 1
p
0
2
n 2
n 。
10
例：5.3
令 Xn~N0,1n
直观：X n 集中在0处， X n 收敛到0
依概率收敛：
Xn0
Xn 2
（Chebyshev不等式）
1
n
2
ln i m X n0 0
11
例：续
依分布收敛：令F表示0处的点分布函数，Z表示标准正态 分布的随机变量
第五章：随机变量的收敛性
随机样本：IID样本 X1,X2...,Xn ，X i ~ F 统计量：对随机样本的概括
Y T(X1,X2...,Xn) Y为随机变量，Y的分布称为统计量的采样分布 如：样本均值、样本方差、样本中值…
收敛性：当样本数量n趋向无穷大时，统计量的变化
大样本理论、极限定理、渐近理论 对统计推断很重要