概率论4.3随机变量序列的收敛性(先)资料
随机变量序列的两种收敛
概率论与数理统计
2）、设 n ,n 是两个随机变量序列， a，b为常数，
若 n P a,n Pb 且在g(x,y)在点（a,b）处连续， 则 g(n ,n ) P g(a,b), (n ). 证明略，方法类似于1） 3）、若 n P ,n P,
则n n P , (n )
nn P , (n )
1）、若 n P ,n P, 则P ( ) 1
证： n n
0
，由
则 n
2
与
n
2
中至
少有一个成立，即
n
2
n
2
于是
P(
) P(n
2
)
P(
n
) 0(n )
2
即 0,有P（ ） 1，从而P（ ） 1
这表明，若将两个以概率为1相等的随机变量看作 相等时，依概率收敛的极限是唯一的。
概率论与数理统计
定理5.6 随机变量序列 n P c(c为常数）
的充要条件为 Fn (x) W F (x)
这里 F(x)是 c 的分布函数，也就是退化分布
1, x c F(x) 0, x c
即
n P c
Fn (x) W F (x)
在F(x)的连续点．
当n P, (n ) 时，它们的分布函数之间就有
lim
n
Fn
(
x)
F
(
x)
成立．
1.定义
定义5.3
概率论与数理统计
设 Fx, F1(x), F2 (x), 是一列分布函数，如果对
F(x)的每一个连续点x，
都有
lim
n
Fn (x)
F ( x)
成立，
则称分布函数列 Fn (x) 弱收敛于分布函数F（x），
随机变量序列的两种收敛性
§4.2随机变量序列的两种收敛性在上一节中，我们从频率的稳定性出发，引入了n η=∑=n i i n 11ξ−→−p a （n ∞→） 即随机变量序列{}n η依概率收敛于常数a 这么一个概念。
我们自然可以把所讨论的问题推广到a 不是一个常数，而是一个随机变量这样的情形，于是需要引入下面的定义。
定义4.2 设有一列随机变量1η，2η，3η，…，n η，如果对任意的ε>0,都有 lim ∞→n P ()εηη<-n （4.6）则称随机变量序列{}n η依概率收敛于η，并记作lim ∞→n r η−→−p η 或n η−→−p η （n ∞→） 由此可知，前一节中讨论过的大数定律只是上述依概率收敛的一种特殊情况。
我们已经知道分布函数全面地描述了随机变量的统计规律，如果已知n η−→−p η（n ∞→），那么它们相应的分布函数n F （x ）与F （x ）之间的关系会有什么样的关系呢?一个猜测是,对所有的x ，都有n F （x ）→ F （x ）（n ∞→）成立，这个猜测对不对呢?让我们看一个很简单的例子。
例4.2 设η，n η都是服从退化分布的随机变量，且P （η=0）=1,P （n η=-n 1）=1，n=1,2,… 于是对任给的ε>0，当n>ε1时有 P （ηη-n ≥ε）=P （n η≥ε）=0所以n η−→−p η （n ∞→） 成立。
又设η，n η的分布函数分别为F （x ），n F （x ），则F （x ）=⎩⎨⎧≤>0,20,1x xF （x ）=⎪⎩⎪⎨⎧-≤->n x n x 1,21,1 显然,当x ≠0时，lim ∞→n n F （x ）= F （x ）成立，当x=0时，lim ∞→n n F （0）=lim ∞→n 1=1≠0= F （0） 这个简单的例子表明，一个随机变量序列依概率收敛于某一个随机变量，相应的分布函数列不一定是在每一点上都收敛于这个随机变量的分布函数的。
概率论中的随机过程收敛性分析
概率论中的随机过程收敛性分析概率论中的随机过程收敛性分析是一种重要的研究方法，它在许多领域中都得到了广泛应用。
本文将从理论和实际应用角度，对随机过程的收敛性进行分析和讨论。
一、概率论中的随机过程随机过程是概率论中的一个基本概念，它描述了一系列随机变量的演化过程。
随机过程可以分为离散时间和连续时间两种情况。
在离散时间中，随机过程由一系列随机变量构成，例如随机游走；在连续时间中，随机过程由一个连续的随机函数构成，例如布朗运动。
二、收敛性的定义和分类收敛性是随机过程分析中一个关键的概念。
对于离散时间和连续时间的随机过程，我们分别讨论它们的收敛性。
1. 离散时间随机过程的收敛性离散时间随机过程的收敛性可以通过序列的极限来刻画。
对于离散时间随机过程{Xn}，如果存在一个随机变量X，使得当n趋向于无穷大时，Xn以概率1收敛于X，那么我们称随机过程{Xn}以概率1收敛于X。
此外，我们还可以使用均方收敛和依分布收敛来描述离散时间随机过程的收敛性。
2. 连续时间随机过程的收敛性连续时间随机过程的收敛性可以通过极限过程来刻画。
对于连续时间随机过程{X(t)}，如果存在一个随机过程X(t)，使得当t趋向于无穷大时，X(t)以概率1收敛于X(t)，那么我们称随机过程{X(t)}以概率1收敛于X(t)。
类似地，我们还可以使用均方收敛和依分布收敛来描述连续时间随机过程的收敛性。
三、收敛性分析的应用随机过程的收敛性分析在许多领域中都有着广泛的应用。
下面介绍几个典型的应用场景。
1. 随机游走的收敛性分析随机游走是一种重要的离散时间随机过程，它在金融学、经济学等领域中得到广泛应用。
通过对随机游走的收敛性分析，可以研究其收敛性质，例如稳定性、收敛速度等，为实际问题的解决提供理论依据。
2. 布朗运动的收敛性分析布朗运动是一种重要的连续时间随机过程，它在物理学、金融学等领域中具有重要意义。
通过对布朗运动的收敛性分析，可以研究其性质和行为，例如时序相关性、自回归性等，为实际问题的建模和分析提供理论支持。
随机变量序列的收敛特性
概率空间•几乎必然收敛(almost sure convergence)–随机变量序列收敛到，同时}{n X X {li – a.s. 1}{lim ==∞→X X P n n X X =lim XX −→−.s .a 表示为或者n n ∞→n →)}()(lim :{ςςςX X n n =∞→•依概率收敛(convergence in probability)–随机变量序列以及满足对任意}{n X X li ε–p. 0}||{lim=>-∞→εX X P n n X X =lim XX −→−.p 表示为p 或者n n ∞→n →也有可能的数值极大|X X n -|•均方收敛(mean square convergence)–随机变量序列以及满足,同时}{n X X li ∞<}{2nX E –m.s. 0}){(lim2=-∞→X X E n n X X =lim XX −→−m.s.表示为或者n n ∞→n →•均方收敛(mean square convergence)–随机变量序列以及满足,同时}{n X X li ∞<}{2nX E –m.s. 0}){(lim2=-∞→X X E n n X X =lim XX −→−m.s.表示为或者则n n ∞→n →m s •若，则X X n −→−m.s.∞<}{2X E 几乎必然收敛或依概率收敛都不能确保均方收敛•以概率分布收敛(convergence in distribution)–随机变量序列以及满足在任意连续的x}{n X X li )()(limx F x F X X n n =∞→–表示为 d. 或者X X n n =∞→lim XX n −→−d.•依据特征函数判断收敛–XX n −→−d.––)}({)}({X f E X f E n →)t ()t (XX nΦ→Φ.s .a ⇒XX −→−.p(Cauthy criteria)在不知道极限的情况下，判定随机变量序列收敛随机变量序列的收敛特性。
§4.3随机变量序列的两种收敛性
n
再令x ' x F ( x 0) lim Fn ( x )
n
8
同理可证： 当 x " x时，F ( x ") limFn ( x ),
n
再令x " x， F ( x 0) limFn ( x ) .
n
即有 F ( x 0) lim Fn ( x ) lim Fn ( x ) F ( x 0) . n
0, x c; 有 Fn (c / 2) F (c / 2) 1， F ( x ) 1 , x c . Fn (c ) F (c ) = 0 .
从而 P ( X n c ) （n ) 0
且 Fn ( x ) F ( x ) ， 所以当 n 时，
n
若x是F ( x )的连续点，
则 Fn ( x ) F ( x ), 即X n X .
W L
TH2表明：依概率收敛是弱收敛的充分不必要条件，
由弱收敛不能得出依概率收敛。见下面的例子。
9
例2 设X
X P
1 1 2
1 1 2
令 Xn X ,
L
当然有 X n X . 则 X n 与X 同分布，
P P P X n a ,Yn b X n Yn a b； P P X n Yn a b , X n Yn a b(b 0). 证明： ( X n Yn ) (a b ) X n a Yn b ( X n Yn ) (a b ) X n a Yn b 2 2
0 P X Y
《概率论与数理统计课件》随机变量序列的收敛性
P
定理 4.3.3 若 C 为常数，则 X n C 的充
L
要条件是 X n C ．
21
证明：
必要性已由定理 4.3.2 给出，下证充分性．
记随机变量 X n 的分布函数为 Fn x ．而常数 X C
（退化分布）的分布函数为
F
x
0 1
xC ． xC
22
所以对于任意的 0 ，有
Fn x收敛到一个极限分布函数 Fx 是有实际意义的．现在的 问题是，如何定义分布函数序列 Fn x的收敛性？很自然，由 于 Fn x是实变量函数序列，我们的一个猜想是：对所有的 x ， 要求 Fn x F x, n ．这就是数学分析中的点点收敛．然
下面的定理说明了依概率收敛是一种比按分布收敛更 强的收敛性．
11
P
L
定理 4.3.2 如果 X n X ，则必有 X n X ．
12
证明：
设随机变量 X n 的分布函数为 Fn x ， n 1, 2, 3, ；
随机变量
X
的分布函数为
F x ．为证
Xn
L
X
，只须证明：
对所有的 x ，有
写出随机变量 Yn
n k 1
Xk 2k
的特征函数n t ；⑶
证
明：当 n 时，随机变量序列Yn依分布收敛于随机变量Y ．
33Leabharlann 解：⑴ 由于随机变量Y 服从区间 1, 1 上的均匀分布，因
此 Y 的特征函数为
t eit eit cost i sin t cost i sin t sin t ．
（因为 x x 0）．所以有
再令 x x ，得
《概率论四种收敛性》PPT课件
第三章 3.1四种收敛性
1
主要内容
车贝晓夫不等式 几乎处处收敛 依概率收敛 依分布收敛 r-阶收敛
X
E(X)
2)
D(X)
2
2 22
1 2
23
证明：已知Xi (i 1, 2, , n)相互独立，且方差有限
证明lim
P
n
1 n
n i 1
Xi
1 n
n i 1
E( Xi )
1
证明：设随机变量Z
X
1 n
n i 1
Xi ,
1 n
1
n
1n
E(Z)
E(X )
E( n
i 1
Xi )
n
E(
的期望的偏差不小于 的概率的估计式 .
如取 3
P{|
X
E( X ) |
3 }
2 9 2
0.111
可见，对任给的分布，只要期望和方差 2存在，
则 r.v X取值偏离E(X)超过 3 的概率小于0.111 .
6
车贝晓夫不等式的用途：
（1）证明大数定律；（2）估计事件的概率。
车贝晓夫不等式只利用随机变量的数学期望及方差就可对的 概率分布进行估计。
( x E( X ))2dF( x)
xE( X )
2dF( x) xE( X )
2P X E(X)
从而P(
X
E( X )
)
D( X )
大数定律随机变量序列的收敛定义中心极限定理
>
0.387
?1
F (0.387) = 0.348
16
中心极限定理
例：计算机在进行加法时，对每个加数进行四舍五入取整，设 每个加数相互独立，并均匀分布。若将1500个数相加，误差 总和的绝对值超过15的概率是多少？
D
骣Sn 桫n
?1
C ne2
所以
lim
n
P
禳 镲 镲 睚 镲 镲 铪Sn
-
E(Sn) < e n
=1
7
强大数定律
柯尔莫哥洛夫大数定理：设 X1, X 2 ,... 相互独立，满足
å¥ k=1
D(Xk ) k2
<
?
则
å P
禳 镲 睚 镲 镲 铪nlim
1 n
n(
k=1
X
k
-
E( X k )) = 0
有
lim
n
P
禳 镲 镲 睚 镲 镲 铪fnA
-
p<e
=1
注：伯努利大数定理揭示了随着试验次数增加，频率稳定中心极限定理：设随机变量 X1, X 2 ,... 独立同分
布，且 E( X k ) = m, D( X k ) = s 2, k = 1, 2,...
布，则对于任意 x ，有
lim
n
P 禳 镲 镲 睚 镲 镲 铪
hn - np np(1- p)
?
x
F (x)
15
中心极限定理
例：一加法器同时收到20个噪声电压 Vk (k = 1,..., 20) ，假设 它们相互独立，且都在 (0,10) 上均匀分布，记
求 P{V > 105}
å V =
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
几种收敛性： i) 依概率收敛； ii) 按分布收敛； iii) 几乎处处收敛； iv) L r收敛
4.3.1 依概率收敛
定义4.3.1 (依概率收敛) 对于随机变(向)量序列{Yn}来说，若对任意的
>0，有 nlim P d(Yn,Y ) 1
则称随机变(向)量序列{Yn}依概率收敛于Y, 记为
基本结论
Yn Lr Y Yn PY Yn a.s.Y Yn PY
Yn PY 存在子列 {Ynk } ，使得 Ynk a.s.Y
更多结果参见《测度与概率》(严士健、刘秀芳)
依概率收敛不能推出以概率1收敛：
例如
令Ω=[0,1], F为[0,1]上所有波雷尔集构成的σ域
P为[0,1]上的勒贝格测度（长度）
证明见P221-223
说明：定理4.3.2的逆命题并不成立。 例4.3.2（P222）
4.3.3 判断弱收敛的方法
定理4.3.4
Xn L X
Xn (t) 特征函数与分布函数的一一对应关系对于 极限运算封闭。
补充1 几乎处处收敛
定义1 (几乎处处收敛) 若
(a, b) 连续，则
g( X n ,Yn ) P g(a, b) 如何证明?
对于更高维的情形也完全类似。
4.3.2 依分布收敛、弱收敛
对分布函数列 {Fn(x)}而言，点点收敛要求太高.
例4.3.1
设
P( X n
1 ) 1, n
n 1, 2,
, P( X0 0) 1,
则 Xn P X0
因此我们引进如下的收敛概念：
定义4.3.2 若在 F(x) 的连续点上都有
nlim Fn(x) F(x) 则称{Fn(x)} 弱收敛于 F(x) ，记为
Fn(x) W F(x) 相应记 Xn W X 依分布收敛
依概率收敛与依分布收敛的关系
定理4.3.2 定理4.3.3
Xn P X Xn W X Xn P a Xn W a
1
P{| X n b
从而易得
ab
|
} 2
P{|
Xn
a
|
2|
b
}1 |
1 P{| Xn Yn a b | }
P
{|
X
n
Yn
X
n
b
|
}
2
{| X n b a b | 2}
1
即 X n Yn P a b
其他结论大家可自行推导。
更一般地，我们有
若 Xn P a, Yn P b，函数 g(x, y) 在点
P nlimYn Y 1,
则称随机变量序列{Yn}几乎处处收敛于Y, 记为
Yn Y , a.s.
或
Yn a.s.Y
补充2 L r 收敛
定义2 ( L r收敛)
若对某 r 0有
E Yn Y r 0,
则称随机变量序列{Yn} L r收敛于Y, 记为
Yn Lr Y
注：r 2 时， 称为均方收敛。
{|
Xn
Yn
Xn
b
|
} 2
{|
Xn
b
ab
|
} 2
其中
{|
Xn
Yn
Xn
b
|
} 2
{| Xn || a | 1}
{| Yn
b
|
2(|
a
|
} 1)
由此容易看出
P{|
X
n
Yn
X
n
b
|
}
2
1
对于 {| X n
若 b 0, 若 b 0,
b a b | },
2
则显然有 P{| X n
则
b
a
b
|
}
2
{|
Xn
a
|
} 2
{| Yn
b
|
} 2
ii) X n Yn P a b
首先易知：若 Zn P c, 则 P{| Zn c | 1} 1,
进而 P{| Zn || c | 1} 1,
另外容易验证如下基本事实：若 P( An ) 1, P(Bn ) 1 则 P( AnBn ) 1 Why？
又
{| Xn Yn a b | }
令
ni
1, 0,
[(i 1) / n,i / n], [(i 1) / n,i / n].
i=1,2,…,n； n=1,2,….
考虑随机变量序列{
11
,
1 2
,
2 2
,
1 3
,
2 3
,33
,
}，并重新记成
{n}, 则有 n P 0 ，但 n ()极限几乎处处不存在
Yn P Y
大数定律讨论的就是依概率收敛.
依概率收敛的性质
定理4.3.1 若 Xn P a, Yn P b, 则
(1) {Xn}与{Yn}的加、减、乘、除 依概率收敛到 a 与 b 的加、减、乘、除.
(2) ( X n ,Yn ) P (a, b)
(1)
i) X n Yn P a b
只需注意到 {（| Xn Yn）（a b）| }
问题：是否对 x R, 均有 FXn (x) FX0 (x) ?
答案是否定的
事实上
FX n
(x)
0,
1,
x 1 n
x 1
n
g
(
x)
0, 1,
x0 x0
并非分布函数
在很多情况下，要想依概率收敛的随机变量序列 对应的分布函数列“点点收敛”到某一分布函数是不 可能的。
但若对“点点收敛”这一要求进行一定程度的减弱， 则是可行的。