概率论--特征函数与极限定理剖析

例题
若X i ~ B( ni , p), 且X i
n n i 1 i 1
( i 1,2
n)相互独立
则 Y = X i ~B( ni , p)
证明
因为X i ~ B( ni , p ), n)相互独立
it n
则 f X i ( t ) ( pe it q )ni ( i 1, 2
4、以概率1收敛
定义 若P{ : lim X n ( ) X ( )} 1 ，（简记为
n
P{lim X n X } 1 ） , 则称随机变量序列 { X n }以概率1
n
a.s （或几乎处处）收敛于 X 随机变量 X，记作X n X.
四种收敛关系： 以概率1收敛或r-阶收敛
抽取n件产品，
为其中次品的件数。
由伯努利大数定律知
当n很大时，可取 作为次品率 的估计值。
2、 中心极限定理
定理1（独立同分布的中心极限定理） 设 任意实数 有
为一列相互独立相同分布
的随机变量，且具有数学期望和方差， 则对于
其中
为标准正态分布的分布函数。
定理2 （德莫佛—拉普拉斯）
设
，则对于任意实数x，有
n
n
k
ak
2
0,
则对于任意的 x有
1 lim P n Bn ( k ak ) x ( x). k 1
则{X k }服从大数定律。
证明 由切比雪夫不等式
n 1 D ( X k ) 2 n k 1
1 n 1 n P X k EX k 1 n k 1 n k 1

2
,
即得所证结果.
例1 如何估计一大批产品的次品率？
解 设A为事件“任取一件为次品”，记
n
则称 {X n }依分布收敛于X，记为X n X .
L
注：对于分布收敛， {X n }并不需要定义在共同的 概率空间。实际上，收 敛的并不是 {X n },而是 {X n }分布函数 {Fn }.
3、r-阶收敛
定义 设对随机变量 X n 及X，有 E X n ,
2
E X , 如果 lim E X n X
n
2
2
0,
则称{X n }均方收敛于X .
更一般地，设 E X n , E X , 其中
r r
r 0为常数，如果 lim E X n X 0,
n
r
r 则称{X n }r 阶收敛于X , 记作X n X .
1-阶收敛又称为平均收敛，2-阶收敛即为均方收敛。
相应的分布函数F(x）可导且导函数连续，则有
构成 傅里叶 变换对
3
常见的几个分布的特征函数 参数为
1）．二项分布
X的分布律
2）．泊松分布：
参数为
分布律
3）．指数分布：
参数为
密度函数
4）．正态分布：
参数为
密度函数
特征函数
~ 4）．
2
2 (n)
卡方分布的特征函数：
某些独立随机变量的分布函数的可加性 可用特征函数证明： 如：二项分布，泊松分布，正态分布，卡方分布 均具有可加性。

依概率收敛

依分布收敛
二、大数定律与中心极限定理
研究两类问题：
为相互独立的随机变量序列 （ 1）
（大数定律）
（2）n充分大时，
服从什么分布？ （中心极限定理）
1、大数定律
定义 设{X n }是随机变量序列， {ak }是常数序列，
若对任意实数 0, 有
1 n lim P X k an 1, n n k 1
0. 复随机变量的定义
设 是定义在概率空间 上的实
随机变量，则 如果 变量
称为复随机变量。
相互独立，就称复随机
相互独立.
1、特征函数的定义 设 的分布函数为 称
为X的特征函数。
e cos tx i sin tx
itx
对每个随机变量X （或者说每个分布函数F(x)）, 都有一个特征函数f(t)与之一一对应。
ቤተ መጻሕፍቲ ባይዱ
其中
为标准正态分布的分布函数。
定理3
(李亚皮诺定理)
n
设{k }是独立随机变量序列， 具有有限数学期望和方 差，
2 2 k2 , 若存在 即Ek ak , Dk k , k 1,2,, 记Bn k 1
0, 使得当n 时
1 2 Bn
E
k 1
随机变量，且具有相同的数学期望
即
定理三（伯努利大数定律） 设事件 在每次试验中出现的概率为 p, 且
在n次重复独立试验中出现的频率为
即
理论上给出了在大量重复实验下,事件A的 频率依概率收敛于它的概率p.
定理四 (马尔可夫大数定律)
n 1 若 lim 2 D( X k ) 0 设{X k }是随机变量序列， n n k 1
特征函数
引进特征函数的目的在于有些问题用分布函 数不好解决，比如计算随机变量的矩以及对立随 机变量和的分布.使用特征函数就会特别方便， 在极限理论的研究中也发挥了很大作用。 如以前我们讲过随机变量X＋Y的分布函数求 法过程比较复杂，实际上经常碰到求 X1+X2+X3+…+Xn 的密度函数，重复使用卷极公式， 非常繁杂。
lim P X n X 1
n
则称{X n }依概率收敛于 X，记作X n X .
P
2、依分布收敛
定义：设Fn ( x)，n 1,2,, F ( x)分别是随机变量
X n (n 1,2,)及X的分布函数，若对 连续点x
lim Fn ( x ) F ( x ),
fY ( t ) ( pe q )
it i 1
ni
=( pe q )
n
ni
在由唯一性定理得到 Y ~ B( ni , p)
i 1
极限定理
•一 •二 随机变量的收敛性 大数定律与中心极限定理
一
随机变量的收敛性
1、依概率收敛
定义 设{X n }是随机变量序列， X为随机
变量，若对任意实数 0，有
1 n P 即 X k an 0, 则称{X n }服从大数定律。 n k 1
定理一 （切比雪夫大数定律）
设
为一列相互独立的随机变 和方差
量，且具有相同的数学 期望
即
在定理一中,去掉方差存在的条件而加上相同 分布的条件，则有： 定理二（辛钦大数定律） 设 为一列相互独立同分布的
2. 特征函数的性质
设 是X的特征函数，则
2)特征函数
在R上一致连续 是非负定的，即对任意实数 及复数
3)特征函数
证明
4） 设
是常数，
则
5)随机变量
相互独立，则
此性质可推广至多个
随机变量
相互独立，则
6）设随机变量
则它的特征函数可微分n次，且
特征函数提供了一条求各阶矩的捷径。
7）唯一性定理：分布函数由其特征函数唯一确定。