第三章 几种重要的随机过程
合集下载
随机过程
• 与随机变量的比较：
两者在定义方法上相似 样本空间不同：
①随机变量的样本空间是一个实数集合 ②随机过程的样本空间是一个时间函数的集合 • 结论：随机过程具有随机变量和时间函数的特点
第3章 随机过程
n部接收机噪声记录
第3章 随机过程
例 X(t)=asin(ωt+ θ),t∈(-∞, ∞)，式中a和ω是正常数， θ是在 （0,2π）上服从均匀分布的随机变量。
0
自相关函数为
R t1, t2 E[ (t1) (t2 )] E[sin0t1 sin0t2 ]
令t1＝t，t2＝t＋τ则
Rt,t E[sin0t sin0t 0 ]
2 0
sin0t
sin0t
第3章 随机过程
第3章 随机过程
随机过程 平稳随机过程 高斯随机过程 平稳随机过程通过线性系统 窄带随机过程 高斯白噪声和带限白噪声
第3章 随机过程
§3.1 随机过程的基本概念
• 随机信号
信号的某个或某几个参数不能预知或不能完全被预知， 这种具有随机性的信号称为随机信号。
• 随机噪声
第3章 随机过程
x1(t), θ i =0
x2(t), θ i =3π /2
第3章 随机过程
第3章 随机过程
一般描述
• 分布函数： F1(x1; t1) P{ (t1) x1} • 概率密度函数：分布函数对x的偏导数
部分描述——数字特征
数学期望
• 定义：
E[ (t)]
x
表示随机过程在时刻t对于均值的偏离程度
数学期望和方差描述了随机过程各个孤立时刻的特征，
两者在定义方法上相似 样本空间不同：
①随机变量的样本空间是一个实数集合 ②随机过程的样本空间是一个时间函数的集合 • 结论：随机过程具有随机变量和时间函数的特点
第3章 随机过程
n部接收机噪声记录
第3章 随机过程
例 X(t)=asin(ωt+ θ),t∈(-∞, ∞)，式中a和ω是正常数， θ是在 （0,2π）上服从均匀分布的随机变量。
0
自相关函数为
R t1, t2 E[ (t1) (t2 )] E[sin0t1 sin0t2 ]
令t1＝t，t2＝t＋τ则
Rt,t E[sin0t sin0t 0 ]
2 0
sin0t
sin0t
第3章 随机过程
第3章 随机过程
随机过程 平稳随机过程 高斯随机过程 平稳随机过程通过线性系统 窄带随机过程 高斯白噪声和带限白噪声
第3章 随机过程
§3.1 随机过程的基本概念
• 随机信号
信号的某个或某几个参数不能预知或不能完全被预知， 这种具有随机性的信号称为随机信号。
• 随机噪声
第3章 随机过程
x1(t), θ i =0
x2(t), θ i =3π /2
第3章 随机过程
第3章 随机过程
一般描述
• 分布函数： F1(x1; t1) P{ (t1) x1} • 概率密度函数：分布函数对x的偏导数
部分描述——数字特征
数学期望
• 定义：
E[ (t)]
x
表示随机过程在时刻t对于均值的偏离程度
数学期望和方差描述了随机过程各个孤立时刻的特征，
随机过程第三章 泊松过程
解：用一个泊松过程来描述。设 8 点为 0 时刻，则 9 点为 1 时刻，参数 ＝10 ，则由定
义 3.2 可知
PN (2) N (1) 5 5 e101 (101)n
n0
n!
PN (3) N (2) 0 e101 (101)0 e10
0!
例 3.2（事故发生次数及保险公司接到的索赔数）若以 N (t) 表示某公路交叉口、矿山、
，利用数学归纳法证明。假设当 (n 1) 时成立，因
此
d dt
(et Pn (t))
et
et
t n1 (n 1)!
t n1 (n 1)!
解得
et Pn (t)
(t)n n!
C
又 Pn (0) PN(0) n 0 代入进一步解得
Pn (t)
et
(t)n n!
因此，结论得证，即定义 3.3 蕴含定义 3.2。 （2）再证定义 3.2 蕴含定义 3.3。欲证此结论，只需验证定义 3.3 中的条件（3）（4）
题。 注：定理 3.2 的命题易于理解。泊松过程的平稳独立增量性质等价于表示在概率意义上
过程在任何时刻都重新开始，即从任何时刻起过程独立于先前已发生的一切（由独立增量）； 且与原过程具有完全一样的分布（由平稳增量）。换言之，泊松过程是无记忆的，因此间隔 序列服从指数分布。
另一感兴趣的量是Tn ，第 n 次事件发生的时间，也称为第 n 次事件的等待时间。 定理 3.3 Tn , n 1, 2,服从参数为 n 和 的 分布，即其概率密度为
工厂等场所在 (0,t]时间内发生事故的次数，则泊松过程就是N(t),t 0 的一种很好近似。
另外，保险公司接到赔偿请求的次数（设一次事故就导致一次索赔）等都可以应用泊松过程 的模型。以保险为例，设保险公司每次的赔付都是 1,每月平均接到 4 次索赔请求，则一年中 它们要付出的金额平均为多少？
义 3.2 可知
PN (2) N (1) 5 5 e101 (101)n
n0
n!
PN (3) N (2) 0 e101 (101)0 e10
0!
例 3.2（事故发生次数及保险公司接到的索赔数）若以 N (t) 表示某公路交叉口、矿山、
，利用数学归纳法证明。假设当 (n 1) 时成立，因
此
d dt
(et Pn (t))
et
et
t n1 (n 1)!
t n1 (n 1)!
解得
et Pn (t)
(t)n n!
C
又 Pn (0) PN(0) n 0 代入进一步解得
Pn (t)
et
(t)n n!
因此，结论得证，即定义 3.3 蕴含定义 3.2。 （2）再证定义 3.2 蕴含定义 3.3。欲证此结论，只需验证定义 3.3 中的条件（3）（4）
题。 注：定理 3.2 的命题易于理解。泊松过程的平稳独立增量性质等价于表示在概率意义上
过程在任何时刻都重新开始，即从任何时刻起过程独立于先前已发生的一切（由独立增量）； 且与原过程具有完全一样的分布（由平稳增量）。换言之，泊松过程是无记忆的，因此间隔 序列服从指数分布。
另一感兴趣的量是Tn ，第 n 次事件发生的时间，也称为第 n 次事件的等待时间。 定理 3.3 Tn , n 1, 2,服从参数为 n 和 的 分布，即其概率密度为
工厂等场所在 (0,t]时间内发生事故的次数，则泊松过程就是N(t),t 0 的一种很好近似。
另外，保险公司接到赔偿请求的次数（设一次事故就导致一次索赔）等都可以应用泊松过程 的模型。以保险为例，设保险公司每次的赔付都是 1,每月平均接到 4 次索赔请求，则一年中 它们要付出的金额平均为多少？
随机过程 第3章 泊松过程
泊松过程
[定义] 称计数过程{ X (t) , t 0 }为具有参数 的泊松过程， 若它满足下列条件： (1) X (0) = 0 ; (2) X (t) 是独立增量过程; (3) （平稳性）在任一长度为 t 的区间中，事件A发生的次 数服从参数 >0的泊松分布，即对任意 s , t 0 ，有
3.2 泊松过程的基本性质
泊松分布:
( t ) n t P{ X (t s ) X ( s ) n} e , n!
n 0, 1,
( t ) n t P{ X (t ) n} e , n 0, 1, 2, n!
Φ X ( ) E[e
假设在[0 , t ]内事件A已经发生一次，确定这一事件到 达时间W1的分布 ——均匀分布
P{W1 s, X (t ) 1} P{W1 s X (t ) 1} P{ X (t ) 1} P{ X ( s ) 1, X (t ) X ( s ) 0} P{ X (t ) 1} P{ X ( s ) 1} P{ X (t ) X ( s ) 0} P{ X (t ) 1}
故仪器在时刻 t0 正常工作的概率为:
k 1 ( t ) P P (T t 0 ) e t dt t0 ( k 1)! n k 1 ( t ) 0 P [ X (t 0 ) k ] e t
0
n0
n!
(3) 到达时间的条件分布
P{ X k }
k e
k!
, k 0, 1, 2, ( 0为常数 )
则随机变量X 服从参数为 的泊松分布，简记为 ()。
E(X ) ,
电子科大 应用随机过程及应用 (陈良均 朱庆棠)第三章作业
(ii) 分解 对于参数为λ 对于参数为λ的Poisson过程， 过程，假设发生的每一个事件 独立的以概率做了记录， 独立的以概率做了记录，未做记录的概率为1-p。令 N1(t)是到t为止做了记录的事件数， 为止做了记录的事件数，而N2(t)是未做记录 的事件数， 的事件数，则{N1(t)；t ≥0}和 {N2(t)；t ≥0}分别是具 有参数pλ 和(1-p)λ的独立Poisson过程。 过程。
相互独立。 相互独立。而且
P ( N (t ) = k ) = ∑ P ( N 1 (t ) = j, N 2 (t ) = k − j ) = ∑ P ( N 1 (t ) = j )P ( N 2 (t ) = k − j )
j=0 j=0 j k− j k k
(λ t ) (λ t ) = ∑ 1 e − λ1 t 2 e −λ2t j! ( k − j )! j=0
[
]
( )
( )
(
)
ρ=
(
)(
)
一维概率密度函数
一维特征函数 二维概率函数 f (s , t , x , y ) = −
[X − m (t )]2 t ∈ T 1 exp − 2 D (t ) 2 λ D (t ) x∈ R t∈T ϕ (t , u ) = exp im (t )u − 1 D (t )u 2 2 x∈ R f (t , x ) =
i i i =1
n
X (t )为正态分布 m X (t ) = E [X (t )] = E [ξ t + W (t )] = E (t )E (ξ ) + E [W (t )] = 0
(t > s ) E [X 2 (t )] = E [ξ 2 t 2 + W (t )W (s ) + W (t )ξ s + W (s )ξ t ] = ts + s σ 2 D (t ) = t 2 + t 2σ 2 D (s ) = s 2 + s 2 σ 2 C (s , t ) = C (t , s ) = R (t , s ) = ts + s σ 2
几类重要的随机过程汇总
E[Y ] aμ, D[Y ] aCa 。
若e=(ejk)是m × n矩阵, Z eX 是m × 1的列矩阵，即m 维向量，则， E[Z] eμ, D[Z] eCe 。
4.1.1 正态分布（高斯分布）
n维正态随机变量的性质：
（3）（线性变换）
定理1：X ( X1, X 2 , , X n )服从n维正态分布N(μ,C)
f (x)
1
n
1 ( x-μ)C-1 (x-μ )
1 e2
(2 ) 2 | C | 2
, X n )
其中， x (x1, x2 , , xn ) μ (1, 2 , , n ) 为均值向量，
C (cij )nn , cij cov( X i , X j )为协方差矩阵， 则称X服从n维正态分布，称X为n维正态随机变量 。
即
n
X
i
Zn
i 1
n
的极限分布为标准正态分布N(0,1)；
近似地服从正态分布 N (n, n 2 )。
i 1
该定理表明，若有大量相互独立的随机变量，且每个随
机变量对它们之和的影响足够小时，则当这些随机变量的个
数趋于无穷大时，这些随机变量的和服从正态分布，而与每
个随机变量的分布无关。
4.1.1 正态分布（高斯分布） n维正态随机变量的性质：
其中， 为均值； 2 为方差。分布函数为
F(x) 1
x
e
(
t )2 2 2
dt
(
x
)
2
当 0, 2 1 时的正态分布称为标准正态分布，记 为 X N(0,1)。分布函数 F(x) (x)
4.1.1 正态分布（高斯分布）
定义2：如果n维随机变量 X ( X1, X 2 , 的概率密度为
第三章通信原理 随机过程
或随机过程的一次实现。 全部样本函数构成的总
体 x1t, x2 ，t,就,是xn 一t个
随机过程，记作 。
t
因此从这个角度得到随机过程的这种定义： 随机过程是所有样本函数的集合。
角度2：现在，我们在某一特定时刻如 时t1刻观察
各台接收机的噪声，可以发现在同一时刻，每个接 收机的输出噪声值是不同的，它在随机变化。
（1）随机过程的协方差函数:B(t1,t2) 描述了随机过程§(t)在任意两个时刻t1和t2，相对
均值的起伏量之间的相关程度。
B(t1, t2 ) E (t1) a(t1) (t2 ) a(t2 )
B(t1, t2 ) x1 a(t1 ) x2 a(t2 ) f2( x1, x2;t1, t2 )dx1dx2
f1x,t
F1x, t
x
F1x, t
x
f1 y, tdy
F1和x, t f即1x是, t 的函数，x 又是时间 的函数。t很显然，
一维分布函数及一维概率密度函数仅仅表示了随机过程 在任一瞬间的统计特性，它对随机过程的描述很不充分， 通常需要在足够多的时间上考察随机过程的多维分布。
测试结果表明，得到的 n张记录图形并不因为有 相同的条件而输出相同 的波形。恰恰相反，即 使n足够大，也找不到两 个完全相同的波形。这 就是说，通信机输出的 噪声电压随时间的变化 是不可预知的，因而它 是一个随机过程。
N部通信机的噪声输出记录
测试结果的每一个记录， 都是一个确定的时间函
数 ，xi 称t 之为样本函数
式中 是一个离散随机变量，且
P
、0
1 2
P 2， 试12求 和E 1。 R 0,1
体 x1t, x2 ，t,就,是xn 一t个
随机过程，记作 。
t
因此从这个角度得到随机过程的这种定义： 随机过程是所有样本函数的集合。
角度2：现在，我们在某一特定时刻如 时t1刻观察
各台接收机的噪声，可以发现在同一时刻，每个接 收机的输出噪声值是不同的，它在随机变化。
（1）随机过程的协方差函数:B(t1,t2) 描述了随机过程§(t)在任意两个时刻t1和t2，相对
均值的起伏量之间的相关程度。
B(t1, t2 ) E (t1) a(t1) (t2 ) a(t2 )
B(t1, t2 ) x1 a(t1 ) x2 a(t2 ) f2( x1, x2;t1, t2 )dx1dx2
f1x,t
F1x, t
x
F1x, t
x
f1 y, tdy
F1和x, t f即1x是, t 的函数，x 又是时间 的函数。t很显然，
一维分布函数及一维概率密度函数仅仅表示了随机过程 在任一瞬间的统计特性，它对随机过程的描述很不充分， 通常需要在足够多的时间上考察随机过程的多维分布。
测试结果表明，得到的 n张记录图形并不因为有 相同的条件而输出相同 的波形。恰恰相反，即 使n足够大，也找不到两 个完全相同的波形。这 就是说，通信机输出的 噪声电压随时间的变化 是不可预知的，因而它 是一个随机过程。
N部通信机的噪声输出记录
测试结果的每一个记录， 都是一个确定的时间函
数 ，xi 称t 之为样本函数
式中 是一个离散随机变量，且
P
、0
1 2
P 2， 试12求 和E 1。 R 0,1
第三章 几种重要随机过程
正态分布（高斯分布） 4.1.1 正态分布（高斯分布） n维正态随机变量的性质： 维正态随机变量的性质
（3）（线性变换） ）（线性变换 ( X 1 , X 2 , L , X n ) ′服从n维正态分布 (µ, C)
的充要条件是它的任何一个线性组合 Y = ∑ ak X k = a′X 服从一维正态分布
1
C ( t1 , t1 ) C (t , t ) 2 1 C= M C ( t n , t1 )
特征函数： 特征函数：
1 ′u − u′Cu) ϕ (u1 , u2 ,L , un ) = exp(iµ 2
正态随机过程（高斯过程） 4.1.2 正态随机过程（高斯过程） 性质： 性质：
X b = ( X k1 , X k 2 , L , X k m ) ′ ( m ≤ n ) 也服从
X N (u, C) Xb N (ub , Cb )
µ b = ( µ k1 , µ k 2 , L , µ k m ) ′
Cb是保留 的第 1,k2,…,km行和列所得到的m×m矩阵 是保留C的第 的第k 行和列所得到的 × 矩阵
4 几种重要的随机过程
正态过程（高斯过程） 正态过程（高斯过程） 独立过程 独立增量过程 维纳过程 泊松过程 马尔可夫过程 生灭过程
4.1 正态过程(高斯过程 正态过程 高斯过程) 高斯过程
正态分布（高斯分布） 4.1.1 正态分布（高斯分布）
定义1 如果随机变量 的概率密度为 定义1：如果随机变量X的概率密度为
k =1
n
N (∑ ak µ k , ∑∑ ak ai Cki )
k =1 k =1 i =1
n
n
n
。
定理2 服从n 定理2：若 X = ( X 1 , X 2 , L , X n ) ′服从n维正态分布 态分布 N (eµ , eCe′。 )
几类重要的随机过程
几类重要的随机过程随机过程指的是一组随机变量的演化过程，其中每个随机变量表示在不同的时间点上观察到的随机现象。
随机过程可以分为多个类别，下面将介绍一些重要的随机过程。
1. 马尔可夫链(Markov Chains)：马尔可夫链是一种最简单的随机过程，其中未来状态只取决于当前状态，与过去的状态无关。
马尔可夫链在许多领域都有广泛的应用，如金融、自然语言处理和遗传算法等。
马尔可夫链具有马尔可夫性质，即转移概率只与当前状态有关。
3. 布朗运动(Brownian Motion)：布朗运动，也称为随机游走或维纳过程，是一种连续时间的连续空间随机过程。
它是以随机步长进行连续时间的随机游走，具有随机漂移和随机扩散的特性。
布朗运动在物理学、金融学和数学建模等领域中得到广泛应用。
4. 马尔科夫过程(Markov Processes)：马尔科夫过程是在一定时间间隔内演化的离散时间随机过程。
它是马尔可夫链的连续时间版本，未来状态只取决于当前状态。
马尔科夫过程包括分段常数过程、均值回归过程和随机游走等。
5. 随机差分方程(Stochastic Difference Equations)：随机差分方程是一种描述离散时间的随机变量的过程。
它是差分方程的随机扩展，用于建模具有随机性质的动态系统，如经济学中的时间序列模型和信号处理中的随机信号模型。
6. 随机微分方程(Stochastic Differential Equations)：随机微分方程是一类描述连续时间的随机变量的过程。
它是微分方程的随机扩展，包括随机常微分方程和随机偏微分方程。
随机微分方程在物理学、金融学和工程学等领域中广泛应用。
7. 随机最优控制(Random Optimal Control)：随机最优控制是一种考虑不确定性的最优控制方法。
它将最优控制理论与随机过程理论相结合，用于处理具有不确定性和随机性的控制系统，如经济学中的投资组合优化和工程学中的机器人路径规划。
第3章 平稳随机过程-1
大
学
通 设X(t)为一随机过程，若满足：
信 学 院
E X (t) mX
RX (t1,t2 ) RX ( ),
t2 t1
E X 2 (t)
则称X(t)是宽平稳随机过程或广义平稳随机过程。
EX 2( t ) R ( 0 ) 表示随机过程平均功率有限。 X
宽（广义）平稳随机过程的定义是从统计平均的意义 上考察随机过程的平稳性。
学 1. 它们不仅都是时间的函数，而且相关函数及协方差函数还
院 取决于不同的时刻点。
2.
由mX(t ),
X
(
t
)
和
2 X
(
t
)
所对应的物理量都是瞬时平均值。
工程上和实际应用中，经常遇到一类广泛存在的所谓“平 稳”随机过程，或在研究相对稳定状态下的物理过程中，其 所涉及的随机量也都属于“平稳”随机过程。
宽平稳可避开概率密度函数的获取。
上 1. 设随机过程 海
大
X (t) acos(0t )
学
通 其中 (a, 0) 为常数， 是区间 (0,2 ) 上均匀分布的随机变量。 信
学 证明 X (t) 是宽平稳的。
院
解： E[X (t)]
2 0
a
cos(0t
)
1 2
d 0
RX
(t1,
t2 )
E[a cos(0t1
平稳过程，其中 T为过程的周期。即，R ( T ) R ( )
X
X
3
2016/10/10
上
记为
海
（4）RX ( 0 ) E [ X 2( t )]
P：平均功率
大 学 通 信
X( t ) 的平均功率为RX (0)。 X( t ) 往往能量无穷，而平均功率却是有限的。
第3章平稳随机过程总
（ii）严平稳随机过程的二维概率密度只与 t1, t2的时 间间隔有关，而与时间起点无关
(3.1.6) (3.1.7)
CX (t1,t2 ) CX ( ) RX ( ) mX2
CX (0)
RX (0) mX2
2 X
(3.1.8) (3.1.9)
（4）严平稳的判断
• 按照严平稳的定义，判断一个随机过程是否为严平稳， 需要知道其n维概率密度，可是求n维概率密度是比较 困难的。不过，如果有一个反例（例3.2），就可以判 断某随机过程不是严平稳的，具体方法有两个：
遍历性过程
一般随机过程要对大量样本函数在特定时刻 取值，用统计方法得到数字特征。这种方法 成为统计平均或集合平均，也简称为集平均 。 辛钦证明：在具备一定的补充条件下，对平 稳随机过程的一个样本函数取时间均值，就 从概率意义上趋近于此过程的统计均值。
任何一个样本函数的特性都能充分地代表整 个随机过程的特性。
在通信中，常常把稳定状态下的随机过 程，当作平稳随机过程来处理，这样，对 这个随机过程任何时候来测量，都会得到 同样的结果，从而大大简化了数学模型。 对一些非平稳的随机过程，在较短的时间 内，常常把它作为平稳随机过程来处理。
第3章 平稳随机过程
1 平稳随机过程的定义
严格 平稳 随机 过程
如果随机过程的任意n维分布不随时间起点变 化，即当时间平移时，其任意的n维概率密度 不变，则称是严格平稳的随机过程或称为狭 义平稳随机过程。
RZ (t1,t2 ) E[Z (t1)Z (t2 )] E{[ X cos t1 Y sin t1][ X cos t2 Y sin t2 ]} E[ X 2 ]cos t1 cos t2 E[Y 2 ]sin t1 sin t2
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
m( s t ) m( s ) m( t ),
D( s t ) D( s ) D( t )
命题：若 y( s t ) y( s ) y( t ), 则对任意实数 t, 有 y( t ) ty(1).
可证得1)和2). 证3) C ( s, t ) E{[ X ( t ) m( t )][ X ( s ) m( s )]}
与 W ( t s ) W ( 0) W ( t s )
有相同分布N(0,σ2(t－s)).
3. 维纳过程是正态过程.
设维纳过程{ W( t ),t≥0}的参数是σ2， 证
任取n及t1 t 2 t n ,
X k W ( t k ) W ( t k 1 ), ˆ
则其协方差函数 C ( t1 , t 2 ) 0 （ t 1 t 2 ） 。
证
若 t1 t 2 ， X (t1 ) 与 X (t 2 ) 相 互 独 立 ，
可得
C ( t1 , t 2 ) E [ X ( t1 ) X ( t 2 )] m ( t1 ) m ( t 2 )
EX ( t1 ) EX ( t 2 ) m ( t1 ) m ( t 2 ) 0
E[ X ( t ) X ( s )] m( s )m( t )
E{[ X ( t ) X ( s ) X ( s )] X ( s )} m( s )m( t )
E{[ X ( t ) X ( s )]E[ X ( s )]} E[ X ( s )] m st
2
D [ W (s )] s
2
同理 故
当t s 时
C (s, t ) t
2
C (s, t )
2
m in (s, t )
3． 对 任 意 t 1 , t 2 , t n ， 0 t 1 t 2 t n
维 纳 过 程 X (t ) 有
X ( t i ) X ( t i 1 ) N ( 0 , ( t i t i 1 )) ， i 1, 2 , , n
2
E [ X ( t i ) 2 X ( t i ) X ( t i 1 ) X ( t i 1 )]
x1 x2 xn
m ( t1 ) m (t 2 ) m m (t ) n
C ( t1 , t1 ) C ( t 2 , t1 ) C C (t , t ) n 1
C ( t1 , t 2 ) C (t2 , t 2 ) C (tn , t2 )
当 1 时 ， 称为标准维纳过程。
三、维纳过程的分布 1.一维分布： W( t ) ～N(0,σ2t)； 2. 增量分布： W( t) －W( s)～N(0,σ2|t－s|); 设t＞s ，因W(0)=0, 且W( t )是平稳独立增量 过程，故
W (t ) W ( s) W (t s s) W ( s)
二、定义
如果随机过程{ W ( t ) ， t 0 }满足
（1） W (0 ) 0 ； （2） E[ W ( t )] 0 ；
（3）具有平稳独立增量过程；
2 （4） t 0 ， W ( t ) N ( 0 , t ) ， 0 ） （ 。
则称 随机过程 W ( t ) 为维纳过程， 或布朗运动过程。 特别
X t 1 X t 1 p X t p t
理想模型要求残差序列εt是(高斯)白噪声.
二、独立增量过程 定义3.1.2 称 X ( t ), t T , T=[0,∞)为独立增 量过程, 若对 序列 X(t1) －X(0), X(t2)－X(t1), …, X(tn)－X(tn-1) 相互独立.
注
逆命题也成立。
第三节 维纳过程
一、维纳过程的数学模型及应用 维纳过程是英国植物学家罗伯特.布朗 在观察漂浮在液面的花粉运动—布朗运 动规律时建立的随机游动数学模型.
维纳过程应用广泛：电路理论、通信 和控制、生物、经济管理等.
维纳过程的研究成果应用于计量经济学， 使其方法论产生了一次飞跃，成功地应用 于非平稳的经济过程，如激烈变化的金融 商品价格的研究。
证 若n1<n2<…<nm
Y ( n2 ) Y ( n1 ) X ( k ) X ( k )
k 0 k 0 n2 n1
X (n1 1) X (n2 )
Y ( n3 ) Y ( n2 ) X ( n2 1) X ( n3 )
Y ( nm ) Y ( nm 1 ) X ( nm 1 1) X ( nm )
相互独立
不相关
故高斯白噪声序列是独立时间序列. 若过程X ( t ), t R 是正态过程,且
0, s t E X (t ) 0, R( s , t ) δ( s t ) , s t
2
称其为高斯白噪声过程，它是独立过程. 高斯白噪声是典型的随机干扰数学模型, 普遍存在于电流的波动,通信设备各部分的 波动,电子发射的波动等各种波动现象中. 如金融、电子工程中常用的线性模型— 自回归模型（AR(p)）
C为协方差矩阵，C 1 是 K 的逆矩阵，
( x m ) 表示 ( x m ) 的转置矩阵。
注
由正态过程的n维概率密度表达式知，正态过程 的统计特性，由它的均值函数 m (t ) 及自协方差 函数 C ( t1 , t 2 ) 完全确定。
Ex.3
设 { X (t ) , t R }是 一 个 独 立 的 正 态 过 程 ，
D[( X n )] ,
2
自相关函数为
0, R( m, n) 2 , m n; m n.
两两不相 关序列.
称 X ( n), n N 为离散白噪声(序列).
又若X(n)都服从正态分布,称 X ( n), n N 是
高斯白噪声序列.
对于n维正态随机变量有
相互独立,称随机过程 X ( t ), t T 为独立过程.
注 独立随机过程的有限维分布由一维分布确定
Fn ( t1 , , t n ; x1 , , x n ) Fk ( t k ; x k )
n
Ex.1 高斯白噪声
E{ X ( n)} 0,
k 1
实值时间序列X ( n), n N 的
2 2
X(t) － X(s) 与X(s)相互 独立.
m( t s )ms s m s m st
2 2 2 2
(t s)
一般, C(s, t)=σ2min(s,t). 性质3.1.2 独立增量过程的有限维分布由 一维分布和增量分布确定. 分析 对于独立增量过程{X(t ),t≥0},任取的 t1< t2<…< tn∈T, Y1= X(t1), Y2 =X(t2)－X(t1), …, Yn =X(tn)－X(tn-1) 相互独立性, 利用特征函数法可证明结论.
0
s
t
s+h
t+h
注 增量X (t τ ) X (t ) 的分布仅与τ有关,与起始
点 t 无关,称{X(t),t≥0}的增量具有平稳性(齐性). Ex.2 若{X(n),n∈N+}是独立时间序列,令
Y ( n) X ( k ),
k 0 n
X ( 0) 0
则{Y(n), n∈N+}是独立增量过程. 又若X(n), n=1,2,… 相互独立同分布,则 {Y(n), n∈N+ }是平稳独立增量过程.
{X(n),n∈N+} 相互独立 各增量相互独立.
性质3.1.1 {X(t),t≥0}是平稳独立增量过程, X(0)=0, 则 1）均值函数 m(t)= m t (m 为常数); 2）方差函数 D( t )= σ2t (σ为常数); 3）协方差函数 C(s, t)=σ2min(s,t). 分析 因均值函数和方差函数满足
1
0 1 1 1
0 0 1 1
0 0 0 1
0 0 0 1
X1 X2 Xn
正态随机 向量的线 性变换服 从正态分 布。
四、维纳过程的数字特征 1. E[W(t)]=0; D[W(t)]=2t 维纳过程是 平稳独立增 量过程
第三章 几种重要的随机过程
第一节 独立过程和独立增量过程 第二节 正态过程 第三节 维纳过程 第四节 泊松过程
第一节 独立过程和独立增量过程
一、独立过程 定义3.1.1 对任意的正整数 n 及任意的 t1 , t 2 ,, t n T , 随机变量
( X ( t1 ), X ( t 2 ), , X ( t n ))
0
, n 2及t0=0<t1<t2<…<tn, 增量
t1
t2
…
tn－1
tn
注 不失一般性,设X(0)=0 或 P{X(0)=0}=1.
有 X(t1) , X(t2)－X(t1), …, X(tn)－X(tn－1) 相互独立. 定义3.1.3 若独立增量过程{X(t),t≥0} 对 s , t T , 及 h>0, X(t+h) － X(s+h) 与 X(t) － X(s) 有相同的分布函数,称{X(t),t≥0}是平稳独立 增量过程.
2
证
由于增量
X ( t i ) X ( t i 1 ) ， i 1, 2 , , n
是相互独立的正态变量。 所以
E [ X ( t i ) X ( t i 1 )]
E [ X ( t i )] E [ X ( t i 1 )] 0
D( s t ) D( s ) D( t )
命题：若 y( s t ) y( s ) y( t ), 则对任意实数 t, 有 y( t ) ty(1).
可证得1)和2). 证3) C ( s, t ) E{[ X ( t ) m( t )][ X ( s ) m( s )]}
与 W ( t s ) W ( 0) W ( t s )
有相同分布N(0,σ2(t－s)).
3. 维纳过程是正态过程.
设维纳过程{ W( t ),t≥0}的参数是σ2， 证
任取n及t1 t 2 t n ,
X k W ( t k ) W ( t k 1 ), ˆ
则其协方差函数 C ( t1 , t 2 ) 0 （ t 1 t 2 ） 。
证
若 t1 t 2 ， X (t1 ) 与 X (t 2 ) 相 互 独 立 ，
可得
C ( t1 , t 2 ) E [ X ( t1 ) X ( t 2 )] m ( t1 ) m ( t 2 )
EX ( t1 ) EX ( t 2 ) m ( t1 ) m ( t 2 ) 0
E[ X ( t ) X ( s )] m( s )m( t )
E{[ X ( t ) X ( s ) X ( s )] X ( s )} m( s )m( t )
E{[ X ( t ) X ( s )]E[ X ( s )]} E[ X ( s )] m st
2
D [ W (s )] s
2
同理 故
当t s 时
C (s, t ) t
2
C (s, t )
2
m in (s, t )
3． 对 任 意 t 1 , t 2 , t n ， 0 t 1 t 2 t n
维 纳 过 程 X (t ) 有
X ( t i ) X ( t i 1 ) N ( 0 , ( t i t i 1 )) ， i 1, 2 , , n
2
E [ X ( t i ) 2 X ( t i ) X ( t i 1 ) X ( t i 1 )]
x1 x2 xn
m ( t1 ) m (t 2 ) m m (t ) n
C ( t1 , t1 ) C ( t 2 , t1 ) C C (t , t ) n 1
C ( t1 , t 2 ) C (t2 , t 2 ) C (tn , t2 )
当 1 时 ， 称为标准维纳过程。
三、维纳过程的分布 1.一维分布： W( t ) ～N(0,σ2t)； 2. 增量分布： W( t) －W( s)～N(0,σ2|t－s|); 设t＞s ，因W(0)=0, 且W( t )是平稳独立增量 过程，故
W (t ) W ( s) W (t s s) W ( s)
二、定义
如果随机过程{ W ( t ) ， t 0 }满足
（1） W (0 ) 0 ； （2） E[ W ( t )] 0 ；
（3）具有平稳独立增量过程；
2 （4） t 0 ， W ( t ) N ( 0 , t ) ， 0 ） （ 。
则称 随机过程 W ( t ) 为维纳过程， 或布朗运动过程。 特别
X t 1 X t 1 p X t p t
理想模型要求残差序列εt是(高斯)白噪声.
二、独立增量过程 定义3.1.2 称 X ( t ), t T , T=[0,∞)为独立增 量过程, 若对 序列 X(t1) －X(0), X(t2)－X(t1), …, X(tn)－X(tn-1) 相互独立.
注
逆命题也成立。
第三节 维纳过程
一、维纳过程的数学模型及应用 维纳过程是英国植物学家罗伯特.布朗 在观察漂浮在液面的花粉运动—布朗运 动规律时建立的随机游动数学模型.
维纳过程应用广泛：电路理论、通信 和控制、生物、经济管理等.
维纳过程的研究成果应用于计量经济学， 使其方法论产生了一次飞跃，成功地应用 于非平稳的经济过程，如激烈变化的金融 商品价格的研究。
证 若n1<n2<…<nm
Y ( n2 ) Y ( n1 ) X ( k ) X ( k )
k 0 k 0 n2 n1
X (n1 1) X (n2 )
Y ( n3 ) Y ( n2 ) X ( n2 1) X ( n3 )
Y ( nm ) Y ( nm 1 ) X ( nm 1 1) X ( nm )
相互独立
不相关
故高斯白噪声序列是独立时间序列. 若过程X ( t ), t R 是正态过程,且
0, s t E X (t ) 0, R( s , t ) δ( s t ) , s t
2
称其为高斯白噪声过程，它是独立过程. 高斯白噪声是典型的随机干扰数学模型, 普遍存在于电流的波动,通信设备各部分的 波动,电子发射的波动等各种波动现象中. 如金融、电子工程中常用的线性模型— 自回归模型（AR(p)）
C为协方差矩阵，C 1 是 K 的逆矩阵，
( x m ) 表示 ( x m ) 的转置矩阵。
注
由正态过程的n维概率密度表达式知，正态过程 的统计特性，由它的均值函数 m (t ) 及自协方差 函数 C ( t1 , t 2 ) 完全确定。
Ex.3
设 { X (t ) , t R }是 一 个 独 立 的 正 态 过 程 ，
D[( X n )] ,
2
自相关函数为
0, R( m, n) 2 , m n; m n.
两两不相 关序列.
称 X ( n), n N 为离散白噪声(序列).
又若X(n)都服从正态分布,称 X ( n), n N 是
高斯白噪声序列.
对于n维正态随机变量有
相互独立,称随机过程 X ( t ), t T 为独立过程.
注 独立随机过程的有限维分布由一维分布确定
Fn ( t1 , , t n ; x1 , , x n ) Fk ( t k ; x k )
n
Ex.1 高斯白噪声
E{ X ( n)} 0,
k 1
实值时间序列X ( n), n N 的
2 2
X(t) － X(s) 与X(s)相互 独立.
m( t s )ms s m s m st
2 2 2 2
(t s)
一般, C(s, t)=σ2min(s,t). 性质3.1.2 独立增量过程的有限维分布由 一维分布和增量分布确定. 分析 对于独立增量过程{X(t ),t≥0},任取的 t1< t2<…< tn∈T, Y1= X(t1), Y2 =X(t2)－X(t1), …, Yn =X(tn)－X(tn-1) 相互独立性, 利用特征函数法可证明结论.
0
s
t
s+h
t+h
注 增量X (t τ ) X (t ) 的分布仅与τ有关,与起始
点 t 无关,称{X(t),t≥0}的增量具有平稳性(齐性). Ex.2 若{X(n),n∈N+}是独立时间序列,令
Y ( n) X ( k ),
k 0 n
X ( 0) 0
则{Y(n), n∈N+}是独立增量过程. 又若X(n), n=1,2,… 相互独立同分布,则 {Y(n), n∈N+ }是平稳独立增量过程.
{X(n),n∈N+} 相互独立 各增量相互独立.
性质3.1.1 {X(t),t≥0}是平稳独立增量过程, X(0)=0, 则 1）均值函数 m(t)= m t (m 为常数); 2）方差函数 D( t )= σ2t (σ为常数); 3）协方差函数 C(s, t)=σ2min(s,t). 分析 因均值函数和方差函数满足
1
0 1 1 1
0 0 1 1
0 0 0 1
0 0 0 1
X1 X2 Xn
正态随机 向量的线 性变换服 从正态分 布。
四、维纳过程的数字特征 1. E[W(t)]=0; D[W(t)]=2t 维纳过程是 平稳独立增 量过程
第三章 几种重要的随机过程
第一节 独立过程和独立增量过程 第二节 正态过程 第三节 维纳过程 第四节 泊松过程
第一节 独立过程和独立增量过程
一、独立过程 定义3.1.1 对任意的正整数 n 及任意的 t1 , t 2 ,, t n T , 随机变量
( X ( t1 ), X ( t 2 ), , X ( t n ))
0
, n 2及t0=0<t1<t2<…<tn, 增量
t1
t2
…
tn－1
tn
注 不失一般性,设X(0)=0 或 P{X(0)=0}=1.
有 X(t1) , X(t2)－X(t1), …, X(tn)－X(tn－1) 相互独立. 定义3.1.3 若独立增量过程{X(t),t≥0} 对 s , t T , 及 h>0, X(t+h) － X(s+h) 与 X(t) － X(s) 有相同的分布函数,称{X(t),t≥0}是平稳独立 增量过程.
2
证
由于增量
X ( t i ) X ( t i 1 ) ， i 1, 2 , , n
是相互独立的正态变量。 所以
E [ X ( t i ) X ( t i 1 )]
E [ X ( t i )] E [ X ( t i 1 )] 0