第二章平稳过程
2.3.1基本概念
一、严（强）平稳过程
定义 1 设随机过程{ X (t) , t T }，若对任意 n，任意 h， t1，t2 ,L ,tn T ，当 t1 h ， t2 h ，…， tn h T 时，有 F (t1, t2 , , tn；x1, x2 , , xn )
P{X (t1） x1, X (t2 ) x2 , , X (tn ) xn )} P{X (t1 h） x1, X (t2 h) x2 , , X (tn h) xn )}
F (t1,t2；x1, x2 ) F (t1 ,t2 ；x1, x2 )
若令 t2 ，得
F (t1, t2；x1, x2 ) F (t1 t2 , 0；x1, x2 )
其中 t1 t2
F (；x1, x2 )
同理, 二维联合概率密度函数也仅与时间差 t1 t2 有关，
而与时间起点无关，即
中 T 0，1， 2， ，且均值和方差为
E[ X (t)] 0 D[ X (t)] 2
试讨论随机变量序列 X (t) 的平稳性。
解 因为E[X (t)] 0
2，当 0
R(t
,t
)
E[ X
(t
)X
(t)]
0，当
0
故 X (t) 是一个平稳时间序列。
注 在科学和工程中，例1中的过程称为“白噪声”，它是
例如，飞机在某一水平高度h上飞行，由于受到气流 的影响，实际飞行高度H(t)总是在理论设计高度h水平上 下随机波动，此时飞机的实际飞行高度H(t)是一个随机 过程，显然此过程可看作不随机推移变化的过程，这个
随机过程，我们把它看作是平衡的随机过程。
郑州轻工业学院数学系
此外当我们知道一个随机过程是平稳过程时， 它应不随时间的推移而变幻无常。例如当我们要测 定一个电阻的热噪声的统计特性，由于它是平稳过 程，因而在任何时间测试都能得到相同的结果。
性质2 | B( ) | B(0)
证 由许瓦兹不等式得
注2 宽平稳过程也不一定是严平稳过程。
因为宽平稳过程只保证一阶矩和二阶矩不随时间推移而改 变，这当然不能保证其有穷维分布不随时间而推移。
注3 利用均值函数与协方差函数也可讨论随机过 程的平稳性。
郑州轻工业学院数学系
因为, 均值函数
协方差函数
m(t) m
K (t ,t ) cov[X (t ), X (t)] E{[X (t ) m(t )][X (t) m(t)]}
E{[ X (t )X (t)] mE[X (t)] mE[X (t )] m2
R(t ,t ) m2 B( ) m2 K ( )
即表示协方差函数仅依赖于 ，而与t无关，与
相关函数相同。
郑州轻工业学院数学系
例 1 设{ X (t) , t T }是相互独立同分布的随机变量序列，其
f (t1, t2；x1, x2 ) f (；x1, x2 )
郑州轻工业学院数学系
2. 若严平稳过程存在二阶矩，则
（1）均值函数为常数：m(t) E[X (t)] m
（2）相关函数仅是时间差 t1 t2 的函数：
记
B( ) R(t1,t2 )
证 只对连续型的情况
m(t) E[X (t)]
R(t
,t
)
1
0
sin
2
(t
)xsin 2tx dx
1 ，当
2
0，当
0 0
故 X (t) 是平稳随机序列。
注 例2中的过程是宽平稳的，但不是严平稳的.
郑州轻工业学院数学系
第二节 平稳过程相关函数的性质
一、自相关函数的性质
性质1 B(0) 0 证 B(0) R(t,t ) E[ X (t)2 ] 0
F(t1 h,t2 h, ,tn h；x1, x2, , xn )
则 X (t) 称为严（强）平稳过程。
郑州轻工业学院数学系
二、严平稳过程的特点
1. 严平稳过程 X (t) 的一维概率分布 F(t；x) 与 t 无关，
二维联合分布F (t1, t2；x1, x2 )仅与时间差 t1 t2有关，而与时
xf (t；x)dx
xf (x)dx m
R(t1,t2 ) E[ X (t1) X (t2 )]
x1x2
f
(t1,
t2；x1,
x2
)dx1dx2
x1x2
f
(；x1
,
x2
)dx1dx2
记
B(
)
Байду номын сангаас
郑州轻工业学院数学系
三、宽（弱）平稳过程
定义 2 设随机过程{ X (t) ，t T }，如果它满足： （1） X (t) 是二阶矩过程； （2）均值函数为常数，即 m(t) E[X (t)] m ； （3）相关函数 R(t1,t2 ) 仅依赖 t1 t2 ，即
2.3 平稳过程
2.3.1 基本概念 2.3.2 平稳过程相关函数的性质 2.3.3 平稳正态过程与正交增量过程 2.3.4 遍历性定理
郑州轻工业学院数学系
在随机过程的大家族中，有一类随机过程，它的 统计特性或者说统计变化规律与所取的时间点无关。 或者说，整个随机过程的统计特性不随时间的推移而 变化。
实际中最常用的噪声模型。
郑州轻工业学院数学系
例 2 设随机序列{ X (t) sin2t ，t T }，其中T={1，2，…}
是在[0, 1]上服从均匀分布的随机变量，试讨论随机序列 X (t)
的平稳性。
解
的密度函数为
f
(x)
1,
0
,
0 x 1
其它
所以
E[
X
(t )]
1
0 sin
2
tx
dx
0
R(t1,t2 ) E[ X (t1) X (t2 )] B( )
则称 X (t) 为宽（若）平稳过程，简称平稳过程.
当 T 为整数集或{ nt ，n=0,1,2,…}时，则称 X (t) 为平稳 时间序列。
郑州轻工业学院数学系
注1 严平稳过程不一定是宽平稳过程。
因为严平稳过程不一定是二阶矩过程。若严平稳过程 存在二阶矩，则它一定是宽平稳过程。
间起点无关。
证 一维 对任意的 必有 F(t; x) F(t ; x) ，若令 t ，
得
F(t；x) F(0；x) F(x)
即一维分布函数 F(t；x) 与 t 无关。
同理有一维概率密度函数也与t无关，即
郑州轻工业学院数学系
f (t；x) f (0；x)
证（二维情形）对于二维联合分布函数，有
随机过程及其平稳性
82 84 86 88 90 92 94 96 98 00 02 DY
19
序列d2y的图形
1500 1000
500 0
-500 -1000
82 84 86 88 90 92 94 96 98 00 02 D2Y
20
序列d3y的图形
1500 1000
500 0
-500 -1000 -1500 -2000 -2500
. *| . |
3
. |*** |
. *| . |
4
. |*** |
.|. |
5
. |**. |
. *| . |
6
. |* . |
. *| . |
7
.|. |
. *| . |
8
. *| . |
.|. |
9
.**| . |
.|. |
10
PAC
Q-Stat
Prob
0.864 0.734 0.597 0.457 0.345 0.220 0.077 -0.052 -0.159 -0.243
可选择时间序列（Dated-regular frequency);在日期框（Date specification)中，日期频率（Frequency)选择年度（Annual),并在下面输 入起止年份，输入工作文件名，同时给工作文件页命名。最后，点击ok.
16
在Workfile中，Object/New object/,并给序列命名（比如
1992 2509.000
1993 3530.000
1994 4669.000
1995 5868.000
1996 6763.000
19
第二章 平稳随机过程的谱分析
u 2T
2T
2015-2-10
u 2T
u 2T
17
《随机信号分析》教学组
则
2T 1 1 2T S X ( ) lim { 0 d 2T RX ( )e j du T 2T 2
0 2T 1 2T d 2T RX ( )e j du} 2
对 S X ( ) 在X(t)的整个频率范围内积分， 便可得到X(t)的功率。 对于平稳随机过程，有：
1 E[ X ( t )] 2
2
2015-2-10
S X ( )d
14
《随机信号分析》教学组
三、功率谱密度与自相关函数之间的关系
确定信号： x(t ) X ( j) 随机信号：平稳随机过程的自相关函数
率。 2 解： E[ X (t )] E[a 2 cos2 (0t )]
a2 E{ [1 cos(20t 2)]} 2 2 2 a a 22 cos(20t 2 )d 0 2 2
a2 a2 sin(20 t 2 ) 02 2 2 a2 a2 sin 20t 2
S X ( ) 2 RX ( ) cosd
0
RX ( )
2015-2-10
1
0
S X ( ) cos d
19
《随机信号分析》教学组
3．单边功率谱
由于实平稳过程x(t)的自相关函数 RX ( ) 是实偶函数，功率谱密度也一定是实偶函 数。有时我们经常利用只有正频率部分的 单边功率谱。
2T 1 1 2T lim{ d RX ( )e j du} 2T 2 T 2T 2T 1 2T j lim ( 2 T ) R ( ) e d X T 2T 2T 2T lim (1 ) RX ( )e j d T 2T 2T 2T j RX ( )e j d RX ( )e d lim
第二章 平稳过程
τ = t1 − t 2
郑州轻工业学院数学系
注 平稳正态过程一定是严平稳过程。 证 由于正态过程 X (t ) 的n维特征函数为
n 1 n n ϕ (t1 , t 2 ,⋯, t n；θ1 ,θ 2 ,⋯,θ n ) = exp im ∑ θ k − ∑ ∑ K ( t k , t l )θ k θ l 2 k =1 l =1 k =1 由过程的平稳性得
R( s, t ) = D[min( s, t )]
郑州轻工业学院数学系
证 则有
取 t1 = a ， t 2 = t 3 = s ， t 4 = t ，其中
s<t
E { X ( s )[ X ( t ) − X ( s )]} = 0
F (t；x) = F (0；x) = F ( x)
即一维分布函数 F (t；x ) 与 t 无关。
同理有一维概率密度函数也与t无关，即
f (t；x) = f (0；x)
郑州轻工业学院数学系
证（二维情形）对于二维联合分布函数，有
F (t1 , t2；x1 , x2 ) = F (t1 + τ , t2 + τ；x1 , x2 )
研究随机过程的遍历性其中y为随机变量且dydy因为y为随机变量且存在有限的二阶矩所以extey由此知是平稳过程lim不是常数故郑州轻工业学院数学系标本无需切片处理而代之在标本表面涂上一层铂金当电子撞击标本表面各点时便产生次及电子呈现立体状态可观察标本的形状及表面的特征
2.3
平稳过程
2.3.1 基本概念 2.3.2 平稳过程相关函数的性质 2.3.3 平稳正态过程与正交增量过程 2.3.4 遍历性定理
第二章 随机过程的基本概念_2.3 2.4
4 2 0 -2 -4 10 5 0 -5 -10
0
50
100
0
50
100
0 1
2015/5/12
0 100
14
两个不同相关时间随机过程的样本函数
2.3.4 循环平稳的概念
广义循环平稳：
如果随机过程X(t)的均值和自相关函数满足下列关系
2T
0
(1
2T
2 )[ RX ( ) mX ]d 0
平稳随机过程X(t)具有相关函数遍历性的充要条件
1 lim T T
2T
0
(1
2T
2 )[ R ( ) RX ( )]d 0
(t ) X (t ) X (t )
2015/5/12 22
第二章随机过程的基本概念
mX mX
其中
RX ( ) RX ( )
RX ( )
1 lim T 2T
T T
x(t
) x(t )dt
则X(t)为遍历(各态历经)过程。
2015/5/12 19
2.3.5 随机过程的各态历经性
X (t ) X (t )
t
t
(a)
(b)
各态历经过程与非各态历经过程示意图 各态历经过程的一个样本函数经历了随机过程 所有可能的状态
如果
f XY ( x1 ,..., xN , t1 ,..., t N , y1 ,..., yM , t '1 ,..., t 'M ) f X ( x1 ,..., xN , t1 ,..., t N ) fY ( y1 ,..., yM , t '1 ,..., t 'M )
第2章 平稳时间序列分析
zt
(c1
c2t
cd t d1)1t
cd
t
1 d
1
cptp
复根场合
zt
rt (c1eit
c2eit
) c3t3
c
t
pp
非齐次线性差分方程的解
非齐次线性差分方程的特解
使得非齐次线性差分方程成立的任意一个解zt
zt a1 zt1 a2 zt2 a p zt p h(t)
推导出
0
1 1 p
Green函数定义
设零均值平稳序列 {xt , t 0, 1, 2,...} 能够表示为
xt Gjt j t : WN (0, 2 ) j0
则称上式为平稳序列 {xt } 的传递形式，式中的加权系数 G j
称为Green函数，其中 G0 1 。
Green函数的含义
几个例题
0.8 0.6 0.4 0.2 0.0
2 4 6 8 10 12 14 16 18 20
2.2 2.0 1.8 1.6 1.4 1.2 1.0
2 4 6 8 10 12 14 16 18 20
几个例题
(5) yt 1.6yt1 0.9yt2 (6) yt 1.6yt1 1.1yt2
有关。
2.时间序列的协方差函数与自相关函数
协方差函数：
(t, s) E( Xt t ) X s s
(x t ) y s dFt,s (x, y) 其中，Ft,s (x, y) 为 ( X t , X s )的二维联合分布。
自相关函数：
(t, s) (t, s) / (t,t) (s, s)
特征根判别
AR(p)模型平稳的充要条件是它的p个特征根都在单 位圆内
随机信号2-2 平稳随机过程和各态历经性
17
2-2 平稳随机过程和各态历经性 第二章
随机过程和随机序列
严格各态历经：所有参数各态历经
广义各态历随机过程和各态历经性 第二章
随机过程和随机序列
19
2-2 平稳随机过程和各态历经性 第二章
随机过程和随机序列
20
随机过程和随机序列
12
2-2 平稳随机过程和各态历经性 第二章
随机过程和随机序列
13
2-2 平稳随机过程和各态历经性 第二章
随机过程和随机序列
14
2-2 平稳随机过程和各态历经性 第二章
随机过程和随机序列
15
2-2 平稳随机过程和各态历经性 第二章
随机过程和随机序列
各态历经性或遍历性：在一定的条件下，平 稳随机信号的任何一个样本函数的时间平均， 从概率意义上来说等于它的统计平均。
随机过程和随机序列
7
2-2 平稳随机过程和各态历经性 第二章
随机过程和随机序列
8
2-2 平稳随机过程和各态历经性 第二章
随机过程和随机序列
9
2-2 平稳随机过程和各态历经性 第二章
随机过程和随机序列
10
2-2 平稳随机过程和各态历经性 第二章
随机过程和随机序列
11
2-2 平稳随机过程和各态历经性 第二章
1
2-2 平稳随机过程和各态历经性 第二章
随机过程和随机序列
平稳：与时间起点无关
2
2-2 平稳随机过程和各态历经性 第二章
随机过程和随机序列
严平稳也称狭义平稳
严格平稳要 求所有阶次 原点矩、中 心矩必须时 间平移不变
3
2-2 平稳随机过程和各态历经性 第二章
随机过程和随机序列
第二章平稳时间序列模型——ACF和PACF和样本ACFPACF
第⼆章平稳时间序列模型——ACF和PACF和样本ACFPACF⾃相关函数/⾃相关曲线ACFAR(1)模型的ACF：模型为：当其满⾜平稳的必要条件|a1|<1时（所以说，⾃相关系数是在平稳条件下求得的）：y(t)和y(t-s)的⽅差是有限常数，y(t)和y(t-s)的协⽅差伽马s除以伽马0，可求得ACF如下：由于{rhoi}其在平稳条件|a1|<1下求得，所以平稳0<a1<1则⾃相关系数是直接收敛到0-1<a1<0则⾃相关系数是震荡收敛到0对于AR(2)模型的ACF：（略去截距项）两边同时乘以y(t)，y(t-1)，y(t-2)......得到yule-Walker⽅程，然后结合平稳序列的⼀些性质（yule-Walker⽅程法确确实实⽤了协⽅差只与时间间隔有关的性质），得到⾃相关系数如下：rho0恒为1（⼆阶差分⽅程）令⼈惊喜的是，这个⼆阶差分⽅程的特征⽅程和AR(2)模型的是⼀致的。
所以，我们的rho本就是在序列平稳的条件下求得，所以{rhoi}序列也平稳。
当然，其收敛形式取决于a1和a2MA(1)模型的ACF:模型为：由于y(t)的表达式是由⽩噪声序列中的项组成，所以不需要什么平稳条件，就可以求得rho的形式如下：对于MA(p)模型，rho(p+1)开始，之后都为0.所以说，到了p阶之后突然阶段，变为0了。
ARMA(1,1)模型的ACF：模型为：还是使⽤yule-Walker⽅程法（⽤到了序列平稳则协⽅差只与时间间隔有关的性质）得到：所以有：ARMA(p,q)模型的ACF：ARMA(p,q)的⾃相关系数满⾜：（式1）前p个rho值（rho1，rho2...rhop）可以看做yule-Walker⽅程的初始条件，其他滞后值取决于特征⽅程。
（其实是这样的，rho1，rho2...rhop实际上能写出⼀个表达式，⽽rho(p+1)开始，就满⾜⼀个差分⽅程，⽽这个⽅程对应的特征根（即式1）⽅程和AR(p)对应的⼀模⼀样），所以，他会从之后q期开始衰减。
第二章平稳随机过程的谱分析平稳随机过程
第二章平稳随机过程的谱分析平稳随机过程第二章平稳随机过程的谱分析本章要解决的问题：●随机信号是否也可以应用频域分析方法?●傅里叶变换能否应用于随机信号？● 相关函数与功率谱的关系● 功率谱的应用● 采样定理● 白噪声的定义2.1 随机过程的谱分析2.1.1 预备知识1、付氏变换:对于一个确定性时间脉冲x(t)，设x(t)是时间t 的非周期实函数，且x(t) 满足狄利赫利条件（有限个极值，有限个断点，断点为有限值）且绝对可积，能量有限，则x(t)傅里叶变换存在。
即：满足上述三个条件的x(t)的傅里叶变换为：其反变换为：2、帕赛瓦等式由上面式子可以重新得到：——称为非周期性三十天拉热函数的帕塞瓦(Parseval)等式。
物理意义：若x(t)表示的是电压(或电流) ，则上式左边代表x(t)在时间(-∞, ∞) 区间的总能量（单位阻抗）。
因此，等式右边的被积函数X X (ω)2表示了信号x(t)能量按频率分布的情况，故称X X (ω)2为能量谱密度。
2.1.2、随机过程的功率谱密度变换一个信号的惟教变换是否存在，可能需要满足三个条件，那么随机信号是否满足这三个条件从而存在付氏呢？随机信号持续时间无限长，因此，对于非0的样本函数，它的能量一般也是无限的，因此，其付氏变换不牵涉到。
但是注意到它的平均功率是有限的，在特定的条件下，仍然洪可以利用博里叶变换这一工具。
为了将傅里叶变换方法常量应用于随机过程，必须对过程的待测函数做某些限制，最简单的一种方法是应用截取函数。
截取函数x T (t):图2.1 x (t)及其截取函数当x(t)为有限值时，裁取函数x T (t)满足绝对可积条件。
因此，x T (t)的傅里叶变换存在，有很明显，式的变化）x T (t)也应满足帕塞瓦等式，即：（注意积分区间和表达用2T 除上式等号用的两端，可以得到等号于两边取集合平均，可以得到:令T→∞，再取极限，便可得到随机过程的平均功率。
第二章平稳时间序列模型——AR（p）,MA（q）,ARMA（p,q）模型及其平稳性
第⼆章平稳时间序列模型——AR（p）,MA（q）,ARMA（p,q）模型及其平稳性1⽩噪声过程:零均值，同⽅差，⽆⾃相关（协⽅差为0）以后我们遇到的efshow如果不特殊说明，就是⽩噪声过程。
对于正态分布⽽⾔，不相关即可推出独⽴，所以如果该⽩噪声如果服从正态分布，则其还将互相独⽴。
2各种和模型p阶移动平均过程：q阶⾃回归过程：⾃回归移动平均模型：如果ARMA(p,q)模型的表达式的特征根⾄少有⼀个⼤于等于1，则{y(t)}为积分过程，此时该模型称为⾃回归秋季移动平均模型（ARIMA）时间序列啊，不就是求个通项公式，然后求出⼀个⾮递推形式的表达式吗？（这个公式和⾃变量t有关，然后以后只要知道t就能得到对应的y的预测值）3弱平稳/协⽅差平稳：均值和⽅差为常数（即同⽅差），协⽅差仅与时间间隔有关4⾃相关系数：5AR(1)模型（带⽩噪声的⼀阶差分⽅程）的平稳性：（1）如果初始条件为y0：则其解为（我们通过其解来判断其是否平稳）此时{y(t)}是不平稳的。
· 但是如果|a1|<1，其t⾜够⼤，则{y(t)}是平稳的。
均值：⽅差：等于协⽅差：等于所以有结论：（2）初始条件未知：则其通解为：{y(t)}平稳的条件为：1 |a1|<12 且齐次解A(a1)^t为0：序列从很久前开始（即t很⼤，且结合1，则为0），或该过程始终平稳（A=0）所以说，解的稳定性和序列的平稳性是不⼀样的。
这两条对所有的ARMA(p,q)模型都适⽤。
（对于任意的ARMA(p,q)模型，齐次解为0是平稳性必要条件）（ARMA(p,q)模型的齐次解为或）6对于ARMA(2,1)模型的平稳性：模型表达式为：（2.16）（截距项不影响平稳性，略去）设其挑战解为：（⽤待定系数法）则系数应当满⾜⽅程：（2.17）序列{阿尔法i}收敛的条件是⽅程（2.16）对于的齐次⽅程的特征根都在单位圆之内（因为2.17中的差分⽅程对于的特征⽅程和⽅程2.16对于的特征⽅程是⼀模⼀样的）我们之所以只考虑特解，是因为我们让齐次解为0.此时该挑战解/特解：均值为：⽅差为：（t很⼤时⽤级数求和）协⽅差为：等于所以其平稳性条件为（t很⼤）：1模型对应的齐次⽅程的特征⽅程的特征根在单位圆内2齐次解为0。
随机过程第2章 平稳过程与二阶矩过程
2.1 相关函数
{
{
{
对于宽平稳过程 X (t )而言，其平均值定义为 η = E { X ( t )} = η x 其中 E ( X )表示对随机变量X取均值。 互相关函数为 R(τ ) = E{X(t +τ )X * (t)}= Rx (τ ) = Rxx(τ ) * 表示取共轭运算。 (τ ) 显然， R(−τ ) = R *。 若X(t) 是实的宽平稳过程，则R(τ)为偶函数。
R xy (t1 , t 2 ) = E ( X (t1 )Y (t 2 )) = R (t1 , t 2 + a ) − R (t1 , t 2 )
R yy (t1 , t 2 ) = E (Y (t1 )Y (t 2 )) = R xy (t1 + a, t 2 ) − R xy (t1 , t 2 ) = R (t1 + a, t 2 + a ) − R(t1 + a, t 2 ) − R(t1 , t 2 + a ) + R(t1 , t 2 )
平稳过程与二阶矩过程
第二章 平稳过程与二阶矩过程
授课教师：樊平毅 清华大学电子工程系 2012
内容简介
{ { { { { { { { { { {
2.1 相关函数 2.2 功率谱 2.3 功率谱与时域平均 2.4 线性系统 2.5 随机连续性 2.6 随机微分(均方意义) 2.7 Taylor级数 2.8 随机微分方程 2.9 随机积分 2.10 遍历性讨论 2.11 抽样定理与随机预测
推广 应用
思考: 0 在平稳分布中的作用
0 点的重要性,
1) 2) 3) 4)
连续性, 周期性, 有界性, 极值特性,