时间序列及其模型

x

可见 Sx(w) 为随机序列 x n 的功率密度函 数。
4.6 时间序列模型
思路：用各种随机差分方程表示时间序列 信号的模型，一般一个平稳离散随机信号 可视为白噪音序列，通过某一离散时间线 性系统所产生的，即
w （n）
白 噪 声 序列 h(n) x（n）
系统
平稳随机序列
一、 自回归模型（AR模型） 2 设 w(n)为具有零均值，方差为 n 的平稳白 噪声序列。若随机序列 x(n) 可表示为：
N F ( x1 , x 2 ,, x N ) p( x1 , x 2 , x N ) x1x 2 x N
• 如果 p( x1 , x2 , x N ) p( x1 ) p( x2 ) p( x N ) ,则称N 个随机变量 x1 , x2 , x N 之间是统计独立的。
k 1 p p
a k Rx(m k ) Rxw(m)
k 1
x(n) h(k ) w(n k )
k 0

Rxw(m) E w(n m) x(n)
E w(n m) h(k )w(n k ) k 0
h(k ) n (m k )
（4-117）
式（4-115）和式（4-117）称为AR模 型的正则方程。也称为尤里-沃克（yulewalker）方程。系数矩阵称为Toeplitz矩阵。 如果选定了AR模型，则可根据观测数据 计算自相关函数，由方程（4-117）就可 ak ; k 1,2,, p 求解模型参数 。
二、滑动平均模型（MA模型） w(n) 为零均值，方差为 n 2 的白噪声 设 序列，若随机序列可表示为：
第四章 时间序列及其模型
4.1 时间序列 对平稳随机过程x(t)在 t t1 , t 2 ,, t n 各时 刻进行等间隔采样的一组随机变量，称为随 机序列，常称为时间序列，因为是等间隔的， x(1), x(2), , 。 ) x( n 常记为：
4.2 时间序列的统计特性
• 一维分布函数和概率密度函数
2 k 0

n h( m)
2
n 2 h(0) m 0 0 m0
（ 滤波器是物理可实现的， n 0时， 当 h( n) 0 ） 由Z变换的定义：
h(0) lim H ( Z ) lim
Z
1 1 ak Z k
k 1 p
Z
1
N 1 X (n) lim NX (n) N 2 N 1 n
时间自相关函数： 1 R(m) lim X ( n ) X ( m) 2N 1
N N n N
如果平稳随机序列的集平均与集自相关函 数依概率1趋于平稳样本序列的时间平均与时 间自相关函数，则称平稳随机序列具有各态历 经性。
• 若对所有的m有： Rxy (m) 0 ，则称 x n 与y n 互为正交
•
若有 Rxy (m) mx m y ，即 Covxy (m) 0 ， 则称 x n 与 y n 互不相交。 注：统计独立必不相关，但反之不一定成 立。 性质：
1
0
Rx(m) Rx(m), Cov(m) Cov(m)
p k X ( Z ) 1 a k Z W ( Z ) k 1
H (Z )
X (Z ) W (Z )
1 1 ak Z k
k 1 p

1
(4-110)
k
(1 Z
k 1
p
Z 1 )
可见AR模型是全极点模型，有p个极点。
• AR模型的功率谱密度函数：
x(n) a k x(n k ) w(n)
k 1 p
（4-73）
则称上式为p阶自回归模型（autoregressive），简称AR模型，用AR（p）表示。 AR（p）模型表示：x (n)是它的p个过去值和白噪 声 w(n)的线性组合。
“自回归”的意思：（该模型的）现在的输 出 (n) x w(n) 以随机误差 线性回归于它的p个 过去值。 • AR（p）模型传递函数 由（4-73）式设
k 1
可见MA(q)模型为全零点模型，有q个零点。
• MA(q)模型的功率谱密度函数：
Sx ( w) n H ( w) n 1 bk e jkw
2 2 2 k 1 q 2
令 Z e
jw
，
2
Sw( w) n
• MA(q)的自相关函数：
q q Rx (m) E x(n) x(n m) E bk w(n k ) bk , w(n m k , ) k , 0 k 0
Rx(i, j ) E ( xi , x j ) E ( xi , xi m ) Rx(m), m j i
2. 自协方差函数：
Cov(i, j ) E ( xi mi )( x j m j ) Rx(i, j ) mi m j


若 x n 平稳： 2 Cov(i, j ) Cov(m) Rx(m) mx 3. 实随机序列 x n 和 y n 的互相关函数 Rxy (i, j ) E ( xi x j ) 若 x n 和 y n 是平稳的：
x(n) bk w(n k ) w(n) bk w(n k )
k 0 k 1 q q
（4-118）
其中 b0 1, bk (k 1,2,, q)为实常数，且， bq 0 ，则称上式为q阶滑动平均（mowingaverage）模型，简记为MA（q）模型。
• MA（q）模型的传递函数： 对式（4-118）取Z变换：

Rx ( p) 1 n 2 Rx( p 1) a1 0 Rx ( p 2) a2 0 Rx(0) a p 0
X ( Z ) W ( Z ) b1W ( Z ) Z 1 b2W ( Z ) Z 2 bqW ( Z ) Z q
H (Z )
q
X (Z ) 1 b1 Z 1 b2 Z 2 bq Z q W (Z )
（4-122）
(1 Z k Z 1 )
4.4
各态历经序列的功率谱
Rx(m)
Rx (m)e jmwT

若 Rx(m) 绝对可积：
m
定义 ：,T为采样间隔。此 m 式为 Rx(m) 的离散傅里叶变换 ( T ) 。 可设：
) p x(tn ) xn
其中 x(t n )表示一随机变量， xn 表 x(t n ) 中的 一个可能取值， p 表示概率 一维概率密度函数
F ( xn ) p( xn ) xn
F ( xn ) p( xn )dxn
xn
• 二维联合概率分布函数和概率密度函数 设时间 t n 和 t m 的状态为和，则
Px 与n无关。
xn 满足平稳性，则 mx ， x 2， • 若随机序列
即，对所有整数n和m，有：
m x Exn Exn m
x
2
E ( x
n
mx )
2
2
E( x
2
nm
mx )
2

Px E xn E xn m


三、时间序列的相关性 1. 实随机序列x n 在时刻i和时刻j之间的自相 关函数 Rx(i, j ) E ( xi , x j ) 若 x n 平稳：
•
对时间序列 x(t N ) ，若 p( xn ) p( xnm ) 且 p( xn , xm ) p( xi , x j ) ， 其中 m n j i ， 则称 x(t N )为广义平稳时间序列。
4.3 时间序列的数字特征
一、数字期望（均值） 实随机序列x n 的数学期望：
n 2 m 0 Rxw (m) 0 m0
p 2 ak Rx (m k ) n m0 k 1 Rx (m) p ak Rx (m k ) m 0 k 1
（4-115）
写成矩阵形式 或
n 2 m 0 Rx ( m ) a k Rx ( m k ) k 1 0 m0
m x Ex(n) Exn
二、均方值与方差 2 P ( x) E x n 表示随机序列n x • 均方值 平均功率。 • 方差： x 2 E ( x n m x ) 2
的总


•
m x ,方差 x 2与 Px 均方值的关系 均值 2 2 对于平稳随机序列有 P( x) x m x
Rxy (i, j ) Rxy (m), m j i
4.
互协方差函数：
Covxy (i, j ) E ( xi mi )( y j y j ) Rxy (i, j ) mi m j


若x n 和y n 是平稳的：
Covxy (i, j ) Covxy (m) Rxy (m) mx m y
Sx ( w)
若令T=1，
Sx ( w) Rx (m)e jmw m Rx (m) 1 Sx ( w)e jmw dw 2
令m=0,有：
1 Rx(0) E x (n) P( x) 2
2


S (w)dw
F ( xn , xm ) px(tn ) xn , x(tm ) xm
称为随机变量 xn 和 x m 的联合概率分布函 数。
其联合概率密度函数为