时间序列中的ARMA模型共40页
时间序列中的ARMA模型
c u=
1 (1 2 ... p)
的无条
6
ARIMA模型的概念
Yt-u=1(Yt-1-u)+ 2(Yt-2-u)+...+p(Yt-p-u)+vt
0=1 1+ 2 2+...+p p+ 2 1=1 0+ 2 1+...+ p p-1
……
p=1 p-1+ 2 p-2+...+ p 0
1-1Z- 2Z2 -...- pZp 0
特征方程的根全部落在单位圆以外时， ARMA(p,q)是一个平稳过程。
9
ARIMA模型的概念
3.ARMA(p, q)过程的特征
1）E(Yt)=
c
1 (1 2 ... p)
2）ARMA(p, q)过程的方差和协方差
10
ARIMA模型的概念
四. AR、MA过程的相互转化
于滞后长度描图）。
14
ARMA模型的识别
2. 自相关函数和偏自相关函数的概念
①自相关函数
过程Yt的第j阶自相关系数即 j j 0 ，
自相关函数记为ACF(j) 。 ②偏自相关函数
偏自相关系数 *j度量了消除中间滞后项影响
后两滞后变量之间的相关关系。偏自相关函数 记为PACF(j)
15
ARMA模型的识别
结论一：平稳的AR(p)过程可以转化为一个MA(∞)过程， 可采用递归迭代法完成转化
结论二：特征方程根都落在单位圆外的 MA(q)过程具 有可逆性
平稳性和可逆性的概念在数学语言上是完全等价的， 所不同的是，前者是对AR过程而言的，而后者是对 MA过程而言的。
02平稳时间序列的ARMA模型
一、平稳ARMA模型
1.1 移动平均过程（Moving Average Process） 考察在白噪声过程的基础上生成的随机过程： yt = + t （1.1） yt = + t + t-1 （1.2） yt = + t + 1t-1 + … + qt-q （1.3）
i 0
其中，μ为yt的均值，dt是yt的线性确定性成分，如 周期性成分、时间t的多项式等。εt是白噪声过程， θ0=1，θi满足绝对可加或平方可加条件。 在随后的分析中我们通常都认为yt不含任何确定性 成分的随机过程，如果原序列含有均值或时间趋势 项，首先要进行退势处理。
16
二、ARMA模型的识别
(1 1 L p Lp ) yt t yt (1 1 L p Lp )1 t ( L) t
一个可逆的MA(q)过程可以转换为一个无限阶的 自回归过程
yt (1 1 L q L ) t
q
(1 1 L q Lq )1 yt ( L) 1 yt t
AR(1)的自相关函数
j j j 1, 2,
AR(p)的自相关函数
尤尔—沃克(Yule-Walker)方程
j 1 j 1 2 j 2 p j p
j g11j g22j g ppj
18
二、ARMA模型的识别
2.2 偏自相关函数 在AR(1)中，yt与yt-2之间也相关，它们之间的相关 性源于它们都和yt-1相关，在排除了yt-1的影响后， yt与yt-2之间的相关系数称为偏自相关系数。 偏自相关系数由下式表示 yt = 11yt-1 + ut yt = 21yt-1 + 22yt-2 + ut … yt = k1yt-1 + k2yt-2 + … + kkyt-k + ut 不同模型的自相关图和偏自相关图的特征
平稳时间序列的ARMA模型
第五讲（续）平稳时间序列的ARMA模型1 平稳性有一类描述时间序列的重要随机模型受到了人们的广泛关注，这就是所谓的平稳模型。
这类模型假设随机过程在一个不变的均值附近保持平衡。
其统计规律不会随着时间的推移发生变化。
平稳的定义分为严平稳和宽平稳。
定义1（严平稳）设{},t x t T ∈是一个随机过程,t x 是在不同的时刻t 的随机变量，在不同的时刻t 是不同的随机变量，任取n 个值1,,n t t K 和任意的实数h ，则1,,n x x K 分布函数满足关系式1111(,,;,)(,,;,)n n n n n n F x x t t F x x t h t h =++L L L L则称{},t x t T ∈为严平稳过程。
在实际中，这几乎是不可能的。
由此考虑到是否可以把条件放宽，仅仅要求其数字特征(数学期望和协方差)相等。
定义2（宽平稳）若随机变量{},t x t T ∈的均值（一阶矩）和协方差（二阶矩）存在，且满足：（1）任取t T ∈，有()t E x c =； （2）任取t T ∈，t T τ+∈，有[(())(())]()E X t a X t a R ττ-+-=协方差是时间间隔的函数。
则称{},t x t T ∈ 为宽平稳过程，其中()R τ为协方差函数。
2 各种随机时间序列的表现形式白噪声过程（white noise ，如图1）。
属于平稳过程。
y t = u t , u t ~ IID(0, σ2)图1 白噪声序列（σ2=1）随机游走过程（random walk，如图11）。
属于非平稳过程。
y t = y t-1 + u t, u t~ IID(0, σ2)图2 随机游走序列（σ2=1）图3 日元兑美元差分序列图4股票综合指数图5随机趋势非平稳序列（μ= 0.1）图6 随机趋势非平稳序列（μ= -0.1）图7 对数的中国国民收入序列图8 中国人口序列3 延迟算子延迟算子类似于一个时间指针，当前序列值乘以一个延迟算子，就相当于把当前序列值的时间向过去拨了一个时刻，记B 为延迟算子，有,1p t p t x B x p -=∀≥。
时间序列ARMA模型及分析
ARMA模型及分析本次试验主要是通过等时间间隔，连续读取70个某次化学反应的过程数据，构成一个时间序列。
试对该时间序列进行ARMA模型拟合以及模型的优化，最后进行预测。
以下本次试验的数据：表1 连续读取70个化学反应数据47 64 23 71 38 64 55 41 59 48 71 35 57 4058 44 80 55 37 74 51 57 50 60 45 57 50 4525 59 50 71 56 74 50 58 45 54 36 54 48 5545 57 50 62 44 64 43 52 38 59 55 41 53 4934 35 54 45 68 38 50 60 39 59 40 57 54 23 资料来源：O’Donovan, Consec. Readings Batch Chemical Proces, ler et al.下面的分析及检验、预测均是基于上述数据进行的，本次试验是在Eviews 6.0上完成的。
一、序列预处理由于只有对平稳的时间序列才能建立ARMA模型，因此在建立模型之前，有必要对序列进行预处理，主要包括了平稳性检验和纯随机检验。
图1 化学反应过程时序图序列时序图显示此化学反应过程无明显趋势或周期，波动稳定。
见图1。
图2 化学反应过程相关图和Q统计量从图2的序列的相关分析结果:1. 可以看出自相关系数始终在0周围波动，判定该序列为平稳时间序列2.看Q统计量的P值：该统计量的原假设为X的1期，2期……k期的自相关系数均等于0，备择假设为自相关系数中至少有一个不等于0，因此如图知，该P值在滞后2、3、4期是都为0,所以拒接原假设,即序列是非纯随机序列,即非白噪声序列(因为序列值之间彼此之间存在关联,所以说过去的行为对将来的发展有一定的影响,因此为非纯随机序列,即非白噪声序列)。
二、模型识别由于检验出时间序列是平稳的，且是非白噪声序列，因此可以建立模型，在建立模型之前需要识别模型阶数即确定阶数。
中级计量经济学-考察时间序列自相关性的ARMA模型
rˆh l E rhl rh , rh1,
E c0 ahl 1ahl1 c0
eh l rhl rˆh l ahl 1ahl1
vareh l
1 12
2 a
总 结 ： 对 于 MA(1) 模 型，超过1步的点预测 为rt的无条件均值，预 测误差的方差为rt的无 条件方差
，当l
1
0，当l 1
1，当l 0
1
1 12
，当l
1
MA2：l
0
1 12
2 2
0，02 当1l2122
2 2
，当l
2
总结：MA(q)的ACF会在滞后q期之后截尾，有限记 忆，利用此性质来确定MA模型的order
22
实际MA模型的应用
模型的选择 模型的估计 模型的检验 模型的预测 模型应用举例
6
AR(2)模型的性质（续）
ACF特征：l 1l1 2l2 l c1 x1l c2 x2l
如果 12 42 0 ，x1, x2 为实数，ACF为两个指数衰减的混合 如果 12 42 0 ，x1, x2 为虚数，ACF为逐渐衰弱的正弦余弦波
，表明商业周期的存在
7
AR(p)模型
23
MA模型的应用——模型选择
ACF与PACF
若ACF表现为一个衰减拖尾的形状（非截尾），基本 可以选择AR模型，再以截尾的PACF来确定order
若ACF在滞后期为q处截尾，即 q 0，但对于 l q则有l 0
则rt服从一个MA(q)模型
Information Criteria
24
表达式：
rt 0 1 rt1 p rt p at
11B pBp rt 0 at
特征方程
平稳时间序列分析-ARMA模型
1 0 1 2
所以，平稳AR(2)模型的协方差函数递推公式为
0
1 2 (1 2 )(1 1 2 )(1 1
2
)
2
1
1 0 1 2
k
1 k1 2 k2，k
2
4、自相关系数
（1）自相关系数的定义：
k
k 0
特别
0 1
（2）平稳AR(P)模型的自相关系数递推公式：
k 1k 1 2 k 2 p k p
例3.5:— (3)xt xt1 0.5xt2 t
自相关系数呈现出“伪周期”性
例3.5:— (4)xt xt1 0.5xt2 t
自相关系数不规则衰减
6、偏自相关函数
自相关函数ACF(k)给出了Xt与Xt-k的总体 相关性，但总体相关性可能掩盖了变量间完全 不同的相关关系。
例如，在AR(1) 中，Xt与Xt-2间有相关性可 能主要是由于它们各自与Xt-1间的相关性带来 的:
对于非中心化序列
xt 0 1xt1 2 xt2
p xt p t
作变换
1 1
0
p
yt xt
则原序列即化为中心化序列
yt 1 yt1 2 yt2 p yt p t
所以，以后我们重点讨论中心化时间序列。
AR模型的算子表示
令 (B) 11B 2B2 p B p
则 AR( p) 模型可表示为
平稳AR(1)模型的传递形式为
xt
t 1 1B
i0
(1B)i t
1i ti
i0
Green函数为 Gj 1 j , j 0,1,
平稳AR(1)模型的方差为
Var(xt )
G2jVar(t )
j0
ARMA时间序列模型及其相关应用教材PPT(共 49张)
对于零均值的平稳时间序列中，给定 Xt1, ,Xtk1 ，则 Xt和Xtk 之间
的偏相关函数定义为：
偏 相 关 函 数 = E [X tX tk] =E [X tX tk]
E [X t2]E [X tk2]
2 X
注意：此时的期望指的是条件期望 。
17
AR模型偏相关函数
设 X t 为零均值的实平稳时间序列，设它满足AR(p)模型：
9
AR与MA模型的比较
自回归模型： X t 1 X t 1 2 X t 2 p X t p a t.
意义在于仅通过时间序列变量的自身历史观测值来反映有关因素对预测 目标的影响和作用，不一定平稳。
滑动平均模型：X t a t 1 a t 1 2 a t 2 q a t q .
型。
其中， a t 是独立同分布的随机变量序列，且满足 E[at ] 0，D[at]a2 也称
白噪声序列。 为了方便表示，引进延迟算子的概念。令：
Xt1 BXt Xt2BXt-1B2Xt Xtp BpXt
则自回归模型可写为： (B)Xt at
其中： (B ) 1 1 B 2 B 2 p B p .
(B) Xt
=
(B)at
模型简记为ARMA(p, q).
显然，当q =0时，ARMA(p, q)模型就是AR (p)模型； 显然，当p =0时，ARMA(p, q)模型就是MA (q)模型；
ARMA(p, q)模型的平稳性只依赖于AR 部分； ARMA(p, q)模型的可逆性只依赖于MA 部分；
1976年，英国统计学家G.E.P.Box和英国统计学家G.M.Jenkins联合出版了 《时间序列分析——预测和控制》一书，在总结前人的研究的基础上， 系统地阐述了ARMA模型的识别、估计、检验及预测的原理和方法，成 为时间序列分析的核心，故ARMA 模型也称为Box-Jenkins模型。
第八章 平稳时间序列建模(ARMA模型)
p 阶自回归模型记作AR(p)，满足下面的方程：
ut c 1 ut 1 2 ut 2 p ut p t
(5.2.4) 其中：参数 c 为常数；1 , 2 ,…, p 是自回归模型系数； p为自回归模型阶数；t 是均值为0，方差为 2 的白噪声
序列。
4
2. 移动平均模型MA(q)
q 阶移动平均模型记作MA(q) ，满足下面的方 程：
ut t 1 t 1 q t q
(5.2.5)
其中：参数 为常数；参数1 , 2 ,…, q 是 q 阶移动
平均模型的系数；t 是均值为0，方差为 2的白噪声 序列。
AR(p)模型均可以表示为白噪声序列的线性组合。
8
2．MA(q) 模型的可逆性
考察MA(q) 模型
ut (1 1 L 2 L2 q Lq ) t
2 E ( t ) 0
2
(5.2.16)
t t
qቤተ መጻሕፍቲ ባይዱ
若
1 1 z 2 z q z 0
在单位圆外（即绝对值大于1，或模大于1），这意味着 自回归过程是发散的。如果MA模型滞后多项式的根的 倒数有在单位圆外的，说明MA过程是不可逆的，应使 用不同的初值重新估计模型，直到得到满足可逆性的动 平均。
20
4. ARMA(p,q)模型的估计选择
EViews估计AR模型采用非线性回归方法，对于MA模 型采取回推技术(Box and Jenkins,1976)。这种方法的优点
L0utut。则式（5.2.7）可以改写为：
(1 1 L 2 L 2 p Lp ) ut c t