自回归移动平均模型

第二章 自回归移动平均模型一些金融时间序列的变动往往呈现出一定的平稳特征，由Box 和Jenkins 创立的ARMA 模型就是借助时间序列的随机性来描述平稳序列的相关性信息，并由此对时间序列的变化进行建模和预测。

第一节 ARMA 模型的基本原理ARMA 模型由三种基本的模型构成：自回归模型（AR ，Auto-regressive Model ），移动平均模型（MA ，Moving Average Model ）以及自回归移动平均模型（ARMA ，Auto-regressive Moving Average Model ）。

2.1.1 自回归模型的基本原理 1．AR 模型的基本形式AR 模型的一般形式如下：t p t p t t t y y y y εφφφ+++++=---Λ2211c其中，c 为常数项， p φφφΛ21, 模型的系数，t ε为白噪声序列。

我们称上述方程为p 阶自回归模型，记为AR(p )。

2．AR 模型的平稳性此处的平稳性是指宽平稳，即时间序列的均值，方差和自协方差均与时刻无关。

即若时间序列}{t y 是平稳的，即μ=)(t y E ，2)(σ=t y Var ，2),(s s t t y y Cov σ=-。

为了描述的方便，对式（2.1）的滞后项引入滞后算子。

若1-=t t x y ，定义算子“L ”，使得1-==t t t x Lx y ，L 称为滞后算子。

由此可知，k t t kx x L -=。

对于式子（2.1），可利用滞后算子改写为：t t p p t t t y L y L Ly y εφφφ+++++=Λ221c移项整理，可得：t t p p y L L L εφφφ+=----c )1(221ΛAR(p )的平稳性条件为方程01221=----pp L L L φφφΛ的解均位于单位圆外。

3．AR 模型的统计性质（1）AR 模型的均值。

假设AR(p )模型是平稳的，对AR(p )模型两边取期望可得：)c (E )(Ε2211t p t p t t t y y y y εφφφ+++++=---Λ根据平稳序列的定义知，μ=)(E t y ，由于随即干扰项为白噪声序列，所以0)(E =t ε，因此上式可化简为：021)1(φμφφφ=----p Λ所以，pφφφφμ----=Λ2101（2）AR 模型的方差。

直接计算AR(p )模型的方差较困难，这里引入Green 函数。

AR(p )模型可以改写成如下形式：)(L y tt Φ=ε设p λλΛ1为平稳AR(p )模型的反特征根，则2121()1(1)pp p i i L L L L L φφφλ=Φ=----=-∏L 。

进一步，∑∑∑∑∑∑∞=∞=-=-=∞=====-=001i 10i 1i k )(k 1k j j j t j p i j t ji p i j t j i pi t i t G L L y εελελελ其中，i k 为常数，j i pi j G λi 1k ∑==，称为Green 函数，因为p λλΛ1均在单位圆内，所以Green 函数是呈负指数下降的。

对上式两边取方差，可得：∑∞=-=02)var()var(j j t j t G y ε由于随机干扰项为白噪声序列，所以2)var(σε=-j t 。

因为Green 函数是呈负指数下降，所以∞<∑∞=02j j G ，这说明平稳时间序列方差有界，且等于常数220j j G σ∞=∑。

（3）自协方差函数。

假设将原序列已经中心化，则0)(E =t y ，则对AR(p )模型等号两边同时乘以)1(≥∀-k y k t ，两边取期望得：)(E )(E ...)(E )(E )(E 2211k t t k t p t p k t t k t t k t t y y y y y y y y y --------++++=εφφφ因为当期的随机干扰项与过去的时间序列值无关，所以：0)(E =-k t t y ε。

因此，上式可以化为：1122......k k k p k p r r r r φφφ---=+++其中k r ，表示k 阶自协方差。

2.1.2 移动平均模型的基本原理1．MA 模型的基本形式 MA 模型的一般形式如下：q t q t t t t y ---+++++=εθεθεθεΛ2211u其中，u 为常数项，p θθθΛ21,为模型的系数，t ε为白噪声序列。

我们称上述方程为q 阶移动平均模型，记为MA(q )。

2、MA 模型的可逆性 对于一个MA(q )模型：q t q t t t t y ---+++++=εθεθεθεΛ2211u将其写成滞后算子的形式：tq q t L L L y εθθθ)1(u 221++++=-Λ若方程01221=++++qq L L L θθθΛ的根全部落在单位圆外，则称MA 模型是可逆的。

可逆性可以保证MA 模型可以改写成：()()t t L y u ψε-=即MA 模型可以转化为AR 模型，同时可以保证参数估计的唯一性。

3、MA 模型的数字特征（1）均值当∞<q 时，对于一般的MA （q ）模型：qt q t t t t u y ---+++++=εθεθεθεL 2211两边取期望，可得：u u E y E q t q t t t t =+++++=---)()(2211εθεθεθεL即一般的MA （q ）模型的期望值即为模型中的常数项。

（2）方差对MA （q ）模型，两边取方差：2222112212()(...)(1...)t t t t q t q q Var y Var u εθεθεθεθθθσ---=+++++=++++（3）协方差函数11221122()[(...)(...)]k t t k t t t q t q t k t k t k q t k q r E y y E u u εθεθεθεεθεθεθε-----------==++++++++++化简可得：222212211(1),0(),00,p k k k q k q k k qk q σθθθγσθθθθθ+-⎧++++=⎪⎪=+++<≤⎨⎪>⎪⎩L L2.1.3 自回归移动平均模型的基本原理1、ARMA 模型的基本形式 ARMA 模型的一般形式如下：q t p t t t p t p t t t y y y c y ------+++++++++=εθεθεθεφφφΛΛ22112211显然ARMA(p,q)模型可看成是AR(p)模型和MA(q)模型相结合的混合形式。

2、ARMA 模型的平稳性和可逆性 对于一个ARMA （p ，q ）模型，qt p t t t p t p t t t y y y c y ------+++++++++=εθεθεθεφφφΛΛ22112211将其写为滞后算子的形式：tq q t p p L L L c y L L L εθθθφφφ)1()1(221221+++++=----L L两边同时除以)1(221pp L L L φφφ----Ltt L y εψμ)(+=其中：121pcμφφφ=----L212121()1qq pL L L L θθθψφφφ++++=----L L由此可以看出，ARMA 模型的平稳性完全取决于AR （p ）模型的参数，与MA （q ）模型的参数无关。

类似地，ARMA 模型的可逆性完全取决于MA （q ）模型的参数，与AR （p ）模型的参数无关。

3、ARMA 模型的数字特征 （1）期望对于一个一般的ARMA(p,q)模型两边同时取期望，化简得： 12()1.......t pcE y φφφ=----（2）自协方差函数()[()()]k t t k i t i j t k j i j r E y y E G G εε∞∞+-+-====∑∑][0∑∑∞=-+-∞==j j k t it ji iG G E εε∑∞=+=02i ki iGG σ第二节 时间序列的相关性分析与平稳性2.2.1 时间序列的自相关系数 2.2.1.1 自相关函数（ACF ）1、AR （p ）的自相关函数在上一节中已经介绍了AR （p ）模型的协方差函数满足下式：1122.......k k k p k pr r r r φφφ---=+++由于自相关系数0r r kk =ρ，因此： 1122......k k k p k pρφρφρφρ---=+++该式表示自相关系数满足p 阶差分方程。

根据差分方程解的性质，上差分方程的通解可以写为：∑==pi k i i c k 1)(λρ其中，i c 为任意不全为0的常数，是滞后多项式的反特征根。

根据平稳性的性质，。

从自相关系数的一般形式可看出，始终不为0，但是随着滞后阶数的增加，自相关系数慢慢逼近0，在图形上表现出一定的拖尾性。

2、MA 模型的自相关函数根据上一节推导的MA 模型的自协方差函数的表达式，MA 模型的自相关函数表示为：112220121,0,010,k k q k qk k pk k q k q θθθθθγργθθθ+-⎧=⎪+++⎪==<≤⎨++++⎪⎪>⎩L L因此，当k>q 时，自相关函数为0，也就是说MA （q ）模型的自相关函数在q 步以后是截尾的。

3、ARMA 模型的自相关函数根据ARMA 模型的自协方差函数，不难得到ARMA 模型的自相关函数：∑∑∞=∞=+==020i ii ki ik k GGG γγρ由此可以看出，ARMA 模型的自相关函数不具有截尾性。

事实上，ARMA 模型若满足可逆性，其形式相当于一个无穷阶的AR 模型，因此自相关函数与AR 模型一样具有拖尾性。

2.2.1.2 偏自相关函数（PACF ）1、偏自相关函数的定义自相关函数不能纯粹地表示与之间的相关性，两者的相关性还会受到、……的间接影响，为了单纯地表示与之间的相关性，这里引入偏自相关函数。

偏自相关函数表示在固定、……的情况下与之间的相关性。

下面介绍偏自相关函数的计算方法。

设序列y t 可由下回归方程估计：112211t k t k t kk t k kk t k t y y y y y ϕϕϕϕε----+-=+++++L根据回归方程的性质，式中估计系数即为偏自相关函数。

为了估计回归系数，采用OLS 方法，即2112211(...)t k t k t kk t k kk t k L E y y y y y ϕϕϕϕ----+-=-----达到最小。

对L 关于各回归系数求偏导，可得到以下方程组：110211k k kk k ρϕρϕρϕρ-=+++L 211202k k kk k ρϕρϕρϕρ-=+++L.......11220k k k k k kk ρϕρϕρϕρ--=+++L该方程组称为Yule- Wolker 方程。