第三章平稳时间序列分析
第三章 线性平稳时间序列分析
第三章 线性平稳时间序列分析在时间序列的统计分析中，平稳序列是一类重要的随机序列。
在这方面已经有了比较成熟的理论知识，最常用的是ARMA （Autoregressive Moving Average ）序列。
用ARMA 模型去近似地描述动态数据在实际应用中有许多优点，例如它是线性模型，只要给出少量参数就可完全确定模型形式；另外，便于分析数据的结构和内在性质，也便于在最小方差意义下进行最佳预测和控制。
本章将讨论ARMA 模型的基本性质和特征，这是时间序列统计分析中的重要理论基础。
§3.1 线性过程通常假设随机序列是由平稳序列{}t X 与相互独立的冲击或振动{}t ε叠加生成，其中tε是服从某一固定分布的随机变量，实际中由于t ε的独立性及分布情况难以确定，常用白噪声序列来定义。
在正式讨论之前，我们首先给出相应的准备工具，介绍延迟算子和求解线性差分方程，这些工具会使得时间序列模型表达和分析更为简洁和方便，下面是延迟算子的概念。
定义 设B 为一步延迟算子，如果当前序列乘以一个延迟算子，就表示把当前序列值的时间向过去拨一个时刻，即1-=t t X BX 。
进一步地，对于任意的n ，延迟算子B 满足：22t t n t t nB X X B X X --==一般地，延迟算子B 有如下性质： (1) 01B =；(2) 若c 为任意常数，则()()1t t t B c X c B X c X -⋅=⋅=⋅；(3) 对于任意的两个序列{}t X 和{}t Y ，有()()()11t t t t t t B X Y B X B Y X Y --±=±=±； (4)()()()01!1!!nnni i n B B i n i =--=-∑。
接下来我们讨论求解线性差分方程。
定义 定义如下形式方程为序列{:0,1,2,}t z t =±±的线性差分方程：()11t t p t p z z z h t αα--+++=，其中1p ≥，1,,p αα为实数，()h t 为t 的已知函数。
《时间序列分析》讲义 第三章 平稳时间序列分析
k
1 k1 2 k2，k
2
自相关系数
自相关系数的定义
k
k 0
平稳AR(p)模型的自相关系数递推公式
k 1k 1 2 k 2 p k p
常用AR模型自相关系数递推公式
AR(1)模型 k 1k , k 0
AR(2)模型
1,
k
1
1 2
1k1 2 k2
k 0 k 1 k2
自回归系数多项式
(B) 11B 2B2 pBp
特征方程
中心化AR(p)模型
xt 1 xt1 2 xt2 p xt p t
可以看成p阶常系数非齐次线性差分方程
xt 1 xt1 2 xt2 p xt p t
它对应的齐次方程的特征方程为
p 1 p1 p1 p 0
1 12
协方差函数
在平稳AR(p)模型两边同乘xt-k，再求期望
E(xt xtk ) 1E(xt1xtk ) p E(xt p xtk ) E(t xtk )
根据
E( t xtk ) 0 ,k 1
得协方差函数的递推公式
k 1 k1 2 k 2 p k p
例题
例3.3 求平稳AR(1)模型的协方差
12
2 2
,
0,
k 0 k 1
k 2 k 3
偏自相关系数
滞后k偏自相关系数由Yule-Walker方程 确定
zt a1 zt1 a2 zt2 a p zt p h(t)
齐次线性差分方程
zt a1 zt1 a2 zt2 a p zt p 0
齐次线性差分方程的解
特征方程
p a1p1 a2p2 ap 0
特征方程的根称为特征根，记作1,2,…,p
时间序列分析第三章平稳时间序列分析
注：图中，S号代表序列的观察值；连续曲线代表拟合序列曲线；虚线代表拟合序列的95%上下置信限。
所谓预测就是要利用序列以观察到的样本值对序列在未来某个时刻的取值进行估计。
目前对平稳序列最常用的预测方法是线性最小方差预测。
线性是指预测值为观察值序列的线性函数，最小方差是指预测方差达到最小。
在预测图上可以看到，数据围绕一个范围内波动，即说明未来的数值变化时平稳的。
二、课后习题第十七题：根据某城市过去63年中每年降雪量数据（单位：mm）得：（书本P94）程序：data example17_1;input x@@;time=_n_;cards;2579588397 110;proc gplot data=example17_1;plot x*time=1;symbol c=red i=join v=star;run;proc arima data=example17_1;identify var=x nlag=15minic p= (0:5) q=(0:5);run;estimate p=1;run;estimate p=1 noin;run;forecast lead=5id=time out=results;run;proc gplot data=results;plot x*time=1 forecast*time=2 l95*time=3 u95*time=3/overlay;symbol1c=black i=none v=start;symbol2c=red i=join v=none;symbol3c=green i=join v=none l=32;run;（1）判断该序列的平稳性与纯随机性该序列的时序图如下（图a）图a由时序图显示过去63年中每年降雪量数据围绕早70mm附近随机波动，没有明显趋势或周期，基本可以看成平稳序列，为了稳妥起见，做了如下自相关图（图b）图b时序图就是一个平面二维坐标图，通常横轴表示时间，纵轴表示序列取值。
时间序列平稳性分析(课件)
时间序列平稳性分析(课件)时间序列平稳性分析文章结构•时间序列的概念•平稳性检验•纯随机性检验•spss的具体操作1.1时间序列分析的概念•时间序列是一个按时间的次序排列起来的随机数据集合。
而时间序列分析是概率论与数理统计学科的一个重要分支，它以概率统计学为理论基础来分析随机数据序列（或称为动态数据序列）并对其建立相应的数学模型，即对模型定阶，进行参数估计，进一步将用于预测。
在对时间序列进行分析的时候我们的前提任务是如何进行的呢？2.1平稳性检验•••••特征统计量平稳时间序列的定义平稳时间序列的统计性质平稳时间序列的意义平稳性检验概率分布•概率分布的意义随机变量族的统计性质完全由它们的联合分布函数或联合密度函数决定•时间序列概率分布族的定义{ }Ft1,t2,...,tm(x1,x2,...,xm)m(1,2,...,m),t1,2,...,T•实际应用局限性概率分布•概率分布的意义随机变量族的统计性质完全由它们的联合分布函数或联合密度函数决定•时间序列概率分布族的定义{ }Ft1,t2,...,tm(x1,x2,...,xm)m(1,2,...,m),t1,2,...,T•实际应用局限性特征统计量•均值t EXt•方差Var(Xt)E(Xt t)xdFt(x)2(x t)dFt(x)•协方差•自相关系数(t,s)E(Xt t)(XS)S(t,s)(t,s)DXt DXs平稳时间序列的定义•严平稳严平稳是一种条件比较苛刻的平稳性定义，它认为只有当序列所有的统计性质都不会随时间的推移而发生变化时，该序列才能被认为平稳•宽平稳宽平稳是使用序列的特征统计量来定义的一种平稳性。
它认为序列的统计性质主要由它的低阶矩决定，所以只要保证序列低阶矩平稳（二阶），就能保证序列的主要性质近似稳定。
•满足如下条件的序列称为严平稳序列正整数m，t1,t1,...,tm T,正整数t,有Ft1,t2,...,tm（x1,x2,...,xm）Ft1t,t2t,...,•满足如下条件的序列称为宽平稳序列1)EXt,t T2)EXt,为常数，t T2tmt（x1,x2,...,x3)（t,s）（k,k s t）,t,s,k且k s t T•常数性质•自协方差函数和自相关函数只依赖于时间的平移长度而与时间的起止点无关1）延迟k自协方差函数（k）（t,t k）,k为整数2）延迟k自相关系数k（k）（0）自相关系数的性质••••规范性对称性非负定性非唯一性平稳性的检验•时序图检验根据平稳时间序列均值、方差为常数的性质，平稳序列的时序图应、无明显该显示出该序列始终在一个常数值附近随机波动，而且波动的范围有界、无明显趋势及周期特征•自相关图检验平稳序列通常具有短期相关性。
平稳时间序列分析
0
varX t
(1
2 1
2 q
)
2
1
cov( X t , X t1 )
(1
1 2
2 3
q
1
q
)
2
q 1
cov( X t ,
X t q1 )
( q1
1
q
)
2
q
cov( X t , X tq )
q
2
当滞后期不小于q时，Xt旳自协方差系数为0。
所以:有限阶移动平均模型总是平稳旳。
3、ARMA(p,q)模型旳平稳性
• 有时，虽然能估计出一种较为满意旳因果关系回归方程， 但因为对某些解释变量将来值旳预测本身就非常困难，甚 至比预测被解释变量旳将来值更困难，这时因果关系旳回 归模型及其预测技术就不合用了。
在这些情况下，我们采用另一条预测途径：经过时间 序列旳历史数据，得出有关其过去行为旳有关结论，进而 对时间序列将来行为进行推断。
0
2 X
2
12
在稳定条件下，该方差是一非负旳常数，从而有 ||<1。
而AR(1)旳特征方程
(z) 1 z 0
旳根为
z=1/
AR(1)稳定，即 || <1，意味着特征根不小于1。
例 AR(2)模型旳平稳性。 对AR(2)模型
X t 1 X t1 2 X t2 t
方程两边同乘以Xt，再取期望得：
所使用旳工具主要是时间序列旳自有关函数 （autocorrelation function，ACF）及偏自有关函 数（partial autocorrelation function， PACF ）。
1、AR(p)过程
(1)自有关函数ACF 1阶自回归模型AR(1)
计量经济学：平稳时间序列分析-差分方程与延迟算子
f (t)
11 0
f (t1)
11
1
f (1)
11 t 1
t
, , 给出初值y-1， y-2，…，y-p以及 0 1
t 的值，即可得到yt。
定理：矩阵F的特征根满足的特征方程为
p 1 p1 2 p2 p1 p 0
1、具有相异特征根的p阶差分方程的通解
如果矩阵F的特征根是相异的，那么存在一个非奇异矩阵
1
0
0
F 0 1 0
0 0 0
p1 p
0
0
0 0 ,
1 0
t
0
Vt
0
0
则原p阶差分方程变为一阶向量差分方程
t Ft1 Vt
参照一阶向量差分方程的递归解法有
t
F
t
1 1
F tV0
F t1V1
F t2V2
FVt1 Vt
即
yt
yt 1
y1
y2
0
0
t 21
1
2 1 2 3
1 p 2 p
t p1
1
p 1 p 2
p p1
将此结果代入 ci t1iti1 即得
ci
p
p1 i
k1(i k )
k i
如果从t期开始迭代，则有
yt j
f ( j1)
11
yt 1
f y ( j1)
12
t2
f y ( j1)
11 0
f (t1)
11
1
f (1)
11 t 1
t
其中
f ( j)
11
c11j
c22j
cppj
第三章平稳时间序列分析
t Pp t tt tt x B x x B x Bx x===---221第3章 平稳时刻序列分析一个序列通过预处理被识不为平稳非白噪声序列，那就讲明该序列是一个蕴含着相关信息的平稳序列。
3.1方法性工具 3.1.1差分运算 一、p 阶差分记t x ∇为t x 的1阶差分：1--=∇t t t x x x记t x 2∇为t x 的2阶差分：21122---+-=∇-∇=∇t t t t t t x x x x x x以此类推：记t p x ∇为t x 的p 阶差分：111---∇-∇=∇t p t p t p x x x 二、k 步差分记t k x ∇为t x 的k 步差分：k t t t k x x x --=∇3.1.2延迟算子 一、定义延迟算子相当与一个时刻指针，当前序列值乘以一个延迟算子，就相当于把当前序列值的时刻向过往拨了一个时刻。
记B 为延迟算子，有 延迟算子的性质：1.10=B 2.假设c 为任一常数，有1)()(-⋅=⋅=⋅t t t x c x B c x c B3.对任意俩个序列{t x }和{t y }，有11)(--±=±t t t t y x y x B 4.n t t n x x B -= 5.)!(!!,)1()1(0i n i n C B C B i n i i n ni i n-=-=-∑=其中二、用延迟算子表示差分运算 1、p 阶差分 2、k 步差分3.2ARMA 模型的性质 3.2.1AR 模型定义具有如下结构的模型称为p 阶自回回模型，简记为AR(p):ts Ex t s E Var E x x x x t s t s t t p tp t p t t t ∀=≠===≠+++++=---,0,0)(,)(,0)(,0222110εεεσεεφεφφφφε(3.4)AR(p)模型有三个限制条件：条件一：0≠p φ。
那个限制条件保证了模型的最高阶数为p 。
第三章平稳时间序列分析-1
保证t期的随机干扰与过 去s期的序列值无关
特别地、当φ 0=0时，称为中心化AR(p)模型
（较适合低阶AR模型，如1,2阶）
平稳域判别
平稳域—使特征根都在单位圆内的AP(p)的系数 集合，即 {1 ,2 ,, p 特征根都在单位圆内 }
AR(1)模型判断平稳性的条件
xt xt 1 t，即xt xt 1 t
特征根判别
特征方程为 0 特征根为 所以若AR(1)平稳，必有
1 2 1 12 42
2
1 12 42
2
{1 , 2 2 1，且 2 1 1}
例3.1续 平稳性判别 (1) xt 0.8xt 1 t
(2) xt 1.1xt 1 t
模 型
(1) (2) (3) (4)
k xt xt k
2、延迟算子
延迟算子类似于一个时间指针，当前序列值乘 以一个延迟算子，就相当于把当前序列值的时 间向过去拨了一个时刻。 记B为延迟算子，有
xt p B xt , p 1
p
延迟算子的性质：
B0 1
B(c xt ) c B( xt ) c xt 1 ,
非齐次线性差分方程的通解 齐次线性差分方程的通解和非齐次线性差分方 程的特解之和Zt z z z
t t t
线性差分方程在时间序列分析中很有用，某些时间序列模型及 自协方差或自相关函数本身就是线性差分方程，而线性差分方程 的特征根的性质，对平稳性的判定也很重要。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
tPp t tt t t x B x x B x Bx x ===---M221第3章 平稳时间序列分析一个序列经过预处理被识别为平稳非白噪声序列，那就说明该序列是一个蕴含着相关信息的平稳序列。
3.1 方法性工具 3.1.1 差分运算 一、p 阶差分 记t x ∇为t x 的1阶差分：1--=∇t t t x x x记t x 2∇为t x 的2阶差分：21122---+-=∇-∇=∇t t t t t t x x x x x x以此类推：记t p x ∇为t x 的p 阶差分：111---∇-∇=∇t p t p t p x x x 二、k 步差分记t k x ∇为t x 的k 步差分：kt t t k x x x --=∇ 3.1.2 延迟算子 一、定义延迟算子相当与一个时间指针，当前序列值乘以一个延迟算子，就相当于把当前序列值的时间向过去拨了一个时刻。
记B 为延迟算子，有延迟算子的性质：1.10=B 2.若c 为任一常数，有1)()(-⋅=⋅=⋅t t t x c x B c x c B3.对任意俩个序列{t x }和{t y }，有11)(--±=±t t t t y x y x B4.n t t nx x B -=5.)!(!!,)1()1(0i n i n C B C B in i i n ni i n-=-=-∑=其中二、用延迟算子表示差分运算 1、p 阶差分t p t p x B x )1(-=∇ 2、k 步差分tk k t t t k x B x x x )1(-=-=∇-3.2 ARMA 模型的性质 3.2.1 AR 模型定义 具有如下结构的模型称为p 阶自回归模型，简记为AR(p):ts Ex ts E Var E x x x x t s t s t t p tp t p t t t πΛ∀=≠===≠+++++=---,0,0)(,)(,0)(,0222110εεεσεεφεφφφφε(3.4)AR(p)模型有三个限制条件： 条件一：≠p φ。
这个限制条件保证了模型的最高阶数为p 。
条件二：ts E Var E t s t t ≠===,0)(,)(,0)(2εεσεεε。
这个限制条件实际上是要求随机干扰序列}{t ε为零均值白噪声序列。
条件三：ts Ex t s π∀=,0ε。
这个限制条件说明当期的随机干扰与过去的序列值无关。
通常把AR(p)模型简记为： tp t p t t t x x x x εφφφφ+++++=---Λ22110(3.5)当00=φ时，自回归模型式(3.4)又称为中心化AR(p)模型。
非中心化AR(p)序列可以通过下面变化中心化AR(p)系列。
令μφφφφμ-=----=t t px y ,1210Λ则{t y }为{t x}的中心化序列。
AR(p)模型又可以记为：tt x B ε=Φ)(，其中pp B B B B φφφ----=ΦΛ2211)(称为p 阶自回归系数多项式二、AR 模型平稳性判断P45【例3.1】 考察如下四个AR 模型的平稳性：t t t x x ε+=-18.0)1(tt t x x ε+-=-11.1)2(t t t t xxx ε+-=--215.0)3( t t t t xxx ε++=--215.0)4( 拟合这四个序列的序列值，并会绘制时序图，发现(1)(3)模型平稳，(2)(4)模型非平稳1、特征根判别任一个中心化AR(p)模型tt x B ε=Φ)(都可以视为一个非齐次线性差分方程。
tp t p t t t x x x x εφφφφ=-+------Λ22110则其齐次线性方程0)(=Φt x B 的特征方程为：2211=------p p p p xxx φφφΛ设pλλλ,,,21Λ为齐次线性方程)1()(221=----=Φt p p t x B B B x B φφφΛ的p 个特征根。
所以AR(p)模型平稳的充要条件是它的p 个特征根pλλλ,,,21Λ都在单位圆内。
同时等价于：AR 模型的自回归系数多项式的根，即0)(=Φu 的根，都在单位圆外。
证明：设pλλλ,,,21Λ为齐次线性方程)(=Φt x B 的p 个特征根，任取)2,1(,p i i Λ∈λ，带入特征方程：2211=------p p i p i p i φλφλφλΛ把i i u λ1=带入0)(=ΦB 中，有][11111)(2211221=----=----=Φ--p p ip ip i pipipiii u φλφλφλλλφλφλφΛΛ根据这个性质，)(B Φ可以因子分解成：∏=-=Φpi i B B 1)1()(λ，于是可以得到非其次线性方程tt x B ε=Φ)(的一个特解：tpi i ipi ittt Bk B B x ελλεε∑∏==-=-=Φ=111)1()(2、平稳域判别 使得特征方程22110=-+------p t p t t t x x x x φφφφΛ的所有特征根都在单位圆内的系数集合}|,,,{21特征根都在单位圆内p φφφΛ被称为AR(p)模型的平稳域。
(1)AR(1)模型的平稳域AR(1)模型为：tt t x x εφ+=-1，其特征方程为：0=-φλ，特征根为：φλ=。
则AR （1）模型平稳的充要条件是1<φ,则AR(1)模型的平稳域是}11{<<-φ (2)AR(2)模型的平稳域AR(2)模型为：tt t t x x x εφφ++=--2211。
其特征方程为：0212=--φλφλ，特征根为：24,242211222111φφφλφφφλ-+=++=。
则AR （2）模型平稳的充要条件是：1121<<λλ且，从而有：{121221φλλφλλ=+=⋅11,21<<λλ，且因此可以导出：1)1)(1(1)31)1)(1(1)21)12121211221212121212<++-=---=-<---=++-=+<=λλλλλλφφλλλλλλφφλλφ所以 AR(2)模型的平稳域：}1,1|,{21221<±<φφφφφ且【例3.1续】 分别用特征根判别法和平稳域判别法检验如下四个AR 模型的平稳性：tt t x x ε+=-18.0)1(tt t x x ε+-=-11.1)2(tt t t x x x ε+-=--215.0)3(tt t t x x x ε++=--215.0)4(其中),0(~}{2εδεWN t三、平稳AR 模型的统计性质 1、均值假如AR(p)满足了平稳性条件，于是 )(22110t p t p t t t x x x E Ex εφφφφ+++++=---Λ(3.12)由平稳序列均值为常数的性质得：)(T t Ex t ∈∀=μ，因为),0(~}{2εδεWN t，所以 (3.12)等价于μφφφ=----)1(21p Λpφφφφμ----=⇒Λ2101特别对于中心化AR(p)模型有0=t Ex 。
模型 特征根判别平稳域判别结论 1) 8.01=λ 8.0=φ平稳 2) 1.11-=λ 1.1-=φ非平稳 3) 21,2121ii -=+=λλ5.1,5.0,5.012212-=-=+=φφφφφ平稳4)231,23121-=+=λλ非平稳5.0,5.1,5.012212-=-=+=φφφφφ2、方差(1)Green 函数。
设pλλλ,,,21Λ为平稳AR(p)模型的特征根，则平稳AR(p)模型可以写成：∑∑∑∑∑∑∞=-∞==-=∞=====-=Φ=001101ˆ)(1)(j jt j j p i j t j i i p i j t ji i t pi i i tt G k B k B k B x εελελελε(3.13)其中∑===pi ji i j j k G 1),2,1(Λλ，系数），Λ2,1(=j G j 称为Green 函数。
记jpi j B G ∑==1G(B)，则(3.13)简记为：tG (B)ε=t x(3.14)再将(3.14)带入AR(p)模型tt x B ε=Φ)(中，得到tB εε=Φt G (B))(Green 函数的递推公式为：Λ,2,1,110='==∑=-j G G G jk k j kj φ其中{,,0='≤>k pk pk k φφ(2)平稳AR 模型的方差。
对平稳AR 模型tG (B)ε=t x 两边就方差，有∑∑∑∑∞=∞=∞=-∞=====02202)()()()(j j t j jj j t j j t jj t G Var G G Var B G Var x Var εσεεε由于∑∞=∞<02j jG，这说明平稳序列}{t x 方差有界，等于常数∑∞=022j jG εσ【例3.2】求平稳AR(1)模型的方差。
AR(1)模型：∑∑∞=-∞===-=⇒=-010111)()1()1(j jt j t jj t t t t B B x x B εφεφφεεφGreen 函数为：),1,0(,1Λ==j G j j φ，所以平稳AR(1)模型的方差为：2120221021)()(φσσφεεε-===∑∑∞=∞=j j t j jt Var G x Var3、协方差函数在平稳模型tp t p t t t x x x x εφφφφ+++++=---Λ22110等号两边同时乘)1(≥∀-k x k t ，再求期望，得)()()()()(2211k t t k t p t p k t t k t t k t t x E x x E x x E x x E x x E --------++++=εφφφΛ又由1,0)(≥∀=-k x E k t t ε，)(k t t k x x E -=γ，可以得到自协方差函数的递推公式：pk p k k k ---+++=γφγφγφγΛ2211(3.17)【例3.3】求平稳AR(1)模型的自协方差函数。
平稳AR(1)模型的自协方差函数的递推公式是：111γφγφγk k k ==-又由【例 3.2】知，21201φσγε-=，所以平稳AR(1)模型的自协方差函数的递推公式是：1,12121≥∀-=k k k φσφγε【例3.4】求平稳AR(2)模型的自协方差函数。
求平稳AR(2)模型的自协方差函数的递推公式为：1,2211≥∀+=--k k k k γφγφγ，特别地，当k=1时，有12011γφγφγ+=，即01011γφφγ-=利用Green 函数可以推出AR(2)模型的协方差：22121220)1)(1)(1(1εσφφφφφφγ++--+-=所以平稳AR(2)模型的协方差函数的推导公式为：2,1)1)(1)(1(1221101122121220≥∀+=-=++--+-=--k k k kγφγφγγφφγσφφφφφφγε4、自相关系数(1)平稳AR 模型自相关系数的推导公式。