第3章 平稳线性ARMA模型(2)--AR模型
第三章 ARMA模型的特性
λ1 〈1，λ2 〈1
（2）用自回归系数表示： ）用自回归系数表示：
ϕ 2 〈1 ϕ 2 ± ϕ 1 〈1
3.ARMA(2,m)的平稳性 的平稳性
ϕ 2 〈1 〈1 ϕ 2 ± ϕ 1 〈1
4.ARMA(p,q)的平稳性 的平稳性 P阶自回归系数多项式的根都在单位圆外 阶自回归系数多项式的根都在单位圆外 平稳性完全由其自回归部分决定
1.MA(1)
θ1 < 1
2.MA(q)模型的可逆条件是： 模型的可逆条件是： 模型的可逆条件是
MA(q)模型的特征根都在单位圆内 模型的特征根都在单位圆内
λi < 1
必要条件： 必要条件：
θ1 + θ 2 + L + θ q < 1
考察如下MA模型的可逆性 例3.6续:考察如下 续 考察如下 模型的可逆性 (1) xt = ε t − 2ε t −1 (2) xt = ε t − 0.5ε t −1 4 16 (3) xt = ε t − ε t −1 + ε t − 2 5 25 5 25 (4) xt = ε t − ε t −1 + ε t − 2 4 16
∑ϕ
j=0
∞
j 1
at− j =
∑G
j=0
∞
j
at− j
3.AR(1)的滞后算子表达式 的滞后算子表达式源自at Xt = 1 − ϕ1B
4.AR(p)的Green函数递推公式 的 函数递推公式
原理 方法
Φ ( B ) xt = at ⇒ Φ ( B )G ( B )at = at xt = G ( B )at
第章 平稳线性ARMA模型AR模型
3.1 方法性工具
• 差分运算 • 滞后算子 • 线性差分方程 在正式讨论线性过程之前，我们首先给出相
应的准备工具，介绍延迟算子和求解线性 差分方程，这些工具会使得时间序列模型 表达和分析更为简洁和方便
2
• 一阶差分
差分运算
• 阶差分
• 步差分
3
滞后算子
51
常用AR模型自相关系数递推公式
• AR(1)模型 • AR(2)模型
52
AR模型自相关系数的性质
• 拖尾性 • 呈复指数衰减
53
例3.5:考察如下AR模型的自相关图
54
例3.5—
• 自相关系数按复指数单调收敛到零
55
例3.5:—
56
例3.5:—
• 自相关系数呈现出“伪周期”性
57
例3.5:—
28
29
• 例3.2 设AR(2)模型： 试判别 的平稳性。
解：根据上述关于平稳条件的讨论，可以 通过两种径进行讨论：
30
31
• 下面我们讨论序列的统计特性，关于平稳 的二阶自回归模型AR(2)模型：
32
AR模型的定义
• 具有如下结构的模型称为 阶自回归模 型，简记为
• 特别当 时，称为中心化
• 平稳域判别
• 平稳域
40
AR(1)模型平稳条件
• 特征根 • 平稳域
41
AR(2)模型平稳条件 • 平稳域 • 特征根
42
例3.1平稳性判别
模 型
特征根判别
平稳域判别
(1)
(2)
(3)
(4)
结 论
平稳
非 平稳
第3-2章_平稳时间序列分析-ARMA模型
所以，平稳AR(2)模型的协方差函数递推公式为
1 2 2 0 (1 )(1 )(1 ) 2 1 2 1 2 1 0 1 1 2 k 1 k 1 2 k 2，k 2
例3.1:考察如下四个模型的平稳性
(1) xt 0.8xt 1 t
(2) xt 1.1xt 1 t
(3) xt xt 1 0.5xt 2 t
(4) xt xt 1 0.5xt 1 t
例3.1平稳序列时序图
(1) xt 0.8xt 1 t
1 2 p 1
(2)由于
i (i 1,, p) 可正可负，AR(p)模型
1 2 p 1
稳定的充分条件是：
例3.1平稳性判别 模 型
(1)
(2) (3) (4)
1
特征根判别
1 0.8
1 1.1
1 i 2
平稳域判别
结 论
（一）AR模型定义
具有如下结构的模型称为 p 阶自回归模型，简 记为 AR( p)
xt 0 1 xt 1 2 xt 2 p xt p t p 0 2 E ( t ) 0，Var( t ) , E ( t s ) 0, s t Ex 0, s t s t
(3) xt xt 1 0.5xt 2 t
例3.1非平稳序列时序图
(2) xt 1.1xt 1 t
(4) xt xt 1 0.5xt 1 t
从时序图上可以看出，（1）（3）模型平稳， （2）（4）模型非平稳。
（三）AR模型平稳性常用判别方法 特征根判别 AR(p)模型平稳的充要条件是它的p个特征根 都在单位圆内。
时间序列分析方法 第3章 平稳ARMA模型
第三章 平稳ARMA 过程一元ARMA 模型是描述时间序列动态性质的基本模型。
通过介绍ARMA 模型，可以了解一些重要的时间序列的基本概念。
§3.1 预期、平稳性和遍历性 3.1.1 预期和随机过程假设可以观察到一个样本容量为T 的随机变量t Y 的样本：},,,{21T y y y这意味着这些随机变量之间的是相互独立且同分布的。
例3.1 假设T 个随机变量的集合为：},,,{21T εεε ，),0(~2σεN i 且相互独立，我们称其为高斯白噪声过程产生的样本。
对于一个随机变量t Y 而言，它是t 时刻的随机变量，因此即使在t 时刻实验，它也可以具有不同的取值，假设进行多次试验，其方式可能是进行多次整个时间序列的试验，获得I 个时间序列：+∞=-∞=t t t y }{)1(，+∞=-∞=t t t y }{)2(，…，+∞=-∞=t t I t y }{)(将其中仅仅是t 时刻的观测值抽取出来，得到序列：},,,{)()2()1(I t t t y y y ，这个序列便是对随机变量t Y 在t 时刻的I 次观测值，也是一种简单随机子样。
定义3.1 假设随机变量t Y 是定义在相同概率空间},,{P Ω上的随机变量，则称随机变量集合},2,1,0,{ ±±=t Y t 为随机过程。
例3.2 假设随机变量t Y 的概率密度函数为： ]21exp[21)(22t t Y y y f t σσπ=此时称此时密度为该过程的无条件密度，此过程也称为高斯过程或者正态过程。
定义3.2 可以利用各阶矩描述随机过程的数值特征： (1) 随机变量t Y 的数学期望定义为(假设积分收敛)：⎰==+∞∞-tt Y t t t dy y f y Y E t )()(μ 此时它是随机样本的概率极限：∑==∞→I i i t I t y I P Y E 1)(1lim )((2) 随机变量t Y 的方差定义为(假设积分收敛):20)(t t t Y E μγ-=例3.3 (1) 假设},,{21 εε是一个高斯白噪声过程，随机过程t Y 为常数加上高斯白噪声过程：t t Y εμ+=，则它的均值和方差分别为：μεμμ=+==)()(t t t E Y E 2220)()(σεμγ==-=t t t t E Y E(2) 随机过程t Y 为时间的线性趋势加上高斯白噪声过程：t t t Y εβ+=，则它的均值和方差分别为：t E t Y E t t t βεβμ=+==)()( 2220)()(σεμγ==-=t t t t E Y E3.1.2 随机过程的自协方差将j 个时间间隔的随机变量构成一个随机向量),,(1'=--j t t t t Y Y Y X ，通过随机试验可以获得该随机向量的简单随机样本。
平稳AR模型知识点总结
平稳AR模型知识点总结一、AR模型的定义AR模型是一种描述时间序列数据动态特征的模型，它假设当前时刻的观测值可以由之前时刻的观测值线性组合得到。
具体来说，平稳AR(p)模型可以表示为：\[X_t = c + \phi_1 X_{t-1} + \phi_2 X_{t-2} + ... + \phi_p X_{t-p} + \varepsilon_t\]其中，\(X_t\)是当前时刻的观测值，\(c\)是常数项，\(\phi_1, \phi_2, ..., \phi_p\)是模型的参数，\(X_{t-1}, X_{t-2}, ..., X_{t-p}\)是之前时刻的观测值，\(\varepsilon_t\)是一个白噪声误差项。
这里的p代表了模型的阶数，即模型考虑了之前p个时刻的观测值。
二、平稳AR模型的特性平稳AR模型有一些重要的特性，对于理解和分析AR模型非常有帮助。
1. 平稳性：AR模型的平稳性是一个重要的性质，它要求模型的参数要满足一定的条件才能保证模型是平稳的。
平稳性是指时间序列数据的统计特性在不同时间段内是相似的，不随时间变化而发生明显的变化。
对于AR模型来说，要求其参数满足的条件是其特征根要在单位圆内，即\(|\phi_1| < 1, |\phi_2| < 1, ..., |\phi_p| < 1\)。
只有当这个条件满足时，AR 模型才具有平稳性，否则就会出现时间序列数据的不稳定性。
2. 自回归结构：AR模型的自回归结构是模型的核心特性，它描述了当前时刻的观测值与之前时刻的观测值之间的关系。
这种自回归的结构可以帮助我们理解时间序列数据的动态特性，进行预测和分析。
3. 白噪声残差：AR模型的误差项\(\varepsilon_t\)通常假设是服从均值为0、方差为\(\sigma^2\)的白噪声分布。
这意味着模型的残差是独立同分布的，没有自相关性和序列相关性，对于模型的有效性和预测性能至关重要。
第3章 平稳线性ARMA模型(2)--AR模型
的根的绝对值必须小于1，即满足 1 。
对于平稳的AR(1)模型，经过简单的计算易 得
3.2.2 二阶自回归过程AR(2)
• 当变量当前的取值主要与其前两时期的取 值状况有关，用数学模型来描述这种关系 就是如下的二阶自回归模型AR(2)：
• 引入延迟算子 B 的表达形式为：
(B) 11B 2B2 p B p
AR模型平稳性判别
• 判别原因
• AR模型是常用的平稳序列的拟合模型之一， 但并非所有的AR模型都是平稳的
• 判别方法
• 单位根判别法 • 平稳域判别法
例3.1:考察如下四个模型的平稳性
(1)xt 0.8xt1 t (2)xt 1.1xt1 t
(3)xt xt1 0.5xt2 t
• 满足条件(3.16)和(3.17)式给出的区域
1, 2 2 1 1, 2 1
称为平稳域。对于AR(2)模型平稳域是一个三角
形区域，见下图阴影部分。
• 例3.2 设AR(2)模型：Xt 0.7 Xt1 0.1Xt2 t
试判别 X t 的平稳性。
解：根据上述关于平稳条件的讨论，可以
•
平稳AR(1)模型的方差
Var(xt ) G2jVar(t )
j0
12
j
2
j0
2
1 12
协方差函数
• 在平稳AR(p)模型两边同乘 xtk ,k ，1再求期望
E(xt xtk ) 1E(xt1xtk ) p E(xt p xtk ) E(t xtk )
• 根据
E( t xtk ) 0 ,k 1
本节结构
• 方法性工具 • 线性过程的因果性和可逆性 • AR模型
平稳线性ARMA模型 AR模型
24
• 下面利用特征方程的根与模型参数 1 , 2
的关系，给出AR(2) 模型平稳的
的取值条件（或值域）。
1
,
2
(11)(12)0
25
• (3.16)和(3.17)式是保证AR(2)模型平稳，回 归参数 1 , 2 所应具有的条件。反之，若 (特3.征16方)和程(3的.1根7)式必成落立在，单则位特圆征内方。程2120
• 根据特征根和自回归系数多项式的根成倒数的性质， 等价判别条件是该模型的自回归系数多项式的根都在 单位圆外
• 平稳域判别 • 平稳域 {1,2,,p 单位根都在单}位圆
40
AR(1)模型平稳条件
• 特征根
• 平稳域
〈 1
41
AR(2)模型平稳条件 • 平稳域
• 特征根
1 1
2 1
4 2
2
• 特征方程的根称为特征根，记作
1,2,,p
• 齐次线性差分方程的通解
• 不相等实数根场合
• 有相等实根场合
zt c 11 t c 2t2 c ptp
z t ( c 1 c 2 t c d t d 1 ) 1 t c d 1 t d 1 c p t p
• 复根场合 z t r t( c 1 e i t c 2 e i t ) c 3 t 3 c p t p
8
非齐次线性差分方程的解
• 非齐次线性差分方程的特解
• 使得非齐次线性差分方程成立的任意一个解z t
z t a 1 z t 1 a 2 z t 2 a p z t p h ( t )
• 非齐次线性差分方程的通解
• 齐次线性差分方程的通解和非齐次线性差分方程的
特解之和 z t
第3章 线性平稳时间序列分析
延迟算子
定义：设B为一步延迟算子，如果当前序列乘
以一个延迟算子，就表示把当前序列值的时间
向过去拨一个时刻，即 BXt=Xt-1。
性质： B0 1
B(c
X
t
)
c
B(
X
t
)
c
X
t
1,
c为任意常数
B(
X
t
Yt )
X t1
Yt1
(1
B)n
n
(1)i Cni Bi
B
n
X
t
i0
X t n
线性差分方程
EXt
常数方差：
var Xt var t 1t1
q t q
1 12
2 2
q2
2 a
【注】MA(q)模型一定为平稳模型。
MA(q)模型的可逆性
可逆MA模型定义
若一个MA模型能够表示成无穷阶的自回归模型， 则称该MA模型称为可逆的。
例：（1）X t t 2t1 （2）X t t 0.5t1
非齐次线性差分方程的解
非齐次线性差分方程的特解
使得非齐次线性差分方程成立的任意一个解
zt a1zt1 a2 zt2 a p zt p h(t)
非齐次线性差分方程的通解 zt
齐 方
次 程
线性差
的特z解t
分
方程的 之和
通
解zt
和非齐次线性差分
zt zt zt
一阶差分方程
P33
yt yt1 t
（1）Xt 1 2Bt （2）Xt 1 0.5Bt
（1）t 1/ 1 2B Xt
（2）t 1/ 1 0.5B Xt 0.5Bn Xt 0.5n Xtn
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
31
• 下面我们讨论序列的统计特性，关于平稳 的二阶自回归模型AR(2)模型：
32
AR模型的定义
• 具有如下结构的模型称为 p阶自回归模 型，简记为 AR(p)
xt 0 1xt1 2xt2 pxtp t
p 0
E(t
)
0，Va(rt
)
2,E(ts)
0,s
t
Exst 0,st
• 特别当0 0时，称为中心化AR(p) 模型
26
• 满足条件(3.16)和(3.17)式给出的区域
1,2211 ,21
称为平稳域。对于AR(2)模型平稳域是一个三角
形区域，见下图阴影部分。
27
28
29
• 例3.2 设AR(2)模型：X t 0 .7 X t 1 0 .1 X t 2平稳条件的讨论，可以 通过两种径进行讨论：
10
11
• 定理3.1 定义（3.1）中的线性过程是平稳
序列，且
G j t j
是均方收敛的。
j
12
3.1.2 线性过程的因果性和可逆性
• 在应用时间序列分析去解决实际问题时， 所使用的线性过程是因果性的，即：
13
• 设 B 为一步延迟算子，
则 BjXt Xtj，j 0 ，(3.4)可表为：
z t a 1 z t 1 a 2 z t 2 a p z t p h ( t)
• 齐次线性差分方程
z t a 1 z t 1 a 2 z t 2 a p z t p 0
7
齐次线性差分方程的解
• 特征方程
p a 1p 1 a 2p 2 a p 0
• 特征方程的根称为特征根，记作
8
非齐次线性差分方程的解
• 非齐次线性差分方程的特解
• 使得非齐次线性差分方程成立的任意一个解z t
z t a 1 z t 1 a 2 z t 2 a p z t p h ( t)
• 非齐次线性差分方程的通解
• 齐次线性差分方程的通解和非齐次线性差分方程的
特解之和 z t
Average model）
18
3.2.1一阶自回归过程AR(1)
• 通常地，由于经济系统惯性的作用，经济 时间序列往往存在着前后依存关系。最简 单的一种情形就是变量当前的取值主要与 其前一时期的取值状况有关，用数学模型 来描述这种关系就是下面介绍的一阶自回 归模型。
19
20
在一阶自回归AR(1)模型中，保持其平稳性
1,2,,p
• 齐次线性差分方程的通解
• 不相等实数根场合
• 有相等实根场合
zt c11 tc2t2cp
t p
z t ( c 1 c 2 t c d t d 1 )1 t c d 1 t d 1 c pt p
• 复根场合 z t r t( c 1 e i t c 2 e i t) c 3t 3 c ptp
zt ztzt
9
线性平稳时间序列分析
• 在时间序列的统计分析中，平稳序列是一类重要 的随机序列。在这方面已经有了比较成熟的理论 知识，最常用的是ARMA（Autoregressive Moving Average）序列。用ARMA模型去近似地 描述动态数据在实际应用中有许多优点，例如它 是线性模型，只要给出少量参数就可完全确定模 型形式；另外，便于分析数据的结构和内在性质， 也便于在最小方差意义下进行最佳预测和控制。 本章将讨论ARMA模型的基本性质和特征，这是 时间序列统计分析中的重要理论基础。
33
AR(P)序列中心化变换
• 称 { y t } 为{ x t } 的中心化序列 ，令
0
11 p
yt xt
34
自回归系数多项式
• 引进延迟算子，中心化AR(p)模型又可以
简记为
(B)xt t
• 自回归系数多项式
本节结构
• 方法性工具 • 线性过程的因果性和可逆性 • AR模型
1
3.1 方法性工具
• 差分运算 • 滞后算子 • 线性差分方程 在正式讨论线性过程之前，我们首先给出相
应的准备工具，介绍延迟算子和求解线性 差分方程，这些工具会使得时间序列模型 表达和分析更为简洁和方便
2
• 一阶差分 • p阶差分 • k步差分
差分运算
xt xt xt1
pxt p 1xt p 1xt 1
k xt xtk
3
滞后算子
• 延迟算子类似于一个时间指针，当前序列 值乘以一个延迟算子，就相当于把当前序 列值的时间向过去拨了一个时刻
• 记B为延迟算子，有 xtpBpxt,p1
4
延迟算子的性质
B0 1
•
B(cxt)cB(xt)cxt1,c为任意常数
•
B (xtyt)xt 1yt 1
•
Bnxt xtn
• •
n
(1B)n (1)nCniBi
， i0 其中
Cni
n! i!(n i)!
5
用延迟算子表示差分运算
• p阶差分
p
pxt (1B)pxt (1)pCipxti i0
• k步差分 kxtxt k(1B k)xt
6
线性差分方程
• 线性差分方程
其中，G(B)
Gj
Bj
，今后将把
进行运算的算j0子，又可作为 B
G(B)看作对 t
的函数来讨
论。
14
在理论研究和实际问题的处理时，通常还需要用
t时刻及t时刻以前的 Xtj(j0,1,)
来表示白噪声 t ，即
15
16
17
3.2 ARMA模型的性质
• AR模型（Auto Regression Model） • MA模型（Moving Average Model） • ARMA模型（Auto Regression Moving
23
24
• 下面利用特征方程的根与模型参数 1 , 2
的关系，给出AR(2) 模型平稳的
的取值条件（或值域）。
1
,
2
(11)(12)0
25
• (3.16)和(3.17)式是保证AR(2)模型平稳，回 归参数 1 , 2 所应具有的条件。反之，若 (特3.征16方)和程(3的.1根7)式必成落立在，单则位特圆征内方。程2120
的条件是对应的特征方程 0
的根的绝对值必须小于1，即满足 1 。
对于平稳的AR(1)模型，经过简单的计算易 得
21
22
3.2.2 二阶自回归过程AR(2)
• 当变量当前的取值主要与其前两时期的取 值状况有关，用数学模型来描述这种关系 就是如下的二阶自回归模型AR(2)：
• 引入延迟算子 B 的表达形式为：