时间序列分析讲义(2)

时间序列分析讲义(2)
时间序列分析讲义(2)

(3) 最大似然估计法(MLE )

首先大家打开教材第43页看,我们纠正教材中的错误。它说: “对于一组相互独立的随机变量),,2,1(,T t t

x =,当得到一个样本),,,(21T x x x 时,似然函数可表示为

∏===T t t x f x f x f x f T x x x L 1

)()2

()2()1(),,2,1(γγγγγ 式中),,,(21k γγγγ =是一组未知参数”。

我们知道时间序列一般不是独立的,而是相依的离散时间随机过程。因此,得到的样本),,,(21T x x x 不可能是相互独立的,似然函数绝不是以上概率密度乘积的形式。所以,教材中这一段是错误的。

似然函数在估计理论中有着根本的重要性的一个原因是因为“似然原理”。这个原理说:已知假定的模型是正确的,数据非得告诉我们的关于参数的全部包含在似然函数中,数据的所有其他方面是不切题的。

实际上,一般的ARMA 过程(含AR 、MA 过程)参数的最大似 然估计计算过程很复杂。至少有三种方法写出精确的似然函数:向后

预报法、递推预报法、状态空间与卡尔曼(Kalman )滤波法。我们讲只对递推预报法最简要介绍,从而为引出模型选择的AIC 、BIC 信息准则铺平道路。

我们先以最简单的因果的AR(1)过程的MLE 为例,说明MLE 的主要思想。考虑因果的AR(1)过程,满足模型

t

u t X t X +-+=110φφ, ),0(~2σN IID t u , 且11<φ。则均值为 )(1

10t X E =-=φφμ。我们以),1,(2σφμ为三个未知参数,而)1

1(0φμφ-=不作独立的未知参数。模型中心化为 t

u t X t X +--=-)1(1μφμ。 设已得到了样本值),,,(21T x x x 。则关于参数),1,(2

σφμ的似然函数为 )2,1

,;1()2,1,;12()2,1

,;2,,2,11()2,1,;1,,1(),,2,1;2,1,(σφμσφμσφμσφμσφμx f x x f T x x x T x f T x x T x f T

x x x L ?---= 联合概率密度在样本值),,,(21T x x x 处的值写为条件概率密度和最后一个无条件概率密度的乘积。由AR(1)模型知当1,,1-t X X 给定时,t

X 的条件分布为 )2),1

(1(~1,,1σμφμ--+-t X N t X X t X 。 (正态分布) 再由因果性和传递形式和正态分布性质对均方极限的封闭性,有

)21

12,(~0111φσμφμ-∑∞=-+=N j j u j X (正态分布)。 所以,似然函数等于

[]

??????---??? ??=??

????????----????

? ??∏=??????-----=)1,(221exp 2112222)1(22211exp 221122)1(1221exp 21),,2,1;2,1,(φμσφπσμσφσπφμφμσσπσφμS T x T t t x t x T

x x x L 其中

[][]

???? ??∑=+∑-∞==∑=----+--=T t t u t T x x t u E T t t x t x x S 2212),,1(22)1(12)1)(211()1,( μφμμφφμ (可写为包含向后预报)称为无条件平方和函数,它不含2σ。

[1] 无条件的(或精确的)最大似然估计。最大化无条件对数似然函数),,2,1;2,1,(ln T x x x L σφμ。将2

σ整体,而不是σ看作一个未知参数,解

0)1,(212ln 422=+-=??φμσ

σσS T L 得

)1,(1?2φμσS T

=。 再将上式带回到对数似然函数中得到

??? ??-+??? ??-+-=211ln 21)1,(1ln 2)1)2(ln(2)1,(ln φφμπφμS T

T T L , 它已经不含2σ。然后再相当于最小化“约简的似然函数”(或称“剖面似然函数”)

??? ??--??? ??=211ln 1)1,(1ln )1,(φφμφμT S T

l 来求得最大似然估计1

?,?φμ。最后带入得白噪声方差的最大似然估计 )1?,?(1?2φμσS T

=。 [2] 无条件的(或精确的)最小二乘估计。直接最小化无条件平方

和函数)1,(φμS 来求得估计1

?,?φμ,然后取白噪声方差的最小二乘估计为 )1?,?(2

1)1?,?(2?φμφμσS T S -==个数由度为残差数减去参数回归中残差平方和的自。

[3] 条件的最大似然估计。在给定1

X 的条件下最大化条件的似然函数。在以上精确的似然函数中舍去最后的因子无条件概率密度值

)2,1

,;1(σφμx f ,即得到条件的似然函数 ?

?????---??? ??=?---=)1,(221exp 2)1(22)2,1

,;12()2,1

,;2,,2,11()2,1,;1,,1()1

,,2;2,1,(φμσπσσφμσφμσφμσφμc S T x x f T x x x T x f T x x T x f x T x x L 其中

[]

∑==∑=----=T t t u T t t x t x c S 2222)1(1)1,(μφμφμ 称为条件平方和函数,它不含2σ,它比前面无条件平方和函数)1,(φμS 少一项2)1

)(211(μφ--x 。解 0

)1,(4212212)1,,2;2,1,(ln =+--=??φμσσσσφμc S T x T x x L 得

)1,(112?φμσc

S T -=。 再将上式带回到对数条件似然函数中得到

时间序列分析讲义(3)

第四次作业 第1题 已知某地区每年常驻人口数量近似服从MA (3) 模型(单位:万人) 3212.06.08.0100----+-+=t t t t t Y εεεε,()25,0~N iid t ε。 2002—2004 年的常驻人口数量及1步预测数量下表。 (1)计算此模型的均值函数t Y E 和自相关函数k ρ。(2)预测未来5年该地区常驻人口数量的95%的置信区间。 第2题 一个销售序列的拟合ARIMA (1, 1, 0)模型为 )2,0(IID ~,)1)(43.01(N a a Z B B t t t =--。 已知观测值9.33,4.335049==Z Z 。计算535251,,Z Z Z 的预报值,以及它们的90%置信的预报区间。 第3题 基于样本100,,2,1y y y 估计模型(c2),得到 ) 0698.0()1543.0()214.7(19013.0188.026.13t u t Y t t Y +-++=. 在通常的检验水平上( =α10%,5%,1%)检验该模型是否存在单位根。

◆ 自回归求和移动平均(ARIMA )过程的预测 (实际问题中常用到的补充内容,教材没有。期末必考一题) 回忆在教材的第二章第二节我们学习过ARIMA(p,d,q)过程。 定义 设1≥d 为整数。对时间序列{} Z t t X ∈,,如果它的d 次向后 差分序列t X d L t Y )1(:-=是因果平稳的ARMA(p,q)过程,则称{} t X 是 ARIMA(p,d,q)过程,即满足模型 )2,0(~)(0)1)(()(σφWN t u t u L t X d L L t X L Θ+=-Φ=*Φ。 其中011)(=---=Φp x p x x φφ 的p 个根都在单位圆1||=z 以外,并且 0)(=Φx 与011)(=+++=Θq x q x x θθ 没有公共根。 由于方程0)1)(()(=-Φ=*Φd x x x 有d 重单位根1=x 位于单位圆 1||=z 上,称{} t X 是单位根过程,它必然不能是平稳的(既不是因果平 稳的,也不是非因果平稳的)。而ARIMA(p,d,q)过程存在是否可逆的问题。回忆时间序列可逆性的定义。 定义 称(可以是平稳的或非平稳的)时间序列{} Z t t X ∈,是可逆 的,如果存在数列{} 0,≥j j π满足∞<∑∞ =|0|j j π以及常数λ,使得 ).(0 s m j j t X j t u ∑∞ =-+=πλ 是白噪声)2,0(σWN 。 可逆性是与因果平稳性没有关联的性质。由于以上ARIMA(p,d,q)

时间序列分析讲义(1)

时间序列分析 第二章 时间序列分析 第二节 时间序列模型 一、 线性时间序列模型的分类 1. 自回归(AR )过程 AR(1)过程 t u t X t X +-+=110φφ, ),0(~2σWN t u , Z t ∈。 (i) 当且仅当11 <φ时因果,此时有唯一传递形式 ∑∞=-+-=0 1110 j j t u j t X φφ φ。 (ii) 当11 >φ时平稳而不因果,有唯一形式 ∑∞=+---=1 1110 j j t u j t X φφ φ。 (iii) 当11 =φ时必定不平稳,称为随机游走。特别当还有00≠φ时, 称为带漂移的随机游走。由于有

)0() 1100()(φ φt X E u t u t u t X E t X E +=++-+++=Λ, 2]2)1 1[()(σt u t u t u E t X Var =++-+=Λ。 由于方差不为常数,所以序列不平稳。 (iv) 当11 -=φ时必定不平稳。实际上, )0 () 1 2221220()2(X E u u t u t u t u X E t X E =-+--+--+=Λ, 2 2] 2)1222122[()2(σt u u t u t u t u E t X Var =-+--+--=Λ; )0(0)12221200()12(X E u u t u t u X E t X E -=+-+---+-=-φφΛ, 2)12(] 2)122212[()12(σ-=+-+---=-t u u t u t u E t X Var Λ。 不论t 是奇数还是偶数,都有2)(σt t X Var =。由于方差不为 常数,所以序列不平稳。 补充命题 一元p 次方程 011)(=---=Φp x p x x φφΛ (其中 0≠p φ)的p 个(复)根都在单位圆1||=z 以外的

时间序列分析讲义第资料章资料差分方程

第一章 差分方程 差分方程是连续时间情形下微分方程的特例。差分方程及其求解是时间序列方法的基础,也是分析时间序列动态属性的基本方法。经济时间序列或者金融时间序列方法主要处理具有随机项的差分方程的求解问题,因此,确定性差分方程理论是我们首先需要了解的重要内容。 § 一阶差分方程 假设利用变量t y 表示随着时间变量t 变化的某种事件的属性或者结构,则t y 便是在时间t 可以观测到的数据。假设t y 受到前期取值1-t y 和其他外生变量t w 的影响,并满足下述方程: t t t w y y ++=-110φφ 在上述方程当中,由于t y 仅线性地依赖前一个时间间隔自身的取值1-t y ,因此称具有这种结构的方程为一阶线性差分方程。如果变量t w 是确定性变量,则此方程是确定性差分方程;如果变量t w 是随机变量,则此方程是随机差分方程。在下面的分析中,我们假设t w 是确定性变量。 例 货币需求函数 假设实际货币余额、实际收入、银行储蓄利率和商业票据利率的对数变量分别表示为t m 、t I 、bt r 和ct r ,则可以估计出美国货币需求函数为: 上述方程便是关于t m 的一阶线性差分方程。可以通过此方程的求解和结构分析,判断其他外生变量变化对货币需求的动态影响。 1.1.1 差分方程求解:递归替代法 差分方程求解就是将方程变量表示为外生变量及其初值的函数形式,可以通过以前的数据计算出方程变量的当前值。 由于方程结构对于每一个时间点都是成立的,因此可以将表示为多个方程: 0=t :01100w y y ++=-φφ 1=t :10101w y y ++=φφ t t =:t t t w y y ++=-110φφ 依次进行叠代可以得到: i t i i t t i i t w y y ∑∑=-=++=0111010φφφφ 上述表达式便是差分方程的解,可以通过代入方程进行验证。上述通过叠代将t y 表示为前期变量和初始值的形式,从中可以看出t y 对这些变量取值的依赖性和动态变化过程。 1.1. 2. 差分方程的动态分析:动态乘子(dynamic multiplier) 在差分方程的解当中,可以分析外生变量,例如0w 的变化对t 阶段以后的t y 的影响。假设初始值1-y 和t w w ,,1Λ不受到影响,则有: t t w y 10 φ=?? 类似地,可以在解的表达式中进行计算,得到: j t j t w y 1φ=??+ 上述乘子仅仅依赖参数1φ和时间间隔j ,并不依赖观测值的具体时间阶段,这一点在任何差分方程中都是适用的。

时间序列分析方法 第6章 谱分析

第六章 谱分析 Spectral Analysis 到目前为止,t 时刻变量t Y 的数值一般都表示成为一系列随机扰动的函数形式,一般的模型形式为: ∑∞ =-+=0 j j t j t Y εψμ (6.1) 我们研究的重点在于,这个结构对不同时点t 和τ上的变量t Y 和τY 的协方差具有什么样的启示。这种方法被称为在时间域(time domain)上分析时间序列+∞∞-}{t Y 的性质。 在本章中,我们讨论如何利用型如)cos(t ω和)sin(t ω的周期函数的加权组合来描述时间序列t Y 数值的方法,这里ω表示特定的频率,表示形式为: ωωωδωωωαμπ πd t d t Y t )sin()()cos()(00??++= (6.2) 上述分析的目的在于判断不同频率的周期在解释时间序列+∞∞-}{t Y 性质时所发挥的重要程度如何。如此方法被称为频域分析(frequency domain analysis)或者谱分析(spectral analysis)。我们将要看到,时域分析和频域分析之间不是相互排斥的,任何协方差平稳过程既有时域表示,也有频域表示,由一种表示可以描述的任何数据性质,都可以利用另一种表示来加以体现。对某些性质来说,时域表示可能简单一些;而对另外一些性质,可能频域表示更为简单。 §6.1 母体谱 我们首先介绍母体谱,然后讨论它的性质。 6.1.1 母体谱及性质 假设+∞∞-}{t Y 是一个具有均值μ的协方差平稳过程,第j 个自协方差为: )])([(),cov(μμγ--==--j t t j t t j Y Y E Y Y (6.3) 假设这些自协方差函数是绝对可加的,则自协方差生成函数为: ∑+∞ -∞ ==j j j Y z z g γ)( (6.4) 这里z 表示复变量。将上述函数除以π2,并将复数z 表示成为指数虚数形式)ex p (ωi z -=,1-=i ,则得到的结果(表达式)称为变量Y 的母体谱: ∑+∞ -∞ =--= =j j i j i Y Y e e g s ωωγπ πω21 )(21)( (6.5) 注意到谱是ω的函数:给定任何特定的ω值和自协方差j γ的序列+∞∞-}{j γ,原则上都可以计算)(ωY s 的数值。 利用De Moivre 定理,我们可以将j i e ω-表示成为: )sin()cos(j i j e j i ωωω-=- 因此,谱函数可以等价地表示成为: ∑+∞ -∞=-=j j Y j i j s )]sin()[cos(21)(ωωγπω (6.6) 注意到对于协方差平稳过程而言,有:j j -=γγ,因此上述谱函数化简为: ? ?????----++-=∑+∞ =1 0)]sin()sin()cos()[cos(21)]0sin()0[cos(21)(j j Y j i j i j j i s ωωωωγπγπω

时间序列分析讲义 第01章 差分方程

第一章 差分方程 差分方程是连续时间情形下微分方程的特例。差分方程及其求解是时间序列方法的基础,也是分析时间序列动态属性的基本方法。经济时间序列或者金融时间序列方法主要处理具有随机项的差分方程的求解问题,因此,确定性差分方程理论是我们首先需要了解的重要内容。 §1.1 一阶差分方程 假设利用变量t y 表示随着时间变量t 变化的某种事件的属性或者结构,则t y 便是在时间t 可以观测到的数据。假设t y 受到前期取值1-t y 和其他外生变量t w 的影响,并满足下述方程: t t t w y y ++=-110φφ (1.1) 在上述方程当中,由于t y 仅线性地依赖前一个时间间隔自身的取值1-t y ,因此称具有这种结构的方程为一阶线性差分方程。如果变量t w 是确定性变量,则此方程是确定性差分方程;如果变量t w 是随机变量,则此方程是随机差分方程。在下面的分析中,我们假设t w 是确定性变量。 例1.1 货币需求函数 假设实际货币余额、实际收入、银行储蓄利率和商业票据利率的对数变量分别表示为t m 、t I 、bt r 和ct r ,则可以估计出美国货币需求函数为: ct bt t t t r r I m m 019.0045.019.072.027.01--++=- 上述方程便是关于t m 的一阶线性差分方程。可以通过此方程的求解和结构分析,判断其他外生变量变化对货币需求的动态影响。 1.1.1 差分方程求解:递归替代法 差分方程求解就是将方程变量表示为外生变量及其初值的函数形式,可以通过以前的数据计算出方程变量的当前值。 由于方程结构对于每一个时间点都是成立的,因此可以将(1.1)表示为多个方程: 0=t :01100w y y ++=-φφ 1=t :10101w y y ++=φφ t t =:t t t w y y ++=-110φφ 依次进行叠代可以得到: 1011211010110101)()1()(w w y w w y y ++++=++++=--φφφφφφφφ 0111122113121102)1(w w w y y φφφφφφφ++++++=- i t i i t t i i t w y y ∑∑=-=++=0 111 1 0φφφφ (1.2) 上述表达式(1.2)便是差分方程(1.1)的解,可以通过代入方程进行验证。上述通过叠代将 t y 表示为前期变量和初始值的形式,从中可以看出t y 对这些变量取值的依赖性和动态变化 过程。 1.1. 2. 差分方程的动态分析:动态乘子(dynamic multiplier) 在差分方程的解当中,可以分析外生变量,例如0w 的变化对t 阶段以后的t y 的影响。假设初始值1-y 和t w w ,,1 不受到影响,则有:

时间序列分析讲义第10章协方差平稳向量过程

第十章 协方差平稳向量过程和向量自回归模型 在时间序列理论当中,涉及到向量时间序列的主要有两部分内容,一部分是多元动态系统,另一部分是向量自回归模型的估计和检验。在本章当中,我们主要讨论一些基本概念。 §10.1 向量自回归导论 仍然利用小写字母表示随机变量或者实现,只是现在讨论1?n 向量之间的动态交互作用。假设一个p 阶向量自回归模型可以表示为)(p VAR : t p t p 2t 21t 1t εY ΦY ΦY Φc Y +++++=--- (10.1) 其中p 1ΦΦ ,是n n ?阶系数矩阵,t ε是白噪声向量,满足: ? ? ?≠=Ω=t s t s E ,0,)(t s εε 其中Ω是n n ?阶正定矩阵。 可以利用分量形式将上述方程组的第一个方程表示为: t p t n p n p t p p t p t n n t t t n n t t t y y y y y y y y y c y 1,)(1,2)(12,1)(112,) 2(12,2)2(122,1)2(111 ,) 1(11,2)1(121,1)1(1111εφφφφφφφφφ++++++++++++++=--------- (10.2) 由此可见,在)(p VAR 模型当中,每个变量都表示成为常数项和其他所有变量的p 阶自回归的形式。此时与一元情形的一个显著的不同是,每个方程的残差项之间可能是相关的。 利用滞后算子形式,可以将)(p VAR 模型表示成为: t t p 21εc ΦΦΦ+=----y L L L I p n ][2 (10.3) 其中滞后算子多项式的元素可以表示成为: p p ij ij ij ij ij L L L L )(2)2()1()(φφφδ----= Φ 其中j i ij ==,1δ,j i ij ≠=,0δ 定义10.1 如果一个向量过程的一阶矩和二阶矩与时间无关,则称其是协方差平稳过程。此时下述变量与初始时间t 无关: )(t E y 和)(j t t E -'y y 命题10.1 如果一个向量过程满足)(p VAR 模型,且该过程是向量协方差平稳过程,则该过程的性质有: (1) 该过程的均值向量可以表示成为: c ΦΦΦI μp 211][-----= n (10.4) (2) )(p VAR 模型可以表示成为中心化形式: 12()()()()t t t t p t ----=-+-++-+12p y μΦy μΦy μΦy με (10.5) §10.2 向量自回归方程的表示和平稳性条件 与将高阶线性差分方程表示为一阶差分方程一样,我们也可以将一个普通的VAR (p )模型表示成为VAR (1) 的形式。为此,我们定义更高阶的向量为: 1(,,,)np ?'=t t-1t-p+1ξy -μy -μy -μ )0,,0,(1'=? t np V ε

时间序列分析讲义(2)

(3) 最大似然估计法(MLE ) 首先大家打开教材第43页看,我们纠正教材中的错误。它说: “对于一组相互独立的随机变量),,2,1(,T t t x =,当得到一个样本),,,(21T x x x 时,似然函数可表示为 ∏===T t t x f x f x f x f T x x x L 1 )()2 ()2()1(),,2,1(γγγγγ 式中),,,(21k γγγγ =是一组未知参数”。 我们知道时间序列一般不是独立的,而是相依的离散时间随机过程。因此,得到的样本),,,(21T x x x 不可能是相互独立的,似然函数绝不是以上概率密度乘积的形式。所以,教材中这一段是错误的。 似然函数在估计理论中有着根本的重要性的一个原因是因为“似然原理”。这个原理说:已知假定的模型是正确的,数据非得告诉我们的关于参数的全部包含在似然函数中,数据的所有其他方面是不切题的。 实际上,一般的ARMA 过程(含AR 、MA 过程)参数的最大似 然估计计算过程很复杂。至少有三种方法写出精确的似然函数:向后

预报法、递推预报法、状态空间与卡尔曼(Kalman )滤波法。我们讲只对递推预报法最简要介绍,从而为引出模型选择的AIC 、BIC 信息准则铺平道路。 我们先以最简单的因果的AR(1)过程的MLE 为例,说明MLE 的主要思想。考虑因果的AR(1)过程,满足模型 t u t X t X +-+=110φφ, ),0(~2σN IID t u , 且11<φ。则均值为 )(1 10t X E =-=φφμ。我们以),1,(2σφμ为三个未知参数,而)1 1(0φμφ-=不作独立的未知参数。模型中心化为 t u t X t X +--=-)1(1μφμ。 设已得到了样本值),,,(21T x x x 。则关于参数),1,(2 σφμ的似然函数为 )2,1 ,;1()2,1,;12()2,1 ,;2,,2,11()2,1,;1,,1(),,2,1;2,1,(σφμσφμσφμσφμσφμx f x x f T x x x T x f T x x T x f T x x x L ?---= 联合概率密度在样本值),,,(21T x x x 处的值写为条件概率密度和最后一个无条件概率密度的乘积。由AR(1)模型知当1,,1-t X X 给定时,t X 的条件分布为 )2),1 (1(~1,,1σμφμ--+-t X N t X X t X 。 (正态分布) 再由因果性和传递形式和正态分布性质对均方极限的封闭性,有

《时间序列分析》(双语)课程教学大纲

《时间序列分析》(双语)课程教学大纲 (2001年制订,2004年修订) 课程编号:060063 英文名:Time Series Analysis 课程类别:统计学专业选修课 前置课:线性代数、概率论与数理统计、计算机基础 后置课: 学分:2学分 课时:36课时(其中实验课12课时) 主讲教师:王芳 选定教材:易丹辉,数据分析与Eviews应用,北京:中国统计出版社,2002 自编英文讲义 课程概述: 时间序列分析是一门实用性极强的课程,是进行科学研究的一项重要工具。近年来,时序分析已普遍应用于工农业生产、科学技术和社会经济生活的许多领域。本课程着重介绍平稳时间序列数据的分析、建模及预测,如AR,MA和ARMA三个模型,并且针对非平稳时间序列,介绍其平稳化的一些方法及建模方法,如ARIMA模型等。 教学目的: 本课程的教学,目的在于让学生能从数量上揭示某一现象的发展变化规律或从动态的角度刻划某一现象与其他现象之间的内在数量关系及其变化规律性,达到认识客观世界之目的。具体来说是使得学生能分析时间序列的统计规律性,构造拟合它的最佳数学模型,浓缩时间序列的信息,简化对时间序列的表示,给出预报结果的精度分析;使学生掌握时间序列的基本概念以及时序的分类,学会对具体时序的分析步骤与建模方法,进而掌握如何判断已建立模型与原来数据的适应性及对未来值的预报。 教学方法: 采取理论讲授、课堂讨论、上机实习及课下收集相关资料的方式。理论课采用多媒体教学,有效的利用课堂时间,要求学生上机完成作业。由于本课程重在要求学生能利用所学的方法来分析实际经济问题,所以鼓励学生收集与本课程有关的期刊论文,从中学习如何利用数据结果来分析问题。本课程课堂讲授34学时。每章应布置2-4道思考题,并根据具体

时间序列分析部分讲义中国科学研究院安鸿志

时间序列分析 (J.D.Hamilton) 前言: 3.平稳ARMA过程(p49-78), 6.谱分析(p180-202), 11.向量自回归(p345-409), 21.异方差时间序列模型(p799-823). 3. 平稳ARMA过程 3.0 概述 (认识论,方法论,历史观,发展观) 什么是”回归模型”? 什么是”自回归模型”? 它们有什么联系 ? 为什么用”回归”一词 ? 它们的推广模型是什么 ? 它们的应用背景是什么 ? * 考虑”父-子身高的关系” X---父亲的身高, Y---儿子的身高, 它们有关系吗? 有什么样的关系呢? 不是确定的关系! 又不是没有关系! 在同族中抽取n对父-子的身高, 即有n对数据: (X1,Y1), (X2,Y2), … , (X n,Y n). Y k ~ a + bX k , 1≤k≤n. Y k = a + bX k + e k , 1≤k≤n. (0.1)

* 此为一元线性回归模型. e k---个体差异, 其他因素, 等等. * 如果, 如果能记录到一个父系的长子身高序列, 即X1,X2,…,X n , 显然, (X1,X2),(X2,X3),…,(X n-1,X n) 是(n-1)对父--子身高数据, 与(X k,Y k)相比, 这里的 Y k = X k+1 , k=1,2,…,n-1. 依同样论述有 X k +1 = a + bX k + e k , 1≤k≤n. (0.2) * 此为一元线性自回归模型(自变元Y k是因变元X k的延迟) * 回归←英文翻译←Regression←(0.2), 具体说来如下: μ--男人平均身高. 由(0.2)得 X k +1-μ = a + bX k + e k -μ (注意μ=(b-1)μ+bμ) = a +(b-1)μ + b(X k -μ)+ e k. W k = (X k -μ)---第k代长子身高与平均身高之差, c= a +(b-1)μ, 于是有 W k+1 = c + bW k + e k. (0.3) 特别人们发现: 0

时间序列分析讲义(3)

第四次作业 第1题 已知某地区每年常驻人口数量近似服从MA (3) 模型(单位:万人) 3212.06.08.0100----+-+=t t t t t Y εεεε,()25,0~N iid t ε。 2002—2004 年的常驻人口数量及1步预测数量下表。 年份 常驻人口数量 预测的常驻人口数量 2002 104 110 2003 108 100 2004 105 109 (1)计算此模型的均值函数t Y E 和自相关函数k ρ。(2)预测未来5年该地区常驻人口数量的95%的置信区间。 第2题 一个销售序列的拟合ARIMA (1, 1, 0)模型为 )2,0(IID ~,)1)(43.01(N a a Z B B t t t =--。 已知观测值9.33,4.335049==Z Z 。计算535251,,Z Z Z 的预报值,以及它们的90%置信的预报区间。 第3题 基于样本100,,2,1y y y 估计模型(c2),得到 ) 0698.0()1543.0()214.7(19013.0188.026.13t u t Y t t Y +-++=. 在通常的检验水平上(=α10%,5%,1%)检验该模型是否存在单位根。

◆ 自回归求和移动平均(ARIMA )过程的预测 (实际问题中常用到的补充内容,教材没有。期末必考一题) 回忆在教材的第二章第二节我们学习过ARIMA(p,d,q)过程。 定义 设1≥d 为整数。对时间序列{} Z t t X ∈,,如果它的d 次向后 差分序列t X d L t Y )1(:-=是因果平稳的ARMA(p,q)过程,则称{} t X 是 ARIMA(p,d,q)过程,即满足模型 )2,0(~)(0)1)(()(σφWN t u t u L t X d L L t X L Θ+=-Φ=*Φ。 其中011)(=---=Φp x p x x φφ 的p 个根都在单位圆1||=z 以外,并且 0)(=Φx 与011)(=+++=Θq x q x x θθ 没有公共根。 由于方程0)1)(()(=-Φ=*Φd x x x 有d 重单位根1=x 位于单位圆 1||=z 上,称{} t X 是单位根过程,它必然不能是平稳的(既不是因果平 稳的,也不是非因果平稳的)。而ARIMA(p,d,q)过程存在是否可逆的问题。回忆时间序列可逆性的定义。 定义 称(可以是平稳的或非平稳的)时间序列{} Z t t X ∈,是可逆 的,如果存在数列{} 0,≥j j π满足∞<∑∞ =|0|j j π以及常数λ,使得 ).(0 s m j j t X j t u ∑∞ =-+=πλ 是白噪声)2,0(σWN 。 可逆性是与因果平稳性没有关联的性质。由于以上ARIMA(p,d,q)

金融时间序列分析复习资料

金融时间序列分析复习资料

一、单项选择题(每题2分,共20分) P61关于严平稳与(宽)平稳的关系; 弱平稳的定义:对于随机时间序列y t ,如果其期望值、方差以及自协方差均不随时间t 的变化而变化,则称y t 为弱平稳随机变量,即y t 必须满足以下条件: 对于所有时间t ,有 (i ) E (yt )=μ为不变的常数; (ii ) Var (yt )=σ2为不变的常数; (iii ) γj =E[y t -μ][y t-j -μ],j=0,±1,,2,… (j 为相隔的阶数) (μ=0,cov (y t ,y t-j )=0,Var (yt )=σ2时为白噪音过程,常用的平稳过程。) 从以上定义可以看到,凡是弱平稳变量,都会有一个恒定不变的均值和方差,并且自协方差只与y t 和y t-j 之间的之后期数j 有关,而与时间t 没有任何关系。 严平稳过程的定义:如果对于任何j 1,,j 2,...,j k ,随机变量的集合(y t , y t+j1,,y t+j2,…,y t+jk )只依赖于不同期之间的间隔距离(j 1,j 2,…, j k ),而不依赖于时间t ,那么这样的集合称为严格平稳过程或简称为严平稳 过程,对应的随机变量称为严平稳随机变量。 P46 t X 的k 阶差分是;△ k X t =△ k-1 X t -△ k-1 X t-1,△ 表示差分 符号。 滞后算子;P54对于AR : L p y t =y t-p ,对于MA :L p εt =εt-p AR (p )模型即自回归部分的特征根—平稳性;确定好差分方程的阶数,则其特征方程为:λp -α1λp-1-α2λp-2-…-αp =0,若所有的特征根的│λ│<1则平稳 补充:逆特征方程为:1-α1z1 -α2z2-…-αp zp =0,若所有的逆特征根│z│>1,则平稳。注意:特征根和逆特征方程的根互为倒数。 如:p57作业3: y t =1.2y t-1-0.2y t-2+εt ,为二阶差分,其特征方程为:λ2-1.2λ+0.2=0,解得λ1=1,λ2=0.2,由于λ1=1,所以不平稳。 MA(q )模型121.10.24t t t t X εεε--=-+,则移动平均部分的特征根----可逆性;p88 所谓可逆性,就是指将MA 过程转化成对应的AR 过程 MA 可逆的条件是其逆特征方程的根全部落在单位圆外, 即1+θ1z 1 +θ2z2+…+θp zp =0,│z│>1,

平稳时间序列模型及其特征

平稳时间序列模型及其特征 第一章平稳时间序列模型及其特征 第一节模型类型及其表示一、自回归模型(AR 由于经济系统惯性的作用,经济时间序列往往存在着前后依存关系。最简单的一种前后依存关系就是变量当前的取值主要与其前一时期的取值状况有关。用数学模型来描述这种关系就是如下的一阶自回归模型: X t=? X-1 + £ t (2.1.1 )常记作AR(1)。其中{X t}为零均值(即已中心化处理)平稳序列,?为X t对X -1的依赖程度,£ t为随机扰动项序列(外部冲击)。 如果X t与过去时期直到X t-p的取值相关,则需要使用包含X t i ,……X-p 在内的p阶自回归模型来加以刻画。P阶自回归模型的一般形式为:X=? i X t-1+? 2 X t-2+ -------- ? p X t-p+ £ t (2.1.2 )为了简便运算和行文方便,我们引入滞后算子来简记模型。设 B 为滞后算子,即BX=X-1,则B(B k-1X)二B k X二X-k B(C)=C(C 为常数)。利

用这些记号,(2.1.2 )式可化为: X t= ? 1BX+ ? 2BX+ ? 3B‘X +.... +? P BX+£ t 从而有: (1- ? 1B- ? 启- ... -? P B) X t = £ t 记算子多项式?( B) = ( 1- ? 1B- ? 2B- ........... - ? p B),则模型可以表示成 ?( B) X=£ t (2.1.3) 例如,二阶自回归模型X=0.7X t「+0.3X t-2 +0.3X t-3 + £ t可写成 (1-0.7B-0.3B 2) X= £ t 二、滑动平均模型(MA 有时,序列X的记忆是关于过去外部冲击值的记忆,在这种情况下,X可以表示成过去冲击值和现在冲击值的线性组合,即 X = £t- 0 1 £t-1 - 0 2 £t-2 - .............................. - 0 q £t-q (2.1.4) 此模型常称为序列X的滑动平均模型,记为MA(q),其中q为滑动平均的阶数,0 1, 0 2…0 q为参滑动平均的权数。相应的序列X t称为滑动平均序列。 使用滞后算子记号,(2.1.4 )可写成 X t= (1- 0 1B- 0 2W-……-0 q£) q t=0 (B) £t (2.1.5) 三、自回归滑动平均模型 如果序列{X}的当前值不仅与自身的过去值有关,而且还与其以

金融时间序列分析复习资料

一、单项选择题(每题2分,共20分) P61关于严平稳与(宽)平稳的关系; 弱平稳的定义:对于随机时间序列y t,如果其期望值、方差以及自协方差均不随时间t的变化而变化,则称y t为弱平稳随机变量,即y t必须满足以下条件: 对于所有时间t,有 (i) E(yt)=μ为不变的常数; (ii) Var(yt)=σ2为不变的常数; (iii) γj=E[y t-μ][y t-j-μ], j=0,±1,,2,… (j为相隔的阶数) (μ=0,cov(y t,y t-j)=0,Var(yt)=σ2时为白噪音过程,常用的平稳过程。) 从以上定义可以看到,凡是弱平稳变量,都会有一个恒定不变的均值和方差,并且自协方差只与y t和y t-j之间的之后期数j有关,而与时间t没有任何关系。 严平稳过程的定义:如果对于任何j1,,j2,...,j k,随机变量的集合(y t,y t+j1,,y t+j2,…,y t+jk)只依赖于不同期之间的间隔距离(j1,j2,…,j k),而不依赖于时间t,那么这样的集合称为严格平稳过程或简称为严平稳过程,对应的随机变量称为严平稳随机变量。 P46 的阶差分是;△kX t=△ k-1X t-△ k-1X t-1,△表示差分符号。 滞后算子;P54对于AR: L p y t=y t-p,对于MA:Lpεt=εt-p AR(p)模型即自回归部分的特征根—平稳性;确定好差分方程的阶数,则其特征方程为:λp-α1λp-1-α2λp-2-…-αp=0,若所有的特征根的│λ│<1则平稳 补充:逆特征方程为:1-α1z1-α2z2-…-αpzp=0,若

所有的逆特征根│z│>1,则平稳。注意:特征根和逆特征方程的根互为倒数。 如:p57作业3: y t=1.2y t-1-0.2y t-2+εt,为二阶差分,其特征方程为:λ2-1.2λ+0.2=0,解得λ1=1,λ2=0.2,由于λ1=1,所以不平稳。 MA(q)模型,则移动平均部分的特征根----可逆性;p88 所谓可逆性,就是指将MA过程转化成对应的AR过程 MA可逆的条件是其逆特征方程的根全部落在单位圆外, 即1+θ1z1+θ2z2+…+θpzp=0,│z│>1, 此题q为2,逆特征方程为:1-1.1z+0.24z2=0, 解得:Z= 关于AR(p)模型与MA(q)的拖尾与截尾---建模观察相关图定阶;如表所示: AR(p)MA(q)ARMA(p,q)ACF拖尾q期后截尾拖尾 PACF P期后截尾拖尾拖尾 若一序列满足ARIMA( p, d, q)模型(d > 0) , 则此序列平稳吗? 答:平稳,因为ARIMA( p, d, q)模型表表示经过d次差分后的序列,其必定是平稳时间序列。 二、填空题(每题2分,共20分)。 平稳时间序列的特点:平稳时间序列的特征方程的单位根的绝对值都小于1,逆特征方程的根的绝对值都大于1。 (i) E(yt)=μ为不变的常数; (ii) Var(yt)=σ2为不变的常数; (iii) γj=E[y t-μ][y t-j-μ], j=0,±1,,2,… (j为相隔的阶数) ARMA 所对应的AR特征方程为?其MA逆特征方程为?

《时间序列分析》讲义

第1章 差分方程和滞后算子 第一节 差分方程 一.一阶差分方程 假定t 期的y (输出变量)和另一个变量w (输入变量)和前一期的y 之间存在如下动态方程: 1t t y y w φ-=+ (1) 则此方程为一阶线性差分方程,这里假定w 为一个确定性的数值序列。差分方程就是关于一个变量与它的前期值之间关系的表达式。一阶差分方程的典型应用为美国货币需求函数: 10.270.720.190.0450.019t t t bt ct m m I r r -=++-- 0.270.190.0450.019t t bt ct w I r r =+-- 其中t m 为货币量,t I 为真实收入,bt r 为银行账户利率,ct r 为商业票据利率。 1)用递归替代法解差分方程 根据方程(1),可以得到 010101 212101 2t t t y y w y y w y y w t y y w φφφφ--=+=+=+=+ (2) 如果我们知道1t =-期的初始值1y -和w 的各期值,则可以通过动态系统得到任何一个时期的值。即 11101....t t t t t y y w w w φφφ+--=++++ (3) 这个过程称为差分方程的递归解法。 2)动态乘子: 对于方程(3),如果0w 随1y -变动,而1,...,t w w 都与1y -无关,则0w 对t y 得影响为: 0t t y w φ?=?或t j j t y w φ+?=? (4) 方程(4)称为动态系统的乘子,或脉冲响应函数(即暂时性影响)。动态乘子依赖于j ,即输入t w 的扰动和输出t j y +的观察值之间的时间间隔。 对于方程(1),当01φ<<时,动态乘子按几何方式衰减到零;当10φ-<<,动态乘子振荡衰减到零;1φ>,动态乘子指数增加;1φ<-,动态乘子发散性振荡。因此,1φ<,动态系统稳定,即给定t w 的变化的后果将逐渐消失。1φ>,系统发散。

相关文档
最新文档