计量经济学第五讲20130416

第五讲 序列相关

一、 为什么要关注序列相关问题？

对于模型01

i i i y x ββε=++，序列无关假定即：

(,)0,i j Cov i j εε=≠。对于时间序列数据，这个假定经

常被违背，即出现序列相关问题。

时间序列数据是通过对同一个单元的连续观测而获得的，所有观测具有固定的时间先后顺序。与之相比，横截面数据是通过对不同单元的观测而获得的，在横截面数据中，所有观测在本质上都处于一个平行位置，而其实际顺序具有随意性。

由于时间序列数据来自于同一个单元，而同一个单元的某些内在特性在一定时期不会出现较大的变化，因此时间序列数据经常表现出明显的序列相关性。从直觉上看，这种序列相关一般应该是正的序列相关。

由于序列相关主要针对时间序列数据，因此在讨论这个问题时我们把模型中的脚标i 改写为t ，把样本容量N 改写为T ：

01t t t y x ββε=++

误差项ε容纳了除x 之外的其他对y 有影响的变量。当这些变量序列相关时，误差项就很可能出现序列相关。理解误差项序列相关的另一个视角是，在时间序列模

型中，误差项经常被称之为冲击(Shock)。对经济系统的冲击经常具有持续性，从而这为误差项序列相关提供了现实依据。

笔记：

在日常生活中，我们经常说“好运连连”、“屋漏偏逢连夜雨”等口头禅。如果把“好运”理解成正向冲击，“连夜雨”理解成负向冲击，则这些口头禅就意味着冲击一般具有正相关性。

序列相关问题会产生什么样的后果呢？

（一）理论意义上的后果

在证明高斯-马尔科夫定理时，我们仅仅在证明OLS估计量具有有效性时涉及到了序列无关假定，而在证明线性、无偏性并没有用到该假定，因此序列相关并不影响OLS估计量所具有的线性与无偏性这两个性质（实际上也不影响OLS估计量的一致性，一致性只涉及到高斯-马尔科夫假定一、二、三），而只影响OLS估计量的有效性。具体来说，当序列相关问题存在时，在所有线性无偏估计量中，OLS估计量再也不是最有效的估计量了。如果在模型估计时利用序列相关信息而不是像OLS估计那样对序列相关问题视而不见，则模型估计的有效性将提高。本章后面我们将介绍如何利用序列相关信息进行模型估计。

（二）实践意义上的后果

计量软件包在默认状态下总是认为同方差假定成立，进而依据一些常规公式来计算参数估计的标准误。

例如，在默认状态下1

?β

标准误的计算公式是，

1

?)(se β=其中22??2

i N δε=-∑是对误差方差的估计。然而我们知道，

1

2?(())i i i i Var Var k y k β

δε==∑∑

如果序列无关假定不成立，则

1

2?2(,)()i i j i j i j

i k k Cov Var k β

εεδε≠+=∑∑

即使同方差假定成立，然而由于0(,)i j i j i j

k k Cov εε≠≠∑，

因此们根本无法推导出1

2

?2

2

()i

x x β

δδ=

-∑这个通常的公

式。

计1

?βδ的目的显然是不可行的。因此，序列相关问题在

实践意义上的后果就是，计量软件包在默认状态下计算出的参数估计量的标准误是无意义的，进而基于这种标准误所进行的假设检验也是无意义的。

笔记：

由于正序列相关更常见，故(,)i j i j i j

k k Cov εε≠∑一般是大于0

的，因此省略此项得到的1

?β的标准差一般会小于其真实的标准差。相应的，计量软件包在默认状态下计算出的参数估计量的标准误很可能低估了真实的标准差，夸大了估计精度。

幸运的是，与异方差问题一样，当出现序列相关问题时，在大样本情况下，我们能够计算一个稳健标准误。这个标准误既对序列相关问题稳健，也对异方差问题稳健，被称为HAC(heteroskedasticity and autocorrelation consistent)标准误或者Newey-West 标准误。在大样本下，我们可以基于HAC 标准误进行统计推断。关于HAC 标准误的简单介绍参见Stock & Watson(Second edition,p.606-607)。

二、 发现自相关

与异方差检验一样、我们是通过对残差的分析来检验序列无关假定是否被违背。 （一）图示法

如果残差随着观测顺序的变化并不频繁地改变符号，见图一，则这是误差项序列正自相关的证据；如果残差随着观测顺序的变化频繁地改变符号，则这是

误差项序列负自相关的证据，见图二。

笔记：

1、与上述图形检验思路一样但更正规的一种检验方式是游程检验（runs test ）。首先记录残差的符号，例如：(++++++++++)(--)(+++++++)(-)(++++++)。所谓游程是指具有同一符号的一个不间断历程。在此例中，具有5个游程。直观来看，如果游程太多，这意味着残差频繁地改变符号，而这是负自相关的证据；反之，如果游程太少，则是正自相关的证据。给定观测值的个数，利用Swed & Eisenhart 所给出的一定显著水平下关于游程数的两个临界值，我们可以检验误差是独立的这个原假设。详情可参见相关教科书。

2、在图一中，残差大约在三个位置改变了符号，你也许会问，这不是违背了正序列相关的判断吗？记住！我们发现的正序列相关是统计规律，而统计规律是大部分观测所具有的规律。

图一：正序列相关

?t ε

?t ε

图二：负序列相关

（二）Durbin-Watson （DW ）检验

DW 检验用来检验误差项是否存在一阶自相关。

该检验法利用OLS 残差?t ε

构造检验统计量： 21

2

21??()?T

t t t T t t DW εεε-==-=∑∑

很容易证明?2(1)DW ρ≈-，其中?ρ是残差样本一

阶自相关系数（该证明留作讨论相关图检验时的一个练习）。基于这个结论，显然，如果误差项没有一阶自

相关关系，那么?ρ应该接近于0，而DW 应该接近于2；如果误差项具有强烈的一阶正自相关关系，即?ρ

接近于1，而DW 应该接近于0；如果误差项具有强烈的

一阶负自相关关系，即?ρ

接近于-1，而DW 应该接近于4。上述这些论述为我们利用DW 统计量来检验序列相关提供了指南。

为了更好地利用DW 统计量，我们当然希望知道它的分布。不过不幸的是，在误差项一阶自相关系数为零的原假设下，DW 的精确分布取决于解释变量的取值。换句话说，当我们利用相同的模型但不同的样本时（这里样本不同不是指样本容量不同，而是指变量取值不同），我们所面对的DW 统计量分布是不同的，从而这损害了DW 统计量的实际应用性。

Durbin-Watson 证明，DW 的精确分布位于两个极限分布之间。我们可以利用这两个极限分布来进行假设检验。

在实践中，经济变量如果存在自相关，则一般是正自相关，因此在进行DW 检验时，我们通常利用单侧（左侧）检验（一般教科书所提供的临界值表是针对单侧检验的）。

笔记：

1、经济变量一般正自相关是针对水平变量而言。对于差分变量，负自相关在年度时间序列中也是常见的。这是因为，差分表示变量的变化，如果经济变量在均衡位置上下波动，那么上一期涨幅较大往往意味着在本期将出现回落。不过对于来自于资本市场的高频时间序列数据，由于冲量效应等原因，差分变量出现正自相关也是常见的。

2、如果DW 值远远大于2，这往往是模型错误设定的信号。

在单侧检验下，给定显著水平，当l DW d

，我们

d U d L 4-d U 4-d L

2

认为误差项是一阶正自相关的；当u l d DW d <≤，则无法判断；当u d DW <，我们认为误差项不存在一阶自相关。

由于存在无法判断的区间，因此DW 检验具有局限性。另外，进行DW 检验还应该注意如下几个问题： （1）该检验用来判断误差项是否存在一阶自相关。一阶自相关不存在并不一定意味着不存在高阶自相关。（2）回归模型一般应带有截距项以保证残差均值为零；

（3）DW 统计量的分布除了取决于解释变量矩阵X 外还依赖于全套的经典线性模型假定。因此，为了保证DW 检验有效，其他经典线性模型假定必须成立。 （4）解释变量中不能含有滞后因变量。考虑模型：

121t t t t y a b x b y ε-=+++，当t ε与1t ε-相关时，t ε与1t y -是

相关的，这将导致OLS 估计量有偏，且偏差不会随样本容量的增加而趋于零，即OLS 估计量不是一致估计量。OLS 估计将把误差项所包含的信息价值归功于解释变量，而相应的残差看起来再也不含有价值的信息，因此，此时DW 值经常接近于2，从而具有误导性。

（三）相关图（Correlogram ）检验

在讨论DW 检验时，我们提到结论?2(1)DW ρ

≈-，一个显然问题是，为何我们不直接基于残差样本一阶

自相关系数?ρ对误差项是否存在一阶自相关进行检验呢？事实上这也是可行的，而且还可以推广，即我们能够基于残差样本k 阶自相关系数?k ρ来检验误差项是否存在k 阶自相关。在讨论这些检验之前，我们先了解一些预备知识。

（1）时间序列平稳性

在针对时间序列的经典计量分析中，我们要求时间序列都是平稳的。本讲义第八讲我们详细讨论时间序列平稳性概念，但在这里有必要先简单介绍一下这个概念。

在直观意义上，平稳时间序列应该没有趋势性，也不会持久偏离均值；从数学上看，平稳时间序列{}t y 应该满足三个条件：期望值为常数，即()t E y μ=；方差为常数，即2

()t Var y δ=；协方差与时间起点无关，即

,()j t t j Cov y y δ-=。

（2）自相关系数

平稳时间序列{}t y 的总体k 阶自相关系数是：

2222

(,)()()()()

()()()t t t t t t k t k k t

t Cov y y E y y E y E y y E y Var y E y E y ρ--=--==- 如果平稳时间序列的期望值为零，则2()()

t t t k k E y y E y ρ-=，此

时样本k 阶自相关系数是1

21

?T

t

t k

t k T

t

t k y y

y

ρ

-=+==∑∑。

误差项t ε满足期望值为零的条件，故其样本k 阶

自相关系数是1

21

?T

t t k t k T

t

t k εεε

ρ

-=+==∑∑，然而误差项是不可观测的，

因此我们用残差代替之，于是1

21

???

?T

t t k t k T

t

t k εεερ

-=+==∑∑。

练习：

证明?2(1)DW ρ≈-，其中1??ρρ=是残差样本一阶

自相关系数。

在介绍了一些预备知识后，为了利用残差样本k

阶自相关系数?k ρ

来检验误差项是否存在k 阶自相关，我们还需要了解?k ρ

所服从的分布。 可以证明，2

2)?(,a

k k T k T T N ρρ-+:。当T 很大时，还可进一步简化为：1)?(,a

k k T

N ρ

ρ:，因此在原假设0k ρ=下，10)?(,a

k T

N ρ

:，故在95%置信水平下

，?k ρ

≤≤-。如果?k ρ落在这个区间之外，则我们的结论是，在5%显著水平下拒绝原假设0k ρ=；如果?k ρ落在这个区间之内，则结论是，在5%显著水平下不拒绝拒绝原假设0k ρ=。

EVIEWS 这样的计量软件不仅会自动计算?k ρ，还会提供图形以方便我们判断?k ρ

是否落在区

间[,- 之外。EVIEWS 软件会提供如下的图形

（这样的图形被称为相关图）：

上述图形表明，在所有的样本自相关系数中，只

有一阶自相关系数落在了区间[,- 之外，因

此一个结论是，在5%显著水平下拒绝原假设10ρ=，但不拒绝20ρ=，30ρ=，40ρ=…这些原假设。

笔记：

我们还能够构造统计量进行联合检验。注意到

2

2)?(,a

k k T k

T T

N ρρ-+:，且?k ρ与?l ρ（k l ≠）渐进独立。通过先进行标准正态分布专换，然后进行卡方分布转化，则在原假设0

k ρ=下，有：

2222(1)?k

T T T k

a

χρ

+-:，因此在原假设...120m ρρρ====下有：

221()1?(2)()m

i i m T T T i

χρ

=+-∑: 上述统计量被称为Q 统计量（Ljung & Box,1978）。如果Q 统计量的值超过了给定显著水平下的临界值，则拒绝原假设

...120m ρρρ====。EVIEWS 软件也会自动计算Q 统计量及其

伴随概率。

我们曾经提到，当T 很大时，1)?(,a

k k T

N ρ

ρ:。基于上述构造Q 统计量的思路，不难得到另一个统计量：221

()?m

i i m T χρ

=∑:，该统计量被称为Box-Pierced 的Q 统计量。注意到当i=1时212?(1)T ρχ:，而21?ρ

是样本一阶自相关系数的平方。回忆当?t ε对1?t ε-进行回归时（由于残差均值为零，此时回归模型有无截距是不重要的），判

定系数R 2等于?t ε

与1?t ε-相关系数的平方。因此利用Box-Pierced 的Q 统计量来进行一阶自相关检验的等价方法是，先将?t ε

对1?t ε-进行回归，然后利用TR 2这个LM 统计量来检验1?t ε

-的显著性。上述等价方法还可以推广，即将?t ε

对12???t m t t εεε---、、...、进行多元回归，然后对每个解释变量的显著性进行检验，或者进行所有解释变量的联合显著性检验。当然此时利用的t 分布、F 分布或者卡方分布都是渐进正确的，参见伍德里奇（中文版第四版，p.393-394）

我们曾经提到，在进行DW 检验时，原模型的解

释变量中不能含有滞后因变量。事实上相关图检验也也存在相同的局限（张成思，p.85；Koop ，p.146）。然而不幸的是，很多著名教科书皆没意识到这一问题，结果导致相关图检验被误用。

如果原模型的解释变量中确实含有滞后因变量，那么我们该用何种检验方法呢？下面我们将介绍一个被广泛使用的序列相关检验方法，该方法的一个重要优势在于，无论原模型的解释变量中是否含有滞后因变量，该方法都适用。

（四）Breusch-Godfrey 检验

假定一个p 阶自回归过程（AR(p)）能够刻画模型

01t t t y x ββε=++所面临的序列相关性：

1

-1-12-2...p

i i p t t p t t t i t t v v ερερερερε==-∑=+++++

在这里，误差项t v 期望值为0，方差为常数2

v

δ，且序列

无关。

笔记：

通过反复迭代，t ε可以被表示为t v 、1t v -、2t v -…的线性函数。因此t v 序列无关一定意味着t v 与1t ε-、2t ε-、3t ε-…是不相关的。

现在初始模型可以改写为：

1

01-p

i i t t t t i y x v ββρε==++∑+

如果原假设120...p ρρρ===为真，则原模型不存在序列相关问题，因为此时原模型的误差项t ε将等于t v ，而t v 是序列无关的。

基于改写后的模型，我们可以检验原假设120...p ρρρ===吗？由于误差项1t ε-、2t ε-、…、t p ε-不可观测，因此改写后的模型无法进行估计，故假设检验是不可行的。此时一个操作性策略是，先对原模型进行OLS 估计，然后用一系列回归残差代替改写后模型中的1t ε-、2t ε-、…、t p ε-，从而构建一个辅助回归模型：

1

01-?p

i i t t t t i y x v ββρε

==++∑+ 注意到01???t t t y x ββε=++，因此上述辅助回归模型可进一步改写为：

1

*

*0

1

1

0011--))???((??p i p

i i i t t

t t t i t t i x x v v εββββββρερε

==--+=++∑=+∑++

基于上述辅助回归模型，我们利用LM 统计量检验原假设120...p ρρρ===：

22a p TR χ:

在这里，T 是样本容量，2R 是辅助回归模型的判

定系数。当原假设为真时，2TR 渐进服从自由度为p 的卡方分布。

笔记：

一个细节问题是，为了使辅助回归模型的样本容量为T 而不是T-p ，Eviews 软件设定：

0011???...p ε

εε====-- 即第1期以前的p 期残差皆为0。当然，我们完全可以不这样设定，基于有效样本容量T-p ，利用22()a

p T p R χ-

:

来进行假设检验。

在初始模型中，如果误差项与解释变量不仅同期无关，而且跨期也不相关，即解释变量具有严格外生性，则最终辅助回归模型中的x 可以被省去（请参阅相关图检验下面的笔记）。然而，当初始模型的解释变量是滞后因变量时，因为滞后因变量不是严格外生的，故此时最终辅助回归模型中的x 不能被省去。如果被

省去，由于t x 与-?t i ε

的相关性，最终辅助回归模型将出现变量遗漏问题。

三、利用序列相关信息提高估计精度

为更简单地阐明问题，我们假定误差项是一个AR （1）过程：1t t t v ερε-=+，1ρ<，则：

011011110111

(1)()t t t t t t t t t t t y x t y x y y x x ββερρβρβρερβρβρερε------????

?

=++?

=++-=-+-+-

令***11;1;t t t t t t t y y y x x x z ρρρ--=-=-=- 则有：

1

*0**,2t t t t z y x v t ββ=++≥

由于1t t y y ρ-- 、1t t x x ρ--被称为广义差分，故上述模

型转化方法被称为广义差分法或者Cochrane-Orcutt 转换法。

思考题：当误差项一个AR （2）过程：

1

2

12t t t t v ερερε--=++时，如何进行广义差分变换？

经过广义差分转换后，新的误差项t v 满足标准假定。然而一个细节问题是，模型转化损失了第一个观测值，导致新模型的样本容量是T-1而不是T 。损失观测值是损失信息，为了弥补这一点，我们考虑补回第一个观测值的信息：

11011111

y x ββεββ?

=++=

注意到22

2

2

2

11))1)(1()(1v v Var Var δρ

ρρ

δε=-=-=-，而1ε与,2t t v ≥是不相关的（见下面的笔记1），因此，我们定义：

1*11

**11;y x z

= 于是我们就补回了第一个观测值的信息，这个方法被称为Prais-Winsten 转换。

在补回了第一个观测值之后，现在对新的模型

1

*0**t t t t z y x v ββ=++进行OLS 估计，则将得到一个最有

效的线性无偏估计量。这个估计量被称为广义最小二乘（GLS ）估计量（见附录1）。

在上述讨论中，我们隐含的假定是ρ是已知的，然而这是不现实的。可行（Feasible ）的广义差分法需要估计ρ。一个简单的估计方法是，首先对初始模型进行OLS 估计得到残差，然后利用残差的一阶自相关系数来作为对ρ的估计。然而通过进一步思考，我们不难发现可以对ρ的估计进行不断优化，这是因为，基于初始ρ的估计值，利用广义最小二乘原理我们可以获得对模型参数更好的估计，相应我们也获得新的残差序列。利用这个新的残差序列，我们又可获得对ρ的更好估计。如此循环，直至ρ的估计值收敛。

如果不考虑补回第一个观测值，上述循环估计方法实际上等价于利用非线性最小二乘法（NLS ）估计模型：

0111

1,2(1)t t t t t v t y y x x βρρβρβ--≥=-+-++ 上述模型关于参数是非线性的。NLS 基本原理与OLS

相同，仍然是选择参数的估计值使残差平方和最小。然而不同的是，在求解最小化问题时，类似OLS 估计量那样标准化的公式并不存在，我们必须求助于数值方法来求解。

笔记：

1、关于平稳AR(1)过程的介绍。 t t t k v ερε-=+，1ρ<，其中：

2)0;);(,)0,0((v t t t t i Var Cov i E v v v v δ-===≠

通过反复迭代有：

2112(1)...k k t t t t t k t k v v v v ερερρρ------=+++++

当k →∞时，由于1ρ<，故有212...t t t t v v v ερρ--=+++。由于t v 序列无关，故t v 与,1t i i ε-≥不相关。

)))(((t t t k E E E v ερε-=+，由于平稳过程t ε的期望值为常数，

故)

)=01-((t t E v E ρ

ε=

；2)))(((t t t k Var Var Var v ερε-=+，

由于平稳过程t ε的方差为常数，故2

2

2)

)=1-1-((v t t Var v Var δρρ

ε=，由这个表达式我们就可以明白为何要求1ρ<。

2、考虑模型：

012311,2t t t t t v t y y x x αααα--+≥=+++

如果存在约束123ααα=-，则该模型与前面的参数非线性模型相对应。注意到前面的参数非线性模型其起点是，原模型误差项是一个AR(1)过程。如果原模型误差项不是一个AR(1)过程，则为了

解决序列相关问题，我们可以估计上述这个更一般的模型。这个模型被称为自回归分布滞后模型（ARDL ），其中自回归是指因变量的滞后作为解释变量，分布滞后是指某解释变量对因变量的影响会延续一段时间。上述模型是一个ARDL(1,1)模型，显然我们可以建立ARDL(p,q)这样更具包容性的模型来解决序列相关问题。

附录1： 广义最小二乘法（GLS ）

对回归模型：Y

X βε=+，假定12()0N E E εεεε??

??

????????

== ，则随机误

差向量ε的方差-协方差矩阵Ω为：

211

21

221

22

212()()()()()()()()()

()N N N N

N E E E E E E E E E E εεεεεεεεεεεεεεεεε??

? ?

? ?

?

?

?

?

Ω=='L L M M O M L

2

11

2

1

2212

2

212

()()()()()()N

N

N N

N

E E E E E E δεεεεεεδεεεεεεδ??

? ?

? ?

?

?

??

=L L M M O M L

可以证明，Ω为正定阵（提示：考虑A ε'的方差，其中A 为N 维非零向量）。按照矩阵代数知识，由于Ω为正定阵，必有：

1P P -='Ω

其中P 为N 阶非奇异阵。进而有：

111()()P P P P P P PP P P I ---Ω==='''''

对初始回归模型进行变换：PY PX P βε=+，令

***

;;PY Y PX X P εε===，即有：***Y X βε+=。显然有：

*)(()()()Var Var P E P P PE P P P I εεεεεε====Ω='''''

，故模型***Y X βε+=满足同方差及其序列无关假定。基于该模型，β的OLS 估计量为：

1

1

111****))))

))((((?((P P P P X X X Y X X X Y X X X Y β

-----''''''''ΩΩ=== 对原模型：Y X βε=+，上述估计量被称为广义最小二乘估计

量?GLS β

。 （一）当2

2

2

2000

000I δδδδ?? ?

?

? ? ?

??

?

=Ω=L L M M O M L 时， 2

1

2

1

11))()]((][)[(??GLS

OLS

I X X X I X Y X X Y δδβ

β

----''''=== 因此，在同方差及其序列无关情况下，GLS 估计量即为OLS 估计量。

（二）当2

122

2000

000N

δδδ?? ?

?

? ?

?

?

?

?

Ω=L L M M O M L 时，