异方差与自相关广义线性模型
第三章 异方差与自相关广义线性模型
本章继续讨论线性模型
Y =X β+ε, E (ε)=0 （
所不同在于以前的关于误差方差的假定是
Var(ε)=σ2I n （
这一章逐次推广讨论。第一节讨论异方差的存在与检验，尤其是在经济模型资料中的存在与影响，第二节讨论的是
n i diag Var i n ,,1,),,,()(2
221 已知
（
2
221222222212121,),,,,,,,,,()( diag Var 未知
（
)ex p(),,,()(2
221 i i n Z diag Var ， 未知
（
这些都是误差方差为对角阵的模型。
第三节讨论自相关线性模型。首先讨论的是残差一阶自回归线性模型，它的残差满足
i i i 1
（ )(,0)(,)(,0)(22j i E E E j i i i
（
此时残差εi 的方差虽不为对角阵，但只含一个参数。接着我们介绍自回归条件异方差(ARCH)模型，它的误差假设是
i p i p i i 221102
（ )(,0)(,)(,0)(22j i E E E j i i i
（
因为模型计算中用到了广义矩估计方法(GMM)，我们在第四节又介绍了GMM 。
第五节讨论的是
2
2
,0)( M Var 未知，M 已知
（
第六节讨论的是
2
2
,0)( M Var 未知，M 已知
（
所讨论的内容还是各种回归模型、算法及性质。
第一节 异方差的存在与检验
一、异方差的存在与影响
前面介绍的线性回归模型，都是假定随机误差项εi 独立同分布，有相同的方差
(Homoscedasticity)
2)( ,0)( i i Var E
（
但是实际抽样很难保证这一点。经济对象千差万别，可以按不同标准划分成不同的群体。这些群体间的差别导致样本方差不一致，于是就有所谓异方差(Heteroscedasticity):
2)( ,0)(i i i Var E
（
反映在散点图上，如下图可以明显看出样本方差与点 (X i , Y i )有关，随着样本数值增大而增大。
图
由于样本方差的差异，原来最小二乘估计的一些优良性质不再存在。如在一元线性回归
n i X Y i i i ,,1 ,10
（
我们知道最小二乘估计
n
i i XX
i n j i
n
i i i
XX
XY Y S X
X X X
Y Y X X
S S 1
1
2
1
1
)()
)((? （
n
i i XX i Y S X X X n X Y 11
0)(1
??
（
于是
)()()?(2
11i n i XX i Y Var S X X Var
（
)()(1)?(2
10i n i XX i Y Var S X X X n
Var （
现在Var(Y i )不是常量，我们就无法证明0
1?,? 是最小方差线性无偏估计。显著性检验也成了问题。原来构造的F 统计量是分子分母都含有未知参数σ2, 可以分别提取公因式再约去，现
在是异方差，按原来方法构造的F 统计量里的未知参数无法直接约去，预测精度也无法保证。差不多原来推导的各种统计方法、统计性质由于基础动摇而都需重新考虑。
因此我们需要将一般线性回归模型推广。 不过在推广之前，首先要解决异方差的检验问题。
二、异方差的检验
异方差的检验一般需要比较大的样本，一般都是作所谓残差分析。
图