GMM估计中文讲义广义矩估计

GMM 估计中文讲义2
线性模型
121
2i i i i i i y x x x βεββε=+'''=++ ()0i i E x ε=
1i x 是1k ⨯，2i x 是1r ⨯，l k r =+。

如果没有其他约束，β的渐进有效估计量是OLS
估计。

现在假设给定一个信息20β=，我们可以把模型写为，
11
i i i y x βε'=+，()0i i E x ε= 如何估计1β？一种就是OLS 估计。

然而这种方法不是必然有效的，当在()0i i E x ε=方程中有l 个约束，然而1β的维数k l <，这种情况称为过渡识别。

这里有r l k =-比自由参数多的矩约束，我们称r 是过渡约束识别个数。

让(,,,)g y z x β是1l ⨯个方程，参数β为1k ⨯，且k l <，有
0(,,,)0i i i Eg y z x β= （1）
0β是β
的真实值，在上面线性模型中有1
(,,)()g y x x y x ββ'=
-。

在计量经济学里，这类模型称为矩条件模型。

在统计学中，这称为估计方程。

另外，我们还有一个线性矩条件模型，
1i i i y z βε'=+，()0i i E x ε=
i z 和i x 的维数都是1k ⨯，且有1l ⨯，k l <，如果k l =则模型是恰好识别，否则是过
渡识别。

变量i z 是i x 的一部分或是i x 的函数。

模型（1）可以设置为，
0(,,,)()i i i g y z x x y z ββ'=- （2）
GMM 估计
模型（2）样本均值为
11111
()(())()n n n i i i i i i n n n
g g x y z X y X Z ββββ==='''=-=-∑∑ （3）
β的矩估计量就是设置()0n g β=。

对于k l <个方程大于参数的情形，GMM 估计思
想就是设置()n g β近可能的接近于零。

对于l l ⨯加权矩阵W 0n >，让
()()W ()n n n n n J g g βββ'=⋅
这是向量()n g β长度的非负测度。

例如，如果W n I =，则有
2
()()()()n n n n n n J g g g ββββ'=⋅=⋅。

GMM 估计就是最小化()n J β，即定义arg ()GMM n J β
ββ=。

注意，如果k l =，则()0ˆn g β
=，GMM 估计就是矩估计方法。

GMM 估计的一阶条件为 ()11ˆ2()W ()2W ()ˆ0n n n n n Z X X y Z n n J g g ββββββ∂∂⎛⎫⎛⎫'''=⋅=-- ⎪ ⎪
∂∂⎝⎭⎝⎭
= ()ˆ2()W ()2()W n n
Z X X Z Z X X y β''''= 则β的GMM 估计为
()1ˆ(()W ())()W GMM n n Z X X Z Z X X y β-''''=
GMM 估计量的分布
假设W W>0p n −−
→，令)(i i Q E x z '= 和 2))((i i i i i E E x x g g ε=''Ω=
这里i i i g x ε=
，则11W W p n Z X X Z Q Q n n
⎛⎫⎛⎫'''−−→ ⎪ ⎪⎝⎭⎝⎭
11W W (0,)p
n Z X X Q N n n ε⎛⎫⎛⎫'''−−→Ω
⎪ ⎪⎝⎭⎝⎭
定理1：
ˆ)(0,)d N V ββ-−−→
11
()()()V Q WQ Q W WQ Q WQ --'''=Ω
为了使V 最小，最优加权矩阵1
0W -=Ω（证明留作练习）。

这产生了最有效的GMM 估计量：
111ˆ()GMM Z X X Z Z X X y β---''''=ΩΩ
这时，我们有定理2：对于有效的GMM 11ˆ)(0,())d
N Q Q β
β--'-−−→Ω 实际上10W -=Ω是未知的，但它能一致估计。

对于任何0W W p
n −−
→，我们仍然称ˆβ是有效的GMM 估计量，且有相同的渐进分布。

有效即意味着GMM 估计量有最小的渐进方差。

当我们只考虑加权矩阵W n ，这是弱有
效概念。

然而Gary Chamberlain (1987)证明这个GMM 估计量是半参数有效的。

有效加权矩阵估计
对于给定的W >0n ，ˆβ的GMM 估计量是一致但不是有效的，例如W =n l I 。

在线性模型，
一个较好的选择是1
W =()n X X -'。

给定第一步估计量，我们定义残差ˆi i i y z εβ'=-，矩方程 ˆˆˆ(,,,)i i i i i i g
x g y z x εβ==，构造 11()ˆˆn
n n i i n
g g g β
===∑ ˆˆi i n g g
g *=- 定义1
1
1111ˆW ˆi n n n i i n n i i i g g
n n g g g g --*==*⎛⎫⎛⎫
'''==- ⎪ ⎪⎝⎭⎝⎭
∑∑)) 那么有-10W =W p
n −−
→Ω，使用W n 得到的GMM 估计量是渐进有效的。

一个替代性选择是1
11ˆW ˆi n n i i g n g -=⎛⎫
'= ⎪⎝⎭
∑，使用非中心化的矩条件。

因为0i Eg =，这两种估计量在正确的假设下是渐进相等的。

然而，Alastair Hall (2000) 指出非中心化估计量是较
差的选择。

当构造假设检验，备择假设下的矩条件是无效的，如0i Eg ≠，所以非中心化的估
计量包含着偏误项，以及对检验势的影响。

对于线性模型，有效的GMM 估计量可以这样计算，首先，设置1
W =()n X X -'
，使用此加权矩阵估计ˆβ
，构造残差ˆˆi i i y z εβ'=-，矩方程ˆˆˆ(,,,)i i i i i i g x g y z x εβ==。

则GMM 估计为
()
1
11ˆ()()n n n n
Z X ng g X Z Z X g ng g X y g g g β
---''''''=--'')
))) 在多数例子中，当我们说“GMM ”时，其实我们就意味着是“有效GMM ”。

当有效估
计量比较容易计算时，有一点需要注意就是我们在使用非有效的GMM 估计量。

ˆβ
的渐进方差估计量为， ()11ˆ()n n V
n Z X ng g X Z g g --'''=-')) 刚才给出的两阶段GMM 估计的一个重要替代估计方法，是L. Hansen, Heaton and Yaron
(1996)的continuously-updated GMM 估计。

即我们让加权矩阵是β的函数，则矩条件方程是，
1
11()()()()()n n i n i i J n g n g g g βββββ-*=*⎛⎫
''= ⎪⎝⎭
∑
()()()i n i g g g βββ*=-
定理3
11ˆ)(0,())d N G G ββ--'-−−→Ω，1(())i i E g g -'Ω=，
()i g G E ββ⎛∂⎫= ⎪'∂⎝⎭。

ˆβ的方差由11()G G --'Ω)))估计，1i i
i n g g -**'Ω=∑)))，1()i
i g G n ββ-∂='∂∑)
)。

过度识别检验
p
n i Eg g −−→，n g 可以用来评价0i Eg =假设是否正确。

根据有效加权矩阵n W 的表达
式，参数估计量的准则函数是，
21()n n n n n n
n J n W n g g ng g g g g g -''''==-))
过度识别的J 检验是，2ˆ()d l k J J βχ-=−−→。