内生性问题

内生性问题与工具变量和两阶段最小二乘

一、背景

虽然在OLS 的大样本性质中，我们放宽了强外生性的假定，用弱外生条件来进行替代，即()0E x ε'=。但是，在实际的问题中，弱外生性的条件往往也是不容易满足的。也就是说，变量的内生性问题总是不可避免的。内生性引起的问题主要是引起参数估计的不一致。可以说，内生性问题是在实际应用中最经常遇到的问题。这个部分讨论的就是如何解决由内生性问题引起的参数估计的不一致。

二、知识要点

1、引起内生性的原因及其对参数估计的影响

2、代理变量法解决内生性问题

3、工具变量法和2SLS 的性质 三、要点细纲

1、引起内生性的原因及其对参数估计的影响 （1）模型设定偏误（遗漏变量）

这主要是因为实际的问题中，一个变量往往受到许多变量的影响，在实际建模过程中无法将解释变量全部列出。在这样的情况下，遗漏的变量的影响就被纳入了误差项中，在该遗漏变量与其他解释变量相关的情况下，就引起了内生性问题。即()0E x ε'≠。

（2）测量误差

关于测量误差引起内生性的问题要基于测量误差的假设。测量误差可能是对被解释变量y 的测量误差，也可能是由于对解释变量x 的测量误差。这两种情况引发的结果是不一样的。

A. 被解释变量y 的测量误差。

不妨假设y 的真实值是*y ，测量值为y ，则可以将测量误差表示成：

*0e y y =-。假设理论的回归方程为：

*011k k y x x βββε=+++

将测量误差方程带入得到：

0110k k y x x e βββε=++++

011k k x x v βββ=+++

其中0v e ε=+是实际回归方程的残差。显然，由于y 的测量误差0e 是与i x 相互独立的，所以实际回归方程的残差v 也与各解释变量相互独立（无关）。外生性条件满足。

B. 解释变量x 的测量误差

假设在回归式011k k y x x βββε=+++ 中，测量误差产生于k x ，即实际回归式为：

*011k k y x x βββε=+++

并有*

k

k k e x x =-

如果假设cov(,)0k k x e =，则将测量误差带入方程得到：

011k k k k y x x e βββεβ=++++ 011k k x x v βββ=+++

显然，外生性条件满足。

如果假设*

*2cov(,)0cov(,)cov(,)k k k k k k k e x e x e x e e σ=?=+=。该假设条件

称为Classical error-in-variables （CEV ）假定。

由上述方程可以看出，此时测量误差会引起内生性问题。 ( 3) 双向交互影响（或者同时受其他变量的影响）

这种情况引起的内生性问题在现实中最为常见。其基本的原理可以阐述为，被解释变量y 和解释变量x 之间存在一个交互影响的过程。x 的数值大小会引起

y 取值的变换，但同时y 的变换又会反过来对x 构成影响。这样，在如下的回归

方程中：

011k k y x x βββε=+++

如果残差项ε的冲击影响了y 的取值，而这样的影响会通过y 传导到x 上，

从而造成了x 和残差项ε的相关。也就是引起了内生性问题。

这里举几个简单、但经常遇到的例子说明。 例1：金融发展与经济增长

例2：外商直接投资FDI 与经济增长 例3：犯罪率与警备投入

2、代理变量(Proxy)法解决内生性问题 考虑如下的回归方程

011k k y x x q βββγε=++++

其中，q 是不可观测的变量（遗漏），假定z 是对q 的一个代理，z 必须满足下列条件：

（1）(|,,)(|,)E y q z E y q =x x （2）(|,)(|)E q z E q z =x

01q z r θθ=++ 代理变量的缺点：

A 、当有交互效应时会引起异方差问题

B 、在实际问题中，通常对遗漏的变量是难以意识到的。

C 、约束条件太强。

3、工具变量法和2SLS 的性质

这里先讨论简单工具变量法，两阶段最小二乘2SLS 是简单工具变量法的一个扩展。

关于工具变量的大样本假设

Ⅰ、lim p 'zz Z Z =Q n

是一个有限、可逆的L L ?维正定矩阵。

Ⅱ、lim p 'zx Z X =Q n 是一个有限的L K ?的矩阵，并且该矩阵的秩是K 。

Ⅲ、lim p 'Z ε=0n （1）简单工具变量 考虑如下一个回归方程：

011k k y x x βββε=++++

现在假设k x 是内生的，也就是说，k x 与残差项ε相关。在这样的情况下，得到的参数估计值是有偏的。

再次强调，此时参数估计的偏差不仅仅存在于参数k β上，而是所有的参数估计值都会受到影响。看普通最小二乘的结果：

[][]1

1

lim ()()()()p b E E E E β--''''==+x x x y x x x ε

其中，不妨设2k =，则有：

()2

11121

222212x x x x x x x x x x ??

??'==

? ???

??x x ，12x x εεε??'= ???

x []1

1112121

22()lim ()q q X X p E x x n q q --??'??

'== ???????，1122lim x X p x n εε

ε'??

??= ?

?????

则可以看出：1112111211112221222122221122x q x q x q q x q x q x q q εεεεεε??

??+??= ? ? ?+?????? 显然，当

现在回到一般的回归方程：

011k k y x x βββεε=++++=+x β

仍然假设k x 是内生的，如果可以找到一个工具变量1z ，使得1z 满足如下两条假定：

Ⅰ、1()0k E z x ≠ Ⅱ、1()0E z ε=

那么，就可以定义1211(,,,,)k x x x z -=z ，方程两边左乘'z ，同取期望，得到参数估计值，使得：

[][]11

lim ()()()()p E E E E β--''''==+IV b z x z y z x z ε

但是，这样的简单工具变量得到的估计并不是无偏的（特殊的得到无偏估计的情况是：k x 与其他外生变量无关，只和1z 相关）。正确的做法是，将内生变量k x 对所有的外生变量进行投影（回归），也就是按照如下的公式计算：

011111k k k k x x x z r αααθ--=+++++

只要系数0θ≠，该工具变量就是有效的。也就是说，必须保证1z 与k x 是在扣除了其他外生变量的影响下，仍然是相关的！这样，根据回归得到了k x 的估计值

011111

?????k k k x x x z αααθ--=++++ 用估计出的?k x

代替原来的k x ，进行OLS 估计，就可以得到产生的无偏估计。这实际上是将内生变量分成了内生部分和外生部分，通过投影得到了外生的部分，然后进入回归方程。

（2）多工具变量和两阶段最小二乘（2SLS ）

多工具变量是简单工具变量的一个扩展。当我们可以找到的工具变量不只一个的时候，我们可以提高对内生变量的拟合优度。得到一个更好的估计值。另外一方面，如果一个多元回归方程中含有的内生变量个数不只一个，那么我们就必须分别找到它们各自的工具变量。总得来说，需要注意的是，工具变量的个数必须大于方程中内生变量的个数。每一个内生变量，都必须是对所有的外生变量进行投影，这样得到的参数估计才是一致的。

下面用一个具体的例子来说明。为了方便，我们仍然假设回归方程中只含有一个内生变量k x

011k k y x x βββεε=++++=+x β

现在假设我们可以找到一组外生变量12(,,,)L z z z ，正确的做法是： （1）将k x 对所有外生变量进行回归：

011111k k k L k k x x x z z r r αααθθ--=+++++++=+z α

其中111(,,,,)k L x x z z -=z 于是可以得到：

[]1

?()()k k x

E E x -''=z z z z 同理，对每一个外生的i x 进行投影，也就是如下的回归：

011111i k k L k k x x x z z r r αααθθ--=+++++++=+z α ，可以得到如

下的结果：

[]1

?()()i k i x

E E x x -''==z z z z （2）于是定义1212?????(,,)(,,)k k x x x x x x ==x

[]1

?()()E E -'''==x

z z z z x z Π ?????? ?= ? ???12k x

x X x 得到：

?''==-1z

X Z(Z Z)Z X P X 111?????()()[()()][()]()()---''''''===2SLS z z z

b X X X Y P X P X P X Y X X X Y 带入?''=-1X

Z(Z Z)Z X ，得到： 1???()()[()()][]-''''''''''==-1-1-12SLS b X

X X Y X Z(Z Z)Z Z(Z Z)Z X X Z(Z Z)Z Y

[()][]''''''=-1-1X Z(Z Z)Z X X Z(Z Z)Z Y

（3）Proxy 和IV 的区别

Proxy 方法是将不可观测的变量用近似的变量进行替代，也就是说，是在残差项中提取出有用的信息，但是并没有对现有的解释变量进行处理。

而IV 方法恰恰相反，它是对现有回归式中的内生变量进行的处理，找到另外一个变量对其进行“替代”，但是对于方程的残差项没有进行任何的处理。

IV 方法对工具变量有严格的外生假定条件，而Proxy 不一定成立。 （4）两阶段最小二乘的性质 ①一致性

[()][]''''''=-1-12SLS b X Z(Z Z)Z X X Z(Z Z)Z Y

[()][]''''''=+-1-1βX Z(Z Z)Z X X Z(Z Z)Z ε lim[()][]p ''''''-1-1X Z(Z Z)Z X X Z(Z Z)Z ε

lim p n n n n n n ????''''''????????????=???? ??? ? ??? ?????????????????????

-1-1X Z Z Z Z X X Z Z Z Z ε

()()

()()()lim p n '????''== ?????

-1

-1xz zz xz xz zz Z εQ Q Q Q Q 0

所以，

lim p =2SLS b β

但是，如果在第一阶段的回归中没有包括方程中原有的外生变量，那么，一致性就不能得到保证。假设有如下回归方程

11121y y u α=++1z δ

其中1z 是11L ?的外生变量，2y 是内生变量。并且有21L ?维的工具变量

2z 。

11121y y u α=++1z δ

如果只是将2y 对2z 进行投影，得到如下结果：

1222222?()()y

Z Z Z Z y -''= 22?y y

v =+ 带入原式得到

111211?()y y

u v αα=+++1z δ 令()2?y =1

x z ，1α??= ???

1δβ

由OLS 得到参数估计结果如下所示：

11?()()--''=+=+β

βX X Xu βX X Xu 11

11211()()?()v u v u αα-'+??'=+ ?+??

Z βX X y

因为回归中没有扣除1z 的影响，所以一般来说，cov(,)0v ≠1z ，从而造成参数估计的有偏。

②有效性

2SLS 在第一阶段进行回归得到的结果如下：

[]1

?()()E E -'''==x

z z z z x z Π

假设有另外一个关于x 的无偏投影：

'=x

z Γ ，其相应得到的β的两阶段估计为β 。显然有如下两个结论成立：

21???)][()]Asy E σ-'-=ββ

x x

211)][()][()][()]Asy E E E σ--'''-=ββ

x x x x x x

要证明?β

的方差最小，只有证明?)])]Asy Asy ---ββββ 是一个正定的矩阵，也就是证明：1??[()][()][()][()]E E E E -''''-x

x x x x x x x 是正定矩阵。 我们有?r =+x x

，因此有： ()0()()()E r E r E r E r ''''''=?===z x

Γz Γz 0 进而有：

??()[()]()E E r E '''=+=x

x x x x x 1??[()][()][()][()]E E E E -''''-x

x x x x x x x 1??????[()][()][()][()]()E E E E E -'''''=-=x

x x x x x x x s s 其中，1???[()]()E E ''=-s

x-x x x x x 是?x 对x 回归的残差。显然，??()E '>s s 0。问题得证。

四、思考题

1、阐述引起内生性的原因及其对参数估计的影响。

2、在两阶段最小二乘中，如果在第一阶段的回归中没有包括原方程中所有的外生变量，会引起参数估计的什么问题，请举例说明。

3、证明在第一阶段回归中将内生变量对所有外生变量进行投影后，利用简

单工具变量得到的参数估计值?β具有有效性。 小结

工具变量进行两阶段最小二乘估计的具体步骤

设有模型：0112314t t t t t gEMP gMIN gPOP gGDP gGDP βββββμ=+++++ 认为gMIN 可以作为gMIN 1t 的工具变量使用。

第一，gMIN 1t 对所有的外生变量进行回归，即建立如下的回归方程：

1012314t t t t t t gMIN gMIN gPOP gGDP gGDP e ααααα=+++++

若系数1α的t 值显著，并且方程的整体拟合程度较好（F 统计量值大于30），则该工具变量是一个有效的工具变量，可以由上式得到1t gMIN 的估计值 1t gMIN 。

第二，将得到的估计值 1gMIN 带入原方程进行回归，即建立回归方程： 0112314t t t t t t

gEMP gMIN gPOP gGDP gGDP βββββμ=+++++ 就可以得到方程参数的无偏估计。 设1(,,,)gPOP gGDP gGDP gMIN =z

定义 11?(,,,)gPOP gGDP gGDP gMIN =x ，且有?????? ?= ? ???

12k x

x X x 则：?''==-1

z X

Z(Z Z)Z X P X

111?????()()[()()][()]()()---''''''===2SLS z z z

b X X X Y P X P X P X Y X X X Y 带入?''=-1

X

Z(Z Z)Z X ，得到：

1???()()[()()][]-''''''''''==-1-1-12SLS b X

X X Y X Z(Z Z)Z Z(Z Z)Z X X Z(Z Z)Z Y

[()][]''''''=-1-1X Z(Z Z)Z X X Z(Z Z)Z Y