最新5广义矩估计汇总

5广义矩估计第1章 广义矩估计1.1 矩估计1.1.1 总体矩与样本矩设总体X 的可能分布族为(){},,F x θθ∈Θ，其中来自参数空间Θ的()12,,,k θθθ=θ是待估计的未知参数。

假定总体分布的m 阶矩存在，则总体分布的k 阶原点矩和k 阶中心矩为()(),1kkk EX x dF x k m α+∝-∝=≤≤⎰θθ 1()[()]()[()],1kk k E X E x x E x dF x k m μ+∝-∝-=-≤≤⎰θθ 2两种常见的情况是一阶原点矩和二阶中心矩：()E X μ= 32222()[()]()Var X E X E X μμσ=-=- 4一阶原点矩表示变量的期望值，二阶中心矩表示变量的方差。

对于样本12(,,,)n X X X =X ，其k 阶原点矩是：11n kk i i m X n ==∑（1k m ≤≤） 5当k =1时，m 1表示X 的样本均值。

X 的k 阶中心矩是：()11nk kii B X X n =-∑（1k m ≤≤） 6 当k =2时，B 2表示X 的样本方差。

1.1.2 矩估计方法矩方法（moment method ）是一种古老的估计方法。

其基本思想是：在随机抽样中，样本统计量将依概率收敛于某个常数。

这个常数又是分布中未知参数的一个函数。

总体分布的k 阶矩为()12,,,K θθθ=θ的函数。

根据大数定理，样本矩依概率收敛于总体矩。

因此，可以用样本矩作为总体矩的估计，即令：()12,,,1,2,,k K km k K αθθθ==即：()11,1,2,,n kki i x dF x X k K n +∝-∝= = =∑∑θ 7上式确定了包含K 个未知参数()12,,,K θθθ=θ的K 个方程式，求解上式所构成的方程组就可以得到()12,,,K θθθ=θ的一组解()12ˆˆˆˆ,,,k θθθ=⋯θ。

因为m k 是随机变量，故解得的ˆθ也是随机变量。

这种参数估计方法称为矩方法，()12ˆˆˆˆ,,,kθθθ=⋯θ即是()12,,,K θθθ=θ的矩估计量。

定理：X 的分布函数F (X )存在2ν阶矩，则对样本的ν阶原点矩m v ，则矩的期望和方差为：[]E m ννα=，[]()221Var m nννναα=- 8 证明：[]111111n n n i i i i i E m E X E X n n n ννννναα===⎡⎤⎡⎤====⎢⎥⎣⎦⎢⎥⎣⎦∑∑∑[]()22Var m Em Em ννν=-2211n i i E X n ννα=⎛⎫=-⎪ ⎪⎝⎭∑ 2222111n i ij i i j E X X X n n ννννα=≠⎛⎫⎪=+- ⎪⎝⎭∑∑∑ 2222111ni i j i i jE X E X X n n ννννα=≠⎡⎤⎡⎤=+-⎣⎦⎣⎦∑∑∑2222111ni j i i jE X E X n n νννναα=≠⎡⎤⎡⎤=+-⎣⎦⎣⎦∑∑∑ ()2222111n n nnνννααα=+-- 2211nnνναα=-。

矩方法的一般步骤：Step1：总体矩条件（population moment condition ）：(),t =m w θ0。

一般情况下，矩条件可以写为：[(,)]t E f =w θ0。

给定观测样本12(,,,)T y y y ，总体矩无法计算。

但可以计算总体矩条件对应的样本矩条件。

Step2：样本矩条件（sample moment condition ）：()ˆ,t =mw θ0。

一般情况下，矩条件可以写为：11(,)Tt t f T ==∑w θ0 根据大数定理，样本矩依概率收敛于总体矩，即()()prˆ,,t t −−→m w θm w θStep3：令样本矩=总体矩，得到矩方程，解方程（组）得到未知参数的矩估计量。

在很多情况下，我们可以根据矩条件构建矩方程，然后求解未知参数。

一般情况下，这些矩条件都是可以直接观察到（或假定）的。

例 1.1 假定随机变量 y t 的均值()t E y μ=存在但未知，利用矩方法进行估计。

Step1：总体矩：令(),t t f y y μμ=-，则(),0t E f y μ⎡⎤=⎣⎦Step2：样本矩为：()()()1111ˆ,,0T Tt t t t t my f y y T T μμμ====-=∑∑ 根据大数定理，样本矩依概率收敛于总体矩，即()()prˆ,,t t m y E f y μμ⎡⎤−−→⎣⎦解上述方程即可得到μ的矩估计量11ˆTMM t t y T μ==∑1.1.3 矩方法的几个特例很多估计方法（比如OLS 、TSLS 等）都是矩估计的特殊形式。

1．OLS 估计例2：在回归方程中，t t t y u =+x β ，其中12(,,,)t t t Kt x x x =x ，12(,,,)'K βββ=β。

假定t u 的条件均值()|t t E u x 为0，则()()||t t t t t E y E u =+x x βx()()||t t t t E E u =+x βx x t =x β由()|0t t E u =x 和迭代期望公式可以得出：(')['()]0t t t t t E u E y =-=x x x β其对应的样本矩条件为：()()()(1)111ˆ,''T t t t t K t y T T⨯=⎡⎤=-=-=⎣⎦∑m x βx x βx y x β0 解上述方程可以得到MM 估计量：1111ˆˆ''(')T TMMt t t t OLS t t y --==⎛⎫=== ⎪⎝⎭∑∑βx x x x x xy β2． IV 估计考虑如下回归模型：1122t t t t y u =++x βx β 9其中，()121,t t t K ⨯=x x x ，x 1t 包括K 1个外生变量，但2t x 包括K 2个内生变量，即()1'0t t E u =x 10 ()2'0t t E u ≠x 11设x 2的工具变量为z 2，z 2包括K 2个工具变量，z 2满足()22,0t t Corr ≠z x 12()2,0t t Corr u =z 13（10）（13）共同构成了新的矩条件，定义()121,t t t K ⨯=z x zz 为工具变量，其中x 1t 仍然作为自身的工具变量，而z 2t 作为x 2t 的工具变量。

K=K 1+K 2个总体矩条件为：()()()1,''t t t t t t K E u E y ⨯⎡⎤= =-=⎣⎦m w θz z x β0 14相应的样本矩为：()()()(1)111ˆ,''T t t t t K t y T T⨯=⎡⎤=-=-=⎣⎦∑m w θz x βz y x β0 15 MM 估计量为：1111ˆˆ''(')T TMMt t t t IVt t y --==⎛⎫=== ⎪⎝⎭∑∑βz x z z x zy β 161.2 广义矩广义矩（Generalized Moment Method ）是由矩方法发展而来，其奠基之作是Hansen （1982）。

1.2.1 GMM 方法的引入设模型设定为：t t t y u =+x β其中，12(,,,)t t t Kt x x x =x ，12(,,,)'K βββ=β，z t 为工具变量（1⨯L ）。

令(),,t t t t y =w x z ，则L 个矩条件为：()()()1,''t t t t t t L E u E y ⨯⎡⎤==-=⎣⎦m w θz z x β0 17即：()()''E E =z x βz y对应的样本矩条件为：()()()1111ˆ,''T t t t t L t y T T ⨯=⎡⎤=-=-=⎣⎦∑m w θz x βz y x β0 18 从上式可以看出，(1) L < K ，即工具变量的个数小于未知参数的个数时，矩条件方程()ˆ,0t =mw θ无解，参数不能识别。

(2) L = K ，即工具变量的个数等于未知参数的个数时，矩条件方程()ˆ,0t =mw θ唯一解，参数恰好识别。

估计量为：1111ˆ''(')T Tt t t t t t y --==⎛⎫== ⎪⎝⎭∑∑βz x z z x zy 19如前所述，OLS 估计量和IV 估计都是这种情况下的特殊形式。

(3) L > K ，即工具变量的个数大于未知参数的个数时，采用不同的矩方程可以得到不同的解，因此，矩方程具有多个解。

1.2.2 秩条件与阶条件从（17）式得到的矩条件方程为： [(')](')E E =z x βz y可以看出，要使得β有解，[(')][('')]Rank E Rank E =z x z x z y 。

如果[(')]Rank E K =z x ，则存在唯一解；如果[(')]Rank E K <z x ，则无解；[(')]Rank E K >z x ，则存在多个解。

要得到β的唯一解，矩阵(')z x 的转置必须存在。

而(')z x 为L K ⨯阶矩阵，因此，β有唯一解的充分条件是[(')]Rank E K =z x ，称之为工具变量的秩条件。

秩条件(')Rank K =z x 暗含的另外一个假定是L ≥K ，即工具变量的个数大于内生解释变量的个数。

称之为工具变量的阶条件。

如果L>K ，称为过度识别；如果L=K ，则称为恰好识别。

1.2.3 GMM 估计及渐进特征当L > K 时，秩条件不成立，MM 方法存在多个解。

这时，可以采用两种方法。

其一，将多个工具变量组合成为K 个工具变量。

这即是2SLS 。

在2SLS 中的第一阶段，用每一个内生变量对L 个工具变量回归，得到K 个拟合值；然后，用这K 个拟合值作为工具变量进行LS 回归。

第二种方法即是GMM 估计。

后面将会看到，TSLS 方法是GMM 方法在同方差假定下的特例。

GMM 方法即是解决L > K 情况下的一般方法。

GMM 方法完全是根据矩条件来估计参数，因此对扰动项的分布形式没有任何假定，这一点使GMM 估计成为稳健性分析中的重要应用。

1．GMM 估计广义矩方法即是处理过度识别情况的一般方法。

首先来看一下如何将MM 估计推广到GMM 估计。

设模型为y =f(x, β)+ux 中包含K 个变量，L 个工具变量表示为z 。