第7章_模型选择：标准与检验

第7章 模型选择模型选择：：标准与检验标准与检验

本章主要讲授以下内容：

7.1 “好的”模型具有的性质 7.2 设定误差的类型

7.3 设定误差的诊断与检验

7.1 7.1 ““好的好的””模型具有的性质模型具有的性质

著名的计量经济学家哈维（A. C. Harvey ）列出了模型判断的一些标准：

（1）简约性（parsimony ）。即模型应尽可能地简单。

（2）可识别性（identifiability ）。对于给定的一组数据，估计的参数值必须是惟一的。

（3）拟合优度（goodness of fit ）较好。拟合优度R 2（矫正的拟合优度2

R ）越高，模型越好。 （4）理论的一致性（theoretical consistency ）。即回归结果要与理论分析结果一致。 （5）预测能力（predictive power ）。即预测值与实际经验所验证的结果越接近越好。

7.2 7.2 设定误差的类型设定误差的类型设定误差的类型

模型设定误差主要有遗漏相关变量、包括不必要的变量、采取了不正确的函数形式和测量误差

等方面，下面来具体进行分析。 1．遗漏相关变量遗漏相关变量：：“过低拟合过低拟合””模型

考虑如下回归模型：

i i i i X B X B B Y μ+++=33221 （1）

其中，Y=婴儿死亡率，X 2=人均GNP ，X 3=女性识字率。

假如采取了下列错误的估计模型：

i i i X A A Y ν++=221 （2）

由于遗漏了变量X 3，可能会产生如下后果：

（1）如果遗漏变量X 3与模型中变量X 2相关，则a 1和a 2是有偏的。 事实上，可以证明：

32322)(X X b B B a E +=

)()(2331132X b X B B a E X X ?+=

其中，32X X b 是遗漏变量X 3对模型中变量X 2回归的斜率系数。

（2）a 1和a 2也是不一致的，即无论样本容量有多大，偏差也不会消失。 （3）如果X 3与X 2不相关，则32X X b 为0。这时a 1仍然是有偏的。 （4）根据错误模型得到的误差方差是真实误差方差的有偏估计量。 （5）通常估计的a 2的方差是真实估计量b 2方差的有偏估计量。

∑∑?+

=222

32322)2()var()][var(i

i x n x B b a E

（6）通常的置信区间和假设检验过程不再可靠。 例：婴儿死亡率的决定因素 正确模型的回归结果是：

i i se i FLR PGNP CM )

2099.0()

0019.0()

5932.11(2316.20056.06416.263??==

7077.02=R

错误模型的回归结果是：

i se i PGNP CM )

0032.0()

8455.9(0114.04244.157?==

1662.02=R

显然，两个模型存在较大的不同。 2．包括不必要的变量包括不必要的变量：：“过度拟合过度拟合””模型

如果模型中包括了不相关变量，会提高R 2的值（若增加变量系数的t 值大于1，则2R 也会增加），进而提高模型的预测能力。但它会导致不相关变量偏差。

假设正确的模型为：

i i i X B B Y μ++=221 （3）

但研究者却加入了多余的变量X 3，即将模型设置为：

i i i i X A X A A Y ν+++=33221 （4）

这样，设定错误的模型会出现下列后果：

（1）“不正确”模型的OLS 估计量是无偏的（也是一致的），即11)(B a E =，22)(B a E =，

0)(3=a E 。

（2）从过度拟合的模型中得到的σ2的估计量是正确的。

（3）建立在t 检验和F 检验基础上的标准的置信区间和假设检验仍然是有效的。

（4）过度拟合方程中的估计量a 1、a 2的方差，比真实模型估计量b 的方差大。即估计量不是有效的。

从上面的讨论似乎可以得出这样一个结论：包括不相关变量比遗漏相关变量要好。但是，增加不必要的变量，会损失估计量的有效性，也可能会导致多重共线性问题，更不用说对自由度的消耗了。

3．采取了不正确的函数形式

考虑如下两种模型设定：

i i i i X B X B B Y μ+++=33221 i i i i X A X A A Y ν+++=33221ln ln ln

例：利用美国进口货物支出（Y ）与个人可支配收入（X ）数据，得出下列两个回归结果：

3405

.233;9607.0;9648.00095.195756.04651.751?2

2)

4316.5()

6846.8()

6271.5(===?+?=?=

F R R Time X Y t

t t

模型中时间代表了趋势变量，开始年取1，依次取2、3、……，等等。

2761

.254;9638.0;9676.00458.0ln 6649.30135.2222)

3176.2()

1025.5()

1720.4(===?+?=??=

F R R Time X nY l t t t

上述模型哪一个更好，后面再介绍检验方法。 4．测量误差

（1）被解释变量中的测量误差

如果仅仅是被解释变量中的度量误差，则导致如下后果： ①OLS 估计量是无偏的。

②OLS 估计量的方差也是无偏的。

③估计量的估计方差比没有测量误差时的大。因为被解释变量中的误差加入到了误差项中。 （2）解释变量中的测量误差 在这种情况下的后果如下： ①OLS 估计量是有偏的。

②OLS 估计量也是不一致的。即使样本容量足够大，OLS 估计量仍然是有偏的。

显然，解释变量中的测量误差是一个严重问题。当然，如果被解释变量和解释变量中都存在测量误差，则问题更为严重。

（3）解释变量中存在测量误差的解决方法：工具（替代）变量法

具有如下特征的变量为工具变量：与原始的变量高度相关，但与测量误差和回归误差项无关。

7.3 7.3 设定误差的诊断与检验设定误差的诊断与检验设定误差的诊断与检验

1．诊断非相关变量的存在

假定模型包括下列变量：

i i i i i X B X B X B B Y μ++++=4433221

假定模型中的X 4无法确定它是否属于模型。可以通过下列方法进行检验：

（1）t 检验 如果X 4系数t 检验的结果显著，则该变量可能属于模型。否则，可能属于多余变量。

（2）F 检验 比如，检验X 3和X 4是否是与模型相关的变量。用有约束的最小二乘法，检验假设H 0:B 3=B 4=0。

),(~)

/()1(/)(2

22k n m F k n R m R R F ur r ur ????= m 为约束个数，k 为解释变量个数。

如果F 统计量较大，则拒绝零假设H 0，即两变量X 3和X 4对被解释变量有很强的影响，两者是模型的相关变量。

2．对遗漏变量和不正确函数形式的检验

假如预期工资变化率（Y ）与失业率（X ）负相关，但下列哪种函数关系正确呢？

t t t X B B Y μ++=21 B 2<0

t t t X B B Y μ++=ln ln 21 B 2<0

t t

t X B B Y μ++=1

2

1 B 2>0 首先根据理论或调查以及先前的经验，建立一个自认为抓住了问题本质的模型。然后，对模型进行检验：

（1）判定系数情况（R 2和2

R ）。

（2）估计的t 值。

（3）估计系数的符号。

如果上述检验结果并不令人满意，则对残差进行检验。如果残差显示出一些系统模型，则可能是排除了某些变量。

3．在线性和对数线性模型之间选择在线性和对数线性模型之间选择：：MWD 检验（J. Mackinnon, H. White, and R. Davidson ）

H 0：线性模型：Y 是X 的线性函数

H 1：对数线性模型：lnY 是X 或lnX 的线性函数 MWD 检验步骤如下：

（1）估计线性模型，得到Y 的估计值，i

Y ?。 （2）估计线性对数模型，得到lnY 的估计值，i 。

（3）求)(?ln 1i

i i Y Y Z ?=。 （4）做Y 对X 和Z 1i 的回归。

如果根据t 检验Z 1i 的系数是统计显著的，则拒绝H 0。

（5）求i

i i Y Y anti Z ?)log(2?=。 （6）做Y 对X 或logX 和Z 2i 的回归。

如果Z 2i 的系数是统计显著的，则拒绝H 1。 4．回归误差设定检验回归误差设定检验：：RESET （拉姆齐检验拉姆齐检验））

为了诊断出遗漏变量或不正确的函数形式，拉姆齐建立了模型设定检验的一般方法。 零假设H 0：原模型设定正确 备择假设H 1：原模型设定不正确 假设原模型形式为：

i i i X B B Y μ++=21

RESET 检验步骤如下：

（1）根据原模型估计出Y 值，i

Y ?。 （2）回到模型，把i Y ?的高次幂2

?i Y ，3

?i Y 等纳入模型，以获取残差和i

Y ?之间的系统关系。即考虑如下新模型：

i i i

i i Y B Y B X B B Y ν++++=342321??

（3）令从新方程得到的R 2为2new R ，从原方程得到的R 2为2

old R 。然后利用下式进行检验：

)

/()1(/)(2

22新模型中参数个数新增回归量个数???=n R R R F new old new （4）如果在所选显著水平下计算的F 值是统计显著的，则认为原始模型是设定错误的。