第六章 多重共线性

x
2 1i
x ( x1i x2i )
2 2i
2 2 x2 i
2

1 ( x1i x2i ) 2
2 / x12i
2 2 x x 1i 2i
2 恰为 X 与 X 的线性相关系数的平方 r 1 2 x x
2 1i 2 2i
( x1i x 2i ) 2
1 2 2 x 1 r 1i
如果某两个或多个解释变量之间出现了相关 性，则称为多重共线性(Multi-collinearity)。
（一）多重共线性的类型
如果存在 c1X1i+c2X2i+…+ + +ckXki=0 i=1,2,…, =1 2 n 其中 : ci不全为 0 ，则称为解释变量间存在完全共线 性（perfect multicollinearity）。 如果存在 c1X1i+c2X2i+…+ckXki+vi=0 i=1,2,…,n 其中 ci 不全为 0 ， vi 为随机误差项，则称为近似线性相 关的，或近似共线性（ approximate multicollinearity ）。
2
由于 r2 1，故 故 1/(11/(1 r2 )1
当完全不共线时,
r2
=0
当近似共线时, 0< r2 <1
2 1 ˆ ) var( 1 2 2 2 x 1 r x 1i 1i
ˆ ) 2 / x2 var( 1i 1
2
多 共线性使 数估计值 方 增大 1/(1-r 多重共线性使参数估计值的方差增大， ( 2)为 方差膨胀因子(Variance Inflation Factor, VIF)
5. 模型的预测功能失效
变大的方差容易使参数的置信区间明显变大，使预测失 去意义。
注意
除非是完全共线性，多重共线性并不意味着任何基本假
设的违背； 因此，即使出现较高程度的多重共线性，OLS估计量仍 具有线性性等良好的统计性质。 问题在于，即使OLS法仍是最好的估计方法，它却不是 “完美的”，尤其是在统计推断上无法给出真正有用的信 息。
二、实际经济问题中的多重共线性
一般地，产生多重共线性的主要原因有以下三个方面： （1）经济变量相关的共同趋势 时间序列样本：经济繁荣时期，各基本经济变量（收 入 消费 投资 价格）都趋于增长 衰退时期 又同 入、消费、投资、价格）都趋于增长；衰退时期，又同 时趋于下降。 横截面数据：生产函数中，资本投入与劳动力投入往往 出现高度相关情况，大企业二者都大，小企业都小。
第六章
多重共线性
一、多重共线性的概念 二 实际经济问题中的多重共线性 二、实际经济问题中的多重共线性 三、多重共线性的后果 四 多重共线性的检验 四、多重共线性的检验 五、多重共线性的修正方法 六、案例
一、多重共线性的概念
对于模型 Yi=0+1X1i+2X2i++kXki+i i=1,2,…,n i=1 2 n 其基本假设之一是解释变量是互相独立的。
2 1 ˆ Var ( ) ( X X)
由于|X’X|0，引起 ( XX) 1 主对角线元素较大， 使参数估计值的方差增大 OLS参数估计量的假设检 使参数估计值的方差增大， 验失效。
仍以二元线性模型 y=1x1+2x2+ 为例:
ˆ ) 2 ( X X ) 1 var( 1 11
（2）方差膨胀因子检验
ˆ 的方差为： 多元线性回归模型， j 2 2 1 ˆ ) var( j 2 2
( X
ij
X j ) 1 Rj
( X
ij
Xj)
2
VIFj
2 其中 其中， X j 关于其他解释变量辅助回归模 Rj 为 型的判定系数。 一般当VIF 10 ，认为模型存在较严重的多 重共线性。
具体可进一步对上述回归方程作F检验：
构造如下F统计量 R2 j . /( k 2) Fj ~ F (k 2, n k 1) 2 (1 R j . ) /( n k 1) 式中： R 2 为第j个解释变量对其他解释变量的回归 j 2 R 方程的决定系数，若存在较强的共线性，则j 较大 (1 R 2 且接近于1，这时 较小，从而 的值较大。 Fj j) 因此，给定显著性水平，计算F值，并与相应的临 界值比较，来判定是否存在相关性。
整理可得：
log Y log K log A log L log K Y L log log A log K K 最后这个函数相当于两变量线性回归模型，当 然不会有多重共线性问题。
3、逐步回归法
以Y为被解释变量，逐个引入解释变量，构成回归模型， 进行模型估计。 根据拟合优度的变化决定新引入的变量是否应该保留。 如果拟合优度变化显著，且回归系数的t检验在统计 上是显著的，则在模型中可以保留该解释变量； 如果拟合优度变化很不显著，且对其他回归系数的检 如果拟合优度变化很不显著 且对其他回归系数的检 验没有什么影响，则应从模型中剔除该变量； 如果拟合优度发生变化，且对其他回归系数显著性也 如 拟合优度发生变化 对其他 归系数 著性也 有影响，则应找出与其相关的解释变量，保留贡献较大的那 个。
2.
判明存在多重共线性的范围
如果存在多重共线性，需进一步确定究竟由哪些 变量引起。 变量引起 (1) 判定系数检验法 使模型中每一个解释变量分别以其余解释变量为 解释变量进行回归，并计算相应的拟合优度 R 2 。 如果某一辅助回归: Xji=1X1i+2X2i+LXLi 的判定系数较大 说明Xj与其他X间存在共线性。 的判定系数较大，说明 间存在共线性
2、近似或者不完全多重共线性的情形
ˆ 145.37 2.7975X 0.3191X Y i 2i 4i se (120.06) (0.8122) (0.4003) t =(1.2107) (1 2107) (-3.4444) ( 3 4444) (-0.7971) ( 0 7971)
（3）样本资料的限制
由于完全符合理论模型所要求的样本数据较难收 集 特定样本可能存在某种程度的多重共线性 集，特定样本可能存在某种程度的多重共线性。 一般经验： 时间序列数据样本：简单线性模型，往往存在 多重共线性。 截面数据样本：问题不那么严重，但多重共线 性仍然是存在的。 性仍然是存在的
三、多重共线性的后果
四、多重共线性的检验
多重共线性表现为解释变量之间具有相关关 系，所以用于多重共线性的检验方法主要是统 计方法：如判定系数检验法、逐步回归检验法 等 多重共线性检验的任务是： 等。 多重共线性检验的任务是 （1）检验多重共线性的严重程度； （ ）检验多重共线性的严重程度； （2）估计多重共线性的范围，即判断哪些变 量之间存在共线性。 量之间存在共线性
1.
检验多重共线性严重程度
(1)对两个解释变量的模型，采用简单相关系数法 求出X1与X2的简单相关系数r，若 若|r|接近1，则说明 则说明 两变量存在较强的多重共线性。 (2)对多个解释变量的模型，采用综合统计检验法 若 在OLS法下：R2与F值较大，但t检验值较小， 说明各解释变量对Y的联合线性作用显著，但各解 释变量间存在共线性而使得它们对Y的独立作用不 能分辨，故t检验不显著。
1 、 2 已经失去了应有的经济含义，于是经常表现出 似乎反常的现象 例如1本来应该是正的，结果恰是负的。 似乎反常的现象：例如 本来应该是正的 结果恰是负的
4. 变量的显著性检验失去意义
存在多重共线性时 参数估计值的方差与标准差变大 容易使通过样本计算的t值小于临界值， 误导作出参数为0的推断 可能将重要的解释变量排除在模型之外
如果两个解释变量完全相关，如x2= x1，则
y (1 2 )x1
这时 只能确定综合参数1+2的估计值： 这时，只能确定综合参数 的估计值
x1i yi 1 2 2 x 1i
2. 近似共线性下OLS估计量方差增大
近似共线性下，可以得到OLS参数估计量， 但参数估计量方差的表达式为
一个数值例子：对圣诞树装饰品的需求
1、完全多重共线性的情形
估计结果如下
ˆ 49.667 2.1576 X Y i 2i se (0.746) (0.1203) t =(66.538) =(66 538) (-17.935) ( 17 935) R 0.9757 0 9757
2
结论：当解释变量之间完全线性相关（完全多 重共线性）时，不可能获得所有参数的唯一估 计值，也不能根据样本进行统计推断。
结果的比较： 能否估计； 模型参数的预期；
R2 0.9778 0 9778
近似或者不完全多重共线性的情形
图6-2 工资 X 4 和价格 X 2
关系
在矩阵表示的线性回归模型 Y=X+中，完全共线性 指：秩(X)<k+1，即 X 11 X 21 X k 1 1 1 X 12 X 22 X k 2 X 1 X X X 1n 2n k kn 中，至少有一列向量可由其他列向量（不包括第一列）线 性表出。 性表出 如：X2= X1，则X2对Y的作用可由X1代替。
五、多重共线性的修正方法
如果模型被检验证明存在多重共线性，则需要发 展新的方法估计模型，最常用的方法有四种。
1. 排除引起共线性的变量
找出引起多重共线性的解释变量，将它排除。一般 删减掉一些与其他解释变量意义相近的变量 常可起 删减掉一些与其他解释变量意义相近的变量，常可起 到有效降低多重共线性的作用。 例如，资产和流动资产 注意：但是如果我们把模型中重要的解释变量从模 型中剔除掉，可能导致所估计模型的参数是有偏的， 即“模型设定误差”。此外，剩余解释变量参数的经 济含义和数值都发生了变化。