第四章多重共线性
4.1 多重共线性(计量经济学)
放宽基本假定的模型
说明
• 经典多元线性模型在满足若干基本假定的条件下， 应用普通最小二乘法得到了无偏、有效且一致的 参数估计量。
• 在实际的计量经济学问题中，完全满足这些基本 假定的情况并不多见。不满足基本假定的情况， 称为基本假定违背。
• 对截面数据模型来说，违背基本假定的情形主要 包括：
•逐步回归法（Stepwise forward Regression）
– 以Y为被解释变量，逐个引入解释变量，构成回归 模型，进行模型估计。
– 根据拟合优度的变化决定新引入的变量是否独立。 • 如果拟合优度变化显著，则说明新引入的变量是 一个独立解释变量；
• 如果拟合优度变化很不显著，则说明新引入的变 量与其它变量之间存在共线性关系。
§4.1 多重共线性 Multicollinearity
一、多重共线性 二、实际经济问题中的多重共线性 三、多重共线性的后果 四、多重共线性的检验 五、克服多重共线性的方法 六、案例
一、多重共线性的概念
1、多重共线性
Yi 0 1Xi1 2 Xi2 k Xik i i 1, 2, , n
实际上：正态性假设的违背
• 李子奈（2011）：计量经济学模型方法论 – 当存在模型关系误差时，如果解释变量是随机的，随 机误差项的正态性将得不到保证。 – 当模型遗漏了显著的变量，如果遗漏的变量是非正态 的随机变量，随机误差项将不具有正态性。 – 如果待估计的模型是原模型经过函数变换得到的，随 机误差项将不再服从正态分布。 – 当模型存在被解释变量的观测误差，如果观测误差相 对于随机误差项的标准差特别大、样本长度又特别小， 随机误差项的正态性假设会导致显著性水平产生一定 程度的扭曲。 – 当模型存在解释变量观测误差时，一般情况下，随机 误差项的正态性假设都是不能成立的；只有在回归函 数是线性的，且观测误差分布是正态的特殊情形下， 随机误差项的正态性才成立。
第四章 多重共线性
2
( x2 i x3 i ) 2 x [1 2 x3 i
2 2i
2
2 2 x2 i (1 r23 )
ˆ Var( 3 ) 同样可得
2
2 2 x3 i (1 r23 )
ˆ ˆ Cov( 2 , 3 )
r23 2
2 2 2 (1 r23 ) x2 i x3 i
1 X X 21 X 31
1 X 22 X 32
1 X 2n X 3n
nX 3 X 2 i X 3 i 2 X 3 i
X 2 i
2 X 2 i X 2 i X 3 i
X 3 i n nX 2 2 X 2 i X 3 i nX 2 X 2 i 2 X 3 i nX 3 X 2 i X 3 i
其中vi为随机变量，则称解释变量X2、X3、 …、 Xk 之间存在着不完全的多重共线性。 注意：解释变量之间不存在线性关系，并非不存在 非线性关系，当解释变量之间存在非线性关 系时，并不违反古典假定。
5
二、产生多重共线性的背景
多重共线性产生的经济背景主要有几种情形：
1.经济变量之间具有相同的变化趋势。
10
n X X nX 2 nX 3 n 0
nX 2 X
2 2i
nX 3 X 2 i X 3 i
2 X 3 i
X 2 i X 3 i nX 2
2 2 X 2 i nX 2
X 2 i x2 i X 2 X 3 i x3 i X 3
nX 3
X 2 i X 3 i nX 2 X 3
这里r23是X2，X3的相关系数。
16
计量经济学第四章多重共线性
R-squared
0.989654
Adjusted R-squared 0.986955 S.E. of regression 1437.448 Sum squared resid 47523916 Log likelihood -256.7013 Durbin-Watson stat 1.654140
4
（二）不完全的多重共线性
实际中，常见的情形是解释变量之间存在不 完全的多重共线性。
对于解释变量 X 2 , X 3, X k，存在不全为0的数
1
,
2
,
，使得
k
1 2X2 3X3 ...k Xk u 0
5
（三）解释变量的关系小节
可能表现为三种情形： r为相关系数 (1) rxixj 0 ，解释变量间毫无线性关系。这时多元
Var(ˆ2 )
9
二、不完全多重共线性产生的后果
1、参数估计值的方差增大
Var( βˆ 2 ) = σ 2
1 x22i (1-
r223 )
=
σ2
1
x22i (1 - r223 )
当 r23增大时,
^
Var( 2)
也增大
10
方差膨胀因子 (Variance Inflation Factor)
17 17
2、交叉相关系数（Cross correlation）
相关系数计算的是两组样本的同期相关程 度，交叉相关则可以表示不同期之间的相关 程度。
Eviews操作： Group窗口的view/cross correlation/输入 滞后期设定/ 输出结果阅读：看是否超出2倍标准差线
18
2倍 标准 差线
1、参数估计值有很大的偶然性。 2、参数显著性检验未通过。 3、经济意义检验未通过。 4、相关系数大。
第四章多重共线性
2
x2j VIFj
注意：R2j 是多个解释变量辅助回归的多重可决系数，
而相关系数 r223只是说明两个变量的线性关系 。
（一元回归中可决系数的数值等于相关系数的平方）
17
方差扩大因子的作用
由
R2j 越大
VIFJ 1 (1 R2j ) 多重共线性越严重
VIFj越大
VIFj的大小可以反映解释变量之间存在多重共线性的严重
1 x22i (1
r223 )
2
x22i
1 (1 r223)
2
x22i
VIF2
当 r23 增大时，VIF2 增大， Var(ˆ2 ) 也会增大 ，
思考: 当 r23 0 时 Var(ˆ2) 2
x22i
(与一元回归比较)
当 r23 1 时 Var(ˆ2 )
（见前页结论） 8
三、当多重共线性严重时，甚至可能使估计
在总体中部分或全部解释变量可能没有线性关系，但是 在具体获得的样本中仍可能有共线性关系，因此多重共线 性问题本质上是一种样本现象。
正因为如此，我们无法对多重共线性问题进行统计假设 检验，只能设法评价解释变量之间多重共线性的严重程度。
5
第二节 多重共线性产生的后果
从参数估计看，在完全无多重共线性时，各解释变量都独
Kt
Kt
ln Qt ln A ln Lt ln Kt ln u
（ln Lt 与 ln Kt 有多重共线性） ln Qt ln A ln Lt ln u
Kt
Kt 22
三、截面数据与时间序列数据的结合
有时在时间序列数据中多重共线性严重的变量，在截 面数据中不一定有严重的共线性
假定前提：截面数据估计出的参数在时间序列中变化不大
多重共线性
第四章 多重共线性第一节 什么是多重共线性一、多重共线性的含义所谓多重共线性，不仅包括解释变量之间完全（精确）的线性关系，还包括解释变量之间近似的线性关系。
对于解释变量23,,,k X X X ，如果存在不全为零的数123,,,,k λλλλ ，能使得12233i i k ki X X X λλλλ++++ =0 ，（i =1,2,,n ）——即解释变量的数据矩阵的列向量组线性相关。
则称解释变量23,,,k X X X 之间存在着完全的线性关系。
用数据表示，解释变量的数据矩阵为X =213112232223111k k nnkn X X X XX X X X X ⎡⎤⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦当()r X <k 时，也说明解释变量23,,,k X X X 之间存在着完全的线性关系。
当存在完全共线性时，至少有一个变量（列向量）可以用其余的变量（列向量）线性表出。
在实际问题中，完全的共线性并不多见。
常见的情形是解释变量23,,,k X X X 之间存在不完全的共线性，这是指存在不全为零是数123,,,,k λλλλ ，使得12233λλλλ+++++ i i k ki i X X X v =0（i =1,2,,n ）其中i v 是随机变量。
这表明此时解释变量之间只是一种近似的线性关系。
二、产生多重共线性的背景1.经济变量之间具有共同的变化趋势2.模型中包含滞后变量3.利用截面数据建立模型也可能出现共线性4. 样本数据自身的原因第二节 多重共线性产生的后果完全共线性时，矩阵X X '不可逆，参数估计式ˆβ=1()X X X Y -''不存在，OLS 无法应用。
不完全的共线性时，1()X X -'也存在，可以得到参数的估计值，但是对计量经济分析可能会产生一系列影响。
一、参数估计量的无偏性依然成立不完全共线性时ˆ()E β=1()E X X X Y -''⎡⎤⎣⎦=1()()E X X X X U β-''⎡⎤+⎣⎦=β+()1()X X X E U -''=β二、参数OLS 估计值方差扩大 如二元回归模型i Y =12233i i i X X u βββ+++中的2X 与3X 为不完全的共线性时，2X 与3X 之间的相关系数23r 可由下式给出223r=2232223()x x x x∑∑∑容易证明2ˆ()Var β=222223(1)i x r σ-∑3ˆ()Var β=222323(1)ixr σ-∑随着共线性的程度增加，23r 的绝对值趋于1，两个参数估计量的方差也增大。
《计量经济学》第四章精选题及答案
《计量经济学》第四章精选题及答案第四章：多重共线性二、简答题1、导致多重共线性的原因有哪些？2、多重共线性为什么会使得模型的预测功能失效？3、如何利用辅回归模型来检验多重共线性？4、判断以下说法正确、错误，还是不确定？并简要陈述你的理由。
(1)尽管存在完全的多重共线性，OLS估计量还是最优线性无偏估计量（BLUE）。
(2)在高度多重共线性的情况下，要评价一个或者多个偏回归系数的个别显著性是不可能的。
(3)如果某一辅回归显示出较高的2R值，则必然会i存在高度的多重共线性。
(4)变量之间的相关系数较高是存在多重共线性的充分必要条件。
(5)如果回归的目的仅仅是为了预测，则变量之间存在多重共线性是无害的。
5、考虑下面的一组数据：Y -10 -8 -6 -4 -2 0 2 4 6 8 10X 1 2 3 4 5 6 7 8 9 10 11 2X 1 3 5 7 9 11 13 15 17 19 21 3如果我们用模型：12233i i i Y X X βββ=++来对以上数据进行拟合回归。
(1) 我们能得到这3个估计量吗？并说明理由。
(2) 如果不能，那么我们能否估计得到这些参数的线性组合？可以的话，写出必要的计算过程。
6、考虑以下模型：231234i i i i i Y X X X ββββμ=++++ 由于2X 和3X 是X 的函数，那么它们之间存在多重共线性。
这种说法对吗？为什么？7、在涉及时间序列数据的回归分析中，如果回归模型不仅含有解释变量的当前值，同时还含有它们的滞后值，我们把这类模型称为分布滞后模型（distributed-lag model ）。
我们考虑以下模型：12313233i t t t t tY X X X X βββββμ---=+++++ 其中Y ——消费，X ——收入，t ——时间。
该模型表示当期的消费是其现期的收入及其滞后三期的收入的线性函数。
（1） 在这一类模型中是否会存在多重共线性？为什么？（2） 如果存在多重共线性的话，应该如何解决这个问题？8、设想在模型12233i i i i Y X X βββμ=+++ 中，2X 和3X 之间的相关系数23r 为零。
第四章第二节 多重共线性产生的后果
Y E(Y ) 1 2 X2 3 X3
二元线性回归模型 Y 1 2 X 2 3 X3 u
其离差形式为： y 2 x2 3x3 u
y 2 x2 3 x3 e
2和 3 的估计式
ˆ2 (
yx2 )( x32 ) ( yx3 )( x2 x3 ) ( x22 )( x32 ) ( x2 x3 )2
x31x32 x3n xk1xk 2xkn (k1)n
y x e, xy xx xe xx ,即为正规方程组
x21x22 x2n y1 x31x32 x3n y2 xk1xk2 xkn yn
r24 0.9632 r35 0.8435 r46 0.9248
r25 0.4569 r36 0.5494 r56 0.5438
r26 0.8569
表明一些解释变量之间确实存在共线性。
***离差形式的最小二乘估计量
多元线性总体回归模型有：
Yi 1 2 X 2i 3 X 3i k X ki ui Y 1 2 X2 3 X3 k Xk Yi Y 2 ( X 2i X 2 ) 3 ( X 3i X 3 ) k ( X ki X k ) ui yi 2 x2i 3 x3i k xki ui
x22 )2
x22 )
(
yx2
) 2 ( y)( ( x22 )( 2 )
x22 )
通过上式可以看出，随着 X2、X3 共线性程度的越
高，即 愈向零靠近，从而 ˆ2 就会愈趋向于不确定
计量经济学(第四章多重共线性)
06
总结与展望
研究结论总结
多重共线性现象普遍存在于经济数据中，对计量 经济学模型的估计和解释产生了重要影响。
通过使用多种诊断方法，如相关系数矩阵、方差膨 胀因子（VIF）和条件指数（CI），可以有效地识别 多重共线性问题。
在存在多重共线性的情况下，普通最小二乘法 （OLS）估计量虽然仍然是无偏的，但其方差可能 变得很大，导致估计结果不稳定。
主成分分析法的优点
可以消除多重共线性的影响，同 时降低自变量的维度，简化模型。
岭回归法
岭回归法的基本思想
通过在损失函数中加入L2正则化项（即所有自变量的平方和），使得回归系数的估计更加稳定， 从而消除多重共线性的影响。
岭回归法的步骤
首先确定正则化参数λ的值，然后求解包含L2正则化项的损失函数最小化问题，得到岭回归系数的估 计值。
逐步回归法的优点
可以自动选择重要的自变量，同时消除多重共线性的影响。
主成分分析法
主成分分析法的基本思想
通过正交变换将原始自变量转换 为互不相关的主成分，然后选择 少数几个主成分进行回归分析。
主成分分析法的步骤
首先对原始自变量进行标准化处理， 然后计算相关系数矩阵并进行特征值 分解，得到主成分及其对应的特征向 量。最后，选择少数几个主成分作为 新的自变量进行回归分析。
岭回归法的优点
可以有效地处理多重共线性问题，同时避免过拟合现象的发生。此外，岭回归法还可以提供对所 有自变量的系数进行压缩估计的功能，使得模型更加简洁易懂。
05
实证研究与结果分
析
数据来源及预处理
数据来源
本研究采用的数据集来自于公开的统 计数据库，涵盖了多个经济指标和影 响因素的观测值。
数据预处理
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
216１７.8
8０87.1
10１5.1
１409.7
46．９
６５.9
1９9２
１０９170
26651.9
２6６3８.1
1０２8４.5
1４1５.0
1681.8
54.6
6６
１9９３
１1599３
34５60．5
34６34.4
1414３．8
2284.7
2123.2
61.2
67.32
1994
1２2７３7
2６.4
6７.48
１988
９2997
1４９2２.3
１4928.３
5７77.２
8１0．０
661.0
３1.２
66.54
１9８9
９69３4
１6917.8
16909.2
6484.0
79４.0
78６.0
３5．3
６6.５1
199
.４
1854７．9
６858．0
８5９.4
114７.5
42.4
67.2
199１
１03783
第四章-多重共线性
———————————————————————————————— 作者:
———————————————————————————————— 日期：
第四章多重共线性
一、填空题
1.在多元线性回归模型中，解释变量间呈现近似线性关系的现象为_____＿__问题,给计量经济建模带来不利影响，因此需检验和处理它。
2.理论上认为影响能源消费需求总量的因素主要有经济发展水平、收入水平、产业发展、人民生活水平提高、能源转换技术等因素。为此，收集了中国能源消费总量Y (万吨标准煤)、国内生产总值(亿元)X1(代表经济发展水平）、国民总收入(亿元)Ｘ2（代表收入水平)、工业增加值(亿元)X3、建筑业增加值(亿元)X4、交通运输邮电业增加值(亿元)X5（代表产业发展水平及产业结构）、人均生活电力消费(千瓦小时)X6(代表人民生活水平提高)、能源加工转换效率(%）Ｘ７（代表能源转换技术)等在19８5-２０0２年期间的统计数据,具体如下:
年份
商品进口额
(亿元)
国内生产总值
（亿元)
居民消费价格指数（19８５=100）
1985
1２57.8
8９64．4
1０0
198６
１4９8.3
102０2．２
10６.5
１987
16１4.2
11962.5
1１4．3
１98８
2055.1
14928．3
１３5.８
１9８9
21９9.9
１6９０9.２
160.2
1990
8．克莱因与戈德伯格曾用1９21-19５0年(１942-１944年战争期间略去)美国国内消费Ｙ和工资收入X１、非工资—非农业收入X2、农业收入Ｘ3的时间序列资料,利用OLSE估计得出了下列回归方程：
括号中的数据为相应参数估计量的标准误。试对上述模型进行评析,指出其中存在的问题。
9.将下列函数以适当的方法消除多重共线性
４6670．0
46７5９．4
１９359.6
30１2.6
２685．9
72.7
65.2
199５
.９
5８４７8.1
24718.３
３８１9.6
3054.７
83．５
７1．0５
19９6
.5
6７8８4.６
２9０82.6
4530.５
３４９4．０
93.1
７１.5
19９7
.７
74462.6
１9９7
１1806．5
744６2.6
337.1
1９98
116２6.1
7８3４5．2
334．4
１99９
13736．4
8２０67．５
329.7
20００
１8６38.8
89４6８．1
33１.0
2０01
２0１５9.２
97314.８
333.3
2002
24４30.3
105172．３
330.6
２003
34195.6
(1）消费函数为： ，式中C、W、P分别表示消费、工资收入和非工资收入,W与P可能高度相关,但研究表明 。
(２）需求函数为： ，式中Q、Y、P、Ps分别表示需求量、收入水平、该商品价格及其替代品价格水平,P、Ｐs可能高度相关。
三、实践题
1．下表给出了中国商品进口额Y、国内生产总值GDP、消费者价格指数CＰＩ。
(２) 会等于 或 或某两个的某个线性组合吗？
(３)是否有 且 ？
7.在决定一个回归模型的“最优”解释变量集时人们常用逐步回归的方法。在逐步回归中既可采取每次引进一个解释变量的程序（逐步向前回归），也可以先把所有可能的解释变量都放在一个多元回归中,然后逐一地将它们剔除(逐步向后回归)。加进或剔除一个变量,通常是根据F检验看其对ESS的贡献而作出决定的。根据你现在对多重共线性的认识，你赞成任何一种逐步回归的程序吗？为什么？
二、问答题
1.简述多重共线性的含义。
２.简述多重共线性的后果。
３．方差膨胀因子（Vaｒiａｎce IｎflatｉoｎFactoｒ,ＶIF）及其含义？
4.列举多重共线性的检验方法。
5.多重共线性的补救办法？
６.假设在模型 中， 与 之间的相关系数为零，于是有人建议你进行如下回归：
（1)是否存在 且 ？为什么？
２574.3
18５４7.9
165.2
1991
33９8.7
2１617.８
17０.8
1992
44４3.3
２66３8.1
1８1.7
199３
5986．２
34634.４
2０８.4
1994
9960.１
4６７59.4
258.６
１995
11048．1
58478.1
30２.８
1９96
1１55７.4
67884.6Байду номын сангаас
327．９
1172５1.9
3３4．６
资料来源:《中国统计年鉴》,中国统计出版社200０年、20０4年。
请考虑下列模型：
(１）利用表中数据估计此模型的参数。
（2)你认为数据中有多重共线性吗？
(3)进行以下回归：
根据这些回归你能对数据中多重共线性的性质说些什么?
(4)假设数据有多重共线性,但 在5%水平上个别地显著,并且总的F检验也是显著的。对这样的情形，我们是否应考虑共线性的问题？
年份
Y
X１
X2
X3
X４
X５
X６
X７
１985
76682
8９８9.１
８９64．4
34４8．７
4１7．9
406.9
21．3
6８.2９
１98６
80850
102０１.4
１０2０2.2
39６7．０
525．7
4７5．６
23.2
68.32
１9８7
８6632
11９54．５
11962.５
4５85.８
66５．８
544.9
2.在回归分析中,当检验回归系数所得的ｔ值不显著时，我们往往将它归结为多重共线性。但也可能是其他原因的影响，如或。
3.存在多重共线时，回归系数的标准差趋于，t值趋于。方差膨胀因子越大，OLS估计量的将越大。
4.检验样本是否存在多重共线性的常见方法有：____＿_＿_、和。
5.处理多重共线性的方法主要有两大类：＿___＿＿__＿＿和＿_＿___＿＿_。