第四章 多重共线性 思考题

第四章    多重共线性    思考题
第四章    多重共线性    思考题

第四章 多重共线性 思考题

4.1 多重共线性的实质是什么 ? 为什么会出现多重共线性 ? 4.2 多重共线性对回归参数的估计有何影响 ?

4.3 多重共线性的典型表现是什么 ? 判断是否存在多重共线性的方法有哪些 ? 4.4 针对出现多重共线性的不同情形 , 能采取的补救措施有哪些 ?

4.5 在涉及相关的宏观经济总量指标如 GDP 、货币供应量、物价总水平、国民总收入、就业人数等时间序列的数据中一般都会怀疑有多重共线性 , 为什么 ?

4.6 多重共线性的产生与样本容量的个数n 、解释变量的个数k 是有无关系 ? 4.7 具有严重多重共线性的回归方程能否用来进行预测 ? 4.8 岭回归法的基本思想是什么 , 它对降低共线性有何作用 ? 4.9 以下陈述是否正确 ? 请判断并说明理由。

1) 在高度多重共线性的情形中 , 要评价一个或多个偏回归系数的单个显著性是不可能的。 2) 尽管有完全的多重共线性 ,OLS 估计量仍然是BLUE 。

3) 如果有某一辅助回归显示出高的2

j R 值,则高度共线性的存在是肯定无疑的。 4) 变量的两两高度相关并不表示高度多重共线性。 5) 如果其他条件不变 ,VIF 越高 ,OLS 估计量的方差越大。

6) 如果在多元回归中,根据通常的t 检验,全部偏回归系数分别都是统计上不显著的 ,你就不会得到一个高的2

R 值。

7) 在 Y 对

2X 和3X 的回归中 , 假如3X 的值很少变化 ,这就会使Var(3

?β)增大 , 在极端的情形下 , 如果全部3X 值都相同 ,Var(3

?β)将是无穷大。 8) 如果分析的目的仅仅是预测 , 则多重共线性是无害的。

练习题 4.1 假设在模型12233i

i i i Y X X u βββ=+++中 ,2X 与3X 之间的相关系数为零 , 于是有人建议你进行以下回归。

1221i i i Y X u αα=++ 1332i i i Y X u γγ=++

是否存在2?α=2?β且3?γ=3

?β?为什么 ? 2) 1?β会等于1?α或1?γ或两者的某个线性组合吗 ? 3) 是否有Var(2?β)且Var(2?α)且Var (3

?β)=Var(3?γ)? 4.2 在决定一个回归模型的 " 最优 " 解释变量集时人们常用逐步回归的方法,在逐步回归中既可采取每次引进一个解释变量的程序 ( 逐步向前回归 ), 也可以先把所有可能的解释变 量都放在一个多元回归中 , 然后逐一地将它们剔除 ( 逐步向后回归 ) 。加进或剔除一个变量 , 通常是根据 F 检验看其对 ESS 的贡献而做出决定的。根据你现在对多重共线性的认识 , 你赞 成任何一种逐步回归的程序吗 ? 为什么 ?

4.3 表 4.11 给出了中国商品进口额 Y 、国内生产总值 GDP 、消费价格指数 CPI 。

表 4.11 中国商品进口额、国内生产总值、消费价格指数

资料来源 : 中国统计年鉴 .2004. 中国统计出版社 ,2004 请考虑下列模型

123ln ln ln t t t i

Y GDP CPI u βββ=+++

1)利用表中数据估计此模型的参数。 2) 你认为数据中有多重共线性吗 ? 3) 进行以下回归

121ln ln t t i

Y A A GDP v =++

122ln ln t t i

Y B B CPI v =++

123ln ln t t i

GDP C C CPI v =++

根据这些回归你能对数据中多重共线性的性质说些什么 ?

4)假设数据有多重共线性 , 但2?β和3

?β在5%水平上个别的显著 , 并且总的 F 检验也是显著的。对这样的情形 , 我们是否应考虑共线性的问题 ?

4.4 自己找一个经济问题来建立多元线性回归模型 , 怎样选择变量和构造解释变量数据矩阵 X 才可能避免多重共线性的出现 ? 4.5 克莱因与戈德伯格曾用 1921-1950 年 (1942-1944 年战争期间略去 ) 美国国内消 费 Y 和工资收入1X 、非工资一非农业收入

2X 、农业收入3X 的时间序列资料 , 利用OISE 估计得出了下列回归方程 :

?Y =8.133+1.0591X +0.4522X +0.1213

X (8.92)(0.17)(0.66)(1.09)

2

R =0.95 F=107.37

括号中的数据为相应参数估计量的标准误差。试对上述模型进行评析 , 指出其中存在的问题。

4.6 理论上认为影响能源消费需求总量的因素主要有经济发展水平、收入水平、产业发展、人民生活水平提高、能源转换技术等因素。为此 , 收集了中国能源消费标准煤总量 Y( 万 t) 、国民总收入1X (代表收入水平 )( 亿元 ) 、国内生产总值 GDP 2X ( 代表经济发展

水 平 )( 亿元 ) 、工业增加值

3X ( 亿元 ) 、建筑业增加值4X ( 亿元 ) 、交通运输邮电业增加值 5X ( 代表产业发展水平及产业结

构 )( 亿元 ) 、人均生活电力消费

6X (kW ·h)( 代表人民生活水 平提高 ) 、能源加工转换效率7X ( 代表能源转换技术 )(%) 等

1985-2002 年统计数据 , 具 体见表 4.12 。

表 4.12 1985-2002 年统计数据

资料来源:中国统计年鉴 .2004. 中国统计出版社 ,2004

要求 :

1) 建立对数线性多元回归模型。

2) 如果决定用表中全部变量作为解释变量 , 你预料会遇到多重共线性的问题吗 ? 为什么 ? 3) 如果有多重共线性 ,你准备怎样解决这个问题 ? 明确你的假设并说明全部计算。 4.7 本章引子提出“农业和建筑业的发展会减少财政收入吗 ?” 所采用的数据如表 4.13所示。

表 4.13 1978-2003 年财政收人及其影响因素数据

资料来源:中国统计年鉴 2004. 中国统计出版社 ,2004

试分析 : 为什么会出现本章开始时所得到的异常结果 ? 怎样解决所出现的问题 ?

第四章

思考与练习

1. 什么是多重共线性?产生多重共线性的经济背景是什么?

答:Page76~77

2. 简述检验多重共线性的方法思路。Page81

3. 多重共线性的主要影响是什么?Page78~79

4. 答:(1)不完全共线性时,∧

β

仍然是β的无偏估计,但是其方差会随着共线性程度的增大而增大,其t —检验可能失效。

(2)可以用简单相关系数矩阵法、变量显著性与方程显著性的综合判断、辅助回归等方法检验。。。。(简述检验步骤)

5. 答:(1)回归式1中存在有多重共线性。logK 的先验符号应该是正号,因为一般应该是投入资金越多,产出应该越大,两者是同

方向变动的。但是回归式中logK 的系数却是负号,可知,回归式1中存在有多重共线性。从经济意义上看,劳动和资金具有密切的相关关系,两者之间存在有共线性。

(2)回归式1中,logK 的先验符号应该是正号,因为一般应该是投入资金越多,产出应该越大,两者是同方向变动的。结果与预期不一致,是受共线性的影响所致。

(3)通过变换,式2消除了共线性的影响,各个系数符号与经济意义一致,F 检验显著。可决系数较高(对时间序列数据来说,0.65已经很高了)

(4)增加趋势变量的作用在于:考虑技术进步的影响。 6. 答:回归结果为:

(1)从表中看到,回归系数符合经济意义,t 检验不显著,可决系数和修正后的可决系数很大,f 检验显著。可见回归式中存在多重共线性。从经济意义上分析,可支配收入和财富之间具有很强的相关关系。从以下的简单相关系数矩阵也可以看出可支配收入和财富之间具有很强的相关关系(简单相关系数达到0.99)

Dependent Variable: Y Method: Least Squares

Date: 05/02/03 Time: 20:37

Sample: 01 10 Included observations: 10

Variable Coefficient Std. Error t-Statistic Prob. X1 0.568425 0.716098 0.793781 0.4534 X2 -0.005833 0.070294 -0.082975 0.9362

C 24.55158 6.952348 3.531408 0.0096 R-squared 0.962099 Mean dependent var 111.0000

Adjusted R-squared 0.951270 S.D. dependent var 31.42893 S.E. of regression 6.937901 Akaike info criterion 6.955201 Sum squared resid 336.9413 Schwarz criterion 7.045976

Log likelihood -31.77600 F-statistic 88.84545 Durbin-Watson stat 2.708154 Prob(F-statistic) 0.000011

多重共线性的解决之法

第七章 多重共线性 教学目的及要求: 1、重点理解多重共线性在经济现象中的表现及产生的原因和后果 2、掌握检验和处理多重共线性问题的方法 3、学会灵活运用Eviews 软件解决多重共线性的实际问题。 第一节 多重共线性的产生及后果 一、多重共线性的含义 1、含义 在多元线性回归模型经典假设中,其重要假定之一是回归模型的解释变量之间不存在线性关系,也就是说,解释变量X 1,X 2,……,X k 中的任何一个都不能是其他解释变量的线性组合。如果违背这一假定,即线性回归模型中某一个解释变量与其他解释变量间存在线性关系,就称线性回归模型中存在多重共线性。多重共线性违背了解释变量间不相关的古典假设,将给普通最小二乘法带来严重后果。 2、类型 多重共线性包含完全多重共线性和不完全多重共线性两种类型。 (1)完全多重共线性 完全多重共线性是指线性回归模型中至少有一个解释变量可以被其他解释变量线性表示,存在严格的线性关系。 如对于多元线性回归模型 i ki k i i i X X X Y μββββ+++++= 22110 (7-1) 存在不全为零的数k λλλ,,,21 ,使得下式成立: X X X 2211=+++ki k i i λλλ (7-2) 则可以说解释变量k X ,,X ,X 21 之间存在完全的线性相关关系,即存在完全多重共线性。 从矩阵形式来看,就是0' =X X , 即1)(-

(2)不完全多重共线性 不完全多重共线性是指线性回归模型中解释变量间存在不严格的线性关系,即近似线性关系。 如对于多元线性回归模型(7-1)存在不全为零的数k λλλ,,,21 ,使得下式成立: X X X 2211=++++i ki k i i u λλλ (7-3) 其中i u 为随机误差项,则可以说解释变量k X ,,X ,X 21 之间存在不完全多重共线性。随机误差项表明上述线性关系是一种近似的关系式,大体上反映了解释变量间的相关程度。 完全多重共线性与完全非线性都是极端情况,一般说来,统计数据中多个解释变量之间多少都存在一定程度的相关性,对多重共线性程度强弱的判断和解决方法是本章讨论的重点。 二、多重共线性产生的原因 多重共线性在经济现象中具有普遍性,其产生的原因很多,一般较常见的有以下几种情况。 (一)经济变量间具有相同方向的变化趋势 在同一经济发展阶段,一些因素的变化往往同时影响若干经济变量向相同方向变化,从而引起多重共线性。如在经济上升时期,投资、收入、消费、储蓄等经济指标都趋向增长,这些经济变量在引入同一线性回归模型并作为解释变量时,往往存在较严重的多重共线性。 (二)经济变量间存在较密切关系 由于组成经济系统的各要素之间是相互影响相互制约的,因而在数量关系上也会存在一定联系。如耕地面积与施肥量都会对粮食总产量有一定影响,同时,二者本身存在密切关系。 (三)采用滞后变量作为解释变量较易产生多重共线性 一般滞后变量与当期变量在经济意义上关联度比较密切,往往会产生多重共线性。如在研究消费规律时,解释变量因素不但要考虑当期收入,还要考虑以往各期收入,而当期收入与滞后收入间存在多重共线性的可能很大。 (四)数据收集范围过窄,有时会造成变量间存在多重共线性问题。 三、多重共线性产生的后果 由前述可知,多重共线性分完全多重共线性和不完全多重共线性两种情况,两种情况都会对模

第四章多重共线性答案(1)

第四章 多重共线性 一、判断题 1、多重共线性是一种随机误差现象。(F ) 2、多重共线性是总体的特征。(F ) 3、在存在不完全多重共线性的情况下,回归系数的标准差会趋于变小,相应的t 值会趋于变大。(F ) 4、尽管有不完全的多重共线性,OLS 估计量仍然是最优线性无偏估计量。(T ) 5、在高度多重共线的情形中,要评价一个或多个偏回归系数的个别显著性是不可能的。(T ) 6、变量的两两高度相关并不表示高度多重共线性。(F ) 7、如果分析的目的仅仅是预测,则多重共线性一定是无害的。(T ) 8、在多元回归中,根据通常的t 检验,每个参数都是统计上不显著的,你就不会得到一个高的2R 值。(F ) 9、如果简单相关系数检测法证明多元回归模型的解释变量两两不相关,则可以判断解释变量间不存在多重共线性。( F ) 10、多重共线性问题的实质是样本问题,因此可以通过增加样本信息得到改善。(T ) 11、虽然多重共线性下,很难精确区分各个解释变量的单独影响,但可据此模型进行预测。(T ) 12、如果回归模型存在严重的多重共线性,可不加分析地去掉某个解释变量从而消除多重共线性。(F ) 13、多重共线性的存在会降低OLS 估计的方差。(F ) 14、随着多重共线性程度的增强,方差膨胀因子以及系数估计误差都在增大。(T ) 15、解释变量和随机误差项相关,是产生多重共线性的原因。(F ) 16、对于模型i ni n i 110i u X X Y ++++=βββ ,n 1i ,, =;如果132X X X -=,模型必然存在解释变量的多重共线性问题。(T ) 17、多重共线性问题是随机扰动项违背古典假定引起的。(F ) 18、存在多重共线性时,模型参数无法估计。(F ) 二、单项选择题 1、在线性回归模型中,若解释变量1X 和2X 的观测值成比例,既有12i i X kX =,其中k 为 非 零 常 数 , 则 表 明 模 型 中 存 在 ( B ) A 、异方差 B 、多重共线性 C 、序列相关 D 、随机解释变量 2、 在多元线性回归模型中,若某个解释变量对其余解释变量的可决系数接近1,则表明模型 中存在

第八章(多重共线性)

第八章 多重共线性 一、多重共线性及其产生原因 定义:对于多元线性回归模型: 01122...i i i k ki i y x x x u ββββ=+++++ 如果模型的解释变量之间存在着较强的线性相关关系,或者说,存在一组不全为零的常数12,,....,k λλλ,使得: 1122...0i i k ki i x x x v λλλ+++=,i v 是随机误差项。 则称模型存在着多重..共线性,如果0i v =,则称存在完全的多重共线性。 ?直观地看,多重共线性是不是造成了冗余变量,这里的冗余的含义是什么? 思考:只有一个解释变量会出现多重共线性吗? 产生原因: 1.经济变量的内在联系,这是根本原因,这导致多重共线性无法克服。 2.经济变量变化趋势的“共向性”。 3.解释变量中含有滞后变量。 二、多重共线性的影响 古典回归模型要求模型不存在完全的多重共线性。所以,即使存在严重的多重共线性,OLS 估计仍然是最佳线性无偏估计(BLUE )。但会产生以下问题: (一) 增大OLS 估计的方差 设模型为二元线性, 01122i i i i y x x u βββ=+++ 可以证明, 2 12 21112 1 ()()1i D x x r σβ= ? --∑ VIF 被称为方差膨胀因子。 分别计算12r 分别等于0,0.5,0.9时的方差膨胀因子。 ?方差变得过大,有什么不好?? (二) 难以区分每个解释变量的独立影响 对于多元线性回归模型,回归系数为

i i y x β?= ?,根据偏导数的概念,i β的经济含义是什么? (三) T 检验的可靠性降低 可能使T 检验失效,原来显著的T 值变成不显著的,从而将有重要影响的变量剔除出模型。 思考:比较一下和模型存在异方差及自相关时对T 检验的影响有何不同? (四) 回归模型缺乏稳定性 参数估计值对样本的变化比较敏感,这实际上也是OLS 估计方差较大的另一个表现。 例子来说明: 见表一 如果改成: 再重新进行回归,看会发生什么情况? 一个理念:多重共线性不可避免。 三、多重共线性的检验 外在症兆:R-平方很高,但只有极个别或少数几个解释变量前的系数显著(T 值偏小)。 1.相关系数检验 利用相关系数可以分析解释变量之间的两两相关情况。 例:服装需求函数。根据理论和经验分析,影响居民服装需求的主要因素有:可支配收入X ,流动资产拥有量K ,服装类价格指数P1和总物价指数P0。下表给出了有关统计资料。

第五章 答案.doc

第5章 多重共线性 习题: 1. 什么是共线性?什么是多重共线性? 答:共线性是指回归模型中的各个解释变量之间不存在线性关系。“多重共线性”一词常常用来表示解释变量之间具有较高的共线性程度,但又不是完全共线性的情形。 2. 在k 变量的模型中有k 个正规方程用以估计k 个未知系数。假定X k 是其余X 变量的一个完 全线性组合,你怎样说明在这种情形中不可能估计这k 个回归系数? 答:当一个变量是另一些变量的线性函数时,在这k 正规个方程中,实际只有k-1个有效方程,利用线性代数的知识我们可以知道k-1个方程是无法准确估计k 个未知数的。 3. 一般来说,如何判断模型中是否存在严重的多重共线性问题? 答:(1)2R 较高但t 值显著的系数不多。(2)解释变量两两高度相关。(3)观察每个解释变量对其它剩余解释变量的回归方程,这样的回归称为辅助回归。如果某个辅助回归方程的拟合优度显著不为零(即整体显著:F 检验),则存在多重共线性。(4)使用方差膨胀因子判断。克莱因经验法则(Klein ’s rule of thumb ) 如果某个解释变量还有一些诸如偏相关系数(partial correlation coefficient )、本征值(eigenvalues )或病态指数(condition index )等其他方法可用于诊断多重共线性的程度。对其余解释变量的辅助回归的拟合优度大于因变量Y 对所有解释变量作回归所得到的拟合优度2 R ,则可能存在比较严重的多重共线性。 4. 什么是方差膨胀因子(VIF ),它有什么作用? 答:22322222323?var()()()()i i i i i x x x x x βσ??=???-??∑∑∑∑ 即 222222222323222231?var()1()()1i i i i i i x r x x x x x σσβ??????==?????-??- ??????? ∑∑∑∑∑ (5.7)

第4章多重共线性

计量经济学课程教案

第四章 多重共线性 § 什么是多重共线性 一、多重共线性的概念 对于模型 Y i = 1 + 2 X 2i + 3X 3i ++ k X ki + i i=1,2,…,n 其基本假设之一是解释变量是互相独立的。 如果存在 c 1X 1i +c 2X 2i +…+c k X ki =0 i=1,2,…,n 其中: c i 不全为0,则称为解释变量间存在完全共线性(perfect multicollinearity )。 在矩阵表示的线性回归模型 Y=X + 中,完全共线性指:秩(X)

(2)滞后变量的引入 在经济计量模型中,往往需要引入滞后经济变量来反映真实的经济关系。 例如,消费=f(当期收入, 前期收入) 显然,两期收入间有较强的线性相关性。 (3)样本资料的限制 由于完全符合理论模型所要求的样本数据较难收集,特定样本可能存在某种程度的多重共线性。 一般经验: 时间序列数据样本:简单线性模型,往往存在多重共线性。 截面数据样本:问题不那么严重,但多重共线性仍然是存在的。 § 多重共线性产生的后果 一、完全共线性下参数估计量不存在 μX βY += 的OLS 估计量为: Y X X X β''=-1)(? 如果存在完全共线性,则(X’X)-1不存在,无法得到参数的估计量。 二、近似共线性下OLS 估计量非有效 近似共线性下,可以得到OLS 参数估计量, 但参数估计量方差的表达式为 12)()?(-'=X X β σCov 由于|X’X| 0,引起(X’X)-1主对角线元素较大,使参数估计值的方差增大,OLS 参数估计量非有效。

第七章 多共线性及其处理

第七章 多重共线性及其处理 第一部分 学习辅导 一、本章学习目的与要求 1.理解多重共线性的概念; 2.掌握多重共线性存在的主要原因; 3.理解多重共线性可能造成的后果; 4.掌握多重共线性的检验与修正的方法。 二、本章内容提要 本章主要介绍计量经济模型的计量经济检验。即多重共线性问题。 多重共线性是多元回归模型可能存在的一类现象,分为完全共线与近似共线两类。模型的多个解释变量间出现完全共线性时,模型的参数无法估计。更多的情况则是近似共线性,这时,由于并不违背所有的基本假定,模型参数的估计仍是无偏、一致且有效的,但估计的参数的标准差往往较大,从而使得t 统计值减小,参数的显著性下降,导致某些本应存在于模型中的变量被排除,甚至出现参数正负号方面的一些混乱。显然,近似多重共线性使得模型偏回归系数的特征不再明显,从而很难对单个系数的经济含义进行解释。多重共线性的检验包括检验多重共线性是否存在以及估计多重共线性的范围两层递进的检验。而解决多重共线性的办法通常有逐步回归法、差分法以及使用额外信息、增大样本容量等方法。 (一)多重共线性及其产生的原因 当我们利用统计数据进行分析时,解释变量之间经常会出现高度多重共线性的情况。 1.多重共线性的基本概念 多重共线性(Multicollinearity )一词由弗里希(Frish )于1934年在其撰写的《借助于完全回归系统的统计合流分析》中首次提出。它的原义是指一个回归模型中的一些或全部解释变量之间存在有一种“完全”或准确的线性关系。 如果在经典回归模型Y X βε=+中,经典假定(5)遭到破坏,则有()1R X k <+,此时称解释变量k X X X ,,,21ΛΛ间存在完全多重共线性。解释变量的完全多重共线性,也就是解释变量之间存在严格的线性关系,即数据矩阵X 的列向量线性相关。因此,必有一个列向量可由其余列向量线性表示。 同时还有另外一种情况,即解释变量之间虽然不存在严格的线性关系,但是却有近似的线性关系,即解释变量之间高度相关。 2.多重共线性产生的原因 多元线性回归模型产生多重共线性的原因很多,主要有: (1)经济变量的内在联系 这是产生多重共线性的根本原因。 (2)解释变量中含有滞后变量 (3)经济变量变化趋势的“共向性” 必须指出,多重共线性基本上是一种样本现象。因为人们在设定模型时,总是尽量避免将理论上具有严格线性关系的变量作为解释变量收集在一起,因此,实际问题中的多重共线性并不是解释变量之间存在理论上或实际上的线性关系造成的,而是由所收集的数据(解释变量观察值)之间存在近似的线性关系所致。 (二)多重共线性的影响 多重共线性会产生以下问题: (1)增大了OLS 估计量的方差 (2)难以区分每个解释变量的单独影响 (3)回归模型缺乏稳定性 (4)t 检验的可靠性降低 (三)多重共线性的判别 在应用多元回归模型中,人们总结了许多检验多重共线性的方法。 1.系数判定法

多元线性回归概述

定义:线性回归模型中的解释变量有多个。一般表现形式:多元线性回归模型k :解释变量个数;i =1,2…,n βj :回归参数(Regression Coefficient );j=1,2…,k 习惯上:把常数项看成为一虚变量的系数,该虚变量的样本观测值始终取1。这样: i ki k i i i X X X Y μββββ++???+++=22110虚变量 X 0=1模型中解释变量的数目为(k+1) 指2个或2个以上

多元线性回归模型总体回归函数的随机表达形式: i ki k i i i X X X Y μββββ++???+++=22110总体回归函数非随机表达式: ki k i i ki i i i X X X X X X Y E ββββ+???+++=2211021),,|( 偏回归系数βj :在其他解释变量保持不变的情况下,X j 每变化1个单位时,Y 的均值E(Y)的变化;或者说X j 的单位变化对Y 均值的“直接”或“净”(不含其他变量)影响。 方程表示:各变量X 值给定时Y 的平均响应。

总体回归模型n 个随机方程的矩阵表达式为 μ X βY +=)1(212221212111111+?????????????=k n kn n n k k X X X X X X X X X X 121????? ????????=n n Y Y Y Y 1)1(210?+????????????????=k k ββββ β1 21?????????????=n n μμμ μ其中n :样本容量k :解释变量的个数

e i 称为残差或剩余项(Residuals),μi 的近似替代样本回归函数: ki ki i i i X X X Y ββββ?????22110++++= 其随机表示式: i ki ki i i i e X X X Y +++++=ββββ????22110 βX Y ??=e βX Y +=???????? ??=k βββ????10 β?????? ? ??=n e e e 21e 其中 或样本回归函数的矩阵表达:

最新多重共线性的解决之法

多重共线性的解决之 法

第七章多重共线性 教学目的及要求: 1、重点理解多重共线性在经济现象中的表现及产生的原因和后果 2、掌握检验和处理多重共线性问题的方法 3、学会灵活运用Eviews软件解决多重共线性的实际问题。 第一节多重共线性的产生及后果 一、多重共线性的含义 1、含义 在多元线性回归模型经典假设中,其重要假定之一是回归模型的解释变量之间不存在线性关系,也就是说,解释变量X1,X2,……,X k中的任何一个都不能是其他解释变量的线性组合。如果违背这一假定,即线性回归模型中某一个解释变量与其他解释变量间存在线性关系,就称线性回归模型中存在多重共线性。多重共线性违背了解释变量间不相关的古典假设,将给普通最小二乘法带来严重后果。 2、类型 多重共线性包含完全多重共线性和不完全多重共线性两种类型。 (1)完全多重共线性 完全多重共线性是指线性回归模型中至少有一个解释变量可以被其他解释变量线性表示,存在严格的线性关系。 如对于多元线性回归模型

i ki k i i i X X X Y μββββ+++++= 22110 (7- 1) 存在不全为零的数k λλλ,,,21 ,使得下式成立: 0X X X 2211=+++ki k i i λλλ (7-2) 则可以说解释变量k X ,,X ,X 21 之间存在完全的线性相关关系,即存在完全多重共 线性。 从矩阵形式来看,就是0'=X X , 即1)(-

第八章练习题参考解答

第八章练习题参考解答: 练习题 8.1 Sen 和Srivastava (1971)在研究贫富国之间期望寿命的差异时,利用101个国家的数据,建立了如下的回归模型: 2.409.39ln 3.36((ln 7))i i i i Y X D X =-+-- (4.37) (0.857) (2.42) R 2=0.752 其中:X 是以美元计的人均收入; Y 是以年计的期望寿命; Sen 和Srivastava 认为人均收入的临界值为1097美元(ln10977=),若人均收 入超过1097美元,则被认定为富国;若人均收入低于1097美元,被认定为贫穷国。 括号内的数值为对应参数估计值的t-值。 (1)解释这些计算结果。 (2)回归方程中引入()ln 7i i D X -的原因是什么?如何解释这个回归解释变量? (3)如何对贫穷国进行回归?又如何对富国进行回归? (4)从这个回归结果中可得到的一般结论是什么? 8.2 表中给出1965—1970年美国制造业利润和销售额的季度数据。假定利润不仅与销售额有关,而且和季度因素有关。要求: (1)如果认为季度影响使利润平均值发生变异,应如何引入虚拟变量? (2)如果认为季度影响使利润对销售额的变化率发生变异,应当如何引入虚拟变量? (3)如果认为上述两种情况都存在,又应当如何引入虚拟变量? (4)对上述三种情况分别估计利润模型,进行对比分析。 8.3 在统计学教材中,采用了方差分析方法分析了不同班次对劳动效率的影响,其样本数据为 早班 中班 晚班

34 49 39 37 47 40 35 51 42 33 48 39 33 50 41 35 51 42 36 51 40 试采用虚拟解释变量回归的方法对上述数据进行方差分析。 8.4 Joseph Cappelleri 基于1961—1966年的200只Aa 级和Baa 级债券的数据(截面数据和时间序列数据的合并数据),分别建立了LPM 和Logit 模型: LPM i i i i i i u X X X X Y ++++++=5544332 211βββββ Logit i i i i i i i u X X X X p p In Li ++++++=-=5544332 211)1( βββββ 其中:i Y =1 债券信用等级为Aa (穆迪信用等级) i Y =1 债券信用等级为Baa (穆迪信用等级) 2X =债券的资本化率,作为杠杆的测度(100?=总资本的市值 长期债券的市值) =3X 利润率(100?=总资产净值 税后收入) =4X 利润率的标准差,测度利润率的变异性 =5X 总资产净值,测度规模 上述模型中2β和4β事先期望为负值,而3β和5β期望为正值(为什么)。 对于LPM ,Cappeleri 经过异方差和一阶自相关校正,得到以下结果: i Y ?=0.6860-0.017922i X +0.0486i X 3+0.0572i X 4+0.378×10-7×5i Se=(0.1775)(0.0024) (0.0486) (0.0178) (0.039×10- 8) R 2=0.6933 对于Logit 模型,Cappeleri 在没有对异方差进行弥补的情形下用ML 得以下结果: i i i i i i X X X X p p In 56 43221092.09041.06248.03185.06622.1)1(-?+-+--=- 试解下列问题: (1)为什么要事先期望2β和4β为负值? (2)在LPM 中,当4β>0是否合理?

第四章 多重共线性

第四章 多重共线性 一、填空题 1. 在多元线性回归模型中,解释变量间呈现近似线性关系的现象为________问题,给计量经济建模带来不利影响,因此需检验和处理它。 2. 在回归分析中,当检验回归系数所得的t 值不显著时,我们往往将它归结为多重共线性。但也可能是其他原因的影响,如 或 。 3. 存在多重共线时,回归系数的标准差趋于 ,t 值趋于 。方差膨胀因子越大,OLS 估计量的 将越大。 4. 检验样本是否存在多重共线性的常见方法有:________ 、 和 。 5. 处理多重共线性的方法主要有两大类:__________和_________。 二、问答题 1. 简述多重共线性的含义。 2. 简述多重共线性的后果。 3. 方差膨胀因子(Variance Inflation Factor, VIF )及其含义? 4. 列举多重共线性的检验方法。 5. 多重共线性的补救办法? 6. 假设在模型i i i i u X X Y +++=22110βββ中,1X 与2X 之间的相关系数为零,于是有人建议你进行如下回归: i i i i i i u X Y u X Y 22201110++=++=γγαα (1) 是否存在11??βα=且22??βγ=?为什么? (2) 0?β会等于0?α 或0?γ或某两个的某个线性组合吗? (3) 是否有() ()11 ?var ?var αβ=且() ()22?var ?var γβ=? 7. 在决定一个回归模型的“最优”解释变量集时人们常用逐步回归的方法。在逐步回归中既可采取每次引进一个解释变量的程序(逐步向前回归),也可以先把所有可能的解释变量都放在一个多元回归中,然后逐一地将它们剔除(逐步向后回归)。加进或剔除一个变量,通常是根据F 检验看其对ESS 的贡献而作出决定的。根据你现在对多重共线性的认识,你赞成任何一种逐步回归的程序吗?为什么? 8.克莱因与戈德伯格曾用1921-1950年(1942-1944年战争期间略去)美国国内消费Y 和工资收入X1、非工资—非农业收入X2、农业收入X3的时间序列资料,利用OLSE 估计得出了下列回归方程:

多重线性回归分析

一、作业 教材P214 三。 二、自我练习 (一)教材P213 一。 (二)是非题 1.当一组资料的自变量为分类变量时,对这组资料不能做多重线性回归分析。( ) 2.若多重线性方程模型有意义.则各个偏回归系数也均有统计学意义。〔) 3.回归模型变量的正确选择在根本上依赖于所研究问题本身的专业知识。() 4.从各自变量偏回归系数的大小.可以反映出各自变量对应变量单位变化贡献的大小。( ) 5.在多元回归中,若对某个自变量的值都增加一个常数,则相应的偏回归系数不变。( ) (三)选择题 1. 多重线性回归分析中,共线性是指(),导致的某一自变量对Y的作用可以由其他自变量的线性函数表示。 A. 自变量相互之间存在高度相关关系 B. 因变量与各个自变量的相关系数相同 C. 因变量与自变量间有较高的复相关关系 D. 因变量与各个自变量之间的回归系数相同

2. 多重线性回归和Logistic 回归都可应用于()。 A. 预测自变量 B. 预测因变量Y 取某个值的概率π C. 预测风险函数h D. 筛选影响因素(自变量) 3.在多重回归中,若对某个自变量的值都增加一个常数,则相应的偏回归系数: A.不变 B.增加相同的常数 C.减少相同的常数 D.增加但数值不定 4.在多元回归中,若对某个自变量的值都乘以一个相同的常数k,则: A.该偏回归系数不变 B.该偏回归系数变为原来的 1/k倍 C.所有偏回归系数均发生改变 D.该偏回归系数改变,但数值不定 5.作多重线性回归分析时,若降低进入的F 界值,则进入方程的变量一般会: A.增多 B.减少 C.不变 D.可增多也可减少(四)筒答题 1.为什么要做多重线性回归分析?

计量经济学

第八章 多重共线性:其中的某一个解释变量可以表示为其它解释变量的线性函数。 完全多重共线性的存在对计量经济学方程的估计产生的影响? 当存在完全多重共线性时,运用普通最小二乘估计将无法得出回归参数的估计值,并且,大多数通最小二乘估计程序会意识错误信息。 完全多重共线性举例:可以观察一个解释变量是不是另一个解释变量的倍数,或者观察一个解释变量是不是另一个解释变量加上一个常数项。 简答题:多重共线性 产生的后果:(1)估计量是无偏的;(2)估计量的方差和标准差将会增大(3)多重共线性下的t统计量会变小(4)估计量对模型设定的变化变得及其敏感。当存在显著的多重共线性时,增加或者删除某个解释变量,或者某些观测值的增加或减少,通常会导致参数估计β有较大的改变。 (5)方程的整体拟合优度以及不存在多重共线性的变量的参数估计几乎不受影响。 多重共线性的诊断:(1)考察两个解释变量之间的简单相关系数,一般r>0.8,则认为存在多重共线性。 (2)有较高的方差膨胀因子,一般VIF>5,则认为存在严重的多重共线性 多重共线性的补救措施:(1)什么都不做。(方程中的多重共线性并非总是减少t统计量使其减少到不显著的程度,对β的影响也并非总是导致它的符号与预期的不同。 (2)去掉多余的变量 (3)增大样本容量 第十四章 分析题 内生变量:由系统本身确定的变量 外生变量:由系统外部因素所决定的变量前定变量:外生变量和置后的内生变量 结构式方程:是以外生变量和内生变量的方式,描述了隐含在每个内生变量背后的内在经济理论。 简约式方程:每个特定的内生变量都单独用用所有的前定变量和随机误差项表示的方程。 简答使用简约式方程的三个原因:(1)由于简约式方程没有内在的联动性,因而没有违背古典假设。(2)简约式参数被解释为效应乘数,意味着它们有着经济意义和应用价值。 (3)简约式方程在最常用的的联立方程估计方法中扮演着重要的角色, 二阶段最小二乘估计法:第一阶段:对与每个内生变量相对应的简约式方程进行回归,这里的内生变量在联立方程系统中作为解释变量。第二阶段:用简约式方程中 得到的 S Y?替代出现在结构式方程右边的Ys,然后用普通最小二乘估计修正后的结构式方程。 模型识别的阶条件:是判断联立系统中的特定方程是否可惜别的一种系统方法。(1)整个联立系统中前定变量的个数(2)所考察方程中需要估计的斜率参数的个数。 第十章 名词解释:异方差性的本质,后果,诊断,修正 非纯异方差性:有模型设定误差(比如遗漏误差)引起的。 异方差的后果:(1)纯异方差性并不会导致参数估计量有偏 (2)异方差性通常会导致普通最小二乘估计量不再具有最小方差性 (3)异方差性将导致SE(β?)的最小二乘估计量有偏,因而导致假设检验结果不可信。 第九章 名词解释序列相关:误差项的序列之间存在相关性 一阶序列相关: t t t μ ρε ε+ = -1 ε代表回归方程中的误差项。 简答序列相关性的后果:(1)纯序列相关不会导致对参数的有偏估计。 (2)序列相关是普通最小二乘估计量不再是线性无偏估计量 (3)序列相关性导致SE(β?)的普通最小二乘估计是有偏的,并使假设检验不可靠。 杜宾-沃森检验重点自己去翻书 序列相关性的修正:如果确定是纯序列相关,则应考虑用广义最小二乘法或者

回归分析概要(多元线性回归模型)

第二章 回归分析概要 第五节 多元线性回归分析 一 模型的建立与假定条件 在一元线性回归模型中,我们只讨论了包含一个解释变量的一元线性回归模型,也就是假定被解释变量只受一个因素的影响。但是在现实生活中,一个被解释变量往往受到多个因素的影响。例如,商品的消费需求,不但受商品本身的价格影响,还受到消费者的偏好、收入水平、替代品价格、互补品价格、对商品价格的预测以及消费者的数量等诸多因素的影响。在分析这些问题的时候,仅利用一元线性回归模型已经不能够反映各变量间的真实关系,因此,需要借助多元线性回归模型来进行量化分析。 1. 多元线性回归模型的基本概念 如果一个被解释变量(因变量)t y 有k 个解释变量(自变量)tj x ,k j ,...,3,2,1=, 同时,t y 不仅是tk x 的线性函数,而且是参数0β和k i i ,...3,2,1=,β(通常未知)的线性函数,随即误差项为t u ,那么多元线性回归模型可以表示为: ,...22110t tk k t t t u x x x y +++++=ββββ ),..,2,1(n t = 这里tk k t t t x x x y E ββββ++++=...)(22110为总体多元线性回归方程,简称总体回归方程。 其中,k 表示解释变量个数,0β称为截距项,k βββ...21是总体回归系数。k i i ,...3,2,1=,β表示在其他自变量保持不变的情况下,自变量tj X 变动一个单位所引起的因变量Y 平均变动的数量,因而也称之为偏回归系数。 当给定一个样本n t x x x y tk t t t ,...2,1),,...,,(21=时,上述模型可以表示为: ???? ??? ???????????+++++=+++++=+++++=+++++=t tk k t t t k k k k k k u x x x y u x x x y u x x x y u x x x y ββββββββββββββββ (22110333223110322222211021112211101) 此时,t y 与tj x 已知,i β与t u 未知。 其相应的矩阵表达式为:

第5章习题(多重共线性)

第5章 多重共线性 1、所谓不完全多重共线性是指存在不全为零的数k λλλ,,,21 ,有( ) 是随机误差项式中v e v x x x .D e v x x x .C x x x .B v x x x .A k x x k k x k k k k k k ? ∑=++++=++++=+++=++++ 12211221221122110 0λλλλλλλλλλλλ 2、设21,x x 为解释变量,则完全多重共线性是( ) 0.(021.0.02 1.22121121=+=++==+x x e x D v v x x C e x B x x A 为随机误差项) 3.设线性回归模型为i i i i u x x y +++=33221βββ,下列表明变量之间具有完全多重共线性的是( )(其中v 为随机误差项) 0000.0000.0 020.0 020.321321321321=+*+*+*=*+*+*=+*++*=*++*v x x x D x x x C v x x x B x x x A 4.设线性回归模型为i i i i u x x y +++=33221βββ,下列表明变量之间具有不完全多重共线性的是( )(其中v 为随机误差项) 0000.0000.0 020.0 020.321321321321=+*+*+*=*+*+*=+*++*=*++*v x x x D x x x C v x x x B x x x A 5.如果模型中的解释变量存在完全的多重共线性,参数的最小二乘估计量是( ) A .无偏的 B. 有偏的 C. 不确定 D. 确定的 6.下列说法不正确的是( ) A.多重共线性产生的原因有模型中大量采用滞后变量

(完整word版)多重共线性问题的几种解决方法

多重共线性问题的几种解决方法 在多元线性回归模型经典假设中,其重要假定之一是回归模型的解释变量之 间不存在线性关系,也就是说,解释变量X 1,X 2 ,……,X k 中的任何一个都不能 是其他解释变量的线性组合。如果违背这一假定,即线性回归模型中某一个解释变量与其他解释变量间存在线性关系,就称线性回归模型中存在多重共线性。多重共线性违背了解释变量间不相关的古典假设,将给普通最小二乘法带来严重后果。 这里,我们总结了8个处理多重共线性问题的可用方法,大家在遇到多重共线性问题时可作参考: 1、保留重要解释变量,去掉次要或可替代解释变量 2、用相对数变量替代绝对数变量 3、差分法 4、逐步回归分析 5、主成份分析 6、偏最小二乘回归 7、岭回归 8、增加样本容量 这次我们主要研究逐步回归分析方法是如何处理多重共线性问题的。 逐步回归分析方法的基本思想是通过相关系数r、拟合优度R2和标准误差三个方面综合判断一系列回归方程的优劣,从而得到最优回归方程。具体方法分为两步: 第一步,先将被解释变量y对每个解释变量作简单回归: 对每一个回归方程进行统计检验分析(相关系数r、拟合优度R2和标准误差),并结合经济理论分析选出最优回归方程,也称为基本回归方程。

第二步,将其他解释变量逐一引入到基本回归方程中,建立一系列回归方程,根据每个新加的解释变量的标准差和复相关系数来考察其对每个回归系数的影响,一般根据如下标准进行分类判别: 1.如果新引进的解释变量使R2得到提高,而其他参数回归系数在统计上和经济理论上仍然合理,则认为这个新引入的变量对回归模型是有利的,可以作为解释变量予以保留。 2.如果新引进的解释变量对R2改进不明显,对其他回归系数也没有多大影响,则不必保留在回归模型中。 3.如果新引进的解释变量不仅改变了R2,而且对其他回归系数的数值或符号具有明显影响,则认为该解释变量为不利变量,引进后会使回归模型出现多重共线性问题。不利变量未必是多余的,如果它可能对被解释变量是不可缺少的,则不能简单舍弃,而是应研究改善模型的形式,寻找更符合实际的模型,重新进行估计。如果通过检验证明回归模型存在明显线性相关的两个解释变量中的其中一个可以被另一个很好地解释,则可略去其中对被解释变量影响较小的那个变量,模型中保留影响较大的那个变量。 下边我们通过实例来说明逐步回归分析方法在解决多重共线性问题上的具体应用过程。 具体实例 例1设某地10年间有关服装消费、可支配收入、流动资产、服装类物价指数、总物价指数的调查数据如表1,请建立需求函数模型。 表1 服装消费及相关变量调查数据

计量经济学课后答案第四、五章(内容参考)

第四章随机解释变量问题 1. 随机解释变量的来源有哪些? 答:随机解释变量的来源有:经济变量的不可控,使得解释变量观测值具有随机性;由于随机干扰项中包括了模型略去的解释变量,而略去的解释变量与模型中的解释变量往往是相关的;模型中含有被解释变量的滞后项,而被解释变量本身就是随机的。 2.随机解释变量有几种情形? 分情形说明随机解释变量对最小二乘估计的影响与后果? 答:随机解释变量有三种情形,不同情形下最小二乘估计的影响和后果也不同。(1)解释变量是随机的,但与随机干扰项不相关;这时采用OLS估计得到的参数估计量仍为无偏估计量;(2)解释变量与随机干扰项同期无关、不同期相关;这时OLS估计得到的参数估计量是有偏但一致的估计量;(3)解释变量与随机干扰项同期相关;这时OLS估计得到的参数估计量是有偏且非一致的估计量。 3. 选择作为工具变量的变量必须满足那些条件? 答:选择作为工具变量的变量需满足以下三个条件:(1)与所替代的随机解释变量高度相关;(2)与随机干扰项不相关;(3)与模型中其他解释变量不相关,以避免出现多重共线性。 4.对模型 Y t =β +β 1 X 1t +β 2 X 2t +β 3 Y t-1 +μ t 假设Y t-1与μ t 相关。为了消除该相关性,采用工具变量法:先求Y t 关于X 1t 与 X 2t 回归,得到Y t ?,再做如下回归: Y t =β +β 1 X 1t +β 2 X 2t +β 3Y t?1-+μt 试问:这一方法能否消除原模型中Y t-1与μ t 的相关性? 为什么? 解答:能消除。在基本假设下,X1t,X2t与μt应是不相关的,由此知,由X1t 与X 2t 估计出的Y t ?应与μt不相关。 5.对于一元回归模型 Y t =β +β 1 X t *+μ t 假设解释变量X t *的实测值X t 与之有偏误:X t = X t *+e t ,其中e t 是具有零均值、无 序列相关,且与X t *及μ t 不相关的随机变量。试问: (1) 能否将X t= X t*+e t代入原模型,使之变换成Y t=β0+β1X t+νt后进行估计? 其中,ν t 为变换后模型的随机干扰项。 (2) 进一步假设μt与e t之间,以及它们与X t*之间无异期相关,那么E(X t-1νt)=0成立吗?X t与X t-1相关吗? (3) 由(2)的结论,你能寻找什么样的工具变量对变换后的模型进行估计? 解答:(1)不能。因为变换后的模型为 Y t=β0+β1X t+(μt-β1e t)

实验四-多重共线性模型的检验和处理

实验报告 课程名称:计量经济学 实验项目:实验四多重共线性模型的 检验和处理 实验类型:综合性□设计性□验证性 专业班别:11本国贸五班 姓名: 学号: 实验课室:厚德楼A207 指导教师: 实验日期:2014/5/20 广东商学院华商学院教务处制

一、实验项目训练方案 小组合作:是□否 小组成员:无 实验目的: 掌握多重共线性模型的检验和处理方法: 实验场地及仪器、设备和材料 实验室:普通配置的计算机,Eviews软件及常用办公软件。 实验训练内容(包括实验原理和操作步骤): 【实验原理】 多重共线性的检验:直观判断法(R2值、t值检验)、简单相关系数检验法、方差扩大因子法(辅助回归检验) 多重共线性的处理:先验信息法、变量变换法、逐步回归法 【实验步骤】 (一)多重共线性的检验 1.直观判断法(R2值、t值检验) 根据广东数据(见附件1),先分别建立以下模型: 【模型1】财政收入CS对第一产业产值GDP1、第二产业产值GDP2和第三产业产值GDP3的多元线性回归模型; (请对得到的图表进行处理,以上在一页内)

【模型2】固定资产投资TZG对固定资产折旧ZJ、营业盈余YY和财政支出CZ的多元线性回归模型。 观察模型结果,初步判断模型自变量之间是否存在多重共线性问题。 【模型1】从上图可以得到,估计方程的判定系数R 2 很高,但三个参数t检验值两个不显著,有一个较显著,其中 一个参数估计值还是负的,不符合经济理论。所以,出现了严重的多重共线性。 【模型2】1】从上图可以得到,估计方程的判定系数R 2 很高,方程显著性F检验也显著,但只有两个参数显著性 t检验比较显著,这与很高的判定系数不相称,出现了严重的多重共线性。 2.简单相关系数检验法 分别计算【模型1】和【模型2】的自变量的简单相关系数。 【模型1】 【模型2】 (请对得到的图表进行处理,以上在一页内) 根据计算的简单相关系数,判断模型是否存在多重共线性。 【模型1】可看出三个解释变量GDP1 、GDP2和GDP3之间高度相关,存在严重的多重共线性。 【模型2】可以看出三个解释变量ZJ 、YY和CZ之间也高度相关,特别是ZJ和CZ之间高度相关,必然也存在严重的多重共线性。

计量经济学多重共线性的诊断及处理Eviews

数学与统计学院实验报告 院(系):数学与统计学学院 学号: 姓名: 实验课程: 计量经济学 指导教师: 实验类型(验证性、演示性、综合性、设计性): 综合性 实验时间:2017年 4 月 5 日 一、实验课题 多重共线性的诊断及处理 二、实验目的和意义 第8周练习 多重共线性 右表是某城市财政收入rev 、第一、第二、第三产业gdp1、gdp2、gdp3的有关数据。 1).建立rev 对gdp1,gdp2,gdp3的多元线性回归,并从经济和数理统计上简要说明模型存在着哪些不足。 2).写出rev ,gdp1,gdp2,gdp3的相关系数矩阵。 3).利用判别系数法判断模型是否存在着多重共线性。 4).用逐步回归的方法排除引起共线性的变量,重新建立多元回归。 5).如果不想排除变量,通过经验,假设:gdp1对财政收入的贡献是 gdp3 年份 rev gdp1 gdp2 gdp3 1983 6604 27235 26781 7106 1984 6634 26680 28567 10240 1985 6710 26762 31766 11912 1986 6823 33595 40062 14160 1987 8103 38510 52935 16960 1988 8578 41529 61337 18777 1989 8469 47994 67848 30498 1990 11118 65138 98946 39700 1991 16053 86983 112531 66960 1992 20221 105825 143545 92231 1993 27076 129136 223697 117031 1994 31888 138619 216161 151334 1995 35139 146637 305940 193573 1996 42436 149788 371066 227561 1997 56204 161800 426925 256684 1998 93828 162960 614341 372177 1999 130532 199519 821302 524562 2000 179063 246648 1121058 688567

相关文档
最新文档