最新第三章 多元线性回归模型
第三章-多元线性回归模型(计量经济学-浙江大学-韩菁)PPT课件
6、各解释变量之间互不相关， 即不存在线性关系
1 X11 X 21 X k1
X 1
X12
X 22
X
k
2
在此条件下，解释变量观测值 矩阵X满秩，Rank(X)=k+1，
1
X1n
X2n
X
kn
方阵X’X也满秩，Rank(X’X)=k+1，
行列式|X’X|≠0，方阵X’X可逆，
Xji在重复抽样（观测） 中固定取值，是确定性
变量，该假定自动满足。
(结合假定1、2)
随机误差项i正态分布的假定 对模型的统计检验是很重要的。
第三章 多元线性回归模型
Y i 0 1 X 1 i 2 X 2 i k X k i i i 1 , 2 , , n §3-1 多元线性回归模型及其基本假定
二、多元回归模型的基本假定
1、随机误差 项具有零均值
E(i)=0
表明：平均地看，随机误 差项有互相抵消的趋势。
2、随机误差 项具有同方差
Var(i)=2
表明：对每个Xi，随机误差项 i的方差等于一个常数2。即
V ( i ) a E ir E ( i ) 2 E ( i 2 ) 2 解对释各变自量均取值不（同零值均时值，）的分i相散
C(o i,v j)E[iE(i)][jE(j)] 值之间也互不相关。
E(ij)0
C ( Y i , Y o j ) E [ Y v i E ( Y i )Y j ] E ( [ Y j ) E ] ( i j ) 0
第三章 多元线性回归模型
Y i 0 1 X 1 i 2 X 2 i k 多元线性回归模型及其基本假定
二、多元回归模型的基本假定
第三章 多元线性回归模型
即
Y Xb U
X 称为数据矩阵或设计矩阵。
6
二、古典假定
假定1：零均值假定 E(ui ) 0 (i 1,2,...,n)
1 E ( 1 ) E ( ) 2 2 E (μ) E 0 n E ( n )
写成矩阵形式：
Y1 1 X 21 Y 1 X 22 2 Yn 1 X 2 n X 31 X k 1 b 1 u1 X 32 X k 2 b 2 u 2 X 3 n X kn b k un
或
ei 1 X 21 X e 1 X 22 2i i X ki ei 1 X 2 n X 31 X k 1 e1 X 32 X k 2 e2 X e 0 X 3 n X kn en
9
当总体观测值难于得到时，回归系数向 量 b 是未知的，这时可以由样本观测值进行 估计，可表示为
ˆ ˆ Xb Y
但实际观测值与计算值有偏差，记为：
ˆ e Y Y
于是
ˆ e Y Xb
称为多元样本回归函数。
10
ˆ b 1 ˆ b2 ˆ b ˆ b k
同理
ˆ x x b ˆ x 2 x3 i yi b 2 2i 3i 3 3i
x2 i yi x x3 i yi x2 i x3 i ˆ b2 2 2 2 x2 x ( x x ) i 3i 2i 3i
2 3i
x3 i yi x x2 i yi x2 i x3 i ˆ b3 2 2 2 x2 x ( x x ) i 3i 2i 3i
第三章多元线性回归模型(计量经济学,南京审计学院)
Yˆ 116.7 0.112X 0.739P
R2 0.99
(9.6) (0.003) (0.114)
Y和X的计量单位为10亿美元 (按1972不变价格计算).
P
食品价格平减指数 总消费支出价格平减指数
100，（1972
100）
3
多元线性回归模型中斜率系数的含义
上例中斜率系数的含义说明如下： 价格不变的情况下，个人可支配收入每上升10
c (X X )1 X D
从而将 的任意线性无偏估计量 * 与OLS估计量 ˆ 联系
起来。
28
cX I
由
可推出：
(X X )1 X X DX I
即 I DX I
因而有 D X 0
cc (X X )1 X D (X X )1 X D ( X X )1 X D X ( X X )1 D
第三章 多元线性回归模型
简单线性回归模型的推广
1
第一节 多元线性回归模型的概念
在许多实际问题中，我们所研究的因变量的变动 可能不仅与一个解释变量有关。因此，有必要考虑线 性模型的更一般形式，即多元线性回归模型：
Yt β0 β1X1t β2 X 2t ... βk X kt ut t=1,2,…,n
Yt
ˆ0
βˆ 1
X
1t
... βˆ K X Kt
2
为最小，则应有：
S
S
S
ˆ0 0, ˆ1 0, ..., ˆ K 0
我们得到如下K+1个方程（即正规方程）：
13
β0 n
β1 X1t ...... β K X Kt Yt
β 0 X 1t β1 X 1t 2 ...... β K X 1t X Kt X 1tYt
计量经济学-3章：多元线性回归模型PPT课件
YXβ ˆe
Y ˆ Xβ ˆ
4/5/2021
.
17
2 模型的假定
(1) 零均值假设。随机误差项的条件期望为零，即 E(ui)=0 ( i=1,2,…,n)
其矩阵表达形式为:E(U)=0 (2)同方差假设。随机误差项有相同的方差，即
Var(ui)E(ui2) 2 （i=1,2,…,n）
(3)无自相关假设。随机误差项彼此之间不相关，即
（i=1,2,…,n）
上式为多元样本线性回归函数（方程）,简称样本回归函 数（方程）(SRF, Sample Regression Function).
ˆ j (j=0,1,…,k)为根据样本数据所估计得到的参数估计量。
4/5/2021
.
13
(4)多元样本线性回归模型
对应于其样本回归函数（方程）的样本回归模型:
4/5/2021
.
3
教学内容
一、模型的建立及其假定条件 二、多元线性回归模型的参数估计：OLS 三、最小二乘估计量的统计性质 四、拟合优度检验 五、显著性检验与置信区间 六、预测 七、案例分析
4/5/2021
.
4
回顾: 一元线性回归模型
总体回归函数 E (Y i|X i)01X i
总体回归模型 Y i 01Xiui
0 0
2 0 0 2
0
0
0 0 0 2
2I n
4/5/2021
.
u1un
u2un
un2
20
(4)解释变量X1,X2,…,Xk是确定性变量,不是随机 变量,与随机误差项彼此之间不相关,即
Cov(Xji,ui)0 j=1,2…k , i=1,2,….,n
(完整版)第三章(多元线性回归模型)3-1答案
3.1 多元线性回归模型及古典假定一、判断题1. 在实际应用中，一元回归几乎没什么用，因为因变量的行为不可能仅有一个解释变量来解释。
（T ）2. 一元线性回归模型与多元线性回归模型的基本假定是相同的。
（F ）二 、单项选择题1.在二元线性回归模型i i i i u X X Y +++=22110βββ中，1β表示（ A ）。
A ．当X2不变时，X1每变动一个单位Y 的平均变动。
B ．当X1不变时，X2每变动一个单位Y 的平均变动。
C ．当X1和X2都保持不变时，Y 的平均变动。
D ．当X1和X2都变动一个单位时，Y 的平均变动。
2.如果两个经济变量X 与Y 间的关系近似地表现为当X 发生一个绝对量变动（ΔX ） 时， Y 有一个固定地相对量（ΔY/Y ）变动，则适宜配合的回归模型是（ B ）。
A ．i i 21i u X Y ++=ββB ．i i 21i u X Y ++=ββlnC ．i i21i u X 1Y ++=ββ D ．i i 21i u X Y ++=ln ln ββ3.在多元线性回归模型中对样本容量的基本要求是(k 为解释变量个数)：（ C ）。
A. n ≥k+1 B ．n<k+1C. n ≥30 或n ≥3（k+1）D. n ≥304、模型i i 21i u X Y ++=ln ln ββ中 ，2β的实际含义是（ B ）。
A. X 关于Y 的弹性B. Y 关于X 的弹性C. X 关于Y 的边际倾向D. Y 关于X 的边际倾向三、多项选择题1.下列哪些非线性模型可以通过变量替换转化为线性模型（ ABC ）A. i 2i 10i u X Y ++=ββB. i i10i u X 1Y ++=ββC. i i 10i u X Y ++=ln ln ββD. i i 210i u X Y ++=ββE. i i 10i u X Y ++=ββ四、简答题1.多元线性回归模型与一元线性回归模型有哪些区别？答：多元线性回归模型与一元线性回归模型的区别表现在如下几个方面：一是解释变量的个数不同；二是模型的经典假设不同，多元线性回归模型比一元线性回归模型多了个“解释变量之间不存在线性相关关系”的假定；三是多元线性回归模型的参数估计式的表达更为复杂。
(完整版)第三章(多元线性回归模型)3-3答案
3.3 多元线性回归模型的检验一、判断题1、在线性回归模型中，为解释变量或者被解释变量重新选取单位（比如，元变换成千元），会影响t 统计量和 2R 的数值。
（ F ）2、在多元线性回归中，t 检验和F 检验缺一不可。
（ T ）3、回归方程总体线性显著性检验的原假设是模型中所有的回归参数同时为零。
（ F ）4、多元线性回归中，可决系数2R 是评价模型拟合优度好坏的最佳标准。
（ F ）二 、单项选择1、在模型0112233t t t t t Y X X X ββββμ=++++的回归分析结果中，有462.58F =，0.000000F p =的值，则表明 （ C ）A 、解释变量2t X 对t Y 的影响不显著B 、解释变量1t X 对t Y 的影响显著C 、模型所描述的变量之间的线性关系总体上显著D 、解释变量2t X 和1t X 对t Y 的影响显著2、设k 为回归模型中的实解释变量的个数，n 为样本容量。
则对回归模型进行总体显著性 检验(F 检验)时构造的F 统计量为 （ A ）A 、1)ESS k F RSS n k =--B 、(1)()ESS k F RSS n k -=- C 、ESS F RSS = D 、1RSS F TSS=- 3、在多元回归中，调整后的可决系数2R 与可决系数2R 的关系为 （ A ） A 、22R R < B 、22R R >C 、22R R =D 、2R 与2R 的关系不能确定4、根据调整的可决系数2R 与F 统计量的关系可知，当21R =时，有 （ C ）A 、F=0B 、F=－1C 、F →+∞D 、F=-∞5、下面哪一表述是正确的 （ D ） A 、线性回归模型01i i i Y X ββμ=++的零均值假设是指110ni i n μ==∑ B 、对模型01122i i i i Y X X βββμ=+++进行方程显著性检验（即F 检验），检验的零假 设是0012:0H βββ===C 、相关系数较大意味着两个变量存在较强的因果关系D 、当随机误差项的方差估计量等于零时，说明被解释变量与解释变量之间为函数关系5、对于01122ˆˆˆˆi i i k ki iY X X X e ββββ=+++++…，如果原模型满足线性模型的基本假设则 在零假设0j β=下，统计量ˆˆ()j j s ββ（其中ˆ()js β是j β的标准误差）服从 （B ）A 、()t n k -B 、(1)t n k --C 、(1,)F k n k --D 、(,1)F k n k --6、在由的一组样本估计的、包含3个解释变量的线性回归模型中，计算得多重可决系数为0.8500，则调整后的多重可决系数为（ D ）A 、8603B 、 0.8389C 、0.8655D 、0.83277、可决系数R 2=0.8，说明回归直线能解释被解释变量总变差的：（ A ）A 、 80%B 、 64%C 、 20%D 、 89%8、线性回归模型01122......t t t k kt t y b b x b x b x u =+++++ 中，检验0:0(0,1,2,...)t H b i k ==时，所用的统计量服从( C )A.t(n-k+1)B.t(n-k-2)C.t(n-k-1)D.t(n-k+2)三、多项选择题1、对模型满足所有假定条件的模型01122i i i i Y X X βββμ=+++进行总体显著性检验，如果检验结果总体线性关系显著，则很可能出现 （ BCD ）A 、120ββ==B 、120,0ββ≠=C 、120,0ββ≠≠D 、120,0ββ=≠E 、120,0ββ==2、设k 为回归模型中的参数个数（包含截距项）则总体线性回归模型进行显著性检验时所 用的F 统计量可以表示为 （ BC ）A 、()()()∑∑---1k e k n Y Y 2i 2i i //ˆ B 、()()()∑∑---k n e 1k Y Y 2i2ii //ˆ C 、()()()k n R 11k R 22---// D 、()()()1k R k n R 122---// 30n =E 、()()()1k R 1k n R 22---// 3、在多元回归分析中，调整的可决系数2R 与可决系数2R 之间 （ AD ）A 、22R R <B 、22R R ≥C 、2R 只可能大于零D 、2R 可能为负值E 、2R 不可能为负值四、简答题1.在多元线性回归分析中，为什么用修正的可决系数衡量估计模型对样本观测值的拟合优度？答：因为人们发现随着模型中解释变量的增多，多重可决系数2R 的值往往会变大，从而增加了模型的解释功能。
第三章多元线性回归模型
命令或特殊函数命令得到。特殊函数命令：在工作文件窗
口，使用GSexi nr命S令y 生成，x如i 序列y的标准为
），
@ stdev( y)
26
案例2 我国房地产行业资本结构分析
资本结构是指企业各种资本的价值构成及其 比例关系。合理安排资本结构有利于增加公司的市场价 值。本案例运用多元回归分析方法研究了我国房地产上 市公司的资本结构，证实了成长能力、营运效率、内部 流动率、盈利能力等因素对房地产上市公司的资本结构 （以资产负债率为衡量指标）有显著影响。
28
表3.2资本结构的影响因素对应指标和变量
影响因素 对应指标
变量
成长能力 总资产增长率
x1
股东权益周转率 x2
营运效率 总资产周转率
x3
内部流动率 流动比率
x4
盈利能力 销售净利率
x5
29
根据以上的叙述，拟建立如下截面多元线 性回归模型：
yi 0 1x1i 2 x2i 3x3i 4 x4i 5x5i ui
Q
k
2
( yt 0 1x1t 2 x2t
k xkt ) =0 k xkt )x1t =0
k xkt )xkt =0
化简整理得多元线性回归正规方程组：
13
yt = n0 +1 x1t yt 0 x1t 1 x2t yt 0 x2t 1
进一步改写为：
1 1
x11
x12
x21
x22
xk1 xk2
1 1 x11 x21
x1n
第03章-多元线性回归模型
M u u2 1
K u uT 1 K u uT 1 O M 2 K uT
2 E(u1 ) E(u2u1) = M E(uT u1)
E(u1u2 ) K E(u1uT ) σ 2 0 K 0 2 E(u2 ) K E(u2uT ) 0 σ 2 K 0 = σ 2I = M M M M O M 0 K σ2 0 2 E(uT u2 ) K E(uT )
因此： 这个模型相应的矩阵表示形式 因此： 这个模型相应的矩阵表示形式为：Y = Xβ + U 矩阵表示形式为
y1 y2 Y= M yT (T ×1)
1 1 X= L 1 x11 x21 L xT 1 x12 x22 L xT 2 x13 L x1k x23 L x2 k L L L xT 3 L xTk T ×( k +1)
§3.2 最小二乘法
一、参数的最小二乘估计…… 参数的最小二乘估计 二、随机误差项方差σ2的估计量 随机误差项方差σ 的估计量……
一、参数的最小二乘估计
– 根据最小二乘准则： 根据最小二乘准则：
ˆ ˆ ˆ ˆ Q ( β 0 , β 1 , β 2 , … , β k）
=
∑
=
T
t =1
et =
2
二、随机误差项方差σ 二、随机误差项方差σ2的估计量
首先，残差的表示形式： 首先，残差的表示形式：
) ˆ e = Y − Y = Y − Xβ = ( Xβ + u) − X [( X' X ) −1 X' Y ] = ( Xβ + u) − X [( X' X )−1 X' ( Xβ + u)]
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
3.
__________________________________ ________________
4、 对修正的原因：是模型中解释变量个数的非减 函数，也就是说，随着模型中解释变量个数的 增加，的值会变大，这样为了得到拟合优度较 高的模型，似乎加入更多解释变量是合理选择。 但是，在建立计量经济模型时，一些影响被解 释变量的次要因素没有必要以显性形式作为解 释变量出现在模型中，因为，随着解释变量个 数增加，待估计的参数也会增多，由此造成样 本自由度的减少，模型参数估计准确性下降。 因此，在多元回归模型背景下，仅仅依据进行 模型比较和选择就会产生问题，在增加新的解 释变量时，必须对由其带来的模型自由度下降 这一“负面影响”而做出惩罚，因此需要对做 出相应的修正。
入及支出预算约束一定的条件下，子女越多的家庭，每个 孩子接受教育的时间会越短。 • 根据多元回归模型偏回归系数的含义，sibs前的参数估计值 -0.094表明，在其他条件不变的情况下，每增加1个兄弟姐 妹，受教育年数会减少0.094年，因此，要减少1年受教育 的时间，兄弟姐妹需增加1/0.094=10.6个。 （2）medu的系数表示当兄弟姐妹数与父亲受教育的年数保 持不变时，母亲每增加1年受教育的时间，其子女作为劳动 者就会预期增加0.131年的教育时间。 （3）首先计算两人受教育的年数分别为
10.36+0.13112+0.21012=14.452 10.36+0.13116+0.21016=15.816 因此，两人的受教育年限的差别为15.816-14.452=1.364
__________________________________ ________________
__________________________________ ________________
单个变量的显著性检
参
数的
假设
检验
方程总体的显著性检 变量显著性检验与总 拟合优度检验与方程
验（t检验） 验（F检验） 体显著性检验的关系 显著性检验之间的关系
总体均值的点预测
预测
总体均值的预测置 个别值的预测置信 预测置信区间的特
信区间 区间 征
__________________________________ ________________
一、单项选择题
1、C 2、A 3、B 4、A 5、C
6、C 7、A 8、D 9、B 10、D
11、B 12、A 13、D 14、D 15、D
16、A 17、D 18、C 19、A 20、B
21、A 22、B 23、C 24、C 25、C
二、多项选择题
1、ACD 2、BD 3、BCD 4、BC 5、AD
2、在满足经典假设的条件下，参数的最小二乘估计 量具有线性性、无偏性以及最小性方差(有效性)， 所以被称为最优线性无偏估计量（BLUE）
对于多元线性回归最小二乘估计的正规方程 组，能解出唯一的参数估计量的条件是（X’X） 的负一次方存在，或者说各解释变量间不完全 线性相关。
__________________________________ ________________
6、BCD
7、ABCD 8、BC 9、BC 10、BCD
11、BC
三、判断题
1、√ 2、√ 3、× 4、×5、√ 6、√
7、× 8、√ 9、× 10、√11、×12、×13、×
__________________________________ ________________
四、简答题
1、多元线性回归模型与一元线性回归模型的区别表 现在如下几个方面：一是解释变量的个数不同； 二是模型的经典假设不同，多元线性回归模型 比一元线性回归模型多了个“解释变量之间不 存在线性相关关系”的假定；三是多元线性回 归模型的参数估计式的表达更为复杂。
6、 这一假定是针对解释变量之间的关系而设定， 根本目的是保证模型的可估计，如果解释变量 之间存在共线性，会造成数据观测矩阵X非列满 秩，模型参数无法估计。
__________________________________ ________________
• 六、计算分析题 1、（1）预期sibs对劳动者受教育的年数有影响。因此在收
多元线性回归模型
矩阵表示 基本假设
参数的普通最小二乘估计
参数的普通最小二乘估计量的性质
参数
估计
普通最小二乘样本回归函数的性质 随机误差项的方差的普通最小二乘估计
样本容量问题
多元线性回归模型 拟合优度检验
离差分解 决定系数与可调整的决定系数
统计推断
参数估计量的分布
参数的区间估计
__________________________________ ________________
4、解： （1）不一定，因为题目未告知是否通过了经济意义
检验。猜测为：X1为学生数量，X2为附近餐厅的 盒饭价格，X3为气温，X4为校园内食堂的盒饭价 格； （2）理由是被解释变量应与学生数量成正比，并且 应该影响显著；被解释变量应与本食堂盒饭价格 成反比，这与需求理论相吻合；被解释变量应与 附近餐厅的盒饭价格成正比，因为彼此有替代作 用；被解释变量应与气温的变化关系不是十分显 著，因为大多数学生不会因为气温变化不吃饭。
__________________________________ ________________
、5、 建立多元回归模型时，究竟该引入多少个解释
变量视情况而定。如果所建立的计量模型是为 验证某一经济理论，则引入变量个数取决于经 济理论，如建模目的是检验CAPM模型，则只需 包含一个解释变量。如果是根据经验而建立模 型，在样本容量允许条件下，可以加入较多解 释变量，以得到所关注变量对被解释变量的 “净”影响。当然，此时，应当考虑做包含多 余变量、遗漏变量等方面的模型设定检验。
__________________________________ ________________
5、（1）样本容量为 n=14+1=15
• RSS=TSS-ESS=66042-65965=77 • ESS的自由度为: df.= 2 • RSS的自由度为: df.=n-2-1=12 （2）R2=ESS/TSS=65965/66042=0.9988