第三章 多元线性回归模型及非线性回归模型

合集下载

第三章多元线性回归模型(计量经济学,南京审计学院)

第三章多元线性回归模型(计量经济学,南京审计学院)

Yˆ 116.7 0.112X 0.739P
R2 0.99
(9.6) (0.003) (0.114)
Y和X的计量单位为10亿美元 (按1972不变价格计算).
P
食品价格平减指数 总消费支出价格平减指数
100,(1972
100)
3
多元线性回归模型中斜率系数的含义
上例中斜率系数的含义说明如下: 价格不变的情况下,个人可支配收入每上升10
c (X X )1 X D
从而将 的任意线性无偏估计量 * 与OLS估计量 ˆ 联系
起来。
28
cX I

可推出:
(X X )1 X X DX I
即 I DX I
因而有 D X 0
cc (X X )1 X D (X X )1 X D ( X X )1 X D X ( X X )1 D
第三章 多元线性回归模型
简单线性回归模型的推广
1
第一节 多元线性回归模型的概念
在许多实际问题中,我们所研究的因变量的变动 可能不仅与一个解释变量有关。因此,有必要考虑线 性模型的更一般形式,即多元线性回归模型:
Yt β0 β1X1t β2 X 2t ... βk X kt ut t=1,2,…,n
Yt
ˆ0
βˆ 1
X
1t
... βˆ K X Kt
2
为最小,则应有:
S
S
S
ˆ0 0, ˆ1 0, ..., ˆ K 0
我们得到如下K+1个方程(即正规方程):
13
β0 n
β1 X1t ...... β K X Kt Yt
β 0 X 1t β1 X 1t 2 ...... β K X 1t X Kt X 1tYt

计量经济学 考试要点整理

计量经济学 考试要点整理
6.1如何使用DW统计量来进行自相关检验?该检验方法的前提条件和局限性有哪些? 答:DW 检验是杜宾和 沃特森于1951年提出的一种适用于小样本的检验方法,一般的计算 机软件都可以计算出DW 值。 给定显著水平α, 依据样本容量n和解释变量个数k’, 查D.W.表得d统计量的上界du和下界dL, 当0<d<dL时, 表明存在一阶正自相关, 而且正自相关的程度随d向0的靠近而增强。 当dL<d<du 时,表明为不能确定存在自相关。当du<d<4-du时,表明不存在一阶自相关。当4-du<d<4-dL 时,表明不能确定存在自相关。当4-dL<d<4时,表明存在一阶负自相关,而且负自相关的 程度随d向4的靠近而增强。 DW检验的前提条件:(1)回归模型中含有截距项;(2)解释变量是非随机的(因此与随 机扰动项不相关)(3)随机扰动项是一阶线性自相关。;(4)回归模型中不把滞后内生变 量(前定内生变量)做为解释变量(5)没有缺失数据,样本比较大。 DW检验的局限性:(1)DW检验有两个不能确定的区域,一旦DW值落在这两个区域,就 无法判断。 这时, 只有增大样本容量或选取其他方法 (2) DW统计量的上、 下界表要求n 15, 这是因为样本如果再小,利用残差就很难对自相关的存在性做出比较正确的诊断(3) DW检 验不适应随机误差项具有高阶序列相关的检验.(4) 只适用于有常数项的回归模型并且解释 变量中不能含滞后的被解释变量
ˆ i y) 2 ei2 ( yi y) 2 ( y
在通过分析可知,回归平方差越大,残差平方和越小,回归直线与样本点拟 合程度越高,而我们要检验总体的线性是否显著,先看一下
ˆi y ) 2 ( y ei2
的比
值,如果其比值越大,则解释变量 X 对被解释变量 Y 的解释程度越高,可推测

多元线性回归模型

多元线性回归模型

第二节 多元线性回归模型的参数估计
一、多元线性回归参数的最小二乘估计
二、最小二乘估计量的数值性质
三、最小二乘估计量的统计性质
四、参数的估计误差与置信区间
二 、最小二乘估计量的数值性质
ˆ ˆ ˆ 1.样本均值点在样本平面上,即Y 0 1 X 1 2 X 2
2.剩余项(残差)ei的均值为零,即 e
另外两个要求 假定8:无设定偏误,模型被正确地设定。
假定9:解释变量之间不存在完全共线性,没有精确的线性
关系。
三、多元线性回归模型的基本假定
无多重共线性假定: 各解释变量之间不存在严格的线性关系,或者说各解
释变量之间线性无关;亦即解释变量之间不存在精确的线
性关系,即是说不存在一列不全为0的数 1 , 2 , , k , 能使下式成立:


其中,残差项ei是随机扰动项ui的估计。
二 、样本线性回归模型
特别地,当K=2时,二元线性样本回归函数为
ˆ ˆ ˆ ˆ Yi 0 1 X 1i 2 X 2i
二元线性样本回归模型为:
ˆ ˆ ˆ Yi 0 1 X 1i 2 X 2i ei
2 ei ˆ X X ) 0 2X 2i Yi ( 0 1 1i 2 2i ˆ 2
e i 0 ei X 1i 0 e i X 2 i 0
2.化简得正规方程
ˆ ˆ ˆ n 0 X 1i X 2i Y i
四、参数的估计误差与置信区间
三、最小二乘估计量的统计性质
在古典线性回归模型的基本假定下,一元线性回 归模型的OLS估计量是最优线性无偏估计量,这个性

3第三章 多元线性回归模型及非线性回归模型new

3第三章 多元线性回归模型及非线性回归模型new
(如收入、价格、费用、道路状况、能源、政策环境等)
各种因素对汽车销量影响的性质怎样?(正、负) 各种因素影响汽车销量的具体数量关系是什么? 所得到的数量结论是否可靠? 中国汽车行业今后的发展前景怎样?应当如何制定汽车的 产业政策? 很明显,只用一个解释变量已很难分析汽车产业的发展, 还需要寻求有更多个解释变量情况的回归分析方法。
注意
ˆ 是向量 (i 1, 2, n) β ( j 1, 2, n)
(由无偏性) (由OLS估计式)
ˆ β)( β ˆ β )] E[( β
E[( X X )1 X uuX ( X X )1 ] ( X X )1 X E(uu) X ( X X )1 ( X X )1 X 2 IX ( X X )1
计量经济学
第三章 多元线性回归模型
引子:中国已成为世界汽车产销第一大国
2009年,为应对国际金融危机、确保经济平稳较快增长, 国家出台了一系列促进汽车消费的政策,有效刺激了汽车消费市 场,汽车产销呈高增长态势,首次成为世界汽车产销第一大国。 2009年,汽车产销分别为1379.1万辆和1364.5万辆,同比增长
c c12 11 c21 c22 ck 1 ck 2
c1k c2 k ckk
所以
ˆ ~ N ( , c ) j j
中第 j 行第 j 列的元素) 2 (j=1,2,---k) jj
19
ˆ 的方差-协方差 β
ˆ ) E{[ β ˆ E( β ˆ )][ β ˆ E( β ˆ )]} COV ( β
因为样本回归函数为 两边左乘 X
X
e
0
ˆ +e Y = Xβ
ˆ + X e X Y = X Xβ

第三章(1) 多元线性回归模型课件

第三章(1) 多元线性回归模型课件

分离差的大小
解释的那部分离差的大小。也
称剩余平方和。
第三章 多元线性回归模型
§ 3-3 多元线性回归模型的统计检验 一、 拟合优度检验 检验模型对样本观测值的拟合程度。用在总离差分解 基础上确定的可决系数R2 (调整的可决系数 ) 度量。 1、总离差平方和的分解
总离差平方和TSS 回归平方和ESS
3、随机误差项在不同 样本点之间是独立的,
Cov( i,
不存在序列相关
因为 i与 j相互独立,有:
j)=0 i≠j
无自相关假定表明:产生 误差(干扰)的因素是完 全随机的,此次干扰与彼 次干扰互不相关,互相独 立。由此应变量Yi的序列 值之间也互不相关。
第三章 多元线性回归模型
§ 3-1 多元线性回归模型及其基本假定
3、有效性(最小方差性):
指在所有线性、无偏估计量中, OLS参数估计量的 方差最小。
4、 服从正态分布,即:
其中,
, G2是随机误差项的方差,
Cjj是矩阵(X’X)-1 中第j行第j列位置上的元素。
第三章 多元线性回归模型
§ 3-2 多元线性回归模型的参数估计
一、 参数的最小二乘估计
二、 OLS估计量的统计性质及其分布
三、随机误差项方差Q2的估 计
参数估计的另一项任务是: 求随机误差项 i 的分布参数
称作回归标准差 (standard error of regression), 常作为对所估计回归线的拟
合优度的简单度量。
i~N(0, Q2)
随机误差项 i 的 方差的估计量为:
可以
证明:
说明 是QS 的无偏估计量。
t-Statistic 6.411848 22.00035 4.187969

4非线性模型

4非线性模型



d (ln Q) d (ln K )

Q / Q K / K

EK


d (ln Q) d (ln L)

Q / Q L / L

EL
• •
很显然, 为资本弹性系数, 为劳动力弹性系数。 1 ,表示规模报酬不变(即资本和劳动力增长
1%, 产 1出也增长1%);

yˆ 0.529204K L 0.882779 0.181053
,表示规模报酬递减(即资本和劳动力增长
• 1%, 产1,出表将示低规于模1%报的酬速递度增增(长即)资;本和劳动力增长1%,
产202出0/2/1将6 超过1%的速度增长)。
12
• 二、解释变量需间接替换的非线性回归模型
• 1、指数曲线模型 Q AK L eu
• 【例】下表列出了某地区1986~2005年的产出(用国内生产总值GDP度量,单位万 元)、劳动投入(用总就业人数度量,单位为千人)以及资本投入(用资产总额度量, 单位为千元)的数据,试建立该地区的生产函数。
• 【例】美国1958-1969年小时收入指数变化百分比y与失业率x统计资料下表 所示,试建立美国1958-1969年的菲利普斯曲线。

• 若使用Eviews软件,在主窗口的命令栏内,直接键入ls y c
1/x回车即可得到参数估计结果。
2020/2/16
6
一、解释变量可以直接替换的非线性回归模型
• ⒈ 多项式函数模型
边际成本是递减的;当产量超过46.128时,边际成本是递增的。
2020/2/16
5
一、解释变量可以直接替换的非线性回归模型
• ⒈ 多项式函数模型

5、计量经济学【多元线性回归模型】

5、计量经济学【多元线性回归模型】

二、多元线性回归模型的参数估计
2、最小二乘估计量的性质 当 ˆ0, ˆ1, ˆ2, , ˆk 为表达式形式时,为随机变量, 这时最小二乘估计量 ˆ0, ˆ1, ˆ2, , ˆk 经过证明同样也 具有线性性、无偏性和最小方差性(有效性)。 也就是说,在模型满足那几条基本假定的前提 下,OLS估计量具有线性性、无偏性和最小方差性 (有效性)这样优良的性质, 即最小二乘估计量
用残差平方和 ei2 最小的准则: i
二、多元线性回归模型的参数估计
1、参数的普通最小二乘估计法(OLS) 即:
min ei2 min (Yi Yˆi )2 min Yi (ˆ0 ˆ1X1i ˆ2 X 2i ˆk X ki )2
同样的道理,根据微积分知识,要使上式最小,只 需求上式分别对 ˆj ( j 0,1, k) 的一阶偏导数,并令 一阶偏导数为 0,就可得到一个包含 k 1 个方程的正 规方程组,这个正规方程组中有 k 1个未知参数 ˆ0, ˆ1, ˆ2, , ˆk ;解这个正规方程组即可得到这 k 1 个参数 ˆ0, ˆ1, ˆ2, , ˆk 的表达式,即得到了参数的最小 二乘估计量;将样本数据代入到这些表达式中,即可 计算出参数的最小二乘估计值。
该样本回归模型与总体回归模型相对应,其中残差 ei Yi Yˆi 可看成是总体回归模型中随机误差项 i 的 估计值。
2、多元线性回归模型的几种形式: 上述几种形式的矩阵表达式: 将多元线性总体回归模型 (3.1) 式表示的 n 个随机方 程写成方程组的形式,有:
Y1 0 1 X11 2 X 21 .Y.2.........0.......1.X...1.2........2.X...2.2. Yn 0 1 X1n 2 X 2n
ˆ0, ˆ1, ˆ2, , ˆk 是总体参数真值的最佳线性无偏估计 量( BLUE );即高斯—马尔可夫定理 (GaussMarkov theorem)。

计量经济学 第三章、经典单方程计量经济学模型:多元线性回归模型

计量经济学 第三章、经典单方程计量经济学模型:多元线性回归模型

第三章、经典单方程计量经济学模型:多元线性回归模型一、内容提要本章将一元回归模型拓展到了多元回归模型,其基本的建模思想与建模方法与一元的情形相同。

主要内容仍然包括模型的基本假定、模型的估计、模型的检验以及模型在预测方面的应用等方面。

只不过为了多元建模的需要,在基本假设方面以及检验方面有所扩充。

本章仍重点介绍了多元线性回归模型的基本假设、估计方法以及检验程序。

与一元回归分析相比,多元回归分析的基本假设中引入了多个解释变量间不存在(完全)多重共线性这一假设;在检验部分,一方面引入了修正的可决系数,另一方面引入了对多个解释变量是否对被解释变量有显著线性影响关系的联合性F检验,并讨论了F检验与拟合优度检验的内在联系。

本章的另一个重点是将线性回归模型拓展到非线性回归模型,主要学习非线性模型如何转化为线性回归模型的常见类型与方法。

这里需要注意各回归参数的具体经济含义。

本章第三个学习重点是关于模型的约束性检验问题,包括参数的线性约束与非线性约束检验。

参数的线性约束检验包括对参数线性约束的检验、对模型增加或减少解释变量的检验以及参数的稳定性检验三方面的内容,其中参数稳定性检验又包括邹氏参数稳定性检验与邹氏预测检验两种类型的检验。

检验都是以F检验为主要检验工具,以受约束模型与无约束模型是否有显著差异为检验基点。

参数的非线性约束检验主要包括最大似然比检验、沃尔德检验与拉格朗日乘数检验。

它们仍以估计无约束模型与受约束模型为基础,但以最大似然原χ分布为检验统计量理进行估计,且都适用于大样本情形,都以约束条件个数为自由度的2的分布特征。

非线性约束检验中的拉格朗日乘数检验在后面的章节中多次使用。

二、典型例题分析例1.某地区通过一个样本容量为722的调查数据得到劳动力受教育的一个回归方程为36.0.+=-10+094medufedu.0sibsedu210131.0R2=0.214式中,edu为劳动力受教育年数,sibs为该劳动力家庭中兄弟姐妹的个数,medu与fedu分别为母亲与父亲受到教育的年数。

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
多个解释变量的多元线性回归模型的n组样本观测值,可 表示为 Y1 1 2 X 21 3 X 31 k X k1 u1 Y2 1 2 X 22 3 X 32 k X k 2 u2
Yn 1 2 X 2n 3 X 3n k X kn un
计量经济学
第三章 多元线性回归模型
引子:中国已成为世界汽车产销第一大国
2009年,为应对国际金融危机、确保经济平稳较快增长, 国家出台了一系列促进汽车消费的政策,有效刺激了汽车消费市 场,汽车产销呈高增长态势,首次成为世界汽车产销第一大国。 2009年,汽车产销分别为1379.1万辆和1364.5万辆,同比增长
假定各解释变量之间不存在线性关系,或各个解 释变量观测值之间线性无关。或解释变量观测值
Cov(ui , u j ) E{[ui E(ui )][u j E(u j )]} E(uu)
E (u1u1 ) E (u1u2 ) E (u1un ) 1 E (u u ) E (u u ) E (u u ) 0 2 1 2 2 2 n 2 E ( u u ) E ( u u ) E ( u u ) 0 n 1 n 2 n n
(如收入、价格、费用、道路状况、能源、政策环境等)
各种因素对汽车销量影响的性质怎样?(正、负) 各种因素影响汽车销量的具体数量关系是什么? 所得到的数量结论是否可靠? 中国汽车行业今后的发展前景怎样?应当如何制定汽车的 产业政策? 很明显,只用一个解释变量已很难分析汽车产业的发展, 还需要寻求有更多个解释变量情况的回归分析方法。
(截距项可视为解释变量总是取值为1)
10
三、多元线性回归中的基本假定
假定1:零均值假定 E(ui ) 0 ( i=1,2,---n) 或 E(u)=0 假定2和假定3:同方差和无自相关假定: 2 (i=j)
Cov(ui , u j ) E[(ui Eui )(u j Eu j )] E(ui u j )
以是线性的,也可以是非线性的 例如:生产函数
Y AL K u
取对数


ln Y ln A ln L ln K ln u
这也是多元线性回归模型,只是这时变量为lnY、 lnL、lnK
6
多元总体回归函数
条件期望表现形式: 将Y的总体条件期望表示为多个解释变量的函数,如:
E(Yi X 2i , X 3i , X ki ) 1 2 X 2i 3 X 3i k X ki (i 1, 2,n) 注意:这时Y总体条件期望的轨迹是K维空间的一条线
48.3%和46.15%。
是什么因素导致中国汽车数量的增长? 影响中国汽车行业发展的因素并不是单一的,经济增长、 消费趋势、市场行情、业界心态、能源价格、道路发展、内 外环境,都会使中国汽车行业面临机遇和挑战。
2
怎样分析多种因素的影响?
分析中国汽车行业未来的趋势,应具体分析这样一些问题: 中国汽车市场发展的状况如何?(用销售量观测) 影响中国汽车销量的主要因素是什么?
个别值表现形式:
引入随机扰动项
ui Yi E(Yi X 2i , X 3i X ki )
(i 1, 2,n)
7
或表示为 Y X X X u i 1 2 2i 3 3i k ki i
多元样本回归函数
Y 的样本条件均值可表示为多个解释变量的函数
注意:模型中的 j (j=1,2,---k)是偏回归系数 样本容量为n 偏回归系数:
(i 1, 2,n)
Байду номын сангаас
控制其它解释量不变的条件下,第 j 个解释变量的 单位变动对被解释变量平均值的影响,即对 Y平均值“直 接”或“净”的影响。
5 5
多元线性回归中的“线性”
指对各个回归系数而言是“线性”的,对变量则可
3
本章主要讨论:
●多元线性回归模型及古典假定 ●多元线性回归模型的估计 ●多元线性回归模型的检验 ●多元线性回归模型的预测
4
第一节 多元线性回归模型及古典假定
一、多元线性回归模型的意义
一般形式:对于有K-1个解释变量的线性回归模型
Yi 1 2 X 2i 3 X 3i k X ki ui
ˆ ˆ X ˆ X ˆ X ˆi Y 1 2 3 k 2i 3i ki
或回归剩余(残差):
ˆi ei Yi Y
ˆ ˆ X ˆ X ˆ X e Yi 1 2 3 k 2i 3i ki i
其中
i 1 ,2, n
8
二、多元线性回归模型的矩阵表示
nk
Y
n 1
X
β
k 1
u
n 1
9
9
矩阵表示方式
总体回归函数 样本回归函数
E(Y) = Xβ 或 Y = Xβ + u
ˆ ˆ = Xβ Y

ˆ +e Y = Xβ
ˆ 其中: Y,Y,u,e 都是有n个元素的列向量
ˆ 是有k 个 元素的列向量 β, β
( k = 解释变量个数 + 1 )
X 是第一列为1的n×k阶解释变量数据矩阵 ,
用矩阵表示
Y1 1 X 21 Y 1 X 22 2 Yn 1 X 2 n
X k1 1 u1 u X k2 2 2 X kn k u n
或用方差-协方差矩阵表示为:
0
(i≠j)
j 1, 2,n)
(i 1, 2,n
0 0 1 0 2I 0 1
11
假定4:随机扰动项与解释变量不相关
Cov( X ji , ui ) 0 ( j 2,3,, k )
假定5: 无多重共线性假定 (多元中增加的)
相关文档
最新文档