计量经济学课件---简单线性回归
合集下载
计量经济学讲义——线性回归模型的异方差问题1
ndiv = 248 .8055 + 0 .206553 * Atprofits se = ( 31 .89255 )( 0 .049390 ) t = ( 7 .801368 )( 4 .182100 ) p = ( 0 . 00000 )( 0 .00060 ), R 2 = 0 .507103
Gleiser检验与Park检验存在同样的弱点。
(9.3) (9.4) (9.5)
9.4 异方差的诊断－方法4：怀特(White)检验法
Yi = B1 + B 2 X 2 i + B3 X 3 i + u i
2、做如下辅助回归： (9.6) (9.7)
1、首先用普通最小二乘法估计方程(9.6)，获得残差ei
E(Y|X)=α+β*X Y
＋u ＋u －u －u －u ＋u
0
同方差(homoscedasticity)
X 0
E(Y|X)=α+β*X
异方差(heteroscedasticity)
X
一元线性回归分析－回归的假定条件
假定5 无自相关假定，即两个误差项之间不相关。 Cov（ui,uj） = 0。
ui
9.2 异方差的性质
例9.1 美国创新研究：销售对研究与开发的影响 ^ R&D ＝ 266.2575 + 0.030878*Sales se＝(1002.963) (0.008347) t ＝(0.265471) (3.699508) p ＝(0.7940) R2 ＝ 0.461032 从回归结果可以看出： （1）随着销售额的增加，R&D也逐渐增加，即销售 额每增加一百万美元，研发相应的增加3.1 万美元。 （2）随着销售额的增加，R&D支出围绕样本回归线 的波动也逐渐变大，表现出异方差性。 (0.0019)
Gleiser检验与Park检验存在同样的弱点。
(9.3) (9.4) (9.5)
9.4 异方差的诊断－方法4：怀特(White)检验法
Yi = B1 + B 2 X 2 i + B3 X 3 i + u i
2、做如下辅助回归： (9.6) (9.7)
1、首先用普通最小二乘法估计方程(9.6)，获得残差ei
E(Y|X)=α+β*X Y
＋u ＋u －u －u －u ＋u
0
同方差(homoscedasticity)
X 0
E(Y|X)=α+β*X
异方差(heteroscedasticity)
X
一元线性回归分析－回归的假定条件
假定5 无自相关假定，即两个误差项之间不相关。 Cov（ui,uj） = 0。
ui
9.2 异方差的性质
例9.1 美国创新研究：销售对研究与开发的影响 ^ R&D ＝ 266.2575 + 0.030878*Sales se＝(1002.963) (0.008347) t ＝(0.265471) (3.699508) p ＝(0.7940) R2 ＝ 0.461032 从回归结果可以看出： （1）随着销售额的增加，R&D也逐渐增加，即销售 额每增加一百万美元，研发相应的增加3.1 万美元。 （2）随着销售额的增加，R&D支出围绕样本回归线 的波动也逐渐变大，表现出异方差性。 (0.0019)
第二章-简单线性回归模型-PPT精选文档
经济变量之间的因果关系有两种
：确定性的因果关系与随机的因果关 系。前者可以表示为数学中的函数关 系，后者不能像函数关系那样比较精 确地描述其变化规律，但是可以通过 分析大量的统计数据，找寻出它们之 间的一定的数量变化规律，这种通过 大量统计数据归纳出的数量变化规律 称之为统计相关关系，进而称为回归 关系。研究回归关系的方法称为回归 分析方法，表示回归关系的数学式子 称为回归方程。
由于变量Y的非确定性是由于它受
一些随机因素的影响，因此可以 认为，当给定变量 X 的一个确定 值之时，所对应的变量 Y 是一个 随机变量，记作Y|X 。假定条件随 机变量 Y|X 的数学期望值是存在 的，即 E( Y|X ) 存在，由于同一随 机变量的数学期望值是惟一的， 故 E(Y|X ) 能够由 X 的值惟一地确 定，于是 E(Y|X )是变量X 的函数
二、总体回归模型
假设 X 为一个经济变量，Y 为另一个经 济变量，且变量 X 与 Y 之间存在着非确定 性的因果关系，即当 X 变化时会引起 Y 的 变化，但这种变化是随机的。例如，某种 饮料的销售量与气温的关系，销售量受气 温的影响而变化，但其变化又不能由气温 惟一确定；再比如，家庭的周消费额与周 收入之间的关系等等。
第二章 简单线性回归模型
本章主要讨论:
●回归分析与回归函数 ●简单线性回归模型参数的估计 ●拟合优度的度量 ●回归系数的区间估计和假设检验 ●回归模型预测
第一节 回归分析与回归函数
一、相关分析与回归分析 （一）经济变量之间的相互关系
相关关系 1、总体相关 变量之间具有本质上的联系 2、样本相关 变量的样本观察值之间相关
2400
X
非线性相关：
Y
80
70
高等教育计量经济学一元线性回归分析PPT课件
普通最小二乘法（Ordinary least squares, OLS）给出的判断标准是：二者之差（残差）的 平方和最小。
n
n
Q (Yi Yˆi )2 (Yi (ˆ0 ˆ1X i )) 2
1
1
24
最小二乘法的思路
为了精确地描述Y与X之间的关系，必须使用这两个变 量的每一对观察值（n组观察值），才不至于以点概面 （做到全面）。
ui N (0, )
32
(5) ui 非自相关。 Cov(ui, uj) = E[(ui - E(ui) ) ( uj - E(uj) )] = E(ui, uj) = 0，(i j )。
(6) xi是非随机的。 (7) ui 与xi 相互独立。
Cov(ui, xi) = E[(ui - E(ui) ) (xi - E(xi) )]
称为样本回归函数（sample regression function， SRF）。
18
• 样本回归函数的随机形式/样本回归模型：
样本回归函数也有如下的随机形式：
Yi Yˆi uˆˆii ˆ0 ˆ1 X i ei
式中，ei 称为（样本）残差（或剩余）项（residual），代表
963 1299510 1822500 926599
5769300 7425000 4590020
640000 352836 1210000 407044 1960000 1258884 2890000 1334025 4000000 1982464 5290000 2544025 6760000 3876961 8410000 4318084 10240000 6682225 12250000 6400900 53650000 29157448
计量经济学 (强烈推荐)第2章 简单线性回归模型2
2
2
, 查 t 分布表得 t 2 (n 2)
则拒绝原假设 H 0 : 2 0 而不拒绝备择假设 H1 : 2 0 * t ( n 2 ) t t (n 2) ▼如果
2 2
则不拒绝原假设 H0 : 2 0
18
用 P 值判断参数的显著性
假设检验的 p 值：
ˆ 1 1
~ N (0,1)
ˆ ˆ z2 2 2 2 2 ~ N (0,1) ˆ ) SE ( 2
2 x i
注意:这时
ˆ) ˆ ) 和 SE( SE( 2 1
都不是随机变量(X、 、n 都是非随机的）
6
2 ˆ 2.未知时，对 作标准化变换 k
注意:这里的“ ^ ”，表示“估计的”,
这时区间估计的方式也可利用标准正态分布
11
3、当总体方差 未知，且样本容量较小时
2
方法：用无偏估计 ˆ 2 去代替未知的 ，由于样本容量较 小，“标准化变量” t （统计量）不再服从正态分布，而服从 t 分布。 ˆ
2
t
ˆ) SE ( 2
0
z
10
2.当总体方差 2 未知，且样本容量充分大时 方法：可用无偏估计 ˆ 去代替未知的 2 ，
2
由于样本容量充分大，标准化变量Z*（统计量）将 接近标准正态分布
ˆ 2 z ^ 2 ~ N (0,1) ˆ ˆ SE ( 2 )
* 2 x i
ˆ 2 2
可利用正态分布作Z检验 ˆ ˆ * 2 2 2 Z ~ N (0.1) ˆ ) SE ( ˆ ) SE ( 2 2
给定 , 查正态分布表得临界值 Z
2
, 查 t 分布表得 t 2 (n 2)
则拒绝原假设 H 0 : 2 0 而不拒绝备择假设 H1 : 2 0 * t ( n 2 ) t t (n 2) ▼如果
2 2
则不拒绝原假设 H0 : 2 0
18
用 P 值判断参数的显著性
假设检验的 p 值：
ˆ 1 1
~ N (0,1)
ˆ ˆ z2 2 2 2 2 ~ N (0,1) ˆ ) SE ( 2
2 x i
注意:这时
ˆ) ˆ ) 和 SE( SE( 2 1
都不是随机变量(X、 、n 都是非随机的）
6
2 ˆ 2.未知时，对 作标准化变换 k
注意:这里的“ ^ ”，表示“估计的”,
这时区间估计的方式也可利用标准正态分布
11
3、当总体方差 未知，且样本容量较小时
2
方法：用无偏估计 ˆ 2 去代替未知的 ，由于样本容量较 小，“标准化变量” t （统计量）不再服从正态分布，而服从 t 分布。 ˆ
2
t
ˆ) SE ( 2
0
z
10
2.当总体方差 2 未知，且样本容量充分大时 方法：可用无偏估计 ˆ 去代替未知的 2 ，
2
由于样本容量充分大，标准化变量Z*（统计量）将 接近标准正态分布
ˆ 2 z ^ 2 ~ N (0,1) ˆ ˆ SE ( 2 )
* 2 x i
ˆ 2 2
可利用正态分布作Z检验 ˆ ˆ * 2 2 2 Z ~ N (0.1) ˆ ) SE ( ˆ ) SE ( 2 2
给定 , 查正态分布表得临界值 Z
计量经济学一元线性回归分析PPT课件
其用意：在于通过后者的已知或设定值， 去估计和（或）预测前者的（总体）均值。
这里：前一个变量被称为被解释变量
（Explained Variable）或因变量（Dependent
V a r i a b l e ） ， 后 一 个第（5页些/共8）5页 变 量 被 称 为 解 释 变 量
5
回归分析构成计量经济学的方法论基础，其主要内容包括： • 根据样本观察值对经济计量模型参数进行估计，求得回归方程； • 对回归方程、参数估计值进行检验； • 利用回归方程进行分析、评价及预测。
其他为随机或非确定性（nonsystematic)部分 ui。
ui
ui
12
第12页/共85页
ui
ui
称为总体回归函数（PRF）的随机设定形 式。表明被解释变量除了受解释变量的系统 性影响外，还受其他因素的随机性影响。由 于方程中引入了随机项，成为计量经济学模 型，因此也称为总体回归模型。
13
第13页/共85页
第80页共85页2无偏性即估计量的均值期望等于总体回归参数真值第81页共85页3有效性最小方差性即在所有线性无偏估计量中最小二乘估计量第82页共85页2证明最小方差性假设为不全为零的常数则容易证明具有最的小方差普通最小二乘估计量ordinaryleastsquaresestimators称为最佳线性无偏估计量bestlinearunbiasedestimatorblue第83页共85页由于最小二乘估计量拥有一个好的估计量所应具备的小样本特性它自然也拥有大样本特性
-973 1314090 1822500 947508
-929 975870 1102500 863784
-445 334050 562500 198381
计量经济标准线性回归模型PPT课件
吸烟
肺癌
某种基因 第6页/共69页
2、因果分析的方法
第7页/共69页
6、因果分析的方法
吸烟 不吸烟
患癌症 40 20
未患癌症 60 80
吸烟 不吸烟
女性 患癌症
0 0
未患癌症 60 80
患癌症 40
男性 未患癌症 0
20
0
第8页/共69页
Granger检验
• 检验要求估计如下回归
p
p
Yt i X ti jYt j u1t
7.模型的评价
• MC要大于0，不能和X轴有交点：
b2 4ac 0
4
2 2
121 3
2 2
31 3
第44页/共69页
7.模型的评价
• 例2：洛伦兹曲线的估计
收L
入
累1
计
比 重
0.8
0.6
0.4
0.2
0O 0
L aF3 bF 2 cF
F 1, L 1
P
abc 1
c 1a b
Ｌ
D
一阶导大于0
• 常用手段： 1）增设二次项
适用于解释变量X对于被解释变量Y的边际影响取决于 解释变量X的水平的情况
Demand 0 1Advertisement 2 Advertisement 2 u
第27页/共69页
4.函数的设定 1 0, 2 0
第28页/共69页
4.函数的设定
1 0, 2 0
• 当在自变量数目不同的模型间进行选择时，修正R2更适合作为选择标准
第49页/共69页
7.模型的评价
• 帽子矩阵（hat matrix）——寻找杠杆点
Yˆi ˆ0 ˆ1 X i
《计量经济学》第二章 简单线性回归模型
Yi 与 E(Yi Xi ) 不应有偏差。若偏
差 u i 存在，说明还有其他影响因素。
Xi
X
u i实际代表了排除在模型以外的所有因素对 Y 的影响。
◆性质 u i 是其期望为 0 有一定分布的随机变量
重要性：随机扰动项的性质决定着计量经济分析结
果的性质和计量经济方法的选择
19
引入随机扰动项 u i 的原因
数 是客观存在的特定数值。
●总体的两个变量 X 和 Y的全部数值通常不可能直接观测，所
以总体相关系数一般是未知的。
7
X和Y的样本线性相关系数：
如果只知道 X 和 Y 的样本观测值，则X和Y的样本线性
__
__
相关系数为： rXY
( Xi X )(Yi Y )
__
__
( Xi X )2 (Yi Y )2
如果能够通过某种方式获得 ˆ1 和 ˆ 2 的数值，显然: ● ˆ1和 ˆ 2 是对总体回归函数参数1 和2 的估计 ● Yˆ i 是对总体条件期望 E(Yi Xi ) 的估计
么，可以计算出总体被解释变量Y的条件期望 E(Y Xi ) ，
并将其表现为解释变量X的某种函数
E(Y Xi ) f (Xi )
这个函数称为总体回归函数（PRF） 本质: 总体回归函数实际上表现的是特定总体中被解释变 量随解释变量的变动而变动的某种规律性。 计量经济学的根本目的是要探寻变量间数量关系的规律,也 就要努力去寻求总体回归函数。
条件均值形式：
样本回归函数如果为线性函数，可表示为
Yˆi ˆ1 ˆ2 Xi
其中：Yˆi 是与 X i 相对应的 Y 的样本条件均值 ˆ1 和 ˆ2 分别是样本回归函数的参数
个别值（实际值）形式：
计量经济学第2章-一元线性回归模型PPT课件
E（Y
/
X1i，X
，
2i
，X ki）
（f X1i，X
，
2i
，X
）
ki
（2-5）
表示对于解释变量 X1、X 2、
、X k的每一组取值
X1i、X
、
2i
、X ki
，都有被解释变量Y的条件期望
E（Y
/
X
1i，X
，
2i
，X
）
ki
与之对应，E（Y
/
X
1i，X
，
2i
，X ki）是
X1、X 2 、
、X k 的函数。
经济变量之间的关系
确定的函数关系 不确定的相关关系
第4页/共111页
函数关系
指某一经济变量可直接表示为其他经济变量的确定的函数， 函数表达式中没有未知参数，不存在参数估计的问题。
例如:
1) 某一商品的销售收入Y与单价P、销售数量Q之间的关系Y = PQ 2) 某一农作物的产量Q与单位面积产量q 、种植面积S之间的关系Q = q S
第8页/共111页
相关关系的分类
c)按照相关的性质
正相关
指不同经济变量的变化趋势一致，即一个经济变量的 取值由小变大时，另一经济变量的取值也由小变大；
负相关
指不同经济变量的变化趋势相反，即一个经济变量的 取值由小变大时，另一经济变量的取值由大变小。
第9页/共111页
相关关系的分类
c)按照相关的性质
Va（r X）、Va（r Y）分别是变量X、Y的方差。
第13页/共111页
如果给定变量X、Y 的一组样本 Xi，Yi ，i 1，2，n，，
则总体相关系数的估计——样本相关系数为
计量经济学第二章 简单线性回归模型
这样的“规则和方法”有多种，最常用的是最小二乘 法（ordinary least squares, OLS）。
29
一、简单线性回归模型的基本假设 1、为什么要作基本假定？
● 只有对随机扰动的分布作出假定，才能确定 所估计参数的分布性质，也才可能进行假设 检验和区间估计 ●只有具备一定的假定条件，所作出的估计才 具有较好的统计性质。
Y Yi
Yi ei
SRF PRF
ˆ Y i
E (Yi X i )
ui
A
Xi
X
27
第二节 简单线性回归模型 的最小二乘估计
一、简单线性回归模型的基本假设 二、普通最小二乘估计（OLS） 三、OLS回归线的性质 四、最小二乘估计的统计性质
28
▼回归分析的主要目的：根据样本回归函 数SRF，估计总体回归函数PRF。
第二章 简单线性回归模型
主要内容： 回归分析概述 一元线性回归模型的参数估计 一元线性回归模型检验 一元线性回归模型预测 实例
离散变量的期望值定义为E(X)
2
• 方差的性质
方差
Var ( X ) E X i X 2
2
3
• 协方差的性质 协方差
Cov( XY ) E X i X Yi Y
i i __ 2 __ i i
__
__
2
其中： 分别是变量 X 和 Y 的样本观测值 X i和 Y __i X 和 Y 分别是变量 X 和 Y 样本值的平均值
8
相关系数的取值范围：-1≤≤1
>0 为正相关， < 0 为负相关； ||=0 表示不存在线性关系； 线性 ||＝1 表示完全线性相关； 线性 0<||<1表示存在不同程度线性相关： || < 0.4 为低度线性相关； 0.4≤ || ＜0.7为显著线性相关； 0.7≤|| ＜1.0为高度线性相关。