第一章 一元线性回归模型 计量经济学(陶长琪)

（一）线性性 是指一个变量是否是另一个变量的线性函数。 ˆ ， ˆ 均为随机观测值 Yi 的线性函数。 OLS估计量 0 1
ˆ 1
x y x (Y Y ) x Y Y x x x x x
i i i i 2 2 i i i i 2 i 2 i
i
证明：
总体回归模型：
Yi 0 1 X i ui
（1 ） E Y X i 0 1 X i 称为系统性部分或
确定性部分；
（2）随机干扰项
u i 则称为随机性部分或非系
统性部分。
随机干扰项主要包括下列因素的影响： （1）包含了被遗漏的影响因素。由于考察总体认识 上不可能达到绝对的精确，有部分未 知的因素 是不可避免的无法归入模型。 （2）包含了无法取得数据的影响因素。有一些 影 响因素也许对被解释变量有相当的影响 力，但 这些因素的数据很难获取,甚至无 法获取。所以 在建立模型时我们不得不将 这一影响因素省略 掉，归入随机干扰项中。
回归分析是建立计量经济学模型中一个十分重 要的概念。在了解回归分析的概念之前，首先需要 对相关关系与因果关系作简要的说明。
相关关系： 是指两个以上的变量的样本观测值序列之间表现 出来的随机数学关系，用相关系数来衡量。
因果关系： 是指两个或两个以上变量在行为机制上的依赖 性，作为结果的变量是由作为原因的变量所决定的， 原因变量的变化引起结果变量的变化。因果关系有单 向因果关系和互为因果关系之分。
表示。这个函数称作样本回归函数。
样本回归函数也可以表示为如下的随机形式：
ˆ ˆ X e ˆ u ˆ Yi Y i i 0 1 i i
由于残差的引入，样本回归函数从一个确定性的 数学模型成为一个具有随机性的计量经济学模 型，我们称之为样本回归模型。
样本回归模型具有的性质: （1）参数估计由样本信息所形成；
2
通过上面的方法得到的、的估计结果是从最小二 乘原理得到的，因此称作普通最小二乘估计量。
例1-1 根据凯恩斯的绝对收入假说，建立最简 单的消费函数。下面利用我国1995-2010年城镇 居民家庭人均消费性支出与城镇居民家庭人均可 支配收入数据，使用普通最小二乘法建立一元线 性回归模型。有关数据见表1-2。
（3）包含了模型设定上的误差。建立回归模型的 时候，为了便于检验和预测，一般都力图让 模型尽可能的简单明了，因此会刻意的在模 型中减少一些影响因素。 （4）包含数据测量误差。由于某些主客观原因， 数据在测量或观测时出现了误差，使其偏于 实际值，这种误差只能归入中。 （5）包含变量内在的随机性。模型变量本身具有 其内在的随机性，会对被解释变量产生随机 性的影响。
Cov ui , X i 0, i 1,2, , n
假定3：随机干扰项服从零均值，同方差，零协方 差，即 E ui 0, Var ui 2 , E uiu j 0.i j, i, j 1, 2, , n
假定4：随机干扰项服从零均值，同方差的正态分 布，即 ui ~ N(0, 2 ) i=1,2, …,n 假定5：正确设定了回归模型。正确设定有三个方面 的要求:1.选择了正确的变量进入模型；2. 对模型的形式进行正确的设定；3.对模型的 解释变量、被解释变量以及随机干扰项做了 正确的假定。
2 ˆ ˆ Y X X X 0 i 1 i i i
n是样本容量，该方程组被称作正规方程组。
( X i X )(Yi Y ) xi yi ˆ 解得 1 2 2 ( X X ) x i i
X i Yi X i Yi X i ˆ ˆX 0 Y 1 2 2 n X i X i
ˆ 1
( X X )(Y Y ) x y (X X ) x
i i i 2 i 2 i
i
224148072 334446017
0.670207 ˆ Y ˆ X 7139.778 0.670207 9525.036
0 1
=756.03
ˆ ， ˆ （ 2） 这二个估计称为点估计 ,即给定一组 0 1 样本,可得到相应的参数估计值,它们是对于总体 参数 0， 的一个点估计 ,不同的样本,得到的估 1 计可能不完全相同。但不同的样本所得到的估计 均是对总体的一个点估计。
回归分析的主要目的： 根据样本回归函数SRF，估计总体回归函数PRF。
xiYi ˆ 1 kiYi 2 xi
x ( X X ) X X nX nX 0
i i i
xi ki 2 x i
ˆ ) E ( w ) E( ) w E ( ) E( i i i i 0 0 0 0
图1.1.3 样本和总体回归线的关系示意图
第二节 一元线性回归模型的参数估计 一、最小二乘估计法的经典假定
二、普通最小二法（OLS）
三、最小二乘估计量的性质
四、极大似然法(ML)
一、最小二乘估计法的经典假定 假定1：解释变量Xi是非随机的，即在重复抽样 中，解释变量取固定值。 假定2：随机干扰项ui与解释变量Xi之间不相关，即
第 一 章 一元线性回归模型
第一节 一元线性回归的基本概念
第二节 第三节 第四节 第五节 一元线性回归模型的参数估计 一元线性回归模型的检验 一元线性回归模型的预测 案例分析
计量经济学的主要问题之一就是要探寻各种经 济变量之间的相互联系程度、联系方式及其运动规 律。而经典计量经济学方法的核心是采用回归分析 的方法解释变量之间的具体的依存关系。
回归wenku.baidu.com程为
ˆ 756.03 0.670207 X Y i i
三、最小二乘估计量的性质
ˆ ， ˆ 是样 利用普通最小二乘法计算出的 0 1 本观测值的函数，所以同一总体的不同样本就 ˆ ， ˆ。 会计算出不同的 0 1
用样本回归直线去代表总体回归直线，其 ˆ ， ˆ 这两个参数的。 实用性和准确性是依靠 0 1 所以，必须了解估计量的性质。
（二）无偏性 是指估计量的均值或期望等于总体真实值。 ˆ) OLS估计量的均值等于总体参数值，即 E( 1 1
ˆ k Y k ( X u ) 证明： i i i 0 1 i i 0 ki 1 ki X i kiui 1
xi xi ki x 2 x 2 0 i i
该例中：E(Y | X=2000)=1515
描出散点图发现：随着收入的增加，消费“平均地说 ”也在增加，且Y 的条件均值均落在一根正斜率的直线上 。这条直线的方程称为总体回归函数，这条直线称为总 体回归线。
二、总体回归曲线与总体回归函数
在全部解释变量已知的条件下得到的全部被 解释变量的一个期望称为总体回归曲线，可用 下面的函数来表示 E Y X i f X i
第一节 一元线性回归的基本概念
一、散点图 线性关系的确定常常可以通过两类方法： 一类是根据实际问题所对应的理论分析； 另一种直观的方法是分别以被解释变量Y和解释变量 X在二维平面上绘制的散点图来初步确认（如图2-1） 散点图表示因变量随自变量而变化的大致趋势， 据此可以选择合适的函数对数据点进行拟合。
当不满足小样本性质时，需进一步考察估计量的 大样本或渐近性质：
（4）渐近无偏性 即样本容量趋于无穷大时，是否 它的均值序列趋于总体真值；
（5）一致性 即样本容量趋于无穷大时，它是否依 概率收敛于总体的真值； （6）渐近有效性 即样本容量趋于无穷大时，是否 它在所有的一致估计量中具有最小的渐近方差。
预测整个总体呢？
表1-1 总体中抽取一个随机样本
根据图1.1.2，该样本的散点图可通过一条直线尽 可能的拟合。 由于此样本是取自于总体。所以这条直线可以近似 地代表总体回归线。这样一条直线，我们称之为样 本回归线。
图1.1.2
总体中随机抽取的一个样本的散点图
样本回归线，它的函数形式可以用
ˆ ˆX ˆ f X Y i i o 1 i
1 1
n
n
ˆ ， ˆ 能使 Y与 Y ˆ 即在给定样本观测值之下，选择出 0 1 i i 之差的平方和最小。
ˆ , ˆ 的偏导数并令其等于零，得 求Q对 0 1 Q 0 ˆ 0 Q 0 ˆ 1 整理可得 Yi nˆ0 ˆ1 X i
一个用于考察总体的估计量，可从如下几个方 面考察其优劣性： （1）线性性 即它是否是另一随机变量的线性 函数； （2）无偏性 即它的均值或期望值是否等于总 体的真实值； （3）有效性 即它是否在所有线性无偏估计量 中具有最小方差。
这三个准则也称作估计量的小样本性质。
拥有这类性质的估计量称为最佳线性无偏估计 量（BLUE）。
三、随机干扰项 一般由数据绘制的散点图上的点并不在一条 直线上，而是在直线的周围。即 Yi与总体期望 值 E Y X i 是有一些差别的，称这个差别为离 差，用函数表示为
ui Yi E Y X i
其中 Yi 表示第i个被解释变量的具体观测值， 是用于表示离差的一个随机变量，在计量经济学 中，我们称之为随机干扰项。
相关分析： 是判断变量之间是否具有相关关系的数学方法。 回归分析： 是研究一个变量关于另一个（些）变量的具体依赖 关系的计算方法和理论。其目的在于通过后者的已知 或设定值，去估计和预测前者的均值。前一个变量称 为被解释变量或因变量，后一个（些）变量被称为解 释变量或自变量。
回归分析的主要内容包括： （1）根据样本观测值对参数进行估计， 求得回归方程； （2）对回归方程参数估计进行显著性检验； （3）利用回归方程进行分析、评价及预测。
（2）但由于调查的完备性，给定收入水平X的消 费支出Y的分布是确定的，即以X的给定值为条件的 Y的条件分布是已知的，如： P(Y =1308| X =2000）=· · · = P(Y =1308| X =2000=1/7 因此，给定收入X的值Xi，可得消费支出Y的条 件均值或条件期望： E(Y|X=Xi)
二、普通最小二乘法（OLS）
给定一组样本观测值（Xi , Yi）（i=1,2,…n）要求 样本回归函数尽可能好地拟合这组值。 普通最小二乘法（OLS）给出的判断标准是：二者 之差的平方和最小。
ˆ ˆ X )) 2 ˆ ) 2 (Y ( Q (Yi Y i i 0 1 i
图1.1.1 散点图示意图
例 一个假想的社区有70户家庭组成，要研究
该社区每月家庭消费支出Y与每月家庭可支配收入X
的关系。
即如果知道了家庭的月收入，能否预测该社区 家庭的平均月消费支出水平。 为达到此目的，将该70户家庭划分为组内收入差 不多的10组，以分析每一收入组的家庭消费支出。
（1）由于不确定因素的影响，对同一收入水平X， 不同家庭的消费支出不完全相同；
四、样本回归函数 在现实问题的计量经济学研究中，总体的 信息往往无法全部获得。这种情况下，总体回 归函数是无法估计的。在实际应用中，往往是 通过抽样，得到总体的样本，再通样本数据做 回归分析来估计总体回归函数。
假设表1-1中的数据是从一个总体中随机抽取的 一个样本，根据表1-1的数据做散点图，如图1.1.2 所示。我们的任务就是：能否从所抽取的样本去
这样一个函数，我们称之为总体回归函数。 至于总体回归函数的具体函数形式，在实际应 用过程中，是由总体特征来决定的。
只有一个解释变量的线性回归模型为一元线 性回归函数。其具体形式可写为
E Y X i 0 1 X i
在回归分析中，我们的主要目的，是通过所 取得的样本观测值去估计回归系数的值，以达 到预测经济现象的目的。