2一元线性回归模型
计量经济学的2.2 一元线性回归模型的参数估计
基于样本数据，所得到的总体回归函数的一个估 计函数称为样本回归函数。
问题：当我们设定总体回归模型的函数形式后， 如何通过样本数据得到总体回归函数的一个估计 （即样本回归函数）？--参数估计问题
E (Y | X i ) 0 1 X i
ˆ ˆ ˆ Yi f ( X i ) 0 1 X i
Xi确定
作此假设的理由：当我们把PRF表述为 时，我们假定了X和u(后者代表所有被省略的变量的影 响)对Y有各自的（并且可加的)影响。但若X和u是相关 25 的，就不可能评估它们各自对Y的影响。
线性回归模型的基本假设（4）
假设4、服从零均值、同方差、零协方差的正态分布 i~N(0, 2 ) i=1,2, …,n 意为：ui服从正态分布且相互独立。因为对两个正态 分布的变量来说，零协方差或零相关意为这两个变量 独立。 作该假设的理由：i代表回归模型中末明显引进的许多解释
Yi 0 1 X i i
i=1,2,…,n
Y为被解释变量，X为解释变量，0与1为待估 参数， 为随机干扰项
3
回归分析的主要目的是要通过样本回归函 数（模型）SRF尽可能准确地估计总体回归函 数（模型）PRF。
ˆ ˆ ˆ Yi 0 1 X i
ˆ ˆ ˆ Yi 0 1 X i ui
同方差假设表明：对应于不同X值的全部Y值具有同 样的重要性。
22
线性回归模型的基本假设（2-3）
假设2、随机误差项具有零均值、同方差和不自相关 性(不序列相关)： (2.3) 不自相关： Cov(i, j|Xi, Xj)=0 i≠j i,j= 1,2, …,n 或记为 Cov(i, j)=0 i≠j i,j= 1,2, …,n 意为：相关系数为0， i, j非线性相关。 几何意义如下
一元线性回归模型
1．高尔顿普遍回归定律。高尔顿的目 的在于发现为什么人口的身高分布有一种
稳定性。在现代，我们并不关心这种解释，
我们关心的是：在给定父辈身高的情形下，
找到儿辈平均身高的变化规律。
就是说，我们如果知道了父辈的身高，
就可预测儿辈的平均身高。假设我们得
到了一组父亲、儿子身高的数据，制成
如下的散点图。图中按统计分组的方法 将父亲身高分为若干组。
在经典物理学中，给定电阻Ω,电流I
和电压V 之间的关系即为函数关系，即
V I Ω
。这种典型的变量关系就是确
定性关系。
在经济系统中， 这种变量之间的函数关
系或确定性关系就很少见 。常见的是变量
之间是一种不确定的关系，既使变量X 是
变量Y 的原因， 给定变量X 的值也不能具
体确定变量Y的值， 而只能确定变量Y 的
（4.2）
其中，1 和 2 为未知而固定的参数， 称为回归系数； 1 为截距系数， 2 为斜 率系数。式（4.2）为线性总体回归函数 。
三、线性的含义
1．对变量为线性 对线性的第一种解释是指Y 的条件期望是 Xi 的线性函数，例如式（4.2）就是线性回归
函数，该回归线是一条直线。
按这种解释 E (Y / X i ) 1 2 X
统计特征，通常称变量X 与Y 之间的这种
关系为统计关系。
例如，企业总产出Y 与企业的资本投入
K 、劳动力投入L 之间的关系就是统计关 系。虽然资本K 和劳动力L 是影响产出Y 的两大核心要素，但是给定K 、L 的值并 不能确定产出Y 的值。因为，总产出Y 除 了受资本投入K、劳动力投入L 的影响外
对于Y 的每一条件分布，我们能计算 出它的条件期望，记为E（Y/X=Xi），即 在X取特定Xi 值时Y 的期望值。例如， X=1000时，Y 的期望值为：
计量经济学第2章 一元线性回归模型
15
~ ~ • 因为 2是β2的线性无偏估计，因此根据线性性， 2 ~ 可以写成下列形式： 2 CiYi
• 其中αi是线性组合的系数，为确定性的数值。则有
E ( 2 ) E[ Ci ( 1 2 X i ui )]
E[ 1 Ci 2 Ci X i Ci ui ]
6
ˆ ˆ X )2 ] ˆ , ˆ ) [ (Yi Q( 1 2 i 1 2 ˆ ˆ X 2 Yi 1 2 i ˆ ˆ 1 1 2 ˆ ˆ ˆ ˆ [ ( Y X ) ] 1 2 i Q( 1 , 2 ) i ˆ ˆ X X 2 Yi 1 2 i i ˆ ˆ 2 2
16
~
i
i
• 因此 ~ 2 CiYi 1 Ci 2 Ci X i Ci ui 2 Ci ui
• 再计算方差Var( ) 2 ，得 ~ ~ ~ 2 ~ Var ( 2 ) E[ 2 E ( 2 )] E ( 2 2 ) 2
C E (ui )
2 i 2 i
i
~
i
i
i
i
E ( 2 Ci ui 2 ) 2 E ( Ci ui ) 2
i
2 u
C
i
2 i
i
~ ˆ)的大小，可以对上述表达式做一 • 为了比较Var( ) 和 Var( 2 2
些处理： ~ 2 2 2 2 Var ( 2 ) u C ( C b b ) i u i i i
8
• 2.几个常用的结果
• （1） • （2） • （3） • （4）
2.2 一元线性回归模型的参数估计
于是，Y的概率函数为
P(Yi ) = 1
− 1 2σ
2
ˆ ˆ (Yi − β 0 − β1 X i ) 2
σ 2π
e
（i=1,2,…n）
4/29/2012
14
因为Yi是相互独立的，所以的所有样本观测值的联 合概率，也即或然函数(likelihood function) 或然函数(likelihood function)为： 或然函数
§2.2 一元线性回归模型的参数估计
一、一元线性回归模型的基本假设 二、参数的普通最小二乘估计（OLS） 参数的普通最小二乘估计（OLS） 参数估计的最大或然法(ML) 三、参数估计的最大或然法(ML) * 四、最小二乘估计量的性质 五、参数估计量的概率分布及随机干扰项方差的估计
4/29/2012
1
640000 352836 1210000 407044 1960000 1258884 2890000 1334025 4000000 1982464 5290000 2544025 6760000 3876961 8410000 4318084 10240000 6682225 12250000 6400900 53650000 29157448
4/29/2012
-973 1314090 1822500 947508 -929 975870 1102500 863784 -445 334050 562500 198381 -412 185580 202500 170074 -159 23910 22500 25408 28 4140 22500 762 402 180720 202500 161283 511 382950 562500 260712 1018 1068480 1102500 1035510 963 1299510 1822500 926599 5769300 7425000 4590020
第二章：一元线性回归模型理论与方法(第二部分)
最小二乘法的数学原理
• 纵向距离是Y的实际值与拟合值之差，差异 大拟合不好，差异小拟合好，所以又称为 拟合误差或残差。 • 将所有纵向距离平方后相加，即得误差平 方和，“最好”直线就是使误差平方和最 小的直线。 • 于是可以运用求极值的原理，将求最好拟 合直线问题转换为求误差平方和最小。
普通最小二乘法（OLS）
这三个准则也称作估计量的小样本性质。
拥有这类性质的估计量称为最佳线性无偏估计 量（best liner unbiased estimator, BLUE）。
高斯—马尔可夫定理(Gauss-Markov theorem)
在给定经典线性回归的假定下，最小二乘估计 量是具有最小方差的线性无偏估计量。
ˆ , ˆ 的均 2、无偏性，即以X的所有样本值为条件，估计量 0 1 0与1 。 值（期望）等于总体回归参数真值
ˆ X i2 Yi X i Yi X i 0 nX i2 (X i ) 2 ˆ nYi X i Yi X i 1 2 2 n X ( X ) i i
对数似然函 数极大化的 一阶条件
结构参数的 ML估计量
最大似然法与普通最小二乘法讨论
已知一组样本观测值（Yi，Xi）(i=1,2, …,n)， 要求样本回归函数尽可能好地拟合这组值，即 样本回归线上的点Y ˆi 与真实观测点Yi的“总体” 误差尽可能地小。在技术处理上我们一般采用 “最小二乘法”。
最小二乘原则：由于估计值和实测值之差可正 可负，简单求和可能将很大的误差抵消掉，因 此，只有平方和才能反映二者在总体上的接近 程度。
n 1
证残差与 Yˆ 的样本协方差为0，即证： i
eiYˆ i
0
ห้องสมุดไป่ตู้
2 一元线性回归模型
4、回归分析
(1)“回归”一词的古典意义 英国生物学家F.高尔顿（Francis 遗传学研究中首先提出的。
Galton）在
(2)“回归”一词的现代意义： 回归分析是研究一个被解释变量（或因变量）对一 个或多个解释变量（或自变量）数量依赖关系的数 学分析方法。 目的：通过解释变量的已知值或设定值，去估计被 解释变量的平均值，或分析解释变量变动对被解释 变量产生的影响。
相关关系：非确定现象随机变量间的关系。
函数关系：
圆面积 f , 半径 半径2
欧姆定律（电流C=V/k, V为电压）
相关关系： 农作物产量 f 气温, 降雨量, 阳光, 施肥量
高档消费品的销售量与城镇居民收入之间的关 系 储蓄额与居民收入之间的关系 广告支出与商品销售额 工业增加值与能源消耗量 数学成绩与统计学成绩 „„
问：能否从该样本估计总体回归函数PRF？
可支配收入X 1000 1500 2000 2500 3000 3500 4000 4500 5000 5500 消费支出Y 888 1121 1340 1650 2179 2210 2398 2650 3021 3288
回答：of course
该样本的散点图： 样本散点图近 似于一条直线，画 一条直线以尽可能 地拟合该散点图， 由于样本取自总体， 该线可以近似地代 表总体回归线。该 线称为样本回归线
上例
ui Yi -E（Y Xi ） Yi 0 1X i 总体回归函数 Yi 0 1X i ui 个别值表现形式
引入随机扰动项的主要原因: 1、作为未知影响因素的代表
2、作为无法取得数据的已知因素的代表 3、作为众多细小影响因素的综合代表 4、模型的设定误差 5、变量的观测误差 6、变量的内在随机性
计量经济学第二篇一元线性回归模型
第二章 一元线性回归模型2.1 一元线性回归模型的基本假定有一元线性回归模型（统计模型）如下， y t = β0 + β1 x t + u t上式表示变量y t 和x t 之间的真实关系。
其中y t 称被解释变量（因变量），x t 称解释变量（自变量），u t 称随机误差项，β0称常数项，β1称回归系数（通常未知）。
上模型可以分为两部分。
（1）回归函数部分，E(y t ) = β0 + β1 x t ,（2）随机部分，u t 。
图2.1 真实的回归直线这种模型可以赋予各种实际意义，居民收入与支出的关系；商品价格与供给量的关系；企业产量与库存的关系；身高与体重的关系等。
以收入与支出的关系为例。
假设固定对一个家庭进行观察，随着收入水平的不同，与支出呈线性函数关系。
但实际上数据来自各个家庭，来自同一收入水平的家庭，受其他条件的影响，如家庭子女的多少、消费习惯等等，其出也不尽相同。
所以由数据得到的散点图不在一条直线上（不呈函数关系），而是散在直线周围，服从统计关系。
“线性”一词在这里有两重含义。
它一方面指被解释变量Y 与解释变量X 之间为线性关系，即另一方面也指被解释变量与参数0β、1β之间的线性关系，即。
1ty x β∂=∂，221ty β∂=∂0 ，1ty β∂=∂，2200ty β∂=∂2.1.2 随机误差项的性质随机误差项u t 中可能包括家庭人口数不同，消费习惯不同，不同地域的消费指数不同，不同家庭的外来收入不同等因素。
所以在经济问题上“控制其他因素不变”是不可能的。
随机误差项u t 正是计量模型与其它模型的区别所在，也是其优势所在，今后咱们的很多内容，都是围绕随机误差项u t 进行了。
回归模型的随机误差项中一般包括如下几项内容： （1）非重要解释变量的省略，（2）数学模型形式欠妥， （3）测量误差等，（4）随机误差（自然灾害、经济危机、人的偶然行为等）。
2.1.3 一元线性回归模型的基本假定通常线性回归函数E(y t ) = β0 + β1 x t 是观察不到的，利用样本得到的只是对E(y t ) =β0 + β1 x t 的估计，即对β0和β1的估计。
第二章经典单方程计量经济模型：一元线性回归模型
二、总体回归函数
例2.1：一个假想的社区由100户家庭组成，要研 究该社区每月家庭消费支出Y与每月家庭可支配收 入X的关系。
即如果知道了家庭的月收入，能否预测社区该类 家庭的平均月消费支出水平？
为达此目的，将该100户家庭依据每月可支配收入 划分为10组，以分析每一收入组的家庭消费支出。
每 月 家 庭 消 费 支 出 Y （元）
单方程计量经济学模型 理论与方法
Theory and Methodology of SingleEquation Econometric Model
第二章 经典单方程计量经济学模型： 一元线性回归模型
• 回归分析概述 • 一元线性回归模型的参数估计 • 一元线性回归模型检验 • 一元线性回归模型预测 • 实例
为了得到良好的估计量需要哪些条件？
2、无偏性，即估计量ˆ0 、 ˆ1 的均值（期望）等于总体回归
参数真值0 与1
证： ˆ1 kiYi ki (0 1 X i i ) 0 ki 1 ki X i ki i
易知 故
ki
xi 0 xi2
ki Xi 1
ˆ1 1 ki i
2、回归分析的基本概念
回归分析是研究一个变量关于另一个（些） 变量的统计依赖关系(因果关系X)的计算方法和 理论。
其用意：在于通过后者的已知或设定值，去 估计前者的总体均值。
回归分析主要内容包括： （1）根据样本观察值对 经济计量模型参数进行估计，求得回归方程；
（2）对回归方程、参数估计值进行显著性检验； （3）利用回归方程进行分析、评价及预测。
一、参数的普通最小二乘估计（OLS）
给定一组样本观测值（Xi, Yi）（i=1,2,…n）要 求样本回归函数尽可能好地拟合这组值.
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第二章 一元线性回归模型一、单项选择题1、表示x 与y 之间真实线性关系的是【 】A tt x y 10ˆˆˆββ+= B E t t x y 10)(ββ+= C t t t u x y ++=10ββ D t t x y 10ββ+=2、参数β的估计量βˆ具备有效性是指【 】 A Var(βˆ)=0 B Var(βˆ)为最小 C (βˆ－β)＝0 D (βˆ－β)为最小 3、对于ii i e x y ++=10ˆˆββ，以σˆ表示估计标准误差，i y ˆ表示回归值，则【 】 A σˆ=0时，)ˆ(i iyy -∑＝0 B σˆ=0时，2)ˆ(i i y y -∑＝0 C σˆ=0时，)ˆ(i iyy-∑为最小 D σˆ=0时，2)ˆ(i i y y -∑为最小 4、设样本回归模型为i i i e x y ++=10ˆˆββ，则普通最小二乘法确定的iβˆ的公式中，错误的是【 】 A∑∑---=21)())((ˆx x y y x x ii iβ B ∑∑∑∑∑--=221)(ˆi ii i i i x x n y x y x n βC ∑∑-⋅-=221)(ˆx n x y x n y x ii i β D 21ˆxii i i y x y x n σβ∑∑∑-=5、对于ii i e x y ++=10ˆˆββ，以σˆ表示估计标准误差，r 表示相关系数，则有【 】 A σˆ=0时，r ＝1 B σˆ=0时，r ＝－1 C σˆ=0时，r ＝0 D σˆ=0时，r ＝1 或r ＝－1 6、产量（x ，台）与单位产品成本（y ， 元/台）之间的回归方程为yˆ＝356－1.5x ，这说明【 】A 产量每增加一台，单位产品成本增加356元B 产量每增加一台，单位产品成本减少1.5元C 产量每增加一台，单位产品成本平均增加356元D 产量每增加一台，单位产品成本平均减少1.5元7、在总体回归直线E x y10)ˆ(ββ+=中，1β表示【 】 A 当x 增加一个单位时，y 增加1β个单位 B 当x 增加一个单位时，y 平均增加1β个单位 C 当y 增加一个单位时，x 增加1β个单位 D 当y 增加一个单位时，x 平均增加1β个单位8、对回归模型t t t u x y ++=10ββ进行统计检验时，通常假定t u 服从【 】 A N （0，2i σ） B t(n-2) C N （0，2σ） D t(n)9、以y 表示实际观测值，y ˆ表示回归估计值，则普通最小二乘法估计参数的准则是使【 】A )ˆ(i iyy -∑＝0 B 2)ˆ(i iyy-∑＝0 C)ˆ(i iyy-∑为最小 D 2)ˆ(i iyy-∑为最小 10、设y 表示实际观测值，yˆ表示OLS 回归估计值，则下列哪项成立【 】 A yˆ=y B y ˆ=y C yˆ=y D y ˆ=y 11、用普通最小二乘法估计经典线性模型t t t u x y ++=10ββ，则样本回归线通过点【 】A （x ，y ）B (x ，y ˆ)C (x ，yˆ) D (x ，y ) 12、以y 表示实际观测值，yˆ表示回归估计值，则用普通最小二乘法得到的样本回归直线 ii x y 10ˆˆˆββ+=满足【 】 A )ˆ(i iyy -∑＝0 B 2)ˆ(y yi-∑＝0 C2)ˆ(i iyy-∑＝0 D 2)(y yi-∑＝013、用一组有30个观测值的样本估计模型t t t u x y ++=10ββ，在0.05的显著性水平下对1β的显著性作t 检验，则1β显著地不等于零的条件是其统计量t 大于【 】A 05.0t （30）B 025.0t （30）C 05.0t （28）D 025.0t （28） 14、已知某一直线回归方程的判定系数为0.64，则解释变量与被解释变量间的相关系数为【 】 A 0.64 B 0.8 C 0.4 D 0.32 15、相关系数r 的取值范围是【 】A r ≤－1B r ≥1C 0≤ r ≤1D －1≤ r ≤1 16、判定系数2R 的取值范围是【 】A 2R ≤－1 B 2R ≥1 C 0≤2R ≤1 D －1≤2R ≤1 17、某一特定的x 水平上，总体y 分布的离散度越大，即2σ越大，则【 】 A 预测区间越宽，精度越低 B 预测区间越宽，预测误差越小 C 预测区间越窄，精度越高 D 预测区间越窄，预测误差越大 18、在缩小参数估计量的置信区间时，我们通常不采用下面的那一项措施【 】 A 增大样本容量 n B 提高置信水平C 提高模型的拟合优度D 提高样本观测值的分散度19、对于总体平方和TSS 、回归平方和RSS 和残差平方和ESS 的相互关系，正确的是【 】 A TSS>RSS+ESS B TSS=RSS+ESS C TSS<RSS+ESS D TSS 2=RSS 2+ESS 2二、多项选择题1、一元线性回归模型t t t u x y ++=10ββ的经典假设包括【 】 A 0)(=t u E B 2)(σ=t u Var （常数） C 0),cov(=j i u u D t u ～N(0，1) E x 为非随机变量，且0),cov(=t t u x2、以y 表示实际观测值，yˆ表示回归估计值，e 表示残差，则回归直线满足【 】 A 通过样本均值点(x ，y ) B∑∑=ttyy ˆC 0),cov(=t t e xD 2)ˆ(t tyy-∑＝0 E0)ˆˆ(2=-∑yyt3、以带“∧”表示估计值，u 表示随机误差项，如果y 与x 为线性相关关系，则下列哪些是正确的【 】A t t x y 10ββ+=B t t t u x y ++=10ββC t t t u x y ++=10ˆˆββD t t t u x y ++=10ˆˆˆββE tt x y 10ˆˆˆββ+= 4、以带“∧”表示估计值，u 表示随机误差项，e 表示残差，如果y 与x 为线性相关关系，则下列哪些是正确的【 】A t t x y E 10)(ββ+=B t t x y 10ˆˆββ+=C t t t e x y ++=10ˆˆββD t t t e x y ++=10ˆˆˆββE tt x y E 10ˆˆ)(ββ+= 5、回归分析中估计回归参数的方法主要有【 】 A 相关系数法 B 方差分析法 C 最小二乘估计法 D 极大似然法 E 矩估计法6、用普通最小二乘法估计模型t t t u x y ++=10ββ的参数，要使参数估计量具备最佳线性无偏估计性质，则要求：【 】A 0)(=t u EB 2)(σ=t u Var （常数）C 0),cov(=j i u uD t u 服从正态分布E x 为非随机变量，且0),cov(=t t u x7、假设线性回归模型满足全部基本假设，则其参数估计量具备【 】 A 可靠性 B 合理性C 线性D 无偏性E 有效性 8、普通最小二乘直线具有以下特性【 】A 通过点(x ，y )B y y=ˆ C0=∑ieD∑2ie＝0 E ),cov(i i e x ＝09、对于线性回归模型t t t u x y ++=10ββ，要使普通最小二乘估计量具备线性、无偏性和有效性，则模型必须满足：【 】A 0)(=t u EB 2)(σ=t u Var （常数）C 0),cov(=j i u uD t u 服从正态分布E x 为非随机变量，且0),cov(=t t u x10、由回归直线tt x y 10ˆˆˆββ+=估计出来的t y ˆ值【 】 A 是一组估计值 B 是一组平均值 C 是一个几何级数 D 可能等于实际值 E 与实际值y 的离差和等于零11、反应回归直线拟合优度的指标有【 】 A 相关系数 B 回归系数C 样本决定系数D 回归方程的标准误差E 剩余变差（或残差平方和）12、对于样本回归直线tt x y 10ˆˆˆββ+=，回归平方和可以表示为（2R 为决定系数）【 】 A2)ˆ(y y t -∑ B 221)(ˆx x t-∑β C ))((ˆ1y y x xt t--∑β D 22)(y y R t -∑E22)ˆ()(yy y y t t---∑∑ 13、对于样本回归直线tt x y 10ˆˆˆββ+=，σˆ为估计标准差，下列决定系数2R 的算式中，正确的有【 】A∑∑--22)()ˆ(y yy y tt B 1－∑∑--22)()ˆ(y y y y tt tC∑∑--2221)()(ˆy y x x t tβ D∑∑---21)())((ˆy y y y x x t t t βE 1－∑--22)()2(ˆy y n t σ14、下列相关系数的算式中，正确的是【 】 Ayx yx xy σσ⋅- Byx t tn y y x x σσ∑--))((Cyx y x σσ),cov( D∑∑∑----22y y(())((））ttt tx xy y x xE∑∑∑--⋅-2222yn yxn xyx n yx tttt三、判断题1、随机误差项u i 与残差项e i 是一回事。
（ ）2、总体回归函数给出了对应于每一个自变量的因变量的值。
（ ）3、线性回归模型意味着因变量是自变量的线性函数。
（ ）4、在线性回归模型中，解释变量是原因，被解释变量是结果。
（ ）5、在实际中，一元回归没什么用，因为因变量的行为不可能仅由一个解释变量来解释。
( )四、计算与分析题1、试将下列非线性函数模型线性化： （1） S 型函数 y=1/(x e -+10ββ+u)；（2） Y=1βsinx+2βcosx+3βsin2x+4βcos2x+u 。
2、对下列模型进行适当变换化为标准线性模型： （1） y=0β+1βx 1+2β21x+u ； （2） Q=A ue L K βα； （3） Y=exp(0β+1βx+u)； （4） Y=)](exp[1110u x ++-+ββ。
3、假设A 先生估计消费函数（用模型i i i u Y C ++=βα表示），并获得下列结果：i iY C 81.015ˆ+=t ＝（3.1） （18.7） n=19； 2R ＝0.98 括号里的数字表示相应参数的t 值，请回答以下问题： （1） 利用t 值经验假设：β＝0（取显著水平为5％） （2） 确定参数统计量的标准方差；（3） 构造β的95％的置信区间，这个区间包括0吗？4、你的朋友将不同年度的债券价格作为该年利率（在相等的风险水平下）的函数，估计出的简单方程如下：ii X Y 78.44.101ˆ-= 其中：i Y ＝第i 年美国政府债券价格（每100美元债券）i X ＝第i 年联邦资金利率（按百分比）。