第二章一元线性回归案例分析
第二章一元线性模型案例分析居民消费模式和消费规模分析一、研究的目的要求居民消费在社会经济的持续发展中有着重要的作用。
居民合理的消费模式和居民适度的消费规模有利于经济持续健康的增长,而且这也是人民生活水平的具体体现。
改革开放以来随着中国经济的快速发展,人民生活水平不断提高,居民的消费水平也不断增长。
但是在看到这个整体趋势的同时,还应看到全国各地区经济发展速度不同,居民消费水平也有明显差异。
例如,2002年全国城市居民家庭平均每人每年消费支出为6029.88元, 最低的黑龙江省仅为人均4462.08元,最高的上海市达人均10464元,上海是黑龙江的2.35倍。
为了研究全国居民消费水平及其变动的原因,需要作具体的分析。
影响各地区居民消费支出有明显差异的因素可能很多,例如,居民的收入水平、就业状况、零售物价指数、利率、居民财产、购物环境等等都可能对居民消费有影响。
为了分析什么是影响各地区居民消费支出有明显差异的最主要因素,并分析影响因素与消费水平的数量关系,可以建立相应的计量经济模型去研究。
二、模型设定研究的对象是各地区居民消费的差异。
居民消费可分为城市居民消费和农村居民消费,由于各地区的城市与农村人口比例及经济结构有较大差异,最具有直接对比可比性的是城市居民消费。
而且,由于各地区人口和经济总量不同,只能用“城市居民每人每年的平均消费支出”来比较,而这正是可从统计年鉴中获得数据的变量。
所以模型的被解释变量Y选定为“城市居民每人每年的平均消费支出”。
因为研究的目的是各地区城市居民消费的差异,并不是城市居民消费在不同时间的变动,所以应选择同一时期各地区城市居民的消费支出来建立模型。
因此建立的是2002年截面数据模型。
影响各地区城市居民人均消费支出有明显差异的因素有多种,但从理论和经验分析,最主要的影响因素应是居民收入,其他因素虽然对居民消费也有影响,但有的不易取得数据,如“居民财产”和“购物环境”;有的与居民收入可能高度相关,如“就业状况”、“居民财产”;还有的因素在运用截面数据时在地区间的差异并不大,如“零售物价指数”、“利率”。
因此这些其他因素可以不列入模型,即便它们对居民消费有某些影响也可归入随即扰动项中。
为了与“城市居民人均消费支出”相对应,选择在统计年鉴中可以获得的“城市居民每人每年可支配收入”作为解释变量X。
从2002年《中国统计年鉴》中得到表2.5的数据:表2.52002年中国各地区城市居民人均年消费支出和可支配收入天津河北山西内蒙古辽宁吉林黑龙江上海江苏浙江安徽福建江西山东河南湖北湖南广东广西海南重庆四川贵州云南西藏陕西甘肃青海宁夏新疆7191.965069.284710.964859.885342.644973.884462.0810464.006042.608713.084736.526631.684549.325596.324504.685608.925574.728988.485413.445459.646360.245413.084598.285827.926952.445278.045064.245042.526104.925636.409337.566679.685234.356051.066524.526260.166100.5613249.808177.6411715.606032.409189.366334.647614.366245.406788.526958.5611137.207315.326822.727238.046610.805944.087240.568079.126330.846151.446170.526067.446899.64 如图2.12:制图界面:有不同选择4,0005,0006,0007,0008,0009,00010,00011,000XY4,0005,0006,0007,0008,0009,00010,00011,000XY图2.12从散点图可以看出居民家庭平均每人每年消费支出(Y)和城市居民人均年可支配收入(X)大体呈现为线性关系,所以建立的计量经济模型为如下线性模型:12i i i Y X u ββ=++三、估计参数假定所建模型及随机扰动项i u 满足古典假定,可以用OLS 法估计其参数。
运用计算机软件EViews 作计量经济分析十分方便。
利用EViews 作简单线性回归分析的步骤如下: 1、建立工作文件首先,双击EViews 图标,进入EViews 主页。
在菜单一次点击File\New\Workfile ,出现对话框“Workfile Range ”。
在“Workfile frequency ”中选择数据频率:Annual (年度) Weekly ( 周数据 )Quartrly (季度) Daily (5 day week ) ( 每周5天日数据 ) Semi Annual (半年) Daily (7 day week ) ( 每周7天日数据 ) Monthly (月度) Undated or irreqular (未注明日期或不规则的) 在本例中是截面数据,选择“Undated or irreqular ”。
并在“Start date ”中输入开始时间或顺序号,如“1”在“end date ”中输入最后时间或顺序号,如“31”点击“ok ”出现“Workfile UNTITLED ”工作框。
其中已有变量:“c ”—截距项 “resid ”—剩余项。
在“Objects ”菜单中点击“New Objects”,在“New Objects”对话框中选“Group”,并在“Name for Objects”上定义文件名,点击“OK ”出现数据编辑窗口。
若要将工作文件存盘,点击窗口上方“Save ”,在“SaveAs ”对话框中给定路径和文件名,再点击“ok ”,文件即被保存。
2、输入数据在数据编辑窗口中,首先按上行键“↑”,这时对应的“obs”字样的空格会自动上跳,在对应列的第二个“obs”有边框的空格键入变量名,如“Y ”,再按下行键“↓”,对因变量名下的列出现“NA ”字样,即可依顺序输入响应的数据。
其他变量的数据也可用类似方法输入。
也可以在EViews 命令框直接键入“data X Y ”(一元时) 或 “data Y 1X 2X … ”(多元时),回车出现“Group”窗口数据编辑框,在对应的Y 、X 下输入数据。
若要对数据存盘,点击 “fire/Save As”,出现“Save As ”对话框,在“Drives ”点所要存的盘,在“Directories ”点存入的路径(文件名),在“Fire Name ”对所存文件命名,或点已存的文件名,再点“ok ”。
若要读取已存盘数据,点击“fire/Ope n”,在对话框的“Drives”点所存的磁盘名,在“Directories”点文件路径,在“Fire Name”点文件名,点击“ok”即可。
3、估计参数方法一:在EViews 主页界面点击“Quick ”菜单,点击“Estimate Equation ”,出现“Equation specification ”对话框,选OLS 估计,即选击“Least Squares”,键入“Y C X ”,点“ok ”或按回车,即出现如表2.6那样的回归结果。
表2.6Dependent Variable: Y Method: Least Squares Date: 03/15/15 Time: 17:26 Sample: 1 31Included observations: 31Variable Coefficient Std. Error t-StatisticProb.R-squared可决系数 0.935685Mean dependent var 被解释变量均值 5982.476Adjusted R-squared 调整的可决系数 0.933467S.D. dependent var 被解释变量标准差 1601.762S.E. of regression回归方程标准差σˆ 413.1593 Akaike info criterion赤池信息准则14.94788 Sum squared resid 残差平方和2i e ∑4950317.Schwarz criterion 施瓦兹信息准则15.04040 Log likelihood 似然函数的对数 -229.6922 F-statistic F 统计量 421.9023 Durbin-Watson stat1.481439Prob(F-statistic) 0.000000 在本例中,参数估计的结果为:^282.24340.758511i i Y X =+(287.2649) (0.036928) t=(0.982520) (20.54026)20.935685r = F=421.9023 df=29在“Equation”框中,点击“View”/regresentations显示模型参数估计结果Estimation Command:=========================LS Y C XEstimation Equation:=========================Y = C(1) + C(2)*XSubstituted Coefficients:=========================Y = 282.243430585 + 0.758511361182*X方法二:在EViews命令框中直接键入“LS Y C X”,按回车,即出现回归结果。
若要显示回归结果的图形,在“Equation”框中,点击“View”,即出现剩余项(Residual)、实际值(Actual)、拟合值(Fitted)的图形,如图2.13所示。
图2.13顺便说一下1.Gradient of objective function目标函数的斜率-3,000-2,000-1,00001,0002,000C-16,000,000-12,000,000-8,000,000-4,000,00004,000,0008,000,00012,000,000XGradients of the Objective Function2.残差的正态性检验1012Series: ResidualsSample 1 31Observations 31Mean 1.87e-13Median 14.32975Maximum 1220.454Minimum -620.7974Std. Dev. 406.2149Skewness 0.743934Kurtosis 3.890202Jarque-Bera 3.883021Probability0.143487Jarque-Bera 检验 检验序列是否服从正态分布。
一元线性回归模型案例分析
一元线性回归模型案例分析一元线性回归是最基本的回归分析方法,它的主要目的是寻找一个函数能够描述因变量对于自变量的依赖关系。
在一元线性回归中,我们假定存在满足线性关系的自变量与因变量之间的函数关系,即因变量y与单个自变量x之间存在着线性关系,可表达为:y=β0+ β1x (1)其中,β0和β1分别为常量,也称为回归系数,它们是要由样本数据来拟合出来的。
因此,一元线性回归的主要任务就是求出最优回归系数和平方和最小平方根函数,从而评价模型的合理性。
下面我们来介绍如何使用一元线性回归模型进行案例分析。
数据收集:首先,研究者需要收集自变量和因变量之间关系的相关数据。
这些数据应该有足够多的样本观测值,以使统计分析结果具有足够的统计力量,表示研究者所研究的关系的强度。
此外,这些数据的收集方法也需要正确严格,以避免因相关数据缺乏准确性而影响到结果的准确性。
模型构建:其次,研究者需要利用所收集的数据来构建一元线性回归模型。
即建立公式(1),求出最优回归系数β0和β1,即最小二乘法拟合出模型方程式。
模型验证:接下来,研究者需要对所构建的一元线性回归模型进行验证,以确定模型精度及其包含的统计意义。
可以使用F检验和t检验,以检验回归系数β0和β1是否具有统计显著性。
另外,研究者还可以利用R2等有效的拟合检验统计指标来衡量模型精度,从而对模型的拟合水平进行评价,从而使研究者能够准确无误地判断其研究的相关系数的统计显著性及包含的统计意义。
另外,研究者还可以利用偏回归方差分析(PRF),这是一种多元线性回归分析技术,用于计算每一个自变量对相应因变量的贡献率,使研究者能够对拟合模型中每一个自变量的影响程度进行详细的分析。
模型应用:最后,研究者可以利用一元线性回归模型进行应用,以实现实际问题的求解以及数据挖掘等功能。
例如我们可以使用这一模型来预测某一物品价格及销量、研究公司收益及投资、检测影响某一地区经济发展的因素等。
综上所述,一元线性回归是一种利用单变量因变量之间存在着线性关系来拟合出回归系数的回归分析方法,它可以应用于许多不同的问题,是一种非常实用的有效的统计分析方法。
2、一元线性回归 PPT课件
假设零均值同方差 E( )=0
无序列相关性
i
假设零均值同方差 无序列相关性
Var( i)= 2
E(Yi )= 0 1 X i
Var(Yi /X i )= 2
假设零均值同方差 Cov( i , j)=0 Cov(Yi , Y j)=0
无序列相关性
二、普通最小二乘法
给定一元线性回归模型
回归函数(方程)
E(Y
X
)=
i
0 1X i
估计
回归模型
估计
Yi 0 1 X i i
样本(实际) Yˆi ˆ0 ˆ1Xi Yi ˆ0 ˆ1Xi ei
2.2 一元线性回归模型的参数估计
一元线性回归模型是最简单的线性回归模型,在模型中只有 一个自变量,其参数估计方法普通最小二乘法也是最普 遍使用的。
n
X
2 i
(
X i )( Yi ) Xi )2
将ˆ1代入正规方程组,令 X
ˆ0 Y ˆ1 X
Xi n
,Y
Yi
n
,得ˆ0表达式
令
xi
差
Xi X
,则
,
ˆ0
yi Yi Y ,即分别代表样本值与其平均值的离 、ˆ1表达式可简写为
ˆ1
质,即最小二乘估计量还具有一致性:当样本容量趋于无 穷时,估计量收敛于总体参数真值。
高斯—马尔可夫定理(Gauss-Markov theorem)
在给定经典线性回归的假定下,最小二乘估计 量是具有最小方差的线性无偏估计量。
2、无偏性,即估计量ˆ0 、 ˆ1 的均值(期望)等于总体回归
第二章二计量经济学-一元线性回归分析.ppt课件
2
1 n
2 n
X
ki X 2
xi
x
2 i
2
2
1 n
X2
x
2 i
2
x
2 i
nX
2
2
X
2 i
2
n
x
2 i
n
x
2 i
(2.2.11)
精选
34
(2)证明最小方差性
假设ˆ1* 是其他方法得到的关于1 的线性无偏估计量: ˆ1* ciYi
其中,ci ki di ,di 为不全为零的常数。 E(ˆ1* ) E( ciYi ) ci E(Yi ) ci (0 1 X i ) 0 ci 1 ci X i
由ˆ1* 的无偏性,即E(ˆ1* ) 1 可知: 0 ci 1 ci X i 1
从而有: ci 0 ,ci Xi 1
精选
35
的 ˆ
* 1
方
差
var(
ˆ
* 1
)
var(
ciYi )
c
2 i
var(
Yi)
c
2 i
var(
i)
c
2 i
2
= ( k i d i ) 2 2
变量置换得到
Z 0 1 X 1 2 X 2 3 X 3
精选
9
结论:
• 实际经济活动中的许多问题,都可以最终化为线 性问题,所以,线性回归模型有其普遍意义。
• 即使对于无法采取任何变换方法使之变成线性 的非线性模型,目前使用得较多的参数估计方 法——非线性最小二乘法,其原理仍然是以线 性估计方法为基础。
(Gauss-Markov theorem) 在给定经典线性回归的假定下,最小二乘
一元线性回归模型案例分析
一元线性回归模型案例分析一、研究的目的要求居民消费在社会经济的持续发展中有着重要的作用。
居民合理的消费模式和居民适度的消费规模有利于经济持续健康的增长,而且这也是人民生活水平的具体体现。
改革开放以来随着中国经济的快速发展,人民生活水平不断提高,居民的消费水平也不断增长。
但是在看到这个整体趋势的同时,还应看到全国各地区经济发展速度不同,居民消费水平也有明显差异。
例如,2002年全国城市居民家庭平均每人每年消费支出为6029.88元, 最低的黑龙江省仅为人均4462.08元,最高的上海市达人均10464元,上海是黑龙江的2.35倍。
为了研究全国居民消费水平及其变动的原因,需要作具体的分析。
影响各地区居民消费支出有明显差异的因素可能很多,例如,居民的收入水平、就业状况、零售物价指数、利率、居民财产、购物环境等等都可能对居民消费有影响。
为了分析什么是影响各地区居民消费支出有明显差异的最主要因素,并分析影响因素与消费水平的数量关系,可以建立相应的计量经济模型去研究。
二、模型设定我们研究的对象是各地区居民消费的差异。
居民消费可分为城市居民消费和农村居民消费,由于各地区的城市与农村人口比例及经济结构有较大差异,最具有直接对比可比性的是城市居民消费。
而且,由于各地区人口和经济总量不同,只能用“城市居民每人每年的平均消费支出”来比较,而这正是可从统计年鉴中获得数据的变量。
所以模型的被解释变量Y 选定为“城市居民每人每年的平均消费支出”。
因为研究的目的是各地区城市居民消费的差异,并不是城市居民消费在不同时间的变动,所以应选择同一时期各地区城市居民的消费支出来建立模型。
因此建立的是2002年截面数据模型。
影响各地区城市居民人均消费支出有明显差异的因素有多种,但从理论和经验分析,最主要的影响因素应是居民收入,其他因素虽然对居民消费也有影响,但有的不易取得数据,如“居民财产”和“购物环境”;有的与居民收入可能高度相关,如“就业状况”、“居民财产”;还有的因素在运用截面数据时在地区间的差异并不大,如“零售物价指数”、“利率”。
何晓群:《应用回归分析》第四版-第二章一元线性回归
1998年19年的样本数据 分布情况见图2.2.
( xi
,
yi
)(i
1,2,
, n)
.
数据见表2.2;样本
表2.2
人均国民收入表
年份 人均国民 人均消费金 收入(元) 额(元)
年份 人均国民 人均消费金
收入(元)
额(元)
1980 460
234.75
1990 1634
797.08
1981 489
259.26
返 回 前一页 后一页
二、一元线性回归模型的数学形式
1、一元线性理论回归模型
y 0 1x 称为变量 y 对 x 的一元线性理论回归模型.
y
被解释变量(因变量)
x
解释变量(自变量)
随机误差(不可观测)
未知 0 参数 1
回归常数 回归系数
回归分析
(2.1)
返 回 前一页 后一页
火灾损失 y (千元) 19.6 31.3 24.0 17.3 43.2 36.4 26.1
y
60
45 30 15
图2.1 0 1 2 3 4 5 6 7 8 9 x
返 回 前一页 后一页
回归分析
【例2.2】在研究我国人均消费水平的问题中, 把全国人均消费
金额记作 y (元); 气人均国民收入记为 x (元). 我们收集到1980-
( x1, y1 )
0
图2.3
x
返 回 前一页 后一页
回归分析
5、0, 1的最小二乘估计(OLSE)
求回归参数 0, 1 的最小二乘估计, 即求
n
Q(0,1) (yi 0 1xi)2 i1
一元线性回归模型典型例题分析
第二章 一元线性回归模型典型例题分析例1、令kids 表示一名妇女生育孩子的数目,educ 表示该妇女接受过教育的年数.生育率对教育年数的简单回归模型为μββ++=educ kids 10(1)随机扰动项μ包含什么样的因素?它们可能与教育水平相关吗?(2)上述简单回归分析能够揭示教育对生育率在其他条件不变下的影响吗?请解释.例2.已知回归模型μβα++=N E ,式中E 为某类公司一名新员工的起始薪金(元),N 为所受教育水平(年).随机扰动项μ的分布未知,其他所有假设都满足。
如果被解释变量新员工起始薪金的计量单位由元改为100元,估计的截距项与斜率项有无变化?如果解释变量所受教育水平的度量单位由年改为月,估计的截距项与斜率项有无变化?例3.对于人均存款与人均收入之间的关系式t t t Y S μβα++=使用美国36年的年度数据得如下估计模型,括号内为标准差:)011.0()105.151(067.0105.384ˆtt Y S +=2R =0.538 023.199ˆ=σ(1)β的经济解释是什么?(2)α和β的符号是什么?为什么?实际的符号与你的直觉一致吗?如果有冲突的话,你可以给出可能的原因吗?(3)对于拟合优度你有什么看法吗? (4)检验统计值?例4.下列方程哪些是正确的?哪些是错误的?为什么?⑴ y x t n t t =+=αβ12,,, ⑵ y x t n t t t =++=αβμ12,,,⑶ y x t n t t t=++= ,,,αβμ12⑷ ,,,y x t n t t t =++=αβμ12 ⑸ y x t n t t =+= ,,,αβ12 ⑹ ,,,y x t n t t =+=αβ12⑺ y x t n t t t =++= ,,,αβμ12 ⑻ ,,,y x t n t tt =++=αβμ12其中带“^”者表示“估计值”.例5.对于过原点回归模型i i i u X Y +=1β ,试证明∑=∧221)(iu XVar σβ例6、对没有截距项的一元回归模型i i i X Y μβ+=1称之为过原点回归(regression through the origin )。
计量经济学 第二章 一元线性回归模型
第二章 一元线性回归模型2.1 一元线性回归模型的基本假定2.1.1一元线性回归模型有一元线性回归模型(统计模型)如下, y t = β0 + β1 x t + u t上式表示变量y t 和x t 之间的真实关系。
其中y t 称被解释变量(因变量),x t 称解释变量(自变量),u t 称随机误差项,β0称常数项,β1称回归系数(通常未知)。
上模型可以分为两部分。
(1)回归函数部分,E(y t ) = β0 + β1 x t ,(2)随机部分,u t 。
图2.1 真实的回归直线这种模型可以赋予各种实际意义,居民收入与支出的关系;商品价格与供给量的关系;企业产量与库存的关系;身高与体重的关系等。
以收入与支出的关系为例。
假设固定对一个家庭进行观察,随着收入水平的不同,与支出呈线性函数关系。
但实际上数据来自各个家庭,来自同一收入水平的家庭,受其他条件的影响,如家庭子女的多少、消费习惯等等,其出也不尽相同。
所以由数据得到的散点图不在一条直线上(不呈函数关系),而是散在直线周围,服从统计关系。
“线性”一词在这里有两重含义。
它一方面指被解释变量Y 与解释变量X 之间为线性关系,即1tty x β∂=∂220tt y x β∂=∂另一方面也指被解释变量与参数0β、1β之间的线性关系,即。
1ty x β∂=∂,221ty β∂=∂0 ,1ty β∂=∂,2200ty β∂=∂2.1.2 随机误差项的性质随机误差项u t 中可能包括家庭人口数不同,消费习惯不同,不同地域的消费指数不同,不同家庭的外来收入不同等因素。
所以在经济问题上“控制其他因素不变”是不可能的。
随机误差项u t 正是计量模型与其它模型的区别所在,也是其优势所在,今后咱们的很多内容,都是围绕随机误差项u t 进行了。
回归模型的随机误差项中一般包括如下几项内容: (1)非重要解释变量的省略, (2)数学模型形式欠妥, (3)测量误差等,(4)随机误差(自然灾害、经济危机、人的偶然行为等)。
计量经济学第二章 一元线性回归模型(1)(肖)
10
2.在经济学中,经济学家要研究个人
消费支出与个人可支配收入的依赖关系。
这种分析有助于估计边际消费倾向,就是
可支配收入每增加一元引起消费支出的平
均变化。
11
3.在企业中,我们很想知道人们对企
业产品的需求与广告费开支的关系。这种
研究有助于估计出相对于广告费支出的需
求弹性,即广告费支出每变化百分之一的
(2.3)
想想:结合表2.1的资料 ,怎样理解式(2.3)
变量Y 的原因, 给定变量X 的值也不能具
体确定变量Y的值, 而只能确定变量Y 的
统计特征,通常称变量X 与Y 之间的这种
关系为统计关系。
16
例如,企业总产出Y 与企业的资本投入
K 、劳动力投入L 之间的关系就是统计关 系。虽然资本K 和劳动力L 是影响产出Y 的两大核心要素,但是给定K 、L 的值并 不能确定产出Y 的值。因为,总产出Y 除 了受资本投入K、劳动力投入L 的影响外
在进入正式的回归理论之前,先斟酌一下变量y与变 量x可以互换的不同名称、术语。 Y 因变量 X 自变量
被解释变量 响应变量
被预测变量
解释变量 控制变量
预测变量
回归子
归回元
22
第二节
一、引例
一元线性回归模型
假定我们要研究一个局部区域的居 民消费问题,该区域共有80户家庭组成 ,将这80户家庭视为一个统计总体。
32
函数f (Xi)采取什么函数形式,是一个
需要解决的重要问题。在实际经济系统
中,我们不会得到总体的全部数据,因
而就无法据已知数据确定总体回归函数 的函数形式。同时,对总体回归函数的 形式只能据经济理论与经验去推断。
一元线性回归分析—内容提要与案例
⼀元线性回归分析—内容提要与案例⼀元线性回归分析—内容提要与案例⼀.回归分析的基本概念1.函数关系与相关关系【相关关系】指变量之间确实存在的,但在数量上表现为不确定的相互依存关系.例如,⼈的体重y与⾝⾼x有关,⼀般⽽⾔,较⾼的⼈体重较重,但同样⾝⾼的⼈体重却不会完全相同;⼜如居民的储蓄存款额y与他的收⼊x有关,但同样收⼊的⼈储蓄存款额也不会相同.【函数关系】指变量之间确实存在的,且在数量上表现为确定性的相互依存关系.例如,圆的⾯积S与半径R有关,⼀旦半径R确定,则⾯积S可通过函数2=)fπ(RR求出,即2R=.Sπ函数关系往往通过具有不确定性的相关关系表现出来,⽽完全的相关关系必定是函数关系.2.相关关系的种类⑴按相关的⽅向划分【正相关】指两个变量按照相同的趋势变化.或者说某个现象的数量增加,另⼀个现象的数量也增加的现象.【负相关】指两个变量按照相反的趋势变化.或者说某个现象的数量增加,另⼀个现象的数量反⽽减少的现象.【零相关】指两个变量在数量上完全独⽴,在⼀定的形式下,互不影响,互不相⼲的关系.严格的讲,零相关不是“不相关”,因为事物的联系是绝对的,⽽独⽴是相对的,只有在某种形式下它才能互不影响,互不相⼲.⑵按相关形式划分【线性相关】指两个变量之间呈线性关系的相关.【⾮线性相关】指两个变量之间呈⾮线性关系的相关关系.⑶按变量多少划分【单相关】指两个变量之间的相关关系.【复相关】指两个以上的变量之间的相关关系.【偏相关】指在多个变量相关的场合,考察其中两个变量的相关关系(假定其他变量不变).⑷按相关性质划分【真实相关】变量之间具有内在联系的相关关系.【虚假相关】变量之间只是表⾯存在、⽽实质上并没有内在联系的相关关系. 3.回归分析的⼀般概念“回归”⼀词由英国统计学家道尔顿提出.道尔顿在研究⼈的⾝⾼问题时,发现⽗母的⾝⾼与⼦⼥的⾝⾼有⼀定关系,⽗母⾼的⼦⼥反⽽矮⼀些,⽗母矮的⼦⼥反⽽⾼⼀些,他称这种返祖现象为回归.此后,回归分析泛指遵循道尔顿研究问题的思想和⽅法的⼀类统计分析⽅法.【回归分析的⽬的】建⽴变量之间相关关系的具体的数学表达形式,并藉此来探讨对因变量的预测问题.这不仅依赖变量之间相关程度的度量(需要相关分析的辅助),更依赖变量之间真实相关性的存在.然⽽,现象之间是否存在真实相关,必须根据有关专业领域的学科理论来确定.因此,回归分析必须要在定性分析前提下进⾏,不能进⾏纯数量的计算.⼆. ⼀元线性回归分析1.⼀元线性回归模型【模型的理论假设】设x 是⾃变量(⾮随机变量,其值是可以控制或精确测量),y 是因变量(随机变量,对给定的x 值不能事先确定y 的取值),则⼀元线性回归模型的理论假设是),0(~ ,2σεεβαN x y ++=.【模型的建⽴】求线性函数x Ey βα+=的经验回归⽅程x yβα+= 其中y是Ey 的统计估计,βα?,?分别是βα,的的统计估计,称为回归系数. 【模型的数据结构】设数据对n i y x i i ,,2,1 ),,( =是对变量对),(y x 的观测数据,则i i i x y εβα++=,称为⼀元样本回归⽅程,其中),0(~2σεN i ,n i ,,2,1 =且各个i ε相互独⽴. 2.模型参数α与β的最⼩⼆乘估计【参数估计的准则】定义(诸i y 回归到直线x Ey βα+=时的误差平⽅和)2112)())?((),(∑∑==--=-=ni i i ni i i x y yE y Q βαβα,求βα,使得 ),(min )?,?(,βαβαβαQ Q =,称βα,称为模型参数βα,的最⼩⼆乘估计,称 ii x y βα+= 为因变量(1,2,,)i y i n =的回归拟合值,简称回归值或拟合值.称i i i e y y=- 为因变量(1,2,,)i y i n =的残差.【参数估计的算法】记??=n y y y y=n x x x X 1 1121,???? ??=βα??A ,则⼀元线性回归的数据模型为XA y =,这是⼀个不相容线性⽅程组,当n X rank <=2)(时,其最⼩⼆乘解为()y X XX A T T 1-=.可以证明21)?( var , )?(σβββxxl E ==并且)0(?>=k kr xyβ. 221)?( var , )?(σααα???? ?+==xx l x n E ,其中∑==ni i x n x 11,∑=-=ni i xx x x l 12)(. 3.回归⽅程的显著性检验【显著性检验基本定理】定义∑=-=ni i y y SST 12)( ─总偏差平⽅和,⾃由度1-=n f T .∑=-=n i i y ySSR 12)?( ─回归平⽅和,⾃由度1=T f . ∑=-=ni i i yy SSE 12)?( ─残差平⽅和,⾃由度2-=n f T .则有⑴ SSE SSR SST +=. ⑵)2(~22-n SSEχσ⑶ SSE 与β相互独⽴. 【显著性检验基本⽅法】⑴⽅差分析(F 检验)检验假设0:H 变量y 对变量x 不存在线性相关关系(即0=β).检验统计量及其分布在0H 为真时,SSR 与SSE 相互独⽴,)1(~2χSSR ,于是检验统计量)2,1(~)2/(--=n F n SSE SSRF .检验的显著性概率))2,1((F n F P p >-=.决策准则在显著性⽔平α下,当p >α时拒绝0H ,即认为回归⽅程有显著意义. ①当01.0⑵拟合程度测定可决系数(测定回归直线对各个观测点的拟合程度的统计量)SSTSSRr =2. 可决系数的解释① ]1,0[2∈r ,2r 的值越⼤(⼩),表明回归直线对各个观测点的拟合程度越⾼(低);若12=r ,即0=SSE ,表明y 对x ⼏乎有确定的线性函数关系;若02=r ,即0=SSR ,表明y 对x 完全没有线性相关关系.② 2r r ±=的统计意义是数据向量T n y y y)?,,?,?(21 与T n y y y ),,,(21 的相关系数,其正负号与回归系数β的正负号相同. ⑶估计的标准误差定义2-=n SSEs 为变量y 对x 的最⼩⼆乘回归的估计标准误差.显然,s 的值越⼩,表明回归直线对各个观测点的拟合程度越⾼.注意,)2/(2-=n SSE s 是2σ的⽆偏估计. 4.利⽤回归⽅程进⾏预测【点预测】设0x 是⾃变量x 的预测值,则因变量y 的预测值为00?bx a y+=,是ε++=00bx a y的⽆偏估计.近似-,2-=n SSEs .因此,⑴ 0y 的0.95预测置信区间近似为)2? ,2?(00s y s y+-. ⑵ 0y 的0.99预测置信区间近似为)3? ,3?(00s y s y+-. 5.应⽤范例【例题1】我们知道营业税税收总额 y 与社会商品零售总额x 有关.为能从社会商品零售总额去预测税收总额,需要了解两者的关系.现收集了如下九组数据(表1).表1 社会商品零售总额与税收总额(单位:亿元)序号社会商品零售总额x营业税税收总额y1 2142.08 177.303.93 5.963 4 5 6 7 8 9 204.68242.88316.24341.99332.69389.29453.407.859.8212.5015.5515.7916.3918.45【⼀元线性回归的基本步骤·M A T L A B实现】⑴绘制数据散点图,直观分析建⽴⼀元线性回归模型的可⾏性clear,clfx=[142.08,177.30,204.68,242.88,316.24,341.99,332.69,389.29,453.40]';y=[3.93,5.96,7.85,9.82,12.50,15.55,15.79,16.39,18.45]';plot(x,y,'.'),lsline⑵求出⼀元线性回归模型参数的最⼩⼆乘估计X=[ones(length(x),1),x]; %构造系数矩阵aANDb=inv(X'*X)*X'*y %求模型参数aANDb =-2.26100.0487即求出的回归⽅程为x-=..2+261y049.0注释求模型参数的MATLAB计算也可⽤命令ab=(X'*X)\(X'*y).⑶对求出的回归⽅程进⾏F检验①计算各偏差平⽅和yy=-2.26+0.048678.*x; %计算模型模拟值ST=sum((y-mean(y)).^2); %计算总偏差平⽅和SR=sum((yy-mean(y)).^2); %计算回归平⽅和SE=sum((y-yy).^2); %计算剩余平⽅和②计算⽅差和F统计量的值VR=SR; %计算回归⽅差FE=length(x)-2; %计算SE的⾃由度VE=SE/FE; %计算剩余⽅差F=VR/VE; %计算F统计量的值③计算检验的显著性概率p值p=1-fcdf(F,1,FE);④判断回归⽅程的显著性if p<0.01h='**'; %⾼度显著elseif 0.01<=p<0.05h='*'; %显著elseh='[ ]'; %不显著⑤报告检验结果Name={'⽅差来源';'回归';'剩余';'总和'};SS={'偏差平⽅和';SR;SE;ST};FD={'⾃由度';1;FE;1+FE};FF={'F值';F;[];[]};PP={'p值';p;[];[]};XZX={'显著性';h;[];[]};ANOVA=[Name,SS,FD,FF,PP,XZX]ANOVA =Columns 1 through 4'⽅差来源' '偏差平⽅和 ' '⾃由度 ' '⽅差''回归' [ 203.4102] [ 1] [203.4102]'剩余' [ 7.9204] [ 7] [ 1.1315]'总和' [ 211.3284] [ 8] []Columns 5 through 7'F值' 'p值' '显著性'[179.7728] [3.0103e-006] '**'[] [] [][] [] []注释为⽅便今后的使⽤,已经将上述指令汇编为m函数⽂件b y k l r,调⽤这个函数即可⾃动完成上述全部⼯作. clearx=[142.08,177.30,204.68,242.88,316.24,341.99,332.69,389.29,453.40]';y=[3.93,5.96,7.85,9.82,12.50,15.55,15.79,16.39,18.45]';[aANDb,RR,VE,ANOVA]=byklr(x,y)aANDb =-2.26100.0487RR =0.9625VE =1.1315ANOVA =Columns 1 through 4'⽅差来源' '偏差平⽅和' ' ⾃由度 ' ' F值 ''剩余' [ 7.9204] [ 7] []'总和' [ 211.3284] [ 8] []Columns 5 through 6'p值 ' '显著性 '[3.0103e-006] '**'[] [][] []]关于这个函数的使⽤⽅法,可通过M A T L A B系统的在线帮助得到,运⾏下⾯的命令即可.doc byklr⑷利⽤回归⽅程进⾏预测现预测社会商品零售总额x=300亿元时的营业税的平均税收总额.①点预测YCDx=300;YCZy=aANDb(1)+aANDb(2)*YCDx;DYC=[{'预测点:',YCDx};{'预测值:',YCZy}]DYC ='预测点:' [ 300]'预测值:' [12.3423]即当社会商品零售总额为300亿元时营业税平均税收总额的预测值为12.3423亿元.②区间预测求社会商品零售总额为300亿元时营业税平均税收总额的概率为0.95(或0.99)的预测区间ALPHA=0.95;if ALPHA==0.95bykZXBJ=2*sqrt(VE);elseif ALPHA==0.99bykZXBJ=3*sqrt(VE);endQJYC=[{'置信⽔平:',ALPHA};{'预测下限:',YCZy-bykZXBJ};{'预测上限:',YCZy+bykZXBJ}]QJYC ='置信⽔平:' [ 0.9500]'预测下限:' [10.0794]'预测上限:' [14.6053]注释为⽅便今后的使⽤,已经将上述预测指令也汇编为m 函数⽂件b y k l r d o ,调⽤这个函数即可⾃动完成上述全部⼯作. [DYC,QJYC]=byklrdo(aANDb,VE,300,0.99)'预测点:' [ 300] '预测值:' [12.3423] QJYC ='置信⽔平:' [ 0.9900] '预测下限:' [ 9.1512] '预测上限:' [15.5335]doc byklrdo【线性回归分析·S t a t i s t i c s T o o l b o x 解决⽅案】1、S t a t i s t i c s T o o l b o x 线性回归分析函数介绍【函数名称】 regress 【函数功能】多元线性回归模型 ),0(~ ,2I N X y σεεβ+= 的建模分析. 【调⽤格式】b=regress(y,X)[b,bint,r,rint,stats]=regress(y,X)[b,bint,r,rint,stats]=regress(y,X,alpha) 【参数说明】输⼊参数X –p 元线性模型⾃变量的n 个观测值的n ×p 矩阵. y -p 元线性模型因变量的n 个观测值的n ×1向量. alpha –显著性⽔平(默认为0.05),1-alpha 为区间估计的置信⽔平. 输出参数b -模型系数β的最⼩⼆乘估计值.bint -模型系数β的100(1-alpha)%置信区间.r -模型拟合残差.rint -模型拟合残差的100(1-alpha)%置信区间.stats -包含R2统计量、⽅差分析的F统计量的值、⽅差分析的显著性概率p值和2 的估计值.2、例题1(社会商品零售总额与税收总额问题)的r e g r e s s函数建模与分析X=[ones(length(x),1),x];[b,bint,r,rint,states]=regress(y,X)b =-2.26100.0487bint =-4.8794 0.35750.0401 0.0573r =-0.7251-0.40960.14760.2581-0.63291.16371.8564-0.2988rint =-2.7785 1.3282-2.7189 1.8997-2.2875 2.5828-2.2551 2.7714-3.1075 1.8417-1.0851 3.41250.0718 3.6410-2.6678 2.0702-2.9448 0.2258states =0.9625 179.7711 0.0000 1.1315如果需要对残差进⾏更直观的观察,可调⽤rcoplot函数,绘制按案例号排序的残差及其置信区间的误差条图.如rcoplot(r,rint)其中r和rint是regress函数的输出参数.。
《一元线性回归》ppt课件
做该样本的散点图 样本散点图近似于一条直线,这与 总体中表达的X和Y的关系是一致的。 画一条直线以尽能够地拟合该散点 图,由于样本取自总体,可用该线近 似地代表总体回归线。 该线称为样本回归线〔sample regression lines〕。
记样本回归线的函数方式为:
Y ˆif(X i)ˆ0ˆ1X i
计量经济学
Econometrics
第二章 一元线性回归模型
§ 2.1 回归分析概述 § 2.2 一元线性回归模型的参数估计 § 2.3 一元线性回归模型的统计检验 § 2.4 一元线性回归模型的运用:预测 § 2.5 实例:时间序列问题
§2.1 回归分析概述
一、回归分析的根本概念 二、总体回归函数 三、随机干扰项 四、样本回归函数
1969 1991 2046 2068 2101
968 1045 1243 1474 1672 1881 1078 1254 1496 1683 1925
2189 2233
1122 1298 1496 1716 1969 1155 1331 1562 1749 2013
2244 2299
1188 1364 1573 1771 2035 1210 1408 1606 1804 2101
3500 1/6
2585
〔4〕描出散点图发现:随着收入X的添加,消费“平均地说〞也在添加, 且Y的条件均值均落在一条正斜率的直线上。这条线,我们称为总体回归 线〔population regression line,PRL〕
每 月 消 费 支 出 Y 〔元〕
3500 3000 2500 2000 1500 1000
A2:回归分析与因果关系
虽然回归分析通常用于研讨具有因果关系的变量之间的详细依赖关系, 但是回归关系式本身并不一定意味着因果关系
