一元线性回归模型示例
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
(xi x)2 1256.643 ( yi y)2 308
x2
(xi
x)2
]
P(| ˆ1 1
| )
1
2
var ˆ1
1
2
2
(xi x)2
§2.2 OLS估计的统计性质
（三） 2 的估计
ui yi (0 1xi ) ei yi (ˆ0 ˆ1xi )
Eei2 (n 2) 2
yi
§2.2 OLS估计的统计性质
2. ˆ0 , ˆ1是的无偏估计量
ˆ0
0
(1
n
x(xi
(xi
x) x)2
)ui
ˆ1
1
xi x
(xi x)2
ui
Eˆ0 0
Eˆ1 1
§2.2 OLS估计的统计性质
3. 在一切线性无偏估计中， ˆ0 , ˆ1独具最小方差
计算公式
SE2 ei2
n2
SE2 ( yi y)2 ˆ12 (xi x)2
n2
§2.2 OLS估计的统计性质
Baidu Nhomakorabea
关于 SE 2
方差估计公式
vaˆr(ˆ0
)
SE2 (1 n
x2
(xi
x)2
)
vaˆr(ˆ1 )
SE2 (xi
x)2
拟合意义下的 SE 2 与 R2 SE2 ( yi y)2 ( yˆi y)2
§2.1 普通最小平方估计
模型
y 0 1x u
观测方程组 yi 0 1xi ui
i 1 ,2 ,, n
样本
{yi , xi}
i 1 ,2 ,, n
§2.1 普通最小平方估计
（一）普通最小平方估计(OLS)
待定回归函数 残差
yˆ ˆ0 ˆ1x
ei yi yˆi
R2 ˆ12 (xi x)2 (yi y)2
§2.2 OLS估计的统计性质
（一）线性回归模型的基本假定：
假定1. 解释变量是确定性变量，不具有随机性
假定2. (零均值假定) 假定3. (同方差假定)
Eui 0 , i 1 ,2 ,, n Eui2 2 ,i 1 ,2 ,, n
3. 样本均值点满足回归函数, y ˆ0 ˆ1x
4. 残差与解释变量不相关, rxe 0 5．残差与估计量不相关, ryˆe 0
②平均数相等
Yˆ Yi
①残差和为零
ei 0或e 0
yi yˆi ei ˆ0 ˆ1xi ei
④拟合值与残差不相关
⑤解释变量与残差不相关
假定4. (不自相关假定) Euiu j 0 ,i j ,i , j 1 ,2 ,, n
§2.2 OLS估计的统计性质 (二）OLS估计的统计性质
1. ˆ0 , ˆ1是线性估计量
ˆ0
(
1 n
x(xi
(xi
x) x)2
)yi
ˆ1
xi (xi
x x
)
2
残差平方和 驻点条件
OLS公式
f f (ˆ0 , ˆ1) ei2 [ yi (ˆ0 ˆ1xi )]2
[ yi (ˆ0 ˆ1xi )] 0
xi[ yi (ˆ0 ˆ1xi )] 0
ˆ1
(xi x)(yi (xi x)2
~
N (1
,
2
(xi x)2
)
ˆ0
~ N(0
, 2(1
x2
))
n (xi x)2
ei2 ~ 2 (n 2)
2
且与 ˆ0 , ˆ1 独立
t1
ˆ1 1 vaˆr(ˆ1 )
t1 ~ t(n 2)
t0 ˆ0 0 vaˆr(ˆ0 )
y)
ˆ0 y ˆ1x
§2.1 普通最小平方估计
最小平方估计的直观解释
xoy 设想 n 个样本点散布在
坐标平面上，欲
穿过这些点所在的区域作一条直线。按照普通最小平
方法所给出的直线，是使得样本点到直线的竖直距离
平方和最小的一条。
§2.1 普通最小平方估计 （二）OLS估计的拟合性质
1．残差总和为零, ei 0 e 0 2． yˆ 保持 y 的均值, yˆ y
③回归直线过 ( X ,Y 点)
§2.1 普通最小平方估计
（三）拟合优度 一个重要的平方和分解式
拟合优度 计算公式
( yi y)2 ei2 ( yˆi y)2
R2
( yˆi ( yi
y)2 y)2
1
( yi
ei2
y)2
0 R2 1
R 2 rx2y
判定
1 ，0 不x是有效的解释变量。
§2.3 显著性检验
（三）一元线性回归模型示例 例2.1 y=JYL，x=DSCYCZZZL，
60
绘制样本散点图 55
50
45
40
20
30
40
50
60
散点图提示线性回归模型DSC：YCZZZL
y 0 1x u
§2.3 显著性检验
有关基础数据： x 37.16 y 48.1 (xi x)(yi y) 617.792
t0 ~ t(n 2)
§2.3 显著性检验
原假设 H0 : 1 0
（a）计算
t1
ˆ1 ；
vaˆr(ˆ1 )
t （b）根据显著性水平 以及自由度 n-2 ，查取 分布临界值 t ； 2
（c）比较绝对值
t1
与
t 2
的大小。若
t1 t
，则拒绝原假设，判
2
定 1 0 ，解释变量 x 解释功效显著；若 t1 t ，则接受原假设， 2
var(ˆ0 )
2
(1 n
x
(xi
2
x)2
)
v ar(ˆ1 )
2
(xi
x)2
§2.2 OLS估计的统计性质
4. 若
x 有界，
lim
n
(
xi
x)2
,
则
ˆ0 , ˆ1
是一致估计量
P(| ˆ0
0
| )
1
2
var ˆ0
2 2
[1 n
n2
R2 ( yˆi y)2 (yi y)2
SE SE 2
§2.3 显著性检验
（一）正态假定及有关变量的概率分布
假定5. 有关分布
ui ~ N(0 , 2 ) , i 1 ,2 ,, n
yi ~ N(0 1xi , 2 ) ,i 1 ,2 ,, n
ˆ1
x2
(xi
x)2
]
P(| ˆ1 1
| )
1
2
var ˆ1
1
2
2
(xi x)2
§2.2 OLS估计的统计性质
（三） 2 的估计
ui yi (0 1xi ) ei yi (ˆ0 ˆ1xi )
Eei2 (n 2) 2
yi
§2.2 OLS估计的统计性质
2. ˆ0 , ˆ1是的无偏估计量
ˆ0
0
(1
n
x(xi
(xi
x) x)2
)ui
ˆ1
1
xi x
(xi x)2
ui
Eˆ0 0
Eˆ1 1
§2.2 OLS估计的统计性质
3. 在一切线性无偏估计中， ˆ0 , ˆ1独具最小方差
计算公式
SE2 ei2
n2
SE2 ( yi y)2 ˆ12 (xi x)2
n2
§2.2 OLS估计的统计性质
Baidu Nhomakorabea
关于 SE 2
方差估计公式
vaˆr(ˆ0
)
SE2 (1 n
x2
(xi
x)2
)
vaˆr(ˆ1 )
SE2 (xi
x)2
拟合意义下的 SE 2 与 R2 SE2 ( yi y)2 ( yˆi y)2
§2.1 普通最小平方估计
模型
y 0 1x u
观测方程组 yi 0 1xi ui
i 1 ,2 ,, n
样本
{yi , xi}
i 1 ,2 ,, n
§2.1 普通最小平方估计
（一）普通最小平方估计(OLS)
待定回归函数 残差
yˆ ˆ0 ˆ1x
ei yi yˆi
R2 ˆ12 (xi x)2 (yi y)2
§2.2 OLS估计的统计性质
（一）线性回归模型的基本假定：
假定1. 解释变量是确定性变量，不具有随机性
假定2. (零均值假定) 假定3. (同方差假定)
Eui 0 , i 1 ,2 ,, n Eui2 2 ,i 1 ,2 ,, n
3. 样本均值点满足回归函数, y ˆ0 ˆ1x
4. 残差与解释变量不相关, rxe 0 5．残差与估计量不相关, ryˆe 0
②平均数相等
Yˆ Yi
①残差和为零
ei 0或e 0
yi yˆi ei ˆ0 ˆ1xi ei
④拟合值与残差不相关
⑤解释变量与残差不相关
假定4. (不自相关假定) Euiu j 0 ,i j ,i , j 1 ,2 ,, n
§2.2 OLS估计的统计性质 (二）OLS估计的统计性质
1. ˆ0 , ˆ1是线性估计量
ˆ0
(
1 n
x(xi
(xi
x) x)2
)yi
ˆ1
xi (xi
x x
)
2
残差平方和 驻点条件
OLS公式
f f (ˆ0 , ˆ1) ei2 [ yi (ˆ0 ˆ1xi )]2
[ yi (ˆ0 ˆ1xi )] 0
xi[ yi (ˆ0 ˆ1xi )] 0
ˆ1
(xi x)(yi (xi x)2
~
N (1
,
2
(xi x)2
)
ˆ0
~ N(0
, 2(1
x2
))
n (xi x)2
ei2 ~ 2 (n 2)
2
且与 ˆ0 , ˆ1 独立
t1
ˆ1 1 vaˆr(ˆ1 )
t1 ~ t(n 2)
t0 ˆ0 0 vaˆr(ˆ0 )
y)
ˆ0 y ˆ1x
§2.1 普通最小平方估计
最小平方估计的直观解释
xoy 设想 n 个样本点散布在
坐标平面上，欲
穿过这些点所在的区域作一条直线。按照普通最小平
方法所给出的直线，是使得样本点到直线的竖直距离
平方和最小的一条。
§2.1 普通最小平方估计 （二）OLS估计的拟合性质
1．残差总和为零, ei 0 e 0 2． yˆ 保持 y 的均值, yˆ y
③回归直线过 ( X ,Y 点)
§2.1 普通最小平方估计
（三）拟合优度 一个重要的平方和分解式
拟合优度 计算公式
( yi y)2 ei2 ( yˆi y)2
R2
( yˆi ( yi
y)2 y)2
1
( yi
ei2
y)2
0 R2 1
R 2 rx2y
判定
1 ，0 不x是有效的解释变量。
§2.3 显著性检验
（三）一元线性回归模型示例 例2.1 y=JYL，x=DSCYCZZZL，
60
绘制样本散点图 55
50
45
40
20
30
40
50
60
散点图提示线性回归模型DSC：YCZZZL
y 0 1x u
§2.3 显著性检验
有关基础数据： x 37.16 y 48.1 (xi x)(yi y) 617.792
t0 ~ t(n 2)
§2.3 显著性检验
原假设 H0 : 1 0
（a）计算
t1
ˆ1 ；
vaˆr(ˆ1 )
t （b）根据显著性水平 以及自由度 n-2 ，查取 分布临界值 t ； 2
（c）比较绝对值
t1
与
t 2
的大小。若
t1 t
，则拒绝原假设，判
2
定 1 0 ，解释变量 x 解释功效显著；若 t1 t ，则接受原假设， 2
var(ˆ0 )
2
(1 n
x
(xi
2
x)2
)
v ar(ˆ1 )
2
(xi
x)2
§2.2 OLS估计的统计性质
4. 若
x 有界，
lim
n
(
xi
x)2
,
则
ˆ0 , ˆ1
是一致估计量
P(| ˆ0
0
| )
1
2
var ˆ0
2 2
[1 n
n2
R2 ( yˆi y)2 (yi y)2
SE SE 2
§2.3 显著性检验
（一）正态假定及有关变量的概率分布
假定5. 有关分布
ui ~ N(0 , 2 ) , i 1 ,2 ,, n
yi ~ N(0 1xi , 2 ) ,i 1 ,2 ,, n
ˆ1