9.回归分析(1) Microsoft PowerPoint 演示文稿

2 i 1 i 1 n n
的最小值。要满足这个要求，其必要条件是：
n F ( y i a bxi ) 2 a i 1 n F ( y a bx ) 2 i b i 1 i '
2( y i a bxi )(1) 2 ( y i a bxi ) 0
（小时/周）
10 15 8 18 20 5 76
成绩 y （分） 70 80 50 86 90 65 441
x2 100 225 64 324 400 25 1138
y2 4900 6400 2500 7396 8100 4225 33521
xy 700 1200 400 1548 1800 325 5973
i 1 i 1 i 1 i 1
n
n
n
n

6 5973 76 441 6 1138 76
2
6 33521 441
2
0.8782
g 0.8782 g 0.05 (6 2) 0.811
所以，拒绝原假设，即认为总体中x，y之间是存在线性相 关的（a=0.05） ，拟合回归直线有意义。
教学评价与测量60 例
2013.10
原假设H0：b = 0，总体中变量y与自变量x之间不存在线性相关 备择假设H1：b≠0，总体中变量y与自变量x之间存在线性相关 统计量：
TSS

2
~ c 2 (n 1),
RSSR

2
~ c 2 (1),
RSS

2
~ c 2 (n 2)
由于RSSR和RSS是独立的，所以有
案例9：回归分析 问题：如何评价两个定距变量反映的被评价对象的特征
实例： 抽样调查某班6位学生每周用于看数学课外辅导资料的时间 与期中考试成绩的结果如下：
学生 （ n） 1 2 3 4 5 6 合 计 时间 （小时/ 周） 10 15 8 18 20 5 76 成绩 （分） 70 80 50 86 90 65 441
(n 2) (n 2) (n 2)
所以如果有g 检验，就不必进行F检验了。 教学评价与测量60 例 2013.10
本例研究阅读数学课外辅导资料的时间与期中考试成绩之 间是否存在相关关系，先建立阅读数学课外辅导资料的时间与 期中考试成绩的直线回归方程。
学生 （n） 1 2 3 4 5 6 合 计 时间 x
教学评价与测量60 例
2013.10
设两个变量x和y，有n组实际观察值（xi，yi）i=1、2、3…n， 拟用方程ŷ=a+bx 表示x, y之间的关系，也就是要使实际观测值的 点与回归方程的偏离程度达到最小，亦即求关于变量a，b的函数
ˆ i ) ( yi a bxi ) 2 F (a, b) ( yi y
教学评价与测量60 例
2013.10
设总偏差平方和 回归平方和
n i 1
TSS ( yi y ) 2
i 1
n
剩余平方和
n i 1 i
ˆi )2 RSS ( yi y
i 1
n
ˆ i y) 2 RSSR ( y
n n
可以证明： ( y
i 1
ˆ i )( y ˆ i y) 0 y
n n 1 n 762 2 1 n 76 441 175.3333 Lxy xi yi xi yi 5973 387 Lxx xi xi 1138 n i 1 6 n i 1 i 1 6 i 1 i 1
n
2
TSS L yy 1107 .5000 RSS L yy L2 xy Lxx
，
原假设H0：b = 0，总体中变量y与自变量x之间不存在线性相关 备择假设H1：b ≠ 0，总体中变量y与自变量x之间存在线性相关 统计量 1 441 L y y 33521 1107 .5000 n 6
n yy i 1 2 i n 2 2
i 1
i

教学评价与测量60 例
2013.10
教学评价与测量60 例
2013.10
回归系数 b 的检验也可以用相关系数 g 的检验取代：
g
( xi x )( yi y )
i 1
n
( xi x ) 2 ( y i y ) 2
i 1 i 1
n
n

n 2 i
n xi y i xi y i
i 1 i 1 i 1
RSSR F RSS (1) ~ F (1, n 2)
(n 2)
常用的F 检验的判断规则有以下几种： 单侧检验
双侧检验
对于单侧检验，如果F>Fa，那么可在显著性水平a的情况下， 拒绝原假设，即认为总体中是存在线性相关的。如果F<Fa，那么就 不能拒绝原假设，在这种情况下，就没有必要拟合回归直线了。
RSSR
L2 xy Lxx

3872 854.1960 175.3333
3872 1107 .5000 253.3040 175.3333
RSSR 854.1960 (1) 1 F 13.4889 F0.05 [1, (6 2)] 7.71 RSS 253.3040 (n 2) (6 2)
n
n
n
n n x xi i 1 i 1
2
n n y y i i 1 i 1
n 2 i
2
原假设H0：r =0 统计量
备择假设H1：r ≠0
t g n2 ~ t(n 2) 1g 2
一方面可以应用t 检验，另一方面也可以直接使用相关系数 g 进行检验，临界值 ga 根据给定的显著性水平和自由度， 通过查表直接得到。 如果 |g|≥ga 那么拒绝原假设，即认为x, y之间存在相关关 系； 如果 |g|< ga 那么不能拒绝原假设，即认为x, y之间不存在相 关关系。 RSSR TSS RSS g 2TSS g2 (1) F (n 2) ~ F (1, n 2) 事实上 RSS RSS (1 g 2 )TSS 1g 2
x y x1 y1 x2 y2 x3 y3 … … xn yn
其中，xi 是变量x 在第 i 次观测中的测量值，与其对应的yi 是变 量 y 在第i次观测中的测量值。通常将数据对（xi，yi）用平面直 角坐标系的点表示出来，形成如下散布图。
教学评价与测量60 例
2013.10
根据散布图可以观察到，当自变量x 取某一值xi 时，因变量 y 有对应的概率分布。如果对于所有的 xi ，因变量y 对应的概率 分布都相同，那么变量 y 与变量x 是没有相关关系的。否则，变 量 y 与变量 x 之间存在相关关系。 当变量y 与变量x 之间存在相关关系时，比较简单的方法是 考察自变量x 取不同值时，因变量y 平均值的变化规律。如果其 规律为线性的，那么就能得到直线回归方程。 由此可见，回归分析是研究相关关系的一种有效的方法，以 下主要采用最小二乘法建立直线回归方程。
n 2 i
2
Lxy xi yi
i 1
n
n 1 n x i yi n i 1 i 1
TSS L yy
RSSR
L2 xy Lxx
RSS L yy
L2 xy Lxx
TSS表示原有的估计误差，RSS是通过回归进行估计的误差，而 它们的差TSS-RSS表示通过回归被解释掉的误差RSSR。
计算
a
xi2 y i xi xi y i
i 1 i 1 i 1 n n n xi2 xi i 1 i 1 i 1 2
n
n
n
n

1138 441 76 5973 45.5418 6 1138 762
b
n x i y i x i y i
i 1 i 1
n
n
a
'
2( y i a bxi )( xi ) 2 ( xi y i axi bxi2 ) 0
i 1 i 1
n
n
b
也就是需要求解方程组：
n y na b n x i i i 1 i 1 n n n 2 xi y i a x i b xi i 1 i 1 i 1
i 1 i 1 i 1 n n n xi2 xi i 1 i 1 2
n
n
n

6 5973 76 441 2.2072 6 1138 762
得到直线回归方程
ˆ 45.5418 2.2072x y
教学评价与测量60 例
2013.10ຫໍສະໝຸດ 回归系数 b 的检验教学评价与测量60 例
2013.10
为此，我们可以采用表上作业法计算：
n 1 2 3 ┆ n ∑ ∑x ∑x ∑x y ∑x 2 ∑y2 x y xy x2 y2
可得
a
xi2 yi xi xi y i
i 1 i 1 n i 1
n
n
n
n
n n x x i i 1 i 1
2 i
i 1 2
,
b
n x i y i x i y i
i 1 i 1 i 1
n
n
n
n n x x i i 1 i 1
n 2 i
2
于是，得到样本直线回归方程 ŷ=a+bx，将它作为总体直线回归 方程 y =a+b x 的最佳估计方程，其中b 称之为回归系数。为 了排除抽样误差的干扰，必须进行回归系数 b 的检验。