第五章 试验数据的回归分析教材

5.2 一元线性回归分析
6
上面的方程组称为正规方程组，对方程组求解即可得
到回归系数 b0、b 的计算式：
b0 y bx
b
(x
k 1
N
k
x )( yk y )
k
(x
k 1
N
x)
2
我们定义x、y及xy的离差平方和分别为：
5.2 一元线性回归分析
N N
7
N 1 2 Lxx ( xk x ) 2 xk ( xk ) 2 N k 1 k 1 k 1 N 1 2 Lyy ( yk y ) 2 yk ( yk ) 2 N k 1 k 1 k 1 N 1 N Lxy ( xk x )( yk y ) xk yk ( xk )( yk ) N k 1 k 1 k 1 k 1 N N N N
5.2.3 一元线性回归方程的检验
对于给定的N个观测值
xk , yk (k 1,2, N )
，即使x与y之间
根本不存在线性关系，我们仍旧可以通过最小二乘法求得x与y的线性
拟合方程
ˆ b0 bx ，显然这样的回归方程没有任何意义，我们 y
必须对回归方程进行显著性检验，对其可信性或拟合效果进行检验。
我们知道，对于一个
令 称
ˆ k yk (b0 bxk ) yk b0 bxk k yk y
k 为残差。
2 ( y b bx ) k 0 k k 1 2 k k 1 N N
令Q
称Q为剩余平方和，它反映了 y ˆ k 偏离
0
yk
的总体程度。
b0 y bx 3.716 0.4573 5.6 1.155 y 1.155 0.4573x
5.2 一元线性回归分析
8
从上可以看出根据试验数据建立回归方程可用最小二乘法，其 基本步骤为： ①根据试验数据画出散点图； ②确定拟合的函数类型； ③通过最小二乘法得到正规方程组； ④求解正规方程组，得到回归方程的表达式。
显然，对于不同的回归系数 b 、b ，其得到的Q大小不一，Q 最小者最能反映x与y间的相关关系，即所得的回归方程与试验结果 拟合最好。
5.2 一元线性回归分析
5
现在的问题就是 b0 、b 为何值时Q最小？这样就转化为二
次非负函数 Q Q(b0 , b) 求极小值问题，通过最小二乘法
可以解决这一问题。极小值点求法如下：
则：
b0 y bx Lxy b Lxx
具体例子见书P46～47例4－1。
k 1 2 3 4 5 xk 2 4 5 8 9 28 yk 2.01 2.98 3.50 5.02 5.07 18.58 x ky k 4.02 11.92 17.50 40.16 45.63 119.23
2 xk 2 yk
这是一个因变量y与一个自变量x之间的线性关系式。后面的任务
就是要根据对应的实验数据
模型参数 程式：y ˆ
b0 bx。
0、
的估计值
b0、b ，以得到一个一元线性回归方
5.2 一元线性回归分析
4
5.2.2 一元线性回归方程的建立
xk ，通过实验得到的数据 yk 与通过回归 ˆ k 之间存在一定的差异，即 yk y 方程计算得到的回归值 y ˆk 。
1
第五章 试验数据的回归分析
5.1 变量与变量之间的关系
变量与变量之间存在下面两种关系：
1、函数关系
变量之间存在一种确定性关系，当给定一个或几个变量值后， 另一个变量有确定值。
例如圆的面积S和半径R之间存在这样一种函数关系：S
2、相关关系
R 2
变量间存在密切的但又不完全确定的关系，当给定一个或几个变
5.2 一元线性回归分析
9
1、F检验法
(1)总变动平方和及其分解
SST ( yk y )
k
2
显然在无重复试验的情况下：SST＝Lyy 而 SST
2 2 ˆ ˆ ( y y ) [( y y ) ( y y )] k k k k k k
ˆk )2 ( y ˆ k y ) 2 2 ( y k y ˆ k )( y ˆk y) ( yk y
4 16 25 64 81 190
4.04 8.88 12.25 25.20 25.70 76.07

k 1
5
x 5.6 y 3.716
5 1 5 1 x y ( x )( y ) 119.23 2818.58 k k k k Lxy 5 5 k 1 k 1 b k 1 5 0.4573 5 1 1 Lxx 2 2 2 190 28 x ( x ) k k 5 5 k 1 k 1 5
量值时，另一变量有一大致的取值。例如一个人的血压p与年龄x存在
这样一种大致关系：
p x 100
但这种关系并未完全确定。
5.1 变量与变量之间的关系
2
相关关系经过抽象分析可以得到一个函数关系，用来评估这种相 关关系，也可以这样说：相关关系是一种误差不为常数的函数关系。 分析、抽象 相关关系 误差R≠const. 有关相关关系的计算方法和理论称为回归分析，确定回归方程、 检验回归方程的可信度是回归分析的主要内容。 回归分析分为一元回归分析和多元回归分析，也可分为线性回归 函数关系
N Q 2 ( yk b0 bxk ) 0 b0 k 1
即：
N Q 2 ( yk b0 bxk ) xk 0 b k 1 Q N ( yk b0 bxk ) 0 b0 k 1
Q N ( yk b0 bxk ) xk 0 b k 1
和非线性回归两种形式。
3
5.2 一元线性回归分析
5.2 一元线性回归分析
5.2.1 一元线性回归数学模型
一元线性回归数学模型为：
y 0＋பைடு நூலகம்x
回归模型中 或非x的一次项如
~ N( 0, 2 )
为误差项，它包括试验误差及无法用x表达的因素
x 2项等。
( x1 , y1 ),( x2 , y2 ), ,( xN , y N ) 来估计