线性回归的显著性检验

线性回归的显著性检验 Document number：NOCG-YUNOO-BUYTT-UU986-1986UT

线性回归的显着性检验

1.回归方程的显着性

在实际问题的研究中，我们事先并不能断定随机变量y 与变量p x x x ,,,21 之间确有线性关系，在进行回归参数的估计之前，我们用多元线性回归方程去拟合随机变量y 与变量p x x x ,,,21 之间的关系，只是根据一些定性分析所作的

一种假设。因此，和一元线性回归方程的显着性检验类似，在求出线性回归方程后，还需对回归方程进行显着性检验。

设随机变量Y 与多个普通变量p x x x ,,,21 的线性回归模型为

ε++++=p p x b x b b Y 110

其中ε服从正态分布),0(2σN

对多元线性回归方程的显着性检验就是看自变量若接受p x x x ,,,21 从整体

上对随机变量y 是否有明显的影响。为此提出原假设

0,,0,0:210===p b b b H

如果0H 被接受，则表明随机变量y 与p x x x ,,,21 的线性回归模型就没有意义。

通过总离差平方和分解方法，可以构造对0H 进行检验的统计量。正态随机变量n y y y ,,,21 的偏差平方和可以分解为：

∑∑∑∑====-+-=-+-=-n i i i n i i n i n i i i i i y y y y y y y y y y

12121

122)?()?()??()( ∑=-=n i i T y y S 1

2)(为总的偏差平方和，∑=-=n i i R y y

S 12)?(为回归平方和，∑=-=n i i i E y

y S 1

2)?(为残差平方和。因此，平方和分解式可以简写为： E R T S S S +=

回归平方和与残差平方和分别反映了0≠b 所引起的差异和随机误差的影响。构造F 检验统计量则利用分解定理得到：

)

1(--=p n Q p Q F E R 在正态假设下，当原假设0,,0,0:210===p b b b H 成立时，F 服从自由度为)1,(--p n p 的F 分布。对于给定的显着水平α，当F 大于临界值)1,(--p n p 时，拒绝0H ，说明回归方程显着，y x 与有显着的线性关系。

实际应用中，我们还可以用复相关系数来检验回归方程的显着性。复相关系数R 定义为：

T

R S S R = 平方和分解式可以知道，复相关系数的取值范围为10≤≤R 。R 越接近1表明E S 越小，回归方程拟合越好。

2.回归系数的显着性

若方程通过显着性检验，仅说明p b b b b ,,,210不全为零，并不意味着每个自变量对y 的影响都显着，所以就需要我们对每个自变量进行显着性检验。若某个系数0=j b ，则j x 对y 影响不显着，因此我们总想从回归方程中剔除这些次要的，无关的变量。检验i x 是否显着，等于假设

p j b H j j ,,2,1,0:0 ==

已知])(,[~?12-'X X B N B σ，p j i c X X ij ,,2,1,0,)(1 =='-）（记,可知

],[~?2σij

j j c b N b ,,,2,1,0p j =据此可构造t 统计量 δjj j

j c b t ?-=

其中回归标准差为

∑∑==---=--=n i i i n i i y y p n e p n 1

212)?(1111δ 当原假设0:0=j j b H 成立时，则j t 统计量服从自由度为1--p n 的t 分布，给定显着性水平α，当2αt t j ≥时拒绝原假设0:0=j j b H ，认为j x 对y 影响显着,当2αt t j <时，接受原假设0:0=j j b H ，认为j x 对y 影响不显着。