实验四 回归分析的SAS过程(1)

实验四 回归分析的SAS 过程（1）

实验目的：掌握利用SAS 建立多元回归方程的方法，掌握PROC REG 过程，

并能检验所建立回归方程的显著性与方程系数的显著性，能根据实际问题作预测与控制．

实验要求:编写程序，结果分析． 实验内容：

1.写出多元线性回归模型，给出经验回归方程，回归系数向量、误差方差的估计 公式；

(1).线性回归模型

εββββ+++++=--1122110p p X X X Y ),0(~2σεN

n 组数据),,2,1(),,,,;(21n i x x x y n i =

矩阵形式 εX βY += ),(~2I 0εσN ，观测向量Y

Y X X X βT T p 11

10)?,,?,?(?--==）（βββ , p

n SSE -=2?σ，T T X X X X H 1-=）（ (2)．经验回归方程HY βX X X Y 1p 110==+++==--????)?,,?,?(?1

21p T n βββy y y 其中 1,12211?--+++=p i p i i i x x x y

βββ ． (3)．回归系数向量：回归系数向量-=-T p ),,,(110βββ β (4). 误差方差的估计：随机误差向量-=T n ),,,(21εεε ε

Y H I Y Y ε

)(??-=-= p

n p n SSE D T --=

-==∧

Y

H I Y )(?2

εσ 2.写出平方和分解公式，线性回归方程、回归参数的显著性检验步骤（假设、统

计量及分布、检验p 值），说明何时线性关系显著？ 给出因变量预测值及置信区间？

平方和分解公式：SSR SSE SST +=

1. 离差平方和分解

样本数据n y y y ,,,21 线性拟合值

，1,12211?--+++=p i p i i i x x x y

βββ ∑==n

i i y n y 1

1, 总离差平方和21

)(y y SST n

i i -=∑=

残差平方和∑∑===-=n

i i i n i i y

y SSE 1

22

1

?)?(ε 回归平方和21

)?(y y

SSR i n

i -=∑= 2.复相关系数

SST

SSE

SST SSR R -==

12 复相关系数----=2R R

)10≤≤R R （为Y 与11110????--+++=p p X X Y βββ 的相关系数的绝对值，因此，2R 越大，Y 与1

1110????--+++=p p X X Y βββ 的线性关系越显著． 二．线性回归方程的显著性检验

假设0,1i 1:0:11210≠-≤≤?====-i p p H H ββββ存在

如假设0H 为真，则εβ+=0Y ，从而n X X X ,,,21 的线性组合不能描述Y 任何变化，变化来自误差项；如1H 为真，Y 至少和某些变量线性相关，从而误差项引起的Y 的变化会相对减少．

构造统计量

),1(~)/()1/(0p n p F MSE

MSR p n SST p SSR F H --=--=真

给出显著性水平α，则拒绝域),1(p n p F F -->α．

检验p 值，)(00

F F P p H ≥=，α

认为线性回归显著；否则Y 与121,,,-p X X X 线性关系不显著． 预测及其统计推断

设),,,(1,00201-p x x x 为121,,,-p X X X 的一组新观测值，Y 取值为0y ，预测即对0y 值作估计，令T p x x x ),,,,1(1,002010-= x ，利用回归方程，0y 的预测值

βx ??????01,010*******T p p x x x y =+++=--ββββ

而

y 的置信度为

α

-1置信区间为

???

? ?

?+-++----

--

])(1[)(?,])(1[)(?01

021001

0210x X X x x X X x T T T T MSE p n t y

MSE p n t y αα 2. 书上作业 2.3（单）

答：(1)约简模型：01122,1,2,...,i i i i y x x i n βββε=+++= 检验统计量及其零分布：[()()]/2~(2,5)/(5)SST R SSE F MSR

F F n SSE n MSE

-=

=--

(2)

约简模型：01122312,1,2,...,i i i i i i y x x x x i n ββββε=++++= 检验统计量及其零分布：()()~(1,5)/(5)SST R SSE F MSR

F F n SSE n MSE

-=

=--

2.4解：（1）建立回归模型进行统计推断

设Y 与12,X X 回归模型01122Y X X βββε=+++， 观测值满足()/(1)~(1,)/()

SST SSE p MSR F F p n p SSE n p MSE

--==---，

i=1,2, (15)

其中i ε（i=1,2,…,15）相互独立，且),0(~2σεN i ． 即 ，εX βY += ),(~2I 0εσN

1）SAS 系统回归分析的proc reg 过程进行统计推断 程序：

（2）由方差分析表进行统计推断

从方差分析表得出2

4.47030MSE σ

∧==；

线性回归关系显著性检验： 012:0H ββ==

统计量0~(2,12)H MSR F F MSE

=真

，其观测值05679.387F =

0001.0)(00=≥=F F P p H ，拒绝0H ，认为Y 与12,X X 的线性回归关系是高

度显著的．

另外，由方差分析表给出253845

0.998953902

SSR R SST ===， 也表明线性回归关系高度显著． （3）置信区间：

进一步，取置信水平05.0=α，由于0.97512

()(12) 2.17881t n p t α-

-==，利

用表中的参数估计值和相应的标准差估计式0.975(12)()k k t s ββ∧∧

±，求得

012,,βββ的置信度

95%的置信区间分别为

0000.975:(20)() 3.45261 2.17881 2.43065( 1.84331,8.748535)t s βββ∧

∧

±=±?=- 1:0.49600 2.178810.00605(0.48282,0.50918)β±?=

2:0.00920 2.178810.00096811(0.00709,0.01131)β±?=

（4）假设检验方法：

由程序结果给出参数估计值k ∧

β，检验假设0:0=k

k H β，1,2k =

0~(12)H k k k k t t βββσσ∧

∧

∧

∧

-=

=

真

对给出显著性水平05.0=α，由参数估计表最后一列检验k p 0值看出，

05.0|)||(|000<≥=k k H k t t P p k ，拒绝k H 0，认为k X （1,2k =）对Y 均有显著

影响．

（5）关于销售量的预测值及置信区间：

由上表1-4行，2-5列构成的矩阵为

1 1.2463484164 0.0002129664 -0.000415671 () 0.0002129664 7.732903E-6 -7.030252E-7 -0.000415671 -7.030252E-7 1.9771851E-7T -??

??=??

????X X 56.8836SSE =,1()(3.45261,0.49600,0.00920)T T ∧

-==βXX X Y ，代入得

123.452610.496000.00920X X ∧

=++Y --------经验回归方程

对于给定1

2

,X X 的值0102(,)(220,2500)x x =，由经验回归方程可得0y 预

测值

0 3.452610.496002200.009202500135.57261y ∧

=+?+?=

令00102(1,,)(1,220,2500)T T x x ==x ，由 4.47030MSE =直接计算可得

0y 的置信度为95%的置信区间

0.9750135.57261 4.9631(130.60951,140.53571)y t ∧

±=±= 此置信区间的长度较小，因而对实际有较好的参考价值． 对各个值的拟合诊断

（6）求y的拟合值，残差及学生化残差：

a. 程序:建立回归模型,输出因变量拟合值、残差、学生化残差

参数估计表：

由上图所示表明Y与X1-X2线性关系显著

输出因变量拟合值、残差、学生化残差

由上表显示y的预测值都是正值，Y与X1-X2线性关系恰当。

b.考查模型假设及误差项正态分布合理性

程序：

如下：

C.求 相关系数,并进行检验 程序：

)

()2()1()()2()1(,,,,,,n n q q q r r r 与

结果分析:

1) 由学生化残差正态QQ图知,其点明显在一条直线上;

2) Y拟合值残差图也表明Y与X1-X2满足线性关系,且拟合值都为正数.直接说明模型误差项的正态性假定合理;

3)有序学生化残差与相应正态分布分位数的相关系数与1相差不大.若拟合线性回归模型,则误差分布与正态分布没有较大偏离.