多元回归分析精品课程

多元回归分析精品课程
多元回归分析精品课程

第四章回归分析

回归分析是根据统计资料建立经验公式的统计方法。回归分析可用于预测和控制,在自然科学,社会科学和应用技术中都有重要应用,它是统计学最重要的工具。回归分析方法和理论从Gauss提出最小二乘法开始,至今已近200年,目前仍在蓬勃发展,例如在回归诊断、维度缩减、半参数回归、非参数回归、LOGISTIC回归等方向不断有新的突破。本章介绍参数回归分析模型及其参数估计、检验、模型选择等理论和有关计算方法。参数回归分析主要分三类:线性回归、可以转化为线性回归的回归和非线性回归。本章依次介绍这三类模型。有关回归分析的一般理论可参见陈希儒(1984),方开泰(1988),Seber(1976),何晓群(1997),何晓群、刘文卿(2001)、Richard(2003)。Robert(1999)和王吉利(2004)提供了许多有趣的应用例子。

第一节多元线性回归模型

一、两个例子

例1 试验测定迟熟早籼广陆矮4号在某年5月5日至8月5日播种时(每隔10天播一期),播种至齐穗的天数(y)和播种至齐穗的总积温(x,日·度)的关系,数据列于下表,建立播种至齐穗的天数与总积温两者之间的关系。

y x

播种至齐穗的天数总积温(日·度)

70 1616.3

67 1610.9

55 1440.0

52 1400.7

51 1423.3

52 1471.3

51 1421.8

60 1547.1

64 1533.0

例2 某站为预报早稻播种育秧期间(下/3-下/4)的低温阴雨日数,通过相关普查和点聚图分析,最后选择了三个相关较好的预报因子:

X1--前一年9月份的阴雨日数距平;

X2--前一年10月份-当年1月份的阴雨日数距平和;

X3--当年1月份的阴雨日数距平.

y-- 历年早稻播种育秧期间的低温阴雨日数距平

试建立y与X1、X2、X3之间的关系。

二、基本概念

常见的变量间关系分为两大类:确定性关系和相关关系。确定性关系也称为函数关系,具有确定性关系的自变量完全确定因变量的值。

现实世界中大量存在相关关系,具有相关性关系的变量间不能完全确定。例如人身高 与脚长是两个变量,它们关系密切,但是脚长不能完全确定认的身高,脚长为25公分的人,他的身高是不确定的。又如松树的胸径与材积关系很密切,但是胸径不能完全确定材积。例1中播种至齐穗的天数与总积温,但是x 不能完全决定y 的大小;例2中的y 与X1、X2、X3。具有相关关系的变量间由一些变量可以大体预报其它变量。前者称为解释变量,也叫做自变量或预报因子,后者称为响应变量,也叫做因变量或预报对象。我们希望得到由解释变量预报响应变量的公式,以便通过解释变量去预测或控制响应变量。

回归分析是建立预报公式的一种方法。其特点是:首先确定预报公式的类型,列出待估参数;然后取得解释变量和响应变量的多次观测值,这些观测值可能是实验得到的,也可能是调查出的;再用这些数据进行拟合。计算方法是数学的一个分支,它也包含数据拟合,回归分析与计算方法的数据拟合不同,计算方法的数据拟合只估计未知参数,而回归分析不仅仅估计参数,而且要对拟合的结果作统计分析,因此必须对观测值建立数学模型。最简单的回归模型是多元线性回归模型。解释变量和未知参数都是线性出现的回归模型称为线性回归模型。回归分析的目的是用一个回归公式来做预测。回归公式等号左边的值是因变量,等号右边的是一系列的自变量及参数(又称回归系数,它是一个常数)的线性组合。

1、线性回归模型

定义 εβ

β++

=∑=p

j j j

X Y 1

其中,Y 是因变量;j X 是自变量; j ββ,0均是参数,它们的值由统计估计而来;ε是误差。称为多元线性回归模型,其中p D E βββσεε,...,;,0102

==称为回归系数。

为了确定线性回规模型的未知参数,必须有解释变量和响应变量的若干次观测值。则有:

??

??

??

?++++=++++=n

np p n n p p x x y x x y εβββεβββ (1101)

111101 记??????? ??=?np n p p k

n x x x x x x X ...1.......1...11221111,??????

? ??=?p k ββββ...101,??????? ??=?n n εεεε...211,????

??? ??=?n n Y Y Y Y ...

211 其中X 称为回归设计矩阵,通常简称为设计矩阵,一个线性回归模型可以用矩阵表示如下:

εβ+=X Y

2、线性回归的假设

线性回归的重要假设如下:

(1) 所有自变量是固定的,或由实验结果导出; (2) 回归模型是正确的; (3) 自变量的测量没有误差; (4) 误差的平均值是0;

(5) 误差的方差是常数,其值以2

σ表示;

(6) 误差之间不相关。

(7) 当我们要检验回归模型是否有效时(Significance ),我们附加另外一个假设,

误差服从正态分布

(1)--(6)可以表示为:

?

??==I Var E 2

)(0

σεε 三、参数的估计

如何利用观测值估计模型中的参数p βββ,...,10?通常用最小二乘法,即选择适当β使

离差平方和

)()'()...()(21

110ββββββX y X y x x y S jp n

j p j j --=----=∑=

最小。早在1809年Gauss 就提出称为最小二乘法。

β的最小二乘估计是

Y X X X T T 1)(-∧

=β。

jp p j j x x y ∧

+++=βββ...110称为j y 的拟合值(回归值),拟合向量记为

∧∧

∧=?????

???????=βX y y y n (1)

jp p j j j x x y ∧

∧∧∧----=βββε...110称为第j 次纪录观测的残差。残差向量

∧∧∧-=?????

?

??????=βεεεX Y n ...1。

残差平方和:2

-=β

X

Y SSE ∑=∧

∧∧----=n

i ip p i i x x y 12110)...(βββ

回归平方和:∑=-=

n

i i

Y X SSR 12

)

?(β

总平方和: ∑=-=

n

i i

Y Y SST 1

2

)

(

误差方差2

σ的估计为均方误差MSE ,即

)

1/()1/(2

--=--==∧

m n SSE p n SSE MSE σσ

定理 2

,σβ的估计具有如下性质

(1) ββ=∧)(E (∧

β是β无偏估计)。

12)()(-∧

=X X Var T σβ。

(2) 2

2

)(σσ=∧E ,(∧2

σ是2

σ的无偏估计)。

(3) ∧β是的线性无偏最小方差估计(在β的线性无偏估计中,∧

β方差最小)。即通常

所称Gauss-Markov 定理。

(4) 正态性:若),,0(~2

I N σε则))(,(~1

2-∧

X X N T σββ;若观测个数n 很大,即

使ε不服从正态分布,仍近似地有))(,(~1

2

-∧

X X N T

σββ。

(5) 单个参数的分布:令??????

????????=∧∧∧∧p ββββ...10,若),,0(~2

σεN 则∧β的第i+1个分量

))(,(~11,12-++∧

i i T i i X X N σββ,其中11,1)(-++i i T X X 是 1

)(-X X T 对角线上第 1+i 个元素。从而可用11,12

)

()(-++∧

=i i T

i X X STDERR σβ估计i ∧

β 的标准差。

(6) 若),,0(~2

I N σε则有SST=SSR+SSE 。若再有p i i ,...2,10

==β,则

)1,(~)

1/()

/(----p n p F p n SSE p SSR 。

(7) 若),,0(~2

I N σε则SSE 与∧

β独立。从而:

)1(~)(/)(---∧

∧p n t STDERR i i i βββ。

(8) 若),,0(~2

I N σε则β的极大似然估计与最小二乘估计相同。

四、假设检验

存在两个问题:(1)y 与p x x ,...,1是否有较好的线性关系?即回归模型是否有意义?如果真正的模型中p i i ,...2,1,0==β ,或i β的绝对值都很小,则p x x ,...,1的值 对y 影响都很小,不能起预报作用,我们认为y 与p x x ,...,1没有较好的线性关系,回归模型没有意义。(2)回归模型能否简化,即m x x ,...,1中是否存在某个自变量,它与y 无关或它能被其它自变量代替,因而回归模型中可以删去这个自变量?为此可以做如下两类检验。

1、线性关系显著性F 检验

即要检验

p i H i ,...2,1,0:0==β。

定理指出SST=SSR+SSE ,其中总方差SST 反映响应变量的发散程度;回归平方和SSR 反映由回归引起的分散性,SSE 反映误差变量的分散性。若0H 成立,SSR/SSE 应当很小,若SSR/SSE 很大,则否定0H 。为此取统计量SSR/SSE 。 定理

若0...:210====p H βββ成立,则

)

1,(~)

1/(/----=

p n p F p n SSE p

SSR F

当F 很大时(超过临界值)(1,α--p n p F ),则回归效果显著。

因此,只需计算F 的值,并做F 检验即可,若F 很大,则否定0H 。 回归模型线性关系显著性也有其他检验方法:复相关系数平方

SST SSE R /12-=,

修正的复相关系数平方

)/()1)(1(12m n R n ADJRSQ ----=。

由于

1)1();1/(122-+=+=-R F F F R

复相关系数平方和修正的复相关系数平方越大,线性关系越显著。由于复相关系数和修正的复相关系数的分位数表不易查到,我们不介绍用这两个统计量做检验的方法。

2、单个解释变量显著性t 检验。

常常要考虑第i 个解释变量i x 是否在模型中有作用。一个好的模型,所有变量都应起作用。如果i x 的系数i β为零或绝对值很小,i x 无作用。为此对每个i 要检验

0:0=i i H β,

定理

当0:0=i i H β 成立时,有

i t =)1(~)(/)(---∧

p n t STDERR i i i βββ。

若i t 绝对值很大,则应当否定i H 0。当)1(2

-->p n t t i α时拒绝原假设,认为y x i 对起作

用。

五、预报

做预报是回归分析的重要目的。

对回归问题,当β

?得到后, p p x x y ∧

∧∧+++=βββ (110)

称为经验回归方程。

有了经验回归方程,若再给定解释变量的值)', (1)

p o

x x u =,就可得到预报值

o

p p o x x y ∧

∧∧

+++=βββ (1)

100

但是,y 的真值满足εβββ++++=o

p p o

x x y (1100)

,存在预报误差

ε

ββββββ+-++-+-=-∧

∧∧o

p p p o x x y y )(...)()(1

11000

由此可见,预报误差由两部分组成可得预报误差是零均值的。

预报值的置信区间理论比较复杂。可以如下计算:设解释变量的值为)', (1)

m o x x u =,令),...,1(10'=o m o x x X ,0

10)'('X X X X v -=,则概率为α-1的预报区间端点为

预测值的标准误差 2νσ 预测误差的标准差 2]1[σν+

预测值的置信区间

2/12

2/0

))1()(1(v m n t y +--±∧σα

六、计算结果

例1(续)

data han; input y x@@; cards;

70 1616.3 67 1610.9 55 1440.0 52 1400.7 51 1423.3 52 1471.3 51 1421.8 60 1547.1 64 1533.0 ;

PROC REG; Model y=x; run;

运算结果:

Analysis of Variance Sum of Mean

Source DF Squares Square F Value Pr > F

Model 1 402.75088 402.75088 68.35 <.0001 Error 7 41.24912 5.89273 Corrected Total 8 444.00000

Root MSE 2.42749 R-Square 0.9071 Dependent Mean 58.00000 Adj R-Sq 0.8938 Coeff Var 4.18534

Parameter Estimates

Parameter Standard

Variable DF Estimate Error t Value Pr > |t| Intercept 1 -69.70404 15.46820 -4.51 0.0028 x 1 0.08536 0.01033 8.27 <.0001

y=-69.70404+ 0.08536x

data han;

input y x@@;

cards;

70 1616.3 67 1610.9 55 1440.0 52 1400.7 51 1423.3

52 1471.3 51 1421.8 60 1547.1 64 1533.0 . 1600

;

PROC REG;

Model y=x/P CLI;

run;

Dependent Variable: y

Output Statistics

Dependent Predicted Std Error

Obs Variable Value Mean Predict 95% CL Predict Residual

1 70.0000 68.2651 1.4821 61.5398 74.9905 1.7349

2 67.0000 67.8042 1.4357 61.135

3 74.4731 -0.8042

3 55.0000 53.2160 0.9948 47.0126 59.419

4 1.7840

4 52.0000 49.8613 1.2743 43.3783 56.3443 2.1387

5 51.0000 51.7905 1.1040 45.484

6 58.0963 -0.7905

6 52.0000 55.8878 0.8485 49.8071 61.9685 -3.8878

7 51.0000 51.6624 1.1146 45.3461 57.9787 -0.6624

8 60.0000 62.3582 0.9657 56.1805 68.5358 -2.3582

9 64.0000 61.1546 0.8946 55.0371 67.2721 2.8454

10 . 66.8738 1.3442 60.3124 73.4352 .

Sum of Residuals 0

Sum of Squared Residuals 41.24912

Predicted Residual SS (PRESS) 62.49600

例2(续)程序如下:

DATA DEF;

INPUT Y X1-X3 @@;

CARDS;

-8 0 -6 2

4 2 20 3

7 -1 19 4

-7 -5 -16 -2

12 6 5 1

6 3 -20 -2

-14 -10 -10 -2

4 6 13 2

9 5 29 2

3 -2 6 5

-1 3 -32 3

4 1 11 -5

7 7 11 4

-3 -9 -4 2

5 2 3 0

-11 -3 4 -6

-8 0 -53 -5

-1 4 4 -5

-11 -9 8 -7

6 -5 29 2

;

PROC REG;

MODEL Y=X1-X3;

RUN;

运算结果

Analysis of Variance

Sum of Mean

Source DF Squares Square F Value Pr > F

Model 3 790.89946 263.63315 13.53 0.0001

Error 16 311.65054 19.47816

Corrected Total 19 1102.55000

Root MSE 4.41341 R-Square 0.7173

Dependent Mean 0.15000 Adj R-Sq 0.6643

Coeff Var 2942.27112

Parameter Estimates

Parameter Standard

Variable DF Estimate Error t Value Pr > |t|

Intercept 1 0.34059 0.99172 0.34 0.7357

X1 1 0.82384 0.20358 4.05 0.0009

X2 1 0.12874 0.05317 2.42 0.0277

X3 1 0.59901 0.29557 2.03 0.0597

由上面可知:

回归方程为:Y=0.34059+0.82384X1+0.12874X2+0.59901X3

可知早稻育秧期间的低温阴雨日数与头年9月份的阴雨日数距平关系最密切。从上面也可以看出回归方程的线性关系是显著的。但实际上除X1外,其余回归系数都不显著。

1、建立了青海省海北地区土壤湿度与旬降水、旬平均气温之间的回归关系

分析:在模式的建立过程中,采用了青海省海北牧业气象试验站3月18日至10月28日23旬的土壤湿度、旬降水、旬平均气温的资料,用多元统计回归建立了方程。方差分析表中,给出Sr =6647.21656 ,Se= 16148 ,自由度为2和20, F = 3323.60828 /807.38700= 4.12,还给出服从自由度(2,20)的F 分布随机变量大于 4.12的概率为0.0318<0.05,所以回归是

显著的

。在参数估计中,截距、降水、气温三者的T检验都达到0.05的显著水平,所以认为回归系数是显著的。最后得出回归方程为:

y = 244.94+1.02*rain-0.34*temp

y :土壤湿度;rain : 旬降水 ;temp :旬平均气温

青海省海北地区土壤湿度与旬平均降水、气温的关系

09:14 Saturday, June 12, 2004 1

Obs v1 v2 v3

1 241 4.5 17

2 265 8.7 16

3 309 20.9 19

4 232 6.1 61

5 205 21.1 111

6 22

7 34.1 97

7 281 33.6 50

8 225 38.0 106

9 191 26.1 116

10 212 36.4 124

11 220 13.2 128

12 222 12.2 131

13 218 55.5 140

14 295 65.8 148

15 297 47.9 146

16 269 39.5 131

17 225 9.5 117

18 261 23.8 95

19 271 49.8 94

20 248 63.3 83

21 209 3.7 66

22 231 26.7 37

23 236 2.3 5

青海省土壤湿度与旬平均降水、气温的关系

09:14 Saturday, June 12, 2004 2

The REG Procedure

Model: MODEL1

Dependent Variable: v1 土壤湿度

Analysis of Variance

Sum of Mean

Source DF Squares Square F Value Pr > F

Model 2 6647.21656 3323.60828 4.12 0.0318

Error 20 16148 807.38700

Corrected Total 22 22795

Root MSE 28.41456 R-Square 0.2916

Dependent Mean 243.04348 Adj R-Sq 0.2208

Coeff Var 11.69114

Parameter Estimates

Parameter Standard

Variable Label DF Estimate Error t Value Pr >

|t|

Intercept Intercept 1 244.93781 13.45982 18.20 <.0001

v2 降水 1 1.01582 0.37025 2.74 0.0125

v3 气温 1 -0.34172 0.15681 -2.18

第二节一般回归统计分析:PROC REG

PROC REG用最小二乘估计拟合线性回归模型。有多种模型选择方法来确定最优自变量

子集来预测因变量。PROC REG 是一种一般的回归程序,而其它的回归程序有专门的应用。PROC REG 提供了九种模型选择方法,

PROC REG有如下的功能:

(1)能同时考虑数个线性回归模型,并可以交互式执行回归分析;

(2)输入数据可以是相关系数或变量的Cross Product;

(3)可输出因变量的预测值、误差、标准化误差、置信区间等,这些统计量可被储存在一个输出文件内,或利用指令PLOT绘成点状图;

(4)输出各种影响力值;

(5)绘制偏回归图(Partial Regression Leverage Plots)

(6)由最小误差平方法估计系数;

(7)检验回归系数;

(8)检验多变量的假设;

(9)将自变量的向量积纳入输出文件;

(10)诊断自变量之间线性相关的程度;

(11)有九种不同的方法可简化模型;

(12)利用PAINT指令可特别强调数据种某个或某些观测个体。

PROC REG 格式:

PROC REG options;

label: MODEL dependents= regressors / ;

BY variable-list;

FREQ variable;

ID variable;

VAR variable-list;

ADD variable-list;

DELETE variable-list;

REWEIGHT | ;

WEIGHT variable;

label: MTEST ;

OUTPUT OUT= SAS-data-set keyword= names ...;

PAINT | ;

PLOT <=symbol1>,...

<=symbolk> ;

PRINT ;

REFIT;

RESTRICT equation1, ... equationk;

label: TEST equation1, ... equationk / option;

其中,PROC REG 与MODEL两道指令是必须的,不可省略。

一个REG程序种可含多个MODEL指令。在每个MODEL指令之后,可有一个OUTPUT指令及多个RESTRICT,TEST,MTEST等指令。至于WEIGHT,FREQ,ID指令则可有可无,而且只需使用一次,其效力即可贯穿整个REG程序。

PROC REG options;

下列选项可被用于PROC REG语句中:

ALL ANNOTATE= SAS-data-set

CORR COVOUT

DATA= SAS-data-set GOUT= graphics-catalog

GRAPHICS NOPRINT

OUTEST= SAS-data-set OUTSEB

OUTSSCP= SAS-data-set OUTSTB

OUTVIF PCOMIT= values

PRESS RIDGE= values

SIMPLE SINGULAR= n

USSCP

(1)DATA=输入文件名称

(2)OUTTEST=输出文件名称

(3)COVOUT

(4)OUTSSCP=输出文件名称

(5)NOPRINT 所有分析结果皆不印出

(6)SIMPLE 印出所有参与分析的变量的简单描述性统计量

(7)USSCP

(8)ALL 要求印出所有的分析结果

(9)CORR 要求打印在MODEL指令或VAR指令中界定之变量间的相关系数矩阵

label: MODEL dependents= regressors / ;

下列选项可被用于MODEL语句中:

ACOV ADJRSQ AIC

ALL B BEST= BIC CLI CLM COLLIN COLLINOINT CORRB COVB CP DETAILS DW GMSEP GROUPNAMES= I INCLUDE= INFLUENCE JP MSE NOINT NOPRINT OUTSEB OUTSTB OUTVIF P PARTIAL PC PCOMIT= PCORR1 PCORR2 PRESS R RIDGE= RMSE SBC

SCORR1 SCORR2 SELECTION= SEQB SIGMA= SLENTRY= SLSTAY= SP SPEC SS1 SS2 SSE START= STB STOP= TOL VIF XPX

其后的选项可分为六类:

第一类选项 此处有三个选项与报表的打印有关;

(1) NOPRINT 不打印MODEL 指令所界定的分析结果 (2) ALL 打印MODEL 指令所有分析的结果 (3) NOINT 规定回归模型中不包含截距 第二类选项 控制计算过程的打印,有两个选项;

(1) XPX 印出回归模型的)('

X X

(2) I 印出上述矩阵的逆矩阵。

第三类选项 界定有关参数估计值的有关事宜,有十六个

SS1 SS2 STB TOL VIF COVB CORRB SEQB COLLIN COLLINNOINT ACOV SPEC PCOOR1 PCOOR2 SCORR1 SCORR2

第四类选项 此类选项有七个,均与预测值、预测误差有关;

(1)P 由输入数据及回归模型预测值因变量的值。这个选项将产生包含原数据、因变

量的实际值与预测值以及预测误差的报表 (2) R

(3) CLM 印出各个预测平均数的95%置信区间之上限与下限 (4) CLI (5) DW

(6) INFLUENCE (7) PARTIAL

第五类选项 界定回归模型的选择,有下列十个选项:

(1) SELECTION=FORWARD (或F )

SELECTION=BACKWARD (或B )

SELECTION=STEPWISE

SELECTION=MAXR 最大相关法

SELECTION=MINR 最小相关法

SELECTION=RSQUARE 复相关系数平方法

SELECTION=ADJRSQ 矫正后的复相关系数法

SELECTION=CP CP法

SELECTION=NONE 进行全型的回归分析

(2)DETAILS

(3)INCLUDE=正整数这个选项规定将MODEL指令的前几个变量纳入每个回归模型里;

(4)START=正整数规定分析的第一个回归模型内至少应包括的自变量之数目

(5)STOP=正整数这个指令指示REG程序搜寻出一个含STOP=个数的最佳回归模型后即停止

(6)SLENTRY

(7)SLSTAY

(8)BEST

(9)GROUPNAMES

(10) NOINT

第六类选项与SELECTION=RSQUARE,ADJRSQ,CP的设定有关,有十四个选项;

ADJRSQ AIC BIC CP GMSEP JP MSE

RMSE PC SBC SIGMA SP SSE B

BY variable-list;

REG程序依据此指令所列举的变量将文件分成几个小的文件,然后对没一个小的文件分别执行分析。当选用此指令时,文件内的数据必须先按照BY变量串的值做由小到大的重新排列,这个步骤可籍PROC SORT达成

FREQ variable;

FREQ变量的值表示各观察值重复出现的次数

ID variable;

指明一个变量,其功用在于识别观察体

VAR variable-list;

此指令的功用是要求将那些在MODEL指令中未提到的数值变量也一起包括在向量内乘积矩阵里,此选项须与选项OUTSSCP=并用

ADD variable-list;

DELETE variable-list;

REWEIGHT | ;

WEIGHT variable;

label: MTEST ;

OUTPUT OUT= SAS-data-set keyword= names ...;

OUT=输出文件名称,这个文件含原输入文件的所有变量,以及本指令中所提到的变量

keyword=变量名称串;

下列是十六种关键字及其定义:

(1)PREDICTED(P)

(2)RESIDUAL(R)

(3)L95M

(4)U95M

(5)L95

(6)U95

(7)STDP

(8)STDR

(9)STDI

(10) STUDENT

(11) COOKED

(12) H

(13) PRESS

(14) RSTUDENT

(15) DFFITS

(16) COVRATIO

PAINT | ;

PLOT <=symbol1>,...

<=symbolk> ;

PRINT ;

REFIT;

RESTRICT equation1, ... equationk;

label: TEST equation1, ... equationk / option;

EXAMPLE1预测人体吸入氧气的效率

本资料的数据来自一群中年男子的健康资料。每一名男士提供七个数据,分别是:年龄(AGE),体重(WEIGHT),吸氧的效率(OXY),跑1。5英里所需的时间—以分钟计(RUNTIME),休息时的心跳(RSTPULSE),跑步时的心跳(RUNPULSE),和最高心跳率(MAXPULSE)。其中吸氧效率(OXY)是因变量,另外六个是自变量。

/* This data set contains 31 observations . */

data fitness;

input age weight oxy runtime rstpulse runpulse maxpulse@@;

cards;

44 89.47 44.609 11.37 62 178 182 51 69.63 40.836 10.95 57 168 172 40 75.07 45.313 10.07 62 185 185 51 77.91 46.672 10.00 48 162 168 44 85.84 54.297 8.65 45 156 168 48 91.63 46.774 10.25 48 162 164 42 68.15 59.571 8.17 40 166 172 49 73.37 50.388 10.08 67 168 168 38 89.02 49.874 9.22 55 178 180 57 73.37 39.407 12.63 58 174 176 47 77.45 44.811 11.63 58 176 176 54 79.38 46.080 11.17 62 156 165 40 75.98 45.681 11.95 70 176 180 56 76.32 45.441 9.63 48 164 166 43 81.19 49.091 10.85 64 162 170 50 70.87 54.625 8.92 48 146 155

44 81.42 39.442 13.08 63 174 176 51 67.25 45.118 11.08 48 172 172 38 81.87 60.055 8.63 48 170 186 54 91.63 39.203 12.88 44 168 172

44 73.03 50.541 10.13 45 168 168 51 73.71 45.790 10.47 59 186 188

45 87.66 37.388 14.03 56 186 192 57 59.08 50.545 9.93 49 148 155 45 66.45 44.754 11.12 51 176 176 49 76.32 48.673 9.40 56 186 188 47 79.15 47.273 10.60 47 162 164 48 61.24 47.920 11.50 52 170 176 54 83.42 51.855 10.33 50 166 170 52 82.78 47.467 10.50 53 170 172 49 81.42 49.156 8.95 44 180 185

;

proc reg data=fitness outest=regout;

oxyhat: model oxy=age weight runtime runpulse maxpulse rstpulse /selection=stepwise;

model oxy=age weight runtime runpulse maxpulse rstpulse

/selection=maxr;

run;

Stepwise Selection: Step 4

Variable maxpulse Entered: R-Square = 0.8430 and C(p) = 4.9695

Analysis of Variance

Sum of Mean

Source DF Squares Square F Value Pr > F

Model 4 717.69550 179.42388 34.90 <.0001

Error 26 133.68604 5.14177

Corrected Total 30 851.38154

Parameter Standard

Variable Estimate Error Type II SS F Value Pr > F

Intercept 100.07910 11.57739 384.21858 74.72 <.0001

age -0.21266 0.09099 28.08629 5.46 0.0274

runtime -2.76824 0.33138 358.80967 69.78 <.0001

runpulse -0.33957 0.11555 44.40268 8.64 0.0068

maxpulse 0.25535 0.13188 19.27645 3.75 0.0638

Summary of Stepwise Selection

Variable Variable Number Partial Model

Step Entered Removed Vars In R-Square R-Square C(p) F Value Pr > F

1 runtime 1 0.7434 0.7434 15.4416 84.01 <.0001

2 age 2 0.0268 0.7702 13.0075 3.27 0.0815

3 runpulse 3 0.0501 0.8203 6.7141 7.5

4 0.0106

4 maxpulse 4 0.0226 0.8430 4.969

5 3.75 0.0638

Example2 土壤中可给态磷含量

x 研究某一地区土壤中含植物可给态磷的情况.设y是35℃时土壤中可给态磷含量;

1

是土壤中所含无机盐浓度;2x 是土壤中溶于K 2C03溶液并受溴化物水解的有机磷;3x 是土壤中溶于K 2C03溶液但不溶于溴化物的有机磷。经18次测量得表3.2。求用1x , 2x ,

3x 预报 y 的线性回归方程。并求当1x =15,2x =50,3x =100时y 的预报值和95%置信区间。

表5.2 可给态磷含量表

SAS 程序:

data pcontent; input x1-x3 y; cards;

0.4 52 158 64 0.4 23 163 60 3.1 19 37 71 0.6 34 157 61 4.7 24 59 54 1.7 65 123 77 9.4 44 46 81 10.1 3l 117 93 11.6 29 173 93 12.6 58 112 51 10.9 37 11l 76 23.1 46 114 96 23.1 50 134 77

excel一元及多元线性回归实例

野外实习资料的数理统计分析 一元线性回归分析 一元回归处理的是两个变量之间的关系,即两个变量X和Y之间如果存在一定的关系,则通过观测所得数据,找出两者之间的关系式。如果两个变量的关系大致是线性的,那就是一元线性回归问题。 对两个现象X和Y进行观察或实验,得到两组数值:X1,X2,…,Xn和Y1,Y2,…,Yn,假如要找出一个函数Y=f(X),使它在 X=X1,X2, …,Xn时的数值f(X1),f(X2), …,f(Xn)与观察值Y1,Y2,…,Yn趋于接近。 在一个平面直角坐标XOY中找出(X1,Y1),(X2,Y2),…,(Xn,Yn)各点,将其各点分布状况进行察看,即可以清楚地看出其各点分布状况接近一条直线。对于这种线性关系,可以用数学公式表示: Y = a + bX 这条直线所表示的关系,叫做变量Y对X的回归直线,也叫Y对X 的回归方程。其中a为常数,b为Y对于X的回归系数。 对于任何具有线性关系的两组变量Y与X,只要求解出a与b的值,即可以写出回归方程。计算a与b值的公式为:

式中:为变量X的均值,Xi为第i个自变量的样本值,为因变量的均值,Yi为第i个因变量Y的样本值。n为样本数。 当前一般计算机的Microsoft Excel中都有现成的回归程序,只要将所获得的数据录入就可自动得到回归方程。 得到的回归方程是否有意义,其相关的程度有多大,可以根据相关系数的大小来决定。通常用r来表示两个变量X和Y之间的直线相关程度,r为X和Y的相关系数。r值的绝对值越大,两个变量之间的相关程度就越高。当r为正值时,叫做正相关,r为负值时叫做负相关。r 的计算公式如下: 式中各符号的意义同上。 在求得了回归方程与两个变量之间的相关系数后,可以利用F检验法、t检验法或r检验法来检验两个变量是否显著相关。具体的检验方法在后面介绍。

(完整版)多元回归分析中变量的选择——SPSS的应用毕业设计

毕业论文 题目多元回归分析中的变量选取 ——SPSS的应用 院(系)数学与统计学院 专业年级 2010级统计学 指导教师职称副教授

多元回归分析中的变量选取——SPSS的应用 殷婷 摘要 本文不仅对于复杂的统计计算通过常用的计算机应用软件SPSS来实现,同时通过对两组数据的实证分析,来研究统计学中多元回归分析中的变量选取,让大家对统计中的多元回归数据的选取和操作方法有更深层次的了解。一组数据是对于淘宝交易额的未来发展趋势的研究,一组数据时对于我国财政收入的研究。本文通过两个实证从不同程度上对数据选取的研究运用通俗的语言和浅显的描述将SPSS在多元回归分析中的统计分析方法呈现在大家面前,让大家对多元回归分析以及SPSS软件都可以有更深一步的了解。通过SPSS软件对数据进行分析,对数据进行处理的方法进行总结,找出SPSS对于数据处理和分析的优缺点,最后得在对变量的选取和软件的操作提出建议。 关键词:统计学 SPSS 变量的选取多元回归分析 Abstract

In this paper, not only for complex statistical calculations done by the commonly used computer application software of SPSS, through the empirical analysis of the two groups of data at the same time, to study the statistics of the variables in the multivariate regression analysis, let everybody to select multiple regression in statistical data and operation methods this paper, through two empirical to select data from different extent research using a common language and plain the SPSS statistical analysis method in multiple regression analysis of present in front of everyone, let everyone to multiple regression analysis and SPSS software can of the selection of variables and software. Keywords: Statistical SPSS The selection of variables multiple regression analysis 目录 摘要 (1) 英文摘要 (1) 引言 (3) 第一章回归分析 (3) 1.1自变量的选择 (4) 1.2国内外研究现状 (5) 第二章案例分析一:淘宝交易额的研究 (6) 2.1数据的来源及变量的选取 (6) 2.2相关分析 (7) 2.2.1散点图 (7)

eviews多元线性回归案例分析

中国税收增长的分析 一、研究的目的要求 改革开放以来,随着经济体制的改革深化和经济的快速增长,中国的财政收支状况发生了很大的变化,中央和地方的税收收入1978年为519.28亿元到2002年已增长到17636.45亿元25年间增长了33倍。为了研究中国税收收入增长的主要原因,分析中央和地方税收收入的增长规律,预测中国税收未来的增长趋势,需要建立计量经济学模型。 影响中国税收收入增长的因素很多,但据分析主要的因素可能有:(1)从宏观经济看,经济整体增长是税收增长的基本源泉。(2)公共财政的需求,税收收入是财政的主体,社会经济的发展和社会保障的完善等都对公共财政提出要求,因此对预算指出所表现的公共财政的需求对当年的税收收入可能有一定的影响。(3)物价水平。我国的税制结构以流转税为主,以现行价格计算的DGP等指标和和经营者收入水平都与物价水平有关。(4)税收政策因素。我国自1978年以来经历了两次大的税制改革,一次是1984—1985年的国有企业利改税,另一次是1994年的全国范围内的新税制改革。税制改革对税收会产生影响,特别是1985年税收陡增215.42%。但是第二次税制改革对税收的增长速度的影响不是非常大。因此可以从以上几个方面,分析各种因素对中国税收增长的具体影响。 二、模型设定 为了反映中国税收增长的全貌,选择包括中央和地方税收的‘国家财政收入’中的“各项税收”(简称“税收收入”)作为被解释变量,以放映国家税收的增长;选择“国内生产总值(GDP)”作为经济整体增长水平的代表;选择中央和地方“财政支出”作为公共财政需求的代表;选择“商品零售物价指数”作为物价水平的代表。由于税制改革难以量化,而且1985年以后财税体制改革对税收增长影响不是很大,可暂不考虑。所以解释变量设定为可观测“国内生产总值(GDP)”、“财政支出”、“商品零售物价指数” 从《中国统计年鉴》收集到以下数据 财政收入(亿元) Y 国内生产总值(亿 元) X2 财政支出(亿 元) X3 商品零售价格指 数(%) X4 1978519.283624.11122.09100.7 1979537.824038.21281.79102 1980571.74517.81228.83106

spss多元回归分析报告案例

企业管理 对居民消费率影响因素的探究 ---以湖北省为例 改革开放以来,我国经济始终保持着高速增长的趋势,三十多年间综合国力得到显著增强,但我国居民消费率一直偏低,甚至一直有下降的趋势。居民消费率的偏低必然会导致我国内需的不足,进而会影响我国经济的长期健康发展。 本模型以湖北省1995年-2010年数据为例,探究各因素对居民消费率的影响及多元关系。(注:计算我国居民的消费率,用居民的人均消费除以人均GDP,得到居民的消费率)。通常来说,影响居民消费率的因素是多方面的,如:居民总 收入,人均GDP,人口结构状况1(儿童抚养系数,老年抚养系数),居民消费价格指数增长率等因素。 1.人口年龄结构一种比较精准的描述是:儿童抚养系数(0-14岁人口与 15-64岁人口的比值)、老年抚养系数(65岁及以上人口与15-64岁人口的比值〉或总抚养系数(儿童和老年抚养系数之和)。0-14岁人口比例与65岁及以上人口比例可由《湖北省统计年鉴》查得。

一、计量经济模型分析 (一)、数据搜集 根据以上分析,本模型在影响居民消费率因素中引入6个解释变量。X1:居民总收入(亿元),X2:人口增长率(‰),X3:居民消费价格指数增长率,X4:少儿抚养系数,X5:老年抚养系数,X6:居民消费占收入比重(%)。 Y:消费率(%)X1:总收入 (亿元) X2:人口增 长率(‰) X3:居民消 费价格指 数增长率 X4:少儿抚 养系数 X5:老年抚 养系数 X6:居民消 费比重(%) 1995 1997 200039 2001 2002 2003 2004 2005 2006 2007 2008 2009

多元线性回归模型的案例分析

1. 表1列出了某地区家庭人均鸡肉年消费量Y 与家庭月平均收入X ,鸡肉价格P 1,猪肉价格P 2与牛肉价格P 3的相关数据。 年份 Y/千 克 X/ 元 P 1/(元/千克) P 2/(元/千克) P 3/(元/千克) 年份 Y/千克 X/元 P 1/(元/ 千克) P 2/(元/ 千克) P 3/(元/千克) 1980 2.78 397 4.22 5.07 7.83 1992 4.18 911 3.97 7.91 11.40 1981 2.99 413 3.81 5.20 7.92 1993 4.04 931 5.21 9.54 12.41 1982 2.98 439 4.03 5.40 7.92 1994 4.07 1021 4.89 9.42 12.76 1983 3.08 459 3.95 5.53 7.92 1995 4.01 1165 5.83 12.35 14.29 1984 3.12 492 3.73 5.47 7.74 1996 4.27 1349 5.79 12.99 14.36 1985 3.33 528 3.81 6.37 8.02 1997 4.41 1449 5.67 11.76 13.92 1986 3.56 560 3.93 6.98 8.04 1998 4.67 1575 6.37 13.09 16.55 1987 3.64 624 3.78 6.59 8.39 1999 5.06 1759 6.16 12.98 20.33 1988 3.67 666 3.84 6.45 8.55 2000 5.01 1994 5.89 12.80 21.96 1989 3.84 717 4.01 7.00 9.37 2001 5.17 2258 6.64 14.10 22.16 1990 4.04 768 3.86 7.32 10.61 2002 5.29 2478 7.04 16.82 23.26 1991 4.03 843 3.98 6.78 10.48 (1) 求出该地区关于家庭鸡肉消费需求的如下模型: 01213243ln ln ln ln ln Y X P P P u βββββ=+++++ (2) 请分析,鸡肉的家庭消费需求是否受猪肉及牛肉价格的影响。 先做回归分析,过程如下: 输出结果如下:

多元线性回归分析范例

国际旅游外汇收入是国民经济发展的重要组成部分,影响一个国家或地区旅游收入的因素包括自然、文化、社会、经济、交通等多方面的因素,本例研究第三产业对旅游外汇收入的影响。《中国统计年鉴》把第三产业划分为12个组成部分,分别为x1农林牧渔服务业,x2地质勘查水利管理业,x3交通运输仓储和邮电通信业,x4批发零售贸易和餐饮业,x5金融保险业,x6房地产业,x7社会服务业,x8卫生体育和社会福利业,x9教育文化艺术和广播,x10科学研究和综合艺术,x11党政机关,x12其他行业。采用1998年我国31 个省、市、自治区的数据,以国际旅游外汇收入(百万美元)为因变量y,以如上12 个行业为自变量做多元线性回归,其中自变量单位为亿元人民币。即样本量n=31,变量p=12。 利用SPSS软件对数据进行处理,输出: 图1 输入/移除变量 图1即输入了所有模型中的变量,分别为 x1:农林牧渔服务业 x2:地质勘查水利管理业 x3:交通运输仓储和邮电通信业 x4:批发零售贸易和餐饮业 x5:金融保险业 x6:房地产业 x7:社会服务业 x8:卫生体育和社会福利业 x9:教育文化艺术和广播 x10:科学研究和综合艺术 x11:党政机关 x12:其他行业

图2 模型概述 即回归方程对样本观测值的拟合程度,复相关系数R=0.875,决定系数R 2=0.935。由决定系数接近1,得出回归拟合的效果较好,但是并不能作为严格的显著性检验。由R 2决定模型优劣时需慎重,尤其是样本量与自变量个数接近时。 图3 回归方程显著性的F 检验 F=10.482,F α(n,n-p-1)=F α(30,18)=2.11(α=0.05),P 值=0.000,表明回归方程高度显著,即12个自变量整体对因变量y 产生显著线性影响。但是并不能说明回归方程中所有自变量都对因变量y 有显著影响,因此还要对回归系数进行检验。 图4 回归系数的显著性t 检验(t 0.05(20)=1.725) y 对12个自变量的线性回归方程为: 1234 5678 9101112y 205.388 1.438 2.622 3.2970.9465.521 4.068 4.16215.40417.3389.15510.536 1.37x x x x x x x x x x x x =--++--++-++-+

线性回归模型的研究毕业论文

线性回归模型的研究毕业论文 1 引言 回归分析最早是由19世纪末期高尔顿(Sir Francis Galton)发展的。1855年,他发表了一篇文章名为“遗传的身高向平均数方向的回归”,分析父母与其孩子之间身高的关系,发现父母的身高越高或的其孩子也越高,反之则越矮。他把儿子跟父母身高这种现象拟合成一种线性关系。但是他还发现了个有趣的现象,高个子的人生出来的儿子往往比他父亲矮一点更趋向于平均身高,矮个子的人生出来的儿子通常比他父亲高一点也趋向于平均身高。高尔顿选用“回归”一词,把这一现象叫做“向平均数方向的回归”。于是“线形回归”的术语被沿用下来了。 回归分析中,当研究的因果关系只涉及因变量和一个自变量时,叫做一元回归分析;当研究的因果关系涉及因变量和两个或两个以上自变量时,叫做多元回归分析。此外,回归分析中,又依据描述自变量与因变量之间因果关系的函数表达式是线性的还是非线性的,分为线性回归分析和非线性回归分析。按照参数估计方法可以分为主成分回归、偏最小二乘回归、和岭回归。 一般采用线性回归分析,由自变量和规定因变量来确定变量之间的因果关系,从而建立线性回归模型。模型的各个参数可以根据实测数据解。接着评价回归模型能否够很好的拟合实际数据;如果不能够很好的拟合,则重新拟合;如果能很好的拟合,就可以根据自变量进行下一步推测。 回归分析是重要的统计推断方法。在实际应用中,医学、农业、生物、林业、金融、管理、经济、社会等诸多方面随着科学的发展都需要运用到这个方法。从而推动了回归分析的快速发展。 2 回归分析的概述 2.1 回归分析的定义 回归分析是应用极其广泛的数据分析方法之一。回归分析(regression analysis)是确定两种或两种以上变数间相互依赖的定量关系的一种统计分析方法。 2.2 回归分析的主要容

多元线性回归分析预测法

多元线性回归分析预测法 (重定向自多元线性回归预测法) 多元线性回归分析预测法(Multi factor line regression method,多元线性回归分析法) [编辑] 多元线性回归分析预测法概述 在市场的经济活动中,经常会遇到某一市场现象的发展和变化取决于几个影响因素的情况,也就是一个因变量和几个自变量有依存关系的情况。而且有时几个影响因素主次难以区分,或者有的因素虽属次要,但也不能略去其作用。例如,某一商品的销售量既与人口的增长变化有关,也与商品价格变化有关。这时采用一元回归分析预测法进行预测是难以奏效的,需要采用多元回归分析预测法。 多元回归分析预测法,是指通过对两上或两个以上的自变量与一个因变量的相关分析,建立预测模型进行预测的方法。当自变量与因变量之间存在线性关系时,称为多元线性回归分析。 [编辑] 多元线性回归的计算模型[1] 一元线性回归是一个主要影响因素作为自变量来解释因变量的变化,在现实问题研究中,因变量的变化往往受几个重要因素的影响,此时就需要用两个或两个以上的影响因素作为自变量来解释

因变量的变化,这就是多元回归亦称多重回归。当多个自变量与因变量之间是线性关系时,所进行的回归分析就是多元性回归。 设y为因变量,为自变量,并且自变量与因变量之间为线性关系时,则多元线性回归模型为: 其中,b0为常数项,为回归系数,b1为固定时,x1每增加一 个单位对y的效应,即x1对y的偏回归系数;同理b2为固定时,x2每增加一个单位对y的效应,即,x2对y的偏回归系数,等等。如果两个自变量x1,x2同一个因变量y呈线相关时,可用二元线性回归模型描述为: 其中,b0为常数项,为回归系数,b1为固定时,x2每增加一 个单位对y的效应,即x2对y的偏回归系数,等等。如果两个自变量x1,x2同一个因变量y呈线相关时,可用二元线性回归模型描述为: y = b0 + b1x1 + b2x2 + e 建立多元性回归模型时,为了保证回归模型具有优良的解释能力和预测效果,应首先注意自变量的选择,其准则是: (1)自变量对因变量必须有显著的影响,并呈密切的线性相关; (2)自变量与因变量之间的线性相关必须是真实的,而不是形式上的; (3)自变量之彰应具有一定的互斥性,即自变量之彰的相关程度不应高于自变量与因变量之因的相关程度; (4)自变量应具有完整的统计数据,其预测值容易确定。 多元性回归模型的参数估计,同一元线性回归方程一样,也是在要求误差平方和()为最小的前提下,用最小二乘法求解参数。以二线性回归模型为例,求解回归参数的标准方程组为 解此方程可求得b0,b1,b2的数值。亦可用下列矩阵法求得

SPSS多元线性回归分析报告实例操作步骤

SPSS 统计分析 多元线性回归分析方法操作与分析 实验目的: 引入1998~2008年上海市城市人口密度、城市居民人均可支配收入、五年以上平均年贷款利率和房屋空置率作为变量,来研究上海房价的变动因素。 实验变量: 以年份、商品房平均售价(元/平方米)、上海市城市人口密度(人/平方公里)、城市居民人均可支配收入(元)、五年以上平均年贷款利率(%)和房屋空置率(%)作为变量。 实验方法:多元线性回归分析法 软件:spss19.0 操作过程: 第一步:导入Excel数据文件 1.open data document——open data——open;

2. Opening excel data source——OK. 第二步: 1.在最上面菜单里面选中Analyze——Regression——Linear ,Dependent(因变量)选择商品房平均售价,Independents(自变量)选择城市人口密度、城市居民人均可支配收入、五年以上平均年贷款利率、房屋空置率;Method选择Stepwise. 进入如下界面: 2.点击右侧Statistics,勾选Regression Coefficients(回归系数)选项组中的Estimates;勾选Residuals(残差)选项组中的Durbin-Watson、

Casewise diagnostics默认;接着选择Model fit、Collinearity diagnotics;点击Continue. 3.点击右侧Plots,选择*ZPRED(标准化预测值)作为纵轴变量,选择DEPENDNT(因变量)作为横轴变量;勾选选项组中的Standardized Residual Plots(标准化残差图)中的Histogram、Normal probability plot;点击Continue.

多元回归分析法的介绍及具体应用

多元回归分析法的介绍及具体应用

————————————————————————————————作者: ————————————————————————————————日期: ?

多元回归分析法的介绍及具体应用 在数量分析中,经常会看到变量与变量之间存在着一定的联系。要了解变量之间如何发生相互影响的,就需要利用相关分析和回归分析。回归分析的主要类型:一元线性回归分析、多元线性回归分析、非线性回归分析、曲线估计、时间序列的曲线估计、含虚拟自变量的回归分析以及逻辑回归分析等。这里主要讲的是多元线性回归分析法。 1. 多元线性回归的定义 说到多元线性回归分析前,首先介绍下医院回归线性分析,一元线性回归分析是在排除其他影响因素或假定其他影响因素确定的条件下,分析某一个因素(自变量)是如何影响另一事物(因变量)的过程,所进行的分析是比较理想化的。其实,在现实社会生活中,任何一个事物(因变量)总是受到其他多种事物(多个自变量)的影响。 一元线性回归分析讨论的回归问题只涉及了一个自变量,但在实际问题中,影响因变量的因素往往有多个。例如,商品的需求除了受自身价格的影响外,还要受到消费者收入、其他商品的价格、消费者偏好等因素的影响;影响水果产量的外界因素有平均气温、平均日照时数、平均湿度等。 因此,在许多场合,仅仅考虑单个变量是不够的,还需要就一个因变量与多个自变量的联系来进行考察,才能获得比较满意的结果。这就产生了测定多因素之间相关关系的问题。 研究在线性相关条件下,两个或两个以上自变量对一个因变量的数量变化关系,称为多元线性回归分析,表现这一数量关系的数学公式,称为多元线性回归模型。 多元线性回归模型是一元线性回归模型的扩展,其基本原理与一元线性回归模型类似,只是在计算上更为复杂,一般需借助计算机来完成。 2. 多元回归线性分析的运用 具体地说,多元线性回归分析主要解决以下几方面的问题。 (1)、确定几个特定的变量之间是否存在相关关系,如果存在的话,找出它们

spss多元线性回归研究分析

spss多元线性回归分析

作者: 日期:

SPSS多元线性回归分析试验 在科学研究中,我们会发现某些指标通常受到多个因素的影响,如血压值除了受年龄影响之外,还受到性别、体重、饮食习惯、吸烟情况等因素的影响,用方程定量描述一个因变量y与多个自变量x1、x2、x3 之间的线性依存关系,称为多元线性回归。 有学者认为血清中低密度脂蛋白增高是引起动脉硬化的一个重要原因。现测量30名怀疑患有动脉硬化的就诊患者的载脂蛋白A、载脂蛋白B、载脂蛋白E、载脂蛋白C、低密度脂蛋白中的胆固醇含量。资料如下表所示。求低密度脂蛋白中的胆固醇含量对载脂蛋白A、载脂蛋白E、载脂蛋白E、载脂蛋白C的线性回归方程。 表1 30名就诊患者资料表

spss数据处理步骤: (1)打开spss输入数据后,点击“分析”—“回归”—“线性”。然后将“低密度脂蛋白”选入因变量框,将“载脂蛋白A” “载脂蛋白E” “载脂蛋白E” “载脂蛋白C”依次选入自变量框。方法选为“逐步”。 (2)单击“统计量”选项,原有选项基础上选择“R方变化”。在残差中选“Durbin-Watson”,单击“继续”。

i [粘贴(E)] i ss (印11取消i L 帮助 (3)单击“绘制”,将“DEPENDNT ”选入“X2”中,将“*SRESID ”选入“Y 中,在标准残差图选项中选择“直方图”和“正态概率图”。单击“继续”。 S3 闵蠢墨fD): 制IK DEPEHDNT T ZPRED *ZF?ESID PRESID ?ADdPRED 怡尺匚SID 怡口穆 ESILJ 呵直方便(比 “正态槪率副曰 继续 将(3),, 取卷 帮肋 銭性回归 册回归:圏 踰点1的1 厂产空所有制分團(巳 (4)单击“选项”,在原有选项的基础上单击“继续”,最后单击“确定”,就完 成了。

多元线性回归模型案例

我国农民收入影响因素的回归分析 本文力图应用适当的多元线性回归模型,对有关农民收入的历史数据和现状进行分析,探讨影响农民收入的主要因素,并在此基础上对如何增加农民收入提出相应的政策建议。?农民收入水平的度量常采用人均纯收入指标。影响农民收入增长的因素是多方面的,既有结构性矛盾因素,又有体制性障碍因素。但可以归纳为以下几个方面:一是农产品收购价格水平。二是农业剩余劳动力转移水平。三是城市化、工业化水平。四是农业产业结构状况。五是农业投入水平。考虑到复杂性和可行性,所以对农业投入与农民收入,本文暂不作讨论。因此,以全国为例,把农民收入与各影响因素关系进行线性回归分析,并建立数学模型。 一、计量经济模型分析 (一)、数据搜集 根据以上分析,我们在影响农民收入因素中引入7个解释变量。即:2x -财政用于农业的支出的比重,3x -第二、三产业从业人数占全社会从业人数的比重,4x -非农村人口比重,5x -乡村从业人员占农村人口的比重,6x -农业总产值占农林牧总产值的比重,7x -农作物播种面积,8x —农村用电量。

资料来源《中国统计年鉴2006》。 (二)、计量经济学模型建立 我们设定模型为下面所示的形式: 利用Eviews 软件进行最小二乘估计,估计结果如下表所示: DependentVariable:Y Method:LeastSquares Sample: Includedobservations:19 Variable Coefficient t-Statistic Prob. C X1 X3 X4 X5 X6 X7 X8 R-squared Meandependentvar AdjustedR-squared 表1最小二乘估计结果 回归分析报告为: () ()()()()()()()()()()()()()()() 2345678 2? -1102.373-6.6354X +18.2294X +2.4300X -16.2374X -2.1552X +0.0100X +0.0634X 375.83 3.7813 2.066618.37034 5.8941 2.77080.002330.02128 -2.933 1.7558.820900.20316 2.7550.778 4.27881 2.97930.99582i Y SE t R ===---=230.99316519 1.99327374.66 R Df DW F ====二、计量经济学检验 (一)、多重共线性的检验及修正 ①、检验多重共线性 (a)、直观法 从“表1最小二乘估计结果”中可以看出,虽然模型的整体拟合的很好,但是x4x6

多元逐步回归算法

逐步回归分析的基本思想 在实际问题中, 人们总是希望从对因变量y有影响的诸多变量中选择一些变量作为自变量, 应用多元回归分析的方法建立“最优”回归方程以便对因变量y进行预报或控制。所谓“最优”回归方程, 主要是指希望在回归方程中包含所有对因变量y影响显著的自变量而不包含对影响不显著的自变量的回归方程。逐步回归分析正是根据这种原则提出来的一种回归分析方法。它的主要思路是在考虑的全部自变量中按其对y的作用大小, 显著程度大小或者说贡献大小, 由大到小地逐个引入回归方程, 而对那些对作用不显著的变量可能始终不被引人回归方程。另外, 己被引人回归方程的变量在引入新变量后也可能失去重要性, 而需要从回归方程中剔除出去。引人一个变量或者从回归方程中剔除一个变量都称为逐步回归的一步, 每一步都要进行F检验, 以保证在引人新变量前回归方程中只含有对y 影响显著的变量, 而不显著的变量已被剔除。 逐步回归分析的实施过程是每一步都要对已引入回归方程的变量计算其偏回归平方和(即贡献), 然后选一个偏回归平方和最小的变量, 在预先给定的水平下进行显著性检验, 如果显著则该变量不必从回归方程中剔除, 这时方程中其它的几个变量也都不需要剔除(因为其它的几个变量的偏回归平方和都大于最小的一个更不需要剔除)。相反, 如果不显著, 则该变量要剔除, 然后按偏回归平方和由小到大地依次对方程中其它变量进行检验。将对影响不显著的变量全部剔除, 保留的都是显著的。接着再对未引人回归方程中的变量分别计算其偏回归平方和, 并选其中偏回归平方和最大的一个变量, 同样在给定水平下作显著性检验, 如果显著则将该变量引入回归方程, 这一过程一直继续下去, 直到在回归方程中的变量都不能剔除而又无新变量可以引入时为止, 这时逐步回归过程结束。 在供选择的m个自变量中,依各自变量对因变量作用的大小,即偏回归平方和(partial regression sum of squares)的大小,由大到小把自变量依次逐个引入。每引入一个变量,就 ≤时,将该自变量引入回归方程。新变量引入回归方程后,对方对它进行假设检验。当Pα 程中原有的自变量也要进行假设检验,并把贡献最小且退化为不显著的自变量逐个剔出方程。因此逐步回归每一步(引入一个自变量或剔除一个自变量)前后都要进行假设检验,直至既没有自变量能够进入方程,也没有自变量从方程中剔除为止。回归结束,最后所得方程即为所求得的“最优”回归方程。 逐步回归分析的特点:双向筛选,即引入有意义的变量(前进法),剔除无意义变量(后退法) 多元线性回归的应用 1.影响因素分析 2.估计与预测用回归方程进行预测时,应选择 具有较高2 R值的方程。 3.统计控制指利用回归方程进行逆估计,即通 过控制自变量的值使得因变量Y为 给定的一个确切值或者一个波动范 围。此时,要求回归方程的2R值要 大,回归系数的标准误要小。 1.样本含量 应注意样本含量n与自变量个数m的比例。通常,

多元线性回归实例分析

SPSS--回归-多元线性回归模型案例解析!(一) 多元线性回归,主要是研究一个因变量与多个自变量之间的相关关系,跟一元回归原理差不多,区别在于影响因素(自变量)更多些而已,例如:一元线性回归方程为: 毫无疑问,多元线性回归方程应该为: 上图中的x1, x2, xp分别代表“自变量”Xp截止,代表有P个自变量,如果有“N组样本,那么这个多元线性回归,将会组成一个矩阵,如下图所示: 那么,多元线性回归方程矩阵形式为: 其中:代表随机误差,其中随机误差分为:可解释的误差和不可解释的误差,随机误差必须满足以下四个条件,多元线性方程才有意义(一元线性方程也一样) 1:服成正太分布,即指:随机误差必须是服成正太分别的随机变量。 2:无偏性假设,即指:期望值为0 3:同共方差性假设,即指,所有的随机误差变量方差都相等 4:独立性假设,即指:所有的随机误差变量都相互独立,可以用协方差解释。 今天跟大家一起讨论一下,SPSS---多元线性回归的具体操作过程,下面以教程教程数据为例,分析汽车特征与汽车销售量之间的关系。通过分析汽车特征跟汽车销售量的关系,建立拟合多元线性回归模型。数据如下图所示:

点击“分析”——回归——线性——进入如下图所示的界面:

将“销售量”作为“因变量”拖入因变量框内,将“车长,车宽,耗油率,车净重等10个自变量拖入自变量框内,如上图所示,在“方法”旁边,选择“逐步”,当然,你也可以选择其它的方式,如果你选择“进入”默认的方式,在分析结果中,将会得到如下图所示的结果:(所有的自变量,都会强行进入) 如果你选择“逐步”这个方法,将会得到如下图所示的结果:(将会根据预先设定的“F统计量的概率值进行筛选,最先进入回归方程的“自变量”应该是跟“因变量”关系最为密切,贡献最大的,如下图可以看出,车的价格和车轴跟因变量关系最为密切,符合判断条件的概率值必须小于0.05,当概率值大于等于0.1时将会被剔除)

(完整word版)多元线性回归模型案例分析

多元线性回归模型案例分析 ——中国人口自然增长分析一·研究目的要求 中国从1971年开始全面开展了计划生育,使中国总和生育率很快从1970年的5.8降到1980年2.24,接近世代更替水平。此后,人口自然增长率(即人口的生育率)很大程度上与经济的发展等各方面的因素相联系,与经济生活息息相关,为了研究此后影响中国人口自然增长的主要原因,分析全国人口增长规律,与猜测中国未来的增长趋势,需要建立计量经济学模型。 影响中国人口自然增长率的因素有很多,但据分析主要因素可能有:(1)从宏观经济上看,经济整体增长是人口自然增长的基本源泉;(2)居民消费水平,它的高低可能会间接影响人口增长率。(3)文化程度,由于教育年限的高低,相应会转变人的传统观念,可能会间接影响人口自然增长率(4)人口分布,非农业与农业人口的比率也会对人口增长率有相应的影响。 二·模型设定 为了全面反映中国“人口自然增长率”的全貌,选择人口增长率作为被解释变量,以反映中国人口的增长;选择“国名收入”及“人均GDP”作为经济整体增长的代表;选择“居民消费价格指数增长率”作为居民消费水平的代表。暂不考虑文化程度及人口分布的影响。 从《中国统计年鉴》收集到以下数据(见表1): 表1 中国人口增长率及相关数据

设定的线性回归模型为: 1222334t t t t t Y X X X u ββββ=++++ 三、估计参数 利用EViews 估计模型的参数,方法是: 1、建立工作文件:启动EViews ,点击File\New\Workfile ,在对 话框“Workfile Range ”。在“Workfile frequency ”中选择“Annual ” (年度),并在“Start date ”中输入开始时间“1988”,在“end date ”中输入最后时间“2005”,点击“ok ”,出现“Workfile UNTITLED ”工作框。其中已有变量:“c ”—截距项 “resid ”—剩余项。在“Objects ”菜单中点击“New Objects”,在“New Objects”对话框中选“Group”,并在“Name for Objects”上定义文件名,点击“OK ”出现数据编辑窗口。 年份 人口自然增长率 (%。) 国民总收入(亿元) 居民消费价格指数增长 率(CPI )% 人均GDP (元) 1988 15.73 15037 18.8 1366 1989 15.04 17001 18 1519 1990 14.39 18718 3.1 1644 1991 12.98 21826 3.4 1893 1992 11.6 26937 6.4 2311 1993 11.45 35260 14.7 2998 1994 11.21 48108 24.1 4044 1995 10.55 59811 17.1 5046 1996 10.42 70142 8.3 5846 1997 10.06 78061 2.8 6420 1998 9.14 83024 -0.8 6796 1999 8.18 88479 -1.4 7159 2000 7.58 98000 0.4 7858 2001 6.95 108068 0.7 8622 2002 6.45 119096 -0.8 9398 2003 6.01 135174 1.2 10542 2004 5.87 159587 3.9 12336 2005 5.89 184089 1.8 14040 2006 5.38 213132 1.5 16024

SPSS多元回归分析报告实例

多元回归分析 在大多数的实际问题中,影响因变量的因素不是一个而是多个,我们称这类回问题为多元回归分析。可以建立因变量y与各自变量x j(j=1,2,3,…,n)之间的多元线性回归模型: 其中:b0是回归常数;b k(k=1,2,3,…,n)是回归参数;e是随机误差。 多元回归在病虫预报中的应用实例: 某地区病虫测报站用相关系数法选取了以下4个预报因子;x1为最多连续10天诱蛾量(头);x2为4月上、中旬百束小谷草把累计落卵量(块);x3为4月中旬降水量(毫米),x4为4月中旬雨日(天);预报一代粘虫幼虫发生量y(头/m2)。分级别数值列成表2-1。 预报量y:每平方米幼虫0~10头为1级,11~20头为2级,21~40头为3级,40头以上为4级。 预报因子:x1诱蛾量0~300头为l级,301~600头为2级,601~1000头为3级,1000头以上为4级;x2卵量0~150块为1级,15l~300块为2级,301~550块为3级,550块以上为4级;x3降水量0~10.0毫米为1级,10.1~13.2毫米为2级,13.3~17.0毫米为3级,17.0毫米以上为4级;x4雨日0~2天为1级,3~4天为2级,5天为3级,6天或6天以上为4级。 表2-1 x1 x2 x3 x4 y 年蛾量级别卵量级别降水量级别雨日级别幼虫密 度 级别 1960 1022 4 112 1 4.3 1 2 1 10 1 1961 300 1 440 3 0.1 1 1 1 4 1 1962 699 3 67 1 7.5 1 1 1 9 1 1963 1876 4 675 4 17.1 4 7 4 55 4 1965 43 1 80 1 1.9 1 2 1 1 1 1966 422 2 20 1 0 1 0 1 3 1 1967 806 3 510 3 11.8 2 3 2 28 3

回归分析概要(多元线性回归模型)

第二章 回归分析概要 第五节 多元线性回归分析 一 模型的建立与假定条件 在一元线性回归模型中,我们只讨论了包含一个解释变量的一元线性回归模型,也就是假定被解释变量只受一个因素的影响。但是在现实生活中,一个被解释变量往往受到多个因素的影响。例如,商品的消费需求,不但受商品本身的价格影响,还受到消费者的偏好、收入水平、替代品价格、互补品价格、对商品价格的预测以及消费者的数量等诸多因素的影响。在分析这些问题的时候,仅利用一元线性回归模型已经不能够反映各变量间的真实关系,因此,需要借助多元线性回归模型来进行量化分析。 1. 多元线性回归模型的基本概念 如果一个被解释变量(因变量)t y 有k 个解释变量(自变量)tj x ,k j ,...,3,2,1=, 同时,t y 不仅是tk x 的线性函数,而且是参数0β和k i i ,...3,2,1=,β(通常未知)的线性函数,随即误差项为t u ,那么多元线性回归模型可以表示为: ,...22110t tk k t t t u x x x y +++++=ββββ ),..,2,1(n t = 这里tk k t t t x x x y E ββββ++++=...)(22110为总体多元线性回归方程,简称总体回归方程。 其中,k 表示解释变量个数,0β称为截距项,k βββ...21是总体回归系数。k i i ,...3,2,1=,β表示在其他自变量保持不变的情况下,自变量tj X 变动一个单位所引起的因变量Y 平均变动的数量,因而也称之为偏回归系数。 当给定一个样本n t x x x y tk t t t ,...2,1),,...,,(21=时,上述模型可以表示为: ???? ??? ???????????+++++=+++++=+++++=+++++=t tk k t t t k k k k k k u x x x y u x x x y u x x x y u x x x y ββββββββββββββββ (22110333223110322222211021112211101) 此时,t y 与tj x 已知,i β与t u 未知。 其相应的矩阵表达式为:

SPSS多元线性回归分析教程.doc

线性回归分析的SPSS操作 本节内容主要介绍如何确定并建立线性回归方程。包括只有一个自变量的一元线性回归和和含有多个自变量的多元线性回归。为了确保所建立的回归方程符合线性标准,在进行回归分析之前,我们往往需要对因变量与自变量进行线性检验。也就是类似于相关分析一章中讲过的借助于散点图对变量间的关系进行粗略的线性检验,这里不再重复。另外,通过散点图还可以发现数据中的奇异值,对散点图中表示的可能的奇异值需要认真检查这一数据的合理性。 一、一元线性回归分析 1.数据 以本章第三节例3的数据为例,简单介绍利用SPSS如何进行一元线性回归分析。数据编辑窗口显示数据输入格式如下图7-8(文件7-6-1.sav): 图7-8:回归分析数据输入 2.用SPSS进行回归分析,实例操作如下: 2.1.回归方程的建立与检验 (1)操作 ①单击主菜单Analyze / Regression / Linear…,进入设置对话框如图7-9所示。从左边变量表列中把因变量y选入到因变量(Dependent)框中,把自变量x选入到自变量(Independent)框中。在方法即Method一项上请注意保持系统默认的选项Enter,选择该项表示要求系统在建立回归方程时把所选中的全部自变量都保留在方程中。所以该方法可命名为强制进入法(在多元回归分析中再具体介绍这一选项的应用)。具体如下图所示:

图7-9 线性回归分析主对话框 ②请单击Statistics…按钮,可以选择需要输出的一些统计量。如Regression Coefficients(回归系数)中的Estimates,可以输出回归系数及相关统计量,包括回归系数B、标准误、标准化回归系数BETA、T值及显著性水平等。Model fit项可输出相关系数R,测定系数R2,调整系数、估计标准误及方差分析表。上述两项为默认选项,请注意保持选中。设置如图7-10所示。设置完成后点击Continue返回主对话框。 图7-10:线性回归分析的Statistics选项图7-11:线性回归分析的Options选项 回归方程建立后,除了需要对方程的显著性进行检验外,还需要检验所建立的方程是否违反回归分析的假定,为此需进行多项残差分析。由于此部分内容较复杂而且理论性较强,所以不在此详细介绍,读者如有兴趣,可参阅有关资料。 ③用户在进行回归分析时,还可以选择是否输出方程常数。单击Options…按钮,打开它的对话框,可以看到中间有一项Include constant in equation可选项。选中该项可输出对常数的检验。在Options对话框中,还可以定义处理缺失值的方法和设置多元逐步回归中变量进入和排除方程的准则,这里我们采用系统的默认设置,如图7-11所示。设置完成后点击Continue返回主对话框。 ④在主对话框点击OK得到程序运行结果。

多元线性回归实例分析报告

SPSS--回归-多元线性回归模型案例解析!(一) 多元线性回归,主要就是研究一个因变量与多个自变量之间的相关关系,跟一元回归原理差不多,区别在于影响因素(自变量)更多些而已,例如:一元线性回归方程 为: 毫无疑问,多元线性回归方程应该 为: 上图中的 x1, x2, xp分别代表“自变量”Xp截止,代表有P个自变量,如果有“N组样本,那么这个多元线性回归,将会组成一个矩阵,如下图所示: 那么,多元线性回归方程矩阵形式为: 其中:代表随机误差, 其中随机误差分为:可解释的误差与不可解释的误差,随机误差必须满足以下四个条件,多元线性方程才有意义(一元线性方程也一样) 1:服成正太分布,即指:随机误差必须就是服成正太分别的随机变量。 2:无偏性假设,即指:期望值为0 3:同共方差性假设,即指,所有的随机误差变量方差都相等 4:独立性假设,即指:所有的随机误差变量都相互独立,可以用协方差解释。 今天跟大家一起讨论一下,SPSS---多元线性回归的具体操作过程,下面以教程教程数据为例,分析汽车特征与汽车销售量之间的关系。通过分析汽车特征跟汽车销售量的关系,建立拟合多元线性回归模型。数据如下图所示:

点击“分析”——回归——线性——进入如下图所示的界面:

将“销售量”作为“因变量”拖入因变量框内, 将“车长,车宽,耗油率,车净重等10个自变量拖入自变量框内,如上图所示,在“方法”旁边,选择“逐步”,当然,您也可以选择其它的方式,如果您选择“进入”默认的方式,在分析结果中,将会得到如下图所示的结果:(所有的自变量,都会强行进入) 如果您选择“逐步”这个方法,将会得到如下图所示的结果:(将会根据预先设定的“F统计量的概率值进行筛选,最先进入回归方程的“自变量”应该就是跟“因变量”关系最为密切,

相关文档
最新文档