3统计回归模型
统计回归模型
y的90.54%可由模型确定 p远小于=0.05
2的置信区间包含零点
F远超过F检验的临界值 模型从整体上看成立 x2对因变量y 的 影响不太显著
(右端点距零点很近)
x22项显著
可将x2保留在模型中
ˆ ˆ x ˆ x ˆ x2 销售量预测 y ˆ 0 1 1 2 2 3 2
上限用作库存管理的目标值 下限用来把握公司的现金流
若估计x3=3.9,设定x4=3.7,则可以95%的把握 知道销售额在 7.83203.7 29(百万元)以上
模型改进
x1和x2对y 的影响独立 x1和x2对y 的影响有 交互作用
y 0 1 x1 2 x2 x
输出 b~的估计值
bint~b的置信区间
r ~残差向量y-xb
rint~r的置信区间 置信区间 [5.7282 28.9206] [0.6829 1.9311 ] [-7.4989 0.1077 ] [0.0379 0.6594 ] p<0.0001 s2=0.0490
alpha(置信水平,0.05) 参数估计值 0 17.3244 1 1.3070 2 -3.6956 3 0.3486 R2=0.9054 F=82.9409 参数
y 10
9.5 9 8.5 8 7.5 7 5 5.5 6 6.5 7
x1
y~被解释变量(因变量) x1, x2~解释变量(回归变量, 自变量)
0, 1 , 2 , 3 ~回归系数 ~随机误差(均值为零的
正态分布随机变量)
2 y 0 1 x2 2 x2
7.5 x 2
第十章
统计回归模型
10.1 牙膏的销售量
10.2 软件开发人员的薪金
统计建模-回归分析
多元线性回归模型形式
多元线性回归模型0 + beta_1X_1 + beta_2X_2 + ldots +
beta_pX_p + epsilon$
解释变量与被解释变量
02
$X_1, X_2, ldots, X_p$ 为解释变量,$Y$ 为被解释变量
在所有无偏估计量中,OLS估计量的方差最 小
模型假设检验与诊断
模型的显著性检验
模型的诊断
使用F检验对模型的显著性进行检验, 判断模型中是否至少有一个解释变量 对被解释变量有显著影响
通过残差图、QQ图等方法对模型的 拟合效果进行诊断,检查模型是否满 足线性、同方差等假设
回归系数的显著性检验
使用t检验对每个回归系数的显著性进 行检验,判断每个解释变量是否对被 解释变量有显著影响
5. 预测与结果分析
利用拟合好的模型进行未来一个月的销售额预测,并对 预测结果进行分析和解读。
06
总结回顾与拓展延伸
本次课程重点内容总结
回归模型的基本原理
通过最小二乘法等优化算法,拟合自变 量和因变量之间的线性或非线性关系。
模型的评估与选择
通过比较不同模型的预测精度、解释 性、稳定性等指标,选择最优模型。
医学领域
研究药物剂量与疗效之间的非线性关系,为合理 用药提供依据。
金融领域
分析股票价格与市场指数之间的非线性关系,预 测市场走势及风险。
环境科学
探讨污染物浓度与环境因素之间的非线性关系, 为环境保护和治理提供决策支持。
04
回归模型诊断与优化策 略
残差分析及其意义
残差定义
实际观测值与回归模型预测值之间的差异。
线性统计模型知识点总结
线性统计模型知识点总结一、线性回归模型1. 线性回归模型的基本思想线性回归模型是一种用于建立自变量和因变量之间线性关系的统计模型。
它的基本思想是假设自变量与因变量之间存在线性关系,通过对数据进行拟合和预测,以找到最佳拟合直线来描述这种关系。
2. 线性回归模型的假设线性回归模型有一些假设条件,包括:自变量与因变量之间存在线性关系、误差项服从正态分布、误差项的方差是常数、自变量之间不存在多重共线性等。
3. 线性回归模型的公式线性回归模型可以用如下的数学公式来表示:Y = β0 + β1X1 + β2X2 + ... + βnXn + ε,其中Y 是因变量,X是自变量,β是模型的系数,ε是误差项。
4. 线性回归模型的参数估计线性回归模型的参数估计通常使用最小二乘法来进行。
最小二乘法的目标是通过最小化残差平方和来寻找到最佳的模型系数。
5. 线性回归模型的模型评估线性回归模型的好坏可以通过很多指标来进行评价,如R-squared(R^2)、调整后的R-squared、残差标准差、F统计量等。
6. 线性回归模型的应用线性回归模型广泛应用于经济学、金融学、市场营销、社会科学等领域,用以解释变量之间的关系并进行预测。
二、一般线性模型(GLM)1. 一般线性模型的基本概念一般线性模型是一种用于探索因变量与自变量之间关系的统计模型。
它是线性回归模型的一种推广形式,可以处理更为复杂的数据情况。
2. 一般线性模型的模型构建一般线性模型与线性回归模型相似,只是在因变量和自变量之间的联系上,进行了更为灵活的变化。
除了线性模型,一般线性模型还可以包括对数线性模型、逻辑斯蒂回归模型等。
3. 一般线性模型的假设一般线性模型与线性回归模型一样,也有一些假设条件需要满足,如误差项的正态分布、误差项方差的齐性等。
4. 一般线性模型的模型评估一般线性模型的模型评估通常涉及到对应的似然函数、AIC、BIC、残差分析等指标。
5. 一般线性模型的应用一般线性模型可以应用于各种不同的领域,包括医学、生物学、社会科学等,用以研究因变量与自变量之间的关系。
第2章3一元线性回归模型的统计检验
Std. Error t-Statistic
98.40598 -1.048429 0.042485 18.28900
Mean dependent var S.D. dependent var Akaike info criterion Schwarz criterion F-statistic Prob(F-statistic)
2、变量的显著性检验
我们先来构造用于变量显著性检验的检验统计量。 (补充)
对于一元线性回归方程,我们已经知道
ˆ1 ~ N(1,
2
)
xi2
另外,可以证明(参见周纪芗《回归分析》P14):
(1) (2)
ei2 ~ 2 n 2
2
ˆ1与 ei2独立
于是,可以构造如下统计量:
ˆ1 1
t
2
R2越接近1,说明实际观测点离样本回归线越 近,拟合优度越高。
在实际计算可决系数时,在 ˆ1 已经估计出后:
R2
yˆi2 yi2
ˆ12
xi2 yi2
在例2.2.1(P34-35)的可支配收入-消费支出例子中,
R2 ˆ12
xi2 yi2
(0.777)2 7425000 0.9766 4590020
• 换句话说,一个几乎不可能发生的小概率事 件(“检验统计量的样本值落入拒绝域”) 在一次试验中就发生了,这违背了小概率事 件原理,也就意味着导致了一个不合理的结 果。
显著性检验的步骤: (★)
(1)提出原假设H0和备择假设H1; (2)计算检验统计量的样本值; (3)确定临界值和拒绝域; (4)下结论。
Std. Error t-Statistic
Prob.1.3495Fra bibliotek8 0.217507
回归模型在统计分析中的应用
回归模型在统计分析中的应用摘要在人们研究对象的内在特性和个因素间的关系时,通常会建立数学模型。
在无法分析实际对象内在的因果关系时,往往会基于对数据的统计分析去建立模型。
回归分析作为统计数据寻求变量间关系的近似表达式的一种方法,其广泛用途使得回归模型成为了数据统计分析中的一种常见模型。
本论文分别从数学模型,回归分析,统计分析等的基本概念出发,进一步阐述了数学建模的基本方法和一般步骤,回归分析的基本模型、步骤和分类,以及统计分析的步骤。
最后借用MATLAB软件,以一个关于人们对某种品牌食品的评价的实例,用合理的步骤详细描述了在解决回归模型在统计分析中的应用的问题中该如何具体去做。
关键词:数学模型;统计分析;回归分析;回归模型;MATLAB软件APPLICATION OF REGRESSION MODEL INSTATISTICAL ANALYSISABSTRACTIn the process of researching the relationship between the inner characteristics and factors of the object,people usually build mathematical model. In the case of the inner causality that people can not analyse of actual object,we often to build model based on statistical analysis of data. As a method for seeking a approximate expressions of the statistical data,the wide applications of regression analysis made regression model become a common model in statistical analysis of data.This paper starts from the the basic concept such as the mathematicalmodel,regression analysis and statistical analysis.Then further elaborated the basic methods and general steps of mathematical modeling, the basic model, steps and classification of regression analysis, and the steps of statistical analysis. Finally, applying MATLAB software,using reasonable steps to describe how to solve the problem that the application of regression models in statistical analysis in detail,by using a example about people's evaluation towards a certain brand of food.Key words: mathematical model; statistical analysis; regression analysis;regression model; MATLAB software目录1 问题的提出-------------------------------------------------------- 12 数学模型与数学建模------------------------------------------------ 22.1 基本概念---------------------------------------------------- 22.2 数学建模的基本方法------------------------------------------ 22.2 数学建模的一般步骤------------------------------------------ 23 回归分析与回归模型------------------------------------------------ 43.1 基本概念---------------------------------------------------- 43.2 刻画回归模型------------------------------------------------ 43.3 回归分析的步骤---------------------------------------------- 43.4 回归分析的分类---------------------------------------------- 54 统计分析---------------------------------------------------------- 64.1 基本概念---------------------------------------------------- 64.2 统计分析的步骤---------------------------------------------- 65 一个线性回归模型实例---------------------------------------------- 75.1 问题的提出-------------------------------------------------- 75.2 分析与假设-------------------------------------------------- 75.3 模型建立---------------------------------------------------- 85.4 模型求解---------------------------------------------------- 85.5 结果分析---------------------------------------------------- 85.5.1 输出数据结果------------------------------------------- 95.5.2 模型检验----------------------------------------------- 95.5.3 解决提出的三个问题------------------------------------- 96 结论------------------------------------------------------------- 14 参考文献----------------------------------------------------------- 15附录--------------------------------------------------------------- 161 问题的提出当人们在研究对象的内在特性和各因素间的关系时,通常会寻求变量间的一个具体表达式,采用机理分析方法建立数学模型。
应用统计学多重线性回归模型
2020年8月3日星期一
重庆交通大学管理学院
08:19:10
残差分析
❖ 残差种类 非标准化残差(原始残差) 标准化残差(Pearson残差) 学生化残差 剔除残差 学生化剔除残差
2020年8月3日星期一
重庆交通大学管理学院
08:19:10
残差分析
❖ 模型适用条件的检验-因变量与自变量之间存在线性 关系的检验(以例1为例:年龄)
初步分析: 与简单线性回归相类似,先绘制散点图,以便在进行回 归分析之前了解各变量之间是否存在线性关系。本例有 两个自变量与一个反应变量,绘制散点图矩阵,如下。
2020年8月3日星期一
重庆交通大学管理学院
08:19:08
简单分析实例-初步分析
❖ 绘制散点图矩阵
2020年8月3日星期一
重庆交通大学管理学院
模型的进一步诊断与修正
❖ 多重共线性的识别
多重共线性:是指自变量间存在相关关系,即一个自变量可以用其他 一个或几个自变量的线性表达式进行表示。有以下表现形式:
整个模型的方差分析结果为P<,但各自变量的偏回归系数的统计学 结果却为P> ;
专业上认为应该有统计学意义的自变量检验结果却无统计学意义; 自变量的偏回归系数取值大小甚至符号明显与实际情况违背,难以 解释; 增加或删除一条记录或一个自变量,偏回归系数发生很大变化。
2020年8月3日星期一
重庆交通大学管理学院
08:19:11
残差分析
❖ 模型适用条件的检验-方差齐性的检验
2020年8月3日星期一
重庆交通大学管理学院
08:19:11
残差分析
❖ 模型适用条件的检验-正态性的检验
2020年8月3日星期一
统计回归模型
问题一:是有关牙膏的销售量问题。
问题二:软件开发人员的薪金问题。
一、问题的提出问题一一家技术公司人事部门为研究软件开发人员的薪金与他们的资历、管理责任、教育程度等因素之间的关系,要建立一个数学模型,以便分析公司人事策略的合理性,并作为新聘用人员薪金的参考。
他们认为目前公司人员的薪金总体上是合理的,可以作为建模的依据,于是调查来46名软件开发人员的档案资料,如表4,其中资历一列指从事专业工作的年数,管理一列中1表示管理人员,0表示非管理人员,教育一列中1表示中学程度,2表示大学分析与假设按照常识,薪金自然随着资历的增长而增加,管理人员的薪金应高于非管理人员,教育程度越高薪金也越高。
薪金记作y,资历记作x1,为了表示是否管理人员,定义:21 0,x⎧=⎨⎩,管理人员非管理人员为了表示3种教育程度,定义:31,0,x ⎧⎨⎩中学其它 41,0,x ⎧⎨⎩大学其它这样,中学用x3=1,x4=0表示,大学用x3=0,x4=1表示,研究生则用x3=0,x4=0表示。
为简单起见,我们假定资历对薪金的作用是线性的,即资历每加一年,薪金的增长是常数;管理责任、教育程度、资历诸因素之间没有交互作用,建立线性回归模型。
基本模型 薪金y 与资历x1,管理责任x2,教育程度x3,x4之间的多元线性回归模型为011223344y a a x a x a x a x ε=+++++ (1)其中014,,a a a …,是待估计的回归系数,ε是随机误差。
利用MA TLAB 的统计工具箱可以得到回归系数及其置信区间(置信水平a=0.05)、检验统计量R 2,F ,p 结果,见表5.结果分析 从表5,R 2=0.957,即因变量(薪金)的95.7%可由模型确定,F 值远远超过F 检验的临界值,p 远小于a ,因而模型(1)从整体来看是可用的。
比如,利用模型可以估计(或预测)一个大学毕业、有2年资历、管理人员的薪金为01234ˆ*2*0*0*112273ya a a a a =++++= 模型中各个回归系数的含义可初步解释如下:x1的系数为546,说明资历每增加1年,薪金增长546;x2的系数为6883,说明管理人员的薪金比非管理人员多6883;x3的系数为-2994,说明中学程度的薪金比研究生少2994;x4的系数为148,说明大学程度的薪金比研究生多148,但是应该注意到4a 的置信区间包含零点,所以这个系数的解释是不可靠的。
回归分析模型课件
4.1.一元线性回归模型
在一元回归分析里,我们要考察的是随机变
量 Y 与非随机变量 x 之间的相互关系。虽然x
例4.2 某厂生产的一种商品的销售量y与竞争对手的 价格x1和本厂的价格x2有关,其销售记录见下表。 试建立y与x1,x2的关系式,并对得到的模型和系数 进行检验。(多元线性回归)
销售量与价格统计表
序号 1
2
3
4
5
6
7
8
9
10
x1 120 140 190 130 155 175 125 145 180 150
2)ˆe
i1
1
n
n
x2 ] (xi x )2
i1
参数 1的置信水平为 1 的置信区间为
[ˆ1 t1 2
(n 2)ˆe
n
, ˆ1 t1
(xi x )2
2
i 1
(n 2)ˆe ]
n
(xi x )2
i 1
参数 2的置信水平为 1 的置信区间为
n
n
( yi yˆi )2
( yi yˆi )2
kk
[ yˆ ˆ
1
i0
j0
cij
xi
x
j
t1 2
(n
k
1),
kk
yˆ ˆ
1
i0
j
0
cij
xi
x
j
t1 2
(n
k
第八章统计回归模型
第八章--统计回归模型第八章 统计回归模型回归分析是研究一个变量Y 与其它若干变量X 之间相关关系的一种数学工具.它是在一组试验或观测数据的基础上,寻找被随机性掩盖了的变量之间的依存关系.粗略的讲,可以理解为用一种确定的函数关系去近似代替比较复杂的相关关系.这个函数称为回归函数.回归分析所研究的主要问题是如何利用变量X 、Y 的观察值(样本),对回归函数进行统计推断,包括对它进行估计及检验与它有关的假设等.回归分析包含的内容广泛.此处将讨论多项式回归、多元线性回归、非线性回归以及逐步回归.一、多项式回归(1) 一元多项式回归一元多项式回归模型的一般形式为εβββ++++=m m x x y ...10.如果从数据的散点图上发现y 与x 呈现较明显的二次(或高次)函数关系,则可以选用一元多项式回归.1. 用函数polyfit 估计模型参数,其具体调用格式如下:p=polyfit(x,y,m) p 返回多项式系数的估计值;m 设定多项式的最高次数;x ,y 为对应数据点值.[p,S]=polyfit(x,y,m) S是一个矩阵,用来估计预测误差.2. 输出预估值与残差的计算用函数polyval实现,其具体调用格式如下:Y=polyval(p,X) 求polyfit所得的回归多项式在X处的预测值Y.[Y,DELTA]=polyval(p,X,S) p,S为polyfit的输出,DELTA为误差估计.在线性回归模型中,Y±DELTA以50%的概率包含函数在X处的真值.3. 模型预测的置信区间用polyconf实现,其具体调用格式如下:[Y,DELTA]=polyconf(p,X,S,alpha) 求polyfit所得的回归多项式在X处的预测值Y及预测值的显著性为1-alpha的置信区间Y±DELTA,alpha缺省时为0.05.4. 交互式画图工具polytool,其具体调用格式如下:polytool(x,y,m);polytool(x,y,m,alpha);用m次多项式拟合x,y的值,默认值为1,alpha 为显著性水平,默认值为0.05.例1 观测物体降落的距离s与时间t的关系,得到数据如下表,求s . t (s) 1/30 2/30 3/30 4/30 5/30 6/30 7/30 s(cm) 11.86 15.67 20.60 26.69 33.71 41.93 51.13t (s) 8/30 9/3010/30 11/30 12/30 13/30 14/30 s(cm) 61.49 72.90 85.44 99.08 113.77 129.54 146.48解 根据数据的散点图,应拟合为一条二次曲线.选用二次模型,具体代码如下:%%%输入数据t=1/30:1/30:14/30;s=[11.86 15.67 20.60 26.69 33.71 41.93 51.13 61.49 72.90 85.44 99.08 113.77 129.54 146.48];%%%多项式系数拟合[p,S]=polyfit(t,s,2);则得回归模型为:1329.98896.652946.489ˆ2++=t t s . %%%y 的拟合值及预测值y 的置信半径delta [y,dalta]=polyconf(p,t,S); 得结果如下:y=Columns 1 through 1111.8729 15.7002 20.6148 26.6168 33.7060 41.8826 51.1465 61.4978 72.9363 85.4622 99.0754Columns 12 through 14113.7759 129.5637 146.4389dalta=Columns 1 through 110.0937 0.0865 0.0829 0.0816 0.0817 0.0823 0.0827 0.0827 0.0823 0.0817 0.0816Columns 12 through 140.0829 0.0865 0.0937%%%交互式画图polytool(t,s,2);polytool所得的交互式图形如图8-1所示.图8-1(2) 多元二项式回归多元二项式回归模型的一般形式为εββββ∑≤≤+++++=m k j k j jk m m x x x x y ,1110....多元二项式回归命令:rstool(x,y,’model’,alpha) x 表示n ⨯m 矩阵;y 表示n 维列向量;alpha 为显著性水平(缺省时为0.05);model 表示由下列4个模型中选择1个(用字符串输入,缺省时为线性模型):linear(线性):mm x x y βββ+++= 110;purequadratic(纯二次):∑=++++=nj jjj m m x x x y 12110ββββ ; interaction(交叉):∑≤≠≤++++=m k j k j jk m m x x x x y 1110ββββ ; quadratic(完全二次):∑≤≤++++=m k j k j jk m m x x x x y ,1110ββββ .例2 设某商品的需求量与消费者的平均收入、商品价格的统计数据如下,建立回归模型,预测平均收入为1000、价格为6时的商品需求量. 需求量100 75 80 70 50 65 90 100 11060 收入 1000 600 1200 500 300 400 1300 1100 1300 30价格 5 7 6 6 8 7 5 4 3 9解 选择纯二次模型,即2222211122110x x x x y βββββ++++=. %%%输入数据 x1=[1000 600 1200 500 300 400 1300 1100 1300 300];x2=[5 7 6 6 8 7 5 4 3 9];x=[x1' x2'];y=[100 75 80 70 50 65 90 100 110 60]';%%%多元二项式回归rstool(x,y,'purequadratic');得如下结果:图8-2得到一个如图所示的交互式画面,左边是x1(=1000)固定时的曲线y (x1)及其置信区间,右边是x2(=6)固定时的曲线y (x2)及其置信区间.用鼠标移动图中的十字线,或在图下方窗口内输入,可改变x1,x2.在左边图形下方的方框中输入1000,右边图形下方的方框中输入6,则画面左边的“Predicted Y1”下方的数据变为88.4791,即预测出平均收入为1000、价格为6时的商品需求量为88.4791.在画面左下方单击”Export ”,在出现的窗体中单击”ok ”按钮,则beta 、rmse 和residuals 都传送到Matlab 工作区中.在Matlab 工作区中输入命令:beta,rmse ,得结果: beta=110.5313 0.1464 -26.5709 -0.00011.8475rmse =4.5362故回归模型为:2221218475.10001.05709.261464.05313.110x x x x y +--+=,剩余标准差为4.5362,说明此回归模型的显著性较好.二、多元线性回归多元线性回归模型的一般形式为011...m m y x x βββε=++++. 在Matlab 统计工具箱中使用函数regress 实现多元线性回归.具体调用格式为:b=regress(Y,X) [b,bint,r,rint,stats]=regress(Y,X,alpha)其中⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=n Y Y Y Y ...21,⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=nm n n m m x x x x x x x x x X ...1..................1...1212222111211.对于一元线性回归,取1=m 即可.b 为输出向量;b ,bint 表示回归系数估计值和它们的置信区间;r 表示残差;rint 表示残差的置信区间;stats 表示用于检验回归模型的统计量,有四个数值:相关系数2R 、F 值、与F 值对应的概率P 、2s 的值.相关系数2R 越接近1,说明回归方程越显著;)1,(1-->-m n m F F α时拒绝0H ,F 越大,说明回归方程越显著;与F 对应的概率α<P 时拒绝0H ,回归模型成立;alpha表示显著性水平(缺省时为0.05).残差及其置信区间可以用命令rcoplot(r,rint)画出. 例3 已知某湖泊八年来湖水中COD 浓度实测值(y )与影响因素,如湖区工业产值(x 1)、总人口数(x 2)、捕鱼量(x 3)、降水量(x 4)的资料,建立y 的水质分析模型.湖水浓度与影响因素数据表 x 11.376 1.375 1.387 1.401 1.412 1.428 1.445 1.477 x 20.450 0.475 0.485 0.500 0.535 0.545 0.550 0.575 x 32.170 2.554 2.676 2.713 2.8233.088 3.122 3.262x40.89221.1610.53460.95891.02391.04991.10651.1387y 5.19 5.30 5.60 5.82 6.00 6.06 6.45 6.95 解作出因变量y与各自变量的样本散点图作散点图的目的主要是观察因变量y与各自变量间是否有比较好的线性关系,以便选择恰当的数学模型形式.图8-3、图8-4、图8-5、图8-6分别为y与x1、x2、x3、x4的散点图.从图中可以看出这些点大致分布在一条直线旁边,因此有较好的线性关系,可以采用线性回归.图8-3 y与x1的散点图图8-4 y与x2的散点图图8-5 y与x3的散点图图8-6 y与x4的散点图在Matlab中实现回归的具体代码如下:%%%输入数据x1=[1.376 1.375 1.387 1.401 1.412 1.428 1.445 1.477];x2=[0.450 0.475 0.485 0.500 0.535 0.545 0.550 0.575];x3=[2.170 2.554 2.676 2.713 2.823 3.088 3.122 3.262];x4=[0.8922 1.1610 0.5346 0.9589 1.0239 1.04991.1065 1.1387];x=[ones(8,1) x1' x2' x3' x4'];y=[5.19 5.30 5.60 5.82 6.00 6.06 6.45 6.95];%%%多元线性回归[b,bint,r,rint,stats]=regress(y',x);得如下结果:b =-13.984913.19202.42280.0754-0.1897bint =-26.0019 -1.96791.4130 24.9711-14.2808 19.1264-1.4859 1.6366-0.9638 0.5844r =-0.06180.02280.01230.0890 0.0431 -0.1473 0.0145 0.0274 rint =-0.1130 -0.0107 -0.1641 0.2098 -0.1051 0.1297 -0.2542 0.4321 -0.0292 0.1153 -0.2860 -0.0085 -0.3478 0.3769 -0.1938 0.2486 stats =0.9846 47.9654 0.0047 0.0123 故回归模型为:43211897.00754.04228.21920.139849.13x x x x y -+++-=,此外,由stats 的值可知9846.02=R,9654.47=F ,0047.0=P 。
2.3 回归模型的统计检验
在应用中我们会发现,如果在模型中增加一个解 释变量,模型的解释功能增强了,判定系数 计 算公式中的分子—回归平方和就会增大,因而 2 就增大。这就给人一种错觉:似乎要使模型拟合 R 的更好,就必须增加解释变量。但是,在样本容 量一定的情况下,增加解释变量必定使的自由度 减少。所以,用于检验拟合优度的统计量必须能 够防止这种倾向,我们可用自由度来调整 , 用 来表示调整后的判定系数,以剔除解释变 R2 量的数目与样本容量的影响,使具有不同样本容 2 R 量和解释变量数目的回归方程可以进行拟合优度 的比较。
ˆ ˆ ˆ ˆ = b0 ∑ei + b1 ∑ x1i ei + b2 ∑ x2i ei + ...... + bk ∑ xki ei = 0
且 故
∑ yei = y ∑ei = 0
ˆ ∑( yi − y)2 = ∑( yi − y)2 + ∑ei
ESS + RSS 残差平方和
2
(2-6)
上式记成 TSS = 总平方和
ES S (k − 1) F= = RSS (n − k )
不全为0 不全为
(Yi − Y ) 2 /( k − 1) ∑ ˆ ~ F ( k − 1, n − k ) 2 ∑ (Y − Yˆ ) /(n − k )
i i
给定显著性水平
分布表中自由度为 α ,查F分布表中自由度为 k-1
和 n-k 的临界值 Fα (k − 1, n − k ) ,并通过样本观测 值计算F值 值计算 值
一、模型的拟合优度检验
所谓拟合优度,即模型对样本数据的近似程度。 由于实际观察得到的样本数据是对客观事实的 一种真实反映,因此,模型至少应该能较好的 描述这一部分客观实际情况。为了考察模型的 拟合优度,需要构造一个指标——判定系数 (可决系数)。 认识判定系数之前让我们回顾一下关于样本与 总体回归函数,了解总离差分解。
