数理统计-回归分析
概率论与数理统计-回归分析
第11章 回归分析设x 为普通变量，Y 为随机变量。
如果当x 变化时，Y 随着x 的变化大体上按某种趋势变化，则称x 与Y 之间存在相关关系，即),0(~,)(2σεεN x f Y +=例如，某地人均收入x 与某种商品的消费量Y 之间的关系；森林中树木的断面直径x 与高度Y 之间的关系；某种商品的价格x 与销售量Y 之间的关系；施用氮肥、磷肥、钾肥数量1x ，2x ，3x 与某种农作物产量Y 之间的关系。
在生产实践和科学研究中，常常有这样的问题：由实验或测量得到变量间的一批离散样点，要求由此建立变量之间的近似函数关系或得到样点之外的数据。
我们确定的函数要求在某种距离意义下的误差达到最小（通常用最小二乘法，即考虑使各数据点误差平方和最小）。
由一个（或几个）普通变量来估计或预测某个随机变量的取值时，所建立的数学模型及所进行的统计分析称为回归分析。
§11.1 一元线性回归假设有一批关于x 与Y 的离散样点),(,),,(),,(2211n n y x y x y x集中在一条直线附近，说明x 与Y 之间呈线性相关关系，即),0(~,2σεεN bx a Y ++=称为一元线性回归模型。
一、模型中的参数估计 1、b a ,的估计 首先引进记号∑∑∑∑∑=====-=-=-===ni i i xy ni i yy ni i xx ni ini iyx n y x S y n y S x n x S y n y x n x 11221221111按最小二乘法可得到xxxyS S b =ˆ x b y a ˆˆ-= 称x b a yˆˆˆ+=为Y 关于x 的一元线性回归方程。
2、2σ的估计)ˆ(21ˆ22xx yy S b S n --=σ求出关于的一元线性回归方程。
解：先画出散点图如下计算出 3985193282503.6714510======xy yy xx S S S y x n483.0ˆ==xxxyS S b 735.2ˆˆ-=-=x b y a所求的回归方程是x y483.0735.2ˆ+-=。
概率论与数理统计(回归分析)
调整R方值 考虑到自变量数量的R方值，用 于比较不同模型之间的拟合优度。 调整R方值越接近于1，说明模型 拟合优度越好。
残差图 通过观察残差与实际观测值之间 的关系，判断模型是否符合线性 关系、是否存在异方差性等。
05
逻辑回归分析
逻辑回归模型
01
逻辑回归模型是一种用于解决 二分类问题的统计方法，基于 逻辑函数将线性回归的预测值 转换为概率形式。
多元非线性回归模型
在多个自变量X1, X2, ..., Xp的条件下，预测因变量Y的非线性数 学模型。模型形式为Y = f(β0, β1*X1, β2*X2, ... , βp*Xp)，其
中f表示非线性函数。
多元逻辑回归模型
用于预测分类结果的多元回归模型，适用于因变量Y为二分 类或多分类的情况。
多重共线性问题
非线性回归模型是指因变量和自 变量之间的关系不是线性的，需 要通过变换或参数调整来拟合数 据。
形式
非线性回归模型通常采用指数函 数对数函数、多项式函数等形 式来表达。
适用范围
非线性回归模型适用于因变量和 自变量之间存在非线性关系的情 况，例如生物医学、经济学、社 会学等领域。
常用非线性回归模型
指数回归模型
线性回归模型假设因变量和自变 量之间存在一种线性关系，即当 一个自变量增加或减少时，因变 量也会以一种恒定的方式增加或 减少。
最小二乘法
01
02
03
最小二乘法是一种数学 优化技术，用于估计线
性回归模型的参数。
最小二乘法的目标是找 到一组参数，使得因变 量的观测值与预测值之
间的平方和最小。
最小二乘法的数学公式为： β=(XTX)^(-1)XTY，其中 X是自变量的数据矩阵，Y 是因变量的数据向量，β
概率论与数理统计第十章回归分析
第十章回归分析回归分析方法是数理统计中的常用方法之一，是处理多个变量之间相关关系的一种数学方法.第一节回归分析的概述在客观世界中变量之间的关系有两类，一类是确定性关系，例如欧姆定律中电压U 与电阻R、电流I之间的关系为U=IR，如果已知这三个变量中的任意两个，则另一个就可精确地求出.另一类是非确定性关系即所谓相关关系.例如，正常人的血压与年龄有一定的关系，一般来讲年龄大的人血压相对地高一些，但是年龄大小与血压高低之间的关系不能用一个确定的函数关系表达出来.又如施肥量与农作物产量之间的关系，树的高度与径粗之间的关系也是这样.另一方面，即便是具有确定关系的变量，由于试验误差的影响，其表现形式也具有某种程度的不确定性.具有相关关系的变量之间虽然具有某种不确定性，但通过对它们的不断观察，可以探索出它们之间的统计规律，回归分析就是研究这种统计规律的一种数学方法.它主要解决以下几方面问题.（1）从一组观察数据出发，确定这些变量之间的回归方程.（2）对回归方程进行假设检验.(3) 利用回归方程进行预测和控制.实用文档回归方程最简单的也是最完善的一种情况，就是线性回归方程.许多实际问题，当自变量局限于一定范围时，可以满意地取这种模型作为真实模型的近似，其误差从实用的观点看无关紧要.因此，本章重点讨论有关线性回归的问题.现在有许多数学软件如Matlab,SAS等都有非常有效的线性回归方面的计算程序，使用者只要把数据按程序要求输入到计算机，就可很快得到所要的各种计算结果和相应的图形，用起来十分方便.我们先考虑两个变量的情形.设随机变量y与x之间存在着某种相关关系.这里x是可以控制或可精确观察的变量，如在施肥量与产量的关系中，施肥量是能控制的，可以随意指定几个值x1,x2,…,x n,故可将它看成普通变量，称为自变量，而产量y是随机变量，无法预先作出产量是多少的准确判断，称为因变量.本章只讨论这种情况.由x可以在一定程度上决定y，但由x的值不能准确地确定y的值.为了研究它们的这种关系，我们对(x,y)进行一系列观测，得到一个容量为n的样本(x取一组不完全相同的值)：(x1,y1),(x2,y2),…,(x n,y n),其中y i是x=x i处对随机变量y观察的结果.每对(x i,y i)在直角坐标系中对应一个点，把它们都标在平面直角坐标系中，称所得到的图为散点图.如图10-1.图10-1由图10-1a可看出散点大致地围绕一条直线散布，而图10-1b中的散点大致围绕实用文档一条抛物线散布，这就是变量间统计规律性的一种表现.如果图中的点像图10-1a中那样呈直线状，则表明y与x之间有线性相关关系，我们可建立数学模型y=a+bx+ε(10.1)来描述它们之间的关系.因为x不能严格地确定y，故带有一误差项ε，假设ε~N(0,σ2),相当于对y作这样的正态假设，对于x的每一个值有y~N(a+bx,σ2),其中未知数a,b,σ2不依赖于x,(10.1)式称为一元线性回归模型(Univariable linear regression model).在(10.1)式中，a,b,σ2是待估计参数.估计它们的最基本方法是最小二乘法，这将在下节讨论.记和是用最小二乘法获得的估计，则对于给定的x，方程ˆˆˆ=+(10.2)y a bx称为y关于x的线性回归方程或回归方程，其图形称为回归直线.(10.2)式是否真正描述了变量y与x客观存在的关系，还需进一步检验.实际问题中，随机变量y有时与多个普通变量x1,x2,…,x p(p>1)有关，可类似地建立数学模型y=b0+b1x1+…+b p x p+ε, ε~N(0,σ2)，(10.3)其中b0,b1,…,b p,σ2都是与x1,x2,…,x p无关的未知参数.(10.3)式称为多元线性回归模型，和前面一个自变量的情形一样，进行n次独立观测，得样本：（x11,x12,…,x1p,y1）,…,(x n1,x n2,…,x np,y n )实用文档实用文档有了这些数据之后，我们可用最小二乘法获得未知参数的最小二乘估计，记为0,1,…,p ,得多元线性回归方程ˆy =011ˆˆˆp pb b x b x +++ (10.4)同理，(10.4)式是否真正描述了变量y 与x 1,x 2,…,x p 客观存在的关系，还需进一步检验.第二节 参数估计1.一元线性回归最小二乘法是估计未知参数的一种重要方法，现用它来求一元线性回归模型(10.1)式中a 和b 的估计.最小二乘法的基本思想是：对一组观察值(x 1,y 1),(x 2,y 2),…,(x n ,y n ),使误差εi =y i -(a +bx i )的平方和Q (a , b ) =()2211n ni i i i i y a bx ε===-+⎡⎤⎣⎦∑∑ (10.5)达到最小的a 和b 作为a 和b 的估计，称其为最小二乘估计(Least squares estimates).直观地说，平面上直线很多，选取哪一条最佳呢？很自然的一个想法是，当点(x i ,y i )，i =1,2,…,n ,与某条直线的偏差平方和比它们与任何其他直线的偏差平方和都要小时，这条直线便能最佳地反映这些点的分布状况，并且可以证明，在某些假设下，和实用文档是所有线性无偏估计中最好的.根据微分学的极值原理，可将Q (a ,b )分别对a ,b 求偏导数，并令它们等于零，得到方程组：()()1120,20.ni i i ni i ii Qy a bx a Q y a bx x b==∂⎧=---=⎪∂⎪⎨∂⎪=---=⎪∂⎩∑∑ (10.6) 即112111,.n n i i i i nn ni i i i i i i na x b y x a x b x y =====⎧⎛⎫+=⎪ ⎪⎪⎝⎭⎨⎛⎫⎛⎫⎪+= ⎪ ⎪⎪⎝⎭⎝⎭⎩∑∑∑∑∑ (10.7) (10.7)式称为正规方程组.由于x i 不全相同，正规方程组的参数行列式2122111211()ninn ni i i i nni i i ii i i nxn x x n x x xx ======⎛⎫=-=- ⎪⎝⎭∑∑∑∑∑∑≠0. 故(10.7)式有惟一解11()()ˆ,()2ˆˆˆ.ni i i nii x x y y b x x ay bx ==⎧--⎪⎪=⎪⎨-⎪⎪=-⎪⎩∑∑ (10.8) 于是，所求的线性回归方程为ˆˆˆ.ya bx =+ (10.9)实用文档若将ˆˆˆay bx =-代入上式，则线性回归方程亦可表为 ˆˆ().yy b x x =+- (10.10) (10.10)式表明，对于样本观察值(x 1,y 1),(x 2,y 2),…,(x n ,y n ),回归直线通过散点图的几何中心(,x y ).回归直线是一条过点(,x y ),斜率为ˆb的直线. 上述确定回归直线所依据的原则是使所有观测数据的偏差平方和达到最小值.按照这个原理确定回归直线的方法称为最小二乘法.“二乘”是指Q 是二乘方（平方）的和.如果y 是正态变量，也可用极大似然估计法得出相同的结果.为了计算上的方便，引入下述记号：22211122211111111(),1(),1()().n n n xx i i i i i i n n nyy i i i i i i n n n n xy i i i i i i i i i i S x x x x n S y y y y n S x x y y x y x y n ==========⎧⎛⎫=-=-⎪ ⎪⎝⎭⎪⎪⎛⎫⎪=-=-⎨ ⎪⎝⎭⎪⎪⎛⎫⎛⎫⎪=--=- ⎪⎪⎪⎝⎭⎝⎭⎩∑∑∑∑∑∑∑∑∑∑ (10.11) 这样，a ,b 的估计可写成：11ˆ,11ˆˆ.xyxx n n i ii i S b S a y x b n n ==⎧=⎪⎪⎨⎛⎫⎪=- ⎪⎪⎝⎭⎩∑∑ (10.12)例10.1 某企业生产一种毛毯，1~10月份的产量x 与生产费用支出y 的统计资料如表10-1.求y 关于x 的线性回归方程.表10-1实用文档解 为求线性回归方程，将有关计算结果列表如表10-2所示表10-2S xx =1421.89-110(117.3)2=45.961,S xy =1352.15-110×117.3×112.6=31.352, ˆb = xy xxS S =0.6821, ˆa = 112.610-0.6821×117.310=3.2585,故回归方程：ˆy=3.2585+0.6821x . 2.多元线性回归多元线性回归(Multiple linear regression)分析原理与一元线性回归分析相同，但在计算上要复杂些.若(x 11,x 12,…,x 1p ,y 1),…,(x n 1,x n 2,…,x np ,y n )为一样本，根据最小二乘法原理，多元线性实用文档回归中未知参数b 0,b 1,…,b p 应满足Q =20111()ni i p ip i y b b x b x =----∑达到最小.对Q 分别关于b 0,b 1,…,b p 求偏导数，并令它们等于零，得0111001112()0,2()0,1,2,,.ni i p ip i ni i p ip ij i jQy b b x b x b Q y b b x b x x j p b ==∂⎧=-----=⎪∂⎪⎨∂⎪=-----==⎪∂⎩∑∑即01122111120111212111111120112211111,,.n n n ni i p ip i i i i i n n n n ni i i i p i ip i i i i i i i n n n n nip i ip i ip p ip ip i i i i i i b n b x b x b x y b x b x b x x b x x x y b x b x x b x x b x x y ==============⎧++++=⎪⎪⎪++++=⎪⎨⎪⎪⎪++++=⎪⎩∑∑∑∑∑∑∑∑∑∑∑∑∑∑ (10.13) (10.13)式称为正规方程组，引入矩阵X =11121212221211,1p p n n np x x x x x x xx x ⎛⎫⎪ ⎪ ⎪ ⎪ ⎪⎝⎭Y =12,n y y y ⎛⎫⎪ ⎪ ⎪⎪⎝⎭ B =01,p b b b ⎛⎫ ⎪ ⎪ ⎪ ⎪ ⎪⎝⎭ 于是(10.13)式可写成X ′XB =X ′Y . (10.13)′（10.13）′式为正规方程组的矩阵形式.若(X ′X )-1存在,则实用文档011ˆˆˆ()ˆp b b b -⎛⎫ ⎪ ⎪'= ⎪ ⎪ ⎪⎝⎭B=X X XY. (10.14) 方程011ˆˆˆˆp py b b x b x =+++为p 元线性回归方程. 例10.2 见表10-3，某一种特定的合金铸品，x 和z 表示合金中所含的A 及B 两种元素的百分数，现x 及z 各选4种，共有4×4=16种不同组合，y 表示各种不同成分的铸品数，根据表中资料求二元线性回归方程.表10-3解 由(10.13)式，根据表中数据，得正规方程组0120120121620040560,20030005006110,405001201580.b b b b b b b b b ++=⎧⎪++=⎨⎪++=⎩ 解 之得：b 0=34.75, b 1=-1.78,b 2=9. 于是所求回归方程为：y =34.75-1.78x +9z .实用文档第三节 假设检验用最小二乘法求出的回归直线并不需要y 与x 一定具有线性相关关系.从上述求回归直线的过程看，对任何一组试验数据(x i ,y i )(i =1,2,…,n )都可用最小二乘法形式地求出一条y 关于x 的回归直线.若y 与x 间不存在某种线性相关关系，那么这种直线是没有意义的，这就需要对y 与x 的线性回归方程进行假设检验，即检验x 的变化对变量y 的影响是否显著.这个问题可利用线性相关的显著性检验来解决.因为当且仅当b ≠0时，变量y 与x 之间存在线性相关关系.因此我们需要检验假设：H 0:b =0;H 1:b ≠0 (10.15)若拒绝H 0，则认为y 与x 之间存在线性关系，所求得的线性回归方程有意义；若接受H 0,则认为y 与x 的关系不能用一元线性回归模型来表示，所求得的线性回归方程无意义.关于上述假设的检验，我们介绍3种常用的检验法.1.方差分析法（F 检验法）当x 取值x 1,x 2,…,x n 时，得y 的一组观测值y 1,y 2,…,y n ,Q 总=S yy =21()ni i y y =-∑称为y 1,y 2,…,y n 的总偏差平方和(Total sum of squares)，它的大小反映了观测值实用文档y 1,y 2,…,y n 的分散程度.对Q 总进行分析：Q 总=[]2211ˆˆ()()()n ni i i i i i y y y yy y ==-=-+-∑∑ =2211ˆ()()n niiii i y yy y ==-+-∑∑=Q 剩+Q 回, （10.16）其中Q 剩=21ˆ()ni i i y y=-∑, Q 回=2222111ˆˆˆˆˆˆ()()()().n nni i ii i i y y a bx a bx bx x ===⎡⎤-=+-+=-⎣⎦∑∑∑Q 剩称为剩余平方和(Residual sum of squares)，它反映了观测值y i 偏离回归直线的程度，这种偏离是由试验误差及其他未加控制的因素引起的.可证明2ˆ2Q n σ=-剩是σ2的无偏估计.Q 回为回归平方和(Regression sum of squares)，它反映了回归值ˆi y(i =1,2,…,n )的分散程度，它的分散性是因x 的变化而引起的.并通过x 对y 的线性影响反映出来.因此1,2,…,n 的分散性来源于x 1,x 2,…,x n 的分散性.通过对Q 剩、Q 回的分析，y 1,y 2,…,y n 的分散程度Q 总的两种影响可以从数量上区分开来.因而Q 回与Q 剩的比值反映了这种线性相关关系与随机因素对y 的影响的大小；比值越大，线性相关性越强.可证明统计量实用文档F =012~H Q Q n -真剩回F (1,n -2) (10.17)给定显著性水平α,若F ≥F α,则拒绝假设H 0，即认为在显著性水平α下，y 对x 的线性相关关系是显著的.反之，则认为y 对x 没有线性相关关系，即所求线性回归方程无实际意义.检验时，可使用方差分析表10-4.表10-4方差来源 平方和 自由度 均方 F 比回归 剩余 Q 回 Q 剩 1n -2 Q 回/1Q 剩/(n -2)F=(2)Q Q n -回剩总计 Q 总n -1其中：⎪⎩⎪⎨⎧-=-===-=∑=.,ˆ)ˆ(212222xx xy yy ni xx xy xx i S S S Q Q Q S S S b y y Q 回总剩 (10.18)例10.3 在显著性水平α=0.05,检验例10.1中的回归效果是否显著？ 解 由例10.1知S xx =45.961, S xy =31.352, S yy =22.124, Q 回=S xy 2/S xx =21.3866, Q 剩=Q 总-Q 回=22.124-21.3866=0.7374,实用文档F =2Q Q n -剩回=232.0102>F 0.05(1,8)=5.32. 故拒绝H 0，即两变量的线性相关关系是显著的.2.相关系数法（t 检验法）为了检验线性回归直线是否显著，还可用x 与y 之间的相关系数来检验.相关系数的定义是：r =xy xx yyS S S ⋅. (10.19)由于Q 回/Q 总=2xy xx yyS S S =r 2(｜r ｜≤1), ˆxy xxS b S =,则r =ˆxx xx yyS S .显然r 和ˆb的符号是一致的，它的值反映了x 和y 的内在联系. 提出检验假设： H 0: r =0; H 1: r ≠0. (10.20) 可以证明，当H 0为真时，t =221r n r-- ~t (n -2). (10.21)故H 0的拒绝域为t ≥t α/2(n -2) (10.22)由上例的数据可算出实用文档r =xx yyS S S =0.9832,t =221r n r-- =15.2319>t 0.025(8)=2.3060.故拒绝H 0，即两变量的线性相关性显著.在一元线性回归预测中，相关系数检验，F 检验法等价，在实际中只需作其中一种检验即可.与一元线性回归显著性检验原理相同，为考察多元线性回归这一假定是否符合实际观察结果，还需进行以下假设检验：H 0: b 1=b 2=…=b p =0; H 1: b i 不全为零.可以证明统计量F =01~H UQp n p --真F (p ,n -p -1).其中 U =Y ′X (X ′X )-1X ′Y -n 2ˆy, Q =Y ′Y -Y ′X (X ′X )-1X ′Y . 给定水平α，若F ≥F α，则拒绝H 0.即认为回归效果是显著的.第四节 预测与控制1.预测由于x 与y 并非确定性关系，因此对于任意给定的x =x 0，无法精确知道相应的y 0实用文档值，但可由回归方程计算出一个回归值0ˆy=ˆb +x 0,可以以一定的置信度预测对应的y 的观察值的取值范围，也即对y 0作区间估计，即对于给定的置信度1-α,求出y 0的置信区间（称为预测区间(Prediction interval)），这就是所谓的预测问题.对于给定的置信度1-α,可证明y 0的1-α预测区间为2200()1ˆˆ(2)1.xx x x y t n n S ασ⎛⎫-±-++ ⎪ ⎪⎝⎭(10.24)给定样本观察值，作出曲线22201202()1ˆˆ()()(2)1,()1ˆˆ()()(2)1.xxxxx x y x yx t n n S x x y x y x t n n S αασσ⎧-=--++⎪⎪⎨-⎪=+-++⎪⎩(10.25)这两条曲线形成包含回归直线=+x 的带形域，如图10-2所示，这一带形域在x =x 处最窄，说明越靠近，预测就越精确.而当x 0远离时，置信区域逐渐加宽，此时精度逐渐下降.在实际的回归问题中，若样本容量n 很大，在附近的x 可得到较短的预测区间，又可简化计算20()11xxx x n S -++≈1，2(2)t n α-≈2z α，图10-2故y 0的置信度为1-α的预测区间近似地等于实用文档()22ˆˆˆˆ,.y z y z αασσ-+(10.26)特别地，取1-α=0.95,y 0的置信度为0.95的预测区间为()00ˆˆˆˆ1.96, 1.96yy σσ-+ 取1-α=0.997,y 0的置信度为0.997的预测区间为()00ˆˆˆˆ2.97, 2.97yy σσ-+图10-3可以预料，在全部可能出现的y 值中，大约有99.7%的观测点落在直线L 1:y =ˆa-2.97ˆσ+ˆb x 与直线L 2:y =ˆa +2.97ˆσ+ˆb x 所夹的带形区域内.如图10-3所示. 可见，预测区间意义与置信区间的意义相似，只是后者对未知参数而言，前者是对随机变量而言.例10.4 给定α=0.05,x 0=13.5,问例10.1中生产费用将会在什么范围. 解 当x 0=13.5,y 0的预测值为：0ˆy=3.2585+0.6821×13.5=12.4674给定α=0.05,t 0.025(8)=2.306，21ˆ()0.7374ˆ28niii y yn σ=-==-∑=0.3036， 220()11(13.511.73)111045.961xx x x n S --++=++=1.0808,故实用文档220()1ˆ(2)1xxx x t n n S ασ--++=2.306×0.3036×1.0808=0.7567.即y 0将以95%的概率落在(12.4674±0.7567)区间，即预报生产费用在(11.7107,13.2241)万元之间.2.控制控制实际上是预测的反问题，即要求观察值y 在一定范围内y1<y <y 2内取值，应考虑把自变量x 控制在什么范围，即对于给定的置信度1-α,求出相应的x 1,x 2,使x 1<x <x 2时，x 所对应的观察值y 落在(y 1′,y 2′)之内的概率不小于1-α.当n 很大时，从方程222212ˆˆˆˆˆ,ˆˆˆˆˆ.y y z a bx z y y z a bx z αααασσσσ⎧=-=+-⎪⎨=+=++⎪⎩ (10.27) 分别解出x 来作为控制x 的上、下限：221122ˆˆˆ(),ˆˆˆ().x y a z b x y a z bαασσ⎧=-+⎪⎨=--⎪⎩ (10.28)当ˆb>0时，控制区间为(x 1,x 2)；当ˆb <0时，控制区间为（x 2,x 1）.如图10-4,图10-4注意，为了实现控制，我们必须使区间(y 1,y 2)的长度不小于22z ασ,即：实用文档y 2-y 1>2σ2z α.第五节 非线性回归的线性化处理前面讨论了线性回归问题，对线性情形我们有了一整套的理论与方法.在实际中常会遇见更为复杂的非线性回归问题，此时一般是采用变量代换法将非线性模型线性化，再按照线性回归方法进行处理.举例如下：模型 y =a +b sin t +ε, ε~N (0,σ2), (10.29) 其中a ,b ,σ2为与t 无关的未知参数，只要令x =sin t ,即可将(10.29)化为(10.1).模型 y =a +bt +ct 2+ε, ε~N (0,σ2)， (10.30) 其中a ,b ,c ,σ2为与t 无关的未知参数.令x 1=t ,x 2=t 2,得y =a +bx 1+cx 2+ε, ε~N (0,σ2)， (10.31)它为多元线性回归的情形.模型1y=a +b /x +ε， ε~N (0,σ2), 令y ′=1y , x ′=1x,则有 y ′=a +bx ′+ε,ε~N (0,σ2), 化为(10.1)式.模型 y =a +b ln x +ε, ε~N (0,σ2),令x ′=ln x ,则有 y =a +bx ′+ε,ε~N (0,σ2), 又可化为(10.1)式.另外，还有下述模型Q(y)=a+bx+ε, ε~N(0,σ2),其中Q为已知函数，且设Q(y)存在单值的反函数，a,b,σ2为与x无关的未知参数.这时，令z=Q（y）,得z=a+bx+ε, ε~N(0,σ2).在求得z的回归方程和预测区间后，再按z=Q(y)的逆变换，变回原变量y.我们就分别称它们为关于y的回归方程和预测区间.此时y的回归方程的图形是曲线，故又称为曲线回归方程.例10.5某钢厂出钢时所用的盛钢水的钢包，由于钢水对耐火材料的侵蚀，容积不断扩大.通过试验，得到了使用次数x和钢包增大的容积y之间的17组数据如表10-5，求使用次数x与增大容积y的回归方程.表10-5实用文档解散点图如图10-5.看起来y与x呈倒指数关系ln y=a+b1x +ε，记y′=ln y,1xx'=,求出x′,y′的值（表10-6）.表10-6作(x′,y′)的散点图，如图10-6.实用文档实用文档图10-5 图10-6可见各点基本上在一直线上，故可设y ′=a +bx ′+ε,ε~(0,σ2)，经计算，得x '=0.1464, y '=2.2963，21()nii x ='∑=0.5902,21()nii y ='∑=89.9311,1niii x y =''∑=5.4627.ˆb=-1.1183, ˆa =2.4600. 于是x ′对于y ′的线性回归方程为y ′=-1.1183x ′+2.4600，换回原变量得1.1183ˆ11.7046xy-=e .现对x ′与y ′的线性相关关系的显著性用F 检验法进行检验，得F (1，15)=379.3115>F 0.01(1，15)=8.68.实用文档检验结论表明，此线性回归方程的效果是显著的.小 结本章介绍了在实际中应用非常广泛的数理统计方法之一——回归分析，并对线性回归作了参数估计、相关性检验、预测与控制及非线性回归的线性化处理.1. 一元线性回归模型y =a +bx +ε的最小二乘估计为ˆˆˆ,xy xxS ba y xb S ==-. 其中 11n i i x x n ==∑, 11ni i y y n ==∑, S xx =221ni i y ny =-∑,S xy =1ni i i x y nxy =-∑, S yy =221ni i y ny =-∑.2. 变量y 与x 的线性相关性假设检验有： (1) 方差分析法（F 检验法）H 0: b =0; H 1: b ≠0. F =02~H Q Q n -真剩回F α(1,n -2).其中Q 回=S xy 2/S xx , Q 剩=Q 总-Q 回=S yy -S xy 2/S xx .给定显著性水平α，若F ≥F α，则拒绝H 0,即认为y 对x 具有线性相关关系.(2) 相关系数法（t 检验法）实用文档H 0: r =0; H 1: r ≠0.其中r =xx yyS S S , t =0222(2)1~H r n tn rα---真.若t ≥2(2)t n α-则拒绝H 0.即认为两变量的线性相关性显著.3. 给定x =x 0时，y 的置信水平为1-α的预测区间2200()1ˆˆˆ(2)1xxx x abx t n n S ασ⎛⎫-+±-++ ⎪ ⎪⎝⎭. 重要术语及主题线性回归，最小二乘估计，预测与控制，非线性回归.习 题 十1.在硝酸钠(NaNO 3)的溶解度试验中，测得在不同温度x (℃)下，溶解于100份水中的硝酸钠份数y 的数据如下，试求y 关于x 的线性回归方程.x i 0 4 10 15 21 29 36 51 68 y i66.7 71.0 76.3 80.6 85.7 92.9 99.4 113.6 125.12.测量了9对父子的身高，所得数据如下（单位：英寸）. 父亲身高x i 60 62 64 66 67 68 70 72 74 儿子身高y i63.6 65.2 66 66.9 67.1 67.4 68.3 70.1 70求（1） 儿子身高y 关于父亲身高x 的回归方程.（2）取α=0.05，检验儿子的身高y与父亲身高x之间的线性相关关系是否显著.（3）若父亲身高70英寸，求其儿子的身高的置信度为95%的预测区间.3.随机抽取了10个家庭，调查了他们的家庭月收入x（单位：百元）和月支出y(单位：百元)，记录于下表：求：（1）在直角坐标系下作x与y的散点图，判断y与x是否存在线性关系.（2）求y与x的一元线性回归方程.（3）对所得的回归方程作显著性检验.（α=0.025）4.设y为树干的体积，x1为离地面一定高度的树干直径，x2为树干高度，一共测量了31棵树，数据列于下表，作出y对x1,x2的二元线性回归方程，以便能用简单分法从x1和x2估计一棵树的体积，进而估计一片森林的木材储量.实用文档5.一家从事市场研究的公司，希望能预测每日出版的报纸在各种不同居民区内的周末发行量，两个独立变量，即总零售额和人口密度被选作自变量.由n=25个居民区组成的随机样本所给出的结果列表如下，求日报周末发行量y关于总零售额x1和人口密度x2的线性回归方程.实用文档实用文档实用文档6.一种合金在某种添加剂的不同浓度之下，各做3次试验，得数据如下：(1) 作散点图.(2) 以模型y =b 0+b 1x 1+b 2x 2+ε,ε~N (0,σ2)拟合数据，其中b 0,b 1,b 2,σ2与x 无关，求回归方程ˆy =0ˆb +1ˆb x +2ˆb x 2.。
《数理统计》第五章回归分析
随机性的一种“趋势”。即对自变量x的同一值， 在不同的观测中，因变量Y可以取不同的值，而 且取值是随机的，但对应x在一定范围的不同值， 对Y进行观测时，可以观察到Y随x的变化而呈现 有一定趋势的变化。
如：身高与体重，不存在这样的函数可以由
身高计算出体重，但从统计意义上来说，身高者，
体也重。
再如：父亲的身高与儿子的身高之间也有一
在误差为正态分布假定下，最小二乘估计等价于 极大似然估计。
事实上，似然函数
La,b 1
22
n 2exp 12i n1yiabxi2
n
对 La,b最 大 化 等 价 于 对 yi abxi2 i1
最 小 化 ， 即 最 小 二 乘 估 计 。
10
a ,b 的 最 小 二 乘 估 计 ： a ˆ y x b ˆ ,b ˆ S x y /S x x .
定联系，通常父亲高，儿子也高。
回归分析——研究相关性关系的最基本，应用最
广泛的方法。
3
（一）一元线性回归
设 随 机 变 量 Y与 x之 间 存 在 某 种 相 关 关 系 。 这 里 ， x是 可 以 控 制 或 精 确 观 测 的 变 量 （ 不 是 随 机 变 量 ） ， 如 年 龄 、 试 验 时 的 温 度 、 施 加 的 压 力 、 电 压 与 时 间 等 。
4
在实际问题中，回归函数μ(x)一般是未知的， 需要根据试验数据去估计。
对 于 x取 定 一 组 不 完 全 相 同 的 值 x1,x2,...,xn,设 分 别 在 xi处 对 Y作 独 立 观 察 得 到 样 本 (xi,Yi)， i1,2,...,n, 对 应 的 样 本 观 察 值 (x1,y1),(x2,y2),...,(xn,yn).
数理统计CH回归分析课件
2024/10/4
21
回归最小二乘估计
(2)最小二乘思想
n
n
| i |
2 i
i 1
i 1
残差计算：
yi a bxi i
i yi a bxi
➢用残差(误差)平 方和代表试验点与 回归直线旳总距离
2024/10/4
➢回归方程旳最小二乘
估计可归结为求解下
面旳优化模型：
n
Min a,b
n i 1
yi
a
bxi
2
n i 1
b
yi a bxi
2
n
2 yi a bxi xi i 1
2024/10/4
24
回归最小二乘估计
(3)回归最小二乘估计
x
1 n
n i 1
xi
y
1 n
n i 1
yi
Q 0 a aˆ,b bˆ a
n
即 2 yi aˆ bˆxi 0 i 1
2024/10/4
40
回归明显性检验
(3)模型和假设
线性回归模型 线性有关假设
➢由线性回归模型可推论：
E yi E a bxi i a bxi
Var yi Var a bxi i Var i 2
2024/10/4
10
7.2 一元线性回归
(1)案例和问题
x称作自变量 y称作响应变量
案例：某特种钢抗拉强度试 抗拉强度试验成果 验，控制某稀有金属含量x
x(%) y(MPa) 测得不同抗拉强度y，试验
2.07 128 成果如表所示。
3.10 194 4.14 273 5.17 372 6.20 454
yi
数理统计第一次大作业——回归分析
北京市农业经济总产值的逐步回归分析姓名：学号：摘要：农业生产和农村经济是国民经济的基础，影响农村经济总产值的因素有多种，主要包括农林牧渔业。
本文以北京市农业生产和农村经济总产值为对象，首先分析了各种因素的线性相关性，建立回归模型，再利用逐步回归法进行回归分析，得到最符合实际情况的回归模型。
以SPSS 17.0为分析工具，给出了实验结果，并用预测值验证了结论的正确性。
关键词：农业生产和农村经济，线性回归模型，逐步回归分析，SPSS1.引言农林牧渔业统计范围包括辖区内全部农林牧渔业生产单位、非农行业单位附属的农林牧渔业生产活动单位以及农户的农业生产活动。
军委系统的农林牧渔业生产（除军马外）也应包括在内，但不包括农业科学试验机构进行的农业生产。
在近几年中国经济快速增长的带动下，各地区农林牧渔业也得到了突飞猛进的发展。
以北京地区为例，2005年的农业总产值为1993年的6倍。
因此用统计方法研究分析农业总产值对指导国民经济生产，合理有效的进行产业布局，提高生产力等有着重要意义。
表1 北京市农业经济产值及各产品产量统计数据本文以北京市农生产为对象，分析了农业经济总产值与粮食产量、棉花产量、油料产量、蔬菜产量、干鲜果品产量、猪牛羊肉产量、禽蛋产量、水产品产量的关系，并建立农业经济总产值的回归模型。
表1中列出了1999年至2008年间的统计数据（数据来源于北京统计信息网）。
2.线性回归模型的建立2.1 线性回归模型的假设为了研究农业经济总产值与各种农生产量的关系，必须要建立二者之间的数学模型。
数学模型可以有多种形式，比如线性模型，二次模型，指数模型，对数模型等等。
而实际生活中，影响农业经济总产值的因素很多，并且这些因素的影响不能简单的用某一种模型来描述，所以要建立农业经济总产值的数学模型往往是很难的。
但是为了便于研究，我们可以先假定一些前提条件，然后在这些条件下得到简化后的近似模型。
以下我们假定两个前提条件：1) 农产品的价格是不变的。
数理统计中的回归分析与方差分析
数理统计中的回归分析与方差分析回归分析是数理统计中常用的一种分析方法，旨在研究两个或多个变量之间的关系，并通过建立回归模型来预测或解释因变量的值。
方差分析则是一种用于比较两个或多个样本均值之间差异的统计方法。
本文将详细介绍回归分析和方差分析的原理和应用。
一、回归分析回归分析是研究自变量与因变量之间的关系的统计方法。
在回归分析中，我们通常通过建立回归模型来描述自变量与因变量之间的线性关系。
回归模型可以用以下一般形式表示：Y = β0 + β1X1 + β2X2 + ... + βnXn + ε其中，Y表示因变量，X1、X2、...、Xn表示自变量，β0、β1、β2、...、βn表示回归系数，ε表示误差项。
回归分析可以分为简单线性回归和多元线性回归两种类型。
简单线性回归是指只有一个自变量的情况，多元线性回归是指有两个或多个自变量的情况。
回归分析的应用十分广泛。
例如，在经济学领域，回归分析可以用来研究GDP与消费水平之间的关系；在医学研究中，回归分析可以用来预测某种疾病的发生率与患者年龄的相关性。
通过回归分析，我们可以得到回归系数的估计值，并检验各个回归系数是否显著。
二、方差分析方差分析是一种用于比较两个或多个样本均值之间差异的统计方法。
方差分析的基本思想是将总体方差分解为组间方差和组内方差两部分，通过检验组间方差和组内方差的比值来确定多个样本均值是否有显著差异。
在方差分析中，我们通常将数据分为一个因变量和一个或多个自变量。
其中，因变量是我们希望比较的量，自变量则是影响因变量的因素。
方差分析可以用于不同条件下的均值比较，例如，不同药物对治疗效果的比较、不同肥料对农作物产量的影响等。
方差分析可以分为单因素方差分析和多因素方差分析。
单因素方差分析是指只有一个自变量的情况，多因素方差分析是指有两个或多个自变量的情况。
方差分析的结果通常可以通过F检验来判断是否存在显著差异。
如果F值大于临界值，就说明组间存在显著差异。
第四章回归分析-数理统计汇总
而且b偏离0越远,即b的绝对值越大,F也越大. • 相关性检验的一般程序: (1)计算SR,SE,再计算F; (2)对于给定的显著性水平α,查Fα(1,n-2); (3)若F> Fα(1,n-2),则否定H0:b=0,即认为x与Y之间具 有线性相关关系;否则,就认为x与Y之间不具有线性 相关关系.
试作出期末分数与期中分数的回归方程.并作线 性相关性检验.
• 解:为了简化计算,令
x x 400, y y 480,得
编号 1 2 3 4 5 6 7 合计
x -40 -80 0 -28 -100 115 205 72 y -50 -39 2 -100 -27 33 130 -51 xy 2000 3120 0 2800 2700 3795 26650 41065
7
xt)(
t 1
yt)
41589.571
bˆ Sxy 0.57 Sxx
aˆ y bˆx 13.12
§1.2 经验公式与最小二乘法
• 设给定n个点 (x1,y1),(x2,y2),……,(xn,yn)
那么对于平面上任意一条直线l： y=a+bx
• 我们用数量 [yt-(a+bxt)]2
来刻画点(xt,yt)到直线l的远近程度(利用解析几何知 识不难看出,｜yt-(a+bxt)｜的几何意义是点(xt,yt)沿着 平行于y轴的方向到l的最短距离,而不是沿着垂直于l 的方向到l的最短距离).
计算得:
7
(xt)2 74034
t 1
7
( yt)2 32743
t 1
Sxx
S xx
7 t 1
( xt ) 2
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
国家财政收入的逐步回归分析应用数理统计课程论文2012届材料科学与工程学院学号姓名2012年11月18日摘要财政作为一国政府的活动，是政府职能的具体体现，主要有资源配置、收入再分配和宏观经济调控三大职能。
财政收入是政府部门公共收入，是国民收入分配中用于保证政府行使其公共职能，实施公共政策以及提供公共服务的资金需求。
财政收入的增长状况关系着一个国家经济的发展和社会的进步。
本文选取了我国自1979至2010年间的财政收入数据，并选取了7个可能的影响因素，利用SPSS 统计软件，运用多元线性回归的逐步回归方法建立了国家财政收入的回归模型。
得出了影响国家财政收入的显著性变量，并将所得到的模型给予了合理的经济解释。
关键词：财政收入 SPSS 回归分析目录1.引言 (1)1.1 理论回归方程 (1)1.2研究意义 (1)1.3 研究内容及方法 (1)2.数据统计 (2)2.1 数据的收集 (2)2.2 散点图 (3)2.3 逐步回归分析 (4)3. 结论和讨论 (8)3.1 结论 (8)3.2 讨论 (8)参考文献 (9)1.引言1.1 理论回归方程Y=β0+β1X1+β2X2+……+βp X p +εE (ε) =0, Var (ε) =σ2式中，β0，β1，β2，……βp，σ2是与X1，X2，……X p无关的未知参数ε是不可观测的随机变量。
1.2研究意义财政收入，是指政府为履行其职能、实施公共政策和提供公共物品与服务需要而筹集的一切资金的总和。
财政收入表现为政府部门在一定时期内（一般为一个财政年度）所取得的货币收入。
财政收入是衡量一国政府财力的重要指标，政府在社会经济活动中提供公共物品和服务的范围和数量，在很大程度上决定于财政收入的充裕状况。
财政收入对国民经济的运行及社会发展具有重要影响。
1.3 研究内容及方法影响财政收入的因素有很多，如工业总产值、农业总产值、建筑业总产值、社会消费品零售总额等。
如何找到影响财政总收入的各个因素，并建立它们与财政收入的数学模型是十分必要的。
基于此目的，本文从国家统计信息网上选取了1997-2010年间的年度财政收入及主要影响因素的数据，包括工业总产值、农业总产值、建筑业总产值、社会消费品零售总额等，并进一步采用多元逐步回归分析方法对以上因素进行了显著性分析，从而确定了关于财政收入的最优多元线型回归方程。
2.数据统计2.1 数据的收集本文在进行统计时，查阅《中国统计年鉴2011》中收录的1997年至2010年连续14年的全国财政收入数据，同时，选取了7个可能对国家财政收入产生影响因素，初步选取了这14年的工业总产值、农业总产值、建筑业总产值、社会消费品零售总额、卫生总费用、外汇储备、人口总数为自变量，分析它们与国家财政收入数据之间的联系。
根据选择的指标，从《中国统计年鉴201》查选数据，如表2-1。
表2-1 1997—2010我国财政收入及其影响因素的统计数据年份（年）财政收入（亿元）工业总产值（亿元）农业总产值（亿元）建筑业总产值（亿元）社会消费品零售总额（亿元）卫生总费用（亿元）外汇储备(亿美元）人口数目（百万人）-- Y X1X2X3X4X5X6X7 1997 8651.14 52921.4 14441.9 9126.48 31252.9 3196.71 1398.90 1223.89 1998 9875.95 67737.14 14817.6 10061.99 33378.1 3678.72 1449.59 1276.27 1999 11444.08 72707.04 14770.0 11152.86 35647.9 4047.50 1546.75 1236.26 2000 13395.23 85673.66 14944.7 12497.60 39105.7 4586.63 1655.74 1284.53 2001 16386.04 95448.98 15781.3 15361.56 43055.4 5025.93 2121.65 1247.61 2002 18903.64 110776.48 16537.0 18527.18 48135.9 5790.03 2864.07 1257.86 2003 21715.25 142271.22 17381.7 23083.87 52516.3 6584.10 4032.51 1292.27 2004 26396.47 201722.19 21412.7 29021.45 59501 7590.29 6099.32 1299.88 2005 31649.29 251619.50 23070.4 34552.10 67177 8659.91 8188.72 1307.56 2006 38760.20 316588.96 24737.0 41557.16 76410 9843.34 10663.40 1314.48 2007 51321.78 405177.13 24658.1 51043.71 89210 11573.97 15282.49 1321.29 2008 61330.35 507284.89 28044.2 62036.81 114830.1 14535.40 19460.30 1328.02 2009 68518.30 548311.42 30777.5 76807.74 132678.4 17541.90 23991.52 1334.50 2010 83101.51 698590.54 36941.1 96031.13 156998.4 --- 28473.38 1340.912.2 散点图将各个因素（自变量）分别与财政收入（因变量）绘制散点图，如下图所示。
散点图有助于判断所选的影响因素与国家财政收入的数据之间是否在存在一定的线性关系，达到初步筛选自变量的目的。
020000400006000080000100000010000200003000040000农业总产值（亿元）财政收入（亿元）图2-1 财政收入与农业总产值的关系01000020000300004000050000600007000080000900000200000400000600000800000工业总产值（亿元）财政收入（亿元）图2-2 财政收入与工业总产值的关系图2-3 财政收入与建筑业总产值的关系100002000030000400005000060000700008000090000020000400006000080000100000120000建筑业总产值（亿元）财政收入（亿元）0200004000060000800001000005000100001500020000卫生总费用（亿元）财政收入（亿元）图2-4 财政收入与卫生总费用的关系 图2-5 财政收入与社会消费品零售总额关系图2-6 财政收入与外汇储备的关系 图2-7 财政收入与人口数目的关系从上列图中可以看出，财政收入与人口总数不存在线性关系，应予以剔除，而其他因素与财政收入存在良好的线性关系。
2.3 逐步回归分析将自变量X 1，X 2，X 3，X 4，X 5，X 6作为待筛选量，使用专业统计分析软件IBM020000400006000080000100000050000100000150000200000社会消费品零售总额（亿元）财政收入（亿元）020000400006000080000100000财政收入（亿元）120012201240126012801300132013401360人口数目（百万人）财政收入（亿元）SPSS Statistics 19作为逐步回归计算工具，αin=0.05，αout=0.1。
其分析结果如下表所示。
表2-2 输入/移去的变量模型输入的变量移去的变量方法1 工业总产值. 步进（准则: F-to-enter 的概率<= .050，F-to-remove 的概率>= .100）。
2 社会消费品零售总额.步进（准则: F-to-enter 的概率<= .050，F-to-remove 的概率>= .100）。
3 外汇储备.步进（准则: F-to-enter 的概率<= .050，F-to-remove 的概注：a. 因变量: 财政收入表2-2中显示了回归方程引入自变量的步骤及标准。
系统在进行回归过程中产生了3个回归模型，模型1是按照Option对话框确定的标准概率值，先将与财政收入（Y）线性关系最密切的自变量工业生产总值（X1）引入模型，建立Y与X1的一元线性回归模型，而后再逐步引入变量X4、X6，分别建立模型2、3。
表2-3模型汇总模型R R 方调整R 方标准估计的误差1 .994a.989 .988 1494.494002 .998b.995 .994 1046.310233 .999c.998 .997 737.26590注：a. 预测变量: (常量), 工业总产值。
b. 预测变量: (常量), 工业总产值, 社会消费品零售总额。
c. 预测变量: (常量), 工业总产值, 社会消费品零售总额, 外汇储备。
从表中可以看出随着变量X1、X4、X6、的逐个引入，模型的复相关系数(R)逐渐最大，估计值的标准误差逐渐减小。
表2-4 方差分析模型平方和df 均方 F Sig.1 回归 1.781E9 1 1.781E9 797.402 .000a 残差20101610.737 9 2233512.304总计 1.801E9 102 回归 1.792E9 2 8.962E8 818.600 .000b 残差8758120.781 8 1094765.098总计 1.801E9 103 回归 1.797E9 3 5.991E8 1102.178 .000c 残差3804927.001 7 543561.000总计 1.801E9 10注：a. 预测变量: (常量), 工业总产值。
b. 预测变量: (常量), 工业总产值, 社会消费品零售总额。
c. 预测变量: (常量), 工业总产值, 社会消费品零售总额, 外汇储备。
d. 因变量: 财政收入从表2-4中可以看出，当各个自变量引入时，Sig.=0.000，说明自变量对回归方程的影响均较显著，但模型3的回归方差与总方差相差最小。
模型非标准化系数标准系数t Sig.B 标准误差试用版1(常量) 3742.108 805.349 4.647 .001 工业总产值.115 .004 .994 28.238 .0002(常量) -6821.251 3329.712 -2.049 .075 工业总产值.049 .021 .425 2.378 .045 社会消费品零售总额.408 .127 .575 3.219 .0123(常量) -8807.695 2436.763 -3.615 .009 工业总产值-.064 .040 -.554 -1.593 .155 社会消费品零售总额.601 .110 .847 5.472 .001 外汇储备 2.080 .689 .713 3.019 .019 注：a. 因变量: 财政收入从表2-5中可以得出，线性回归方程为：Y= -8807.695 - 0.064X1 + 0.601X4 + 2.08X6表2-6 已排除的变量模型Beta In t Sig. 偏相关共线性统计量容差1农业总产值-.156a-1.187 .269 -.387 .069 建筑业总产值.597a 1.847 .102 .547 .009 社会消费品零售总额.575a 3.219 .012 .751 .019 卫生总费用.420a 2.367 .045 .642 .026 外汇储备-.039a-.093 .928 -.033 .0082农业总产值-.257b-6.629 .000 -.929 .064 建筑业总产值-.831b-1.468 .185 -.485 .002 卫生总费用-1.277b-2.208 .063 -.641 .001 外汇储备.713b 3.019 .019 .752 .005续表2-6 已排除的变量3农业总产值-.211c-4.480 .004 -.877 .037 建筑业总产值-.946c-3.719 .010 -.835 .002 卫生总费用-.455c-.630 .552 -.249 .001注：a. 模型中的预测变量: (常量), 工业总产值。