非线性回归定稿
非线性回归实例

非线性回归实例例3.5.1 建立中国城镇居民食品消费需求函数模型。
根据需求理论,居民对食品的消费需求函数大致为),,(01P P X f Q = (3.5.13)其中,Q 为居民对食品的需求量,X 为消费者的消费支出总额、1P 为食品价格指数,0P 为居民消费价格总指数。
引入居民消费价格总指数0P 的原因,主要在于研究居民其他消费对食品的替代性。
需求理论同时指出,上述需求函数应具有零阶齐次性,即当所有商品和消费者货币支出总额按同一比例变动时,需求量保持不变,这就是所谓的消费者无货币幻觉。
按照需求函数的这一特征,(3.5.13)式可写为 )/,/(010P P P X f Q = (3.5.14) (3.5.14)式表明,居民对食品的消费需求,取决于居民的实际消费总支出0/P X 以及食品的相对价格01/P P 。
显然,该式具有零阶齐次性。
为了进行比较,我们将同时估计(3.5.13)式与(3.5.14)式。
首先确定具体的函数形式。
根据恩格尔定律,随着居民消费支出的增加,居民对食品的消费支出也增加,但食品消费支出比例会逐渐下降。
因此,居民对食品的消费支出与居民的总支出间呈幂函数的变化关系。
同时,为了方便考察需求的价格弹性等相关问题,将(3.5.13)式具体写为32101βββP P AX Q = (3.5.15)经对数变换,(3.5.15)式可用如下双对数线性回归模型进行估计:μββββ++++=031210ln ln ln )ln(P P X Q (3.5.16) 式中,A ln 0=β。
同样地,(3.5.14)式可用如下线性回归模型进行估计: μβββ+++=)/ln()/ln()ln(012010P P P X Q (3.5.17)采用双对数线性回归模型,能够方便地考察需求函数中零阶齐次性的特征。
显然,对(3.5.16)式施加0321=++βββ的约束,即可化为(3.5.17)式。
因此,对(3.5.17)式进行回归,就意味着原需求函数满足零阶齐次性条件。
非线性回归分析常见模型

非线性回归常见模型一.基本内容模型一xc e c y 21=,其中21,c c 为常数.将xc ec y 21=两边取对数,得x c c e c y xc 211ln )ln(ln 2+==,令21,ln ,ln c b c a y z ===,从而得到z 与x 的线性经验回归方程a bx z +=,用公式求即可,这样就建立了y 与x 非线性经验回归方程.模型二221c x c y +=,其中21,c c 为常数.令a c b c x t ===212,,,则变换后得到y 与t 的线性经验回归方程a bt y +=,用公式求即可,这样就建立了y 与x 非线性经验回归方程.模型三21c x c y +=,其中21,c c 为常数.a cbc x t ===21,,,则变换后得到y 与t 的线性经验回归方程a bt y +=,用公式求即可,这样就建立了y 与x 非线性经验回归方程.模型四反比例函数模型:1y a b x=+令xt 1=,则变换后得到y 与t 的线性经验回归方程a bt y +=,用公式求即可,这样就建立了y 与x 非线性经验回归方程.模型五三角函数模型:sin y a b x=+令x t sin =,则变换后得到y 与t 的线性经验回归方程a bt y +=,用公式求即可,这样就建立了y 与x 非线性经验回归方程.二.例题分析例1.用模型e kx y a =拟合一组数据组()(),1,2,,7i i x y i =⋅⋅⋅,其中1277x x x ++⋅⋅⋅+=;设ln z y =,得变换后的线性回归方程为ˆ4zx =+,则127y y y ⋅⋅⋅=()A.70e B.70C.35e D.35【解析】因为1277x x x ++⋅⋅⋅+=,所以1x =,45z x =+=,即()127127ln ...ln ln ...ln 577y y y y y y +++==,所以35127e y y y ⋅⋅⋅=.故选:C例2.一只红铃虫产卵数y 和温度x 有关,现测得一组数据()(),1,2,,10i i x y i =⋅⋅⋅,可用模型21e c x y c =拟合,设ln z y =,其变换后的线性回归方程为4zbx =- ,若1210300x x x ++⋅⋅⋅+=,501210e y y y ⋅⋅⋅=,e 为自然常数,则12c c =________.【解析】21e c x y c =经过ln z y =变换后,得到21ln ln z y c x c ==+,根据题意1ln 4c =-,故41e c -=,又1210300x x x ++⋅⋅⋅+=,故30x =,5012101210e ln ln ln 50y y y y y y ⋅⋅⋅=⇒++⋅⋅⋅+=,故5z =,于是回归方程为4zbx =- 一定经过(30,5),故ˆ3045b -=,解得ˆ0.3b =,即20.3c =,于是12c c =40.3e -.故答案为:40.3e -.该景点为了预测2023年的旅游人数,建立了模型①:由最小二乘法公式求得的数据如下表所示,并根据数据绘制了如图所示的散点图.。
第五章-非线性回归

第五章 非线性回归5.1 估计5.1.1 极值估计1.基本设定经典非线性回归的基准模型设定如下:(5-1)其中,来表示样本和参数的函数。
此处所谓的非线性是指是参数的非线性函数,而不是指样本本身是非线性的形式。
对应的,矩阵表示如下:(5-2)不妨定义的参数空间为,K为参数的个数。
为了估计参数,通常需要设定某个随机目标函数,则最小化目标函数的解称为参数的极值估计量。
可知,LS估计、ML估计和GMM估计都属于极值估计。
在证明极值估计量的性质之前,先做如下假定。
假定5-1:且。
假定5-2:对某一定义在上的非随机函数,有成立。
假定5-3:为紧集;连续;且在上唯一最小化。
为了避免误解,此处引入来表示参数的真值。
假定5-3在很多时候也称为可识别条件。
如果函数可导,则假定5-3对应目标函数一阶条件的唯一解为,或者说,为总体矩条件的唯一解。
2.一致性如果假定5-1至5-3成立,则有。
证明:由假定5-3可知,对任意的,存在使得对任意的都有;其中为的邻域。
证明完毕。
5.1.2LS估计1. 估计非线性模型的LS估计也称为NLS估计。
同样的,由LS估计的思想可知,NLS估计的最优化目标函数可设定如下:(5-3)上式对求一阶导,可得:其中,,。
令一阶导为0,可解得:(5-4)为了验证式(5-4)的解为最优解,还需要验证目标函数的二阶导。
式(5-3)对求二阶导,可得:(5-5)注意到,当时,由外生性假定可知,上式中等式右边大括号内的第二项收敛于0,则上式可渐近等价于:(5-6)所以,式(5-6)的NLS估计为目标函数的最优解。
另外,与线性回归一样,此时方程的回归标准误可计算如下:(5-7)其中,为回归残差。
2.拟合程度在非线性回归中,回归方程估计的残差平方和不再一定小于总变差,因此,定义的可决系数不再处于之间。
通常认为此时R2不能反映回归方程的拟合程度。
注意到,此时R2的取值范围为;而当R2小于0时,意味NLS估计得到的残差平方和比Y对常数回归的残差平方和还要大,因此,我们可以认为此时的模型设定肯定不是一个好模型。
非线性回归实验报告参考模板

《数学软件》实验报告
班级:09数学0班学号:2009720020姓名朱学超
实验日期:2010.11.06实验地点:实验楼 505
实验名称:曲线拟合与插值使用软件名称:MATLAB
实
验
目
的
.熟练掌握多项式拟合与插值的计算方法
实
验
内
容
1.多项式拟合
2.残差平方和的计算
R =0.2523
教
师
评
语
成绩
友情提示:范文可能无法思考和涵盖全面,供参考!最好找专业人士起草或审核后使用,感谢您的下载!
1.对以下数据作出散点图,然后用多项式拟合:(0.5,1.75),(1,2.75),(1.5,3.81),(2,4.8),(2.5,7),(3,8.6)
2.某种合金中的主要成分为A,B两种金属,经过试验发现:这两种金属成分之和x与合金的膨胀系数y有如下关系,建立描述这种关系的数学表达式.
x
37
37.5
38
38.5
39
39.5
40
40.5
41
41.5
42
42.5
y
3.4
3
3Hale Waihona Puke 2.272.11.83
1.53
1.7
1.8
1.9
2.35
2.54
实
验
程
序
(命令)
1.x = [0.5,1.0,1.5,2.0,2.5,3.0];
y = [1.75,2.45,3.81,4.80,7.00,8.60]; plot(x,y)
p=polyfit(x,y,1)
2.x=37:0.5:43;
非线性回归分析(常见曲线与方程)

非线性回归分析回归分析中,当研究的因果关系只涉及因变量和一个自变量时,叫做一元回归分析;当研究的因果关系涉及因变量和两个或两个以上自变量时,叫做多元回归分析。
此外,回归分析中,又依据描述自变量与因变量之间因果关系的函数表达式是线性的还是非线性的,分为线性回归分析和非线性回归分析。
通常线性回归分析法是最基本的分析方法,遇到非线性回归问题可以借助数学手段化为线性回归问题处理两个现象变量之间的相关关系并非线性关系,而呈现某种非线性的曲线关系,如:双曲线、二次曲线、三次曲线、幂函数曲线、指数函数曲线(Gompertz)、S型曲线(Logistic)对数曲线、指数曲线等,以这些变量之间的曲线相关关系,拟合相应的回归曲线,建立非线性回归方程,进行回归分析称为非线性回归分析常见非线性规划曲线1.双曲线1b a yx2.二次曲线3.三次曲线4.幂函数曲线5.指数函数曲线(Gompertz)6.倒指数曲线y=ab/xe其中a>0,7.S型曲线(Logistic) y1 abex8.对数曲线y=a+blogx,x>0bx9.指数曲线y=ae其中参数a>01.回归:(1)确定回归系数的命令[beta,r,J]=nlinfit(x,y,’model’,beta0)(2)非线性回归命令:nlintool(x,y,’model’,beta0,alpha)2.预测和预测误差估计:[Y,DELTA]=nlpredci(’model’,x,beta,r,J)求nlinfit或lintool所得的回归函数在x处的预测值Y及预测值的显著性水平为1-alpha的置信区间Y,DELTA.例2观测物体降落的距离s与时间t的关系,得到数据如下表,求s关于t的回归方程s?a btct2.t(s)1/302/303/304/305/306/307/30s(cm)11.8615.6720.6026.6933.7141.9351.13t(s)8/309/3010/3011/3012/3013/3014/30s(cm)61.4972.9085.4499.08113.77129.54146.48解:b/x,建立M文件volum.m如下:e1.对将要拟合的非线性模型y=afunctionyhat=volum(beta,x)yhat=beta(1)*exp(beta(2)./x);2.输入数据:x=2:16;y=[6.428.209.589.59.7109.939.9910.4910.5910.6010.8010.6010.9010.76];beta0=[82]';3.求回归系数:[beta,r,J]=nlinfit(x',y','volum',beta0);beta2.y11.6036ex即得回归模型为:4.预测及作图:[YY,delta]=nlpredci('volum',x',beta,r,J);plot(x,y,'k+',x,YY,'r')2.非线性函数的线性化曲线方程曲线图形变换公式变换后的线性函数b y=ax c=lnavlnx=u=ylnu=cbvbx y=ae c=alnu=ylnu=cbvc=alny=a1bvxxeu=ylnu=cbvy=abxvlnxln==u=abvuy。
8 非线性回归(1)

Regres sion Res idual Total
Coefficients Standardi zed Coefficie nts Beta .996
Model 1
(Cons tant) T
Uns tandardized Coefficients B Std. Error 8.190 .043 .176 .004
ˆ y
4296.35 5123.04 6108.80 7284.24 8685.86 10357.16 12350.06 14726.42 17560.04 20938.89 24967.89 29772.14 35500.81 42331.77 50477.13 60189.80 71771.35 85581.38
i
交叉乘积项表示 x1 与 x2 的交互作用。
二、一个应用例子 例8.2 表8.5列出的数据是关于18个35岁~44岁经理的: 前两年平均年收入 x1(千美元) 风险反感度 x2 人寿保险额 y(千美元) 风险反感度是根据发给每个经理的标准调查表估算得到的; 它的数值越大,风险反感就越厉害。
Байду номын сангаас
研究人员想研究给定年龄组内的经理年平均收入,风 险反感度和人寿保险的关系。研究者预计,在经理的收入 和人寿保险额之间成立着二次关系,并有把握认为风险反 感度对人寿保险额只有线性效应,而没有二次效应。但是, 研究者对两个自变量是否对人寿保险额有交互效应,心中 没底。因此,研究者拟合了一个二阶多项式回归模型
11xi
2+β
111xi
3+ε
i
称为一元三次多项式模型。
称回归模型 yi=β 0+β 1xi1+β 2xi2+β 11 x i21 +β 22 x i22 +β 12xi1xi2+ε 为二元二阶多项式回归模型。 它的回归系数中分别含有两个自变量的线性项系数β 1 和β 2, 二次项系数β
非线性回归分析(教案)
1.3非线性回归问题,知识目标:通过典型案例的探究,进一步学习非线性回归模型的回归分析。
能力目标:会将非线性回归模型通过降次和换元的方法转化成线性化回归模型。
情感目标:体会数学知识变化无穷的魅力。
教学要求:通过典型案例的探究,进一步了解回归分析的基本思想、方法及初步应用.教学重点:通过探究使学生体会有些非线性模型通过变换可以转化为线性回归模型,了解在解决实际问题的过程中寻找更好的模型的方法.教学难点:了解常用函数的图象特点,选择不同的模型建模,并通过比较相关指数对不同的模型进行比较. 教学方式:合作探究 教学过程:一、复习准备:对于非线性回归问题,并且没有给出经验公式,这时我们可以画出已知数据的散点图,把它与必修模块《数学1》中学过的各种函数(幂函数、指数函数、对数函数等)的图象作比较,挑选一种跟这些散点拟合得最好的函数,然后采用适当的变量代换,把问题转化为线性回归问题,使其得到解决. 二、讲授新课:1. 探究非线性回归方程的确定:1. 给出例1:一只红铃虫的产卵数y 和温度x 有关,现收集了7组观测数据列于下表中,试建立y 与x 之间的/y 个2. 讨论:观察右图中的散点图,发现样本点并没有分布在某个带状区域内,即两个变量不呈线性相关关系,所以不能直接用线性回归方程来建立两个变量之间的关系.① 如果散点图中的点分布在一个直线状带形区域,可以选线性回归模型来建模;如果散点图中的点分布在一个曲线状带形区域,就需选择非线性回归模型来建模.② 根据已有的函数知识,可以发现样本点分布在某一条指数函数曲线y =2C 1e x C 的周围(其中12,c c 是待定的参数),故可用指数函数模型来拟合这两个变量.③ 在上式两边取对数,得21ln ln y c x c =+,再令ln z y=,则21ln z c x c =+,可以用线性回归方程来拟合.④ 利用计算器算得 3.843,0.272ab =-=,z 与x 间的线性回归方程为0.272 3.843z x =-,因此红铃虫的产卵数对温度的非线性回归方程为0.272 3.843x y e -=.⑤ 利用回归方程探究非线性回归问题,可按“作散点图→建模→确定方程”这三个步骤进行.其关键在于如何通过适当的变换,将非线性回归问题转化成线性回归问题. 三、合作探究例 2.:炼钢厂出钢时所用的盛钢水的钢包,在使用过程中,由于钢液及炉渣对包衬耐火材料的侵蚀,使其容积不断增大,请根据表格中的数据找出使用次数x 与增大的容积y 之间的关系.【解】先根据试验数据作散点图,如图所示:z =a ′+bt ,t 、z 的数值对应表为:【题后点评】作出散点图,由散点图选择合适的回归模型是解决本题的关键,在这里线性回归模型起了转化的作用.例2:一只红铃虫的产卵数y 和温度x 有关,现收集了7组观测数据列于下表中,试建立y 与x 之间的回归方程./y 个 2、讨论:观察右图中的散点图,发现样本点并没有分布在某个带状区域内,即两个变量呈非线性相关关系,所以不能直接....用线性回归方程来建立两个变量之间的关系. ① 如果散点图中的点分布在一个直线状带形区域,可以选线性回归模型来建模;如果散点图中的点分布在一个曲线状带形区域,就需选择非线性回归模型.......来建模. ② 根据已有的函数知识,可以发现样本点分布在某一条指数函数曲线y =2C 1e x C 的周围(其中12,c c 是待定的参数),故可用指数函数模型来拟合这两个变量.z =a ′+bt ,t 、z 的数值对应表为:从图中可以看出x 与y 之间不存在线性相关关系. 但仔细分析一下,知道钢包开始使用时侵蚀速度快, 然后逐渐减慢.显然,钢包容积不会无限增大,它必 有一条平行于x 轴的渐近线.于是根据这一特点,我们试设指数型函数曲线y =a e bx.对它两边取对数得ln y =ln a +bx .令z =ln y ,t =1x,a ′=ln a ,则上式可写为线性方程:③ 在上式两边取对数,得21ln ln y c x c =+,再令ln z y =,则21ln z c x c =+,而z 与x 间的关系如下:观察z 与x以用线性回归方程来拟合.④ 利用计算器算得 3.843,0.272a b =-=,z 与x 间的线性回归方程为0.272 3.843z x =-,因此红铃虫的产卵数对温度的非线性回归方程为0.272 3.843x y e -=.⑤ 利用回归方程探究非线性回归问题,可按“作散点图→建模→确定方程”这三个步骤进行. 其关键在于如何通过适当的变换,将非线性回归问题转化成线性回归问题. 2. 小结:用回归方程探究非线性回归问题的方法、步骤. 3、常见的非线性回归模型 ⑴ 幂函数曲线 y=ax b处理方法:两边取自然对数得:lny=lna+blnx; 再设{yy x x ln ln ,,==则原方程变成 y ′=lna+bx ′,再根据一次线性回归模型的方法得出lna 和b ⑵ 指数曲线 y=ae bx处理方法: 两边取自然对数得:lny=lna+bx; 再设{yy x x ln ,,==则原方程变成 y ′=lna+bx ′,再根据一次线性回归模型的方法得出lna 和b⑶ 倒指数曲线 xb ae y =处理方法:两边取自然对数得:lny=lna+x b; 再设⎩⎨⎧==y y xx ln 1,,则原方程变成 y ′=lna+bx ′,再根据一次线性回归模型的方法得出lna 和b ⑷ 对数曲线 y=a+blnx 处理方法:设{yy xx ==,,ln 则原方程变成 y ′=a+bx ′,再根据一次线性回归模型的方法得出a 和b三、巩固练习:为了研究某种细菌随时间x 变化,繁殖的个数,收集数据如下: 1)用天数作解释变量,繁殖个数作预报变量,作出这些数据的散点图;2)试求出预报变量对解释变量的回归方程.(答案:所求非线性回归方程为0.69 1.112ˆy=e x +.) 四、作业布置:课本第13页的练习题。
第五章 非线性回归
β = ( β1 , β 2 ,..., β m )′
如果函数在参数向量 β 0 附近连续可微,将函数 在 β 0 附近进行一阶泰勒展开
∂f ( xt , β 0 ) f ( xt , β) = f (xt , β 0 ) + (β − β 0 ) + rt0 ∂β ∂f (xt , β 0 ) 0 ∂f (xt , β 0 ) = [ f (xt , β ) − β ]+ β + rt 0 ∂β ∂β
S ( β j +1 ) ≈ S ( β j ) + λ j g ( β j ) ∆ j
S ( β j +1 ) − S ( β j ) ≈ λ j g ( β j ) W j ( g j ) ′
附近
三、牛顿-拉弗森法 牛顿 拉弗森法
最基本的迭代算法是牛顿-拉弗森法(NewtonRaphson Method)。牛顿-拉弗森法的基本思想 是利用泰勒级数展开近似,通过迭代运算寻找 NLS估计的数值解法。 具体算法是 1.给定参数初值 2.将残差平方和函数在附近展开成二阶泰勒级 数 3.迭代公式
令
∂f (xt , β 0 ) 0 Yt = Yt − [ f (xt , β Βιβλιοθήκη − β ] ∂β ∂β0 0
∂f (xt , β0 ) z = = ( Z10t ∂β ∂β
0 t
0 Z 2t
0 L Z mt )
u t0 = u t + rt 0
则
Yt 0 = z t 0 β + ut0
0 0 = β1 Z10t + β 2 Z 2t + ... + β m Z mt + ut0
j
非线性回归
因变量
定义非线性回归模型 的表达式 候选函数列框
点Parameters,定义参数的初始值 连续使用非线性回归模型时,是否以上次模型 的参数拟合值作为本次模型的迭代初值。
点Loss,出现下列窗口,用来定义回归模型的损失函数
采用均方误差和作为损失函数
用户自定义损失函数
点Constrains,出现下列窗口,用来定义模型中迭代参数的限 制条件。
Yi 19.027e
3.486 e0.042 X i
• 此表是各参数的相关系数矩阵。各参数之间的相关系数还 是比较大的。
• 此表是模型的显著性检验结果,采用的是方差分析的方法, 拟合度为0.977,比较高。
非线性回归
1、模型简介
在回归分析中,很多模型的回归参数是线性的,即线性回 归模型,有些模型虽然不是线性的,但却可以通过转换为线 性的参数,即曲线回归模型。但有些模型无论怎么转换都不 能变为线性模型,把这类模型称为非线性回归模型。
设因变量为y,自变量为x1 ,, xm , 进行n次观测,则非线性回归模型写 成矩阵形式Y = f(X, )+e, 其中Y 是一个n 1的观测值向量, 是一个 p 1的回归参数向量,X 是一个n m的自变量常数矩阵。 是一个n 1 的独立状态随机向量,服从多元正态分布。
用最小二乘法估计模型的参数,损失函数为Q [Y f ( )][Y f ( )] 求损失函数的最小值,得到模型参数的估计值,由于这组解很难解出来, 只能通过迭代法求出其近似解。通过[Nonlinear]过程实现,也可以自己定 义各类损失函数。
2、Nonlinear过程的操作界面 点analyze—regression---nonlinear
对参数不做任何限制
非线性回归分析(教案)
非线性回归分析(教案)第一章:非线性回归分析简介1.1 非线性回归的定义与意义1.2 非线性回归与线性回归的比较1.3 非线性回归分析的应用领域1.4 本章概要第二章:非线性模型的选择2.1 常见非线性模型介绍2.2 模型选择的方法与原则2.3 利用软件选择非线性模型2.4 本章概要第三章:非线性回归的计算方法3.1 数值解法简介3.2 梯度下降法3.3 牛顿法3.4 拟牛顿法3.5 本章概要第四章:非线性回归的参数估计与检验4.1 参数估计的原理与方法4.2 参数估计的算法实现4.3 参数检验的方法与准则4.4 模型诊断与改进4.5 本章概要第五章:非线性回归在实际问题中的应用5.1 实例一:人口增长模型5.2 实例二:药物动力学模型5.3 实例三:经济预测模型5.4 实例四:生物医学信号处理模型5.5 本章概要第六章:非线性回归软件的使用6.1 常见非线性回归软件介绍6.2 非线性回归软件的使用方法6.3 利用软件进行非线性回归分析的步骤6.4 本章概要第七章:非线性回归在生物学中的应用7.1 生物学中常见非线性模型介绍7.2 非线性回归在生物学研究中的应用案例7.3 生物学数据处理与非线性回归分析7.4 本章概要第八章:非线性回归在经济与管理科学中的应用8.1 经济与管理科学中的非线性模型介绍8.2 非线性回归在经济预测中的应用案例8.3 非线性回归在管理决策中的应用案例8.4 本章概要第九章:非线性回归在工程与应用科学中的应用9.1 工程与应用科学中的非线性模型介绍9.2 非线性回归在工程设计中的应用案例9.3 非线性回归在应用科学研究中的应用案例9.4 本章概要第十章:非线性回归分析的扩展与前沿10.1 非线性回归分析的局限性与改进10.2 非线性回归分析的新方法与发展趋势10.3 非线性回归分析与其他统计方法的结合10.4 本章概要第十一章:非线性回归的优化策略11.1 优化算法概述11.2 常见优化算法介绍11.3 非线性回归的优化策略11.4 本章概要第十二章:非线性回归在医学中的应用12.1 医学中的非线性模型介绍12.2 非线性回归在医学诊断中的应用案例12.3 非线性回归在医学治疗方案设计中的应用案例12.4 本章概要第十三章:非线性回归在地球科学中的应用13.1 地球科学中的非线性模型介绍13.2 非线性回归在地球物理勘探中的应用案例13.3 非线性回归在气候学研究中的应用案例13.4 本章概要第十四章:非线性回归在化学与材料科学中的应用14.1 化学与材料科学中的非线性模型介绍14.2 非线性回归在化学反应动力学分析中的应用案例14.3 非线性回归在材料性能预测中的应用案例14.4 本章概要第十五章:非线性回归分析的实践与挑战15.1 非线性回归分析的实际操作技巧15.2 非线性回归分析面临的挑战与问题15.3 未来非线性回归分析的发展方向15.4 本章概要重点和难点解析第一章:非线性回归分析简介重点:非线性回归的定义与意义,非线性回归与线性回归的比较。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
f (x ) (x−x0) +...+ n! (x−x0) + R (x)
2 0 n n
(n)
R
∴
n
( x) = o (( x − x0) )
n
n ∞ →
0 n
f (x ) f ( x) = ∑ (x−x0) n!
∞ n=0
( n)
例如:下列函数的泰勒级数为:
e
x
=
∞
x x + 2!
令
1 Y= Q
1 X= p
则:Y=a+bx
3.双对数函数 双对数函数 令 Y1=LnY
LnY=a+bLnX
X1=LnX 则:
原函数变为 Y1=a+bX1 注意:双对数函数变量系数的经济含义
b=
dY Y
dX X
为Y对X 的弹性
•例如 •(1)C-D生产函数 •(2)不变替代弹性(CES)生产函数模型
i
↓
b
= i
b i0
i = 1 , 2 ,... p
则:原模型变为多元线性模型
Y
*
= b 1 z 1 + b 2 z 2 + ... + b p
z
p
+ε
估计这个线性模型得一组OLS估计值
( b , b ,..., ˆ ˆ
11 21
ˆ b
p1
)
( b , b ,..., b ) 为初值, 重复第(1) ˆ11 ˆ 21 ˆ p 1 (2)以 步,作另一次 泰勒级数展开,得到另一个线性近 似。利用OLS估计得到另一组参数估计值
2、可以线性化的包含非线性参 数的问题
因为非线性模型的估计远比线性模型复 杂,我们应尽可能采用一些方法——对 数变换和泰勒级数展开等将含有非线性 参数的模型线性化。
二、间接代换法 例如,指数函数 Y=b0X1b1X2b2eu 首先 ,两边取对数得 令 LnY=Lnb0+b1LnX1+b2LnX2+u 然后,
Y = f (X
2.泰勒级数展开法 泰勒级数展开法
1
X
2
...
X
k
; b 1 b 2 ...
b
p
)+u
为非线性函数。
(1)取一组参数初值 勒展开为:
(b , b ,...,b ) 。在该点泰 ˆ10 ˆ20 ˆp0
20
ˆ ˆ Y = f ( X , X ,...X b ,b 2 k;
1 10
,...,b ) + ∑[ ˆ
n 2
x
3
2
1 + 3!
x
3
+ ...
n
x = x − 1 x + 1 x +...+ (−1) x +... ln( + x) = ∑(−1 1 ) n! 2! 3! n!
n−1 n−1 n=1
x = ... sin( x ) = ∑ ( − 1) ( 2 n )!
n −1 n =1
∞
2 n −1
(n)
R
∴
n
( x) = o (( x − x0) )
n
n ∞ →
0 n
f (x ) f ( x) = ∑ (x−x0) n!
∞ n=0
( n)
三、泰勒级数展开方法
1.泰勒级数 f(X)在X=X0处连续可微,则在X0的邻域中 有泰勒公式:
f (x) = f (x0) + f ′(x0)(x − x0) + f ′ (x0) 2!
−ρ
+ δ2 L
1 −ρ − ρ
1 −ρ −ρ ln Q = ln A − ln δ1 K + δ2 L + ln u ρ 将右端第二项在ρ = 0处展开泰勒级数,取关于ρ的线性项
(
)
u
)
K 1 ln Q ≈ ln A + δ1 ln K + δ2 ln L − ρ δ1 δ2 ln 2 L
( b , b ,..., ˆ ˆ
12 22
ˆ b
p2
)
(3)如此反复,可以得到一系列
(b , b ,..., b ) ˆ ˆ ˆ
1j 2j pj
j=1 2…...
使其收敛为止,即满足
ˆ b
i j +1
−b ˆ
i j
i j
ˆ b
<δ
注:(1)初值的选择 2)迭代的收敛性 :( ) )
1、解释变量非线性问题
模型中参数是线性的,而其中一个或者多个变 量是非线性时,通过简单的变量置换就可以化 为参数和变量都是线性的模型。例如,需求函 数模型中需求量与价格之间的关系为非线性时
1
Q
令
= α +β
t
1
p
+ ut
t
Q y = α +β x +u
t t t t
y
=
1
xt =
t
1
p
t
直接代换法 1.多项式函数模型
p0 i =1
p
∂f ∂bi
]
bi=bi 0
(bi −b ) + ε ˆ
i0
ε 是级数展开式的高阶项
ˆ ˆ = Y − f ( X , X ,... X b , b Y 2 k;
* 1 10
∂f ,..., b ) + ∑ ˆ p0 ˆ bi 0 20 i = 0 ∂ bi
p
令:
z
i
∂f = ∂ b
非线性经济计量模型
1、解释变量非线性问题 2、可以线性化的包含非线性参数的问题 3、不可线性化的包含非线性参数的问题
问题的提出
现实经济活动并非都可以抽象为线性模 型,所以非线性计量经济学模型在计量 经济学模型中占有重要地位。 关于非线性计量经济学模型的理论—— 依据LS的理论或依据最大似然理论以及 违背随机误差项基本假设的理论——已 经趋于成熟。而且非线性联立方程模型 的理论也趋于成熟。
Yi=b0+b1X+b2X2+…+bkXk 令 Zi=Xi i=1,2…,k
型
则: Yi=b0+b1Z1+b2Z2+…+bkZk 变换为线性模
例如,著名的拉弗曲线描述税率r与税收s之间 的关系 s=a+br+cr2
2.双曲函数模型 双曲函数模型 例如,商品的价格p与需求量Q之间的关系
1 1 = a + b Q p
+ ln u
2
三、泰勒级数展开方法
1.泰勒级数 f(X)在X=X0处连续可微,则在X0的邻域中 有泰勒公式:
f (x) = f (x0) + f ′(x0)(x − x0) + f ′ (x0) 2!
f (x ) (x−x0) +...+ n! (x−x0) + R (x)
2 0 n n
Y*=LnY B0= Lnb0 X1*= LnX1 X2*=LnX2 则: Y*=B0+b1X1*+b2X2*+u 为线性模型
(1)C-D生产函数
Q = AK
α
ln Q = ln A + α ln K + β ln L + ln u
Lu
β
(2)不变替代弹性(CES)生产 函数模型
Q=A
(δ K
1