最优化马昌凤第五章作业

最优化马昌凤第五章作业-标准化文件发布号：（9456-EUATWK-MWUB-WUNN-INNUL-DDQTY-KII最优化方法及其Matlab程序设计习题作业暨实验报告学院：数学与信息科学学院班级：12级信计一班姓名：李明学号：1201214049第四章 共轭梯度法一、上机问题与求解过程1、用DFP 算法求解,3)(m in 2221x x x f +=取初始点和初始矩阵为 .1112,1100⎥⎦⎤⎢⎣⎡=⎥⎦⎤⎢⎣⎡-=H x 。

解：仿照书上编写DFP 程序，将程序HESS 矩阵变为0H 具体如下：function [x,val,k]=dfp(fun,gfun,x0)%功能：用DFP 算法求解吴宇舒问题：min f(x)%输入：x0是初始点，fun,gfun 分别是目标函数及其梯度%输出：x,val 分别是近似最优点和最优值，k 是迭代次数maxk=1e5;%给出最大迭代次数rho=0.55;sigma=0.4;epsilon=1e-5;k=0; n=length(x0);Hk=[2 1;1 1];while (k<maxk)gk=feval(gfun,x0);%计算梯度if (norm(gk)<epsilon),break ;enddk=-Hk*gk;%计算搜索方向m=0;mk=0;while (m<20)%用Armijo 搜索求步长if (feval(fun,x0+rho^m*dk)<feval(fun,x0)+sigma*rho^m*gk'*dk) mk=m;break ;endm=m+1;endx=x0+rho^mk*dk;sk=x-x0;yk=feval(gfun,x)-gk;if (sk'*yk>0)Hk=Hk-(Hk*yk*yk'*Hk)/(yk'*Hk*yk)+(sk*sk')/(sk'*yk); endk=k+1;x0=x;endval=feval(fun,x0);然后仿照书上建立两个目标函数和梯度的M 文件：function f=fun(x)f=x(1)^2+3*x(2)^2;function g=gfun(x)g=[2*x(1) 6*x(2)]';选取初始点为']1,1[-，调用函数程序，得出最小极值点为'66]101599.0,102203.0[--⨯-⨯-，极小值为13102527.1-⨯，在界面框中输入的程序如下：x0=[1 -1]';[x,val,k]=dfp('fun','gfun',x0)x =1.0e-06 *-0.2203-0.1599val =1.2527e-13k =4从结果可以看出迭代次数为4次，如果选取不同的初值点则迭代次数不一样，但是极小值相同。

2、用BFGS 算法求222121)(x x x x x f ++=的极小点，选取初始点为T x )2,3(0=解：仿照书上编写BFGS 程序具体如下：function [x,val,k]=bfgs(fun,gfun,x0,varargin)%功能：用BFGS 算法求解无约束问题：min f(x)；%输入：x0是初始点，fun,gfun 分别是目标函数及梯度；%varargin 是输入的可变参数变量，简单调用bfgs 时可以忽略它；%但若其他程序循环调用该程序时将会发生重要的作用%输出：x,val 分别为近似最优点和最优值，k 是迭代次数maxk=500;rho=0.55;sigma=0.4;epsilon=1e-5;k=0; n=length(x0);Bk=eye(n);while (k<maxk)gk=feval(gfun,x0,varargin{:});if (norm(gk)<epsilon),break ;enddk=-Bk\gk;%解方程组，计算搜索方向m=0;mk=0;while (m<20)%用Armijo 搜索求步长newf=feval(fun,x0+rho^m*dk,varargin{:});oldf=feval(fun,x0,varargin{:});if (newf<oldf+sigma*rho^m*gk'*dk)mk=m;break ;endm=m+1;end%BFGS 校正x=x0+rho^mk*dk;sk=x-x0;yk=feval(gfun,x,varargin{:})-gk;if (yk'*sk>0)Bk=Bk-(Bk*sk*sk'*Bk)/(sk'*Bk*sk)+(yk*yk')/(yk'*sk);endk=k+1;x0=x;endval=feval(fun,x0,varargin{:});%在一开始的时候输入格式有错误为：[x,val,k]=bfgs(‘fun ’,‘gfun ’,x0,varargin)%后来改为[x,val,k]=bfgs(fun,gfun,x0)得出正确答案建立两个目标函数和梯度的M 文件：function f=fun(x)f=x(1)^2+x(2)^2+x(1)*x(2);function g=gfun(x)g=[2*x(1)+x(2) 2*x(2)+x(1)]';选取初始点为']2,3[，调用函数程序，得出最小极值点为'55]105555.1,100513.0[--⨯-⨯，极小值为6108846.1-⨯，在界面框中输入的命令如下：x0=[3 2]';[x,val,k]=bfgs('fun','gfun',x0)x =1.0e-05 *0.0513-0.1555val =1.8846e-12k =3从结果可以看出迭代次数为3次，如果选取不同的初值点则迭代次数不一样，但是极小值相同。

3、分别利用BFGS 算法和DFP 算法的Matlab 程序求解下列优化问题,33)(m in )1(2112221+--+=x x x x x x f 取;)0,0(0T x =,)(5)1(4)(m in )2(221221x x x x f -+-=取;)0,2(0T x =解：（1）BFGS 算法解题与前面程序相同，编写不同的函数文件，如下：function f=fun(x)f=x(1)^2+x(2)^2-3*x(1)-x(1)*x(2)+3;function g=gfun(x)g=[2*x(1)-x(2)-3 2*x(2)-x(1)]';在窗口中输入命令并得出结果：x0=[0 0]';[x,val,k]=bfgs('fun','gfun',x0)x =2.00001.0000val =3.4737e-12k =4由输入的命令与现实的结果可以知道，极小值点为]1,2[，迭代的次数为4次。

DFP算法解题：在上面计算的基础之上，添加函数文件，调用第一题程序：function He=Hess(x)He=[2 ,-1;-1, 2];在窗口中输入命令并得出结果：x0=[0 0]';[x,val,k]=dfp('fun','gfun',x0)x =21val =k =1由输入的命令与现实的结果可以知道，极小值点为]1,2[，迭代的次数为1次。

（2）BFGS算法解题与前面程序相同，编写不同的函数文件，如下：function f=fun(x)f=4*(1-x(1))^2+5*(x(2)-x(1)^2);function g=gfun(x)g=[-8*(1-x(1))-10*x(1)*(x(2)-x(1)^2) 10*(x(2)-x(1)^2)]';在窗口中输入命令并得出结果：x0=[2 0]';[x,val,k]=bfgs('fun','gfun',x0)x =1.00001.0000val =-1.6236e-06k =31由输入的命令与现实的结果可以知道，极小值点为]1,1[，迭代的次数为31次。

DFP算法解题：在上面计算的基础之上，添加函数文件，调用第一题程序：function He=Hess(x)He=[8-10*(x(2)-x(1)^2)+20*x(1) ,-10*x(1);-10*x(1), 10];在窗口中输入命令并得出结果：x0=[2 0]';[x,val,k]=dfp('fun','gfun',x0)x =1.00001.0000val =1.7009e-07k =18由输入的命令与现实的结果可以知道，极小值点为]1,1[，迭代的次数为18次。

4、分别利用BFGS 算法和DFP 算法的Matlab 程序求Powell 奇异函数的极小值：,)(10)2()10(5)10()(min 241232243221x x x x x x x x x f -+-+-++=初始点取为T x )1,0,1,3(0-=。

解：BFGS 算法解题与前面程序相同，编写不同的函数文件，如下：function f=fun(x)f=(x(1)+10*x(2))^2+5*(x(3)-10*x(4))^2+(x(2)-2*x(3))^2+10*(x(1)-x(4))^2;function g=gfun(x)g=[20*(x(1)+10*x(2))+20*(x(1)-x(4))20*(x(1)+10*x(2))+2*(x(2)-2*x(3))10*(x(3)-10*x(4))-4*(x(2)-2*x(3)) -100*(x(3)-10*x(4))-20*(x(1)-x(4))]';在窗口中输入命令并得出结果：x0=[3,-1,0,1]';[x,val,k]=bfgs('fun','gfun',x0)x =1.0e-08 *-0.00620.01310.44650.0432val =8.1534e-17k =13由输入的命令与现实的结果可以知道，极小值点为]100432.0,104465.0,100131.0,100062.0[8888----⨯⨯⨯⨯-，迭代的次数为13次。

DFP 算法解题：在上面计算的基础之上，添加Hess 矩阵文件，function He=Hess(x)n=length(x);He=zeros(n,n);He=[40,20,0,-20; 20,202,-4,0; 0,-4,18,-100; -20,0,-100,1020];调用第一题程序。