无约束最优化问题及其Matlab求解
无约束最优化问题及其Matlab 求解
一、教学目标
1. 了解悟约束规划的基本算法最速下降法（共轭梯度法）的基本步骤
2. 掌握用Matlab 求解五约束的一元规划问题、多元规划问题、以及Matlab 求解过程中参数的设置。
3. 针对实际问题能列出其无约束规划方程并用Matlab 求解。
二、 教学手段
1. 用Flashmx 2004制作课件，并用数学软件Matlab 作辅助教学。
2. 采用教学手法上采取讲授为主、讲练结合的方法。
3. 上机实践操作。
三、 教学内容
（一）、求解无约束最优化问题的基本思想
标准形式：
★（借助课件说明过程）
（二）、无约束优化问题的基本算法
1．最速下降法（共轭梯度法）算法步骤：
⑴ 给定初始点n E X ∈0，允许误差0>ε,令k=0；
⑵ 计算()k X f ?；
⑶ 检验是否满足收敛性的判别准则： ()ε≤?k X f ，
若满足，则停止迭代，得点k X X ≈*，否则进行⑷；
⑷ 令()k k X f S -?=，从k X 出发，沿k S 进行一维搜索，
即求k λ使得： ()()
k k k k k S X f S X f λλλ+=+≥0min ； ⑸ 令k k k k S X X λ+=+1，k=k+1返回⑵.
最速下降法是一种最基本的算法，它在最优化方法中占有重要地位.最速下降法的优点是工作量小，存储变量较少,初始点要求不高；缺点是收敛慢。
★（借助课件说明过程,由于 算法 在实际中用推导过程比较枯燥，用课件显示搜索过程比较直观）
2. 采用Matlab 软件，利用最速下降法求解无约束优化问题
常用格式如下：
（1）x= fminbnd (fun,x1,x2)
（2）x= fminbnd (fun,x1,x2 ，options)
（3）[x ，fval]= fminbnd （...）
（4）[x ，fval ，exitflag]= fminbnd （...）
（5）[x ，fval ，exitflag ，output]= fminbnd （...）
其中（3）、（4）、（5）的等式右边可选用（1）或（2）的等式右边。函数fminbnd ()X f n E X ∈min 其中 1:E E f n →
的算法基于黄金分割法和二次插值法，它要求目标函数必须是连续函数，并可能只给出局部最优解。或者fminunc、fminsearch命令。
3.优化函数的变量Matlab输入格式
4. Matlab计算结果的输出
5.控制参数options的设置
(1) Display: 显示水平.取值为’off’时,不显示输出; 取值为’iter’时,显示每次迭代的信息;取值为’final’时,显示最终结果.默认值为’final’.
(2) MaxFunEvals: 允许进行函数评价的最大次数,取值为正整数.
(3) MaxIter: 允许进行迭代的最大次数,取值为正整数.
（三）、多元函数无约束优化问题Matlab命令格式为:
（1）x= fminunc （fun,X0 ）；或x=fminsearch （fun,X0 ）
（2）x= fminunc （fun,X0 ，options ）；或x=fminsearch （fun,X0 ，options ） （3）[x ，fval]= fminunc （...）；或[x ，fval]= fminsearch （...）
（4）[x ，fval ，exitflag]= fminunc （...）；或[x ，fval ，exitflag]= fminsearch （5）[x ，fval ，exitflag ，output]= fminunc （...）； 或[x ，fval ，exitflag ，output]= fminsearch （...）
（四）、 练习题
例1 求 f = 2x e x sin -在0 主程序为wliti1.m: f='2*exp(-x).*sin(x)'; fplot(f,[0,8]); %作图语句 [xmin,ymin]=fminbnd (f, 0,8) f1='-2*exp(-x).*sin(x)'; [xmax,ymax]=fminbnd (f1, 0,8) 运行结果： xmin = 3.9270 ymin = -0.0279 xmax = 0.7854 ymax = 0.6448 ★（借助课件说明过程、作函数的图形） 例2 对边长为3米的正方形铁板，在四个角剪去相等的正方形以制成方形无盖水槽，问如何剪法使水槽的容积最大？ 设剪去的正方形的边长为x ，则水槽的容积为：x x )23(2-，建立无约束优化模型为：min y=-x x )23(2-， 0 先编写M 文件fun0.m 如下: function f=fun0(x) f=-(3-2*x).^2*x; 主程序为wliti2.m: [x,fval]=fminbnd('fun0',0,1.5); xmax=x fmax=-fval 运算结果为: xmax = 0.5000,fmax =2.0000.即剪掉的正方形的边长为0.5米时水槽的容积最大,最大容积为2立方米. ★（借助课件说明过程、作函数的图形、并编制计算程序） 例3 22121221min ()(42421)*exp()F x x x x x x x =++++ 1、编写M-文件 fun1.m: function f = fun1 (x) f = exp(x(1))*(4*x(1)^2+2*x(2)^2+4*x(1)*x(2)+2*x(2)+1); 2、输入M 文件wliti3.m 如下: x0 = [-1, 1]; x=fminunc(‘fun1’,x0); y=fun1(x) 3、运行结果: x= 0.5000 -1.0000 y = 1.3029e-10 ★（借助课件说明过程、作函数的图形并编制计算程序） 例4 Rosenbrock 函数 f （x1，x2）=100（x 2-x 12）2+(1-x 1)2 的最优解（极小） 为x*=（1，1），极小值为f*=0.试用不同算法（搜索方向和步长搜索）求数值最优解.初值选为x0=（-1.2 , 2）. 为获得直观认识，先画出Rosenbrock 函数的三维图形, 输入以下命令： [x,y]=meshgrid(-2:0.1:2,-1:0.1:3); z=100*(y-x.^2).^2+(1-x).^2; mesh(x,y,z) 画出Rosenbrock 函数的等高线图,输入命令： contour(x,y,z,20) hold on plot(-1.2,2,' o '); text(-1.2,2,'start point') plot(1,1,'o') text(1,1,'solution') f='100*(x(2)-x(1)^2)^2+(1-x(1))^2'; [x,fval,exitflag,output]=fminsearch(f, [-1.2 2]) 运行结果: x =1.0000 1.0000 fval =1.9151e-010 exitflag = 1 output = iterations: 108 funcCount: 202 algorithm: 'Nelder-Mead simplex direct search' ★（借助课件说明过程、作函数的图形并编制计算程序） （五）、 作业 陈酒出售的最佳时机问题 某酒厂有批新酿的好酒,如果现在就出售,可得总收入R 0=50万元(人民币),如果窖藏起来待来日(第n 年)按陈酒价格出售,第n 年末可得总收入60n e R R (万元),而银行利率为r=0.05,试分析这批好酒窖藏多少年后出售可使总收入的现值最大. (假设现有资金X 万元,将其存入银行,到第n 年时增值为R(n)万元,则称X 为R(n)的现值.)并填下表： 实验八 无约束优化问题 一.实验目的 掌握应用matlab 求解无约束最优化问题的方法 二.实验原理及方法 1：标准形式： 元函数 为其中n R R f X f n R x n →∈:) (min 2．无约束优化问题的基本算法一．最速下降法（共轭梯度法）算法步骤：⑴ 给定初始点 n E X ∈0，允许误差0>ε,令k=0； ⑵ 计算() k X f ?； ⑶ 检验是否满足收敛性的判别准则： () ε≤?k X f ， 若满足，则停止迭代，得点k X X ≈*，否则进行⑷； ⑷ 令() k k X f S -?=，从k X 出发，沿k S 进行一维搜索， 即求k λ使得： ()() k k k k k S X f S X f λλλ+=+≥0 min ； ⑸ 令k k k k S X X λ+=+1，k=k+1返回⑵. 最速下降法是一种最基本的算法，它在最优化方法中占有重要地位.最速下降法的优点是工作量小，存储变量较少,初始点要求不高；缺点是收敛慢，最速下降法适用于寻优过程的前期迭代或作为间插步骤，当接近极值点时，宜选用别种收敛快的算法.．牛顿法算法步骤： (1) 选定初始点n E X ∈0，给定允许误差0>ε，令k=0； (2) 求()k X f ?,()() 1 2-?k X f ,检验：若() ε 无约束最优化问题及其Matlab 求解 一、教学目标 1. 了解悟约束规划的基本算法最速下降法（共轭梯度法）的基本步骤 2. 掌握用Matlab 求解五约束的一元规划问题、多元规划问题、以及Matlab 求解过程中参数的设置。 3. 针对实际问题能列出其无约束规划方程并用Matlab 求解。 二、 教学手段 1. 用Flashmx 2004制作课件，并用数学软件Matlab 作辅助教学。 2. 采用教学手法上采取讲授为主、讲练结合的方法。 3. 上机实践操作。 三、 教学内容 （一）、求解无约束最优化问题的基本思想 标准形式： ★（借助课件说明过程） （二）、无约束优化问题的基本算法 1．最速下降法（共轭梯度法）算法步骤： ⑴ 给定初始点n E X ∈0，允许误差0>ε,令k=0； ⑵ 计算()k X f ?； ⑶ 检验是否满足收敛性的判别准则： ()ε≤?k X f ， 若满足，则停止迭代，得点k X X ≈*，否则进行⑷； ⑷ 令()k k X f S -?=，从k X 出发，沿k S 进行一维搜索， 即求k λ使得： ()() k k k k k S X f S X f λλλ+=+≥0min ； ⑸ 令k k k k S X X λ+=+1，k=k+1返回⑵. 最速下降法是一种最基本的算法，它在最优化方法中占有重要地位.最速下降法的优点是工作量小，存储变量较少,初始点要求不高；缺点是收敛慢。 ★（借助课件说明过程,由于 算法 在实际中用推导过程比较枯燥，用课件显示搜索过程比较直观） 2. 采用Matlab 软件，利用最速下降法求解无约束优化问题 常用格式如下： （1）x= fminbnd (fun,x1,x2) （2）x= fminbnd (fun,x1,x2 ，options) （3）[x ，fval]= fminbnd （...） （4）[x ，fval ，exitflag]= fminbnd （...） （5）[x ，fval ，exitflag ，output]= fminbnd （...） 其中（3）、（4）、（5）的等式右边可选用（1）或（2）的等式右边。函数fminbnd ()X f n E X ∈min 其中 1:E E f n → Matlab 最优化问题求解 1.无约束最优化问题 无约束最优化问题一般描述为： 其中，该数学表示的含义是求一组x，使得目标函数f(x)最小.这种问题也称为最小化问题. Matlab中提供了3个求最小值的函数，调用格式为： ·[x,fval]=fminbnd(@fname,x1,x2,options)：求一元函数在(x1,x2)区间中的极小值点x和极小值fval； ·[x,fval]=fminsearch(@fname,x0,options)：基于单纯形算法求多元函数的极小值点x和极小值fval； ·[x,fval]=fminunc(@fname,x0,options)：基于拟牛顿法求多元函数的极小值点x和极小值fval. 这里讨论的是局域极值问题，fname是定义函数m文件的文件名，fminbnd的输入变量x1,x2分别是研究区间的左右边界；fminsearch和fminunc的输入变量x0是一个向量，表示极值点的初值.options为优化参数，可以通过optimset函数来设置，当目标函数的阶数大于2时，使用fminunc比fminsearch更有效；但是目标函数高度不连续时，使用fminsearch函数效果更好. Matlab中没有专门求最大值的函数，只要-f(x)在(a,b)上的最小值就是f(x)在(a,b)上最大值的相反数.因此用fminbnd(-f,x1,x2)返回函数f(x)在(x1,x2)上的最大值的相反数. --------------------------------------------------------------------- 例如：求函数在区间[0,5]内的极小值和极小值点. function fx=mymin(x) fx=x.^3-2*x-5; [x,fval]=fminbnd(@mymin,0,5) x = 0.8165 fval = -6.0887 因此极小值点为x=0.8165，极小值为-6.0887 --------------------------------------------------------------------- 例如：设 求函数f(x,y,z)在(0.5,0.5,0.5)附近的最小值. function f=fxyz(p) 例4-1 MA TLAB实现，用M函数文件形式求解： syms s t; f=s^2+3*t^2-2*t*s+4*t+3*s; [x,minf]=minZBLH(f,[-2 6],[0.2 0.2],1.5,[t s],0.0001,0.0001) 坐标轮换minZBLH函数文件如下： function [x,minf] = minconPS2(f,x0,delta,u,var,eps1,eps2) %目标函数：f; %初始点：x0; %收缩系数：u; %自变量向量：var; %步长精度：eps1; %自变量精度：eps2； if nargin == 7 eps2 = 1.0e-6; end n = length(var); y = x0; bmainCon = 1; while bmainCon yf = subs(f,var,y); yk_1 = y; for i=1:n tmpy = zeros(size(y)); tmpy(i) = delta(i); tmpf = subs(f, var,y+tmpy); if tmpf < yf bcon = 1; while bcon tmpy(i) = 2*tmpy(i); tmpf_i = subs(f, var,y+tmpy); if tmpf_i Matlab 优化工具箱 x = bintprog(f, A, b, Aeq, Beq, x0, options) 0-1规划 用MATLAB 优化工具箱解线性规划 命令：x=linprog （c ，A ，b ） 2、模型： beq AeqX b AX ..min =≤=t s cX z 命令：x=linprog （c ，A ，b ，Aeq,beq ） 注意：若没有不等式：b AX ≤存在，则令A=[ ]，b=[ ]. 若没有等式约束, 则令Aeq=[ ], beq=[ ]. 3、模型： VUB X VLB beq AeqX b AX ..min ≤≤=≤=t s cX z 命令：[1] x=linprog （c ，A ，b ，Aeq,beq, VLB ，VUB ） [2] x=linprog （c ，A ，b ，Aeq,beq, VLB ，VUB, X0） 注意：[1] 若没有等式约束, 则令Aeq=[ ], beq=[ ]. [2]其中X0表示初始点 4、命令：[x,fval]=linprog(…) 返回最优解ｘ及ｘ处的目标函数值fval. 例1 max 6543216.064.072.032.028.04.0x x x x x x z +++++= 85003.003.003.001.001.001.0. .654321≤+++++x x x x x x t s 70005.002.041≤+x x 10005.002.052≤+x x 90008.003.063≤+x x 6,2,10 =≥j x j 解 编写M 文件小xxgh1.m 如下： c=[-0.4 -0.28 -0.32 -0.72 -0.64 -0.6]; A=[0.01 0.01 0.01 0.03 0.03 0.03;0.02 0 0 0.05 0 0;0 0.02 0 0 0.05 0;0 0 0.03 0 0 0.08]; b=[850;700;100;900]; Aeq=[]; beq=[]; vlb=[0;0;0;0;0;0]; vub=[]; [x,fval]=linprog(c,A,b,Aeq,beq,vlb,vub) min z=cX b AX t s ≤..1、模型： 1、一维搜索 function f=myfun_yi(x) f=(x-2)^2-1 》》fminbnd(@myfun_yi,1,12) 2、无约束搜索 function f=myfun_wuyueshu(x) f=3*x(1)^2+2*x(1)*x(2)+x(2)^2 >> x0=[1,1] >> [x,fval]=fminunc(@myfun_wuyueshu,x0) 3、约束搜索 min f(x) x 设计变量 b Ax ≤ 线性不等式约束 eq b x A =eq 线性等式约束 ()0≤x C 非线性约束 0=eq C 非线性等式约束 b b u x l ≤≤ 上下限边界约束 例题: ()222 13)(min x x x f +-= ()042211≤-+=x x x g ()012≤-=x x g ()023≤-=x x g 目标函数： function f=myfun_constrain(x) f=(x(1)-3)^2+x(2)^2; 非线性约束函数定义 function [c,ceq]=mycon(x) c=x(1)^2+x(2)-4; ceq=[]; 初始条件及函数调用： %3初始条件 A=[-1,0;0,-1]； b=[0;0]； aeq=[]; beq=[]; lb=[]; ub=[]; x0=[9;9] %函数定义 [x,fval]=fmincon(@myfun_constrain,x0,A,b,aeq,beq, lb,ub,@mycon)%如果x0,A,b,aeq,beq,lb,ub,@mycon中没有某项，用[]代替matlab 无约束优化问题
无约束最优化问题及其Matlab求解
Matlab 7最优化问题求解
无约束优化方法与MATLAB实现
Matlab 优化工具箱基本用法
约束优化、一维搜索、无约束优化MATLAB程序语句用法