Matlab经典优化函数详细介绍

Matlab 经典优化函数详细介绍

----------------Matlab 优化工具箱简介

5.1 线性优化

线性规划问题是目标函数和约束条件均为线性函数的问题，MATLAB7.0解决的线性规划问题的标准形式为

min

sub. to ：

其中f 、x 、b 、beq 、lb 、ub 为向量，A 、Aeq 为矩阵. 其它形式的线性规划问题都可经过适当变换化为此标准形式. 在MATLAB5.x 以上版中，线性规划问题Linear Programming 已用函数linprog 取代了MATLAB5.x 版中的lp 函数.当然，由于版本的向下兼容性，一般说来，低版本中的函数在7.0版中仍可使用.

函数 linprog

格式 x = linprog(f,A,b)

%求min f ' *x sub.to 线性规划的最优解.

x = linprog(f,A,b,Aeq,beq)

%等式约束，若没有不等式约束，则A=[ ]，b=[ ]. x = linprog(f,A,b,Aeq,beq,lb,ub) .

%指定x 的范围，若没有等式约束 ，则Aeq=[ ]，beq=[ ].

n

R x x

f ∈'b

x A ≤?beq x Aeq =?ub

x lb ≤≤b

x A ≤?

x = linprog(f,A,b,Aeq,beq,lb,ub,x0)

%设置初值x0.

x = linprog(f,A,b,Aeq,beq,lb,ub,x0,options)

% options为指定的优化参数.

[x,fval] = linprog(…)

% 返回目标函数最优值，即fval= f ' *x.

[x,lambda,exitflag] = linprog(…)

% lambda为解x的Lagrange乘子.

[x, lambda,fval,exitflag] = linprog(…)

% exitflag为终止迭代的错误条件.

[x,fval, lambda,exitflag,output] = linprog(…)

% output为关于优化的一些信息.

说明: 若exitflag>0表示函数收敛于解x，exitflag=0表示超过函数估值或迭代的最大次数，exitflag<0表示函数不收敛于解x；若lambda=lower 表示下界lb，lambda=upper表示上界ub，lambda=ineqlin表示不等式约束，lambda=eqlin表示等式约束，lambda中的非0元素表示对应的约束是有效约束；output=iterations 表示迭代次数，output=algorithm表示使用的运算规则，output=cgiterations表示PCG迭代次数.

MATLAB求解优化问题的主要函数

模型基本函数名

类型

一元函数极小 Min F （x ）s.t.x1

x=fminbnd(‘F ’,x 1,x 2) 无约束极小

Min F(X) X=fminunc(‘F ’,X 0) X=fminsearch(‘F ’,X 0) 线性规划

Min X c T

s.t.AX<=b X=linprog(c,A,b)

二次规划 Min 2

1x T Hx+c T x

s.t. Ax<=b

X=quadprog(H,c,A,b)

约束极小 （非线性规划） Min F(X) s.t. G(X)<=0

X=fmincon(‘FG ’,X 0) 多目标优化问题

Min r s.t. F(x)-wr<=goal X=fgoalattain(‘F ’,x,goal,w)

极小极大问题

Min max {F i (x)}

X {Fi(x)}

s.t. G(x)<=0 X=fminimax(‘FG ’,x 0)

优化函数的输入变量

变量

描 述

调用函数 f

线性规划的目标函数f*X 或二次规划的目标函数X ’*H*X+f*X 中线性项的系数向量 linprog,quadprog

fun 非线性优化的目标函数.fun 必须为行命令对象

或M 文件、嵌入函数、或MEX 文件的名称 fminbnd,fminsearch,fminunc, fmincon,lsqcurvefit,lsqnonlin,

fgoalattain,fminimax

H 二次规划的目标函数X ’*H*X+f*X 中二次项的系

数矩阵

quadprog

A,b A 矩阵和b 向量分别为线性不等式约束：

b AX ≤中的系数矩阵和右端向量 linprog,quadprog,fgoalattain,

fmincon, fminimax Aeq,beq Aeq 矩阵和beq 向量分别为线性等式约束： beq X Aeq =?中的系数矩阵和右端向量 linprog,quadprog,fgoalattain,

fmincon, fminimax

vlb,vub

X 的下限和上限向量：vlb ≤X ≤vub

linprog,quadprog,fgoalattain, fmincon,fminimax,lsqcurvefit,

lsqnonlin

X 0 迭代初始点坐标 除fminbnd 外所有优化函数

x 1,x 2 函数最小化的区间 fminbnd options

优化选项参数结构，定义用于优化函数的参数

所有优化函数

优化函数的输出变量

5.2非线性优化

5.2.1 有约束的一元函数的最小值 单变量函数求最小值的标准形式为

sub.to 函数 fminbnd

格式 x = fminbnd(fun,x1,x2) %返回自变量x 在区间上函数fun 取最小值时x 值，fun 为目标函数的表达式字符串或MATLAB 自定义函数的函数柄.

x = fminbnd(fun,x1,x2,options) [x,fval] = fminbnd(…)

变量 描 述

调用函数 x 由优化函数求得的值.若exitflag>0,则x 为解;否则,x 不是最终解,它只是迭代制止

时优化过程的值 所有优化函数

fval

解x 处的目标函数值

linprog,quadprog,fgoalattain,

fmincon,fminimax,lsqcurvefit,

lsqnonlin, fminbnd

exitflag 描述退出条件:

●

exitflag>0,表目标函数收敛于解x 处 ●

exitflag=0,表已达到函数评价或迭代的最大次数

●

exitflag<0,表目标函数不收敛

output

包含优化结果信息的输出结构. ● Iterations:迭代次数 ● Algorithm:所采用的算法 ●

FuncCount:函数评价次数

所有优化函数

)

x (f min x

2

1x x x <<

[x,fval,exitflag] = fminbnd(…) [x,fval,exitflag,output] = fminbnd(…)

例5-2 计算下面函数在区间(0，1)内的最小值.

解：>> [x,fval,exitflag,output]=fminbnd('(x^3+cos(x)+x*log(x))/exp(x)',0,1) x = 0.5223 fval = 0.3974 exitflag = 1 output = iterations: 9 funcCount: 9

algorithm: 'golden section search, parabolic interpolation'

例5-3 在[0，5]上求下面函数的最小值解：

先自定义函数：在MATLAB 编辑器中建立M 文件为： function f = myfun(x) f = (x-3).^2 - 1;

x

3e x log x x cos x )x (f ++=

保存为myfun.m ，然后在命令窗口键入命令： >> x=fminbnd(@myfun,0,5)

则结果显示为：

x = 3

5.2.2 无约束多元函数最小值 多元函数最小值的标准形式为

其中：x 为向量.

命令 利用函数fminsearch 求无约束多元函数最小值. 函数 fminsearch

格式 x = fminsearch(fun,x0) %x0为初始点，fun 为目标函数的表达式字符串或MATLAB 自定义函数的函数柄.

x = fminsearch(fun,x0,options) % options 查optimset. [x,fval] = fminsearch(…) %最优点的函数值.

[x,fval,exitflag] = fminsearch(…) % exitflag 与单变量情形一致. [x,fval,exitflag,output] = fminsearch(…) %output 与单变量情形一致.

例题5-4 求 的最小值点.

解：>>X=fminsearch('2*x(1)^3+4*x(1)*x(2)^3-10*x(1)*x(2)+x(2)^2', [0,0]) 结果为

2

2

2132131x x x 10x x 4x 2y +-+=)

x (f min x

X =

1.0016 0.8335 或在MATLAB 编辑器中建立函数文件. function f=myfun(x)

f=2*x(1)^3+4*x(1)*x(2)^3-10*x(1)*x(2)+x(2)^2; 保存为myfun.m ，在命令窗口键入

>> X=fminsearch ('myfun', [0,0]) 或 >> X=fminsearch(@myfun, [0,0]) 结果为：

X =

1.0016 0.8335

5.2.3 有约束的多元函数最小值 非线性有约束的多元函数的标准形式为：

sub.to

其中：x 、b 、beq 、lb 、ub 是向量，A 、Aeq 为矩阵，C(x)、Ceq(x)是返回向量的函数，f(x)为目标函数，f(x)、C(x)、Ceq(x)可以是非线性函数.

在MATLAB5.x 中，它的求解由函数constr 实现. 函数 fmincon

格式 x = fmincon(fun,x0,A,b) x = fmincon(fun,x0,A,b,Aeq,beq)

ub

x lb ≤≤)

x (f min x

)x (Ceq =beq x Aeq =?b

x A ≤?0

)x (C ≤

x = fmincon(fun,x0,A,b,Aeq,beq,lb,ub)

x = fmincon(fun,x0,A,b,Aeq,beq,lb,ub,nonlcon)

x = fmincon(fun,x0,A,b,Aeq,beq,lb,ub,nonlcon,options)

[x,fval] = fmincon(…)

[x,fval,exitflag] = fmincon(…)

[x,fval,exitflag,output] = fmincon(…)

[x,fval,exitflag,output,lambda] = fmincon(…)

[x,fval,exitflag,output,lambda,grad] = fmincon(…)

[x,fval,exitflag,output,lambda,grad,hessian] = fmincon(…

参数说明：

fun为目标函数，它可用前面的方法定义；

nonlcon的作用是通过接受的向量x来计算非线性不等约束和等式约束分别在x处的估计C和Ceq，通过指定函数柄来使用，如：

>>x = fmincon(@myfun,x0,A,b,Aeq,beq,lb,ub,@mycon)，先建立非线性约束函数，并保存为mycon.m：function [C,Ceq] = mycon(x) C = …% 计算x处的非线性不等约束的函数值.

Ceq = …% 计算x处的非线性等式约束的函数值.

lambda是Lagrange乘子，它体现哪一个约束有效.

output输出优化信息；

grad表示目标函数在x处的梯度；

hessian表示目标函数在x处的Hessian值.

例5-5 求下面问题在初始点（0，1）处的最优解

min Sub.to

解：约束条件的标准形式为： sub.to

先在MATLAB 编辑器中建立非线性约束函数文件： function [c, ceq]=mycon (x) c=(x(1)-1)^2-x(2);

ceq=[ ]; %无等式约束. 然后，在命令窗口键入如下命令或建立M 文件：

>>fun='x(1)^2+x(2)^2-x(1)*x(2)-2*x(1)-5*x(2)'; %目标函数. >>x0=[0 1];

>>A=[-2 3]; % 线性不等式约束. >>b=6;

>>Aeq=[ ]; % 无线性等式约束. >>beq=[ ];

>>lb=[ ]; % x 没有下、上界. >>ub=[ ];

>>[x,fval,exitflag,output,lambda,grad,hessian]

=fmincon(fun,x0,A,b,Aeq,beq,lb,ub,@mycon) 2

121222

1x 5x 2x x x x ---+0x )1x (221≥+--0

x )1x (221≤--6x 3x 221≤+-6

x 3x 221≤+-

则结果为x = 3 4

fval = -13

exitflag = 1 % 解收敛.

output =

iterations: 2

funcCount: 9

stepsize: 1

algorithm: 'medium-scale: SQP, Quasi-Newton, line-search' firstorderopt: [ ]

cgiterations: [ ]

lambda =

lower: [2x1 double] % x下界有效情况，通过lambda.lower可查看. upper: [2x1 double] % x上界有效情况，为0表示约束无效.

eqlin: [0x1 double] %线性等式约束有效情况，不为0表示约束有效.

eqnonlin: [0x1 double] %非线性等式约束有效情况.

ineqlin: 2.5081e-008 %线性不等式约束有效情况.

neqnonlin: 6.1938e-008 %非线性不等式约束有效情况.

grad = %目标函数在最小值点的梯度.

1.0e-006 * -0.1776

hessian = %目标函数在最小值点的Hessian值.