第四章无约束优化方法
(05)第四章-无约束优化方法(梯度法-牛顿法和变尺度法)
第四章
第四章
无约束优化问题标准形式：
无约束优化问题标准形式：
§
§
§
§
§
§
图最速下降法的收敛过程
αα
2
2
例4－1 求目标函数
取初始点
[2,2]
=
x
例4－2 求目标函数解取初始点[2,2]
=x
算出一维搜索最佳步长
§
例4－3 用梯度法求下面无约束优化问题：
例4－3 用梯度法求下面无约束优化问题：
例4－3 用梯度法求下面无约束优化问题：
例4－3 用梯度法求下面无约束优化问题：
例4－3 用梯度法求下面无约束优化问题：
梯度法的特点
x
给定0,ε
一般迭代式：
§4.3
§4.3
§4.3
§4.3
α0
d 0
x
x 1
x*
1
α1d 1
1()
f −∇x d 1
4-4 共轭方向法
假设目标函数f (x ) 在极值点附近的二次近似函数为
沿某个下降方向
如果能够选定这样的搜索方向，那么对于二
α
0d0
x0x1x*
1
α
1
d1
1
()
f
−∇x d
1。
第四章常用的无约束优化方法
教学重点
1．鲍威尔法 2．梯度法 3．牛顿法
2
机械优化设计
概述
一、无约束优化方法的数学模型 有约束优化问题模型
L min F ( X * ) = F ( x1，x2， ，xn ), X ∈ R n D : g j ( X ) ≥ 0 j = 1,2,L, m hk ( X ) = 0 k = 1, 2,L, l
12
机械优化设计
一、Powell基本算法 Powell基本算法 1）开始采用坐标轴方向； 开始采用坐标轴方向； 2）每轮迭代产生一个新方向取代原来的第一 方向， 轮迭代后可产生n个彼此共轭的方向； 方向，n轮迭代后可产生n个彼此共轭的方向； 若目标函数为正定二次函数， 3）若目标函数为正定二次函数，n轮结束后 即可到达最优点。 即可到达最优点。
r (k ) r (k ) r (k ) r (k ) r (k ) r (k ) S 1 , S 2 , . . . , S m -1 , S m + 1 , . . . , S n , S n + 1 ,
22
第k+1环的方向组为：
机械优化设计
给定X 给定 0,Si=ei i=1,2,…n, ε
Powell 修正算法
K=0 i=1 方向搜索得一维最优点X 自Xi-1始，沿Si方向搜索得一维最优点 i
N
若powell法中不 需要换向，则 是否仍为共轭 方向法？ 检查两次前后 sn+1是否对函数 的海塞矩阵共 轭即可。
Y
i< n Xn-X0 ≤ε
i=i+1
Y
输出X*=Xn 输出 F*=F（X*） （ ）
x2
x2
o
x1
(2)等值线为如图脊线时--无效 (2)等值线为如图脊线时--无效 -o
第四章 无约束优化设计
f (X )
在点
(k ) T
X (k )
处展开成二次近似式：
(k )
) f ( X
)
X X
对上式求梯度，并设 得： 令： 有：
( k 1)
X ( k 1)
1 (k ) T 2 X X f ( X (k ) ) X X (k ) 2
是函数的极小点
f ( X ( k 1) ) f ( X ( k ) ) 2 f ( X ( k ) ) X ( k 1) X ( k ) 0
f ( X
( 0)
4 ) 2
S
( 0)
f ( X
( 0)
4 ) 2 X
( 0)
新的迭代点与函数值:
X
(1)
aS
( 0)
1 4a 1 2a
f ( X (1) ) (1 4a) 2 2(1 2a) 2 2(1 4a)(1 2a) 4(1 4a) Φ(a)
4-2
X
(1)
牛顿法
( 0)
（4）沿搜索方向作一维搜索：
X
( 0)
aS
1 3 1 3a a 1 1 1 a
f ( X (1) ) (1 3a) 2 2(1 a) 2 2(1 3a)(1 a) 4(1 3a) Φ(a)
X * X ( k 1) , f ( X * ) f ( X ( k 1) )
k 否则，令： k 1 转（2）继续迭代。
4-2
牛顿法
例题：用牛顿法求解无约束优化问题，已知：X (0) 1,1T 0.1
第4章无约束优化方法
它表示沿着方向dk做一维搜索， 它的终点xk+1与始点xk的梯度之差
与dk的共轭方向dj正交。
4.5 共轭梯度法
共轭梯度法递推公式：
2 || g || d k 1 g k 1 k 1 2 d k || g k ||
，
(k 0,1, 2,
, n 1)
4.5 共轭梯度法
共轭梯度法步骤：
4.5 共轭方向及共轭方向法
2 1 0 例：求G= 1 2 1的一组共轭向量系d 0、d 1、d 2。 0 1 2
，
d
i 1
vi 1 i 1,r d
r 0
i
r
i 1, j
(d j )T Gvi 1 j T (d ) Gd j
d
0 T
Gd 1 0
4.5 共轭方向及共轭方向法
•共轭方向
设G是n n对称正定矩阵，若n维空间中有m个非零向量d 0、d1、 、d m 1 满足 (d i )T Gd j 0
，
(i, j 0,1,
, m 1) (i j )
则称d 0、d1、 、d m 1对G共轭，或称它们是G的共轭方向。
第四章
4.1 4.2 4.3 4.4 4.5 4.6 4.7
无约束优化方法
概述 最速下降法 牛顿型方法 变尺度法 共轭方向及共轭方向法
共轭梯度法
鲍威尔方法
4.1 概述
数值解法：是利用已有的信息，通过计算点一步
一步地直接移动，逐步逼近最后达到最优点。
xk 1 xk k d k (k 0,1, )
4）收敛速度与目标函数值的性质有关，对等值 线是同心圆的目标函数来说，经过一次迭代就可 以达到极值点。
无约束优化方法
为了使目旳函数值沿搜索方向 f (xk ) 能够取得最大旳
下降值，其步长因子
应取一维搜索旳最佳步长。即有
k
f
( xk1)
f [xk
akf
( xk )]
min a
f [xk
af
( xk )]
min， ( ) a
根据一元函数极值旳必要条件和多元复合函数求导公式，得
'( ) f [ xk kf ( xk )] T f ( xk ) 0
第四章 无约束优化措施
第一节 概 述
数值解法：是从给定旳初始点x0出发，沿某一搜索方向d0
进行搜索。拟定最佳步长α，使函数值沿d0方向下降最大。 依此方式按下述公式不断进行，形成迭代旳下降算法。
x，k1 xk k d k (k 0,1, )
1）选择迭代方向即探索方向； 2）在拟定旳方向上选择合适步长迈步进行探索。 多种无约束优化措施旳区别就在于拟定其搜索方向dk旳措 施不同。所以搜索方向旳构成问题是无约束优化措施旳关键。
4）若 | xk1 xk | ，则停止迭代，
得最优解x* xk1;
否则，k k 1,转到第二步。
第四章 无约束优化措施
第二节 最速下降法
例：用最速下降法求目标函数 ，
f (x) x12 25x22
的极小点。
xk1 xk kf (xk )(k 0,1, )
第四章 无约束优化措施
解 取初始点 x0 [2,2]T f ( x0 ) 104
第四章 无约束优化措施
第四节 共轭方向及共轭方向法 •共轭方向旳形成
•格拉姆-斯密特向量系共轭化旳措施
i
d i1
vi1
，
dr i 1, r
第4章 无约束优化方法
求
令
4 S 0 f X 0 2
0 则有 X 1 X 0 0 S 0 1 0 4 1 2 1 2
1 4
0
f X 1 1 4 0 2 1 2 0 2 1 4 0 1 2 0 4 1 4 0 f 0
因
5
还需继续迭代
（2）第二次迭代 同理有
1 1 1 f X , S 2 2 2 1 2 1 2 1 1 X X 1 S 1 0.5 2 0.5 2 1
4.2.3 变尺度法
基本思想： （1） 用简单矩阵代替二阶导数矩阵的逆矩阵 （2) 用坐标变换简化目标函数 引入矩阵变换U，令 X X k UY 代入式泰勒展开式得
T 1 T T 2 k k Y Y U f X UY f X UY f X k 2
2 f X k
S 2 f X k f X k
1
由此构成的算法称基本牛顿法，Sk 称牛顿方向。
分析可知： ⑴ 对于正定二次函数，Xk+1是精确极小点，方向 Sk 是直指函数的极小点。 ⑵ 用基本牛顿法求解正定二次函数时，无论从哪个初始 点出发，计算所得牛顿方向直指极小点，而且步长等于1。 ⑶ 对于一般非线性函数，点Xk+1只是原函数的一个近似极 小点。故将此点作为下一个迭代Xk+1。 ⑷ 但是对于非正定函数，由上式得到 的点Xk+1，不能始终保持函数的下降性，
1 0 0
第四章 无约束方法详解
[tt,ff]=opt_step_quad(xk1',dirk, th,epsx,epsf,maxiter); xk1=xk1+tt*dirk'; end xk0=xk1; xn=xk1; fn=ffx(xn); aa=norm(dir); if(aa<1e-30) aa=1e-30; end end
xn ]T
使目标函数 f ( x) min
min f ( x) x Rn
目前已研究出很多种无约束优化方法，它们的 主要不同点在于构造搜索方向上的差别。
（1）间接法（导数法）——确定搜索方向时用到一 阶或（和）二阶导数的方法。如梯度法、（阻尼） 牛顿法、变尺度法、共轭梯度法等。
（2）直接法——其搜索方向直接取定或由计算目标 函数值所得的信息来确定；即不使用导数信息，如 坐标轮换法、鲍威尔法等。
2020/9/23
5
无约束优化直接解法
坐标轮换法 鲍维尔（Powell）法 鲍维尔（Powell）修正算法
2020/9/23
6
§4-2 坐标轮换法（无约束优化直接解法）
一）搜索方向
依次沿n个正交坐标轴的方向搜索：
ee12
[1 [0
0 1
... ...
0]T 0]T
...
en [0 0 ... 1]T
坐标轮换法的Matlab程序由三部分组成。第一部分为坐标 轮换法计算函数coordinat(xk0,th,epsx, epsf,maxiter)，函数引用 变量说明见程序注释。最优步长采用二次插值法计算，函数名 为opt_step_quad(xk0,dir0, th,TolX, TolFun,maxiter)，该函数调 用区间搜索函数opt_range_serach(xk0,dir0,th)得出二次差值需 要的三个坐标点，区间搜索函数采用进退法。 第二部分为用户应用程序； 第三部分为定义目标函数，调用方式为fn=ffx(x)。 下面是坐标轮换法的Matlab计算程序：
最优化方法_chapter4 无约束最优化方法
预备知识
本章开始讨论多维无约束最优化问题：
min f(X) 其中 f:Rn→R1．这个问题的求解是指在Rn中找一点X*， 使得对于任意的X∈Rn 都有，f(X*)≤f(X) ，成立，则点X* 就是问题的全局最优点。但是，大多数最优化方法只能求 到局部最优点，即在Rn中找到一点X*，使得f(X*)≤f(X)在 X*的某个领域中成立． 这个矛盾对于实际问题一般容易解决．根据问题的实 际意义多半可以判定用优化方法求出的局部最优解是否为 全局最优解．而在理论上这是个比较复杂的问题，本教材 不涉及．
✓ 有些无约束优化方法只需略加处理，即可用于求解约束 优化问题．
预备知识
无约束优化理论发展较早，比较成熟，方法也很 多，新的方法还在陆续出现．把这些方法归纳起来可 以分成两大类：
✓ 一类是仅用计算函数值所得到的信息来确定搜索方向， 通常称它为直接搜索法，简称为直接法
✓ 另一类需要计算函数的一阶或二阶导数值所得到的信息 来确定搜索方向，这一类方法称为间接法（解析法）
解：应沿由热变冷变化最剧烈(变化率最大)的地方 （即梯度方向）爬行。
设函数z=f (x,y)在点P(x,y)的某一邻域U(P)内有定义。
自点P引射线l。设x轴正向到射线l的转角为θ，并设
Pˊ(x+∆x,y+∆y) 为l上的另一点且Pˊ∈U(P)．
考虑：limρ→0 (f(x+∆x,y+∆y)－f(x,y))/ρ。若此极限存在
特别是对于等值线（面）具有狭长深谷形状的函数， 收敛速度更慢．其原因是由于每次迭代后下一次搜索方 向总是与前一次搜索方向相互垂直，如此继续下去就产 生所谓的锯齿现象．
即从直观上看，在远离极小点的地方每次迭代可能 使目标函数有较大的下降，但是在接近极小点的地方， 由于锯齿现象，从而导致每次迭代行进距离缩短，因而 收敛速度不快.
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第一节，概述
无约束优化问题：求n维设计变量x=（x1，x2，…，x n）T，使目标函数f（x）→min，而对
x没有任何限制。
用数学方法求解方程▽f=0的问题/，。
该方程为非线性方程，不宜直接求解，选择搜索法。
给定初始点x0，沿着某一方向d0进行搜索，确定最佳步长α0，使得沿着d0方向下降最大；x k+1=x k+αk d k。
根据d的构成分类：一类为利用目标函数一阶和二阶导数的无约束优化方法【最速下降法】，【共轭梯度法】，【牛顿法】，【变尺度法】，另一类只利用目标函数值【坐标轮换法】，【单形替换法】，【鲍威尔法】。
第二节，最速下降法
又称梯度法，以负梯度方向作为搜索方向。
d=-▽f（x）；x k+1=x k-αk▽f（x k）
α为步长因子，取一维搜索的最佳步长：f（x k+1）=f（x k-αk▽f（x k））=minαf（x k-αk▽f（x k））=minαφ（α）→φ'（α）=-（▽f（x k-αk▽f（x k）））▽f（x k）=0→▽f（x k+1）▽f（x k）=0 相邻两次迭代方向垂直。
【重点】第三节，牛顿法
牛顿迭代公式：x k+1=x k-
多元函数f（x），设x k为f（x）极小点x*的一个近似点，在x k处将f（x）进行泰勒展开，保留二次项，得到：f（x）≈f（x k）+▽f（x k）T（x-x k）+;
整理出牛顿迭代公式：x k+1=x k-（▽2f（x k））-1▽f（x k）
阻尼牛顿法：引入阻尼因子αk，故有x k+1=x k-αk（▽2f（x k））-1▽f（x k），其中αk可由极小化求解：f（x k+1）=f（x k+αk d k）=minαf（x k+αd k），其理论意义为沿着d k方向一维搜索的最佳步长。
第四节，共轭方向法
共轭方向：d k和d k+1满足（d k）T G（d k+1）=0
原则和步骤：选定初始点x0，下降方向d0和收敛精度ε；沿着d0方向一维搜索，x1=x0+αd0；判断（），不满足则反复迭代演算，其中新方向dk+1满足（d k）T Gd k+1=0 【第五节】共轭梯度法
每一个共轭矢量都是依赖于迭代点处的负梯度构造的。
共轭方向与梯度之间的关系:
x k+1-x k=αk d k
在x k和x k+1处的梯度为g k，g k+1，设二次函数f（x）=1/2x T Gx+b T x+c,
g k=Gx k+b; g k+1=Gx k+1+b;
g k+1-g k=G(x k+1-x k)=αk Gd k
若d j和d k共轭，则有（d j）T（g k+1-g k）=0
意义：沿着d j方向一维搜索其终点x k+1与始点x k的梯度之差g k+1-g k与d k的共轭方向d j正交。
计算过程：设初值点x0，第一个搜索方向取x0的负梯度方向-g0，一维搜索后得x1，g1，要求x1为以d0为切线和某等值曲线的切点，g1和d0正交，g1T g0=0；求d0的共个方向d1，改
写d1=- g1+β0 d0其中：β0=，d1=，计算x2、g2；计算d2…直到迭代点梯度
的模小于允许值。
得到共轭方向的递推公式：d k+1=
第六节，变尺度法
放大或缩小各个坐标，通过尺度变换可以把函数的偏心程度降低到最低限度，显著地改善收敛性质。
尺度变换矩阵Q，尺度矩阵H=Q T Q；
变尺度法步骤：x0，ε→g0，H0（可取I）→d k=-H k g k→一维搜索求x1，g1→判断迭代终止条件，若不满足则取H k=I，x0=x k+1重新迭代
第七节，坐标轮换法
每次搜索只允许一个变量变化，其余变量保持不便，及沿着坐标方向轮流进行搜索的寻优方法。
当目标函数为二元二次函数其等值线为圆或长短轴平行于坐标的椭圆时此方法有效。
【重点】第八节，鲍威尔法
直接利用函数值来构造共轭方向的一种共轭方向法。
对于二次函数：
f（x）=1/2x T Gx+b T x+c；G正定，在逐次迭代中构造G的共轭方向。
构造共轭方向原理：
设x k和x k+1为从不同点出发沿着不同方向d j进行一位搜素得到的两个极小值点，x k和x k+1，梯度g k，g k+1，梯度与等值线垂直，故（d j）T g k=0，（d j）T g k+1=0；同时g k=Gx k+b，g k+1=Gx k+1+b，有g k+1- g k=G（x k+1- x k），（d j）T（g k+1- g k）=0=（d j）T G（x k+1- x k）
取d k=x k+1-x k，d j d k共轭，即沿着d j方向对函数做两次一维搜索得到的两个极小值的连线就是与d j一起对G共轭的方向。
基本算法：
x0，两个线性无关矢量e1，e2做为搜索方向→得到x10和x20→d1= x20-x10→d1代替e1，新搜索方向：e2，d1…
改进算法：考虑到原始的矢量组的好坏是否需要替换。
第九节，单形替换法
基本原理：单形替换法指在n维空间中建立≥n+1个顶点的多面体（单纯形）。
计算其各顶点函数值并加以比较，从中确定搜索方向和步长，找到一个较好的点取代单纯形中较差的顶点，组成的新单纯形更加靠近目标函数的极小点。
可通过反射、远探、近探和缩边等方式不断地更新单纯形，逐渐逼近极小点，直到足够接近为止。