3第三章一维搜索-文档资料
合集下载
机械优化设计_第三章一维搜索方法
机械优化设计_第三章一维搜索方法一维方法是一种常用的优化方法，适用于在一个单变量的空间中寻找最优解或近似最优解的问题。
在机械优化设计中，一维方法可以用来寻找最佳的设计参数值，以优化机械系统的性能。
一维方法包括了多种常用的算法，如二分法、黄金分割法、斐波那契法等。
下面将介绍其中的二分法和黄金分割法这两种常用的一维方法。
二分法是一种简单而常用的方法，基本思想是不断将空间划分为两部分，直到找到最优解或接近最优解的区间。
具体步骤如下：1.初始化区间[a,b]，其中a和b分别是空间的下界和上界。
2.计算区间的中点x=(a+b)/23.根据目标函数的取值情况，确定最优解或接近最优解所在的子区间。
4.更新区间为[a,x]或[x,b]，继续步骤2和3，直到区间足够小或找到了最优解。
二分法的优点是简单易实现，但其收敛速度相对较慢，特别是对于空间为初值范围较大的问题。
黄金分割法是一种相对高效的一维方法，其基本思想是通过黄金分割点来确定区间的缩减比例。
具体步骤如下：1.初始化区间[a,b]，其中a和b分别是空间的下界和上界。
2.计算区间的两个黄金分割点，即x1=a+(1-φ)(b-a)和x2=a+φ(b-a)，其中φ是黄金分割比例，其取值约为0.6183.根据目标函数的取值情况，确定最优解或接近最优解所在的子区间。
4.更新区间为[x1,b]或[a,x2]，同时更新黄金分割点，继续步骤2和3，直到区间足够小或找到了最优解。
黄金分割法的优点是收敛速度相对较快，通常比二分法更有效。
然而，其实现相对复杂一些，需要额外的计算和判断步骤。
除了二分法和黄金分割法，还有其他一维方法，如斐波那契法、插值法等。
这些方法可以根据具体问题的特点选择适合的方法进行优化设计。
总结起来，一维方法是机械优化设计中常用的方法之一，用于在一个单变量的空间中寻找最优解或近似最优解的问题。
通过选择适当的方法，可以有效地优化机械系统的性能。
lbc-第3章 一维搜索方法2012共22页文档
§3.3 一维搜索试探方法
一。黄金分割与0.618
• 古希腊建筑师认为：边长为 b，d 的矩形建筑
b
物，若边长能符合以下条件，则最美观：
d
b d, 则 2 1 0 ， 解 得 0 .618
db d
欧几里德几何称这种边长分割为黄金分割。
• 黄金分割法适用于区间上的任何单谷函数求极小值问题，它是建立
④ 求得最优步长因子：
(k) [S[ (k)f](TxH (k())x(T ]k)S)(Sk)(k)
2.数值迭代法：
直接法——应用序列消去原理： 分数法、黄金分割法
数值法——利用多项式函数逼近（曲线拟合）原理： 二次插值法、 三次插值法
§3.2 搜索区间的确定
一. 搜索区间的确定：
f (α)
1. 单谷（峰）区间：
3 2, y3 y2
3 2 2 h , y 3 f ( 3 )
继续比较 y 2 和 y 3大小，直到
y2; y 3。
y 2 y 3。
（2）倒退算法：
由 0 , 对应 1 , 求得 y 1 ;
由 h h 0 , 对应 2 1 h ，求得 y 2 ;
由于 y 1 y 2 , 进行倒退运算
,
1 3， y 1 y 3
2 1,y2 y1
3 2,y3 y2
由 h － h 0 ，对应 3＝ 2＋ h , 求得 y 3 。
比较 y 2 和 y 3 大小，
如果 y 2 y 3 继续倒退运算，
2 1， y 2 y1
3 2, y3 y2
3 2 2 h , y 3 f ( 3 )
在区间消去法原理基础上的试探方法，即在搜索区间内适当插入两点， 将区间分成三段。
第三章 一维搜索法
x
0
x1 x2
x3
3-1 确定初始区间的进退法
探测初始空间的进退法步骤: 探测初始空间的进退法步骤 (1)给定初始点 x0 ,初始步长 h ,令 x1 = x0 ,记: f1 = f ( x1 ) 给定初始点 初始步长 令 记 (2)产生新的探测点 x2 = x1 + h ，记 f 2 = f ( x2 ) 产生新的探测点 (3)比较函数值 f1 和 f 2 的大小 确定向前或向后探测的策略 比较函数值 的大小,确定向前或向后探测的策略 则加大步长,令 若: f1 > f 2 则加大步长 令 h = 2h ,转(4)向前探测 转 向前探测 (4)产生新的探测点 x3 = x0 + h ,令 f 3 = f ( x3 ) 产生新的探测点 令 (5)比较函数值 f 2 和 f 3 的大小 比较函数值 则调转方向,令 若: f1 < f 2 则调转方向 令 h = − h ,转(4)向后探测 转 向后探测
3-1 确定初始区间的进退法
f (x ) f ( x1 )
f ( x2 )
f ( x1 ) > f ( x2 ) > f ( x3 )
极小点在右端点的
f (x3 ) (x
x
x3 右侧
0
x1
x2 x3
3-1 确定初始区间的进退法
f (x ) f ( x1 ) f ( x2 )
f ( x3 )
f ( x1 ) < f ( x2 ) < f ( x3 )
h=-h；x2=x0+h；f2=f(x2)； ； ； ； End
3-2 黄金分割法
一维搜索试探方法的基本思想： 一维搜索试探方法的基本思想：在确定了搜索区间的 前提下，不断缩小搜索区间， 前提下，不断缩小搜索区间，同时保持搜索区间内函数值 “大-小-大”的走势，直到区间的宽度小于预定的精度。 小 大 的走势，直到区间的宽度小于预定的精度。 黄金分割法基本思想： 黄金分割法基本思想 ： 在搜索区间内插入两个黄金分 割点，将区间分成三段。利用函数的单谷性质，通过函数值 割点，将区间分成三段。利用函数的单谷性质， 大小的比较，删去其中一段。 大小的比较，删去其中一段。在保留下来的区间上作同样的 处置，如此往复送代，使搜索区间缩小到精度范围内， 处置，如此往复送代，使搜索区间缩小到精度范围内，得到 极小点的近似解。 极小点的近似解。
0
x1 x2
x3
3-1 确定初始区间的进退法
探测初始空间的进退法步骤: 探测初始空间的进退法步骤 (1)给定初始点 x0 ,初始步长 h ,令 x1 = x0 ,记: f1 = f ( x1 ) 给定初始点 初始步长 令 记 (2)产生新的探测点 x2 = x1 + h ，记 f 2 = f ( x2 ) 产生新的探测点 (3)比较函数值 f1 和 f 2 的大小 确定向前或向后探测的策略 比较函数值 的大小,确定向前或向后探测的策略 则加大步长,令 若: f1 > f 2 则加大步长 令 h = 2h ,转(4)向前探测 转 向前探测 (4)产生新的探测点 x3 = x0 + h ,令 f 3 = f ( x3 ) 产生新的探测点 令 (5)比较函数值 f 2 和 f 3 的大小 比较函数值 则调转方向,令 若: f1 < f 2 则调转方向 令 h = − h ,转(4)向后探测 转 向后探测
3-1 确定初始区间的进退法
f (x ) f ( x1 )
f ( x2 )
f ( x1 ) > f ( x2 ) > f ( x3 )
极小点在右端点的
f (x3 ) (x
x
x3 右侧
0
x1
x2 x3
3-1 确定初始区间的进退法
f (x ) f ( x1 ) f ( x2 )
f ( x3 )
f ( x1 ) < f ( x2 ) < f ( x3 )
h=-h；x2=x0+h；f2=f(x2)； ； ； ； End
3-2 黄金分割法
一维搜索试探方法的基本思想： 一维搜索试探方法的基本思想：在确定了搜索区间的 前提下，不断缩小搜索区间， 前提下，不断缩小搜索区间，同时保持搜索区间内函数值 “大-小-大”的走势，直到区间的宽度小于预定的精度。 小 大 的走势，直到区间的宽度小于预定的精度。 黄金分割法基本思想： 黄金分割法基本思想 ： 在搜索区间内插入两个黄金分 割点，将区间分成三段。利用函数的单谷性质，通过函数值 割点，将区间分成三段。利用函数的单谷性质， 大小的比较，删去其中一段。 大小的比较，删去其中一段。在保留下来的区间上作同样的 处置，如此往复送代，使搜索区间缩小到精度范围内， 处置，如此往复送代，使搜索区间缩小到精度范围内，得到 极小点的近似解。 极小点的近似解。
第三章 一维搜索方法
直 接 法
假定在搜索区间[a, b]内任取两点a1和b1，且a1 b1， 并计算f (a1 )和f (b1 )，可能出现三种情况：
1. f (a1 ) f (b1 )，由于函数的单峰性， 极小点一定在[a, b1 ]内； 2. f (a1 ) f (b1 )，极小点一定在[a1 , b]内； 3. f (a1 ) f (b1 )，极小点一定在[a1 , b1 ]内。
第二节 搜索区间的确定与区间消去法原理
确定搜索区间的外推法的程序流程图：
3 1.用进退法确定函数 f ( x) 3x 3 8 x 9的一维优化初始区间 , 给定 初始点x1 0, 初始进退距h0 0.1.
解：
k
1 2 3 4
h
0.1 0.2 0.4 0.8
x1
0 0.1 0.2 0.4
确定搜索区间的外推法的基本步骤：
3.若y1 y2，则试探方法错误，需要反向，即令h0 h0， 并且将1和 2交换，同时交换y1和y2，在程序中，如果用 替换，则另一个函数值就没有了，所以加入 3和y3做中间 变量，即： 3 1 , y3 y1；1 2 , y1 y2； 2 3 , y2 y3。然后得到新的1和 2后，用新 2的向前推出
第三章 一维搜索方法
第三节 一维搜索的试探法 黄金分割法（0.618法）：
计算步骤：
4）进行迭代终止条件检验，检查区间是否缩短到足够小和 y2 y1 ba 函数值是否收敛到足够近，即 和 ，如果 b y2 不满足条件，则转到第3）步；满足条件则继续执行下一步。 1 5）输出最优解x (a b)和最优函数值y* f ( x* )。 2
而另一个试验点可按下式1 b (b a )算出，它的函数值 为y1 f (1 )； 若y1 y2，则极小点必在区间[1 , b]内，即[1 , b]为新区间，则
第三章 一维搜索
迭代点x(k)，当k=0时，X(0)称为初始点 搜寻方向 S(k) 步长a（k）
一维搜索方法概述
在优化设计的迭代运算中，在搜索方向S(k) 上寻求最优步长 a（k）的方法称一维搜索法。实 际上一维搜索法就是一元函数极小化的数值迭代 算法，其求解过程称为一维搜索。 一维搜索法是非线性优化方法的基本算法， 例如：下图所示的二维优化的例子。
1、若f2 <f1(或者y2<y1) 方，应若f2>f1(或者y2>y1) ，则极小点位于 α (1)左 方，应反向后退搜索。
二、前进搜索(f2<f1)
以α（2）为初始点，以h为步长, 前进搜索得到 第三个试点方向的α（3） ， α（3） =α（2） +h= α（1） +2h，其函数值f3与f2比较有如下情况: 1.f2<f3 2.f2>f3
2
*
∈ ⎡α ( ) , b ⎤ ⎣ ⎦
1
区间消去法原理
一维搜索的最优化方法
从前面讲到的区间消去法可知,为了每次缩短区 间,只需要在区间内再插入一点并计算其函数值.针 对插入点确定方法的不同,可将一维搜索方法分成 两大类: 1.试探法: 2.插值法(函数逼近法):
一维搜索的最优化方法
1.试探法:按某种给定的规律来确定区间插入点的 位置.此点位置的确定仅仅按照区间缩短如何加 快,而不顾及函数值的分布关系. 此类方法主要包括: 黄金分割法 裴波纳契法(Fibonacci)
1、若f2<f3，则有f1> f2<f3，此时函数f(α)在[α （1） , α（3） ]必有极小点，故区间[a,b]=[α（1）, α（1） +2h]为初始搜索区间.
2、若f2>f3，则继续前进搜索，各点变换如下： α（1） ←α（2）, f1 ← f2 α（2） ← α（3）, f2 ← f3 然后步长加倍，前进搜索得到第三个试点方向的α（3） ， 重复上述比较f2与f3的大小，直至出现f1> f2<f3时，构成 搜索区间[a,b]= [α（1） , α（3） ]
《现代机械优化设计》第3章 一维搜索
a xp, f (a) f (xp ), f (a) f (xp )
b xp, f (b) f (xp ), f (b) f (xp )
计算 f (x*p ), f (x*p )
否
f (x*p ) 0 是
否
f (x*p )
x xp , f f (xp )
是
结束
否
是
K>0
否
xp-xp0 ≤ε
是
x*=x2, f*=f2
是
x*=xp,f*=fp
xp
1 2
f1(x22 x32 ) f2 (x32 x12 ) f3(x12 x22 ) f1(x2 x3) f2 (x3 x1) f3(x1 x2 )
结束
由于区 间缩到很 小时因计 算机舍入 误差引起， 可取中间 点输出。
x3
ⅱ) (xP x1)(x3 xP ) 0
f1
x1
f2
f3
x2 x3
补充 §3-5 格点法
一）基本思路
先将搜索区间分成若干等分，计算出当中的n个等分 点的目标函数值. 再通过比较,找出其中的最小点，则该 点的两个邻近点围成缩短了的新区间。
f
a
xmx1 m xm1 b
x
二）每轮迭代区间的缩短率
ⅰ)A=0
f1(x2 x3 ) f2 (x3 x1) f3 (x1 x2 ) 0
f1[( x2 x1) (x3 x1)] f2 (x3 x1) f3(x1 x2 ) 0
f2 f1 f3 f1 这表明此时三个插值点共线。 x2 x1 x3 x1
f2
f3
f1
x1
x2
a=x3、b=x1
x3=x2+h、y3=f(x3)
3第三章一维搜索
首页
上页
下页 末页 结束
2019年2月9日6时26分
20
设原区间 长度为1如下图所示，保留下来的区间 长度为 ，区间缩短率为 。为了保持相同的比例分布，新插 入点 应在 位置上， 在原区间的 位置应相当 于在保留区间的 位置。故有
取方程正数解，得
首页
上页
下页 末页 结束
2019年2月9日6时26分
2019年2月9日6时26分
22
黄金分割法的搜索过程
1. 给出初始搜索区间 及收敛精度 ，将 赋以0.618。 ，并计算其对应的函数值 2. 按坐标点计算公式计算 和 。 3. 根据区间消去法原理缩短搜索区间 程序设计技巧 为了能用原来的坐标点计算公式，需进行区间名称的代换， 并在保留区间中计算一个新的试验点及其函数值。
插值法（函数逼近法、间接法）
首页
根据某些点处的某些信息，如函数值、一阶导数、二阶导数等， 构造一个插值函数来逼近原来函数，用插值函数的极小点作为 区间的插入点。 属于插值法一维搜索的有牛顿法（切线法）、二次插值法 （抛物线法）、三次插值法等。以下我们分别讨论这两类一 维搜索方法。
上页
下页 末页 结束
31
二次插值法（抛物线法）
二次插值法是利用 的相应函数值 插值多项式 在单谷区间中的三点 ，作出如下的二次
首页
上页
下页 末页 结束
2019年2月9日6时26分
29
牛顿法的计算步骤是：
给定初始点 ，控制误差 ，并令 。
1. 计算
2. 求 3. 若 作 4。 4. 令
首页
。
。 则求得近似解 转 1。 ，停止计算，否则
上页
第三章 一维搜索方法
α2
α2
图3-1 具有单谷性的函数
说明：
单峰区间内，函数可以有不可微点，也可以是不连续
函数；
确定的搜索区间必定是一个含有最优点α*的单峰区间。
f (x) f (x)
0
α1
α3
α
0
α1
α3
α
２.进退法的基本思路：
由单峰函数的性质可知，在极小点α*左边函 数值应严格下降，而在极小点右边函数值应严格 上升，因此可以从某一个给定初始点α1出发，以 初始步长h0沿着目标值的下降方向，逐步前进或 后退，直至找到相继的3个试点的函数值按“大小-大”变化为止。
3 . 进退法的步骤：
（1）给定初始点α0和初始步长h0；
(2)令α1 α0 , h h0 , α2 α1 h, 得到两试点α1、α2， 并计算函数值f1 f ( α1 ) , f 2 f ( α2 ) ;
（3）比较f1与f2,存在两种情况：
1)若f1 f 2 , 则作前进运算, 取第三个点α3 α2 h, 计算f 3 f ( α3 ) , 比较f 2与f 3
① 若f 2
f 3，则搜索区间 [a, b] [3 , 1 ]；
② 若f 2
f 3 , 则步长加倍，继续作后 退运算，即令 h 2h,
1 2、 2 3、 3 2 h计算f 2与f 3直到找到“大
小 大”搜索区间 [a, b] [ 3 , 1 ]
2 2 2
所以
p a1 / 2a2
y3 y1 c1 a3 a1
1 a 2 a
2 a3 y1 a32 a12 y2 a12 a22 y3
a3 y1 a3 a1 y2 a1 a2 y3
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
首页
一维搜索方法的分类
可以用不同的方法来确定的插入点的位置，这样就形成了不同的 一维搜索方法。概括起来，可将一维搜索方法分成两大类：
上页
下页 末页 结束
*
16
试探法（直接法）
按某种给定的规律来确定区间内插入点的位置。此点位置的确 定仅仅按照区间缩短如何加快，而不顾及函数值的分布关系。 属于试探法一维搜索的有黄金分割法，裴波纳契（Fibonacci） 法等。
*
17
3.3 一维搜索的试探方法——0.618法
概述
在搜索区间 内适当插入两点 ，并计算其 函数值。 将区间分成三段。应用函数的单谷性 质，通过函数值大小的比较，删去其中一段，使搜索区 间得以缩短。然后再在保留下来的区间上作同样的处置， 如此迭代下去，使搜索区间无限缩小，从而得到极小点 的数值近似解。
首页
上页
下页 末页 结束
*
11
要求一元函数 的极小点 ，在确定 所在的 区间之后，就需要不断的缩小这个区间，直到确 定 的近似解。
区间消去法原理
在搜索区间 内任取两点 ，并计算函数 值 。于是将有下列三种可能情形：
首页
上页
下页 末页 结束
*
12
1. 小点必在区间 2. 内。 3.
，如下图（a）所示。由于函数为单谷，所以极 内。 ，如下图（b）所示。同理，极小点应在区间 ，如下图（c）所示，这时极小点应在
首页
上页
下页 末页 结束
*
14
第三种情形与前面两种情形不同，因为在区间 内缺少已算出的函数值。要想把区间 进一 步缩短，需在其内部取两个点（而不是一个点）计 算出相应的函数值再加以比较才行。 如果经常发生这种情形，为了缩短搜索区间，需要 多计算一倍数量的函数值，这就增加了计算工作量。
首页
首页
上页
下页 末页 结束
*
6
从
开始，以初始步长
向前试探。
如果函数值上升，则步长变号，即改变试探方向。 如果函数值下降，则维持原来的试探方向，并将步长加倍。 区间的始点、中间点依次沿试探方向移动一步。 此过程一直进行到函数值再次上升时为止，即可找到搜索区 间的终点。 最后得到的三点即为搜索区间的始点、中间三点和终点，形 成函数值的“高－低－高”趋势。
解析解法的缺点——需要进行求导计算。
对于函数关系复杂、求导困难或无法求导的情况，使用解析法 将是非常不便的。
首页
因此，在优化设计中，求解最佳步长因子 主要采 用数值解法，利用计算机通过反复迭代计算求得最 佳步长因子的近似值。
数值解法的基本思路是：首先确定 所在的搜索区间， 然后根据区间消去法原理不断缩小此区间，从而获得 的数值近似解。
内。
根据以上所述，只要在区间 内取两个点，算出它 们的函数值并加以比较，就可以把搜索区间 缩短 成 或 。
对于第一种情况，我们已算出区间 内 点的函数值， 如果要把搜索区间 进一步缩短，只需在其内再取一点 算出函数值并与 加以比较，即可达到目的。 对于第二种情况，同样只需再计算一点函数值就可以把搜索区 间继续缩短。
插值法（函数逼近法、间接法）
首页
根据某些点处的某些信息，如函数值、一阶导数、二阶导数等， 构造一个插值函数来逼近原来函数，用插值函数的极小点作为 区间的插入点。 属于插值法一维搜索的有牛顿法（切线法）、二次插值法 （抛物线法）、三次插值法等。以下我们分别讨论这两类一 维搜索方法。
上页
下页 末页 结束
首页
上页
下页 末页 结束
单谷区间
*
7
外推法（进退法）确定搜索区间的步骤：
1）试探搜索 2）前进搜索 3）后退搜索
首页
上页
下页 末页 结束
*
8
右图表示沿 的正向试探。 每走一步都将区间的始点、 中间点沿试探方向移动一步 （进行换名）。经过三步最 后确定搜索区间 ， 并且得到区间始点、中间点 和终点 所对应的 函数值 。
上页
下页 末页 结束
*
15
程序设计技巧
为了避免多计算函数值，我们把第三种情形合并到前面两种情形中去。 例如，可以把前面三种情形改为下列两种情形：
1.若
2.若
，则取
，则取
为缩短后的搜索区间。
为缩短后的搜索区间。
从上述的分析中可知，为了每次缩短区间，只需要在区间内再插 入一点并计算其函数值。如此反复进行下去，当搜索区间长度足 够小时，可用区间内的某点作为极小点的近似值。
首页
搜索的最
就是求一元函数
上页
下页 末页 结束
的极值问题，它称作一维搜索。
*
2
求多元函数极值点，需要进行一系列的一维搜索。 可见一维搜索是优化搜索方法的基础。 求解一元函数 的极小点 ，可采用解析解法，
在用函数 的导数求 时，所用的函数 是仅以 步长因子 为变量的一元函数，而不是以设计点 为变 量的多元函数 。 求 。
返回
* 5
上页
下页 末页 结束
3.2 搜索区间的确定与区间消去法原理
欲求一元函数 首先必须先确定 的极小点 ， 所在的区间。 确定搜索区间的外推法
在一维搜索时，我们假设 函数 具有如右图所示 的单谷性，即在所考虑的 区间内部，函数 有唯 一的极小点 。
为了确定极小点 所在 的区间 ，应使函数 的 值在 区间 里形成“高－低－高”趋 势。
第三章 一维搜索方法
3.1 3.2 3.3 3.4
概述 搜索区间的确定与区间消去法原理 一维搜索的试探方法 一维搜索的插值方法
重点
首页
上页
下页 末页 结束
*
1
3.1 概述
回顾
当采用数学规划法寻求多元函数 要进行一系列迭代计算： 的极值点 时一般
其中 为第 次迭代的搜索方向， 为沿 佳步长因子（通常也称作最佳步长）。 当方向 给定，求最佳步长
首页
上页
下页 末页 结束
正向搜索的外推法
*
9
首页
上页
下页 末页 结束
右图所表示的情况是： 开始是沿 的正方向 试探，但由于函数值 上升而改变了试探方 向，最后得到始点， 中间点和终点 及它们的对应函数 值 ，从而 形成单谷区间为一维 搜索区间 。
*
10
上述确定搜索区间的外推法，其程序框图如下图所示（P50）
1. 利用一元函数的极值条件
首页
上页
下页 末页 结束
*
3
2. 为了直接利用 的函数式求解最佳步长因子 。可 把 或它的简写形式 进行泰勒展 开，取到二阶项，即
将上式对 进行微分并令其等于零，给出 极值点 应满足的条件
首页
上页
下页 末页 结束
从而求得
*
4
这里是直接利用函数 而不需要把它化成步长因子 。的函 数 。不过，此时需要计算 点处的梯度 和海赛矩阵 。