第一章 非线性规划理论(1)
非线性规划ppt课件
g3(x) x1 x2 x3 0
;
20
一维搜索方法
目标函数为单变量的非线性
规划问题称为一维搜索问题
min t0 (0ttmax )
其中 t R 。
(t)
➢精确一维搜索方法 0.618法 Newton法
➢非精确一维搜索方法 Goldstein法 Armijo法
;
21
0.618法（近似黄金分割法）
定义 4.1.2 对于非线性规划(MP)，若 x* X ，并且存在 x* 的一个
领域 N ( x* ) x Rn x x* ( 0, R) ，使
f (x* ) f (x), x N (x* ) X ，
则称 x* 是(MP)的局部最优解或局部极小点，称 f ( x* ) 是(MP)的局部
函数(t) 称为在[a,b]上是单谷的，如果存在一个 t * [a, b] ，使得(t) 在[a, t * ]上严格递减，且在[t * , b] 上严格递增。区间[a,b]称为(t) 的单 谷区间。
第 1 步 确定单谷区间[a,b]，给定最后区间精度 0 ;
第 2 步 计算最初两个探索点
t1 a 0.382(b a) b 0.618(b a)
;
22
0.618法例题
• 例4.3.1 用0.618法求解
min(t) t3 2t 1 t0
(t) 的单谷区间为[0,3]， 0.5
解答
例4.3.1解答 • 迭换换代tbtb 过程0311..62..∧✓18可0036145436481由-00下101.2.∧...0✓871110650431表48611 给0-0100.2.∨...0✓1470出2064308168821 --000100...∨...00✓4178376340791868681 01..7140486 a2112a
非线性规划理论和算法
非线性最优化理论与算法第一章引论本章首先给出了一些常见的最优化问题和非线性最优化问题解的定义，并且根据不同的条件对其进行了划分。
接着给出了求解非线性优化问题的方法，如图解法等，同时又指出一个好的数值方法应对一些指标有好的特性，如收敛速度与二次终止性、稳定性等。
随后给出了在非线性最优化问题的理论分析中常用到的凸集和凸函数的定义和有关性质。
最后给出了无约束优化最优性条件。
第二章线搜索方法与信赖域方法无约束优化的算法有两类，分别是线搜索方法和信赖域方法。
本章首先给出了两种线搜索方法即精确线搜索方法和非精确线搜索方法。
线搜索方法最重要的两个要素是确定搜索方向和计算搜索步长，搜索步长可确保下降方法的收敛性，而搜索方向决定方法的收敛速度。
精确线搜索方法和非精确线搜索方法对于精确线搜索方法，步长ακ满足αk=arg minƒx k+αd kα≥0这一线搜索可以理解为αk是f(x k+αd k)在正整数局部极小点，则不论怎样理解精确线搜索，它都满足正交性条件：d k T∇ƒ(x k+αk d k)=0但是精确搜索方法一般需要花费很大的工作量，特别是当迭代点远离问题的解时，精确的求解问题通常不是有效的。
而且有些最优化方法，其收敛速度并不依赖于精确搜索过程。
对于非精确搜索方法，它总体希望收敛快，每一步不要求达到精确最小，速度快，虽然步数增加，则整个收敛达到快速。
书中给出了三种常用的非精确线搜索步长规则，分别是Armijo步长规则、Goldstein步长规则、Wolfe步长规则。
第一个步长规则的不等式要求目标函数有一个满意的下降量，第二个不等式控制步长不能太小，这一步长规则的第二式可能会将最优步长排除在步长的候选范围之外，也就是步长因子的极小值可能被排除在可接受域之外。
但Wolfe步长规则在可接受的步长范围内包含了最优步长。
在实际计算时，前两种步长规则可以用进退试探法求得，而最后一种步长规则需要借助多项式插值等方法求得。
非线性规划的基本概念及问题概述
牛顿法在凸优化问题上表现较好，但在非凸问题 上可能陷入局部最优解。
拟牛顿法
01
拟牛顿法是一种改进的牛顿法，通过构造海森矩阵 的近似来降低计算成本。
02
拟牛顿法在每一步迭代中更新搜索方向，并逐渐逼 近最优解。
03
拟牛顿法在处理大规模非线性规划问题时表现较好 ，但仍然需要计算目标函数的二阶导数。
共轭梯度法
共轭梯度法结合了梯度法和牛 顿法的思想，通过迭代更新搜 索方向来寻找最优解。
共轭梯度法的迭代方向是梯度 方向和上一次迭代方向的线性 组合，可以加快收敛速度。
共轭梯度法适用于大规模优化 问题，尤其在约束条件较多或 非凸函数情况下表现较好。
05
非线性规划的挑战与解决方 案
局部最优解问题
局部最优解问题
案例二：生产计划优化问题
总结词
生产计划优化问题旨在通过合理安排生 产计划，降低生产成本并满足市场需求 。
VS
详细描述
生产计划优化问题需要考虑生产过程中的 各种因素，如原材料需求、设备能力、劳 动力成本等。目标函数通常是非线性的， 因为生产成本和产量之间的关系是非线性 的。约束条件可能包括资源限制、交货期 限制等。
例子
最小化成本函数，其中成本是生产量 的函数，生产量受到资源、生产能力 等约束。
最大化问题
最大化目标函数
在给定的约束条件下，找到一组变量 ，使得目标函数达到最大值。
例子
最大化收益函数，其中收益是销售量 的函数，销售量受到市场需求、价格 等约束。
约束条件下的优化问题
01
在满足一系列约束条件下，寻找最优解，使得目标函数达到最 优值。
梯度法适用于目标函数和约束条件比较简单的情况，但对于非凸函数或约束条件复 杂的情况可能不收敛或收敛到局部最优解。
第一章 非线性规划理论(1)
第一章 非线性规划理论（1）第一节 非线性优化规划模型及其解的概念, 第二节 凸函数与凸规划, 第三节 下降迭代算法 第四节 一维搜索方法第一节 非线性优化规划模型及其解的概念线性规划的目标函数和约束条件都是其自变量的线性函数，如果目标函数或约束条件中含有自变量的非线性函数，则这样的规划问题就是非线性规划。
有些实际问题可以表示成线性规划，但有些实际问题则需要用非线性规划模型来表达。
例1 求X ，使得⎪⎩⎪⎨⎧≥≤+--+=0,623108)(max 2121222121x x x x x x x x X f （1） 该数学模型中目标函数是一个二次函数，因此它是一个非线性规划。
又如：求X ，使得⎪⎪⎩⎪⎪⎨⎧≥≤-≤+-++=0,12256232)(max 212214221321432221x x x x x x x x x x x X f （2） 是一个非线性规划。
1.1 非线性规划问题的数学模型非线性规划数学模型的一般形式为⎪⎩⎪⎨⎧=≥==lj X g m i X h X f j i ,,2,1,0)(,,2,1,0)()(min （3） 其中T n x x x X ),,,(21 =是n 维欧氏空间n E 中的向量（点），)(X f 是目标函数，0)( 0)(≥=X g X h j i 和为约束条件，)(X f 、)( )(X g X h j i 和都是n 元实函数。
说明：（1）由于我们有 )](min[)(max X f X f --=，当需使目标函数极大化时，只需使其负值极小化即可，因而仅考虑极小化的情况不失一般性。
（2）若某约束条件是“≤”不等式，仅需要在约束两端乘以“－1”，即可将这个约束变为“≥”。
又由于约束0)(=X h i 等价于)(0)(≥-≥X h X h i i因而我们可以将非线性规划模型写成下面的形式：⎩⎨⎧=≥lj X g X f j ,,2,1,0)()(min （4）或⎩⎨⎧=≥=∈},,2,1,0)({),(min l j X g X R R X X f j （5）模型中的R 称为非线性规划的可行域，而R 中的元素X 称为可行解。
《非线性规划》课件
非线性规划的约束条件
非线性规划的约束条件是指限制问题解的一组方程或不等式。这些约束条件可以包括物理限制、资源约 束和行为限制等。
非线性规划的求解方法
线性化方法
将非线性问题转化为等价的 线性问题，然后使用线性规 划方法求解。
牛顿法
使用牛顿迭代法逐步逼近最 优解。
拟牛顿法
使用近似Hessian矩阵的方法 优化牛顿法。
变尺度法、全局优化方法
1
变尺度法
通过改变尺度，将问题转化为更易求解的形式。
2
全局优化方法
使用启发式算法寻找全局最优解。
非线性规划的应用领域
生产计划问题
优化生产计划，提高效率和利润。
交通运输问题
优化交通网络和运输流程。
优化电力系统
使电力系统运行更加高效和可靠。
决策支持系统
为决策者提供优化建议和决策支持。
医资源分配和治疗方案。
非线性规划的挑战
复杂的问题结构和求解困难。
未来的研究方向
未来的研究方向包括改进算法性能、适用于大规模问题的方法和考虑不确定性的优化模型等。
《非线性规划》PPT课件
在这个《非线性规划》PPT课件中，我们将深入探讨非线性规划的各个方面， 并介绍其在不同领域的应用。让我们一起开启这个激动人心的学习之旅！
什么是非线性规划？
非线性规划是一种在优化问题中寻找最优解的数学方法。它处理的是有非线 性约束条件和目标函数的优化问题。
非线性规划的优化目标
非线性规划求解
1 1
x1 x2
2．输入命令：
H=[1 -1; -1 2]; c=[-2 ;-6];A=[1 1; -1 2];b=[2;2]; Aeq=[];beq=[]; VLB=[0;0];VUB=[]; [x,z]=quadprog(H,c,A,b,Aeq,beq,VLB,VUB)
i =1 i =1
m
m
1 g i X
其中称 r lng i X 或 r
i =1 i =1
m
m
1 为障碍项， r为障碍因子. g i X
这样问题（1）就转化为求一系列极值问题： min I X , r
X D
0
k
得 X（r ）.
k
k
内点法的迭代步骤
(1) 给定允许误差 0 ，取r1
??xfdx?min定义2对于问题1设若存在使得对一切且都有则称x是fx在d上的局部极小值点局部最优解特别地当时若dx?0??dx????xxxx????xfxf?nrx???????njirxxhxgxd????00局部极小值点局部最优解
数学建模与数学实验
非线性规划
实验目的
1． 直观了解非线性规划的基本内容．
2． 掌握用数学软件求解优化问题．
实验内容
1．非线性规划的基本理论．
2． 用数学软件求解非线性规划． 3． 钢管订购及运输优化模型． 4．实验作业．
非线性规划
非线性规划的基本概念
*非线性规划的基本解法
返回
非现性规划的基本概念 定义 如果目标函数或约束条件中至少有一个是非线性函数, 则最优 x 2 2 2 0 x 1 0 x 2
非线性规划的概念和原理
第五章 非线性规划的概念和原理非线性规划的理论是在线性规划的基础上发展起来的。
1951年，库恩（H.W.Kuhn ）和塔克（A.W.Tucker ）等人提出了非线性规划的最优性条件，为它的发展奠定了基础。
以后随着电子计算机的普遍使用，非线性规划的理论和方法有了很大的发展，其应用的领域也越来越广泛，特别是在军事，经济，管理，生产过程自动化，工程设计和产品优化设计等方面都有着重要的应用。
一般来说，解非线性规划问题要比求解线性规划问题困难得多，而且也不像线性规划那样有统一的数学模型及如单纯形法这一通用解法。
非线性规划的各种算法大都有自己特定的适用范围。
都有一定的局限性，到目前为止还没有适合于各种非线性规划问题的一般算法。
这正是需要人们进一步研究的课题。
5.1 非线性规划的实例及数学模型[例题6.1] 投资问题：假定国家的下一个五年计划内用于发展某种工业的总投资为b 亿元，可供选择兴建的项目共有几个。
已知第j 个项目的投资为j a 亿元，可得收益为j c 亿元，问应如何进行投资，才能使盈利率（即单位投资可得到的收益）为最高？解：令决策变量为j x ，则j x 应满足条件()10j j x x -= 同时j x 应满足约束条件1nj jj a xb =≤∑目标函数是要求盈利率()1121,,,njjj n nj jj c xf x x x a x===∑∑最大。
[例题6.2] 厂址选择问题：设有n 个市场，第j 个市场位置为(),j j p q ，它对某种货物的需要量为j b ()1,2,,j n =。
现计划建立m 个仓库，第i 个仓库的存储容量为i a ()1,2,,i m =。
试确定仓库的位置，使各仓库对各市场的运输量与路程乘积之和为最小。
解：设第i 个仓库的位置为(),i i x y ()1,2,,i m =，第i 个仓库到第j 个市场的货物供应量为i j z ()1,2,,,1,2,,i m j n ==，则第i 个仓库到第j 个市场的距离为i j d =目标函数为1111mnmni ji j i ji j i j zd z =====∑∑∑∑约束条件为：（1） 每个仓库向各市场提供的货物量之和不能超过它的存储容量； （2） 每个市场从各仓库得到的货物量之和应等于它的需要量； （3） 运输量不能为负数。
非线性规划基本概念
序列二次规划法原理及步骤
• 原理：序列二次规划法是一种迭代求解非线性规划问题的方法。它在每次迭代中构造一个二次规划子问题，通 过求解该子问题得到原问题的一个近似解，然后利用该近似解的信息构造下一个二次规划子问题，如此循环直 至收敛到最优解。
序列二次规划法原理及步骤
2. 求解二次规划子问题，得到近 似解。
与线性规划不同，非线性规划中的目标函数或约 束条件至少有一个是非线性的。
非线性规划问题通常更加复杂，需要采用特定的 算法和工具进行求解。
非线性规划重要性
01
广泛适用性
非线性规划在各个领域都有广泛 应用，如经济、金融、工程、管 理等。
02
解决复杂问题
03
推动技术进步
非线性规划能够处理涉及复杂非 线性关系的问题，提供更精确的 解决方案。
THANKS
感谢观看
REPORTING
https://
VS
5. 判断终止条件
若满足终止条件，则停止迭代，输出当前 迭代点作为近似最小值点；否则，返回步 骤2继续迭代。
拟牛顿法原理及步骤
原理
1. 初始化
拟牛顿法是一种改进牛顿法的方法， 其基本思想是通过构造一个近似海森 矩阵的逆矩阵来避免直接计算海森矩 阵及其逆矩阵。拟牛顿法利用目标函 数的一阶导数信息来构造一个满足拟 牛顿条件的矩阵来逼近海森矩阵的逆 矩阵，从而在保证收敛速度的同时降 低了计算复杂度。
选择初始点 x0，设置迭代终止条件。 初始化拟牛顿矩阵 B0（或其逆矩阵 H0）。
2. 计算梯度
计算函数在 x0 处的梯度 g0 和 g1。
拟牛顿法原理及步骤
3. 求解搜索方向 通过解线性方程组 Bdp = -gp 或 Hdp = -gp 得到搜索方向 dp。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第一章非线性规划理论（1）第一节非线性优化规划模型及其解的概念, 第二节凸函数与凸规划, 第三节下降迭代算法第四节一维搜索方法第一节非线性优化规划模型及其解的概念线性规划的目标函数和约束条件都是其自变量的线性函数，如果目标函数或约束条件中含有自变量的非线性函数，则这样的规划问题就是非线性规划。
有些实际问题可以表示成线性规划，但有些实际问题则需要用非线性规划模型来表达。
例1 求，使得（1）该数学模型中目标函数是一个二次函数，因此它是一个非线性规划。
又如：求，使得（2）是一个非线性规划。
1.1 非线性规划问题的数学模型非线性规划数学模型的一般形式为（3）其中是维欧氏空间中的向量（点），是目标函数，为约束条件，、都是元实函数。
说明：（1）由于我们有，当需使目标函数极大化时，只需使其负值极小化即可，因而仅考虑极小化的情况不失一般性。
（2）若某约束条件是“”不等式，仅需要在约束两端乘以“－1”，即可将这个约束变为“”。
又由于约束等价于因而我们可以将非线性规划模型写成下面的形式：（4）或（5）模型中的称为非线性规划的可行域，而中的元素称为可行解。
1.2 二维问题的图解法当只有两个决策变量时，求解非线性规划也可以像线性规划那样用图解法。
例2解：先画出可行域X2ABCDO x1可行域等值线最优解画出抛物线，即图中的曲线，再画出直线，即图中的直线，得可行域。
画出等值线，图中有一条等值线与抛物线交于B点，当动点从A点出发延抛物线移动时，动点从A移向B时，目标函数值下降，动点从B移向C 时，目标函数值上升，所以在可行域范围内B点的函数值最小，所以B 点是一个极小点。
当动点由C点向D点移动时，目标函数再次下降，在D（4，1）点目标函数值最小，所以D点是最优解。
本例中，B点称为局部极小点，而D点称为全局极小点，即最小点。
1.3 非线性规划的基本概念1.3.1关局部极小和全局极小的定义设为定义在维欧氏空间的某一个区域上的元实函数，对于，如果存在某一个使得所有与距离小于的都有，则称为在上的局部极小点，而为局部极小值。
如果当时，有，则称为在上的严格局部极小点，而为严格局部极小值。
设为定义在维欧氏空间的某一个区域上的元实函数，如果存在，对于所有，都有，则称为在上的全局极小点，而为全局极小值。
如果当时，有，则称为在上的严格全局极小点，而为严格全局极小值。
若将上述的不等式反向，即可得到相应极大点和极大值的定义。
1.3.2 多元函数极值点存在的条件我们知道对于二阶可微的一元函数极值点存在的条件为必要条件：充分条件：对于极小点：且对于极大点：且对于无约束多元函数，其极值点存在的必要条件和充分条件与一元函数类似。
1、极值点存在的必要条件下面的定理1给出了元实函数在点取得极值的必要条件。
定理1 设是维欧氏空间的上的某一个开集，在上有连续的一阶偏导数，且在取得局部极值，则必有（6）或写成（7）此处（8）为在点处的梯度。
满足条件的称为的驻点或稳定点。
注：由数学分析知识可知，函数的梯度有两个重要性质：（1）函数在某点的梯度与函数过该点的等值面（或等值线）正交；（2）梯度向量的方向是函数值增加最快的方向，而负梯度向量的方向是函数值减少最快的方向。
2、二次型二次型是的二次齐次函数（9）式中，即矩阵（10）为对称矩阵。
一个二次型唯一对应一个对称矩阵，反之一个对称矩阵也唯一确定一个二次型。
若对于任意，实二次型，则称二次型是正定的，也称对称矩阵为正定的；若对于任意，实二次型，则称二次型是负定的，也称对称矩阵为负定的；若对于任意，实二次型，则称二次型是半正定的，也称对称矩阵为半正定的；若对于任意，实二次型，则称二次型是半负定的，也称对称矩阵为半负定的。
由线性代数知道，实二次型是正定（对称矩阵为正定）的充要条件是对称矩阵左上角各阶主子式都大于零，即（11）实二次型是负定（对称矩阵为负定）的充要条件是对称矩阵左上角各阶主子式负正相间，即（12）（13）3、极值点存在的充分条件下面的定理2给出了元实函数在点取得极小值的充分条件。
定理2 设是维欧氏空间的上的某一个开集，在上具有连续的二阶偏导数，若，且正定，则为的严格局部极小点。
其中（14）为在点处的海赛（Hesse）矩阵。
第二节凸函数与凸规划2.1 凸函数与凹函数1、定义设是定义在维欧氏空间的上的某一个凸集上的函数，若，，恒有（15）则称为定义在的凸函数。
若，，恒有（16）则称为定义在的严格凸函数。
若将式子（15）和（16）中不等号反向，即可得出凹函数和严格凹函数的概念。
容易看出，若是凸函数（严格凸函数），则为凹函数（严格凹函数），凸函数和凹函数的几何意义如图所示。
OO凸函数凹函数2、性质性质1 设是定义在上的凸函数，，则也是凸函数。
性质2 设在凸集上的函数，是任意实数，则水平集是凸集。
3、凸函数的判别要判定一个函数是否为凸函数，可以直接使用凸函数的定义，也可以采用下面的判别法。
（1）一阶条件设是维欧氏空间的上的某一个开凸集，在上可微，则为上的凸函数的充要条件是：恒有（17）而为上的严格凸函数的充要条件是：，恒有（18）若将式子（17）和（18）中不等号反向，即可得出凹函数和严格凹函数的充要条件。
（2）二阶条件设是维欧氏空间的上的某一个开凸集，在上二阶可微，则为上的凸函数（凹函数）的充要条件是：，其海赛矩阵是半正定（半负定）的。
而，的海赛矩阵是正定（负定）的，则为上的严格凸函数（严格凹函数）。
4、凸函数的极值函数的局部极值并不一定是最小值，它只反映了函数的局部性质，而最优化的目的往往是求出函数在整个区域中的最小值（或最大值）。
为此，必须求出所有的极小值加以比较（有时还需考虑其边界值），以便从中选出最小值。
然而，对于定义在凸集上的凸函数而言，则用不着进行这种麻烦的工作，它的极小值就等于其最小值，而且它的极小点形成一个凸集。
由一阶条件可得：设是维欧氏空间的上的某一个开凸集，是上的可微凸函数，如果使得对于所有的都有，（19）则就是在上的最小点（全局极小点）。
2.2 凸规划现在考虑非线性规划（4）：（4）或（5）若其中的为凸函数，全是凹函数（即全是凸函数），则称这种规划为凸规划。
凸规划具有下面很好的性质：（1）凸规划的可行域为凸集；（2）凸规划的最优解集是凸集；（3）凸规划的任何局部最优解也是全局最优解；（4）若目标函数为严格凸函数，且最优解存在，则最优解是唯一的。
由于线性函数既可视为凸函数，又可视为凹函数，故线性规划是凸规划。
例3 试分析非线性规划解：函数和的海赛矩阵的行列式为知为严格凸函数，为凹函数，由于其他约束是线性函数，所以这个非线性规划是一个凸规划，C点是它的唯一最优点：。
CO第三节下降迭代算法由前面的讨论可知，对于可微函数，为了求其最优解，可以令其梯度等于零，求出驻点，然后再用充分条件判别，以求得最优解。
从表面上看，似乎问题已经解决，但是对于一般的元函数来说，由条件得到的常常是一个非线性方程组，求解它相当困难。
此外，许多实际问题往往很难求出或根本求不出目标函数对各个自变量的偏导数，从而使一阶必要条件难以应用。
为了解决非线性规划的计算问题本节介绍迭代法。
迭代法的基本思想为：我们并不一下子就能找出函数的最优点，而是从最优点的某一个初始估计出发，按照一定的规则（即所谓算法），先找出一个比更好的点（对于极小化问题来说，比更小；对于极大化问题来说，比更大），再找出比更好的点，…….如此下去，就产生了一个解的序列。
若该点列有一个极限点，即（20）就称该点列收敛于。
对于极小化问题，我们要求选取的某一种算法所产生的解的序列其对应的目标函数值应是逐步减小的，即要求具有这种性质的算法称为下降迭代法。
下降迭代法的一般迭代格式为：（1）选取某一个初始点，令（表示将0赋值于变量）；（2）确定搜索方向：若已得出某一个迭代点，且不是极小点，从出发确定一个搜索方向，沿这个方向应能找到使的目标函数下降的点（对约束问题，有时还要求这样的点是可行的点）。
（3）确定步长。
沿方向前进一个步长，得新的点。
即在由出发的射线上，通过选定步长（因子），得下一个迭代点使得（4）检验新得到点是否为要求的极小点或近似的极小点，如果满足要求，迭代停止，否则，令，返回（2）部继续迭代。
注：在以上步骤中选定搜索方向对算法起着关键的性的作用，各种算法的区分主要在于搜索方向的方法不同。
在许多算法中，步长的选取是由使目标函数值沿搜索方向下降最多（极小问题）为依据的，即沿射线求的极小，即选取使（21）由于这一工作是求以为变量的一元函数的极小点，故称这一过程为（最优）的一维搜索，由此确定的步长称为最佳步长。
这种搜索有一个重要性质，就是在搜索方向上所得最优点处的梯度和该搜索方向正交，即有下面的定理。
定理3 设目标函数具有连续的一阶偏导数，按下述规则产生则有（22）如图所示。
由于真正的极值点事先并不知道，故在实际只能根据相继两次迭代得到的计算结果来判断是否已达到要求，从而需要有下面的终止迭代计算准图1则，常用的准则有：（1）根据相继两次迭代结果的绝对误差：（2）根据相继两次迭代结果的相对误差：（3）根据函数梯度的模足够小：其中为足够小的正数。
第四节一维搜索方法当用到上述迭代法求函数极小点时常常要用到一维搜索，即沿某个一直方向求目标函数的极小点。
一维搜索的方法很多，试探法（斐波那契法（Fibonacci分数法、0.618法），插值法等。
1、斐波那契法（Fibonacci）设是区间上的下单峰函数，在此区间内有唯一的极小点，在的左侧函数是严格下降的，而在的右侧函数是严格上升的，若在此区间内任取O a0 t* t1s1b0O a0 t1s1t* b0图2 图3两个点，计算函数值，，则可能出现一下两种情况：（1）（图2），此时极小点必在区间内；称为保留区间，此时称为保留点。
（2）（图3），此时极小点必在区间内。
此时为保留区间，而为保留点。
即将区间原来缩小为仍包括极小点的区间或。
若再继续下去，为了利用已计算的函数值或，将前一次的保留点作为一个试算点，只需在或内选取一个新的试算点即可。
例如假如在区间内，取试算点（保留点），再选一个作为另一个试算点，一般可以取，即，在区间上与对称，如图4所示)，只需计算出，即可与比较。
如此继续下去，最终可以得到满足一定误差要求的的近似解。
我们称这种方法为序惯试验法。
0 a1 t2 s2b1试问如何选取试算点，通过计算次函数值能将长度的区间缩成长度为一个单位的区间呢？假设是斐波那契（Fibonacci）数列，即，（23）利用上述公式可以计算出各个的值如下表1012345678910111213…1123581321345589144233377…若经过次函数值计算，将长度为的区间缩成长度为一个单位的区间，则缩短后的区间长度1与原来区间的长度之比称为缩短率。