《最优化概述》PPT课件

min f (x), s.t.ci (x) 0, i 1,, m
最优化问题的分类
最优化问题
根据函 数性质、 复杂程 度分类
连续最优化：决策变量取值连续 光滑最优化：函数连续可微 线性规划
非线性最优化
非光滑优化：有一个非光滑
离散最优化：决策变量取值离散
线性规划问题
• 连续光滑的最优化问题，若目标函数和约束函数都是
A2 x b(2) .

其中 G为 n n阶对称矩阵.
最优解的定义
1 整体最优
y=6 y=sin(x)
2 局部最优
15
全局最优解与局部最优解
•例
ac
d
eb
• 注1：并非所有连续可微函数都有极小解.
• 注2：即使问题有最优解，最优解也未必唯一，也未
必是全局最优解.
极值问题
• 回顾 极值问题： • 1、 f(x0)是函数f(x)的一个极大值这一概念是怎
变量x (x1, , xn )T 的线性函数，则称为线性规划问
题.
•
一般m形in式c1：x1 c2 x2 s.t. a11x1 a12 x2
c n
xn a1n
xn

b1 ,




am1x1 am2 x2 amn xn bm ,

am1,1x1 am1,2 x2 am1,n xn bm1,
样叙述的？ • 2、 f(x0)是函数f(x)的一个极小值这一概念是怎
样叙述的？ • 3、求函数的极值的步骤是哪几步？
定 义 ： 设 函 数 f (x) 在 点 X0 的 某 邻 域 U (x0 ) 上 有 定 义 ， 若 对 x U (x0 ) 有 f (x) f (x0 ) ，（ f (x) f (x0 ) ）
最优化问题举例(2)
例题2：有一边长为48厘米的正方形铁皮， 从它的四个角截去相等的小正方形，然后折起各 边做一个无盖的铁盒，问在四角截去多大的小正
方形，才能使所做的铁盒容积最大？
48-2x
x
x
48-2x
48
5
最优化问题举例(3)
如图,靠墙建一个矩形的操场,现只有围60米 的建筑材料.
问长和宽怎样选取,可以使操场的面积最大?
第1-3节 最优化问题简介
• 什么是最优化 • 最优化问题的分类 • 相关概念
什么是最优化
• 最优化：在众多可行方案或方法中找到最好的方 案或方法，构造寻求最优解的计算方法.
金融
交通运输
工业生产
收益最大或 风险最小
两地之间的输送管 道或运输路线在满 足要求的条件下尽
可能短
汽车生产中希望 用同样面积的钢 板切割尽可能多
x1
有效约束、无效约束与内点、边界点
• 有效(积极\起作用)约束：对于可行点 x，考虑不等式 约束 ci (x) 0，若 ci (x) ，0 就称约束 ci (x) 0在 点 是x有效约束，并称可行点 位x 于约束ci (x) 0的
• 解：设产品 Q j日产量 x 个j 单位，j 1,2,3,
ms.ta. x232xxx112
5x2 3x2 4x3
4x3 1500, 800,
总利润
原料日消耗量 不超过可用量

3x12x2 5x3 2000,
x j 0, j 1,2,3.




a p1x1 a p2 x2 a pn xn bp .
二次规划问题
• 目标函数是变量 x 的二次函数，约束函数都是变量 x
的线性函数，称为二次规划问题. • 一般形式：
min s.t.
q(x) A1x b
1 2
(1)
xT ,
Gx

c
T
x

d

最大值和最小值统称最值。
19
求函数最值的一般方法
•
先求出f(x)在[a,b]内的所有驻点（
或不可导但连续的点），
• 将这些点的函数值与区间端点的函 数值f(a),f(b)进行比较，
• 其中最大（小）的就是函数在区间 [a,b]上的最大（小）值
20
y
f (b) y=f (x)
f (x0)
0aຫໍສະໝຸດ x0b的外壳
最优化问题举例(1)-生产计划
• 某工厂用3种原料 P1, P2 , P3
生产3种产品 Q1, Q2 , Q3
已知单位产品所需原料及利润如下，试制定总利润最 大的生产计划.
产品 原料
Q1
每日原料可
Q2
Q3
用量
P1
2
3
0
1500
P2
0
2
4
800
P3
3
2
5
2000
单位产品利
3
5
4
润（千元）
最优化问题举例(1)-生产计划
x
可以看出,函数在区间[a ,b]上的最大值和最小值要么是区间 端点的函数值，要么是极值。
而极值点又包括在驻点中，因此我们只要把驻点的函数值及区
间端点的函数值都求出来，放在一起比较大小，就能找出最大
值和最小值来。最大值和最小值统称最值。
21
最优解的性质
22
可行点与可行域
• 满足最优化问题的一般形式（1）中所有约束条件的点
x
6
最优化问题举例(4)
7
最优化问题一般形式
8
怎么定义解？ 一定有解吗？
为什么没有<号，为什么没有>号？
9
优化问题分类
10
最优化问题的分类
最优化问题
根据约束 条件分类
无约束优化问题
min f (x), x Rn.
约束优化问题 等式约束优化问题
不等式约束优化问题 混合约束问题
min f (x), s.t.ci (x) 0, i 1,, m
称为可行点, 所有可行点的集合称为可行域. 用 F 表示可
行域，即
F x ci (x) 0,i 1, 2,, m, ci (x) 0,i m 1,, p.
•例
c1(x) 2x1 3x2 x3 6 0,
x1 0,
x2 0,
x3
x3 0.
x2
定义：设函数 f (x) 在点 X0 处的得极大值（极小值）点 X0 称为极大点（极小点）， 极大值，极小值统称为极值，极大点，极小点统称为极点。
17
y f (b)
f (x0)
y=f (x)
0
a
x0
b
x
18
最值问题
函数的最大值与最小值 定义: 设f(x)是区间[a,b]上的连续函数，如果 存 在 点 x0∈[a,b] ， 使 得 对 于 所 有 x∈[a,b] ， 都 有 f(x)≤f(x0)（或f(x)≥f(x0)），则称 f(x0)是函数f(x)在[a,b]上的最大值（或最小值）。