东北大学最优化第三章 例题(新)
东北大学最优化第一章例题
=
x (2) 1
-
x (1) 1
+
(2x
(1) 2
-
5)(x
(2 2
)
-
x (1) 2
)
[ ] r
-s1(x2 ) -
r -s1 (x1 )
{ } -
Ñ[
-
s1
(
r x1
)]
Tr r (x2 - x1 )
=
x (2) 1
-
x (1) 1
+ [x2(2) ]2
- [x2(1) ]2
-
5 éë x 2( 2)
-s1(x1) =
1, 2x2
-
5
T
,
r x1
=
é ê ë
x (1) 1
x (1) 2
ù ú, û
r x2
x (1) 1
+
[
x (1) 2
]2
-
5 x2(1)
,
=
é ê ë
x (2) 1
x (2) 2
ù ú, û
r -s2 (x2 )
=
x (2 ) 1
+
[ x2( 2)
]2
-
5 x2( 2)
,
r -s1(x2
s.t
x1
+
x
2 2
- 5x2
=
0,
x1 + x2 - 5 ³ 0,
x1 ³ 0,
x2 ³
解：①画出目标函数
0.
r f (x)
=
(x1
-
7 )2 4
+
(x2
-
5 )2 2
最优化方法教案 东北大学
第一章最优化问题与数学预备知识最优化分支：线性规划，整数规划，几何规划，非线性规划，动态规划。
又称规划论。
应用最优化方法解决问题时一般有以下几个特点：1. 实用性强2. 采用定量分析的科学手段3. 计算量大，必须借助于计算机4. 理论涉及面广应用领域：工业，农业，交通运输，能源开发，经济计划，企业管理，军事作战……。
§1.1 最优化问题实例最优化问题：追求最优目标的数学问题。
经典最优化理论：（1） 无约束极值问题：),,,(opt 21n x x x f（),,,(min 21n x x x f 或),,,(max 21n x x x f ）其中，),,,(21n x x x f 是定义在n 维空间上的可微函数。
解法（求极值点）：求驻点，即满足⎪⎪⎩⎪⎪⎨⎧='='='0),,(0),,(0),,(11121n x n x n x x x f x x f x x f n并验证这些驻点是否极值点。
（2） 约束极值问题：),,,(opt 21n x x x fs.t. )(,,2,1,0),,,(21n l l j x x x h n j <==解法：采用Lagrange 乘子法，即将问题转化为求Lagrange 函数),,(),,,(),,;,,,(1121121n j j lj n l n x x h x x x f x x x L λλλ∑=+=的无约束极值问题。
近代最优化理论的实例：例1 (生产计划问题) 设某工厂有3种资源B 1，B 2，B 3，数量各为b 1，b 2，b 3，要生产10种产品A 1，…，A 10 。
每生产一个单位的A j 需要消耗B i 的量为a ij ，根据合同规定，产品A j 的量不少于d j ，再设A j 的单价为c j 。
问如何安排生产计划，才能既完成合同，又使总收入最多？（线性规划问题）数学模型：设A j 的计划产量为 j x ，z 为总收入。
最优化方法习题答案
最优化方法习题答案最优化方法习题答案最优化方法是数学中一门重要的学科，它研究如何找到使函数取得最大值或最小值的方法。
在实际问题中，最优化方法被广泛应用于经济学、工程学、管理学等领域。
本文将为读者提供一些最优化方法习题的答案，希望能够帮助读者更好地理解和应用这一学科。
一、单变量函数的最优化问题1. 求函数f(x) = x^2 - 2x + 1在区间[0, 3]上的最小值。
解：首先，我们需要找到函数f(x)的驻点。
计算f'(x) = 2x - 2，并令其等于零，得到x = 1。
然后，我们计算f''(x) = 2，发现在x = 1处，f''(x)大于零，说明该点是函数的极小值点。
接下来，我们需要检查区间的端点和驻点，找到函数f(x)在这些点的函数值。
f(0) = 1，f(1) = 0，f(3) = 4。
由于f(1)是最小的函数值，因此函数f(x)在区间[0, 3]上的最小值为0。
2. 求函数f(x) = e^x - 2x在整个实数轴上的最小值。
解：首先，我们计算f'(x) = e^x - 2，并令其等于零，得到x = ln(2)。
然后，我们计算f''(x) = e^x，发现在x = ln(2)处，f''(x)大于零，说明该点是函数的极小值点。
接下来，我们需要检查整个实数轴上的函数值。
由于函数f(x)在x趋近负无穷大时趋于负无穷大，而在x趋近正无穷大时趋于正无穷大，因此函数f(x)在整个实数轴上没有最小值。
二、多变量函数的最优化问题1. 求函数f(x, y) = x^2 + y^2 - 2x - 4y在闭区域D={(x, y)|0≤x≤2, 0≤y≤3}上的最小值。
解：首先，我们需要找到函数f(x, y)的驻点。
计算f_x(x, y) = 2x - 2和f_y(x, y) = 2y - 4，并令它们同时等于零，得到x = 1和y = 2。
高中同步创新课堂数学优化方案习题北师大必修：第三章章末综合检测三 含解析
章末综合检测(三)(时间：120分钟，满分：150分)一、选择题(本大题共12小题，每小题5分，共60分．在每小题给出的四个选项中，只有一项是符合题目要求的)1．下列函数是幂函数的是( )A ．y ＝2x 2B ．y ＝x 3＋xC ．y ＝3xD ．y ＝x 12答案：D2．若函数y ＝f (x )是函数y ＝3x 的反函数，则f ⎝ ⎛⎭⎪⎫12的值为( )A ．－log 23B ．－log 32 C.19 D. 3解析：选B.因为y ＝f (x )与y ＝3x 互为反函数，所以f (x )＝log 3x ，所以f ⎝ ⎛⎭⎪⎫12＝log 312＝－log 32.3．已知log 2m ＝2.016，log 2n ＝1.016，则nm 等于( ) A ．2 B.12 C ．10D.110解析：选B.因为log 2m ＝2.016，log 2n ＝1.016，所以m ＝22.016，n ＝21.016，所以n m ＝21.01622.016＝12.4．已知a >0且a ≠1，下列四组函数中表示相等函数的是( ) A ．y ＝log a x 与y ＝(log x a )－1 B ．y ＝2x 与y ＝log a a 2x C ．y ＝a log a x 与y ＝x D ．y ＝log a x 2与y ＝2log a x解析：选B.对于A ：y ＝log a x 、y ＝(log x a )－1的定义域分别为(0，＋∞)、(0，1)∪(1，＋∞)，排除A ；对于C ：y ＝a log a x 、y ＝x 的定义域分别为(0，＋∞)、R ，排除C ；对于D ：y ＝log a x 2、y ＝2log a x 定义域分别为(－∞，0)∪(0，＋∞)、(0，＋∞)，排除D ，故选B.5．三个数e －2，log 0.23，ln π的大小关系为( ) A ．log 0.23<e －2<ln π B ．e －2<ln π<log 0.23 C ．e －2<log 0.23<ln π D ．log 0.23<ln π<e －2解析：选A.由y ＝e x 、y ＝log 0.2x 和y ＝ln x 可知0<e －2<1，log 0.23<0，ln π>1，故选A.6．已知f (x )＝3x －b (2≤x ≤4，b 为常数)的图像经过点(2，1)，则f (x )的值域为( ) A ．[9，81] B ．[3，9] C ．[1，9] D ．[1，＋∞)解析：选C.由f (x )过定点(2，1)可知b ＝2，由f (x )＝3x －2在[2，4]上是增函数，f (x )min ＝f (2)＝1，f (x )max ＝f (4)＝9，可知C 正确．7．已知0<a <1，函数y ＝a x 与y ＝log a (－x )的图像可能是( )解析：选D.因为0<a <1，所以y ＝a x ，y ＝log a x 在各自定义域内均是递减的，又因为y ＝log a x 和y ＝log a (－x )关于y 轴对称，故选D.8．已知f (x )＝⎩⎪⎨⎪⎧12x ，x ≥4，f （x ＋1），x <4，则f (log 23)＝( )A.124 B ．－238 C.111 D.119解析：选A.因为1<log 23<2，所以2<log 23＋1<3，3<log 23＋2<4，4<log 23＋3<5，所以f (log 23)＝f (log 23＋1)＝f (log 23＋2)＝f (log 23＋3)＝12log 23＋3＝12log 23·23＝124. 9．函数f (x )＝log 22－x2＋x的图像( ) A ．关于原点对称B ．关于直线y ＝－x 对称C ．关于y 轴对称D ．关于直线y ＝x 对称 解析：选A.由2－x 2＋x >0，解得x ∈(－2，2)，f (－x )＝log 22＋x 2－x ＝－log 22－x2＋x ＝－f (x )，故f (x )为奇函数，因此f (x )的图像关于原点对称．10．已知函数f (x )＝log a (6－ax )(a ＞0且a ≠1)在[0，2]上为减函数，则实数a 的取值范围是( )A ．(0，1)B ．(1，3)C ．(1，3]D ．[3，＋∞)解析：选B.由于a ＞0，x ∈[0，2]，则g (x )＝6－ax 是减函数．要使f (x )＝log a (6－ax )在[0，2]上是减函数，根据复合函数的单调性可知，⎩⎪⎨⎪⎧a ＞1，g （2）＞0，所以⎩⎪⎨⎪⎧a ＞1，6－2a ＞0，所以1＜a ＜3，故选B.11．已知函数f (x )＝⎩⎪⎨⎪⎧log 2x ，x ＞0，log 12（－x ），x ＜0，若f (a )＞f (－a )，则实数a 的取值范围是( )A ．(－1，0)∪(0，1)B ．(－∞，－1)∪(1，＋∞)C ．(－1，0)∪(1，＋∞)D ．(－∞，－1)∪(0，1)解析：选C.当a ＞0时，f (a )＝log 2a ，f (－a )＝log 12a ，f (a )＞f (－a )，即log 2a ＞log 12a ＝log 21a ，所以a ＞1a ，解得a ＞1.当a ＜0时，f (a )＝log 12(－a )，f (－a )＝log 2(－a )，f (a )＞f (－a )，即log 12(－a )＞log 2(－a )＝log 12⎝⎛⎭⎪⎫1－a ，所以－a ＜1－a，解得－1＜a ＜0，综上得－1＜a ＜0或a ＞1.12．若函数f (x )＝⎩⎨⎧2x ，－2≤x <0，g （x ）－log 5（x ＋5＋x 2），0<x ≤2是奇函数，当0<x ≤2时，g (x )的最大值为( )A.14 B ．－34 C.34 D ．－14解析：选C.当x ∈(0，2]时，－x ∈[－2，0)，f (－x )＝2－x ，又因为f (x )为奇函数，f (－x )＝－f (x )，所以当x ∈(0，2]时，f (x )＝－2－x .故g (x )＝log 5(x ＋5＋x 2)－(12)x ，易知在(0，2]上，g (x )是递增的，g (x )max ＝g (2)＝1－14＝34.二、填空题(本大题共4小题，每小题5分，共20分．把答案填在题中的横线上)13．函数y ＝2a x －1＋1(a >0且a ≠1)的图像恒过定点________．解析：当x －1＝0，即x ＝1时，y ＝2a 0＋1＝3，故该函数图像恒过定点(1，3)． 答案：(1，3)14．若f (lg x )＝x ，则f (3)＝________．解析：lg x ＝3，解得x ＝103＝1 000. 答案：1 00015．已知函数f (x )的图像如图，试写出一个可能的解析式为________．解析：由函数图像随着x 增加，函数值增加越来越慢，当x 趋近0时，y 趋近于－∞，故该函数可为对数函数，设f (x )＝log a x ，log a 10＝3，a ＝310，故f (x )＝log 310x .答案：f (x )＝log 310x16．若f (x )＝lg(10x＋1)＋ax 是偶函数，g (x )＝4x －b2x 是奇函数，则a ＋b 的值为________．解析：由f (x )为偶函数知f (－x )＝f (x )，即lg(10－x ＋1)－ax ＝lg(10x ＋1)＋ax ，即lg(10x ＋1)－x －ax ＝lg(10x ＋1)＋ax ，即(2a ＋1)x ＝0，因为x ∈R ，所以2a ＋1＝0，即a ＝－12.由g (x )为奇函数，又x ∈R ，所以g (0)＝0＝1－b 1，所以b ＝1，所以a ＋b ＝12.答案：12三、解答题(本大题共6小题，共70分．解答应写出必要的文字说明、证明过程或演算步骤)17．(本小题满分10分)计算下列各式：(要求写出必要的运算步骤)(1)0.027－13－⎝ ⎛⎭⎪⎫－16－2＋2560.75－3－1＋⎝⎛⎭⎪⎫120； (2) (log 33)2＋[log 3(1＋2＋3)＋log 3(1＋2－3)]·log 43.解：(1)原式＝⎣⎢⎡⎦⎥⎤⎝ ⎛⎭⎪⎫3103－13－36＋26－13＋1＝103＋28－13＋1＝32.(2)原式＝(log 3312)2＋log 3232·log 43＝14＋34log 32·log 23 ＝14＋34＝1.18．(本小题满分12分)已知函数y ＝a x 2 －3x ＋3在x ∈[1，3]时有最小值18，求a的值．解：令t ＝x 2－3x ＋3＝⎝ ⎛⎭⎪⎫x －322＋34，当x ∈[1，3]时，t ∈⎣⎢⎡⎦⎥⎤34，3.①若a >1，则y min ＝a 34＝18，解得a ＝116，与a >1矛盾．②若0<a <1，则y min ＝a 3＝18，解得a ＝12，满足题意．综合①，②知，a ＝12.19．(本小题满分12分)设函数f (x )＝lg 1＋2x ＋4x a3，其中a ∈R ，如果当x ∈(－∞，1]时，f (x )有意义，求a 的取值范围．解：由题意知，当x ∈(－∞，1]时，1＋2x ＋4x a3>0成立，即a >－⎝ ⎛⎭⎪⎫14x －⎝ ⎛⎭⎪⎫12x成立，令t ＝⎝ ⎛⎭⎪⎫12x ，因为x ≤1，所以t ≥12.有a >－t 2－t ⎝ ⎛⎭⎪⎫t ≥12成立，只需a >(－t 2－t )max ，而y ＝－t 2－t ⎝ ⎛⎭⎪⎫t ≥12是减函数，当t ＝12时，(－t 2－t )max ＝－34. 因此取a >－34，a 的取值范围是⎝ ⎛⎭⎪⎫－34，＋∞.20．(本小题满分12分)设a ，b 同号，且a 2＋2ab －3b 2＝0，求log 3(a 2＋ab ＋b 2)－log 3(a 2－ab ＋b 2)的值．解：因为a ，b 同号，所以b ≠0. 把方程a 2＋2ab －3b 2＝0两边同除以b 2，得⎝ ⎛⎭⎪⎫a b 2＋2·a b －3＝0， 所以⎝ ⎛⎭⎪⎫a b ＋3⎝ ⎛⎭⎪⎫a b －1＝0，解得a b ＝1或ab ＝－3(舍去)， 所以a ＝b .所以log 3(a 2＋ab ＋b 2)－log 3(a 2－ab ＋b 2)＝log 3(3a 2)－log 3a 2＝log 33＝1.21．(本小题满分12分)牛奶保鲜时间因储藏时温度的不同而不同，假定保鲜时间与储藏温度之间的函数关系是一种指数型函数，若牛奶放在0 ℃的冰箱中，保鲜时间是200 h ，而在1 ℃的温度下则是160 h.(1)写出保鲜时间y 关于储藏温度x 的函数解析式；(2)利用(1)的结论，指出温度在2 ℃和3 ℃的保鲜时间．解：(1)由于保鲜时间与储藏温度之间的函数关系是一种指数型函数，可设为y ＝t ·a x (a ＞0，且a ≠1)，由题意可得：⎩⎪⎨⎪⎧200＝t ·a 0，160＝t ·a 1，解得⎩⎨⎧t ＝200，a ＝45，故函数解析式为y ＝200×⎝ ⎛⎭⎪⎫45x.(2)当x ＝2 ℃时，y ＝200×⎝ ⎛⎭⎪⎫452＝128(h)．当x ＝3 ℃时，y ＝200×⎝ ⎛⎭⎪⎫453＝102.4(h)．故温度在2 ℃和3 ℃的保鲜时间分别为128 h 和102.4 h.22．(本小题满分12分)已知定义域为R 的函数f (x )＝b －2x2x ＋a是奇函数．(1)求a ，b 的值；(2)证明f (x )在(－∞，＋∞)上为减函数；(3)若对于任意t ∈R ，不等式f (t 2－2t )＋f (2t 2－k )＜0恒成立，求k 的取值范围． 解：(1)因为f (x )为R 上的奇函数，所以f (0)＝0，b ＝1. 又f (－1)＝－f (1)，得a ＝1.经检验a ＝1，b ＝1符合题意． (2)证明：任取x 1，x 2∈R ，且x 1＜x 2， 则f (x 1)－f (x 2)＝1－2x 12x 1＋1－1－2x 22x 2＋1＝（1－2x 1）（2x 2＋1）－（1－2x 2）（2x 1＋1）（2x 1＋1）（2x 2＋1）＝2（2x 2－2x 1）（2x 1＋1）（2x 2＋1）.因为x 1＜x 2，所以2x 2－2x 1＞0. 又因为(2x 1＋1)(2x 2＋1)＞0，所以f (x 1)＞f (x 2)，所以f (x )为R 上的减函数． (3)因为t ∈R ，不等式f (t 2－2t )＋f (2t 2－k )＜0恒成立， 所以f (t 2－2t )＜－f (2t 2－k )．因为f (x )为奇函数，所以f (t 2－2t )＜f (k －2t 2)．因为f (x )为减函数，所以t 2－2t ＞k －2t 2，即k ＜3t 2－2t 恒成立，而3t 2－2t ＝3⎝ ⎛⎭⎪⎫t －132－13≥－13.所以k ＜－13.。
最优化-刘志斌-课后习题3-5参考答案要点
练习题三1、用0.618法求解问题12)(min 30+-=≥t t t t ϕ的近似最优解，已知)(t ϕ的单谷区间为]3,0[，要求最后区间精度0.5ε=。
答：t=0.8115；最小值-0.0886.（调用golds.m 函数）（见例题讲解5） 2、求无约束非线性规划问题min ),,(321x x x f =123222124x x x x -++的最优解解一：由极值存在的必要条件求出稳定点：1122f x x ∂=-∂，228f x x ∂=∂，332fx x ∂=∂，则由()0f x ∇=得11x =，20x =，30x = 再用充分条件进行检验：2212f x ∂=∂，2228f x ∂=∂，2232f x ∂=∂，2120fx x ∂=∂∂，2130f x x ∂=∂∂，2230f x x ∂=∂∂ 即2200080002f ⎛⎫⎪∇= ⎪ ⎪⎝⎭为正定矩阵得极小点为T *(1,0,0)x =，最优值为-1。
解二：目标函数改写成min ),,(321x x x f =222123(1)41x x x -++-易知最优解为（1,0,0），最优值为-1。
3、用最速下降法求解无约束非线性规划问题。
2221212122)(min x x x x x x X f +++-= 其中T x x X ),(21=，给定初始点T X )0,0(0=。
解一：目标函数()f x 的梯度112122()()142()122()()f x x x x f x x x f x x ∂⎡⎤⎢⎥∂++⎡⎤⎢⎥∇==⎢⎥-++∂⎢⎥⎣⎦⎢⎥∂⎣⎦(0)1()1f X ⎡⎤∇=⎢⎥-⎣⎦令搜索方向(1)(0)1()1d f X -⎡⎤=-∇=⎢⎥⎣⎦再从(0)X 出发，沿(1)d 方向作一维寻优，令步长变量为λ，最优步长为1λ，则有(0)(1)0101X d λλλλ--⎡⎤⎡⎤⎡⎤+=+=⎢⎥⎢⎥⎢⎥⎣⎦⎣⎦⎣⎦故(0)(1)2221()()()2()2()2()f x f X d λλλλλλλλλϕλ=+=--+-+-+=-=令'1()220ϕλλ=-=可得11λ= (1)(0)(1)1011011X X d λ--⎡⎤⎡⎤⎡⎤=+=+=⎢⎥⎢⎥⎢⎥⎣⎦⎣⎦⎣⎦ 求出(1)X 点之后，与上类似地，进行第二次迭代：(1)1()1f X -⎡⎤∇=⎢⎥-⎣⎦ 令(2)(1)1()1d f X ⎡⎤=-∇=⎢⎥⎣⎦令步长变量为λ，最优步长为2λ，则有(1)(2)111111X dλλλλ--⎡⎤⎡⎤⎡⎤+=+=⎢⎥⎢⎥⎢⎥+⎣⎦⎣⎦⎣⎦故(1)(2)2222()()(1)(1)2(1)2(1)(1)(1)521()f x f X d λλλλλλλλλϕλ=+=--++-+-+++=--=令'2()1020ϕλλ=-=可得 215λ= (2)(1)(2)2110.8111 1.25X X d λ--⎡⎤⎡⎤⎡⎤=+=+=⎢⎥⎢⎥⎢⎥⎣⎦⎣⎦⎣⎦(2)0.2()0.2f X ⎡⎤∇=⎢⎥-⎣⎦ 此时所达到的精度(2)()0.2828f X ∇≈ 本题最优解11.5X *-⎡⎤=⎢⎥⎣⎦，()1,25f X *=-解二：利用matlab 程序求解首先建立目标函数及其梯度函数的M 文件 function f=fun(x)f=x(1)-x(2)+2*x(1)*x(1)+2*x(1)*x(2)+x(2)*x(2); function g=gfun(x)g=[1+4*x(1)+2*x(2),-1+2*x(1) +2* x(2) ]; 调用grad.m 文件 x0=[0,0];[x,val,k]=grad('fun','gfun',x0)结果x=[ -1.0000 ,1.5000] val= -1.2500 k=33即迭代33次的到最优解x=[ -1.0000 ,1.5000]；最优值val= -1.2500。
最优化设计 课后习题答案
最优化方法-习题解答张彦斌计算机学院2014年10月20日Contents1第一章最优化理论基础-P13习题1(1)、2(3)(4)、3、412第二章线搜索算法-P27习题2、4、643第三章最速下降法和牛顿法P41习题1，2，374第四章共轭梯度法P51习题1，3，6(1)105第五章拟牛顿法P73-2126第六章信赖域方法P86-8147第七章非线性最小二乘问题P98-1，2，6188第八章最优性条件P112-1，2,5,6239第九章罚函数法P132，1-(1)、2-(1)、3-(3),62610第十一章二次规划习题11P178-1（1），5291第一章最优化理论基础-P13习题1(1)、2(3)(4)、3、4 1.验证下列各集合是凸集:(1)S={(x1,x2)|2x1+x2≥1,x1−2x2≥1};需要验证：根据凸集的定义，对任意的x(x1,x2),y(y1,y2)∈S及任意的实数λ∈[0,1],都有λx+(1−λ)y∈S.即,(λx1+(1−λ)y1,λx2+(1−λ)y2)∈S证：由x(x1,x2),y(y1,y2)∈S得到，{2x1+x2≥1,x1−2x2≥12y1+y2≥1,y1−2y2≥1(1)1把(1)中的两个式子对应的左右两部分分别乘以λ和1−λ,然后再相加，即得λ(2x1+x2)+(1−λ)(2y1+y2)≥1,λ(x1−2x2)+(1−λ)(y1−2y2)≥1(2)合并同类项，2(λx1+(1−λ)y1)+(λx2+(1−λ)y2)≥1,(λx1+(1−λ)y1)−2(λx2+(1−λ)y2)≥1(3)证毕.2.判断下列函数为凸（凹）函数或严格凸（凹）函数：(3)f(x)=x21−2x1x2+x22+2x1+3x2首先二阶导数连续可微，根据定理1.5，f在凸集上是（I）凸函数的充分必要条件是∇2f(x)对一切x为半正定；（II）严格凸函数的充分条件是∇2f(x)对一切x为正定。
东北大学最优化方法全部课件
T
定义1.8 以函数 f x 的 n 个偏导数为分量的向量
f x f x , , x2 x1
f x , xn
T
。
称为 f x 在点 x 处的梯度，记为
f x 。
梯度也称为函数 f x 关于变量 于是，（1.10）可写为
, 0（正定性）； ⅲ) , 0 ,当且仅当 0 时，
向量的长 单位向量
,
arccos
1
向量的夹角 ， , 向量的正交 , 1.可微
,
0 ,
2
, 0 （正交性）
ⅰ) 等号成立当且仅当 p 与 f x0 同方向或与 f x0 f x0 f x 同方向。且当 p 与 0 同方向时， 取到最大值
f x0 。当 p 与 f x 0
f x0
p f x0 同方向时， p
取到最小值
p 方向上的单位向量。如果极限 f x0 te f x0 lim
t 0
t
记作 f x0 。 p
存在，则称其为函数 f x 在点 思考： f x 与 p
x0处沿 p 方向的方向导数，
f x , xn
f x f x , , x1 x2
第1 章
1.1 经典极值问题
1. 例子，
预备知识
2. 数学模型 第一，无约束极值问题
min f x1, x2 , , xn 或 max f x1, x2 ,
解法：解方程组 第二，仅含等式约束的极值问题
最优化计算方法课后习题答案----高等教育出社。施光燕
习题二包括题目： P36页 5（1）（4）5（4）习题三包括题目：P61页 1(1)(2); 3; 5; 6; 14；15(1) 1(1)(2)的解如下3题的解如下5,6题14题解如下14. 设22121212()(6)(233)f x x x x x x x =+++---, 求点在(4,6)T-处的牛顿方向。
解：已知 (1)(4,6)T x=-，由题意得121212212121212(6)2(233)(3)()2(6)2(233)(3)x x x x x x x f x x x x x x x x +++-----⎛⎫∇= ⎪+++-----⎝⎭∴ (1)1344()56g f x -⎛⎫=∇=⎪⎝⎭21212122211212122(3)22(3)(3)2(233)()22(3)(3)2(233)22(3)x x x x x x x f x x x x x x x x +--+--------⎛⎫∇= ⎪+--------+--⎝⎭∴ (1)2(1)1656()()564G x f x --⎛⎫=∇=⎪-⎝⎭(1)11/8007/400()7/4001/200G x --⎛⎫= ⎪--⎝⎭∴ (1)(1)11141/100()574/100d G x g -⎛⎫=-=⎪-⎝⎭15（1）解如下15. 用DFP 方法求下列问题的极小点（1）22121212min 353x x x x x x ++++解：取 (0)(1,1)T x=，0H I =时，DFP 法的第一步与最速下降法相同2112352()156x x f x x x ++⎛⎫∇= ⎪++⎝⎭， (0)(1,1)T x =，(0)10()12f x ⎛⎫∇= ⎪⎝⎭(1)0.07800.2936x -⎛⎫= ⎪-⎝⎭， (1)1.3760() 1.1516f x ⎛⎫∇= ⎪-⎝⎭以下作第二次迭代(1)(0)1 1.07801.2936x x δ-⎛⎫=-= ⎪-⎝⎭， (1)(0)18.6240()()13.1516f x f x γ-⎛⎫=∇-∇= ⎪-⎝⎭0110111011101T T T TH H H H H γγδδδγγγ=+- 其中，111011126.3096,247.3380T T TH δγγγγγ===111.1621 1.39451.3945 1.6734Tδδ⎛⎫= ⎪⎝⎭ ， 01101174.3734113.4194113.4194172.9646T TH H γγγγ⎛⎫== ⎪⎝⎭所以10.74350.40560.40560.3643H -⎛⎫= ⎪-⎝⎭(1)(1)1 1.4901()0.9776dH f x -⎛⎫=-∇= ⎪⎝⎭令 (2)(1)(1)1xx d α=+ ， 利用 (1)(1)()0df x d d αα+=，求得 10.5727α=-所以 (2)(1)(1)0.77540.57270.8535xx d⎛⎫=-= ⎪-⎝⎭ ， (2)0.2833()0.244f x ⎛⎫∇= ⎪-⎝⎭以下作第三次迭代(2)(1)20.85340.5599x x δ⎛⎫=-= ⎪-⎝⎭ ， (2)(1)2 1.0927()()0.9076f x f x γ-⎛⎫=∇-∇= ⎪⎝⎭22 1.4407T δγ=- ， 212 1.9922T H γγ=220.72830.47780.47780.3135T δδ-⎛⎫=⎪-⎝⎭1221 1.39360.91350.91350.5988T H H γγ-⎛⎫= ⎪-⎝⎭所以22122121222120.46150.38460.38460.1539T T T TH H H H H δδγγδγγγ-⎛⎫=+-= ⎪-⎝⎭(2)(2)20.2246()0.1465d H f x ⎛⎫=-∇= ⎪-⎝⎭令 (3)(2)(2)2xxdα=+ ， 利用(2)(2)()0df x d d αα+=，求得 21α=所以 (3)(2)(2)11x x d ⎛⎫=+=⎪-⎝⎭， 因为 (3)()0f x ∇=，于是停止 (3)(1,1)T x =-即为最优解。
最优化考试例题.doc
优化方法与最优控制例题1 • Find the curve x (t) that minimizes the functionalAnd passes through the points ^(0) = 1 and x(l) = 3.4" g(x,x,t) = y x 2(0 + 5x(t)x(t) + x 1 ⑺ + 5x(0，可求得gv =5i⑺+ 2%⑺+ 5 ^ = x(r) + 5x(z) ^ = ^(z) + 5i(z) dt若J 在x(z)处取极值，则有= 即 atX ⑺一2x ⑺一5 = 0解微分方程沿7) - 2x(z) = 0 ,可得通解％(z) = c x e~<21 + c 2Z 2/。
设对)-2冰)-5 = 0的通解为％(0 = <^，得力)=」。
故原微分方程的解为 2x(r) = c 1e'^ + c 2e^+|又已知x(0) = l, x ⑴=3,带入上式可得所以x ⑺=c,e'r2t + c 2^+-o 2Such that: f 7 e[x,x,t]dt = CWhere we will assume that t f is free but x(t f ) is fixed.2 One important calculus of variations problem that we did not discuss in class has the same basic form, but with constraints that are given by an integral - called isoperimetric constraints:min J = [ g[x, x,t\lt山0e^+32(^2-1)e^+3C ，2 =2(e 3 45-l)e[x,x,t]dt = CWhere g a = g v T e •(b) Use the results of part (a) to clearly state the differential equations and corresponding boundary conditions that must be solved to find the curve y(x) of a specified length L with endpoints on the x-axis (i.e.，at x = 0 and x = x f ) that encloses the maximum area, so that7 = £7ydx and £+ y 2dx = LWhere t, free.(a)引入拉格朗口矢量因子V ，另'g[x,x 9t]dt + v T ^f e(x ，i ，t)dt-C求变分有SJ a = 7 (§'—& + g^Sx)dt + g{t f )dt f + v T ^J^ {e x Sx + e {Sc)dt + e(t f )dt f + 1edt (g x - ::^-)Sxdt + + +〔{ edt-C Sv +v*l | 7 {e x -+ e..(t f) 4- e(t f )dt f有&, =&(◊) + 々(，,)々,，并令么=g + v T 《，带入上式，整理可得因为z f 自由，对rp 固定，所以要使＜5/=0，则需满足条件:dSa _ d (d Sa dxdt \ dx=0Tclds, \T a = £[U.r + )—(音 + ^)]&cdt + 7 edt - Cj <5v +[A(,，)+ vTG(〜)]&，+(U(z ，) +’冲，)]-[心(z ，) + vT ¥(r)]地，))々，k dx dtSxdt +〔edt-C I 4--(r z )&c f +g a (t f )-^-dxdxdSa _d ( ^S a dx dt\ dxe[x,x,t]dt = C(b)令 = >’ ++ y 2，则有自由。
东北大学张薇最优化第三章 例题(新)
xk 1 xk G( xk )1 g ( xk ) , k=1,2,…
Newton 法是 2 阶收敛算法，具有二次终止性.n 对于正定二次目标函数，Newton 迭代 一步即可求到极小点；对于非正定二次目标函数，Newton 法一般不会一步迭代终止. 例 3.3 用 Newton 法求解无约束极小化问题
3, 0
1 1 0 1 1 0 2 0
g1 g1 g0
2 2
p0
0 1 3 3 4 1 . // p1 3 2 4 0 3 2 2 T g1 p x1 T 1 x2 x1 t1 p1 p1 Qp1 p1
取 x0 1, 0 .迭代二次.
T
解
2 3 x1 3 x2 6 x1 3 f ( x ) , G ( x ) ， 2 3 x1 3 x2 3 6 x2
第一次迭代
3 1 g 0 ，取 p0 . 设 3 1 1 1 1 t x x0 tp0 t ， 0 1 t
共轭梯度法是超线性收敛算法，具有二次终止性.对于 n 元正定二次目标函数，共轭 梯度法至多 n 次迭代即可求到极小点；对于 n 元非二次目标函数，共轭梯度法一般不会 在有限步迭代终止. 例 3.5 用 F-R 共轭梯度法求解无约束极小化问题
2 min f x1 , x2 x12 x2 x1x2 4x1 x2 1 .
T T
6 3 G x2 正定，故 x2 是严格局部极小点. 3 6