最优化方法习题1答案
《最优化方法》（研究生）期末考试练习题答案二.简答题1．;0, ,843 ,2 2-,3 34 s.t. ,95- min 2121212121≤=--≥+≥++y y y y y y y y y y 2．,065 6143≥+x x （以1x 为源行生成的割平面方程） 注意：在1x 为整数的情况下，因为3x ,04≥x ，该方程自然满足，这是割平面的退化情形,2141 41 43≥+x x （以2x 为源行生成的割平面方程）3．6648.31854.1*2)854.1()(2131.01146.1*2)146.1()(854.13*618.00)(618.0146.13*382.00)(382.03,031311111111111=+-==+-==+=-+==+=-+===μϕλϕμλa b a a b a b a 0.927.21.8540]1.8540[854.1,0)()(,*2211=+===≤x b a 近似的最优解：。
，初始的保留区间为即：。
所以，不经计算也可以看出事实上μϕλϕ4．令1.01.0)(4.04.0)(11)(7.27.2)(222222221)2(*111)1(*111)0(*121)1(*11-=-=-=-=-=-=-=-=-------x x x x x x x e x e x x f ex ex x f x e x x f e x e x x f拟合问题等价于求解下列最小二乘问题：∑=412))((mini ix f三.计算题1．分别用最速下降方法和修正的牛顿法求解无约束问题 22214)(min x x x f +=。
取初始点()()Tx 2,21=，.1.0=ε()().1641642,2821121⎪⎪⎭⎫⎝⎛--=⎪⎪⎭⎫⎝⎛=∇=⎪⎪⎭⎫⎝⎛=∇d f x x x f T方向为：从而最速下降法的搜索，在初始点，解：()()()()直至满足精度。
继续迭代方向为：从而最速下降法的搜索，，在从而求解得到：其中满足最优步长,.48/6565/19248/65-65/19265/6,65/96)65/6,65/96((-4,-16)*130/172,2 130,/17.)162(4)42()162,42()()(min )(122221)1(1)1(1*)1(*⎪⎪⎭⎫⎝⎛-=⎪⎪⎭⎫ ⎝⎛=∇-=-=+==-+-=--=++=+d f x x f d x f d x f d x f TTT Tλλλλλλλλλλ()()2-2- 1648/1002/1 8/1002/1,8002 2,21111⎪⎪⎭⎫⎝⎛=⎪⎪⎭⎫ ⎝⎛⎪⎪⎭⎫ ⎝⎛-=∇-=⎪⎪⎭⎫ ⎝⎛=⎪⎪⎭⎫ ⎝⎛==--f G d G G x T索方向为：从而修正的牛顿法的搜，在初始点()()()()即为所求的极小点。
正定，显然满足精度。
，，在从而易见：满足最优步长)2(x22221)1(1)1(1*)1(*8002000,0)0,0(22,22 1,.)22(5)22,22()()(min )((2)x f f x x f d x f d x f d x f TTT⎪⎪⎭⎫ ⎝⎛=∇⎪⎪⎭⎫ ⎝⎛=∇==--==-=--=++=+λλλλλλλλλλλ(1分)2．讨论约束极值问题⎪⎪⎩⎪⎪⎨⎧≥≥≤-≤++--+=0004s.t.866)(min212121212221x x x x x x x x x x x f 的Kuhn-Tucker 点。
T x x x f ]62,62[)(21--=∇,4)(211-+=x x x g T x g ]1,1[)(1=∇ ,)(212x x x g -= T x g ]1,1[)(2-=∇。
T x g x x g ]0,1[)( ,)(313-=∇-=⎪⎪⎪⎪⎪⎪⎪⎪⎩⎪⎪⎪⎪⎪⎪⎪⎪⎨⎧≥≤-≤-≤-≤-+=-=-=-=-+=⎪⎪⎭⎫ ⎝⎛-+⎪⎪⎭⎫ ⎝⎛-+⎪⎪⎭⎫ ⎝⎛-+⎪⎪⎭⎫⎝⎛+⎪⎪⎭⎫ ⎝⎛--0,,,00004000)(0)4(0100111116262T ucker -Kuhn 43212121212413212211432121λλλλλλλλλλλλx x x x x x x x x x x x x x 条件为所以该约束问题的 矛盾。
从而代入第一个式子得到。
从而则若,0606060 0,44,0,042423212121<--==---=-+-=<-=-+==λλλλλλλx x x xTx g x x g ]1,0[)( ,)(424-=∇-=矛盾。
与从而代入第一个式子得到从而又由于。
从而则若0,0,02662,6062060,000,0,03232323112314222121≥>=+=++-+==+-=-+-=≠=≠-≠=λλλλλλλλλλx x x x x x x x x矛盾。
与从而代入第一个式子得到则则若0,0,02662,6060620,00,0,0414141414111322121≥>=+=++-+==-+-=+-==≠-=≠λλλλλλλλλλx x x x x x x x矛盾。
与从而代入第一个式子得到从而又由于。
则且若0,0620620, 0,0,000,0,021211211432122121≠-==+-=+-==≠≠=≠-≠≠x x x x x x x x x x x x λλλλλ.T ucker Kuhn )2,2(,4,0,0,,4,3,0620620, 0,0,004,,0,02121212121222143211212121点为该问题的一个从而我们可以得出结论讨论了所有的情况后矛盾。
这与从而代入第一个式子得到从而又由于。
则但若-==≠≠<+====--=+-==≠≠=<+=≠≠x x x x x x x x x x x x x x x x x x λλλλλλλ3．构造増广函数为原问题的最优解。
从而的解，这是对于固定的从而，可得由则若矛盾与，可得由则若若若)2,0(22 0211limlim .)(min 2211.211,200)2(2)3(2)2(2)1(2)(,02.02,3,100)3(2)1(2)(,0202)3()1(02)2()3()1()(*12121122122112121212121212221212212221k k 2==+==+=++=+=+=⎪⎪⎭⎫⎝⎛=⎪⎪⎭⎫ ⎝⎛-++--++-=∇≤-+≤-+==⎪⎪⎭⎫⎝⎛=⎪⎪⎭⎫ ⎝⎛--=∇≤-+⎪⎩⎪⎨⎧≤-+-+->-+-++-+-=∞→∞→∈x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x x kk Rx k k k k k k k k k λϕλλλλλϕϕλϕλλ4．用内点法求解非线性规划03)( 03)( s.t. 296)(min 22112121≥-=≥-=++-=x x g x x g x x x x f构造増广函数为原问题的最优解。
从而的解，这是对于固定的，可得由)3,3(323lim lim 323lim lim .)(min 232300)3(2)3(62)()3131(296)(*01031023122211212121k k k k 2==+==+=+=+=⎪⎪⎭⎫ ⎝⎛=⎪⎪⎪⎪⎭⎫ ⎝⎛-----=∇-+-+++-=→→→→∈x x x x x x x x x x x x x x x x kk k Rx k kkk k k k k μμϕμμμμμϕμϕμμμμ(4分)(2分)(4分)(4分)(2分)(4分)5. 构造増广函数为原问题的最优解。
从而是一个数注意的解，这是对于固定的从而，可得由)43,41(433)(41812limlim .)(min 81)3(2.812,300)1(231)1(2)()1()1(6121)(*1212112212211221212221k k 2====+-=+-=+-==⎪⎪⎭⎫⎝⎛=⎪⎪⎪⎭⎫ ⎝⎛-+++-+++=∇-++-+++=∞→∞→∈x x x v v x x v x v x x x x x v x x x v x x x x x x v x x x k kk k k Rx k kk k k k k k k k k k k k k μμϕμμμμμμμϕμϕμμ6．解：首先化成标准形式以1x 为换入变量，根据最小比值原则确定7x 为换出变量。
(4分)(2分)(4分)⎪⎪⎩⎪⎪⎨⎧≥=+--=+--=+++++---=0,,,,,,,34623min 86327531432187321x x x x x x x x x x x x x x x x x x x x Mx Mx x x x Z以2x 为换入变量，根据最小比值原则确定4x 为换出变量。
检验数全部为正，但人工变量没有完全换出，说明此优化问题没有可行解（可以验证原问题中包含矛盾的条件），此最优单纯形表的最优基是⎪⎪⎪⎭⎫ ⎝⎛==101010011),,(812p p p B ，⎪⎪⎪⎭⎫ ⎝⎛--=-1110100111B四.应用题解：设21,x x 分别为该厂生产甲乙两种产品的数量。
该问题的目标规划模型为： )52(min 4332211--+-+++=d d P d P d P z240030121121=-+++-d d x x20022221=-+++-d d x x60331=-++-d d x 80442=-++-d d x(2分)(3分)(5分))4,3,2,1(0,,,21=≥+-i d d x x i i其中在P3级目标中，因甲产品的利润与乙产品利润的比值为2：5，故取权系数为2：5. 求解过程见图.满足P1,P2目标的解空间为三角形ABC 区域，考虑P3的目标要求时，因-3d 的权系数小于-4d 的权系数，故先取04=-d ，这时解空间为ACD 区域，在此区域中，只有D 点使-3d 取值最小，故取D 点为满意解，其坐标为（40,80），即该厂每年应生产甲产品40个单位，乙产品80个单位.(5分)(5分)。
最优化方法 第1章(4)
最优化问题的分类
对向量x=(1,–2,3)T,有 || x ||1= 6 || x ||2 = 14 ≈ 3.74166 || x ||3 = 3 36 ≈ 3.30193 || x ||∞= 3.
其中||x||p是p的单调递减函数.
根据数学模型中有无约束函数分为：无约束的最优 化问题和有约束的最优化问题.
m
n
∑ ∑ Q =
( yi −
a
ϕ
j
j
(
xi
))2
i =1
j =0
因此,由数据拟合问题得数学模型为
m
n
∑ ∑ min
( yi −
a
ϕ
j
j
(
xi
))2
i =1
j =0
其中xi,yi (i=1,2,…,m) 及 ϕ j (x), j = 1, 2,L, n 已知.
最优化问题的一般形式为:
P: min f ( x) s.t. hi (x) = 0, i = 1, 2,L, m g j (x) ≥ 0, j = 1, 2,L, p
26
可行点列的产生 在xk处求得一个方向pk(下降方向),在射线 xk+αpk (α >0) 上求一点：xk+1=xk+αk pk , 使得 f (xk+1)≤f (xk), 其中αk 称为步长.
定义1.2.1(下降方向) 在点xk处,对于方向pk≠0, 若存在实数b>0,使得任意的α∈(0,b),都有 f (xk+αpk)<f (xk), 则称pk为函数f (x)在点xk处的一个下降方向.
44
则总支出可表示为: S = ∑ ∑ cij xij i=1 j=1
北航最优化方法最新最全答案2015版
将此问题化成线性规划.
minimize f (x)
x∈Rn
subject to Ax = b
x ≥ 0.
5
解: 引入变量 t ，所给问题等价于
minimize t subject to f (x) = t,
Ax = b, x ≥ 0.
考虑问题
minimize t
subject to f (x) ≤ t, Ax = b,
4. 单纯形法的练习：习题2.10，习题2.11，习题2.12，习题2.13，习题2.20(说明单纯形 法的效率的一般性例子中，自变量为三个时所得问题)，习题2.21(说明单纯形法采用最小 相对费用系数进基原则确定进基变量时，如果所求解问题是退化的，则单纯形法会出现 循环！)，习题2.31.
5. 两阶段法的练习：习题2.14-习题2.16；大 M 法的练习：习题2.18.
2u1 − 2v1 + u3 − v3 = 3, ui, vi, s ≥ 0, i = 1, 2, 3.
方法2: 引入非负变量 t1, t2, t3 ，将原问题转化成等价问题
minimize t1 + t2 + t3 subject to x + y ≤ 1,
2x + z = 3, |x| = t1, |y| = t2, |z| = t3.
(c)
minimize subject to
x1 + 4x2 + x3 x1 − 2x2 + x3 = 4 x1 − x3 = 1
x2 ≥ 0, x3 ≥ 0.
解:
(c) 由于变量 x1 无限制，可利用约束 x1 = x3 + 1 对其消去. 因此，得其标准形
运筹学与最优化方法习题集
一．单纯性法一．单纯性法1.用单纯形法求解下列线性规划问题（共用单纯形法求解下列线性规划问题（共 15 分）分） 122121212max 25156224..5,0z x x x x x s t x x x x =+£ìï+£ïí+£ïï³î 2.用单纯形法求解下列线性规划问题（共用单纯形法求解下列线性规划问题（共 15 分）分） 12121212max 2322..2210,0z x x x x s t x x x x =+-³-ìï+£íï³î 3.用单纯形法求解下列线性规划问题（共用单纯形法求解下列线性规划问题（共 15 分）分） 1234123412341234max 24564282..2341,,,z x x x x x x x x s t x x x x x x x x =-+-+-+£ìï-+++£íï³î4.用单纯形法求解下列线性规划问题（共用单纯形法求解下列线性规划问题（共 15 分）分） 123123123123123max 2360210..20,,0z x x x x x x x x x s t x x x x x x =-+++£ìï-+£ïí+-£ïï³î 5.用单纯形法求解下列线性规划问题（共用单纯形法求解下列线性规划问题（共 15 分）分） 12312312123max 224..26,,0z x x x x x x s t x x x x x =-++++£ìï+£íï³î6.用单纯形法求解下列线性规划问题（共用单纯形法求解下列线性规划问题（共 15 分）分） 12121212max 105349..528,0z x x x x s t x x x x =++£ìï+£íï³î7.用单纯形法求解下列线性规划问题（共用单纯形法求解下列线性规划问题（共 16 分）分） 12121212max 254212..3218,0z x x x x s t x x x x =+£ìï£ïí+£ïï³î二．对偶单纯性法二．对偶单纯性法1.灵活运用单纯形法和对偶单纯形法解下列问题（共灵活运用单纯形法和对偶单纯形法解下列问题（共 15 分）分）12121212max 62..33,0z x x x x s t x x x x =++³ìï+£íï³î 2.灵活利用单纯形法和对偶单纯形法求解下列线性规划问题（共灵活利用单纯形法和对偶单纯形法求解下列线性规划问题（共 15 分）分） 121212212max 3510501..4,0z x x x x x x s t x x x =++£ìï+³ïí£ïï³î 3.用对偶单纯形法求解下列线性规划问题（共用对偶单纯形法求解下列线性规划问题（共 15 分）分） 1212121212min 232330210..050z x x x x x x s t x x x x =++£ìï+³ïï-³íï³ïï³î4.灵活运用单纯形法和对偶单纯形法求解下列线性规划问题（共灵活运用单纯形法和对偶单纯形法求解下列线性规划问题（共 15 分）分） 124123412341234min 262335,,,0z x x x x x x x s t x x x x x x x x =+-+++£ìï-+-³íï³î5.运用对偶单纯形法解下列问题（共运用对偶单纯形法解下列问题（共 16 分）分） 12121212max 24..77,0z x x x x s t x x x x =++³ìï+³íï³î6.灵活运用单纯形法和对偶单纯形法解下列问题（共灵活运用单纯形法和对偶单纯形法解下列问题（共 15 分）分） 12121212max 62..33,0z x x x x s t x x x x =++³ìï+£íï³î三．0-1整数规划整数规划1.用隐枚举法解下列0-1型整数规划问题（共型整数规划问题（共10 分） 12345123451234512345123345max 567893223220..32,,,,,01z x x x x x x x x x x x x x x x s t x x x x x x x x x x x or =++++-++-³ìï+--+³ïí--+++³ï=î 2.用隐枚举法解下列0-1型整数规划问题（共型整数规划问题（共 10 分） 12312312323123min 4322534433..1,,01z x x x x x x x x x s t x x x x x or =++-+£ì++³ïí+³ïï=î 3.用隐枚举法解下列0-1型整数规划问题（共型整数规划问题（共 10 分） 1234512345123451234512345max 20402015305437825794625..81021025,,,,01z x x x x x x x x x x x x x x x s t x x x x x x x x x x =++++++++£ìï++++£ïí++++£ïï=î或 4.用隐枚举法解下列0-1型整数规划问题（共型整数规划问题（共10 分） 12345123451234512345max 2534327546..2420,,,,01z x x x x x x x x x x s t x x x x x x x x x x =-+-+-+-+£ìï-+-+£íï=î或 5.用隐枚举法解下列0-1型整数规划问题（共型整数规划问题（共10 分） 12341234123412341234min 25344024244..1,,,01z x x x x x x x x x x x x s t x x x x x x x x =+++-+++³ì-+++³ïí+-+³ïï=î或6.7.用隐枚举法解下列0-1型整数规划问题（共型整数规划问题（共10 分） 123451234513451245max 325232473438..116333z x x x x x x x x x x x x x x s t x x x x =+--+++++£ìï+-+£ïí-+-³ï 1231231231223max 3252244..346z x x x x x x x x x s t x x x x =-++-£ìï++£ïï+£íï+£ïï=四.K-T 条件条件1.利用库恩-塔克（K-T ）条件求解以下问题（共）条件求解以下问题（共 15 分）分）22121122121212max ()104446..418,0f X x x x x x x x x s t x x x x =+-+-+£ìï+£íï³î2.利用库恩-塔克（K-T ）条件求解以下非线性规划问题。
最优化练习题一
最优化练习题1．设A 为m n ⨯阶矩阵，nb R ∈，试证集合{|,,0}n S x x R Ax b x =∈=≥为凸集。
2．试证平面上椭圆22221x y a b+=所包围的区域为凸集。
3．判断下列函数为凸函数或凹函数或严格凸函数或严格凹函数：（1）221212(,)23f x x x x =+；（2）2221231231231(,,)22712f x x x x x x x x x x =+++--+4．设()f x 为定义在凸集D 上的凸函数，试证()f x 的任何局部极小点同时也必为全局极小点。
5．设n 阶矩阵0T Q Q =>，非零向量12,,,()n n p p p R m n ∈≤为Q 共轭的，证明：（1）12,,,n p p p 线性无关；（2）若n 维向量x 和12,,,n p p p 为Q 共轭的，则x=0。
6．设()TTf x x Ax b x =-，2112A ⎡⎤=⎢⎥⎣⎦，(3,3)T b =，取1(0,0)Tx =，1(1,0)T p =，2(1,2)T p =-，试证由共轭方向法产生的3x 为()f x 的最优解。
7．设1()2TT f x x Qx b x c =++，0T Q Q =>，试证由精确线搜索的共轭梯度法中，有 T k k k T k kg dd Qd λ=-8．取初始点0(0,0)T x =，并且设定净度误差0.01ε=，试利用最速下降法求解下面的优化问题：222112212min 243x Rx x x x x x ∈-++-9．考虑极小化问题1min ()2nTT x Rf x x Ax b x ∈=+，其中0T A A =>，n b R ∈。
记函数()()g x f x Ax b =∇=+。
设从k x 点出发，利用精确搜索的最速下降法求出改进点1k x +，证明：（1）最速下降法的迭代公式形如1T k k k k k T k k g gx x g g Ag +=-，其中()k k g g x =；（2）一步迭代中引起目标函数的下降量为21()()()2T k k k k Tk kg g f x f x g Ag +-=。
最优化理论与算法习题答案
最优化理论与算法习题答案最优化理论与算法习题答案最优化理论与算法是应用数学中的一个重要分支，它研究如何在给定的约束条件下，找到一个使目标函数取得最优值的解。
在实际应用中，最优化问题广泛存在于各个领域，如经济学、管理学、物理学等。
本文将回答一些与最优化理论与算法相关的习题，帮助读者更好地理解和应用这一领域的知识。
1. 什么是最优化问题？最优化问题是指在给定的约束条件下，寻找一个使目标函数取得最优值的解。
其中，目标函数是需要最大化或最小化的函数，约束条件是对解的限制条件。
最优化问题可以分为无约束最优化和有约束最优化两种情况。
2. 什么是凸优化问题？凸优化问题是指目标函数和约束条件均为凸函数的最优化问题。
凸函数具有良好的性质，例如局部最小值即为全局最小值，因此凸优化问题的求解相对容易。
常见的凸优化问题有线性规划、二次规划等。
3. 什么是拉格朗日乘子法？拉格朗日乘子法是一种求解有约束最优化问题的方法。
它通过引入拉格朗日乘子，将有约束最优化问题转化为无约束最优化问题。
具体地，对于一个有约束最优化问题，我们可以构造拉格朗日函数，然后通过求解无约束最优化问题来获得原问题的解。
4. 什么是线性规划？线性规划是一种特殊的最优化问题，其中目标函数和约束条件均为线性函数。
线性规划在实际应用中非常广泛，例如在生产计划、资源分配等方面都有重要的应用。
线性规划可以使用单纯形法等算法进行求解。
5. 什么是整数规划？整数规划是一种最优化问题，其中变量需要取整数值。
与线性规划相比，整数规划的求解更加困难，因为整数约束条件使得问题的解空间变得离散。
常见的整数规划问题有旅行商问题、装箱问题等。
6. 什么是非线性规划？非线性规划是一种最优化问题，其中目标函数或约束条件为非线性函数。
非线性规划的求解相对复杂，通常需要使用迭代算法进行求解，例如牛顿法、拟牛顿法等。
非线性规划在实际应用中非常广泛，例如在经济学、工程学等领域都有重要的应用。
7. 什么是梯度下降法？梯度下降法是一种常用的优化算法，用于求解无约束最优化问题。
第一讲最优化问题
第一讲：最优化问题例题：用一只平底锅煎鸡蛋，每次只能放两个，煎一个需要2分钟（规定正反面各需要1分钟）。
问煎三个至少需要多少分钟？【思路导航】先将两个鸡蛋同时放入锅中一起煎，1分钟后两个都熟了一面，这时可将一个取出，另一个翻过去。
再放入第三个，又煎了1分钟，将两面都煎好的那个取出，把第三个翻过去。
再将第一个放入，再煎1分钟就全部都好了。
所以，煎三个至少需要3分钟。
【练习题：】1、用一只平底锅做煎饼，每次能同时放两块饼，如果煎一块饼需要4分钟（正反两面各需2分钟），问煎2004块饼至少需要几分钟？2、家里来了客人，妈妈要给客人沏茶，洗水壶要一分钟，烧开水要10分钟，洗茶杯要2分钟，取茶叶要1分钟，泡茶要2分钟。
为了让客人早点喝到茶，你来设计，如何安排所需时间最少？3、老师分别要和甲、乙、丙三个人谈话，和甲谈要8分钟，和乙要谈5分钟，和丙要谈6分钟。
甲、乙、丙三位同学同时到办公室，老师应该如何安排和他们谈话的次序，使他们三人所花的总时间最少？总时间是多少分钟？4、用34厘米的钢丝围成一个长方形，长和宽的长度都是整厘米数，围成的长方形的面积最大是多,j hbtyy 6少？第二讲：巧妙求和【知识讲解】若干个数排成一列，称为数列。
数列中的每一个数称为一项，其中第一项称为首项，最后一项称为末项。
数列中的个数称为项数。
从第二项开始，后项与其相邻的前项之差都相等的数列称为等差数列，后项与前项的差称为公差。
我们需要记住三个公式：通项公式：第N项=首项+（项数—1）×公差项数公式：项数=（末项—首项）÷公差+1求和公式：总和=（首项+末项）×项数÷2【练习题】1、有一个数列4、10、16、……52，这个数列共有多少项呢？（提示：项数公式：项数=（末项—首项）÷公差+1）2、有一个等差数列3，7，11，15，……，这个等差数列的第100项是多少？提示：第N项=首项+（项数—1）×公差3、有这样的一个数列1，2，3，4，……，99，100，请你求出这数列各项相加的和。
最优化-刘志斌-课后习题3-5参考答案要点word版本
最优化-刘志斌-课后习题3-5参考答案要点练习题三1、用0.618法求解问题12)(min 30+-=≥t t t t ϕ的近似最优解，已知)(t ϕ的单谷区间为]3,0[，要求最后区间精度0.5ε=。
答：t=0.8115；最小值-0.0886.（调用golds.m 函数）（见例题讲解5） 2、求无约束非线性规划问题min ),,(321x x x f =123222124x x x x -++ 的最优解解一：由极值存在的必要条件求出稳定点： 1122f x x ∂=-∂，228f x x ∂=∂，332f x x ∂=∂，则由()0f x ∇=得11x =，20x =，30x = 再用充分条件进行检验：2212f x ∂=∂，2228f x ∂=∂，2232fx ∂=∂，2120f x x ∂=∂∂，2130f x x ∂=∂∂，2230f x x ∂=∂∂ 即2200080002f ⎛⎫⎪∇= ⎪ ⎪⎝⎭为正定矩阵得极小点为T *(1,0,0)x =，最优值为-1。
解二：目标函数改写成min ),,(321x x x f =222123(1)41x x x -++- 易知最优解为（1,0,0），最优值为-1。
3、用最速下降法求解无约束非线性规划问题。
2221212122)(m in x x x x x x X f +++-=其中T x x X ),(21=，给定初始点T X )0,0(0=。
解一：目标函数()f x 的梯度112122()()142()122()()f x x x x f x x x f x x ∂⎡⎤⎢⎥∂++⎡⎤⎢⎥∇==⎢⎥-++∂⎢⎥⎣⎦⎢⎥∂⎣⎦(0)1()1f X ⎡⎤∇=⎢⎥-⎣⎦令搜索方向(1)(0)1()1d f X -⎡⎤=-∇=⎢⎥⎣⎦再从(0)X 出发，沿(1)d 方向作一维寻优，令步长变量为λ，最优步长为1λ，则有(0)(1)0101Xdλλλλ--⎡⎤⎡⎤⎡⎤+=+=⎢⎥⎢⎥⎢⎥⎣⎦⎣⎦⎣⎦故(0)(1)2221()()()2()2()2()f x f X d λλλλλλλλλϕλ=+=--+-+-+=-=令'1()220ϕλλ=-=可得11λ= (1)(0)(1)1011011X X d λ--⎡⎤⎡⎤⎡⎤=+=+=⎢⎥⎢⎥⎢⎥⎣⎦⎣⎦⎣⎦ 求出(1)X 点之后，与上类似地，进行第二次迭代：(1)1()1f X -⎡⎤∇=⎢⎥-⎣⎦ 令(2)(1)1()1d f X ⎡⎤=-∇=⎢⎥⎣⎦令步长变量为λ，最优步长为2λ，则有(1)(2)111111X d λλλλ--⎡⎤⎡⎤⎡⎤+=+=⎢⎥⎢⎥⎢⎥+⎣⎦⎣⎦⎣⎦ 故(1)(2)2222()()(1)(1)2(1)2(1)(1)(1)521()f x f X d λλλλλλλλλϕλ=+=--++-+-+++=--=令'2()1020ϕλλ=-=可得 215λ= (2)(1)(2)2110.8111 1.25X X d λ--⎡⎤⎡⎤⎡⎤=+=+=⎢⎥⎢⎥⎢⎥⎣⎦⎣⎦⎣⎦(2)0.2()0.2f X ⎡⎤∇=⎢⎥-⎣⎦ 此时所达到的精度(2)()0.2828f X ∇≈ 本题最优解11.5X *-⎡⎤=⎢⎥⎣⎦，()1,25f X *=-解二：利用matlab 程序求解首先建立目标函数及其梯度函数的M 文件 function f=fun(x)f=x(1)-x(2)+2*x(1)*x(1)+2*x(1)*x(2)+x(2)*x(2); function g=gfun(x)g=[1+4*x(1)+2*x(2),-1+2*x(1) +2* x(2) ]; 调用grad.m 文件 x0=[0,0];[x,val,k]=grad('fun','gfun',x0) 结果x=[ -1.0000 ,1.5000] val= -1.2500 k=33即迭代33次的到最优解x=[ -1.0000 ,1.5000]；最优值val= -1.2500。
数学中的优化理论与最优化方法
数学中的优化理论与最优化方法一、优化理论概述1.优化理论的定义：优化理论是研究如何从一组给定的方案中找到最优方案的数学理论。
2.优化问题的类型：–无约束优化问题–有约束优化问题3.优化问题的目标函数：–最大值问题–最小值问题二、无约束优化方法1.导数法：–单调性：函数在极值点处导数为0–凸性：二阶导数大于0表示函数在该点处为凸函数2.梯度下降法：–基本思想：沿着梯度方向逐步减小函数值–步长：选择合适的步长以保证收敛速度和避免振荡3.牛顿法（Newton’s Method）：–基本思想：利用函数的一阶导数和二阶导数信息，构造迭代公式–适用条件：函数二阶连续可导，一阶导数不间断三、有约束优化方法1.拉格朗日乘数法：–基本思想：引入拉格朗日乘数，将有约束优化问题转化为无约束优化问题–适用条件：等式约束和不等式约束2.库恩-塔克条件（KKT条件）：–基本思想：优化问题满足KKT条件时，其解为最优解–KKT条件：约束条件的斜率与拉格朗日乘数相等，等式约束的拉格朗日乘数为03.序列二次规划法（SQP法）：–基本思想：将非线性优化问题转化为序列二次规划问题求解–适用条件：问题中包含二次项和线性项四、最优化方法在实际应用中的举例1.线性规划：–应用领域：生产计划、物流、金融等–目标函数：最大化利润或最小化成本–约束条件：资源限制、产能限制等2.非线性规划：–应用领域：机器人路径规划、参数优化等–目标函数：最大化收益或最小化成本–约束条件：物理限制、技术限制等3.整数规划：–应用领域：人力资源分配、设备采购等–目标函数：最大化利润或最小化成本–约束条件：资源限制、整数限制等4.动态规划：–应用领域：最短路径问题、背包问题等–基本思想：将复杂问题分解为多个子问题，分别求解后整合得到最优解5.随机规划：–应用领域：风险管理、不确定性优化等–基本思想：考虑随机因素，求解期望值或最坏情况下的最优解数学中的优化理论与最优化方法是解决实际问题的重要工具，掌握相关理论和方法对于提高问题求解能力具有重要意义。
大连理工大学庞丽萍最优化方法MATLAB程序
班级：优化1班授课老师：庞丽萍姓名：学号：第二章12.（1）用修正单纯形法求解下列LP问题:>>clear>>A=[121100;123010;215001];[m,n]=size(A);b=[10;15;20];r=[-1-2-31];c=[-1-2-31];bs=[3:3];nbs=[1:4];a1=A(:,3);T=A(:,bs);a2=inv(T)*a1;b=inv(T)*b;A=[eye(m),a2];B=eye(m);xb=B\b;cb=c(bs);cn=c(nbs);con=1;M=zeros(1);while conM=M+1;t=cb/B;r=c-t*A;if all(r>=0)x(bs)=xb;x(nbs)=0;fx=cb*xb;disp(['当前解是最优解，minz=',num2str(fx)])disp('对应的最优解为,x=')disp(x)breakendrnbs=r(nbs);kk=find(rnbs==min(rnbs));k=kk(1);Anbs=A(:,nbs);yik=B\Anbs(:,k);xb=B\b;%yi0if all(yik<=0)disp('此LP问题无有限的最优解，计算结束',x)disp(xb)breakelsei=find(yik>0);w=abs(xb(i,1)./yik(i,1));l=find(w==min(w));rr=min(l);yrrk=yik(rr,1);Abs=A(:,bs);D=Anbs(:,k);Anbs(:,k)=Abs(:,rr);Abs(:,rr)=D;F=bs(rr);bs(rr)=nbs(k);nbs(k)=F;AA=[Anbs,Abs];EE=eye(m);EE(:,rr)=-yik./yrrk;Errk=EE;Errk(rr,rr)=1/yrrk;BB=Errk/B;B=inv(BB);cb=c(:,bs);xb=Errk*xb;x(bs)=xb;x(nbs)=0;fx=cb*xb;endif M>=1000disp('此问题无有限最优解')breakendend%结果当前解是最优解，minz=-15对应的最优解为,x=2.5000 2.5000 2.50000第三章30题DFP算法求函数极小点的计算程序function[x,val,k]=dfp(fun,gfun,x0)%功能:用DFP算法求解无约束问题:minf(x)%输入:x0是初始点,fun,gfun分别是目标函数及其梯度%输出:x,val分别是近似最优点和最优值,k是迭代次数.maxk=1e5;%给出最大迭代次数rho=0.55;sigma=0.4;epsilon=1e-5;k=0;n=length(x0);Hk=inv(feval('Hess',x0));%Hk=eye(n);while(k<maxk)gk=feval(gfun,x0);%计算梯度if(norm(gk)<epsilon),break;end%检验终止准则dk=-Hk*gk;%解方程组,计算搜索方向m=0;mk=0;while(m<20)%用Armijo搜索求步长if(feval(fun,x0+rho^m*dk)<feval(fun,x0)+sigma*rho^m*gk’*dk)mk=m;break;endm=m+1;end%DFP校正x=x0+rho^mk*dk;sk=x-x0;yk=feval(gfun,x)-gk;if(sk'*yk>0)Hk=Hk-(Hk*yk*yk'*Hk)/(yk'*Hk*yk)+(sk*sk')/(sk'*yk);endk=k+1;x0=x;endval=feval(fun,x0);%习题26的程序调用方式及结果：function y=fun(x)%UNTITLED Summary of this function goes here%Detailed explanation goes herey=(x(1)-1)^2+5*(x2-x(1)^2)^2endfunction y=gfun(x)%UNTITLED Summary of this function goes here%Detailed explanation goes herey=[diff(y,x1)diff(y,x2)]endx0=[20]’;[x,val,k]=dfp(fun,gfun,x0)%结果x=1.000001.00000val=k=6%习题27的程序调用方式及结果：function y=fun(x)%UNTITLED Summary of this function goes here %Detailed explanation goes herey=x1+2*x（2）^2+exp(x(1)^2+x(2)^2)endfunction y=gfun(x)%UNTITLED Summary of this function goes here %Detailed explanation goes herey=[diff(y,x1)diff(y,x2)]endx0=[10]’;[x,val,k]=dfp(fun,gfun,x0)%结果x=-0.419360val=0.77291k=536题编写Hooke-Jeeves方法求函数极小点的计算程序。
第4章 最优化方法(运筹学)
例题分析5：投资问题
例5 某部门现有资金200万元，今后五年内考虑给以下的项目 投资。已知： 项目A：从第一年到第五年每年年初都可投资，当年末能收回 本利110%； 项目B：从第一年到第四年每年年初都可投资，次年末能收回 本利125%，但规定每年最大投资额不能超过30万元； 项目C：需在第三年年初投资，第五年末能收回本利140%，但 规定最大投资额不能超过80万元； 项目D：需在第二年年初投资，第五年末能收回本利155%，但 规定最大投资额不能超过100万元。 问应如何确定这些项目的每年投资额，使得第五年年末拥 有资金的本利金额为最大？
欧洲的古代城堡为什么建成圆形？
案例：生产计划问题
例1.
某工厂在计划期内要安排Ⅰ、Ⅱ两种产品的 生产，已知生产单位产品所需的设备台时及A、B两 种原材料的消耗、资源的限制，如下表：
Ⅰ
设备 原料 A 原料 B 单位产品获利 1 2 0 50 元
Ⅱ
1 1 1 100 元资源限制 300 来自时 400 千克 250 千克
问题：工厂应分别生产多少单位Ⅰ、Ⅱ产品才能
使工厂获利最多？
第一节 线性规划
一、在管理中一些典型的线性规划应用 二、线性规划的一般模型
三、线性规划问题的计算机求解
（Excel，lingo）
第一节 线性规划
一、在管理中一些典型的线性规划应用 1、合理利用线材问题：如何在保证生产的条件下， 下料最少 2、配料问题：在原料供应量的限制下如何获取最大 利润 3、投资问题：从投资项目中选取方案，使投资回报 最大 4、产品生产计划：合理利用人力、物力、财力等， 使获利最大 5、劳动力安排：用最少的劳动力来满足工作的需要 6、运输问题：如何制定调运方案，使总运费最小