工程优化设计-理论基础

工程优化设计
二0一二年九月
内容提要
• 工程优化问题建模 • 优化数学理论 • 一维搜索方法 • 无约束问题直接搜索方法 • 无约束问题间接接搜索方法 • 约束问题直接搜索方法 • 线性规划与二次规划问题求解 • 约束问题间接搜索方法 • 启发式算法 • 优化软件系统
优化数学理论
一.优化模型
min f(x)
优化数学理论
(3) 有效约束,或取作用约束(Active Constraint)
x0的有效约束集合 A(x0)={i | gi(x0)=0, i=m+1,…,p} A(A)={2,4}, A(D)={3}, A(E)=
B x3
x2
F=ABC A
EC D h1(x)=2x1+3x2+x3-6=0 x1 g2(x)=-x1≤0 g3(x)=-x2 ≤ 0, g4(x)=-x3 ≤ 0
a1T a1T x
Ax
a
T 2
x
a
T 2
x
0
a
T m
amT x
优化数学理论
aiTx 0, ai与x的 夹角90o
ATy=(a1,a2,…,am)y=y1a1+ y2a2+…+ ymam=b b是a1,a2,…,am的正线性组合 b属于D0
情况1:
b=y1a1+y2a2, y1>0, y2>0, (2)有解
设A Rmxn, bRn, 则下述两组方程中仅有一组有解:
(1) Ax 0, bTx>0 (2) ATy=b, y0 这里xRn, yRm,
a1T a1T x
Ax
a 2T
x
a
T 2
x
0
a
T m
a
T m
x
aiTx 0, ai与x的 夹角90o
ATy=(a1,a2,…,am)y=y1a1+ y2a2+…+ ymam=b b是a1,a2,…,am的正线性组合
X(1): g1(x)≤0 X(2): g1(x)≤0, g2(x)≤0 X(3): 无
优化数学理论
(3) 有效约束,或取作用约束(Active Constraint)
对于约束gi(x)≤0, 若gi(x0)=0, 则gi是x0的有效约束. 如g3是D的有效约束.
对于约束gi(x) ≤ 0, 若gi(x0)<0,
优化数学理论
Gordan择一定理:
a2
a3
在x Rn, 使Ax <0,
a4
或者存在y Rm, 使ATy =0, y0, y 0(分量不全为零)
且两者不能同时成立.
ATy=(a1,a2,…,am)y=y1a1+ y2a2+…+ ymam=0
a2 a1
a3
存在三角形aiajak包含原点 表明ai在大于等于180o的扇区内.
F={ x | hi(x)=0, i=1,2,…,m gi(x)≤0, i=m+1,…,p }
x2
例子: h1(x)=2x1+3x2+x3-6=0 g2(x)=-x1≤0 g3(x)=-x2 ≤ 0 g4(x)=-x3 ≤ 0
B
A
E D
x3
F=ABC C
x1
优化数学理论
(3) 有效约束,或取作用约束(Active Constraint) 可行域边界点所在约束为该点的有效约束， 其他约束为不取作用约束（ Inactive constraint ）。
a4
x
a1T a1T x
Ax
a
T 2
x
a
T 2
x
0
aiTx<0, 所有ai 都在以x为法向的 平面的反侧
a
T m
amT x
Stop here last time
优化数学理论
函数等高线
优化数学理论
优化数学理论
a
x1 x
y aT(x1-x0)=0 -> aTx1= aTx0=
aT(y-x0)>0 -> aTy> aTx0=
x0 a
aT(x-x0)0 -> aTx aTx0=
优化数学理论
四. Farkas引理 (线性不等式定理)
揭示了m个向量与 另一向量的线性组 合, 与它们定义的半 空间交集的联系.
优化数学理论
三. 凸集
凸集定义: 集合DRn称为凸的,如果对于任意x,yD有 x+(1- )y D, 0 1
优化数学理论
三. 凸集 凸集分离定理: 设DRn为非空闭凸集, yRn, yD, 则存在非零向量a Rn 和实数,使得
aTx aTy, x D
即存在超平面H={x Rn | aTx =} 严格分离点y与凸集D.
优化数学理论
(2) 可行域(Feasible Region)
g1(x)=9x1+4x2-360≤0 g2(x)=3x1+10x2-300 ≤0 g3(x)=4x1+5x2-200 ≤0 g4(x)=-x1 ≤0 g5(x)=-x2 ≤0
优化数学理论
优化数学理论
(2) 可行域(Feasible Region)
s.t. hi(x)=0, i=1,2,…,m gi(x)≤0, i=m+1,…,p x=(x1,x2,…,xn)TRn, f, gi, hi: Rn ->R1
二.约束相关概念 (1) 可行点(Feasible Point), x0 满足
hi(x0)=0, i=1,2,…,m gi(x0) ≤ 0, i=m+1,…,p
a1 D0
a2
D2
D1
a1Tx 0
a2Tx 0
bTx>0
D1D2=, 所以 (1)无解. D1={x | a1Tx 0, a2Tx 0} D2={x | bTx>0}
a1T a1T x
Ax
a
T 2
x
a
T 2
x
0
a
T m
amT x
优化数学理论
aiTx 0, ai与x的 夹角90o
ATy=(a1,a2,…,am)y=y1a1+ y2a2+…+ ymam=b b是a1,a2,…,am的正线性组合
情况2: b
a1 a2 D0
D1 a2Tx 0
a1Tx 0 D2 bTx>0
D0不包含b, 所以 ATyb (2)无解.
D1D2 , (1)有解
D1={x | a1Tx 0, a2Tx 0} D2={x | bTx>0}
则gi是x0的无效约束,
或不取作用约束.
B
(Inactive constraint)
如g2是D的无效约束.
x3
g2, g3, g4是E的无效约束.
x2
F=ABC A
EC D h1(x)=2x1+3x2+x3-6=0 x1 g2(x)=-x1≤0 g3(x)=-x2 ≤ 0, g4(x)=-x3 ≤ 0