外点惩罚罚函数
合集下载
第二节 罚函数法
0 Step1: 给定初始点 x ∈ int S ，初始罚因子 r1 ，缩小系数
β ∈ (0,1) ，允许误差 ε > 0 ，置 k = 1 ；
k −1 x 为初点，求解无约束优化问题 Step2: 以
min G ( x, r ) = f ( x) + rB( x) s.t. x ∈ int S
设其极小点为 x ；
G ( x, r ) = f ( x) − r ∑ ln g i ( x)
m
-----对数障碍函数
由 G( x, r ) 的定义， r 取值越小，问题
min G ( x, r ) = f ( x) + rB( x) s.t. x ∈ int S
的最优解越接近约束优化问题的最优解。 2. 内点罚函数法的计算步骤
k min H ( x) x Step4: 以 为初始点求解无约束问题 x∈Sk k +1 的最优解
x k +1 ，其中
H k +1 ( x) = −∑ gi ( x) + rk +1 ∑ gi ( x)
i∈I k i∈J k
， Sk = {x | gi ( x) > 0, i ∈ J k }
令 rk + 2 = βrk +1 , k = k + 1, 返回 Step2. 注：该算法中，对于 k = 0,1,2,L ，有 I k +1 ⊂ I k , J k +1 ⊃ J k ，且 最后某个 I k = ∅ 。 三. 广义乘子法 1. 对于等式约束优化问题
φ ( x, y , ω , σ ) = f ( x ) − ∑ ω j ( g j ( x ) − y j ) +
2 j =1 l
β ∈ (0,1) ，允许误差 ε > 0 ，置 k = 1 ；
k −1 x 为初点，求解无约束优化问题 Step2: 以
min G ( x, r ) = f ( x) + rB( x) s.t. x ∈ int S
设其极小点为 x ；
G ( x, r ) = f ( x) − r ∑ ln g i ( x)
m
-----对数障碍函数
由 G( x, r ) 的定义， r 取值越小，问题
min G ( x, r ) = f ( x) + rB( x) s.t. x ∈ int S
的最优解越接近约束优化问题的最优解。 2. 内点罚函数法的计算步骤
k min H ( x) x Step4: 以 为初始点求解无约束问题 x∈Sk k +1 的最优解
x k +1 ，其中
H k +1 ( x) = −∑ gi ( x) + rk +1 ∑ gi ( x)
i∈I k i∈J k
， Sk = {x | gi ( x) > 0, i ∈ J k }
令 rk + 2 = βrk +1 , k = k + 1, 返回 Step2. 注：该算法中，对于 k = 0,1,2,L ，有 I k +1 ⊂ I k , J k +1 ⊃ J k ，且 最后某个 I k = ∅ 。 三. 广义乘子法 1. 对于等式约束优化问题
φ ( x, y , ω , σ ) = f ( x ) − ∑ ω j ( g j ( x ) − y j ) +
2 j =1 l
惩罚函数法
内点法的程序框图如下：
k k 1
r k 1 cr k
否
X 0 X *(rk )
开始
输入 X 0、r0、c、
k←0
求 min(X , rk )
满足收敛条件？ 是
X * X *(rk ) f ( X *) f X *(rk )
结束
3.外点惩罚函数法
求解策略
外点惩罚函数法简称外点法。这种方法和内点相反，
3.外点惩罚函数法
外点法程序框图：
Yes
X * X *(rk )
Yes
f ( X *) f X *(rk )
结束
开始
输入 X 0, r0, c,1,2
k 0
求 min ( X , rk ) 得X *(rk )
Q max g j ( X *(rk ))
Q 1 ?
No
X * (r k ) X * (r k1) 2
(X , r) f (X ) rmax 0, g j (X ) rhk (X )
j 1
k 1
式中：r为惩罚因子，它是由小到大，且趋近于∞的数列
3.外点惩罚函数法
l
2m
2
即 r0＜r1＜r2＜··· ,hk (X ) 、max 0, g j (X )分别对
应为对应于不等式约束和等k式1 约束函数j1的惩罚项， 其中
当 r , lim(1 1 ) 1。
r 4r
当逐步增大r值，直至趋近于无穷时，逼近原问题的约束最优
解，当r=0.25,0.5,1,2时，惩罚函数 (X , r) 的等值线图
下如
3.外点惩罚函数法
当r逐渐增大时，极值
点 X *(r)的序列将沿一直线轨 迹 ( X *(r), r) 1 X *(r) 在可 行域外逐步逼近2 最优2 点。
k k 1
r k 1 cr k
否
X 0 X *(rk )
开始
输入 X 0、r0、c、
k←0
求 min(X , rk )
满足收敛条件？ 是
X * X *(rk ) f ( X *) f X *(rk )
结束
3.外点惩罚函数法
求解策略
外点惩罚函数法简称外点法。这种方法和内点相反，
3.外点惩罚函数法
外点法程序框图：
Yes
X * X *(rk )
Yes
f ( X *) f X *(rk )
结束
开始
输入 X 0, r0, c,1,2
k 0
求 min ( X , rk ) 得X *(rk )
Q max g j ( X *(rk ))
Q 1 ?
No
X * (r k ) X * (r k1) 2
(X , r) f (X ) rmax 0, g j (X ) rhk (X )
j 1
k 1
式中：r为惩罚因子，它是由小到大，且趋近于∞的数列
3.外点惩罚函数法
l
2m
2
即 r0＜r1＜r2＜··· ,hk (X ) 、max 0, g j (X )分别对
应为对应于不等式约束和等k式1 约束函数j1的惩罚项， 其中
当 r , lim(1 1 ) 1。
r 4r
当逐步增大r值，直至趋近于无穷时，逼近原问题的约束最优
解，当r=0.25,0.5,1,2时，惩罚函数 (X , r) 的等值线图
下如
3.外点惩罚函数法
当r逐渐增大时，极值
点 X *(r)的序列将沿一直线轨 迹 ( X *(r), r) 1 X *(r) 在可 行域外逐步逼近2 最优2 点。
最优化方法 第三章(罚函数法)
这种惩罚策略，对于在无约束的求解过程中企图违反约
束的迭代点给予很大的目标函数值，迫使无约束问题的 极小点或者无限地向可行域D靠近，或者一直保持在可 行域D内移动，直到收敛到原来约束最优化问题的极小 点。
不改变可行域局部极小值，可以将 约束域之外的局部极小值变大。
p ( x) 0, x D p ( x) 0, x D
k k
k 1
k 1
xk 1是F x, M k 1 的最优解.
k 1 k k 1 k 0 M k 1 M k p ( x ) p ( x ) p ( x ) p ( x )
M k 1 M k
(3) f ( x k 1 ) M k p( x k 1 ) F ( x k 1 , M k ) F ( x k , M k ) f ( x k ) M k p( x k )
gi ( x) gi ( x) max gi ( x), 0 = 罚函数p(x)的构造 2 m l p( x) (max gi ( x), 0) 2 h 2 j ( x)
i 1 j 1
(1) p(x)连续 (2) p( x) 0, x D (3) p( x) 0, x D
二、外点法 外点罚函数法算法步骤 1：给定初始点 x 0 ，初始罚因子M1 0 (可取M1 1 ), 精度 0, k : 1. 2：以 x k 1初始点，求解无约束优化问题
min F ( x, M k ) f ( x) M k p( x)
得到极小点 x* ( M k )，记为 x k ， 其中
p( x) (max gi ( x), 0) h 2 j ( x)
2 i 1 j 1 m l
0422 罚函数法
Page 17
所以
1 r x r r
令 r 0 有：
x( r ) x 1, 0
*
T
则最优解及最优值分别为：
x 1, 0
* T
8 , f . 3
*
3. 算法实现
Page 18
Step1: 给出 x 0 R n (要求是可行点)， 0 104 罚因子 r1 r1 10 , 缩小系数 c 0.1 , 令 k 1. Step2: 以 x k 1 为初始点求无约束问题：
2 2 min f x x1 x2
Page 7
s.t
解：作辅助函数
x1 1 0
2 1 2 2 2
F x, x x max 0, x1 1
2 2 x x x1 1 0 1 2 即：F x , 2 2 2 x1 1 0 x1 x2 x1 1 x1 1 因此： F 2 x1 x1 2 x1 2 x1 1 x1 1 F 2 x2 x2
i 1 j 1
0 是很大的正数．
P ( x ) 0, F ( x , ) f ( x ). 当 x是可行点时， 分析： 当 x不是可行点时， P x 0, 又因 是大正数．
故此 x 很难成为 F x， 的极小点. 因此，按上策略 得到的 F x, 的极小点应充分靠近可行域，逐渐
“围墙”，当迭代点靠近边界时，目标函数值陡然增大,
这相当于对它进行惩罚，从而阻止迭代点穿越边界，
这样就可以把最优解“挡”在可行域内了．
注意： 内点法只适合于不等式约束问题，并且要求 可行域的内点集非空．
惩罚函数法
解出x1,x2
5M 4 M 5 x1 x2 2.5 2M 1 2
此时x1,x2则满足约束条件，是原问题的解。
§2惩罚函数法
§2惩罚函数法
§2惩罚函数法
§2惩罚函数法
§2惩罚函数法
§2惩罚函数法 例：内点法求解约束问题 min f (u ) au(a 0) s.t.g (u ) b u 0(b 0)
§2惩罚函数法
§2惩罚函数法
§2罚函数法
§2惩罚函数法
§2惩罚函数法
§2惩罚函数法
s.t. h (xi)=x1+ x2-5=0
该问题只有等式约束 解：首先建立罚函数：
F ( x, M ) f ( x) Mp( x)
P( x)
(max( 0, g
i 1
l
i
( x )))
2
( h j ( x ))
j 1
m
2
( x1 x 2 5) 2
F ( x, M ) ( x1 4) 2 ( x2 4) 2 M ( x1 x2 5) 2
此时的x1,x2不满足约束条件，不是原问题的解。
当x 不属于 S 时
F§2惩罚函数法 ( x2 4) 2 M ( x1 x2 5) 2 ( x, M ) ( x1 4) 2
F 2( x1 4) 2M ( x1 x 2 5) 0 x1 F 2( x 2 4) 2M ( x1 x 2 5) 0 x 2
*
rk a 2 (b u )
rk a
F (u , rk ) f (u ) rk a (b rk 0
1 1 au rk g (u ) bu
罚函数法
α α
i =1 i =1 j =1
m+ p
m
p
α
p ⎡m α⎤ F ( x , M ) = f ( x ) + M ⎢ ∑ max{0, gi ( x )}α + ∑ h j ( x ) ⎥ j =1 ⎣ i =1 ⎦
(2.1)
或 p( x ) = c ( x )
∞
= max ci ( x ) = max{max{0, gi ( x )}, i = 1," , m, h j ( x ) , j = 1," , p} ，则
k k k k
(2.2)
F ( xk , M k ) → F * ， f ( xk ) → f *
则 M k p ( x ) = F ( x , M k ) − f ( x ) → F − f ，再由 M k → +∞ 得
k k k
*
*
p( x k ) → 0
k k k k
(2.3)
故当 k 充分大时 x ∈ Sδ 。由 Sδ 为紧集，因此{ x }存在收敛子列 { x }k∈J ，设 x → x ( k ∈ J ) 。由已知 条件知 f ( x ) 和 p ( x ) 是连续函数，由(2.3)得 p ( x ) = 0 ，故 x ∈ S ，再由(2.2)得
*
K
知， {F ( x , M k )} 和 { f ( x )} 是单调增序列，并且
k
k
f ( x* ) = F ( x* , M k ) ≥ F ( x k , M k ) ≥ f ( x k )
即 {F ( x , M k )} 和 { f ( x )} 有上界，故 {F ( x , M k )} 和 { f ( x )} 收敛，设
i =1 i =1 j =1
m+ p
m
p
α
p ⎡m α⎤ F ( x , M ) = f ( x ) + M ⎢ ∑ max{0, gi ( x )}α + ∑ h j ( x ) ⎥ j =1 ⎣ i =1 ⎦
(2.1)
或 p( x ) = c ( x )
∞
= max ci ( x ) = max{max{0, gi ( x )}, i = 1," , m, h j ( x ) , j = 1," , p} ，则
k k k k
(2.2)
F ( xk , M k ) → F * ， f ( xk ) → f *
则 M k p ( x ) = F ( x , M k ) − f ( x ) → F − f ，再由 M k → +∞ 得
k k k
*
*
p( x k ) → 0
k k k k
(2.3)
故当 k 充分大时 x ∈ Sδ 。由 Sδ 为紧集，因此{ x }存在收敛子列 { x }k∈J ，设 x → x ( k ∈ J ) 。由已知 条件知 f ( x ) 和 p ( x ) 是连续函数，由(2.3)得 p ( x ) = 0 ，故 x ∈ S ，再由(2.2)得
*
K
知， {F ( x , M k )} 和 { f ( x )} 是单调增序列，并且
k
k
f ( x* ) = F ( x* , M k ) ≥ F ( x k , M k ) ≥ f ( x k )
即 {F ( x , M k )} 和 { f ( x )} 有上界，故 {F ( x , M k )} 和 { f ( x )} 收敛，设
惩罚函数法讲稿
其中：g u(x ) 0,u 1, 2,... m
其中：gu ( x) 0, u 1,2,...m
惩罚（加权）因子 r 缩小系数c：
( 0)
r ....r
(1)
(k )
r
( k 1)
c r
(k )
0< c <1
三.
1. 2.
迭代步骤：
选取合适的初始点 x(0) ，以及 r(0)、c（缩减系数）、计算精度 ε，令 k=0； 构造惩罚（新目标）函数；
程问题时，只要在可行域内，即使未达最优解，接近的过程解也
是可行的； 初始点和序列极值点均需严格满足所有约束条件；
不能解决等式约束问题。
六.
举例：盖板问题 设计一个箱形截面的盖板。 tf
h
已知：长度 l0= 600cm，宽度 b = 60cm， 侧板厚度 ts = 0.5cm，翼板厚度为 tf(cm)，高 度为 h(cm)，承受最大的单位载荷 q = 0.01Mpa。
以用来求解含不等式和等式约束的优化问题。
二.混合惩罚函数法的形式：
障碍函数
衰减函数
其中根据Fiacco等建议的关系式可得： 为逐渐减小的正项数列，即：
x(k 1) * (r1
(k 1)
) x k * (r1 )
(k )
2. 惩罚因子初始值 r(0) 的选择：
惩罚因子的初值应适当，太大，将增加迭代次数；太小，会 使惩罚函数难以收敛到极值点。对于不同的问题，都要经过多次 试算，才能决定一个适当 r0。
3. 缩减系数 c 的选择：
在构造序列惩罚函数时，惩罚因子 ，相邻两次迭代的惩罚因子的关系为 : 是一个逐次递减到0的数列
第五章 惩罚函数法
入口 给定：x(0) ∈D,r(0),C,ε1,ε2 k←0 用无约束优化方法求罚函数 * 的优化点 x k F F ( x k* )
x* x k , F * F ( x k )
* *
内 点 法 流 程 图
出口
+
K=0?
-
F F0 F0
2
+
r
( k 1)
Cr
(k )
F0 F x k 1 x k
x∈Rn 任选初始点x(0)，初始法罚因子r(0)>0,罚因子递增系数C>1 对于r(k)为某一值，同过对惩罚函数的无约束求优，可 得最优点 。随着k的增大，得无约束最优点列
在k←∞的过程中，点列将趋近于原问题的最优点
实线为原目标 函数等值线
虚线为罚函数 等值线
总结 由上图可见，两种等值线在可行域内部及边界上是重合 的；而在非可行域中，罚函数的等值线升高了。即只有在 可行域外部惩罚项才起到惩罚的作用。r(k)值越大，惩罚作 用越大。 由上b图可知，在起作用约束边界处罚函数等值线变得越 密集和越陡峭。随r(k)的增大，最优点列将越接近于原约束 优化问题的最优点x*。但须注意，近似的最优点是落在边 界处非可行域一侧。
(0) *
-
k k 1ຫໍສະໝຸດ ㈦内点罚函数的特点内点法只适用于解不等式约束优化问题。由于内点法 需要在可行域内部进行搜索，所以初始点必须在可行域 内部选取可行设计点。 内点法的突出优点在于每个迭代点都是可行点 因此，当迭代达到一定阶段时，尽管尚没有达到最优点， 但也可以被接受为一个较好的近似解。
5.3.4.2 外点法
出口
外 点 法 流 程 图
k←0
用无约束优化方法求罚函数 * 的优化点 x k F F ( x k* )
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
/kuai_su/youhuasheji/suanfayuanli/4.3.asp
约束优化算法——外点惩罚函数法
(一)基本原理
设原目标函数为，在不等式约束条件下用外点惩罚函数法求极小。
外点法常采用如下形式的泛函：
（6）
由此，外点法所构造的相应的惩罚函数形式为
（7）
式中，惩罚因子是一个递增的正值数列，即
惩罚项中：
（8）
由此可见，当迭代点X位于可行域内满足约束条件时，惩罚项为零，这时不管
取多大，新目标函数就是原目标函数，亦即满足约束条件时不受“惩罚”，此时求式（7）的无约束极小，等价于求原目标函数在己满足全部约束条件下的极小；而
当点X位于可行域外不满足约束条件时，惩罚项为正值，惩罚函数的值较原目标函数的值增大了，这就构成对不满足约束条件时的一种“惩
罚”。
由式（7）可知,每一次对罚函数求无约束的极值，其结果将随该次所给定的罚因子值而异。
在可行域外，离约束边界越近的地方，约束函数的值越大，的值也就越小，惩罚项的作用也就越弱，随着罚因子逐次调整增大，有增大惩罚项的趋势，但一般说来泛函值下降得更
快一些。
此时尽管值增大，但泛函值亦趋于零，满足式（3）。
最后当，泛函值和惩罚项值均趋近于零。
外点法在寻优过程中，随着罚因子的逐次调整增大，即取
，所得的最优点序列可以看作是以为参数的一条轨迹，当时，最优点点列
从可行域的外部一步一步地沿着这条轨迹接近可行域，所得的最优点列逼近原问题的约束最优点。
这样，将原约束最优化问题转换成为序列无约束最优化问题。
外点法就是因从可行域的外部逼近最优解而得名。
(二)迭代过程及算法框图
外点惩罚函数法的具体迭代步骤如下：
(1)给定初始点，初始惩罚因子，迭代精度，递增系数c>1，维数n。
置。
(2)以为初始点，用无约束最优化方法求解惩罚函数的极小点，即：
（9）。
(3)检验是否满足迭代终止条件：
或（若）
或（若）
若不满足，则进行第(4)步;否则转第(5)步。
(4)令，置，返回进行第(2)步。
(5)输出最优解：，停止迭代。
外点惩罚函数法的算法框图如图所示。
（三）几点说明
（1）外点惩罚函数法的初始点,可以在可行域内也可以在可行域外任意选取，这对实际计算是很方便的。
（2）初始罚因子和递增系数c的选择是否恰当，对方法的有效性与收敛速度都有影响。
若与c取值过小，则序列求解函数的无约束最优化次数增多，计算时间增加。
但若与c取值过大，惩罚函数的性态变坏，导致求解无约束优化问题的困难。
(3)外点惩罚函数法通常求到的最优点是无限接近约束边界的一个位于非可行域的外点，显然，这就不能严格满足约束条件。
为了解决这个问题，可对那些必须严格满足的约束(如强度、刚度等性能约束)引入约束裕量，如图所示，意即将这些约束边界向可行域内紧缩移动一个微量，也就是新定义的约束条件为这样可以用新定义的约束函数构成的惩罚函数来求它的极小化，取得最优设计方案。
它虽在紧缩后的约束边界之外，但已在原来的约束边界之内，这就可以使原不等式约束条件能够严格的满足。
当然，值不宜选取过大，以避免所得结果与最优点相差过远，一般取。