鲁棒优化的方法及应用

鲁棒优化的方法及应用

杨威

在实际的优化中决策过程中，我们经常遇到这样的情形，数据是不确定的或者是非精确的；最优解不易计算，即使计算的非常精确，但是很难准确的实施；对于数据的一个小的扰动可能导致解是不可行。鲁棒优化是一个建模技术，可以处理数据不确定但属于一个不确定集合的优化问题。早在19世纪70年代，Soyster 就是最早开始研究鲁棒优化问题的学者之一，他的文章给出了当约束矩阵的列向量属于一个椭球形不确定的集合时的鲁棒线性优化问题。几年以后Falk 沿着这条思路做了非精确的线性规划。在以后的很长的一段时间里，鲁棒优化方面都没有新的成果出现。直到19世纪末，Ben-Tal,Nemirovski 的工作以及这时计算技术的发展，尤其是对于半定优化和凸优化内点算法的发展，使得鲁棒优化又成为一个研究的热点。

一个一般的数学规划的形式为

0000,m in {:(,)0,(,)0,1,...,}n i x R x R

x f x x f x i m ξξ∈∈-≤≤=

其中x 为设计向量，0f 为目标函数，12,,...,m f f f 是问题的结构元素。ξ表示属于

特定问题的数据。U 是数据空间中的某个不确定的集合。对于一个不确定问题的相应的鲁棒问题为

0000,m in {:(,)0,(,)0,1,...,,}n i x R x R

x f x x f x i m U ξξξ∈∈-≤≤=?∈

这个问题的可行解和最优解分别称为不确定问题的鲁棒可行和鲁棒最优解。

这篇文章主要回顾了鲁棒优化的基本算法，目前的最新的研究结果及在经济上的应用。

1 鲁棒优化的基本方法

1.1鲁棒线性规划

一个不确定线性规划{m in{:}(,,)}T

n

m n

m

x

c x Ax b c A b U R R

R ?≥∈???所对应的鲁

棒优化问题为min{:,,(,,)}T

x

t t c x Ax b c A b U ≥≥∈，如果不确定的集合是一个计算上易处

理的问题，则这个线性规划也是一个计算上易处理的问题。并且有下列的结论： 假设不确定的集合由一个有界的集合{}N

Z R ξ=?的仿射像给出，如果Z 是

1线性不等式约束系统构成P p ξ≤，则不确定线性规划的鲁棒规划等价于一个线性规划问题。

2由锥二次不等式系统给出2

,1,...,T

i i i i P p q r i M ξξ-≤-=，则不确定线性规划的鲁棒规

划等价于一个锥二次的问题。

3 由线性矩阵不等式系统给出dim 01

0i

i

i P P

ξ

ξ=+≥∑，则所导致的问题为一个半定规划问题。

1.2鲁棒二次规划

考虑一个不确定的凸二次约束问题

1{m in{:2,1,...,}(,,)}T T T m

i i i i i i i x

c x x A x b x c i m A b c U =≤+=∈

对于这样的一个问题，即使不确定集合的结够很简单，也会导致NP 难的问题，所以对于这种问题的处理通常是采用它的近似的鲁棒规划问题。

考虑一个不确定的优化问题{min{:(,)0}}T x

P c x F x U ξξ=≤∈，假设不确定集合为

n U V ξ=+，而n

ξ表示名义的数据，而V 表示一个扰动的集合，假设V 是一个包含原

点的凸紧集。不确定问题P 可以看成是一个不确定问题的参数族

{m in{:(,)0}}T

n

x

P c x F x U V ρρξξξρ=≤∈=+，0ρ≥表示不确定的水平。

具有椭圆不确定性的不确定的凸二次规划问题的近似鲁棒问题

11

{{(,,)(,,)(,,)}1,1,...,}L

n n n l l l m T

i i i i i i

l

i i i i j l U c A b c A b c A b Q j k ξ

ξξ====+

≤=∑

其中1

0,0k

j j j Q Q =≥∑

则问题可一转化为一个半定规划问题 1

11

11111

m in

2...

[]2

2

[]

2..0,1,...,[]2T

L

k

T n n

T

T

L n T

i

i

i i ij

i

i

i

j T i T i i k

ij

i

j L

L T

T L

i i i

n

L

i i i c x

c c x b c x b x b

A x c x b A x s t Q i m c A x x b A x A x A x

I λλ

==??

+-++ ?

? ?+

?

? ?≥= ? ?

+ ? ?

?

??

?

∑∑ 具有椭圆不确定集合的不确定锥二次问题的近似鲁棒规划 考虑不确定锥二次规划

12

{m in{:,1,...,}{(,,,)}}T

T

m

i i

i i i i i i i x

c x A x b x i m A b U αβαβ=+≤+=∈

它的约束为逐侧的不确定

11

1{,}(,,,)}{,}m left

m

i i i i i i i i m right i i i A b U U A b U αβαβ===??∈??=??

∈????

它的左侧的不确定的集合是一个椭圆

11

{{(,)(,)(,)}1,1,...,}L

left

n n l l m T

i i i i

l

i i i j l U

A b A b A b Q j k ξ

ξξ====+

≤=∑

其中1

0,0k

j j j Q Q =≥∑

右侧的不确定集合是有界的，它的半定表示为

11

{{(,)(,)(,)}}R

right

n n r r m

i i i i

r

i i i r U

V αβαβη

αβη====+

∈∑

{:()()0}V u P Q u R ηη=?+-≥，(),()P Q u η为线性映射。

则半定规划为

1

1111

m in

[][]..0,1,...,[]

T

k

n n T ij

i i j T

i i k

ij

i

j L L T i i n n L

i i i i i c x

A x b A x b s t Q i m

A x b A x b A x A x

I

τλλ

τ==?

?-+ ?

?

?+ ?

≥=

? ?+

? ?+ ? ??

?

∑∑

其中11*

*

0,1,...,,1,...,(),1,...,(),1,...,()0,1,...,0,1,...,ij T

n

n

i i i i T i i i T R R

i i i i i m j k x Tr RV i m

x P V i m x Q V i m V i m

λταβαβαβ≥===++=??

+ ?

==

? ?+?

?

==≥=

1.3鲁棒半定规划

一个不确定的半定规划的鲁棒规划为

0011

{m in{:0}{(,...,)}}n

T

m

i

i

n i x

i c x A x A

A A U ==+

≥∈∑由一个箱式不确定集合影响的不确定

半定规划的近似鲁棒问题

0001

{(,...,)(,...,)(,...,)1}L

n n l l

n n

l

n l U A A A A A A ξ

ξ∞

===+

≤∑。

则半定规划的近似的鲁棒优化为

01

,011[],1,...,m in :[],1,...,,1,...,l n

l l l

l j j j T l

l x X

L n

l l l

j j l j X A x A x A l L c x X A x l L X A x A l L ===??≥≡+=??

????≥-=??????≤+=????

∑∑∑

由一个球不确定集合影响的不确定半定规划的近似鲁棒问题

0002

1

{(,...,)(,...,)(,...,)1}L

n n l l

n n

l

n l U A A A A A A ξ

ξ

===+

≤∑。

则半定规划问题为

121

20,,1

[][][][]m in :[]0,2()[]L n

T

n

n j j x F G

j L G A x A x A x A x c x A x F

F G A x A A x F =??

??

??

??? ?

?? ?≥+≤+

?? ??

? ??

? ?????

?

?

∑

具有易处理的鲁棒counterparts 的不确定线性规划。

如果多胞形是由有限集合的凸包给出的，则鲁棒规划为

1

m in{:0,1,...,}n

T

l l

j

j x

j c x A x

A l L =+

≥=∑

2 鲁棒优化的几种新的方法

鲁棒规划的最近的研究包括了对于可调节的鲁棒优化的研究以及对于鲁棒凸优化的研究。 2.1不确定的线性规划的可调节的鲁棒解

不确定线性规划为[,,],{m in :}T Z U V b Z u v

LP c u U u Vv b ζ=∈+≤，其中不确定集合

n m n

m

Z R R

R ????是一个非空的紧的凸集，V 称为recourse 矩阵。当V 是确定的情况下，

则称相应的不确定线性规划为固定recourse 的。 定义：线性规划Z L P 的鲁棒counterpart 为 ():m i n

{:([,,]):T

u

R C c u v U V b Z U u V v b

ζ??=∈+≤， 则它的可调节的鲁棒counterpart 为

():min{:([,,]),:}T

u

ARC c u U V b Z v Uu Vv b ζ?=∈?+≤。

可调节的鲁棒规划比一般的鲁棒规划灵活，但是同时它也比一般的鲁棒规划难解。对于

一个不确定线性规划的鲁棒规划是一个计算上易处理的问题，然而它相应的可调节的鲁棒规划却是不易处理的问题。但是如果不确定集合是有限集合的凸包，则固定recourse 的ARC 是通常的线性规划。从实际的应用来看，只有当原不确定问题的鲁棒counterpart 在计算上容易处理的时候，鲁棒优化方法才有意义。当可调节的变量是数据的仿射函数时，可以得到一个计算上易处理的鲁棒counterpart.

对于Z L P 的仿射可调节的鲁棒counterpart (AARC)可以表示为

,,():m in{:(),([,,])}T

u w W

AARC c u U u V w W b U V b Z ζζ++≤?=∈。

如果Z 是一个计算上易处理的集合，则在固定recourse 的情况下，Z L P 的仿射可调节的

鲁棒counterpart (AARC)是一个计算上易处理的问题。如果Z 是这样的一个集合，

000

1{[,,][,,][,,]:}L

l

l l

l

l Z U V b U V b U

V b ξξ===+

∈?∑，?是一个非空的凸紧集。

在固定的recourse 的情况下，AARC 具有这样的形式

01

,,,...,m in {:[][][],}L T l

l

l

l

l

l

u v v v

c u U U

u V v v

b b

ξξξξ+++

≤+

?∈?∑∑∑

如果不确定的集合是一个锥表示的，则Z L P 的仿射可调节的鲁棒counterpart (AARC)是一个锥二次或半定规划。

如果recourse 也是可变的，则AARC 是不易处理的问题，这时采用它的近似形式。在简单椭圆不确定集合的情况下，AARC 等价于一个半定规划。当扰动的集合是一个中心在原点的箱式集合或者是一个关于原点对称的多胞形集合，则AARC 可以有一个半定规划来近似。

对于多期的决策问题也是一个可调节的鲁棒优化问题。考虑一个两期的决策问题

inf inf (,,)u U v V

f u v p ∈∈

其中p 是不确定的，但属于一个闭的有界的不确定集合。可行集V 依赖于u 和参数p 。则可以表示为(,)V u p ，或()u V p 。可调节的鲁棒counterpart 问题可以表示为

,inf {:,(,):(,,)}u U t

t p P v V u p f u v p t ∈?∈?∈≤，

可以等价的表示为 (,)i n f s u p

i n f (,,)

u U v V u p

p P

f u v p ∈∈∈。 如果P 包含有限数量的元素，12{,,...,}k P p p p =，则对于每个i p P ∈，都存在着相应的

i v 满足上面的问题。则问题可以转化为一个等价的单层优化问题

1,,...,,inf ..(,,),1,...,,(,),1,...,k u v v t

i i i i t

s t f u v p t i k u U v V u p i k

≤=∈∈=

这样的一个单层的优化问题对于许多类的函数f 和集合(,)V u p ，这是一个易处理的问题。比如0(,,)(,,)i i i i f u v p f u v p =，

{:()0,1,...,},l U u g u l m =≤=

2(,){:(,,)0,1,...,}i i l i i V u p v f u v p l m =≤=

其中2(,,)(,)()()(),0,...,T T

l i i l i i i l i i l i i l i f u v p f w p w Q p w q p w b p l m ==++=

1(),1,...,T T l l l l g u u R u r u d l m =++=，(,),1,...,T

i i w u v i k ==

在这种情况下，问题等价于一个二次约束的优化问题

1,,...,,00012

inf ..,1,...,0,1,...,,0,1,...,,1,...,k u v v t

T

T

i i i i i i T

T

l l l T

T T

i il i il i il t

s t w Q w q w b t i k u R u r u d l m w Q w q

w b i k l m ++≤=++≤=++≤==

如果不确定集合是有限集合12{,,...,}k P p p p =的凸包()conv P ，则考虑下面的问题

(,)

()inf

sup inf (,,)u U v V u p p conv P f u v p ∈∈∈

如果()

()inf

(,,)u u v V p g p f u v p ∈=是拟凸的，则()

max ()max ()u u p conv P p P

g p g p ∈∈=。则问题转化为一

个单层的优化问题。 2.2一个锥二次问题的鲁棒解

一个锥二次约束的形式为

2

T

Ax b

c x

d +≤+，[,,,]m n m n A R b R c R d R ?∈∈∈∈，

或者是等价的形式

1

m T

A x b L c x d

++??∈ ?+??

，L 是Lorentz 锥。 假设不确定参数属于一个有界的集合。两种类型的不确定集合常常用到，一个是范

数有界的不确定集合，一个是扰动的向量属于一个有界的扰动集合时的结构不确定集合。

对于参数的结构不确定为

00001

{(,,,)(,,,)(,,,),}L

l l l l

l l S A b c d A b c d A b c d V ρζζ===+∈∑，其中ζ是描述

扰动的向量，0ρ>是表示扰动幅度的向量，V 是扰动集合，0000

,,,A b c d 是名义数值，

,,,l

l

l

l

A b c d 为扰动方向。V 是椭圆的交集 {:1,1,...,}L

T

k V R Q k K ζζζ=∈≤=，k Q 1,...,k K =为对称的正半定矩阵，且1

K

k k Q =∑是正定的。 对于一个单侧不确定的锥二次约束，El Ghaoui 和Lebret 证明了在不确定集合是范数有界的情况下，问题等价于一个锥二次约束。Ben-Tal,Nemirovski 给出了在扰动集合是椭圆集合的交集的结构不确定的情况下，如果是简单的椭圆不确定集合，则相应的鲁棒counterpart 为一个线性矩阵不等式，在一般的情况下，问题是NP 难的，但是可以用线性矩阵不等式来近似。

Ben-Tal 等研究了逐侧不确定的锥二次约束，即对于影响左侧的不确定独立于影响右侧的不确定。(,,,){(,,,)(,),(,)}A b c d A b c d A b U c d U '''=∈∈，,U U '''是相互独立的集合。则x 是问题2

T

Ax b

c x

d +≤+的可行解，但且仅当存在τ，使得

2

Ax b

τ+≤，,A b U '?∈和,,T c x d c d U τ''≤+?∈成立。在具有椭球交集的结构不确定

的集合的情况下，这两个问题是易处理的。

在很多的情况下，影响两侧的不确定集合是相互依存的。比如考虑一个不确定的锥二次约束 2[][][][]T

A x b c x d ρζρζρζρζ+≤+

，V ζ?∈， (*)

其中[],[],[],[]A z b z c z d z 关于z 是仿射的。V 是中心在原点的椭圆的交集。{:1,1,...,}L

T

k V R Q k K ζζζ=∈≤=，k Q 1,...,k K =为对称的正半定矩阵，

且1K

k k Q =∑是正定的。如果存在着0,0k λμ≥≥，且满足下式，则x 满足(*)式。

()[]

[][][]0[][]

T

T

k

k

T

k k

k

v x w x u x w x Q U x u x U x I μλρρλρρμ??

---?

?-≥?

??

?--?

?

∑∑

其中00[](),T v x c x d =+ 11

1[][(),...,()],2

T

L

T

L T

w x c x d c x d =++ 0

1[][],2

u x A x b =+

1

1

1[][,...,].2

L

L

U x A x b A x b =

++

如果向量x 被分成两部分，(,)T T T x u v =，其中u 表示不可调节的变量，v 表示可调节的变量。假设目标函数是确定的，独立于可调节的变量v ，则相应的锥优化问题为

min{}T

u

c u Uu Zv b K +-∈，

K 是一个锥。则相应于不确定集合S 的鲁棒counterpart 为

min{:,(,,)}T

u

c u v Uu Zv b K U Z b S ?+-∈?∈

则可调节的鲁棒规划为

min{(,,),(,,):,}T

u

c u U Z b S v v U Z b Uu Zv b K ?∈?=+-∈。

可调节的鲁棒规划比一般的鲁棒灵活一些。但是这样会导致所得到的问题是不易处理的。克服计算上缺点的一个方法是限制可调节的变量为一个仿射函数。v w W ζ=+，这样得到了 仿射可调节的鲁棒规划为

,,m in{(),(,,)}T

u w W

c u U u Z w W b K U Z b S ζζ++-∈?=∈

对于结构不确定的锥二次约束可表示为2

[][]

[][]T

A x b c x d ρζρζρζρζ+≤+，如果

分别用,u v 表示x 的子向量，并且分别对应于不可调节的部分和可调节的部分，则上面的约

束可以表示为

2

[][][]

[][][]T T

U u Z v b e u f v d ρζρζρζρζρζρζ++≤++(**)，

若v w W ζ=+，则上面的约束即为仿射可调节的约束。

下面分成两种情况来讨论，一种是固定的recourse,即Z 是确定的，一种是可变的recourse ，即Z 是不确定的。在第一种情况下，如果约束由(**)表达，扰动集合为中心在原点的椭圆的交集，如果存在0,1,...,k k K λ≥=和0μ≥使得下式成立，则会存在一个解

,u v w W ρζ=+满足(**)，对于所有的扰动V ζ∈成立，

1

[,,][,,]

[,,]2

2

[,,]

[,,]022

1

[,,][,,]

22

T

T

k k T

k k

k

u w W u w W u w W u w W Q u w W u w W u w W I

ραμλβαρρβλβραβμ?

?

---

???

???-≥??

?

???--???

?

∑∑

其中00U u Zw b α

=++ ， ,1,...,l l l l

U u Z W b l L

β=++= 00,T T e u f w d α=++

,1,...,l

l T

T

l

l

e

u f

W d l L

β=++= 在第二种情况下，如果扰动很小，使得二次项可以被忽略，则可以用上面的半定规划来近似。如果二次项不能够被忽略，则需要增加一些变量后能够用一个半定规划来近似。 2.3 鲁棒凸优化

2.3.1鲁棒凸二次约束的规划问题 一个凸二次约束的规划问题为

min ..

20,1,...,T

T

T i i

i c x

s t x Q x q x i p

γ++≤=，

其中x 为决策向量，,,,,0n n n n

i i i i c R R q R Q R Q γ?∈∈∈∈≥为参数。

上面的这个问题可以转化为一个二阶的锥规划问题

m in 2..

12,1,...,(12)T

i T

i i T

i i c x

V x s t q x i p

q x γγ??≤--=??++??

由于上述的模型对于参数很敏感，所以有必要研究其对应的鲁棒问题 一个一般的鲁棒凸二次规划问题为

min ..

20,(,,),1,...,T

T

T i i

i i i i i c x

s t x Q x q x Q q S i p

γγ++≤∈=

当不确定的集合,1,...,i S i p =是椭球时，上面的问题可以转化为一个半定规划问题，这里我们来确定i S 的结构，使它能够转化为一个二阶锥规划。分成以下的三种情况:

1离散集合和多边形不确定集合 对于离散形式的集合定义为

{(,,):(,,)(,,),0,1,...,}a j j j j S Q q Q q Q q Q j k γγγ==≥=，

鲁棒约束20,T T x Q x q x γ++≤(,,)a Q q S γ∈等价于K 个凸二次约束

20,1,...,T

T

i i i x Q x q x j k γ++≤?=。

或者等价的k 个二阶锥约束。 对于离散集合的凸包为

1

1

{(,,):(,,)(,,),0,0,,1}k

k

a j

j j j j j j j j S Q q Q q Q q Q j γγλ

γλλ====

≥≥?=∑∑，则鲁棒约束

20,T

T

x Q x q x γ++≤(,,)a Q q S γ∈等价于

1

1

20,0,,1k

k

T

T j

i i

i j j j j x Q x q x j λ

γλλ==++≤≥?=∑∑

将上面的两种情况下的集合推广到多边形的不确定集合

1

{(,,):(,,)(,,),0,1,...,,,0}k

b j

j j j j j S Q q Q q Q q Q j k A b γγλ

γλλ===

≥==≥∑。

如果决策向量n

x R ∈满足鲁棒约束20T

T

x Q x q x γ++≤，对于所有的(,,)b Q q S γ∈，当且仅当存在着k

R μ∈，使得

2..12,1,...,(12)T

i T T

T T

i i j i i j b V x s t q x A i p

q x A μγμγμ≤??≤--+=??++-??

其中j A 是A 的第j 列，,1,...,T

j j j Q V V j k ==。

2范数约束的不确定的集合

0001

{(,,):(,,)(,,)(,,),0,0,1}k

c j

j j j j p

j S Q q Q q Q q u

Q q Q u u

γγγγ===+

≥≥≤∑

一个决策向量n

x R ∈满足鲁棒约束20T

T

x Q x q x γ++≤，对于所有的(,,)c Q q S γ∈，当且

仅当存在k

f R +∈和0ν≥，满足

212,1,...,(12)i T

T i i

j i i j V x q x f i p q x f γγ??≤--+=??++-??

00021,21T

q

V x v f

q x υγυ??≤+≤---??-??

，其中

111p

q

+

=，T

j j j Q V V =，0,...,j k =

二次项和锥项的不确定性是独立的，即

0001

001

{(,,):(,,)(,,)(,,),0,1,...,,1

(,)(,)(,),1}

k

d j

j j j j p

j k

j

j j r

j S Q q Q q Q q u

Q q Q j k u

q q v

q v

γγγγγγγ====+

≥=≤=+

≤∑∑

一个决策向量n x R ∈满足鲁棒约束20T T x Q x q x γ++≤，对于所有的(,,)d Q q S γ∈，当且

仅当存在,k

f g R ∈和0ν≥，满足

2,1,...,T

j j

j g q x j k γ=+=，21,

1,...,(1)i j j V x f i k f ??

≤+=??-?

?

00021,21T

q

s

V x v f

g

q x υγυ??≤++≤---??-??

，其中

11

1p

q

+

=，111r s +=，

T

j j j Q V V =，0,...,j k =

3因子化的不确定的集合 如果不确定的集合定义为

11

2200000,,,,,0,0

(,,):,,,0,,0T m m m n

T

e i i g n i s Q V FV F R V R F F N N F N S Q q V V W i G q q R S ηγρξξδ??--

??=∈∈????=+??=??≤≥>??=????

=+?=≤?>????=+∈=≤>??

一个决策向量n x R ∈满足鲁棒约束20T T

x Q x q x γ++≤，对于所有的(,,)e Q q S γ∈，当且

仅当存在,,,,,,n m m

v r R u R w R t R τσ+∈∈∈∈，使得下式成立

1

max 1

0,1,,,,,1,...,()

n T

i i j j j j i v t r u u x u x j n H ττσρλ=≥≥+≤

≥

≥≥-=∑

12

0022T

S

x v q x δγ-

≤---

2,r στστ??≤+??-??2(),1,...,()i i i i i w i m λστλστ??

≤-+=??--??

其中112

2

0(),T

H G

F N G

H Q Q η-

-

=+=Λ是H 的谱分解，()diag λΛ=，

max 1()m ax {}i m i H λλ≤≤=，11

2

20T

w Q F G V x =。

2.3.2二次约束的二次规划的鲁棒解

对于一个非凸的二次约束的二次优化问题

0m i n ()..()

0,1,...,,

k f x s t f x k m x C ≥=

∈

其中n C R ?是一个多面体，并且包含在[,]

{}n

a b a x b R +=≤≤

?中，每个

(),0,1,...,n

k f x k m R +=

?的形式为

2()k

k k

k ij

i j i

i i i k i j

i

i

f x c

x x c

x d x b <=

+

++∑∑∑。

任何一个二次多项式可以写成两个正系数的二次多项式的差，一个一般的(QQP)可以写成

00min ()()

..

()()0,1,...,,k

k

f x f x s t f x f x k m x C

+

-

+---≥=∈

由于000()()(),[,]f a f x f b x a b ---

≤≤?∈，则问题可以转化为

0000m in ()..

()0

()()0,1,...,,()()

k

k f x t s t t f x f x f x k m x C f b t f a +

-

+--

-

++≥-≥=∈-≤≤-

通过变换记号，可以得到这样的形式 m i n {()()0,

[,]}

f

x g x x a b ≥∈ 其中2

()ij i j

i i

i i i j i i

f x c x x c x d x <=

++∑

∑

∑

，所有的系数为正的。

1,...,()min (()())k k k m

g x u x v x ==-，并且(),()k k u x v x 为单调递增的二次函数使得

2

()k

k k

k ij i j

i

i i

i k i j i i g x c x x c x d x b <=

+++∑

∑

∑

由于孤立的最优解即使是可计算的，但是它是难于实施，因为它对一个小的扰动非常的不稳定，因而，从实际的观点来看，只有非孤立的可行解有意义。

Essential 最优解**()min{()}f x f x x S =∈，*

S 表示所以非孤立的可行解的集合。

ε Essential 可行解：0,[,]x a b ε≥∈满足()g x ε≥。

一个非孤立的可行解x 称为是Essential ε最优解，如果它满足

()inf(()(),[,])f x f x g x x a b εε-≤≥∈

寻找Essential ε最优解的方法是：从一个初始的Essential 可行解，寻找一个更好的Essential 可行解，直到不能获得比当前的可行解更好的可行解为止。 假设γ为一个Essential 可行解的目标函数值，给定0ε>：

如果()f a γε≥-，由于()f x 单调递增，则(),[,]f x x a b γε≥-?∈ 如果()f a γε<-，()0g a >，则a 即为一个Essential 可行解 如果()f a γε<-，()0g a ≤，则需要考虑一个辅助的问题 (/)

max{()(),[,]}Q g x f x x a b γγε≤-∈

(/)Q γ求解采用分支定界的方法。

这篇文章中给出了一个successive incumbent transcending(SIT)算法。

3 鲁棒优化的应用

鲁棒优化现在已经应用到了各个研究领域，这里我们主要给出了在金融上的应用。

1．Ruijun Shen 和Shuzhong Zhang 将鲁棒的观点应用于基于scenario 树的投资组合的选择问题中，给出了一阶段和两阶段的组合选择模型相应的鲁棒规划问题。这里允许概率分布存在ambiguity.这样的一个问题能够转化为一个有限的锥形式凸规划问题。并且在不允许卖空的情况下，效用函数采用下半方差的负值，参数的不确定集合是椭球形的，则相应的问题可以转化成一个二阶锥规划问题。

假设想从n 种资产中选择一个投资组合并且持有一段时间，假设初始的财富为1，持有期末有m 种可能的结果。即所有的可能的scenario 可以通过一个具有m 个叶子的一阶段树来表示。假设收益向量的第i 个元素表示表示第i 种资产的收益。则基于scenario 的单阶段的组合选择模型为

1m a x

()

..1m

T i

i

i T

u r

s t e π

φφφ==∈?

∑

n 是股票的数量，

m 是每个节点scenario 的数量

n

R φ∈是持有的股票，是模型中的决策向量

i n

r R ∈是如果scenario i 出现的话n 个股票的收益

i π是scenario i 出现的概率

n

e R ∈是分量全为1的向量

?是允许的投资组合集合

则两阶段的效用极大化投资模型为

*1

1

m ax

[()

..1m

m i i T

ij

i

j

i j T u r s t e ππ

φ

φφ===∈?

∑∑

ij n

r R ∈表示如果scenario i 出现在第一阶段，scenario j 出现在第二阶段

i

j π表示条件概率scenario j 出现在第二阶段在scenario i 出现在第一阶段的条件下的概率。

i

?第二阶段允许的投资组合

*

i

φ是第二阶段的recourse 问题的最优解

1

m ax ()

..

,1,2,...,m

i iT ij

j i iT T i

i

i

u r s t e r i m πφφφφ==?=∈?

∑ 则上面的问题可以写成

(P2)

1

1m ax

m ax

()

..,1,2,...,..

1i

m

m

i iT ij

i

j

i i iT

T

i

i

i

T

u r s t e r i m s t e φ

φπ

π

φφφφφφ===?=∈?

=∈?

∑∑

假设可行集为凸集

令1(,...,)T m πππ=，1(,...,)i i i T m πππ=，且由定义可知,i ππ为非负的向量1,1T iT

e e ππ==

问题(P2)是可分的，则可得

1

1m ax

m ax

()

..,1,2,...,,1,i

m

m

i

iT ij

i

j

i i iT

T

i

i

i

T

u r s t e r i m e φ

φπ

π

φφφφφφ===?=∈?=∈?

∑∑ 由于()u 是凹的，则上面的问题为凸规划。 单阶段模型的鲁棒规划模型

确定的情景树有两个缺点：一个是每个情境中收益的模糊性，一个是每个情景发生的条件概率的模糊性。实际上在我们的模型中用到的收益向量为估计值。并且我们并不知道确切的收益为多少，但是根据统计分析，我们知道实际的值离我们估计的值不远，我们可以得到某些置信区间。

i i

r V ∈（收益的模糊性）

π∈∏（概率分布的模糊性）

假设所有的集合为凸的，紧的，非空的。令y ππ=- ，U π

=∏- ，y U π∈∏?∈ 则鲁棒模型为

,1

m ax m in

()()

..1i i m

T i

i

i r V y U

i T

y u r s t e φ

πφφφ∈∈=+=∈?

∑

两阶段的鲁棒规划模型

两阶段的模型中的估计量为,,,i i ij r r π

π ,令y ππ=- ，U π=∏- ，y U π∈∏?∈, 令i i i y ππ

=- ，i i i

U π=∏- ，i i y U π∈∏?∈. ,,1

1

m ax m in

()m ax m in ()()

..,1,2,...,,

1i i ij

ij i

i

i

m

m

i

i iT ij

i

i j

j r V y U

r V

y U i j iT

T

i

i

i

T

y y u r s t e r i m e φ

φ

ππφφφφφφ∈∈∈∈==++=?=∈?=∈?

∑∑

单阶段鲁棒模型的有限表示 假设条件：

1 没有卖空 n

R +?=

2 一个半方差的非效用函数2

()()d w R w +=-相当于一个给定的基准组合的下方风险，相应

的效用函数为2

()()u w R w +=--。

模糊集合是椭球形的：

{1,}m

T

R

e ππππ

θ∏=∈=-≤ ， 2{()()},1,...,T

i

i

n

i

i i i i i V r R

r r

Q r r i m ρ=∈--≤= 为了简便，假设i

Q 是单位矩阵

{0,}m

T

U y R

y e y θ=∈=≤，

{},1,...,i i n

i

i i V r R

r r

i m ρ=∈-≤= 则原模型可变形为

21

m ax

[()]..10

m

T

i i

i T

R r s t e φ

πφ

φφ+

=--=≥∑

则相应的鲁棒规划模型为

2

,1

m ax

m in ()[()]..10

i

i m

T i i

i r V y U

i T

y R r

s t e φ

πφφφ+∈∈=+--=≥∑

10

,,02m in

..

m ax ()m ax ()1,

i i

t t T y U

T i

i r V

T

t s t t y t t R r e φπ

φφφ∈+

∈≥+≥-=≥

进一步变形为

10

,,02

2

m in

..

m ax (),

m ax ()01,

i

i

t t T

y U

i i T

i i r V

i T

t s t t y t t R r

e φπ

ττφτφφ∈+∈≥+≥≥-≥=≥

利用结论001(),(1)()T m T i i i i t a t y a y U soc m a e a e

m π

πθ=??- ?≥+?∈?∈+ ?

- ??

?∑ 将上面的规划变为

10

,,0m in

1(1),1(3)()2(1)0,0,1

t t T i T i i T i

i i T

i t t t a soc m t soc a e a e m R r soc n e φπ

θττφρφτφφ+????- ? ?∈+-∈ ?

?- ? ???????

-+∈+

??

?

≥≥=

对于一个一般的模型

,1

m ax m in

()()

..1i i m

T i

i

i r V y U

i T

y u r s t e φ

πφφφ∈∈=+=∈?

∑

通过增加变量变为

01m ax

..

(),(),,

1,

m

i

i i i i i T

i

i

i

i T

t s t t y u y U

u u w w r r V

e φ

πφφφ=≤

+?∈≤≤?∈=∈?

∑

如果D 是一个凸集，则它的齐次锥是(){0,}t x H D cl t D x t ??=>∈ ???

则可以得到如下的凸表示

*

*m in

(),(),()0,1

T i i i

i T

t t t H U u u w t w H V e φ

πφ

φφ-??-∈≤

???-??∈ ???

≥=

对于多阶段的鲁棒模型

2

,,1

1

m ax m in

()m ax m in ()()..,1,2, 0

10

i i ij

ij i

i

i

m

m

i

i iT ij i

i j

j r V y U

r V

y U i j iT

T

i

i

T

y y R r s t e r i m e φ

φ

ππφφφφφφ+

∈∈∈∈==++-=?=≥=≥∑∑

因此:i T i i w r r φ→把球i

V 映射到区间[,]T i T i i i r

r φρφφρφ-+ ，则上述模型等价于

2,1

1

m ax

m in

()m ax m in m ax ()()..,1,2, 0

10

i

i i i i

m m

i

i ij

iT

ij i i

i j

j r V y U

y

i j iT i i

T

i

T

i

i i i T

y y R

r s t e w i m

r

w r e φ

φ

φ

ππφ

φφ

φφρφφρφφφ+

∈∈==++-+=?=≥-≤≤+=≥∑∑

2．R.h.tutuncu, M.Koenig 给出一个基于worse-case 的方法。在一个简单的情况下，相应鲁棒优化问题是一个标准的二次规划问题，在大多数情况下，这个问题可以转化为一个鞍点问题。利用2003年Handorsson 和Tutuncu 给出的方法求解。作者给出了在不确定集合为区间时的鲁棒MVO 模型，和鲁棒最大夏普比率问题。

一个资产分配问题可以表示为在期望收益的下限上极小化方差或最大化一个风险调节的期望收益

m in ..,n

T

x R

T x Q x s t x R x μ∈≥∈?

（1）

m a x ..n T T

x R

x x Q x

s t x μλ∈-∈?

（2）

其中1

{1,0}n

n

i

i x R

x

x =?=∈=≥∑

对于期望收益的向量μ和协方差矩阵Q 分别取成区间的形式 {:}L

U

U μμμμμ=≤≤ {:,0}L

U

Q U Q Q Q Q Q =≤≤≥

{(,):,}Q U Q U Q U μμμ=∈∈

采用区间型数据的原因：（1）区间的端点对应于历史数据中相应的统计的极值，在分

析估计和Scenarios 中。（2）建模者可以选择置信水平，以预测区间的形式产生收益和协方差的估计。

给定不确定集合U ，优化问题（1）（2）对应的鲁棒优化为

m in{m ax }..m in ,n

Q

T

Q U x R

T

U x Q x s t x R x μ

μμ∈∈∈≥∈?

（7） ,m a x {

m i n }Q

T T

U Q U x x x Q x μμμλ∈∈∈?

- （8）

若*()x λ是（8）一个给定正值λ的最优解，则*

()x λ也是（7）的最优解对于

*

m in ()T

U R x μ

μμλ∈=。

US 财政证券可以认为是无风险投资。如果这样的资产包含于资产类中，则有效的投资组合是这个无风险资产和一个风险组合的线性组合。这个最优的组合是具有最高夏普比率的

组合。()T

x r h x μ-=

f r 为无风险的已知收益。假设Q 是正定的。因为Q 是正半定的，

若它是正定的，则意味着没有冗余的资产。

具有最高夏普比率的组合可以通过解决下面的优化问题给出：

m a x ()..h x s t x ∈? （11）

这个目标函数是一个非线性，非凹的目标函数，难以解决。

利用lifting 技术对?进行齐次化：

{,0,

}(0,0)n

x

x R R κκκ

+

?=∈∈>∈? ，增加(0,0)是为了或得一个凸集。+

?是

一个锥，当?是一个环的时候，+?是一个ice-cream 锥，若?是一个多面体， {,}x Ax b cx d ?=≥=，则{0,0,0}x Ax b cx d κκκ+

?=-≥-=≥。

()():()(

),0T

T T

x r r e x

x

h x g x g μμκκ

--=

=

==?≥，由于()g x 是齐次的，则问题等

价于m ax ()

..(,)g x s t x κ+

∈?，由于()g x 是齐次的，则增加规范化的约束不会影响最优

解()1T

f r e μ-=，则问题等价于

m a ..(,)

,()1

T

f s t x r e κμ+

∈?-=

结论：给定一个可行的具有1T e x =性质的组合集?，x ?∈?，这个集合中具有最大夏普比率的解可以通过下面的规划来解：

max ..(,),()1T

T

f x Qx

s t x r e κμ+∈?-= （15）

若*??(,)x x

k =是（15）的解，则*??/x x k =。 松弛问题如下：

m in{m ax }

..m in ()1(,)Q

T

Q U T

f U x Q x s t r e x μ

μμκ∈∈+

-≥∈?

鲁棒有效前沿的算法：

1利用SP 算法解决没有期望收益约束的问题min{max }..

n

Q

T

Q U x R

x Qx s t x ∈∈∈?

，令mi n x 表示他的最优解，令

m in m in ()L

T

R x μ=

2，解决问题,m a x {

m i n }Q

T

U Q U x x μμμ∈∈∈?

，令m a x x 表示他的最优解，m

a x

m a x

()L T

R x

μ=，

max min R R ?=-

3 选择K ，有效前沿上点的数量，

min min min {/(1),2/(1),...,(1)/(1)}R R K R K R n K ∈+?-+?-+-?-，解决问题

m in{m ax }..m in ,n

Q

T

Q U x R

T

U x Q x s t x R x μ

μμ∈∈∈≥∈?

3．Mustafa C.Pinar 给出了多阶段的组合选择模型。目标是最大化最终期望收益和最小

化与一个给定的财富水平的偏差。他们之间是通过一个非负参数来平衡的。利用一个分段的线性罚函数，能够得到线性规划模型，并且能够确保如下阶段的最优性。

假设有m +1种资产，前m 种为风险的股票，第1m +种为无风险资产，比如现金。

x 表示1阶段初的决策向量，0

[]x i 表示相应的组合种第i 种资产的市值。

1

x 表示2阶段初的决策向量，

12

,r r 表示一阶段和二阶段结束后的净资产收益。是有限概率空间上(,,)F P Ω的离散的随机变量。

假设市场的发展是离散的scenario 树。

1

n r 表示随机变量1r 相应于第一层scenario 树的第n 个节点的实现。

基于最大的期望end-of-horizon 组合值的没有交易费用的两阶段组合选择模型的随机规

划为：

2

000

m ax{()1,0}T n n x

n N p Q x e x x ∈=≥∑ 其中1

02

1

1

1

1

()()()()()m ax{()()(),0}T

T

T

n n n n n n x

Q x r x e x r x x ππππ==≥

由于recourse 问题0

2(),n Q x n N ∈的可分性，上面的优化问题等价于

01

12

21011001

()()()1{,}

m ax {()1,()(),,0,0}n T T T T n n n n n n x x n N n N p r x e x e x r x n N x x πππ∈∈==?∈≥≥∑ 以上的模型假设决策者是风险中立的，Mulvey,V anderbei and Zenios 建议通过由一个参数控制给目标函数增加一个风险项得到两阶段的鲁棒随机规划。他们的模型为

2

2

1

2

1

1(1)()m ax{()((),...,())1,0}T

T

T

n n N N x

n N p Q x f r x r x e x x ππλ∈-=≥∑ （4） 则可分离的鲁棒优化模型为

01

12

21212101

()1(1)()1{,}

1

1

10

1

11m ax {()((),...,())(,,)}{(,,):1,()(),,0,0}

n T T T n n n N N n x x n N n N T

T

T

n n n n p r x f r x r x x x n N x x n N e x e x r x n N x x πππλ∈∈-?∈∈??=?∈==?∈≥≥∑（5）

Takriti and Ahmed 证明了对于任意的方差测度f ，上式对能够给出当两阶段的组合决策问题对于recourse 问题不是最优时的最优解。 如果f 是一个非减的函数，0λ≥，则上面的两个问题时等价的。Takriti and Ahmed 利用了一个分段二次的方差度量

2

2

*()()n n n N f t R t ρ+∈=

-∑

，其中*R 是目标函数值。t 是一组离散的随机变量，具有实

现2

12,,...,N t t t ，而2

12,,...,N ρρρ是相应的概率。。

为了是计算方便是所得的问题是一个线性规划，采用一个分段线性的方差测度 2

*()()n n n N f t R t ρ+∈=

-∑

它仍然满足非减的条件。则我们的问题变为

01

12

2

21

2101

()*()1{,}

1

1

10

1

11max {()(())(,,)}

{(,,):1,()(),,0,0}

n T T n n n n n n n x x n N n N n N T

T

T

n n n n p r x p R r x x x n N x x n N e x e x r x n N x x ππλ+∈∈∈--?∈∈??=?∈==?∈≥≥∑∑

可以将上面的模型推广到三阶段的情况。

在这篇文章中作者还给出了包含线性交易费用的模型。

1

n y 表示一阶段买入资产的数量，

1

i μ表示一阶段买入一美元的资产的交易费

1

n z 表示一阶段卖出资产的数量， 1i v 表示一阶段卖出一美元的资产的交易费 1

[]n x i 表示1

n x 的第i 个分量

则对于风险资产11011

[][][][][]n n n n n x i r i x i y i z i =+-，1,...,i m = 对于无风险资产11011111

1

1

[1][1][1](1)[](1)[]m

m

n

n

n

i

n

i n i i x m r m x m y i v z i μ==+=++-++-∑∑

初始的资金要求为0001

(1)[]1[1]m

i i x i x m μ=+=-+∑

则可行集为0111

1{(,,,,):}n n n T x x y z n N =?∈满足上面的三个方程

带有交易成本的鲁棒两阶段的投资组合选择的模型为

111

12

2

21

210111

()*()1{,,,}

m ax {()(())(,,,,)}

n n n T T n n n n n n n n n x x y z n N n N n N p r x p R r x x x y z n N T ππλ

+∈∈∈--?∈∈∑∑

4. Aharon Ben-Tal, Tamar Margalit Arkadi Nemirovski 给出了一个多阶段的组合选择问题

的鲁棒建模方法。

假设有n 种类型的资产1,...,i n =和现金(1)n +。L 个投资阶段。目标是控制这些资产的一个投资组合。l

i x 表示投资组合中资产i 在阶段l 开始时的数量。

l

i x 可以有下列的方程给出：