04-第三章 线性规划及其原始-对偶算法-1(第3次课)

第三章 线性规划及其原始－对偶算法（I ）3.1 线性规划问题的历史线性规划问题最早是由G .B.Dantzig 在1947年以前设想出来的。

他当时作为联邦空军审计员的一名数学顾问，需要开发一个数学规划的工具，用于制定布置、训练、后勤保障的方案。

由于这项工作，他于1948年出版了《线性结构的规划》一书。

1948年夏天：T.C. Koopmans&G .B.Dantzig 提出了“线性规划”的名称； 1949年：G .B.Dantzig 提出了单纯形方法。

在此之前：Fourier, W.Karush, L.V . Kantorovich 等人的工作都曾涉及到线性规划的有关工作。

1950－1960：线性规划的理论得到了进一步的发展；1975年：L.V . Kantorovich 和T.C. Koopmans 获得诺贝尔经济奖－对资源最优分配理论的贡献；1979年：L.G .. Khanchian 的椭球算法； 1984年：N. Karmarkar 的投影尺度算法。

3.2 线性规划问题的几何解释一、线性规划问题的标准型min ..0c xAx b s t x Τ=⎧⎨≥⎩ (LP)其中,,,n n m m n x R c R b R A R ×∈∈∈∈。

另外，总假设： 的元素都为整数，rank 0.b ≥),,(c b A m A =)(记： 可行域： {:,n P x R Ax b x =∈=≥0}}最优解集：*{:(LP)P x P x =∈是的最优解为了深入理解线性规划的目标函数和约束条件，我们首先介绍一些基本的概念。

二、平面、半空间、多面体(1) 超平面：对于1,n R R αβ∈∈，定义超平面{:n T H x R x }αβ=∈= (2) 半空间：{:{:n T L nTU H x R x H x R x }}αβαβ=∈≤=∈≥——两个闭半空间{:{:i n T L in TUH x R x H x R x }}αβαβ=∈<=∈>——两个不相交的开半空间H 是和L H iL H 的边界超平面。

α：超平面H 的法线，因为,z H y H ∀∈∈0，有 ()T T T y z y z αααββ−=−=−=，即)(z y −⊥α即：法向量α与所有平行于超平面H 的向量垂直。

又：,iL z H w H ∀∈∈，有()T T T w z w z αααββ−=−<−=0即：法向量α与由超平面指向内部的任意向量构成钝角，也即L H α是指向超平面的外部的。

L H对于线性规划的标准型，超平面{:n T H x R c x }β=∈=是目标函数的T c x 一个等值面，价格向量c 是等值面的法线。

(3) 多面体（polyhedron ）：由有限个闭半空间的交集形成的一个集合。

(4) 多胞形（polytope ）：非空有界多面体。

思考题：证明一个标准型的线性规划问题的约束区域是一个凸多面体。

三、仿射集、凸集和锥(1) 线性组合：1pi i i x λ=∑，其中，1212,,,,,,,p n p x x x R λλλR ∈∈L L 。

(2)仿射组合：1pii i x λ=∑，其中，1212,,,, ,,,p np x x x R λλλR ∈∈L L ，。

11pi i λ==∑(3) 凸组合：1pii i x λ=∑，其中，1212,,,, ,,,p np x x x R λλλR ∈∈L L ，，11pi i λ==∑10(1,2,,i i p )λ≥≥=L 。

(4) 凸锥组合：1pi i i x λ=∑，其中，1212,,,, ,,,p n p x x x R λλλR ∈∈L L ，0(1,2,,)i i p λ≥=L 。

例如，考虑两个点1x 和2x 的情况： 令121,,s s s R λλ=−=∈，则121212112(1)()x x s x sx x s x λλ+=−+=+−x x s x Δ+=1， 所以，相异点1x 和2x 的：z 所有仿射组合：由这两个点确定的整条直线；（R s ∈∀，所以是整条直线）z 所有凸组合：连接这两个点的线段；（10≤≤s ，所以是线段） z 凸组合是仿射组合；反之不成立，只有当1x ＝2x 时成立。

(5) 仿射集：，S 必包含S 12,,n S R x x S ⊂∀∈1x 和2x 的所有仿射组合。

（包含两个点，必包含经过这两个点的直线）S S (6) 凸集：，S 必包含S 12,,n S R x x S ⊂∀∈1x 和2x 的所有凸组合。

（包含两个点，必包含经过这两个点的线段）S S显然：z 超平面是仿射集且凸集； z 闭半空间：凸集但不是仿射集；z 线性流形{:}n x R Ax b ∈=是仿射集且凸集；z 线性规划的可行域{:,n P x R Ax b x 0}=∈=≥是凸集但不是仿射集； (7) 内点与边界点：给定集合,,n S R x S ⊂∈0ε∃>，使得{:||||}n B y R x y S ε=∈−<⊂则称x 是的一个内点。

反之，S x 是的一个边界点。

S 对于一个凸集，一个关键的几何特性是下述的分割定理：定理3.1（分割定理）：令是S n R 中的凸子集，且x 是的一个边界点，则存在一个包含S x 的超平面H ，使得或包含在中，或包含在中。

S L H U H 基于这个分割定理，我们可以定义一个支撑超平面H ： 1). H 和的交是非空的； S 2). 包含。

L H SH给定凸多面体及其支撑超平面P H ，称F P H =I 为的一个面。

P z 若dim ：就有一个顶点；()0F =Pz 若dim ：就有一条边； ()1F =P z 若dim dim ()：就有一个面； ()F =1P −P (8) n R 的一个子集的维数：C 仿射子空间：对于一个子空间和一个向量n S R ⊂n R α∈，集合{|S y x x S α}α==+∈称之为n R 的一个仿射子空间。

即：用一个向量把一个子空间转换成为一个仿射子空间。

dim(S α)=dim()=中线性独立向量的最大个数S S 子集C 的维数：包含C 的任意一仿射子空间的最小维数。

(9) 锥：非空集合，若n C R ⊂,x C 0λ∀∈≥总有x C λ∈，则称是一个锥。

C 四、顶点和基可行解 多面体的顶点：几何实体；线性等式与不等式组的基可行解：代数上的定义。

在线性规划的理论中，将这两个概念联系在一起，用几何直觉导引出代数工具。

顶点：在凸集中的一个点C x ，如果x 不是C 另外两个不同点的凸组合，则称它是C 的一个顶点。

即：一个顶点是这样一个点，它不能位于凸集中另外两个点的连线的线段之中——凸多面体的“端点”。

min ..0c xAx b s t x Τ=⎧⎨≥⎩ (LP)其中,,,n n m m n x R c R b R A R ×∈∈∈∈m n ，≤。

可行域 {:,n P x R Ax b x =∈=≥0}令，对于12(,,,)n A A A A =L x P ∈有：1212(,,,)n n x xA A A x ⎛⎞⎜⎟⎜⎟b =⎜⎟⎜⎟⎝⎠L M即：1122n n x A x A x A b +++=L 。

称j A 为变量j x 对应的列。

定理3.2 x P ∈，则x 是的一个顶点P ⇔x 的正分量对应的A 中的各列是线性独立的。

证明：不仿设，其中12(,,,,0,0,,0)(,0)T T p B x x x x x ==L L 0(1,2,,)i x i p >=L ，记(,)A B N =，B N x x x ⎛⎞=⎜⎟⎝⎠，其中B 是A 的前列。

则，p B Ax b Bx b =⇔=。

""⇒ 用反证法，假设x 是p 的一个顶点，但B 的各列不线性独立，则存在一个非零向量w ，使得0Bw =。

令12,B B B B x x w x x w δδ=+=−，由于，所以对于充分小的0B x >0δ>，有。

显然120,0B B x x ≥≥12B B Bx Bx b ==。

定义：1122(,0),(,0)T T B Bx x x x ==，则12Ax Ax b ==，所以12,x x P ∈，且121122x x x =+，与x 是p 的一个顶点矛盾。

用反证法，假设"⇐"x 不是的一个顶点，则存在p 12,,0y y P λ1,∈<<使得12(1)x y y λλ=+−。

因为，所以0N x =120N N y y ==。

令1w x y =−，则为非零向量，且，所以w 10B B B Bw Bx By b b =−=−=B 中各列线性相关，与假设矛盾。

证毕令，),(N B A =m mB R×∈为满秩矩阵，是(LP)的一个基，B N x x x ⎛⎞=⎜⎝⎠⎟，bAx =⇔bNx Bx N B =+⇔bB Nx B x N B 11−−=+，，令=0，若⇔N B Nx B b B x 11−−−=N x 100B b x −⎛⎞=≥⎜⎟⎝⎠，称之为(LP)的一个基可行解。

推论3.1 x 是(LP)的一个基可行解⇔x P ∈是的一个顶点。

P 推论3.2 (LP)的可行域至多有各顶点。

m n C由于假设的元素都为整数，所以任一个基解其分量的绝对值是有界的。

),,(c b A 定理3.3 令x 是一个基解，则有，其中βα1!||−≤m j m x |}{|max ,ij ji a =α，|}{|max 1j mj b ≤≤=β注：该结论及其证明的思想非常有用。

证明：因为B B B det *1=−，而0det ≠B 为整数，则必有，所以分母绝对值大于或等于1，而1|det |≥B *B 每个元素等于B 的)1(−m 阶子式的行列式，而B 的阶子式的行列式是)1(−m A 中的)!1(−m 个)1(−m 个元素连乘积之和，其绝对值不大于。

由于每一个是1)!1(−−m m αj x 1−B 中的m 个元素与中的个元素对应乘积之和，所以。

b m βα1!||−≤m j m x 定理3.4 假定标准的线性规划问题满足(i) rank m A =)(, (ii) φ≠P , (iii) 目标函数有下界，则在最优值相等的意义下，它与下述线性规划等价：x c T ni M x x bAx t s xc i T ,,2,1, 0..min L =≤≥=其中，是集合的最大下界。

|}||,max{||},||,max{|,)!1(z b c a m M j i ij m ==+=βαβαz }0,|{≥=x b Ax x c T 由该定理：我们总可以假定可行域是有界区域。