算法分析与设计-第07章

jVi , pVi 1 j , p E
多段图的向前递推关系式
1
9 s 0 7 3 2 1 2
4
2 5 6
8 5 是 有 向边 c(j,p) cost(i,j)是从第i阶 4 2 4 3 7段的状态j到t的最 2 11 t <j,p>的权值 6 9 5 5 短路径的长度 3 11 6 10 7 11 8 4
cost(5,11)=0; cost(4,10)=5; cost(4,9)=2; cost(4,8)=4;
cost(3,7)=min{6+cost(4,10), 5+cost(4,9)}=7; cost(3,6)=min{3+cost(4,9), 4+cost(4,8)}=5; cost(3,5)=min{5+cost(4,9), 6+cost(4,8)}=7;
南京邮电大学计算机学院 10/22/2013
7.1 7.2 7.3 7.4 7.5 7.6 7.7
一般方法和基本要素 每对结点间的最短路径 矩阵连乘 最长公共子序列 最优二叉搜索树 0/1背包 流水作业调度
南京邮电大学计算机学院 10/22/2013
7.1 一般方法和基本要素
南京邮电大学计算机学院 10/22/2013
分治法的子问题相互独立，相同的子问题 被重复计算，动态规划法解决这种子问题重 叠现象。
南京邮电大学计算机学院 10/22/2013
Hale Waihona Puke n 例如用分治法递归求解组合数 Cm ：
当n 0或m n时 1 Cm n n 1 Cm-1 Cm1 当m n 0时 C53
n
C43
C42
此可以避免分治法重复计算这种重叠子问题
南京邮电大学计算机学院 10/22/2013
设计动态规划算法的几个步骤： (1)刻画最优解的结构特性； (2)递归定义最优解值； (3)以自底向上方式计算最优解值；
(4)根据计算得到的信息构造一个最优解。
第(1)至(3)步是动态规划算法的基本步骤。
最优解值是最优解的目标函数的值。
南京邮电大学计算机学院 10/22/2013
7.1.2 基本要素
一个最优化多步决策问题是否适合用 动态规划法求解有两个要素：最优子结构 特性和重叠子问题。
南京邮电大学计算机学院 10/22/2013
动态规划算法的基本要素
最优子结构特性: 即问题的最优解包含了其子问 题的最优解。
分析(证明)问题的最优子结构特性时：首先假设 由问题的最优解导出的子问题的解不是最优的， 然后再设法说明在这个假设下可构造出比原问题 最优解更好的解，从而导致矛盾。 利用问题的最优子结构特性，以自底向上的方式 递推地从子问题的最优解逐步构造出整个问题的 最优解。最优子结构是问题能用动态规划算法求 解的前提。 南京邮电大学计算机学院
这是一条最 V4 V5 短路径。
南京邮电大学计算机学院 10/22/2013
多段图具有最优子结构 可以证明多段图的最优解满足最优子结构。
1
9
1 2 7 3
4
2
5
4
6 5
8
2
7
4
s 0
6
7
3
5 6
9
10
2
5
t 11
3
2
11 11 8
4
南京邮电大学计算机学院 10/22/2013
证明：假定(s,v2,v3,…,vk-1,t)是一条最短路径， 并假定在初始状态已经做出到达v2 的决策。 如果将v2看成是原问题的一个子问题的初始状态， 求解该子问题就是寻找一条从v2到t的最短路径。 一个最优策略具有这样的性质：不论过去状态和决策如 何，对前面的决策所形成的状态而言，其余决策必定构, 如果(s,v2,v3,…,vk-1,t)是最短路径，那么(v2,v3,…,vk-1 成最优策略。 t)必定是一条最短路径。 ——这便是最优决策序列的最优子结构性质。,…,vk-1,t) 若不是，则一定还有(v2,q3,…qk-1,t)比(v2,v3 更短，这 样 可 以 推 出 (s,v2,q3,…qk-1,t) 比 (s,v2,v3,…, 在分析（证明）问题的最优子结构性质时，所用的方法 具有普遍性： 与假设矛盾。 vk-1,t)更短，
算法设计与分析
Design and Analysis of Algorithms In C++
主讲 王海艳 计算机学院 wanghy@
南京邮电大学计算机学院 10/22/2013
第7章 动态规划法
基本要求： 理解动态规划算法的算法思想、两大 基本要素以及最优子结构特性，掌握用动 态规划法求解最优化问题的算法设计策略。 重点掌握每对结点间的最短路径、最长公 共子序列和0/1背包问题三个范例 。
南京邮电大学计算机学院 10/22/2013
动态规划法与分治法
共同点： 将待求解的问题分解成若干子问题，先求解子问题，然 后再从这些子问题的解得到原问题的解 不同点： 1、适合于用动态规划法求解的问题，分解得到的各子问题 往往不是相互独立的； 而分治法中子问题相互独立。 2、动态规划法用表保存已求解过的子问题的解，再次碰到 同样的子问题时不必重新求解，而只需查询答案，故可 获得多项式级时间复杂度，效率较高； 而分治法中对于每次出现的子问题均求解，导致同样的 子问题被反复求解，故产生指数增长的时间复杂度，效 率较低。 南京邮电大学计算机学院
2
(0, q=t(11);
d(2,1)=q(6); cost(4,10)=5; cost(3,7)=7; cost(2,4)=16; q=1; cost(4,9)=2; cost(3,6)=5； cost(2,3)=18； d(1,0)=q(1); cost(4,8)=4; cost(3,5)=7； cost(2,2)=9； cost(2,1)=7; d(4,9)=q(11); d(3,6)=q(9); q=9; q=6;
cost(1,0)=min{9+cost(2,1), 7+cost(2,2), 3+cost(2,3), 2+cost(2,4)} =16;
南京邮电大学计算机学院 10/22/2013
4
多段图的最短路径
1 9 s 0 7 3 3 2 4 1 2 4 2 5 4 7 11 11 8 7 6 6 5 3 5 6 8 9 10 4 2 5 11 t
南京邮电大学计算机学院 10/22/2013
多段图问题是一种特殊的有向无环图的最短路径 问题。 1 4
9 1 2 2
5
4
6 5 3 5 6
8 9 10
s 0
7 3
2
7
4 2 5
6
t 11
3
2
11 11
8
7
V3
4
V1
5个阶段
V5 每个结点代 V4 一个汇点 一个5段图 V3={5,6,7} 表一个状态
10/22/2013
动态规划法与贪心法
共同点：
都是求解最优化问题；都要求问题具有最优子结构性质。
不同点：
1、求解方式不同： 动态规划法：自底向上； 贪心法：自顶向下。以迭代的方式作出相继的贪心选择， 每作一次贪心选择就将所求问题简化为一个规模更小的子 问题。 2、对子问题的依赖不同： 动态规划法：依赖于各子问题的解，所以只有在解出相关 子问题后,才能作出选择；应使各子问题最优，才能保证整 体最优； 贪心法：不依赖于子问题的解。仅在当前状态下作出最好 选择，即局部最优选择，然后再去解作出这个选择后产生 的相应的子问题。
2
d(i,j)纪录从第i阶段的状态j到t的最短路径 上该结点的下一个结点编号。
例如：d(4,9)=11；d(3,6)=9； d(2,1)=6； d(1,0)=1；
南京邮电大学计算机学院 10/22/2013
多段图最短路径的确定
1 9 s 0 7 3 1 2 4 2 5 4 7 6 6 5 3 8 9 4 2 11 t
南京邮电大学计算机学院 10/22/2013
学习要点
理解动态规划算法的概念。 掌握动态规划算法的基本要素 （1）最优子结构性质 （2）重叠子问题性质 掌握设计动态规划算法的步骤。 理解动态规划算法与分治法、贪心法的异同 通过应用范例学习动态规划算法设计策略。 （1）多段图问题 （2）每对结点间的最短路径 （3）最长公共子序列 （4）0/1背包
南京邮电大学计算机学院 10/22/2013
最优性原理指出，一个最优策略具有这 样的性质，不论过去状态和决策如何，对 前面的决策所形成的状态而言，其余决策 必定构成最优策略。这便是最优决策序列 的最优子结构特性。 分治法将问题分解成子问题时，它们并 不总是完全相互独立的，常常共享更小的 子问题，这就是重叠子问题。如果用递归 的分治法求解，则存在重复计算。 动态规划法实施自底向上计算，并保存子问题的解，因
南京邮电大学计算机学院 10/22/2013
一个源点
V2
多段图问题是一种特殊的有向无环图的最短路径 问题。 1 4
9 1 2 2
5
4
6 5 3 5 6
8 9 10
s 0
7 3
2
7
4 2 5
6
t 11
3
2
11 11
8
7
4 最优解值 V1 是16。V2
最优解是 V3 (0,1,6,9,11) 一个5段图
南京邮电大学计算机学院 10/22/2013
7.1.1 一般方法
贪心法求解问题的每一步上根据最优量度标准做出 某种决策，产生n-元组解的一个分量。用于决策的 贪心准则仅依赖于局部的和以前的选择，但不依赖 于尚未做出的选择和子问题的解。 而动态规划法每一步的决策依赖于子问题的解。 为了在某一步上做出选择，需要先求解若干子问题， 再根据子问题的解做出决策，这就是动态规划法求 解问题的自底向上的方法。