第七章 动态规划

5 A
3
1 B1 3
6
8 B2 7
6
C1 6 8
3 C2 5
3 C3 3
84 C4
2 D1
2
D2 1 2
3 D3
3
E1 3
5 5 E2 2
6 6
E3
F1 4
G 3 F2
1
2
3
4
5
6
4 .不包含时间因素线性规划、非线性规划等静态
的规划问题（本质上是一次决策问题）也可以通过
适当地引入阶段的概念，应用动态规划方法加以解
3、决策：表示当过程处于某一阶段的某个状态时， 可以作出不同的决定，从而确定下一阶段的状态，这 种决定称为决策。
描述决策的变量，称为决策变量,用Uk(Sk )。决策变 量是状态变量的函数。可用一个数、一组数或一向量
（多维情形）来描述。
在实际问题中决策变量的取值往往在某一范围之内，
此范围称为允许决策集合,用Dk(Sk )表示。
决。
例:分割问题
n
max z xi i 1
n
i 1
xi
c
xi 0
x1 x2 x3
……
xn
c
二、解题思路：把多阶段的决策问题转化为依次
求解多个单阶段的决策问题。(以最短路问题为例)
18 5 A
3
13 1 B1 3
6
16 8 B2 7
6
13
C1 6 10 8
3 C2 5
93 C3 3
12 8 4 C4
4、状态转移方程
状态转移方程是确定过程由一 个状态到另一个状态的演变过
程。如果第k阶段状态变量sk的 值、该阶段的决策变量一经确
定，第k+1阶段状态变量sk+1的 值也就确定。
ss32
TT12((ss11,,
uu11
) ,
s2
,
u2
)
sk1 Tk (s1, u1, s2 , u2 , , sk , uk )
2. 机器负荷分配问题：
年初完好 机器S
高负荷x
完好率a(0<a<1) 年产量g(x) 完好率量h(s-x)
假定开始生产时完好的机器数量为s1，要求制定一个 五年计划，在每年开始时，决定如何重新分配完好的机器
在两种不同的负荷下生产的数量，使在五年内产品的总产
量达到最高。
高负荷X1
高负荷x2
S2=ax1
S3=ax2+
高负荷x5 S5=ax4+
S1
+b(s1-
第1年x1)
b(s2-x2)
第2年
b(s4-x4)
第5年
V1=g(x1) +h(s1-x1)
V2=g(x2)+ h(s2-x2)
V5=g(x5)+h(s5 -x5)
3 . 最短路问题：给定一个交通网络图如下，其中 两点之间的数字表示距离（或花费），试求从A点到 G点的最短距离（总费用最小）。
7
2 D1
2
6
D2 1 2
83 D3
3
7
E1 3
5
5 5
E2 2
96 6
E3
4
F1 4
G 33 F2
1
2
3
4
5
6
三、应用范围 1、动态 2、静态 四、缺点 1、建模后，没有统一的方法 2、维数障碍 五、分类 1、确定型（连续型、离散型） 2、随机型（连续型、离散型）
第二节 动态规划的基本概念
一、基本概念
动态规划是解决多阶段决策问题的一种有效方法。 但是不是一种算法。必须对具体问题进行具体分析， 运用动态规划的原理和方法，建立相应的模型，然 后再用动态规划方法去求解。
一、多阶段决策问题的典型例子：
1 . 生产决策问题
例：已知工厂对某台机器的每月生产能力和需求方的需求 量如下表，并且知道一月份生产前已有一台库存，现 制定3个月的生产计划，使生产与存储的总成本最少？
7、指标函数：Vkn(Sk, Pkn),k阶段，Sk状态下，作出Pkn子策 略带来的效果。动态规划模型的指标函数，应具有可分离 性，并满足递推关系。
图示如下：
s1
u1 1
s2
u2 2
s3
sk
uk k
sk+1
能用动态规划方法求解的多阶段决策过程是一类特 殊的多阶段决策过程，即具有无后效性的多阶段决 策过程。
无后效性(马尔可夫性) 如果某阶段状态给定后，则在这个阶段以后过程的
发展不受这个阶段以前各段状态的影响；
过程的过去历史只能通过当前的状态去影响它未来 的发展构；造动态规划模型时，要充分注意是否满足无后 效性的要求；
月份 需求量 生产能力 存储限制 生产成本 存储费
1
2
3
2
800
150
2
3
2
3
700
150
3
3
3
2
1000
200
S1=1
生产量x1
生产量x2
S2=S1+x1-
S3=S2+x2-D2
1月份D1
2月份
生产量x3
S4=0
3月份
V1=800 x1+150 S1
V2=700x 2+150S2
V3=1000 x3+200S3
如果状态变量不能满足无后效性的要求，应适当地 改变状态的定义或规定方法。
状态具有无后效性的多阶段决策过程的状态转移
方程如下
s2 T1 ( s1 , u1 ) s3 T2 ( s2 , u2 ) sk 1 Tk ( sk , uk )
动态规划中能 处理的状态转移 方程的形式。
5、策略：是一个按顺序排列的决策组成的集合。在实际问 题中，可供选择的策略有一定的范围，称为允许策略集合。 从允许策略集合中找出达到最优效果的策略称为最优策略。
1、阶段：
把一个问题的过程，恰当地分为若干个相互联系的阶段，以 便于按一定的次序去求解。 根段据 决描时策述间。阶和段空的间变的量自称然为特阶征段来变进量行,用的年k，表、但月示要、。便阶于段问的题划转分一一一化个组，个量为数数一向、、多般阶是
路段
2、状态：表示每个阶段开始所处的自然状况或客观条件。通 常一个阶段有若干个状态，描述过程状态的变量称为状态变量, 用Sk表示。 状态变量的取值有一定的允许集合或范围，此集合称为状态 允许集合。
第七章 动 态 规 划
(Dynamic programming)
主要内容
充分理解
1、动态规划的基本概念、基本思想
2、动态规划模型的建立和求解 掌握技巧
3、动态规划的应用：最短路问题；背包问题；
生产与存储问题；设备更新问题；复合系统工作可 靠性问题；机器负荷问题；静态规划问题；资源分 配问题。
第一节 动态规划概述
全过程策略：U1(S1), U2(S2),…, Un(Sn)
P1n={Ui(Si)}, i=1,…,n 子过程策略：Uk(Sk), Uk+1(Sk+1),…, Un(Sn)
Pkn={Ui(Si)}, i=k,…,n 6、阶段指标：Vk(Sk, Uk),k阶段，Sk状态下，作出Uk决策带
来的效果。在不同的问题中，指标的含义是不同的，它可 能是距离、利润、成本、产量或资源消耗等。