第七章动态规划解析
合集下载
第07章 动态规划 《运筹学》PPT课件
最优路径问题 资源分配问题 排序问题 投资问题 装载问题 生产计划与库存问题 生产过程的最优控制等
动态规划
模型分类
离散确定型 离散随机型 连续确定型 连续随机型
§1 多阶 段决 策过 程的 最优
化
多阶段决策问题
(Multi-Stage decision process)
决策u1 决策u2
决策uk
32
维护费
8 8 9 9 10 6 6 8 8 10 5 6 8 9 5 5 6 4 54Βιβλιοθήκη 新设备购置费 5050
52 52 55 60
旧设备折价
20 15 10 5 2 30 25 20 15 10 31 26 21 15 33 28 20 35 30
40
§1 多阶 段决 策过 程的 最优
化
3)连续生产过程的控制 问题：一般化工生产过程中，
本章 内容
多阶段决策过程的最优化 动态规划的基本概念和基本原理 动态规划模型的建立与求解 动态规划在经济管理中的应用 马氏决策规划简介
创始时间 创始人
上个世纪50年代
美国数学家贝尔曼 （Richard. Bellman)
是运筹学的一个主要分支 是解决多阶段决策过程的最优化的一
种方法多阶段决策过程： 多阶段决策过程的最优化的目标： 达到整个活动过程的总体效果最优 •主要用于解决：
不过，实际中尚有许多不包含时间 因素的一类“静态”决策问题，就其本 质而言是一次决策问题，是非动态决策 问题，但是也可以人为地引入阶段的概 念当作多阶段决策问题，应用动态规划 方法加以解决。
§1 多阶 段决 策过 程的 最优
化
4）资源分配问题：便属于这类静 态问题。如：某工业部门或公司，拟对 其所属企业进行稀缺资源分配，为此需 要制定出收益最大的资源分配方案。这 种问题原本要求一次确定出对各企业的 资源分配量，它与时间因素无关，不属 动态决策，但是，我们可以人为地规定 一个资源分配的阶段和顺序，从而使其 变成一个多阶段决策问题(后面我们将 详细讨论这个问题)。
动态规划
模型分类
离散确定型 离散随机型 连续确定型 连续随机型
§1 多阶 段决 策过 程的 最优
化
多阶段决策问题
(Multi-Stage decision process)
决策u1 决策u2
决策uk
32
维护费
8 8 9 9 10 6 6 8 8 10 5 6 8 9 5 5 6 4 54Βιβλιοθήκη 新设备购置费 5050
52 52 55 60
旧设备折价
20 15 10 5 2 30 25 20 15 10 31 26 21 15 33 28 20 35 30
40
§1 多阶 段决 策过 程的 最优
化
3)连续生产过程的控制 问题：一般化工生产过程中，
本章 内容
多阶段决策过程的最优化 动态规划的基本概念和基本原理 动态规划模型的建立与求解 动态规划在经济管理中的应用 马氏决策规划简介
创始时间 创始人
上个世纪50年代
美国数学家贝尔曼 （Richard. Bellman)
是运筹学的一个主要分支 是解决多阶段决策过程的最优化的一
种方法多阶段决策过程： 多阶段决策过程的最优化的目标： 达到整个活动过程的总体效果最优 •主要用于解决：
不过，实际中尚有许多不包含时间 因素的一类“静态”决策问题，就其本 质而言是一次决策问题，是非动态决策 问题，但是也可以人为地引入阶段的概 念当作多阶段决策问题，应用动态规划 方法加以解决。
§1 多阶 段决 策过 程的 最优
化
4）资源分配问题：便属于这类静 态问题。如：某工业部门或公司，拟对 其所属企业进行稀缺资源分配，为此需 要制定出收益最大的资源分配方案。这 种问题原本要求一次确定出对各企业的 资源分配量，它与时间因素无关，不属 动态决策，但是，我们可以人为地规定 一个资源分配的阶段和顺序，从而使其 变成一个多阶段决策问题(后面我们将 详细讨论这个问题)。
动态规划
多阶段决策问题中，各个阶段采取的决策，一般来说是与时间有关的，决策依赖于当前状态，又随即引起状 态的转移，一个决策序列就是在变化的状态中产生出来的，故有“动态”的含义，称这种解决多阶段决策最优化 问题的方法为动态规划方法 。
任何思想方法都有一定的局限性，超出了特定条件，它就失去了作用。同样，动态规划也并不是万能的。适 用动态规划的问题必须满足最优化原理和无后效性 。
动态规划
运筹学的分支
01 原理
03 局限性
目录
02 分类
动态规划（Dynamic Programming，DP）是运筹学的一个分支，是求解决策过程最优化的过程。20世纪50年 代初，美国数学家贝尔曼（R.Bellman）等人在研究多阶段决策过程的优化问题时，提出了著名的最优化原理， 从而创立了动态规划。动态规划的应用极其广泛，包括工程技术、经济、工业生产、军事以及自动化控制等领域， 并在背包问题、生产经营问题、资金管理问题、资源分配问题、最短路径问题和复杂系统可靠性问题等中取得了 显著的效果 。
最优化原理可这样阐述：一个最优化策略具有这样的性质，不论过去状态和决策如何，对前面的决策所形成 的状态而言，余下的诸决策必须构成最优策略。简而言之，一个最优化策略的子策略总是最优的。一个问题满足 最优化原理又称其具有最优子结构性质 。
将各阶段按照一定的次序排列好之后，对于某个给定的阶段状态，它以前各阶段的状态无法直接影响它未来 的决策，而只能通过当前的这个状态。换句话说，每个状态都是过去历史的一个完整总结。这就是无后向性，又 称为无后效性 。
状态：状态表示每个阶段开始面临的自然状况或客观条件，它不以人们的主观意志为转移，也称为不可控因 素。在上面的例子中状态就是某阶段的出发位置，它既是该阶段某路的起点，同时又是前一阶段某支路的终点 。
最优控制-第七章-动态规划法
当∆t很小时，有
t t
t
Lx, u, t d t Lx, u, t t
J x, t min
*
min
uU
uU
tf
t0
Lx, u, t d t Φ xt f
tf t t
t t
t
Lx, u, t d t
Lx, u, t d t Φ xt f
P1 11
7
P2 4 2
P3 4 4
12 A 4 8 Q1
4 3 2 2 Q3 B
5 Q2
第一段：P1、Q1的前站是始发站A。显见从
A到B的最优值为12，故得最优路线为AQ1P2Q3B。
综上可见，动态规划法的特点是： 1) 与穷举算法相比，可使计算量大大减少。如
上述最优路线问题，用动态规划法只须做10次
J x, t min Lx, u, t t J xt t , t t
* * uU
(8)
* J x , t J x, t * * J x x, t t J x, t t (12) x t x * T
A城出发到B城的行车时间最短。
P1 3 A 4 Q1 1
7
P2
2
P3 4
4
6 8 2 Q2
3 3 3
2 Q3 4
2
B
现将A到B分成四段，每一段都要作一最优决 策，使总过程时间为最短。所以这是一个多段最 优决策问题。 由图2可知，所有可能的行车路线共有8条。 如果将各条路线所需的时间都一一计算出来，并 作一比较，便可求得最优路线是AQ1P2Q3B，历时 12。这种一一计算的方法称为穷举算法。这种方 法计算量大，如本例就要做3×23=24次加法和7次 比较。如果决策一个n段过程，则共需(n-1)2n-1次 加法和(2n-1-1)次比较。可见随着段数的增多，计 算量将急剧增加。
动态规划的基本原理和基本应用
动态规划的基本原理和基本应用动态规划（Dynamic Programming）是一种通过将一个问题分解为较小的子问题并存储子问题的解来解决复杂问题的方法。
动态规划的基本原理是通过记忆化或自底向上的迭代方式来求解问题，以减少不必要的重复计算。
它在计算机科学和数学中具有广泛的应用，尤其是在优化、组合数学和操作研究等领域。
1.确定最优子结构：将原问题分解为较小的子问题，并且子问题的最优解能够推导出原问题的最优解。
2.定义状态：确定存储子问题解的状态变量和状态方程。
3.确定边界条件：确定初始子问题的解，也称为边界状态。
4.递推计算：利用状态方程将子问题的解计算出来，并存储在状态变量中。
5.求解最优解：通过遍历状态变量找到最优解。
1.背包问题：背包问题是动态规划的经典应用之一、它有多种变体，其中最基本的是0/1背包问题，即在限定容量的背包中选择物品，使得所选物品的总价值最大。
可以使用动态规划的思想来解决背包问题，确定状态为背包容量和可选物品，递推计算每个状态下的最优解。
2. 最长递增子序列：最长递增子序列（Longest Increasing Subsequence）是一种常见的子序列问题。
给定一个序列，找到其中最长的递增子序列。
可以使用动态规划来解决这个问题，状态可以定义为以第i个元素为结尾的最长递增子序列的长度，并递推计算每个状态的解。
3.矩阵链乘法：矩阵链乘法是一种优化矩阵连乘计算的方法。
给定一系列矩阵，求解它们相乘的最小计算次数。
可以使用动态规划解决矩阵链乘法问题，状态可以定义为矩阵链的起始和结束位置，递推计算每个状态下最小计算次数。
4.最短路径问题：最短路径问题是在有向图或无向图中找到两个节点之间最短路径的问题。
可以使用动态规划解决最短路径问题，状态可以定义为起始节点到一些节点的最短距离，递推计算每个状态的最优解。
动态规划(完整)
第七章 动态规划
主要内容:
§7.1多阶段决策问题 §7.2 动态规划的基本概念和基本原理
§7.3 动态规划应用举例
例 求解最短路问题
A1 2 Q 4 3 A3 A2 6 3 7 4 B1 1 4 2 4 4 1 5 6 B2 3 B3 3 3 C2 C1 3 4 T
Ⅰ
Ⅱ
Ⅲ
Ⅳ
分阶段的最短路径
• • • • • • • Ⅳ ： C1—T Ⅲ --Ⅳ : B1—C1—T Ⅱ--Ⅲ--Ⅳ ：A2—B1—C1—T Ⅰ--Ⅱ--Ⅲ --Ⅳ： Q—A2—B1—C1—T Q--A3—B1—C1—T Q--A3—B2—C2—T 3 4 7
决策为 xk 时的指标，则它就是第 k 段指标函
数，简记为vk 。 （2）过程指标函数（也称目标函数） 用f(sk , xk)表示第k子过程的指标函数。表
示处于第 k 段 sk 状态且所作决策为xk时，
从 sk 点到终点的距离。由此可见， f(sk , xk)
不仅跟当前状态 sk 有关，
还跟该子过程策略 pk(sk) 有关,严格说来，应
(6) 指标函数
用来衡量策略或子策略或决策的效果的 某种数量指标，就称为指标函数。它是定义 在全过程或各子过程或各阶段上的确定数量 函数。对不同问题，指标函数可以是诸如费 用、成本、产值、利润、产量、耗量、距离、 时间、效用，等等。
（1）阶段指标函数（也称阶段效应）
用vk(sk , xk)表示第 k 段处于状态 sk且所作
资规划, 排序问题和生产过程的最优控制
等问题;
§7.2 动态规划的基本概念和基本思想
一、基本概念
使用动态规划方法求解决策问题首先要将 问题改造成符合动态规划求解要求的形式, 要涉及以下概念: (1)阶段 (3)决策与策略 (2)状态 (4)状态转移方程
主要内容:
§7.1多阶段决策问题 §7.2 动态规划的基本概念和基本原理
§7.3 动态规划应用举例
例 求解最短路问题
A1 2 Q 4 3 A3 A2 6 3 7 4 B1 1 4 2 4 4 1 5 6 B2 3 B3 3 3 C2 C1 3 4 T
Ⅰ
Ⅱ
Ⅲ
Ⅳ
分阶段的最短路径
• • • • • • • Ⅳ ： C1—T Ⅲ --Ⅳ : B1—C1—T Ⅱ--Ⅲ--Ⅳ ：A2—B1—C1—T Ⅰ--Ⅱ--Ⅲ --Ⅳ： Q—A2—B1—C1—T Q--A3—B1—C1—T Q--A3—B2—C2—T 3 4 7
决策为 xk 时的指标，则它就是第 k 段指标函
数，简记为vk 。 （2）过程指标函数（也称目标函数） 用f(sk , xk)表示第k子过程的指标函数。表
示处于第 k 段 sk 状态且所作决策为xk时，
从 sk 点到终点的距离。由此可见， f(sk , xk)
不仅跟当前状态 sk 有关，
还跟该子过程策略 pk(sk) 有关,严格说来，应
(6) 指标函数
用来衡量策略或子策略或决策的效果的 某种数量指标，就称为指标函数。它是定义 在全过程或各子过程或各阶段上的确定数量 函数。对不同问题，指标函数可以是诸如费 用、成本、产值、利润、产量、耗量、距离、 时间、效用，等等。
（1）阶段指标函数（也称阶段效应）
用vk(sk , xk)表示第 k 段处于状态 sk且所作
资规划, 排序问题和生产过程的最优控制
等问题;
§7.2 动态规划的基本概念和基本思想
一、基本概念
使用动态规划方法求解决策问题首先要将 问题改造成符合动态规划求解要求的形式, 要涉及以下概念: (1)阶段 (3)决策与策略 (2)状态 (4)状态转移方程
动态规划算法详解及经典例题
动态规划算法详解及经典例题⼀、基本概念（1）⼀种使⽤多阶段决策过程最优的通⽤⽅法。
（2）动态规划过程是：每次决策依赖于当前状态，⼜随即引起状态的转移。
⼀个决策序列就是在变化的状态中产⽣出来的，所以，这种多阶段最优化决策解决问题的过程就称为动态规划。
假设问题是由交叠的⼦问题所构成，我们就能够⽤动态规划技术来解决它。
⼀般来说，这种⼦问题出⾃对给定问题求解的递推关系中，这个递推关系包括了同样问题的更⼩⼦问题的解。
动态规划法建议，与其对交叠⼦问题⼀次重新的求解，不如把每⼀个较⼩⼦问题仅仅求解⼀次并把结果记录在表中（动态规划也是空间换时间的）。
这样就能够从表中得到原始问题的解。
（3）动态规划经常常使⽤于解决最优化问题，这些问题多表现为多阶段决策。
关于多阶段决策：在实际中，⼈们经常遇到这样⼀类决策问题，即因为过程的特殊性，能够将决策的全过程根据时间或空间划分若⼲个联系的阶段。
⽽在各阶段中。
⼈们都须要作出⽅案的选择。
我们称之为决策。
⽽且当⼀个阶段的决策之后，经常影响到下⼀个阶段的决策，从⽽影响整个过程的活动。
这样，各个阶段所确定的决策就构成⼀个决策序列，常称之为策略。
因为各个阶段可供选择的决策往往不⽌⼀个。
因⽽就可能有很多决策以供选择，这些可供选择的策略构成⼀个集合，我们称之为同意策略集合（简称策略集合）。
每⼀个策略都对应地确定⼀种活动的效果。
我们假定这个效果能够⽤数量来衡量。
因为不同的策略经常导致不同的效果，因此，怎样在同意策略集合中选择⼀个策略，使其在预定的标准下达到最好的效果。
经常是⼈们所关⼼的问题。
我们称这种策略为最优策略，这类问题就称为多阶段决策问题。
（4）多阶段决策问题举例：机器负荷分配问题某种机器能够在⾼低两种不同的负荷下进⾏⽣产。
在⾼负荷下⽣产时。
产品的年产量g和投⼊⽣产的机器数量x的关系为g=g(x)，这时的年完善率为a，即假设年初完善机器数为x，到年终时完善的机器数为a*x(0<a<1)；在低负荷下⽣产时，产品的年产量h和投⼊⽣产的机器数量y 的关系为h=h(y)。
动态规划(完整)
(3) 决策、决策变量
所谓决策就是确定系统过程发展的方案，
决策的实质是关于状态的选择，是决策者从
给定阶段状态出发对下一阶段状态作出的选
择。
用以描述决策变化的量称之决策变量， 和状态变量一样，决策变量可以用一个数， 一组数或一向量来描述．也可以是状态变量
的函数，记以 xk xk (sk ) ，表示于 k 阶段状
阶段变量描述当前所处的阶段位置，一 般用下标 k 表示;
(2) 确定状态
每阶段有若干状态(state), 表示某一阶段决策 面临的条件或所处位置及运动特征的量,称为 状态。反映状态变化的量叫作状态变量。 k 阶段的状态特征可用状态变量 sk 描述;
每一阶段的全部状态构成该阶段的状态集合Sk ，并有skSk。每个阶段的状态可分为初始状 态和终止状态，或称输入状态和输出状态， 阶段的初始状态记作sk ，终止状态记为sk+1 ，也是下个阶段的初始状态。
状态转移方程在大多数情况下可以由数学公 式表达, 如: sk+1 = sk + xk；
(6) 指标函数
用来衡量策略或子策略或决策的效果的 某种数量指标，就称为指标函数。它是定义 在全过程或各子过程或各阶段上的确定数量 函数。对不同问题，指标函数可以是诸如费 用、成本、产值、利润、产量、耗量、距离、 时间、效用，等等。
• 2、在全过程最短路径中，将会出现阶段的最优路
径；-----递推性
• 3、前面的终点确定，后面的路径也就确定了，且 与前面的路径（如何找到的这个终点）无关；----
-无后效性
• 3、逐段地求解最优路径，势必会找到一个全过程
最优路径。-----动态规划
§7.1多阶段决策问题
• 动态规划是解决多阶段最优决策的方法, 由美国数学家贝尔曼(R. Bellman) 于 1951年首先提出;
运筹学习题答案(第七章)
page 19 9 July 2013
School of Management
运筹学教程
第七章习题解答
7.10 用顺序解法计算7.1题，7.4题。 解：略。
page 20 9 July 2013
School of Management
运筹学教程
第七章习题解答
7.11 某工厂生产三种产品，各种产品重量与利润 关系如表7-22所示，现将此三种产品运往市场出售， 运输能力总重量不超过6t，问应运输每种产品各多少 件可使总利润最大。 解：只运产品2两件，最大总利润260（千元）。
运筹学教程
同样适合第三版黄皮版
page 1 9 July 2013
School of Management
运筹学教程（第二版） 习题解答
安徽大学管理学院
洪 文
电话：5108157(H)，5107443(O) E-mail: Hongwen9509_cn@
运筹学教程
第七章习题解答
7.1 现有天然气站A，需铺设管道到用气单位E， 可以选择的设计路线如下图所示，Bl，…，D2各点是 中间加压站，各线路的费用已标在线段旁(单位：万 元)，试设计费用低的路线。
max F x 1 2 x 2 x 3 x 3 4 x 2 2 x 3
2 2
(2)
x1 x 2 x 3 3 x i 0 , ( i 1, 2 , 3 )
解： x 1 1, x 2 1, x 3 1, F 4
page 18 9 July 2013
page 23 9 July 2013
概率 0.4 0.3 0.3
School of Management
运筹学教程
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
§7.1 动态规划基本原理
一、动态规划的基本概念
动态规划中所涉及到的概念有阶段、状态、决策与策略、 状态转移、指标函数．
(1)阶段 将所给问题的过程，按时间或空间特征分解成若干互相联系 的阶段，以便按顺序去求每阶段的解，常用字母k表示阶段变 量．
(2)状态 各阶段开始时的客观条件叫做状态．描述各阶段状态的变量 称的为取状值态集变合量称，为常状用态集sk表合示，第用kS阶k表段示的．状态变量，状态变量sk 动态规划中的状态必须具有无后效性，即当某阶段状态给定 以后，在这阶段以后过程的发展不受这段以前各段状态的影 响．也就是说，当前的状态是过去历史的一个完整总结，过 程的过去历史只能通过当前状态去影响它未来的发展．
最优性原理是动态规划理论的核心．这个原理 说明，最优策略的任一后部子策略也是最优的．根 据这个原理，在求解多阶段决策问题时，前面的各 状态和决策，对其后面的子问题来说，只不过相当 于其初始条件而已，并不影响后面过程的最优决 策．因此，可以把多阶段决策问题求解过程表示成 一个连续的递推过程，由后向前逐步计算．这要利 用第k阶段与第k+1阶段之间的关系，通常如下：
第七章 动态规划
动态规划是解决多阶段决策过程最优化问题的一 种方法，它将多阶段决策问题转化成一系列比较简 单的最优化问题．动态规划首先将复杂的问题分解 才相互关联的若干阶段，每一个阶段都是一个最优 化子问题，然后逐阶段的决策，当所有阶段决策都 确定了，整个问题的决策也就确定了．动态规划中 阶段可以用时间表示，这就是“动态”的含义．当 然，对于与时间无关的一些静态问题也可以人为地 引入“时间”转化成动态问题．
sk+l＝Tk(sk，uk) 表示．该公式表示了由第k阶段到第k+l阶段 的状态转移规律，所以称为状态转移方程．
(5)指标函数
用于衡量所选定策略优劣的数量指标称为指标
函数，它是定义在全过程或则子过程上的数量函数，
是各阶段的状态和决策变量的函数．它分为阶段指
标函数和过程指标函数两种．阶段指标函数是指第
第 n 阶段：指标函数的最优值
f n(sn ) opt vn (sn , un )
xnDn ( sn )
此为一维极值问题，不妨设有最优解 u n un (sn )
，于是可有最优值 f n(sn ) ．
第 n 1阶段：类似地有
f n1(sn1 ) opt Vn1(sn1, un1 ) * fn (sn )
阶段的求优结果，最后一段计算的结果就是全过程
的最优结果．一般而言，如果已知过程的初始状
态 态
ssn11，，则 则用 用逆 顺序 序解解法法；．如这果两已种知方过法程除的了终 寻止 优状 方向不
同外，状态转移方程、指标函数的定义和基本方程
形式一般也有差异，但并无本质上的区别．下面主
要介绍逆序解法．
设已知初始状态为 s1 ．
fk (sk )
opt(dk (sk，uk )
uK
fk 1(sk 1))，
fn1(sn1) c， (边界条件，已知)
k n，n 1，，1，
或
fk
(sk
)
opt(dk
uk
(sk，uk
)
fk 1(sk 1))，
k
n，n
1，，1，
fn1(sn1) c， (边界条件，已知)．
该方程称为动态规划的基本方程．
或．
jk
n
Vk,n (sk，pk,n ) d j (s j，u j )
jk
最优指标函数表示从第k阶段状态sk采用 最优策略到过程终止时的最佳效益值，记 为fk(sk)．fk(sk)与Vk，n(sk，pk，n)间的关系
为 fk (sk ) Vk,n(sk，pk*,n) opt Vk,n(sk，pk,n)
k阶段状态sk采取决策uk时的效益，用dk (sk，uk)表
示．过程指标函数指在第k阶段状态为sk采用策略pk，
n时，后部子过程的收益，用Vk，n(sk，pk，n)表 示．Vk，n(sk，pk，n)与dk(sk，uk)之间的关系常见的 有求和型和乘积型两种：
n
Vk,n (sk，pk,n ) d j (s j，u j )
(3)决策和策略
当各段的状态取定以后，就可以作出不同 的决定(或选择)，从而确定下一阶段的状态， 这种决定称为决策．表示决策的变量，称为决 策变量，常用uk(sk)表示第k阶段当状态为sk时的 决策变量．在实际问题中，决策变量的取值往 往限制在一定范围内，称此范围为允许决策集 合，常用Dk(sk)表示第k阶段从状态sk出发的允 许决策集合，即uk(sk)∈Dk(sk)．
当k=1时，p1，n(s1)就是全过程的一个策略．
对每个实际问题，其k子过程可供选择的策略有
一定范围，称为允许策略集合，记作Pk，n，使整
个问题达到最优效果的策略就是最优策略．
(4)状态转移方程
动态规划中本阶段的状态往往是上一阶 段状态和上一阶段的决策结果．如果给定了 第k阶段的状态sk，本阶段决策为uk，则第k+l 阶段的状态sk+1也就完全确定，它们的关系 可用公式
一个按顺序排列的决策组成的集合称为策
略．一个n阶段决策过程，从第k阶段到第n阶段的 过程称为问题的一个后部子过程，或k子过程．由k 子过程的每一阶段的决策按顺序排列组成的策略序
列称为k子策略，记为pk，n(sk)，即 pk，n(sk)={ uk(sk)， uk+1(sk+1)， uk+解方法
动态规划的求解有两种基本方法：逆序解法(后
向动态规划方法)、顺序解法(前向动态规划方
法)．当寻优的方向与多阶段决策过程的实际行进方
向相反，从最后一段开始计算逐段前推，求得全过
程的最优策略，称为逆序解法．与之相反，顺序解
法的寻优方向与过程的行进方向相同，计算时从第
一段开始逐段向后递推，计算后一阶段要用到前一
pk,n Pk,n
式中opt表示最优化，根据具体问题表示为 max或min．
当k=1时，f1(s1)就是从初始状态s1到全过 程结束的整体最优函数．
二、动态规划的基本方程
动态规划方法基于贝尔曼(R.Bellman)提出的最 优化原理：一个过程的最优策略具有这种性质，即 不管先前的状态和决策如何，余下的所有决策必构 成的最优子策略．