模拟退火法

N
（3） 由于每过一次河都将以作为惩罚，因而现在 我们设计的算法的目标，就变成了寻找尽可 能回避过河的最短路径。路径长度对过河次 数的相对重要性将由我们选择的来确定。图1 表明了所得的结果。显然，这种技巧可以推 广到包含许多相互冲突的目的要求的极小化 问题当中。
模拟退火法
模拟退火法(参见[1,2])作为一种适合于求解大规模 的优化问题的技术，近来已引起极大的关注。特别是当 优化问题有很多局部极值而全局极值又很难求出时，模 拟退火法尤其有效。在实用上，它有效地“解决了”著 名的旅行推梢员问题，即在必须依次访问每一个城市 (共有N个城市)的前提下，为旅行推销员设计一条能够 返回起点的最短旅程。模拟退火方法还被成功地用于设 计复杂的集成电路，也就是说如何最佳地安排几十万个 电路元件，使它们全部集成在一个很小的硅片上，而相 互连接的线路之间的缠绕能够达到最小(参见[3,4]).尽管 模拟退火法的功效非凡，但它的算法实现却相对地简单， 这一点似乎有些不可思议。
i i
一个构形就是数字的一个排列，可以解释 为推销员途径的城市的顺序。 2.调整 林(Lin)曾经提出过一种所谓“转 移有效集”，这里的“转移”包括两种类型： (a)移走路径的某一段，然后对这段路径上的 城市用相反次序重新进行排列，并用后者来代 替前者。(b)移走某段路径，并用位于城市间 的随机选取的另一段路径来取代被移走的路径。
i i
销员问题也是众多极小化问题中的一种，它 的目标函数具有多个局部极小值。在实际应 用当中，常常有足够多的条件可以从多个极 小值中选出一个最小的，这个最小值即使不 是绝对最小，也相当接近绝对最小了。退火 法的目的就是要获得这个最小值，同时又要 将计算量限制在N的低阶次的数量级上。 旅行推销员问题也是按模拟退火问题的方 式进行处理的。具体如下： 1.构形 将N个城市分别标记为中的数，其 中每个城市具有坐标 x , y 。
大量原子常常能够自行排列成行，形成一 个纯净的晶体，该晶体在各个方向上都被完全 有序地排列在几百万倍于单个原子大小的距离 之内。对于这个系统来说，晶体状态是能量最 低状态；而所有缓慢冷却的系统都可以自然达 到这个能量最低状态，这可以说是一个令人惊 奇的事实。实际上，如果某种液体金属被迅速 冷却或被“猝熄”，那么它不会达到这一状态， 而只能达到一种具有较高能量的多晶状态或非 结晶状态。 因此，这一过程的本质在于缓缓地致冷， 以争取充足的时间，让大量原子在丧失可动性
4. 一个控制参数T(类似于温度)和一个退 火进程，该进程用来说明系统是如何从高值 向低值降低的，例如在温度T时每次下降步骤 中要经过多少次随机的构形变化以及该步长 是多大等等。应说明的是，这里“高”和 “低”的含义，还有进程表的确定，都需要 一定的物理知识和/或一些摸索的实验。
组合极小化：旅行推销员问题
然不同的方式，所谓的玻尔兹曼(Boltzmann)概 率分布 Pr ob E ~ Exp E / kT (1) 表达了这样一种思想，即:一个处于热平衡状态且 具有温度T的系统，其能量按照概率，分布于 所有不同能量状态之中。即使在很低的温度下， 系统也有可能（虽然这种可能性很小）处于一 个较高的能量状态。因此，相应地，系统也能 够获得摆脱局部能量极小点的机会。并找到一 个更好的、更接近于整体的极小点。式()中的 参数k(称为玻尔兹曼常数)是一个自然常
请注意，我们上面提到的两个例子都属于 组合极小化问题。现本类问题通常也有一个目 标函数，但是函数的定义域并不是简单地由N 个连续参变量组成的N维空间，而是一个离散 的巨大空间，例如，由所有可能的城市旅行路 线组成的集合，或者硅片电路元件的所有可能 的分配方式的集合。构形空间中元素的数量相 当巨大，根本不可能穷举，而且因为集合是离 散的，我们也不可能“沿合适的方向连续下 降”。因此在构形空间中，“方向”概念就没 有什么意义了。
*/
# include <stdio.h> # include <math.h> # define TFACTR 0.9 //退火进程：每步中t的下降值由该因子决定 # define ALEN(a,b,c,d) aqrt(((b)-(a))*((b)-(a))+((d)-(c))*((d)-(c))) void anneal(float x[], float y[], int iorder[], int ncity)
4.退火进程 这一步需要借助试验来确定。 首先要进行一些随机调整，然后利用它们来 确定从转移到转移过程中将会遇到的 E 值之 范围。对参数T取一初始值(这个初始值要远 远大于通常所能遇到的 E 的最大值)，并以倍 增的步长下减，每次使T总共减少10%。我们 拿每个新的常数T值去试各种100N重构形， 或10N成功的重构形，无论哪个在前出现就 E 取哪个。当实在不能再进一步减小 时,则停 止。
// 确定是否做段反转或段输送 if (idec==0){ //做输送 n[3]=n[2]+(int) (abs(nn-2)*ran3(&idum))+1; n[3]=1+((n[3]-1) % ncity); //输送到一个不在当前路径上的某处 de=trncst(x,y,iorder,ncity,n); //计算代价 ans=metrop(de,t); //做预测 if(ans) { ++nsucc; path+=de; trnspt(iorder,ncity,n); //输送工作结束 } } else { //做段反转 de=revcst(x,y,iorder,ncity,n); //计算代价 ans=metrop(de,t); //作预测 if (ans) { ++nsucc; path+=de; reverse(iorder,ncity,n); //完成段反转 } }
数，它的作用是将温度与能量联系起来。换句 话说，在有些情况下系统的能量可上升，也可 下降，但是温度越低，显著上升的可能性就越 小。 1953年，米特罗波利斯(Metropolis)及其合 作者们首次将这种原理渗透到数值计算中。他 们对一个模拟热力学系统提供了一系列选择项， E E1 并假设：系统构形从能量 变化到能量 的概率为 p Exp E E kT 。很显然，如果 E E ，p 将大于1；在这类情况下，对构形的能 量变化任意指定一个概率值，也就是说，该系
后面我们还将介绍如何在其有连续控制参 数的空间中利用模拟退火法。这种应用实际上 要比组合问题复杂一些，因为其中又要出现 “狭长山谷”的情况。正如在下文中我们将看 到的，模拟退火法的试探步骤是“随机”的。 但在一个狭窄且漫长的等高线山谷中，几乎所 有的随机步骤都呈向上的趋势，因此，算法中 需要增加一些技巧。 模拟退火的核心思想与热力学的原理颇为相 似,而且尤其类似于液体流动和结晶以及金属 冷却和退火方式。在高温下，一种液体的大最 分子彼此之间进行着相对自由的移动。如果该 流体慢慢地冷却下来,热能可动性便会消失。
之前进行重新分布。这就是所谓退火在技术上 的定义，同时也是确保达到低能量状态所必需 的条件。 尽管我们的比喻并不算贴切，但是迄今为 止本身所讨论的所有极小化算法，确实与快速 冷却猝熄有某种关联之处。以往我们处理问题 的方式都是:从初始点开始，立即沿下降方向前 进，走得越远越好，似乎这样才能迅速求得问 题的解。但是，正如前面常常提到的，这种方 法往往只能求得局部极小点，却求不到整体最 小点。自然界本身的极小化算法则基于一种截
2
2 1
2
1
统总是取这个选择项。这种格式总是采取下 降过程，偶尔采取上升步骤。目前已被公认 为米特罗波利斯算法。 为了将米特波利斯算法应用于热力学以外的 系统，必须提供以下几项基本要素： 对可能的系统构形的一种描述。 2. 一个有关构形内部随机变化的生成函 数，这些变化将作为“选择项”提交给该系 统。 3. 一个目标函数 (类似于能量)，求解的 极小值，即为算法所要完成的工作。
下面的旅行推销员程序利用了米特罗波利 斯(Metropolis)算法，并展示了模拟退火技术 应用于组合问题的几个主要方面。
/* 本算法用于求解在ncity个城市之间作往返旅行的最短路径，其中这ncity个 城市的位置坐标存贮在数组x[l..ncity]和y[1..ncity]中。数组iorder[1..ncity] 表示途径城市的顺序。在输出项中，iorder中的元素将被置为数字l到ncity 的某排对，本程序将返回它所能求出的最佳选择路径。
for(i=1;i<ncity;i++) { //计算初始路径的长度 i1=iorder[i]; i2=iorder[i+1]:’ path+=ALEN(x[il],x[i2],y[i1],y[i2]); } i1=iorder[ncity]; //将路径头尾相连并结束循环 i2=iorder[1] path+=ALEN(x[i1],x[i2],y[i1],y[i2]); idum= -1; iseed=111 for (j=1;j<=100;j++) { //试验100个温度值 nsucc=0; for (k=1;k<=nover;k++) { do { n[1]=1+(int) (ncity*ran3(&idum)); //选择段的起始点… n[2]=1+(int)((ncity-1)*ran3(&idum)); //…段的结尾 if (n[2]>=n[1]) ++n[2]; nn=1+((n[1]-n[2]+ncity-1) % ncity); //nn为不位于当前段上的城市数 idec=irbit1(&iseed); } while (nn<3);
下面是我们用“旅行推销员问题”为具体 实例说明模拟退火法的应用。假设一个推销 员，要去N个分别位于 ( x , y ) 的城市进行推销, 并于最后返回他原来所在的城市，要求每个 城市只能去一次,而且所经过的路径要尽可能 地短。这个问题属于一类所谓“NP-完全问 题”。这类问题求出一个精确解所需的计算 时间是随N的增加以指数exp(常数×N)增长的。 当N不断增大时，运行时间将迅速增加,进而 导致费用高到令人难以接受的程度。旅行推