并行遗传算法的研究评述
遗传算法的优势与局限性分析
遗传算法的优势与局限性分析遗传算法是一种模拟自然界遗传机制的优化算法，通过模拟进化过程中的选择、交叉和变异等操作，逐步优化问题的解。
它在许多领域中得到了广泛的应用，并取得了显著的成果。
然而，遗传算法也存在一些局限性。
本文将对遗传算法的优势和局限性进行分析。
一、优势1. 广泛适用性：遗传算法适用于各种优化问题，无论是连续型问题还是离散型问题，都能够找到较好的解。
它不依赖于问题的具体特征，只需要定义适应度函数即可。
2. 全局搜索能力：遗传算法通过随机性的选择、交叉和变异操作，能够在解空间中进行全局搜索，避免陷入局部最优解。
这使得遗传算法在求解复杂问题时具有较强的鲁棒性和可靠性。
3. 并行计算能力：由于遗传算法的每一代都是独立的，可以通过并行计算的方式加速求解过程。
这使得遗传算法在大规模问题的求解中具有较好的效果。
4. 可解释性：遗传算法的每一代都可以通过适应度函数来评估解的优劣，从而可以清晰地了解每一代的进化过程。
这使得遗传算法在问题求解过程中具有一定的可解释性。
二、局限性1. 参数选择困难：遗传算法中的各种参数，如种群大小、交叉概率、变异概率等，对算法的性能有着重要的影响。
但是，如何选择合适的参数值是一个困难的问题。
不同的参数组合可能导致不同的结果，需要通过试错的方式来找到最佳参数。
2. 运算速度较慢：由于遗传算法需要进行大量的选择、交叉和变异操作，每一代的计算量较大。
这使得遗传算法在求解大规模问题时运算速度较慢，不适用于实时性要求较高的问题。
3. 可能陷入局部最优解：虽然遗传算法具有全局搜索能力，但是在某些情况下，由于算法的随机性，可能会陷入局部最优解而无法找到全局最优解。
这需要通过增加种群大小、改变交叉和变异策略等方式来增加算法的搜索能力。
4. 缺乏问题特定性：遗传算法是一种通用的优化算法，不依赖于问题的具体特征。
这使得遗传算法在某些问题上的求解效果可能不如其他问题专用的优化算法。
对于某些特定的问题，可能需要结合问题的特点进行算法的改进。
并行遗传算法的研究及应用进展
关键词： 遗传算法； 并行 遗传 算法； 并行模 型 中图分类号 ： Ｔ Ｐ ３ ０ １ 文献标识码 ： Ａ 文章编号 ： １ ０ ０ ９ — ３ ０ ４ ４ （ ２ ０ １ ４ ） １ ０ — ２ ３ ４ ７ — ０ ４
Ｒｅ ｓ ｅ ａｒ ｃ ｈ Ｐｒ ｏ ｇｒ ｅ ｓ ｓ ｏ ｆ Ｐａ ｒ ａｌ ｌ ｅ ｌ Ｇｅ ｎｅ ｔ ｉ ｃ Ａｌ ｇｏｒ ｉ ｔ ｈｍ
ｗ ｈｉ ｃ ｈ ｇ ｒ ｅ ａ ｔ ｌ ｙ ｐ ｒ ｏｍ ｏｔ ｅ ｓ ｔ ｈｅ ｒ ｅ ｓ ｅ ａ ｒ ｃ ｈ ａ ｎｄ ａ ｐ ｐ ｌ ｉ ｃ ａ ｔ ｉ ｏ ｎ ｉ ｎ ｇ ｅ ｎｅ ｔ ｉ ｃ ａ ｌ ｇｏ ｉｔ ｒ ｈｍ ．Ｔｈ ｅ ｒ ｅ ｃ ｅ ｎｔ ｒ ｅ ｓ ｅ ａ ｒ ｃ ｈ ｄｅ ｖｅ ｌ ｏ ｐｍ ｅ ｎｔ ｓ ｉ ｎ ＰＧ Ａ ｍｏ ｄｅ ｌ ｓ ， ｐｅ ｒ — ｆ ｏ ｒ ｍａ ｎｃ ｅ ａ ｎ ａ ｌ ｙｓ ｉ ｓ ，ａ ｌ ｇｏ ｉｔ ｒ ｈｍ ｉ ｍｐ ｒ ｏｖ ｅ ｍｅ ｎｔ ，ａ ｎｄ ｉ ｍｐ ｌ ｅ ｍｅ ｎｔ ａ ｔ ｉ ｏｎ ｐ ｌ ａ ｔ ｆ ｏｒ ｍ ａ ｒ ｅ ｓ ｕ ｍｍａ ｒ ｉ ｚ ｅ ｄ ａ ｎｄ ｒ ｅ ｖ ｉ ｅ ｗｅ ｄ，ａ ｎｄ ｔ ｈｅ ｄｅ ｖｅ ｌ ｏ ｐｍ ｅ ｎｔ ｔ ｒ ｅ ｎ ｄｓ ａ ｎ ｄ ａ ｐ ｐ ｌ ｉ ｃ ａ ｔ ｉ ｏｎ ｐｅ ｒ ｓ ｐ ｅ ｃ ｔ ｉ ｖ ｅ ｓ ｏｆＰＧＡ ｉ ｎ ｔ ｈ ｅ ｆ ｕｔ ｕｒ ｅ ｉ ｓ ａ ｌ ｓ ｏ ｄｉ ｓ ｃ ｕｓ ｓ ｅ ｄ ． Ｋｅ ｙ ｗｏｒ ｄｓ ：ｇ ｅ ｎ ｅ ｔ ｉ ｃ ａ ｌ ｇ ｏｒ ｉ ｔ ｈ ｍ； ｐ ａ ｒ ａ ｌ ｌ ｅ ｌ ｇｅ ｎｅ ｔ ｉ ｃ ａ ｌ ｇ ｏ ｒ ｉ ｔ ｈｍ ；ｐ ａ ｒ ａ Ｈｅ Ｉ ｍ ｏｄ ｅ ｌ
并行遗传算法综述
收稿日期:1997-09-15第一作者:男,1962年出生,华南理工大学博士生,广东工业大学副教授;主要研究方向:计算智能、计算机应用并行遗传算法综述王大明 毛宗源(华南理工大学自动化系,510641,广州)关键词: 遗传算法;并行;进化算法中图分类号: TP 18遗传算法是一类基于自然选择和遗传学原理的有效搜索方法,许多领域成功地应用遗传算法得到了问题的满意解.虽然GAs 通常能在合理的时间内找到满意解,但随着求解问题的复杂性及难度的增加,提高GAs 的运行速度便显得尤为突出.GAs 具有天然的并行性,非常适合于在大规模并行计算机上实现,而大规模并行计算机的日益普及,为并行GAs 奠定了物质基础.实现PGAs,不仅要把串行GAs 等价地变换成一种并行方案,更重要的是要将GAs 的结构修改成易于并行化实现的形式,形成并行群体模型.并行群体模型对传统GAs 的修改涉及到两个方面:一是要把串行GAs 的单一群体分成多个子群体,分而治之;二是要控制、管理子群体之间的信息交换.不同的分治方法产生不同的PGAs 结构.这种结构上的差异导致了PGAs 的三种基本模型:全局并行模型、粗粒度模型和细粒度模型.1 全局并行模型全局并行模型是串行GAs 的一种直接并行化方案,它只有一个群体,所有个体的适合度都根据整个群体的适合度计算,个体之间可以任意匹配,因而在群体上所作的选择和匹配是全局的.功能划分 GAs 对个体评价是独立的,个体之间无需通信,因此,通常由各处理机并行地评价群体中的个体,主机(主进程)负责选择、重组和变异操作,而从机(从进程)负责函数的适应值计算.此外,也可以把交叉和变异操作交从机完成.不过,这些操作都比较简单,而选择操作需要了解整个群体的处机,这样,反而会增加主机从机之间传递个体的通信开销,降低系统的性能.通信 主机与从机之间的通信表现在与个体评价有关的活动上.主机将群体中的部分个体发送到从机上,从机评价完个体之后,将它们的适应值发送给主机.如果把交叉和变异也分配给从机,则还需把子代发送到主机上.通信方式 大多数的全局模型都采用同步通信方式,待各从机把各个体的适应值送到主机后,再由主机计算适应度,可方便地计算出个体的绝对适应度并作选择操作.显然,这是一种性能更佳的传统GAs.第19卷第1期1998年2月 暨南大学学报(自然科学版) Journal of Jinan U niversity(Netural Science) Vol.19No.1 Feb.1998如果采用异步通信方式,则主机不等待较慢的从机,这种方式类似于自然进化,但个体绝对适应度的计算,以及如何进行选择操作则较为困难.比较容易实现并行化的选择竞争匹配选择.研究表明,盲目地增加从处理机数量,会导致通信开销急剧上升[1].Cantu-Paz [2]在对从机数量与通信量的研究表明,存在着一个对最小化全局并行GAs 执行时间的优化从机数.全局模型易于实现,如果计算时间主要用在评价上,这是一种非常有效的并行化方法.此外,它还保留了简单GA 的搜索行为,因而可直接应用简单GA 的理论成果.2 粗粒度模型粗粒度模型是对经典GAs 结构的扩展,具有不同的行为.它将群体划分为多个子群体(又称区域),每个区域独自运行一个GA.此时,区域选择取代了全局选择,配偶取自同一区域,子代与同一区域中的亲本竞争.因此,这种模型又称为孤岛模型.这类PGAs 通常在分布式存储器MIMD 计算机上实现,故也称为分布式GAs.除了基本的遗传算子外,粗粒度模型引入了/迁移0算子,负责管理区域之间的个体交换.在粗粒度模型的研究中,要解决的重要问题是参数选择,包括:迁移拓扑、迁移率、迁移周期等.2.1 区域结构在群体划分成子群体(区域)后,要为群体指定某种迁移拓扑.迁移拓扑与特定的并行机结构有着内在的对应关系,常取并行计算机的结构.如果在顺序计算机上实现粗粒度模型,则可以考虑采用任意结构.区域数目 大多数情况下区域数目是固定的,等于可用处理器数,典型值为2的幂,从4到64不等.在群体数目一定的情况下,区域数目也确定了各区域的个体数目.通常,各区域子群体中的个体数在50至100之间.迁移拓扑 迁移拓扑确定了区域之间个体的迁移路径.迁移拓扑大多采用类似于给定并行处理机的互连拓扑,如超立方体、二维网络拓扑等.在区域数较少时,可采用全互连迁移拓扑,以便迁移个体可以同时迁移到其它各区域中.但另一种看法是:在空间上孤立区域对优化处理是有利的,例如,Tanese [3]在超立方体迁移拓扑中,虽然其范围非常小,但在每个迁移阶段,只允许个体沿着超立方体的一维方向作迁移操作;而Starkw eather 等[4]在环形迁移拓扑中,在第i 次迁移阶段中,区域r 同区域r +i modR 交换个体.Muhlenbein 等[5]则采用了所谓的/阶梯(Ladder)0作为迁移拓扑,其中区域R 同超环面2*R /2网格连接,因而该拓扑的范围比方阵网格大得多.拓扑结构是影响PGAs 性能的重要方面,也是迁移成本的主要因素.在粗粒度模型中,运行前指定拓扑后保持不变的静态拓扑,是当前的主要趋势.Cantu -Paz 和Mejia -Olvera [6]在比较密集拓扑与松散拓扑中发现,前者通过较少的函数评价就能找到全局最优解.也有在动态拓扑结构[7]中,按群体的多样性、两个群体中的基因型距离等衡量标准,允许个体动态地迁移到其它子群体中去.2.2 迁移规模区域之间的个体交换由两个参数控制:迁移率和迁移周期.大规模的迁移将使粗粒度模型21第1期王大明等:并行遗传算法综述22暨南大学学报(自然科学版)1998年以类似于全局并行模型的方式工作,而小规模的迁移形成具有较小群体的GA独立运行.迁移率在每个迁移周期,可以迁移一个或几个个体,迁移率常以绝对数或以子群体大小的百分比形式给出.有的实现采用大于1的迁移率,理由是迁移个体在同其它区域中完全不同的个体重组时,其生存机会较小.典型的迁移率是子群体数目的10%到20%之间.迁移周期迁移周期决定了个体迁移的时间间隔,一般是隔几代(时期)迁移一次,也可以在一代之后迁移.通常,迁移率越高,则迁移周期就越长.大多数的粗粒度并行GAs采用同步迁移方式,但也有采用异步迁移方式的[7,8],仅当某种事件发生后,才在区域之间通信.Braun[8]的方案是:当GAs在区域上产生(早熟)收敛时,才进行迁移:Kroger等[9]则采用子另一种途径:每当一个区域中发现一个改进的个体,就异步地执行迁移操作.而M arin等[6]采用集中式方案,各从进程在其子群体中执行GA,并周期地将最好的部分结果发送给主进程,主进程则从中选择出最适应的个体广播给从节点,在网络上所作的实验表明,运行速度以接近线性加速比增加.迁移时机的把握还需作进一步的研究.2.3迁移策略迁移基本上可以采用与匹配选择和生存选择相同的策略.虽然区域选择更偏向区域内部的较好个体,但在迁移选择和替换中,也可以采用其它标准.迁移选择迁移选择负责选出迁移个体,通常选择一个或几个最优个体,也可象匹配选择一样,采用适应度比例或者排列比例选择来选择迁移个体,也有采用随机选取和替换的.迁移替换在大多数情况下,是把最差或者有限数目的最差个体替换掉.与迁移选择类似,可采用适应度比例或者排列比例选择,确定被替换的个体,以便对区域内部的较好个体产生选择压力.Pettey等[10]提出的方案是,以基因型的海明距离作为相似性度量,用迁入者替换那些最相似的个体;T anese[3]在研究一种/移民模型0中,用迁入个体取代区域中的迁出个体.后两种方案的出发点是保持区域内部的多样性.进入90年代,粗粒度PGAs的理论工作开始展开.Petty和Leuze[11]在每代把随机选择的个体广播到其它领域的办法,导出了与串行GAs类似的模式理论.实验工作进入实质性阶段,开始测试大型高难度的函数,提出了函数测试平台[5,12], Starkweather等[4]还观察了并行GAs所适用的问题类型.3细粒度模型细粒度模型又称领域模型,它对传统GA的结构作了修改.虽然细粒度模型也只有一个群体在进化,但在群体平面网格细胞上,将群体划分成了多个非常小的子群体(理想情况是每个处理单元上只有一个个体),子群体之间具有极强的通信能力,便于优良解传播到整个群体.全局选择被领域选择取代,个体适应度的计算由局部领域中的个体决定,重组操作中的配偶出自同一领域,且子代同其同一领域的亲本竞争空间,即选择和重组只在网格中相邻个体之间进行.细粒度模型要解决的主要问题是领域结构和选择策略.3.1领域结构领域结构既决定了群体中个体的空间位置,也确定了个体在群体中传播的路径.领域结构主要受特定并行计算机的内存结构和通信结构影响.领域拓扑领域拓扑确定一个个体的邻居,构成该个体的局部领域.对个体数相当少的群体,应采用大范围的拓扑;而在较大的群体中,通常采用具有4个或8个信领域的方格超环面网格.领域半径 通常,只有一个拓扑的直接领域才属于其局部领域.若把某个固定步数内所能到达的所有个体也包含在内,则可以扩大领域半径.3.2局部选择策略对细粒度模型,全局选择被邻域选择取代,但基于上可以把全国选择策略用于细粒度模型.在确定选择策略时,要考虑到选择压力的变化,而选择压力与领域结构有关.局部匹配选择 对于领域拓扑的所有位置,通过局部匹配选择确定一对个体.两个亲本既可从局部领域中选择,也可以把该邻域中心的个体作为一个亲本,而从局部邻域中选择另一个亲本.与全局匹配选择类似,局部匹配选择可以采用局部适应度比例、排列比例选择,以及随机行走选择.Collins 和Jefferson [13]考察了随机行走选择,对邻域拓扑的各个位置,把一条随机生成的路径中的两个最佳个体选作为亲本.局部生存选择 局部生存选择确定局部邻域中被替换的个体.如果子代自动替换邻域中心的那个个体,那么可以直接使用代替换作为局部生存策略.由于最优个体替换需要整个群体的全局知识,故不能用在局部生存选择中.3.3 实现M anderick 和Spiessens [14]在实现细粒度并行GA 时,将群体分布在2维网络上,只在邻域之间选择和配对,分析结果表明[15]:若子群体大小为s ,串长为1,根据所用的选择方案,该算法的时间复杂性为O (s +1)或者O (s log s +1).Sarm a 和Jong [16]分析了邻域的大小与形状对选择机制的影响,发现邻域的半径与整个网络的半径之比是一个关键参数,可用来控制整个群体上的选择压力,并定量分析了把一个优良解传播到整个群体的时间随邻域大小变化的情况.将两种基本模型加以组合,便形成了混合并行GAs,以期望结合各模型的优势,获得更好的性能.通常,混合并行GAs 以层次结构组合,上层多采用粗粒度模型,下层既可采用粗粒度模型,也可采用细粒度模型.4 三种模型的比较就现有的研究结果来看,很难分出各模型的高低,得出的结论有时是矛盾的.例如,在粗粒度模型中,是采用低迁移率,还是采用高迁移率,还需深入研究:对于细粒度模型,是采用大范围的邻域模型,还是采用小范围直径也有争议.在评价并行模型的差异时,有时还得深入到实现细节上,如问题的差异、群体大小、或者不同的局部搜索方法等.但有一个结论是肯定的:不采用全局并行模型,而采用粗粒度模型或者细粒度模型通常能获得更好的性能.粗粒度模型与细粒度模型孰优孰劣,尚是一个未知数.Baluja [17]在MasPar M P-1阵列处理机上实现了三个细粒度模型和一个粗粒度模型,并在测试平台上作了试验.其结论偏向于细粒度模型,但试验中采用了一个非常大的迁移周期100,有的测试问题是完全没有迁移的情况下求解的,故其结果尚有争议.Gordon 和Whitley [12]在一台顺序计算机上对四个全局并行模型、四个粗粒度模型和一个细粒度模型上的测试结果表明,粗粒度模型,特别是粗粒度GENI -TOR 的变种性能更优,但GENEITOR 在评价目标函数时,每代的评价次数是其它模型24的23第1期王大明等:并行遗传算法综述24暨南大学学报(自然科学版)1998年两倍,故该结论也有争议.Gordon等[12]的数据流分析表明,较之粗粒度模型,细粒度模型的潜在并行性更大,且关键路径更短.目前,以粗粒度模型最为流行,因为一是其实现较容易,只需在串行GAs中增加迁移子例程,在并行计算机的节点上各自运行一个副本,并定期交换几个个体即可;二是在没有并行计算机时,也可在网络或单机系统上模拟实现.虽然并行GAs能有效地求解许多困难的问题,也能在不同类型的并行计算机上有效地实现,但仍有一些基本的问题需要解决.群体大小可能既影响大多数Gas的性能,也决定GAs找到解所需时间的主要因素.Cantu -Paz和Goldberg的理论分析与实验[18,19]表明:在孤立模型中,随着子群体的增加,并行GAs 找到最小期待品质解的概率也相应增加,但速度增益却没有显著变化;对于全连接模型,在将迁移率设置为最大化的情况下,能预测局部收敛到正确值的概率,在通信时间不定的情况下,恰当地组合子群体与其大小,可能获得最优速度增益.在PGAs中,另一个重要问题是如何降低通信开销,包括迁移率的确定,使得区域的行为象单个群体一样;确定通信拓扑,既能充分地组合优良解,又不导致过多的通信开销;能否找到一个最优的区域数等.对串行GAs所作的每个改变都会极大地改变其语义及行为,发展相应的并行GAs理论是十分必要的.以还很薄弱的串行GAs理论来理解其并行实现,几乎没有什么帮助.要更充分地利用它们,还需作深入的理解和探索.参考文献1Abramson D,M ills G,Perkins S.P ar allelisation of a genetic algor ithm for the computation of efficient train schedules.In:Pr oceeding of the1993Parallel Computing and T ransputers Conference,1993.139~1492Cantu-Paz E.Designing efficient master-slav e parallel g entic algor ithms,I T R97004.U rbana,IL:U niversit y of I llinois at U rbana-Champaign,19973T anese R.Parallel g enet ic algor ithms for a hypercube,Genetic Algor ithms and their Applicat ion:ICGA2, L awrence Er lbaum Associates,1987.177~1834Starkweat her T,W hitley D,M athias K.Optimization using di stributed genetic algor ithms.PPSN I,Berlin: Spr ing er-Verlag,Schwefel H-P,M anner R ed.1991.176~1865M uhlenbein H,Schomisch M,Born J.T he parallel g enetic algorithm as function optimizer.Parallel Co mputing, 1991,17(6-7):6196Cantu-Paz E,M ejia-Olv era M.Ex perimental results in distributed genetic algor ithms.Int.Symp.on Applied Corpor ate Computing,M nterrey,M ex ico,1994.99~1087M uneto mo M,T akaiY,Sato Y.An efficient migration scheme for subpopulation-based asynchronously par allelg enetic alg orithms.ICGA5,Foreest S,ed.CA:M or gan-K aufmann.1993.6498Br aun H.O n solving T rasvelling Salesman Pr oblems by Genetic A lgor ithms,PPSN I.Berlin:Spr ing er-Verlag, Schw efel H-P,M anner R ed.1991.129~1339K roger B,Schwender ling P,V ornberger O.Parallel genetic packing o f rectangles.PPSN I,Berlin:Spr ing er-Ver-lag,Schwefel H-P ,M anner R ed.1991.160~16410 Petty C B,Leuze M R ,Grefenstette J J.A par allel g enetic algor ithm.ICGA 2.L aw rence Erlbaum Associates,Gr efeenstette J J,ed.,1987.155~16111 P etty CC,L euze M R.A t heoretical investigation of a parallel genetic algorithm.ICGA3,Belew R K ,Boo ker LB ed.,CA:Mo rgan-K aufmman.1989.398~40512 G ordon V S,Whitley D.Serial and parallel genetic algo rithms as funct ion optimizers,I CGA4,For rest S ed.,CA :M org an-K aufmann,1993.177~18313 Collins R J,Jefferson D R.Select ion in massively parallel genetic algorithms.I CGA3,Belew R K,Booker L B,ed.,CA :M org an K aufmann Publishers,1991.249~25614 M anderick b,Spiessens P.fine -grained parallel g enetic algorithms,ICGA 3,Schaffer J D ed.,CA :M organK aufman,1989.428~43315 Spiessens P,M anderick B.A massively parallel genetic algorit hm:I mplementation and first analysis.ICGA 4,Belew R K,booker L B ed.,CA:M or gan-K aufmann,1991.279~28616 Sarma J,Jong K D.An analysis of t he effects of neig hborhoo d size and shape on local selection algor ithms,PPSNÔ.Berlin:Spr ing er -Verlag,1995.236~24417 Balja S.Structure and Performence of F ine-Grain P ar allelism in Genetic Search,ICGA 5.For rest S ed.,CA:M org an-Kaufmann,1993.155~16218 Cantu-Paz E,Goldberg D E.Predicting Speedups of Idealized Bounding Cases o f Parallel Genetic A lgorit hms,I CGA7.Back T ,ed.,CA:M or gan K aufmann Publishers,199719 Cantu-Paz E,Goldberg D E.M odeling I dealized Bounding Cases of Parallel Genetic Algor ithms,G enetic Pro -gramming 1997:P roceedings of the Second Anual co nference,Koza J,Deb K,Dorigo M ,F ogel D,Garzo n M ,Iba H,Rio lo R ed.CA:Mor gan K aufmann Publishers,1997.353~36125第1期王大明等:并行遗传算法综述。
遗传算法优化问题研究综述
遗传算法优化问题研究综述遗传算法是一种基于进化论和遗传学原理的优化算法，被广泛应用于求解复杂问题。
遗传算法具有通用性、自适应性、并行性等优点，因此被应用于各个领域。
本文将综述遗传算法在优化问题中的研究进展和应用情况。
一、遗传算法的基本原理遗传算法是一种群体智能算法，其基本原理来自于进化论和遗传学原理。
整个算法过程可以分为个体编码、适应度评估、选择、交叉和变异五个环节。
个体编码将问题转化为适应度评估可以处理的数值表示形式；适应度评估是对各代种群中每一个个体的适应度进行评估的过程，适应度越好，则个体越可能被选择进行操作；选择是根据个体适应度大小对个体进行筛选，保留好个体进行进化操作；交叉是在选择个体之间进行部分信息交换，产生新的后代；变异是对新后代进行一些可控的随机操作，使其具备某些新性质。
通过这些进化操作，种群可以逐渐进化出适应度更高的个体。
二、遗传算法的改进算法进化策略算法是遗传算法的一种改进算法，其特点在于选择和变异操作。
进化策略算法不对个体进行选择操作，而是将个体分为若干互不干扰的子群。
在每个子群中，个体根据策略进行迭代式改变，直到达到一定停止标准。
与此不同的是，遗传算法的选择和变异操作是在整个种群中进行的。
差分进化算法是遗传算法的另一种改进算法，其特点在于采用差分变异操作。
在差分进化算法中，交叉操作是基于差分变异操作的。
通过选择两个个体以及进行差分，得到新的候选解向量。
由于差分运算减少了变异产生的随机性，提高了算法的收敛速度和效率。
三、遗传算法在优化问题中的应用1.组合优化问题组合优化问题是指通过组合若干元素来构造一个最优解的问题。
遗传算法结合带约束的排序方法可以高效地求解组合优化问题。
具体实现中，可以对候选解按照适应度进行排序，并将排序结果与已知的约束进行比对，从而有效地求出最优解。
2.数值优化问题数值优化问题是指寻找函数或者变量最小或者最大值的问题。
遗传算法可以有效地求解数值优化问题，且相比传统的优化方法有着更快的求解速度和更高的求解精度。
多种群协同进化的并行遗传算法
多种群协同进化的并行遗传算法多种群协同进化并行遗传算法（Multi-population Cooperative Coevolutionary Parallel Genetic Algorithm, MCCPGA）是一种基于群体协作的进化算法，通过将一个大问题分解为多个子任务，并使用多个种群并行地进行进化，以提高算法效率。
本文将对多种群协同进化并行遗传算法的原理、优点以及应用进行详细介绍。
首先，多种群协同进化并行遗传算法的基本原理是将一个大问题分解成多个子任务，每个子任务由一个种群独立进化。
不同子任务之间通过共享信息交流、协作进化来改善效果。
算法的基本步骤为：初始化多个种群，每个种群为一个子任务的解空间；进行进化操作，包括选择、交叉、变异等；定期进行群体间信息交流，如共享精英个体、最优个体传递等；直到满足终止条件为止。
多种群协同进化并行遗传算法具有以下几个优点。
首先，通过并行计算，同时进行多个种群的进化，加快了算法的速度和收敛速度。
其次，多种群之间的信息交流可以引入不同种群的优势，提高了群体的多样性和整体的能力。
此外，不同子任务的粒度可以根据问题的特点进行调整，灵活性较高，适用范围广。
多种群协同进化并行遗传算法已经在多个领域得到了广泛应用。
例如，在优化问题中，可以将每个种群看作是一个决策变量的子集，通过不同种群的协作进化来求解全局最优解。
在机器学习中，不同种群可以分别学习不同任务的特征，通过信息交流来提高整体的分类准确率。
在智能控制中，可以构建多个控制子系统，通过种群之间的协同来优化整体的控制性能。
总而言之，多种群协同进化并行遗传算法是一种通过多个种群的协作进化来求解复杂问题的进化算法。
通过并行计算和信息交流，该算法能够加快速度、提高能力，已经在优化问题、机器学习、智能控制等领域取得了良好的效果。
未来，随着计算力的提升和算法的改进，多种群协同进化并行遗传算法有望在更多的应用领域发挥重要作用。
并行遗传算法研究综述
ＧＡ０ ｉ— ｕ ｎ。Ｈ Ｅ Ｇｕ— ｉ Ｊａｑ ａ ｉｘａ
（ ｈ ｉｎ ｏ ｌ ｅ Ｚ ｅｉ ｇ Ｕｎｖ ｒｉ ｆ ｅ ｈ ｏｏ ｙ Ｚ ｉａ ｇＣ ｌ ｇ ， ｈ ｊ ｎ ｉ ｓ ｙ ｏ ｃ ｎ ｌ ，Ｈａ ｇ ｈ ｕ３ ０ ２ ，Ｃ ｉａ ｊ ｅ ａ ｅ ｔ Ｔ ｇ ｎ ｚ ｏ １ ０ ４ ｈｎ ）
题 ． 过 模 型 比 较 发 现 粗 粒 度 模 型 以其 较 小 的 通 信 开 销 和 对 种 群 多 样 化 ， 得 了 最 广 泛 的 应 用． 通 获 最
后介 绍 了 目前 并行 遗传 算法 的主要 评价模 型 ， 并指 出了并行 遗传 算法 的今后 主要研 究 方向 ， 向理 将
论化 、 型化 、 模 异步化 及混 合化 等 方向发展 ．
关键 词 ： 并行遗 传 算法 ； 并行计 算 ； 并行模 型
中图分 类 号 ： １ ＴＰ ８ 文 献标识 码 ： Ａ 文 章编 号 ：０ ６４ ０ （０ ７ ０ —０ ６０ １ ０ —３ ３ ２ ０ ） １０ ５ —４
Ａ ｅ ｉ ｗ ｆｐ ｒ ｌｅ ｅ ｅ ｉ ｌ ｏ ｉｈ ｓ ｒ ｖ ｅ ｏ ａ ａ ｌ ｌｇ ｎ ｔｃ ａ ｇ ｒ ｔ ｍ
０
引 目
遗传 算 法 （ ｎ ｔ ｇ ｒ ｈ ，ＧＡｓ 是 美 国 Ｇｅ ｅｉ Ａｌｏｉ ｍｓ ｃ ｔ ）
并 以概 率 １收敛 到 全局 最 优解 ［ ． １ 这种 良好 的特 性 ３
ｐｒ ｂｌｍ ｓｗｈｉｈ ｎｅ ｄ ｂ ｏｌ ｅ ｏ ｍｐｒ ｖ ｎｇ ｉｓ ａ ｌｃ ｔｏ ｒ ｕ ｅ ｔ ｄ Ｔｈ ｏ ｇｈ ｃ ｍｐａ ｉ ｇ ｏ ｅ ｃ ｅ ｅ ｓ ｖ ｄ ｆ ｒｉ ｏ ｉ ｔ ｐｐ ｉａ ｉ ｎ ａ ｅ ｓ ｇｇ ｓ ｅ ． ｒ ｕ ｏ ｒｎ ｔ ｓ ｈｅ ｅ ｍｏｄ ｌ ｅ ｓ，ｉ ｓｓ ｗｎ ｔ ｔｃ ａ ｓ — ａ ｎ ｄ ｍ ｏ ｅ ｓ ｍｏ ｅｗｉ ｅ ｙ ａ ｐｌｅ ｏ ｔ ｉｔｅｃ ｍｍ ｕ — ｔｉ ｈｏ ｈａ ｏ ｒ ｅｇｒ ｉ ｅ ｄ ｌｉ ｒ ｄ ｌ ｐ ｉ ｄ ｆ ｒｉｓｌｔ ｌ ｏ ｎｉ
遗传算法的并行计算技术与应用分析
遗传算法的并行计算技术与应用分析遗传算法是一种模拟自然进化过程的优化算法，通过模拟生物进化过程中的选择、交叉和变异等操作，寻找问题的最优解。
然而，随着问题规模的增大和复杂性的提高，传统的串行遗传算法面临着计算时间长、搜索效率低等问题。
为了克服这些问题，研究人员提出了并行计算技术，并将其应用于遗传算法中。
并行计算技术是指将一个计算任务分解成多个子任务，并通过多个处理单元同时执行这些子任务，以提高计算效率。
在遗传算法中，可以通过并行计算技术加速遗传算法的搜索过程，从而提高算法的性能。
首先，通过并行计算技术，可以将种群分成多个子种群，每个子种群在一个处理单元上进行独立的进化。
这样可以加快遗传算法的进化速度，提高搜索效率。
同时，不同子种群之间可以通过交流基因信息来增加种群的多样性，避免陷入局部最优解。
其次，利用并行计算技术可以实现并行评估，即同时对多个个体进行适应度评估。
在传统的串行遗传算法中，适应度评估是一个非常耗时的过程，通过并行计算可以大大减少评估时间，提高算法的效率。
此外，通过并行计算技术，还可以实现并行选择和交叉操作。
传统的串行遗传算法中，选择和交叉是顺序执行的，而并行计算可以将这些操作并行化，从而加快算法的执行速度。
并行计算技术在遗传算法中的应用非常广泛。
例如，在组合优化问题中，通过并行计算可以加速求解最优解的过程。
在图像处理中，通过并行计算可以实现图像的快速优化和增强。
在机器学习中，通过并行计算可以加速模型的训练过程，提高学习的效率。
然而，并行计算技术也存在一些挑战和限制。
首先，并行计算需要大量的计算资源，包括处理器、内存和网络等。
其次，并行计算的效果受到问题规模和并行度的影响，需要合理地选择并行度和任务划分策略。
此外，并行计算还面临着通信开销和数据同步等问题，需要合理地设计和优化算法。
总之，遗传算法的并行计算技术为解决大规模和复杂问题提供了一种有效的方法。
通过并行计算，可以加速遗传算法的搜索过程，提高算法的性能。
并行遗传算法概述
群体中各个个体 的适应度之 问无相 互依赖关系 ，这样各个 个 体 适应 度 的评 价 或 计 算 过 程 就 可 以相 互 独 立 、相 互 并 行 地 进 行 ．即 不 同个 体 的适 应 度 评 价 或 计 算 过 程 可 以在 不 同 的处 理 机
【 关键字 】 遗传算 法。 ： 计算机 集群 ， 并行计 算
１ 研 究 并 行 遗传 算 法的 意 义 ＿ （ １中 ； 【） ＋ 遗传 算 法 是 模 仿 自然 界 生 物 遗传 和 进化 过 程 中 “ 竞 天 择 、 物 ２ 交 叉 ： 群 体 Ｐｆ 的 各 个 个 体 随 机 搭 配 成 对 ， 每 一 、 将 ｆ内 Ｊ 对 适 者 生 存 ” 的 原 理 而 开 发 出 的一 种 多参 数 、多 个 体 Ｉ 优 化 算 对 个 体 ． 司时 以某 个 概率 （ 为 交 叉 概 率 ） 换 它们 之 间 的 部 分 染 色 称 交 法 。 传 算 法 提 供 了一 种 求 解 系统 优 化 问 题 的通 用 框 架 ．解 的个 体 进行 评 价 、 择 、 叉 、 异 等 操 作 ． 选 交 变
来 产 生 新 一 代 的 个 体（ 选 解）这 个 迭 代 过 程 直 到 满 足 某 种 结 束 候 ， 条件为止 。 对应于基本遗传算 法的运行 过程 ． 以从下 面四种并 可 行 性 方 面着 手 对 其 进 行 改 进 和 发 展 。
赖 于 问题 的具 体 领 域 。 问 题 的 种 类 具 有 很 强 的 鲁 棒 性 ． 此 它 对 凶 在生产调度 、 像处理 、 数优化 、 器人学 、 器学 习、 图 函 机 机 自动 控 制等领域得到 了广泛的应用。遗传算 法在具体 运用中由于群体 规 模 大 。 要 对 大量 的个 体 进 行 适 应 度 计 算 或 评 价 。 需 在微 机上 汁 算 速 度 十 分 缓 慢 ， 此 研 究 并 行 遗 传 算 法 就显 得 十 分重 要 。 因 随 着计 算 机 网络 技 术 的 不 断 发 展 ．计 算 机 集 群技 术 得 到 了 迅 速 的发 展 ， 成 为 并 行 系 统 的 主 流 技 术 它和 其 它 井 行 系统 的 并 区 别在 于 集 群 中的 每 个 结 点 都 是 一 个 完 整 的 计 算 机 系 统 ．节 点 问使 用 低 成 本 的 商 品 化 网 络 相 连 ．Ｉ 太 网 。 算 机 集 群 的 优 点 立Ｉ 以 计 在 于 可 以充 分 种 用 现 有 的设 备 以 及 闲 散 的 设 备 ．川 少 量 的 投 资 就 可 以获 得 较 大 的 计 算 机 能 力 ； 二 编 程 方 便 ． 要 对 原 串 行 程 第 只 序作 一些修改就可 以在集群中运 行 ： 第三可扩性好 计算机集群 技术 的 发 展 与 普 及 为 并 行 遗 传 算 法 的 实 现 提 供 了物 质 基 础 ． 使 得 在 普 通 的 局 域 网环 境 下 利 用 ＭＰ 或 者 Ｖ Ｍ 就 可 以进 行 遗 传 Ｉ Ｐ 算 法 的并 行 计 算 ２ 遗 传 算 法 的 基 本 原 理 ． 遗 传 算 法 是模 拟 生 物进 化过 程 的计 算 模 型 ．它 是 自然 遗 传 学和计箅机科学相互结合渗透而形成的新 的计算方法 生 物 的 进 化 过程 主要 是 通 过 染 色 体 之 间 的 交 叉 和 变 异 来 完
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
南昌航空工业学院学报1998年第2期 Jou rnal of N anchang In stitu te of A eronau tical T echno logy №2 1998并行遗传算法的研究评述周 明 孙树栋 彭炎午(西北工业大学)摘要:并行遗传算法是遗传算法研究中的一个重要方向,受到了研究人员的高度重视。
本文系统地综述了各种并行遗传算法的构成原理,介绍了其典型应用情况,并指出了需进一步研究的课题。
关键词:并行遗传算法;遗传算法;并行计算;优化中图分类号:T P30116前言美国M ich igan大学的J.H.Ho lland[1]创立的遗传算法(Genetic A lgo rithm s,简称GA s)是模仿自然界生物进化过程中“物竞天择,适者生存”的原理而进行的一种多参数、多群体同时优化方法。
经过二十多年的发展,遗传算法已经在货郎担问题(T SP)的求解、生产调度、函数优化、机器学习等领域得到成功的应用,并显示出其良好的性能。
传统的遗传算法虽然具有隐含的并行性,但其实现方法在本质上仍是串行的。
这种串行的遗传算法在解决一些实际问题时,由于需要较多的个体数量和大量的计算,使得进化过程缓慢,难以达到实时要求。
因此并行遗传算法(Parallel Genetic A lgo rithm,简称PGA)[2]就受到了较大的重视。
本文拟对目前已开发出的并行遗传算法进行分类和总结,以便能为新的并行遗传算法的开发和应用以及并行遗传算法的机理分析提供参考。
1 遗传算法的并行性分析D.E.Go ldberg[3]归纳出了基本遗传算法模型(Si m p le Genetic A lgo rithm,简称SGA),它是一个反复迭代的进化计算过程,通过对一组表示候选解的个体进行评价、选择、交叉、变异等操作,来产生新一代的个体(候选解),这个迭代过程直到满足某种结束条件为止。
对应于基本遗传算法的运行过程,为实现其并行化要求,如图1所示,可以从下面四种并行性方面着手对其进行改进和发展。
ı并行性:个体适应度评价的并行性个体适应度的评价在遗传算法中占用的运行时间比较大。
通过对适应度并行计算方法的收稿日期:1998-04-10 第一作者:周 明,男,1963年出生,博士生。
图1 遗传算法的并行机制研究,可提高个体适应度评价的计算效率。
ı并行性˚:整个群体各个个体适应度评价的并行性群体中各个个体适应度的评价过程无相互依赖关系,这样各个个体适应度的评价或计算过程就可以相互独立、相互并行地在不同的处理机上同时进行。
ı并行性¸:子代群体产生过程的并行性从父代群体中产生下一代群体所需进行的选择、交叉、变异等遗传操作可以独立并行地进行。
ı并行性:基于群体分组的并行性群体中的单个或一组个体的进化过程可以相互独立地进行,在适当的时候,它们再以适当的方式交换信息。
即不同个体或不同组个体的进化过程是同时进行的。
在上述四种并行方式中,前三种方式并未从总体上改变简单遗传算法的特点,第四种并行方式却对简单遗传算法的结构有较大的改变,并且这种方式也最自然,在并行机或局域网环境下实现起来也最简单,所以受到了人们较大的重视。
目前已开发出的并行遗传算法基本上都是基于上述四种并行机制或其组合来实现的。
2 遗传算法的并行化为提高遗传算法的运算速度、改善其性能,人们在并行机或局域网环境下开发出了一些并行遗传算法。
概括起来,这些方法大体可分为如下两类:①标准并行方法;②分解型并行方法。
211 标准并行方法(standard p arallel app roach)这类方法并不改变简单遗传算法的基本结构特点,即群体中的全部都在统一的环境中进化。
其基本出发点是从局部的角度开发个体进化的并行性。
在应用遗传算法进行优化计算时,各个个体的适应度计算、选择、变异等操作是可以相互独立进行的。
这样,利用共享存贮器结构的并行机,就可对群体的进化过程进行并行计算以达到提高遗传算法运行速度的目的。
这类方法在适应度计算量较大的场合是比较有效的,上一节所介绍的前三种并行性都可以通过这类方法来实现。
但另一方面,由于并行机之间通信等的限制,选择、交叉、变异等遗传操作的对象集中在一个处理机上较为方便,所以这类方法的应用受到一些限制,在有些场合应用效果不太明显。
这种并行方法的一个典型例子是由T.C.Fogarty等[4]开发的一个基于共享存贮器方式的并行遗传算法,该算法将全部群体存放在一个共享的存贮器中,各处理机并行评价各个个体的适应度。
212 分解型并行方法(decom po siti on p arallel app roach)这种方法是将整个群体划分为几个子群体,各个子群体分配在各自的处理机或局域网工作站上独立地进行简单遗传算法的进化操作,在适当的时候各个子群体之间相互交换一些信息。
其基本出发点是从全局的角度开发群体进化的并行性。
这种方法改变了简单遗传算法的基本特点,各子群体独立地进行进化,而不是全部群体采用同一机制进化。
它是实现上述第4种并行性的方法,并且是一个简单常用、易于实现的方法。
这种方法不仅能够提高遗传算法的运算速度,而且由于保持了各处理机上子群体进化的局部特性,还能够有效地回避遗传算法的早熟现象。
构造这种并行遗传算法时,需要考虑下述几个主要问题:ı子群体划分方式①整个群体均匀地分配到各个处理机的方式(是粗粒度分配,还是细粒度分配?)。
ı交换信息方式①参加信息交换的对象(哪几个处理机之间可以交换信息?);②交换信息的内容(是随机交换,还是择优交换?);③交换时间或频率(何时交换?);④交换信息量(交换几个个体?)。
根据对这几个问题的不同处理,构成了不同类型的群体交换模型,亦即形成了不同的并行遗传算法。
(1)步进模型(stepp ing-stone m odel)这个模型的各个子群体中所含个体的数量多于1,各个子群体在其处理机上并行独立地运行简单遗传算法,子群体之间的信息交换只能是在地理上的邻接处理机之间进行。
该模型由于对处理机之间的通信要求不高,所以实现起来比较简单。
图2为步进模型的示例。
图2 步进模型R.T anese[5]开发出的并行遗传算法就属于此种模型,算法中各处理机上的子群体独立地运行简单遗传算法,定期地选择优良个体复制到相互以超立方体的形式联接在一起的其它并行机上的子群体中。
(2)岛屿模型(island m o rel)这个模型也叫做粗粒度并行遗传算法(coarse-grained PGA)。
该模型每个处理机上子群体所含个体的数量多于1,各个子群体在其各自的处理机上并行独立地运行简单遗传算法,并且随机的时间间隔、在随机选择的处理机之间交换个体信息。
图3为岛屿模型的示例。
图3 岛屿模型基于这种模型,B.K roger等[6]在有32个处理机的并行机上开发了一个并行遗传算法用来解决二维装箱问题,算法中,各个处理机异步运行简单遗传算法,然后随机地将最佳的个体复制到其他处理机上,运行结果表明,这个方法比启发式的顺序算法性能上要好得多。
(3)邻接模型(neighbo rhood m odel)这个模型也叫做细粒度并行遗传算法(fine-grained PGA)。
该模型中每个处理机上只分配一个个体,即子群体只由一个个体组成,每个子群体只和与其海明距离为1的“邻接”子群体相互交换信息。
由该模型的特点可知,即使群体中某一个体的适合度较高,其作用也仅仅是逐步地才能到其邻近的个体,所以它能够有效地维持群体的多样性,有效地抑制早熟现象。
图4为该模型的示例。
图4 邻接模型H.T am ik i[7]利用这种类型的并行遗传算法来解决生产车间的调度问题。
E.G.T alb i等[8]也用这种类型的并行遗传算法解决图形划分问题。
3 结束语应用实例表明,并行遗传算法是解决复杂系统优化问题的一个有力工具,特别是对一些组合优化中N P(N ondeterm in istic Po lynom ial)难题的求解更显示出其优异的性能。
虽然目前已经开发出了很多种类各不相同的并行遗传算法,其性能也不断地得到提高,但另一方面,这些并行遗传算法的性能仍还有待于进一步改进以更好地满足实际要求。
至今也尚无一个统一的并行遗传算法模式能满足各种问题求解的需要。
对并行遗传算法的性能评价尚未有统一标准。
新的并行机制尚有待于发掘和利用。
并行遗传算法与其它一些优化算法的融合方法尚不多见。
并行遗传算法的理论分析尚无满意的结果。
这些随着并行遗传算法的应用而出现的问题都值得进一步深入探讨。
参 考 文 献[1]J.H.Ho lland.A dap tati on in N atural and A rtificial System s.M IT P ress,1992[2]S.Joach i m.Parallel Genetic A lgo rithm s:T heo ry and A pp licati ons.ISO P ress,1993[3]D.E.Go ldberg.Genetic A lgo rithm s in Search,Op ti m izati on and M ach ine L earning.A ddison-W esley Publish ing Compa2ny,1989[4]T.C.Fogarty and R.H uang.I mp lem enting the Genetic A lgo rithm on T ransputer based parallel p rocessing.In:parallelP roblem So lving from N ature1.Sp ringer-V erlag,1991,145-149[5]R.T anese.Parallel Genetic A lgo rithm fo r a H ypercube.In:P roc.of2nd Int.Conf.on Genetic A lgo rithm s.L aw rence E rl2baum A ssociates,1987,177-183[6]B.K roger,P.Schw enderling and O.V o rnberger.Parallel Genetic Pack ing of R ectangles.In:Parallel P roblem So lvingfrom N gture1.Sp ringer-V erlag,1991[7]H.T am ak i and Y.N ish ikaw a.A Parallel Genetic A lgo rithm based on N eighbo rhood M odel and Its A pp licati on to the Job2shop Scheduling.In:Parallel P roblem So lving from N ature2.E lsevier Science Publisher,1992,573-582[8]E.G.T albi and P.Bessiere.A Parallel Genetic A lgo rithm fo r the Graph Partiti oning P roblem.In:P roc.of the1991Int.Conf.on Supercomputing.A CM P ress,1991,312-320A Rev iew of Parallel Genetic A lgor ith m sand Its ApplicationZhou M ing Sun Shudong Peng Yanw u(N o rthw estern Po lytechn ical U n iversity)Abstract:Parallel genetic algo rithm is one of the m ain research fields of genetic algo2 rithm s,w h ich has draw n m uch atten ti on from m any researchers.A n overview on the com po s2 ing p rinci p les and typ ical app licati on of ex isting p arallel genetic algo rithm s is p resen ted in th is p ap er.T he fu rther research w o rk w h ich m u st give m o re atten ti on has also been po in ted ou t.Key words:p arallel genetic algo rithm,genetic algo rithm s,p arallel com p u ting,op ti m iza2 ti on。