猴群算法讲解学习

猴群算法

1. 选题背景

自然界的智慧无穷无尽. 受自然规律的启迪, 人类进行了各种发明创造, 智能算法就是其一. 经典的智能算法主要包括人工神经网络、遗传算法、粒子群算法、蚁群算法等等. 2008年Zhao和Tang根据自然界中猴群爬山过程中爬、望、跳几个动作, 设计开发了另外一种群体智能搜索算法—猴群算法. 该算法除具有经典智能搜索算法的消耗低、效率高的特性外, 其优势表现在求解高维数、多峰值的大规模优化问题时能够逃脱“维数灾难”, 快速搜索到最优或近似最优解.

（1）人工神经网络. “人工神经网络”是在对人脑组织结构和运行机制的认识理解基础之上模拟其结构和智能行为的一种工程系统. 这种网络依靠系统的复杂程度, 通过调整内部大量节点之间相互连接的关系, 从而达到处理信息的目的. 心理学家McCulloch、数学家Pitts提出了第一个人工神经网络的数学模型.其后, Rosenblatt、Widrow和Hopfield等学者又先后提出了感知模型, 使得人工神经网络技术得以蓬勃发展. 到目前为止, 已有近40种神经网络模型, 其中有反传网络、感知器、自组织映射、Hopfield网络、波耳兹曼机、适应谐振理论等[1, 2].人工神经网络具有四个基本特征：非线性、非局限性、非常定性和非凸性.这四个特征决定了其具备很强的自学习和自适应能力, 可以通过预先提供的一批相互对应的输入－输出数据, 分析掌握两者之间潜在的规律, 最终根据这些规律, 用新的输入数据来推算输出结果.人工神经网络特有的非线性适应性信息处理能力, 克服了传统人工智能方法对于直觉, 如模式、语音识别、非结构化信息处理方面的不足, 使之在神经专家系统、模式识别、智能控制、组合优化、预测等领域得到成功应用.

（2）遗传算法. 遗传算法是基于对达尔文生物进化论的“优胜劣汰”的模拟而发展起来的一种广为应用的、高效的随机搜索与优化的方法. 遗传算法最早是由Holland教授[3]于1975年提出的, 随后被众多学者推广[4–6]. 其主要特点是群体搜索策略和群体中个体之间的信息交换, 搜索不依赖于梯度信息. 进入90年代, 遗传算法迎来了兴盛发展时期, 无论是理论研究还是应用研究都成了十分热门的课题. 尤其是遗传算法的应用研究显得格外活跃, 不但它的应用领域扩大,而且利用遗传算法进行优化和规则学习的能力也显著提高. 迄今为止,遗传算法是进化算法中最广为人知的算法. 近些年关于遗传算法的研究主要集中在以下几个方面：i), 遗传算法在机器学习方面的应用. 这一方向把把遗传算法扩展到具有独特的规则生成功能的崭新的机器学习算法中. ii), 遗传算法和神经网络、模糊推理以及混沌理论等计算方法的结合. iii), 遗传算法的并行处理研究. iv),遗传算法和进化计算理论的结合.

同时, 遗传算法本质上是一种随机搜索优化算法, 当问题规模较大或问题较复杂时, 由于被搜索的空间非常之大, 从而导致遗传算法的收敛速度很慢. 加之遗传算法本身存在着群体分散性和GA的早熟之间的矛盾, 这给遗传算法的实时应用带来了很大的不便. 另外, 收敛过早也是遗传算法的一个较难克服的不足.由于遗传算法中选择及杂交变异等算子的作用, 使得一些优秀的基因片段过早丢失, 从而限制了搜索范围, 使得搜索只能在局部范围内找到最优值, 而不能得到满意的全局最优值.

（3）粒子群算法. 粒子群算法是由Kennedy 和Eberhart等[7]于1995年开发的一种演化计算技术, 它的开发来源于对鸟群捕食行为的研究. 粒子群算法初始时为一群随机粒子(随机解). 然后通过迭代找到最优解. 在每一次迭代中, 粒子通过跟踪两个"极值"来更新自己. 第一个就是粒子本身所找到的最优解（个体极值pBest）；另一个极值是整个种群目前找到的最优解（全局极值gBest）. 此外, 每个粒子都被限定在一个极大速度Vmax内. 由于PSO算法概念简单, 实现容易, 短短几年时间, PSO 算法便获得了很大的发展, 并在一些领域得到应用.

（4）猴群算法. 猴群算法是于2008年由Zhao和Tang[8]提出的一种新的用于求解大规模、多峰优化问题的智能优化算法. 其思想在于通过模拟自然界中猴群爬山过程中爬、望和跳的几个动作, 设计了三个搜索过程：爬过程主要用来搜索当前所在位置的局部最优解；望过程主要通过眺望来搜索邻近领域比当前位置更优的解, 以便加速最优解的搜寻过程；跳过程的目的在于由当前搜索区域转移到其它区域, 以避免搜索过程陷入局部最优.在猴群算法中, 其花费的CPU时间主要在于寻找局部最优位置的爬过程.爬过程中每次迭代的计算量主要集中在目标函数伪梯度的计算, 其只涉及到当前位置的两个临近位置的目标函数值而与决策向量的维数无关. 这一特征显著地提高了算法的性能, 尤其针对高维优化问题时效果更为明显. 另外, 跳过程迫使猴群由当前区域转移到新的区域, 从而避免算法陷于局部最优.

作为一种智能算法, MA能够有效地求解高维的、非线性不可微的函数优化问题. 此外, MA需要调整的参数也少, 这使得MA易于实现.尽管猴群算法在求解高维数优化问题时有了较大的突破, 但其也存在一些不足. 首先, 对于不同的优化问题, 在利用ＭＡ求解时需要设置不同的参数, 并且这些参数对猴群算法来说很重要, 一旦设置的不准确, 即便是优化问题的近似最优解也很难找到. 另外, 猴群算法求解优化问题时耗费的CPU时间也较长, 在优化效率方面仍具有很大的提高空间. 基于以上分析, 本文结合了猴群算法和混沌搜索技术提出了一种改进的猴群算法, 称为混沌混群算法CMA. 混沌描述的是一种非线性状态, 它同时具有确定性、随机性和遍历性. 基于混沌的遍历性及不重复性而提出的混沌搜索技术比传统的随机搜索技术速度更快, 质量更高.将混沌搜索技术引入到MA中非常必要, 这样在很大程度上避免了猴群算法陷入局部最优. 此外, 本文采用了变参数的方法设计了一组设用于各种优化问题的混沌猴群算法通用参数, 在提高了算法性能同时也为算法的使用者提供了便利.

2．猴群算法介绍

猴群算法（MA）是由Zhao 和Tang提出的一种新的用于求解大规模、多峰优化问题的智能优化算法. 其思想在于通过模拟自然界中猴群爬山过程中爬、望和跳的几个动作，设计了三个搜索过程：爬过程主要用来搜索当前所在位置的局部最优解；望过程主要通过眺望来搜索邻近领域比当前位置更优的解，以便加速最优解的搜寻过程；跳过程的目的在于由当前搜索区域转移到其它区域,以避免搜索过程陷入局部最优. 一般来说, 在优化问题中如果目标函数是一个多峰函数, 局部最优点的数量将随着决策向量维数的增加而急剧增长. 一方面, 在求解高维优化问题时, 常用算法如遗传算法、蚁群算法、粒子群算法等容易陷入局部最优；另一方面, 由于需要大量的计算, 这些算法所消耗的CPU时间也会大大增长. 而在MA中, 跳过程的目的恰恰是迫使猴群由当前区域转移到新的区域,

从而避免算法陷于局部最优. 另外, MA 花费的CPU 时间主要在于寻找局部最优位置的爬过程. 而在爬过程中每次迭代的计算量主要集中在目标函数伪梯度的计算, 其只涉及到当前位置的两个临近位置的目标函数值而与决策向量的维数无关. 这一特征显著地提高了算法的性能, 尤其针对高维优化问题时效果更为明显.

2.1. 优化模型

大部分优化问题的数学表达形式是最大化（或者最小化）某一些目标函数.不失一般性, 本文将只讨论最大化的情况, 因为任意的极小化问题都可以通过改变目标函数的符号而转化成最大化问题. 全局优化问题的一般化模型可表示为：

?????=≤,,...,2,1,0)(:

..)(max p j x g t s x f j

其中),...,,(21n x x x x =为n

R 上的决策向量, R R f n →=为优化问题的目标函数,,,...,2,1,:)(p j R R x g n j =→为约束函数.

考虑由Koziel 和Michalewicz 提出的优化问题 ??????

???????=≤≤≤-+-≤+-

+=.2,1,1000)4(101:..)()2sin()2(sin ),(max 221221213121321i x x x x x t s x x x x x x x f i ππ (2.1)

图2.1描述了模型(2.1)的目标函数f(x1, x2)在区间[0, 10] × [0, 10]的轮廓图形,从中可以看出f(x1, x2)是一个多峰函数.

图2-1 模型中目标函数的图像