遗传算法与神经网络

在遗传算法里，优化问题的解被称为个体，它表示为一个变量序列，叫做染色体或者基 因串。染色体一般被表达为简单的字符串或数字串，不过也有其他的依赖于特殊问题的表示 方法适用，这一过程称为编码。首先，算法随机生成一定数量的个体，有时候操作者也可以 对这个随机产生过程进行干预，以提高初始种群的质量。在每一代中，每一个个体都被评价， 并通过计算适应度函数得到一个适应度数值。种群中的个体被按照适应度排序，适应度高的 在前面。这里的“高”是相对于初始的种群的低适应度来说的。
2.1 神经网络简介
人工神经网络（artificial neural network，缩写 ANN），简称神经网络（neural network， 缩写 NN），是一种模仿生物神经网络的结构和功能的数学模型或计算模型。神经网络由大量 的人工神经元联结进行计算。大多数情况下人工神经网络能在外界信息的基础上改变内部结 构，是一种自适应系统。现代神经网络是一种非线性统计性数据建模工具，常用来对输入和 输出间复杂的关系进行建模，或用来探索数据的模式。
进化次数限制； （1）计算耗费的资源限制（例如计算时间、计算占用的内存等）； （2）一个个体已经满足最优值的条件，即最优值已经找到； （3）适应度已经达到饱和，继续进化不会产生适应度更好的个体； （4）人为干预； （5）以及以上两种或更多种的组合。
3/9
遗传算法与神经网络
一个典型的遗传算法要求: 一个基因表示的求解域, 一个适应度函数来评价解决方案。
经过这一系列的过程（选择、交配和突变），产生的新一代个体不同于初始的一代，并 一代一代向增加整体适应度的方向发展，因为最好的个体总是更多的被选择去产生下一代， 而适应度低的个体逐渐被淘汰掉。这样的过程不断的重复：每个个体被评价，计算出适应度， 两个个体交配，然后突变，产生第三代。周而复始，直到终止条件满足为止。一般终止条件 有以下几种：
5 结束语 ................................................................................................................................... 9
1 遗传算法
遗传算法与神经网络
4 遗传算法在圣经网络应用的具体算法 ............................................................................... 8 4.1 利用遗传算法构建神经网络结构 ................................................................................. 8 4.2 遗传算法对神经网络优化的一个算法 ......................................................................... 8
2 神经网络 ............................................................................................................................... 5 2.1 神经网络简介 ................................................................................................................ 5 2.2 神经网络神经元示意图： ............................................................................................. 5 2.3 神经网络的分类 ............................................................................................................. 6 2.4 学习算法：..................................................................................................................... 6 2.5 BP 神经网络：................................................................................................................ 6 2.6 神经网络的优越性 ........................................................................................................ 7
神经网络是一种运算模型，由大量的节点（或称“神经元”，或“单元”）和之间相互联 接构成。每个节点代表一种特定的输出函数，称为激励函数（activation function）。每两个 节点间的连接都代表一个对于通过该连接信号的加权值，称之为权重（weight），这相当于 人工神经网络的记忆。网络的输出则依网络的连接方式，权重值和激励函数的不同而不同。 而网络自身通常都是对自然界某种算法或者函数的逼近，也可能是对一种逻辑策略的表达。
2.3.2 依网络架构（Connectionism）分类主要有: 前向式架构（Feed Forward Network） 回馈式架构（Recurrent Network） 强化式架构（Reinforcement Network）
2.4 学习算法：
ห้องสมุดไป่ตู้
（1） （2） （3） （4） （5） （6） （7）
3、遗传算法在神经网络的应用 ............................................................................................. 7 3.1 遗传算法在网络学习中的应用 ..................................................................................... 7 3.2 遗传算法在网络设计中的应用 ..................................................................................... 7 3.3 遗传算法在网络分析中的应用 ..................................................................................... 8
监督式学习网络（Supervised Learning Network）为主 无监督式学习网络（Unsupervised Learning Network） 混合式学习网络（Hybrid Learning Network） 联想式学习网络（Associate Learning Network） 最适化学习网络（Optimization Application Network）
Hebb 学习规则 Delta 学习规则 梯度下降学习规则 Kohonen 学习规则 向后传播学系规则 概率式学习规则 竞争式学习规则
遗 传 算 法 与 神 经 网 络
柯恒、李俊褰、于静琳、王瑞婷、赵迪
1 遗传算法 ............................................................................................................................... 3 1．1、遗传算法简介： ....................................................................................................... 3 1.2、主要算法步骤（算法流程入有图所示）： .............................................................. 4
2.2 神经网络神经元示意图：
其中
5/9
遗传算法与神经网络
a1~an 为输入向量的各个分量 w1~wn 为神经元各个突触的权值 b 为偏置 f 为传递函数，通常为非线性函数。 t 为神经元输出
2.3 神经网络的分类
人工神经网络分类为以下两种: 2.3.1 依学习策略（Algorithm）分类主要有：
1.2 主要算法步骤（算法流程入有图所示）：
（1）染色体表示 （2）初始化种群 （3）选择算子 （4）杂交算子 （5）变异算子 （6）适应度函数
对于一个具体问题 （1）确定问题的解空间和个体的表现型 （2）建立优化模型，确定出目标函数 （3）确定遗传算子 （4）确定运行参数
4/9
2 神经网络
遗传算法与神经网络
它的构筑理念是受到生物（人或其他动物）神经网络功能的运作启发而产生的。人工神 经网络通常是通过一个基于数学统计学类型的学习方法（Learning Method）得以优化，所以 人工神经网络也是数学统计学方法的一种实际应用，通过统计学的标准数学方法我们能够得 到大量的可以用函数来表达的局部结构空间，另一方面在人工智能学的人工感知领域，我们 通过数学统计学的应用可以来做人工感知方面的决定问题(也就是说通过统计学的方法，人 工神经网络能够类似人一样具有简单的决定能力和简单的判断能力)，这种方法比起正式的 逻辑学推理演算更具有优势。
下一步是产生下一代个体并组成种群。这个过程是通过选择和繁殖完成的，其中繁殖包 括交配(crossover，在算法研究领域中我们称之为交叉操作）和突变(mutation)。选择则是根 据新个体的适应度进行的，但同时并不意味着完全的以适应度高低作为导向，因为单纯选择 适应度高的个体将可能导致算法快速收敛到局部最优解而非全局最优解，我们称之为早熟。 作为折中，遗传算法依据原则：适应度越高，被选择的机会越高，而适应度低的，被选择的 机会就低。初始的数据可以通过这样的选择过程组成一个相对优化的群体。之后，被选择的 个体进入交配过程。一般的遗传算法都有一个交配概率（又称为交叉概率），范围一般是 0.6~1，这个交配概率反映两个被选中的个体进行交配的概率。例如，交配概率为 0.8，则 80% 的“夫妻”会生育后代。每两个个体通过交配产生两个新个体，代替原来的“老”个体，而 不交配的个体则保持不变。交配父母的染色体相互交换，从而产生两个新的染色体，第一个 个体前半段是父亲的染色体，后半段是母亲的，第二个个体则正好相反。不过这里的半段并 不是真正的一半，这个位置叫做交配点，也是随机产生的，可以是染色体的任意位置。再下 一步是突变，通过突变产生新的“子”个体。一般遗传算法都有一个固定的突变常数（又称 为变异概率），通常是 0.1 或者更小，这代表变异发生的概率。根据这个概率，新个体的染 色体随机的突变，通常就是改变染色体的一个字节（0 变到 1，或者 1 变到 0）。