BP神经网络模型简介及相关优化案例

华东理工大学 2016-2017学年第2学期
研究生《石油化工单元数学模型》课程论文2017年6月
开课学院：化工学院任课教师：欧阳福生
考生姓名：丁桂宾学号：Y45160205 成绩：
BP 神经网络模型简介及相关优化案例
一、神经网络模型简介
现代神经生理学和神经解剖学的研究结果表明，人脑是极其复杂的，由约1010个神经元交织在一起，构成一个网状结构。

它能完成诸如智能、思维、情绪等高级精神活动，被认为是最复杂、最完美、最有效的一种信息处理系统。

人工神经网络（Artificial Neural Networks ，以下简写为 NN ）是指模拟人脑神经系统的结构和功能，运用大量的处理部件，通过数学方法，由人工方式构造的网络系统[1]。

图1表示作为 NN 基本单元的神经元模型，它有三个基本要素[2]： （1） 一组连接权（对应于生物神经元的突触），连接强度由各连接上的权值表示，权值为正表示激励，为负表示抑制。

（2） 一个求和单元，用于求取各输入信息的加权和（线性组合）。

（3） 一个非线性激励函数，起非线性映射作用并限制神经元输出幅度在一定的范围内（一般限制在[0,1]或[−1,+1]之间）。

图1 神经元模型
此外还有一个阈值k θ（或偏置
k
k b θ-=）。

以上作用可以用数学式表达为：
∑=
=P
j kj k j
x w u ；
k k k u θν-=；
)
(k k v y ϕ=
式中
P
x x x x ,...,,,321为输入信号，
kP k k k w w w w ,...,,,321为神经元k 的权值，
k
u 为
线性组合结果，
k θ为阈值。

(.)ϕ为激励函数，k y 为神经元k 的输出。

神经网络理论突破了传统的、串行处理的数字电子计算机的局限，是一个非线性动力学系统，并以分布式存储和并行协同处理为特色，虽然单个神经元的结构和功能极其简单有限，但是大量的神经元构成的网络系统所实现的行为却是极其丰富多彩的。

二、BP 神经网络模型
BP 网络(Back-Propagation Network)，即反向传播网络，是一种将W-H 学习规则一般化，对非线性可微分函数进行权值训练的多层网络权值的调整采用反向传播(Back-propagation ）的学习算法。

它是一种多层前向反馈神经网络，其神经元的变换函数是S 型函数输出量为0到1之间的连续量，它可实现从输入到输出的任意的非线性映射。

当一对学习样本提供给网络后，神经元的激活值从输入层经各中间层向输出层传播，在输出层的各神经元获得网络的输入响应。

接下来，按照减少目标输出与实际误差的方向，从输出层经过各中间层逐层修正各连接权值。

最后回到输入层，这种算法称为“误差逆传播算法”，即BP 算法。

随着这种误差逆的传播修正不断进行，网络对输入模式响应的正确率但不断上升
[3]。

BP 神经网络模型如图2
图2 BP 神经网络模型
典型的BP 神经网络包含3 层：输入层、隐含层、输出层，是一种前向阶层型神经网络[4]。

每一层由若干神经元(节点) 组成，每一个神经元的作用是计算该神经元所有输入的权重和，并通过特定的输出函数-激励函数输出。

激励函数一般是非减和可微函数，最常用的激励函数是S 函数和线性函数，S 函数方程式为：
x
e
x f -+=
11
)(
以一个隐含层的BP 网络为例，从输人到输出的映射过程为：
j h nin
i i ij j in b x w h ,1,)(+=∑=
)(,,j in j out h S h =
k y nhid
j j out jk k in b h w y ,1
,,)(+=∑=
)(,k in k y S y =
式中，x ——输入信号；
in h 和
out
h ——分别是隐含层节点的输入值和输出值；
in
y ——输出层节点的输入值；
y ——输出信号；
w ——节点之间的连接权重；
b ——节点的阈值；
nhid nin ,——分别为输入层和隐含层的节点数。

BP 神经网络的学习过程是由信息的正向传播和误差的反向传播两个过程组成的。

外界的输入信息通过输入层、隐含层和输出层的计算后得到实际结果，当实际结果和期望结果不符时，按误差梯度下降的方式修正各层权值，并向隐含层和输入层反向传播。

不断反复的信息正向传播和误差反向传播过程是各层权值不断调整的过程，也是神经网络不断学习的过程，直到网络输出与实际输出误差达到精度以内或者是网络学习达到预先设定的学习次数为止[5]。

三、优化案例
3.1BP神经网络在MIP工艺过程产品分布优化中的运用[6]
以某炼油厂1.0Mt/a的MIP装置反应-再生系统为研究对象，选取包括原料油性质、再生剂性质、操作条件的19个变量为神经网络模型的输入变量，液化气、汽油、柴油、焦炭收率为输出变量，建立19-24-4结构的BP神经网络，在此基础上考察原料油预热温度、第一反应区(一反)出口温度、第二反应区(二反)出口温度、反应压力对产品分布的影响，并采用遗传算法得到使汽油收率最优的操作条件。

32组模型验证样本的相对误差统计见表1。

由表1可知：液化气、柴油收率和焦炭产率的相对误差只有4组样本大于10%，而小于5%的样本占多数；汽油收率的相对误差较小，除1组样本大于5%外，其余样本的相对误差都在5%以内；液化气、汽油、柴油收率和焦炭产率的平均相对误差都小于5%，说明所建立的神经网络模型的外推性较好。

表1. 32组验证样本的相对误差统计
产品误差小于5%的
样本数
误差5%~10%的
样本数
误差大于10%
的样本数
平均相对误
差，%
液化气23 7 2 4.18
汽油31 1 0 1.49
柴油25 6 1 3.58
焦炭23 8 1 3.50
通过建立的BP神经网络，分别考察原料油预热温度，反应温度以及反应压力对产品分布的影响情况，模拟结果与实际情况拟合良好，说明此模型可靠性比较高。

在此基础之上，利用遗传算法进行优化，获得较好的汽油收率下的反应-再生系统操作条件。

3.2以BP-ANN模型为基础的操作优化[7]
以建立FCC分馏塔的粗汽油干点模型为例，选取了7个输入参数：反应-再生系统的原料油流量和反应温度、分馏塔顶温度和压力、顶循环抽出量和抽出温度、气提蒸汽量。

其中，原料油流量和反应温度对于分馏系统来说是不可调控的，为操作工况，其余为操作条件；1个输出参数，即粗汽油的干点；1个隐含层，
包含8个隐节点；从厂方提供的实际数据中选取了10组样本对网络模型进行训练，厂方要求模型预测的干点值与实际化验值之间的偏差小于2℃，经过训练，模型对这10组样本的预测效果均达到要求。

在实际生产中，粗汽油干点一般保持在195℃和205℃之间，而当干点控制在205℃时，油收率最大，经济效益最高。

通过已经建立的BP-ANN模型，确定优化的目标函数为：
2
min-
t
=y
(
)
205
在所用的100组样本中选取合适的初值点，利用梯度搜索法进行计算得到最佳的操作条件，如下表2
表2 最佳操作条件
输入输出参数生产条件1 生产条件2 生产条件3 分馏塔顶温/℃113.043 114.435 116.106
分馏塔顶压/kPa 140.754 123.100 126.618
185.476 193.427 177.694 顶循环抽出量/
（t/h）
定循环抽出温度/℃163.007 154.487 150.605
气提蒸汽量/（t/h） 3.24341 4.54363 2.94378
四、结论
神经网络模型可以对庞大的化工实验数据进行处理，寻找到隐藏在大量数据之下的化工生产规律，其中又以BP网络应用最广泛。

BP神经网络模型实现了一个从输入到输出的映射功能，而数学理论已证明它具有实现任何复杂非线性映射的功能。

这使得它特别适合于求解内部机制复杂的问题并且网络能通过学习带正确答案的实例集自动提取“合理的”求解规则，即具有自学习能力。

同时BP网络具有一定的外推能力。

参考文献：
[1]周春光, 梁艳春. 计算智能:人工神经网络·模糊系统·进化计算-第3版[M]. 吉林大学出版社, 2009.
[2]王汉林. 灰色神经网络模型的建立及其在复杂非线性预测问题中的应用[D]. 吉林大学, 2004.
[3]吕砚山, 赵正琦. BP神经网络的优化及应用研究[J]. 北京化工大学学报(自然科学版), 2001, 28(1):67-69.
[4]姚晓丽. 人工神经网络在石油化工过程优化操作中的应用研究[D]. 北京: 清华大学,1992.
[5]史忠植. 神经网络[M]. 北京: 高等教育出版社,2009:48-56.
[6]欧阳福生, 方伟刚, 唐嘉瑞,等. 以BP神经网络为基础的MIP工艺过程产品分布优化[J]. 石油炼制与化工, 2016, 47(5):95-100.
[7]周祥, 何小荣, 陈丙珍. 基于BP-ANN模型的化工过程操作优化[C]// 中国系统工程学会2001过程系统工程年会. 2001.。