基于BP神经网络算法的函数逼近
LabVIEW中BP神经网络的实现及应用
LabVIEW中BP神经网络的实现及应用
0 引言LabVIEW 是美国NI 公司开发的高效图形化虚拟仪器开发平台，它的图形化编程具有直观、简便、快速、易于开发和维护等优点，在虚拟仪器设计和测控系统开发等相关领域得到了日益广泛的应用，它无需任何文本程序代码，而是把复杂、繁琐的语言编程简化成图形，用线条把各种图形连接起来。
BP 神经网络属于前馈神经网络，它广泛应用函数逼近、模式识别、分类和数
据压缩等领域，若将神经网络与虚拟仪器有机结合，则可以为提高虚拟仪器测控系统的性能提供重要的依据。
1 BP 神经网络学习算法BP 模型是一种应用最广泛的多层前向拓扑结构，以三层BP 神经网络作为理论依据进行编程，它由输入层、隐层和输出层构成。
设输入层神经元个数为I，隐层神经元个数为J，输出层神经元个数为K，学习样本有N 个(x，Y，)向量，表示为：输入向量
X{x1，x2，…，xI}，输出向量l，{Y1，Y2，…，Yx)，理想输出向量为
T{tl，t2，…，tK}。
(1)输入层节点i，其输出等于xi(i=1，2，…，I，将控制变量值传输到隐含层，则隐层第j 个神经元的输入：
其中：Wji 是隐层第J 个神经元到输入层第i 个神经元的连接权值。
(2)隐层第J 个神经元的输出：
(3)神经网络输出层，第k 个神经元的输入为：
其中：Vkj 是输出层第k 个神经元到隐层第j 个神经元的连接权值。
(4)神经网络输出层，第志个神经元的输出为：
(5)设定网络误差函数E：
(6)输出层到隐层的连接权值调整量△Vkj：
(7)隐层到输入层的连接权值调整量wji：。
BP神经网络通常是指基于误差反向传播算法的多层前向神经网络,神经元
利用BP 神经网络对大直径SHPB 杆弥散效应的修正研究朱 励BP 神经网络采用Sigmoid 型可微函数作为传递函数，可以实现输入和输出间的任意非线性映射，这使得它在函数逼近、模式识别、数据压缩等领域有着广泛的应用。
常规SHPB(Split Hopkinson Pressure Bar)技术是研究材料动态响应的重要实验手段，但一维应力加载是其最基本的假定，这实际上忽视了杆中质点横向运动的惯性作用，即忽视了横向惯性引起的弥散效应。
近年来，为了研究一些低阻抗非均质材料，大直径的SHPB 应用越来越多。
大直径杆中应力脉冲在杆中传播时，波形上升沿时间延长，波形振荡显著增强，脉冲峰值随传播距离而衰减。
因此大直径SHPB 杆中的弥散效应将影响到实验结果可靠性，在数据处理时必须加以修正。
利用BP 算法的数学原理，得到修整权值调整公式为：a) 调整隐含层到输出层的权值q j p i t w d b t w ij j i ij ,...,2,1,,...,2,1),()1(==∆+=+∆αη （1）其中η为学习率，α为动量率，它的引入有利于加速收敛和防止振荡。
b) 调整输入层到隐含层的权值p i n h t v e a t v hi i h hi ,...,2,1,,...,2,1),()1(==∆+=+∆αη （2）按照上面公式（1）和（2）来反复计算和调整权值，直到此误差达到预定的值为止。
在实验修正过程中，通过测量SHPB 杠上某一位置点的应力波信号，然后由公式（1）和（2）确定的修整权值推算样品端的信号。
本文确定的方法网络收敛速度快，在训练迭代至100步时，训练误差即可接近0.0001，神经网络的学习效果好。
采用BP 神经网络和瞬态有限元计算相结合，对大直径SHPB 杆几何弥散效应的修正问题进行了探索。
研究表明：采用瞬态有限元计算结果，对网络进行训练和仿真，训练效果和预示结果都比较好；BP 神经网络可以很方便地进行正分析和反分析，确定杆中弥散效应的隐式传递函数，即能方便地对弥散效应进行修正。
基于BP神经网络的某型无人机电气系统故障诊断研究
２２ Ｂ ． Ｐ神 经 网络训 练 过程
， 其
ｏ ｉ ｙ
为 了应 用神 经 网络 ，在 选定所 要 设计 的神 经 网络 的结构 之后 （ 中包 括 的 内 容 有 网络 的层 数 、 每层 其 所含 神 经元 的个 数 和 神经 元 的激 活 函数 ） ，首 先 应该 考 虑神 经 网络 的训 练过程 。如 图 ２ 。
（ 转第 ９页 ） 下
１ 初始 化 。对 每 一 层 的 权 值 和 偏 差 进 行 初 始 ） 化 ，误 差 置为 ０ ，学 习效率 叼设 为 （ ０，１ 区间 的小 ）
计 测 技 术
新技 术新 仪器
［］ Ｊ ．无损检测 ，２ ０ ，２ （ ） ３— ８ ０ ２ ４ １ ：２ ２ ．
网络 除 了输入 输 出节 点外 ，还 有一层 或者 多层 隐 含 层节点 ，同层节 点 问没有任 何耦 合 。输 入信 号从输 入层 节点 依 次传 过各 隐 含 层 节 点 ，然 后 传 到输 出 节
点 ，每一 层节 点 的输 出只影 响下一 层节 点 的输 出。节 点 的激活 函数 必须 是非减 、可微 的 ，通 常取 为 ｓ型 函
计 ，并 根据 实 际问题 的需 要进 行必 要 的处 理 。
理 论 与 实 践
・５ ・
数 ，网络训练后达到的期望误差最小值为一正小数 ，
设为 Ｅ
２ ）输 入训 练样 本 ，计算 各层输 出。
３ ）计 算 网络误 差 。 网络 对不 同 的训 练样 本 具 有
１ ｍ
２ Ｂ Ｐ神经 网络的学 习算法和训 练过程
函数 逼 近器 。事实 上 ，基 于 Ｂ Ｐ神 经 网络 的 故 障诊 断 模 型也就 是利 用 Ｂ Ｐ网络 的函数 逼 近 能力 ，逼近 故 障 的分类边 界 ，从而 完成从 特征 空 问到故 障空 间的非线 性 映射 。Ｂ Ｐ算 法 将 神 经 网络 学 习 输入 输 出 的映 射 问 题转 换为 一个 非线 性优化 问题 ，使 用 了最 优化 中的梯 度 下降算 法 ，用迭 代运算 修正 网络 权重 ，实 现网络输
标准BP算法及改进的BP算法标准BP算法及改进的BP算法应用(1)
➢ 隐含层神经元数
➢ 初始权值的选取 ➢ 学习速率 ➢ 期望误差的选取
22
2020/3/6
网络的层数
理论上已经证明：具有偏差和至少一个S型隐含层 加上一个线性输出层的网络，能够逼近任何有理函 数
定理：
增加层数主要可以进一步的降低误差，提高精度， 但同时也使网络复杂化，从而增加了网络权值的训 练时间。
%输入向量P和目标向量T
P = -1:0.1:1
T = [-0.96 -0.577 -0.0729 0.377 0.641 0.66 0.461 0.1336 -0.201 -0.434 -0.5 -0.393 0.1647 0.0988 0.3072 0.396 0.3449 0.1816 -0.0312 -0.2183 -0.3201 ];
4.3 BP学习算法
假设输入为P，输入神经元有r个，隐含层内有s1个神经 元，激活函数为F1，输出层内有s2个神经元，对应的激 活函数为F2，输出为A，目标矢量为T
12
2020/3/6
4.3 BP学习算法
信息的正向传递
隐含层中第i个神经元的输出
输出层第k个神经元的输出
定义误差函数
13
4.4.2应用举例
1、用BP神经网络实现两类模式分类 p=[1 -1 -2 -4;2 1 1 0]; t=[0 1 1 0]; %创建BP网络和定义训练函数及参数 NodeNum=8;%隐含层节点数 TypeNum=1;%输出维数 Epochs=1000;%训练次数 TF1='logsig'; TF2='logsig';
D1＝deltatan(A1，D2，W2)；
[dWl，dBl]＝learnbp(P，D1，lr)；
BP
于是BP算法的学习过程如下：先正向传播计算网络输 出，对第一次叠代可得隐节点输出为 x ' = [0.1192, 加偏移增维后为 为 [ y1 , y 2 ]T ' = [0.1323,
x ' = [0.1192, 0.7311, 1.0000]T
， 0.7311]T
，于是网络输出
0.8398]T ，此时网络输出与目标输出的误
k =0
n2
注意，对增量式修正，上面各式中各权值的修正量是一 项，而不是p从1至P的∑求和项。 显然，学习分两个阶段：（1）由前向后正向计算各隐层 和输出层的输出；（2）由后向前误差反向传播以用于权 值修正。
2) BP算法的各步骤
w (1)权值初始化： sq = Random (⋅) ，sq为ij，jk或 kl。
''( p ) （ ul =
∑w
k =0
n2
'' kl
' x k'( p )
y ，
( p) l
= f (u
' ''( p ) l
''( p ) l
)
，
E
( p)
1 m−1 ( p) ( p) = ∑ d l − yl 2 l =0
( p)
(
)
2
）
( p)
= −∑ d l
p =1 P
P
(
( p)
− yl
(2)依次输入P个学习样本。设当前输入第p个样本。
x (3)依次计算各层的输出：x 'j ， k 及 yl ，j=0,1,...,n1，
''
k=0,1,…,n2，l=0,1,…,m-1。 (4)求各层的反传误差：
BP神经网络matlab教程
w
N 1 ho
w o (k )hoh (k )
N ho
2.4.2 BP网络的标准学习算法
第七步，利用隐含层各神经元的 h (k )和 输入层各神经元的输入修正连接权。
e e hih (k ) wih (k ) h (k ) xi (k ) wih hih (k ) wih w
p
i 1
h 1,2,
o 1,2,
,p
q
yio (k ) whohoh (k ) bo
o 1,2,
yoo (k ) f( yio (k ))
h 1
q
2.4.2 BP网络的标准学习算法
第四步，利用网络期望输出和实际输出， 计算误差函数对输出层的各神经元的偏导 o (k ) 数 。 ( w ho (k ) b ) e e yio yi (k )
输入样本－－－输入层－－－各隐层－－－输出层
判断是否转入反向传播阶段：
若输出层的实际输出与期望的输出（教师信号）不 符
误差反传
误差以某种形式在各层表示－－－－修正各层单元 的权值
网络输出的误差减少到可接受的程度 进行到预先设定的学习次数为止
2.4.2 BP网络的标准学习算法
网络结构 输入层有n个神经元，隐含层有p个神经元, 输出层有q个神经元 变量定义 x x1, x2 , , xn 输入向量; 隐含层输入向量； hi hi1 , hi2 , , hi p 隐含层输出向量; ho ho1 , ho2 , , ho p 输出层输入向量; yi yi1 , yi2 , , yiq 输出层输出向量; yo yo1 , yo2 , , yoq 期望输出向量; d o d1 , d 2 , , d q
基于神经网络的机械系统可靠性评价模型
Ｒｅｉｂｌｙ Ｅ ａｕ ｔ ｎ Ｍｏ ｅ ｆＭｅ ｈ ｎｃ ｌ ｙ ｔ ｍ ｓ ｄ ｏ ｌ ｉ ｖ ｌａ ｉ ｄ ｌ ｃ ａ ｉａ ｓｅ Ｂａ ｅ ｎ ａ ｉ ｔ ｏ ｏ Ｓ
刘海年（ ８ ） 硕士， １ ４， ９ 男。 主要从事系统
可 靠性分析工作 。 收 稿 日期 ：０ ０ ０ — ７ ２ １— ３ ０
ｔｅｍ ｄＬＴｅａｐｉ ｉ ｔｅｍ ｔｏ Ｃ ｅｃ ｂ ｄｂ ａ ｐｅ Ｔ ｅ ｏ ｐ ｉ ｎｂｔｅｎｔ ｉｕａｉ ｎ ｅ ｘ ｅｉｅ ｔ ｓｌ ｈ ｏ ｌ ａ ｏ ｏ ｈ ｅ ｄＷＩｄｓｒ ｅ ｙａ ｘ ｌ ｈ ｍ ａ ｓ ｅｗ ｅ ｅｓ ｌ ｏ ａ ｄｔ ｐ ｒ ｎ ｌｅｕ ｓ ｅ ｈ ｐ ｃ ｎｆ ｔ ｈ Ｓ ｉ ｅｍ ． ｃ ｒ ｏ ｈ ｍ ｔ ｎ ｈｅ ｍ ａｒ ｔ
摘 要 ： 械 系 统 相 关 失效 的存 在 ， 重地 削弱 了冗 余 结 构 的安 全 作 用 。从 系统 层 机 严
的应力强度一 干涉模 型出发 ， 通过 Ｍ ｎｅ Ｃ ｒ ｏ ｔ— ａ ｌ 真不 同冗余系统的各 阶失效概 率， ｏ仿 获得 失效数据。利用 Ｂ Ｐ神经 网络算法的 函数逼近功能 、 非线性映射功 能和容错 能力
Ａ ｓｒｃ： ｈ ｅｕｉ ｌ ｏ ｄ ｎ ａｔ ｅｈ ｉ ｌ ｙｔ ａ ｅｉ ｓ ｅｋ ｎｄ ｂ ｔ ｔ Ｔｅｓｃｒｙｒ ｅ ｆｒ ｕ ｄｎ ｃ ａ ｃ ｓ ｍ ｗ ￥ｓｒ ｕｌ ｗ ａ ｅｅ ａ ｔ ｏ ｅ ｍ ｎ ａｓ ｅ ｏ ｙ
６ ｓｒ ｅａｔａ ｕｅ Ｔｅ ａ ｕｅ ｒｂ ｂ ｉ ｉｅ ｎ ｄ ｎ ａｔ ｔ ｃｕ ａ ｓ ｌ ｅ ａｉ ｓｍ ｄ ｙｔｅ ｎ — ａｌ ｂ ｅ ｎ ｙｈ ｌｖｎ ｆｉ ｒ． ｈ ｆ ｌｒ ｐｏａ ｉｔ ｏ ｆ ｒ ｔｅ ｕｄ ｒ ｔｒ ｗ ｓ ｉ ａ ｄａ ｖ ｒ ｕ ｏｅｂ ｔ Ｃｒ ａ ｄｏ ｅ ｌ ｉ ｌｙ ｆｄ ｅ ｒ ｎ ｓ ｕ ｅ ｍｕ ｔ ｔ ｏ ｈ Ｍｏ ｅ ｏｓ ｔｅ ｏ ｔ ｓ ｅｓｓ ｅｇｈａ ｄｉｔ ｅｅｃ ｏ ｌａｄｔｅ ａｌｒ ｄｔ ａ ｂａ ｅ． ｈ ｅ ｖ ｔａ ｕｅ ｒｂ ｂｌ ｏ ｌ ａ ｄ ｃ ｔｅ ｈ ｉ ｔ ｓ－ｔ ｎ ｔ ｎ ｅ ｒｎｅｍ ｄ ， ｕｅ ａａ ｓ ｏｔ ｎ ｄ Ｔｅｒｌ ａ ｆｉ ｒ ｐｏ ａｉｔ ｍ ｄ ｓ ｉ ｒ ＆ ｄ ｐ ｎｏ ｒ ｆ ｒ ｎｄ ｅ ｎ ｈｆ ｉ Ｗ ｉ ｅｎ ｌ ｉ ｙ ｅ Ｗ ｓｅ ｂ ｈ ｏ ｅ Ｚｕ ｃｏ ｐ ｒｘｍ ｔ ｎ ｎｔ ｎ ｎｎ ｌ ｅ ａｐｎ ｎｔ ｎａ ｄｔ ｅａｃ ｅＢ ｅｒｌｎｔｏｋ Ｔ ｅｎｎ ｌ ａ ｙｔｅｐ ｗ 咖 ｎｔ ｎａｐｏｉ ａｏ ｃｏ ， ｏ －ｉ ａ ｍ ｉｇ ｕ ｃｉ ｌｒ ｅｏ ｔ Ｐ ｎｕａ ｅ ｒ． ｏ －ｉ ｒ ｆ ｉ ｉ ｆ ｉ ｕ ｎｒ ｐ ｆ ｏ ｎ ｏ ｎ ｆ ｈ ｗ ｈ ｅ ｎ ｒｌ ｉ ｓｉ ｂｔｅｎｔｅ ｙｔｍｆｉ ｒｐ ｏａ ｉｔ ａｄｔ ｏ ｐ ｎｎｓ ａ ｕｅｄ ａＷ ￥ｂ ｉ， ｎ ｅ ｅ ａａ ｔ ｄｌ ｍ ｃａ ｉ ｅ ｏ ｈ ｅ ｅ ｓ ｔ ａ ｎ ｐ ｗ ｈ ｓ ｅ ａｌ ｅ ｒｂｂｌｙ ｎ ｅｃｍ ｏｅ ｔ ｉ ｒ ａ Ｏ ｕ ｔａｄｔ ｎｔ ｒ ｒ ｍｏｅ ｏ ｅｈ ｃ ｕ ｉ ｈ ｌ ｔ ｆ ｌ ｈ ｈ ｐ ｍｅ ｉ ｃ ｆ ｎ ａ ｌ ｓｓ ｍ ｒｌ ｉｔ ａｕ ｉｎｂｓｄｏ ｅｎｕａ ｎｔｏｋＷ Ｓ ｏｓ ｕｔ ． ｌ ｌ ｉ ｌ ａ ｔａ ｕｅ ｒｂｂｌｙｃｕｄｂ ｒｄｃ ｄｂ ｙｔ ｉ ｌｙｅｌ ａ ｏ ａｅ ｔ ｅｒ ｅ ｒ ａ ｃ ｎｔ ｃ ｄ Ａ ｙｍｕｔ ｉ ｔ ｒ ｅ ｎｆｉ ｒ ｐｏａ ｉｔ ｏｌ ｅ ｅｉｔ ｙ ｅ ｅａ ｉ ｖ ｔ ｂ ｎｈ ｌ ｗ ｒ ｅ ｎ ｉ ｃｙ ｅ ｖ ｐ ｌ ｉ ｐ ｅ
基于BP算法的人工神经网络建模研究
因素对热流值 等测试结果的影响 。根据项 目要 求拟 采用基 于人工神经 网络 Ｂ Ｐ算法的管线表面温度值和热流值的标 准
化转换模 型。 人 工神经 网络是一种模仿 大脑神 经网络行 为特征 ， 进行 分布式并行信息 处理 的算 法数 学模 型。 这种 网络依
靠 系统的复杂程度 ， 通过调 整 内部大量节点之 间相互连接 的关 系， 从 而达 到处理信 息的 目的。 关键词 ： Ｂ Ｐ算 法； 网络拟合 ； 误 差曲线
之间相互连接的关系 ， 从而达到处理信息的 目的。本 映射能力。 理论上对于一个三层和三层以上的 Ｂ Ｐ网
项 目的研 究 的 核 心 问题 是 建 立管 线 表 面 温度 值 和 热 络 ， 只要 隐层 神 经 元数 目足 够 多 ， 该 网络 就能 以任 意 流 值 的标 准 化 转 换模 型 系 统 。该 系统模 型 主要 用 来 精 度 逼近 一个 非 线性 函数 。
收 稿 日期 ： ２ ０ １ ３ — １ ０ — ０ ２ 作者简 介 ： 王 玲（ １ ９ ８ ２ 一） ， 女， 天津 人 ， 讲师， 工程硕士学位 ， 主要研究方 向 ： 自动化 。
ｌ ６ ２
《 装备制造技术￣ ２ ０ １ ４ 年第 １ 期 过改变 隐层神经元数 目能够增加神经 网络的拟合程 度。再观察网络预测误差 曲线 ， 误差输 出区间在（ 一 ３
函数输 出具 有 预测 能力 。经过 训 练后 ， 系统模 型 基本 热流值进行标 准化转换和预测 。以下研究基于人工 上 拟合 了原 始 数 据 ， 只是 曲线 拟 合 有所 欠 缺 ， 就这 一 神 经 网络 Ｂ Ｐ算 法 的管 线 表 面 温 度 值 和 热 流 值 的标 问题 接下 来进 行 改进 。 准 化转 换模 型 。 ２ ． １ 网络层 数 的 改变
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
基于BP神经网络算法的函数逼近
神经网络是一种基于生物神经元工作原理构建的计算模型，可以通过学习和调整权重来逼近非线性函数。
其中，基于误差反向传播算法（BP）的神经网络是最常见和广泛应用的一种，其能够通过反向传播来调整网络的权重，从而实现对函数的近似。
BP神经网络的算法包括了前馈和反向传播两个过程。
前馈过程是指输入信号从输入层经过隐藏层传递到输出层的过程，反向传播过程是指将网络输出与实际值进行比较，并根据误差来调整网络权重的过程。
在函数逼近问题中，我们通常将训练集中的输入值作为网络的输入，将对应的目标值作为网络的输出。
然后通过反复调整网络的权重，使得网络的输出逼近目标值。
首先，我们需要设计一个合适的神经网络结构。
对于函数逼近问题，通常使用的是多层前馈神经网络，其中包括了输入层、隐藏层和输出层。
隐藏层的神经元个数和层数可以根据具体问题进行调整，一般情况下，通过试验和调整来确定最优结构。
然后，我们需要确定误差函数。
对于函数逼近问题，最常用的误差函数是均方误差（Mean Squared Error）。
均方误差是输出值与目标值之间差值的平方和的均值。
接下来，我们进行前馈过程，将输入值通过网络传递到输出层，并计算出网络的输出值。
然后，我们计算出网络的输出与目标值之间的误差，并根据误差来调整网络的权重。
反向传播的过程中，我们使用梯度下降法来最小化误差函数，不断地调整权重以优化网络的性能。
最后，我们通过不断训练网络来达到函数逼近的目标。
训练过程中，
我们将训练集中的所有样本都输入到网络中，并根据误差调整网络的权重。
通过反复训练，网络逐渐优化，输出值逼近目标值。
需要注意的是，在进行函数逼近时，我们需要将训练集和测试集分开。
训练集用于训练网络，测试集用于评估网络的性能。
如果训练集和测试集
中的样本有重叠，网络可能会出现过拟合现象，导致在测试集上的性能下降。
在神经网络的函数逼近中，还有一些注意事项。
首先是选择适当的激
活函数，激活函数能够在网络中引入非线性，使网络能够逼近任意函数。
常用的激活函数有sigmoid函数、ReLU函数等。
其次是设置合适的学习
率和最大迭代次数，学习率决定了调整权重的步长，最大迭代次数可以帮
助我们控制训练的时间和效果。
最后，一般情况下，我们可以通过画出实际值和网络输出值之间的对
比曲线来评估网络的性能。
如果两个曲线之间越接近，说明网络的性能越好，逼近效果越好。
总结起来，基于BP神经网络算法的函数逼近可以通过前馈和反向传
播来调整网络的权重，使得网络逼近目标函数。
在训练过程中，需要选择
适当的网络结构、误差函数、激活函数、学习率和最大迭代次数等参数，
同时还需要合理划分训练集和测试集，以评估网络的性能。
通过不断训练
和调整，最终可以得到近似目标函数的神经网络模型。