BP神经网络概述与程序说明

神经网络概述与程序说明

管文烨李叶磊孟新星田博李荣瑾

．神经网络概述

典型的网络是三层网络，包括输入层、隐含层和输出层。各层之间实行全连接。

图三层神经网络结构

网络的学习由四个过程组成，即：

输入模式由输入层经中间层向输出层的“模式顺传播”过程；

网络的希望输出与网络实际输出之差的误差信号由输出层经中间层向输入层逐层修正连接权的“误差逆传播”过程；

由“模式顺传播”与“误差逆传播”的反复交替进行的网络“记忆训练”过程；

网络趋向收敛即网络的全局误差趋向极小值的“学习收敛”过程。简言之，就是由“模式顺传播”→“误差逆传播”→“记忆训练”→“学习收敛”的过程。

传递函数一般为（，）型函数

() ( )

网络通常有一个或多个隐层，隐层中的神经元均采用型交换函数，输出层的神经元采用纯线性变换函数。

更详细的介绍请参考岳老师课件或其他相关文献。

．神经网络参数学习参数

神经网络算法流程图

图 神经网络算法流程图

本程序要实现的功能

本程序要用神经网络来逼近二元函数

1-x 122f (,)200e sin()x x x π=

在定义域2111.2,[0,5]x x x =∈　上，即定义域是一条直线。

图 曲线12f (,)x x 在平面211.2x x 上的投影

横坐标表示到原点的距离（下同）

2.2.1 选择个隐层神经元 050100150图 个隐层神经元在不同训练次数下的总的误差曲线

图个隐层神经元在训练次数下的拟合曲线

2.2.1 选择个隐层神经元

050100150

图个隐层神经元在不同训练次数下的总的误差曲线

图个隐层神经元在训练次数下的拟合曲线

比较图和图,我们可以得出结论：对于拟合非线性函数，为了得到较好的结果，我们可能需要更多的隐层神经元。