基于BP神经网络算法的函数逼近

实验二基于BP神经网络算法的函数逼近

自动化实验班

沈俊鹏

1、实验目的

1)掌握M a t l a b子函数的编写与调用。

2)理解B P神经网络算法的原理，并利用程序实现利用B P算法逼近任意非线

性函数。

2、实验内容与实验要求

1)掌握B P神经网络算法的原理。

2)掌握m a t l a b子函数的编写方法及调用方法。

3)根据B P神经网络算法的原理，编写M a t l a b程序，逼近非线性函数。

3、实验要求

1)自己编写Matlab函数。

2)书写实验报告。

3)分析实验结果，用图描述出非线性函数的真实曲线以及B P算法逼近的曲线。

4、实验设备

1)计算机

2)Matlab软件

5、实验原理及步骤

1）BP神经网络算法:

神经网络由神经元和权重构成，神经元即为：输入节点，输出节点和隐层结点三部分；权重是各个神经元相互连接的强度。神经网络通过训练，从样本中学习知识，并且将知识以数值的形式存储于连接权中。神经网络的分类过程分成

两部分，首先学习网络的权重，利用一些已知的数据训练网络得到该类数据模型的权重；接着根据现有的网络结构和权重等参数得到未知样本的类别。BP 算法被称作反向传播算法，主要思想是从前向后（正向）逐层传播信息；从后向前（反向）逐层传播输出层的误差，间接算出隐层误差。 算法分为两个阶段：

第一阶段（正向过程）输入信息从输入层经隐层逐层计算各单元的输出值；根据下式计算每层的输出值。

第二阶段（反向传播过程）输出误差逐层向前算出隐层各个单元的误差，并用此误差修正前层的值。在BP 算法中常采用梯度法修正权值，为此要求输出函数可微，通常采用Sigmoid 函数作为输出函数。 （1） 计算误差：

（2）

其中 的计算公式为 （3）

（4） 重复上述过程直到算法收敛，即误差小于给定的阈值。

2） 实验程序

w10=[0.1 0.2;0.3 0.15;0.2 0.4]; w11=[0.2 0.1;0.25 0.2;0.3 0.35]; w20=[0.2;0.25;0.3];

w21=[0.15;0.2;0.4]; q0=[0.1 0.2 0.3]; q1=[0.2 0.15 0.25];

)

(j j i

i

ij j net f O O w net ==∑)()()1(t w t w t w ij ij ij ?+=+

p0=0.2;p1=0.1;

xj=[0.5;0.9];

k=5000;k1=5;k2=100;

yb=0;

e0=0;e1=0;e2=0;

a1=0.18;a2=0.99;a3=0.4;a4=0.8;

b1=0.2;b2=0.8;c1=0.3;c2=0.65;

for s=1:72

yp1=sin(s^3/360)

for k=1:k2;

for i=1:3

x=w11(i,1)*xj(1,:)+w11(i,2)*xj(2 ,:);

z=x+q1(:,i);

o=[1-exp(-z)]/[1+exp(-z)];

m=1/[1+exp(-z)];

m1(i,:)=m;

o1(i,:)=o;

end

for i=1:3

yb=0;

yb=yb+w21(i,:)*o1(i,:);

end

yi=yb+p1;

n=1/[1+exp(-yi)];

y=[1-exp(-yi)]/[1+exp(-yi)];

%calculation error between aim and practice output;

e0=e1;

e1=e2;

e2=[(yp1-y).^2]/2;

xj1=e2-e1;

xj2=e2-2*e1+e0;

xj=[xj1;xj2];

d2=n*(1-y)*(yp1-y);

bk=d2;

%revising weighted value and threshold value in hidden layer;

for i=1:3

u=w21(i,:)*bk;

d1=[1-o1(i,:)]*u; d0=m1(i,:)*d1;

qw=q1(:,i)-q0(:,i);

q2=q1(:,i)+0.8*d0+0.4*qw; q3(:,i)=q2;

for j=1:2

dw=w11(i,j)-w10(i,j);

w12=w11(i,j)+0.8*d0*xj(j,:)+0.6* dw;

w13(i,j)=w12;

end

end

w10=w11;

w11=w13;

q0=q1;

q1=q3;

%revising weighted value and threshold value in output layer;

for i=1:3

h=w21(i,:)-w20(i,:);

w22=w21(i,:)+0.4*d2*o1(i,:)+0.75 *h;

w23(i,:)=w22;

end

w20=w21;

w21=w23;

ph=p1-p0;

p2=p1+0.9*d2+0.6*ph;

p0=p1;

p1=p2;

%writing error value and output value;

if e2<0.0001,break;

else k=k+1;

end

end

e(s)=e2;

ya(s)=yp1;

yo(s)=y;

s=s+1

end

w11=w13;

w21=w23;

%graphics

s1=s-1; s=1:s1; grid;

hold on;plot(s,ya,s,yo,s,yo,'g.',s,e,s,e ,'rx');

title('BP Algorithm');