感知器

输入维数为2， 输出维数为1， 样本数为4。
26
神经网络工具箱函数
3. 绘制样本点的函数plotpv( )
在坐标图中如何标识不同的类别？ 如果T只含一元矢量，如T=[0 0 0 1]，目标0的输入 矢量画为“o”； 目标1的输入矢量画为“+”； 如果T含二元矢量，如T=[0 0 1 1；1 0 1 0]，则输入 矢量对应如下：[0 0]用“o”；[0 1]用“+”；[1 0]用 “*”；[1 1]用“”。
问题。
x1
0 0 1
真值表
y x2
0 1 0 AND 0 0 0 OR 0 1 1 XOR 0 1 1
1
1
1
1
0
12
AND、OR和XOR输入模式的空间分布 AND OR XOR
输出为 0的属于“ 0”类，用“”代表；输出为 1的属 于“1”类，用“”代表。
13
两输入单神经元感知机 净输入：net = w1x1+w2x2 –
17
用多层感知机网络可实现任何模型分类
感知机为解决逻辑异或问题，可以设计一个多层
的网络，即含有输入层，隐含层和输出层的结构。
可以证明，只要隐含层单元数足够多，用多层感
知机网络可实现任何模型分类。但是，隐单元的状态
不受外界直接控制，这给多层网络的学习带来极大困
难。
18
5 感知机收敛性定理
定理1.1
(3)
计算实际输出：计算输出层各神经元的输出（所有样
本）； (4) 计算期望值与实际输出的误差（所有样本）； (5) 调整输出层的的加权系数wij和阈值i （所有样本） 。 返回计算(3)步，直到误差满足（所有样本作用下误差绝对值
和作为目标函数）要求为止。
11
4. 单神经元感知机(简单感知机)
例：利用简单感知机解决“与”、“或”和“异或”
式中 ， P为输入向量矩阵； E为误差向量（E=T-Y）；
dW为权值变化阵。
30
神经网络工具箱函数 6．标准化感知机学习函数learnpn( ) learnp( )在调整网络的权值和偏值时利用下式：
w X (T Y ) XE
T
T
可以看出，输入向量X越大，则权值的变化w就越 大。当存在奇异样本（即该样本向量同其它所有的样 本向量比较起来，特别得大或者特别得小）时，利用 以上规则训练时间大为加长。因为其它样本则需花很
感知机收敛性定理 以感知机为例介绍神经网络的Matlab仿真
2
2.1 感知机基本原理
1．感知机的网络结构 感知器是一
种前馈网络，同层
内无互连，不同层
间无反馈，由下层
向上层传递。 单层感知机的结构
3
多层感知机的结构 如果在输入层和输出层单元之间加入一层或多 层处理单元，即可构成多层感知机，因而多层感 知机由输入层、隐含层、输出层组成。 但需注意，多层感知机模型只允许一层连接权 值可调，这是因为无法设计出一个有效的多层感
如果输入样本是线性可分的，那么感知机
学习算法经过有限次迭代后可收敛到正确的权值或权
向量。
定理1.2 假定隐含层单元可以根据需要自由设置，
那么用双隐含层感知机可以实现任意的二值逻辑函数。
19
小结
感知器的输出为0或1，主要用于解 决模式分类问题。
学习感知器的目的： 感知器对于它能解决的问题来说，是又快又可靠； 为对其它复杂神经网络的理解打基础。
29
神经网络工具箱函数 5．感知机权值和偏置值学习函数learnp( ) 根据神经元输入和偏差，计算权值和偏置的增量。 函数调用格式为：
[dW,LS] = learnp(W,P,Z,N,A,T,E,gW,gA,D,LP,LS)
[dW, db]=learnp(P,E) obsolete
dW = learnp([],P,[],[],[],[],E)
p i p i p j p i
i
wij xjyi ip ji (t y ) (1) e
p i p i
p i
(i=1,2,.., L；j=1,2,…, M)
9
感知机的学习算法 式中
t
p i 表示在样本p作用下的第i个神经元的期望输出，
表示在样本 p作用下第i个神经元的实际输出。 y ip
1 输出： y (net) 0 net 0 net 0
x0=-1 θ x1 x2 W1 W1 y ∑ Φ(·)
线性分割线：w x +w x –=0 1 1 2 2 （判定边界）
双输入单神经元结构图
在输入模式空间中，如果存在一条直线，能将输 入的两类模式分割开，则该直线对应的系数即可作为 神经元的权值，从而实现逻辑功能。
知机学习算法。
4
两层感知机的结构
两层感知机包括输入层、一个隐含层和一个输出层。 两层连接权，输入层 和隐含层单元间的连
接权值是随机设定的
固定值，不可调节；
输出层与隐含层单元
间的连接权值是可调
的。
5
神经网络层数定义
在神经网络中由于输入层仅仅起输入信号的等值 传输作用，而不对信号进行运算，故在定义多少层神
1, x 0 f ( x) 0, x 0
OR
1, x 0 f ( x) 1, x 0
对于具有M个输入、L个输出的单层感知机网络， 网络连接权值为 wij(i=1,2,.., L ； j=1,2,…, M) 。则输出 层的第 i 个神经元的输入总和（净输入）和输出分别 为
根据 “与”函数的真值表，得训练样本 ( 列向量 ) 为： 输入向量为：X=[0 0 1 1;0 1 0 1]， 目标向量为：T=[0 0 0 1]。 根据感知机网络学习算法的计算步骤，利用 MATLAB语言编写的程序，得到 w11 = 2.6462 ， w12= 2.3252，θ = 4.6169
27
神经网络工具箱函数 >>X=[-0.5,-0.5,0.3,-0.1,0.2,0.0,0.6,0.8;
-0.5,0.5,-0.5,1.0,0.5,-0.9,0.8,-0.6];
>>T=[1 1 0 1 1 0 1 0]; plotpv(X,T)
图中对样 本不同的 类别使用
了不同的
符号。
28
4. plotpc( )
第一部分 神经网络
第2讲 感知器及神经网络Matlab仿真
1
第二讲 感知机（ Perceptrons ）
感知机是美国心理学家 Rosenblatt 于 1957 年提 出来的，被认为是最早提出的一种神经网络模型。 感知机的网络结构 感知机的神经元模型 感知机基本原理 感知机的学习算法
单神经元感知机
经网络时，一般不把输入层计算在内。
假如只有一个隐含层，把隐含层称为神经网络的
第一层，输出层称为神经网络的第二层。如果有两个
隐含层，则第一个隐含层称为神经网络的第一层，第
二个隐含层称为神经网络的第二层，而输出层称为神
经网络的第三层。如果有多个隐含层，依次类推。
6
2．感知机的神经元模型 感知机神经元的激励函数为阈值函数，即
调用格式为：
perf=mae(E)， perf=mse(E)， perf=sse(E)
式中， E为误差矩阵或向量（ E=T-Y）； T表示网络
的目标向量；Y表示网络的输出向量。
感知机网络学习规则采用mae性能函数。
24
神经网络工具箱函数 2．hardlim( ) 和hardlims( )
调用格式： y=hardlim( x) y=hardlims( x) >>N=-5:0.1:5;
>>a=hardlim(N);
>>plot(N,a)
25
神经网络工具箱函数 3. 绘制样本点的函数plotpv( ) 在坐标图中绘出已知给出的样本点及其类别，不同 的类别使用不同的符号。
调用格式为：plotpv(X,T)
X：R ×Q matrix of input vectors (R ≤3 or less) T：S × Q matrix of binary target vectors (S ≤ 3) R为输入维数， S为输出维数， Q为样本数。 如逻辑“与”的样本为： 输入向量为：X=[0 0 1 1;0 1 0 1] 目标向量为：T=[0 0 0 1]
21
主要内容
神经网络工具箱函数 神经网络GUI Peceptrons demos
22
神经网络工具箱函数
Help - Contents-Neural Network Toolbox
mae，mse，sse性能函数 Init（）网络初始化 Train（）网络训练 adapt（）自适应网络训练 sim（）网络仿真
Plotpv(), plotpc(), newp(), learnp(), learnpn()等 与感知器相关的函数
23
神经网络工具箱函数 1．mae( )，mse(), sse()性能函数 mae--Mean absolute error，平均绝对误差 mse-- Mean squared error ，平均平方误差 sse-- Sum squared error，误差平方和
15
感知机可以对线性可分性输入模式进行分类
如果输入模式线性可分（即在输入模式空间中， 存在一个分界线，能将输入的两种模式分割开），则 单神经元感知器一定可以对其进行分类。 两维输入时，其分界线为直线；三维输入时，其 分界线为平面；多维输入时，其分界线为超平面。
16
例：建立一个感知机网络，使其能够完成“与” 功能。 解 ：为了完成“与”函数，建立一个两输入、单输 出的一个感知机网络。
神经网络工具箱函数