BP神经网络PPT ppt课件
合集下载
神经网络专题ppt课件
(4)Connections Science
(5)Neurocomputing
(6)Neural Computation
(7)International Journal of Neural Systems
7
3.2 神经元与网络结构
人脑大约由1012个神经元组成，而其中的每个神经元又与约102～ 104个其他神经元相连接，如此构成一个庞大而复杂的神经元网络。 神经元是大脑处理信息的基本单元，它的结构如图所示。它是以细胞 体为主体，由许多向周围延伸的不规则树枝状纤维构成的神经细胞， 其形状很像一棵枯树的枝干。它主要由细胞体、树突、轴突和突触 (Synapse，又称神经键)组成。
15
4.互连网络
互连网络有局部互连和全互连 两种。 全互连网络中的每个神经元都 与其他神经元相连。 局部互连是指互连只是局部的， 有些神经元之间没有连接关系。 Hopfield 网 络 和 Boltzmann 机 属于互连网络的类型。
16
人工神经网络的学习
学习方法就是网络连接权的调整方法。 人工神经网络连接权的确定通常有两种方法：
4
5. 20世纪70年代 代表人物有Amari, Anderson, Fukushima, Grossberg, Kohonen
经过一段时间的沉寂后，研究继续进行
▪ 1972年，芬兰的T．Kohonen提出了一个与感知机等神经 网络不同的自组织映射理论(SOM)。 ▪ 1975年，福岛提出了一个自组织识别神经网络模型。 ▪ 1976年C．V．Malsburg et al发表了“地形图”的自形成
6
关于神经网络的国际交流
第一届神经网络国际会议于1987年6月21至24日在美国加州圣地亚哥 召开，标志着神经网络研究在世界范围内已形成了新的热点。
神经网络--BP网络ppt03
ˆ y m ( k 1) f ( y p ( k ),..., y p ( k n 1), u ( k ),..., u ( k m 1))
z -1
. . .
z -1
u
z -1
. . .
ym
z -1
M
^ P
3.2 网络模型使用时结构图
由图3.2可以得到网络模型的输入/输出关系式为：
ˆ y m ( k 1) f ( y m ( k ),..., y m ( k n 1), u ( k ),..., u ( k m 1))
3.2 逆模型建立
u
+ -
P
yp
z -1 z -1 z -1
C
z -1
图3.3 直接逆模型训练图
yr
z -1
. . .
z -1
u
z -1
第三章 BP网络在智能系统中的 建模与控制
• 3.1 直接正向模型建立 • 3.2 逆模型建立 • 3.3 系统中的控制
Hale Waihona Puke 3.1 直接正向模型建立假定（被控）系统离散型非线性差分方程为：
y p ( k 1) f ( y p ( k ),..., y p ( k n 1), u ( k ),..., u ( k m 1))
即由非线性函数f所确定的系统，在k + 1时刻的输出取 决于过去n个时刻的输出值，以及过去m个时刻的输入 值。
d
u
d*
yp
P
z -1
. . .
z -1
ym
z -1
. . .
-
+
z -1
M
学习规则
《BP神经网络》演示PPT
第13页
14
神经网络控制
第1页
神经网络控制
什么是人工神经网络？ T.Koholen的定义：“人工神经网络是由 具有适应性的简 单单元组成的广泛并行互连的网络，它的组织能够模拟生 物神经系统对真实世界物体所作出的交互反应。”
第2页
神经网络控制
神经元模型
神经网络模型是由大量的处理单元（神经元）互相连接而 成的网络。神经元一般表现为一个多输入、单输出的非线 性器件，通用的结构模型如图所示。
输出单元的修正增量：
p jk pk ypj
对于与输出层相邻的隐层中的神经元j 和该隐层前低一层 中的神经元i ：
pj y pj (1 y pj ) pk w jk
k
Δ p wij pj y pj
输出层中神经元输出的误差反向传播到前面各层，对各 层之间的权值进行修正。
第12页
谢谢
E p
w jk
其中， E p E p netk
w jk
netk w jk
由 netk wjk y j 式得到：
j
netk w jk w jk
w jk y pj y pj
j
第11页
BP神经网络
令 pk E p netk ， 可得
输出单元的误差：
pk (d pk y pk ) y pk (1 y pk )
对输入模式Xp，若输出层中第k个神经元的期望输出为 dpk，实际输出为ypk。输出层的输出方差 ：
E p
1 2
k
(d pk y pk )2
第10页
BP神经网络
若输入N个模式，网络的系统均方差为：
E 1 2N
p
k
(d pk
y pk )2
14
神经网络控制
第1页
神经网络控制
什么是人工神经网络？ T.Koholen的定义：“人工神经网络是由 具有适应性的简 单单元组成的广泛并行互连的网络，它的组织能够模拟生 物神经系统对真实世界物体所作出的交互反应。”
第2页
神经网络控制
神经元模型
神经网络模型是由大量的处理单元（神经元）互相连接而 成的网络。神经元一般表现为一个多输入、单输出的非线 性器件，通用的结构模型如图所示。
输出单元的修正增量：
p jk pk ypj
对于与输出层相邻的隐层中的神经元j 和该隐层前低一层 中的神经元i ：
pj y pj (1 y pj ) pk w jk
k
Δ p wij pj y pj
输出层中神经元输出的误差反向传播到前面各层，对各 层之间的权值进行修正。
第12页
谢谢
E p
w jk
其中， E p E p netk
w jk
netk w jk
由 netk wjk y j 式得到：
j
netk w jk w jk
w jk y pj y pj
j
第11页
BP神经网络
令 pk E p netk ， 可得
输出单元的误差：
pk (d pk y pk ) y pk (1 y pk )
对输入模式Xp，若输出层中第k个神经元的期望输出为 dpk，实际输出为ypk。输出层的输出方差 ：
E p
1 2
k
(d pk y pk )2
第10页
BP神经网络
若输入N个模式，网络的系统均方差为：
E 1 2N
p
k
(d pk
y pk )2
神经网络bp.ppt
)
1
1 e 2.975
0.0486
可以看出， 实际输出与期望输出d (0.95,0.05)T 不一致，因此 更改各权
修改各层权值：
根据以下公式计算权值改变量
d o o o w jk
o k
yj
(
k
)
k
1
k
k yj
w y y l
vij
误差E是nw+1维空间中一个形状记为复杂的曲面，改曲面 每个高度对应于一个误差值，每个点的坐标向量对应nw权 值，此空间称为误差的权空间。
• 误差曲面分布有两个特点：
• （1）存在平坦区域
– 从图可以看出，误差曲面上有些区域比较平坦， 在这些区域中，误差梯度变化很小，即使权值 调整量很大，误差仍下降慢。这种情况与各节 点净输入过大相关。以输出层为例：
d o o o w
h1 jk
h1 k
y
h j
(
k
)
k
1
k
k
y
h j
.
..
...
..
....
..
(12a)
第h隐层
w y y w
h jk
l
h j
yih1
(
k 1
0 k
h1)
jk
h j
1
h j
yih1...
..
...
....
..
(12a)
d o o o o ( ) 1 ..............(10a)
k
k kk
k
数学建模之BP神经网络ppt课件
单 纯 型 层 次 型 结 构
.
14
Ø 按网络连接的拓扑结构分类：
Ø 互连型网络结构：网络中任意两个节点之 间都可能存在连接路径
局 部 互 连 型
.
15
人工神经网络的分类(C.)
Ø 按网络内部的信息流向分类：
Ø 前馈型网络：网络信息处理的方向是从输入层到各 隐层再到输出层逐层进行
前 馈 型 网 络
Ø 它是有指导训练的前馈多层网络训练算法，是靠调 节各层的权值，使网络学会由输入输出对组成的训 练组。其核心思想是将输出误差以某种形式通过隐 含层向输入层逐层反传，即：信号正向传播；误差 反向传播
Ø 执行优化的方法是梯度下降法
Ø 最常用的激活函数是Sigmoid函数
f
(x) .
1 1ex
21
Ø BP算法
PF：性能函数，默认函数为mse函数。
.
28
具体算法如下：
%%清空环境变量 clc clear %%输入样本数据 p1=[1.24,1.27;1.36,1.74;1.38,1.64;1.38,1.82;1.38,1.90; 1.40,1.70;1.48,1.82;1.54,1.82;1.56,2.08]; %Af p2=[1.14,1.82;1.18,1.96;1.20,1.86; 1.26,2.00;1.28,2.00;1.30,1.96]; %Apf p=[p1;p2]'; pr=minmax(p); %输入向量的最小值和最大值 %%输出样本数据 goal=[ones(1,9),zeros(1,6);zeros(1,9),ones(1,6)]; %%绘图 plot(p1(:,1),p1(:,2),'h',p2(:,1),p2(:,2),'o')
BP神经网络ppt课件
2019/10/29
17
2019/10/29
18
2019/10/29
11
调整网络参数并进行训练
从图中可以看出，神经网络运行27步后，网络输出误差 达到设定的训练精度。
2019/10/29
12
对于训练好的网络进行仿真
2019/10/29
13
改变非线性函数的频率和BP函数的隐
层神经元的数目，对于函数逼近的效
果有一定的影响。网络的非线性度越
高，对于BP网络的要求越高，则相同
BP神经网络在函数逼近过程及在 MATLAB中的应用
2019/10/29
1
一、BP神经网络简介及其模型
二、BP神经网络的逼近能力简介
三、BP神经网络函数逼近在 MATLAB中的实现及其影响因素
2019/10/29
2
BP网络简介
BP(Back Propagation)网络是一种神经网路学
习算法。网络按有教师试教的方式进行学习，
2019/10/29
4
BP神经网络的逼近能力
BP神经网络可以看作是一个从输入到输出 的高度非线性映射，即F : Rn Rm, f (x) Y
。现要求求出一个映射f，使得在某种意 义下（通常是最小二乘意义下），f是g 的最佳逼近。BP神经网络通过对简单的 非线性函数进行数次复合，可以近似复 杂的函数
2019/10/29
5
BP神经网络的函数逼近在MATLAB中 的实现
下面将结合一个实例详细阐述基于BP神经 网络的函数逼近过程及其在MATLAB中的 实现方法。
设逼近的非线性函数为：
f (x) 1 sin(k * pi / 4* p)
BP神经网络基本原理与应用PPT
BP神经网络的学习
• 网络结构 – 输入层有n个神经元，隐含层有q个神经元, 输出层有m个神经元
BP神经网络的学习
– 输入层与中间层的连接权值: wih
– 隐含层与输出层的连接权值: – 隐含层各神经元的阈值: bh
who
– 输出层各神经元的阈值: bo
– 样本数据个数: k 1,2, m
– 激活函数:
(二)误差梯度下降法
求函数J(a)极小值的问题，可以选择任意初始点a0,从a0出发沿着负 梯度方向走，可使得J(a)下降最快。 s(0)：点a0的搜索方向。
BP神经网络的学习
(三) BP算法调整，输出层的权值调整
直观解释
当误差对权值的 偏导数大于零时，权 值调整量为负，实际 输出大于期望输出， 权值向减少方向调整， 使得实际输出与期望 输出的差减少。当误 差对权值的偏导数小 于零时，权值调整量 为正，实际输出少于 期望输出，权值向增 大方向调整，使得实 际输出与期望输出的 差减少。
❖ 众多神经元之间组合形成神经网络，例如下图 的含有中间层（隐层）的网络
人工神经网络（ANN）
c
k l
c
k j
cqk
… … c1 Wp1
W1j cj Wpj
W1q cq
输出层LC
W11 Wi1
Wij
Wiq Wpq W
… b1 Vn1
Vh1 V11
V1i bi Vhi
… Vni
V1p bp Vhp Vnp
BP神经网络的学习
(三) BP算法调整，输出层的权值调整
式中： —学习率 最终形式为：
BP神经网络的学习
(三) BP算法调整，隐藏层的权值调整
隐层各神经元的权值调整公式为：
BP神经网络1ppt课件
b
f
net
k
net
b
net net net
b 0为 常 数 ， 称 饱 和 值 ， 是 该 神 经 单 元 的 最 大 输 出 ；
输出函数值限制在 b,b范围内。
ppt课件完整
13
C(.2符) 号输出函函数数f
s ig n 型 函 数 ， 不 可 微 ； 对 称 硬 极 限 函 数 ；
ppt课件完整
7
(1)基本的人工神经元模型
McCulloch-Pitts神经元模型
输入信号；链接强度与权向量；
信号累积
激活与抑制
ppt课件完整
8பைடு நூலகம்
人工神经元模型的三要素:
一组连接 一个加法器
连接权值，突触连接强度权 权值 值00， ，抑 激制 活 输入信号关于神经元突触的线性加权
一个激励函数 将神经元的输出信号限制在有限范围内
3
竞
争
学
习
网
络
com
petitive
lea rn in g
network
SOM 神 经 网 络
ppt课件完整
2
人工神经网络 是生物神经网络的某种模型(数学模型) 是对生物神经网络的模仿 基本处理单元为人工神经元
ppt课件完整
3
1. 生物神经系统与生物神经元
大量生物神经元的广泛、复杂连接，形成生
物神经网络 (Biological Neural Network, BNN)。
实现各种智能活动
生物神经元(neuron)是基本的信息处理单元
第2部分：BP神经网络
ppt课件完整
1
主要内容
一. 人工神经网络基本知识
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第2部分：BP神经网络
主要内容
一. 人工神经网络基本知识
• 生物神经网络、生物神经元 • 人工神经网络、人工神经元 • 人工神经网络三要素 • 典型激活函数 • 神经网络几种典型形式
二. 前馈神经网络、多层感知器、及非线性分类 三. BP神经网络 四. 数据处理及神经网络结构的选择 五. 应用
人工神经网络 是生物神经网络的某种模型(数学模型) 是对生物神经网络的模仿 基本处理单元为人工神经元
(1) 基本的人工神经元模型
若 带 偏 置 量 ， 则 有
netWpbin 1ipi b
yf(net)
--单 输 出 (标 量 )
(2(2))几输种出常函见数形f 式的传递函数(激活函数)
A.线 性 函 数 f net = k net + c
B .非 线 性 斜 面 函 数 (R am p F u n ction )：
1.前馈(forward)神经网络
➢ 各神经元接受来自前级的输入，并产生输出到下一级，无反 馈，可用一有向无环图表示。
➢ 网络中的节点分两类：输入节点；计算节点(神经元节点) ➢ 节点按层(layer)组织 ：
第i层的输入只与第i-1层的输出相连。
输入信号由输入层输入,由第一层节点输出，传向下层，…… ➢ 前馈：信息由低层向高层单向流动。 -------------------------------------------------
➢ 可见层 输入层 (input layer) 输出层 (output layer)
➢ 隐含层( hidden layer)
与多个神经元连接 ➢突触 （synapsse), 神经元经突触向其它神经元（胞体 或树突）传递信号
(2)生物神经元的基本特征
➢ 神经元之间彼此连接 ➢ 神经元之间的连接强度决定信号传递的强弱
神经元之间的连接强度可以随训练改变 学习、遗忘、疲劳 ----神经网络中各神经元之间连接的强弱，按外部的 激励信号做自适应变化
(1)基本的人工神经元模型
McCulloch-Pitts神经元模型 输入信号；链接强度与权向量； 信号累积 激活与抑制
人工神经元模型的三要素:
一组连接 一个加法器
连接权值，突触连接强度权 权值 值00， ，抑 激制 活 输入信号关于神经元突触的线性加权
一个激励函数 将神经元的输出信号限制在有限范围内
net
较
小
时
(权
值
较
小
)，
可
近
似
线
性
函
数
--高 增 益 区 处 理 小 信 号
net
较
大
时
(权
值
较
大
)，
可
近
似
阈
值
函
数
.
--低 增 益 区 处 理 大 信 号
主要内容
一 人工神经网络基本知识 二. 前馈神经网络、多层感知器、及非线性分类
三. BP神经网络 四. 数据处理及神经网络结 构的选择 五. 应用
➢ 兴奋与抑制 信号可以起兴奋作用，也可以起抑制作用 一个神经元接受信号的累积效果（综合大小，代
数和）决定该神经元的状态(兴奋、抑制) 每个神经元可以有一个“阈值”
2. 人工神经网络与人工神经元
人工神经网络是对生物神经系统的模拟。 大量简单的计算单元（结点，神经元）以某种形式
连接，形成一个网络. 其 中 某 些 因 素 ， 如 : 连 接 强 度 (连 接 权 值 ， 其 大 小 决
1. 生物神经系统与生物神经元
大量生物神经元的广泛、复杂连接，形成生
物神经网络 (Biological Neural Network, BNN)。
实现各种智能活动
生物神经元(neuron)是基本的信息处理单元
(1)生物神经系统
生物神经元(neuron)是基本的信息处理单元, 其组成：
➢ 树突(dendrites), 接收来自外接的信息 ➢ 细胞体(cell body), 神经细胞主体，信息加工 ➢ 轴突(axon), 细胞的输出装置，将信号向外传递，
对 数 S型 函 数
f
net
1
1 e net
m atlab函 数 ： logsig
值 域 0，1
双 曲 正 切 S型 函 数
f
net
th(net)
e net e net
e net e net
1
2 e 2net
1
值 域 1，1
m atlab函 数 ： tansig
非 线 性 ， 单 调 ； 无 限 次 可 微
b
f
net
k
net
b
net net net
b 0为 常 数 ， 称 饱 和 值 ， 是 该 神 经 单 元 的 最 大 输 出 ；
输出函数值限制在 b,b范围内。
C(.2符) 号输出函函数数f
s ig n 型 函 数 ， 不 可 微 ； 对 称 硬 极 限 函 数 ；
双
极
函
数
单 调 增 函 数 ， 通 常 为 "非 线 性 函 数 "
网 络 输 入
net W
x
n
ixi
i 1
--神 经 元 的 输 入 兴 奋 总 量 是 多 个 输 入 的 代 数 和
其
中
输
出
y f (net)
- -单 输 出 (标 量 )
--执 行 该 神 经 元 所 获 得 的 网 络 输 入 的 变 换
定 信 号 传 递 强 弱 ); 结 点 计 算 特 性 (激 活 特 性 ,神 经 元 的 输 入 输 出 特 性 );甚 至 网 络 结 构 等 ， 可 依 某 种 规 则 随 外 部 数 据 进行适当调整，最终实现某种功能。
神经网络的计算通过网络结构实现； 不同网络结构可以体现各种不同的功能； 网络结构的参数是通过学习逐渐修正的。
f
net
=
sgn
net
=
1
-1
net 0 net < 0
m atlab函 数 hardlim s
D .阈 值 函 数
f
net
=
-
net net <
其 中 , , 非 负 实 数
E .(s2ig)m 输o id出函函数数 fS 型 函 数 ， 连 续 可 微
一些重要的学习算法要求输出函数可微
输入信号
n维输入向量x = x1,..., xn T
x是来自其它n个神经元的输出； 也可以是来自外部的输入信号
权向量
n维权向量W = 1,...,n T ,i R
相当于突触的连接强度。
传 递 函 数 转 移 函 数 ,激 励 激 活 函 数
传输函数，输出函数，限幅函数
将可能的无线域变换到指定的有限范围输出。
主要内容
一. 人工神经网络基本知识
• 生物神经网络、生物神经元 • 人工神经网络、人工神经元 • 人工神经网络三要素 • 典型激活函数 • 神经网络几种典型形式
二. 前馈神经网络、多层感知器、及非线性分类 三. BP神经网络 四. 数据处理及神经网络结构的选择 五. 应用
人工神经网络 是生物神经网络的某种模型(数学模型) 是对生物神经网络的模仿 基本处理单元为人工神经元
(1) 基本的人工神经元模型
若 带 偏 置 量 ， 则 有
netWpbin 1ipi b
yf(net)
--单 输 出 (标 量 )
(2(2))几输种出常函见数形f 式的传递函数(激活函数)
A.线 性 函 数 f net = k net + c
B .非 线 性 斜 面 函 数 (R am p F u n ction )：
1.前馈(forward)神经网络
➢ 各神经元接受来自前级的输入，并产生输出到下一级，无反 馈，可用一有向无环图表示。
➢ 网络中的节点分两类：输入节点；计算节点(神经元节点) ➢ 节点按层(layer)组织 ：
第i层的输入只与第i-1层的输出相连。
输入信号由输入层输入,由第一层节点输出，传向下层，…… ➢ 前馈：信息由低层向高层单向流动。 -------------------------------------------------
➢ 可见层 输入层 (input layer) 输出层 (output layer)
➢ 隐含层( hidden layer)
与多个神经元连接 ➢突触 （synapsse), 神经元经突触向其它神经元（胞体 或树突）传递信号
(2)生物神经元的基本特征
➢ 神经元之间彼此连接 ➢ 神经元之间的连接强度决定信号传递的强弱
神经元之间的连接强度可以随训练改变 学习、遗忘、疲劳 ----神经网络中各神经元之间连接的强弱，按外部的 激励信号做自适应变化
(1)基本的人工神经元模型
McCulloch-Pitts神经元模型 输入信号；链接强度与权向量； 信号累积 激活与抑制
人工神经元模型的三要素:
一组连接 一个加法器
连接权值，突触连接强度权 权值 值00， ，抑 激制 活 输入信号关于神经元突触的线性加权
一个激励函数 将神经元的输出信号限制在有限范围内
net
较
小
时
(权
值
较
小
)，
可
近
似
线
性
函
数
--高 增 益 区 处 理 小 信 号
net
较
大
时
(权
值
较
大
)，
可
近
似
阈
值
函
数
.
--低 增 益 区 处 理 大 信 号
主要内容
一 人工神经网络基本知识 二. 前馈神经网络、多层感知器、及非线性分类
三. BP神经网络 四. 数据处理及神经网络结 构的选择 五. 应用
➢ 兴奋与抑制 信号可以起兴奋作用，也可以起抑制作用 一个神经元接受信号的累积效果（综合大小，代
数和）决定该神经元的状态(兴奋、抑制) 每个神经元可以有一个“阈值”
2. 人工神经网络与人工神经元
人工神经网络是对生物神经系统的模拟。 大量简单的计算单元（结点，神经元）以某种形式
连接，形成一个网络. 其 中 某 些 因 素 ， 如 : 连 接 强 度 (连 接 权 值 ， 其 大 小 决
1. 生物神经系统与生物神经元
大量生物神经元的广泛、复杂连接，形成生
物神经网络 (Biological Neural Network, BNN)。
实现各种智能活动
生物神经元(neuron)是基本的信息处理单元
(1)生物神经系统
生物神经元(neuron)是基本的信息处理单元, 其组成：
➢ 树突(dendrites), 接收来自外接的信息 ➢ 细胞体(cell body), 神经细胞主体，信息加工 ➢ 轴突(axon), 细胞的输出装置，将信号向外传递，
对 数 S型 函 数
f
net
1
1 e net
m atlab函 数 ： logsig
值 域 0，1
双 曲 正 切 S型 函 数
f
net
th(net)
e net e net
e net e net
1
2 e 2net
1
值 域 1，1
m atlab函 数 ： tansig
非 线 性 ， 单 调 ； 无 限 次 可 微
b
f
net
k
net
b
net net net
b 0为 常 数 ， 称 饱 和 值 ， 是 该 神 经 单 元 的 最 大 输 出 ；
输出函数值限制在 b,b范围内。
C(.2符) 号输出函函数数f
s ig n 型 函 数 ， 不 可 微 ； 对 称 硬 极 限 函 数 ；
双
极
函
数
单 调 增 函 数 ， 通 常 为 "非 线 性 函 数 "
网 络 输 入
net W
x
n
ixi
i 1
--神 经 元 的 输 入 兴 奋 总 量 是 多 个 输 入 的 代 数 和
其
中
输
出
y f (net)
- -单 输 出 (标 量 )
--执 行 该 神 经 元 所 获 得 的 网 络 输 入 的 变 换
定 信 号 传 递 强 弱 ); 结 点 计 算 特 性 (激 活 特 性 ,神 经 元 的 输 入 输 出 特 性 );甚 至 网 络 结 构 等 ， 可 依 某 种 规 则 随 外 部 数 据 进行适当调整，最终实现某种功能。
神经网络的计算通过网络结构实现； 不同网络结构可以体现各种不同的功能； 网络结构的参数是通过学习逐渐修正的。
f
net
=
sgn
net
=
1
-1
net 0 net < 0
m atlab函 数 hardlim s
D .阈 值 函 数
f
net
=
-
net net <
其 中 , , 非 负 实 数
E .(s2ig)m 输o id出函函数数 fS 型 函 数 ， 连 续 可 微
一些重要的学习算法要求输出函数可微
输入信号
n维输入向量x = x1,..., xn T
x是来自其它n个神经元的输出； 也可以是来自外部的输入信号
权向量
n维权向量W = 1,...,n T ,i R
相当于突触的连接强度。
传 递 函 数 转 移 函 数 ,激 励 激 活 函 数
传输函数，输出函数，限幅函数
将可能的无线域变换到指定的有限范围输出。