神经网络控制及应用基础

f (x)
移
函
1.0
数
0
(3-7)
x
2021/3/13
22
3.1.3.1 人工神经元模型
神 (2)非线性转移函数
经
元 的1 e
x
(3-8)
f
(
x
)
1 1
e e
x x
转
f (x)
f (x)
移
函
1.0
数
0.5
x
0
1.0
0
x
-1.0
2021/3/13
23
3.1.3.1 人工神经元模型
神 (3)分段线性转移函数
16
3.1.3人工神经元模型及人工神经网络模型
神经元及其突触是神经网络的基本器件。因此， 模拟生物神经网络应首先模拟生物神经元。在人 工神经网络中，神经元常被称为“处理单元”。 有时从网络的观点出发常把它称为“节点”。人 工神经元是对生物神经元的一种形式化描述。
2021/3/13
17
3.1.3.1 人工神经元模型
n
神
o j (t) f {[ wij xi (t ij )] T j}
(3-1)
经
i 1
元 的 数
τij—— 输入输出间的突触时延； Tj —— 神经元j的阈值； wij—— 神经元i到 j 的突触连接系数或称
学
权重值；
模 f ()——神经元转移函数。
型
n
o j (t 1) f {[ wij xi (t)] T j}
2021/3/13
0
3.1.1神经网络的基本特征与功能
结构特征： 并行式处理 分布式存储 容错性
能力特征： 自学习 自组织 自适应性
2021/3/13
1
3.1.1 神经网络的基本特征与功能
联 想 记 忆 功 能
3.1.1 神经网络的基本特征与功能
输入样本
神经网络
自动提取 非线性映射规则
输出样本
2021/3/13
15
3.1.2.3 生物神经网络
• 由多个生物神经元以确定方式和拓扑结构
相互连接即形成生物神经网络。
• 生物神经网络的功能不是单个神经元信息
处理功能的简单叠加。
• 神经元之间的突触连接方式和连接强度不
同并且具有可塑性，这使神经网络在宏观 呈现出千变万化的复杂的信息处理能力。
2021/3/13
8
3.1.2 生物神经元及其信息处理
神经生理学和神经解剖学的研究 结果表明，神经元(Neuron)是脑组织 的基本单元，是人脑信息处理系统的 最小单元。
2021/3/13
9
3.1.2 生物神经元及其信息处理
3.1.2.1生物神经元的结构
生物神经元在结构上由
细胞体(Cell body) 树突(Dendrite) 轴突(Axon) 突触(Synapse)
20
3.1.3.1 人工神经元模型
神 经 元
n
netj T j net j
wij xi
W
T j
X
(3-5)
的
i 0
数
学
模 型
oj=f(netj)=f (WjTX)
(3-6)
2021/3/13
21
3.1.3.1 人工神经元模型
神 (1)阈值型转移函数
经 元
1 x≥0
f(x)=
的
0 x＜0
转
(3-2)
i 1
2021/3/13
19
3.1.3.1 人工神经元模型
n
神
netj (t) wij xi (t)
经
i 1
元
的
net’j=WjTX
数
学 Wj=(w1 w2 … wn)T
模 型
X=(x1 x2 … xn)T
(3-3) (3-4)
令x0=-1，w0=Tj，则有-Tj=x0w0
2021/3/13
接
方
式
○ ○ ○○ ○
分
类
输出层到输入层有连接
2021/3/13
26
3.1.3.2 人工神经网络模型
按
神
○○○
经
元
连
○
○
○○
接
方
式○
○○
○
○
分
类
层内有连接的层次型结构
2021/3/13
27
3.1.3.2 人工神经网络模型
人工神经网络定义
神经网络是由多个非常简单的处理单元彼此按 某种方式相互连接而形成的计算系统，该系统是靠 其状态对外部输入信息的动态响应来处理信息的。
人工神经网络是一个由许多简单的并行工作的 处理单元组成的系统，其功能取决于网络的结构、 连接强度以及各单元的处理方式。
人工神经网络是一种旨在模仿人脑结构及其功能 的信息处理系统。
信
息
轴突
的
传
递
与
突触前
接
突触后
收
突触间隙 树突或胞体
2021/3/13
14
3.1.2.2 生物神经元的信息处理机理
信息的整合
空间整合：同一时刻产生的刺激所引起的膜电 位变化，大致等于各单独刺激引起的膜电位变 化的代数和。
时间整合：各输入脉冲抵达神经元的时间先后 不一样。总的突触后膜电位为一段时间内的累 积。
问题解答
知识分布式表示 知识获取、知识库
平行推理
输入数据
变量变换
求解的问题
由同一 神经网 络实现
神经网络专家系统的构成
知识处理功能
6
3.1.2 生物神经元及其信息处理
▪生物神经元 ▪人工神经元模型
3.1.2 生物神经元及其信息处理
人类大脑大约包含有1.41011个神经元， 每个神经元与大约103～105个其它神经 元相连接，构成一个极为庞大而复杂的 网络，即生物神经网络。
四部分组成。用来完成神经元间信息的接收、 传递和处理。
2021/3/13
10
2021/3/13
11
2021/3/13
12
3.1.2.2 生物神经元的信息处理机理
信息的产生
神经元间信息的产生、传递和处理是一 种电化学活动。
神经元状态：
静息
膜电位：
极化
兴奋
去极化
抑制
超极化
2021/3/13
13
3.1.2.2 生物神经元的信息处理机理
2021/3/13
非线性映射功能
3
3.1.1 神经网络的基本特征与功能
2021/3/13
传统分类能力
ANN 分类能力
分类与识别功能
4
3.1.1 神经网络的基本特征与功能
2021/3/13
优化计算功能
5
2021/3/13
3.1.1 神经网络的基本特征与功能
x1
x1 w1j
神┆
oj
┆wij
oj
经
xi
元 模
┆ xn
(a)多输入单输出
型
xi ┆wnj
xn
(b)输入加权
示
x1 w1j
x1 w1j
意 图
┆wij xI ┆wnj
oj
┆ wij
oj
∑
xI
∑f
┆ wnj
xn
xn
2021/3/13
(c)输入加权求和
(d)输入-输出函数
18
3.1.3.1 人工神经元模型
经 元 的
0 f(x)= cx
1
x≤0 0x＜c＜x≤x xc
f (x)
转
(3-9)
移
1.0
函
数
x
0
xc
2021/3/13
24
3.1.3.2 人工神经网络模型
按
神
经
○○○
元
连
接
○
○
○○
方
式
○
○○
○
○
分
类
层次型结构
2021/3/13
25
3.1.3.2 人工神经网络模型
按
神
经
○○ ○ ○ ○
元
连
○○○○