第六章-神经网络
第六章神经网络模式识别
梯度下降(gradient decent)法
准则函数: 准则函数: sum squared error, SSE
1 J = sse = 2S
BP 算法
∑ (t
j
S
j
− aj)
2
权值修正: 权值修正: 梯度下降法
∂J ∂J ∂n j ∂ J ( k −1) ∆ w j = −η = −η = −η a ∂w j ∂n j ∂w j ∂n j
§6.6 神经网络模式识别概述
神经网络模式识别方法是近几年的模式识别领域的一个重 要研究方向。由于神经网络的高速并行处理、分布式存储 信息等特性符合人类视觉系统的基本工作原理，且神经网 络具有很强的自学习性、自组织性、容错性、高度非线性、 联想记忆功能和逻辑推理功能等，能够实现目前基于计算 理论层次上的模式识别理论所无法完成的模式信息处理工 作。可以说，神经网络模式识别突破了传统模式识别技术 的束缚，开辟了模式识别发展的新途径。同时，神经网络 模式识别也成为神经网络最成功和最有前途的应用领域之 一。 神经网络模式识别的过程主要有两步：
j j j j j
j j j ji i
i
ij
j
i
ij
ij
ij
4. 径向基函数网络
前馈 网络
径向基函数网络：只有一个隐层，隐层单元采用径 向基函数。隐层把原始的非线性可分的特征空间变 换到另一个空间（通常是高维空间），使之可以线 性可分。 输出为隐层的线性加权求和。采用基函数的加权和 来实现对函数的逼近。 径向基函数(radial basis function, RBF)：径向对称 的标量函数k(||x-xc||)，最常用的RBF是高斯核函数
前馈 网络
(单层 单层) 2. (单层)感知器
神经网络专题ppt课件
(4)Connections Science
(5)Neurocomputing
(6)Neural Computation
(7)International Journal of Neural Systems
7
3.2 神经元与网络结构
人脑大约由1012个神经元组成，而其中的每个神经元又与约102～ 104个其他神经元相连接，如此构成一个庞大而复杂的神经元网络。 神经元是大脑处理信息的基本单元，它的结构如图所示。它是以细胞 体为主体，由许多向周围延伸的不规则树枝状纤维构成的神经细胞， 其形状很像一棵枯树的枝干。它主要由细胞体、树突、轴突和突触 (Synapse，又称神经键)组成。
15
4.互连网络
互连网络有局部互连和全互连 两种。 全互连网络中的每个神经元都 与其他神经元相连。 局部互连是指互连只是局部的， 有些神经元之间没有连接关系。 Hopfield 网 络 和 Boltzmann 机 属于互连网络的类型。
16
人工神经网络的学习
学习方法就是网络连接权的调整方法。 人工神经网络连接权的确定通常有两种方法：
4
5. 20世纪70年代 代表人物有Amari, Anderson, Fukushima, Grossberg, Kohonen
经过一段时间的沉寂后，研究继续进行
▪ 1972年，芬兰的T．Kohonen提出了一个与感知机等神经 网络不同的自组织映射理论(SOM)。 ▪ 1975年，福岛提出了一个自组织识别神经网络模型。 ▪ 1976年C．V．Malsburg et al发表了“地形图”的自形成
6
关于神经网络的国际交流
第一届神经网络国际会议于1987年6月21至24日在美国加州圣地亚哥 召开，标志着神经网络研究在世界范围内已形成了新的热点。
人工神经网络理论及应用课件第6章 反馈神经网络
一个常数值，对应的稳定状态是网络的一个吸引子。
韩力群 施彦 制作
6.1.2.2 吸引子与能量函数
以上分析表明，在网络从初态向稳态 演变的过程中，网络的能量始终向减小的 方向演变，当能量最终稳定于一个常数时， 该常数对应于网络能量的极小状态，称该 极小状态为网络的能量井，能量井对应于 网络的吸引子。
反馈网络的输入就是网络的状态初始值，表示为 X(0)=[x1(0),x2(0),…,xn(0)]T
反馈网络在外界输入激发下，从初始状态进入动态演变过程，变 化规律为
x j f ( net j )
j=1,2,…,n
韩力群 施彦 制作
DHNN网的转移函数常采用符号函数
xj
sgn（net j）
1 1
韩力群 施彦 制作
6.1离散型Hopfield神经网络
6.1.1 网络的结构与工作方式
x1
x2 … xi
… xn
T1
T2 … Ti … Tn
离散型反馈网络的拓扑结构
韩力群 施彦 制作
(1)网络的状态
DHNN网中的每个神经元都有相同的功能，其输出称为状态，用
xj 表示。
所有神经元状态的集合就构成反馈网络的状态 X=[x1,x2,…,xn]T
2/3 1/3
0.0 x3
101
1/3 111 2/3
1/3
DHNN网络状态演变示意图
011 3/3
(b)
韩力群 施彦 制作
6.1.3 网络的权值设计
为了使所设计的权值满足要求，权值矩阵应符合以下要求：
⑴为保证异步方式工作时网络收敛，W 应为对称阵； ⑵为保证同步方式工作时网络收敛，W 应为非负定对称阵； ⑶保证给定样本是网络的吸引子，并且要有一定的吸引域。
智能控制简明教程第6章卷积神经网络
Dropout前
Dropout后
（ ） （6）卷积神经网络训练
W W J (W , b)
W
b b J (W , b)
b
（ ） 3. 典型卷积神经网络
(1) LeNet模型结构
实现对10个手写字母的识别分类
（ ） . 卷积神经网络应用
卷积核 层 - -- 池化 层--- 卷积核层--- 池化层---全连接层
( f g)(n) f ( )g(n )d
2.1
1. 卷积神经网络的基本概念
（2）输入层
输入层严格意义上并不属于卷积结构，它的作用是对输入网络的数据 图像进行预处理，即在这一层完成图像增强、归一化、标准化等操作。
（3）卷积层
卷积层作为主干层级结构，通过卷积核和图像之间卷积操作，实现 特征图的提取，随着层级的加深，提取的特征越高级。
（ ） 2. 卷积神经网络的操作
（1）卷积操作
在卷积层中，卷积操作是按一定大小、步长滑动的卷积核来对局部的数 据进行加权求和，并将计算得到的结果保存在对应位置，一般简单的特征只 需要几层卷积层，而较为复杂的特征则需要使用更深的卷积层。
（ ） （1）卷积操作
通常，卷积核为方形，以便实现两个维度上的等比例采样。设卷积网络 的输入图像大小为 W W ，卷积核的大小为 F F，步长为 S ，补零 数为 P 。
全连接层用于构建卷积神经网络的输出网络
将前一卷积层（池化层）得到的二维矩阵压平为一维向量
（ ） （4）激活函数层
（ ） （5） 抑制过拟合Dropout
在前向传播时，设置一定的概率，使得某些神经元停止工作，从而达到 提高模型泛化能力的目的，同时减少参数的训练时间。
神经元的失活概率设为0.5。将网络中50%的神经元使用随机的方法删除 掉，并且在删除的同时保持输入输出层的神经元个数不发生变化。
第六章-神经网络
神经网络一、填空题1、神经元（即神经细胞）是由、、和四部分构成。
2、按网络结构分，人工神经元细胞可分为和，按照学习方式分可分为和。
3、人工神经网络常见的输出变换函数有和。
4、人工神经网络的学习规则有、和。
5、国内外学者提出了许多面向对象的神经网络控制结构和方法，从大类上看，较具代表性的有以下几种、和。
6、在一个神经网络中，常常根据处理单元的不同处理功能，将处理单元分成有以下三种、和。
7、在一个神经网络中，基本单元神经元的三个基本要素是、二、选择题1、一般认为，人工神经网络(ANN)适用于（）A、线性系统B、多变量系统C、多输入多输出系统D、非线性系统2、最早提出人工神经网络思想的学者是（）A、McCulloch-PittsB、HebbC、Widrow-HoffD、Rosenblatt3、神经元模型一般为（）A、单输入多输出B、多输入单输出C、单输入单输出D、多输入多输出三、简答题1、简述神经网络的特点。
2、试画出一个2-3-5-2 BP网络的结构图，说明节点函数。
3、简要说明多层感知器的结构和学习算法。
4、前馈型神经网络有什么特点？哪些结构的神经网络属于前馈神经网络？5、简要说明典型的人工神经元模型。
6、神经网络控制系统的结构形式有哪些？7、什么是感知器？8、神经网络的基本属性是什么？9、试画出BP网络的结构图，并说明其特点。
10、给出典型的神经元模型。
11、人工神经网络有哪些学习方法？简述之。
12、试画出5输入、3个输出、蕴含层有10个神经元的3层BP网络，并说明BP 网络的优点。
13、BP基本算法的优缺点。
14、人工神经元网络的拓扑结构主要有哪几种？15、BP基本算法的优缺点。
1617、试论述对BP181920212223并适合什么样的网29、反馈神经网络的拓扑结构有什么特点？哪些神经网络属于反馈神经网络？30、什么是神经网络控制？其基本思想是什么？31、神经网络控制系统可以分为哪几类？举例说明三种神经网络控制系统的结构。
06 - 第六章 神经网络控制技术2014
层)的神经元，即
k
m
，y
k i
y
m i
。
由误差定义式得
J
yik
J yim
yim di
则
dim yim (1 yim ) yim di
②若 i 为隐单元层 k ，有
J
yik
l
J ulk 1
ulk 1 yikຫໍສະໝຸດ lwli dlk1
则
d
k i
yik (1
yik )
wli dlk 1
l
逃离局部及小点的常用思路是：
在权值搜索过程中加入随机因素，这就催 生了随机神经网络的思想。
2020/4/30
张秦艳
24
（3）学习步长问题
学习因子太小，收敛很慢；太大，则可 能导致网络瘫痪和不稳定，即在极小点 附近震荡。
有些学者提出自适应步长，使得权值修 改量随着网络的训练而不断变化。基本 原则是在学习开始的时候步长较大，在 极小点附近时步长逐渐变小。
2020/4/30
张秦艳
21
综上所述，BP 学习算法可以归 纳为
wij
dik
y
k j
1
d
m i
yim (1
yim )
yim di
d
k i
yik (1
yik )
l
wli
d
k l
1
2020/4/30
张秦艳
22
3)BP算法在逼近函数方面很成功，但也 存在一些问题：
（1）收敛速度问题
由于使用了梯度下降算法，其收敛速度 很慢，一种改进的方法是在权值调整公 式中加入惯性项，用以平滑权值变化：
ji
神经网络基本介绍PPT课件
神经系统的基本构造是神经元(神经细胞 )，它是处理人体内各部分之间相互信息传 递的基本单元。
每个神经元都由一个细胞体，一个连接 其他神经元的轴突和一些向外伸出的其它 较短分支—树突组成。
轴突功能是将本神经元的输出信号(兴奋 )传递给别的神经元，其末端的许多神经末 梢使得兴奋可以同时传送给多个神经元。
将神经网络与专家系统、模糊逻辑、遗传算法 等相结合，可设计新型智能控制系统。
(4) 优化计算 在常规的控制系统中，常遇到求解约束
优化问题，神经网络为这类问题的解决提供 了有效的途径。
常规模型结构的情况下，估计模型的参数。 ② 利用神经网络的线性、非线性特性，可建立线
性、非线性系统的静态、动态、逆动态及预测 模型，实现非线性系统的建模。
(2) 神经网络控制器 神经网络作为实时控制系统的控制器，对不
确定、不确知系统及扰动进行有效的控制，使控 制系统达到所要求的动态、静态特性。 (3) 神经网络与其他算法相结合
4 新连接机制时期（1986-现在） 神经网络从理论走向应用领域，出现
了神经网络芯片和神经计算机。 神经网络主要应用领域有：模式识别
与图象处理（语音、指纹、故障检测和 图象压缩等）、控制与优化、系统辨识 、预测与管理（市场预测、风险分析） 、通信等。
神经网络原理 神经生理学和神经解剖学的研究表 明，人脑极其复杂，由一千多亿个神经 元交织在一起的网状结构构成，其中大 脑 皮 层 约 140 亿 个 神 经 元 ， 小 脑 皮 层 约 1000亿个神经元。 人脑能完成智能、思维等高级活动 ，为了能利用数学模型来模拟人脑的活 动，导致了神经网络的研究。
(2) 学习与遗忘：由于神经元结构的可塑 性，突触的传递作用可增强和减弱，因 此神经元具有学习与遗忘的功能。 决定神经网络模型性能三大要素为：
《神经网络电子教案》课件
《神经网络电子教案》PPT课件第一章：神经网络简介1.1 神经网络的定义1.2 神经网络的发展历程1.3 神经网络的应用领域1.4 神经网络的基本组成第二章：人工神经元模型2.1 人工神经元的结构2.2 人工神经元的激活函数2.3 人工神经元的训练方法2.4 人工神经元的应用案例第三章：感知机3.1 感知机的原理3.2 感知机的训练算法3.3 感知机的局限性3.4 感知机的应用案例第四章：多层前馈神经网络4.1 多层前馈神经网络的结构4.2 反向传播算法4.3 多层前馈神经网络的训练过程4.4 多层前馈神经网络的应用案例第五章：卷积神经网络5.1 卷积神经网络的原理5.2 卷积神经网络的结构5.3 卷积神经网络的训练过程5.4 卷积神经网络的应用案例第六章：递归神经网络6.1 递归神经网络的原理6.2 递归神经网络的结构6.3 递归神经网络的训练过程6.4 递归神经网络的应用案例第七章：长短时记忆网络（LSTM）7.1 LSTM的原理7.2 LSTM的结构7.3 LSTM的训练过程7.4 LSTM的应用案例第八章：对抗网络（GAN）8.1 GAN的原理8.2 GAN的结构8.3 GAN的训练过程8.4 GAN的应用案例第九章：强化学习与神经网络9.1 强化学习的原理9.2 强化学习与神经网络的结合9.3 强化学习算法的训练过程9.4 强化学习与神经网络的应用案例第十章：神经网络的优化算法10.1 梯度下降算法10.2 动量梯度下降算法10.3 随机梯度下降算法10.4 批梯度下降算法10.5 其他优化算法简介第十一章：神经网络在自然语言处理中的应用11.1 词嵌入（Word Embedding）11.2 递归神经网络在文本分类中的应用11.3 长短时记忆网络（LSTM）在序列中的应用11.4 对抗网络（GAN）在自然语言中的应用第十二章：神经网络在计算机视觉中的应用12.1 卷积神经网络在图像分类中的应用12.2 递归神经网络在视频分析中的应用12.3 对抗网络（GAN）在图像合成中的应用12.4 强化学习在目标检测中的应用第十三章：神经网络在推荐系统中的应用13.1 基于内容的推荐系统13.2 协同过滤推荐系统13.3 基于神经网络的混合推荐系统13.4 对抗网络（GAN）在推荐系统中的应用第十四章：神经网络在语音识别中的应用14.1 自动语音识别的原理14.2 基于神经网络的语音识别模型14.3 深度学习在语音识别中的应用14.4 语音识别技术的应用案例第十五章：神经网络在生物医学信号处理中的应用15.1 生物医学信号的特点15.2 神经网络在医学影像分析中的应用15.3 神经网络在生理信号处理中的应用15.4 神经网络在其他生物医学信号处理中的应用重点和难点解析重点：1. 神经网络的基本概念、发展历程和应用领域。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
一、填空题1、神经元（即神经细胞）是由、、和四部分构成。
2、按网络结构分，人工神经元细胞可分为和，按照学习方式分可分为和。
3、人工神经网络常见的输出变换函数有和。
4、人工神经网络的学习规则有、和。
5、国内外学者提出了许多面向对象的神经网络控制结构和方法，从大类上看，较具代表性的有以下几种、和。
6、在一个神经网络中，常常根据处理单元的不同处理功能，将处理单元分成有以下三种、和。
7、在一个神经网络中，基本单元神经元的三个基本要素是、和。
8、人工神经网络常见的激发函数或作用函数有、、和。
9、BP网络的学习算法的改进有、和。
10、神经网络是由大量广泛互联而成的网络。
11、人工神经网络的学习方法有和。
12、从生物控制论的观点来看，神经元具有以下功能和特性、和。
13、一般来讲，人工神经网络的结构可以分成两种基本类型和。
14、人工神经网络的学习算法有、和。
15、BP学习算法实际包含了两类信号不同方向的传播过程，一类是施加输入信号由输入层经隐层到输出层，产生输出响应的过程；另一类是希望输出与实际输出之间的误差信号由输出层返回隐层和输入层，反向逐层修正连接权值和神经元输出阈值的过程。
16、神经网络的学习方式可以分成、和。
17、An biologic neuron is composed of and .二、选择题1、一般认为，人工神经网络(ANN)适用于（）A、线性系统B、多变量系统C、多输入多输出系统D、非线性系统2、最早提出人工神经网络思想的学者是（）A、McCulloch-PittsB、HebbC、Widrow-HoffD、Rosenblatt3、神经元模型一般为（）A、单输入多输出B、多输入单输出C、单输入单输出D、多输入多输出三、简答题1、简述神经网络的特点。
2、试画出一个2-3-5-2 BP网络的结构图，说明节点函数。
3、简要说明多层感知器的结构和学习算法。
4、前馈型神经网络有什么特点？哪些结构的神经网络属于前馈神经网络？5、简要说明典型的人工神经元模型。
6、神经网络控制系统的结构形式有哪些？7、什么是感知器？8、神经网络的基本属性是什么？9、试画出BP网络的结构图，并说明其特点。
10、给出典型的神经元模型。
11、人工神经网络有哪些学习方法？简述之。
12、试画出5输入、3个输出、蕴含层有10个神经元的3层BP网络，并说明BP 网络的优点。
13、BP基本算法的优缺点。
14、人工神经元网络的拓扑结构主要有哪几种？15、BP基本算法的优缺点。
16、什么是神经网络的学习算法？神经网络中常用的学习规则有哪些？17、试论述对BP网络算法的改进。
18、神经元计算与人工智能传统计算有什么不同？19、请说出神经网络与模糊系统的融合方式。
20、模糊神经网络由哪些学习算法？21、简述自适应神经-模糊推理系统ANFIS的结构和学习算法。
22、模糊神经网络分哪两大类？各有什么特点？23、简单叙述生物神经元和人工神经元的结构。
24、从人工神经网络的结构来看，神经网络可以分成几种类型？并说明它们的特点。
25、人工神经网络在工程上得到广泛应用，说明它具有的突出优点。
26、神经网络的学习方式和学习算法有哪些？各有什么特点，并适合什么样的网络？27、前馈型神经网络有什么特点？哪些结构的神经网络属于前馈神经网络？28、构建一个BP网络完成逻辑“与”的分类。
29、反馈神经网络的拓扑结构有什么特点？哪些神经网络属于反馈神经网络？30、什么是神经网络控制？其基本思想是什么？31、神经网络控制系统可以分为哪几类？举例说明三种神经网络控制系统的结构。
32、神经元的种类有哪些？它们的函数关系如何？33、为什么由简单的神经元连接而成的神经网络具有非常强大的功能？34、神经网络按连接方式分有哪几类？35、为什么说神经控制具有潜在发展前景？试结合ANN的特性加以讨论。
36、人工神经网络可分为哪两类，通过网络中神经元的连接情况加以说明37、试画出一个3-5 RBF网络的结构图，说明节点函数和学习过程。
38、试比较单层感知器和多层感知器。
39、神经网络控制系统主要分为哪五类？40、试说明BP学习算法中包含的两类信号不同方向的传播过程。
41、RBF网络与BP网络的主要区别是什么？42、生物神经元主要有哪些部分组成？试给出等效的MP模型。
43、画出静态多层前向人工神经网络（BP网络）的结构图，并简述其特点44、试画出一个3-5-2 BP网络的结构图，说明节点函数和学习算法，并说明BP网络的缺点。
45、试画出一个RBF 神经网络的结构图，并说明其节点函数。
四、计算题1、如图4-24所示的多层前向传播神经网络结构。
假设对于期望的输入12[,][13]x x =,12[,][0.90.3]d d y y =。
网络权系数的初始值见图。
试用BP 算法训练此网络。
并详细写出第一次迭代学习的计算结果。
这里，取神经元激励函数1()1xf x e -=+。
学习步长为1η=。
最大迭代次数为iterafe max 。
误差为e 。
（四舍五入，精确到小数后1位）2、试设计一个离散型Hopfield 网络，具有联想记忆功能，使其能正确识别0～9的阿拉伯数字。
并且每次随机改变2个、4个和6个象素后，分别测试一下网络对加入噪声的数字的正确诊断率。
3、试设计一个单神经元感知器，利用MATLAB 编程解决下述训练样本的模式分类，并找出其分界线。
8个训练样本为}1,10{11=⎥⎦⎤⎢⎣⎡=y P ；}0,01{22=⎥⎦⎤⎢⎣⎡=y P ；}0,11{33=⎥⎦⎤⎢⎣⎡=y P ；}1,01{44=⎥⎦⎤⎢⎣⎡-=y P }1,11{55=⎥⎦⎤⎢⎣⎡-=y P ；}1,11{66=⎥⎦⎤⎢⎣⎡--=y P ；}0,10{77=⎥⎦⎤⎢⎣⎡-=y P ；}0,11{88=⎥⎦⎤⎢⎣⎡-=y P 4、利用MatLab 中神经网络函数创建一个RBF 网络，并对非线性函数)sin(x y π=进行逼近。
编写MatLab 程序并给出仿真结果。
答案：一、1、细胞体、树突、轴突、突触2、层状结构、网络结构、有教师学习、无教师学习3、略。
4、无监督Hebb 学习规则、有监督δ学习规则或Widow-Hoff 学习规则、有监督Hebb 学习规则5、略。
6、略。
7、略。
8、阈值函数，分段线性函数，双曲函数、Sigmoid 函数9、引入动量项、变尺度法、变步长法10、略。
11、略。
12、略。
13、前馈（前向）网络、反馈（递归）网络14、误差修正规则或Delta （δ）学习规则、Hebb 学习规则、竞争学习规则15、输入模式正向传播、误差逆传播16、有教师学习（有监督学习）、无教师学习（无无监督学习、Unsupervised Learning ）、增强学习（Reinforcement Learning ）17、细胞体（Soma ）、突起（Neurites ）二、1 D2 A3 C三、1、1）神经网络可以充分逼近任意复杂的非线性函数。
2）神经网络具有分布式信息存贮特点，有很强的鲁棒性和容错性。
3）神经网络具有巨量信息并行处理和大规模平行计算能力。
4）神经网络具有自组织、自学习功能，是自适应组织系统。
2、答案：隐含结点函数为S 型函数。
输出结点函数为S 型函数或线性函数3、答案：图中T m x x x X ),,(21 =为输入特征向量，各分量为),2,1(m i x i =，ij w 为i x 到第一隐层j s 的连接权值，j θ为第一隐层神经元的阈值；jt w 为j s 到第二隐层t g 的连接权值，t θ为第二隐层神经元的阈值；输出量),,(21n y y y Y =，各分量为),2,1(n k y k =，tk v 为t g 到输出层k y 的连接权值，k θ为输出神经元的阈值；)(∙f 为激励函数，通常用阶跃函数、双极值函数。
学习算法可以采用Hebb 学习规则。
4、答案：前馈型神经网络中的神经元按层排列，网络从输入层到输出层是单向连接，只有前后相邻两层之间神经元实现相互连接，从上一层接收信号输送给下一层神经元，同层的神经元之间没有连接，各神经元之间也没有反馈。
前馈网络是一种静态的非线性映射，大部分前馈网络都是学习网络，比较适用于模式识别、分类和预测评价问题典型的前馈网络有感知器（MLP ）、误差反向传播网络（BP ）和径向基函数神经网络（RBF ）、小脑模型连接控制网络（CMAC ）等。
5、答案：其中，i x （n i ,2,1 =）是从其它神经元传来的输入信号；i w 表示从其它神经元到该神经元的连接权值；θ为该神经元激活阈值；y 为神经元输出；)(∙f 为输出变换函数，一般为非线性函数，也可以称为激励函数、响应函数等。
6、答案：直接逆动态控制神经网络自适应控制包括自校正控制和模型参考自适应控制神经网络PID 控制神经网络内模控制神经网络模型预测控制X1 X2y1 y2或者监视控制、直接逆控制、模型参考控制、内部模型控制、预测控制、自适应控制、系统辨识、滤波预报等更加细致的分类形式。
或者基于传统控制理论的神经控制和基于神经网络的智能控制两大类7、答案：感知器（Perceptron）是一个具有单层神经元的神经网络，并由线性阀值元件组成，是最简单的前向神经网络，它主要用于模式分类。
由感知器的网络结构，我们可以看出感知器的基本功能是将输入矢量转化成0或1的输出。
感知器利用其学习规则来调整网络的权值，以便使该网络对输人矢量的响应达到数值为0或1的目标输出。
感知器的学习是有指导的学习，其训练算法的基本原理来源于著名的Hebb学习规则。
基本思想是：逐步地将样本集中的样本输入到网络中，根据输出结果和理想输出之间的差别来调整网络中的权系数。
8、答案：神经网络的基本属性：1) 非线性2) 非局域性3) 非定常性4) 非凸性9、答案：BP网络的主要特点是：1）输入和输出是并行的模拟量；2）网络的输入输出关系是各层连接的权因子决定，没有固定的算法；3）权因子是通过学习信号调节的，这样学习越多，网络越聪明；4）隐含层越多，网络输出精度越高，且个别权因子的损坏不会对网络输出产生大的影响10、略。
11、略。
12、略。
13、略。
14、略。
15、略。
16、答案：“学习”是指在外界环境激励作用下，神经网络的连接权值不断调整适应的过程。
神经网络的学习算法是指一系列事先定义好的解决学习问题的规则，它决定了如何调整神经网络连接权值的方式。
误差修正规则（Error-Correction Learning）、误差修正规则（Error-Correction Learning）Hebb学习规则（Hebbian Learning）、竞争学习（Competitive Learning）。
17、略。
18、略。