人工神经网络 (2)
《智能控制技术》考试试题
《智能控制技术》考试试题（备注：请将本试卷粘贴在答题本内页）一、概念题（每小题5分，共20分）（1）人工神经网络人工神经网络的研究是人工智能、认知科学、神经生理学、非线性动力学等学科的交叉热点。
2．模糊推理知道了语言控制规则中蕴含的模糊关系后，就可以根据模糊关系和输入情况，来确定输出的情况，这就叫“模糊推理”。
3．专家系统专家系统是一个具有大量专门知识与经验的程序系统，它应用人工智能技术，根据某个领域或多个人类专家提供的知识和经验进行推理和判断，模拟人类专家的决策过程，以解决那些需要专家决定的复制问题。
4．递阶控制对递阶结构的大系统所采用的控制方式。
二、简答题（每小题10分，共40分）1．简述智能控制的发展过程,并说明智能控制的特点。
从20世纪60年代至今，智能控制的发展过程通常被划分3个阶段：萌芽期、形成期和发展期。
智能控制具有以下基本特点：1）应能为复杂系统进行有效的全局控制，并具有较强的容错能力。
2）定性策划和定量控制相结合的多模态组合控制。
3）从系统的功能和整体优化的角度来分析和综合系统，以实现预定的目标，并具有自组织能力。
4）同时具有以知识表示的非数学广义模型和以数学表示的数学模型的混合控制过程，系统在信息处理上，既有数学运算，又有逻辑和知识推理。
2．智能控制学科有哪几种结构理论?这些理论的内容是什么?二元结构理论傅京孙曾对几个与自学习控制(learning control)有关的领域进行了研究。
为强调系统的问题求解和决策能力,他用“智能控制系统”来包括这些领域。
他指出“智能控制系统描述自动控制系统与人工智能的交接作用”。
我们可以用式(1.3)和(1.6)以与图1.3来表示这种交接作用,并把它称为二元交集结构。
1.4.2 三元结构理论萨里迪斯于1977年提出另一种智能控制结构,它把傅京孙的智能控制扩展为三元结构,即把智能控制看作为人工智能、自动控制和运筹学的交接,如图1.4所示。
萨里迪斯认为,构成二元交集结构的两元互相支配,无助于智能控制的有效和成功应用。
人工神经网络基础_ANN课程笔记 2、深度神经网络
第二章深度神经网络一、概述1、基本概念深度学习（Deep Learning）是一种没有人为参与的特征选取方法，又被称为是无监督的特征学习（Unsupervised Feature Learning）。
深度学习思想的神经网络利用隐含层从低到高依次学习数据的从底层到高层、从简单到复杂、从具体到抽象的特征，而这一特性决定了深度学习模型可以学习到目标的自适应特征，具有很强的鲁棒性。
深度学习的另外一个思想是贪婪算法(greedy algorithm)的思想，其在训练的时候打破了几十年传统神经网络训练方法的“桎梏”，采用逐层训练(greedy layer-wise)的贪婪思想，并经过最后的微调(fine-tuning)，这一训练算法的成功也使得深度学习获得了巨大成功。
传统的模式识别方法：机器学习过程从最初的传感器得到原始的数据，到经过预处理，都是为了第三步和第四步的特征提取和特征选择，而这个耗时耗力的工作一般要靠人工完成。
这种靠人工的，需要大量的专业知识的启发式的特征提取方法注定要限制机器学习的发展，而深度学习的非监督学习阶段的“盲学习”的特性能够解决该问题，即：深度学习在特征提取和选择时是完全自主的，不需要任何的人工干预。
2、神经网络发展受限之处多隐含层的网络容易收敛到参数空间的局部最优解，即偏导数为0 的点，尤其在目标识别中，由于图像的信噪比很低，神经网络很容易陷入局部极小点； 训练算法与网络的初始参数有很大关系，比较容易过拟合；训练速度慢；在误差反向传播的训练算法中，层数越深，误差越小，甚至接近于0，造成训练失败。
误差反向传播算法必须要用到带标签的数据（有导师学习、监督学习），获取带标签的数据十分困难。
3、深度学习的学习算法深度学习的基本模型从形式上来看和神经网络一致，基本的结构单元都是神经元，由神经元组成网络层，整个网络由输入层，隐含层和输出层组成。
在深度学习理论中，一个网络的学习算法每运行一次，只调整一层网络的参数。
《人工神经网络：模型、算法及应用》习题参考答案
习题2.1什么是感知机？感知机的基本结构是什么样的？解答：感知机是Frank Rosenblatt在1957年就职于Cornell航空实验室时发明的一种人工神经网络。
它可以被视为一种最简单形式的前馈人工神经网络，是一种二元线性分类器。
感知机结构：2.2单层感知机与多层感知机之间的差异是什么？请举例说明。
解答：单层感知机与多层感知机的区别：1. 单层感知机只有输入层和输出层，多层感知机在输入与输出层之间还有若干隐藏层；2. 单层感知机只能解决线性可分问题，多层感知机还可以解决非线性可分问题。
2.3证明定理：样本集线性可分的充分必要条件是正实例点集所构成的凸壳与负实例点集构成的凸壳互不相交.解答：首先给出凸壳与线性可分的定义凸壳定义1：设集合S⊂R n，是由R n中的k个点所组成的集合，即S={x1,x2,⋯,x k}。
定义S的凸壳为conv(S)为：conv(S)={x=∑λi x iki=1|∑λi=1,λi≥0,i=1,2,⋯,k ki=1}线性可分定义2：给定一个数据集T={(x1,y1),(x2,y2),⋯,(x n,y n)}其中x i∈X=R n , y i∈Y={+1,−1} , i=1,2,⋯,n ,如果存在在某个超平面S：w∙x+b=0能够将数据集的正实例点和负实例点完全正确地划分到超平面的两侧，即对所有的正例点即y i=+1的实例i，有w∙x+b>0，对所有负实例点即y i=−1的实例i，有w∙x+b<0，则称数据集T为线性可分数据集；否则，称数据集T线性不可分。
必要性：线性可分→凸壳不相交设数据集T中的正例点集为S+，S+的凸壳为conv(S+)，负实例点集为S−，S−的凸壳为conv(S−)，若T是线性可分的，则存在一个超平面：w ∙x +b =0能够将S +和S −完全分离。
假设对于所有的正例点x i ，有：w ∙x i +b =εi易知εi >0，i =1，2，⋯，|S +|。
人工神经网络简介
人工神经网络简介1 人工神经网络概念、特点及其原理 (1)1.1人工神经网络的概念 (1)1.2人工神经网络的特点及用途 (2)1.3人工神经网络的基本原理 (3)2 人工神经网络的分类及其运作过程 (5)2.1 人工神经网络模式的分类 (5)2.2 人工神经网络的运作过程 (6)3 人工神经网络基本模型介绍 (6)3.1感知器 (7)3.2线性神经网络 (7)3.3BP（Back Propagation）网络 (7)3.4径向基函数网络 (8)3.5反馈性神经网络 (8)3.6竞争型神经网络 (8)1 人工神经网络概念、特点及其原理人工神经网络（Artificial Neural Networks，简记作ANN），是对人类大脑系统的一阶特征的一种描述。
简单地讲，它是一个数学模型，可以用电子线路来实现，也可以用计算机程序来模拟，是人工智能研究的一种方法。
1.1人工神经网络的概念利用机器模仿人类的智能是长期以来人们认识自然、改造自然的理想。
自从有了能够存储信息、进行数值运算和逻辑运算的电子计算机以来，其功能和性能得到了不断的发展，使机器智能的研究与开发日益受到人们的重视。
1956年J.McCart冲等人提出了人工智能的概念，从而形成了一个与神经生理科学、认知科学、数理科学、信息论与计算机科学等密切相关的交叉学科。
人工神经网络是人工智能的一部分，提出于50年代，兴起于80年代中期，近些年已经成为各领域科学家们竞相研究的热点。
人工神经网络是人脑及其活动的一个理论化的数学模型，它由大量的处理单元通过适当的方式互联构成，是一个大规模的非线性自适应系统，1998年Hecht-Nielsen曾经给人工神经网络下了如下定义：人工神经网络是一个并行、分层处理单元及称为联接的无向信号通道互连而成。
这些处理单元（PE-Processing Element）具有局部内存，并可以完成局部操作。
每个处理单元有一个单一的输出联接，这个输出可以根据需要被分支撑希望个数的许多并联联接，且这些并联联接都输出相同的信号，即相应处理单元的信号。
人工神经元网络介绍
人工神经网络 (artificial neural network, ANN)是模拟人脑细胞的分布式 工作特点和自组织功能，且能实现并行处理、自学习和非线性映射等 能力的一种系统模型。神经网络系统实质上是由大量的，同时也是很 简单的处理单元广泛地互相连接而形成的复杂网络系统。它不是人脑 神经系统的真实写照，而是对其做出的简化抽象和模拟。
假设3：空间整合特性和阈值特性
神 经 元 的 人 工 模 型
作为ANN的基本处理单元，必须对全部输入信号进行整 合，以确定各类输入的作用总效果，图(c)表示组合输 人信号的“总和值”，相应于生物神经元的膜电位。 神经元激活与否取决于某一阈值电平，即只有当其输 入总和超过阈值时, 神经元才被激活而发放脉冲, 否 则神经元不会产生输出信号。
活状态之间的关系，最常用的转移函数有4
种形式。
常用的神经元数学模型：
（1）阈值型（如图a所示）
f (Neti )
1 Neti 0 0 Neti 0
(2) sigmoid函数型（如图b所示）
f (Neti )
1
Neti
1e T
(3) 分段线性型（如图c所示）
f
( Neti
)
第三章 人工神经元网络
专业：电路与系统 姓名：程兴宏 学号：201021005
3.1 引言
模糊逻辑控制的现状：
模糊逻辑控制解决了人类智能行为语言的描述和推理问题，尤其是一 些不确定性语言的描述和推理问题，从而在机器模拟人脑的感知和推 理等智能行为方面迈出了重大的一步。然而在处理数值数据和自学习 能力等方面还远没有达到人脑的境界。
x1
wi1
ui
的数学抽象和结构、功能
人工神经网络复习题
《神经网络原理》一、填空题1、从系统的观点讲，人工神经元网络是由大量神经元通过极其丰富和完善的连接而构成的自适应、非线性、动力学系统。
2、神经网络的基本特性有拓扑性、学习性和稳定收敛性。
3、神经网络按结构可分为前馈网络和反馈网络，按性能可分为离散型和连续型，按学习方式可分为有导师和无导师。
4、神经网络研究的发展大致经过了四个阶段。
5、网络稳定性指从t=0时刻初态开始，到t时刻后v(t+△t)=v(t)，(t>0)，称网络稳定。
6、联想的形式有两种，它们分是自联想和异联想。
7、存储容量指网络稳定点的个数，提高存储容量的途径一是改进网络的拓扑结构，二是改进学习方法。
8、非稳定吸引子有两种状态，一是有限环状态，二是混沌状态。
9、神经元分兴奋性神经元和抑制性神经元。
10、汉明距离指两个向量中对应元素不同的个数。
二、简答题1、人工神经元网络的特点？答：（1）、信息分布存储和容错性。
（2）、大规模并行协同处理。
（3）、自学习、自组织和自适应。
（4）、人工神经元网络是大量的神经元的集体行为，表现为复杂的非线性动力学特性。
（5）人式神经元网络具有不适合高精度计算、学习算法和网络设计没有统一标准等局限性。
2、单个神经元的动作特征有哪些？答：单个神经元的动作特征有：（1）、空间相加性；（2）、时间相加性；（3）、阈值作用；（4）、不应期；（5）、可塑性；（6）疲劳。
3、怎样描述动力学系统？答：对于离散时间系统，用一组一阶差分方程来描述：X(t+1)=F[X(t)]；对于连续时间系统，用一阶微分方程来描述：dU(t)/dt=F[U(t)]。
4、F(x)与x 的关系如下图，试述它们分别有几个平衡状态，是否为稳定的平衡状态？答：在图（1）中，有两个平衡状态a 、b ，其中，在a 点曲线斜率|F ’(X)|>1，为非稳定平稳状态；在b 点曲线斜率|F ’(X)|<1，为稳定平稳状态。
在图（2）中，有一个平稳状态a ，且在该点曲线斜率|F ’(X)|>1，为非稳定平稳状态。
《BP神经网络》PPT课件 (2)
通过学习取得经验与积累知识的能力
这是人类在世界中能够不断发展的最基本能力。
理解知识，运用知识和经验分析、解决问题的能力
这一能力可以算作是智能的高级形式。是人类对世界进 行适当的改造，推动社会不断发展的基本能力。
2019/11/7
10
人工神经网络的提出
联想、推理、判断、决策语言的能力
去构造一个模型）
用环境）
适应领域 精确计算：符号处理， 非精确计算：模拟处理，感觉，大规模数
2019/11/7
12
人工神经网络的提出
二、人工智能
人工智能：研究如何使类似计算机这样的设备去 模拟人类的这些能力。
研究人工智能的目的
增加人类探索世界，推动社会前进的能力 进一步认识自己
三大学术流派
符号主义（或叫做符号/逻辑主义）学派 联接主义（或者叫做PDP）学派 进化主义（或者叫做行动/响应）学派
神经网络是一个由大量简单的处理单元组 成的高度复杂的大规模非线性自适应系统
ANN力求从四个方面去模拟人脑的智能行为
物理结构 计算模拟 存储与操作 训练
2019/11/7
17
人工神经网络的提出
两种模型的比较
物理符号系统
心理过程
逻辑思维
高级形式（思维的表象）
生理过程
形象思维
低级形式（思维的根本）
仿生
联结主义观点
这是智能的高级形式的又一方面。 预测和认识 主动和被动之分。联想、推理、判断、决策的能
力是主动的基础。
运用进行抽象、概括的能力 上述这5种能力，被认为是人类智能最为基本
的能力
2019/11/7
11
1.1 人工神经网络的提出
人工神经网络的学习-第2章
还要给出与之对应的期望输出模式（又称目标模式或教师信 号），两者一起称为训练对。多个训练对称为训练集。
学习时，使用训练集中的某个输入模式，得到一个网络
的实际输出模式Y，再与期望输出模式d 相比较，不相符时求出
误差，按误差的大小和方向调整权值,以使误差向着减小方向变 化。
2.2 神经网络的一般学习规则
1
神经网络的 一般学习规则指学 习规则的一般形式。 1990 年 日 本 学 者
x1
wj1
xi xn
i wji j
n
sj wjn
△wj
f(·)
yj
Amain 提 出 一 种 神经网络权值调整
X
r=
学习信号 生成器
dj
的通用规则，如图。
η r(Wj,X,dj)
学习信号为r 是W,X,d 的函数。通用的学习规则可表达为：
rj=dj – yj =dj – f(Wj X)
1
x1
wj1
xi xn
i wji j
n
sj wjn
yj
△wj
X × r =dj-yj
dj
η
感知器学习规则示意图
3、δ（Delta）学习规则
McClelland 和Rumelhart 于1986年提出。其学习信号定 义为：
rj (d j y j ) f ' (s j ) [d j f (Wj X )] f ' (Wj X )
r(W3 X 3 ) XW3T4
W3
ry(3WX33TX3
)WX33TXW3T 3
=[1y3
X-33T .5W34.5X
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
人工神经网络的主要研究方向
• 应用研究可分为以下两类： • 1)．神经网络的软件模拟和硬件实现的 研究。 • 2)．神经网络在各个领域中应用的研究。 这些领域主要包括： • 模式识别、信号处理、知识工程、专家系 统、优化组合、机器人控制等。 随着神经 网络理论本身以及相关理论、相关技术的 不断发展，神经网络的应用定将更加深入。
• 典型的随机训练算法：模拟退火算法
训练算法之五
• Kohonen训练算法
– 它是Teuvo Kohonen受生物系统的启发而提出的，是 无指导的训练算法。 – 在训练过程中处理单元均参与彼此竞争，具有最大输 出的处理单元是获胜者。 – 获胜的节点具有抑制其竞争者的能力和激活其近邻结 点的能力，只有获胜者和其近邻结点的加权才被允许 调节。 – 获胜者的近邻结点的范围在训练中是可变的。
• 国际著名的神经网络研究专家，第一家神经计算 机公司的创立者与领导人Hecht Nielsen给人工 神经网络下的定义就是：“人工神经网络是由人 工建立的以有向图为拓扑结构的动态系统，它通 过对连续或断续的输入作状态相应而进行信息处 理。”
人工神经网络的模型
• 神经网络是一种运算模型，由 大量的节点（或称“神经元”， 或“单元”）和之间相互联接 构成。每个节点代表一种特定 的输出函数，称为激励函数 （activation function）。每 两个节点间的连接都代表一个 对于通过该连接信号的加权值， 称之为权重（weight），这相 当于人工神经网络的记忆。网 络的输出则依网络的连接方式， 权重值和激励函数的不同而不 同。而网络自身通常都是对自 然界某种算法或者函数的逼近， 也可能是对一种逻辑策略的表 达。
人工神经网络的主要研究方向
• 神经网络的研究可以分为理论研究和应用研究两 大方面。 • 理论研究可分为以下两类： • 1)．利用神经生理与认知科学研究人类思维 以及智能机理。 • 2)．利用神经基础理论的研究成果，用数理 方法探索功能更加完善、性能更加优越的神经网 络模型，深入研究网络算法和性能， 如：稳定性、 收敛性、容错性、鲁棒性等；开发新的网络数理 理论，如：神经网络动力学、非线性神经场等。
训练算法之一
• — Hebb算法
– Hebb算法是由Donald Hebb提出的一种最早的 训练算法。
• Hebb认为，如果源和目的神经元都被激活（或抑 制），它们之间的突触的强度就会增强。
– 工神经网络中Hebb算法的简单描述：
• 如果一个处理单元从另一个处理单元接收激励信号， 而且两者处于相同的激励电平（数学上具有相同的 符号），那么处理单元之间的加权就应当增强。
• 训练开始时，一般将近邻范围取得较大。 • 随着训练的进行其近邻范围逐渐缩小。
谢谢！！
人工神经网络的应用
• 神经网络的应用已经涉及到各个领域，且取得了很大的进展。 • 自动控制领域：主要有系统建模和辨识，参数整定，极点配置， 内模控制，优化设计，预测控制，最优控制，滤波与预测容错控制等。 • 处理组合优化问题：成功解决了旅行商问题，另外还有最大匹配 问题，装箱问题和作业调度问题。 • 模式识别：手写字符，汽车牌照，指纹和声音识别，还可用于目 标的自动识别，目标跟踪，机器人传感器图像识别及地震信号的鉴别。 • 图像处理：对图像进行边缘监测，图像分割，图像压缩和图像恢 复。 • 机器人控制：对机器人轨道控制，操作机器人眼手系统，用于机 械手的故障诊断及排除，智能自适应移动机器人的导航，视觉系统。 • 医疗：在乳房癌细胞分析，移植次数优化，医院费用节流，医院 质量改进等方面均有应用。
人工神经网络发展趋势
• 人工神经网络特有的非线性适应性信息处理能力，克 服了传统人工智能方法对于直觉，如模式、语音识别、非 结构化信息处理方面的缺陷，使之在神经专家系统、模式 识别、智能控制、组合优化、预测等领域得到成功应用。 人工神经网络与其它传统方法相结合，将推动人工智能和 信息处理技术不断发展。 • 近年来，人工神经网络正向模拟人类认知的道路上更 加深入发展，与模糊系统、遗传算法、进化机制等结合， 形成计算智能，成为人工智能的一个重要方向，将在实际 应用中得到发展。将信息几何应用于人工神经网络的研究， 为人工神经网络的理论研究开辟了新的途径。神经计算机 的研究发展很快，已有产品进入市场。光电结合的神经计 算机为人工神经网络的发展提供了良好条件。
介绍人工神经网络的特征之一：自学习
人工神经网络如何学习？
人工神经网络如何训练？有哪些方法？
有哪些训练算法？
人工神经网络的学习
• 人工神经网络的最主要特征之一就是它可 以学习。任何一个人工神经网络模型要实 现某种功能的操作，就必须对它训练，让 它学会要做的事情，并把这些知识记忆 （存储）在网络的加权中。人工神经网络源自人工神经网络的特点与优越性
• 人工神经网络的特点和优越性，主要表现在三个方面： • 第一，具有自学习功能。例如实现图像识别时，只在 先把许多不同的图像样板和对应的应识别的结果输入人工 神经网络，网络就会通过自学习功能，慢慢学会识别类似 的图像。自学习功能对于预测有特别重要的意义。预期未 来的人工神经网络计算机将为人类提供经济预测、市场预 测、效益预测，其应用前途是很远大的。 • 第二，具有联想存储功能。用人工神经网络的反馈 网络就可以实现这种联想。 • 第三，具有高速寻找优化解的能力。寻找一个复杂 问题的优化解，往往需要很大的计算量，利用一个针对某 问题而设计的反馈型人工神经网络，发挥计算机的高速运 算能力，可能很快找到优化解。
• σ训练算法
– 这种算法的基本思路是：按差值（ σ值）最小 准则连续地修正各连接权的强度。 – 所谓差值最小，就是指处理单元所要求的输出 与当前实际输出间的差值，靠调节各加权以达 到最小。 – 该算法也称为Widdrow-Hoff训练算法或最小 均方（LMS）算法。
训练算法之三
• 梯度下降算法
• • • • • • 这是将数学上的优化方法用于使要求的输出与实际输出之差最小。 在该方法中，加权的修正量正比于误差对加权的一阶导数，数学表示如下：
其中，E是描述误差的误差函数，Wij(n)是结点i到结点j的连接权，η为 训练速率系数。 σ训练算法是梯度下降算法的一个特例。 该算法收敛到稳定点较慢，但它是一种比较有效和普遍应用的训练算法。
训练算法之四
• 随机训练算法
• 该算法利用了随机过程，用概率和能量关系来调节连接权。 • 基本思路：在训练过程中，随机改变一个权值，确定权值改变后产生 的最终能量，并按如下准则来确定是否保留此加权的变化。 • 若改变加权后，人工神经网络的能量降低了，则保留着一改变。 • 若改变加权后，能量没有降低，则根据一个预选的概率分布来保留这 一改变。（这一步的目的是为了保证人工神经网络能够获得全局能量 最小点，而不是局部能量最小点。） • 否则，拒绝这一改变，使权值恢复到原来的值。
• 从给定的一类中取一个向量加到网络上，它将产生一个特定的输出。
• 在训练之前，没有办法知道哪种类型的输入向量将产生哪种特定的输 出，但通过这种训练，网络的输出总是变换为一个可理解的序列形式。
训练算法
– 目前应用的训练算法很多，其中有很大部分是 早期的Hebb算法的变形。 – 人们仍在以生物学习训练的模式作为目标，继 续探索新的算法。 – 可以相信，真正的生物学习训练过程肯定比目 前常用的训练算法复杂得多。
人工神经网络
机自1004班 ***
• 人工神经网络定义
人工神经网络的模型 人工神经网络的特点与优越性
人工神经网络的主要研究方向
人工神经网络的应用 人工神经网络发展趋势 人工神经网络的特征之一：自学习
人工神经网络定义
• 人工神经网络（artificial neural network，缩写 ANN），简称神经网络（neural network，缩写 NN），是一种模仿生物神经网络的结构和功能的 数学模型或计算模型。
• 把训练组中的每个向量对相继加入，对每个向量都计算并调节加权， 直到训练组中的误差都达到可接受的最低值为止。
人工神经网络的学习
• 2.无指导的训练
• 无指导的训练不要求有目标向量，网络通过自身的“经历”来学会某 种功能。因此无需比较产生控制误差，训练组织只是由输入向量组成。 • 训练算法也修改网络的加权，使得产生的输出具有某种可理解的规律 性。 • 无指导训练的过程实质是抽取训练组的某种统计特性，并把输入向量 按图形类似程度分为不同的类别。
• 按数学表示，就是两结点的连接权将按两结点的激 励电平的乘积来改变
其中，Wij(n)是第(n+1)次调节前从结点i到结点j的 连接权值； Wij(n+1)是第(n+1)次调节后从结点i到 结点j的连接权值；η为训练速率系数；yi为结点i的 输出，并输入到结点j； yj为结点j的输出。
训练算法之二
人工神经网络的学习
• 训练算法分为有指导的训练和无指导的训 练。 • 1.有指导的训练：
• 有指导的训练算法，不仅需要训练用的输入向量，同时还要求与之对 应的表示所需要输出的的目标向量。 • 输入向量与之对应的目标向量一起称作一个训练对。通常训练一个网 络需要很多训练对，这些训练对组成训练组。
• 当加上一个输入向量时，要计算网络的实际输出，并同相应的目标向 量做比较，根据比较结果的误差，按规定的算法改变加权。
人工神经网络的学习
• 学习或训练的实质就是加权矩阵随外部激励（环 境）做自适应的变化。 • Dw/dt≠0 • 人工神经网络被训练后，它每加入一组输入就会 产生一组要求的输出。（一组输入或输出就是所 谓的向量或图形。） • 训练就是相继加入输入向量，并按预定规则调整 网络加权；在进行训练后，网络的各加权都收敛 到一个确定值，以便每个输入向量都会产生一个 要求的输出向量。 • 调整加权所遵循的预定规则就是训练算法。