神经网络及其在TSP问题中的应用 6.17
神经网络及其在TSP问题中的应用
摘要：TSP问题一直是组合优化中极富活力的研究课题之一。神经网络的发展为这一问题的解决提供了一种新的思路。1985年Hopfield和Tank两人用CHNN网络为解决TSP难题开辟了一条崭新的途径并获得了巨大成功。本文介绍了神经网络的基本知识，给出了TSP 问题的描述及数学模型，介绍了神经网络应用于TSP问题的相关理论知识及Hopfield算法在求解TSP问题中的应用分析.
关键词：TSP问题；人工神经元网络；最优路径；Hopfield神经网络；
The Application Of Neural Network In The Travelling Salesman
Problem
Wang Xin
College of Aeronautical Engineering，Civil Aviation University of China 1401001
Abstract:The travelling salesman Problem (TSP) is always one of the most vigorous research topics in combined optimization . The development of neural network provided a new
way to solve the problem. In 1985 Hopfield and Tank open up a new way for solving the TSP
problem by using CHNN and gained great success. This paper will introduce the basic knowledge of neural networks, describe the travelling salesman Problem and its mathematical model. In this paper, the neural network application knowledge in TSP and the related theoretical knowledge is given . Moreover, the paper will talk about the application of Hopfield algorithm analysis in
solving TSP problem.
Keywords:TSP , artificial neural network ,optimal path ,Hopfield neural network;
自20世纪40年代出现以来，人工神经网络的发展虽不是一帆风顺但始终被人们寄予厚望。因为在智能的，模糊的，随机的信息处理方面，人工神经网络具有巨大优势。神经网络的应用已经渗透到模式识别、图像处理、非线性优化、专家系统等各个领域，并取得了令人瞩目的成果。旅行商的路径优化问题规则虽然简单，但在地点数目增多后求解却极为复杂。随着旅行商所经地点数目的增多，如果要列举所有路径后再确定最佳行程，那么总路径数量之大，几乎难以计算出来。多年来全球数学家绞尽脑汁，试图找到一个高效算法。本文介绍了利用人工神经网络来解决这一传统难题的另一个方法。
1.生物神经网络基础
1.1生物神经元的结构
大脑中的神经元形态不尽相同，功能也有差异，但从组成结构来看个神经元细胞是有共性的。神经元在结构上由细胞体、树突、轴突和突触四部分组成。如图1
图1 神经细胞的结构
1.2生物神经元的信息处理机理
神经细胞利用电-化学过程交换信号。输入信号来自另一些神经细胞。这些神经细胞的轴突末梢（也就是终端）和本神经细胞的树突相遇形成突触，信号就从树突上的突触进入本细胞。信号在大脑中实际怎样传输是一个相当复杂的过程，但就我们而言，重要的是把它看成和现代的计算机一样，利用一系列的0和1来进行操作。就是说，大脑的神经细胞也只有两种状态：兴奋（fire）和不兴奋（即抑制）。发射信号的强度不变，变化的仅仅是频率。神经细胞利用一种我们还不知道的方法,把所有从树突突触上进来的信号进行相加，如果全部信号的总和超过某个阀值，就会激发神经细胞进入兴奋状态，这时就会有一个电信号通过轴突发送出去给其他神经细胞。如果信号总和没有达到阀值，神经细胞就不会兴奋起来。
1.3人脑的功能特点
由于脑神经细胞间数量巨大的连接，使得大脑具备难以置信的能力。尽管每一个神经细胞仅仅工作于大约100Hz的频率，但因各个神经细胞都以独立处理单元的形式并行工作着，使人类的大脑具有下面这些非常明显的特点：
能实现无监督的学习。有关我们的大脑的难以置信的事实之一，就是它们能够自己进行学习，而不需要导师的监督教导。如果一个神经细胞在一段时间内受到高频率的刺激，则它和输入信号的神经细胞之间的连接强度就会按某种过程改变，使得该神经细胞下一次受到激励时更容易兴奋。
与此相反的是，如果一个神经细胞在一段时间内不受到激励，那么它的连接的有效性就会慢慢地衰减。这一现象就称可塑性
1）对损伤有冗余性。大脑即使有很大一部分受到了损伤，它仍然能够执行复杂的工作。例如在人类身上能见到这种现象：由于心血管病或其他原因引起大面积脑组织坏死的脑梗死病人经过一段时间的康复训练后也能恢复健康，特别是，记忆力并不受损。
2）处理信息的效率极高。神经细胞之间电-化学信号的传递，与一台数字计算机中CPU的数据传输相比，速度是非常慢的，但因神经细胞采用了并行的工作方式，使得大脑能够同时处理大量的数据。例如，大脑视觉皮层在处理通过我们的视网膜输入的一幅图象信号时，大约只要100ms的时间就能完成。考虑到神经细胞的平均工作频率只有100Hz，100ms的时间就意味只能完成10个计算步骤！想一想通过我们眼睛的数据量有多大，你就可以看到这真是一个难以置信的伟大工程了。
3）善于归纳推广。大脑和数字计算机不同，它极擅长的事情之一就是模式识别，并能根据已熟悉信息进行归纳推广。例如，我们能够阅读他人所写的手稿上的文字，即使我们以前从来没见过他所写的东西。
2.人工神经网络
鉴于大脑具有以上的优点科学家们创造出了人工神经网络。人工神经网络是基于生理学上真实的人脑神经网络的结构和原理以及基本特性进行理论抽象、简化和模拟而成的一种信息处理系统。
2.1人工神经元网络的神经元模型
与大脑类似，神经元是人工神经网络的基本单元。目前人们提出的神经元模型有多种，其中影响最大的是1943年心理学家McCulloch和数学家W . Pitts在分析总结神经元基本特性的基础上首先提出的M-P模型。如图2
图2 M-P模型示意图
其中x1，x2，…xn。为输入信息号，为神经元内部状态，θj为阈值，W i j为两个神经元的连接权值，f (.) 为激发函数，y j为输出，上述模型的数学形式为：
y j=?(∑ W ij X j - θ i)
这样，每一个神经元的输入接受前一级神经元的输出，因此，对神经元j的总作用为所有输入的加权和减去阈值(若无阈值则不减)，此作用引起神经元j的状态变化，而神经元j的输出y，为其当前状态( ∑ W ij X j - θ I )的函数。
2.2人工神经元网络模型
大量神经元相互连接组成庞大的神经网络才能实现对复杂信息的处理与存储。因此必须按一定的规则将神经元连接成神经网络，这里根据神经网络内部信息的传递方向，可分为两类：前馈型网络和反馈型网络。如图3、4
图3：前馈网络图4：反馈网络
2.3人工神经网络与冯诺依曼计算机相比的特点
1）大规模并行处理
人工神经网络的基本结构模仿人脑，具有并行处理的特征，可以大大提高工作速度。
2）分布式存储
人工神经网络的信息存储在神经元之间的连接强度分布上，存储区与运算区合为一体。
3）自适应学习过程
人工神经网络可以通过学习和训练过程改变突触权重值以适应周围环境要求
2.4人工神经网络可以实现的功能
1）联想记忆功能
人工神经网络可以通过预先存储信息和学习机制进行自适应训练，从不完整的信息和噪声干扰中恢复原始的完整信息，如图像恢复，语音处理。
2）分类与识别功能
神经网络对外界输入样本有很强的识别与分类能力，对输入样本的分类实际是在样本空间中找出符合分类要求的分割区域。
3）优化计算功能
在约束条件下寻找参数组合，建立目标函数，使函数值达到最小。人工神经网络的优化计算在TSP及生产调度问题上有重要的应用。
3. Hopfield神经网络的算法分析
美国加州理工学院物理学家J.J. Hopfield教授于1983年提出一种单层反馈神经网络，后来人们将这种反馈网络称作Hopfield网络。Hopfield网络分为离散型和连续型两种网络模型分别记作DHNN 和CHNN。
3.1离散型Hopfield网络
3.1.1离散型Hopfield网络的结构
图5
离散型Hopfield网络为单层结构，网络由n个单元组成，Ni表示第i个神经元，这些神经元既是输入单元，也是输出单元，各个单元一般取同样的功能函数f，为分析方便各单元的阈值全部为0，其中x=（x1，x2，… xn)为网络输入，y=（y1，y2，… yn)为网络输出。
3.1.2Hopfield神经网络运行的几个基本概念
1）网络的稳定性与能量函数
网络从初态v(0)开始变化，经过有限次递归后其状态不再变化，即v(t+Δt)=v(t)则称网络是稳定的。此时网络的能量函数为极小值。网络的能量函数与网络的稳定性密切相关，网络的能量函数在网络状态按一定规则变化时能自动趋向能量的极小点。
2）网络的吸引子
在网络经过时间t后，若状态ν(t)是稳定的，则称ν(t)是网络的稳定吸引子。
3）吸引子的吸引域
网络按照运行规则会最终稳定在同一吸引子ν(t)上的特定的初始状态ν(0)的集合称为网络的吸引域。
3.2连续型Hopfield神经网络
连续型Hopfield神经网络的结构与离散型Hopfield神经网络结构相同，所有神经元都随时间t 并行更新，网络随时间连续变化。图6给出了基于电子线路的CHNN的拓扑结构。CHNN模型与该电子线路直接对应，每一个神经元可以可以用一个运算放大器来模拟。神经元的输入、输出分别对应运放的输入电压ui，和输出电压νi。用输入端电导表示连接权值Wij，外界偏置电流Ij相当于阈值。
图6：CHNN的电子线路图
分析图中第j个神经元电路，根据基尔霍夫定律可写出以下方程：令Rj=1/gj得：
（1）
令得：
（2）
定义CHNN的能量函数为
（3）
如果图6中的运算放大器接近理想运放，上式的积分项可以忽略不计，即能量函数可以写为：
（4）
可以证明CHNN的能量函数总是单调递减的，即网络最终能够达到稳定状态。
4. Hopfield神经网络用于求解TSP问题
应用CHNN解决优化计算问题的一般需要以下步骤：
1）分析问题：使网络输出与问题的解相对应
2）构造网络能量函数：使其最小值与问题最佳解相对应
3）由能量函数倒推出神经网络的结构
4）该神经网络的稳定状态就是在一定条件下问题的解
TSP问题是一个经典的人工智能难题，这里假定有n个城市，要求寻找一条闭合路径，此路径历经每个城市且仅一次，且要求路径的距离最短。用穷举法求解时，对n个城市而言，可能的路径总数为n！/2n。当n较大时，其路径数量之大，用传统的数字计算机也无法在有限的时间内寻得答案。CHNN为解决解决TSP难题开辟了一条崭新的途径。其基本思想是把TSP问题映射到CHNN 中去，并设法用网络能量代表路径总长。这样，当网络的能量随着模拟电子线路状态的变迁，最终收敛于极小值是，问题的较佳解便随之求得。由于模拟电子线路中的全部原件都是并行运行的，所以即便城市数目很多，也能在较短的时间内求解。
4.1 TSP问题的表示方法
表1
该表中以5个城市为例，表中表示的路径顺序为C > A > E > B > D > C。旅行的路线总长为d CA+
d AE+ d EB+ d BD+ d DC。观察可得该矩阵特点为：
1.因为每个城市仅能访问一次，所以每行只有一个“1”
2.因为每次只能访问一个城市，所以每列只有一个“1”
3.全部元素中“1”的总和为n
4.2构造TSP问题能量函数
根据以上矩阵的特点我们可以得到下面的多项式
（5）
上式中A,B,C为常数，其中第一项表示城市行约束，每个城市行中的1不多于一个时，应有第一项的值为零。第二项表示位置列约束，每个位置列中的1不多于一个时，应有第二项的值为零。第三项表示整个矩阵的全局约束，当第三项为零时恰好能够保证矩阵中1的个数等于城市的个数。当满足上式的约束条件时，只能说明路线是有效的，但不一定是最优的，因此还需引入能反应路线长度的约束条件。这里定义反应路线长度的条件为：
（6）
上式中D为常数，如果X、Y两城市相邻，则VXi(VYi-1+VXi+1)必为1，否则为零。因此当上式得最小值时可得旅行的最短路线。综合以上式子，可得TSP问题的能量函数如下：
（7）
用TSP问题的能量函数对应电子线路的能量函数标准式可以得到神经元Xi和Yj之间的权值和外部输入的偏置电流的表达式（8）和（9）：
（8）
（9）
其中：，
网络构成后，给定一个随机的初始输入，便有一个稳定状态对应于一个旅行路线，不同的初始输入所得到的旅行路线并不相同这些路线都是较佳或最佳的。将上式代入CHNN的运行方程，即可得到网络的运行方程为（10）式：
（10）
（11）(11)式中u0为初始值，这是n x n个神经元状态方程的通用表达式，为求得TSP的优化结果，需要求解
n x n个非线性方程的联立微分方程式，得到置换矩阵中n x n个元素的全部状态，即对上式编程即可用软件实现求解TSP问题的CHNN算法。
参考文献
[1]朱大奇.人工神经网络原理及应用.北京：科学出版社，2006.1--29 65--91
[2]韩力群.人工神经网络教程.北京：北京邮电大学出版社，2006.1--45 146--175
[3]刘乃文. 神经网络在Tsp问题中的应用研究，大连理工大学，2002
神经网络在PLC控制系统中的应用
神经网络在PLC控制系统中的应用 2010-11-11 18:30:00 来源：中国自动化网浏览：47 网友评论条点击查看 摘要：神经网络具有自学习、自调整、自适应能力。本文介绍了由PLC控制实现的神经网络PID自适应控制器。实验表明，该技术对于提高控制精度是行之有效的。具有在调速系统中推广应用的价值。 关键词：PLC;PID控制器;神经网络;直流调速系统 一、引言 虽然目前的交、直流传动系统都有较成熟的控制方案，采用线性PI或PID 调节器可以取得基本满意的控制效果。但是，常参数的PID调节器只对线形系统有效，它们的控制性能因为系统的非线性而降低。在电力传动系统中，虽可以建立电机模型，但是电机本身和负载的一些参数（如交流电机的转子电阻、拖动负载的转动惯量）是无法确定的、时变的。电气设备的机械饱和特性，开关的失控时间、控制延时都是不能精确建模的非线性因素。然而将模糊与神经网络技术引入电力传动系统设计智能控制器却可以很好地克服电力传动对象变参数、非线性等问题，大大提高系统的鲁棒性。引入模糊与神经网络技术的主要优点是不需要过程的复杂模型，而且适应性强，容易实现。 本文是将PID控制规律融进神经网络[3]之中，实现神经网络与PID控制规律的本质结合，共同完成PID自适应调节，并用PLC实现神经网络PID自适应控制，确保电力传动系统的控制精度和可靠性。 二、PID自适应控制器 常规PID控制算法为： （1） 用求和代替积分，微分用有限差分代替，即上式为： （2） 式中T为采样周期，KP是比例系数，KI=KP/TI是积分比例系数，KD=KPTD是微分比例系数。 根据上式，组成由两层线性神经网络构造的控制器，如图1所示。它是由比例、积分、微分三个单元组成的一种动态前向网络，各层神经元个数、连接方式、连接权值是按PID 控制规律的基本原则和已有的经验确定，能够保证系统的稳定和快速收敛。
神经网络的应用及其发展
神经网络的应用及其发展 [摘要] 该文介绍了神经网络的发展、优点及其应用和发展动向，着重论述了神经网络目前的几个研究热点，即神经网络与遗传算法、灰色系统、专家系统、模糊控制、小波分析的结合。 [关键词]遗传算法灰色系统专家系统模糊控制小波分析 一、前言 神经网络最早的研究20世纪40年代心理学家Mcculloch和数学家Pitts合作提出的，他们提出的MP模型拉开了神经网络研究的序幕。神经网络的发展大致经过三个阶段：1947~1969年为初期，在这期间科学家们提出了许多神经元模型和学习规则，如MP模型、HEBB学习规则和感知器等；1970~1986年为过渡期，这个期间神经网络研究经过了一个低潮，继续发展。在此期间，科学家们做了大量的工作，如Hopfield教授对网络引入能量函数的概念，给出了网络的稳定性判据，提出了用于联想记忆和优化计算的途径。1984年，Hiton教授提出Boltzman机模型。1986年Kumelhart等人提出误差反向传播神经网络，简称BP 网络。目前，BP网络已成为广泛使用的网络；1987年至今为发展期，在此期间，神经网络受到国际重视，各个国家都展开研究，形成神经网络发展的另一个高潮。神经网络具有以下优点： (1) 具有很强的鲁棒性和容错性，因为信息是分布贮于网络内的神经元中。 (2) 并行处理方法，使得计算快速。 (3) 自学习、自组织、自适应性，使得网络可以处理不确定或不知道的系统。 (4) 可以充分逼近任意复杂的非线性关系。 (5) 具有很强的信息综合能力，能同时处理定量和定性的信息，能很好地协调多种输入信息关系，适用于多信息融合和多媒体技术。 二、神经网络应用现状 神经网络以其独特的结构和处理信息的方法，在许多实际应用领域中取得了显著的成效，主要应用如下： (1) 图像处理。对图像进行边缘监测、图像分割、图像压缩和图像恢复。
人工神经网络原理及实际应用
人工神经网络原理及实际应用 摘要：本文就主要讲述一下神经网络的基本原理，特别是BP神经网络原理，以及它在实际工程中的应用。 关键词：神经网络、BP算法、鲁棒自适应控制、Smith－PID 本世纪初，科学家们就一直探究大脑构筑函数和思维运行机理。特别是近二十年来。对大脑有关的感觉器官的仿生做了不少工作，人脑含有数亿个神经元，并以特殊的复杂形式组成在一起，它能够在“计算＂某些问题（如难以用数学描述或非确定性问题等）时，比目前最快的计算机还要快许多倍。大脑的信号传导速度要比电子元件的信号传导要慢百万倍，然而，大脑的信息处理速度比电子元件的处理速度快许多倍，因此科学家推测大脑的信息处理方式和思维方式是非常复杂的，是一个复杂并行信息处理系统。1943年Macullocu和Pitts融合了生物物理学和数学提出了第一个神经元模型。从这以后，人工神经网络经历了发展，停滞，再发展的过程，时至今日发展正走向成熟，在广泛领域得到了令人鼓舞的应用成果。本文就主要讲述一下神经网络的原理，特别是BP神经网络原理，以及它在实际中的应用。 1.神经网络的基本原理 因为人工神经网络是模拟人和动物的神经网络的某种结构和功能的模拟，所以要了解神经网络的工作原理，所以我们首先要了解生物神经元。其结构如下图所示： 从上图可看出生物神经元它包括，细胞体：由细胞核、细胞质与细胞膜组成；
轴突：是从细胞体向外伸出的细长部分，也就是神经纤维。轴突是神经细胞的输出端，通过它向外传出神经冲动；树突：是细胞体向外伸出的许多较短的树枝状分支。它们是细胞的输入端，接受来自其它神经元的冲动；突触：神经元之间相互连接的地方，既是神经末梢与树突相接触的交界面。 对于从同一树突先后传入的神经冲动，以及同一时间从不同树突输入的神经冲动，神经细胞均可加以综合处理，处理的结果可使细胞膜电位升高；当膜电位升高到一阀值（约40mV），细胞进入兴奋状态，产生神经冲动，并由轴突输出神经冲动；当输入的冲动减小，综合处理的结果使膜电位下降，当下降到阀值时。细胞进入抑制状态，此时无神经冲动输出。“兴奋”和“抑制”，神经细胞必呈其一。 突触界面具有脉冲/电位信号转换功能，即类似于D/A转换功能。沿轴突和树突传递的是等幅、恒宽、编码的离散电脉冲信号。细胞中膜电位是连续的模拟量。 神经冲动信号的传导速度在1～150m/s之间，随纤维的粗细，髓鞘的有无而不同。 神经细胞的重要特点是具有学习功能并有遗忘和疲劳效应。总之，随着对生物神经元的深入研究，揭示出神经元不是简单的双稳逻辑元件而是微型生物信息处理机制和控制机。 而神经网络的基本原理也就是对生物神经元进行尽可能的模拟，当然，以目前的理论水平，制造水平，和应用水平，还与人脑神经网络的有着很大的差别，它只是对人脑神经网络有选择的，单一的，简化的构造和性能模拟，从而形成了不同功能的，多种类型的，不同层次的神经网络模型。 2.BP神经网络 目前，再这一基本原理上已发展了几十种神经网络，例如Hopficld模型，Feldmann等的连接型网络模型，Hinton等的玻尔茨曼机模型，以及Rumelhart 等的多层感知机模型和Kohonen的自组织网络模型等等。在这众多神经网络模型中，应用最广泛的是多层感知机神经网络。 这里我们重点的讲述一下BP神经网络。多层感知机神经网络的研究始于50年代，但一直进展不大。直到1985年，Rumelhart等人提出了误差反向传递学习算法（即BP算），实现了Minsky的多层网络设想，其网络模型如下图所示。它可以分为输入层，影层（也叫中间层），和输出层，其中中间层可以是一层，也可以多层，看实际情况而定。
人工神经网络的发展及应用
人工神经网络的发展与应用 神经网络发展 启蒙时期 启蒙时期开始于1980年美国著名心理学家W．James关于人脑结构与功能的研究，结束于1969年Minsky和Pape~发表的《感知器》(Perceptron)一书。早在1943年，心理学家McCulloch和数学家Pitts合作提出了形式神经元的数学模型(即M—P模型)，该模型把神经细胞的动作描述为：1神经元的活动表现为兴奋或抑制的二值变化；2任何兴奋性突触有输入激励后，使神经元兴奋与神经元先前的动作状态无关；3任何抑制性突触有输入激励后，使神经元抑制；4突触的值不随时间改变；5突触从感知输入到传送出一个输出脉冲的延迟时问是0．5ms。可见，M—P模型是用逻辑的数学工具研究客观世界的事件在形式神经网络中的表述。现在来看M—P 模型尽管过于简单，而且其观点也并非完全正确，但是其理论有一定的贡献。因此，M—P模型被认为开创了神经科学理论研究的新时代。1949年，心理学家D．0．Hebb 提出了神经元之间突触联系强度可变的假设，并据此提出神经元的学习规则——Hebb规则，为神经网络的学习算法奠定了基础。1957年，计算机学家FrankRosenblatt提出了一种具有三层网络特性的神经网络结构，称为“感知器”(Perceptron)，它是由阈值性神经元组成，试图模拟动物和人脑的感知学习能力，Rosenblatt认为信息被包含在相互连接或联合之中，而不是反映在拓扑结构的表示法中；另外，对于如何存储影响认知和行为的信息问题，他认为，存储的信息在神经网络系统内开始形成新的连接或传递链路后，新 的刺激将会通过这些新建立的链路自动地激活适当的响应部分，而不是要求任何识别或坚定他们的过程。1962年Widrow提出了自适应线性元件(Ada—line)，它是连续取值的线性网络，主要用于自适应信号处理和自适应控制。 低潮期 人工智能的创始人之一Minkey和pape~经过数年研究，对以感知器为代表的网络系统的功能及其局限性从数学上做了深入的研究，于1969年出版了很有影响的《Perceptron)一书，该书提出了感知器不可能实现复杂的逻辑函数，这对当时的人工神经网络研究产生了极大的负面影响，从而使神经网络研究处于低潮时期。引起低潮的更重要的原因是：20世纪7O年代以来集成电路和微电子技术的迅猛发展，使传统的冯·诺伊曼型计算机进入发展的全盛时期，因此暂时掩盖了发展新型计算机和寻求新的神经网络的必要性和迫切性。但是在此时期，波士顿大学的S．Grossberg教授和赫尔辛基大学的Koho—nen教授，仍致力于神经网络的研究，分别提出了自适应共振理论(Adaptive Resonance Theory)和自组织特征映射模型(SOM)。以上开创性的研究成果和工作虽然未能引起当时人们的普遍重视，但其科学价值却不可磨灭，它们为神经网络的进一步发展奠定了基础。 复兴时期 20世纪80年代以来，由于以逻辑推理为基础的人工智能理论和冯·诺伊曼型计算机在处理诸如视觉、听觉、联想记忆等智能信息处理问题上受到挫折，促使人们
研究生必备的人工神经网络电子书汇总(31本)
研究生必备的人工神经网络电子书汇总（31本） 这些都是我从淘宝和百度文库里面搜集到的电子书，需要的可以联系我 QQ：415295747，或者登录我的博客https://www.360docs.net/doc/113871637.html,/u/1723697742 1.神经网络在应用科学和工程中的应用——从基础原理到复杂的模式识别 5 译者序 6 前 9 致谢 10 作者简介 11 目录 19 第1章从数据到模型:理解生物学、生态学和自然系统的复杂性和挑战 27 第2章神经网络基础和线性数据分析模型 72 第3章用于非线性模式识别的神经网络 105 第4章神经网对非线性模式的学习 166 第5章从数据中抽取可靠模式的神经网络模型的实现 205 第6章数据探测、维数约简和特征提取 235 第7章使用贝叶斯统计的神经网络模型的不确定性评估 276 第8章应用自组织映射的方法发现数据中的未知聚类 359 第9章神经网络在时间序列预测中的应用 458 附录 2.MATLB 神经网络30个案例分析 第1章BP神经网络的数据分类——语音特征信号分类 23 第2章BP神经网络的非线性系统建模——非线性函数拟合 33 第3章遗传算法优化BP神经网络——非线性函数拟合 48 第4章神经网络遗传算法函数极值寻优——非线性函数极值寻优 57 第5章基于BP_Adsboost的强分类器设计——公司财务预警建模 66 第6章PID神经元网络解耦控制算法——多变量系统控制 77 第7章RBF网络的回归——非线性函数回归的实现 85 第8章GRNN的数据预测——基于广义回归神经网络的货运量预测 93 第9章离散Hopfield神经网络的联想记忆——数字识别 102 第10章离散Hopfield神经网络的分类——高校科研能力评价 112 第11章连续Hopfield神经网络的优化——旅行商问题优化计算 124 第12章SVM的数据分类预测——意大利葡萄酒种类识别 134 第13章SVM的参数优化——如何更好的提升分类器的性能
(完整版)卷积神经网络CNN原理、改进及应用
卷积神经网络（CNN） 一、简介 卷积神经网络（Convolutional Neural Networks，简称CNN）是近年发展起来，并引起广泛重视的一种高效的识别方法。 1962年，Hubel和Wiesel在研究猫脑皮层中用于局部敏感和方向选择的神经元时发现其独特的局部互连网络结构可以有效地降低反馈神经网络的复杂性，继而提出了卷积神经网络[1]（Convolutional Neural Networks-简称CNN）7863。现在，CNN已经成为众多科学领域的研究热点之一，特别是在模式分类领域，由于该网络避免了对图像的复杂前期预处理，可以直接输入原始图像，因而得到了更为广泛的应用。 Fukushima在1980年基于神经元间的局部连通性和图像的层次组织转换，为解决模式识别问题，提出的新识别机（Neocognitron）是卷积神经网络的第一个实现网络[2]。他指出，当在不同位置应用具有相同参数的神经元作为前一层的patches时，能够实现平移不变性1296。随着1986年BP算法以及T-C问题[3]（即权值共享和池化）9508的提出，LeCun和其合作者遵循这一想法，使用误差梯度（the error gradient）设计和训练卷积神经网络，在一些模式识别任务中获得了最先进的性能[4][5]。在1998年，他们建立了一个多层人工神经网络，被称为LeNet-5[5]，用于手写数字分类,这是第一个正式的卷积神经网
络模型3579。类似于一般的神经网络，LeNet-5有多层，利用BP算法来训练参数。它可以获得原始图像的有效表示，使得直接从原始像素（几乎不经过预处理）中识别视觉模式成为可能。然而，由于当时大型训练数据和计算能力的缺乏，使得LeNet-5在面对更复杂的问题时，如大规模图像和视频分类，不能表现出良好的性能。 因此，在接下来近十年的时间里，卷积神经网络的相关研究趋于停滞，原因有两个：一是研究人员意识到多层神经网络在进行BP训练时的计算量极其之大，当时的硬件计算能力完全不可能实现；二是包括SVM在内的浅层机器学习算法也渐渐开始暂露头脚。直到2006年，Hinton终于一鸣惊人，在《科学》上发表文章，使得CNN再度觉醒，并取得长足发展。随后，更多的科研工作者对该网络进行了改进。其中，值得注意的是Krizhevsky等人提出的一个经典的CNN架构，相对于图像分类任务之前的方法，在性能方面表现出了显著的改善2674。他们方法的整体架构，即AlexNet[9]（也叫ImageNet），与LeNet-5相似，但具有更深的结构。它包括8个学习层（5个卷积与池化层和3个全连接层），前边的几层划分到2个GPU上，（和ImageNet 是同一个）并且它在卷积层使用ReLU作为非线性激活函数，在全连接层使用Dropout减少过拟合。该深度网络在ImageNet大赛上夺冠，进一步掀起了CNN学习热潮。 一般地，CNN包括两种基本的计算，其一为特征提取，每个神经元的输入与前一层的局部接受域相连，并提取该局部的特征。一旦该
人工神经网络BP算法简介及应用概要
科技信息 2011年第 3期 SCIENCE &TECHNOLOGY INFORMATION 人工神经网络是模仿生理神经网络的结构和功能而设计的一种信息处理系统。大量的人工神经元以一定的规则连接成神经网络 , 神经元之间的连接及各连接权值的分布用来表示特定的信息。神经网络分布式存储信息 , 具有很高的容错性。每个神经元都可以独立的运算和处理接收到的信息并输出结果 , 网络具有并行运算能力 , 实时性非常强。神经网络对信息的处理具有自组织、自学习的特点 , 便于联想、综合和推广。神经网络以其优越的性能应用在人工智能、计算机科学、模式识别、控制工程、信号处理、联想记忆等极其广泛的领域。 1986年 D.Rumelhart 和 J.McCelland [1]等发展了多层网络的 BP 算法 , 使BP 网络成为目前应用最广的神经网络。 1BP 网络原理及学习方法 BP(BackPropagation 网络是一种按照误差反向传播算法训练的多层前馈神经网络。基于 BP 算法的二层网络结构如图 1所示 , 包括输入层、一个隐层和输出层 , 三者都是由神经元组成的。输入层各神经元负责接收并传递外部信息 ; 中间层负责信息处理和变换 ; 输出层向 外界输出信息处理结果。神经网络工作时 , 信息从输入层经隐层流向输出层 (信息正向传播 , 若现行输出与期望相同 , 则训练结束 ; 否则 , 误差反向进入网络 (误差反向传播。将输出与期望的误差信号按照原连接通路反向计算 , 修改各层权值和阈值 , 逐次向输入层传播。信息正向传播与误差反向传播反复交替 , 网络得到了记忆训练 , 当网络的全局误差小于给定的误差值后学习终止 , 即可得到收敛的网络和相应稳定的权值。网络学习过程实际就是建立输入模式到输出模式的一个映射 , 也就是建立一个输入与输出关系的数学模型 :
人工神经网络题库
人工神经网络 系别：计算机工程系 班级： 1120543 班 学号： 13 号 姓名： 日期：2014年10月23日
人工神经网络 摘要：人工神经网络是一种应用类似于大脑神经突触联接的结构进行信息处理的数学模型。在工程与学术界也常直接简称为神经网络或类神经网络。神经网络是一种运算模型，由大量的节点（或称神经元）之间相互联接构成，由大量处理单元互联组成的非线性、自适应信息处理系统。它是在现代神经科学研究成果的基础上提出的，试图通过模拟大脑神经网络处理、记忆信息的方式进行信息处理。 关键词：神经元；神经网络；人工神经网络；智能； 引言 人工神经网络的构筑理念是受到生物（人或其他动物）神经网络功能的运作启发而产生的。人工神经网络通常是通过一个基于数学统计学类型的学习方法（Learning Method ）得以优化，所以人工神经网络也是数学统计学方法的一种实际应用，通过统计学的标准数学方法我们能够得到大量的可以用函数来表达的局部结构空间，另一方面在人工智能学的人工感知领域，我们通过数学统计学的应用可以来做人工感知方面的决定问题(也就是说通过统计学的方法，人工神经网络能够类似人一样具有简单的决定能力和简单的判断能力)，这种方法比起正式的逻辑学推理演算更具有优势。 一、人工神经网络的基本原理 1-1神经细胞以及人工神经元的组成 神经系统的基本构造单元是神经细胞，也称神经元。它和人体中其他细胞的关键区别在于具有产生、处理和传递信号的功能。每个神经元都包括三个主要部分:细胞体、树突和轴突。树突的作用是向四方收集由其他神经细胞传来的信息，轴突的功能是传出从细胞体送来的信息。每个神经细胞所产生和传递的基本信息是兴奋或抑制。在两个神经细胞之间的相互接触点称为突触。简单神经元网络及其简化结构如图2-2所示。 从信息的传递过程来看，一个神经细胞的树突，在突触处从其他神经细胞接受信号。 这些信号可能是兴奋性的，也可能是抑制性的。所有树突接受到的信号都传到细胞体进行综合处理，如果在一个时间间隔内，某一细胞接受到的兴奋性信号量足够大，以致于使该细胞被激活，而产生一个脉冲信号。这个信号将沿着该细胞的轴突传送出去，并通过突触传给其他神经细胞.神经细胞通过突触的联接形成神经网络。 图1-1简单神经元网络及其简化结构图 （1）细胞体 （2）树突 （3）轴突 （4）突触
模糊神经网络的基本原理与应用概述
模糊神经网络的基本原理与应用概述 摘要：模糊神经网络（FNN）是将人工神经网络与模糊逻辑系统相结合的一种具有强大的自学习和自整定功能的网络,是智能控制理论研究领域中一个十分活跃的分支,因此模糊神经网络控制的研究具有重要的意义。本文旨在分析模糊神经网络的基本原理及相关应用。 关键字：模糊神经网络，模糊控制，神经网络控制，BP算法。 Abstract:A fuzzy neural network is a neural network and fuzzy logic system with the combination of a powerful. The self-learning and self-tuning function of the network, is a very intelligent control theory research in the field of active branches. So the fuzzy neural network control research has the vital significance. The purpose of this paper is to analysis the basic principle of fuzzy neural networks and related applications. Key Words: Fuzzy Neural Network, Fuzzy Control, Neural Network Control, BP Algorithm.
1人工神经网络的基本原理与应用概述 1.1人工神经网络的概念 人工神经网络(Artificial Neural Network,简称ANN)是由大量神经元通过极其丰富和完善的联接而构成的自适应非线性动态系统,它使用大量简单的相连的人工神经元来模仿生物神经网络的能力,从外界环境或其它神经元获得信息,同时加以简单的运算,将结果输出到外界或其它人工神经元。神经网络在输入信息的影响下进入一定状态,由于神经元之间相互联系以及神经元本身的动力学特性,这种外界刺激的兴奋模式会自动地迅速演变成新的平衡状态,这样具有特定结构的神经网络就可定义出一类模式变换即实现一种映射关系。由于人工神经元在网络中不同的联接方式,就形成了不同的人工神经网络模式,其中误差反向传播网络(Back-Propagation Network,简称BP网络)是目前人工神经网络模式中最具代表性,应用得最广泛的一种模型【1,2】。 1.2人工神经网络研究的发展简史 人工神经网络的研究己有近半个世纪的历史但它的发展并不是一帆风顺的,神经网络的研究大体上可分为以下五个阶段[3]。 (1) 孕育期(1956年之前):1943年Mcculloch与Pitts共同合作发表了“A logical calculus of ideas immanent in Nervous Activity”一文,提出了神经元数学模型(即MP模型)。1949年Hebb提出Hebb学习法则,对神经网络的发展做出了重大贡献。可以说,MP模型与学习规则为神经科学与电脑科学之间架起了沟通的桥梁,也为后来人工神经网络的迅速发展奠定了坚实的基础。 (2)诞生期(1957年一1968年):1960年Widrow提出了自适应线性元件模型,Rossenbaltt在1957年提出了第一种人工神经网络模式一感知机模式,由二元值神经元组成,该模式的产生激起了人工神经网络研究的又一次新高潮。(3)挫折期(1969年一1981年):1969年Minsky等人写的《感知机》一书以数学
神经网络简介abstract( 英文的)
Abstract: Artificial Neural Network is a math model which is applied to process information of the structure which is similar to Brain synaptic connection in a distributed and parallel way. Artificial Neural Network is a computing model, and it contains of many neurons and the connection of the neurons. Every neuron represents a special output function which is called activation function. The connection of neurons represents a weighted value of the connection’s signal. Neuron is a basic and essential part of Artificial Neural Network, and it includes the sum of weighted value, single-input single-output (SISO) system and nonlinear function mapping. The element of neuron can represent different thing, such as feature, alphabet, conception and some meaningful abstract pattern. In the network, the style of neuron’s element divided into three categories: input element, output element and hidden element. The input element accepts the signal and data of outer world; the output element processes result output for system; the hidden element cannot find by outer world, it between input element and output element. The weighted value represents the strength of connection between neurons. Artificial Neural Network adopted the mechanisms that completely different from traditional artificial intelligence and information processing technology. It conquers the flaw of traditional artificial intelligence in Intuitive handling and unstructured information processing aspect. It is adaptive, self-organized and learning timely, and widely used in schematic identification signal processing.
几种神经网络模型及其应用
几种神经网络模型及其应用 摘要：本文介绍了径向基网络，支撑矢量机，小波神经网络，反馈神经网络这几种神经网络结构的基本概念与特点，并对它们在科研方面的具体应用做了一些介绍。 关键词：神经网络径向基网络支撑矢量机小波神经网络反馈神经网络Several neural network models and their application Abstract: This paper introduced the RBF networks, support vector machines, wavelet neural networks, feedback neural networks with their concepts and features, as well as their applications in scientific research field. Key words: neural networks RBF networks support vector machines wavelet neural networks feedback neural networks 2 引言 随着对神经网络理论的不断深入研究，其应用目前已经渗透到各个领域。并在智能控制，模式识别，计算机视觉，自适应滤波和信号处理，非线性优化，语音识别，传感技术与机器人，生物医学工程等方面取得了令人吃惊的成绩。本文介绍几种典型的神经网络，径向基神经网络，支撑矢量机，小波神经网络和反馈神经网络的概念及它们在科研中的一些具体应用。 1. 径向基网络 1.1 径向基网络的概念 径向基的理论最早由Hardy，Harder和Desmarais 等人提出。径向基函数（Radial Basis Function，RBF）神经网络，它的输出与连接权之间呈线性关系，因此可采用保证全局收敛的线性优化算法。径向基神经网络（RBFNN）是 3 层单元的神经网络，它是一种静态的神经网络，与函数逼近理论相吻合并且具有唯一的最佳逼近点。由于其结构简单且神经元的敏感区较小，因此可以广泛地应用于非线性函数的局部逼近中。主要影响其网络性能的参数有3 个：输出层权值向量，隐层神经元的中心以及隐层神经元的宽度(方差)。一般径向基网络的学习总是从网络的权值入手，然后逐步调整网络的其它参数，由于权值与神经元中心及宽度有着直接关系，一旦权值确定，其它两个参数的调整就相对困难。 其一般结构如下： 如图 1 所示，该网络由三层构成,各层含义如下： 第一层：输入层：输入层神经元只起连接作用。 第二层：隐含层：隐含层神经元的变换函数为高斯核. 第三层：输出层：它对输入模式的作用做出响应. 图 1. 径向基神经网络拓扑结构 其数学模型通常如下： 设网络的输入为x = ( x1 , x2 , ?, xH ) T，输入层神经元至隐含层第j 个神经元的中心矢 为vj = ( v1 j , v2 j , ?, vIj ) T (1 ≤j ≤H)，隐含层第j 个神经元对应输入x的状态为：zj = φ= ‖x - vj ‖= exp Σx1 - vij ) 2 / (2σ2j ) ，其中σ(1≤j ≤H)为隐含层第j个神
神经网络应用实例
神经网络 在石灰窑炉的建模与控制中的应用神经网络应用广泛，尤其在系统建模与控制方面，都有很好应用。下面简要介绍神经网络在石灰窑炉的建模与控制中的应用，以便更具体地了解神经网络在实际应用中的具体问题和应用效果。 1 石灰窑炉的生产过程和数学模型 石灰窑炉是造纸厂中一个回收设备，它可以使生产过程中所用的化工原料循环使用，从而降低生产成本并减少环境污染。其工作原理和过程如图1所示，它是一个长长的金属圆柱体，其轴线和水平面稍稍倾斜，并能绕轴线旋转，所以又 CaCO（碳酸钙）泥桨由左端输入迴转窑，称为迴转窑。含有大约30%水分的 3 由于窑的坡度和旋转作用，泥桨在炉内从左向右慢慢下滑。而燃料油和空气由右端喷入燃烧，形成气流由右向左流动，以使泥桨干燥、加热并发生分解反应。迴转窑从左到右可分为干燥段、加热段、煅烧段和泠却段。最终生成的石灰由右端输出，而废气由左端排出。 图1石灰窑炉示意图 这是一个连续的生产过程，原料和燃料不断输入，而产品和废气不断输出。在生产过程中首先要保证产品质量，包括CaO的含量、粒度和多孔性等指标，因此必须使炉内有合适的温度分布，温度太低碳酸钙不能完全分解，会残留在产品中，温度过高又会造成生灰的多孔性能不好，费燃料又易损坏窑壁。但是在生产过程中原料成分、含水量、进料速度、燃油成分和炉窑转速等生产条件经常会发生变化，而且有些量和变化是无法实时量测的。在这种条件下，要做到稳定生产、高质量、低消耗和低污染，对自动控制提出了很高的要求。 以前曾有人分析窑炉内发生的物理-化学变化，并根据传热和传质过程来建立窑炉的数学模型，认为窑炉是一个分布参数的非线性动态系统，可以用二组偏
人工神经网络及其应用实例_毕业论文
人工神经网络及其应用实例人工神经网络是在现代神经科学研究成果基础上提出的一种抽 象数学模型，它以某种简化、抽象和模拟的方式，反映了大脑功能的 若干基本特征，但并非其逼真的描写。 人工神经网络可概括定义为：由大量简单元件广泛互连而成的复 杂网络系统。所谓简单元件，即人工神经元，是指它可用电子元件、 光学元件等模拟，仅起简单的输入输出变换y = σ (x)的作用。下图是 3 中常用的元件类型： 线性元件：y = 0.3x，可用线性代数法分析，但是功能有限，现在已不太常用。 2 1.5 1 0.5 -0.5 -1 -1.5 -2 -6 -4 -2 0 2 4 6 连续型非线性元件：y = tanh(x)，便于解析性计算及器件模拟，是当前研究的主要元件之一。
离散型非线性元件： y = ? 2 1.5 1 0.5 0 -0.5 -1 -1.5 -2 -6 -4 -2 2 4 6 ?1, x ≥ 0 ?-1, x < 0 ，便于理论分析及阈值逻辑器件 实现，也是当前研究的主要元件之一。 2 1.5 1 0.5 0 -0.5 -1 -1.5 -2 -6 -4 -2 2 4 6
每一神经元有许多输入、输出键，各神经元之间以连接键（又称 突触）相连，它决定神经元之间的连接强度（突触强度）和性质（兴 奋或抑制），即决定神经元间相互作用的强弱和正负，共有三种类型： 兴奋型连接、抑制型连接、无连接。这样，N个神经元（一般N很大）构成一个相互影响的复杂网络系统，通过调整网络参数，可使人工神 经网络具有所需要的特定功能，即学习、训练或自组织过程。一个简 单的人工神经网络结构图如下所示： 上图中，左侧为输入层（输入层的神经元个数由输入的维度决定），右侧为输出层（输出层的神经元个数由输出的维度决定），输入层与 输出层之间即为隐层。 输入层节点上的神经元接收外部环境的输入模式，并由它传递给 相连隐层上的各个神经元。隐层是神经元网络的内部处理层，这些神 经元在网络内部构成中间层，不直接与外部输入、输出打交道。人工 神经网络所具有的模式变换能力主要体现在隐层的神经元上。输出层 用于产生神经网络的输出模式。 多层神经网络结构中有代表性的有前向网络（BP网络）模型、
神经网络分析应用
基于动态BP神经网络的预测方法及其应用来源：中国论文下载中心 [ 08-05-05 15:35:00 ] 作者：朱海燕朱晓莲黄頔编辑：studa0714 摘要人工神经网络是一种新的数学建模方式，它具有通过学习逼近任意非线性映射的能力。本文提出了一种基于动态BP神经网络的预测方法，阐述了其基本原理，并以典型实例验证。 关键字神经网络，BP模型，预测 1 引言 在系统建模、辨识和预测中，对于线性系统，在频域，传递函数矩阵可以很好地表达系统的黑箱式输入输出模型；在时域，Box-Jenkins方法、回归分析方法、ARMA模型等，通过各种参数估计方法也可以给出描述。对于非线性时间序列预测系统，双线性模型、门限自回归模型、ARCH模型都需要在对数据的内在规律知道不多的情况下对序列间关系进行假定。可以说传统的非线性系统预测，在理论研究和实际应用方面，都存在极大的困难。相比之下，神经网络可以在不了解输入或输出变量间关系的前提下完成非线性建模[4，6]。神经元、神经网络都有非线性、非局域性、非定常性、非凸性和混沌等特性，与各种预测方法有机结合具有很好的发展前景，也给预测系统带来了新的方向与突破。建模算法和预测系统的稳定性、动态性等研究成为当今热点问题。目前在系统建模与预测中，应用最多的是静态的多层前向神经网络，这主要是因为这种网络具有通过学习逼近任意非线性映射的能力。利用静态的多层前向神经网络建立系统的输入/输出模型，本质上就是基于网络逼近能力，通过学习获知系统差分方程中的非线性函数。但在实际应用中，需要建模和预测的多为非线性动态系统，利用静态的多层前向神经网络必须事先给定模型的阶次，即预先确定系统的模型，这一点非常难做到。近来，有关基于动态网络的建模和预测的研究，代表了神经网络建模和预测新的发展方向。 2 BP神经网络模型 BP网络是采用Widrow-Hoff学习算法和非线性可微转移函数的多层网络。典型的BP算法采用梯度下降法，也就是Widrow-Hoff算法。现在有许多基本的优化算法，例如变尺度算法和牛顿算法。如图1所示，BP神经网络包括以下单元：①处理单元(神经元)（图中用圆圈表示），即神经网络的基本组成部分。输入层的处理单元只是将输入值转入相邻的联接权重，隐层和输出层的处理单元将它们的输入值求和并根据转移函数计算输出值。②联接权重(图中如V,W)。它将神经网络中的处理单元联系起来，其值随各处理单元的联接程度而变化。③层。神经网络一般具有输入层x、隐层y和输出层o。④阈值。其值可为恒值或可变值，它可使网络能更自由地获取所要描述的函数关系。⑤转移函数F。它是将输入的数据转化为输出的处理单元，通常为非线性函数。
BP神经网络原理及应用(最新知识点)
BP神经网络原理及应用 1 人工神经网络简介 1。1生物神经元模型 神经系统的基本构造是神经元（神经细胞)，它是 处理人体内各部分之间相 互信息传递的基本单元。据神经生物学家研究的结 果表明,人的大脑一般有1011 个神经元。每个神经 1010 元都由一个细胞体,一个连接其他神经元的轴突和一些向外伸出的其它较短分支--树突组成。轴突的功能是将本神经元的输出信号（兴奋)传递给别的神经元。其末端的许多神经末梢使得兴奋可以同时送给多个神经元。树突的功能是接受来自其它神经元的兴奋.神经元细胞体将接受到的所有信号进行简单地处理后由轴突输出.神经元的树突与另外的神经元的神经末梢相连的部分称为突触....感谢聆听...
1.２人工神经元模型 神经网络是由许多相互连接的处理单元组成。这些处理单元通常线性排列成 组,称为层。每一个处理单元有许多输入量，而对每一个输入量都相应有一个相关 联的权重。处理单元将输入量经过加权求和，并通过传递函数的作用得到输出量, 再传给下一层的神经元。目前人们提出的神经元模型已有很多,其中提出最早且影 响最大的是19４3年心理学家ＭcCullｏch和数学家Pitｔs在分析总结神经元基本特性的基础上首先提出的M—P模型，它是大多数神经网络模型的基础。
)()(1∑=-=n i j i ji j x w f t Y θ （1。1) 式(1。1)中，ｊ为神经元单元的偏置（阈值）,ji w 为连接权系数(对于激发状态,ji w 取正值,对于抑制状态，ji w 取负值）,n 为输入信号数目，j Y 为神经元 输出，t 为时间，f （）为输出变换函数，有时叫做激发或激励函数,往往采用0和1二值函数或Ｓ形函数. １．3人工神经网络的基本特性 人工神经网络由神经元模型构成；这种由许多神经元组成的信息处理网络具有并行分布结构.每个神经元具有单一输出，并且能够与其它神经元连接；存在许多（多重）输出连接方法,每种连接方法对应一个连接权系数。严格地说，人工神经网络是一种具有下列特性的有向图：...感谢聆听... （１）对于每个节点存在一个状态变量xi ； （２）从节点i 至节点j ，存在一个连接权系数wji; (3）对于每个节点,存在一个阈值 j;
BP神经网络模型简介及相关优化案例
华东理工大学 2016-2017学年第2学期 研究生《石油化工单元数学模型》课程论文2017年6月 开课学院：化工学院任课教师：欧阳福生 考生姓名：丁桂宾学号：Y45160205 成绩：
BP 神经网络模型简介及相关优化案例 一、神经网络模型简介 现代神经生理学和神经解剖学的研究结果表明，人脑是极其复杂的，由约1010个神经元交织在一起，构成一个网状结构。它能完成诸如智能、思维、情绪等高级精神活动，被认为是最复杂、最完美、最有效的一种信息处理系统。人工神经网络（Artificial Neural Networks ，以下简写为 NN ）是指模拟人脑神经系统的结构和功能，运用大量的处理部件，通过数学方法，由人工方式构造的网络系统[1] 。 图1表示作为 NN 基本单元的神经元模型，它有三个基本要素[2]： （1） 一组连接权（对应于生物神经元的突触），连接强度由各连接上的权值表示，权值为正表示激励，为负表示抑制。 （2） 一个求和单元，用于求取各输入信息的加权和（线性组合）。 （3） 一个非线性激励函数，起非线性映射作用并限制神经元输出幅度在一定的范围内（一般限制在[0,1]或[?1,+1]之间）。 图1 神经元模型 此外还有一个阈值k θ（或偏置 k k b θ-=）。以上作用可以用数学式表达为： ∑= =P j kj k j x w u ；
k k k u θν-=； ) (k k v y ?= 式中 P x x x x ,...,,,321为输入信号， kP k k k w w w w ,...,,,321为神经元k 的权值， k u 为 线性组合结果， k θ为阈值。(.)?为激励函数，k y 为神经元k 的输出。 神经网络理论突破了传统的、串行处理的数字电子计算机的局限，是一个非线性动力学系统，并以分布式存储和并行协同处理为特色，虽然单个神经元的结构和功能极其简单有限，但是大量的神经元构成的网络系统所实现的行为却是极其丰富多彩的。
神经网络的应用及其发展
神经网络的应用及其发展 来源：辽宁工程技术大学作者：苗爱冬 [摘要] 该文介绍了神经网络的发展、优点及其应用和发展动向，着重论述了神经网络目前的几个研究热点，即神经网络与遗传算法、灰色系统、专家系统、模糊控制、小波分析的结合。 [关键词]遗传算法灰色系统专家系统模糊控制小波分析 一、前言 神经网络最早的研究20世纪40年代心理学家Mcculloch和数学家Pitts 合作提出的，他们提出的MP模型拉开了神经网络研究的序幕。神经网络的发展大致经过三个阶段：1947~1969年为初期，在这期间科学家们提出了许多神经元模型和学习规则，如MP模型、HEBB学习规则和感知器等；1970~1986年为过渡期，这个期间神经网络研究经过了一个低潮，继续发展。在此期间，科学家们做了大量的工作，如Hopfield教授对网络引入能量函数的概念，给出了网络的稳定性判据，提出了用于联想记忆和优化计算的途径。1984年，Hiton教授提出Boltzman机模型。1986年Kumelhart等人提出误差反向传播神经网络，简称BP 网络。目前，BP网络已成为广泛使用的网络；1987年至今为发展期，在此期间，神经网络受到国际重视，各个国家都展开研究，形成神经网络发展的另一个高潮。神经网络具有以下优点： (1) 具有很强的鲁棒性和容错性，因为信息是分布贮于网络内的神经元中。 (2) 并行处理方法，使得计算快速。 (3) 自学习、自组织、自适应性，使得网络可以处理不确定或不知道的系统。 (4) 可以充分逼近任意复杂的非线性关系。 (5) 具有很强的信息综合能力，能同时处理定量和定性的信息，能很好地协调多种输入信息关系，适用于多信息融合和多媒体技术。 二、神经网络应用现状 神经网络以其独特的结构和处理信息的方法，在许多实际应用领域中取得了显著的成效，主要应用如下： (1) 图像处理。对图像进行边缘监测、图像分割、图像压缩和图像恢复。 (2) 信号处理。能分别对通讯、语音、心电和脑电信号进行处理分类；可用于海底声纳信号的检测与分类，在反潜、扫雷等方面得到应用。 (3) 模式识别。已成功应用于手写字符、汽车牌照、指纹和声音识别，还可用于目标的自动识别和定位、机器人传感器的图像识别以及地震信号的鉴别等。 (4) 机器人控制。对机器人眼手系统位置进行协调控制，用于机械手的故障诊断及排除、智能自适应移动机器人的导航。 (5) 卫生保健、医疗。比如通过训练自主组合的多层感知器可以区分正常心跳和非正常心跳、基于BP网络的波形分类和特征提取在计算机临床诊断中的应用。 (6) 焊接领域。国内外在参数选择、质量检验、质量预测和实时控制方面都