人工神经网络

人工神经网络

1.简介

人工神经网络(ANN)技术是一种信息处理范式,灵感来自于生物神经系统的方式,如大脑、处理信息。这拍拉的DIGM关键的元素是一款新颖的结构的信息处理系统。它是由大量的高度互连处理单元(神经元都)工作在和谐中要解决的具体问题。像人一样,学习结合起来,通过实例说明。一个人工神经网络被配置为某一特定的应用,如模式识别或数据分类,通过一个学习的过程。学习在生物体系需要调整突触连接之间的神经元都存在。结合起来,这是有据可查的。在更多的实际统计数据的模糊神经网络的非线性建模工具。它们能被用于模型复杂的输入-输出关系或发现模式在数据。本文将简要介绍有关知识安和打好基础,为进一步研究。

2.人工神经网络的特点

神经网络模型,拥有的卓越的能力也衍生意义是从复杂的或不精确数据，可被用于提取模式和趋势发现太过于复杂以致难以被任何人类或其它计算机技术注意到。一个受过训练的神经网络可以被认为是一个“专家”在信息范畴内,才能来来作分析。这位专家就可以被用来提供给测感和给定新的有兴趣环境，然后提问“假如如此”的问题。

神经网络的其他优点包括:

自适应学习能力:学习如何做任务的基础上,给出了初始数据训练或经验。

自组织:一个人工神经网络可以创造自己的组织或表示它收到的信息时的学习时间。

实时操作:安计算可以对并联,和特殊的硬件设备被设计和制造,充分利用这一能力。

通过冗余信息容错编码:局部破坏网络导致相应的降解性能。然而,一些网络能力甚至可以保留与主要网络伤害。

3.一个简单的神经元和复杂的神经元

一个简单神经元

一种人工神经元是一种装置与许多输入和一个输出,如图。3-26。神经元的有两种模式的操作:培养模式和使用模式。在训练模式中,神经元可以训练的射击(或没有),为特定的输入方式。在使用模式,当一个教输入模式检测到输入、输出成为其关联的输出电流。如果输入模式不属于这教的名单输入方式、烧成规则是用来确定是否发生火灾或不是。

射击规则是在神经网络的一个重要概念。一个射击规则决定了一个人如何计算一个神经

元是否应该火任何输入模式。它涉及到所有的输入方式,不仅的节点进行训练的。

一个简单的射击规则都可以用海明距离实现技术。规则如下:

对一个节点取一个训练模式集合作为输入，其中的一些模式会引起激发（记为有导师集1），另外的那些不会引发激发（记为有导师集0）。如果不在这个集合中的模式引起该节点激发，则表明这些模式中与有导师集1最近的模式数目要多于与有导师集0最近的模式数目。如果这两种模式数目平衡，则此模式为未定义状态。

一个复杂的神经元

以前的神经元,什么都不做常规计算机不做了。一种更加复杂的神经元(见图)。3-27中所表现的一样。从先前的模型的区别是,投入是“加强”每个感觉输入在影响决策的重量是依赖于特定的输入。一种输入的重量是一个数乘以输入时给出了加权的输入。这些加权的输入,然后加上在一起,如果他们超过预先设定的阈值,该神经元就反射。其他任何情况下神经元不会射击。

图3-27，提出了一种j th神经元结构。输出y j和输入X j = (x1, x2,...x n*.)之间的关系为

阈值和f()特征函数有很多可选择的形式。

以数学术语，神经元放电当且仅当XW1j···X2W2j + + + XnWnj >θj。加上输入的重量和阈值。这使得神经元一个非常灵活的和强大的。神经元的有能力适应特定的情况下,通过改变其重量和/或阈值。各种算法存在,导致了“适应”;神经元传给最常用的伊洛瓦底江三角洲规则和背面的误差传播。前者是用于前馈网络,后者适用于反馈网络。

4.神经元网络体系结构

前馈网络

前馈anns允许信号只有一种形式传输,从输入对输出。这里不存在一种反馈(回路)如下。任何层的输出不会影响同一层。前馈anns趋于直线前进的网络,将输入与输出。他们正在越来越广泛地应用于模式识别方法。这种类型的组织也被称之为“自下而上”或“自上而下”的。

反馈网络

反馈网络在两个方向通过引入相连的网络会有信号传输。反馈网络都是很强大的和可得十分复杂。反馈网络都是动态的,他们的“国家”是不断变化的,直到他们达到平衡的观点。他们仍在平衡点,直到输入的变化和新的平衡需要被发现。反馈体系结构也被叫作互动或复发,虽然后者一词常用于表示反馈连接在单层组织。

网络层

最常见的类型的人工神经网络是由三层单位;一层“输入”单位被连接到一层“隐”单位,这是连接到一层“输出”单位(见图.3-28)

输入单元的活动的原始信息代表输入网络。

每个单元的活动是由隐藏的活动上输入单元和权重间的连接输入和隐藏的单位。

输出设备(如打印机)的行为取决于隐藏的活动单元和权重的隐层和输出单元。

这个简单的类型的网络很有趣,因为隐藏的单位都可以自由地去建构自己的陈述输入的。的连接权值确定的输入层和隐单位,如果每个人都是活跃的隐藏的单位,然后通过改变这些权重,隐藏的单位可以选择代表是什么的。

我们还区分单层和多层体系结构的实现。在单层结构中,所有的单位被连接到另一个,构成最一般条件下的更大的潜力,是多层递阶结构计算功率比组织。在多层网络,单位往往就是被层,而不是全球号。

5.学习过程

信息被储存在权值矩阵W的神经网络。权重的测量是学习。根据学习进行方式,我们能区分出两种主要类型的神经网络:

·固话网络：权重是不能改变的，即。dW/dt = 0.

·自适应网：能够改变自己的权。即。dW/df≠0.

·监督式学习包括外部老师,所以各输出单元反应的话告诉其设定的输入信号应当。在学习过程中全局信息可能被需要。监督式学习典范的修正错误的知识,包括强化学习和随机学习。

一个重要的问题是有关监督式学习的问题,即误差收敛e。对应的之间的误差,计算单位价格预期。这样做的目的是为了确定一套重量误差最小化。一次著名的方法是很常见的,这对许多学习范例是最小平方主站软件收敛性。

·无监督学习使用没有外部的老师,是基于本地信息。它也被认为是自组织,在这个意义上说,它自我组织数据呈现在网络和检测他们的紧急集体性质。赫布型（Hebbian）典范的非监督的学习是学习和竞争学习。

我们说一种神经网络学习的学习阶段和线下的运作阶段是截然不同的。一种基于神经网络的在线学习和操作,如果它可以学习在同一时间内。通常,监督式学习进行离线,而非监督的学习进行在线。

传递函数

ANN的行为既取决于权重和投入产出功能(传递函数),这是指定的,直到这功能通常分

为三类:线性(或坡道、)阈值和非特异性功能,输出线性单元活动是成正比的加权总输出。为单位,输出阈值的设定两个层次,这取决于输入高于或少于某一阈值。为18.75%单位,输出连续不断的而不是线性的输入的变化。单位承担更多相似之处(18.75%）到真实的神经元都比线性和阈值的单元,但必须考虑到所有三个粗糙近似。