注意网络神经机制的述评

注意网络神经机制的述评
注意网络神经机制的述评

Advances in Psychology 心理学进展, 2017, 7(3), 366-376 Published Online March 2017 in Hans. https://www.360docs.net/doc/3b15695510.html,/journal/ap https://https://www.360docs.net/doc/3b15695510.html,/10.12677/ap.2017.73047

文章引用: 孙玉静, 尚雪松(2017). 注意网络神经机制的述评. 心理学进展, 7(3), 366-376.

A Review of the Neural Mechanism of Attention Networks

YuJing Sun 1, Xuesong Shang 2

1

Faculty of Psychology, Southwest University, Chongqing 2The School of Psychology and Cognitive Science, East China Normal University, Shanghai

Received: Mar. 7th , 2017; accepted: Mar. 28th , 2017; published: Mar. 31st , 2017

Abstract Based on the early attentional classification theory, new studies define three terms about the at-tentional function from the anatomy and nerval function including alerting, orienting and execu-tive control. By examining the target and cue effects in the response time of the signal, it can be noted that the network testing can effectively detect the efficiency of each network in the system. Neuroimaging studies have confirmed that these networks have a certain degree of anatomical and functional independence. The attention network test (ANT) examines the effects of cues and targets within a single reaction time task to provide a means of exploring the efficiency of the alerting, orienting, and executive control networks involved in attention. However, some interac-tions in these three networks are proved. The revised attention network test (ANT-R) adjusts cue-target interval and cue validity. Related research results support the hypothesis of functional integration and interaction of these brain networks. In this paper, on the basis of existing research summary, the study proposed future prospects. Keywords

Attention Network Test (ANT), Alerting, Orienting, Executive Control, Neural Mechanisms

注意网络神经机制的述评

孙玉静1,尚雪松2

1

西南大学心理学部,重庆 2华东师范大学心理与认知科学学院,上海

收稿日期:2017年3月7日;录用日期:2017年3月28日;发布日期:2017年3月31日

孙玉静,尚雪松

摘 要

在早期注意分类理论研究的基础上,新近研究从注意的特定功能和解剖结构方面定义了三个分离的注意网络,分别为注意警觉,注意定向和执行控制。通过检验信号反应时任务中的靶子和线索效应,注意网络测试可有效探测注意系统中各网络的工作效率。大量神经成像研究结果发现注意网络在神经结构组织上的分离。然而,新近研究显示注意网络之间并非完全分离的关系。修订的注意网络测试对线索与目标间隔以及线索的有效性进行了调整,证实了注意网络功能整合的假设,注意网络中相关脑区间存在相互作用。本文对已有研究做了系统总结,并提出对未来研究的展望。

关键词

注意网络测试,警觉,定向,执行控制,神经机制

Copyright ? 2017 by authors and Hans Publishers Inc. This work is licensed under the Creative Commons Attribution International License (CC BY). https://www.360docs.net/doc/3b15695510.html,/licenses/by/4.0/

1. 引言

注意作为认知功能的重要组成部分,是众多研究者的关注焦点。随着认知神经科学的迅速发展,利用先进的脑成像技术,可以精准的测量出大脑在完成特定注意任务时的信号变化,从而确定注意网络的功能结构和解剖定位。在传统注意理论研究基础之上,许多研究者竞相提出关于注意组成结构的设想。Posner 依据注意不同的功能维度进行分析,提出应将注意的不同作用与功能纳入到注意系统研究之中。协同负责不同注意过程的脑区可形成特定注意功能的脑网络(Posner & Petersen, 1990),注意系统按功能可分为警觉,定向和执行控制(Xuan, Mackie, Spagna, Wu, Tian, & Hof et al., 2016; Posner & Petersen, 2012; Posner & Fan, 2008; Fan, Mccandliss, Sommer, Raz, & Posner, 2002; Fan, Mccandliss, Sommer, & Raz, 2006; Posner & Dehaene, 1994; Posner & Petersen, 1990)。简单来说,注意警觉为达到并维持在对外界信息高度敏感的状态;注意定向是指从大量外界输入的信息中选择特定信息的过程;而注意的执行控制功能是完成监测和解决冲突的一系列复杂行为的能力(Posner & Petersen, 2012; Fan, Gu, Guise, Liu, Fossella, & Wang et al., 2009; Fan, Mccandliss, Fossella, Flombaum, & Posner, 2005)。注意作为一项基本的心理功能,需依赖于具体大脑解剖结构的运作。不同的注意网络拥有相互分离的神经回路,并会受不同脑损伤,身体健康状况以及药物,神经递质作用的影响。此外,对伴随有各种注意功能损伤的神经及精神疾病人群的研究,为注意网络神经机制的研究提供了可贵的研究证据,促进了注意功能的效用机制研究(Hu, P., Fan, J., Xu, P., Zhou, S., Zhang, L., & Tian, Y. et al., 2015)。为了检验注意的各项功能及确定各功能之间的关系,Fan 等设计了注意网络测试(attention network test, ANT)。注意网络测试结合提示目标任务和Flanker 任务,使得在一次整合任务操作中能够同时量化警觉、定向和执行控制的行为学数据(Fan et al., 2006)。

2. 注意网络的理论

William James 的《心理学原理》(1890)书中注意的定义为:“在一些同时存在的可能目标和思维流中,某一个对象清晰而生动地占据了个体的心智。”在此后心理学发展的一个百多年里,研究者提出了很多关于注意的理论模型。Posner (1990)在大量的脑成像及脑损伤研究的基础上提出,人脑内至少有三个注意Open Access

孙玉静,尚雪松

子网络:前注意网络(anterior attentional net, AAN)、后注意网络(posterior attentional net, PAN)和警觉系统。

AAN的认知功能体现为对冲突的控制,引导空间注意搜索,如冲突适应,AAN是一种执行控制网络。

PAN主要涉及对空间信息的定向和选择。其认知功能主要表现为在刺激呈现之前出现的线索会对刺激的反应产生易化效应。LaBerge (2000)提出注意的三角形网络理论,认为注意的表达(expression of attention)是通过增强特异性皮层功能柱的神经活动而实现的,注意的表达还需要额叶的控制和丘脑对注意循环网络的激活与维持,由此形成了三角形的网络机制(罗跃嘉,魏景汉,2004)。注意的表达表现为对目标刺激激活水平的增强,并加强对分心物的抑制作用(LaBerge, 2000)。注意的控制主要表现在两个方面,一是先于刺激呈现,认知者头脑中已经存在了关于刺激的期许,是主要受意识影响的注意控制。二是主要受刺激所具有的特点引导的注意控制,神经生理学的大量研究表明额叶在注意的控制上起重要作用。随着认知神经科学等学科的发展,研究的科学性,客观性要求不断提高,对认知功能的研究也提出了更为严格的标准,促进了对注意内部机制的探索,Posner等依据注意的不同维度及功能特征提出的注意三网络模型理论,认为注意包括3个功能相对独立的子系统,分别是警觉(alerting)、定向(orienting)和执行控制(executive control),该理论得到了此后越来越多研究验证(Xuan et al. 2016; Posner & Petersen, 2012; Posner & Fan, 2008)。下面详细介绍一下注意的这三个网络。

2.1. 注意的三个网络

注意警觉是指对可能到来的刺激保持高度敏感的一种准备状态,促使对目标任务做出快速且准确的反应(Posner & Petersen, 1990)。常用警戒任务来测量注意的警觉功能(Posner, 1978; Posner, Inhoff, Friedrich, & Cohen, 1987)。即在目标刺激出现前先呈现一个线索刺激,以提示目标的出现,要求任务参与者既快又准的反应(Posner, 1978)。进一步研究发现警觉存在两种不同的机制,外源性警觉又称相位性警觉(phasic alerting)和内源性警觉也称固有警觉(tonic alerting)(Van Vleet, Chen, Vernon, Novakovicagopian, & D’Esposito, 2014)。前者是指在线索刺激出现后较短的时间内所产生的对目标刺激反应易化的能力,常以简单反应时作为衡量指标。在注意警觉任务测验研究中,主要利用的是线索刺激所提供的时间信息,即线索刺激预示了随后目标刺激的出现,促使任务参与者即刻警醒,以完成接下来的任务操作。而固有警觉则是在没有线索提示的情况下,个体对无从预知的外界刺激的注意激活状态。

研究大多集中于外源性注意警觉。以警觉信号为研究切入,神经心理学研究发现,其影响主要反映在反应选择的早期阶段(Hackley, & Valleinclán, 1999, 2003)。内源性警觉是与警戒更接近的一种注意状态,是对干扰刺激中可能出现的目标刺激的知觉敏感度。侧重不同,略有区别。外源性警觉侧重警觉信号对目标刺激加工的影响作用,而内源性警觉更倾向于表达个体在缺乏警觉信号时对目标的敏感程度。对不同状态下的心智漫游者进行注意警觉测验(胡楠茶,许百华,2012),发现行为表现上没有显著性的差异,内源性警觉是一种更稳定的注意过程,受当前的状态影响较小,主要与个体的神经系统活动类型有关。

新近有研究发现,警觉水平会受到背景颜色的调节,例如,在红色和灰色背景下警觉水平较高,表现为警觉网络脑区的丘脑和右侧额下回的激活,而在蓝色背景下没有这样的效应(Wang, Zhao, Xue, & Chen, 2016),外源性警觉更易于受个体当前状态的调节。

注意定向指的是从大量外界输入的信息中选择注意特定信息的能力(Corbetta, & Shulman, 2002; Fan et al., 2005; Posner, 1980),与传统注意分类理论中的选择性注意有一定程度的相似性。注意定向包含一个复杂的认知过程,主要由注意解离(disengaging),注意转移(shifting),注意投入(engaging)三个阶段组成。

具体讲,注意焦点从原来注意中心解脱,注意转移,重新定向,再投入到新的注意目标上。注意定向是一个注意转化的过程,先呈现线索刺激,引导反应目标的空间定向,测量对目标出现位置的反应数据(Fan et al., 2006)。研究空间注意定向时,要尤其注意线索与目标刺激之间的时间间隔。注意定向存在双阶段

孙玉静,尚雪松

效应,通常在呈现线索刺激之后的一段时间内,通常在300 ms,线索对目标刺激主要为易化效应,如果目标刺激未出现,则会出现返回抑制现象,即对呈现于已被线索化的空间位置上的目标反应出现滞后的现象(Posner, Rafal, Choate, & Vaughan, 1985)。

注意定向网络又包含内源性注意定向(endogenous orienting)和外源性注意定向(exogenous orienting)。内源性定向主要由大脑的前注意系统(anterior attentional net, AAN)负责。主要依赖于个体的目标意愿,即在目标刺激出现之前,个体已主动地将注意定位到与当前任务目标相关的空间位置上。是一种自上而下的注意定向过程。而外源性注意定向主要由后注意系统(posterior attentional net, PAN)负责,受外界环境刺激的驱动。注意的关注中心为外界刺激对注意的吸引,通常受刺激强度,刺激间对比以及刺激的新颖性等影响较大。是一种自下而上的注意定向过程。

注意的执行控制功能是指为能完成目标指向行为而抑制常规反应倾向,依据任务要求,灵活调整行为的能力(Haykin, Fatemi, Setoodeh, & Xue, 2012; Posner, & Snyder, 1975; Matsumoto & Tanaka, 2004a; Aron, Fletcher, Bullmore, Sahakian, & Robbins, 2003; Aron, Monsell, Sahakian, & Robbins, 2004; Macdonald, Cohen, Stenger, & Carter, 2000)。研究执行控制的冲突任务主要包括两类,一是对刺激优势反应维度抑制与对刺激弱势反应维度执行的冲突。优势反应维度即为较强的,常规性反应的刺激方面,反之,则为刺激的弱势反应方面(Fan et al., 2006),如Stroop任务(Stroop, 1935)和Simon任务(Simon, 1969),在刺激冲突的Stroop任务中,刺激同时包含颜色和语义两个维度,任务要求对刺激的颜色进行反应,而刺激的语义信息会干扰对刺激颜色信息的加工(唐丹丹,2016)。Simon任务则属于反应冲突任务,任务包含刺激呈现位置和反应位置两个维度(Simon, 1969),刺激的呈现位置为任务无关信息,当刺激呈现的位置与反应位置存在不一致时,反应会受刺激呈现位置的干扰。二是目标刺激属性与两侧刺激属性间不一致的冲突,需排除两侧刺激对中间目标刺激的干扰,典型的任务范式有Flanker任务(Eriksen, & Eriksen, 1974)。

神经成像结果显示被试在完成Flanker任务时,大脑左侧前额叶能较早地监测到任务中的冲突信息,并将冲突信息有效的传递到中前区(赵晓月,唐丹丹,2015)。在反应任务中,一方面中前区能根据观察条件的一致性灵活地调整注意资源以有效地完成反应任务,另一方面它再向右前额叶传递控制信息(Bush, Luu, & Posner, 2000; Dickenson, Berkman, Arch, & Lieberman, 2013),使之及时解决冲突(Macdonald et al., 2000),从而表现出由冲突观察所诱发的冲突适应。通过对认知控制经典任务范式中的参数设置进行调节,研究者还区分了执行控制的两种功能:目标维持与冲突解决(Engle & Kane, 2003)。

2.2. 注意网络测试

基于注意三网络模型理论,Fan等设计编写了一套简短的用以评估注意警觉,定向和执行控制的注意网络测验(attention network test, ANT)。利用ANT能够快速有效地测验警觉、定向与执行控制这三个注意网络的功能效率(Fan et al., 2009)。ANT是一个简单的30分钟左右的测试,任务简单,适用性强,对于一些脑损伤患者,伴有注意功能损伤的神经及精神疾病人群,甚至注意力缺陷多动症的孩子都比较容易完成,均以任务反应时作为衡量功能效率的指标(Fan et al., 2006)。

注意网络测验的便捷性和有效性促使测验的使用得到广泛应用。ANT已广泛用于脑损伤,中风,精神分裂症,抑郁症,多动症等多种注意功能异常群体的注意功能评估中(Kratz, Studer, Malcherek, Erbe, Moll, & Heinrich, 2011)。在大量采用ANT作为注意各功能网络评估为主要手段的研究中都得到了较高测验信度。同时,大量研究结果也证实了注意三功能网络之间的独立性,神经成像研究发现注意网络在神经组织结构上的分离。注意网络测试作为一种行为测量,已应用于新兴的基因对注意网络连接影响的研究之中(Fan et al., 2006)。

孙玉静,尚雪松

注意网络测验具体讲就是先呈现一个星号线索,用以提示接下来靶子出现的位置和时间,任务共包含四个线索条件:不出现星号为无线索(no cue),星号在中央注视点位置出现为中央线索(center cue),星号在注视点上下同时出现为双线索(double cue),仅在注视点的上方或下方出现为空间线索(spatial cue)。

随后,靶子箭头在注视点的上方或下方出现,同时伴随着两侧的干扰箭头,这些干扰箭头可能和靶子箭头方向一致,也有可能不一致,被试的任务就是判断出靶子箭头的方向(Fan et al., 2006)。

为了优化注意功能间的对比并探究注意网络之间的相互作用,Fan等(2009)对注意网络测验任务做了修订,修订的注意网络测试对线索和目标的间隔以及线索的有效性进行了调整,新的范式很好的结合了Flanker任务和警觉信号的优势,由原测验任务版本发展而来(Fan et al., 2006)。修改后的测验任务设置了三种线索条件(无线索,双线索、空间线索),并减少了目标条件(一致和不一致)。更重要的是,不同于以往的研究中使用的单侧任务设计(Greene et al., 2008; Fan et al., 2005),线索的有效性操作纳入考虑,两者都使用中心线索而不是双线索条件。以往研究也有对线索有效性进行操作(Simon, Bish, Bearden, Ding, Ferrante, & Nguyen et al., 2005)。在修订的注意测验任务中操纵线索和目标的间隔来检验警觉和定向的速度,以及警觉和冲突处理之间的相互作用。此外,对任务中的Flanker一致性和位置的一致性也进行操作。

有研究支持注意功能整合假设,以及注意网络脑区存在相互作用(Fan et al., 2009; Xuan et al., 2016)。

其表现为警觉网络会抑制执行功能网络,在提前有警觉信号显示的试次中研究观察到一个更大的Flanker 效应。定向网络对执行功能网络有促进作用,Flanker效应在线索条件下比非线索条件下更小。

注意网络效率操作定义

根据注意网络测试(ANT)原理(Fan et al., 2006),三个注意网络功能的操作定义为实验条件与适当的参考条件对比的行为数据,相应的反应时间和正确率为评估注意网络的指标。三个注意网络的效率计算如下:

警觉网络效率= 无线索提示RT ?有线索提示RT,有线索提示比无线索提示增加了警觉提醒,两差值越大表明警觉网络效率越高;

定向网络效率= 中央线索提示RT ?空间线索提示RT,在具备警醒状态的前提下,空间提示提供有效的定位信息,其差值越大,证明定向网络效率越高;

执行控制网络效率= 冲突条件靶刺激RT ?一致条件靶刺激RT,冲突条件比一致条件增加了冲突过程,因此该数值越大提示执行控制网络效率越低,处理冲突需要的时间越长,执行控制的能力越差。

修改过的版本增加了线索的出现位置和目标箭头相反的无效空间线索条件,排除外周线索对目标的预测性,能够得到单纯的外源性注意定向。通过操作空间线索的有效性可测量定向注意的注意解离及注意转移和注意投入。新修订版本可测量三个注意功能之间的相互作用(Fan et al., 2009; Xuan et al., 2016)。警觉和Flanker冲突交互效应,定向和Flanker冲突之间交互效应,有效性和Flanker冲突交互效应可以通过比较在不同线索条件下的冲突得分得到:

警觉与Flanker冲突相互作用= (无线索Flanker冲突RT ?无线索Flanker一致) ? (双线索Flanker冲突RT ?双线索Flanker一致RT)

警觉与Flanker冲突相互作用负值表示警觉对Flanker冲突的消极影响;

定向和Flanker冲突相互效应= (双线索Flanker冲突RT ?双线索Flanker一致RT) ?(有效线索Flanker冲突RT ?有效线索Flanker一致RT)

定向和Flanker冲突相互效应正值表示定向提高了冲突加工效率;

有效性和Flanker冲突相互效应= (无效线索Flanker冲突RT ?无效线索Flanker一致RT) ? (有效线索Flanker冲突RT ?有效线索Flanker一致RT)

孙玉静,尚雪松

有效性和Flanker冲突相互效应正值表示无效定向降低了Flanker冲突加工;

警觉和位置冲突,定向与位置冲突,有效性与位置冲突的交互作用可以比较不同线索条件下的冲突得分。

双线索条件相比无线索条件增加了时间线索,双线索对随后的目标出现提供了时间信息,而无线索条件则没有时间信息。两种条件的对比表明时间信息对即将到来的目标加工的影响,警觉效应对行为反应的影响。空间线索提供了目标刺激的时间和空间信息,有效线索表明了目标将要出现的确切位置,无效线索则提示的是目标将出现的对立位置,两种条件对比,可以检验有效的空间信息对即将到来的目标加工的作用,为有效性效应。有效性效应中有两个成分可以分离,解离(无效线索-双线索),与转移和投入(双线索-有效线索)。

3. 注意网络的神经机制

结合脑认知科学,神经生理学,神经影像学等学科的研究发现,不同的神经结构,神经递质与不同的注意网络功能相关。进一步证实了注意的各功能网络有其不同的神经生理机制。

注意的警觉系统与额叶和顶叶区域相关,尤其是大脑的右侧半球(Posner & Petersen, 1990)。相对注意网络神经研究的总体对讲,注意警觉功能成像研究较少,与警觉功能相关的脑区比较分散,主要分布在丘脑、额叶以及顶叶的部分区域(Paus, Zatorre, Hofle, Caramanos, Gotman, & Petrides et al. 1997; Fan et al., 2005; Raz & Buhle, 2006),其中包括背外侧前额叶,前扣带回,前脑岛,以及顶内沟及附近区域(Fan et al., 2005; Geyer, Ledberg, Schleicher, Kinomura, Schormann, & Burgel et al. 1996),并受到蓝斑影响的去甲肾上腺素的调控(Beane, M., & Marrocco, R. T. 2004; Marrocco & Davidson, 1998),受前额叶及前扣带回等控制脑区的调节(Cohen & Aston-Jones, 2005)。关于脑损伤的研究显示,与固有警觉相关的脑区主要在右半球,包括前扣带皮层、背外侧前额叶、顶下小叶以及丘脑和脑干等。与相位性警觉相关脑区主要位于前侧脑岛、背侧前运动皮层以及顶上和顶下皮层等(Gao, Gilmore, Shen, Smith, Zhu, & Lin, 2013)。线索提示的警示效应和警觉状态的减弱可通过减少去甲肾上腺素(norepinephrine, NE)的释放实现,并且不会对其他注意网络功能造成影响。

基于脑成像、电生理以及注意定向相关的脑损伤病例研究得出,注意定向与额顶系统有关——背侧注意网络和腹侧注意网络(Vincent, Kahn, Snyder, Raichle, & Buckner, 2008; Farrant & Uddin, 2015)。背侧注意网络主要分布于双侧顶内沟、额中回、额眼区、右侧小脑后叶、颞中回和颞下回小部分区域,其中额眼区域与顶内沟是背侧注意网络的重要节点(Farrant & Uddin, 2015)。背侧注意网络与空间注意能力密切相关,是自上而下注意控制中的主要激活脑区,顶叶对注意的解除起重要调节作用。腹侧注意网络与注意的重新定向(reorienting)有关,分布在右半球,主要包括右侧的腹侧额叶皮层和右侧的额顶联合(Farrant, & Uddin, 2015)。当小概率的目标出现时,腹侧注意网络激活明显,尤其是右侧额顶联合,被称为是“回路破坏者(circuit breaker)”(Corbetta et al., 2002),受外界环境刺激驱动,反应信号对背侧注意系统活动进行抑制,使注意重新定向于新异刺激,对外源性注意定向有关键作用。

大量的实验研究证据强调顶叶在空间认知中的作用(Sack, 2009; Posner, Walker, Friedrich, & Rafal, 1984)。定向任务的主要激活区域在顶叶和额叶皮层,以及右半球的颞顶联合区(Corbetta, Kincade, Ollinger, Mcavoy, & Shulman, 2000; Shulman, Tansy, Kincade, Petersen, Mcavoy, & Corbetta, 2002),顶上沟区域是定向网络的关键(Andersen, Snyder, Bradley, & Xing, 1997)。脑损伤的研究也证实了多空间表征激活在顶叶皮层(Friedrich, Egly, Rafal, & Beck, 1998)。前脑基底节受类胆碱系统的调节,对定向神经网络有重要的调控作用(Marrocco & Davidson, 1998)。定向功能皮层下神经激活在上丘(Ignashchenkova, Haarmeier, & Thier, 2004)。

孙玉静,尚雪松

执行控制负责监测和解决存在相互竞争的心理冲突的过程(Fan et al., 2006; Fan et al., 2009),根据以往脑成像研究证实,前扣带回和背外侧前额皮质是执行控制网络中的起重要作用,执行控制网络涉及丘脑、左侧额上回、双侧额下回、右侧额中回、右侧带状回和小脑蚓部(Matsumoto & Tanaka, 2004b)。冲突控制主要通过自上而下的加工实现,大脑前扣带回区域的主要功能为冲突监测,而背外侧前额叶主要负责解决冲突(Wang et al., 2016),注意网络测验的神经影像研究发现,执行控制网络不仅依赖于前额叶皮层,而是要依赖于广泛分布的额顶网络。脑损伤研究发现前扣带皮层损害的患者不能很好的完成执行控制任务(Fernandez-Duque & Posner, 2001; Posner & Rothbart, 1998)。腹侧背盖区的多巴胺系统对执行控制系统起重要的调控作用, 执行控制功能下降与多巴胺递质系统在内的某些神经递质浓度的降低和受体数量的减少有关(Braver, Gray, &Burgess, 2007)。研究报道执行功能缺乏主要与额叶损伤(Fotopoulou, Solms, & Turnbull, 2004),包括额叶肿瘤(D'Esposito & Postle, 1999),头部损伤及额颞叶痴呆有关。执行控制与额叶中线脑区,前扣带回,外侧前额叶等腹侧顶盖区,也即多巴胺系统的目标区域(Macdonald et al., 2000; Bush, Luu, & Posner, 2000)。ANT测验中的冲突解决与两类多巴胺基因相关(Fossella, Sommer, Fan, Wu, Swanson, & Pfaff et al., 2002)。

4. 注意网络之间的整合及相互作用

尽管已有研究证明三个注意网络是相互独立的(Fan et al., 2006),并且存在独立的神经基础(Fan et al., 2005),新近越来越多的研究发现注意网络之间存在相互作用,尤其是在注意网络测验修订之后,注意网络之间的相互作用的神经机制得到进一步揭示(Fan et al., 2009)。三个注意功能网络的协同作用才能实现认知控制(Mackie, Dam, & Fan, 2013),有证据表明注意网络的相互作用能够影响注意功能效率(Fan, Gu, Guise, Liu, Fossella, & Wang et al., 2009; Xuan et al., 2016)。警觉与执行控制的相互作用会增强冲突效应(Fan, Gu, Guise, Liu, Fossella, & Wang et al., 2009)。定向可以提高执行控制的效率(Fan et al., 2009; Alfredo, Yi, Melissa-Ann, Ming, Harvey, & Yanghua et al., 2015),并且警觉可以影响定向的行为效应(Fuentes & Campoy, 2008)。

修订版的注意网络测验fMRI研究发现,大脑皮层和皮层下区域会根据特定功能需求而相互协同作用以支持注意功能发挥(Fan, McCandliss, Fossella, Flombaum, Posner, 2005; Smith, Clithero, Rorden, & Karnath, 2013; Petersen, Robinson, & Morris, 1987; Posner, Walker, Friedrich, & Rafal, 1987; Shipp, 2004)。额顶控制网络在多种注意任务中都有激活,其主要脑区包括背外侧前额叶,额眼区域,顶内沟,前扣带回,前脑岛,基底节和丘脑区域(Weinbach, & Henik, 2012; Xuan, Mackie, Spagna, Wu, Tian, & Hof et al., 2016)。

警觉功能激活的区域在额顶网络及蓝斑,执行控制功能主要激活额顶网络及小脑区域,警觉与执行控制的交互作用脑区集中在额顶网络区域(Xuan et al., 2016; Weinbach & Henik, 2012)。定向网络与感觉系统,尤其是腹侧视觉脑区,表现出更强的整合,定向与执行控制相互作用脑区在丘脑区域,这些研究共同表明皮层与特定的皮层下区域之间存在动态相互作用,相互补充,共同对注意功能的发挥起着非常关键的作用(Xuan et al., 2016)。

5. 总结与展望

近年来,注意网络功能的研究主要指向于警觉,定向和执行控制这三个注意网络的神经机制探索以及在脑网络研究框架下三个注意功能网络之间的相互作用(Mackie et al., 2013; Posner & Petersen, 2012;

Raz & Buhle, 2006; Weinbach & Henik, 2012)。生化方面的研究发现,特定的神经地质主要驱动某个特定的注意网络,同时又对多个注意过程存在调节作用,表现出注意网络间的相互影响(Sara & Bouret, 2012)。

脑成像方面的研究发现注意各网络在额顶控制网络的重叠也证实了网络间的相互作用(Fan et al., 2005;

孙玉静,尚雪松

Vázquezmarrufo, Galvaocarmona, Gonzálezrosa, Hidalgomu?oz, Borges, & Ruizpe?a et al., 2014)。多方面的证据都表明注意网络之间既彼此独立又相互统一,不同的注意网络以优化的分配方式相互独立或协同的完成复杂的注意过程。

就目前的研究而言,尚且不能对注意网络的神经机制给出确切的解释。基于以往研究看,不同的研究范式会引发不同的研究结果和理论解释。不同研究所着眼的重点存在不同侧重,例如原版的注意网络测试简便易行,适应性强,但只能衡量三个注意网络独立的功能效率,不能对网络之间的相互作用进行研究;修订的注意网络测验可以测量网络间的相互作用,可结果计算不如原测验简便,仍需得到更多的研究验证。现研究测验主要为针对注意外源性警觉及定向功能的效率测验,尚未有对相位性警觉和内源性定向进行研究的测验范式,并且注意定向相关的背侧和腹侧注意系统之间相互关系还不甚明了。因此,改善实验设计,探明影响各网络相互独立与协作的影响因素,以及各网络内部的作用机制是未来研究需要着力的方向。

新近的研究深入到关于注意神经递质及基因组方向的研究。随着注意网络研究的不断扩展,研究表现出多样化临床化倾向。借先进脑成像技术的推进,研究需要探索出一个新的整合模式指导,以期未来研究更有指向性,明确性。基于神经影像技术的海量数据可用于提取活体人脑的全脑结构与功能连接模式。另外,数据处理的方法上也需要进一步发展,以揭示这些脑网络的组织形式及其拓扑性质,形成更完善的计算与分析框架,能够从系统的角度揭示人脑的工作机制以及脑疾病发生、发展的病理机制,更可能推动脑功能神经机制的研究新的突破和进展。

参考文献(References)

胡楠茶, 许百华(2012). 心智游移和注意网络关系的研究. 博士论文, 浙江大学, 杭州.

罗跃嘉, 魏景汉(2004). 注意的认知神经科学研究. 北京: 高等教育出版社, 24-26.

唐丹丹(2016). 冲突适应的性别差异. 心理技术与应用, 4(7), 389-398.

赵晓月, 唐丹丹(2015). 冲突适应过程中的神经信息传递机制. 心理技术与应用, (5), 10-19.

Alfredo, S., Yi, D., Melissa-Ann, M., Ming, L., Harvey, P. D., Yanghua, T. et al. (2015). Clozapine Improves the Orienting of Attention in Schizophrenia. Schizophrenia Research, 168, 285-291.

Andersen, R. A., Snyder, L. H., Bradley, D. C., & Xing, J. (1997). Multimodal Representation of Space in the Posterior Pa-rietal Cortex and Its Use in Planning Movements. Annual Review of Neuroscience, 20, 303-330.

https://https://www.360docs.net/doc/3b15695510.html,/10.1146/annurev.neuro.20.1.303

Aron, A. R., Fletcher, P. C., Bullmore, E. T., Sahakian, B. J., & Robbins, T. W. (2003). Stop-Signal Inhibition Disrupted by Damage to Right Inferior Frontal Gyrus in Humans. Nature Neuroscience, 6, 115-116. https://https://www.360docs.net/doc/3b15695510.html,/10.1038/nn1003 Aron, A. R., Monsell, S., Sahakian, B. J., & Robbins, T. W. (2004). A Componential Analysis of Task-Switching Deficits Associated with Lesions of Left and Right Frontal Cortex. Brain, 127, 1561-1573. https://https://www.360docs.net/doc/3b15695510.html,/10.1093/brain/awh169 Beane, M., & Marrocco, R. T. (2004). Norepinephrine and Acetylcholine Mediation of the Components of Reflexive Atten-tion: Implications for Attention Deficit Disorders. Progress in Neurobiology, 74, 167-181.

Braver, T. S., Gray, J. R., & Bugess, G. C. (2007). Explaining the Many Varieties of Working Memory Variation: Dual Me-chanisms of Cognitive Control. In A. R. A. Conway, C. Jarrold, M. J. Kane, A. Miyake, & J. N. Towse (Eds.), Variation in Working Memory (pp. 76-106). New York: Oxford University Press.

Bush, G., Luu, P., & Posner, M. I. (2000). Cognitive and Emotional Influences in Anterior Cingulate Cortex. Trends in Cog-nitive Sciences, 4, 215-222. https://https://www.360docs.net/doc/3b15695510.html,/10.1016/S1364-6613(00)01483-2

Cohen, J. D., & Aston-Jones, G. (2005). Cognitive Neuroscience: Decision Amid Uncertainty. Nature, 436, 471-472. Corbetta, M., & Shulman, G. L. (2002). Control of Goal-Directed and Stimulus-Driven Attention in the Brain. Nature Re-views Neuroscience, 3, 201-215. https://https://www.360docs.net/doc/3b15695510.html,/10.1038/nrn755

Corbetta, M., Kincade, J. M., Ollinger, J. M., Mcavoy, M. P., & Shulman, G. L. (2000). Voluntary Orienting Is Dissociated from Target Detection in Human Posteriorparietal Cortex. Nature Neuroscience, 3, 292-297.

https://https://www.360docs.net/doc/3b15695510.html,/10.1038/73009

孙玉静,尚雪松

D’Esposito, M., & Postle, B. R. (1999). The Dependence of Span and Delayed-Response Performance on Prefrontal Cortex.

Neuropsychologia, 37, 1303-1315.

Dickenson, J., Berkman, E. T., Arch, J., & Lieberman, M. D. (2013). Neural Correlates of Focused Attention during a Brief Mindfulness Induction. Social Cognitive & Affective Neuroscience, 8, 40-47. https://https://www.360docs.net/doc/3b15695510.html,/10.1093/scan/nss030

Engle, R. W., & Kane, M. J. (2003). Executive Attention, Working Memory Capacity, and a Two-Factor Theory of Cogni-tive Control. Psychology of Learning & Motivation, 44, 145-199.

Eriksen, B. A., & Eriksen, C. W. (1974). Effects of Noise Letters upon the Identification of a Target Letter in a Nonsearch Task. Perception & Psychophysics, 16, 143-149. https://https://www.360docs.net/doc/3b15695510.html,/10.3758/BF03203267

Fan, J., Gu, X., Guise, K. G., Liu, X., Fossella, J., Wang, H. et al. (2009). Testing the Behavioral Interaction and Integration of Attentional Networks. Brain and cognition, 70, 209-220.

Fan, J., Mccandliss, B. D., Fossella, J., Flombaum, J. I., & Posner, M. I. (2005). The Activation of Attentional Networks.

NeuroImage, 26, 471-479.

Fan, J., Mccandliss, B. D., Sommer, T., Raz, A., & Posner, M. I. (2002). Testing the Efficiency and Independence of Atten-tional Networks. Journal of Cognitive Neuroscience, 14, 340-347. https://https://www.360docs.net/doc/3b15695510.html,/10.1162/089892902317361886

Fan, J., Mccandliss, B., Sommer, T., & Raz, A. (2006). Testing the Efficiency and Independence of Attentional Networks.

Journal of Cognitive Neuroscience, 14, 340-347. https://https://www.360docs.net/doc/3b15695510.html,/10.1162/089892902317361886

Farrant, K., & Uddin, L. Q. (2015). Asymmetric Development of Dorsal and Ventral Attention Networks in the Human Brain. Developmental Cognitive Neuroscience, 16, 165-174.

Fernandez-Duque, D., & Posner, M. I. (2001). Brain Imaging of Attentional Networks in Normal and Pathological States.

Journal of Clinical and Experimental Neuropsychology, 23, 74-93. https://https://www.360docs.net/doc/3b15695510.html,/10.1076/jcen.23.1.74.1217

Fossella, J., Sommer, T., Fan, J., Wu, Y., Swanson, J. M., Pfaff, D. W. et al. (2002). Assessing the Molecular Genetics of Attention Networks. BMC Neuroscience, 3, 14. https://https://www.360docs.net/doc/3b15695510.html,/10.1186/1471-2202-3-14

Fotopoulou, A., Solms, M., & Turnbull, O. (2004). Wishful Reality Distortions in Confabulation: A Case Report. Neuropsy-chologia, 42, 727-744.

Friedrich, F. J., Egly, R., Rafal, R. D., & Beck, D. (1998). Spatial Attention Deficits in Humans: A Comparison of Superior Parietal and Temporal-Parietal Junction Lesions. Neuropsychology, 12, 193-207.

https://https://www.360docs.net/doc/3b15695510.html,/10.1037/0894-4105.12.2.193

Fuentes, L. J., & Campoy, G. (2008). The Time Course of Alerting Effect over Orienting in the Attention Network Test. Ex-perimental Brain Research, 185, 667-672. https://https://www.360docs.net/doc/3b15695510.html,/10.1007/s00221-007-1193-8

Gao, W., Gilmore, J. H., Shen, D., Smith, J. K., Zhu, H., & Lin, W. (2013). The Synchronization within and Interaction be-tween the Default and Dorsal Attention Networks in Early Infancy. Cerebral Cortex, 23, 594.

Geyer, S., Ledberg, A., Schleicher, A., Kinomura, S., Schormann, T., & Burgel, U. et al. (1996). Two Different Areas within the Primary Motor Cortex of Man. Nature, 382, 805-807.

Greene, D. J., Barnea, A., Herzberg, K., Rassis, A., Neta, M., Raz, A. et al. (2008). Measuring Attention in the Hemispheres: The Lateralized Attention Network Test (LANT). Brain & Cognition, 66, 21-31.

Hackley, S. A., & Valleinclán, F. (1999). Accessory Stimulus Effects on Response Selection: Does Arousal Speed Decision Making? Journal of Cognitive Neuroscience, 11, 321-329. https://https://www.360docs.net/doc/3b15695510.html,/10.1162/089892999563427

Hackley, S. A., & Valle-Inclán, F. (2003). Which Stages of Processing Are Speeded by a Warning Signal? Biological Psy-chology, 64, 27-45.

Haykin, S., Fatemi, M., Setoodeh, P., & Xue, Y. (2012). Cognitive Control. Proceedings of the IEEE, 100, 3156-3169.

https://https://www.360docs.net/doc/3b15695510.html,/10.1109/JPROC.2012.2215773

Hu, C., Di, X., Eickhoff, S. B., Zhang, M., Peng, K., Guo, H. et al. (2015). Distinct and Common Aspects of Physical and Psychological Self-Representation in the Brain: A Meta-Analysis of Self-Bias in Facial and Self-Referential Judgements.

Neuroscience & Biobehavioral Reviews, 61, 197-207.

Ignashchenkova, A., Haarmeier, T., & Thier, P. (2004). The Role of the Superior Colliculus in Covert Shifts of Attention.

Dynamic Perception: Workshop of the GI Section “Computer Vision”, Eberhard Karls University Tübingen, Max Planck Institute for Biological Cybernetics, Tübingen, November (p. 95).

Kratz, O., Studer, P., Malcherek, S., Erbe, K., Moll, G. H., & Heinrich, H. (2011). Attentional Processes in Children with ADHD: An Event-Related Potential Study Using the Attention Network Test. International Journal of Psychophysiology, 81, 82-90.

LaBerge, D. (2000) Networks of Attention. In M. S. Gazzaniga (Ed.), The New Cognitive Neurosciences(pp. 711-724).

Cambridge, MA: MIT Press.

Macdonald, A. W., Cohen, J. D., Stenger, V. A., & Carter, C. S. (2000). Dissociating the Role of the Dorsolateral Prefrontal

孙玉静,尚雪松and Anterior Cingulate Cortex in Cognitive Control. Science, 288, 1835-1838.

https://https://www.360docs.net/doc/3b15695510.html,/10.1126/science.288.5472.1835

Mackie, M. A., Dam, N. T. V., & Fan, J. (2013). Cognitive Control and Attentional Functions. Brain & Cognition, 82, 301-312.

Marrocco, R. T., & Davidson, M. C. (1998). Neurochemistry of Attention. In R. Parasuraman (Ed.), The Attentive Brain (pp. 35-50). Cambridge, MA: The MIT Press.

Matsumoto, K., & Tanaka, K. (2004a). Conflict and Cognitive Control. Science, 303, 969-970.

https://https://www.360docs.net/doc/3b15695510.html,/10.1126/science.1094733

Matsumoto, K., & Tanaka, K. (2004b). The Role of the Medial Prefrontal Cortex in Achieving Goals. Current Opinion in Neurobiology, 14, 178-185.

Paus, T., Zatorre, R. J., Hofle, N., Caramanos, Z., Gotman, J., & Petrides, M. et al. (1997). Time-Related Changes in Neural Systems Underlying Attention and Arousal during the Performance of an Auditory Vigilance Task. Journal of Cognitive Neuroscience, 9, 392-408.

Petersen, S. E., Robinson, D. L., & Morris, J. D. (1987). Contributions of the Pulvinar to Visual Spatial Attention. Neurop-sychologia, 25, 97-105.

Posner, M. I. (1978). Chronometric Explorations of Mind. Politics.

Posner, M. I. (1980). Orienting of Attention. Quarterly Journal of Experimental Psychology, 32, 3-25.

https://https://www.360docs.net/doc/3b15695510.html,/10.1080/00335558008248231

Posner, M. I., & Dehaene, S. (1994). Attentional Networks. Trends in Neurosciences, 17, 75-79.

Posner, M. I., & Fan, J. (2008). Attention as an Organ System. In Neurobiology of Perception & Communication: From Synapse to Society, De Lange Conference IV. Vol.9780521869133.

Posner, M. I., & Petersen, S. E. (1990). The Attention System of the Human Brain. Annual Review of Neuroscience, 13, 25-42. https://https://www.360docs.net/doc/3b15695510.html,/10.1146/annurev.ne.13.030190.000325

Posner, M. I., & Petersen, S. E. (2012). The Attention System of the Human Brain: 20 Years after. Annual Review of Neu-roscience, 35, 73-89. https://https://www.360docs.net/doc/3b15695510.html,/10.1146/annurev-neuro-062111-150525

Posner, M. I., & Rothbart, M. K. (1998). Attention, Self-Regulation and Consciousness. Philosophical Transactions of the Royal Society of London, 353, 1915. https://https://www.360docs.net/doc/3b15695510.html,/10.1098/rstb.1998.0344

Posner, M. I., & Snyder, C. R. R. (1975). Attention and Cognitive Control. Acta Neurologica Scandinavica, 74, 91-96. Posner, M. I., Inhoff, A. W., Friedrich, F. J., & Cohen, A. (1987). Isolating Attentional Systems: A Cognitive-Anatomical Analysis. Psychobiology, 15, 107-121.

Posner, M. I., Rafal, R. D., Choate, L. S., & Vaughan, J. (1985). Inhibition of Return: Neural Basis and Function. Cognitive Neuropsychology, 2, 211-228. https://https://www.360docs.net/doc/3b15695510.html,/10.1080/02643298508252866

Posner, M. I., Walker, J. A., Friedrich, F. J., & Rafal, R. D. (1984). Effects of Parental Injury on Covert Orienting of Atten-tion. Journal of Neuroscience, 4, 1863-1874.

Raz, A., & Buhle, J. (2006). Typologies of Attentional Networks. Nature Reviews Neuroscience, 7, 367-379.

https://https://www.360docs.net/doc/3b15695510.html,/10.1038/nrn1903

Sack, A. T. (2009). Parietal Cortex and Spatial Cognition. Behavioural Brain Research, 202, 153-161.

Sara, S. J., & Bouret, S. (2012). Orienting and Reorienting: The Locus Coeruleus Mediates Cognition through Arousal. Neuron, 76, 130-141. https://https://www.360docs.net/doc/3b15695510.html,/10.1016/j.neuron.2012.09.011

Shipp, S. (2004). The Brain Circuitry of Attention. Trends in Cognitive Sciences, 8, 223-230.

https://https://www.360docs.net/doc/3b15695510.html,/10.1016/j.tics.2004.03.004

Shulman, G. L., Tansy, A. P., Kincade, M., Petersen, S. E., Mcavoy, M. P., & Corbetta, M. (2002). Reactivation of Networks Involved in Preparatory States. Cerebral Cortex, 12, 590-600. https://https://www.360docs.net/doc/3b15695510.html,/10.1093/cercor/12.6.590

Simon, J. R. (1969). Reactions toward the Source of Stimulation. Journal of Experimental Psychology, 81, 174-176.

https://https://www.360docs.net/doc/3b15695510.html,/10.1037/h0027448

Simon, T. J., Bish, J. P., Bearden, C. E., Ding, L., Ferrante, S., Nguyen, V. et al. (2005). A Multilevel Analysis of Cognitive Dysfunction and Psychopathology Associated with Chromosome 22q11.2 Deletion Syndrome in Children. Development and Psychopathology, 17, 753-784. https://https://www.360docs.net/doc/3b15695510.html,/10.1017/S0954579405050364

Smith, D. V., Clithero, J. A., Rorden, C., & Karnath, H. O. (2013). Decoding the Anatomical Network of Spatial Attention. Proceedings of the National Academy of Sciences of the United States of America, 110, 1518-1523.

https://https://www.360docs.net/doc/3b15695510.html,/10.1073/pnas.1210126110

Stroop, J. R. (1935). Studies of Interference in Serial Verbal Reactions. Journal of Experimental Psychology, 18, 643-662.

孙玉静,尚雪松

Van Vleet, T. M., Chen, A., Vernon, A., Novakovicagopian, T., & D’Esposito, M. T. (2014). Tonic and Phasic Alertness Training: A Novel Treatment for Executive Control Dysfunction Following Mild Traumatic Brain Injury. Neurocase, 21, 489-498.

Vázquezmarrufo, M., Galvaocarmona, A., Gonzálezrosa, J. J., Hidalgomu?oz, A. R., Borges, M., Ruizpe?a, J. L. et al.

(2014). Neural Correlates of Alerting and Orienting Impairment in Multiple Sclerosis Patients. PLoS ONE, 9, e97226.

https://https://www.360docs.net/doc/3b15695510.html,/10.1371/journal.pone.0097226

Vincent, J. L., Kahn, I., Snyder, A. Z., Raichle, M. E., & Buckner, R. L. (2008). Evidence for a Frontoparietal Control Sys-tem Revealed by Intrinsic Functional Connectivity. Journal of Neurophysiology, 100, 3328-3342.

https://https://www.360docs.net/doc/3b15695510.html,/10.1152/jn.90355.2008

Wang, X., Zhao, X., Gui, X., & Chen, A. (2016). Alertness Function of Thalamus in Conflict Adaptation. NeuroImage, 132, 274-282.

Weinbach, N., & Henik, A. (2012). The Relationship between Alertness and Executive Control. Journal of Experimental Psychology: Human Perception & Performance, 38, 1530-1540. https://https://www.360docs.net/doc/3b15695510.html,/10.1037/a0027875

Xuan, B., Mackie, M. A., Spagna, A., Wu, T., Tian, Y., Hof, P. R. et al. (2016). The Activation of Interactive Attentional Networks. NeuroImage, 129, 308-319.

期刊投稿者将享受如下服务:

1. 投稿前咨询服务(QQ、微信、邮箱皆可)

2. 为您匹配最合适的期刊

3. 24小时以内解答您的所有疑问

4. 友好的在线投稿界面

5. 专业的同行评审

6. 知网检索

7. 全网络覆盖式推广您的研究

投稿请点击:https://www.360docs.net/doc/3b15695510.html,/Submission.aspx

期刊邮箱:ap@https://www.360docs.net/doc/3b15695510.html,

(完整word版)模糊神经网络的预测算法在嘉陵江水质评测中的应用2

模糊神经网络的预测算法 ——嘉陵江水质评价 一、案例背景 1、模糊数学简介 模糊数学是用来描述、研究和处理事物所具有的模糊特征的数学,“模糊”是指他的研究对象,而“数学”是指他的研究方法。 模糊数学中最基本的概念是隶属度和模糊隶属度函数。其中,隶属度是指元素μ属于模糊子集f的隶属程度,用μf(u)表示,他是一个在[0,1]之间的数。μf(u)越接近于0,表示μ属于模糊子集f的程度越小;越接近于1,表示μ属于f的程度越大。 模糊隶属度函数是用于定量计算元素隶属度的函数,模糊隶属度函数一般包括三角函数、梯形函数和正态函数。 2、T-S模糊模型 T-S模糊系统是一种自适应能力很强的模糊系统,该模型不仅能自动更新,还能不断修正模糊子集的隶属函数。T-S模糊系统用如下的“if-then”规则形式来定义,在规则为R i 的情况下,模糊推理如下: R i:If x i isA1i,x2isA2i,…x k isA k i then y i =p0i+p1i x+…+p k i x k 其中,A i j为模糊系统的模糊集;P i j(j=1,2,…,k)为模糊参数;y i为根据模糊规则得到的输出,输出部分(即if部分)是模糊的,输出部分(即then部分)是确定的,该模糊推理表示输出为输入的线性组合。 假设对于输入量x=[x1,x2,…,x k],首先根据模糊规则计算各输入变量Xj的隶属度。 μA i j=exp(-(x j-c i j)/b i j)j=1,2,…,k;i=1,2,…,n式中,C i j,b i j分别为隶属度函数的中心和宽度;k为输入参数数;n为模糊子集数。 将各隶属度进行模糊计算,采用模糊算子为连乘算子。 ωi=μA1j(x1)*μA2j(x2)*…*μA k j i=1,2,…,n 根据模糊计算结果计算模糊型的输出值y i。 Y I=∑n i=1ωi(P i0+P i1x1+…+P i k xk)/ ∑n i=1ωi 3、T-S模糊神经网络模型 T-S模糊神经网络分为输入层、模糊化层、模糊规则计划层和输出层四层。输入层与输入向量X I连接,节点数与输入向量的维数相同。模糊化层采用隶属度函数对输入值进行模

人工神经网络原理及实际应用

人工神经网络原理及实际应用 摘要:本文就主要讲述一下神经网络的基本原理,特别是BP神经网络原理,以及它在实际工程中的应用。 关键词:神经网络、BP算法、鲁棒自适应控制、Smith-PID 本世纪初,科学家们就一直探究大脑构筑函数和思维运行机理。特别是近二十年来。对大脑有关的感觉器官的仿生做了不少工作,人脑含有数亿个神经元,并以特殊的复杂形式组成在一起,它能够在“计算"某些问题(如难以用数学描述或非确定性问题等)时,比目前最快的计算机还要快许多倍。大脑的信号传导速度要比电子元件的信号传导要慢百万倍,然而,大脑的信息处理速度比电子元件的处理速度快许多倍,因此科学家推测大脑的信息处理方式和思维方式是非常复杂的,是一个复杂并行信息处理系统。1943年Macullocu和Pitts融合了生物物理学和数学提出了第一个神经元模型。从这以后,人工神经网络经历了发展,停滞,再发展的过程,时至今日发展正走向成熟,在广泛领域得到了令人鼓舞的应用成果。本文就主要讲述一下神经网络的原理,特别是BP神经网络原理,以及它在实际中的应用。 1.神经网络的基本原理 因为人工神经网络是模拟人和动物的神经网络的某种结构和功能的模拟,所以要了解神经网络的工作原理,所以我们首先要了解生物神经元。其结构如下图所示: 从上图可看出生物神经元它包括,细胞体:由细胞核、细胞质与细胞膜组成;

轴突:是从细胞体向外伸出的细长部分,也就是神经纤维。轴突是神经细胞的输出端,通过它向外传出神经冲动;树突:是细胞体向外伸出的许多较短的树枝状分支。它们是细胞的输入端,接受来自其它神经元的冲动;突触:神经元之间相互连接的地方,既是神经末梢与树突相接触的交界面。 对于从同一树突先后传入的神经冲动,以及同一时间从不同树突输入的神经冲动,神经细胞均可加以综合处理,处理的结果可使细胞膜电位升高;当膜电位升高到一阀值(约40mV),细胞进入兴奋状态,产生神经冲动,并由轴突输出神经冲动;当输入的冲动减小,综合处理的结果使膜电位下降,当下降到阀值时。细胞进入抑制状态,此时无神经冲动输出。“兴奋”和“抑制”,神经细胞必呈其一。 突触界面具有脉冲/电位信号转换功能,即类似于D/A转换功能。沿轴突和树突传递的是等幅、恒宽、编码的离散电脉冲信号。细胞中膜电位是连续的模拟量。 神经冲动信号的传导速度在1~150m/s之间,随纤维的粗细,髓鞘的有无而不同。 神经细胞的重要特点是具有学习功能并有遗忘和疲劳效应。总之,随着对生物神经元的深入研究,揭示出神经元不是简单的双稳逻辑元件而是微型生物信息处理机制和控制机。 而神经网络的基本原理也就是对生物神经元进行尽可能的模拟,当然,以目前的理论水平,制造水平,和应用水平,还与人脑神经网络的有着很大的差别,它只是对人脑神经网络有选择的,单一的,简化的构造和性能模拟,从而形成了不同功能的,多种类型的,不同层次的神经网络模型。 2.BP神经网络 目前,再这一基本原理上已发展了几十种神经网络,例如Hopficld模型,Feldmann等的连接型网络模型,Hinton等的玻尔茨曼机模型,以及Rumelhart 等的多层感知机模型和Kohonen的自组织网络模型等等。在这众多神经网络模型中,应用最广泛的是多层感知机神经网络。 这里我们重点的讲述一下BP神经网络。多层感知机神经网络的研究始于50年代,但一直进展不大。直到1985年,Rumelhart等人提出了误差反向传递学习算法(即BP算),实现了Minsky的多层网络设想,其网络模型如下图所示。它可以分为输入层,影层(也叫中间层),和输出层,其中中间层可以是一层,也可以多层,看实际情况而定。

神经网络在数据挖掘中的应用

神经网络在数据挖掘中的应用

————————————————————————————————作者:————————————————————————————————日期: ?

神经网络在数据挖掘中的应用 摘要:给出了数据挖掘方法的研究现状,通过分析当前一些数据挖掘方法的局限性,介绍一种基于关系数据库的数据挖掘方法——神经网络方法,目前,在数据挖掘中最常用的神经网络是BP网络。在本文最后,也提出了神经网络方法在数据挖掘中存在的一些问题. 关键词:BP算法;神经网络;数据挖掘 1.引言 在“数据爆炸但知识贫乏”的网络时代,人们希望能够对其进行更高层次的分析,以便更好地利用这些数据。数据挖掘技术应运而生。并显示出强大的生命力。和传统的数据分析不同的是数据挖掘是在没有明确假设的前提下去挖掘信息、发现知识。所得到的信息具有先未知,有效性和实用性三个特征。它是从大量数据中寻找其规律的技术,主要有数据准备、规律寻找和规律表示三个步骤。数据准备是从各种数据源中选取和集成用于数据挖掘的数据;规律寻找是用某种方法将数据中的规律找出来;规律表示是用尽可能符合用户习惯的方式(如可视化)将找出的规律表示出来。数据挖掘在自身发展的过程中,吸收了数理统计、数据库和人工智能中的大量技术。作为近年来来一门处理数据的新兴技术,数据挖掘的目标主要是为了帮助决策者寻找数据间潜在的关联(Relation),特征(Pattern)、趋势(Trend)等,发现被忽略的要素,对预测未来和决策行为十分有用。 数据挖掘技术在商业方面应用较早,目前已经成为电子商务中的关键技术。并且由于数据挖掘在开发信息资源方面的优越性,已逐步推广到保险、医疗、制造业和电信等各个行业的应用。 数据挖掘(Data Mining)是数据库中知识发现的核心,形成了一种全新的应用领域。数据挖掘是从大量的、有噪声的、随机的数据中,识别有效的、新颖的、有潜在应用价值及完全可理解模式的非凡过程。从而对科学研究、商业决策和企业管理提供帮助。 数据挖掘是一个高级的处理过程,它从数据集中识别出以模式来表示的知识。它的核心技术是人工智能、机器学习、统计等,但一个DM系统不是多项技术的简单组合,而是一个完整的整体,它还需要其它辅助技术的支持,才能完成数据采集、预处理、数据分析、结果表述这一系列的高级处理过程。所谓高级处理过程是指一个多步骤的处理过程,多步骤之间相互影响、反复调整,形成一种螺旋式上升过程。最后将分析结果呈现在用户面前。根据功能,整个DM系统可以大致分为三级结构。 神经网络具有自适应和学习功能,网络不断检验预测结果与实际情况是否相符。把与实际情况不符合的输入输出数据对作为新的样本,神经网络对新样本进行动态学习并动态改变网络结构和参数,这样使网络适应环境或预测对象本身结构和参数的变化,从而使预测网络模型有更强的适应性,从而得到更符合实际情况的知识和规则,辅助决策者进行更好地决策。而在ANN的

基于人工神经网络的通信信号分类识别

基于人工神经网络的通信信号分类识别 冯 涛 (中国电子科技集团公司第54研究所,河北石家庄050081) 摘 要 通信信号的分类识别是一种典型的统计模式识别问题。系统地论述了通信信号特征选择、特征提取和分类识别的原理和方法。设计了人工神经网络分类器,包括神经网络模型的选择、分类器的输入输出表示、神经网络拓扑结构和训练算法,并提出了分层结构的神经网络分类器。 关键词 模式识别;特征提取;分类器;神经网中图分类号 TP391 文献标识码 A Classification and Identification of Communication Signal Using Artificial Neural Networks FE NG Tao (T he 54th Research Institute of CETC,Shijia zhuan g Hebei 050081,China) Abstract The classification and identificati on of communication signal is a typical statistical pattern identification.The paper discusses the theory and method of feature selection,feature extraction and classi fication &identificaiton of communication signal.A classifier based on artificial neural networks is designed,includin g the selection of neural network model,the input and output expression of the classifier,neural network topology and trainin g algorithm.Finally a hierarchical archi tecture classifier based on artificial neural networks is presented. Key words pattern recognition;features extraction;classifier;neural networks 收稿日期:2005-12-16 0 引言 在通信对抗侦察中,侦察接收设备在截获敌方通信信号后,必须经过对信号的特征提取和对信号特征的分析识别,才能变为有价值的通信对抗情报。通过对信号特征的分析识别,可以得到信号种类、通信体制、网路组成等方面的情报,从而为研究通信对抗策略、研制和发展通信对抗装备提供重要参考依据。 1 通信信号分类识别的原理 通信信号的分类识别是一种典型的模式识别应用,其作用和目的就是将某一接收到的信号正确地归入某一种类型中。一般过程如图1 所示。 图1 通信信号分类识别的一般过程 下面简单介绍这几部分的作用。 信号获取:接收来自天线的信号x (t),并对信号进行变频、放大和滤波,输出一个中频信号; A/D 变换:将中频模拟信号变换为计算机可以运算的数字信号x (n); 以上2步是信号空间x (t)到观察空间x (n )的变换映射。 特征提取:为了有效地实现分类识别,必须对原始数据进行变换,得到最能反映分类差别的特征。这些特征的选择和提取是非常重要的,因为它强烈地影响着分类器的设计和性能。理想情况下,经过特征提取得到的特征向量对不同信号类型应该有明显的差别; 分类器设计和分类决策:分类问题是根据识别对象特征的观察值将其分到某个类别中去。首先,在样本训练集基础上确定合适的规则和分类器结构,然后,学习训练得到分类器参数。最后进行分类决策,把待识别信号从特征空间映射到决策空间。 2 通信信号特征参数的选择与特征提取 2 1 通信信号特征参数的选择 选择好的特征参数可以提高低信噪比下的正确 识别率,降低分类器设计的难度,是基于统计模式识别方法最为关键的一个环节。试图根据有限的信号 信号与信息处理 24 2006Radio Engineering Vo1 36No 6

BP神经网络的网络学习评价模型

20 摘 要:研究网络学习评价问题对推动网络教学资源的使用具有十分重要的意义,传统的网络学习评价方法具有很强的主观性,且仅限于线性模型,缺少科学性。为克服传统网络学习评价方法的不足,实现网络学习评价的智能化,提出了一种基于BP 神经网络的的网络学习评价模型,并利用MA TLAB 进行实验仿真,测试结果表明,该评价模型准确率高,能为网络学习评价提供可靠数据。 关键词:神经网络;MATLAB ;网络学习评价 中图分类号:TP183 文献标识码:A 随着教育信息技术的进一步推广和网络教学资源的不断丰富,网络学习作为一种主要学习方式已经被越来越多的人所接受。近几年,各级精品课程、网络课程的建设所取得的成效已是有目共睹,但重建设、轻使用的现象已成为困扰今后精品课程、网络课程建设的主要因素。教学资源之所以建 起来容易用起来难,原因是多方面的,但网络学习评价机制不健全无疑是其中的一个重要方面。[1] 全面地、科学地评价网络学习,对推动网络教学资源的使用具有十分重的意义。 而传统评价法是在评价指标体系中明确各项指标的权重,使用线性模型进行计算,这种方法缺陷是权值的确定具有很强的主观性,且评价只限线性模型。由于影响网络学习质量的因素很多,且各因素影响的程度也不同,很难用一个线性模型来表达他们之间的函数关系,属于复杂的非线性分 类问题。[2] 而人工神经网络作为一种智能计算技术, 以其非线性映射并具有学习能力等基本特性已广泛应用于模式识别和非线性分类问题。 1网络学习评价问题的提出 网络学习评价问题实质上属于模式识别中的一个分类问题,即根据学生网络学习的各种数据,依据网络学习评价指标体系,对数据进行分析、处理,并得出学生网络学习评价等级。设 n x x x ,,,21 为网络学习评价的n 个评价指标,y 为网络学习评价结果等级,网络学习评价结果等级与评价指标的关系可表示为),,,(21n x x x f y ,进行网络学习评价就是找出评价指标n x x x ,,,21 与评价等级y 之间的函数关系。 2网络学习评价指标体系构建 要进行网络学习评价,首先必须确定网络学习评价的内容和评价标准,即评价的指标体系。在 分析已有的网络学习评价体系的基础上,根据学习评价的基本原则与方法,从学习态度、学习过程和学习效果3个方面构建评价指标(如图1所示)。 第11卷第1期 广州职业教育论坛 Vol.11 No.1 2012年2月 GUANGZHOU VOCATIONAL EDUCATION FORUM Feb. 2012

神经网络详解

一前言 让我们来看一个经典的神经网络。这是一个包含三个层次的神经网络。红色的是输入层,绿色的是输出层,紫色的是中间层(也叫隐藏层)。输入层有3个输入单元,隐藏层有4个单元,输出层有2个单元。后文中,我们统一使用这种颜色来表达神经网络的结构。 图1神经网络结构图 设计一个神经网络时,输入层与输出层的节点数往往是固定的,中间层则可以自由指定; 神经网络结构图中的拓扑与箭头代表着预测过程时数据的流向,跟训练时的数据流有一定的区别; 结构图里的关键不是圆圈(代表“神经元”),而是连接线(代表“神经元”之间的连接)。每个连接线对应一个不同的权重(其值称为权值),这是需要训练得到的。 除了从左到右的形式表达的结构图,还有一种常见的表达形式是从下到上来

表示一个神经网络。这时候,输入层在图的最下方。输出层则在图的最上方,如下图: 图2从下到上的神经网络结构图 二神经元 2.结构 神经元模型是一个包含输入,输出与计算功能的模型。输入可以类比为神经元的树突,而输出可以类比为神经元的轴突,计算则可以类比为细胞核。 下图是一个典型的神经元模型:包含有3个输入,1个输出,以及2个计算功能。 注意中间的箭头线。这些线称为“连接”。每个上有一个“权值”。

图3神经元模型 连接是神经元中最重要的东西。每一个连接上都有一个权重。 一个神经网络的训练算法就是让权重的值调整到最佳,以使得整个网络的预测效果最好。 我们使用a来表示输入,用w来表示权值。一个表示连接的有向箭头可以这样理解: 在初端,传递的信号大小仍然是a,端中间有加权参数w,经过这个加权后的信号会变成a*w,因此在连接的末端,信号的大小就变成了a*w。 在其他绘图模型里,有向箭头可能表示的是值的不变传递。而在神经元模型里,每个有向箭头表示的是值的加权传递。 图4连接(connection) 如果我们将神经元图中的所有变量用符号表示,并且写出输出的计算公式的话,就是下图。

人工神经网络大作业

X X X X大学 研究生考查课 作业 课程名称:智能控制理论与技术 研究生姓名:学号: 作业成绩: 任课教师(签名) 交作业日时间:2010年12月22日

人工神经网络(artificial neural network,简称ANN)是在对大脑的生理研究的基础上,用模拟生物神经元的某些基本功能元件(即人工神经元),按各种不同的联结方式组成的一个网络。模拟大脑的某些机制,实现某个方面的功能,可以用在模仿视觉、函数逼近、模式识别、分类和数据压缩等领域,是近年来人工智能计算的一个重要学科分支。 人工神经网络用相互联结的计算单元网络来描述体系。输人与输出的关系由联结权重和计算单元来反映,每个计算单元综合加权输人,通过激活函数作用产生输出,主要的激活函数是Sigmoid函数。ANN有中间单元的多层前向和反馈网络。从一系列给定数据得到模型化结果是ANN的一个重要特点,而模型化是选择网络权重实现的,因此选用合适的学习训练样本、优化网络结构、采用适当的学习训练方法就能得到包含学习训练样本范围的输人和输出的关系。如果用于学习训练的样本不能充分反映体系的特性,用ANN也不能很好描述与预测体系。显然,选用合适的学习训练样本、优化网络结构、采用适当的学习训练方法是ANN的重要研究内容之一,而寻求应用合适的激活函数也是ANN研究发展的重要内容。由于人工神经网络具有很强的非线性多变量数据的能力,已经在多组分非线性标定与预报中展现出诱人的前景。人工神经网络在工程领域中的应用前景越来越宽广。 1人工神经网络基本理论[1] 1.1神经生物学基础 可以简略地认为生物神经系统是以神经元为信号处理单元,通过广泛的突触联系形成的信息处理集团,其物质结构基础和功能单元是脑神经细胞即神经元(neu ron)。(1)神经元具有信号的输入、整合、输出三种主要功能作用行为。突触是整个神经系统各单元间信号传递驿站,它构成各神经元之间广泛的联接。(3)大脑皮质的神经元联接模式是生物体的遗传性与突触联接强度可塑性相互作用的产物,其变化是先天遗传信息确定的总框架下有限的自组织过程。 1.2建模方法 神经元的数量早在胎儿时期就已固定,后天的脑生长主要是指树突和轴突从神经细胞体中长出并形成突触联系,这就是一般人工神经网络建模方法的生物学依据。人脑建模一般可有两种方法:①神经生物学模型方法,即根据微观神经生物学知识的积累,把脑神经系统的结构及机理逐步解释清楚,在此基础上建立脑功能模型。②神经计算模型方法,即首先建立粗略近似的数学模型并研究该模型的动力学特性,然后再与真实对象作比较(仿真处理方法)。 1.3概念 人工神经网络用物理可实现系统来模仿人脑神经系统的结构和功能,是一门新兴的前沿交叉学科,其概念以T.Kohonen.Pr的论述最具代表性:人工神经网络就是由简单的处理单元(通常为适应性)组成的并行互联网络,它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。 1.4应用领域 人工神经网络在复杂类模式识别、运动控制、感知觉模拟方面有着不可替代的作用。概括地说人工神经网络主要应用于解决下述几类问题:模式信息处理和模式识别、最优化问题、信息的智能化处理、复杂控制、信号处理、数学逼近映射、感知觉模拟、概率密度函数估计、化学谱图分析、联想记忆及数据恢复等。 1.5理论局限性 (1)受限于脑科学的已有研究成果由于生理试验的困难性,目前对于人脑思维与记忆机制的认识尚很肤浅,对脑神经网的运行和神经细胞的内部处理机制还没有太多的认识。 (2)尚未建立起完整成熟的理论体系目前已提出的众多人工神经网络模型,归纳起来一般都是一个由节点及其互连构成的有向拓扑网,节点间互连强度构成的矩阵可通过某种学

PNN神经网络评价方法本科毕业设计

毕业设计(论文)原创性声明和使用授权说明 原创性声明 本人郑重承诺:所呈交的毕业设计(论文),是我个人在指导教师的指导下进行的研究工作及取得的成果。尽我所知,除文中特别加以标注和致谢的地方外,不包含其他人或组织已经发表或公布过的研究成果,也不包含我为获得及其它教育机构的学位或学历而使用过的材料。对本研究提供过帮助和做出过贡献的个人或集体,均已在文中作了明确的说明并表示了谢意。 作者签名:日期: 指导教师签名:日期: 使用授权说明 本人完全了解大学关于收集、保存、使用毕业设计(论文)的规定,即:按照学校要求提交毕业设计(论文)的印刷本和电子版本;学校有权保存毕业设计(论文)的印刷本和电子版,并提供目录检索与阅览服务;学校可以采用影印、缩印、数字化或其它复制手段保存论文;在不以赢利为目的前提下,学校可以公布论文的部分或全部内容。 作者签名:日期:

学位论文原创性声明 本人郑重声明:所呈交的论文是本人在导师的指导下独立进行研究所取得的研究成果。除了文中特别加以标注引用的内容外,本论文不包含任何其他个人或集体已经发表或撰写的成果作品。对本文的研究做出重要贡献的个人和集体,均已在文中以明确方式标明。本人完全意识到本声明的法律后果由本人承担。 作者签名:日期:年月日 学位论文版权使用授权书 本学位论文作者完全了解学校有关保留、使用学位论文的规定,同意学校保留并向国家有关部门或机构送交论文的复印件和电子版,允许论文被查阅和借阅。本人授权大学可以将本学位论文的全部或部分内容编入有关数据库进行检索,可以采用影印、缩印或扫描等复制手段保存和汇编本学位论文。 涉密论文按学校规定处理。 作者签名:日期:年月日 导师签名:日期:年月日

概率神经网络

概率神经网络概述 令狐采学 概率神经网络(Probabilistic Neural Network ,PNN )是由D. F. Specht 在1990年提出的。主要思想是贝叶斯决策规则,即错误分类的期望风险最小,在多维输入空间内分离决策空间。它是一种基于统计原理的人工神经网络,它是以Parazen 窗口函数为激活函数的一种前馈网络模型。PNN 吸收了径向基神经网络与经典的概率密度估计原理的优点,与传统的前馈神经网络相比,在模式分类方面尤其具有较为显著的优势。 1.1 概率神经网络分类器的理论推导 由贝叶斯决策理论: w w w i j i x then i j x p x p if ∈≠?>→ →→ , )|()|( (1-1) 其中)|()()|(w w w i i i x p p x p → → = 。 一般情况下,类的概率密度函数)|(→x p w i 是未知的,用高斯核的Parzen 估计如下:

) 2exp(1 1 )|(2 2 1 2 2σ σ π→ → -∑ - = =→ x x N w ik N i k l l i i x p (1-2) 其中,→ x ik 是属于第w i 类的第k 个训练样本,l 是样本向量的维数,σ是平滑参数,N i 是第w i 类的训练样本总数。 去掉共有的元素,判别函数可简化为: ∑-=→ → → - = N ik i k i i i x x N w g p x 1 2 2 ) 2exp()()(σ (1-3) 1.2 概率神经元网络的结构模型 PNN 的结构以及各层的输入输出关系量如图1所示,共由四层组成,当进行并行处理时,能有效地进行上式的计算。 图1 概率神经网络结构 如图1所示,PNN 网络由四部分组成:输入层、样本层、求和层和竞争层。PNN 的工作过程:首先将输入向量→ x 输入到输入层,在输入层中,网络计算输入向量与训练样本向量之间

实验报告 人工神经网络

实验报告人工神经网络 实验原理:利用线性回归和神经网络建模技术分析预测。 实验题目:利用给出的葡萄酒数据集,解释获得的分析结论。 library(plspm); data(wines); wines 实验要求: 1、探索认识意大利葡萄酒数据集,对葡萄酒数据预处理,将其随机划分为训练集和测试集,然后创建一个线性回归模型; 2、利用neuralnet包拟合神经网络模型; 3、评估两个模型的优劣,如果都不理想,提出你的改进思路。 分析报告: 1、线性回归模型 > rm(list=ls()) > gc() used (Mb) gc trigger (Mb) max used (Mb) Ncells 250340 13.4 608394 32.5 408712 21.9 Vcells 498334 3.9 8388608 64.0 1606736 12.3 >library(plspm) >data(wines) >wines[c(1:5),] class alcohol malic.acid ash alcalinity magnesium phenols flavanoids 1 1 14.23 1.71 2.43 15.6 127 2.80 3.06 2 1 13.20 1.78 2.14 11.2 100 2.65 2.76 3 1 13.16 2.36 2.67 18.6 101 2.80 3.24 4 1 14.37 1.9 5 2.50 16.8 113 3.85 3.49 5 1 13.24 2.59 2.87 21.0 118 2.80 2.69 nofla.phen proantho col.intens hue diluted proline 1 0.28 2.29 5.64 1.04 3.9 2 1065 2 0.26 1.28 4.38 1.05 3.40 1050 3 0.30 2.81 5.68 1.03 3.17 1185 4 0.24 2.18 7.80 0.86 3.4 5 1480 5 0.39 1.82 4.32 1.04 2.93 735 > data <- wines > summary(wines)

浅谈神经网络分析解析

浅谈神经网络 先从回归(Regression)问题说起。我在本吧已经看到不少人提到如果想实现强AI,就必须让机器学会观察并总结规律的言论。具体地说,要让机器观察什么是圆的,什么是方的,区分各种颜色和形状,然后根据这些特征对某种事物进行分类或预测。其实这就是回归问题。 如何解决回归问题?我们用眼睛看到某样东西,可以一下子看出它的一些基本特征。可是计算机呢?它看到的只是一堆数字而已,因此要让机器从事物的特征中找到规律,其实是一个如何在数字中找规律的问题。 例:假如有一串数字,已知前六个是1、3、5、7,9,11,请问第七个是几? 你一眼能看出来,是13。对,这串数字之间有明显的数学规律,都是奇数,而且是按顺序排列的。 那么这个呢?前六个是0.14、0.57、1.29、2.29、3.57、5.14,请问第七个是几? 这个就不那么容易看出来了吧!我们把这几个数字在坐标轴上标识一下,可以看到如下图形: 用曲线连接这几个点,延着曲线的走势,可以推算出第七个数字——7。 由此可见,回归问题其实是个曲线拟合(Curve Fitting)问题。那么究竟该如何拟合?机器不

可能像你一样,凭感觉随手画一下就拟合了,它必须要通过某种算法才行。 假设有一堆按一定规律分布的样本点,下面我以拟合直线为例,说说这种算法的原理。 其实很简单,先随意画一条直线,然后不断旋转它。每转一下,就分别计算一下每个样本点和直线上对应点的距离(误差),求出所有点的误差之和。这样不断旋转,当误差之和达到最小时,停止旋转。说得再复杂点,在旋转的过程中,还要不断平移这条直线,这样不断调整,直到误差最小时为止。这种方法就是著名的梯度下降法(Gradient Descent)。为什么是梯度下降呢?在旋转的过程中,当误差越来越小时,旋转或移动的量也跟着逐渐变小,当误差小于某个很小的数,例如0.0001时,我们就可以收工(收敛, Converge)了。啰嗦一句,如果随便转,转过头了再往回转,那就不是梯度下降法。 我们知道,直线的公式是y=kx+b,k代表斜率,b代表偏移值(y轴上的截距)。也就是说,k 可以控制直线的旋转角度,b可以控制直线的移动。强调一下,梯度下降法的实质是不断的修改k、b这两个参数值,使最终的误差达到最小。 求误差时使用累加(直线点-样本点)^2,这样比直接求差距累加(直线点-样本点) 的效果要好。这种利用最小化误差的平方和来解决回归问题的方法叫最小二乘法(Least Square Method)。 问题到此使似乎就已经解决了,可是我们需要一种适应于各种曲线拟合的方法,所以还需要继续深入研究。 我们根据拟合直线不断旋转的角度(斜率)和拟合的误差画一条函数曲线,如图:

(完整版)BP神经网络的基本原理_一看就懂

5.4 BP神经网络的基本原理 BP(Back Propagation)网络是1986年由Rinehart和 McClelland为首的科学家小组提出,是一种按误差逆传播算 法训练的多层前馈网络,是目前应用最广泛的神经网络模型 之一。BP网络能学习和存贮大量的输入-输出模式映射关系, 而无需事前揭示描述这种映射关系的数学方程。它的学习规 则是使用最速下降法,通过反向传播来不断调整网络的权值 和阈值,使网络的误差平方和最小。BP神经网络模型拓扑结 构包括输入层(input)、隐层(hide layer)和输出层(output layer)(如图5.2所示)。 5.4.1 BP神经元 图5.3给出了第j个基本BP神经元(节点),它只模仿了生物神经元所具有的三个最基本 也是最重要的功能:加权、求和与转移。其中x 1、x 2 …x i …x n 分别代表来自神经元1、2…i…n 的输入;w j1、w j2 …w ji …w jn 则分别表示神经元1、2…i…n与第j个神经元的连接强度,即权 值;b j 为阈值;f(·)为传递函数;y j 为第j个神经元的输出。 第j个神经元的净输入值为: (5.12) 其中: 若视,,即令及包括及,则

于是节点j的净输入可表示为: (5.13)净输入通过传递函数(Transfer Function)f (·)后,便得到第j个神经元的输出: (5.14) 式中f(·)是单调上升函数,而且必须是有界函数,因为细胞传递的信号不可能无限增加,必有一最大值。 5.4.2 BP网络 BP算法由数据流的前向计算(正向传播)和误差信号的反向传播两个过程构成。正向传播时,传播方向为输入层→隐层→输出层,每层神经元的状态只影响下一层神经元。若在输出层得不到期望的输出,则转向误差信号的反向传播流程。通过这两个过程的交替进行,在权向量空间执行误差函数梯度下降策略,动态迭代搜索一组权向量,使网络误差函数达到最小值,从而完成信息提取和记忆过程。 5.4.2.1 正向传播 设 BP网络的输入层有n个节点,隐层有q个节点,输出层有m个节点,输入层与隐层之间的权值为,隐层与输出层之间的权值为,如图5.4所示。隐层的传递函数为f (·), 1 (·),则隐层节点的输出为(将阈值写入求和项中): 输出层的传递函数为f 2

各种评价方法统计

第一种 模糊评价方法:内燃机性能评价。 第二种 数据包络分析法 人工神经网络评价法 思想与原理 人工神经网络是模仿生物神经网络功能的一种经验模型,输入和输出之间的变换关系一般是非线性的。首先根据输入的信息尽力神经元,通过学习规则或自组织等过程建立相应的非线性数学模型,并不断进行修正,是输出结果与实际值之间的差距不断缩小。人工神经网络通过样本的“学习和培训”,可记忆客观事物在空间、时间方面比较复杂的关系。由于人工神经网络本身具有非线性的特点,且在应用中只需对神经网络进行专门问题的样本训练,它能够把问题的特征反映在神经元之间相互关系的权中,所以,把实际问题特征参数输入后,神经网络输出端就能给出解决问题的结果。 神经网络的特点是,神经网络将信息或知识分布储存在大量的神经元或整个系统中。它具有全息联想的特征,具有高速运算的能力,具有很强的适应能力,具有自学习、自组织的潜力。他能根据历史数据通过学习和训练能找出输入和输出之间的内在联系,从而能得出问题的解。另外,他有较强的容错能力,能够处理那些有噪声或不完全的数据。部分节点不参与运算,也不会对整个系统的性能造成太大的影响。 反向传播(Back Propagation,BP)神经网络是由Rumelhart等人于1985年提出的一种很有影响的神经元模型,它是一种多层次反馈性模型,使用的石油“导师”的学习算法。有广阔的应用前景。 模型和步骤 处理单元,或称之为神经元,是神经网络的最基本组成部分。一个神经网络系统中有许多处理单元,每个处理单元的具体操作步骤都是从其相邻的其他单元中接受输入,然后产生出输出送到与其相邻的单元中去。神经网络的处理单元可以分为三种类型:输入单元、输出单元和隐含单元。输入单元是从外界环境接受信息,输出单元则给出神经网络系统对外界环境的作用,这两种处理单元与外界都有直接的联系。隐含单元则处于神经网络之中,他不与外界产生直接的联系。它从网络内不接受输入信息,是哟产生的输出则制作能够用于神经网络系统中的其他处理单元。隐含单元在神经网络中起着极为重要的作用。 人工神经网络的工作过程具有循环特征。对事物的哦按段分析必须经过一个学习和训练工程。1949年,Hebb率先提出了改变神经元连接强度的学习规则。其过程是:将样本(训练)数据赋予输入端,并将网络实际输出和期望输出相比较,得到误差信号,以此为依据来调整连接权值。重复此过程,直到收敛于稳态。 BP网络是一种具有三层或者三层以上的层次结构网络,相邻上、下层之间各神经元实现全连接,即下层的每个神经元与上层的每个神经元都实现权连接,而每层各种神经元之间无连接。换个角度看,BP神经网络不仅具有输入层节点,输出层节点,还可以有1个或者多个隐含层节点。对于输入信号,要先向前传播到隐含层节点,经作用函数后,再把隐含层的输出信号传播到输出节点,最后给出输出结果。在BP算法中,节点的作用的机理函数通常选取S形函数。 对于BP模型的输入层神经元,其输出与输入相同,中间隐含层和输出层的神经元的操 作规则如下:Ykj=f(∑ = -- n 1 1 , 1 i i k kj i k Y W) Y k-1i是k-1层的第i个神经元的输出,也是第k层神经元的输入;

图同构问题的决策神经网络模型

图同构问题的决策神经网络模型 南晋华,齐欢 (华中科技大学控制科学与工程系武汉430074) 摘要图的同构问题是研究两个图之间相互关系范畴。这对图表面上似乎不同,但本质上完全相同。由于图的同构问题在以系统建模、电路布线等众多问题中有直接的应用,因而,吸引了不少的学者从事这方面的研究。本文意在建立一种局域连接的、模拟人脑决策思维模式的、可用于优化信息处理的神经网络模型。文中在过去建立求解图的同构问题人工神经网络模型的基础上,拟应用人脑决策局域化的思想,提出了一种新的用于图的同构问题的人工神经网络模型。该模型中增加了一个自然的约束条件,加快了运算速度。 关键词图;同构;决策;神经网络 中图分类号TP301 The decision-making neural networks model for solving the graph isomorphism problem NAN Jin-Hua1)QI Huan1) 1) (Department of Control Science and Engineering,Huazhong University of Science and Technology,Wuhan 430074) Abstract The graph isomorphism problem is to study the relationship between two graphs which seem to be different, but essentially identical. This problem can be widely used in the system modeling, circuit wiring and many other issues. Therefore, this paper is aimed to establish a kind of neural networks model that are of local-connection, simulation human’s decision-making thinking, and also can be applied to solve the optimization for information. On this basis, we use a natural constraint in this model in order to speed up the operations, and then a new artificial neural network model is proposed to solve the graph isomorphism problem. Keywords Graph; Isomorphism; Decision-making; Neural networks model 1引言 图的同构问题不仅是数学,特别是图论自身学科研究中的一个核心内容,而且具有良好的应用背景,在工程技术领域,特别是大系统建模、电路设计、机械设计、模式识别以及系统建模中有着广泛的应用。对于系统建模,如果能够证明需建模型与已知模型同构,则可以节省大量人力物力财力。多数学者认为图的同构判定问题属于NP-完全问题。但至今没有定论,即它究竟是P问题还是NP问题?目前关于图的同构问题的判定性算法不少,有诸如经典判定算法[1-8]、对在实际工程中有着广泛应用的图的拟同构问题算法[9-12]、进化计算方法[13]、人工神经网络求解算法[14-18] 以及最新的DNA计算模型[19-20]等。在经典的图同构算法中,在此主要介绍两种算法,一种是所谓的矢量列表法,另一种是回溯算法。 研究图的同构问题,一个重要的环节是如何表示图的信息。在这个问题上,Comeil 与Hffman等人曾引入“模块”这一概念来表示各个顶点及其邻接顶点信息。在此基础上Riaz提出一种有效的判定图同构问题的算法-矢量列表法,即把各顶点所代表的信息用模块表示,所有模块组合在一起构成矢量列表。设计算法依次比较各模块,最终得到

人工神经网络在聚类分析中的运用

摘要:本文采用无导师监督的som网络,对全国31个省市自治区的人民生活质量进行了综合评价,在没有先验信息的条件下,不采用人为主观赋予各指标权重的办法,转而运用自组织神经网络自组织竞争学习的网络方法来进行赋值、计算和评价,消除了主观确定各指标的权重的主观性,得到的结果较为符合各省市自治区的实际结果。 关键词:聚类分析;k-means聚类;系统聚类;自组织神经网络;人民生活质量 一、引言(研究现状) 自改革开放以来,我国生产力极大发展,生活水平总体上得到了提高。但是,地区间的发展不平衡始终存在,而且差距越来越大,不同地区人民的生活水平也存在显著的差异。据此,我们利用自组织人工神经网络方法对全国31个省市自治区的人民生活水平质量进行分析评价。 二、指标选取与预处理 1.指标选取 遵循合理性、全面性、可操作性、可比性的原则,从以下5个层面共11个二级指标构建了人民生活质量综合评价指标体系(如下表所示)。 人民生活质量综合评价指标体系 2.指标预处理 (1)正向指标是指标数据越大,则评价也高,如人均可支配收入,人均公园等。 正向指标的处理规则如下(1): kohonen 自组织神经网络 输入层是一个一维序列,该序列有n个元素,对应于样本向量的维度;竞争层又称为输出层,该层是由m′n=h个神经元组成的二维平面阵列其神经元的个数对应于输出样本空间的维数,可以使一维或者二维点阵。 竞争层之间的神经元与输入层之间的神经元是全连接的,在输入层神经元之间没有权连接,在竞争层的神经元之间有局部的权连接,表明竞争层神经元之间的侧反馈作用。训练之后的竞争层神经元代表者不同的分类样本。 自组织特征映射神经网络的目标:从样本的数据中找出数据所具有的特征,达到能够自动对样本进行分类的目的。 2.网络反馈算法 自组织网络的学习过程可分为以下两步: (1)神经元竞争学习过程 对于每一个样本向量,该向量会与和它相连的竞争层中的神经元的连接权进行竞争比较(相似性的比较),这就是神经元竞争的过程。相似性程度最大的神经元就被称为获胜神经元,将获胜神经元称为该样本在竞争层的像,相同的样本具有相同的像。 (2)侧反馈过程 竞争层中竞争获胜的神经元会对周围的神经元产生侧反馈作用,其侧反馈机制遵循以下原则:以获胜神经元为中心,对临近邻域的神经元表现为兴奋性侧反馈。以获胜神经元为中心,对邻域外的神经元表现为抑制性侧反馈。 对于竞争获胜的那个神经元j,其邻域内的神经元在不同程度程度上得到兴奋的侧反馈,而在nj(t)外的神经元都得到了抑制的侧反馈。nj(t)是时间t的函数,随着时间的增加,nj(t)围城的面积越来越小,最后只剩下一个神经元,而这个神经元,则反映着一个类的特征或者一个类的属性。 3.评价流程 (1)对n个输入层输入神经元到竞争层输出神经元j的连接权值为(6)式:

基于BP神经网络的企业文化影响力评价

技术经济.Ib管理研究2008年第6期 基于BP神经网络的企业文化影响力评价 陈华溢 (徐州工程学院管理学院,江苏徐州221008) 摘要:要对企业文化实施有效管理,必须建立一套切实可行的企业文化影响力评价体系,对企业正在运行的文化系统进行测评。便于管理者调整战略和战术,保持文化建设的有效性。本文首先建立企业文化影响力评价体系,然后用BP神经网络评价方法时企业文化影响力进行评价,并且用计算机处理统计数据,实现了对企业文化影响力的定量化评价,为企业管理者提供决策依据。 关键词:企业文化;影响力;BP神经网络 中图分类号:F270文献标识码:A文章编号:1004—292X(2008)06—0068—03 一、引言 企业文化是指企业在长期的经营活动中并为各级员工普遍认可和遵循的独具特色的价值观念和思维方式的总和。企业文化通常包括物质文化、制度文化和精神文化三个层次,这三个层次的企业文化是由浅入深、由表及里逐渐深入的。相应的,企业文化的竞争力也可以从这三个方面来反映。要知道企业文化的好坏,就有必要对企业文化影响力进行评价。在实践中,我们发现可以通过调查分析、模型分析、数学分析等手段来评价企业文化影响力。 1.评价企业文化影响力的意义 企业建立企业文化的目的就是将其运用于企业管理运营中。来规范企业的发展和指导员工的行为。然而,在实践中企业文化建设的目标与期望却相距甚远,两者之间发生了偏差。众所周知,企业文化在企业建设中起到了重要作用,良好的企业文化会产生强有力的经营结果。无论是对竞争对手还是为顾客提供服务。它都能使企业采取快捷而协调的行为方式。所以。必须建立一个系统来保证文化建设目标与企业管理目标相一致.并要保障企业文化每一阶段的目标甚至是具体到每一部门的企业文化建设、内容和形式都要符合企业追求的目标。即为了有效管理企业文化,必须建立一套切实可行的企业文化影响力的评价体系。对文化体制在运行时对企业产生的影响进行测评,使管理者在调整战略和战术,保持文化建设的有效性时有据可依。 建立相应的企业文化影响力的评价体系可以起到两方面的作用:①可以统一企业内部思想。当前,人们对于企业管理和企业文化的认识不断深化,是以经济力量的竞争、抗衡、较量的变化为背景。在企业实际的文化建设中,不同人对于企业文化建设会有着各自不同理解和认识,从而使既定的目标在贯彻执行中发生偏差。而企业文化影响力评价体系通过对目标实施过程分阶段、分步骤地监督和评估。统一企业内部对企业文化的认识和理解,从而保证企业文化在实践中与企业目标建设保持一致。②可以督导文化建设。在企业文化具体实施运用的过程中难免会出现偏差,通过企业文化影响力评价体系,综合文化的各影响因素进行观测,从而发现文化中出现的薄弱环节,为企业管理者改进企业文化体系指出明确的方向,进而建立一个强有力的企业文化。同时,在管理过程中。要对管理行为指定标准,使之不偏离正确的企业文化指导方向。 2.当前评价方法存在的问题 当前用于评价企业文化影响力的方法多种多样,如灰色系统法、数学模型模拟分析法、模糊综合评判法等。虽然其评价结果有一定的科学性和指导意义,但存在的问题不容忽视.主要反映在以下几个方面:①遴选指标问题。遴选指标时一般使用统计学中的相关系数法、条件广义最小方差法等筛选m若干个有代表性的指标,这样做可以保证筛选出的指标相关性较低,却不能保证其完整地反映出研究对象的整体属性;②确定权重问题。现常用组成成分分析来确定权重。一般是从几何位置分布上离差最大的方向来考虑指标权重,从评估本身意义来看,依照数据离差的分布所确定的指标权重未必体现出指标在系统评估中的实际位置; ③诊断功能问题。现有的评价体系给出的结果只能是“优、良、中、差”或者是一定的分值。不能给出具体的“问题指标”,使得评价结果丧失了诊断功能。因此,本论文引用了更加科学而且效果好的评价方法及BP神经网络方法。 二、BP神经网络评价法的理论介绍 目前,已发展了几十种神经网络,如Hopfield模型、Feld一Ⅱ啪等连接网络模型、Hinton等的波尔茨曼机模型以及Rumel—hart等的多层感知模型和Kohonen的自组织网络模型等等。在众多神经网络模型中,应用最广泛的是多层感知机神经网络。多层感知机神经网络的研究始于20世纪50年代,但一直进展不大。 收稿日期:2008-08—19 作者简介:陈华溢(1986--).女,南通人,徐州工程学院市场营销系,研究方向:市场营销。 ?68? 万方数据

相关文档
最新文档