人工神经网络在认知科学的研究中的应用状况优秀毕业论文读书笔记解读

本科毕业设计(论文) 读书报告（读书笔记）

学院：机械与控制工程学院

课题名称：人工神经网络在认知科学

研究中的应用状况的报告专业(方向)：自动化（控制）

班级：

学生：

指导教师：

日期：

读《人工神经网络与盲信号处理》

本书非别介绍了三种主要的人工神经网络的特征、模糊神经网络和遗传算法在人工神经网络中应用。

人类大脑中有1000亿个神经元组成，大脑内约有1000000亿个连接，人的智能是高度复杂的。人工智能分为12大类：感知和认知、记忆、学习与知识、语言行动和动作、优化、预测、计划判断和决定、自适应性和鲁棒性、博弈和对策、创新和发明、深层智能。神经网络主要典型模型有：多层前向神经网络、递归神经网络、自组织神经网络、Hopfield神经网络、模糊神经网络FNN、脉冲耦合神经网络、波尔兹曼机等。人工神经网络在现实的应用：模式识别、非线性动力系统辨识、建模和控制、预测和预报、数据采掘DM、优化问题、信号处理和检测、生物学和医学。

读《人工智能技术及应用》

本书介绍了包括人工神经网络、进化学习在内的人工智能知识，并介绍部分人工智能应用实例。

在人工智能研究领域中有三个不同的学派，分别为符号主义、联结主义、行为主义。符号主义：其原理主要为物理符号系统假设和有限合理性理论，认为人的认知基础是符号，且认知过程为符号操作过程。联结主义：其原理主要为神经网络及神经网络间连接机制和学习算法，认为人的思维基元是神经元。行为主义：其原理为控制论及感知——行动型控制系统，认为智能不需要知识、不需要表示、不需要推理；人工智能可以像人类智能一样逐步进化，智能行为智能在现实世界中与周期环境交互作用而变现出来。这三种主义的基本出发点分别是功能模拟——人类思维逻辑的形式化；结构模拟——生物神经系统的结构和性能；行为模拟——行为和反应的积累。

读IJCNN会议投稿须知

IJCNN会议是由国际神经网络协会（international neural network society）和IEEE计算机智能协会（IEEE computational intelligence society）主办的。IJCNN 的投稿主题有：（1）神经网络理论或模型（2）类型识别（3）计算机神经科学（4）机器视觉（5）认知模型（6）集成智能（7）脑部机器界面（8）离散系统（9）机器人（10）自我意识系统（11）进化神经系统（12）数据挖掘（13）神经力学（14）感知网络（15）神经信息学（16）组织系统（17）神经工程学（18）神经硬件（19）神经网络应用（20）计算机生物学（21）人工生活。

IJCNN投稿要求：文章要求使用电子档投递，使用PDF格式，具体格式使用IJCNN 格式。获得通过的文章，除正文外，作者还应提交500字左右的摘要，摘要仅限于评论，摘要主题与“神经科学和神经认知”相关。

读《a neural network model of memory and higher cognition functions》本文介绍一种名为R-nets的神经网络模型，R-nets网络模型相对于传统网络模型而言的优势在于信息的处理能力更强，且更符合生物学上神经系统的运行方式。网络中的学习和回忆算法不需要设定临界值，也不需要对其突触强度进行分级，他们是独立于网络结构的。R-nets模型中，excitatory神经元的作用非常突出，其相对间的连接能使得这一区域能控制信息的记忆，并能模拟许多的心理现象，包括记忆的再加工、对未来事件的预测等。R-nets中的excitatory间的连接是被忽略的，他随机映射到一个相对小数量的抑制神经元。

c-nets网络中有多个R-nets，每个R-nets由4000个excitatory神经元组成，每20个神经元都映射到一个抑制神经元上，由800个抑制神经元；每100个抑制神经元都映射到一个抑制神经元身上。之所以将c-nets设计成这样，是根据生物神经网络原理决定的。在生物中，特别是在人类神经网络中，细胞有原则细胞，而且数量极其庞大，这些细胞中就存在着抑制神经元，抑制神经元又存在excitatory神经元。

读《a link between neuroscience and informatics : Large-scale modeling of memory process》。

本文主要介绍两种研究人类认知过程，特别是研究记忆过程的两种技术：神经成像技术和计算机神经模拟技术。计算机模拟已经广泛应用在检测记忆的功能上。这种模型模拟生物学的认知过程方面是很相似的，但其在神经基质的研究还不是很具体。本文提出了两种神经网络模型：（1）单bistable神经元的synfire串多层前馈网络，他形成一个闭环，bistable神经元在高低激励比间稳定转化，产生持续活动，其活动独立于突触连接。Synfire主要作用于短期记忆开发上。（2）周期网络，他是使得更多学习系统产生持续活动，一个周期连接神经元的动力集被反馈到网络，成为附加输入，引起网络在没有进一步输入时描绘吸引态。周期网络应用于保持短期表示，如空间记忆、物体记忆、任务要求记忆等。

读《a tutorial on computational cognition neuroscience :modeling the neurodynamics of cognition》

本文介绍一种模拟认知中神经动力学的网络模型，计算机认知神经科学（CNN）模型。为什么要使用CNN呢？因为CNN模型能增加行为模型的数量，能取得在神经科学数据中不能显示的不相关行为的关系，可以研究神经科学中的行为预测。

CNN有四个理想原则：（1）理想的神经科学——CNN模型不应使用任何假设。（2）简易启发——在模型中没有任何附加的神经科学解释，除非模型在没有这个解释时无法产生功能。（3）不再变化理论——网络结构和每一个个体单元模型应保持固定。（4）理想的拟合度——CNN模型应提供好的关于行为数据的解释，至少在一些神经科学数据方面。神经科学的理想化假设使得putational神经科学和CNN模型的关系得到确定化。在CNN 模型中，没有生物结构的细节，但也正是由此，CNN模型得到了简化，低水平的数据常常解释为在CNN模型的单细胞来记录。

读《artificial neural network-------a review of application in the atmospheric science》

多层感知器其由一个简单连接的神经元组成，他是模拟输入矢量和输出矢量间流向，他是前馈神经网络。输入层没有计算机规则，仅仅服务于将输入矢量引入网络，多层感知器由一个或多个隐藏层和一个输出层。其有能力通过训练来学习；训练需要一套训练数据，这些数据由一系列输入和相关输出矢量组成，其学习方式为有导师方式。多层感知器使用一种名为backdropagation算法来计算网络的集体强度，该网络应用于预测、函数近似和模式分类等方面。本文讲述的是将多层感知器应用在大气科学中，其主要应用在空气质量预测。具体有预测磁化碳、臭氧层空洞、极端天气、太阳辐射、大气层污染散布等。

读《A neurodynamic model of the attentional blink》

本文介绍一种神经网络模型CODAM，并通过对比实验分析其模拟注意力情况。文中还介绍了两种模型，二阶模型和干扰模型。前者可以瞬间产生一个二阶语义水平的工程，第一个目标被加工为二阶，第二个目标则不能被加工为二阶。第二目标包含色彩和其他物理特性及从长期记忆中联想的信息，这些信息由一个概念上的短期记忆支持。后者应用的是早期的相似模型，视觉探索第一个目标，干扰第二个目标。在相似理论中，高处理创造出刺激并匹配第一个和第二个目标的范本，一段时间后，第一个目标表示统治所有竞争响应，干涉所有第二目标表示。超过规定时间后，第一个任务过程成功上升到报告水平，第二个目标不再被干涉。对于本文提出的CODAM模型在模拟注意力方面比这两者都强，其能模拟所有注意力想象。

读《are unsupervised neural network ignorant ?sizing the effect of environmental distributions on unsupervised learning》

本文主要介绍在学习环境偏差的情况下竞争性网络和周期联系回忆网络的学习情况的研究，主要是简述实验结果。实验分为两组，第一组实验中的学习环境是在最简单的可能环境中，这是一个标准环境。第二组实验的学习环境则非常复杂，即偏差很大。两组实验和对比了四组神经网络，第一组实验的神经网络：（1）由Runelhart和zipser 在1986年提出的一个简单的竞争网络模型，他是一个标准的前馈网络，由两层组成，分别是输入层、输出层。在文中，该网络由八个输入单元和两个输出单元。（2）Hebbian 学习RAM，他是Anderson在1977年提出来的，其结构中重要的是使用一组模拟集。在文中，网络使用了八个单元。第二组实验的神经网络：（1）ART1，他是Carpenter和Grossberg在1987年提出来的一个以生物学为灵感的竞争网络。他有两层单元，网络由两个明显的强度集组成。本文中，该网络由256个单元组成，输出层为3个单元。（2）NDRAM是一个非线性RAM，他能学习连续刺激，其为非线性传递函数，且包含学习法则。结构是一个通常的联想记忆集和附加的一个检测器。本文中，网络包含256个单元。

实验结论：复杂的竞争网络部能在环境偏差中会导致偏差，而周期联想记忆则能很好的解决这个问题。

读《modeling cognitive and emotional process : a novel neural network architecture》

本文介绍的是一种名为情绪神经网络（DUO）的模型。DUO神经网络由三层组成：一个输入层、一个包含DUO的神经元的隐含层、一个输出层。其中DUO神经元中又分为背部神经元和腹部神经元。DUO神经元附加有情绪参数：焦虑和信心。这两个参数供给隐含层和输出层。DUO神经元处理信号时，其输入信号时唯一的，然后数据分为腹部情绪流和背部认知流，分别送给DUO神经元的背部神经元和腹部神经元进行平行处理。

DUO神经网络可以应用于面部识别方面。人类的面部特征呈现复杂化特点，这主要由于其不断随时间而变化。然而，虽然其在不断变化，但人类还是能识别面部特征，区分出个人，DUO神经网络可以模拟人类的这一能力。要使DUO神经网络进行面部识别的方法主要是进行面部图像的训练，图像信息除了一般的面部图像表达的特征外，还要通过改变亮度、表情来训练网络。

读书的好处

1、行万里路，读万卷书。

2、书山有路勤为径，学海无涯苦作舟。

3、读书破万卷，下笔如有神。

4、我所学到的任何有价值的知识都是由自学中得来的。——达尔文

5、少壮不努力，老大徒悲伤。

6、黑发不知勤学早，白首方悔读书迟。——颜真卿

7、宝剑锋从磨砺出，梅花香自苦寒来。

8、读书要三到：心到、眼到、口到

9、玉不琢、不成器，人不学、不知义。

10、一日无书，百事荒废。——陈寿

11、书是人类进步的阶梯。

12、一日不读口生，一日不写手生。

13、我扑在书上，就像饥饿的人扑在面包上。——高尔基

14、书到用时方恨少、事非经过不知难。——陆游

15、读一本好书，就如同和一个高尚的人在交谈——歌德

16、读一切好书，就是和许多高尚的人谈话。——笛卡儿

17、学习永远不晚。——高尔基

18、少而好学，如日出之阳；壮而好学，如日中之光；志而好学，如炳烛之光。——刘向

19、学而不思则惘，思而不学则殆。——孔子

20、读书给人以快乐、给人以光彩、给人以才干。——培根