第讲神经元与网络结构
神经元和神经网络的工作原理
神经元和神经网络的工作原理随着计算机技术的不断发展，人工智能逐渐成为一个热门话题，而神经网络作为人工智能的一个重要分支，则受到越来越多的关注。
那么，神经元和神经网络是如何工作的呢？一、神经元的工作原理神经元是构成神经系统的基本单元，也是信息传递的基本单元。
神经元由细胞体、树突、轴突和突触组成。
当神经元受到刺激时，会产生电信号，在轴突上传递，并通过突触向其他神经元传递信息。
神经元的具体工作过程可以通过一个简单的模型来描述，这个模型被称为“McCulloch-Pitts模型”。
这个模型基于一个神经元只有两种状态的假设：激活状态和不激活状态。
当神经元受到足够的刺激时，它便将电信号发送到轴突，从而激活后续神经元。
二、神经网络的工作原理神经网络是由大量的神经元组成的一个系统，它的工作原理可以用前馈神经网络来描述。
前馈神经网络是指信息的传递只能从输入层到输出层，不会产生环路。
前馈神经网络的每个神经元都可以模拟生物神经元的工作过程。
每个神经元接收来自上一层神经元的输出值，并通过一些权重和偏差对这些值进行加权求和，然后将这个计算结果输入到下一层神经元的激活函数中得到输出值。
这样一层层地传递下去，最终得到神经网络的输出结果。
在训练神经网络时，需要对神经元之间的权重和偏差进行调整，以使神经网络的输出尽可能地与训练数据（标签）相符。
神经网络所使用的训练算法有很多，其中最常用的是反向传播算法。
该算法基于梯度下降的思想，通过计算损失函数的偏导数，从而逐步调整神经元之间的权重和偏差，使得神经网络的输出结果逐渐逼近训练数据的标签。
总之，神经元和神经网络的工作原理是相对独立的，但又密切相连的。
神经元作为神经网络的基本单元，通过电信号的传递实现了信息的处理和传递。
而神经网络则是多个神经元之间相互连接的网络，通过神经元之间的权重和偏差进行信息的加工和处理。
深入了解神经元和神经网络的工作原理，对于理解人工智能以及快速掌握相关技术有着重要的意义。
神经网络基础精选
第一讲 神经网络基础
突触：突触是神经元的树突末梢连接另一神经元的突触 后膜 (postsynaptic membrane)的部分。它是神经元之 间相联系并进行信息传送的结构,是神经元之间连接的 接口。两个神经元的细胞质并不直接连通,两者彼此联 系是通过突触这种结构接口的。
膜电位：神经元细胞膜内外之间存在电位差，称为膜电 位。膜外为正，膜内为负。膜电压接受神经其它神经元 的输入后,电位上升或下降。当传入冲动的时空整合结 果，使膜电位上升，而且当超过叫做动作电位的阈值时, 细胞进入兴奋状态，产生神经冲动，由轴突输出，这个 过程称为兴奋。
•9
第一讲 神经网络基础
2 突触传递信息动作原理
膜电位（mv）
兴奋期, 大于动作阈值
动 作
绝对不应期：不响应任何刺激 阈
值
相对不应期：很难相应
t (ms)
根据突触传递信息的动作过 -55
程可以分为两种类型：兴奋型 -70
12
3
和抑制型。神经冲动使得细胞 膜电压升高超过动作电压进入
1ms 1ms 3ms
•5
树突
细胞体
细胞核 轴突
轴突末梢
图1-1a 神经元的解剖
•6
图1-1b 神经元的解剖
•7
第一讲 神经网络基础
细胞体：细胞体是由很多分子形成的综合体,内部含有 一个细胞核、核糖体、原生质网状结构等,它是神经元 活动的能量供应地,在这里进行新陈代谢等各种生化过 程。包括细胞核，细胞膜和细胞质。
n
Ii W ijXj为 第 i个 神 经 元 的 净 输 入
j1
•12
第一讲 神经网络基础
四 人工神经元与生物神经元区别 （1）模型传递的是模拟信号，生物输入输出均
神经元与神经网络的结构与功能
神经元与神经网络的结构与功能在我们探索大脑这个神秘而又令人着迷的领域时，神经元和神经网络无疑是其中最为关键的组成部分。
它们就像是构建大脑这座复杂“大厦”的基石和“线路”，共同协作实现了我们的思考、感知、记忆和行动等各种神奇的能力。
让我们先来了解一下神经元的结构。
神经元，简单来说，就像是一个小小的“信息处理工厂”。
它主要由细胞体、树突和轴突这几个部分组成。
细胞体是神经元的“核心区域”，这里包含了细胞核和各种细胞器，为神经元的正常运作提供了必要的物质和能量支持。
树突则像是神经元的“触角”，从细胞体向外伸展，负责接收来自其他神经元的信号。
而轴突则是神经元的“输出管道”，它可以将神经元产生的信号传递给其他神经元或效应细胞。
神经元之间的信号传递是通过一种被称为“突触”的结构来实现的。
当一个神经元的电信号传递到轴突末端时，会引发神经递质的释放。
这些神经递质就像是一个个小小的“信使”，穿过突触间隙，与下一个神经元树突上的受体结合，从而将信号传递下去。
这种信号传递的过程既快速又精准，使得大脑能够在瞬间处理大量的信息。
接下来，让我们看看神经网络是如何构建起来的。
神经网络实际上是由大量的神经元相互连接而成的复杂网络。
这些神经元之间通过突触形成了无数的连接，构成了一个错综复杂的信息传递通路。
神经网络的结构可以分为不同的层次和区域，每个层次和区域都有着特定的功能。
例如，在大脑的感觉皮层中，神经元会按照对不同感觉信息的处理进行分层排列，从而形成了专门处理视觉、听觉、触觉等信息的区域。
神经网络的功能是极其强大和多样化的。
首先，它具有信息存储和记忆的能力。
通过神经元之间的连接强度和模式的改变，神经网络可以将我们经历过的事情和学到的知识存储下来，形成长期记忆。
其次，神经网络能够进行信息处理和模式识别。
当我们看到一个物体、听到一段声音或者解决一个问题时，神经网络会对输入的信息进行分析和整合，从中提取出关键特征，并与已有的知识和经验进行匹配，从而做出相应的判断和决策。
神经元网络的形成和运作原理
神经元网络的形成和运作原理神经元是神经系统的基本单位，它结构简单，但是有着复杂的功能，是神经网络的主体组成部分。
神经元之间的连接形成了复杂的神经网络，这个网络的结构决定了神经系统的功能和表现。
本文将介绍神经元的基本结构和神经元网络的形成和运作原理。
一、神经元的结构神经元包括细胞体、树突、轴突和突触四部分。
神经元细胞体是神经元的主体部分，包含细胞核和细胞质。
神经元细胞体是神经元的代谢中心，负责合成和分解生命活动所必需的物质。
树突是神经元的短纤维，负责接受其他神经元的输入信息。
树突的数量和形状不同，树突越多分支越广，神经元的信息接收能力就越强。
轴突是神经元的长纤维，负责将信息传递到其他神经元或者肌肉细胞中。
轴突的长度和细胞体的距离也不同，轴突越长，传递信息的距离就越远。
突触是神经元与其他神经元或者肌肉细胞之间的连接点。
突触包括突触前端、突触间隙和突触后端三部分。
信息传递通过神经元的轴突到达突触前端，释放神经递质到达接收神经元或肌肉细胞的突触后端。
二、神经元网络的形成神经元网络的形成首先需要神经元的成熟，神经元成熟的过程称为神经元的发育。
在人类发育的早期，大脑中的神经元是外周神经系统发育的一部分。
大脑中的神经元从胚胎时期就开始发生并分化，神经元细胞体产生并向外伸出数以千计的树突，与其他神经元建立连接。
随着神经元的成长，它们扩张树突并形成突触连接。
在形成神经元连接的过程中，神经元会通过突触前端释放神经递质，进而影响其他神经元或者肌肉细胞。
在这个过程中，神经元的连接会发生变化，一些连接加强，一些连接减弱，这个过程叫做突触可塑性。
这种可塑性使神经元网络的连接在一定程度上能够自适应环境的变化。
三、神经元网络的运作原理神经元网络的运作原理基于神经元之间的连接和神经递质的作用。
神经递质是神经元之间传递信号的化学物质，神经递质通过神经元的轴突到达突触前端，释放到突触间隙并通过与接收神经元或肌肉细胞的突触后端结合，传递信息并引发反应。
神经网络专题ppt课件
(4)Connections Science
(5)Neurocomputing
(6)Neural Computation
(7)International Journal of Neural Systems
7
3.2 神经元与网络结构
人脑大约由1012个神经元组成，而其中的每个神经元又与约102～ 104个其他神经元相连接，如此构成一个庞大而复杂的神经元网络。 神经元是大脑处理信息的基本单元，它的结构如图所示。它是以细胞 体为主体，由许多向周围延伸的不规则树枝状纤维构成的神经细胞， 其形状很像一棵枯树的枝干。它主要由细胞体、树突、轴突和突触 (Synapse，又称神经键)组成。
15
4.互连网络
互连网络有局部互连和全互连 两种。 全互连网络中的每个神经元都 与其他神经元相连。 局部互连是指互连只是局部的， 有些神经元之间没有连接关系。 Hopfield 网 络 和 Boltzmann 机 属于互连网络的类型。
16
人工神经网络的学习
学习方法就是网络连接权的调整方法。 人工神经网络连接权的确定通常有两种方法：
4
5. 20世纪70年代 代表人物有Amari, Anderson, Fukushima, Grossberg, Kohonen
经过一段时间的沉寂后，研究继续进行
▪ 1972年，芬兰的T．Kohonen提出了一个与感知机等神经 网络不同的自组织映射理论(SOM)。 ▪ 1975年，福岛提出了一个自组织识别神经网络模型。 ▪ 1976年C．V．Malsburg et al发表了“地形图”的自形成
6
关于神经网络的国际交流
第一届神经网络国际会议于1987年6月21至24日在美国加州圣地亚哥 召开，标志着神经网络研究在世界范围内已形成了新的热点。
神经元的信号传递与神经网络
神经元的信号传递与神经网络神经元是神经系统的基本单元，也是构成神经网络的重要组成部分。
神经元的主要功能是接收、处理和传递信号，通过神经元之间的连接形成网络来完成信息处理和传递的功能。
神经元的信号传递机制是神经网络的核心，本文将着重阐述神经元的信号传递原理和神经网络的组成结构。
一、神经元的基本结构神经元的基本结构包括细胞体、树突、轴突、突触等，其中细胞体是神经元的中心区域，树突是从细胞体伸出的多个分支，用于接收信号，轴突是单一的弯曲纤维，用于传递信号，突触是轴突与其他神经元、肌肉细胞或腺体细胞结合的区域，用于信号传递和信息交换。
神经元的信号传递基于神经元的电活动和神经递质的释放。
神经元的电活动是由离子通道控制的电流引起的，在神经元受到外界刺激的情况下，特定类型的离子通道会打开或关闭，导致细胞内外离子浓度发生变化，进而引发神经元的电活动。
神经递质则是一种化学信号物质，能够媒介神经元之间的信息传递。
当神经元接收到电信号后，会在神经元末梢释放神经递质，将信息传递到下一组织或细胞。
二、突触传递神经元之间的信息传递是通过突触完成的，突触分为化学突触和电突触两种，其中化学突触是神经网络中最常见的一种突触类型。
在化学突触中，神经元之间通过神经递质的释放和结合来完成信号传递。
当神经元受到外界刺激，其末梢会释放神经递质，神经递质会通过突触间隙，到达下一组织或细胞，与特定的受体结合，引起受体内离子通道的变化，从而使得下一组织或细胞受到电信号，继续传递。
化学突触的传导是一种慢速传递，信号的传导速度受到神经递质释放速度、受体分布情况和神经元的结构等多方面因素的影响。
三、神经网络的组成结构神经网络是由大量神经元和它们之间的连接组成，具有高度的并行性和自适应性。
神经网络的组成结构分为三层，分别是输入层、隐层和输出层。
输入层是神经网络的第一层，用于接收外部信号输入，通常为一个或多个传感器的输出信号，将其转化为神经元的输入信号。
神经元和神经网络的基本构成和功能
神经元和神经网络的基本构成和功能神经元是神经网络的基本单元，它具有多种形态和功能。
神经元主要由细胞体、树突、轴突和神经末梢组成。
细胞体是神经元的中心部位，包含核糖体、线粒体、高尔基体等细胞器，是神经元合成蛋白质和能量的基础。
树突是神经元的分支结构，可以接受其他神经元释放的信息。
轴突是神经元的传导结构，可以将神经元产生的信号传递到其他神经元或肌肉、器官上。
神经末梢是神经元的结束部位，释放神经递质，将信号传递给其他神经元或肌肉、器官。
神经元之间的信息传递是通过神经递质在神经元之间传递的。
神经递质是一种化学物质，可以在神经元间传递脉冲信号和信息。
神经元之间的连接形式有两种：突触和胶质细胞。
突触是神经元之间的连接结构，是神经信息传递的关键点。
当一个神经元的神经冲动到达它的轴突末端时，便释放神经递质，进入到另一个神经元的树突或细胞体中。
胶质细胞是神经元周围的辅助细胞，它们可提供神经元所需的各种物质和营养，同时帮助神经元修复损伤和稳定环境。
神经网络是由多个神经元之间互相连接而成的网络结构。
神经网络可以被分类为前馈神经网络和反馈神经网络。
前馈神经网络中，神经元之间的连接是单向的，从输入层传到输出层。
反馈神经网络中，神经元之间的连接是双向的，可以在内部反馈信息。
神经网络的训练方式包括监督学习、无监督学习和增强学习等。
在神经网络的训练中，权重是关键的参数。
权重表示一个神经元与另一个神经元之间的连接强度。
当神经网络在接收输入并进行计算的时候，每个神经元都会得出一个输出。
输出的大小可以根据权重的不同进行调整。
权重的调整是通过反向传播算法实现的。
反向传播算法是一种优化算法，可以调整神经网络的权重，使得输出结果尽量接近期望的结果。
这些期望结果可以来自训练数据或来自人工给定的标签。
神经网络的应用非常广泛，包括图像识别、语音识别、自然语言处理、机器翻译、推荐系统、金融预测等等。
随着人工智能技术的发展，神经网络的研究和应用将会越来越广泛。
神经科学中的神经元计算与神经网络
神经科学中的神经元计算与神经网络神经科学是研究神经系统结构与功能的学科。
在神经科学中，神经元计算和神经网络是非常重要的概念。
神经元计算是指神经元之间通过化学或电信号传递信息的过程。
神经网络是指多个神经元组成的一种网络结构，它可以模拟人类大脑进行信息处理。
在本文中，我们将讨论神经元计算与神经网络在神经科学中的重要性。
神经元计算是神经系统中信息传递的基本单位。
神经元是一种特殊的细胞，它具有自我激活和传递电信号的能力。
神经元细胞体内包括神经纤维和树突等结构。
神经纤维是神经元的输入部分，它负责接收来自其他神经元的信息并将其传递给细胞体。
树突是神经元的输出部分，它将细胞体中处理过的信息传递给其他神经元。
神经元计算过程中，神经元会接收到来自其他神经元的信息。
这些信息可能是化学物质，也可能是电信号。
神经元通过树突将接收到的信息传递到细胞体。
当神经元接收到足够的信号时，它将发出电信号，这个过程被称为神经元的兴奋。
兴奋的信号将沿着神经纤维传递到其他神经元。
在信号传递过程中，传递速度和强度也会受到影响。
神经元计算是神经系统非常基本的功能。
人类大脑中有数十亿个神经元，它们通过复杂的方式相互连接，并且形成了各种不同的神经网络。
这些神经网络负责处理、存储并传递我们的思维、记忆和感觉等信息。
神经元计算的研究对我们理解人类大脑中的信息处理过程非常关键。
神经网络是由多个神经元组成的网络结构。
神经网络模拟了人类大脑中神经元的相互连接方式，并利用这些连接来处理和储存信息。
不同的神经网络可能会有不同的结构，不同的结构会对相同的信息进行不同的处理。
神经网络通过学习可以改变连接的权重，并逐渐优化网络结构，从而提高网络的性能。
神经网络有很多应用，最为重要的应用是在计算机科学中。
神经网络在计算机科学中被广泛应用于机器学习和人工智能的领域。
人工神经网络可以学习如何解决某些特定的问题，例如语音识别和图像处理等问题。
神经网络还可以用于模拟脑功能，例如认知过程和学习等。
第一讲神经网络基本原理ppt课件
人工神经网络基本要素
人工神经网络(简称神经网络)是由人工神经元(简称神经元)互 连组成的网络，它是从微观结构和功能上对人脑的抽象、简化，是模 拟人类智能的一条重要途径，反映了人脑功能的若干基本特征，如并 行信息处理、学习、联想、模式分类、记忆等。
人工神经网络（ANN）可看成是以人工神经元为节点，用有向加权 弧连接起来的有向图。
20 世 纪 80 年 代 以 来 ， 人 工 神 经 网 络 （ ANN ， Artificial Neural Network）研究取得了突破性进展。神经网络控制是将神经网络与控制 理论相结合而发展起来的智能控制方法。它已成为智能控制的一个新的 分支，为解决复杂的非线性、不确定、未知系统的控制问题开辟了新途 径。
y 是神经元的输出。
神经元的输出 y=f(w*u+θ )
人工神经网络基本要素 —神经元
可见，神经元的实际输出还取决于所选择的作用函数f(x)。神经元的阈值 可以看作为一个输入值是常数1对应的连接权值。根据实际情况，也可以 在神经元模型中忽略它。关于作用函数的选择将在后面详细讨论。在上述 模型中，w和θ是神经元可调节的标量参数。设计者可以依据一定的学习规 则来调整它。
每个神经元的突触数目有所不同，而且各神经元之间的连接强度 和极性有所不同，并且都可调整，基于这一特性，人脑具有存储信息的 功能。图1.1 生物神经元的结构
人工神经网络基本要素 —神经元
神经生理学和神经解剖学的研究 结果表明，神经元是脑组织的基 本单元，是神经系统结构与功能 的单位。
• 大脑
Brain
在此有向图中，人工神经元就是对生物神经元的模拟，而有向弧则 是轴突—突触—树突对的模拟。有向弧的权值表示相互连接的两个人 工神经元间相互作用的强弱。
神经网络基本介绍PPT课件
神经系统的基本构造是神经元(神经细胞 )，它是处理人体内各部分之间相互信息传 递的基本单元。
每个神经元都由一个细胞体，一个连接 其他神经元的轴突和一些向外伸出的其它 较短分支—树突组成。
轴突功能是将本神经元的输出信号(兴奋 )传递给别的神经元，其末端的许多神经末 梢使得兴奋可以同时传送给多个神经元。
将神经网络与专家系统、模糊逻辑、遗传算法 等相结合，可设计新型智能控制系统。
(4) 优化计算 在常规的控制系统中，常遇到求解约束
优化问题，神经网络为这类问题的解决提供 了有效的途径。
常规模型结构的情况下，估计模型的参数。 ② 利用神经网络的线性、非线性特性，可建立线
性、非线性系统的静态、动态、逆动态及预测 模型，实现非线性系统的建模。
(2) 神经网络控制器 神经网络作为实时控制系统的控制器，对不
确定、不确知系统及扰动进行有效的控制，使控 制系统达到所要求的动态、静态特性。 (3) 神经网络与其他算法相结合
4 新连接机制时期（1986-现在） 神经网络从理论走向应用领域，出现
了神经网络芯片和神经计算机。 神经网络主要应用领域有：模式识别
与图象处理（语音、指纹、故障检测和 图象压缩等）、控制与优化、系统辨识 、预测与管理（市场预测、风险分析） 、通信等。
神经网络原理 神经生理学和神经解剖学的研究表 明，人脑极其复杂，由一千多亿个神经 元交织在一起的网状结构构成，其中大 脑 皮 层 约 140 亿 个 神 经 元 ， 小 脑 皮 层 约 1000亿个神经元。 人脑能完成智能、思维等高级活动 ，为了能利用数学模型来模拟人脑的活 动，导致了神经网络的研究。
(2) 学习与遗忘：由于神经元结构的可塑 性，突触的传递作用可增强和减弱，因 此神经元具有学习与遗忘的功能。 决定神经网络模型性能三大要素为：
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第三讲神经元与网络结构3．1 生物神经元及生物神经网络3．1．1 生物神经元人脑大约由1012个神经元组成，而其中的每个神经元又与约102～104个其他神经元相连接，如此构成一个庞大而复杂的神经元网络。
神经元是大脑处理信息的基本单元，它的结构如图3—1所示。
它是以细胞体为主体，由许多向周围延伸的不规则树枝状纤维构成的神经细胞，其形状很像一棵枯树的枝干。
它主要由细胞体、树突、轴突和突触(Synapse，又称神经键)组成。
图3－1 生物神经元示意图细胞体由细胞核、细胞质和细胞膜组成。
细胞体是神经元新陈代谢的中心，还是接受与处理信息的部件。
树突是细胞体向外延伸树枝状的纤维体，它是神经元的输入通道，接受来自其他神经元的信息。
轴突是细胞体向处延伸的最长、最粗的一条树枝纤维体，即神经纤维，其长度从几个微米到1m左右。
它是神经元的输出通道。
轴突末端也有许多向外延伸的树枝状纤维体，称为神经末梢，它是神经元信息的输出端，用于输出神经元的动作脉冲。
轴突有两种结构形式：髓鞘纤维和无髓鞘纤维，两者传递信息的速度不同，前者约为后者的10倍。
一个神经元的神经末梢与另一神经元树突或细胞体的接触处称为突触，它是神经元之问传递信息的输入输出接口。
每个神经元约有103～104个突触。
从神经元各组成部分的功能来看，信息的处理与传递主要发生在突触附近。
当神经元细胞体通过轴突传到突触前膜的脉冲幅度达到一定强度，即超过其阈值电位后，突触前膜将向突触间隙释放神经传递的化学物质(乙酰胆碱)。
由于这种化学物质的扩散，使位于突触后膜的离子通道(Ion Channel)开放，产生离子流，从而在突触后膜产生正的或负的电位，称为突触后电位。
突触有两种：兴奋性突触和抑制性突触。
前者产生正突触后电位，后者产生负突触后电位。
一个神经元的各树突和细胞体往往通过突触和大量的其他神经元相连接。
这些突触后电位的变化，将对该神经元产生综合作用，即当这些突触后电位的总和超过某一阎值时，该神经元便被激活，并产生脉冲，而且产生的脉冲数与该电位总和值的大小有关。
脉冲沿轴突向其他神经元传送，从而实现了神经元之间信息的传递。
突触传递信息有一定的延迟时间，对于温血动物一般为0．3—1ms。
当一个神经元突触前传来一串脉冲时，突触后电位的变化是其中诸单脉冲冲动效应的累加，即时间上的累加。
而该神经元与其他很多神经元相连接的突触前同时传来的脉冲也能引起该突触后电位的变化，即空间上的累加。
时间累加和空间累加都会对突触后电位产生影响。
最后，将突触传递信息的功能和特点归纳为：(1)信息传递有时延，一般为0.3～lms。
(2)信息的综合有时间累加和空间累加。
(3)突触有兴奋性和抑制性两种类型。
(4)具有脉冲／电位信号转换功能。
沿神经纤维传递的电脉冲为等幅(约60—100mV)、恒宽、编码的离散信号，而细胞膜电位的变化为连续的模拟量。
由此可见突触有数／模转换功能。
这种转换是通过神经介质以量子化学的方式实现的。
(5)神经纤维传导的速度，即脉冲沿神经纤维传递的速度，在1—150m／s之间，它随纤维的粗细以及髓鞘的有无而不同。
有髓鞘的粗纤维，其传递速度在100m／s以上；无髓朗的纫纤维，其传递速度可低至每秒数米。
(6)存在不应期。
在两个相邻脉冲之间，神经元的阈值电位突然升高，阻止下一个脉冲的通过，这段时间称为不应期，约3—5ms。
在此期间，对激励不响应，不能传递脉冲。
(7)不可逆性，脉冲只从突触前传到突触后，不逆向传递。
(8)可塑性，突触传递信息的强度是可变的，即具有学习功能。
可塑性是学习和记忆的基础。
(9)存在遗忘或疲劳效应。
3．1．2 人脑神经网络系统生物神经网络是由很多神经元相互连接的，神经网络系统是一个极为庞大则错综复杂的系统。
每个神经元虽然都十分简单，但是，如此大量神经元之间非常复杂的连接却可以演化出丰富多彩的行为方式。
同时，如此大量神经元与外部感受器之间的多种多样的连接方式也蕴含了变化莫测的反应方式。
总之，连接方式的多样化导致了行为方式的多样化。
脑神经系统的主要组成部分如图3—2所示。
人脑具有阶层结构，其中最复杂的部分是处于大脑最外层的大脑皮层。
在大脑皮层中密布着由大量神经元构成的神经网络，这就使它具有高度的分析相综合能力。
它是人脑思维活动的物质基础，是脑神经系统的核心部分。
图3—2脑神经系统的主要组成部分人们通过长期的研究，进一步探明了大脑皮层是由许多不同的功能区构成的。
例如，有的区专门负责运动控制，有的区专门负责听觉，有的区专门负责视觉等。
在每个功能区中，又包含许多负责某一具体功能的神经元群。
例如，在视觉神经区，存在着只对光线方向性产生反应的神经元。
更进一步细分，某一层神经元仅对水平光线产生响应，而另一层神经元只对垂直光线产生反应。
需要特别指出的是，大脑皮层的这种区域性结构，虽然是由人的遗传特性所决定的，是先天性的，但各区域所具有的功能大部分是人在后天通过对环境的适应和学习而得来的。
神经元的这种特性称为自组织(Self—Organization)特性。
所谓自组织，即神经元的学习过程，完全是一种自我学习的过程，不存在外部教师的示教。
还应指出，神经元的这种自组织特性来自于神经网络结构的可塑性，即神经元之间相互连接的突触随着动作电位脉冲激励方式与强度的变化，其传递电位的作用可增加或减弱，神经元之间的突触连接是柔性的、可塑的。
还应指出，功能的分区定位并不是机械的一对一关系。
许多功能，特别是高级思维功能，通常都可以分为若干子功能块，这些子功能块存在并行关系。
对于一个特定功能的神经加工往往是在大脑皮层的许多部位分布式进行的。
正因为如此，某一部位的损伤才不至于导致整个功能的丧失。
3．1．3 人脑神经网络信息处理的特点人的大脑是一个神秘而复杂的世界，人们通过长期的研究与探索，已能从神经细胞结构及神经网络组成的水平上初步探明大脑的组织特征，并通过生理实验证明了许多大脑的认知机理。
但是，到目前为止，人们还不能完全解释大脑的思维、意识和精神活动。
大脑的思维过程实质上是一种信息处理过程。
大脑神经网络系统是大脑信息处理的主体。
这种信息处理过程是十分复杂而多样化的，很难给出精确的描述。
不过，基于对大脑组织特征的认识及一些生理实验，可以归纳出如下一些大脑神经网络处理信息的特点：1．分布存储与冗余性信息在神经网络中的存储是分布于大量的神经元之中，即一个事物的信息不只是对应于一个神经元的状态进行记忆，而是分散到很多神经元中进行记忆。
而且每个神经元实际上存储着多种不同信息的部分内容。
在分布存储的内容中，有许多是完成同一功能的，即网络具有冗余性。
网络的冗余性导致网络的存储具有容错性，即其中某些神经元受到损伤或死亡时，仍不致于丢失其记忆的信息。
信息在神经网络中的记忆，主要反映在神经元之间的突触连接强度上。
2．并行处理神经元响应的速度为毫秒级，比一般电子开关器件要慢几个数量级，而且每个神经元的处理功能也很有限。
然而，大脑神经网络系统对于处理以求得问题满意解为目标的决策任务(如视觉、运动控制等)却显得非常迅速。
相反、冯·诺依曼计算机却在这方面显得非常迟钝和笨拙。
显然，前者速度快是由成亿个神经元协同工作并行处理的结果。
神经网络并行处理的含义不同于目前的并行处理机，它不是简单地“以空间的复杂性为代价来求得时间上的快速性”，而是反映了根本不同的操作机理。
神经网络既是处理器，又是存储器。
3．信息处理与存储合一人们从未发现大脑皮层中记忆和处理分别属于不同区域的情况，这是因为每个神经元都兼有信息处理和存储的功能。
神经元之间突触连接强度的变化既反映了神经元对激励的响应，即信息处理过程，同时其响应结果又反映了信息的记忆。
这种合二为一的优点是同时有大量相关知识参与信息过程，这对于提高网络信息处理的速度和智能是至关重要的。
与此不同，目前一股计算机的存储和处理是分别属于两个独立的部件，存储器的作用只不过是一个知识库，这就是说，任一时刻都只有极少量的知识被取来参与处理，大部分知识却处于休闲无用状态。
4．可塑性与自组织性在大脑中，神经元之间的突触连接，虽然其基本部分是先天就有的，即由遗传所决定的，但是大脑皮层的大部分突触连接是后天由环境的激励逐步形成的。
它随着环境刺激性质的不同而不同。
能形成和改变神经元之间突触连接的现象称为可塑性。
大脑的记忆也是由环境的刺激在神经元之间形成新的突触连接，或者使原来就有的突触连接加强而形成的。
还有，由于环境的刺激，形成和调整神经元之间的突触连接，并逐渐构成神经网络的现象，称为神经系统的自组织性。
由此可见，可塑性是学习和记忆的基础。
5．鲁棒性网络的高连接度意味着一定的误差和噪声不会使网络的性能恶化，即网络具有鲁棒性。
大脑神经网络的鲁律性对于智能的演化可能是一个十分重要的因素。
3．2 生物神经网络的模型化——人工神经网络前一节对生物神经元及生物神经网络的结构和功能做了简要介绍。
人类研究自身大脑的目的主要有两点：一是揭示大脑神经系统的生理特征和思维活动的机能造福于人类；二是通过对大脑神经网络系统的结构、功能及信息处理机理的探索，构造出与大脑智能相近的人工神经网络，并反过来用于工程或其他领域。
然而要达到后一个目的，最有效的途径是首先建立生物神经元和神经网络的数学模型。
本节主要讨论这个问题。
应该指出，这里所指数学模型及其所构造的人工神经网络，并不是人脑神经系统的真实描写，而只是对其结构和功能进行了大大简化之后保留其主要特性的某种抽象与模拟。
神经网络直观理解神经网络是一个并行和分布式的信息处理网络结构，它一般由许多个神经元组成，每个神经元只有一个输出，它可以连接到很多其他的神经元，每个神经元输入有多个连接通道，每个连接通道对应于一个连接权系数。
3．2．1 人工神经元模型为了建立人工神经元模型，这里归纳一下生物神经元传递信息的过程。
生物神经元是一个多输入(即它的多个树突和细胞体与其他多个神经元铀突末梢突触连接)、单输出单元(每个神经元只有一个轴突作为输出通道)。
沿神经元轴突传递的信号是脉冲，当脉冲到达轴突末梢突触前膜时，突触前膜即向突触间隙释放神经传递化学物质，其结果是在突触后(在接受其信息的神经元的树突或细胞体上)产生突触后电位。
突触后电位的大小与轴突传递脉冲的密度有关(此处脉冲密度的含义是单位时间内传递脉冲的平均数)，对于兴奋性突触，密度愈大，则电位愈高，它就是突触后电位的时间总和效应。
各输入通道均通过突触后电位对细胞体产生的影响，这就是突触后电位的空间总和效应。
细胞体的激励电位是输，入端时间、空间总和效应综合作用的结果。
当此电位超过细胞的阈值电位时，在轴突的初段发放脉冲，脉冲即沿轴突输出。
从输入、输出关系看，对于兴奋性突触，当输入脉冲的密度增加时，输出脉冲的密度也增加。