前馈神经网络(FFNN)和自适应神经网络模糊推理系统(ANFIS)模型评价地下水位的对比研究

前馈神经网络(FFNN)和自适应神经网络模糊推理系统(ANFIS)模型评价地下水位的对比研究
前馈神经网络(FFNN)和自适应神经网络模糊推理系统(ANFIS)模型评价地下水位的对比研究

FFNN)和自适应神经网络模糊推理系统(ANFIS)模型评价地下水位的对比研究

[印度]P. D. Sreekanth,P. D. Sreedevi,Shakeel Ahmed,N. Geethanjali

田芳译;冯翠娥、段琦校译

当水均衡呈持续负值时,水位预测成为地下水规划和管理的一项重要任务。在位于安德拉邦Ranga Reddy区的Maheshwaram流域,地

下水过量开采,管理地下水资源需要完全了解地下水流动态特征。然

而,地下水流动态特征由于人类和气候影响不断发生变化,且地下水

系统十分复杂,包括多种非线性和不确定因素。人工神经网络模型作

为一个有力的、灵活的统计建模技术被引入到地下水科学中以处理复

杂的模式认识问题。本次研究给出了两种模型的对比,即基于

Levenberg-Marquardt(LM)算法的前馈神经网络(FFNN)与模糊逻

辑自适应模糊推理系统(ANFIS)模型在评价Maheshwaram流域的地

下水位中的准确性的对比。用于分析的统计指标包括均方根误差

(RMSE),回归系数(R2)和误差变异(EV)。结果显示,FFNN-LM

和ANFIS模型对于评价上述地区的地下水位均具有较好的准确性

(RMSE分别为4.45和4.94,R2都为93%)。

1 引言

地下水是半干旱地区尤其是基岩地区一切生物不可缺少的资源。在很多地区,地表水资源匮乏,部分地区甚至没有地表水。近三十年来,为了满足农业和工业部门的需求,地下水过量开采。大范围的开凿深井导致印度部分地区尤其是基岩地区地下水位显著下降。本次研究的目的是应用两种适当的模拟方法评价现有含水层系统的地下水动态,并进行对比。

近期,软计算工具,例如人工神经网络(ANNs)和模糊逻辑被广泛应用于各种科技领域进行预测研究(Gail等,2002)。ANN是具有有限变量的通用模型,作为通用的函数近似解(Hornik等,1989)。与传统方法相比,它能够预测一些非线性时间序列事件(Guan等,2004;Hill等,1996;Tang和Fishwick,1993;Zhang,2003;French等,1992)。软计算技术是基于生物系统的信息处理原理。复杂的生物信息处理系统使得人类能够完成诸如认识周围环境,做出预测,并相应地计划和行动等而得以生存。人类信息处理的类型包括逻辑和直觉两种。

传统的计算机系统的逻辑性很好,但是它们的直觉却远不及人类。对于一个具有类似人类信息处理能力的计算系统,它应该足够灵活地支持以下三个特点:

开放,耐用性(robustness)和实时处理。系统的开放性是指它能够调整并超越自身以适应现实世界中遇到的变化的能力。系统的鲁棒性是指当遇到奇怪的,不完整的或者不确定的信息时的稳定性和耐用性。实时的特性是指系统在一个合理时间内对时间的反应能力。具备这三种特征的信息处理系统可称之为现实世界计算(RWC)系统。因此,现实世界计算系统能够分布式地表达信息,能够大规模并行计算,在信息处理过程中能够灵活地学习和自我组织。所以,软计算可以看做是RWC系统的关键要素。许多作者(Abraham等,2001;Zhang和Scofield,1994;Zhang和Knoll,2001;Chattopadhyay,2005a,b;Ramalingam等,2006)探讨了软计算技术在解决现实世界的问题中的潜力。主要的软计算方法包括人工神经网络和模糊逻辑。

人工神经网络(ANN)在隐含的关系混乱时十分有效。ANN不需要考虑系统的任何先验知识,且非常适合模拟实时的动态系统(Maqssod等,2002)。本次应用的前馈神经网络(FFNN)是ANN的一种。

模糊逻辑是另外一种分析复杂系统尤其是数据结构具有一些语言参数特征的系统的软计算技术。自适应网络模糊推理系统(ANFIS)是模糊逻辑的一部分。ANFIS是用基于收集输入输出数据的反向传播算法来调整的。

本次研究的输入数据收集于Maheshwaram流域,位于距离印度安德拉邦市海德拉巴35km处的Ranga Reddy地区(图1)。该流域是印度南部的典型流域,具有风化的基岩含水层和半干旱气候,超采严重且水位波动大。由于本区没有任何常年性河流,地下水是唯一的农业、生活和工业供水水源。水文地质条件上,含水层位于风化带和隐伏风化破碎带。然而,由于深层取水以及过量开采,风化带已经疏干。

图1 Maheshwaram 流域位置

在整个水文地质研究中,地下水位是唯一可以直接测量的参数,对它的深入

分析可以揭示系统的有用信息。本文中,将利用气象参数通过LM 算法训练的前馈神经网络(FFNN )进行地下水位评价的可靠预测模型,与探索具有更高精度可靠技术的模糊逻辑ANFIS (自适应神经网络模糊推理系统)模型进行了对比研究。

2 研究区概况

研究区位于东经78°24’30”E–78°29’00”,北纬17°06′20″N–17°11′00″之间,

是56K/8幅的一部分。地表高程在平均海平面以上600~670m 之间。区域夏季炎热干旱,冬季寒冷干燥,雨季集中在六月到九月。气温在22~44℃之间,平均降雨量为573mm 。区域降雨的80%以上来自于西南季风。通常,流域地势从南向北逐渐降低。

该区由具有薄层沙壤土和粘土土层的太古界花岗岩组成(图2)。花岗岩颗

粒适中,颜色呈粉色和灰色,经历了不同程度的风化。对大约150眼井进行了检测,并研究了风化特征。风化带在地表以下1~5m 。以下是深度到20m 的半风化和破碎区。连通性较好,裂隙主要发育方向为0–15°。在各个区域发育有不同程度的NE-SW 和NW-SE 向裂隙。存在局部地下水流系统,即补给区在地势较高地区,地势较低的排泄区与补给区相邻。中间的区域地下水流系统存在于可渗透 UTM 坐标系

单位:米

村庄

蓄水洼地

IFP 点位

道路

河流

的风化带、基岩风化破碎带以及连通并破碎的石英结晶花岗岩侵入岩脉中。因此,只有风化带、不同断裂之间的破碎和连通区存在潜在含水层(Raoof Hashimi 和Engerrand ,1999)。区内有少量辉绿岩脉和石英岩脉。区域地势有一定起伏,多数地区坡度约为2%。

图2 Maheshwaram 流域基岩地质图

Maheshwaram 是一个闭合流域,区内没有大的河流(图1)。由于没有常年

性河流,将降雨后出现的间歇性河流用Strhler 法(1964)进行了分类。结果发现,一级、二级和三级河流最终汇流于一个称为Mankal Cheruvu 的大蓄水洼地内,形成了排泄区。风化带由于过量开采被完全疏干。现有的开采基岩破碎带的水井都处于半承压状态(Subrahmanyam 等,2000)。通常,动水位在地面以下25~30m ,一般水位埋深在15~23m 之间。动水位面始终低于静水位,表明含水层处于半承压条件。开采的地下水(大多数通过水井/潜水泵)用于灌溉,开采量在100~300m 3/d 之间。地下水主要从西南向东北径流,部分地区从南向北径流。

在2000~2006年研究期间,每月记录区内均匀分布的22眼IFP (印-法合作

碎屑岩

石英岩脉

淡色花岗岩

辉绿岩脉

带有结晶花岗岩和淡色花岗岩脉的黑云花岗岩

黑云花岗岩 单位:米

UTM 坐标系

项目)观测井的地下水位。这些监测井均是钻井;水位用能够发出声音和光信号,精度在2mm 的分级磁带(gra )来监测。监测时间段尽可能小。由于IFP 钻井均没有安置水泵,因此测得的是天然条件下的水位。气象参数,即蒸发、降雨,相应的湿度和温度(最小和最大值)从由安德拉邦地下水部门设立在Maheshwaram 流域中心的区域水文-气象站收集获得。

3 人工神经网络

ANN 是一个由大量类似于生物神经细胞的处理单元(或神经元)组成的信

息处理系统,其单元之间的连接(连接权)模仿生物神经系统的突触强度。在ANN 结构中,神经元以层组的形式排列。层中的每个神经元是逻辑并行的运算。信息通过一系列运算从一层传输到另一层(Hecht-Nielsen 1990)。一个网络可以有一个或多个层。通常一个网络由三层组成:输入层,数据通过该层输入到网络中;隐含层,进行数据处理;输出层,产生对应输入数据的结果(图3)。

图3 人工神经网络的基本结构

ANN 最显著的特点是它能够通过实例学习。学习(或者训练)定义为调整

连接权以适应信息环境的变化。当给出一组输入,网络将基于一定的算法调整它的连接权使其接近目标输出结果(观测或测量的数据)。ANN 中学习包括三个部分:定义输入的相关重要性的神经元间的权重,控制神经元生成输出的传输方程,描述训练过程中权重如何调整的学习法则(Caudill 1987)。在学习过程中,神经元从输入层或者前一层得到输入,给每个输入一个预设的权重值,并整合这些赋权的输入数据。带权重的输入的组合体表示为:

∑=i ij j x w Net

输入层

隐含层

(这里可能有多个

隐含层)

输出层

(1)

这里Net j 等于第j 个神经元权重输入之和;ij w 等于前一层第i 个神经元到当

前层第j 个神经元的权重。Net j 或者与阈值相比较或者通过传输方程确定激活水平(Sezin Tokar 和 Markus 2000)。

4 前馈神经网络(FFNN )

这里,网络输入层中的源节点提供激活模式的各个要素,构成第二层中神经

元的输入信号。第二层的输出信号又作为第三层的输入,网络的其余部分以此类推。因此,网络中的每一层神经元都只从其前一层的输出信号中得到输入信息。网络输出层的神经元输出信号构成对如图4显示的输入层源节点提供的整个网络的响应(Haykin 2006)。图4描述了具有一个隐含层的典型前馈神经网络。

图4 典型的前馈神经网络

5 Levenberg –Marquardt (LM )算法

Levenberg –Marquardt (LM )算法是对求解极小值问题最优解的经典Newton

算法的修正解法。在如下Newton 型权重更新中使用Hessian 矩阵的近似值。

e J I J J x x T T k k 1][1-+-=+μ

(2)

这里,x 是神经网络的连接权,J 是最小化执行标准的雅可比矩阵,μ是控

制学习过程的标量,I 是标准矩阵,e 是残差矢量。

隐含层

输入层

输出层

当标量μ为零时,方程2就是使用近似Newton矩阵的Newton算法。当μ较

大时,方程2则小步长的梯度下降。Newton法能更快更准确的接近最小误差,

所以目标就是尽可能快速地向Newton法转换。

Levenberg–Marquardt需要巨大的计算和存储能力,因此,它只能用于较小的

网络中(Maier and Dandy 1998)。尽管如此,很多研究人员仍成功的应用了该方

法(Anctil等,2004;Coulibaly等,2000,2001;Maier 和Dandy,1998,2000;

Toth等,2000)。Levenberg–Marquardt算法通常更稳定有效。Coulibaly等(2000)

和Toth等(2000)指出,该方法相比于其他优化算法更快,且不易陷入局部最

小值。

6 自适应网络模糊推理系统

由Roger Jang(1993)提出的自适应神经网络模糊推理系统(ANFIS)是最

常用的模糊推理系统。ANFIS(Jang,1992)实现了一个Takagi–Sugeno 模糊推

理系统,具有五层前馈网络。第一隐含层用于输入变量的模糊化,T型规范运算

符布设在第二隐含层来计算规则的前项部分。第三隐含层规一化第四隐含层跟随

的规则强度,第四隐含层产生规则参数。输出层计算所有输入信号总和的整体输

入。ANFIS利用反向传播学习确定前件参数(学习与隶属函数相关的参数)和

最小均方确定后件参数。学习程序分为两个步骤:第一部分是,传播输入模式并

通过迭代最小均方算法评价出最优后件参数,这里假定对当前循环前件参数已经

通过训练被固定下来。第二部分,再次传播输入模式;在这一时期,反向传播法

用于调整前件参数,后件参数保持不变。然后迭代这一过程。

7 训练和测试数据

所有确定的节点包括22眼观测井的月观测水位,并有相应的气象参数,即

降雨,温度(最低和最高温度),蒸发和对地下水位有直接影响的湿度。这里,

输入层包括表1中给出的不同层节点。为了使FFNN-LM得到较好的效果,必须

调整ANN结构和参数,因此,ANN结构用不同数量的隐含层以及每个隐含层的

不同节点来测试,以确定更好的值和结构。所以,所有数据被任意的组成4个不

同的组,三组数据是任意选择的观测井,第四组包括所有数据,用于训练和测试

选择的FFNN-LM模型(表1)。

表1 FFNN-LM结构

数据集FFNN-LM 结构观测井(井号)

第一组12-20-5 1, 6, 11, 18, 20

第二组15-25-8 2, 5, 7, 9, 13, 15, 16, 22

第三组16-30-9 3, 4, 8, 10, 12, 14, 17, 19, 21

第四组 29-40-22 1–22

对第一组而言,选择的FFNN-LM 结构为12-20-5(即,12个输入层节点,

20个隐含层节点和5个输出层节点)。类似地,对于第2,3和4组,选择的FFNN-LM 模型结构分别是15-25-8,16-30-9以及29-40-22(表1)。因为没有相同的标准方法,隐含层/各节点的映射基于试错法给出(Altunkaynak ,2007)。对上述所有结构应用的传递函数是线性和对数曲线型。

数据在处理ANFIS 模型前,已经用带有对数曲线激活函数的简单前馈神经

网络进行了预处理。研究显示,对于模糊逻辑而言,如果利用适当的隶属函数定义和明确的规则库,能够获得较高的预测精度(Khan 等,2001;Mori 和Hidenori ,1996;Ranaweera 等,1996)。另外,模糊系统稳定、易调并且易于验证。当前研究中,gbell 和线性被联合作为隶属函数。上述模型通过Matlab7.0 编程进行了研究。

训练网络的性能在一定程度上可以通过训练、校正和测试集的误差来衡量,

但通常使用统计参数来描述网络的性能。因此,选择的网络(不同组)对于准确输出的有效性/性能用如下统计参数测量,即误差变异(EV ),均方根误差(RMSE )和回归系数(R 2)。相关计算公式如式3,4和式5:

EV=((y i -y i ˉ)/y i )×100

(3) RMSE=

∑=-n i i i n y y 12/)(

(4) ∑∑∑---=n y y y y

R i i i i 2222)(1

(5)

这里y i 是观测数据,i y 是计算数据,n 是观测的数量。

RMSE 表示观测值和计算值之间的差距。RMSE 越低,预测则越准确。观测

值和计算值达到最好拟合的理想状态下,R 2为1,RMSE 为0(Ioannis 等,2005)。

8 结果与讨论

地下水位预测是地下水规划和管理中的重要任务,在地下水呈负均衡时尤为

重要。在Maheshwaram 流域,地下水过量开采,土地利用变化速度加剧。在该区域,地下水资源管理需要全面了解地下水流动态特征。ANN 和FL 模型作为一个有力的,灵活的的统计建模技术被引入到地下水科学中,以处理复杂的模式识别问题。

表2 ANN和FL的统计指标对比

数据集FFNN-LM ANFIS

误差变异RMSE R2误差变异RMSE R2最小值最大值最小值最大值

第一组-1.12 1.13 4.5 0.92 -1.09 1.26 4.99 0.93 第二组-0.87 1.63 6.97 0.84 -0.81 1.31 5.53 0.91 第三组-0.91 0.57 4.50 0.96 -0.82 1.25 4.94 0.94 第四组-0.91 0.57 4.50 0.96 -0.82 1.25 4.94 0.94 结果显示,利用FFNN-LM模型的具有16-30-9网络结构的第三组(3.13)得到了最小RMSE。而第1,2和4组,RMSE分别为4.50,6.97和4.45。第1,2,3组的R2分别为0.92,0.84和0.93。而表示最大变异性的第四组的R2值为

0.96。不同组的计算和观测值间的EV见表2。这里,反映了四个组在3年里的

时间误差变化(每月)。第1,2,3和4组的EV分别为-1.12~1.13,-0.87~1.03,-0.91 ~ 0.57 和-0.89~ 0.84(表2)。处理时间第四组最长(1105.72秒),第3,2,1组分别为356.22秒,13.00秒和3.01秒。对于ANN-ANFIS模型,第3组得到

最小RMSE(4.66)。另外的第1,2和4组,RMSE分别为4.99,5.53和4.94,

相应的处理节点分别为12-20-5,15-25-8和29-40-22。最大R2是第3组的0.94,另外第1,4和2组

的值分别为0.93,0.93和0.91。不同组的计算值和观测值之间的EV 见表2。这里,显示了四个组的3年里的时间误差变化(每月)。1,2,3和4组的EV 分别为-1.09~1.26,-0.81~1.31,-0.82 ~1.25以及-0.79 ~1.19(表2)。处理时间第2和第3组时间较长为0.95秒,第1和第4组分别为0.55和0.30秒。

图5 1~8号观测井预测

利用FFNN-LM 和ANFIS 法估算地下水位的主要原因是,确定地下水位时包括的参数众多,准确评价十分困难。近期的文献回顾显示,神经网络特别是前馈网络已经成功地应用于水资源模拟和预测(Coulibaly 等,1999;Maier 和Dandy ,2000)。

图5,6和图7中给出了22眼观测井的两个模型水位计算值和实测值,显示

了两种模型的性能趋势。

图6 9~16号观测井预测

大量研究表明ANN能够建立出比传统统计技术更为准确的通用环境系统模型(Lek 等1996;Comrie 1997;Paruelo 和Tomasel 1997)。上述结果表明,FFNN-LM和ANFIS模型评价地下水位更加准确,但ANN模型的平均精度要高于FL模型(图8)。

图6 观测井9~16的预测

图7 17~22号观测井预测

图8 ANN和FL预测趋势与实际趋势对比

译自《Environ Earth Sci 》DOI 10.1007/s12665-010-0617-0

模糊神经网络讲义

模糊神经网络(备课笔记) 参考书: 杨纶标,高英仪。《模糊数学原理及应用》(第三版),广 州:华南理工大学出版社 彭祖赠。模糊数学及其应用。武汉:武汉科技大学 胡宝清。模糊理论基础。武汉:武汉大学出版社 王士同。模糊系统、模糊神经网络及应用程序设计。 《模糊系统、模糊神经网络及应用程序设计》 本书全面介绍了模糊系统、模糊神经网络的基本要领概念与原理,并以此为基础,介绍了大量的应用实例及编程实现实例。 顾名思义,模糊神经网络就是模糊系统和神经网络的结合,本质上就是将常规的神经网络(如前向反馈神经网络,Hopfield神经网络)赋予模糊输入信号和模糊权值。 选自【模糊神经网络P17】 预备知识 复杂的东西是难以精确化的,这使得人们所需要的精确性和问题的复杂性间形成了尖锐的矛盾。 正如模糊数学的创始人L.A.Zadeh(查德)教授(美国加利福尼亚大学)所说:“当系统的复杂性增加时,我们使它精确化的能力将减小。直到达到一个阈值,一旦超越它,复杂性和精确性将相互排斥。”这就是著名的“互克性原理”。 该原理告诉我们,复杂性越高,有意义的精确化能力就越低;而复杂性意味着因素众多,以致人们往往不可能同时考察所有因素,只能把研究对象适当简化或抽象成模型,即抓住其中的主要部分而忽略掉次要部分。当在一个被压缩了的低维因素空间考虑问题时,即使本来是明确的概念,也会变得模糊起来。或者某些抽象简化模型本身就带有概念的不清晰,如“光滑铰链”这个力学模型,什么叫“光滑”、什么叫“粗糙”就没有一个明确的定义,客观上两者之间没有绝对分明的界限;主观上,决策者对此类非程序化决策做出判断时,主要是根据他的经验、能力和直观感觉等模糊概念进行决策的。 或者判断一个人的好坏,本来有很多因素,比如人品、性格、相貌

模糊推理神经网络诊断模型案例

模糊推理神经网络诊断模型案例 [摘要]本文基于通用神经网络的自适应性和诊断的建模方法,建立了一种新的故障诊断模型一模糊神经网络诊断模型,并对它的智能诊断机理和突出特点进行了深入分析。最后,将该诊断模型应用于某大型汽轮发电机组故障诊断中,分析得出它具有明显的提高诊断精确度的优越性。 [关键词]神经网络故障诊断智能诊断 1模糊推理神经网络诊断模型建立 1.1通用网络模型自适应动态特性 比较两类典型的神经网络一前向BP网络与反馈Hopfied网络,可以发现其核心是单层神经网络,则两类网络可以用一个通用神经网络模型来描述。根据点集拓扑理论和人工神经网络空间概念,对这个通用神经网络模型的特征进行分析得出以下两个结论,证明从略。 定理1神经网络空间在紧集上的连续函数空间C上以及按L2范数在平方可积函数空间I上都是稠密的。 推论1由通用神经网络模型所生成的任何开集可以一致逼近紧集上的连续映射函数f∈C(Rn。Rm)。 由推论1表明,通用网络模型所概括的任何开集(如BP网络、Hopfied网络、BAM网络)通过自学习都能一致逼近紧集上的连续映射函数f∈(Rn,Rm),因而具有良好的自学习、自适应动态特性。 1.2诊断建模方法 设xjn(j=1,2,...,k)对应反映设备运行状态第n个观测样本的k个特征参数,yin,(i=1,2,...l)对应第n个样本的1种故障模式,共有N个样本xjn∈RN,yin∈RN,[n=1,2,...,N),则故障模式向量Y={yin,i=1,2,...,l}与特征参数向量x={xin,i=1,2,...,k}间的内在关系用函数P表示,有:X=P(Y)。当N→∞时,函数P的逆函数存在,以函数S表示,有:Y=S(X) 诊断问题建模的实质就是根据有限的样本集,确定函数S(X)的一等价映射关系SS(X),使得对于任意的ε>0,满足:

基于神经网络理论的系统安全评价模型

(神经网络,安全评价) 基于神经网络理论的系统安全评价模型 王三明 蒋军成 (南京化工大学,南京,210009) 摘要 本文阐述了人工神经网络基本原理,研究分析了BP神经网络模型的缺陷并提出了优化策略。在此基础上,将神经网络理论应用于系统安全评价之中,提出了基于此理论的系统安全评价模型、实现方法和优点;评价实例证明此方法的可行性。 关键词 神经网络 网络优化 安全评价  1. 引言 人工神经网络模拟人的大脑活动,具有极强的非线形逼近、大规模并行处理、自训练学习、自组织和容错能力等优点,将神经网络理论应用于系统安全评价之中,能克服传统安全评价方法的一些缺陷,能快速、准确地得到安全评价结果。这将为企业安全生产管理与控制提供快捷和科学的决策信息,从而及时预测、控制事故,减少事故损失。   2. 神经网络理论及其典型网络模型 人工神经网络是由大量简单的基本元件-神经元相互联结,模拟人的大脑神经处理信息的方式,进行信息并行处理和非线形转换的复杂网络系统。人工神经网络处理信息是通过信息样本对神经网络的训练,使其具有人的大脑的记忆、辨识能力,完成各种信息处理功能。人工神经网络具有良好的自学习、自适应、联想记忆、并行处理和非线形转换的能力,避免了复杂数学推导,在样本缺损和参数漂移的情况下,仍能保证稳定的输出。人工神经网络这种模拟人脑智力的特性,受到学术界的高度重视和广泛研究,已经成功地应用于众多领域,如模式识别、图象处理、语音识别、智能控制、虚拟现实、优化计算、人工智能等领域。 按照网络的拓扑结构和运行方式,神经网络模型分为前馈多层式网络模型、反馈递归式网络模型、随机型网络模型等。目前在模式识别中应用成熟较多的模型是前馈多层式网络中的BP反向传播模型,其模型结构如图1。 2.1 BP神经网络基本原理 BP网络模型处理信息的基本原理是:输入信号X i通过中间节点(隐层点)作用于输出节点,经过非线形变换,产生输出信号Y k,网络训练的每个样本包括输入向量X和期望输出量t,网络输出值Y与期望输出值t之间的偏差,通过调整输入节点与隐层节点的联接强度取值W ij和隐层节点与输出节点之间的联接强度T jk以及阈值,使误差沿梯度方向下降,经过反复学习训练,确定与最小误差相对应的网络参数(权值和

自适应神经模糊推理系统及其仿真应用

自适应神经模糊推理系统及其仿真应用 刘雨刚,耿立明,杨威 辽宁工程技术大学电气与控制工程学院,辽宁葫芦岛(125105) 摘 要:本文介绍了自适应神经模糊推理系统的结构,以及如何用MATLAB 模糊工具箱提供的ANFIS 应用工具仿真,完成训练模糊神经网络。 关键词:自适应神经模糊推理系统,MATLAB ,模糊神经网络 0 引言 由Jyh-Shing R.Jang 提出的自适应神经模糊推理系统[1],是一种基于Takagi -Sugeno 模型的模糊推理系统(简称ANFIS )。研究表明,当输入模糊集采用非梯形/非三角形的隶属函数时,Sugeno 型模糊系统需要的模糊规则及输入的模糊集的个数较少。 1 基于Takagi -Sugeno 模型的自适应神经模糊推理系统 所考虑的模糊推理系统有两输入和,单输出f 。 1x 2x 对于零阶T-S 模糊模型,模糊规则的第i 条规则有如下形式: ⑴ 后件为恒值:Ri : ),...,2,1( , 221121n i f y Then A x A x If i i i ==是和是 ⑵ 后件为一阶线性方程:Ri : 0,1,2)(j ),( ,...,2,1 ),( , 221102*********是常数是和是=++===ij i i i i i i i a x a x a a x x f n i x x f y Then A x A x If 式中,Ri 表示第i 条规则,Ai 表示模糊子集,即{NL ,NM ,NS ,ZO ,PS ,PM ,PL}={“负 大”,“负中”,“负小”,“零”,“正小”,“正中”,“正大”}。 在T-S 模型中,每条规则的结论部分是个线性方程,表示系统局部的线性输入/输出关系,而系统的总输入是所有线性子系统输出的加权平均,可以表示全局的非线性输入输出关系,所以,T-S 模型是一种对非线性系统局部线性化的描述方法,它具有非常重要的研究意义和广泛的应用范围[2]。 典型的单交叉路口东、南、西、北四个方向,每个方向均有右行、直行和左行三股车流。依据各个车道的车流信息,以路口流通能力最大或排队候车的时间最短为目标,通过设计自适应神经模糊推理系统,对交叉路口交通信号进行控制,实时确定各个相位的配时,具体地 说每一相交通信号的配时e i (i=1,2,3,4) 由该相位的主队列w1、后继相的主队列w2两者确定,当前相的主队列起决定作用,后继相的主队列起调节作用。所谓主队列是一个相位两个方向中车辆等待数较大的等待队列。 2 ANFIS 的结构 根据给出的模糊系统模型,输入为w1和w2,模糊标记取{负大,负中,负小,零,正小,正中,正大},由此可构造出一个具有模糊功能的神经网络,如图1所示的ANFIS 结构

模糊神经网络技术研究的现状及展望

模糊神经网络技术研究的现状及展望 摘要:本文对模糊神经网络技术研究的现状进行了综述,首先介绍了模糊控制技术和神经网络技术的发展,然后结合各自的特点讨论了模糊神经网络协作体的产生以及优越性,接着对模糊神经网络的常见算法、结构确定、规则的提取等进行了阐述,指出了目前模糊神经网络的研究发展中还存在的一些问题,并对模糊神经网络的发展进行了展望。 关键字:模糊控制;神经网络;模糊神经网络 引言 系统的复杂性与所要求的精确性之间存在尖锐的矛盾。为此,通过模拟人类学习和自适应能力,人们提出了智能控制的思想。控制理论专家Austrom(1991)在IFAC大会上指出:模糊逻辑控制、神经网络与专家控制是三种典型的智能控制方法。通常专家系统建立在专家经验上,并非建立在工业过程所产生的操作数据上,且一般复杂系统所具有的不精确性、不确定性就算领域专家也很难把握,这使建立专家系统非常困难。而模糊逻辑和神经网络作为两种典型的智能控制方法,各有优缺点。模糊逻辑与神经网络的融合——模糊神经网络由于吸取了模糊逻辑和神经网络的优点,避免了两者的缺点,已成为当今智能控制研究的热点之一了。 1 模糊神经网络的提出 模糊集理论由美国著名控制论专家L.A.Zadeh于1965年创立[1]。1974年,英国著名学者E.H.Mamdani将模糊逻辑和模糊语言用于工业控制,提出了模糊控制论。至今,模糊控制已成功应用在被控对象缺乏精确数学描述及系统时滞、非线性严重的场合。 人工神经网络理论萌芽于上世纪40年代并于80年代中后期重掀热潮,其基本思想是从仿生学的角度对人脑的神经系统进行功能化模拟。人工神经网络可实现联想记忆,分类和优化计算等功能,在解决高度非线性和严重不确定系统的控制问题方面,显示了巨大的优势和潜力 模糊控制系统与神经网络系统具有整体功能的等效性[2],两者都是无模型的估计器,都不需要建立任何的数学模型,只需要根据输入的采样数据去估计其需要的决策:神经网络根据学习算法,而模糊控制系统则根据专家提出的一些语言规则来进行推理决策。实际上,两者具有相同的正规数学特性,且共享同一状态空间[3]。 另一方面,模糊控制系统与神经网络系统具有各自特性的互补性[。神经网络系统完成的是从输入到输出的“黑箱式”非线性映射,但不具备像模糊控制那样的因果规律以及模糊逻辑推理的将强的知识表达能力。将两者结合,后者正好弥补前者的这点不足,而神经网络的强大自学习能力则可避免模糊控制规则和隶属函数的主观性,从而提高模糊控制的置信度。 因此,模糊逻辑和神经网络虽然有着本质上的不同,但由于两者都是用于处理不确定性问题,不精确性问题,两者又有着天然的联系。Hornik和White(1989)证明了神经网络的函数映射能力[4];Kosko(1992)证明了可加性模糊系统的模糊逼近定理(FAT,Fuzzy Approximation Theorem)[5];Wang和Mendel(1992)、Buckley和Hayashi(1993)、Dubots 和Grabish(1993)、Watkins(1994)证明了各种可加性和非可加性模糊系统的模糊逼近定理[6]。这说明模糊逻辑和神经网络有着密切联系,正是由于这类理论上的共性,才使模糊逻辑

自适应神经网络模糊推理系统最优参数的研究

第22卷 第8期计 算 机 仿 真2005年8月 文章编号:1006-9348(2005)08-0140-04 自适应神经网络模糊推理系统最优参数的研究 翁玉麟,邓长虹 (武汉大学电气工程学院,湖北武汉,430072) 摘要:模糊规则的提取和隶属度函数的学习是模糊系统设计中重要而困难的问题。自适应神经网络模糊推理系统(ANF IS) 能基于数据建模,无须专家经验,自动产生模糊规则和调整隶属度函数。在建立一个初始系统进行训练时,其隶属度函数的 类型、隶属度函数的数目以及训练次数都是待定的,这三个参数的选择直接影响系统训练后的效果,它们的确定方法有待研 究。该文应用自适应神经网络模糊推理系统的方法对一个典型系统进行建模仿真,并阐述这三个参数的寻优方法。 关键词:自适应神经网络;模糊系统;隶属度函数 中图分类号:TP3 文献标识码:A Research on Best Param eters i n Adaptive Neura l-Fuzzy I nference System W EN G Yu-lin,D EN G Chang-hong (Electrical Engineering School,W uhan University,W uhan Hubei430072,China) ABSTRACT:Extraction of fuzzy rules and learning of parameters of membership functions are vital but difficult when designing a fuzzy system.App lying Adap tive Neural-Fuzzy Inference System(ANF IS)can p roduce fuzzy rules and adjust membership functions automatically based on data w ithout experience of experts.W hen setting up an initialized system to train,the type of membership functions,the number of membership functions and the ti m e of training are all variables,and the choice of these parameters w ill directly affect the result of modeling, but the method for ensuring these parameters still needs research.This paper gives the si mulation examp le for modeling a typ ical system w ith Adap tive Neural-Fuzzy Inference System and expatiates the method for choosing these three parameters. KEYWO RD S:Adap tive neural net work;Fuzzy system;M embership functions 1 引言 自从M amdani和A ssilian利用模糊控制理论为一简单动力过程构造模糊控制器以来,模糊控制在实际问题中的应用日益广泛。但是,模糊理论在实际应用中也存在一些问题,如隶属度函数的确立目前还没有一套成熟有效的方法,在很难或无法获得专家经验的情况下,隶属度函数的确定是十分困难的[1]。自适应神经网络模糊推理系统(ANF IS)能基于数据建模,自动产生模糊规则和隶属度函数,而不是基于经验或直觉给定。这对于那些特性还不被人们所完全了解或者特性非常复杂的系统是十分有效的。许多学者在应用自适应神经网络模糊推理系统建模方面已经进行了探索并获得很多有益的成果,但在建立一个初始系统进行训练时,其隶属度函数的类型、隶属度函数的数目以及训练次数都是待定的,这三个参数的选择直接影响系统训练后的效果,可是选择怎样的参数可以使建立的模型最佳,至今没有学者进行深入的研究。本文应用ANF IS的方法对一个典型系统进行建模仿真,并阐述这三个参数的选择方法。 2 自适应神经网络模糊系统 学者Roger Jang提出了与一阶Sugeno模型模糊推理系统功能相同的自适应神经模糊推理系统(Adap tive Net work-based Fuzzy Inference System,ANF IS)[2][3],它是模糊逻辑和神经网络的结合产物。ANF IS结构的构造见图1,其同一层的每个节点具有相似的功能(这里用O 1,i 表示第一层的第i个节点的输出)。 第一层:该层每个节点i是以节点函数表示的方形节点(该层参数是可变的): 收稿日期:2004-03-17

模糊神经网络的预测算法在嘉陵江水质评测中的应用2

模糊神经网络的预测算法 ——嘉陵江水质评价 一、案例背景 1、模糊数学简介 模糊数学是用来描述、研究和处理事物所具有的模糊特征的数学,“模糊”是指他的研究对象,而“数学”是指他的研究方法。 模糊数学中最基本的概念是隶属度和模糊隶属度函数。其中,隶属度是指元素μ属于模糊子集f的隶属程度,用μf(u)表示,他是一个在[0,1]之间的数。μf(u)越接近于0,表示μ属于模糊子集f的程度越小;越接近于1,表示μ属于f的程度越大。 模糊隶属度函数是用于定量计算元素隶属度的函数,模糊隶属度函数一般包括三角函数、梯形函数和正态函数。 2、T-S模糊模型 T-S模糊系统是一种自适应能力很强的模糊系统,该模型不仅能自动更新,还能不断修正模糊子集的隶属函数。T-S模糊系统用如下的“if-then”规则形式来定义,在规则为R i 的情况下,模糊推理如下: R i:If x i isA1i,x2isA2i,…x k isA k i then y i =p0i+p1i x+…+p k i x k 其中,A i j为模糊系统的模糊集;P i j(j=1,2,…,k)为模糊参数;y i为根据模糊规则得到的输出,输出部分(即if部分)是模糊的,输出部分(即then部分)是确定的,该模糊推理表示输出为输入的线性组合。 假设对于输入量x=[x1,x2,…,x k],首先根据模糊规则计算各输入变量Xj的隶属度。 μA i j=exp(-(x j-c i j)/b i j)j=1,2,…,k;i=1,2,…,n式中,C i j,b i j分别为隶属度函数的中心和宽度;k为输入参数数;n为模糊子集数。 将各隶属度进行模糊计算,采用模糊算子为连乘算子。 ωi=μA1j(x1)*μA2j(x2)*…*μA k j i=1,2,…,n 根据模糊计算结果计算模糊型的输出值y i。 Y I=∑n i=1ωi(P i0+P i1x1+…+P i k xk)/ ∑n i=1ωi 3、T-S模糊神经网络模型 T-S模糊神经网络分为输入层、模糊化层、模糊规则计划层和输出层四层。输入层与输入向量X I连接,节点数与输入向量的维数相同。模糊化层采用隶属度函数对输入值进行模

模糊神经网络的基本原理与应用概述

模糊神经网络的基本原理与应用概述 摘要:模糊神经网络(FNN)是将人工神经网络与模糊逻辑系统相结合的一种具有强大的自学习和自整定功能的网络,是智能控制理论研究领域中一个十分活跃的分支,因此模糊神经网络控制的研究具有重要的意义。本文旨在分析模糊神经网络的基本原理及相关应用。 关键字:模糊神经网络,模糊控制,神经网络控制,BP算法。 Abstract:A fuzzy neural network is a neural network and fuzzy logic system with the combination of a powerful. The self-learning and self-tuning function of the network, is a very intelligent control theory research in the field of active branches. So the fuzzy neural network control research has the vital significance. The purpose of this paper is to analysis the basic principle of fuzzy neural networks and related applications. Key Words: Fuzzy Neural Network, Fuzzy Control, Neural Network Control, BP Algorithm.

1人工神经网络的基本原理与应用概述 1.1人工神经网络的概念 人工神经网络(Artificial Neural Network,简称ANN)是由大量神经元通过极其丰富和完善的联接而构成的自适应非线性动态系统,它使用大量简单的相连的人工神经元来模仿生物神经网络的能力,从外界环境或其它神经元获得信息,同时加以简单的运算,将结果输出到外界或其它人工神经元。神经网络在输入信息的影响下进入一定状态,由于神经元之间相互联系以及神经元本身的动力学特性,这种外界刺激的兴奋模式会自动地迅速演变成新的平衡状态,这样具有特定结构的神经网络就可定义出一类模式变换即实现一种映射关系。由于人工神经元在网络中不同的联接方式,就形成了不同的人工神经网络模式,其中误差反向传播网络(Back-Propagation Network,简称BP网络)是目前人工神经网络模式中最具代表性,应用得最广泛的一种模型【1,2】。 1.2人工神经网络研究的发展简史 人工神经网络的研究己有近半个世纪的历史但它的发展并不是一帆风顺的,神经网络的研究大体上可分为以下五个阶段[3]。 (1) 孕育期(1956年之前):1943年Mcculloch与Pitts共同合作发表了“A logical calculus of ideas immanent in Nervous Activity”一文,提出了神经元数学模型(即MP模型)。1949年Hebb提出Hebb学习法则,对神经网络的发展做出了重大贡献。可以说,MP模型与学习规则为神经科学与电脑科学之间架起了沟通的桥梁,也为后来人工神经网络的迅速发展奠定了坚实的基础。 (2)诞生期(1957年一1968年):1960年Widrow提出了自适应线性元件模型,Rossenbaltt在1957年提出了第一种人工神经网络模式一感知机模式,由二元值神经元组成,该模式的产生激起了人工神经网络研究的又一次新高潮。(3)挫折期(1969年一1981年):1969年Minsky等人写的《感知机》一书以数学

几种神经网络模型及其应用

几种神经网络模型及其应用 摘要:本文介绍了径向基网络,支撑矢量机,小波神经网络,反馈神经网络这几种神经网络结构的基本概念与特点,并对它们在科研方面的具体应用做了一些介绍。 关键词:神经网络径向基网络支撑矢量机小波神经网络反馈神经网络Several neural network models and their application Abstract: This paper introduced the RBF networks, support vector machines, wavelet neural networks, feedback neural networks with their concepts and features, as well as their applications in scientific research field. Key words: neural networks RBF networks support vector machines wavelet neural networks feedback neural networks 2 引言 随着对神经网络理论的不断深入研究,其应用目前已经渗透到各个领域。并在智能控制,模式识别,计算机视觉,自适应滤波和信号处理,非线性优化,语音识别,传感技术与机器人,生物医学工程等方面取得了令人吃惊的成绩。本文介绍几种典型的神经网络,径向基神经网络,支撑矢量机,小波神经网络和反馈神经网络的概念及它们在科研中的一些具体应用。 1. 径向基网络 1.1 径向基网络的概念 径向基的理论最早由Hardy,Harder和Desmarais 等人提出。径向基函数(Radial Basis Function,RBF)神经网络,它的输出与连接权之间呈线性关系,因此可采用保证全局收敛的线性优化算法。径向基神经网络(RBFNN)是 3 层单元的神经网络,它是一种静态的神经网络,与函数逼近理论相吻合并且具有唯一的最佳逼近点。由于其结构简单且神经元的敏感区较小,因此可以广泛地应用于非线性函数的局部逼近中。主要影响其网络性能的参数有3 个:输出层权值向量,隐层神经元的中心以及隐层神经元的宽度(方差)。一般径向基网络的学习总是从网络的权值入手,然后逐步调整网络的其它参数,由于权值与神经元中心及宽度有着直接关系,一旦权值确定,其它两个参数的调整就相对困难。 其一般结构如下: 如图 1 所示,该网络由三层构成,各层含义如下: 第一层:输入层:输入层神经元只起连接作用。 第二层:隐含层:隐含层神经元的变换函数为高斯核. 第三层:输出层:它对输入模式的作用做出响应. 图 1. 径向基神经网络拓扑结构 其数学模型通常如下: 设网络的输入为x = ( x1 , x2 , ?, xH ) T,输入层神经元至隐含层第j 个神经元的中心矢 为vj = ( v1 j , v2 j , ?, vIj ) T (1 ≤j ≤H),隐含层第j 个神经元对应输入x的状态为:zj = φ= ‖x - vj ‖= exp Σx1 - vij ) 2 / (2σ2j ) ,其中σ(1≤j ≤H)为隐含层第j个神

BP神经网络模型简介及相关优化案例

华东理工大学 2016-2017学年第2学期 研究生《石油化工单元数学模型》课程论文2017年6月 开课学院:化工学院任课教师:欧阳福生 考生姓名:丁桂宾学号:Y45160205 成绩:

BP 神经网络模型简介及相关优化案例 一、神经网络模型简介 现代神经生理学和神经解剖学的研究结果表明,人脑是极其复杂的,由约1010个神经元交织在一起,构成一个网状结构。它能完成诸如智能、思维、情绪等高级精神活动,被认为是最复杂、最完美、最有效的一种信息处理系统。人工神经网络(Artificial Neural Networks ,以下简写为 NN )是指模拟人脑神经系统的结构和功能,运用大量的处理部件,通过数学方法,由人工方式构造的网络系统[1] 。 图1表示作为 NN 基本单元的神经元模型,它有三个基本要素[2]: (1) 一组连接权(对应于生物神经元的突触),连接强度由各连接上的权值表示,权值为正表示激励,为负表示抑制。 (2) 一个求和单元,用于求取各输入信息的加权和(线性组合)。 (3) 一个非线性激励函数,起非线性映射作用并限制神经元输出幅度在一定的范围内(一般限制在[0,1]或[?1,+1]之间)。 图1 神经元模型 此外还有一个阈值k θ(或偏置 k k b θ-=)。以上作用可以用数学式表达为: ∑= =P j kj k j x w u ;

k k k u θν-=; ) (k k v y ?= 式中 P x x x x ,...,,,321为输入信号, kP k k k w w w w ,...,,,321为神经元k 的权值, k u 为 线性组合结果, k θ为阈值。(.)?为激励函数,k y 为神经元k 的输出。 神经网络理论突破了传统的、串行处理的数字电子计算机的局限,是一个非线性动力学系统,并以分布式存储和并行协同处理为特色,虽然单个神经元的结构和功能极其简单有限,但是大量的神经元构成的网络系统所实现的行为却是极其丰富多彩的。

模糊神经网络在智能控制中的应用研究

模糊神经网络在智能控制中的应用研究1 郑子杰,王虎 武汉理工大学信息工程学院,武汉 (430070) E-mail :zhzijie.27@https://www.360docs.net/doc/8312377981.html, 摘 要:本文简要介绍了神经网络(Neural Network )及模糊神经网络(Fuzzy Neural Network )的特点以及发展状况,并给出了模糊神经网络在智能控制中的几种应用,同时指出了今后研究中有待解决的一些问题,并对模糊神经网络技术将来的发展及其在工程上的应用作了展望。 关键词:神经网络,模糊神经网络,FFNC ,智能控制 中图分类号: TP183 文献标识码:A 1. 神经网络简介 神经网络是仿效生物处理模式以获得智能信息处理功能的理论。神经网络着眼于脑的微观网络结构,通过大量神经元的复杂连接,采用由底到顶的方法,通过自学习、自组织和非线性动力学所形成的并行分布方式,来处理难于语言化的模式信息[1]。自1943年第一个神经网络模型—MP 模型被提出至今,神经网络的发展十分迅速,特别是1982年提出的Hopfield 神经网络模型和1985年Rumelhart 提出的反向传播算法BP ,使Hopfield 的模型和多层前馈型神经网络成为用途广泛的神经网络模型,在语音识别、模式识别、图像处理和工业控制等领域的应用颇有成效。 神经网络的核心由其基本结构、学习规则及其工作方式三大部分组成。 1.1 基本结构 神经网络是由大量神经元广泛互连而成的复杂网络系统。单一神经元可以有许多输入、输出。神经元之间的相互作用通过连接的权值体现。神经元的输出是其输入的函数。常用的函数类型有:线性函数、Sigmoid 型函数和阈值型函数[2]。虽然单个神经元的结构和功能极其简单和有限,而大量神经元构成的网络系统其行为却是丰富多彩的。图1表示出单个神经元和Hopfield 模型的结构。 在图1(a)中, i u 为神经元的内部状态, i θ为阈值,i x 为输入信号, ij w 表示从j u 到i u 连接的权值, i s 表示外部输入信号,则神经元的输入为-i i j j i i n e t w x s θ=+∑,输出为 ()i i y f n e t =,其中f 是神经元的转 换函数。 在图1(b)中。Hopfield 模型是由许多神经元构成的互连网络,适当选取神经元兴奋模式的初始状态,则网络的状态将逐渐到达一个极小点即稳定点、从而可以联想出稳定点处的样本。 神经网络的基本特征是: (1)大规模并行处理。神经网络能同时处理与决策有关的因素,虽然单个神经元的动作速度不快,但网络的总体处理速度极快。 1本课题得到教育部重点项目(03120)(基于FSOC 嵌入式微控制器设计与研究)的资助。

前馈神经网络(FFNN)和自适应神经网络模糊推理系统(ANFIS)模型评价地下水位的对比研究

FFNN)和自适应神经网络模糊推理系统(ANFIS)模型评价地下水位的对比研究 [印度]P. D. Sreekanth,P. D. Sreedevi,Shakeel Ahmed,N. Geethanjali 田芳译;冯翠娥、段琦校译 当水均衡呈持续负值时,水位预测成为地下水规划和管理的一项重要任务。在位于安德拉邦Ranga Reddy区的Maheshwaram流域,地 下水过量开采,管理地下水资源需要完全了解地下水流动态特征。然 而,地下水流动态特征由于人类和气候影响不断发生变化,且地下水 系统十分复杂,包括多种非线性和不确定因素。人工神经网络模型作 为一个有力的、灵活的统计建模技术被引入到地下水科学中以处理复 杂的模式认识问题。本次研究给出了两种模型的对比,即基于 Levenberg-Marquardt(LM)算法的前馈神经网络(FFNN)与模糊逻 辑自适应模糊推理系统(ANFIS)模型在评价Maheshwaram流域的地 下水位中的准确性的对比。用于分析的统计指标包括均方根误差 (RMSE),回归系数(R2)和误差变异(EV)。结果显示,FFNN-LM 和ANFIS模型对于评价上述地区的地下水位均具有较好的准确性 (RMSE分别为4.45和4.94,R2都为93%)。 1 引言 地下水是半干旱地区尤其是基岩地区一切生物不可缺少的资源。在很多地区,地表水资源匮乏,部分地区甚至没有地表水。近三十年来,为了满足农业和工业部门的需求,地下水过量开采。大范围的开凿深井导致印度部分地区尤其是基岩地区地下水位显著下降。本次研究的目的是应用两种适当的模拟方法评价现有含水层系统的地下水动态,并进行对比。 近期,软计算工具,例如人工神经网络(ANNs)和模糊逻辑被广泛应用于各种科技领域进行预测研究(Gail等,2002)。ANN是具有有限变量的通用模型,作为通用的函数近似解(Hornik等,1989)。与传统方法相比,它能够预测一些非线性时间序列事件(Guan等,2004;Hill等,1996;Tang和Fishwick,1993;Zhang,2003;French等,1992)。软计算技术是基于生物系统的信息处理原理。复杂的生物信息处理系统使得人类能够完成诸如认识周围环境,做出预测,并相应地计划和行动等而得以生存。人类信息处理的类型包括逻辑和直觉两种。 传统的计算机系统的逻辑性很好,但是它们的直觉却远不及人类。对于一个具有类似人类信息处理能力的计算系统,它应该足够灵活地支持以下三个特点:

神经网络模型应用实例

BP 神经网络模型 近年来全球性的神经网络研究热潮的再度兴起,不仅仅是因为神经科学本身取得了巨大的进展.更主要的原因在于发展新型计算机和人工智能新途径的迫切需要.迄今为止在需要人工智能解决的许多问题中,人脑远比计算机聪明的多,要开创具有智能的新一代计算机,就必须了解人脑,研究人脑神经网络系统信息处理的机制.另一方面,基于神经科学研究成果基础上发展出来的人工神经网络模型,反映了人脑功能的若干基本特性,开拓了神经网络用于计算机的新途径.它对传统的计算机结构和人工智能是一个有力的挑战,引起了各方面专家的极大关注. 目前,已发展了几十种神经网络,例如Hopficld 模型,Feldmann 等的连接型网络模型,Hinton 等的玻尔茨曼机模型,以及Rumelhart 等的多层感知机模型和Kohonen 的自组织网络模型等等。在这众多神经网络模型中,应用最广泛的是多层感知机神经网络。多层感知机神经网络的研究始于50年代,但一直进展不大。直到1985年,Rumelhart 等人提出了误差反向传递学习算法(即BP 算),实现了Minsky 的多层网络设想,如图34-1所示。 BP 算法不仅有输入层节点、输出层节点,还可有1个或多个隐含层节点。对于输入信号,要先向前传播到隐含层节点,经作用函数后,再把隐节点的输出信号传播到输出节点,最后给出输出结果。节点的作用的激励函数通常选取S 型函数,如 Q x e x f /11 )(-+= 式中Q 为调整激励函数形式的Sigmoid 参数。该算法的学习过程由正向传播和反向传播组成。在正向传播过程中,输入信息从输入层经隐含层逐层处理,并传向输出层。每一层神经元的状态只影响下一层神经元的状态。如果输出层得不到期望的输出,则转入反向传播,将误差信号沿原来的连接通道返回,通过修改各层神经元的权值,使得误差信号最小。 社含有n 个节点的任意网络,各节点之特性为Sigmoid 型。为简便起见,指定网络只有一个输出y ,任一节点i 的输出为O i ,并设有N 个样本(x k ,y k )(k =1,2,3,…,N ),对某一输入x k ,网络输出为y k 节点i 的输出为O ik ,节点j 的输入为net jk = ∑i ik ij O W 并将误差函数定义为∑=-=N k k k y y E 12 )(21

神经网络与模糊控制考试题与答案

一、填空题 1、模糊控制器由模糊化接口、解模糊接口、知识库和模糊推理机组成 2、一个单神经元的输入是 1.0 ,其权值是 1.5,阀值是-2,则其激活函数的净输入是-0.5 ,当激活函数是阶跃函数,则神经元的输出是 1 3、神经网络的学习方式有导师监督学习、无导师监督学习 和灌输式学习 4、清晰化化的方法有三种:平均最大隶属度法、最大隶属度取最小/最大值法和中位数法,加权平均法 5、模糊控制规则的建立有多种方法,是:基于专家经验和控制知识、基于操作人员的实际控制过程和基于过程的模糊模型,基于学习 6、神经网络控制的结构归结为神经网络监督控制、神经网络直接逆动态控制、神网自适应控制、神网自适应评判控制、神网内模控制、神网预测控制六类 7.傅京逊首次提出智能控制的概念,并归纳出的3种类型智能控制系统是 、和。 7、人作为控制器的控制系统、人机结合作为控制器的控制系统、无人参与的自主控 制系统 8、智能控制主要解决传统控制难以解决的复杂系统的控制问题,其研究的对象具备的3个特点为、和。 8、不确定性、高度的非线性、复杂的任务要求 9.智能控制系统的主要类型有、、、 、和。 9、分级递阶控制系统,专家控制系统,神经控制系统,模糊控制系统,学习控制系统,集成或者(复合)混合控制系统 10.智能控制的不确定性的模型包括两类:(1) ; (2) 。 10、(1)模型未知或知之甚少;(2)模型的结构和参数可能在很大范围内变化。11.控制论的三要素是:信息、反馈和控制。 12.建立一个实用的专家系统的步骤包括三个方面的设计,它们分别是、和。知识库的设计推理机的设计人机接口的设计13.专家系统的核心组成部分为和。知识库、推理机 14.专家系统中的知识库包括了3类知识,它们分别为、、和。判断性规则控制性规则数据

神经网络典型模型的比较研究

神经网络典型模型的比较研究 杜华英1,赵跃龙2 (中南大学信息科学与工程学院,湖南长沙 410083) 摘要神经网络是近年来发展起来的一门新兴学科,具有较高的研究价值,本文介绍了神经网络的基本概念,针对神经网络在不同的应用领域如何选取问题,对感知器、BP网络、Hopfield网络和ART网络四种神经网络模型在优缺点、有无教师方式、学习规则、正反向传播、应用领域等方面进行了比较研究。可利用其特点有针对性地将神经网络应用于计算机视觉、图像处理、模式识别、信号处理、智能监控、机器人等不同领域。 关键词神经网络;感知器;BP网络;Hopfield网络;ART网络 1 引言 人工神经网络(Artificial Neural Network, ANN)是模仿生物神经网络功能的一种经验模型。生物神经元受到传入的刺激,其作出的反应又从输出端传到相连的其它神经元,输入和输出之间的变换关系一般是非线性的。神经网络是由若干简单元件及其层次组织,以大规模并行连接方式构造而成的网络,按照生物神经网络类似的方式处理输入的信息。模仿生物神经网络而建立的人工神经网络,对输入信号有功能强大的反应和处理能力。 若干神经元连接成网络,其中的一个神经元可以接受多个输入信号,按照一定的规则转换为输出信号。由于神经网络中神经元间复杂的连接关系和各神经元传递信号的非线性方式,输入和输出信号间可以构建出各种各样的关系,因此在运行网络时,可视为一个“黑箱”模型,不必考虑其内部具体情况。人工神经网络模拟人类部分形象思维的能力,是模拟人工智能的一条途径,特别是可以利用人工神经网络解决人工智能研究中所遇到的一些难题。目前,人工神经网络理论的应用已经渗透到多个领域,在计算机视觉、图像处理、模式识别、信号处理、智能监控、机器人等方面取得了可喜的进展。 2 神经网络的典型模型 在人们提出的几十种神经网络模型中,人们用得较多的是感知器、BP网络、Hopfield 网络和ART网络。 2.1 感知器[2] 罗森勃拉特(Rosenblatt)于1957年提出的感知器模型是一组可训练的分类器,为最古老的ANN之一,现已很少使用。然而,它把神经网络的研究从纯理论探讨引向了工程上的实现,在神经网络的发展史上占有重要的地位。尽管它有较大的局限性,甚至连简单的异或(XOR)逻辑运算都不能实现,但它毕竟是最先提出来的网络模型,而且它提出的自组织、自学习思想及收敛算法对后来发展起来的网络模型都产生了重要的影响,甚至可以说,后来发展的网络模型都是对它的改进与推广。 最初的感知器是一个只有单层计算单元的前向神经网络,由线性阈值单元组成,称为单层感知器,后来针对其局限性进行了改进,提出了多层感知器。 1杜华英(1975—),女,江西樟树人,惠州学院成教处计算机工程师,主研人工智能,中南大学信息科学与工程学院在读工程硕士。 2赵跃龙(1958—),男,湖南湘潭人,中南大学信息科学与工程学院计算机系教授,主要从事计算机体系结构、磁盘阵列、计算机控制、神经网络应用等方面的研究。

模糊神经网络讲义

模糊神经网络(备课笔记) 预备知识 复杂的东西是难以精确化的,这使得人们所需要的精确性和问题的复杂性间形成了尖锐的矛盾。 正如模糊数学的创始人L.A.Zadeh(查德)教授(美国加利福尼亚大学)所说:“当系统的复杂性增加时,我们使它精确化的能力将减小。直到达到一个阈值,一旦超越它,复杂性和精确性将相互排斥。”这就是著名的“互克性原理”。 该原理告诉我们,复杂性越高,有意义的精确化能力就越低;而复杂性意味着因素众多,以致人们往往不可能同时考察所有因素,只能把研究对象适当简化或抽象成模型,即抓住其中的主要部分而忽略掉次要部分。当在一个被压缩了的低维因素空间考虑问题时,即使本来是明确的概念,也会变得模糊起来。或者某些抽象简化模型本身就带有概念的不清晰,如“光滑铰链”这个力学模型,什么叫“光滑”、什么叫“粗糙”就没有一个明确的定义,客观上两者之间没有绝对分明的界限;主观上,决策者对此类非程序化决策做出判断时,主要是根据他的经验、能力和直观感觉等模糊概念进行决策的。 或者判断一个人的好坏,本来有很多因素,比如人品、性格、相貌等,现在简化改成一个综合评价:好、坏、一般等,都是根据个人爱好或者个人经验等模糊概念进行判断的。 在科学发展的今天,尤其在工程研究和设计领域中,这些模糊性问题就无法回避了,要求对数据进行定量分析,那如何对其进行定量分析呢? 1965年,Zadeh教授发表一篇论文“模糊集合”(Fuzzy sets),所谓模糊集合就是指边界不清的集合。提出用“隶属函数”(menbership function)这一概念来描述现象差异中的中间过渡,突破了德国人Cantor创立的古典集合论中属于或不属于的绝对关系,标志着模糊数学的诞生。Zadeh认为应该重新把模糊性和精确性统一在一起,因为在现实生活中复杂事物要绝对精确是不可能的,实际上只是把所谓的不准确程度降低到了无关重要的程度。他这篇论文第一次引人注目地提出了模糊性问题,给出了模糊概念的定量表示法,标志着模糊数学的诞生。模糊数学是使模糊现象定量化的应用数学分支学科。由于它突破了传统数学绝不允许模棱两可的约束,使那些与数学毫不相关的学科都可能用定量化和数学化加以描述和处理,从而显示其强大的生命力。 在模糊评价中,最基本和使用最多的是隶属度和隶属函数。隶属度表示元素u属于模糊集合U的程度;也就是对模糊集合的判断是用元素对此集合的从属程度大小来表达的。 模糊系统 模糊逻辑控制系统,简称模糊控制系统或模糊系统,是一种基于模糊数学理论的新型控制方法。 模糊控制由于模仿人对复杂事物的抽象思维方式,利用模糊信息处理对被控对象执行控制。所以,它不需要知道系统的精确数学模型。对不确定的非线性的系统来说是一种有效的控制途径。但是,模糊控制对信息的简单模糊化导致系统的控制精度下降。为了提高精度,往往要在模糊化时增加模糊量的个数,或者,增大控制规则集。这样会使控制规则搜索范围的扩大、搜索时间增加、降低了决策的速度,则影响了动态过程的品质。因此,隶属函数和控制规则的优化是提高品质的关键,在本质上,是对模糊控制中的知识进行正确性校正。

相关文档
最新文档