基于人工神经网络的赤潮预测方法研究【文献综述】
基于神经网络预测水位的方法[发明专利]
![基于神经网络预测水位的方法[发明专利]](https://img.taocdn.com/s3/m/1c3aefeaac51f01dc281e53a580216fc700a53de.png)
(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号 (43)申请公布日 (21)申请号 201810157907.7(22)申请日 2018.02.25(66)本国优先权数据201721333861.7 2017.10.17 CN(71)申请人 北京尚水信息技术股份有限公司地址 100085 北京市海淀区上地五街7号昊海大厦303(72)发明人 王希花 纪红军 曲兆松 任明轩 (51)Int.Cl.G06Q 10/04(2012.01)G06N 3/08(2006.01)G06N 3/02(2006.01)(54)发明名称基于神经网络预测水位的方法(57)摘要本发明的基于神经网络预测水位的方法包括以下步骤:根据各站点的关系,下游某一站点(A)的水位与该站点(A)的前一段时间的水位相关,并且与该站点(A)上游的若干个上游站点(B、C、D …)的对应的该瞬间的水位相关,根据已有数据分析,水从上游站点(B、C、D …)流到下游的该站点(A)耗时分别为t 1、t 2和t 3…分钟,选取上游站点(B、C、D …)的前2t 1-t 1、2t 2-t 2和2t 3-t 3…分钟水位数据,以及该站点(A)的前U分钟的水位数据作为输入信号;建立一个神经网络;并经过若干次迭代让神经网络进行自我学习,使得神经网络的预测误差小于设定误差;输入该站点(A)前一段时间的水位和若干个上游站点(B、C、D …)的水位数据,基于神经网络预测该站点(A)水位。
权利要求书2页 说明书5页 附图1页CN 108510103 A 2018.09.07C N 108510103A1.一种基于神经网络预测水位的方法,该方法根据若干个上游站点(B、C、D…)的水位来预测下游某一站点A的水位,其特征在于:该方法它包括以下步骤:1)确定输入信号根据各站点的关系, 下游某一站点(A)的水位与该站点(A)的前一段时间的水位相关,并且与该站点(A)上游的若干个上游站点(B、C、D…)的对应的该瞬间的水位相关,根据已有数据分析,水从上游站点(B、C、D…)流到下游的该站点(A)耗时分别为t1、t2和t3…分钟,选取上游站点(B、C、D…)的前2t1- t1、2t2- t2和2t3- t3…分钟的水位数据,以及该站点(A)的前U分钟的水位数据作为输入信号;2)建立一个神经网络该神经网络包括:输入层(1)、隐含层(3)和输出层(5),输入层(1)包括并列的若干个输入点(2),隐含层(3)包括并列的若干个节点(4),输出层(5)包括一个输出点,每个输入点(2)的输出均作为每个节点(4)的输入,每个节点(4)的输出均作为输出层(5)的输入,输出层(5)输出一个信号;3)让神经网络进行自我学习将上游站点(B、C、D…)的前2t1- t1、2t2- t2、2t3- t3…每分钟的水位数据和该站点(A)的前U分钟的每分钟的水位数据中每一个数据作为一个输入点(2)的输入数据,将上述输入数据输入步骤2)的该站点(A)的神经网络中,让神经网络进行自我一次学习,经过若干次自我学习,使得神经网络的预测误差小于设定误差,得到该站点(A)的神经网络;4)基于神经网络预测该站点(A)水位把上游站点(B、C、D…)的前2t1- t1、2t2- t2和2t3- t3…水位数据和该站点(A)的前U分钟的水位数据作为步骤3)的该站点(A)的神经网络的若干个输入点(2)的输入数据,根据步骤3)的该站点(A)的神经网络得到该站点(A)的水位。
赤潮的综述

赤潮主题词:赤潮的定义赤潮的危害赤潮的成因赤潮的研究赤潮的预防结论与展望摘要:随着现代化工农业生产的迅猛发展,沿海地区人口的增多,大量工农业废水和生活污水排入海洋,其中相当一部分未经处理就直接排入海洋,导致近海、港湾富营养化程度日趋严重。
同时,由于沿海开发程度的增高和海水养殖业的扩大,也带来了海洋生态环境和养殖业自身污染问题;海运业的发展导致外来有害赤潮种类的引入;全球气候的变化也导致了赤潮的频繁发生。
目前,赤潮已成为一种世界性的公害,美国、日本、中国、加拿大、法国、瑞典、挪威、菲律宾、印度、印度尼西亚、马来西亚、韩国、香港等30多个国家和地区赤潮发生都很频繁。
因此研究赤潮的危害和成因就显得非常的重要。
赤潮的定义:赤潮是海水中某些微小的微型藻、原生动物或细菌在一定的环境条件下爆发性增殖或聚集在一起而引起水体变色的一种生态异常现象。
这一概念最早是因海水变红而得名,现在已成为各种赤潮的统称。
赤潮爆发时,因赤潮生物种类和数量的不同,海水可呈现红、黄、绿等不同颜色。
赤潮的危害:一、赤潮破坏了海洋的正常生态结构,因此也破坏了海样中的正常生产过程,从而威胁海洋生态系统中的物质循环、能量流动。
二、大量赤潮生物死亡后,在尸骸的分解过程中要大量消耗海水中的溶解氧,造成缺氧环境,引起虾、贝类的大量死亡。
三、有些赤潮生物会分泌毒素,当鱼、贝类处于有毒赤潮区域内,摄食这些有毒生物,虽不能被毒死,但生物毒素可在体内积累,其含量大大超过食用时人体可接受的水平。
这些鱼虾、贝类如果不慎被人食用,就引起人体中毒,严重时可导致死亡。
赤潮的成因:一、海水富营养化由于城市工业废水和生活污水大量排入海中,使营养物质在水体中副集,造成海域富营养化。
此时,水域中氮、磷等营养盐类;铁、锰等微量元素以及有机化合物的含量大大增加,促进赤潮生物的大量繁殖。
赤潮检测的结果表明,赤潮发生海域的水体均已遭到严重污染,富营养化。
氮磷等营养盐物质大大超标。
其次一些有机物质也会促使赤潮生物急剧增殖。
赤潮的发生情况与危害

02
赤潮的危害
对海洋生态系破坏海洋生物
赤潮的发生会导致海洋生 物大量死亡,破坏海洋生 态系统的平衡。
影响海洋微生物
赤潮的发生还会影响海洋 中的微生物,进而影响海 洋生态系统的物质循环和 能量流动。
污染水源
赤潮的发生会导致海水中 的有害物质大量增加,污 染水源,对人类和其他生 物造成危害。
法规制定
制定严格的法律法规,限制污染源排放,保护海洋生态环境,对破坏海洋生态的 行为进行严厉打击。
04
赤潮的研究进展
赤潮的成因研究
生物因素
赤潮是由多种生物因素引起的,包括浮游生物、细菌和病 毒等。这些生物因素会在适宜的条件下大量繁殖,从而引 发赤潮。
环境因素
环境因素也是赤潮发生的重要原因,包括水温、盐度、水 深、水流等。这些环境因素会影响浮游生物的繁殖和分布 ,从而影响赤潮的发生。
赤潮治理和防控手段有限
针对赤潮的治理和防控手段相对有限,缺乏有效的技术手段和措施 来控制赤潮的发展和扩散。
公众对赤潮的认识不足
许多公众对赤潮缺乏正确的认识和了解,对其危害和影响也缺乏足 够的重视和警惕。
未来的研究方向与期望
1 2 3
加强赤潮监测和预警研究
通过加强赤潮监测和预警系统的研究和建设,提 高赤潮预测的准确性和及时性,为防范和治理赤 潮提供科学依据。
对人类健康的危害
引起呼吸系统疾病:赤潮的发生会导致 空气中产生大量有害物质,引起人类呼 吸系统疾病。
影响旅游业:赤潮的发生会导致海滨景 观受到破坏,对旅游业产生极大的影响 。
影响渔业:赤潮的发生会导致海洋生物 大量死亡,对渔业产生极大的损害。
污染水源:赤潮的发生还会导致水源污 染,饮用后会对人体健康造成危害。
基于人工神经网络的赤潮预测模型

收 稿 日期 :2 0 - 1 9 0 60— ;修 订 日期 :2 0 —2 l 0 0 61一 】
作者简介 : 马玉梅 (9 2) 16一,女:教授 ,主要研究方向:应用数学 。
维普资讯
l 期
马 玉梅 , :基 于 人 工神 经 网络 的 赤潮 预 测模 型 等
() 2
输 出单 元 f 的输 出为 :
J- l
O i
∑
一6 1 )
0 ,…, 一1 ,1 I
() 3
表 示 中间 层 第 _个 节 点 的 内部 阀值 , 表 示 输 出层第 i 节 点 的 内部 阀值 。 『 个 使 用 迭代 方 法 一 直 反 向计 算 到 网络 的 隐含 层 为止 ,其计 算 按 由 D l et 则变 形 的权 a规
预 报 是行 之 有 效 的。
2 人 工神 经 网络 的拓 扑结构
人工神经网络 ( rf i er e ok) A t c l ua N t rs是由大量的简单神经元广泛连接而成 的复 i aN i l w
杂 网络 。它 是在 现 代 生物 学 研 究人 脑 组织 的基础 上 提 出来 的 ,可 用 来模 拟 人类 大 脑 神 经
有 的 网络 大 致可 分 为三类 :即前 馈 网络 ,反馈 网络 ,还有 自组 织 网络 ,下 图列 出了前 馈
网络和 反馈 网络 的拓 扑 结 构 ( 图 1 : 见 ) B P算 法 是前 馈 网络最 重 要 且应 用 最普 遍 的学 习算 法 。由 B P算 法 ( 向传播 算 法 ) 反 训 练 的多 层前 馈 网络 ,是神 经 网 络分 类 器 最普 遍 最通 用 的形 式之 一 ,并 且 已经证 明 的基 本 结论 是 :由一 个 隐含 层和 非 线 性激 励 函数 组 成 的 网络 ,能够 以任意 精 度 逼 近任 意 的 函
赤潮预警预报模型研究进展

个I临界状态时,诱发因子就碌得尤为重要。也有一些研究学者认为,赤潮的发生过程主要不是
赤潮藻的增殖引起的,而是赤潮藻在物理条件下的集聚,致使密度异常增加造成的L2 J。 一般来说,赤潮藻都是以营养盐为生存基础,光合作用为必要条件来维持其生存,如果营 养盐过多,达到富营养化,浮游生物就有可能暴发性增殖,引发赤潮。赤潮因其种类、地域特 征、海况、气象气候及人为影响的不同而呈现多样性和复杂性,这使赤潮研究变得非常困难,赤
依赖越来越大,致使海洋污染加重,赤潮发生的频率大大增加。 早期受科研能力的制约,对赤潮现象的研究手段主要是现场观测和定性描述,不足以阐明
不同海域、不同藻类赤潮的发生机制。随着对赤潮研究的不断伸入,人们开始探索定量分析的 研究方法,并提出各种数学模型来模拟赤潮生消变化过程。早期赤潮模型常用作对某些猜想 进行解释的工具。例如,一些学者通过建立模型来验证发生在近岸的带状腰鞭毛藻(dinoflag— ellates)赤潮是否就是由于该浮游植物的游泳特性和海流作用的结果。如今模型已经日益成 为定量研究赤潮发生发展过程的主要工具。随着人们对赤潮暴发机理的进一步认识和对各种 影响因素的专项研究,对赤潮模型的研究也越来越细化,引入的变量参数也越来越多。
玉Ⅲ1通过主成分研究分析,在大连黑石礁湾建立了春季模式和夏季模式的多元回归模型,其
中春季模式采用水色、透明度、盐度、DO等13个因子作为输入参数;夏季模式采用了COD和
·36·
Do两个因子作为回归参数。黄伟建等¨副在时间序列分析的基础上又引进了各环境因子对夜
光藻数量影响的回归模型,并把两者并联起来,建立了并联混合自回归模型。
赤潮的发生是环境要素综合作用的结果,利用多元回归方程可以反应多个环境要素与赤
赤潮的生态学研究进展和展望

赤潮的生态学研究进展和展望杨刚(浙江海洋学院海洋科学与技术学院,浙江舟山316004)摘要本文针对赤潮的生物学研究、赤潮发生机制,赤潮的生态学效应,赤潮的生物学监测和赤潮的防治等方面对整体的赤潮研究进行了简单的回顾和应用介绍,最后对赤潮的研究重点和未来发展方向进行了评述。
关键字赤潮发生机制生态学效应监测防治分类号赤潮(red tide)又称有害藻华(harmful algae bloom ),是由于某种(或某些)微小的浮游藻类或原生动物或细菌,在一定的条件下爆发性繁殖(增殖)或高密度聚集引起水体变色的一种有害的生态异常现象。
赤潮形成后,对海洋生态系统的破坏难以估量: ①赤潮生物的爆发性增殖会造成海水pH值升高,粘稠度增大,改变水生生态系统的群落结构; ②藻类大量死亡时分解作用消耗水中的氧气,导致水域的动物因缺氧而死亡; ③藻类过度密集会堵塞鱼贝类生物的鳃部,使其窒息而死; ④有的赤潮藻类本身含有毒素,鱼贝等生物接触后会发生中毒反应。
有的赤潮毒素容易在鱼贝体内蓄积,人们误食含有毒素的水产品后会引起肢体麻痹,甚至中毒致死。
[1]据报道记载,赤潮在古代发生的次数非常稀少。
20世纪以来,由于工农业迅速发展,沿海地区人口激增,大量的工业废水和城市生活污水未经处理直接排放到海洋中,造成内湾、河口和沿岸水域的严重有机污染和富营养化,赤潮的发生频率不断升高。
并且,赤潮影响的水域面积越来越大,引发赤潮的藻种也越来越多(Hallegraeff,1993 )。
[2]当前,每一个拥有海岸线的国家都受到赤潮的威胁。
因此,赤潮已经成为世界沿海国家所面临的主要海洋环境问题,引起了国际上的广泛关注。
许多临海国家特别是日本和美国已投入大量的人力和物力进行研究。
从发展趋势看,赤潮的发生机理、危害、预测和防治仍将是今后赤潮研究的主流。
1. 赤潮的生物学研究据报道,世界各地己引发过赤潮的生物有200种(福代康夫,1990)。
[3]赤潮生物除少数的原生动物和细菌外,大都属于浮游植物,包括蓝藻、硅藻、甲藻、金藻和隐藻等门类,其中硅藻和甲藻占多数。
赤潮研究综述

比甲藻 、 纹 膝 沟 藻 、 崎 裸 甲藻 、 纹环 沟 藻 、 多 长 无 赤潮 异弯 藻 、 麦 细 柱 藻 、 色 中缢 虫 、 刺菱 形 藻 、 光 丹 红 尖 夜 藻、 锥形 多 甲藻 、 氏棕 囊 藻 、 氏 多 沟 藻 、 普 斯 利玛 原 甲 藻、 海洋 原 甲藻 、 小 原 甲藻 、 长 翼 根管 藻 、 根 管 微 细 脆 藻 、 棘 钝 根 管 藻 、 毛 根 管藻 、 状 斯 克里 普 藻 、 半 刚 锥 中 肋 骨 条 藻 、 状 冠盖 藻 、 形海 线 藻 、 氏海 链 藻 、 掌 菱 诺 佛 氏海 毛藻 、 红海 束 毛藻 。
维普资讯
第2 2卷 第 1 期
2 0 正 06
中 学 生 物 学
Mi d e S h o B o o y d l c o l ilg
Vo . 2 No 1 1 . 2
2 0o6
文件 编号 : 0 3—7 8 ( 0 6 0 —0 0 —0 10 56 20 )1 0 5 2
水。
关 于 赤潮 , 类早 就 有 相 关 记 载 , 《 约 ・ 人 如 旧 出埃
及记》 中就有 关 于 赤潮 的描 述 : 河里 的水 , 变 作 血, “ 都 河 也 腥臭 了 , 埃及 人就 不能 喝这 里 的 水 了 。” 日本 , 在 早 在 腾 原 时 代 和镰 时代 就 有 赤潮 方 面 的记 载 。 10 83 年法 国人 马克 ・ 莱斯 卡 波特 记 载 了美 洲罗 亚 尔湾 地 区 的 印第 安 人 根据 月黑 之 夜 观 察海 水 发 光 现 象来 判 别 贻 贝是否 可 以食用 。1 3 ~ 8 6年 , 尔文在 《 8 1 13 达 贝格 尔 航 海 记 录》 中记载 了在 巴西 和智 利 近 海面 发 生 的束 毛 藻引 发 的赤潮 事件 。 载 , 国早在 2 0 据 中 0 0多 年前 就发 现 赤 潮现 象 , 一些古 书 文献 或文 艺 作 品里 已有 一 些有
基于人工神经网络的预测模型

基于人工神经网络的预测模型随着计算机技术的不断进步,人工神经网络得到了广泛的应用。
人工神经网络是一种模拟人类神经系统的计算模型,它通过学习和适应来实现对数据的预测和分类。
其中,基于人工神经网络的预测模型具有重要的应用价值。
本文将围绕基于人工神经网络的预测模型展开探讨。
一、人工神经网络的基本概念人工神经网络是由神经元和它们之间的联系构成的一种网络结构。
它采用一种类似于大脑神经元之间相互联系的方式,对输入信号进行加工处理,产生相应的输出信号。
它的结构大致分为输入层、隐含层和输出层三部分,其中隐含层是神经网络最核心的部分,在这里所有的计算、加工都以神经元为基本单元,最终得到预测值或者分类结果。
二、基于人工神经网络的预测模型基于人工神经网络的预测模型是一种利用神经网络来对未来事件的趋势进行预测的方法。
其基本思想是将历史数据作为神经网络的输入数据,在神经网络中进行训练和学习,并生成一组能够对未来事件进行预测的参数。
基于这些参数,可以通过将未来事件的输入数据带入到神经网络中进行预测,得到预测结果。
通常,基于人工神经网络的预测模型分为两种类型:前向神经网络和逆向神经网络。
前向神经网络是把输入信号从输入层传输到输出层。
在此过程中,训练样本经过多次迭代调整,使得网络产生最佳的连接权重,然后通过输入未来事件,得到预测结果。
而逆向神经网络则是对输出信号进行学习和训练,从时间维度反推输入信号,从而实现预测。
在实际应用中,基于人工神经网络的预测模型的预测效果较好,而且可以适用于很多领域,如股票走势预测、交通流量预测等。
在金融领域中,基于人工神经网络的预测模型可以用来预测股票市场走势,帮助投资者做出正确的决策。
在交通领域中,监测地区的路况和交通流量,以提供数据支持给政府进行城市规划。
三、基于人工神经网络的预测模型的优缺点优点:第一,基于人工神经网络的预测模型可以快速地学习和处理大量的数据,使其适用于多种领域的应用。
第二,基于人工神经网络的预测模型能够自适应地进行学习,具有强大的自学习能力,同时还能够随着输入数据量的增加不断地提高预测准确率。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
毕业论文文献综述计算机科学与技术基于人工神经网络的赤潮预测方法研究引言:近年来,赤潮发生的频率越来越高,对海洋渔业、海水养殖业和滨海旅游业等均造成了一定的危害,经济损失严重。
因此,弄清楚赤潮发生的机理并对其进行准确地预报,对预防赤潮的发生以及减少赤潮灾害带来的损失至关重要。
鉴于赤潮突发性和复杂性和对其机理的认识,目前常用的预测方法主要依据赤潮影响因子的变化判断其是否发生,它是一个模式识别过程。
由于生态系统各因子之间表现出高度的非线性和不确定性,传统的预测方法有效的很少。
人工神经网络具有较好的处理非线性模式识别特性,它独特的信息处理和解算能力对机制尚不明确的高维非线性系统具有很好的建模能力。
目前神经网络在生态系统模拟、生态数据处理以及要干生态参数的提取方面等方面得到广泛应用[1,2]。
本文介绍一种常见的神经网络算法网络,即BP(Back Propagation)网络,以及它在赤潮预测中的应用。
1 赤潮及赤潮的预测研究1.1赤潮赤潮(red tide)也称红潮,通常是指一些海洋微藻、原生动物或细菌在水体中过度繁殖或聚集而令海水变色的现象,藻华(algal bloom)有时称水华或藻花,是指水体中藻类大量繁殖的一种现象,习惯上将水体中藻类达到一定密度后的藻华称作赤潮[3]。
自20世纪70年代有比较齐全的赤潮资料以来,我国赤潮发生主要有以下趋势:赤潮的发生以每10年3倍的速度不断上升;赤潮的规模不断扩大;危害程度增加。
有害赤潮是一种有多种因素综合作用引起的生态异常现象,人们至今还没有对其发生机理有完整、统一的认识,而且赤潮生物的繁殖与其影响因子之间具有高度的复杂性和非线性,从而很难采用传统的偏微分方程对其规律进描述。
在这种情况下,以数据挖掘技术为主的数据驱动模型就开始显示出其优势。
其中,人工神经网络ANN(Artificial Neural Network)的应用最为广泛,尤其是在寻求和建立信号输入和输出方面,具有许多其他方法所不具有的优势,并在实际应用中取得了很好的效果[4]。
1.2 赤潮的预测赤潮是一种由多因素综合作用引发的生态异常现象,具有突发性及非线性等特点,并且赤潮生物种类繁多,不同海域发生赤潮的主要影响因子又不尽相同,因此,对其进行成功预测并进行有效的预防减灾已成为社会迫切需要[5]。
国内外学者从不同角度开展了赤潮预测的研究,并提出了众多的赤潮预测方法。
近几年随着计算机软件技术、人工智能以及生物技术的迅猛发展,人们开始探索将其应用与赤潮的预测。
20世纪90年代,RECKNAGEL[6]将ANN(Artificial neural networks)运用于蓝-绿藻的种类丰度和演替预测研究,结果证明,ANN浮游植物模型具有较好的预测潜力,并促进了ANN 在水华、赤潮方面的研究。
WILSON和RECKNAGEL[7]与KUDELA和COCHLAN[8]虽然将ANN应用于赤潮预测计算中,但未在网络结构的优化方面做工作,而国内的一些学者则在这一方面作了大量的工作。
蔡如钰[9]、董婧等[10]、吴京洪[11]谢中华和晏丽红[12]等在人工神经网络对赤潮进行预测方面做出了巨大贡献。
上述研究初步表明,ANN用于赤潮生物生长的研究是一种行之有效的新途径,与传统统计模型相比有一定的优越性,与传统统计模型相比,人工神经网络方法不要求监测数据具有很强的规律性,就可以用训练后的网络模型对其进行预测,具有一定的实用性。
2 人工神经网络及BP算法网络人工神经网络(Artificial Neural Network)是指由大量与自然神经系统细胞类似的人工神经元连接而形成的网络,其由应用工程技术、计算机手段模拟生物神经网络的结构和功能,实现只是并行分别处理,是一个人工智能信息处理系统,与较高的建模能力和对数据良好的拟合能力[13]。
人工神经网络模仿人脑神经的活动,力图建立脑神经活动的数学模型。
近年来,只能控制作为一门新的交叉学科蓬勃兴起。
人们在更高层次上寻求控制、计算机和神经生理学的新结合,以此来解决显示世界中常规控制论难以解决的一些问题。
2.1 神经网络国内外研究现状20世纪90年代以来,神经网络网络的应用领域迅速扩大。
近百种近百种网络结构、学习算法相继出现,硬件实现的研究工作也取得了重要进展。
神经网络理论的应用研究已经渗透到大量的工程领域,并取得了令人瞩目的成果。
1987年6月IEEE在San Diego召开了第一节神经网络会议,标志着神经网络研究在世界范围内形成了高潮,此后国际上每年都有以神经网络为主题的国际会议召开。
随着神经网络理论研究的进展,其应用产品开发也获得了初步的成功。
目前已有的神经网络应用产品有HNC公司的手写体识别,Neural teach的专家系统设计,HNC的脑电图分析,HNC和AI-WARE的过程与机器人控制等众多产品。
在举世瞩目的海湾战争中,美国空军也采用了神经网络进行决策和控制。
近年来,我国在神经网络的研究方面发展规模大、速度快而且取得了不少成果。
中国科学院半导体研究所神经网络组在王守觉院士的带领下,研究开发了一种适合我国神经网络研究需要的通用神经网络处理机--“预言神”神经计算机;承担的“九五”国家重点攻关“半导体神经网络技术及其应用”、“高精度双权值突出神经计算机”、“高速二值Hopfield网络神经计算机”等项目于2000年12月通过了中科院的鉴定、验收。
我国在神经网络的应用研究中的另一项具有较大影响的成果是国防科技大学的胡守仁教授等人研制成功的一个通用神经网络模拟系统NNSS,该系统能按用户意图建立各种复杂的互连模型,实现从学习、分别到识别结果的全过程[14]。
2.2 BP神经网络(一)、BP神经网络的基本原理BP(Back Propagation)网络是1986年由Rumelhart和McCelland为首的科学家小组提出,是一种按误差逆传播算法训练的多层前馈网络,是目前应用最广泛的神经网络模型之一。
BP网络能学习和存贮大量的输入-输出模式映射关系,而无需事前揭示描述这种映射关系的数学方程。
它的学习规则是使用最速下降法,通过反向传播来不断调整网络的权值和阈值,使网络的误差平方和最小。
BP神经网络模型拓扑结构包括输入层(input layer)、隐层(hide layer)和输出层(output layer)(图 1)。
X1(p)X2(p)Xn(p)O1(p)O2(p)On(p)输入层节点隐层节点输出层节点图 1 神经网络结构示意图(二)、BP 网络及其权值调整规则1、BP 算法由数据流的前向计算(正向传播)和误差信号的反向传播两个过程构成。
正向传播时,传播方向为输入层→隐层→输出层,每层神经元的状态只影响下一层神经元。
若在输出层得不到期望的输出,则转向误差信号的反向传播流程。
通过这两个过程的交替进行,在权向量空间执行误差函数梯度下降策略,动态迭代搜索一组权向量,使网络误差函数达到最小值,从而完成信息提取和记忆过程。
1.1正向传播n q mVWZ1Y1YjYm图 2 前向运算(正向传播)设 BP 网络的输入层有n 个节点,隐层有q 个节点,输出层有m 个节点,输入层与隐层之间的权值为ki v ,隐层与输出层之间的权值为jk w ,如图5.4所示。
隐层的传递函数为f 1(·),输出层的传递函数为f 2(·),则隐层节点的输出为(将阈值写入求和项中):)(01∑==ni i ki k x v f z q k ,......,2,1= (1.1)输出层节点的输出为:)(02∑==qk k jk j z w f y m j ,......,2,1= (1.2)至此B-P 网络就完成了n 维空间向量对m 维空间的近似映射。
1.2反向传播1) 定义误差函数输入p 个学习样本,用px x x ,...,,21来表示。
第p 个样本输入到网络后得到输出pj y (m j ,...,2,1=)。
采用平方型误差函数,于是得到第p 个样本的误差p E :∑=-=m j p j pj p y t E 12)(21 (1.3)式中:p j t 为期望输出。
对于P 个样本,全局误差为:∑∑∑====-=P p m j Pp p pj p j E y t E 111)(21 (1.4)2)输出层权值的变化采用累计误差BP 算法调整jk w ,使全局误差E 变小,即∑∑==∂∂-=∂∂-=∂∂-=∆P p jk p P p p jk jk jk w E E w w E w 11)()(ηηη (1.5) 式中:η—学习率 定义误差信号为:ijj p j pyj S y y E S E ∂∂⋅∂∂-=∂∂-=δ (1.6) 其中第一项:∑∑==--=⎥⎦⎤⎢⎣⎡-∂∂=∂∂m j pj p j m j p j p j jj py t y t y y E 112)()(21 (1.7)第二项:)('2j jj S f S y =∂∂ (1.8)是输出层传递函数的偏微分。
于是:)()('21j mj p j p j yj S f y t ∑=-=δ (1.9)由链定理得:∑=⋅--=-=∂∂⋅∂∂=∂∂m j k j p j p j k yj jk j j p jk pz S f y t z w S S E w E 1'2)()(δ (1.10) 于是输出层各神经元的权值调整公式为:k j p p mj p j p j jk z S f y t w )()('211∑∑==-=∆η (1.11)3)隐层权值的变化∑∑==∂∂-=∂∂-=∂∂-=∆pp ki p pp p ki ki ki v E E v v E v 11)()(ηη (1.12)定义误差信号为:k kk p kp k S z z E S E z ∂∂⋅∂∂-=∂∂-=δ (1.13)其中第一项:k j m j pj p j m j p j p j kk pz y y t y t z z E ∂∂--=⎥⎦⎤⎢⎣⎡-∂∂=∂∂∑∑==112)()(21 (1.14) 依链定理有:jk j kj j j k jw S f z S S y z y )('2=∂∂⋅∂∂=∂∂ (1.15) 第二项:)('1k kk S f S z =∂∂ (1.16) 是隐层传递函数的偏微分。
于是:)()()('11'2k jk mj j p j p j zk S f w S f y t ∑=-=δ (1.17)由链定理得:ik jk j m j p j p j i zk ki k k p ki px S f w S f y t x v S S E v E ⋅--=-=∂∂⋅∂∂=∂∂∑=)()()('1'21δ (1.18) 从而得到隐层各神经元的权值调整公式为:i k j p p mj ki x S f S f v )()(()'111'2∑∑===∆η (1.19)1.3 BP 算法的改进BP 算法用于具有非线性转移函数的三层前馈网后可以以任意精度逼近任何非线性函数,这一非凡优势使BP 网络得到越来越广泛的应用。