遗传算法优化BP神经网络-非线性函数拟合

合集下载

BP神经网络逼近非线性函数

BP神经网络逼近非线性函数

3、 试用BP 神经网络逼近非线性函数f(u) =)5.0u (9.1e+-sin(10u) 其中,u ∈[-0.5,0.5](1)解题步骤:①网络建立:使用“net=newff(minmax(x), [20, 1], {'tansig ’,’ purelin' });,语句建立个前馈BP 神经网络。

该BP 神经网络只含个隐含层,且神经元的个数为20。

隐含层和输出层神经元的传递函数分别为tansig 和pure-lin 。

其他参数默认。

②网络训练:使用“net=train (net, x , y) ;”语句训练建立好的BP 神经网络。

当然在网络训练之前必须设置好训练参数。

如设定训练时间为50个单位时间,训练目标的误差小于0.01,用“net.trainParam.epochs=50; net.train-Param.goal=0.01;”,语句实现。

其他参数默认。

③网络仿真:使用“y1=sim(net, x); y2=sim(net, x};”语句仿真训练前后的BP 神经网络。

(2)程序如下:clear all ;x=[-0.5:0.01:0.5];y=exp(-1.9*(0.5+x)).*sin(10*x);net=newff(minmax(x),[20,1],{'tansig' 'purelin'});y1=sim(net,x); %未训练网络的仿真结果 net.trainParam.epochs=50;net.trainParam.goal=0.01;net=train(net,x,y);y2=sim(net,x); %训练后网络的仿真结果 figure;plot(x,y,'-',x,y1,'-',x,y2,'--')title('原函数与网络训练前后的仿真结果比较');xlabel('x');ylabel('y');legend('y','y1','y2');grid on(3)仿真结果如图:图1图1为原函数y与网络训练前后(y1,y2)的仿真结果比较图。

研究生必备的人工神经网络电子书汇总(31本)

研究生必备的人工神经网络电子书汇总(31本)

研究生必备的人工神经网络电子书汇总(31本)这些都是我从淘宝和百度文库里面搜集到的电子书,需要的可以联系我QQ:415295747,或者登录我的博客/u/17236977421.神经网络在应用科学和工程中的应用——从基础原理到复杂的模式识别5 译者序6 前9 致谢10 作者简介11 目录19 第1章从数据到模型:理解生物学、生态学和自然系统的复杂性和挑战27 第2章神经网络基础和线性数据分析模型72 第3章用于非线性模式识别的神经网络105 第4章神经网对非线性模式的学习166 第5章从数据中抽取可靠模式的神经网络模型的实现205 第6章数据探测、维数约简和特征提取235 第7章使用贝叶斯统计的神经网络模型的不确定性评估276 第8章应用自组织映射的方法发现数据中的未知聚类359 第9章神经网络在时间序列预测中的应用458 附录2.MATLB 神经网络30个案例分析第1章BP神经网络的数据分类——语音特征信号分类23 第2章BP神经网络的非线性系统建模——非线性函数拟合33 第3章遗传算法优化BP神经网络——非线性函数拟合48 第4章神经网络遗传算法函数极值寻优——非线性函数极值寻优57 第5章基于BP_Adsboost的强分类器设计——公司财务预警建模66 第6章PID神经元网络解耦控制算法——多变量系统控制77 第7章RBF网络的回归——非线性函数回归的实现85 第8章GRNN的数据预测——基于广义回归神经网络的货运量预测93 第9章离散Hopfield神经网络的联想记忆——数字识别102 第10章离散Hopfield神经网络的分类——高校科研能力评价112 第11章连续Hopfield神经网络的优化——旅行商问题优化计算124 第12章SVM的数据分类预测——意大利葡萄酒种类识别134 第13章SVM的参数优化——如何更好的提升分类器的性能145 第14章SVM的回归预测分析——上证指数开盘指数预测153 第15章SVM的信息粒化时序回归预测——上证指数开盘指数变化趋势和变化空间预测165 第16章自组织竞争网络在模式分类中的应用——患者癌症发病预测171 第17章SOM神经网络的数据分类——柴油机故障诊断182 第18章Elman神经网络的数据预测——电力负荷预测模型研究188 第19章概率神经网络的分类预测——基于PNN的变压器故障诊断195 第20章神经网络变量筛选——基于BP的神经网络变量筛选200 第21章LVQ神经网络的分类——乳腺肿瘤诊断210 第22章LVQ神经网络的预测——人脸朝向识别220 第23章小波神经网络的时间序列预测——短时交通流量预测230 第24章模糊神经网络的预测算法——嘉陵江水质评价241 第25章广义神经网络的聚类算法——网络入侵聚类248 第26章粒子群优化算法的寻优算法——非线性函数极值寻优255 第27章遗传算法优化计算——建模自变量降维270 第28章基于灰色神经网络的预测算法研究——订单需求预测280 第29章基于Kohonen网络的聚类算法——网络入侵聚类289 第30章神经网络GUI的实现——基于GUI的神经网络拟合、模式识别、聚类2.MATLAB 神经网络仿真与应用章节信息7 目录15 第1章神经网络概述38 第2章感知神经网络64 第3章自组织竞争神经网络106 第4章BP神经网络143 第5章线性神经网络171 第6章径向基函数神经网络196 第7章反馈神经网络及MA TLAB实现228 第8章神经网络预测与控制273 第9章神经网络优化及故障诊断302 第10章图形用户界面设计334 参考文献4.混合神经网络技术7 目录11 第1章绪论26 第2章基础知识43 第3章BP神经网络70 第4章RBF神经网络84 第5章Hopfield神经网络96 第6章随机神经网络114 第7章遗传神经网络158 第8章粒子群神经网络193 第9章模糊神经网络244 第lO章混沌神经网络293 第11章小波神经网络331 第12章神经网络集成356 附录5.神经网络控制(第三版)7 目录13 第1章绪19 第2章神经网络理论基础63 第3章基于神经网络的系统辨识101 第4章神经网络控制142 第5章遗传算法与神经控制179 附录203 参考文献6.脉冲耦合神经网络与数字图像处理丛书题名:智能科学技术著作丛书主要责任者:马义德主题词:神经网络; 数字图像处理出版者:科学出版社ISBN:978-7-03-022389-0出版地:北京出版日期:200807页数:3047 《智能科学技术著作丛书》序9 前13 目录21 第1章脉冲耦合神经网络50 第2章图像滤波及脉冲噪声滤波器77 第3章脉冲耦合神经网络在图像分割中的应用142 第4章脉冲耦合神经网络与图像编码185 第5章脉冲耦合神经网络与图像增强195 第6章脉冲耦合神经网络与图像融合210 第7章脉冲耦合神经网络与形态学245 第8章脉冲耦合神经网络在特征提取中的应用278 第9章脉冲耦合神经网络与数字图像签名技术292 第10章脉冲耦合神经网络与组合决策优化306 第11章脉冲耦合神经网络和小波变换322 参考文献7.混沌系统的模糊神经网络控制理论与方法主要责任者:谭文; 王耀南主题词:混沌学; 应用; 模糊控制; 神经网络出版者:科学出版社ISBN:978-7-03-021258-0出版地:北京出版日期:200805页数:2364 内容简介5 前7 目录13 第1章绪论37 第2章模糊神经网络控制理论基础70 第3章神经网络在混沌控制中的作用83 第4章基于径向基神经网络的非线性混沌控制99 第5章超混沌系统的模糊滑模控制111 第6章不确定混沌系统的模糊自适应控制120 第7章模糊神经网络在混沌时间序列预测中的应用134 第8章混沌系统的混合遗传神经网络控制150 第9章不确定混沌系统的模糊神经网络自适应控制165 第10章基于动态神经网络的混沌系统控制200 第11章基于线性矩阵不等式方法的混沌系统模糊控制223 第12章基于递归神经网络的不确定混沌系统同步245 结束语8. 智能预测控制及其MATLB 实现(第2版)丛书题名:自动控制技术应用丛书主要责任者:李国勇主题词:人工智能; 预测控制; 计算机辅助计算; 软件包出版者:电子工业出版社ISBN:978-7-121-10147-2出版地:北京出版日期:201001页数:3364 内容简介5 前7 目录13 第一篇神经网络控制及其MA TLAB实现13 第1章神经网络控制理论87 第2章MATLAB神经网络工具箱函数160 第3章基于Simulink的神经网络控制系统175 第二篇模糊逻辑控制及其MATLAB实现175 第4章模糊逻辑控制理论208 第5章MA TLAB模糊逻辑工具箱函数237 第6章模糊神经和模糊聚类及其MA TLAB实现267 第三篇模型预测控制及其MATLAB实现267 第7章模型预测控制理论281 第8章MA TLAB预测控制工具箱函数320 第9章隐式广义预测自校正控制及其MA TLAB实现334 附录A 隐式广义预测自校正控制仿真程序清单341 附录B MA TLAB函数一览表347 附录C MA TLAB函数分类索引349 参考文献9. 基于神经网络的优化设计及应用主要责任者:孙虎儿出版者:国防工业出版社ISBN:978-7-118-06282-3出版地:北京出版日期:200905页数:111目录11 第1章绪论11 1.1 优化设计发展概况20 1.2 信号处理的主要方法22 1.3 正交设计方法25 1.4 基于神经网络的立体正交优化设计概述28 第一篇基拙理论篇28 第2章基于小波变换的信号处理28 2.1 小波变换的源起与发展概述30 2.2 小波分析基础34 2.3 小波分析的工程解释35 2.4 基于小波分析的信号处理38 第3章神经网络结构的确定38 3.1 神经网络综论42 3.2 神经网络的基本原理47 3.3 人工神经网络的建模53 3.4 前馈型神经网络57 第4章正交设计法57 4.1 正交设计法的基本内容60 4.2 正交设计法的基本内容60 4.3 有交互作用的正交设计法63 4.4 方差分析法67 第二篇创新篇67 第5章立体正交表67 5.1 建立立体正交表70 5.2 立体正交表的基本性质71 5.3 立体正交试验的误差分析75 第6章立体正交优化设计75 6.1 立体正交优化设计概述77 6.2 立体正交优化设计的建模基础78 6.3 立体正交优化设计的特点79 6.4 立体正交设计的步骤及实现85 第三篇实践篇85 第7章液压振动筛参数优化设计与试验85 7.1 振动筛基本原理89 7.2 试验台设计91 7.3 模拟试验101 7.4 液压振动筛参数的立体正交优化设计108 第8章液压激振压路机的液压振动系统优化108 8.1 液压激振压路机基本原理110 8.2 液压振动轮的模型试验117 参考文献10.神经网络稳定性理论主要责任者:钟守铭; 刘碧森; 王晓梅; 范小明主题词:人工神经网络; 运动稳定性理论; 高等学校; 教材出版者:科学出版社ISBN:978-7-03-02116-2出版地:北京出版日期:200806页数:289内容简介5 前7 目录11 第1章绪论73 第2章Hopfield型神经网络的稳定性97 第3章细胞神经网络的稳定性150 第4章二阶神经网络的稳定性212 第5章随机神经网络的稳定性243 第6章神经网络的应用291 参考文献11. 神经模糊控制理论及应用丛书题名:自动控制技术应用丛书主要责任者:李国勇主题词:神经网络; 应用; 模糊控制出版者:电子工业出版社ISBN:978-7-121-07537-7出版地:北京出版日期:200901页数:3326 目录10 第一篇神经网络理论及其MA TLAB实现12 第1章神经网络理论77 第2章MATLAB神经网络工具箱191 第3章神经网络控制系统218 第二篇模糊逻辑理论及其MATLAB实现220 第4章模糊逻辑理论258 第5章MA TLAB模糊逻辑工具箱295 第6章模糊神经和模糊聚类及其MA TLAB实现327 附录A MA TLAB程序清单334 附录B MA TLAB函数一览表340 附录C MA TLAB函数分类索引342 参考文献12.时滞递归神经网络主要责任者:王林山主题词:时滞; 递归论; 神经网络出版者:科学出版社ISBN:978-7-03-020533-9出版地:北京出版日期:200804页数:254出版说明9 前言13 目录15 第1章概述29 第2章几类递归神经网络模型44 第3章时滞局域递归神经网络的动力行为116 第4章时滞静态递归神经网络的动力行为154 第5章时滞反应扩散递归神经网络的动力行为214 第6章时滞反应扩散方程的吸引子与波动方程核截面的Hausdorff维数估计244 第7章Ляпунов定理的推广与矩阵微分方程的渐近行为研究265 索引13. 神经网络实用教程丛书题名:普通高等教育“十一五”规划教材主要责任者:张良均; 曹晶; 蒋世忠主题词:人工神经元网络; 高等学校; 教材出版者:机械工业出版社ISBN:978-7-111-23178-3出版地:北京出版日期:200802页数:1840001 7 目录0002 5 前言0003 11 第1章人工神经网络概述0004 19 第2章实用神经网络模型与学习算法0005 83 第3章神经网络优化方法0006 98 第4章nnToolKit神经网络工具包0007 135 第5章MA TLAB混合编程技术0008 175 第6章神经网络混合编程案例0009 181 附录2NDN神经网络建模仿真工具0010 194 参考文献14.细胞神经网络动力学主要责任者:黄立宏; 李雪梅主题词:神经网络; 细胞动力学; 生物数学出版者:科学出版社ISBN:978-7-03-018109-1出版地:北京出版日期:200704页数:3334 内容简介5 前7 目录9 第一章细胞神经网络的模型及基本概念30 第二章基本理论60 第三章细胞神经网络的完全稳定性118 第四章细胞神经网络的全局渐近稳定性和指数稳定性176 第五章细胞神经网络的周期解与概周期解242 第六章细胞神经网络的动力学复杂性285 第七章一维细胞神经网络的动力学性质322 参考文献15. 人工神经网络基础丛书题名:研究生用教材主要责任者:丁士圻; 郭丽华主题词:人工神经元网络出版者:哈尔滨工程大学出版社ISBN:978-7-81133-206-3出版地:哈尔滨出版日期:200803页数:2084 内容简介5 前7 目录9 第1章绪论44 第2章前向多层网络86 第3章Hopfield网络110 第4章波尔兹曼机(BM)网络简介131 第5章自组织特征映射网络(SOFM)163 第6章ART网络197 第7章人工神经网络的软件实践和仿真15.智能控制理论及应用丛书题名:国家精品课程教材主要责任者:师黎; 陈铁军; 等主题词:智能控制出版者:清华大学出版社ISBN:978-7-302-16157-8出版地:北京出版日期:200904页数:408目录17 第1章绪论30 第2章模糊控制91 第3章模糊建模和模糊辨识118 第4章神经网络控制227 第5章模糊神经网络259 第6章专家系统301 第7章遗传算法333 第8章蚁群算法351 第9章DNA计算与基于DNA的软计算389 第10章其他智能控制16. 人工神经网络及其融合应用技术∙丛书题名:智能科学技术著作丛书∙主要责任者:钟珞 ; 饶文碧 ; 邹承明∙主题词:人工神经元网络 ; 研究∙出版者:科学出版社∙ISBN:978-7-03-018325-5∙出版地:北京∙出版日期:200701∙页数:1607 目录13 第1章绪论24 第2章前馈型神经网络47 第3章反馈型神经网络58 第4章自组织型神经网络72 第5章量子神经网络81 第6章神经网络与遗传算法103 第7章神经网络与灰色系统123 第8章神经网络与专家系统139 第9章模糊神经网络159 参考文献164 附录Matlab简介17.智能技术及其应用:邵世煌教授论文集∙主要责任者:丁永生 ; 应浩 ; 等∙主题词:人工智能 ; 文集∙出版者:科学出版社∙ISBN:978-7-03-023230-4∙出版地:北京∙出版日期:200902∙页数:573目录15 治学之路,开拓之道117 解析模糊控制理论:模糊控制系统的结构和稳定性分析127 不同模糊逻辑下模糊控制器的解析结构134 一个基于“类神经元”模型的智能控制系统及其在柔性臂上的应用研究142 交通系统的模糊控制及其神经网络实现149 采用遗传算法学习的神经网络控制器164 一种采用增强式学习的模糊控制系统研究169 基因算法及其在最优搜索上的应用191 DNA计算与软计算199 采用DNA遗传算法优化设计的TS模糊控制系统206 DNA计算研究的现状与展望223 混沌系统的一种自学习模糊控制228 用遗传算法引导混沌轨道405 模糊环境的表示及机器人轨迹规划409 多变地形下机器人路径规划415 一个环境知识的自学习方法444 含有模糊和随机参数的混合机会约束规划模型469 基于规则的模糊离散事件系统建模与控制研究491 基于最优HANKEL范数近似的线性相位IIR滤波器设计507 自适应逆控制的异步电机变频调速系统研究514 带有神经网络估计器的模糊直接转矩控制551 基于移动Agent的数字水印跟踪系统的设计和实现573 采用元胞自动机机理的针织电脑编织系统591 语词计算的广义模糊约束及其传播研究598 后记18.人工神经网络原理及应用∙丛书题名:现代计算机科学技术精品教材∙主要责任者:朱大奇 ; 史慧∙主题词:人工神经元网络∙出版者:科学出版社∙ISBN:7-03-016570-5∙出版地:北京∙出版日期:200603∙页数:218目录12 第1章人工神经网络的基础知识44 第2章BP误差反传神经网络76 第3章Hopfield反馈神经网络104 第4章BAM双向联想记忆神经网络117 第5章CMAC小脑神经网络139 第6章RBF径向基函数神经网络155 第7章SOM自组织特征映射神经网络175 第8章CPN对偶传播神经网络190 第9章ART自适应谐振理论210 第10章量子神经网络19.软计算及其应用要责任者:温显斌; 张桦; 张颖等主题词:电子计算机; 计算方法出版者:科学出版社ISBN:978-7-03-023427-8出版地:北京出版日期:200902页数:189前7 目录11 第1章绪论24 第2章模拟退火算法45 第3章人工神经网络93 第4章遗传算法138 第5章支持向量机162 第6章模糊计算20计算智能与科学配方∙主要责任者:冯天瑾 ; 丁香乾∙其他责任者:杨宁 ; 马琳涛∙主题词:人工智能 ; 神经网络 ; 计算 ; 研究∙出版者:科学出版社∙ISBN:978-7-03-020603-9∙出版地:北京∙出版日期:200801∙页数:272前10 目录16 第一章绪论38 第二章产品配方与感觉品质评估65 第三章神经网络与感觉评估99 第四章知识发现与复杂相关性分析154 第五章模式识别与原料分类187 第六章支持向量机方法214 第七章进化计算配方寻优方法243 第八章计算智能的若干哲理256 第九章人机交互智能配方系统278 参考文献287 致谢21.计算智能与计算电磁学主要责任者:田雨波; 钱鉴主题词:人工智能; 神经网络; 计算; 研究出版者:科学出版社ISBN:978-7-03-021201-6出版地:北京出版日期:200804页数:2337 目录11 第1章绪论19 第2章遗传算法基本原理50 第3章遗传算法电磁应用98 第4章模糊理论基本原理122 第5章神经网络基本原理188 第6章神经网络电磁应用235 附录1 计算智能和计算电磁学相关网站236 附录2 相关程序22.脉冲耦合神经网络原理及其应用丛书题名:智能科学技术著作丛书主要责任者:马义德主题词:神经网络; 理论; 应用出版者:科学出版社ISBN:7-03-016657-4出版地:北京出版日期:200604页数:1826 内容简介9 《智能科字技术著作丛书》库11 前15 目录19 第1章神经网络图像处理技术34 第2章PCNN模型及其应用概述49 第3章PCNN在图像滤波中的应用66 第4章PCNN在图像分割中的应用120 第5章PCNN在图像编码中的应用137 第6章PCNN与图像增强152 第7章PCNN与粗集理论、形态学和小波变换182 第8章PCNN的其他应用23.人工神经网络教程主要责任者:韩力群主题词:人工神经元网络; 研究生; 教材出版者:北京邮电大学出版社ISBN:7-5635-1367-1出版地:北京出版日期:200612页数:3307 序9 目录17 第1章绪论38 第2章人工神经网络建模基础63 第3章感知器神经网络100 第4章自组织竞争神经网络143 第5章径向基函数神经网络162 第6章反馈神经网络192 第7章小脑模型神经网络201 第8章支持向量机218 第9章遗传算法与神经网络进化237 第10章神经网络系统设计与软硬件实现267 第11章人工神经系统281 附录A 常用算法的MA TLAB程序298 附录B 常用神经网络源程序340 附录C 神经网络常用术语英汉对照344 参考文献24.神经网络专家系统主要责任者:冯定主题词:人工神经元网络出版者:科学出版社ISBN:7-03-017734-7出版地:北京出版日期:200609页数:3487 目录11 第1章从专家系统到神经网络专家系统22 第2章神经网络设计75 第3章数据的前后处理94 第4章神经网络专家系统中的模糊数146 第5章基于神经网络的知识表示199 第6章机器学习218 第7章基于神经网络的推理251 参考文献254 附录神经网络源程序25.神经网络新理论与方法主要责任者:张代远主题词:人工神经元网络出版者:清华大学出版社ISBN:7-302-13938-5出版地:北京出版日期:200611页数:1259 目录11 第1章概论17 第2章基本概念24 第3章实神经网络的代数算法44 第4章全局最小值分析51 第5章复数神经网络的代数算法61 第6章样条权函数神经网络及其学习算法124 第7章神经网络的统计灵敏度分析26.人工神经网络算法研究及应用主要责任者:田景文; 高美娟主题词:人工神经元网络; 计算方法; 研究出版者:北京理工大学出版社ISBN:7-5640-0786-9出版地:北京出版日期:200607页数:2837 目录9 第1章绪论32 第2章人工神经网络49 第3章改进遗传算法的径向基函数网络方法研究及应用95 第4章小波变换及小波神经网络方法研究及应用140 第5章模糊神经网络方法研究及应用189 第6章改进的模拟退火人工神经网络方法研究及应用235 第7章支持向量机方法研究及应用278 第8章结论281 参考文献27.神经计算与生长自组织网络主要责任者:程国建主题词:人工神经元网络; 计算; 自组织系统出版者:西安交通大学出版社ISBN:978-7-5605-2979-0出版地:西安出版日期:200810页数:242内容简介5 作者简介7 前17 目录23 第1章神经计算概述37 第2章人工神经网络的基本结构及其特性56 第3章神经感知器69 第4章自适应线性元件87 第5章多层前馈神经网络105 第6章径向基函数网络118 第7章古典生长型神经网络135 第8章生长型自组织神经网络158 第9章生长神经元结构及其变种182 第10章外生长型神经元结构206 第11章多生长神经元结构230 第12章双生长神经气网络252 参考文献28.神经计算原理丛书题名:计算机科学丛书主要责任者:(美)科斯塔尼克其他责任者:叶世伟; 王海娟主题词:突然南宫神经元网络; 计算出版者:机械工业出版社ISBN:978-7-111-20637-8出版地:北京出版日期:200705页数:491出版者的话7 专家指导委员会8 译者序9 前12 致谢13 重要符号和算符17 重要缩写词20 目录25 第一部分神经计算的基本概念和部分神经网络体系结构及其学习规则25 第1章神经计算概述40 第2章神经计算的基本概念95 第3章映射网络144 第4章自组织网络168 第5章递归网络和时间前馈网络201 第二部分神经计算的应用201 第6章用神经网络解决最优化问题238 第7章用神经网络解决矩阵代数问题275 第8章使用神经网络求解线性代数方程组318 第9章使用神经网络的统计方法372 第10章使用神经网络进行辨识、控制和枯计435 附录A 神经计算的数学基础497 主题索引29. 人工神经网络与模拟进化计算主要责任者:阎平凡主题词:人工神经元网络; 计算出版者:清华大学出版社ISBN:7-302-10663-0出版地:北京出版日期:200509页数:639出版说明9 前11 第一版前15 目录27 第1章绪论37 第2章前馈网络77 第3章径向基函数网络112 第4章学习理论与网络结构选择166 第5章核方法与支持向量机210 第6章自组织系统(Ⅰ)236 第7章自组织系统(Ⅱ)271 第8章自组织系统(Ⅲ)302 第9章动态信号与系统的处理361 第10章多神经网络集成386 第11章反馈网络与联想存储器424 第12章神经网络用于优化计算441 第13章神经网络中的动力学问题463 第14章误差函数与参数优化方法487 第15章贝叶斯方法505 第16章神经网络在信号处理中的应用552 第17章进化计算概论与进化策略575 第18章遗传算法及其理论分析596 第19章遗传算法的设计与实现619 第20章遗传算法在神经网络中的应用626 第21章遗传算法在作业调度中的应用636 第22章分布估计算法660 索引30.人工神经网络与盲信号处理主要责任者:杨行竣; 郑君里主题词:人工神经元网络; 信号处理; 应用; 人工神经元网络出版者:清华大学出版社ISBN:7-302-05880-6出版地:北京出版日期:200301页数:3997 目录11 第1章绪论33 第2章前向多层神经网络与递归神经网络123 第3章自组织神经网络163 第4章Hopfield神经网络244 第5章模糊神经网络311 第6章遗传算法及其在人工神经网络中的应用337 第7章盲信号处理31.人工神经网络理论、设计及应用(第二版)主要责任者:韩力群主题词:人工神经元网络; 高等学校; 教材出版者:化学工业出版社ISBN:978-7-5025-9523-4出版地:北京出版日期:2000709页数:2437 前9 目录15 1 绪论34 2 神经网络基础知识52 3 监督学习神经网络85 4 竞争学习神经网络121 5 组合学习神经网络133 6 反馈神经网络168 7 小脑模型神经网络178 8 基于数学原理的神经网络207 9 神经网络的系统设计与软件实现220 10 神经网络研究展望223 附录1 常用神经网络C语言源程序254 附录2 神经网络常用术语英汉对照256 参考文献。

基于遗传算法的BP神经网络算法

基于遗传算法的BP神经网络算法

基于遗传算法的BP神经网络算法基于遗传算法的BP神经网络算法是一种将遗传算法与BP神经网络相结合的机器学习算法。

BP神经网络是一种具有自适应学习功能的人工神经网络,它通过反向传播算法来不断调整网络的权重和阈值,从而实现对样本数据的学习和预测。

遗传算法是一种模拟生物进化过程的优化算法,它通过选择、交叉和变异等操作来产生下一代的优秀个体,从而逐步寻找到最优解。

在基于遗传算法的BP神经网络算法中,遗传算法用于优化BP神经网络的初始权重和阈值,以提高网络的学习和泛化能力。

1.初始化个体群体:随机生成一组个体,每个个体代表BP神经网络的初始权重和阈值。

2.适应度评估:使用生成的个体来构建BP神经网络,并使用训练数据进行训练和验证,评估网络的适应度,即网络的性能指标。

3.选择操作:根据个体的适应度值确定选择概率,选择一些适应度较高的个体作为父代。

4.交叉操作:从父代中选择两个个体,通过交叉操作生成两个新的子代个体。

5.变异操作:对新生成的子代个体进行变异操作,引入一定的随机扰动,增加种群的多样性。

6.替换操作:根据一定的替换策略,用新生成的子代个体替代原来的父代个体。

7.终止条件判断:根据预先设定的终止条件(如达到最大迭代次数或达到一些适应度值阈值)判断是否终止算法。

8.返回结果:返回适应度最高的个体,即最优的BP神经网络参数。

然而,基于遗传算法的BP神经网络算法也存在一些缺点。

首先,算法的收敛速度较慢,需要较长的时间进行优化。

其次,算法需要设置一些参数,如种群大小、交叉概率和变异概率等,不同的参数组合可能对算法的性能产生较大影响,需要经过一定的试错过程。

综上所述,基于遗传算法的BP神经网络算法是一种结合了两种优化方法的机器学习算法,能够有效提高BP神经网络的学习和泛化能力。

同时,也需要在实际应用中根据具体情况选择合适的参数设置和终止条件,以获得更好的算法性能。

神经网络与遗传算法相结合的优化方法

神经网络与遗传算法相结合的优化方法

神经网络与遗传算法相结合的优化方法随着科技的不断发展,人工智能技术也越来越成熟,其中神经网络和遗传算法是两种比较常见的优化方法。

神经网络是一种基于人脑神经系统的计算模型,它可以通过输入和输出数据来学习并预测未知的数据。

而遗传算法则是一种基于生物进化的计算优化方法,通过模拟进化过程来寻找最优解。

在实际应用中,单独使用神经网络或遗传算法可能会存在一些问题。

例如,神经网络可能会受到噪声数据的影响,导致训练过程不够稳定;而遗传算法可能会受到局部最优解的限制,从而难以找到全局最优解。

因此,将神经网络和遗传算法相结合,可以弥补彼此的不足,提高优化效果。

神经网络和遗传算法相结合的优化方法大致可以分为两种:基于神经网络的遗传算法和基于遗传算法的神经网络优化。

基于神经网络的遗传算法是指将神经网络作为遗传算法中的染色体,通过遗传算法对神经网络的权重和偏置进行优化。

首先,将神经网络的权重和偏置随机生成,并用其计算出目标函数值作为该染色体的适应度。

然后,使用遗传算法的选择、交叉和变异操作对染色体进行进化,直到满足终止条件为止。

最后,选择适应度最高的神经网络作为最优解。

基于遗传算法的神经网络优化是指使用遗传算法来优化神经网络的拓扑结构和参数。

首先,通过遗传算法生成多个随机的神经网络拓扑结构,并计算它们的目标函数值。

然后,使用遗传算法的选择、交叉和变异操作对拓扑结构进行进化,得到新的神经网络结构。

接着,针对每个神经网络进行参数优化,即对权重和偏置进行遗传算法优化。

最后,选择适应度最高的神经网络作为最优解。

这两种方法都是神经网络和遗传算法相结合的优化方法,但具体应用时需要根据实际情况进行选择。

例如,在数据量较小的情况下,基于神经网络的遗传算法可能更加有效,因为神经网络可以更好地拟合数据;而在数据量较大且结构复杂的情况下,基于遗传算法的神经网络优化可能更加适合,因为遗传算法可以更好地处理大规模的优化问题。

综上所述,神经网络和遗传算法相结合的优化方法具有优化效果好、稳定性高等优点,在实际应用中有着广泛的应用前景。

基于人工神经网络和遗传算法的普鲁兰酶重组大肠杆菌高密度发酵工艺优化

基于人工神经网络和遗传算法的普鲁兰酶重组大肠杆菌高密度发酵工艺优化

基于人工神经网络和遗传算法的普鲁兰酶重组大肠杆菌高密度发酵工艺优化迟 雷,王静雨,侯俊超,魏佳佳,魏 涛,胡晓龙,何培新*(郑州轻工业大学食品与生物工程学院,河南 郑州450000)摘 要:基于人工神经网络和遗传算法,对重组大肠杆菌(Escherichia coli )BL 21表达热稳定普鲁兰酶的高密度发酵工艺进行优化。

在5 L 的发酵罐中,通过比较不同发酵温度、pH 值及培养基碳氮比(C /N ,mol /mol )对细胞量和产物产量的影响,确定最佳发酵工艺。

结果表明,诱导前适合细胞生长的发酵条件为发酵温度34.4 ℃、pH 6.87、培养基C /N 6.1;诱导后适合产物表达的发酵条件为发酵温度32.5 ℃、pH 6.69、培养基C /N 5.3,最终获得细胞质量浓度56.5 g /L ,重组蛋白产量3.21 g /L ,酶活力为268.3 U /mL 。

关键词:重组普鲁兰酶;神经网络;遗传算法;高密度发酵Artificial Neural Network-Genetic Algorithm-Based Optimization of High Cell Density Cultivation ofRecombinant Escherichia coli for Producing PullulanaseCHI Lei, WANG Jingyu, HOU Junchao, WEI Jiajia, WEI Tao, HU Xiaolong, HE Peixin *(School of Food and Bioengineering, Zhengzhou University of Light Industry, Zhengzhou 450000, China)Abstract: In this study, the high cell density cultivation of recombinant Escherichia coli BL 21 for the production of a novel thermostable pullulanase was optimized using artificial neural network and genetic algorithm. The effects of culture temperature, medium pH, and carbon-to-nitrogen (C /N) molar ratio were tested in a 5 L bioreactor. The results suggested that the optimal culture conditions before the induction phase were as follows: temperature 34.4 ℃, pH 6.87 and C /N ratio 6.1, and the optimal culture conditions after induction were 32.5 ℃, pH 6.69 and 5.3 C /N ratio. The maximum biomass, protein concentration and pullulanase activity obtained under these conditions were 56.5 g /L, 3.21 g /L and 268.3 U /mL, respectively.Keywords: recombinant pullulanase; neural network; genetic algorithm; high cell density cultivation DOI:10.7506/spkx1002-6630-20200101-006中图分类号:Q815 文献标志码:A 文章编号:1002-6630(2021)10-0073-06引文格式:迟雷, 王静雨, 侯俊超, 等. 基于人工神经网络和遗传算法的普鲁兰酶重组大肠杆菌高密度发酵工艺优化[J]. 食品科学, 2021, 42(10): 73-78. DOI:10.7506/spkx1002-6630-20200101-006. CHI Lei, WANG Jingyu, HOU Junchao, et al. Artificial neural network-genetic algorithm-based optimization of high cell density cultivation of recombinant Escherichia coli for producing pullulanase[J]. Food Science, 2021, 42(10): 73-78. (in Chinese with English abstract) DOI:10.7506/spkx1002-6630-20200101-006. 收稿日期:2020-01-01基金项目:国家自然科学基金青年科学基金项目(31801535);河南省重大科技专项(181100211400);河南省教育厅科技创新人才项目(18HASTIT040);郑州轻工业大学博士科研启动基金项目(2013BSJJ004)第一作者简介:迟雷(1983—)(ORCID: 0000-0002-7824-2785),男,副教授,博士,研究方向为发酵工程。

毕业设计论文基于遗传算法的BP神经网络的优化问题研究.doc

毕业设计论文基于遗传算法的BP神经网络的优化问题研究.doc

编号:审定成绩:重庆邮电大学毕业设计(论文)设计(论文)题目:基于遗传算法的BP神经网络的优化问题研究学院名称:学生姓名:专业:班级:学号:指导教师:答辩组负责人:填表时间:2010年06月重庆邮电大学教务处制摘要本文的主要研究工作如下:1、介绍了遗传算法的起源、发展和应用,阐述了遗传算法的基本操作,基本原理和遗传算法的特点。

2、介绍了人工神经网络的发展,基本原理,BP神经网络的结构以及BP算法。

3、利用遗传算法全局搜索能力强的特点与人工神经网络模型学习能力强的特点,把遗传算法用于神经网络初始权重的优化,设计出混合GA-BP算法,可以在一定程度上克服神经网络模型训练中普遍存在的局部极小点问题。

4、对某型导弹测试设备故障诊断建立神经网络,用GA直接训练BP神经网络权值,然后与纯BP算法相比较。

再用改进的GA-BP算法进行神经网络训练和检验,运用Matlab软件进行仿真,结果表明,用改进的GA-BP算法优化神经网络无论从收敛速度、误差及精度都明显高于未进行优化的BP神经网络,将两者结合从而得到比现有学习算法更好的学习效果。

【关键词】神经网络BP算法遗传算法ABSTRACTThe main research work is as follows:1. Describing the origin of the genetic algorithm, development and application, explain the basic operations of genetic algorithm, the basic principles and characteristics of genetic algorithms.2. Describing the development of artificial neural network, the basic principle, BP neural network structure and BP.3. Using the genetic algorithm global search capability of the characteristics and learning ability of artificial neural network model with strong features, the genetic algorithm for neural network initial weights of the optimization, design hybrid GA-BP algorithm, to a certain extent, overcome nerves ubiquitous network model training local minimum problem.4. A missile test on the fault diagnosis of neural network, trained with the GA directly to BP neural network weights, and then compared with the pure BP algorithm. Then the improved GA-BP algorithm neural network training and testing, use of Matlab software simulation results show that the improved GA-BP algorithm to optimize neural network in terms of convergence rate, error and accuracy were significantly higher than optimized BP neural network, a combination of both to be better than existing learning algorithm learning.Key words:neural network back-propagation algorithms genetic algorithms目录第一章绪论 (1)1.1 遗传算法的起源 (1)1.2 遗传算法的发展和应用 (1)1.2.1 遗传算法的发展过程 (1)1.2.2 遗传算法的应用领域 (2)1.3 基于遗传算法的BP神经网络 (3)1.4 本章小结 (4)第二章遗传算法 (5)2.1 遗传算法基本操作 (5)2.1.1 选择(Selection) (5)2.1.2 交叉(Crossover) (6)2.1.3 变异(Mutation) (7)2.2 遗传算法基本思想 (8)2.3 遗传算法的特点 (9)2.3.1 常规的寻优算法 (9)2.3.2 遗传算法与常规寻优算法的比较 (10)2.4 本章小结 (11)第三章神经网络 (12)3.1 人工神经网络发展 (12)3.2 神经网络基本原理 (12)3.2.1 神经元模型 (12)3.2.2 神经网络结构及工作方式 (14)3.2.3 神经网络原理概要 (15)3.3 BP神经网络 (15)3.4 本章小结 (21)第四章遗传算法优化BP神经网络 (22)4.1 遗传算法优化神经网络概述 (22)4.1.1 用遗传算法优化神经网络结构 (22)4.1.2 用遗传算法优化神经网络连接权值 (22)4.2 GA-BP优化方案及算法实现 (23)4.3 GA-BP仿真实现 (24)4.3.1 用GA直接训练BP网络的权值算法 (25)4.3.2 纯BP算法 (26)4.3.3 GA训练BP网络的权值与纯BP算法的比较 (28)4.3.4 混合GA-BP算法 (28)4.4 本章小结 (31)结论 (32)致谢 (33)参考文献 (34)附录 (35)1 英文原文 (35)2 英文翻译 (42)3 源程序 (47)第一章绪论1.1 遗传算法的起源从生物学上看,生物个体是由细胞组成的,而细胞则主要由细胞膜、细胞质、和细胞核构成。

基于遗传算法优化BP神经网络圆柱壳结构可靠度分析

基于遗传算法优化BP神经网络圆柱壳结构可靠度分析

基于遗传算法优化BP神经网络圆柱壳结构可靠度分析目录一、内容概括 (1)(一)基于遗传算法的优化方法介绍 (2)(二)BP神经网络介绍与应用场景分析 (2)(三)圆柱壳结构可靠度分析方法探讨 (4)二、圆柱壳结构基础理论知识概述 (5)(一)圆柱壳结构的组成及特点分析 (6)(二)圆柱壳结构的力学特性研究 (7)(三)圆柱壳结构可靠度评价指标介绍 (9)三、BP神经网络在圆柱壳结构可靠度分析中的应用 (9)(一)BP神经网络模型的构建与训练过程 (10)(二)基于BP神经网络的圆柱壳结构可靠度预测模型建立与实施步骤介绍11 (三)BP神经网络模型的优缺点分析及对策建议 (13)四、遗传算法在优化BP神经网络模型中的应用 (14)(一)遗传算法的基本原理及特点介绍 (16)(二)基于遗传算法的BP神经网络模型优化过程与实施步骤解析..16(三)案例分析 (18)一、内容概括介绍了BP神经网络的基本原理及其在当前圆柱壳结构可靠度分析中的局限性。

BP神经网络是一种通过反向传播算法进行权值和阈值调整的多层前馈网络,广泛应用于各种工程领域。

传统的BP神经网络在解决复杂结构优化问题时,往往存在易陷入局部最优解、收敛速度慢等问题。

阐述了遗传算法的基本原理和特性,遗传算法是一种模拟自然选择和遗传机制的优化搜索算法,具有全局优化能力,能够解决复杂的非线性问题。

将遗传算法与BP神经网络相结合,有望提高圆柱壳结构可靠度分析的准确性和效率。

详细描述了基于遗传算法优化BP神经网络的流程和方法。

通过遗传算法优化BP神经网络的权值和阈值,提高网络的性能和准确性。

将优化后的BP神经网络应用于圆柱壳结构可靠度分析,通过大量的数据训练和测试,验证该方法的可行性和有效性。

通过实例分析,展示了基于遗传算法优化BP神经网络在圆柱壳结构可靠度分析中的实际应用效果。

该方法能够显著提高圆柱壳结构可靠度分析的准确性和效率,为工程实践提供了一种新的思路和方法。

基于GA-BP神经网络的非线性模拟量回归

基于GA-BP神经网络的非线性模拟量回归

㊀2021年㊀第1期仪表技术与传感器Instrument㊀Technique㊀and㊀Sensor2021㊀No 1㊀基金项目:国家自然科学基金项目(61672369)收稿日期:2020-01-13基于GA-BP神经网络的非线性模拟量回归周㊀欣,王宜怀,姚望舒,葛新越(苏州大学计算机科学与技术学院,江苏苏州㊀215006)㊀㊀摘要:针对嵌入式系统中传感器测量模拟量与采样值之间的非线性关系难以找寻确定公式进行表达的问题,提出使用BP神经网络对非线性模拟量进行回归拟合㊂并针对BP神经网络易陷入局部极小值的缺陷,采用遗传算法进行优化㊂实验表明,与最小二乘法与三次样条插值法相比,BP神经网络对曲线拟合程度优于其余两种方法,且具有较高的准确度㊂遗传算法优化后的BP神经网络,能够更加快速收敛,准确度也进一步提升㊂同时将网络模型应用在MCU端,实现在MCU端的预测与参数更新,具有一定的实用性和适应性㊂关键词:嵌入式系统;模拟量;非线性;回归拟合;BP神经网络;遗传算法中图分类号:TP273㊀㊀㊀文献标识码:A㊀㊀㊀文章编号:1002-1841(2021)01-0084-05NonlinearAnalogRegressionBasedonGA-BPNeuralNetworkZHOUXin,WANGYi⁃huai,YAOWang⁃shu,GEXin⁃yue(SchoolofComputerScienceandTechnology,SoochowUniversity,Suzhou215006,China)Abstract:Aimingattheproblemthatthenon⁃linearrelationshipbetweentheanalogquantitymeasuredbythesensorandthesampledvalueintheembeddedsystemwasdifficulttofindacertainformulatoexpress,aregressionfittingusingBPneuralnet⁃workwasproposed.AndinordertosolvetheproblemthattheBPneuralnetworkiseasytofallintothelocalminimum,thegeneticalgorithmwasusedforoptimization.Experimentsshowthatcomparedwiththetraditionalleastsquaremethodandcubicsplinein⁃terpolationmethod,theBPneuralnetworkwasbetterthantheothertwomethodsincurvefitting,andhashigheraccuracy.Andthegeneticalgorithm⁃optimizedBPneuralnetworkcanconvergemorequicklyandtheaccuracywasfurtherimproved.AndapplyingthenetworkmodeltotheMCUtoachievepredictionandparameterupdateontheMCUhascertainpracticalityandadaptability.Keywords:embeddedsystem;analog;nonlinear;regressionfitting;BPneuralnetwork;geneticalgorithm0㊀引言在嵌入式测控系统中,控制终端通过传感器对外界信息进行检测,经由放大电路㊁模数转换模块(analogtodigitalconvertmodule,A/D转换模块)等,转换成能被终端识别的数字信号(又称为A/D值)㊂为便于测控系统使用,需将A/D值与实际外界信息对应,此对应过程可称之为物理量回归㊂目前常见的物理量回归方法[1]有公式法,查表法,分段直线法,最小二乘法及三次样条插值法等㊂但受采样过程中传感器自身采样特性,放大电路与A/D转换模块转换过程中所具有的非线性变换等因素的影响,待回归A/D值与回归后的物理量之间成非线性关系㊂上述方法虽可用于解决物理量回归问题,但存在一定的缺陷㊂如公式法利用固定数字公式进行转换,速度快,但准确度不高;查表法根据输入输出表格进行查找,占用空间过大;分段直线法的分段越多,精度越高,但其复杂性也不断增加;而最小二乘法和三次样条插值法是通过采样数据确定相应的匹配函数,针对不同情况需重新确认公式,且非线性关系较为复杂,不易确定合适公式㊂针对上述情况,本文提出以A/D值作为输入,传感器测量的实际模拟量作为输出,使用BP神经网络进行回归拟合㊂并针对BP神经网络易陷入局部极小值的问题,选择使用遗传算法进行参数优化㊂将遗传算法优化后的BP神经网络与最小二乘法㊁三次样条插值法及传统BP神经网络进行比较,实验表明,通过GA-BP算法能够有效的提高物理量回归的精度㊂同时提出一种回归模型在MCU端应用的方法,该方法能够较好地在MCU进行物理量回归及参数更新,具有一定的实用性和适应性㊂1㊀GA-BP神经网络回归模型1.1㊀BP神经网络反向传播(backpropagation,BP)学习算法,是一㊀㊀㊀㊀㊀第1期周欣等:基于GA-BP神经网络的非线性模拟量回归85㊀㊀种基于误差反向传播的前向多层反馈的人工神经网络算法㊂通过梯度下降法,寻找实际输出值和目标值之间误差平方的极小值,从而对网络的连接权值进行调整,达到在调整过的网络模型中,对于每一组输入都能得到期望输出的目的[2]㊂以A/D值作为输入,传感器测量模拟量作为输出,可构建单输入输出的神经网络模型㊂理论与实践表明,含有一个隐藏层的BP神经网络具有逼近任何闭区间内一个连续函数的能力[3],因此使用3层神经网络模型进行训练和预测㊂其3层BP神经网络模型如图1所示㊂图1㊀BP神经网络模型在此网络模型中,设训练样例个数为D,网络由1个输入层单元,Q个隐藏层单元,1个输出层单元构成㊂输入层仅进行数据的输入,表示为ad=X,d=1,2,3, ,D为训练样本编号㊂隐藏层使用sigmoid函数作为激活函数,提供非线性变换过程,其输出为hdi=sig(wiad+oi)(1)式中:wi为输入层与隐藏层之间的权值;oi为输入层与输出层的权值,i=1,2,3, ,Q为隐藏层单元数㊂输出层同样使用sigmoid函数,其输出为Y=yd=sig(ðQivihdi+r)(2)式中:r为隐藏层与输出层的阈值;vi为隐藏层节点与输出节点的权值,i=1,2,3, ,Q为隐藏层单元数㊂1.2㊀遗传算法遗传算法(geneticalgorithm,GA)是一种模拟自然生存和遗传机制的最优解搜索算法[4]㊂通过选择㊁交叉和变异对种群进行多次迭代优化,选择符合当前问题的最优解,其进化过程如图2所示㊂图2㊀遗传算法种群进化过程该算法提供了一种求解复杂系统问题的通用框架,其全局搜索策略和优化搜索方法的计算不依赖问题的具体领域,只需要确定影响搜索方向的目标函数和适应度函数,便可以实现最优解搜索㊂1.3㊀GA-BP神经网络算法流程针对传统BP神经网络训练过程易陷入局部极小值的问题,使用遗传算法进行优化㊂将随机生成的初始权值与阈值作为种群的个体,经遗传算法筛选出较为合适的解作为BP神经网络的权值与阈值;由BP神经网络模型进行权值与阈值的进一步调整,得到能够较好反映输入输出非线性关系的训练模型,其训练过程如图3所示㊂图3㊀GA-BP神经网络训练过程其具体执行步骤如下:(1)训练样本归一化㊂使用最大最小值归一化对训练样本进行数据压缩,保留数据特性的同时,加快训练速度㊂(2)确定网络拓扑结构㊂根据训练样本确定隐藏层单元数㊁学习速率与激活函数等网络参数,生成相应的网络拓扑结构㊂(3)生成初始种群㊂随机生成权值与阈值的初始值,并将其作为种群的个体,进行实数编码㊂(4)计算适应度㊂适应度函数为㊀㊀㊀㊀㊀86㊀InstrumentTechniqueandSensorJan 2021㊀f=1E(3)式中:E为遗传算法的目标函数,是BP神经网络训练后实际输出值和目标值之间误差平方和㊂(5)选择父代㊂按适应度大小对个体进行排序,并使用赌轮盘算法[5]筛选出2个个体作为父代㊂(6)随机交叉㊂父代以每层网络的权值与阈值作为基因,采用随机交叉算法,对基因进行组合生成新的子代㊂(7)变异㊂生成子代中,存在一部分个体发生变异,变异概率为0.01㊂变异个体的权值和阈值将重新赋值,生成新的基因㊂(8)是否满足停止条件㊂在不满足停止条件时,从原始种群中选择部分适应度高的个体与新生成子代组成新的种群,重复(4) (7)的步骤继续求解满足情况的权值与阈值㊂(9)权值与阈值的赋值㊂将遗传算法求解的权值与阈值赋值给BP神经网络,通过网络训练进一步实现参数的更新㊂(10)权值与阈值的更新㊂通过网络训练比较全局误差极小值[6]来判断是否生成满足需求的权值与阈值,并使用误差反向传播方法对权值与阈值进行更新,直到满足目标训练次数或目标误差㊂(11)模型生成㊂保存最终权值与阈值及相关参数,生成相应的回归模型㊂2㊀GA-BP的非线性回归实验分析2.1㊀数据的获取本文针对传感器模拟量的非线性问题进行回归分析,故选择随光照强度变化,而阻值成非线性变化的光敏电阻获取训练样本㊂此处选用光敏电阻的型号为GM5506,其阻值随光照强度的升高而降低,使用如图4所示的采样电路,其对应电压范围为[0.55V(亮),3.28V(暗)],可测得[0lux,15000lux]区间内的光照强度㊂图4㊀光敏电阻采样电路控制终端的16位A/D模块与采样点连接,测试获得一组光照强度和对应A/D采样值的训练样本,该训练样本数据能够较好地涵盖测量范围及其变化情况,其数据如表1所示,其中1 18为训练数据,19 26为测试数据㊂表1㊀训练样本 光照强度与A/D值样本为了对不同方法进行比较,引入均方根误差与决定系数对预测效果进行评判㊂均方根误差(rootmeansquarederror,RMSE)计算观测值与真实值之间的偏差,其值越小,预测效果越好㊂RMSE(o,t)=1N-2ðNi=1(o-t)2(4)式中:o为观测值;t为真实值㊂实际使用中使用RMSE/o(o为输出均值)进行判断㊂决定系数又称为拟合优度,通常使用R表示,反映的是回归的拟合程度,其值越大,拟合程度越好,预测性能也就越优㊂R=1-ð(o-t)2ð(o-o)2(5)2.3㊀实验方案与结果本文实验模型使用C#语言编程实现,具有训练与验证功能㊂通过对模型的分析可知,其输入与输出神经元个数均为1㊂采用sigmoid型函数作为激活函数的神经网络具有对任意连续函数的逼近能力[7],故选取sigmoid函数作为激活函数,使用梯度下降法进行权值与阈值的更新㊂隐藏层单元个数的范围可依据经验公式[8]计算得出:q=p+m+α(6)式中:q为隐藏层单元数;p为输入层单元数;m为输出㊀㊀㊀㊀㊀第1期周欣等:基于GA-BP神经网络的非线性模拟量回归87㊀㊀层单元数;α为1 10之间的常数㊂对于回归模型,其隐藏层单元数范围在3 11之间㊂经多次实验验证得出隐藏层单元数为8时,具有更好的拟合效果㊂设定学习速率为0.1,目标误差精度为0.000001,初始权值和阈值随机生成㊂在此网络结构基础上,使用遗传算法对初始权值与阈值进行优化,初始种群大小为100,变异概率为0.01,迭代次数为1000㊂在上述网络中,使用样本中的训练数据进行训练,得到对应的权值与阈值参数如表2所示㊂表2㊀BP神经网络各层参数输入层与隐藏层权值wi输入层与隐藏层阈值oi隐藏层与输出层权值vi隐藏层与输出层阈值r68.8104866010556-0.66003077579745746.73321813933922.73067762764518-1.4613382643164-11.854879783609389.3053999526315-2.42689739802703-21.109017087818332.33091647935413.4269637209893419.160911532471432.730230400004621.01962240528156.16027469240735-2.2545600648712518.74721332834160.161949852000884-6.84377968780148172.0503307777850.950824710764604-70.225607384132317.12623727885054.721111751110490.825034658531259㊀㊀权值与阈值以及网络相关参数共同构成一个GA-BP网络模型㊂使用该网络模型对测试数据进行验证分析,由表3可以看出,光照强度的预测值与实际值误差基本能控制在可接受范围以内㊂表3㊀测试样例输出测试A/D目标输出实际输出误差504592.42.10.3370078.99.70.82504243.444.10.716452127.2126.90.311369261.3260.50.88036501.6500.61.043881159.21158.40.8111712924.512925.00.52.4㊀方法对比2.4.1㊀传统方法与神经网络的对比传统的非线性回归方法有最小二乘法和三次样条插值法㊂最小二乘法通过最小化误差平方和找寻最佳函数匹配[9],三次样条插值法通过三弯矩法并结合边界条件推导系数方程确定对应的回归函数[10],实际是在相邻数据点之间确定一个三次样条函数㊂针对本文使用的训练样本,使用最小二乘法和三次样条插值法进行回归拟合,并使用测试样例与BP神经网络进行验证对比,图5给出各方法的预测结果的回归曲线,并列出各方法的均方根误差和决定系数,如表4所示㊂图5㊀光照强度与A/D值的物理量回归曲线表4㊀传统方法与神经网络的对比回归方法RRMSE最小二乘法0.964970.83197三次样条插值0.971050.75750BP神经网络0.997250.23508㊀㊀综合图5和表4可以看出BP神经网络的预测准确度优于其余2种方法㊂最小二乘法与三次样条插值法的拟合是确定具体公式及其系数,BP神经网络确定网络相关参数㊂3种方法在回归形式上存在一定的区别,但都可转换为使用一定的回归公式进行回归预测㊂不同在于对不同的训练样本,最小二乘法与三次样条插值法需要重新确认公式,而BP神经网络模型的回归公式可不改变,仅需校正权值与阈值㊂同时BP神经网络可以通过不断提升训练次数来减小误差,达到更好的拟合效果,是一种具有较好拟合能力的非线性回归方法㊂2.4.2㊀BP神经网络优化对比由上述对比实验可知,BP神经网络对于传感器㊀㊀㊀㊀㊀88㊀InstrumentTechniqueandSensorJan 2021㊀模拟量的非线性回归问题具有较好的拟合能力㊂但BP神经网络存在易陷入局部极小值的特点,针对此问题使用遗传算法进行优化㊂分别记录下BP神经网络与GA-BP神经网络训练过程中每10000次训练实际值与目标值之间的误差平方和,绘制成如图6所示的曲线㊂并计算相应的均方根误差和决定系数,如表5所示㊂图6㊀GA-BP与BP误差状态表5㊀GA-BP与BP对比回归方法RRMSEBP神经网络0.997250.23508GA-BP神经网络0.999220.12553㊀㊀从图6可以看出,GA-BP神经网络模型在训练过程中的收敛速度明显优于传统BP神经网络㊂同时结合表5可以看出,在训练相同次数的情况下对GA-BP的拟合程度优于传统BP算法,具有更好的预测准确度㊂3㊀BP神经网络在MCU上的应用模型训练过程在PC端完成,而生成的网络模型则应用于MCU端㊂图7为训练模型在MCU端的应用过程㊂针对上述流程,将BP神经网络在MCU端回归预测功能封装成构件,构件中各函数及功能如表6所示㊂按图8所示的结构类型将网络参数存储在固定Flash区域;芯片启动后,使用BPinit函数读取位于Flash区域的存储参数,构建神经网络模型;实时使用A/D转换模块读取传感器A/D采样值后,利用BPpre⁃dict函数进行转换到传感器的实际输出值;同时包含参数更新功能,当计算结果存在误差时,可重新采集训练样本在PC端训练,并将训练结果利用BPUpdate函数将网络模型重新写入相应Flash区域㊂以MKL36Z64[11](简称KL36)芯片和S32K144[12](简称S32K)芯片为例进行MCU端预测实验㊂KL36属于ARMCortex-M0+内核,其对应的Flash为64KB,图7㊀神经网络在MCU端应用表6㊀BP神经网络预测构件函数名称功能BPinitBP网络模型初始化读取位于Flash的参数,并生成网络模型BPpredict预测函数A/D值回归预测BPUpdate参数更新解析更新后的参数并重新写入FlashRAM大小为8KB;而S32K属于ARMCortex-M4内核,其对应的Flash为512KB,RAM大小为60KB;其内置A/D转换模块精度均为16位㊂使用该构件进行光照强度的采样与回归,在KL36与S32K上均能按照如图7所示的流程进行回归预测㊂图8㊀网络参数存储结构体4㊀结束语本文针对非线性传感器A/D值与模拟量之间存在的非线性关系难以确定回归公式进行表达的问题,提出使用BP神经网络对传感器A/D值与模拟量进行回归拟合㊂实验表明,使用BP神经网络能够对两者之间的非线性关系进行良好表达,和最小二乘法与三次样条插值法相比,BP神经网络的拟合程度明显优于其余2种方法,具有较高的准确(下转第101页)㊀㊀㊀㊀㊀第1期陶洋等:基于稀疏自编码器的传感器在线漂移补偿算法101㊀㊀[3]㊀裴高璞,史波林,赵镭,等.典型掺假蜂蜜的电子鼻信息变化特征及判别能力[J].农业工程学报,2015,31(S1):325-331.[4]㊀孙皓.面向伤口感染检测的电子鼻传感器阵列构建与优化研究[D].重庆:重庆大学,2017.[5]㊀ZHANGL,ZHAGND.DomainadaptationextremelearningmachinesfordriftcompensationinE⁃nosesystems[J].IEEEtransactionsoninstrumentationandmeasurement,2014,64(7):1790-1801.[6]㊀GONGB,SHIY,SHAF,etal.Geodesicflowkernelforun⁃superviseddomainadaptation[C]//2012IEEEConferenceonComputerVisionandPatternRecognition.RhodeIsland:IEEE,2012:2066-2073.[7]㊀CUIZ,LIW,XUD,etal.Flowingonriemannianmanifold:domainadaptationbyshiftingcovariance[J].IEEEtransac⁃tionsoncybernetics,2014,44(12):2264-2273.[8]㊀ZHANGL,LIUY,HEZ,etal.Anti⁃driftinE⁃nose:Asub⁃spaceprojectionapproachwithdriftreduction[J].SensorsandActuatorsB:Chemical,2017,253:407-417.[9]㊀UZAIRM,MIANA.Blinddomainadaptationwithaugmentedextremelearningmachinefeatures[J].IEEEtransactionsoncybernetics,2016,47(3):651-660.[10]㊀RUMELHARTDE,HINTONGE,WILLIAMSRJ.Learningrepresentationsbyback⁃propagatingerrors[J].Nature,1986,323(6088):533-536.[11]㊀JUY,GUOJ,LIUS.AdeeplearningmethodcombinedsparseautoencoderwithSVM[C]//2015InternationalConferenceonCyber⁃EnabledDistributedComputingandKnowledgeDiscovery.Xi an:IEEE,2015:257-260.[12]㊀LUOW,YANGJ,XUW,etal.Locality⁃constrainedsparseauto⁃encoderforimageclassification[J].IEEESignalPro⁃cessingLetters,2014,22(8):1070-1073.[13]㊀VERGARAA,VEMBUS,AYHANT,etal.Chemicalgassensordriftcompensationusingclassifierensembles[J].SensorsandActuatorsB:Chemical,2012,166:320-329.作者简介:陶洋(1964 ),教授,硕士生导师,博士后,主要研究领域为机器学习,模式识别等㊂E⁃mail:cqtxrjyjs@126.com杨皓诚(1995 ),硕士研究生,主要研究领域为机器嗅觉,模式识别㊂E⁃mail:jackwilliam_yang@163.com(上接第88页)度,并能有效提升转换后的精度㊂而使用遗传算法优化后的GA-BP神经网络,能加快BP神经网络的收敛速度,回归的精度也进一步提升㊂同时提出一种在MCU端应用的方法,网络参数固化至MCU端存储,并利用BP神经网络构件实现在MCU的回归预测,具有一定的实用性和适应性㊂参考文献:[1]㊀陈韦名,曾喆昭,廖震中,等.一种湿度传感器温度补偿的非线性校正方法[J].传感技术学报,2017(5):742-745.[2]㊀焦李成,杨淑媛,刘芳.神经网络七十年:回顾与展望[J].计算机学报,2016,39(8):1697-1716.[3]㊀Hecht⁃NielsenR.TheoryoftheBackpropagationNeuralNet⁃work[C]//International1989JointConferenceonNeuralNetworks,Washington:IEEE,1989.[4]㊀梁丰,熊凌.基于GA-BP神经网络的移动机器人UWB室内定位[J].微电子学与计算机,2019,36(4):33-37.[5]㊀丛秋梅,张北伟,苑明哲.基于同步聚类的污水水质混合在线软测量方法[J].计算机工程与应用,2015,51(24):27-33.[6]㊀DINGS,SUC,YUJ.AnoptimizingBPneuralnetworkalgo⁃rithmbasedongeneticalgorithm[J].ArtificialIntelligenceReview,2011,36(2):153-162.[7]㊀ITOY.Approximaterepresentationofacontinuousfunctionbyaneuralnetworkwithscaledorunscaledsigmoidunits[C]//IJCNN-91-SeattleInternationalJointConferenceonNeuralNetworks,Seattle:IEEE,2002.[8]㊀NURYAH,HASANK,ALAMMJB.Comparativestudyofwavelet-ARIMAandwavelet-ANNmodelsfortemperaturetimeseriesdatainnortheasternBangladesh[J].JournalofKingSaudUniversity-Science,2017,29(1):47-61.[9]㊀田垅,刘宗田.最小二乘法分段直线拟合[J].计算机科学,2012,39(S6):482-484.[10]㊀王冰冰,李淮江.基于三次样条插值的硅压阻式压力传感器的温度补偿[J].传感技术学报,2015(7):61-65.[11]㊀NXP.KL36Sub⁃FamilyReferenceManual[EB/OL].(2013-07)[2019-10-13].https://www.nxp.com/docs/en/ref⁃erence⁃manual/KL36P121M48SF4RM.pdf.[12]㊀NXP.S32K1xxSeriesReferenceManual[EB/OL].(2019-06)[2019-11-04]https://www.nxp.com/docs/en/refer⁃ence⁃manual/S32K-RM.pdf.作者简介:周欣(1995 ),硕士研究生,主要从事嵌入式与物联网方面的研究㊂E⁃mail:20174227026@stu.suda.edu.cn王宜怀(1962 ),教授,博士生导师,主要从事嵌入式系统㊁传感网与智能控制技术方面的研究。

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

%读取数据
data=xlsread('data.xls');
%训练预测数据
data_train=data(1:113,:);
data_test=data(118:123,:);
input_train=data_train(:,1:9)';
output_train=data_train(:,10)';
input_test=data_test(:,1:9)';
output_test=data_test(:,10)';
%数据归一化
[inputn,mininput,maxinput,outputn,minoutput,maxoutput]=premnmx(input_train,output_train); %对p和t进行字标准化预处理
net=newff(minmax(inputn),[10,1],{'tansig','purelin'},'trainlm');
net.trainParam.epochs=100;
net.trainParam.lr=0.1;
net.trainParam.goal=0.00001;
%net.trainParam.show=NaN
%网络训练
net=train(net,inputn,outputn);
%数据归一化
inputn_test = tramnmx(input_test,mininput,maxinput);
an=sim(net,inputn);
test_simu=postmnmx(an,minoutput,maxoutput);
error=test_simu-output_train;
plot(error)
k=error./output_train
%%code
function ret=Code(lenchrom,bound)
%本函数将变量编码成染色体,用于随机初始化一个种群
% lenchrom input : 染色体长度
% bound input : 变量的取值范围
% ret output: 染色体的编码值
flag=0;
while flag==0
pick=rand(1,length(lenchrom));
ret=bound(:,1)'+(bound(:,2)-bound(:,1))'.*pick; %线性插值,编码结果以实数向量存入ret 中
flag=test(lenchrom,bound,ret); %检验染色体的可行性
end
%%cross
function ret=Cross(pcross,lenchrom,chrom,sizepop,bound)
%本函数完成交叉操作
% pcorss input : 交叉概率
% lenchrom input : 染色体的长度
% chrom input : 染色体群
% sizepop input : 种群规模
% ret output : 交叉后的染色体
for i=1:sizepop %每一轮for循环中,可能会进行一次交叉操作,染色体是随机选择的,交叉位置也是随机选择的,%但该轮for循环中是否进行交叉操作则由交叉概率决定(continue控制)
% 随机选择两个染色体进行交叉
pick=rand(1,2);
while prod(pick)==0
pick=rand(1,2);
end
index=ceil(pick.*sizepop);
% 交叉概率决定是否进行交叉
pick=rand;
while pick==0
pick=rand;
end
if pick>pcross
continue;
end
flag=0;
while flag==0
% 随机选择交叉位
pick=rand;
while pick==0
pick=rand;
end
pos=ceil(pick.*sum(lenchrom)); %随机选择进行交叉的位置,即选择第几个变量进行交叉,注意:两个染色体交叉的位置相同
pick=rand; %交叉开始
v1=chrom(index(1),pos);
v2=chrom(index(2),pos);
chrom(index(1),pos)=pick*v2+(1-pick)*v1;
chrom(index(2),pos)=pick*v1+(1-pick)*v2; %交叉结束
flag1=test(lenchrom,bound,chrom(index(1),:)); %检验染色体1的可行性
flag2=test(lenchrom,bound,chrom(index(2),:)); %检验染色体2的可行性
if flag1*flag2==0
flag=0;
else flag=1;
end %如果两个染色体不是都可行,则重新交叉
end
end
ret=chrom;
%%Decode
function ret=Decode(lenchrom,bound,code,opts)
% 本函数对染色体进行解码
% lenchrom input : 染色体长度
% bound input : 变量取值范围
% code input :编码值
% opts input : 解码方法标签
% ret output: 染色体的解码值
switch opts
case 'binary' % binary coding
for i=length(lenchrom):-1:1
data(i)=bitand(code,2^lenchrom(i)-1); %并低十位,然后将低十位转换成十进制数存在data(i)里面
code=(code-data(i))/(2^lenchrom(i)); %低十位清零,然后右移十位
end
ret=bound(:,1)'+data./(2.^lenchrom-1).*(bound(:,2)-bound(:,1))'; %分段解码,以实数向量的形式存入ret中
case 'grey' % grey coding
for i=sum(lenchrom):-1:2
code=bitset(code,i-1,bitxor(bitget(code,i),bitget(code,i-1)));
end
for i=length(lenchrom):-1:1
data(i)=bitand(code,2^lenchrom(i)-1);
code=(code-data(i))/(2^lenchrom(i));
end
ret=bound(:,1)'+data./(2.^lenchrom-1).*(bound(:,2)-bound(:,1))'; %分段解码,以实数向量的形式存入ret中
case 'float' % float coding
ret=code; %解码结果就是编码结果(实数向量),存入ret中end。

相关文档
最新文档