基于正则化GRU模型的洪水预测
基于VMD-TCN-GRU 模型的水质预测研究

基于VMD-TCN-GRU模型的水质预测研究作者:项新建许宏辉谢建立丁祎胡海斌郑永平杨斌来源:《人民黄河》2024年第03期摘要:為充分挖掘水质数据在短时震荡中的变化特征,提升预测模型的精度,提出一种基于VMD(变分模态分解)、TCN(卷积时间神经网络)及GRU(门控循环单元)组成的混合水质预测模型,采用VMD-TCN-GRU模型对汾河水库出水口高锰酸盐指数进行预测,并与此类研究中常见的SVR(支持向量回归)、LSTM(长短期记忆神经网络)、TCN和CNN-LSTM(卷积神经网络-长短期记忆神经网络)这4种模型预测结果对比表明:VMD-TCN-GRU模型能更好挖掘水质数据在短时震荡过程中的特征信息,提升水质预测精度;VMD-TCN-GRU模型的MAE(平均绝对误差)、RMSE(均方根误差)下降,R2(确定系数)提高,其MAE、RMSE、R2分别为0.0553、0.0717、0.9351;其预测性能优越,预测精度更高且拥有更强的泛化能力,可以应用于汾河水质预测。
关键词:水质预测;混合模型;变分模态分解;卷积时间神经网络;门控循环单元;时间序列;汾河中图分类号:TV213.4;X524文献标志码:Adoi:10.3969/j.issn.1000-1379.2024.03.017引用格式:项新建,许宏辉,谢建立,等.基于VMD-TCN-GRU模型的水质预测研究[J].人民黄河,2024,46(3):92-97.近年来,国内外专家学者为掌握未来水质变化趋势,对水体水质预测方法进行了大量研究,并取得了一定研究成果。
罗学科等[1]利用差分自回归移动平均模型(ARIMA)对巢湖水域水质进行了预测,结果显示其预测精度及泛化能力较强。
张颖等[2]基于改进的灰色模型和模糊神经网络预测了太湖流域未来一段时间内水质整体变化。
传统的预测方法虽然理论体系成熟、计算简单,但是随着水环境的变化,无法有效处理高差异、对长时间序列依赖性强且非线性关系复杂的水质数据[3],而人工神经网络凭借强大的非线性适应性信息处理能力[4]、能充分逼近任意非线性函数以及泛化能力强[5]等特点,被广泛应用于水质预测中。
正则化RBF网络模型在地下水位预测中的应用

正则化RBF网络模型在地下水位预测中的应用张殷钦;刘俊民;郝健【摘要】【目的】建立地下水位预测的正则化RBF网络模型,为区域地下水资源的利用、规划和管理提供决策依据。
【方法】以MATLAB7.0为平台,用函数newrb创建正则化RBF网络模型,基于宝鸡峡灌区B210号观测井1983-2009年的地下水位埋深资料,对网络模型进行训练后再用测试集检验,分别绘制训练集与测试集的拟合曲线,同时计算实测值与预测值间的相对误差(RE)、平均绝对偏差(MAD)和均方误差(MSE),并将其与BP网络模型的相应值进行对比。
【结果】正则化RBF网络模型和BP网络模型的相对误差均小于5%,平均绝对偏差分别为0.53和0.85,均方误差分别为0.54和1.15,相比之下,正则化RBF网络模型的预测精度更高。
【结论】训练样本和测试样本的合理选取为时间序列的拟合扩展了思路,良好的泛化能力使正则化RBF网络模型在区域地下水位预测中具有一定的可行性。
%【Objective】 Establishing regularized RBF network model for groundwater level prediction can provide strategic decision for groundwateruse,planning and management.【Method】 Regularized RBF network model was built employing newrb function in MATLAB7.0 for well B210 in Baojixia irrigation area based on the groundwater level depth data from 1983 to 2009.The training sets and testing sets were used to train and test the network respectively.Corresponding fitting curve was plotted aswell.Meanwhile,relative error(RE),mean absolute deviation(MAD) and mean-square error(MSE) between predicted and measured values were all calculated and the comparison was addressed with BP network model.【Result】 RE of both regularized RBF and BP network model is less than5%,MAD is 0.53 and 0.85,MSE is 0.54 and 1.15 respectively.By contrast,the precision of regularized RBF network model about predicted values is much higher.【Conclusion】 Selecting training sample and testing sample reasonably has provided a new way for time series simulation.Regularized RBF network model is viable in forecasting regional groundwater table due to its good generalization.【期刊名称】《西北农林科技大学学报(自然科学版)》【年(卷),期】2011(039)010【总页数】5页(P204-208)【关键词】正则化;RBF网络模型;径向基函数;地下水;水位预测【作者】张殷钦;刘俊民;郝健【作者单位】西北农林科技大学水利与建筑工程学院,陕西杨凌712100;西北农林科技大学水利与建筑工程学院,陕西杨凌712100;西北农林科技大学水利与建筑工程学院,陕西杨凌712100【正文语种】中文【中图分类】P332.3地下水是水资源的重要组成部分,是农业灌溉、工矿企业以及生活用水的主要供水水源之一,因而系统地研究地下水的运动规律,并科学地预测地下水位动态有着重要的现实意义。
《基于深度学习的锂电池RUL预测》

《基于深度学习的锂电池RUL预测》一、引言随着科技的飞速发展,锂电池因其高能量密度、长寿命和环保等优点,在电动汽车、移动设备等领域得到了广泛应用。
然而,锂电池的可靠性和使用寿命是影响其应用范围和效率的关键因素。
因此,准确预测锂电池的剩余使用寿命(RUL)显得尤为重要。
近年来,深度学习技术的快速发展为锂电池RUL预测提供了新的解决方案。
本文旨在探讨基于深度学习的锂电池RUL预测方法及其应用价值。
二、锂电池RUL预测的背景及重要性锂电池的RUL预测对于电池管理系统的优化、维护策略的制定以及延长电池使用寿命具有重要意义。
传统的RUL预测方法主要基于经验模型和统计分析,然而这些方法往往难以准确反映锂电池的实际性能退化情况。
随着深度学习技术的发展,越来越多的研究者开始探索基于深度学习的锂电池RUL预测方法。
三、深度学习在锂电池RUL预测中的应用深度学习通过模拟人脑神经网络的工作方式,能够从大量数据中自动提取特征,从而实现对复杂问题的求解。
在锂电池RUL 预测中,深度学习可以有效地处理电池性能退化过程中的非线性、时变性和不确定性等问题。
目前,常用的深度学习模型包括循环神经网络(RNN)、长短期记忆网络(LSTM)和卷积神经网络(CNN)等。
四、基于深度学习的锂电池RUL预测方法1. 数据准备与预处理:首先,需要收集锂电池的性能退化数据,包括电压、电流、温度、容量等。
然后,对数据进行归一化、去噪等预处理操作,以便于深度学习模型的训练。
2. 模型构建:根据具体问题选择合适的深度学习模型。
例如,对于时间序列数据,可以采用RNN或LSTM模型;对于图像数据,可以采用CNN模型。
在构建模型时,需要设置合适的网络结构、激活函数、损失函数等参数。
3. 模型训练与优化:使用训练数据对模型进行训练,通过调整模型参数以优化性能。
在训练过程中,可以采用批量梯度下降、随机梯度下降等优化算法。
4. RUL预测:利用训练好的模型对锂电池的RUL进行预测。
防洪调度中的预测算法优化研究

防洪调度中的预测算法优化研究随着城市化进程不断加速,越来越多的城市面临着洪水的威胁。
因此,防洪调度变得越来越重要。
在防洪调度中,预测是至关重要的,因为它是决策的基础。
在目前的洪水预测工作中,常用的算法是模型预测,但由于模型误差较大,预测效果并不总是理想的。
因此,本文研究了洪水预测中的预测算法优化问题。
一、洪水预测中的模型预测在洪水预测中,目前常用的是基于模型的预测算法。
在该算法中,通过对历史数据进行分析,建立基于数据的数学模型,预测未来水位。
但这种方法存在问题在于,洪水预测涉及到许多随机因素,如降雨量、排放流量以及内部水位等,这导致模型对基础数据的要求较高。
一旦输入数据变化,模型就会出现误差,其预测效果可能不理想,甚至失准。
二、计算优化中的神经网络算法因此,在实际应用中,需要通过计算优化算法来提高模型的精度。
目前,一种常用的优化算法是神经网络算法。
神经网络是由大量神经元组成的模型,并且可以从数据中自动学习。
它能够识别数据中的特征,并学会预测未来变化。
因此,神经网络算法被广泛应用于各种领域的预测和计算中。
在洪水预测中,神经网络可以通过学习数据的特征变化,提高预测的准确性。
三、洪水预测中的多模型集成然而,神经网络模型在某些情况下也会出现过拟合的问题,这使得神经网络的预测结果不够可靠。
因此,在实际应用中,可以采用多模型集成的方法来提高预测的准确性。
在多模型集成中,可以使用多个不同的预测算法,对同一种变量进行多次预测。
如果这些预测结果存在较大差异,则可以结合使用多个预测算法,从而提高预测的准确性。
在洪水预测中,可以将神经网络、统计模型和基于信息论的模型等预测算法集成在一起,从而提高洪水预测的精度和可靠性。
四、结论综上所述,洪水预测中的预测算法优化是一个很重要的问题。
传统的预测算法要求数据有较高的准确性,并且容易受到随机因素的影响,因此存在很大的误差。
而通过计算优化算法和多模型集成,可以提高洪水预测的准确性和可靠性。
水库水位的VMD-CNN-GRU混合预测模型

水库水位的VMD-CNN-GRU混合预测模型作者:韩莹王乐豪魏平慧李占东周文祥来源:《南京信息工程大学学报》2024年第02期摘要水库水位预测为其运营、防洪、水资源调度管理提供了重要决策支持.准确可靠的预测对水资源的优化管理起着至关重要的作用.针对水库水位数据的非线性、不稳定性以及复杂的时空特性,提出一种融合自适应变分模态分解(VMD)、卷积神经网络(CNN)和门控循环单元(GRU)的混合水库水位预测模型.VMD通过对水位序列进行分解消除噪声,CNN用于有效提取水位数据的局部特征,GRU用于提取水位数据的深层时间特征.以葠窝水库日水位为例,与多个相关模型对比分析,结果表明:精度方面,新模型在选取的评价指标上均表现最佳;运算效率方面,本文选择的GRU与长短时记忆网络(LSTM)相比,运算效率显著提高.新模型预测的高精度、高运算效率更能满足实际水库水位实时调度的需求.关键词水位预测;变分模态分解;门控循环单元;卷积神经网络;深度学习中图分类号TP391文献标志码A0引言准确的水库水位预测[1-2]对当地开展防洪减灾工作具有重要指导作用.多年来,诸多学者期望使用水动力学模型[3-4]来模拟渠道水流,达到对水位预测的效果.然而,基于水动力学模型的预测需要模拟出当地精确的地形资料、准确的实测数据等大量人力测量的输入数据,同时模型需要大量参数调整,极大地影响着水位监测的准确性.机器学习模型通过挖掘输入数据隐藏特征便可做出预测,可以有效避免水动力学模型的缺陷.王蒙蒙等[5]提出一種基于支持向量回归(Support Vector Regression,SVR)的洞庭湖水位预测模型,相比传统水动力学模型精度更高.SVR模型对处理非线性问题很难找到合适的核函数且拟合率不高,而深度学习中长短时记忆网络(Long Short-Term Memory,LSTM)在处理非线性序列数据方面优势明显[6-7].刘亚新等[8]提出一种基于LSTM的短期水位预测模型.唐鸣等[9]考虑到迭代次数对计算效率的影响,建立了三层LSTM模型应用于南水北调中线京石段闸前水位预测.Chung等[10]在不同应用场景下对递归神经网络中不同的递归单元进行比较后发现,相比于LSTM,门控循环单元(Gate Recurrent Unit,GRU)也能达到相当的效果,且计算量更小.计算效率更高.纪国良等[11]指出,在水库水位预测中GRU 要优于LSTM.单一模型存在特征提取不完备的缺陷,多个预测方法结合可以提高预测精度.周勇强等[12]将LSTM与卷积神经网络(Convolutional Neural Networks,CNN)相结合,同时捕捉水位数据的局部特征和时序特征,有效地提高了预测准确率.另外,考虑到水位数据非线性和不稳定性,时频分析中经验模态分解(Empirical Mode Decomposition,EMD)[13]、集合经验模态分解(EEMD)、完全集合经验模态分解(CEEMDAN)和变分模态分解(Variational Mode Decomposition,VMD)[14]等被应用于水位预测的预处理中,分解后的数据更加平稳,降低了噪声对水位数据的影响,有利于提高水位预测精度.为解决非线性、不稳定性以及复杂的时空特性对水库水位时间序列的影响,本文提出一种基于VMD-CNN-GRU的水库日水位预测模型.其中,VMD消除水位数据的噪声,CNN有效提取水位数据的局部特征[15],GRU提取水位数据的深层时间特征.选取辽宁省辽阳县葠窝水库2000—2009年3 652 d水位数据进行实例研究.与多个相关模型对比分析表明,本文模型在选取的预测精度评价指标上均表现最佳.分解模块分析表明,VMD与EMD、EEMD和CEEMDAN相比,纳什系数(Nash-Sutcliffe Efficiency coefficient,NSE)提升大于6%,均方根误差(RMSE)降低73.06%以上,平均绝对误差(MAE)降低74.24%以上.选用GRU模块的训练时间比LSTM模块在运算效率方面提升23.71%.本文模型预测精度高、运算效率高,更适合实际水库水位实时调度的需求.1基本原理1.1VMD原理与其他时频分解方法相比,VMD可以有效降低复杂度高和非线性强的水库水位时间序列的非平稳性.VMD具体步骤如下:1)构造变分问题x(t)=[(δt+j/πt)*uk(t)]e-jωkt,(1)min{uk},{ωk}∑k‖tx(t)‖22 ,(2)s.t.∑Kk=1uk=f. (3)其中:式(2)是关于{uk},{ωk}的多元函数,式(3)为各模态的约束条件.f是初始信号,K是分解模态的个数,{uk},{ωk}分别是分解后的第k个模态分量和中心频率,δt为狄拉克函数,*为卷积运算,e-jωkt为原始信号的指数信号,t为偏导运算,t为时间变量,j为虚数符号.2)求解变分问题L({uk},{ωk},λ)=α∑k‖tx(t)‖22+‖f(t)-∑kuk‖22+〈λ(t),f(t)-∑kuk(t)〉.(4)其中,λ为拉格朗日乘法算子,α为二次惩罚因子,〈·〉为内积运算,‖·‖22 表示L2范数的平方.3)求各模态分量和中心频率通过搜寻增广拉格朗日函数的鞍点,交替寻找迭代后的{uk},{ωk}和λ的最优结果,其表达式如下:n+1k (ω)=(ω)-∑k-1i=1i(ω)+(ω)21+2α(ω-ωk)2,(5)ωn+1k=∫∞0ω|n+1k (ω)|2dω∫∞0|n+1k (ω)|2dω,(6)n+1(ω)=n(ω)+γ((ω)-∑Kk=1n+1k(ω)).(7)其中,n+1k(ω)为(ω)-∑Kk=1n+1k(ω)的维纳滤波,ωn+1k为此过程的模态函数功率谱的重心,γ为噪声容忍度,n+1k (ω),i (ω),i (ω)和(ω)分别是原信号un+1k (t),ui(t),f(t),λ(t)对应的傅里叶变换,n表示迭代次数.1.2CNN原理CNN在本质上是一种输入与输出间的映射关系.CNN所包含的权值共享特点降低了网络的复杂性,避免了特征提取和分类过程中数据重建的复杂度.CNN网络特有的局部感知野使得每个神经元只需对局部特征进行感知,然后在更高层将局部的信息综合就可得到全局信息.设x=(x1,x2,…,xn)为时间序列数据输入向量,n为每个窗口数值数量,xi为归一值,i为特征值索引,j为每个数据窗口的特征图索引.利用输入数据的数值xlij,第l个卷积层的输出值可表示为ylij=σbl-1j+∑Mm=1Wl-1m,jxl-1i+m-1,j .(8)式中,bl-1j 表示第j个特征图的偏置,W为核权重,M为过滤器大小,σ为激活函数.池化层降低表征的空间尺寸,以减少网络的参数量和计算复杂度,同时可以防止过拟合.池化层的计算可表示为plij=maxr∈R yl-1i×T+r,j.(9)式中,R为池化大小(R<y),T为确定池化区域步长,plij表示池化后的神经元值.1.3GRU原理GRU混合了细胞状态和隐藏状态,将LSTM中的遗忘门和输入门合并为一个单一的更新门,其结构如图1所示.相比LSTM模型,GRU的结构更加简单.其中:xt为t时刻的输入;yt 为t时刻隐藏节点的输出;ht为传递给下一个节点的隐藏状态;ht-1为t-1时刻的隐藏层状态,该隐藏层状态包含了之前节点的相关信息;rt为重置门;zt为更新门;σ为sigmoid函数;tanh为激活函数,将数值限制在-1~1之间;t为候选隐藏层状态.GRU的数学原理如下:rt=σ(xtWxr+ht-1Whr+br),(10)zt=σ(xtWxz+ht-1Whz+bz),(11)=tanh(xtWhx+rt⊙ht-1Whh+bh),(12)ht=(1-zt)⊙ht-1+zt⊙t.(13)其中:Wxr,Whr,Wxz,Whz,Whx,Whh表示输入向量与重置门、更新门和候选隐藏层状态之间相对应的权向量;br,bz,bh是偏置变量;⊙表示按元素相乘.2模型建立2.1模型的输入及输出目前,过程驱动模型与数据驱动模型被广泛运用于时间序列的预测.本文建立的VMD-CNN-GRU模型属于数据驱动模型方法的一种,有效避免了传统过程驱动模型需要进行过程近似模拟、大量未知输入数据以及模型参数的缺陷,同时兼备计算速度快、输入参数少且不需考量中间过程的物理机制的优点,只需要寻求输入输出变量间的最佳映射关系.本文模型與现有模型相比具有较强的数据处理和映射功能,仅需将采集到的水库水位数据作为输入向量按比例划分后直接输入模型进行学习、映射,得到输出向量.从预报成果来说,预报方案满足《水文情报预报规范》(GB/T 22482—2008)[16]要求,并取得理想的成果,可应用于实际预测.2.2基于VMD-CNN-GRU的水库水位预测模型VMD-CNN-GRU水库水位预测混合模型具体参数如表1所示.VMD-CNN-GRU水库水位预测混合模型整体结构如图2所示.VMD-CMM-GRU水位预测模型具体运算步骤如下:1)步骤1:数据预处理①缺失数据补足根据数据缺失特征,选择相应的数据缺失方法进行数据补足.②基于自适应变分模态分解的数据处理EMD算法具有不需要人为设置和干预的自适应性,对未知数据无需进行分析研究,直接对其进行循环迭代,便可将原始混合信号x分解成n个模态,n个模态又被分为n-1个子信号和1个残差项,其目标函数式为x=∑ni=1ui+ri.(14)式中,x为原信号,ui为第i个IMF分量,ri为第i个去掉高频成分的新信号.对补全后的水位数据进行排列并按照比例划分构建为列表数据,再将划分好的数据输入到VMD进行分解预处理.结合EMD分解自适应性优势,获取最优分解模态数,将其作为VMD 分解模态数K值.自适应VMD分解模块能够将序列中隐藏的周期和趋势进行有效挖掘,使得模型能够学习到水位数据周期性的隐藏特征,同时增加数据量,使模型充分进行学习,有效提高预测准确率,模态分解如图3所示.③数据归一化处理对划分好的数据进行归一化处理,其计算方法如下:x′=x-xminxmax-xmin.(15)其中,x表示模型的输入值,x′表示归一化后的数值.2)步骤2:基于CNN的水位局部特征提取CNN的卷积核强调空间中的“窗口”,使得其在处理时间序列数据时可以考虑到当前数据前后数据的影响,从而进行局部数据特征提取,最后将局部信息聚合得到整体信息.引入的CNN层可以有效弥补循环神经网络不考虑空间上下问题,对输入数据进行层次特征提取.CNN层用于水位的局部感知提取特征,可以减少参数量和连接数,从而显著提高模型迭代的效率,为进一步利用循环神经网络提取深层时间特征奠定了基础.将经过预处理后的数据构建为S×τ×D的三维向量作为CNN层的输入.其中,S为样本数量(samples),τ为时间步长(timesteps),D为特征个数(features).数据通过输入层进入卷积层,卷积层包含数个特征面,每个特征面包含数个神经元,对数据进行特征提取.提取到的特征由激活函数处理得到神经元的输出,输入到池化层中.池化层与卷积层相同,包含数个特征面,池化层主要用于二次特征提取、简化数据量并利用其每个神经元进行采样.其中,n+1k(ω)为(ω)-∑Kk=1n+1k(ω)的维纳滤波,ωn+1k为此过程的模态函数功率谱的重心,γ为噪声容忍度,n+1k (ω),i (ω),i (ω)和(ω)分别是原信号un+1k (t),ui(t),f(t),λ(t)对应的傅里叶变换,n表示迭代次数.1.2CNN原理CNN在本质上是一种输入与输出间的映射关系.CNN所包含的权值共享特点降低了网络的复杂性,避免了特征提取和分类过程中数据重建的复杂度.CNN网络特有的局部感知野使得每个神经元只需对局部特征进行感知,然后在更高层将局部的信息综合就可得到全局信息.设x=(x1,x2,…,xn)为时间序列数据输入向量,n为每个窗口数值数量,xi为归一值,i为特征值索引,j为每个数据窗口的特征图索引.利用输入数据的数值xlij,第l个卷积层的输出值可表示为ylij=σbl-1j+∑Mm=1Wl-1m,jxl-1i+m-1,j .(8)式中,bl-1j 表示第j个特征图的偏置,W为核权重,M为过滤器大小,σ为激活函数.池化层降低表征的空间尺寸,以减少网络的参数量和计算复杂度,同时可以防止过拟合.池化层的计算可表示为plij=maxr∈R yl-1i×T+r,j.(9)式中,R为池化大小(R<y),T为确定池化区域步长,plij表示池化后的神经元值.1.3GRU原理GRU混合了细胞状态和隐藏状态,将LSTM中的遗忘门和输入门合并为一个单一的更新门,其结构如图1所示.相比LSTM模型,GRU的结构更加简单.其中:xt为t时刻的输入;yt 为t时刻隐藏节点的输出;ht为传递给下一个节点的隐藏状态;ht-1为t-1时刻的隐藏层状态,该隐藏层状态包含了之前节点的相关信息;rt为重置门;zt为更新门;σ为sigmoid函数;tanh为激活函数,将数值限制在-1~1之间;t为候选隐藏层状态.GRU的数学原理如下:rt=σ(xtWxr+ht-1Whr+br),(10)zt=σ(xtWxz+ht-1Whz+bz),(11)=tanh(xtWhx+rt⊙ht-1Whh+bh),(12)ht=(1-zt)⊙ht-1+zt⊙t.(13)其中:Wxr,Whr,Wxz,Whz,Whx,Whh表示输入向量与重置门、更新门和候选隐藏层状态之间相对应的权向量;br,bz,bh是偏置变量;⊙表示按元素相乘.2模型建立2.1模型的输入及输出目前,过程驱动模型与数据驱动模型被广泛运用于时间序列的预测.本文建立的VMD-CNN-GRU模型属于数据驱动模型方法的一种,有效避免了传统过程驱动模型需要进行过程近似模拟、大量未知输入数据以及模型参数的缺陷,同时兼备计算速度快、输入参数少且不需考量中间过程的物理机制的优点,只需要寻求输入输出变量间的最佳映射关系.本文模型与现有模型相比具有较强的数据处理和映射功能,仅需将采集到的水库水位数据作为输入向量按比例划分后直接输入模型进行学习、映射,得到输出向量.从预报成果来说,预报方案满足《水文情报预报规范》(GB/T 22482—2008)[16]要求,并取得理想的成果,可应用于实际预测.2.2基于VMD-CNN-GRU的水库水位预测模型VMD-CNN-GRU水库水位预测混合模型具体参数如表1所示.VMD-CNN-GRU水库水位预测混合模型整体结构如图2所示.VMD-CMM-GRU水位预测模型具体运算步骤如下:1)步骤1:数据预处理①缺失数据补足根据数据缺失特征,选择相应的数据缺失方法进行数据补足.②基于自适应变分模态分解的数据处理EMD算法具有不需要人为设置和干预的自适应性,对未知数据无需进行分析研究,直接对其进行循环迭代,便可将原始混合信号x分解成n个模态,n个模态又被分为n-1个子信号和1个残差项,其目标函数式为x=∑ni=1ui+ri.(14)式中,x为原信号,ui为第i个IMF分量,ri为第i个去掉高频成分的新信号.对补全后的水位数据进行排列并按照比例划分构建为列表数据,再将划分好的数据输入到VMD进行分解预处理.结合EMD分解自适应性优势,获取最优分解模态数,将其作为VMD 分解模态数K值.自适应VMD分解模块能够将序列中隐藏的周期和趋势进行有效挖掘,使得模型能够学习到水位数据周期性的隐藏特征,同时增加数据量,使模型充分进行学习,有效提高预测准确率,模态分解如图3所示.③数据归一化处理对划分好的数据进行归一化处理,其计算方法如下:x′=x-xminxmax-xmin.(15)其中,x表示模型的输入值,x′表示归一化后的数值.2)步骤2:基于CNN的水位局部特征提取CNN的卷积核强调空间中的“窗口”,使得其在处理时间序列数据时可以考虑到当前数据前后数据的影响,从而进行局部数据特征提取,最后将局部信息聚合得到整体信息.引入的CNN层可以有效弥补循环神经网络不考虑空间上下问题,对输入数据进行层次特征提取.CNN层用于水位的局部感知提取特征,可以减少参数量和连接数,从而显著提高模型迭代的效率,为进一步利用循环神经网络提取深层时间特征奠定了基础.将經过预处理后的数据构建为S×τ×D的三维向量作为CNN层的输入.其中,S为样本数量(samples),τ为时间步长(timesteps),D为特征个数(features).数据通过输入层进入卷积层,卷积层包含数个特征面,每个特征面包含数个神经元,对数据进行特征提取.提取到的特征由激活函数处理得到神经元的输出,输入到池化层中.池化层与卷积层相同,包含数个特征面,池化层主要用于二次特征提取、简化数据量并利用其每个神经元进行采样.其中,n+1k(ω)为(ω)-∑Kk=1n+1k(ω)的维纳滤波,ωn+1k为此过程的模态函数功率谱的重心,γ为噪声容忍度,n+1k (ω),i (ω),i (ω)和(ω)分别是原信号un+1k (t),ui(t),f(t),λ(t)对应的傅里叶变换,n表示迭代次数.1.2CNN原理CNN在本质上是一种输入与输出间的映射关系.CNN所包含的权值共享特点降低了网络的复杂性,避免了特征提取和分类过程中数据重建的复杂度.CNN网络特有的局部感知野使得每个神经元只需对局部特征进行感知,然后在更高层将局部的信息综合就可得到全局信息.设x=(x1,x2,…,xn)为时间序列数据输入向量,n为每个窗口数值数量,xi为归一值,i为特征值索引,j为每个数据窗口的特征图索引.利用输入数据的数值xlij,第l个卷积层的输出值可表示为ylij=σbl-1j+∑Mm=1Wl-1m,jxl-1i+m-1,j .(8)式中,bl-1j 表示第j个特征图的偏置,W为核权重,M为过滤器大小,σ为激活函数.池化层降低表征的空间尺寸,以减少网络的参数量和计算复杂度,同时可以防止过拟合.池化层的计算可表示为plij=maxr∈R yl-1i×T+r,j.(9)式中,R为池化大小(R<y),T为确定池化区域步长,plij表示池化后的神经元值.1.3GRU原理GRU混合了细胞状态和隐藏状态,将LSTM中的遗忘门和输入门合并为一个单一的更新门,其结构如图1所示.相比LSTM模型,GRU的结构更加简单.其中:xt为t时刻的输入;yt 为t时刻隐藏节点的输出;ht为传递给下一个节点的隐藏状态;ht-1为t-1时刻的隐藏层状态,该隐藏层状态包含了之前节点的相关信息;rt为重置门;zt为更新门;σ为sigmoid函数;tanh为激活函数,将数值限制在-1~1之间;t为候选隐藏层状态.GRU的数学原理如下:rt=σ(xtWxr+ht-1Whr+br),(10)zt=σ(xtWxz+ht-1Whz+bz),(11)=tanh(xtWhx+rt⊙ht-1Whh+bh),(12)ht=(1-zt)⊙ht-1+zt⊙t.(13)其中:Wxr,Whr,Wxz,Whz,Whx,Whh表示输入向量与重置门、更新门和候选隐藏层状态之间相对应的权向量;br,bz,bh是偏置变量;⊙表示按元素相乘.2模型建立2.1模型的输入及输出目前,過程驱动模型与数据驱动模型被广泛运用于时间序列的预测.本文建立的VMD-CNN-GRU模型属于数据驱动模型方法的一种,有效避免了传统过程驱动模型需要进行过程近似模拟、大量未知输入数据以及模型参数的缺陷,同时兼备计算速度快、输入参数少且不需考量中间过程的物理机制的优点,只需要寻求输入输出变量间的最佳映射关系.本文模型与现有模型相比具有较强的数据处理和映射功能,仅需将采集到的水库水位数据作为输入向量按比例划分后直接输入模型进行学习、映射,得到输出向量.从预报成果来说,预报方案满足《水文情报预报规范》(GB/T 22482—2008)[16]要求,并取得理想的成果,可应用于实际预测.2.2基于VMD-CNN-GRU的水库水位预测模型VMD-CNN-GRU水库水位预测混合模型具体参数如表1所示.VMD-CNN-GRU水库水位预测混合模型整体结构如图2所示.VMD-CMM-GRU水位预测模型具体运算步骤如下:1)步骤1:数据预处理①缺失数据补足根据数据缺失特征,选择相应的数据缺失方法进行数据补足.②基于自适应变分模态分解的数据处理EMD算法具有不需要人为设置和干预的自适应性,对未知数据无需进行分析研究,直接对其进行循环迭代,便可将原始混合信号x分解成n个模态,n个模态又被分为n-1个子信号和1个残差项,其目标函数式为x=∑ni=1ui+ri.(14)式中,x为原信号,ui为第i个IMF分量,ri为第i个去掉高频成分的新信号.对补全后的水位数据进行排列并按照比例划分构建为列表数据,再将划分好的数据输入到VMD进行分解预处理.结合EMD分解自适应性优势,获取最优分解模态数,将其作为VMD 分解模态数K值.自适应VMD分解模块能够将序列中隐藏的周期和趋势进行有效挖掘,使得模型能够学习到水位数据周期性的隐藏特征,同时增加数据量,使模型充分进行学习,有效提高预测准确率,模态分解如图3所示.③数据归一化处理对划分好的数据进行归一化处理,其计算方法如下:x′=x-xminxmax-xmin.(15)其中,x表示模型的输入值,x′表示归一化后的数值.2)步骤2:基于CNN的水位局部特征提取CNN的卷积核强调空间中的“窗口”,使得其在处理时间序列数据时可以考虑到当前数据前后数据的影响,从而进行局部数据特征提取,最后将局部信息聚合得到整体信息.引入的CNN层可以有效弥补循环神经网络不考虑空间上下问题,对输入数据进行层次特征提取.CNN层用于水位的局部感知提取特征,可以减少参数量和连接数,从而显著提高模型迭代的效率,为进一步利用循环神经网络提取深层时间特征奠定了基础.将经过预处理后的数据构建为S×τ×D的三维向量作为CNN层的输入.其中,S为样本数量(samples),τ为时间步长(timesteps),D为特征个数(features).数据通过输入层进入卷积层,卷积层包含数个特征面,每个特征面包含数个神经元,对数据进行特征提取.提取到的特征由激活函数处理得到神经元的输出,输入到池化层中.池化层与卷积层相同,包含数个特征面,池化层主要用于二次特征提取、简化数据量并利用其每个神经元进行采样.其中,n+1k(ω)为(ω)-∑Kk=1n+1k(ω)的维纳滤波,ωn+1k为此过程的模态函数功率谱的重心,γ为噪声容忍度,n+1k (ω),i (ω),i (ω)和(ω)分别是原信号un+1k (t),ui(t),f(t),λ(t)对应的傅里叶变换,n表示迭代次数.1.2CNN原理CNN在本质上是一种输入与输出间的映射关系.CNN所包含的权值共享特点降低了网络的复杂性,避免了特征提取和分类过程中数据重建的复杂度.CNN网络特有的局部感知野使得每个神经元只需对局部特征进行感知,然后在更高层将局部的信息综合就可得到全局信息.设x=(x1,x2,…,xn)为时间序列数据输入向量,n为每个窗口数值数量,xi为归一值,i为特征值索引,j为每个数据窗口的特征图索引.利用输入数据的数值xlij,第l个卷积层的输出值可表示为ylij=σbl-1j+∑Mm=1Wl-1m,jxl-1i+m-1,j .(8)式中,bl-1j 表示第j个特征图的偏置,W为核权重,M为过滤器大小,σ为激活函数.池化層降低表征的空间尺寸,以减少网络的参数量和计算复杂度,同时可以防止过拟合.池化层的计算可表示为plij=maxr∈R yl-1i×T+r,j.(9)式中,R为池化大小(R<y),T为确定池化区域步长,plij表示池化后的神经元值.1.3GRU原理GRU混合了细胞状态和隐藏状态,将LSTM中的遗忘门和输入门合并为一个单一的更新门,其结构如图1所示.相比LSTM模型,GRU的结构更加简单.其中:xt为t时刻的输入;yt 为t时刻隐藏节点的输出;ht为传递给下一个节点的隐藏状态;ht-1为t-1时刻的隐藏层状态,该隐藏层状态包含了之前节点的相关信息;rt为重置门;zt为更新门;σ为sigmoid函数;tanh为激活函数,将数值限制在-1~1之间;t为候选隐藏层状态.GRU的数学原理如下:rt=σ(xtWxr+ht-1Whr+br),(10)zt=σ(xtWxz+ht-1Whz+bz),(11)=tanh(xtWhx+rt⊙ht-1Whh+bh),(12)ht=(1-zt)⊙ht-1+zt⊙t.(13)其中:Wxr,Whr,Wxz,Whz,Whx,Whh表示输入向量与重置门、更新门和候选隐藏层状态之间相对应的权向量;br,bz,bh是偏置变量;⊙表示按元素相乘.2模型建立2.1模型的输入及输出目前,过程驱动模型与数据驱动模型被广泛运用于时间序列的预测.本文建立的VMD-CNN-GRU模型属于数据驱动模型方法的一种,有效避免了传统过程驱动模型需要进行过程近似模拟、大量未知输入数据以及模型参数的缺陷,同时兼备计算速度快、输入参数少且不需考量中间过程的物理机制的优点,只需要寻求输入输出变量间的最佳映射关系.本文模型与现有模型相比具有较强的数据处理和映射功能,仅需将采集到的水库水位数据作为输入向量按比例划分后直接输入模型进行学习、映射,得到输出向量.从预报成果来说,预报方案满足《水文情报预报规范》(GB/T 22482—2008)[16]要求,并取得理想的成果,可应用于实际预测.2.2基于VMD-CNN-GRU的水库水位预测模型VMD-CNN-GRU水库水位预测混合模型具体参数如表1所示.VMD-CNN-GRU水库水位预测混合模型整体结构如图2所示.VMD-CMM-GRU水位预测模型具体运算步骤如下:1)步骤1:数据预处理①缺失数据补足根据数据缺失特征,选择相应的数据缺失方法进行数据补足.②基于自适应变分模态分解的数据处理EMD算法具有不需要人为设置和干预的自适应性,对未知数据无需进行分析研究,直接对其进行循环迭代,便可将原始混合信号x分解成n个模态,n个模态又被分为n-1个子信号和1个残差项,其目标函数式为。
基于GRU-BP组合模型的湖泊水位预测方法探索

基于GRU-BP组合模型的湖泊水位预测方法探索刘惟飞;陈兵;余周【期刊名称】《中国农村水利水电》【年(卷),期】2022()11【摘要】为改善传统循环神经网络预测梯度消失的问题,并探讨组合模型在水位预测中的应用,提出了一种基于门控循环单元(Gated Recurrent Unit,GRU)和BP神经网络的组合预测模型,对广州市猎德涌的源头西湖水位进行预测。
研究以西湖3-7月的水文时间序列作为训练集,8月作为测试集,通过控制变量法确定了GRU-BP 模型的最佳参数。
该模型以西湖监测点的历史雨量及水位作为输入条件,预测未来1 h的水位过程,通过GRU融合层进行非线性分配单个模型框架的输出向量权重从而修正预测误差;利用并联式的集成方式能精确分配补水、排水时序变化及雨量等信息对水位增量的反馈权重。
结果表明,与基于卷积神经网络(CNN)和GRU的组合模型及GRU、长短时记忆网络(Long Short-Term Memory,LSTM)、BP相比,GRU-BP模型整体预测精度分别提高了10.6%,17.2%,32.5%,51.2%。
进一步选取短时间序列(3-4月)和典型雨季水文时间序列(5-7月)训练模型,并在参数不变情况下探讨了不同预测步长对模型精度的影响。
结果显示,使用数据驱动模型时,应尽可能选择典型及代表性的水文数据用于训练;模型对暴雨期及大雨期水位进行预测时,预测步长设置为30 min时,可以获得一定的提前时间,同时也能取得较好的预测精度;GRU-BP集成时的精确度与稳定性得到了提高,为湖泊水位预测提供了一种新的方法。
【总页数】8页(P58-65)【作者】刘惟飞;陈兵;余周【作者单位】华南理工大学环境与能源学院;广东省环境风险防控与应急处置工程技术研究中心【正文语种】中文【中图分类】TV8【相关文献】1.基于灰色-BP神经网络组合模型的水位预测案例2.基于集合经验模态分解与BP 组合模型的短期余水位预测3.基于SFLA-CNN和LSTM组合模型的水位预测4.基于卫星测高的湖泊水位监测及预测方法研究因版权原因,仅展示原文概要,查看原文内容请购买。
机器学习技术在曹娥江流域洪水预报中的应用

机器学习技术在曹娥江流域洪水预报中的应用
孙小洪;赵兵;孙逸群;石朋
【期刊名称】《浙江水利科技》
【年(卷),期】2022(50)2
【摘要】以逐步线性回归、正则化技术、L曲线方法等机器学习技术为理论基础,提出基于机器学习方法的水位预报模型,在此基础上建立曹娥江中下游流域的水位预报方案。
水位预报模型使用逐步回归方法以使用最少的预测变量数来实现最大化预测的能力,引入正则化方法及L曲线方法在应对复共线性问题的同时引入先验信息。
研究实现多模型方案的对比,分析历年场次洪水特征和重点水利工程对洪水预报精度的影响,提出基于机器学习方法的水位预报模型,在台风“烟花”中进行试运行,结果表明技术可行,方案模型准确。
并应用于曹娥江中下游流域,预报结果精准。
【总页数】5页(P83-87)
【作者】孙小洪;赵兵;孙逸群;石朋
【作者单位】上虞区虞东水闸运行管理中心;信阳市南湾水库管理局;河海大学水文水资源学院
【正文语种】中文
【中图分类】P338.9
【相关文献】
1.大型钢闸门支铰翻身技术在曹娥江大闸枢纽工程中的应用
2.贝雷架龙门吊及闸墩混凝土施工大型钢模一次成型技术在曹娥江大闸中的应用
3.信息智能融合技术在
曹娥江大闸安全监测系统中的应用4.高压摆喷灌浆技术在曹娥江大堤加固中的应用5.大钢模一次浇筑成型技术在曹娥江大闸混凝土闸墩施工中的应用
因版权原因,仅展示原文概要,查看原文内容请购买。
基于混合深度学习模型的洪水过程概率预报研究

2023年8月水 利 学 报SHUILI XUEBAO第54卷 第8期文章编号:0559-9350(2023)08-0889-10收稿日期:2022-09-23;网络首发日期:2023-04-19网络首发地址:https:??kns.cnki.net?kcms?detail?11.1882.TV.20230418.1158.001.html基金项目:国家重点研发计划项目(2021YFC3200301);国家自然科学基金项目(U20A20317)作者简介:崔震(1997-),博士生,主要从事水文水资源研究。
E-mail:zhencui@whu.edu.cn通信作者:郭生练(1957-),教授,挪威工程院外籍院士,主要从事水文水资源研究。
E-mail:slguo@whu.edu.cn基于混合深度学习模型的洪水过程概率预报研究崔 震1,郭生练1,王 俊1,2,张 俊2,周研来1(1.武汉大学水资源与水电工程科学国家重点实验室,湖北武汉 430072;2.长江水利委员会水文局,湖北武汉 430010)摘要:传统的人工神经网络模型无法量化洪水预报的不确定性,而且在多时段连续预报中未考虑输出的时间相关性。
本文通过融合新安江(XAJ)模型、基于外源输入编码-解码(EDE)结构的长短期记忆(LSTM)神经网络和混合密度网络(MDN),构建了XAJ-LSTM-EDE-MDN混合深度学习模型,以实现洪水过程概率预报。
该模型在考虑预报洪水时间相关性的前提下,将解码过程产生的点估计转化为条件概率分布的估计;进一步采用最大似然估计法建立了损失函数,通过自适应矩估计(Adam)算法优选模型参数。
在陆水和建溪两个流域的研究结果表明:该模型在不降低XAJ-LSTM-EDE模型预报精度的前提下,可有效反映预报洪水过程的不确定性,获得合理可靠的置信区间和优良的概率预报性能,为水库防洪调度等决策提供更多的风险信息,同时为研究深度学习在洪水概率预报中的应用提供参考。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
① 基金项目: 国家自然科学基金 (61866028, 61741312) Foundation item: National Natural Science Foundation of China (61866028, 61741312) 收稿时间: 2018-11-08; 修改时间: 2018-12-03; 采用时间: 2018-12-07; csa 在线出版时间: 2019-05-01
计算机系统应用 ISSN 1003-3254, CODEN CSAOBN Computer Systems & Applications,2019,28(5):196−201 [doi: 10.15888/ki.csa.006883] ©中国科学院软件研究所版权所有.
E-mail: csa@ Tel: +86-10-62661041
DUAN Sheng-Yue, WANG Chang-Kun, ZHANG Liu-Yan (School of Information Engineering, Nanchang Hangkong University, Nanchang 330063, China) Abstract: Aiming at the problems of low accuracy and over-fitting of traditional neural network model in flood forecasting process, this study takes the monthly average water level of Waizhou Hydrological Station in Ganjiang River Basin as the research object, and proposes a flood forecasting model based on regularized GRU neural network to improve the accuracy of flood forecasting. Relu function is selected as the output layer activation function of the whole neural network. To improve the generalization performance of GRU model, regularization of elastic network is introduced into GRU model, and regularizes the input weights in the network. The model is applied to the fitting and prediction of the monthly average water level at Waizhou Hydrological Station, and the experimental comparison shows that the model optimized by regularization of elastic network has a higher fitting degree, the qualified rate is increased by 9.3%, and the calculated root mean square error is small. Key words: time series; GRU; ElasticNet normalization; flood forecast; water level
196 研究开发 Research and Development
2019 年 第 28 卷 第 5 期
计算机系统应用
安全有着非常重要的意义. 一般来说洪水预测有 3 种 不同的方法, 经验法、统计法以及模型方法, 但水文系 统中多变量之间的非线性关系[1]远非传统方法能解决. 随着科学技术的快速发展, 如何把最新的科学技术引 入到水文预报中, 提高水文预报精度, 成为大家的关注 点. 随着人工神经网络[2]等非线性科学技术在各个行业 的广泛应用, 为解决上述问题提供了机遇.
ห้องสมุดไป่ตู้
我国是世界上洪水灾害频繁且严重的国家之一,洪 水灾害不仅范围大、发生频繁、突发性强, 而且损失 大. 特别是近年来, 受全球气候变化和人类活动影响, 极端天气事件和人为突发水事件明显增加. 为了防治 洪涝灾害, 我国投入了大量的人力、财力与物力,建设
了一批又批防洪工程, 大大加强了我国抗灾御洪的能 力. 与此同时, 我国还加强了非工程防洪措施. 其中, 洪 水预报就是预防洪水灾害的重要非工程措施之一, 也 一直是专家学者关心的课题. 因此提高洪水预测的准 确性, 减轻洪水带来的一系列灾害, 对整个流域的防洪
引用格式: 段生月,王长坤,张柳艳.基于正则化 GRU 模型的洪水预测.计算机系统应用,2019,28(5):196–201. /10033254/6883.html
Flood Forecast Based on Regularized GRU Model
基于正则化 GRU 模型的洪水预测①
段生月, 王长坤, 张柳艳
(南昌航空大学 信息工程学院, 南昌 330063) 通讯作者: 王长坤, E-mail: 2076885@
摘 要: 针对传统神经网络模型在洪水预测过程中存在准确性低、过拟合等问题, 本文以赣江流域外洲水文站每月 平均水位为研究对象, 提出基于正则化 GRU 神经网络的洪水预测模型来提高洪水预报精度. 选用 relu 函数作为整 个神经网络的输出层激活函数, 将弹性网正则化引入到 GRU 模型中, 对网络中输入权重 w 实施正则化处理, 以提 升 GRU 模型的泛化性能, 并将该模型应用于外洲水文站每月平均水位的拟合及预测. 实验对比表明, 弹性网正则 化优化后的模型预测拟合程度较高, 合格率提高了 9.3%, 计算出的均方根误差较小. 关键词: 时间序列; 门结构循环单元; 弹性网正则化; 洪水预报; 水位