小波神经网络研究进展及展望_陈哲

合集下载

一种深度小波过程神经网络及在时变信号分类中的应用

一种深度小波过程神经网络及在时变信号分类中的应用【摘要】本文介绍了一种新型深度小波过程神经网络及其在时变信号分类中的应用。

首先对深度小波过程神经网络的原理进行了详细解释，然后探讨了时变信号分类面临的挑战。

接着提出了深度小波过程神经网络在时变信号分类中的应用案例，并进行了性能评估与对比实验。

最后对模型进行优化与改进，总结研究成果并展望未来研究方向。

这一研究对于提高时变信号分类的准确性和效率具有重要意义，有望在实际应用中取得广泛的应用前景。

【关键词】深度小波过程神经网络、时变信号分类、应用案例、性能评估、模型优化、研究成果总结、未来展望1. 引言1.1 背景介绍近年来，随着时变信号在各个领域的广泛应用，时变信号分类成为了一个重要的研究课题。

时变信号具有时间和频率特征随时间变化的特点，传统的分类方法往往难以很好地处理这种类型的信号。

深度学习技术的发展为时变信号分类提供了新的思路和方法。

深度小波过程神经网络作为深度学习的一种扩展形式，结合了小波变换和神经网络的优势，在时变信号分类中展现出了良好的潜力。

随着计算机硬件性能的不断提升和大数据的普及，深度学习技术的应用也越来越广泛。

时变信号的复杂性和多样性使得深度学习在该领域面临着一系列挑战。

如何有效地捕捉时变信号中随时间变化的特征，如何提高分类的准确性和泛化能力，以及如何在实际应用中高效地处理大规模时变信号数据，都是当前研究中亟待解决的问题。

本文将介绍深度小波过程神经网络的原理，探讨时变信号分类的挑战，分析深度小波过程神经网络在时变信号分类中的应用案例，比较不同算法的性能，并探讨模型的优化和改进方法，旨在为时变信号分类领域的研究提供新的思路和方法。

1.2 研究意义时变信号分类是信号处理领域中一项重要的任务，涉及到许多实际应用领域，如医学诊断、工业监控、通信系统等。

随着科学技术的快速发展，时变信号的复杂性和多样性也在不断增加，传统的分类方法往往难以适应这种复杂的变化。

SSA-小波神经网络支持下的地铁沉降变形预测

SSA-小波神经网络支持下的地铁沉降变形预测摘要：沉降变形监测中，研究如何对监测的沉降数据进行处理，预测沉降量，对可能出现的安全隐患做出预判有着很重要的实际意义。

本文基于神经网络模型、小波分析和奇异谱分析（SSA，Singular spectrum analysis）的相关理论，构建起SSA-小波神经网络变形预测模型，并将模型应用于地铁工程沉降预测中。

通过对地铁累计沉降量观测数据进行预测，结果表明相比于单独的小波神经网络模型，SSA-小波神经网络模型的预测效果更佳稳定，且随着训练样本的增加，预测结果与实际情况更加符合。

关键词：奇异谱分析；小波分析；神经网络；变形预测；地铁沉降0 引言近些年来，随着社会经济发展与城市建设不断推进，地铁逐渐成为人们日常出行中必不可少的交通工具之一。

因此，地铁的安全运行也已引起人们足够的重视，为了避免地铁运行过程中可能存在的安全隐患，研究如何通过有限的地铁沉降监测数据构建起变形预测模型，以快速预测与分析将来某一时刻的变形具有重要的意义。

目前，对于沉降数据的处理方法有很多，如自回归模型、时间序列分析、卡尔曼滤波、小波分析、GM(1,1)模型等均在沉降监测数据处理中取得了一定的成果[1]。

对于沉降变形监测数据的处理，奇异谱分析（SSA，Singular spectrum analysis）的研究与应用还较少。

1 模型概述1.1 SSA原理奇异谱分析主要分为三个步骤，分别为轨迹矩阵构建、奇异值分解与序列重构。

假设有一个以为时间序列X={x|i=1,2,...,n}，对其进行奇异谱分析分为[3]：i（1）构建轨迹矩阵。

嵌入维数M的选择对于奇异谱分析效果至关重要，奇异谱分析前，首先确认合适的嵌入维数M（2≤M≤n/2），其中n表示时间序列长度。

确认好嵌入维数后，构建一个M×K的轨迹矩阵，其中K=n-M+1，轨迹矩阵可表示为：（1）（2）奇异值分解。

通过式（1）无法直接求得轨迹矩阵的特征值与特征向量，需先构建时滞矩阵C=XX T，求得时滞矩阵的特征值li 与特征向量Ui。

改进蛙跳算法的小波神经网络短时交通流预测

改进蛙跳算法的小波神经网络短时交通流预测【摘要】本文主要研究了如何通过改进蛙跳算法结合小波神经网络进行短时交通流预测。

首先介绍蛙跳算法和小波神经网络的基本原理，探讨了两种方法的优势和局限性。

然后提出了一种融合蛙跳算法和小波神经网络的方法，并设计了相应的实验进行验证。

通过对结果的分析和评价，发现该方法在交通流预测中具有较好的性能表现。

结论部分总结了小波神经网络与蛙跳算法的优势，展望了未来研究方向。

通过本文的研究，我们可以看到通过结合不同算法可以有效提高交通流预测的准确性和效率，为交通管理提供更好的决策支持。

【关键词】蛙跳算法、小波神经网络、交通流预测、短时预测、融合算法、实验设计、结果分析、性能评价、对比分析、优势、未来展望、总结。

1. 引言1.1 研究背景交通流预测是城市交通管理和规划中的重要问题，对于提高交通运输效率、缓解交通拥堵、改善城市交通环境具有重要意义。

由于交通流受多种因素影响，如车流量、道路状况、交通信号等，传统的交通流预测方法往往存在预测精度低、波动性大的问题。

本文旨在通过改进蛙跳算法，结合小波神经网络，实现对短时交通流的精准预测，以提高交通管理的效率和城市交通环境的质量。

1.2 研究意义交通流预测在城市交通管理中起着至关重要的作用。

准确的交通流预测可以帮助管理者制定更科学的交通规划，合理安排道路资源，改善交通拥堵状况，提高道路运行效率，减少交通事故发生概率，提高城市居民出行的便利性和安全性。

随着城市化进程的加快和交通量的持续增加，传统的交通流预测算法已经难以满足实际需求。

研究如何改进交通流预测算法具有重要的现实意义。

本研究致力于将蛙跳算法与小波神经网络相结合，以提高交通流预测的准确性和可靠性。

通过改进蛙跳算法和小波神经网络的结合方式，我们可以更有效地利用交通数据，挖掘数据之间的关联性，提高预测模型的泛化能力，从而提高交通流预测的精度和实用性。

本研究的成果将为城市交通管理提供更为可靠的决策支持，有助于改善城市道路交通状况，提高交通运行效率，为城市交通运输发展做出贡献。

小波神经网络及其应用

小波神经网络及其应用陆宇颖摘要：小波神经网络是将小波理论和神经网络理论结合起来的一种神经网络，它避免了BP 神经网络结构设计的盲目性和局部最优等非线性优化问题，大大简化了训练，具有较强的函数学习能力和推广能力及广阔的应用前景。

首先阐明了小波变换和多分辨分析理论，然后介绍小波神经网络数学模型和应用概况。

1. 研究背景与意义人工神经网络是基于生物神经系统研究而建立的模型，它具有大规模并行处理和分布式存储各类图像信息的功能，有很强的容错性、联想和记忆能力，因而被广泛地应用于故障诊断、模式识别、联想记忆、复杂优化、图像处理以及计算机领域。

但是，人工神经网络模型建立的物理解释，网络激活函数采用的全局性函数，网络收敛即,焦李神经网络2. 2.1()x ，使式中为的Fourier 变换。

对作伸缩、平移变换得到小波基函数系对任意2()()f x L R ∈,其连续小波变换定义为：反演公式为：在实际应用中，特别是计算机实现中，往往要把上述的连续小波及其变换离散化，通常采用二进制离散，即令2,2m m a b k ==，则二进小波一定是一个允许小波，且是一个正交小波基。

考虑一个连续的、平方可积的函数2()()f x L R ∈在分辨率2m 下的逼近()m f x ，由多分辨分析理论可知：()x Φ是尺度函数，对其作伸缩、平移变换得到()mk x Φ。

Mallat 同时证明了函数()f x 在2m 和12m -分辨率下的信息差别（即细节）()m D f x ，可以通过将函数()f x 在一小波正交基上分解而获得，从而定义了一种完全而且正交的多分辨率描述，即小波描述。

()mk x ψ就是式（5）定义的二进小波，则()f x 在12m -分辨率下的逼近式为：Mallat 并指出，对于任意一个函数2()()f x L R ∈可以在一组正交小波基上展开：式（11）是一个平方可积函数的小波分解，提供了小波神经网络设计的理论框架。

(完整版)小波神经网络的时间预测

基于小波神经网络的短时交通流预测摘要将小波神经网络的时间序列预测理论应用于短时交通流量的预测。

通过小波分解与重构获取交通流量数据中的低频近似部分和高频随机部分, 然后在分析各种模型的优、劣的基础上, 选取较有效的模型或模型结合方式, 建立了交通流量预测模型。

最后, 利用实测交通流量数据对模型仿真, 结果表明该模型可以有效地提高短时交通流量预测的精度。

关键词: 小波变换交通流预测神经网络1.背景众所周知, 道路交通系统是一个有人参与的、时变的、复杂的非线性大系统, 它的显著特点之一就是具有高度的不确定性(人为的和自然的影响)。

这种不确定性给短时交通流量预测带来了极大的困难。

这也就是短时交通流量预测相对于中长期预测更复杂的原因所在。

在交通流量预测方面,小波分析不是一个完全陌生的工具，但是仍然处于探索性的应用阶段。

实际上,这种方法在计算机网络的流量的预测中有着广泛的应用。

与计算机网络一样,车流也表现出复杂的习性。

所以可以把它的应用推广类比到交通流量的预测中来。

小波分析有着与生俱来的解决非稳定时间序列的能力, 所以常常被单独用来解决常规时间序列模型中的问题。

2.小波理论小波分析是针对傅里叶变换的不足发展而来的，傅里叶变换是信号处理领域里最为广泛的一种分析手段，然而他有一个严重的不足，就是变换抛弃了时间信息，变换结果无法判断某个信号发生的时间。

小波是一种长度有限，平均值为0的波形，它的特点包括：（1）时域都具有紧支集或近似紧支集；（2）直流分量为0；小波变换是指把某一基本小波函数ψ(t)平移b 后，再在不同尺度a 下与待分析的信号x(t)做内积。

dt a b t t x ab a WT x )()(1),(-=⎰*ψ〉〈==⎰*)(),()()(,,t t x dt t t x b a b a ψψ （2 — 1）等效的时域表达式为dt a b x ab a WT x ωωψωj e )()(1),(-=⎰* a > 0 (2 — 2) 3.小波神经网络小波神经网络是小波分析理论与神经网络理论相结合的产物，把小波基函数作为隐含层节点的传递函数，信号前向传播的同时误差反向传播的神经网络。

基于小波神经网络的某坦克炮平衡与定位控制的开题报告

基于小波神经网络的某坦克炮平衡与定位控制的开题报告1. 研究背景坦克炮平衡与定位控制是军事领域的重要研究方向。

其目的是为了在行驶中保证坦克炮及时准确地攻击目标。

传统的控制方法往往需要依靠大量的传感器和计算资源，而且容易受到环境因素的影响，具有较弱的鲁棒性。

因此，如何设计一种高效且鲁棒性好的控制策略成为了研究者的热点问题。

小波神经网络是一种新兴的数据处理方法，它能够高效地处理非线性、非平稳信号。

近年来，小波神经网络在机器学习、控制论等领域得到了广泛应用。

因此，结合小波神经网络的优点来设计坦克炮平衡与定位控制策略具有很大的发展潜力。

2. 研究内容本研究将基于小波神经网络设计坦克炮平衡与定位控制策略。

主要研究内容包括以下几个方面：（1）建立坦克炮平衡与定位控制的数学模型。

通过对坦克炮运动学、动力学等方面的研究，建立坦克炮平衡与定位控制的数学模型，为后续的控制策略设计提供基础。

（2）研究小波变换的原理及应用。

小波变换是一种基于多尺度分析的信号分解方法，能够提取信号的局部特征，并减少噪声的干扰。

因此，本研究将研究小波变换的原理及应用，并将其应用于坦克炮信号的预处理。

（3）设计小波神经网络控制器。

基于小波变换的预处理结果，设计小波神经网络控制器，用于实现坦克炮的平衡控制和定位控制。

（4）进行仿真实验验证。

通过对坦克炮平衡与定位控制的仿真实验，验证小波神经网络控制器的控制效果，并与传统的控制方法进行比较分析。

3. 研究意义本研究使用小波神经网络设计坦克炮平衡与定位控制策略，具有以下几点意义：（1）提高控制策略的鲁棒性和稳定性。

小波神经网络能够高效地处理非线性、非平稳信号，并具有很好的鲁棒性和稳定性，能够有效地提高控制策略的鲁棒性和稳定性。

（2）降低设备成本和重量。

小波神经网络能够减少传感器的数量和运算量，从而降低设备成本和重量。

这对于坦克炮这种重型装备来说具有很大的意义。

（3）促进小波神经网络在军事领域的应用。

小波变换与神经网络的结合在图像分析中的应用

小波变换与神经网络的结合在图像分析中的应用随着科技的不断发展，数字化技术在图像处理中的应用越来越广泛。

在图像分析领域中，小波变换和神经网络是两个重要的工具，它们可以互相结合，最终帮助人们更好地进行图像分析。

本文将探讨小波变换和神经网络的结合在图像分析中的应用。

一、小波变换的介绍小波变换是一种基于时间和频率分析的变换方法，它可以将信号分解为不同频率成分和时域特征。

相比于傅里叶变换，小波变换更适合处理非稳态信号，可以提取出更为准确的信息。

在图像分析中，小波变换可以用于图像压缩、去噪、边缘检测等方面。

通过分解和重构，小波变换可以将图像压缩到更小的尺寸，同时保留图像的主要信息。

此外，小波变换可以减少噪声在图像中的影响，提高图像的质量。

在边缘检测方面，小波变换可以定位图像中的边缘，并将其突出显示。

二、神经网络的介绍神经网络是一种基于生物神经系统的模拟技术，它通过多个节点（神经元）之间的连接，来实现信息的处理。

神经网络可以设置多个隐藏层，根据数据集不断进行学习，提高其对目标的识别准确性。

在图像分析中，神经网络可以用于图像识别、物体检测等方面。

通过对大量数据的学习，神经网络可以判断图像中是否存在目标物体，并将其与其他物体区分开来。

此外，神经网络还可以对图像进行分类，例如将不同的动物、车辆等分类出来。

三、小波变换与神经网络的结合小波变换和神经网络在图像分析中都有重要的作用，它们的结合可以更全面地分析图像。

以下是小波变换与神经网络结合的一些应用。

1. 基于小波变换的图像预处理在使用神经网络进行图像分析之前，需要对图像进行预处理。

由于神经网络对噪声、模糊等干扰比较敏感，因此需要使用小波变换来对图像进行去噪、边缘检测等处理，以提高神经网络的准确性。

2. 基于小波变换的神经网络训练方法神经网络的识别准确性与其所学习的数据集的质量有关。

在训练神经网络时，可以采用小波变换来对数据集进行压缩，从而减少神经网络的训练时间和计算量，提高训练效率。

基于小波和神经网络的图像压缩方法

基于小波和神经网络的图像压缩方法罗忠亮【摘要】针对图像压缩中压缩率与图像质量的折衷问题,综舍利用小波变换和神经网络各自的优点.采用小波和神经网络的方法进行图像压缩.该算法先对图像进行小波分解,保留低频系数,然后将高频系数输入训练的网络进行矢量量化编码达到压缩的目的,最后根据保留的低频系数和还原的高频系数重构图像.【期刊名称】《韶关学院学报》【年(卷),期】2010(031)003【总页数】4页(P25-28)【关键词】图像压缩;小波变换;神经网络;峰值信噪比【作者】罗忠亮【作者单位】韶关学院计算机科学学院,广东,韶关,512005【正文语种】中文【中图分类】TP301随着多媒体业务和通信技术的不断发展，数字图像中所包含的数据量日益庞大，如何让这些庞大的数据在网络中方便、快捷地传输，这对图像信息的存储和传输技术提出了挑战，而图像数据压缩技术是解决这个问题的关键［1-4］.通过图像冗余数据的减少可达到图像压缩的目的，在保证图像质量的条件下实现图像压缩.由于小波具有良好的时频局部特性和变焦特性并且能很好地体现人眼的视觉特性，而神经网络具有自学习、自适应性、强鲁棒性、高度并行处理能力和推广能力［5,6］.把小波和神经网络结合起来进行图像压缩一直是人们关注的问题.图像经过小波变换后分解为高频子带和低频子带，其中低频分量集中了信号的主要信息,高频部分表现为信号的细节信息.由于人的生理特性决定对细节信息的不敏感，故利用小波可以实现信号压缩的同时尽大可能地保留信号的主要成分［6］.采用小波变换和神经网络的方法进行图像压缩，实验证明比单纯BP神经网络或小波变换有较高的信噪比和压缩率.1985年，Ackley和Hinton等人首次把多层前馈神经网络模型用于数据压缩变换.上世纪80年代中后期，神经网络的研究取得很大进展，涉及的应用领域非常广泛. BP网络可直接提供数据压缩能力.利用多层前馈网络的模式变换能力实现数据变换的基本思想［2］：把一组输入模式通过少量的隐含层单元映射到一组输出模式，并使输出模式尽可能等于输入模式.当隐含层的单元数比输入模式数少时，就意味着隐含层能更有效地表现输入模式，并把这种表现传送到输出层.用于图像压缩的神经网络包括输入层、隐含层和输出层，隐含层的节点上小于输入节点数，输入节点数与输出节点数相同.学习时，图像数据既送到输入层，又送到输出层作为教师信号，所使用的学习算法为算法网络训练好后，输入层到隐含层为网络的编码过程，对图像数据进行线性或非线性变换，从隐含层到输出层为网络的解码过程，对经过压缩后的变换系数进行线性或非线性变换，恢复图像的原始数据. 用于学习的图像有N×N个像素点，各像素灰度值被量化为m比特（共2m个可能的取值）.2m个灰度值按线性关系转化成0～1之间的数值作为网络的输入和期望输出（教师模式）.网络随机地抽取各n×n图像块作为学习模式，用BP算法学习.通过调整网络中神经元间的连接权值，使训练集图像的重建误差E=f-g的均值达到最小.训练好的网络隐含层神经元矢量（经量化）便是数据压缩的结果，而输出神经元矢量便是重建的数据.其过程可用图1表示：通过对图像做小波分解可得到一系列不同分辨率的子图像，包括细节图像和近似图像.其中细节子图像大部分系数都接近零，因此，图像的能量主要集中在低频子带上，高频子带所占有的能量很少.从理论上说，由于f具有指数α∈(0,1)的Holder连续的充要条件［7］是：取a=2-j，b=k2-j，所以当j较大时，即高频时，小波变换(Wψf)(2-j,k2-j)的绝对值较小，而当j较小时，即低频时，小波变换的绝对值较大.故在高频部分压缩时，其压缩比可以较大，而在低频部分时，其进行压缩比可以较小，从而达到较好的压缩效果.矢量量化技术从20世纪80年代开始逐步完善起来，1980年由Linde,Buzo和Gray将聚类算法引入到矢量量化器中，提出了著名的矢量量化码书设计算法，即LBG算法.矢量量化的过程可以看成是从K维欧氏空间RK到其中一个有限子集Y的映射［8］.将图像分解后的小波系数看作是一个m维向量，然后把这m个数据截成M段，每段k个数据，形成M个k维数据向量，接着将这个M向量分为N组，每组用一个数据向量作为代表.设第i组的代表向量为yi,i=1,2,…,N.图像压缩时利用图像上数据向量的代表量来表示的，如果属于第i组，则这个数据向量就用这组的代表向量yi代替，此时编码就是在码书的相应位置上记下编号i，不必记下yi本身.记录yi的文件称为密码书.分类聚类问题是人工神经网络的主要功能之一，而无监督的聚类问题是指人工神经网络的学习表现为自适应于输入空间的检测规则，其学习过程为：给系统提供动态输入信号，使各神经元以某种方式竞争，“获胜者”神经元本身或其领域将会得到增强，进一步抑制其它神经元，从而将信号空间划分为有用的多个区域.把M个k维向量作为网络的M个输入样本，所分组数N作为神经元个数，通过一定的算法使网络学习，训练结果将使M个样本以一定规则分为N类，而神经元与输入样本向量之间的连接权值wij(i=1,2,…,N, j=1,2,…,k)就是第i组的中心向量.网络学习是将图像数据送入输入层作为训练样本，不断调整各层间的连接权值，使网络的输出均方差达到最小，获得稳定的连接权值训练样本，其算法可描述为：（1)初始化：设置最大学习次数Tmax，给出输出节点的个数N；输入节点个数k；输入节点j到输出节点i的权值wij，置所有权值为随机小数；从t=0开始学习. （2)计算：输入样本与所有输出节点连权向量wij的欧氏距离.（3)求出最小距离的节点：（4)调整与输出节点所连接的权值：其中的a选取如下：（5)若t=Tmax，则结束，否则转 (2).（1)对图像进行小波分解，得到每一层分解的低频系数和高频系数；（2)保留低频系数，将高频系数输入训练的网络进行基于神经网络的矢量量化编码，达到压缩；（3)根据码书还原高频系数；（4)根据保留的低频系数和还原的高频系数重构图像.实验中的图像采用标准Lena图像，对压缩后的图像质量的评价准则有图像压缩比，峰值信噪比PSNR，压缩算法计算法复杂性和人的视觉主观评价方法.笔者采用一般客观评价方法来评价重建后的图像质量：采用基于最小均方误差(MSE)的峰值信噪比(PSNR)来衡量［2］，均方误差越小，峰值信噪比越高，表明解压的图像质量越高.实验结果见图2和表1.对比压缩后的恢复图像可以看出，离散余弦变换法的(b)图和分块编码的压缩方法的(c)图的方块效应和蚊式噪声较明显，基于小波和神经网络的图像压缩算法的压缩性能较好，基本上看不出方块效应，解压缩的视觉效果好，同时获得较高的峰值信噪比.采用小波变换和神经网络的图像压缩编码方法取得了良好的图像压缩效果.在实际应用过程中，根据实际情况选择网络模型，改进网络算法以产生更好的效果.将神经网络和其它理论如奇异值分解和遗传算法等结合起来压缩图像，也许会有更高的峰值信噪比和压缩率.【相关文献】［1］王磊，邵国霞，何晔.基于奇异值分解自适应图像压缩的优化算法［J］.兰州理工大学学报，2009，35(5)：95-98.［2］王爱玲，叶明生，邓秋香.Matlab R2007图像处理技术与应用［M］.北京：电子工业出版社，2008：269-286.［3］陶长武，蔡自兴.现代图像压缩编码技术［J］.信息技术，2007，12:53-56.［4］Boul Gouris N V,Tzovaras D,Strinntzis M G.Lossless Image Compression Based on Optimal Prediction,Adaptive Lifting,and Conditional Arithmetic Coding［J］.IEEE Transactions on Image Processing,2001,10(1)：1-14.［5］陈哲冯，天瑾.小波分析与神经网络结合的研究进展［J］.电子科学学刊，2000，22（5）：496-504.［6］刘汉强.基于奇异值分解和小波变换的图像压缩算法［J］.福建电脑，2008，20(1)：55-56. ［7］程正兴.小波分析算法与应用［M］.西安：西安交通大学出版社，2001：36-76.［8］刘丹蕾，陈善学，韩静宇.一种基于小波变换和矢量量化的图像压缩算法［J］.数字通信，2009，5(4)：47-49.。

小波神经网络在股价预测中的应用

小波神经网络在股价预测中的应用摘要本文提出利用小波分解与重构技术构建小波神经网络短期预测模型的方法。

通过仿真实验确定了模型中重构的尺度，并对个股收盘价进行仿真实验，实验结果表明小波神经网络预测效果很好，具有实际的推广应用价值。

关键词时间序列；股票收盘价；股价预测；BP神经网络；小波神经网络；0引言股票市场是国民经济的“晴雨表”和“报警器”，其作用不仅被政府所重视，更受到广大投资者的关注。

对股票投资者来说，未来股价变化趋势预测越准确，对利润的获取及风险的规避就越有把握；对国家的经济发展和金融建设而言，股票预测研究同样具有重要作用。

因此对股票内在性质及预测的研究具有一定的理论意义和实际应用前景。

近年来随着计算机技术、浑沌、分形理论的发展，众多学者将股票市场看作是一个非线性的确定性动力系统[1]，小波神经网络（Wavelet NeuralNetwork-WNN）提出的一种新型网络，由于小波变换表现出良好的时频局域化特性，以及它的多分辨功能[4]，使基于小波分析理论构造的小波神经网络也表现出了良好的辨识性能，并且小波神经网络结构是以小波分析理论为依据，可以避免BP网络结构设计上的盲目性，因此，将小波神经网络应用于股价预测具有实际的应用价值。

本文将小波分析与神经网络结合，提出了基于小波分解与重构的神经网络预测方法，该方法利用小波分解使原来直接利用神经网络对价格波动进行预测的艰巨任务划分成几个相对简单的用神经网络对子波动进行预测的任务。

1 小波和神经网络的松散型结合本文提出了基于小波分解与重构的神经网络预测方法。

不同频率范围内的子波动序列来提高神经网络对股票价格的预测精度，实现了对特征不同的信号选取不同的参数模型进行预测。

该模型的创新点是：1）克服了用Mallat算法分解后，不同分解尺度的预测值对应原序列不同的时刻值，从而无法合成原序列某一时刻预测值的不足；2）由于小波分解对信号作了平滑处理，这样分解后的信号平稳性比原始信号好得多，这有利于提高神经网络的预测精度；3）实现了对特征不同的信号选取不同的参数模型进行预测，具体问题具体分析，有利于提高预测精度；4）该方法应用到股价预测可使不同类型交易者从各子波动的预测中得到不同信息。

1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。

综　述小波神经网络研究进展及展望陈　哲　冯天瑾(青岛海洋大学电子工程系,青岛,266003)摘　要　关于小波分析与人工神经网络结合的研究,近些年来已成为信号处理学科的热点之一,已有大量的研究成果见诸各种学术刊物和会议论文。

小波变换具有良好的时频局部性质,神经网络则具有自学习功能和良好的容错能力,小波神经网络(W NN )由于较好地结合了两者的优点而具有强大的优势。

作者较系统地综述了小波神经网络的研究进展,讨论了小波神经网络的主要模型和算法,并就其存在的一些问题,应用与发展趋势进行了探讨。

关键词　神经网络;小波分析;小波神经网络中图法分类号　T P 911.7小波自80年代提出以来,理论和应用都得到了巨大的发展,小波分析的出现被认为是傅立叶分析的突破性进展[1～3]。

多层感知器(M ultila yer Perceptr on,M L P)是一种广泛应用的神经网络模型,实践证明M L P 具有较好的空间映射能力和推广能力。

目前,神经网络的理论研究日趋深入,其重要发展方向之一,就是注重与小波、混沌、模糊集等非线性科学理论相结合。

小波变换具有时频局部特性和变焦特性,而神经网络具有自学习、自适应、鲁棒性、容错性和推广能力,如何把两者的优势结合起来,一直是人们关注的问题。

一种方法是用小波分析对信号进行预处理,即以小波空间作为模式识别的特征空间。

通过将小波基与信号的内积进行加权和来实现信号的特征提取,然后将提取的特征向量送入神经网络处理;另一种即所谓的小波神经网络(W av elet neura l netw or k,W NN )或小波网络,把小波变换与神经网络有机地结合起来,充分继承了两者的优点。

小波与前馈神经网络的结合是小波网络的主要研究方向,也是本文着重讨论的内容。

小波还可以与其它类型的神经网络相结合:例如用Koho nen 网络对信号做自适应小波分解[4],RBF 网络与小波的结合[5]等。

1　小波神经网络小波神经网络可看作是以小波函数为基底的一种函数连接型网络,也可以认为是径向基函数(Radial ba-sis functio n,RBF)网络的推广,但它又具有与一般前馈网络和RBF 网络所不同的特点,在神经网络研究领域中具有巨大的潜力。

现就其主要模型和算法综述如下。

1.1小波网络基本模型 Pati 和Krish napra sad [6]最早研究了神经网络与小波变换的联系,提出了离散仿射小波网络模型。

其思想是将离散小波变换引入神经网络模型,通过对Sig moid 函数的平移伸缩构成L 2(R )中的仿射框架,进而构造小波神经网络。

1992年Zhang Qing hua 和Benv eniste [7]明确提出了小波网络的概念和算法。

其思想是用小波元代替了神经元,即用已定位的小波函数代替S ig modi 函数作激活函数,通过仿射变换建立起小波变换与网络系数之间的联接,并应用于函数逼近。

随后Szu 等[8]又提出了基于连续小波变换的两种自适应小波神经网络模型。

一种用于信号表示,偏重于函数逼近;另一种偏重于选取合适的小波做特征提取,其实质是在小波特征空间中寻找一组最佳的小波基,因不涉及重构问题,小波的正交性要求不是很苛刻,第29卷　第4期 1999年10月青岛海洋大学学报J OU RN AL OF OCE AN UVIVE RSI TY OF Q INGDAO 29(4):663～668　 Oct.,1999　国家自然科学基金课题(69675005)资助收稿日期:1998-09-23;修订日期:1999-05-11陈　哲,男,1976年6月出生,硕士生。

664青　岛　海　洋　大　学　学　报1999年但提取信号的小波特征中应融入必要的不变性量并应具有鲁棒性。

Baskshi和Stepha no po lo us[9]采用正交小波函数作为神经元的激活函数,提出了正交多分辨小波神经网络。

依据多分辨率分析理论,把尺度函数和小波函数共同包含在网络中,并采用逐级学习的方法来训练网络。

即先在粗分辨率下(尺度函数)对信号进行逼近,而后由粗到细逐渐增加结点(小波函数)。

因正交小波基具有良好的时-频分辨性能,当信号剧烈突变时,网络可增加分辨尺度来保证逼近的精度。

此外,由于各函数基的相互正交性,训练过程中添加、删除网络结点不影响已训练好的网络权值,可使网络学习的时间大大缩短。

Zha ng Jun等[11]研究了Boubez等人[10]的工作,提出另一种正交小波基神经网络,选用正交且具有类紧支特性的尺度函数对函数进行逼近。

文章给出确定隐层单元数的算法,还对WN N与M L P和RBF网络进行了性能比较。

1.2小波网络的推广和改进小波网络的概念和模型提出以后,引起了广大学者的兴趣和研究,并对其模型和算法进行了若干改进。

焦李成等[12]在前人的基础上提出了多变量函数估计小波网络;沈雪勤等[13,14]针对神经元个数过多、网络学习收敛速度较慢的问题,在时频分析基础上引入了能量密度的概念,提出了基于能量密度的小波网络模型;最近,高协平和张钹[15,16]针对小波网络高维映射学习的维数灾问题分析指出:对定义在有限区间上能量有限信号的学习采用L2R上的小波多尺度结构是不理想的,其重新定义L2[0,1]上的多尺度分析,提出一种区间小波网络模型,并通过理论与模拟实例证明区间小波网络性能有明显的优势;焦李成[17]和李衍达[18]等人研究了小波网络与模糊逻辑的结合,用隶属函数表示权重值,构造了模糊权值、模糊输出的模糊小波网络模型;何振亚等[19]构造了一种自适应时延小波网络,用一个超小波进行逼近存在不同时延的信号,并给出了基于时间竞争的学习算法;文献[20]提出了一种小波神经网络的推广模型,网络中的激励函数和连接权重都取为非线性函数。

训练前馈神经网络常用的方法是BP算法,但BP算法普遍存在收敛速度慢的缺点。

Zhang Qingh ua首次提出小波网络模型时使用了随机梯度算法;Szu则使用了共轭梯度算法;姚骏等[21]提出基于离散小波的改进学习算法。

近年来,又出现了各种小波网络模型的算法研究,例如模糊小波网络的区间学习算法[17]、正交最小二乘算法[22]等。

关于代价函数的选择:最小均方误差是最常用的标准,此外还可以考虑选用其他的标准,如最小错分误差标准[23]、正交最小二乘标准[24]。

1.3其它问题讨论小波神经网络的研究除了模型和算法的研究外,还有许多值得探讨的问题,例如小波网络的分类和构造;小波基函数的选择;小波网络与其他网络的性能比较等。

1.3.1小波网络的分类①按小波基函数和学习参数的选取,可分为·连续小波网络　来源于连续小波变换的定义,其特点是基函数的定位不局限于有限离散值,冗余度高,展开式不唯一,无法固定小波参数与函数之间的对应关系,具有类似BP网络的非线性优化问题,但小波分析理论有助于网络的初始化并指导学习过程,使网络有较快的收敛速度。

·离散仿射小波网络　来源于离散仿射小波变换的反演方程,其理论基础是小波框架,但紧框架下的小波基不一定是正交基,可能不具有紧支特性,代表了一定的估值冗余。

该模型物理概念清楚、实现方便,因此应用较广。

·离散正交小波网络　基函数为L2(R)中的正交小波函数基,主要理论依据是Daubechies[25]的紧支撑正交小波及M alla t[26]的多分辨率分析,正交小波网络由于其基函数的正交性,对函数的逼近更有效,但正交基构造及网络学习算法较复杂,网络抗干扰能力较差。

②按小波基在网络中的作用不同,可分为:·激活函数型小波网络　小波函数在网络中代替了传统的Sig moid函数,激活函数为小波函数集,即用小波元代替了原来神经元的非线性特性。

·权重型小波网络　小波函数集在网络中充当若干组权重值,输入信号是信号与小波的内积。

此外,还可以是上述两种类型的综合,如选取不同的小波基在网络中分别充当激活函数和权重函数。

③按小波的维数不同,可分为:·一维小波网络　建立在L2(R)域中一维小波变换基础上,理论研究比较成熟,应用也较多。

已经证明,小波神经网络在逼近单变量函数时是渐近最优的逼近器[27]。

·多维小波网络　在一维基础上利用直积定义多维母波,或利用张量积构造多维正交多分辨率分析,并在此基础上可构造多维小波网络。

关于构造多维小波框架的理论可参考文献[28]。

有一点要说明的是,多维小波一般都具有方向性,但神经网络应用中对小波的方向性没有要求,因此可以用一个各向同性的函数通过平移伸缩产生多维小波框架。

1.3.2小波网络的构造小波神经网络的构造是一个重要的问题。

Zhang qinghua [29]用回归分析给出了构造小波网络的方法。

Pati 和Krishnaprasad [6]给出了小波网络综合的两种方法,系统地定义了网络的结构,提前确定了网络中的部分权重值,从而简化了网络的训练问题。

文献[30,31]也提出一种小波基函数网络结构设计的“分解-综合”方法,有效地减少了构造小波网络所需的小波基元。

1.3.3小波函数的选择构造小波网络时选择什么类型的小波函数,根据不同情况选择合适的小波基函差分方程求解[33],还可以选择几个sig moid 函数的线性组合作为小波函数;正交小波网络的小波基一般选择Daubechies 构造的具有紧支撑的正交小波。

1.4W N N 与RBF 和M L P 的比较 RBF 网络是一种特殊的三层前向神经网络,它用一组具有紧支集但往往是非正交的基函数来逼近函数;而W N N 是RBF 网络的推广,它用小波斜交或正交基来逼近函数,网络结点具有更小的冗余度。

M L P 基函数一般为Sigmoid(e )函数,e L 2,因而Sig moid 函数难以找到函数f ∈L 2所对应的反演公式,也难以保证非线性系统的唯一解。

M L P 的基函数相互不正交,权重的学习往往出现峡谷形误差曲面,学习收剑速度慢。

W N N 的基函数是正交或近正交小波基,权重之间相关冗余度很小,对某一权重训练不会影响其它权重,因而收剑速度快。

M L P 的学习算法常常忽视了许多包含在训练数据中的先验知识,因而忽略了权重初始化中潜在的简化问题,而W NN 的训练数据的预处理将导致训练问题的凸性,使在选择权重时更具指导性。

此外,Sig mo id 函数不满足框架条件,但三个Sig moid 函数的线性组合得到的带限小波函数却可以满足,因此WN N 可以近似等效为三个M LP 的组合,其估值能力近似是M L P 的三倍。

理论分析和实验均表明:小波神经网络具有逼近能力强、收剑速度快、网络参数(隐层结点数和权重)的选取有理论依据、有效避免了局部最小值等优点。