MP算法概述

合集下载

主要介绍MP

主要介绍MP

:稀疏表示的本质就是稀疏正规化约束下的信号分解。

提出一种改进的正交匹配追踪算法,使运算量较高的矩阵求逆运算转变为轻量级的向量运算或向量与矩阵的运算,可以加快逆矩阵和大矩阵乘积的求解主要介绍MP(Matching Pursuits)算法和OMP(Orthogonal Matching Pursuit)算法[1],这两个算法虽然在90年代初就提出来了,但作为经典的算法,国内文献(可能有我没有搜索到)都仅描述了算法步骤和简单的应用,并未对其进行详尽的分析,国外的文献还是分析的很透彻,所以我结合自己的理解,来分析一下写到博客里,算作笔记。

1. 信号的稀疏表示(sparse representation of signals)给定一个过完备字典矩阵,其中它的每列表示一种原型信号的原子。

给定一个信号y,它可以被表示成这些原子的稀疏线性组合。

信号y 可以被表达为y = Dx ,或者。

字典矩阵中所谓过完备性,指的是原子的个数远远大于信号y的长度(其长度很显然是n),即n<<k。

2.MP算法(匹配追踪算法)2.1 算法描述作为对信号进行稀疏分解的方法之一,将信号在完备字典库上进行分解。

假定被表示的信号为y,其长度为n。

假定H表示Hilbert空间,在这个空间H里,由一组向量构成字典矩阵D,其中每个向量可以称为原子(atom),其长度与被表示信号y 的长度n相同,而且这些向量已作为归一化处理,即|,也就是单位向量长度为1。

MP算法的基本思想:从字典矩阵D(也称为过完备原子库中),选择一个与信号y 最匹配的原子(也就是某列),构建一个稀疏逼近,并求出信号残差,然后继续选择与信号残差最匹配的原子,反复迭代,信号y可以由这些原子来线性和,再加上最后的残差值来表示。

很显然,如果残差值在可以忽略的范围内,则信号y就是这些原子的线性组合。

如果选择与信号y最匹配的原子?如何构建稀疏逼近并求残差?如何进行迭代?我们来详细介绍使用MP进行信号分解的步骤:[1] 计算信号y 与字典矩阵中每列(原子)的内积,选择绝对值最大的一个原子,它就是与信号y 在本次迭代运算中最匹配的。

微弱信号相关检测

微弱信号相关检测

微弱信号相关检测前言随着现代科学研究和技术的发展,人们越来越需要从强噪声中检测出有用的微弱信号,于是逐渐形成了微弱信号检测这门新兴的科学技术学科,其应用范围遍及光学、电学、磁学、声学、力学、医学、材料等领域。

微弱信号检测技术是利用电子学、信息论、计算机及物理学的方法,分析噪声产生的原电子学、信息论、计算机及物理学的方法,分析噪声产生的原因和规律,研究被测信号的特点与相关性,检测被噪声淹没的微弱有用信号,或用一些新技术和新方法来提高检测系统输出信号的信噪比,从而提取有用信号。

微弱信号检测所针对的检测对象,是用常规和传统方法不能检测到的微弱量。

对它的研究是发展高新技术,探索及发现新的自然规则的重要手段,对推动相关领域的发展具有重要的应用价值。

目前,微弱信号检测的原理、方法和设备已经成为很多领域中进行现代科学技术研究不可缺少的手段。

显然,对微弱信号检测理论的研究,探索新的微弱信号检测方法,研制新的微弱信号检测设备是目前检测技术领域的一大热点。

1.概述微弱信号是测量技术中的一个综合性技术分支,它利用电子学,信息论和物理论的方法,分析噪声产生的原因和规律,研究被测信号的特征和相关性,检测并恢复被背景噪声所掩盖的微弱信号,微弱信号的检测重点是如何从强噪声中提取有用信号,探测运用新技术和新方法来提高检测系统中的信噪比。

在检测淹没在背景噪声中的微弱信号时,必须对信号进行放大,然而由于微弱信号本身的涨落,背景和放大器噪声的影响,测量灵敏度会受到限制。

因此,微弱信号的检测有以下三个特点:(1)需要噪声系数尽量小的前置放大器,并根据源阻抗与工作频率设计最佳匹配(2)需要研制适合微弱信号检测原理并能满足特殊需要的器件(3)利用电子论和信息学的方法,研究噪声的成因和规律,分析信号的特点和想干关系。

微弱信号检测目前在检测理论方面重点研究的内容有:(1)噪声理论和模型及噪声的克服途径;(2)应用功率谱方法解决单次信号的捕获;(3)少量积累平均,极大改善信噪比的方法;(4) 快速瞬变的处理;(5)对低占空比信号的再现;(6)测量时间的减少及随机信号的平均;(7)改善传感器的噪声特性;(8)模拟锁相量化与数字平均技术结合。

利用遗传算法实现基于MP的跳频信号稀疏分解

利用遗传算法实现基于MP的跳频信号稀疏分解
,跳频信号的应用越来越广泛 ,而信号的稀疏表示在信号处理 的许 多方 面都 有着 重要 的应 用 。 将 跳 频信 号稀 疏分 解后 得 到 的稀 疏 表 示可 以方便 的应 用 到跳
频信 号 的参 数估计 及 后 续处 理 中去 。本文针 对 目前基 于 MP ( Ma t c h i n g p u r s u i t )的跳 频信 号 稀疏 分 解 中运 算量 巨大 的 问题 ,采用 遗传 算 法 ( GA) 快速地 寻找 MP算法 中每 一步分 解 的
最佳原子 ,提高 了 信号稀疏分解的速度。仿真分析验证 了此方法的有效性和适用性。 关键 词 :跳 频信 号 遗 传 算 法 稀 疏 表 示 稀 疏 分 解 Ma t c h i n gp u r s u i t( MP )
Us i ng g e ne t i c a l g o r i t hm t o r e a l i z e f r e que nc y ho ppi ng s i g na l s pa r s e de c o m po s i t i o n ba s e d o n M P
s p a r s e d e c o mp o s i t i o n b a s e d o n MP ( Ma t c h i n g p u r s u i t ) , g e n e t i c a l g o r i t h ms ( GA ) i s u s e d t o
2 0 1 3( 第六届 )全 国网络与信 息安全 学术会 议
Te l e co m ma r k e t
利 用 遗传 算 法 实现 基 于 M P的跳 频 信 号 稀 疏 分 解
秦乙 朱 卫纲 舒奇泉
( 1 . 装备学 院研 究生院,北京 1 0 1 4 1 6 ;2 . 装 备学院光 电装备系 ,北京 1 0 1 4 1 6 )

匹配追踪算法和基追踪

匹配追踪算法和基追踪

匹配追踪算法和基追踪英文回答:Matching Pursuit (MP) Algorithm and Basis Pursuit (BP)。

Matching pursuit (MP) and basis pursuit (BP) are two closely related algorithms used for signal reconstruction and decomposition. They are iterative greedy algorithmsthat aim to find the best representation of a signal as a linear combination of basis elements or atoms.Matching Pursuit Algorithm.MP is an iterative algorithm that starts with aninitial guess of the signal representation and then iteratively adds basis elements to the representation until a stopping criterion is met. At each iteration, MP selects the basis element that best matches the residual of the signal (the difference between the current representation and the original signal). The selected basis element isthen added to the representation, and the residual is updated.Basis Pursuit Algorithm.BP is a variation of MP that uses a regularization term to penalize the size of the representation. This regularization term helps to prevent overfitting and produces a more stable representation of the signal. BP solves a constrained optimization problem to find the representation that minimizes the sum of the squared error between the representation and the original signal and the regularization term.Applications.MP and BP are widely used in signal processing and machine learning applications, including:Signal denoising.Image compression.Feature extraction.Anomaly detection.Speech recognition.Advantages and Disadvantages.Advantages:Simple and computationally efficient.Can produce sparse representations.Can be used with a variety of basis sets.Disadvantages:Can be sensitive to noise.Does not always converge to the optimal solution.Can be slow for large signals.中文回答:匹配追踪算法和基追踪算法。

基于DCT过完备字典和MOD算法的图像去噪方法

基于DCT过完备字典和MOD算法的图像去噪方法

s , ER 一般情 况下并 不需要完 全准确 的对其重构 表达 , 较 为精确的稀疏逼近 即可满足要求 , 因此 , 问题 可 以转换 为 该
相 应 的稀 疏 逼 近 _ 问题 : 5 ]
mi af s l—Dal £ nl 0 t I l .1 s l
疏 表示 问 题 。
() 4
式中 , 为稀疏逼近误差 , 为 稀疏 字典 , e £ D 当 一0时 即为 稀
2 1 正 交 匹 配跟 踪 算 法 ( . OMP )
a nI ls I ri 口l .J 一 I £ l t o I 字典学 习 : 用下面公式更新字典
( 4 1)
基 于 L 范数 的非 凸性 , o 对于 上式来 说 , 如何 求 唯一解 是一个 典型的 N P难 问题 。为此 , 多学 者 提 出了多 种有 众 效 的稀 疏分解算法 , 主要有 Mp 、 MP 、 p 等 。其 中 E O E B[
理 的许多方面, 如信号去噪 , 编码和识别等 。
* 收 稿 E期 :0 1年 n 月 1 t修 回 E期 :0 1年 l l 21 7F, l 21 2月 2 日 3 基 金 项 目 : 北 省 自然 科 学 基 金 项 目( 号 :0 0 DZ 5 ) 助 。 湖 编 2 1C 0 7 资
完备 的 , 在这种 字典 基础 上的分解 系数 a是不 唯一 的。从 众多 的分解 系数中选取最为稀疏 的系数 , 可采用 L o范数进 行度量 , 以建立如下 的图像过完备稀疏表示模 型 : 可

S- D iI i  ̄l

I I o


( 2 1)
mi l . nl j l 0 s一 —— t r dd ‘ T= I 。 。

压缩感知的重构算法

压缩感知的重构算法

压缩感知的重构算法算法的重构是压缩感知中重要的一步,是压缩感知的关键之处。

因为重构算法关系着信号能否精确重建,国内外的研究学者致力于压缩感知的信号重建,并且取得了很大的进展,提出了很多的重构算法,每种算法都各有自己的优缺点,使用者可以根据自己的情况,选择适合自己的重构算法,大大增加了使用的灵活性,也为我们以后的研究提供了很大的方便。

压缩感知的重构算法主要分为三大类:1.组合算法2.贪婪算法3.凸松弛算法每种算法之中又包含几种算法,下面就把三类重构算法列举出来。

组合算法:先是对信号进行结构采样,然后再通过对采样的数据进行分组测试,最后完成信号的重构。

(1) 傅里叶采样(Fourier Representaion)(2) 链式追踪算法(Chaining Pursuit)(3) HHS追踪算法(Heavy Hitters On Steroids)贪婪算法:通过贪婪迭代的方式逐步逼近信号。

(1) 匹配追踪算法(Matching Pursuit MP)(2) 正交匹配追踪算法(Orthogonal Matching Pursuit OMP)(3) 分段正交匹配追踪算法(Stagewise Orthogonal Matching Pursuit StOMP)(4) 正则化正交匹配追踪算法(Regularized Orthogonal Matching Pursuit ROMP)(5) 稀疏自适应匹配追踪算法(Sparisty Adaptive Matching Pursuit SAMP)凸松弛算法:(1) 基追踪算法(Basis Pursuit BP)(2) 最小全变差算法(Total Variation TV)(3) 内点法(Interior-point Method)(4) 梯度投影算法(Gradient Projection)(5) 凸集交替投影算法(Projections Onto Convex Sets POCS)算法较多,但是并不是每一种算法都能够得到很好的应用,三类算法各有优缺点,组合算法需要观测的样本数目比较多但运算的效率最高,凸松弛算法计算量大但是需要观测的数量少重构的时候精度高,贪婪迭代算法对计算量和精度的要求居中,也是三种重构算法中应用最大的一种。

MP算法在去除脉搏基线漂移中的应用

MP算法在去除脉搏基线漂移中的应用

MP算法在去除脉搏基线漂移中的应用王利【摘要】The pulse signal was an important reference for medical research and clinical diagnosis. It was usually interfered by baseline drift during acquisition process. This paper used the matching pursuit algorithm to eliminate baseline drift of pulse signal , and the result was compared with the empirical mode decomposition algorithm. The experiment showed that compared with empirical mode decomposition algorithm, matching pursuit algorithm not only can suppress baseline drift, but also be able to keep the shape feature of the pulse signal unchanged.%脉搏信号是医学研究与临床诊断的重要参考依据.针对其在采集过程中极易受到基线漂移的干扰,提出使用MP算法消除脉搏信号中的基线漂移,并将结果与EMD算法的消噪结果进行了比较.仿真结果表明与EMD算法相比,MP算法不仅能够很好的抑制基线漂移,还可以有效的保留脉搏信号的波形特征.【期刊名称】《电子设计工程》【年(卷),期】2017(025)009【总页数】4页(P39-41,45)【关键词】匹配追踪;脉搏信号;基线漂移;消噪【作者】王利【作者单位】宝鸡文理学院电子电气工程系,陕西宝鸡 721013【正文语种】中文【中图分类】TN102脉搏信号蕴含了丰富的心血管系统的生理病理信息,是表征人体心血管系统生理病理状况的重要依据。

MP算法

MP算法

主要介绍MP(Matching Pursuits)算法和OMP(Orthogonal Matching Pursuit)算法[1],这两个算法虽然在90年代初就提出来了,但作为经典的算法,国内文献(可能有我没有搜索到)都仅描述了算法步骤和简单的应用,并未对其进行详尽的分析,国外的文献还是分析的很透彻,所以我结合自己的理解,来分析一下写到博客里,算作笔记。

1. 信号的稀疏表示(sparse representation of signals)给定一个过完备字典矩阵,其中它的每列表示一种原型信号的原子。

给定一个信号y,它可以被表示成这些原子的稀疏线性组合。

信号y 可以被表达为y = Dx ,或者。

字典矩阵中所谓过完备性,指的是原子的个数远远大于信号y的长度(其长度很显然是n),即n<<k。

2.MP算法(匹配追踪算法)2.1 算法描述作为对信号进行稀疏分解的方法之一,将信号在完备字典库上进行分解。

假定被表示的信号为y,其长度为n。

假定H表示Hilbert空间,在这个空间H里,由一组向量构成字典矩阵D,其中每个向量可以称为原子(atom),其长度与被表示信号y 的长度n相同,而且这些向量已作为归一化处理,即|,也就是单位向量长度为1。

MP算法的基本思想:从字典矩阵D(也称为过完备原子库中),选择一个与信号y 最匹配的原子(也就是某列),构建一个稀疏逼近,并求出信号残差,然后继续选择与信号残差最匹配的原子,反复迭代,信号y可以由这些原子来线性和,再加上最后的残差值来表示。

很显然,如果残差值在可以忽略的范围内,则信号y就是这些原子的线性组合。

如果选择与信号y最匹配的原子?如何构建稀疏逼近并求残差?如何进行迭代?我们来详细介绍使用MP进行信号分解的步骤:[1] 计算信号y 与字典矩阵中每列(原子)的内积,选择绝对值最大的一个原子,它就是与信号y 在本次迭代运算中最匹配的。

用专业术语来描述:令信号,从字典矩阵中选择一个最为匹配的原子,满足,r0 表示一个字典矩阵的列索引。

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

MP 算法概述
富爽
邸国辉高飞(黑龙江八一农垦大学,黑龙江大庆163319)引言在信号处理理论研究和工程应用中,信号分解是一个基础的问题,具有非常重要的意义,在信号处理与分析中起着很重要的作用,是一种常用、有效的分析手段。

传统的信号分解变换是将信号分解在一组完备的正交基上,而且这种变换必然是可逆的,如傅立叶变换,短时傅立叶变换,小波变换等。

然而这些变换方式却有着自身难以克服的缺点。

随着信号分解理论的发展,近年来信号的非正交分解引起研究者越来越多的兴趣。

为了实现对信号更加灵活、简洁和自适应的表示,在小波分析的基础上,
Mallat 和Zhang [1]提出了信号在过完备库上分解的思想,开创了信号稀疏分解这一信号分析的新方向。

目前,信号的稀疏分解已经发展了多种算法,如MP 、
基本跟踪(BP)算法、框架方法(MOF)和最佳正交基方法(BOB)等,其中M P 最为常用。

1MP 算法原理假定H 表示Hilbert 空间,定义H 中的原子库,且。

令信号,为了逼近f ,MP 首先从过完备原子库中选择最为匹配的一个原子,即满足。

这样信号f 可以分解为如下形式:,表示用原子,表示信号f 所产生的误差。

显然与是正交的,所以可以得到。

为了使得逼近误差的能量最小,必须选择使得最大。

在无穷维或高维的情况下,由于计算复杂度的限制,通常无法找到的极值,只可能选择在某种意义上的近似最佳原子,使得,其中α为优化因子,满足。

下一步对残差进行同样的步骤,得到,满足。

MP 算法是一个迭代过程,它通过不断地将信号残差投影到原子库中一个最匹配它的向量上,从而继续对它进行分解。

将上述分解过程一直执行到n 阶,
就可以得到:。

这样就获得f 在原子库D 中的n 阶逼近形式,而逼近误差记为R n f ,随着分解的进行误差能量呈逐渐衰减趋势。

MP 算法是收敛的,在不限制分解迭代次数的前提下,如果原子库是完备的,那
么分解式中原子向量的线性组合能够以任意精度逼近原始信号[2]。

2MP 算法改进MP 算法以其对信号灵活的自适应分解方式等优点,被迅速的应用与信号处理的多个领域。

但该算法在应用上仍存在瓶颈问题,主要是过为巨大的计算量。

因此国内外学者对其进行了各种改进。

近年来,高强等人提出了采用遗传算法,范虹等采用混合编码的遗传算法有效降低了M P 算法的计算量,但GA 存在早熟的问题;
李恒建等采用量子遗传优化来降低匹配追踪算法的计算量,而量子遗传算法本身的搜索速度较慢,此外,Silva 将遗传算法用于匹配追踪,提出了“进化追踪原子分解”
,并提出一种多字典原子分解实现方法,该方法存在字典存储量大的问题[3];
西南交大的尹忠科教授对此提出了使用原子库划分的方法解决字典存储量大的问题,并针对计算量大的问题提出了使用FFT 快速算法,通过用互相关运算代替内积运算来加快运算速度,而且还利用蚁群算法实现快速寻找M atching Pursuit (M P)过程每一步的
最优原子,大大提高了信号稀疏分解的速度。

随着研究的不断深入,运算速度比传统的MP 算法得到了成百上千倍的提高,但是计算量大的问题仍然是MP 算法在应用方面的瓶颈问题,有待继续得到解决。

3M P 算法应用M P 算法对信号自适应的灵活表达是传统的傅立叶变化或小波变换所无法比拟的,因其效率和逐步求精的框架使它的发展和应用赢得了广泛的关注和重视,涉及的主要应用场合有:3.1视频编码和视频压缩,特别是运动图像的估计与补偿。

许多文献针对视频压缩与编码问题,提出了许多新的字典以及字典搜索算法,在低位率的视频编码压缩中取得了比较成功的应用。

这也是M P 算法形成不久后就得到实际应用的领域。

3.2图像表示、分析和编码。

MP 算法在图像处理领域的应用不断得到研究人员的重视。

人们不仅从数学上证明了图像信息表示的稀疏性,并在生物视觉的初级过程中找到了这种“过完备-稀疏”
表达的证据,从另一个方面推动了利用MP 算法对图像进行稀疏分解的研究进展。

3.3医学信号处理领域。

医学信号分析处理一直是信号处理中非常活跃的领域,M P 就被应用于其中,如EEG 信号的时频分析与压缩,
呼吸与心跳速率的分析检测等。

3.4语音与音频信号处理。

MP 的思想最初出现于统计数据处理与语音信号处理领域,在其完善的过程中也是以语音信号作为研究实例,如高分辨率的声音信号分析,自适应的音频分解。

高分辨率MP 就是为特征提取发展起来的。

3.5特征提取与目标识别领域。

1997年K .Wang 和D .M .Goblirsch 将随机匹配跟踪算法用于动态语音特征的提取,增强了语音识别的效果。

1999年P.Runkle 等人将其与连续的隐M arkov 模型结合起来进行多特征目标识别。

在模糊系统识
别和人脸识别中也有学者进行了研究。

3.6电磁信号处理。

1997年M .R.M cClure 和L .Carin 报道了匹配跟踪对电磁散射问题(Scatter-ing Problem )的处理。

最近,Pascal Vincent 和Yoshua 还将其用于机器学习问题的求解,并提出了内核匹配跟踪的概念;T .Sato 和Y .Tada 则把匹配跟踪算法引入到雷达图像信号增强和识别中[4]。

3.7地震信号处理。

MP 算法一经提出,便很
快被应用于地球物理的地震信号处理领域。


1996年应用MP 分解算法对压缩的地震信号进行Kirchhoff 偏移计算;在2003年独立多分辨率分析和MP 算法对计算量和数据进行统计与行分析;在2004年以Ricker 子波为原子对地震信号进行时频分解;在2005年采用Morlet 小波为原子对地震信号进行MP 分解等[5]。

4结论MP 的基本思想是基于信号的可分解和重构,通过在过完备的库中自适应地搜索匹配能够表达信号局部特征的时频原子,最终将信号表示
为时频原子的线性组合。

正是由于其基本理念的广泛性以及灵活的自适应性,自从匹配追踪算法首次被提出之后,便引起了各界学者的重视。

国内
外很多高校和科研机构对基于MP 的信号稀疏分解的理论和应用进行了大量的研究,通过各种方法对算法进行优化,以减少其计算量和存储量的
应用瓶颈问题,以及其在图像、视频、语音、特征提取与目标识别等方面的应用,取得了重大的成果。

同时也是由于其普遍的适用性,所以根据不同行业对信号的先验知识,才呈现出了MP 算法的多
样性和特殊性,出现了针对不同信号的原子类别,产生了旨在提高迭代计算速度和面对实际应用的各种快速算法。

但过为庞大的原子库和过为巨大的数据计算量仍然是急需解决的主要问题。

这些阻碍MP 实际应用的制约因素同时也确切地体现着MP 算法自适应的灵活特征。

相信随着科学技术的不断发展以及广大学者的深入研究,更为丰
富的现实世界的信息一定会促进MP 算法的进一步发展。

参考文献[1]Mallat S ,Zhang Z.Matching pursuit with
time -frequency dictionaries [J].IEEE Trans.Signal Process ,1993,41(12):3397~3421.[2]邵君.基于MP 的信号稀疏分解算法研究[D].西
南交通大学,2006.[3]缑水平,焦李成,张向荣,李阳阳.基于免疫克隆与核匹配追踪的快速图像目标识别[J].电子与信息学报,2008,30(5):1104-1108.
[4]张文耀.基于匹配跟踪的低位率语音编码研究[D].中国科学院研究生院(软件研究所),2002.[5]陈发宇,尚永生,杨长春.Matching Pursuit 方法
综述[J].地球物理学进展,2007,22(5):1466-1473.
作者简介:富爽(1982~),女,伊春,研究方向为信号与信息处理。

邸国辉(1979~),男,大庆,研究方向为信号与信息处理、图像传输与处理。

高飞(1982~),女,松原,研究方向为信号与信息处理。

责任编辑:于会兰摘要:MP 算法以其理念的广泛性和灵活的自适应性,提出后便迅速发展并在图像、视频、语音、特征提取与目标识别、医学、地震信号处理等
方面取得了广泛应用。

首先对MP 算法的原理进行了简单介绍,
然后总结了国内外学者对其进行的各种改进的方法及思路,介绍了MP 算法的国内外研究现状,最后总结了MP 算法在众多领域的广泛应用,并展望了其广阔的发展前景。

关键词:匹配追踪;稀疏分解;
信号处理-23-科技论坛。

相关文档
最新文档