压缩感知技术综述大学数字图像处理论文2016

《数字图像处理》课程论文

压缩感知技术综述

学院(系)：

专业：

班级：

学生姓名：

学号：

教师：

2016年5月1日

压缩感知技术综述

摘要：信号采样是模拟的物理世界通向数字的信息世界之必备手段。多年来，指导信号采样的理论基础一直是著名的Nyquist采样定理，但其产生的大量数据造成了存储空间的浪费。压缩感知（Compressed Sensing）提出一种新的采样理论，它能够以远低于Nyquist采样速率采样信号。本文详述了压缩感知的基本理论，着重介绍了信号稀疏变换、观测矩阵设计和重构算法三个方面的最新进展，并介绍了压缩感知的应用及基于压缩感知SAR成像的仿真。

关键词：压缩感知；稀疏表示；观测矩阵；SAR成像

Summary of compressed sensing technology Abstract: Signal sampling is a necessary means of information world physical world to the digital simulation. Over the years, the base theory of signal sampling is the famous Nyquist sampling theorem, but a large amount of data generated by the waste of storage space. Compressed sensing and put forward a new kind of sampling theory, it can be much less than the Nyquist sampling signal sampling rate. This paper introduces the basic theory of compressed sensing, emphatically introduces the new progress in three aspects of signal sparse representation, design of measurement matrix and reconstruction algorithm, and introduces the application of compressed sensing and Simulation of SAR imaging based on Compressive Sensing Keywords:Compressed sensing; Sparse representation; The observation matrix; SAR imaging

0 引言

Nyquist采样定理指出，采样速率达到信号带宽的两倍以上时，才能由采样信号精确重建原始信号。可见，带宽是Nyquist采样定理对采样的本质要求。然而随着人们对信息需求量的增加，携带信息的信号带宽越来越宽，以此为基础的信号处理框架要求的采样速率和处理速度也越来越高。解决这些压力常见的方案是信号压缩。但是，信号压缩实际上是一种资源浪费，因为大量的不重要的或者只是冗余信息在压缩过程中被丢弃。从这个意义而言，我们得到以下结论：带宽不能本质地表达信号的信息，基于信号带宽的Nyquist采样机制是冗余的或者说是非信息的。

于是很自然地引出一个问题：能否利用其它变换空间描述信号，建立新的信号描述和处理的理论框架，使得在保证信息不损失的情况下，用远低于Nyquist 采样定理要求的速率采样信号，同时又可以完全恢复信号。与信号带宽相比，稀

疏性能够直观地而且相对本质地表达信号的信息。事实上，稀疏性在现代信号处理领域起着至关重要的作用。近年来基于信号稀疏性提出一种称为压缩感知或压缩采样的新兴采样理论，成功实现了信号的同时采样与压缩。

压缩感知(压缩传感，Compressive Sensing)理论是近年来信号处理领域诞生的一种新的信号处理理论，由D. Donoho(美国科学院院士)、E.Candes(Ridgelet, Curvelet创始人)及华裔科学家T.Tao(2006年菲尔兹奖获得者)等人提出，自诞生之日起便极大地吸引了相关研究人员的关注Decode[1]。

简单地说，压缩感知理论指出：只要信号是可压缩的或在某个变换域是稀疏的，那么就可以用一个与变换基不相关的观测矩阵将变换所得高维信号投影到一个低维空间上，然后通过求解一个优化问题就可以从这些少量的投影中以高概率重构出原信号，可以证明这样的投影包含了重构信号的足够信息[2]。在该理论框架下，采样速率不再取决于信号的带宽，而在很大程度上取决于两个基本准则：稀疏性和非相干性，或者稀疏性和等距约束性[3]。事实上，压缩感知理论的某些抽象结论源于Kashin创立的范函分析和逼近论[4]，最近由Candes，Romberg[5],Tao 和Donoho等人构造了具体的算法并且通过研究表明了这一理论的巨大应用前景。目前国内已经有科研单位的学者对其展开研究。如西安电子科技大学课题组基于该理论提出采用超低速率采样检测超宽带回波信号。

显然，在压缩感知理论中，图像/信号的采样和压缩同时以低速率进行，使传感器的采样和计算成本大大降低，而信号的恢复过程是一个优化计算的过程。因此，该理论指出了将模拟信号直接采样压缩为数字形式的有效途径。从理论上讲任何信号都具有可压缩性，只要能找到其相应的稀疏表示空间，就可以有效地进行压缩采样[6]。

当前，压缩感知理论主要涉及三个核心问题[7]：

(1) 具有稀疏表示能力的过完备字典设计；

(2) 满足非相干性或等距约束性准则的测量矩阵设计；

(3) 快速鲁棒的信号重建算法设计。

压缩感知理论必将给信号采样方法带来一次新的革命。这一理论的引人之处还在于它对应用科学的许多领域具有重要的影响，如统计学、信息论、编码等。目前，学者们已经在模拟-信息采样、合成孔径雷达成像、遥感成像、核磁共振成像、深空探测成像、无线传感器网络、信源编码、人脸识别、语音识别、探地雷达成像等诸多领域对压缩感知展开了广泛的应用研究[8]。

本文围绕稀疏字典设计、测量矩阵设计、重建算法设计三个核心问题，综述了压缩感知理论以及与之相关的信号稀疏变换、观测矩阵设计、重构算法等一系列最新理论成果和应用研究[9]，描述了国内外的研究进展。

1 压缩感知技术理论框架

传统的信号采集、编解码过程如图l所示：编码端先对信号进行采样，再对所有采样值进行变换，并将其中重要系数的幅度和位置进行编码，最后将编码值进行存储或传输：信号的解码过程仅仅是编码的逆过程，接收的信号经解压缩、反变换后得到恢复信号。采用这种传统的编解码方法，由于信号的采样速率不得低于信号带宽的2倍，使得硬件系统面临着很大的采样速率的压力[10]。此外在压缩编码过程中，大量变换计算得到的小系数被丢弃，造成了数据计算和内存资源的浪费。

压缩感知理论对信号的采样、压缩编码发生在同一个步骤，利用信号的稀疏性，以远低于Nyquist采样率的速率对信号进行非自适应的测量编码[11]。测量值并非信号本身，而是从高维到低维的投影值，从数学角度看，每个测量值是传统理论下的每个样本信号的组合函数，即一个测量值已经包含了所有样本信号的少量信息。解码过程不是编码的简单逆过程，而是在盲源分离中的求逆思想下。利用信号稀疏分解中已有的重构方法在概率意义上实现信号的精确重构或者一定误差下的近似重构[12]。解码所需测量值的数目远小于传统理论下的样本数。

图1 传统编解码理论的框图

图2 压缩感知技术的编解码框图

2 压缩感知技术的基本理论及方法

假设有一信号)(N R f f ∈，长度为N ，基向量为),...,2,1(N i i =ψ，对信号进行变换：

αψψ==∑=f a f i N

i i 或1

显然f 是信号在时域的表示，α是信号在ψ域的表示。信号是否具有稀疏性或者近似稀疏性是运用压缩感知技术的关键问题，若(1)式中的α只有K 个是非零值)(K N >>者仅经排序后按指数级衰减并趋近于零，可认为信号是稀疏的。信号的可稀疏表示是压缩感知的先验条件。在已知信号是可压缩的前提下，压缩感知过程可分为两步[13]：

(1)设计一个与变换基不相关的)(N M N M <<⨯维测量矩阵对信号进行观测，得到M 维的测量向量。

(2)由M 维的测量向量重构信号。

2.1 信号的稀疏表示

文献[3]给出稀疏的数学定义：信号X 在正交基ψ下的变换系数向量为X T ψ=Θ，假如对于20<

R ，这些系数满足：

R p p i i p ≤≡Θ∑/1)||(||||θ 则说明系数向量Θ在某种意义下是稀疏的．文献[1]给出另一种定义：如果变换系数>ψ=

最近几年，对稀疏表示研究的另一个热点是信号在冗余字典下的稀疏分解．这是一种全新的信号表示理论：用超完备的冗余函数库取代基函数，称之为冗余字典，字典中的元素被称为原子[15]。字典的选择应尽可能好地符合被逼近信号的结构，其构成可以没有任何限制。从冗余字典中找到具有最佳线性组合的K 项原子来表示一个信号，称作信号的稀疏逼近或高度非线性逼近。

目前信号在冗余字典下的稀疏表示的研究集中在两个方面：

(1)如何构造一个适合某一类信号的冗余字典；

(2)如何设计快速有效的稀疏分解算法。这两个问题也一直是该领域研究的热点，学者们对此已做了一些探索，其中以非相干字典为基础的一系列理论证明得到了进一步改进。西安电子科技大学的石光明教授也对稀疏表示问题进行了认

真研究，并基于多组正交基级联而成的冗余字典提出一种新的稀疏分解方法。

2.2 信号的观测矩阵

用一个与变换矩阵不相关的)(N M N M <<⨯测量矩阵φ对信号进行线性投影，得到线性测量值y ：

f y φ=

测量值y 是一个M 维向量，这样使测量对象从N 维降为M 维。观测过程是非自适应的即测量矩阵少的选择不依赖于信号f 。测量矩阵的设计要求信号从f 转换为y 的过程中，所测量到的K 个测量值不会破坏原始信号的信息，保证信号的精确重构。

由于信号f 是是可稀疏表示的，上式可以表示为下式：

ααφΘ=ψΦ==f y

其中Θ是一个N M ⨯矩阵。上式中，方程的个数远小于未知数的个数，方程无确定解，无法重构信号。但是，由于信号是K 稀疏，若上式中的Θ满足有限等距性质(Restricted Isometry Property ，简称RIP)，即对于任意K 稀疏信号f 和常数)1,0(∈k δ，矩阵Θ满足：

k k f f δδ+≤Θ≤-1||||||||1222

2

则K 个系数能够从M 个测量值准确重构。RIP 性质的等价条件是测量矩阵φ和稀疏基ψ不相关。目前，用于压缩感知的测量矩阵主要有以下几种：高斯随机矩阵，二值随机矩阵(伯努力矩阵)，傅立叶随机矩阵，哈达玛矩阵，一致球矩阵等。

2.3 信号的重构算法

目前为止出现的重构算法都可归入以下三类[16]：

（1） 贪婪追踪算法：这类方法是通过每次迭代时选择一个局部最优解决来逐步逼近原始信号。这些算法包括MP 算法，OMP 算法，分段OMP 算法(StOMP)和正则化OMP(ROMP)算法。

（2） 凸松弛法：这类方法通过将非凸问题转化为凸问题求解找到信号的逼近，如BP 算法，内算法，梯度投影方法和迭代阀算法。

（3） 组合算法：这类方法要求信号的采样支持通过分组测试快速重建，如傅里叶采样，链式追踪和HHS(Heavg Hitters on Steroids)追踪等[17]。

可以看出，每种算法都有其固有的缺点。凸松弛法重构信号所需的观测次数最少，但往往计数负担很重：贪婪追踪算法在运行时间和采样效率上都位于另两类算法之间。由上面的分析可知：重构算法和所需的观测次数密切相关。当前，

压缩感知技术的信号重构问题的研究主要集中在如何构造稳定的、计算复杂度较低的、对观测数量要求较少的重构算法来精确地恢复原信号。

当矩阵Θ满足RIP 准则时。压缩感知技术能够通过对上式的逆问题先求解稀疏系数x T ψ=α，然后将稀疏度为K 的信号x 从M 维的测量投影值y 中正确地恢复出来。解码的最直接方法是通过0l 范数下求解的最优化问题：

αααΦψ=y t s l .||||0min 从而得到稀疏系数的估计。由于上式的求解是个NP —HARD 问题。而该最优化问题与信号的稀疏分解十分类似，所以有学者从信号稀疏分解的相关理论中寻找更有效的求解途径。文献[2]表明，1l 最小范数下在一定条件下和0l 最小范数具有等价性，可得到相同的解。那么上式转化为1l 最小范数下的最优化问题：

αααΦψ=y t s l .||||1min

1l 最小范数下最优化问题又称为基追踪(BP)，其常用实现算法有：内点法和梯度投影法[18]。内点法速度慢，但得到的结果十分准确：而梯度投影法速度快，但没有内点法得到的结果准确。二维图像的重构中，为充分利用图像的梯度结构。可修正为整体部分(Total Variation ，TV)最小化法。由于1l 最小范数下的算法速度慢，新的快速贪婪法被逐渐采用，如匹配追踪法(MP)和正交匹配追踪法(OMP)。此外，有效的算法还有迭代阈值法以及各种改进算法。

3 压缩感知技术有待研究的几个关键问题

压缩感知技术经过近年来的迅猛发展，已基本形成了自己的理论框架，包括基础理论、实现方法和实际应用。但是，压缩感知理论还有很多亟待解决的问题，为此本文列出了压缩感知有待解决的几个关键问题。

3.1 基础理论层面

（1）基于非正交稀疏字典的压缩感知信号重建理论[19]。在等距约束性准则驱动的可压缩信号压缩感知定理中，关于稀疏字典Ψ和测量矩阵Φ仅要求两者乘积Θ = ΦΨ满足RIP 。但是，测量矩阵设计部分关于压缩测量个数M 的界定还额外附加了假设条件，即稀疏字典Ψ是正交基。当测量矩阵Φ依然通过三种方式生成，但是稀疏字典Ψ不再正交时，Θ=ΦΨ是否满足RIP ？压缩测量个数M 的下限是否不变？由于过完备的稀疏字典才能保证表示系数具有足够的稀疏性或衰减性，进而能够在减少压缩测量的同时保证压缩感知的重建精度，所以需要设计鲁棒的测量矩阵Φ使之与过完备稀疏字典依然满足RIP ，同时需要重新估计压缩测量个数M 的下限，这时所需的压缩测量定会减少。

（2）自然图像的自适应压缩感知信号重建理论。虽然基于线性投影的压缩感知理论能够直接应用于自然图像这样的复杂高维信号，但是由于没有考虑到自

然图像的固有特性，诸如结构多成分性、高阶统计性等，对于自然图像压缩采样本身没有特殊的指导作用。事实上，相对于一维离散信号，自然图像的复杂性和高维性使之需要自适应的压缩采样和重建算法。

例如，基于图像多成分性的特点能够提高重建图像的峰值信噪比和视觉效果。注意到，压缩感知理论的大部分文献中，测量矩阵Φ都是线性的且设计好的，不需根据观测信号自适应地变化。对于自然图像，假如能够实现非线性自适应的压缩测量，压缩感知的压缩性能势必会获得大幅度的提高。目前，自然图像的自适应压缩感知信号重建理论基本空白。这项工作对压缩感知的理论推广和实际应用都具有重要意义。

3.2 实现方法层面

（1）基于学习的自然图像过完备字典设计。目前，基于构造方法的自然图像过完备字典设计具有很好的理论支撑，正则化几何方法、几何多尺度分析、基于信息论的“有效编码假设”为其奠定了坚实广阔的理论基础。但是，从国际上关于过完备字典设计的整体情况看，基于学习的自然图像过完备字典设计的工作非常少，主要在于：设计难度大、性能要求高，同时缺乏严格的理论支撑。这项工作对于稀疏字典和压缩感知都将是重要的理论完善。

（2）硬件易实现的确定性测量矩阵设计。在等距约束性准则驱动的可压缩信号压缩感知定理3、4中，要求稀疏字典Ψ和测量矩阵Φ的乘积Θ=ΦΨ满足RIP。其中，稀疏字典Ψ可以是正交的也可以是非正交的，测量矩阵Φ可以是随机的也可以是确定的。但是，面向应用且硬件易实现的测量矩阵应该具有以下基本特点：满足等距约束性、压缩测量个数少、采样计算成本低、存储矩阵的空间小、以及测量矩阵最好是确定性的。设计出硬件容易实现的测量矩阵和快速稳定的重建算法是将压缩感知理论推向实用的关键。

（3）噪声情形大尺度问题的快速鲁棒重建算法设计。快速稳定的信号重建算法是将压缩感知理论推向实用的关键技术之一，特别适用于纠错编码、核磁共振成像、NMR波谱研究等大尺度问题[20]。通常，基于最小化松弛算法的计算复杂度相对较高。因而，在最小化驱动的压缩感知理论完善工作的基础上，希望能够基于稀疏性自适应的贪婪迭代和基于多层超先验建模的非凸迭代思想设计适于噪声情形大尺度问题的快速鲁棒重建算法。

4 压缩感知技术的应用及仿真

4.1 压缩感知技术的有关应用

使用一定数量的非相关测量值能够高效率地采集可压缩信号的信息，这种特性决定了压缩感知应用的广泛性。例如低成本数码相机和音频采集设备；节电型

音频和图像采集设备；天文观测；网络传输；军事地图；雷达信号处理等等。以下归纳了压缩感知几个方面的应用：

(1) 数据压缩

在某些情况下，稀疏变换在编码中是未知的或在数据压缩中是不能实际实现的。由于测量矩阵是不需要根据编码的结构来设计的，随机测量矩阵可认为是一个通用的编码方案，而只有在解码或重建信号的时候需要用到。这种通用性在多信号装置(如传感器网络)的分布式编码特别有用。

(2) 信道编码

压缩感知的稀疏性、随机性和凸优化性，可以应用于设计快速纠错码以防止错误传输。

(3) 逆问题

在其他情况下，获取信号的唯一方法是运用特定模式的测量系统φ。然而，假定信号存在稀疏变换基ψ，并与测量矩阵φ不相关，则能够有效的感知的信号。这样的应用在文献[3]中的MR血管造影术有提到，φ记录了傅立叶变换子集，所得到的期望的图像信号在时域和小波域都是稀疏的。

(4) 数据获取

在某些重要的情况下，完全采集模拟信号的N个离散时间样本是困难的，而且也难以对其进行压缩。而运用压缩感知技术，可以设计物理采样装置，直接记录模拟信号离散、低码率、不相关的测量值，有效地进行数据获取[21]。基于RIP 理论，目前已研制出了一些设备，有莱斯大学研制的单像素相机和A/I转换器，麻省理工学院研制的编码孔径相机，耶鲁大学研制的超谱成像仪，麻省理工学院研制的MRIRF脉冲设备，伊利诺伊州立大学研制的DNA微阵列传感器。

4.2 仿真结果（两种情况下的SAR成像仿真）

本小结通过仿真实验对比基于传统脉压SAR成像和基于压缩感知SAR成像，仿真流程图如图3所示，仿真参数见表1，观测目标为一个孤立点目标。基于传统脉压成像实验中，脉压过程采用匹配滤波实现；基于压缩感知成像实验中，数据量为50%，重构算法采用正交匹配追踪法（Orthogonal Matching Pursuit）。

回波信号回波信号

Nyquist测量压缩测量

距离向脉压距离向重构

方位向脉压方位向脉压

图像图像

（a）基于传统脉压（b）基于压缩感知

图3 仿真流程图

表1仿真参数

参数数值单位

脉冲宽度10 s

信号带宽20 MHz

载频9.4 GHz 方位采样率600 Hz

飞行速度200 m/s

中心距离20000 m 仿真结果如图4和图5所示：

（a）距离压缩（b）目标图像

图4基于传统脉压的目标成像

（a）距离压缩（b）目标图像

图5基于压缩感知的目标成像

对比图4和图5，可以看出，采用匹配滤波方法得到的距离压缩结果有旁瓣，而采用压缩感知方法所得到距离向压缩结果中旁瓣被明显抑制。

5 总结

本文主要阐述了压缩感知技术的理论框架，基于压缩感知技术的编解码模型，以及压缩感知技术的三大核心问题。通过对两种情况下的SAR成像仿真实验说明了压缩感知技术是一种能够使用少量测量值实现信号准确恢复的数据采集、编解码理论。由于压缩感知技术对处理大规模稀疏或可压缩数据具有十分重要的意义。所以该技术提出后在许多研究领域得到了关注。目前，国外研究人员已开始将压缩感知技术用于压缩成像、医学图像、模数转换、雷达成像、天文学、通信等领域。作为国外刚出现的新技术，压缩感知技术的研究方兴未艾，将有着更广泛的应用前景。

参考文献

[1]石光明,刘丹华,高大化,刘哲,林杰,王良君.压缩感知理论及其研究进展[J].ACTA

Electronica Sinica 2013，37(5).

[2]张锐.基于压缩感知理论的图像压缩初步研究[J].Computer Knowledge And Technology

2010,6(4).

[3]E Candes and J Romberg. Quantitative robust uncentainty principles and optimally

sparse decompositions[J]. Foundations of Comput Math, 2012, 6(2): 227-254．[4]B Kashin.The widths of certain finite dimensional sets and classes of smooth

functions[J].Izv Akad Nauk SSSR,2011, 41(2):334-351．

[5]杨力华,戴道清,黄文良.信号处理的小波导引[M].机械工业出版社,2007.

[6]刘记红,徐少坤,高勋章.压缩感知雷达成像技术综述[J].信号处理,2011,27

（2）:251-260．

[7]谢晓春,张云华.基于压缩感知的二维雷达成像算法[J].电子与信息学

报,2010,32(5):1234-1238．

[8]Xiong Yanwei,Zhang Jianhua,Zhang Ping. Compressed sensing based multi-rate

sub-Nyquist sampling system[J].The Journal of China Universities of Posts and Telecommunications,2015,2(8):89-95.

[9]Shunsheng Zhang,Bo Xiao,Zhulin Zong.Improved compressed sensing for

high-resolution ISAR image reconstruction[J].Chinese Science Bulletin, 2014, 23:2918-2926.

[10]焦李成,杨淑媛,刘芳,侯彪.压缩感知回顾与展望[J].电子学报,2011(07):58-63.

[11]王天荆,郑宝玉,杨震.基于滤波的压缩感知信号采集方案[J].仪器仪表学

报,2013(3):88-92.

[12]LIU Yulin，WANG Kai，Qang Ruihua，HE Jiwei. Signal Recovery by Compressed Sensing

in IR-UWB Systems[J].Electronica Sinica,2012(02):339-344.

[13]Kezhi LI， Shuang CONG.State of the art and prospects of structured sensing

matrices in compressed sensing[J].Frontiers of Computer Science in China,2015

(05):665-677.

[14]LI Wei-wei， JIANG Ting， WANG Ning.Clustering compressed sensing based on image

block similarities[J].The Journal of China Universities of Posts and Telecommunications,2014(4):68-76.

[15] YANG， Xiaoming， LI， Zongjin， LI， Zhongxian.Improved Encapsulation Method

of Sensing Element for Cement-Based Piezoelectric Sensor[J].Transactions of Tianjin University,2010(5),346-349.

[16]于云,周伟栋.基于压缩感知的鲁棒性说话人识别参数研究[J].计算机技术与发

展,2016(3):89-93.

[17]陈守宁,郑宝玉,赵玉娟.基于显著性信息的压缩感知图像可分级编码[J].南京邮电大学

学报(自然科学版),2016(01):126-131.

[18]刘芳,武娇.结构化压缩感知研究进展[J].自动化学报,2013(12):111-116.

[19]尹宏鹏,刘兆栋,柴毅,焦绪国.压缩感知综述[J].控制与决策,2013(10):63-67.

[20]李佳,王强,沈毅,李波.压缩感知中测量矩阵与重建算法的协同构造[J].电子学

报,2013(01):247-253.

[21]文再文,印卧涛,刘,张寅.压缩感知和稀疏优化简介[J].信号处理,2012(3):142-147.