基于压缩感知理论的重构算法研究

Survey on reconstruction algorithm based on compressive sensing
Li Shen1,2, Ma Cai-wen1, Li Yan1, Chen Ping1
(1.Xi’an Institute of Optics and Precision Mechanics of CAS, Xi’an Shaanxi 710119, China；2.Graduate University of Chinese Academy of Sciences, Beijing 100039, China）
1
压缩感知理论简介
1.1 基本思想 可压缩（稀疏）的定义：考虑一个一维信号 x∈RN×1，都可以用N× 1维基向量 i i 1 线性表
N
示。 为了简化问题， 假设基向量为规范正交向量， 使用 N× N 的基矩阵 1 | 2 | ... | N , 信号 x可以被表示为：
x si i
信号稀疏域的选取，是压缩感知理论的基础和 前提。二、观测矩阵的选取，已经证明大部分 具有一致分布的随机矩阵都可以作为观测矩 阵。三、重构算法的设计，由于压缩感知采用 的是全局非自适应测量方法，观测数量远远少 于信号长度，从而数据采集量大大减少。但是 需要付出的代价是信号重建算法的软件成本。 因此， CS 重构算法的好坏直接影响到 CS 理论 是否实用。
i 1
N
or
S
(1)
数量比它的长度少得多。 可以说， 许多自然界的 信号在某种程度上都是稀疏的或可压缩的， 当以
*基金项目：陕西省自然科学基金资助项目（2012JM8021） 作者简介： 李珅 （1980—） ， 女， 河北乐亭人， 在读博士， 主要从事压缩感知和图像超分辨率分析方面的研究工作。 Email:waterblue_333@
Property, RIP）
[10][11]
min T X
0
s.t. Acs X T X Y
(4)
然而统计理论和组合优化理论告诉我们， 组合优化是一个 NP 难问题，当 N 很大时，数 值上无法有效实现， 且抗噪声能力很差； Candes, Tao 和 Donoho 等人已证明，当测量矩阵 满 足约束等距性质 (Restricted Isometry Property, RIP)时，组合优化问题(或称，l0 约束优化问题) 可转化为数值上容易处理 l1 约束的凸优化问 题：
大多数随机矩阵都满足RIP，如高斯随机测量系 和伯努利随机测量系。文献 [13] 的工作告诉我 们： 在某种意义上说， 选择随机测量对于稀疏矩 阵来讲是一种最佳策略，只需要几乎最少的m个 测量便可恢复稀疏度为S≤m/log(n/m)的信号，而 且分析时所需要的常量都很小。 第二类为非相关 测量系，即测量矩阵和变换基Ψ是不相关的，其 不相关性可以通过测量它们之间的相关系数， 文 献[14]给出了测量矩阵Ф和变换基Ψ的相关系数 μ = N1/2maxi,k|<Ψi, Фi>|， μ越小说明测量矩阵Ф和 变换基Ψ的不相关性越大，测量所需要的数目也 越少。 第三步：重构信号x，区别于奈奎斯特理论 的线性感知问题，由于观测数量m远远小于信号 长度n， 重构面临着求解一个欠定方程组的问题。 当信号x是稀疏或可压缩的，求解欠定方程组的 问题可以转化为最小0范数问题如式(4)：
，m n ）对系数向量进
行线性变换，并得到观测集合 m1 ，则可以通 过求解最优化问题来精确地重构信号X。 1.2 压缩感知采样过程 基于CS理论实现信号压缩的采样过程为： 第一步：找到某个基或紧框架Ψ，使得信号 x在Ψ上是稀疏的， 并求出变换系数： S ＝ ΨT X ， 其中S是X的等价或逼近的稀疏表示。变换基 Ψ 的选择可以为某种已被广泛应用的基，如小波 基、傅里叶基、局部傅里叶基等[5][6]，其中关于 正交基的选择，可以参考文献[1]和文献[7]。另 外，可以使用紧框架（原子字典）来对信号进行 稀 疏 表 示 ， 如 曲 线 波 Curvelets[8] 和 轮 廓 波 Contourlets[9]， 这两类变换基具有更好的方向性， 并且各向异性， 少量系数即可有效地捕捉图像的 边缘轮廓，在边缘表示方面优于小波。 第二步：需要设计一个平稳的、与变换基Ψ 不相关的m× n维观测矩阵Ф，对S进行观测得到 观测集合Y=ФS＝ФΨTX，该过程也可以表示为 信号 x通过矩阵Acs 进行非自适应观测： Y=AcsX (其中Acs =ФΨT，称为CS信息算子)。需要关注的 问题是观测矩阵Ф的选取，需要保证稀疏向量S 从n维降到m维时重要信息不被破坏。在压缩感 知理论中，受限等距属性（ Restricted Isometry
压缩感知重构算法综述
李珅
1,2
Байду номын сангаас
，马彩文 ，李艳 ，陈萍
1
1
1
（1.中国科学院西安光学精密机械研究所 光电跟踪与测量室,陕西省 西安市 710119; 2.中国科学 院研究生院,北京 100039） 摘要：现代社会信息量的激增带来了信号采样、传输和存储的巨大压力，而近年来出现的压缩 感知理论(Compressed Sensing,CS)为解决该问题提供了契机。该理论指出：对于稀疏或可压缩的信 号，能够以远低于奈奎斯特频率对其进行采样，并通过设计重构算法来精确的恢复该信号。本文介 绍了压缩感知理论的基本框架，综述了压缩感知理论的重构算法，其中着重介绍了最优化算法和贪 婪算法并比较了各种算法之间的优劣，最后探讨了压缩感知理论重构算法未来的研究重点。 关键词：信号采样; 压缩感知; 稀疏; 重构算法 中图法分类号： TP301.6 文献标识码：A
的需求也在剧增。传统的信息采样是基于香农 采样定理，它指出信号的采样率不低于最高频 率的两倍，信号才能被精确的重构。该理论支 配着几乎所有信号的获取、 处理、 存储和传输。
*基金项目：陕西省自然科学基金资助项目（2012JM8021） 作者简介： 李珅 （1980—） ， 女， 河北乐亭人， 在读博士， 主要从事压缩感知和图像超分辨率分析方面的研究工作。 Email:waterblue_333@
数据进行压缩，最后将压缩后的数据进行存储 或传输。显然，这样的方式造成很大程度的资 源浪费，同时也提出了一个问题[1]：既然在压 缩中需要丢弃大多数数据，为什么不在采样时 直接取得我们需要的重要数据？ 近年来，D.Donoho、E.Candes 及华裔科学 家 T.Tao 等人提出了一种新的信息获取理论－ 压缩感知 (Compressive Sensing) ，以下简称为 CS。 该理论指出[1]：对于可压缩的信号，可以 通过低于或远低于奈奎斯特标准的方式对其进 行数据采样并精确重构该信号。与香农定理不 同的是，压缩感知并不是直接测量信号本身， 它使用非自适应线性投影（感知矩阵）来获得 信号的整体构造从而直接得到重要的信息，忽 略那些在有损压缩中会被丢弃的信息。一般来 说， 压缩感知涉及三个比较重要的层面
Abstract：With the rapid demanding for information, the existing systems are very difficult to meet the challenges of high speed sampling, large volume data transmission and storage. Recently, a new sampling theory called compressive sensing (CS) provides a golden opportunity for solving this problem. CS theory asserts that a signal or image, unknown but supposed to be sparse or compressible in some basis, can be subjected to fewer measurements than traditional methods use, and yet be accurately reconstructed. This paper gives a brief overview of the CS theory framework and reviews the reconstruction algorithm of CS theory. Next, this paper introduces the basis pursuit algorithm and greedy algorithms and explores the difference between them. In the end, we briefly discuss possible implication in the areas of CS data reconstruction. Key words：information sampling; compressive sensing; sparse; reconstruction algorithm
min T X
1
s.t. Acs X T X Y
(5)
除此之外还有一些其它方法可以重构信号, 如:1）将 l0 范数松弛为 lp 范数；2）通过先验分 布引入稀疏性，再用 Bayesian 方法实现信号稀 疏 重 构 ； 3 ） 使 用 启 发 式 算 法 (heuristic algorithms) ， 如 借鉴图模型和 编码理论 中的 belief-propagation 和消息传递技术。
[2]
其中S是投影系数 si , i iT 构成 的N× 1维列向量。 显然， X和S是同一个信号的等 价表示，其中X是在时域或空间域的表示，S是 在Ψ域的表示。当信号可以仅被K个基向量线性 表示时，则称信号x为K-稀疏。当K<<N时，如 果信号可以被很少的大系数和很多的小系数表 示的话， 则称信号x为可压缩的[2][3]。 假设信号为 稀疏的，那么对于0<p<2以及R>0有：