信息论的应用

学号：201122010835 姓名：李毅
信息论在图像处理中的应用
摘要：把信息论的基本原理应用到图像处理中具有十分重要的价值。

本文主要从评估图像捕捉部分性能的评估、图像分割算法这两个个方面阐述信息论在图像处理中的应用。

通过理论分析来说明使用信息论的基本理论对图像处理的价值。

关键字：信息论；图像捕捉；图像分割
第1章 引言
随着科学技术的不断发展，人们对图形图像认识越来越广泛，图形图像处理的应用领域也将随之不断扩大。

为了寻找快速有效的图像处理方法，信息理论越来越多地渗透到图像处理技术中。

文章介绍了信息论基本理论在图像处理中的应用，并通过理论分析说明其价值。

把通信系统的基本理论信息论应用于采样成像系统，对系统作端到端的系统性能评价，从而优化采样成像系统的设计，是当前采样成像系统研究的分支之一。

有些图像很繁杂，而我们只需要其中有意义的一部分，图像分割就是将图像分为一些有意义的区域，然后对这些区域进行描述，就相当于提取出某些目标区域图像的特征，随后判断这些图像中是否有感兴趣的目标。

第2章 图像捕捉部分性能评估
2.1 图像捕捉的数学模型
图像捕捉过程如图1所示。

G 为系统的稳态增益，),(y x p 是图像捕捉设备的空间响应函数，),(y x n p 是光电探索的噪声。

),(y x comb 代表采样网格函数，),(),,(y x s y x o 分别为输入、输出信号。

在这种模型下的输出信号
),(),()],(),([),(y x n y x comb y x p y x Go y x s p +*=
其中，∑--=
n
m n y m x y x comb ,),(),(δ，代表在直角坐标系下，具有单位采样间隔的采样设备的采样函数。

输出信号的傅立叶变换为：
),(),(),(),(v u N v u P v u GO v u S +=
其中：),(v u O 是输入信号的傅立叶变换，),(v u N 是欠采样噪声和光电探测器噪声和，),(v u P 是图像捕捉设备的空间频率响应。

图1 图像捕捉过程
2.2 性能评估
设信源X 通过系统后输出Y 。

根据信息论知，X 与Y 之间的互信息量),(Y X I 定义为：
)/()(),(X Y H Y H Y X I -=
)/()(),(Y X H X H Y X I -=
)(),(Y H X H 分别为X,Y 的熵，)/(),/(X Y H Y X H 为条件熵。

互信息量),(Y X I 的物理意义是输出Y 中得到的关于X 的平均信息量的大小。

显然),(Y X I 越大，Y 得到的关于X 的越多。

采样成像系统的目标是一致的。

把输入图像),(v u O 看着信源，我们希望输出),(v u S 中包含多的关于),(v u O 的信息，即希望二者的互信息量尽量大。

根据互信息量的定义，),(),,(y x s y x o 之间的互信息量为：
)],(/),([)],([)],(/),([)],([v u O v u S H v u S H y x o y x s H y x s H I -=-=
)],(/),([v u O v u S H 可以称为噪声熵。

因此可以用噪声熵)],([v u N H 代替，则上式可以改写为：
)],([)],([v u N H v u S H I -=
又I 可改写为：
dudv v u G v u P v u I p o ⎰⎰-+=])
,(),(),(1log[2122
φφ （1） ),(0v u φ是输入信号),(v u O 的功率谱。

可令2),(p p v u σφ=，则有
22
2),(),(),(),(p o n v u COMB v u P v u G v u σφφ+*= （2） 式（1），（2）是图像捕捉系统的基础。

第2章 图像分割算法
2.1 图像分割定义及方法概述
图像分割可借助集合的概念做如下的定义：令集合R 代表整个图像区域，对R 的分割可以看成将R 分成若干个满足以下条件的非空子集Rn R R ,,2,1 ;
(1)R R
n i i == 1 (2) 对所有的i 和j ，;,Θ=≠j i R R j i 有
(3) 对();,,,3,2,1TURE R P n i i ==有 (4) 对 ()
;,FALSE R R P j i j i =≠ 有
(5) 是连通区域i R n i ,,,3,2,1 =
其中)(i R P 是对所有在集合i R 中元素的逻辑谓词，Θ是空集。

对图像的分割可基于相邻像素在像素值方面的两个性质：不连续性和相似性。

区域内部的像素一般具有某种相似性，而在区域之间的边界上一般具有某种不连续性。

所以分割算法可据此分为利用区域间特性不连续性的基于边界的算法和利用区域内特性相似性的基于区域的算法。

基于区域的算法又主要分为区域生长法和特征向量聚类法。

另外根据分割过程中处理策略的不同，分割算法又可分为并行算法和串行算法。

在并行算法中，所有判断和决定都可独立地和同时地做出，而在串行算法中，早期处理的结果可被其后的处理过程所利用。

一般串行分割算法所需的计算时间常比并行分割算法要长，过程控制较复杂，但抗噪声能力也常较强。

2.2 基于最大熵原理的图像分割
图像的信息熵反映了图像的总体概貌。

若图像中包含目标，则在目标与背景可分割的交界处信息量(即熵)最大。

将Shannon 熵概念应用于图像分割时，依据是使图像中目标与背景分布的信息量最大，通过分析图像灰度直方图的熵，找到最佳阂值。

应用二值化进行图像分割，最终目的是通过对图像的处理把目标从背景中分割出来，即将图像分成两个区域：目标区和背景区，这样就得到了一幅二值图像。

在一幅含有目标的多灰度图像中，必然存在一个灰度t ，以它作为阈值，可使图像得到最佳二值化分割。

设t 将多灰度图像分成两个区域：一个区域的灰度值为t ~0，概率分布为F(t)=Pi ／Pl ，其中
∑===t i i l p p t i 0,,,2,1,0 。

该区域的熵为“一F(t)lnF(t)”；另一个区域的灰度值为
1~1-+L t 。

概率分布为1一F(t)，该区域的熵为“一(1一F(t))In(1一F(t))”。

则总的熵为H(F(t))=一F(t)1nF(t)一(1一F(t))In(1一F(t))。

根据信息论，当把目标从背景中最佳分割出来时，熵应最大。

所以，使H(F(t))最大的t 即为最佳阈值。

设由最大类间方差法得到的分割阈值为1t ，则H(F(1t ))=一F(1t )ln F(1t )一(1一F(1t ))ln(1一F(1t )；由一致性准则法得到的分割阈值为2t ，则H(F(2t ))=一F (2t )lnF(2t )一(1一F(2t ))In(1一F(2t )。

为了使分割后的二值图像同时具有最大类间方差和最大一致性，选择的阈值t 应满足min(1t ，2t )≤t ≤maX(，2t )，由于F 是t 的增函数，因此可以得到min(F(1t )，F(2t ))≤F(t)≤maX(F(1t )，F(2t ))。

根据最大熵法，最佳阈值*t 应为*
t =arg maxH(F(t))，即满足H(F(t))最大的t 的取值就是所要得到的最佳阈值*t 。

这就是基于最大熵原理的图像分割算法。

第3章 结论
随着信息技术的迅猛发展，信息理论在通信领域中发挥了越来越重要的作用，由于信息理论解决问题的思路和方法独特、新颖和有效，信息论已经渗透到其他科学领域。

随着计算机技术的发展，信息熵已经不仅仅在通信领域中使用。

将信息熵应用到图像处理中，对图像处理技术的发展有着重大的作用，使得图像处理的算法更加优良。

参考文献
[1]迟学芬，韩昌元，易志栋。

基于信息理论的采样成像系统匹配设计。

长春：吉林大学通信工程学院 130012
[2]迟学芬，于银辉，李秩群。

互信息量用于采样成像系统的评价。

长春：1000-1794（2001） 04-0024-05
[3]王晶，王华军。

基于信息论的图像分割算法研究。