信息论与编码技术课程论文
信息论与编码技术论文
信息论与编码技术论文2009年06月02日星期二 06:21信息论与编码技术论文多媒体信息是未来人类获取信息最主要的载体，因此它已成为目前世界上技术开发和研究的热点。
视频信息作为多媒体信息中最被关注、数据量最大的一员，现在也正面临着一场其意义不亚于从模拟到数字的技术进步革新：从传统的矩形DCT变换编码到根据视频内容、划分对象、分别变换编码的新的编码方法。
一、传统的编码方式传统的视频编码是以视频信号的数字量为编码对象的，与视频信息的内容无关，无论是M-JPEG、MPEG-1还是MPEG-2，都是以DCT矩形变换块为变换编码单元，对DCT块内图像的亮度和色度进行特征取样，提取像素；采用帧间编码、运动估测技术，在参考帧帧内DCT编码的基础上，对DCT块内图像的像素特征进行差值预测编码。
基于矩形DCT编码的视频编码在设计思想上只考虑到对信号数据进行处理的需要（比如小的比特率以利于传输、高的比特率以保证质量），但未考虑视频信息--图像内容本身的含义和重要性，以及视频信息应用者的主观需求（比如部分内容的提取功能）。
另外，这种基?quot;块"的压缩算法在低码率时容易产生"方块效应"和"抽帧"，大大缩小了视频信息的应用领域。
小波变换是一种新的变换编码方法，它与DCT变换相比，考虑到了视频信号对不同应用环境的自适应性（不同的清晰度与比特率），可以将基础图像层与增强图像层分离编码传输，用户可根据实际情况选择是否打开增强图像层。
但无论用户选择是或否，被传送的视频信息却都是一样的。
二、基于内容对象的编码1、 VO与VOP概念的引入传统的视频编码方式是将整个视频信号作为一个内容单体来处理，其本身不可再分割，而这与人类对视觉信息的判别法则，也就是大脑对视神经导入的视觉信号的处理方法是完全不同的。
这就决定了我们不可能将一个视频信息完整的从视频信号中提取出来，比如：将加有台标和字幕的视频恢复成无台标、字幕的视频。
信息论与编码论文
信息论与编码题目信息论与编码之数据压缩姓名xxx学号2009xxxxxxx院系滨江学院成绩二Ｏ一一年十二月二十八日信息论与编码之数据压缩xxx南京信息工程大学滨江学院通信工程专业（x）班摘要:在计算机科学和信息论中，数据压缩或者源编码是按照特定的编码机制用比未经编码少的数据位元（或者其它信息相关的单位）表示信息的过程。
例如，如果我们将“compression”编码为“comp”那么这篇文章可以用较少的数据位表示。
一种流行的压缩实例是许多计算机都在使用的ZIP 文件格式，它不仅仅提供了压缩的功能，而且还作为归档工具（Archiver）使用，能够将许多文件存储到同一个文件中。
关键词：概述原理应用理论类型流行算法算法编码1.概述对于任何形式的通信来说，只有当信息的发送方和接受方都能够理解编码机制的时候压缩数据通信才能够工作。
例如，只有当接受方知道这篇文章需要用英语字符解释的时候这篇文章才有意义。
同样，只有当接受方知道编码方法的时候他才能够理解压缩数据。
一些压缩算法利用了这个特性，在压缩过程中对数据进行加密，例如利用密码加密，以保证只有得到授权的一方才能正确地得到数据。
数据压缩能够实现是因为多数现实世界的数据都有统计冗余。
例如，字母“e”在英语中比字母“z”更加常用，字母“q”后面是“z”的可能性非常小。
无损压缩算法通常利用了统计冗余，这样就能更加简练地、但仍然是完整地表示发送方的数据。
如果允许一定程度的保真度损失，那么还可以实现进一步的压缩。
例如，人们看图画或者电视画面的时候可能并不会注意到一些细节并不完善。
同样，两个音频录音采样序列可能听起来一样，但实际上并不完全一样。
有损压缩算法在带来微小差别的情况下使用较少的位数表示图像、视频或者音频。
由于可以帮助减少如硬盘空间与连接带宽这样的昂贵资源的消耗，所以压缩非常重要，然而压缩需要消耗信息处理资源，这也可能是费用昂贵的。
所以数据压缩机制的设计需要在压缩能力、失真度、所需计算资源以及其它需要考虑的不同因素之间进行折衷。
信息论与编码课程论文
《信息论与编码》课程论文——通过信息论对已有知识产生的新认识马赛1143031014《信息论与编码》课程是通信专业的一门基础课。
其讲述的理论——香农信息论是当今信息科学的基础，可以说没有信息论的理论支持，就没有当今的信息化社会。
通过对于信息论的学习，我认识到，信息论的贡献就是解释了什么是“信息”，同时使用数学工具，对信息及伴随它产生的各种事物概念进行了解析。
近代科学的重大飞跃往往都是因人类对于一个事物有了强有力的分析工具而产生的。
有了信息论这一近乎完备（存在一些缺陷）的解析理论，人类才得以驾驭信息，社会才有了长足的进步。
在学习时，我习惯于把正在学习的知识和自己已经掌握的知识进行联系。
通过这种方法，可以增进对正在学习知识的理解，同时对已掌握的知识也有新的认识。
下文中，列举了两个问题，同时使用信息论的角度去进行解释。
一、计算机的存储容量与信息量的联系当今的计算机已经十分普及。
存储容量，无论内存还是外存，都是判定一台计算机性能的重要指标。
现在的个人计算机硬盘容量已经达到了TB级别，而在20年前，几百MB的硬盘都十分罕见。
在追求更高的存储容量时，我们是否思考过存储的东西是什么？KB、MB、GB等单位究竟代表的含义是什么？这是计算机科学的基本知识：“8 bit = 1 byte”。
bit即“位”，这是计算机存储单元最基本的单位；而信息论中也将信息量——用于衡量信息的量的单位称为bit，这两个概念有什么联系吗？在课程讲解时提到过这个问题，幻灯片上的答案如是解释：两者代表着不同的概念，信息论中的bit代表着信息量；而计算机中的bit代表着计算机中的二元数字1和0。
我认为两者是同一种概念，都代表信息量，而计算机中的bit是更为细化的概念，单指计算机中的信息量。
信息的一种解释是：对于不确定性的消除。
信息量是对信息的一种衡量手段，描述对事件不确定性消除的程度。
而描述事件不确定性的量就是这个事件发生的概率，因此一个事件发生的概率与事件包含的信息量具有对应的关系。
信息论与编码
滨江学院《信息论与编码》课程论文题目阐述信息论院系电子工程系专业班级12通信3 班学生姓名学号教师杨玲成绩二Ｏ一四年十二月二十二日阐述信息论20122334942摘要：本文介绍了信息论的基础探究，通过本文可以让读者更好的去了解信息论的发展历史和应用。
现代社会是一个充满信息的世界，没有信息的世界是混乱的世界。
因而信息十分重要，随着社会信息化进程的加速，人们对信息的依赖程度会越来越高。
所以关于信息的研究——信息论也因运而生。
提到信息论就不得不提一个人——香农，他为信息论的发展做出了巨大的贡献。
信息论的主要基本理论包括：信息的定义和度量；各类离散信源和连续信源的信源熵；有记忆、无记忆离散和连续信道的信道容量；无失真信源编码和限失真信源编码定理等。
关键词：信息，信源，信源熵，信道容量、信源编码引言现代社会是一个充满信息的世界，没有信息的世界是混乱的世界。
因而信息十分重要，随着社会信息化进程的加速，人们对信息的依赖程度会越来越高。
结合所学知识和查阅相关书籍本文简要介绍了信息论的发展、和主要的几个基础理论，让人们更好的去了解信息论这门课程。
一、信息论的发展过程信息论理论基础的建立，一般来说开始于香农（C.E.Shannon）在研究通信系统时所发表的论文。
随着研究的深入与发展，信息论有了更为宽广的内容。
信息在早些时期的定义是由奈奎斯特（H.Nyquist）和哈特利（L.V.R.Hartley）在20世纪20年代提出来的。
香农被称为是“信息论之父”。
人们通常将香农于1948年10月发表于《贝尔系统技术学报》上的论文《A Mathematical Theory of Communication》（通信的数学理论）作为现代信息论研究的开端。
这一文章部分基于哈里·奈奎斯特和拉尔夫·哈特利先前的成果。
后来其他科学家维纳、朗格等科学家又对信息理论作出了更加深入的探讨。
使得信息论到现在形成了一套比较完整的理论体系。
信息论与编码课程论文
信息论与编码课程论文电子邮件安全与密码学的应用刘畅，200900840179山东大学威海分校机电与信息工程学院，威海 264209摘要：本文分析了传统电子邮件系统存在的安全性问题，探讨应用密码技术采弥补这些安全漏洞，并且绍了在安全电子邮件系统中使用的密码技术。
关键词：RSA；PGB；PEM1、概述随着计算机技术和网络技术的迅速发展，电子邮件的应用也越来越广泛．成为网络牛活中重要的组成部分，大有取代传统邮件之势。
作为一种新的信息传递技术，电子邮件以其简单、快捷、方便的优势被人们所接受和喜爱。
但是也存在一些问题妨碍了它的推广。
其中关键之一就是电子邮件的信息安全。
由于电子邮件技术在设计之初是为了科学家之间的通信方便，所以并来考虑信息安全因素。
但是髓着时代的发展。
尤其是电子商务的速成长。
作为其沟通手段的电子邮件的安全性问题就不得不受到高度重视。
人们很自然的想到把已经成熟的密码技术商用于电子邮件系统。
密码技术就是对信息进行重新编码。
从而达到隐藏信息内容使非法用户无法获取真实信息内容的一种手段。
本文就浅述一下密码技术安全电子邮件中的应用。
2、密码学简介2.1、加密的历史作为保障数据安全的一种方式，数据加密起源于公元前2000年。
埃及人是最先使用特别的象形文字作为信息编码的人。
随着时间推移，巴比伦，希腊等都开始使用一些方法来保护他们的书面信息。
对信息进行编码曾被Julias Caesar（恺撒大帝）使用，也曾用于历次战争中，包括美国独立战争，美国内战和两次世界大战。
最广为人知的编码机器是German Enigma机，在第二次世界大战中德国人利用它创建了加密信息。
此后，由于Alan Turing 和Ultra计划及其他人的努力，终于对德国人的密码进行了破解。
当初，计算机的研究就是为了破解德国人的密码，当时人们并没有想到计算机给今天带来的信息革命。
随着计算机的发展，运算能力的增强，过去的密码都变的十分简单了。
于是人们又不断地研究出了新的数据加密方式，如私有密钥算法和公有密钥算法。
信息论与编码论文
论最大熵原理及其应用摘要：熵是源于物理学的基本概念，后来Shannon在信息论中引入了信息熵的概念，它在统计物理中的成功使人们对熵的理论和应用有了广泛和高度的重视。
最大熵原理是一种在实际问题中已得到广泛应用的信息论方法。
本文从信息熵的概念出发，对最大熵原理做了简要介绍，并论述了最大熵原理的合理性，最后提及它在一些领域的应用，通过在具体例子当中应用最大熵原理，展示该原理的适用场合，以期对最大熵原理及其应用有更深刻的理解。
关键词：熵；信息熵；最大熵原理；不适定性问题1 引言科学技术的发展使人类跨入了高度发展的信息化时代。
在政治、军事、经济等各个领域，信息的重要性不言而喻，有关信息理论的研究正越来越受到重视，信息论方法也逐渐被广泛应用于各个领域。
信息论一般指的是香农信息论，主要研究在信息可以度量的前提下如何有效地、可靠地、安全地传递信息，涉及消息的信息量、消息的传输以及编码问题。
1948年C.E.Shannon为解决通信工程中不确定信息的编码和传输问题创立信息论，提出信息的统计定义和信息熵、互信息概念，解决了信息的不确定性度量问题，并在此基础上对信息论的一系列理论和方法进行了严格的推导和证明，使以信息论为基础的通信工程获得了巨大的发展。
信息论从它诞生的那时起就吸引了众多领域学者的注意，他们竞相应用信息论的概念和方法去理解和解决本领域中的问题。
近年来，以不确定性信息为研究对象的信息论理论和方法在众多领域得到了广泛应用，并取得了许多重要的研究成果。
迄今为止，较为成熟的研究成果有：E.T.Jaynes 在1957年提出的最大熵原理的理论；S.K.Kullback 在1959年首次提出后又为J.S.Shore 等人在1980年后发展了的鉴别信息及最小鉴别信息原理的理论；A.N.Kolmogorov 在1956年提出的关于信息量度定义的三种方法——概率法，组合法，计算法；A.N.Kolmogorov 在1968年阐明并为J.Chaitin 在1987年系统发展了的关于算法信息的理论。
信息论与编码论文
编码技术在单片机通信中的研究与应用摘要：计算机之间数据通讯的校验以奇偶校验或数据块和校验较为常见．在误码率稍显突出时，这种方式的数据通信效率就会降低．本文从实际出发，介绍了一种提高计算机通信效率的编译码方法，并以八位单片机为例，给出了软件实现编译码的设计．该设计对于提高单片机数据通信效率，减少误码率具有很强的实用价值．关键词：单片机；通信；编码；译码；纠错；抗干扰Application of the Coding to Data Communicatingin the MicroprocessorAbstract：There are two familiar methods of checking the accuracy of the data communicated between two computers．0ne is the method of counting the number of 0 or 1in the data．Another is the method of adding all data．When the mistake code rate is slightly outstanding ,the efficiency of the data communication will lower．Proceeding from actual condition，this test introduces a kind of the coding method and gives a design with 8 bit microprocessor .The method can raise the efficiency the data communication and cut down the wrong data．Keywords：microprocessor；communication; encoding；correcting code：anti-interference0 概述在数据通信中，误码率是项重要指标．误码可能发生在各个环节，大量实践证明，传输媒介是产生误码的主要来源．为了提高数据传输可靠性，人们开始广泛采用编码技术，通过编码以一定的规则产生一些附加数字(称为监督数字)，使原来不相关的信息序列变为相关的新列(称为码序或码字)，然后把新的序列发送出去．通过编码的方法使信息具有纠检差错的能力．该通信模型可简要地用图1表示．1 设计思想1．1选择编码形式人们已研究出许多编码方法，如奇偶校验码、汉明码、循环码和卷积码等．这些编码中，有的具有检错能力，有的既能检错、又能纠错．在众多的编码中，汉明码比较直观简单，传输信息数字的频率（即信息率)最高，它既具有检错能力，又具有纠错能力，而且软硬件实现起来也较为简单．本设计采用汉明码中纠1检2错线性码编码，当接收端发现接收的信息出现了一位差错时，在译码的同时也就完成了纠错；当出现两位差错时，能及时检出舍弃⋯．1．2 MCS-51编码方案设计对于Mcs ．5l 系列单片机的串行口来说，若接收和发送双方约定选用方式1工作时，串行口一次能够发送10位数码(1位起始位、8位数据位和l 位停止位)．接收缓冲器里一次只能存放一个字节数据．对于一个8位数码，若再加上一些监督位，则该码就超过8位，Mcs ．5 1单片机一次发送不能完成．若先发送8位信息，后发送监督位，则达不到纠1检2的目的．为此，一个8位信息可分为两组编码，即高4和低4位分别编码发送、分别纠检差错． 2 编码技术具体应用2．2 译码依据原则根据汉明码取最少的监督数字，包含最多的信息原则，来确定监督数字的位数．该原则可用公式：21mm -- 表达，式中m 为监督数字位数．该表达式运算结果即为所包含的最多有效信息．本例中取m=3(位)监督数字，则可包含4位有效信息，这时码长为：4+3=7(位)，根据一致监督矩阵的特点可知，一致监督矩阵的横行数等于监督数字的个数，纵列数等于码的长度．这样把1、2、⋯、7化为二进制数，然后把它们作为矩阵的纵列，组成一个矩阵，再按照一致监督矩阵排列得：在做一致监督矩阵时，要求包含：100r （）、 r r（010）、（001）.这3个纵列是为了保证矩阵中的每一横行线性无关，这样就能保证由这个一致监督矩阵做出的42=16个状态包含所有的信息．为了更加明确编程思路，简要介绍一下纠码原理．设c 为一个码字，根据一致监督方程的关系，则有：们7=0．根据此关系，设接收矢量为R ，则当0T HR =时，认为R 是一个正确的码字；若0T HR ≠时，则R 就不是一个正确的码字，即接收信息有错．假设接收矢量R 只包含一个差错，则利用监督子T T S HR =可确定这个差错的位置，从而可得到纠正．针对本例，设112277(,,,)R C E C E C E =+++ ，其中E 为错型，则T T S HR =展开后得:由式2可见，当接收矢量中只有一个差错时，监督子TS 就等于监督矩阵中的某一纵列，从而能纠正单个差错。
应用型本科院校“信息编码”课程教学论文
关于应用型本科院校“信息论与编码”课程教学的探讨与思考【摘要】信息论与编码是现代信息科学的一个重要组成部分，是数学在信息科学中的典型应用，也是信息与计算科学专业有别于其它数学类专业的一门非常重要的专业课程。
针对培养应用型本科人才的需要，通过将课程教学分为理论教学、实验教学和贯穿教学三个方面，系统阐述了信息与计算科学专业信息论与编码教学的理论和设计。
【关键词】信息与计算科学信息与编码学贯穿教学【中图分类号】 g71 【文献标识码】 a 【文章编号】 1006-5962（2012）08（b）-0004-01引言上个世纪末，教育部正式将信息与计算科学专业列为一个新的数学类专业，这是因为大批适应时代需求的高层次新型人才的社会需求量较大。
在这个背景下，我校于2004年申请并获得批准信息与计算科学专业，2005年正式招生。
信息论与编码作为信息与计算科学专业的基础课程，如何讲授和实践一直是各所大学都在探索的问题。
我校数学系全体教师经过7年的教学实践，形成了自己的教学特色，取得了较好的效果。
1 应用型本科院校的人才培养模式根据黑龙江省教育厅下达的《关于实施应用型本科院校建设试点的通知》，对目前信息与计算科学专业建设现状和毕业生就业情况进行了深入调查，我们数学系提出信息与计算科学专业应用型人才培养模式——“以理为本，以工致用、工程技术化”。
在信息论与编码专业课程中所涉及到的数学理论知识要低于基础数学专业的要求，但高于信息与电子类专业的要求，淡化理论和技巧，注重数学思想和应用数学解决实际问题的能力培养。
侧重实验教学，培养学生动手能力和应用能力。
2 信息论与编码的理论教学（1）从内容上，应使学生熟知信息基本概念、性质和特征；掌握狭义信息论的三个基本概念，即信源熵、信道容量、信息率失真函数和相关的性质和定理，以及与三个基本概念相对应的第一、第二、第三编码定理；信息论的目的、目标、基本思路和方法；编码的目的和针对不同目的（有效性、可靠性、安全性）所采用的基本思路、手段和编码方法；及其与信息论基本概念之间的关系等。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
本科生课程论文题目：互信息技术在数字图像配准中的应用姓名：学院：理学与信息科学学院专业：信息与计算科学班级：学号：指导教师：完成时间：2011 年7 月1 日2011年7月1日课程论文任务书学生姓名指导教师论文题目互信息技术在数字图像配准中的应用论文内容（需明确列出研究的问题）：图像配准是使两幅图像上的对应点达到空间上一致的一个过程。
本文介绍了一种基于最大互信息原理的图像配准技术。
并针对基于最大互信息图像配准的不足，研究了基于Harris角点算子的多模态医学图像配准。
在计算互信息的时候，采用部分体积插值法计算联合灰度直方图。
在优化互信息函数的时候采用了改进的遗传算法将配准参数收敛到最优值附近。
资料、数据、技术水平等方面的要求：论文要符合一般学术论文的写作规范，具备学术性、科学性和一定的创造性。
文字要流畅、语言要准确、论点要清楚、论据要准确、论证要完整、严密，有独立的观点和见解。
内容要理论联系实际，计算数据要求准确，涉及到他人的观点、统计数据或计算公式等要标明出处，结论要写的概括简短。
参考文献的书写按论文中引用的先后顺序连续编码。
发出任务书日期2011.06.23 完成论文（设计）日期2011.07.01 学科组或教研室意见（签字）院、系（系）主任意见（签字）目录摘要： (1)Abstract： (2)前言 (3)1 概述 (4)1.1 互信息与信息论 (4)1.2 数字图像配准 (5)1.2.1 数字图像配准的介绍 (5)1.2.2 数字图像配准的方式 (5)1.2.3 数字图像配准的发展 (6)2 配准方法 (7)2.1 变换和插值模型 (7)2.2 特征点的提取 (8)2.3 多元互信息 (11)2.4 优化算法 (12)2.4.1 编码方式 (12)2.4.2适应度表示 (12)2.4.3轮盘赌法和最优保存策略 (12)3 互信息技术在图像配置中的应用 (13)3.1 Harris角点后的CT图和PET图 (14)3.2 配准过程及结果 (14)4 总结 (14)参考文献： (16)互信息技术在数字图像配准中的应用信息与计算科学专业指导教师【摘要】：医学图像配准技术已经被应用于心脏病诊断和包括脑瘤在内的各种各样的神经混乱诊断研究中。
图像配准是使两幅图像上的对应点达到空间上一致的一个过程。
本文介绍了一种基于最大互信息原理的图像配准技术。
并针对基于最大互信息图像配准的不足，研究了基于Harris角点算子的多模态医学图像配准。
在计算互信息的时候，采用部分体积插值法计算联合灰度直方图。
在优化互信息函数的时候采用了改进的遗传算法将配准参数收敛到最优值附近。
实验结果表明本方法具有较高的配准精度和稳定性。
【关键词】：图像配准互信息 Harris角点算子部分体积插值遗传算法Mutual Information Technology In The Digital Image Registration Application Student majoring in Information and Computing SciencesTutorAbstract：Medical image registration technology has been used in heart disease diagnosis and brain tumor, including all kinds of nerve disorder in the diagnosis and research. Image registration is to make two images of the corresponding points on the space to the same a process.Introduces a kind of mutual information based on the maximum principle of image registration technology.And in the light of the mutual information based on the maximum image registration is insufficient, based on the research of the operator Harris corner many modal medical image registration.In the calculation of the mutual information, the partial interpolation method to calculate the volume joint gray-level histogram.In the optimization of the mutual information function when using the improved genetic algorithm can converge to the registration parameters of the optimal value nearby.The experimental results show that this method has a higher registration accuracy and stability.Keywords：Image registration Mutual information Harris corner operator Part volume interpolation Genetic algorithm前言互信息是信息论的一个基本概念，是两个随机变量统计相关性的测度。
Woods用测试图像的条件熵作为配准的测度，用于PET 到MR 图像的配准。
Collignon 、Wells[1] 等人用互信息作为多模态医学图像的配准测度。
以互信息作为两幅图像的相似性测度进行配准时，如果两幅基于共同解剖结构的图像达到最佳配准时，它们对应的图像特征互信息应为最大。
最大互信息法几乎可以用在任何不同模式图像的配准中，特别是当其中一个图像的数据部分缺损时，所以这种方法广泛用于多模态图像的配准中。
但是，当待匹配图像是低分辨率、图像包含的信息不够充分或两幅待匹配图像的重叠部分较少时，基于互信息的配准目标函数就会极不光滑，出现较多局部最优解，为目标函数最优解的搜索带来较大的难度。
但由于该测度不需要对不同成像模式下图像灰度间的关系作任何假设，也不需要对图像进行分割或任何预处理，因此，该测度可以被广泛地应用于CT-MR，PET-MR 等多种图像的配准工作。
基于最大互信息的图像配准因为要进行全局参数优化搜索，配准时间也比较长。
Rangarajan[2] 等提出了一种利用互信息匹配形状特征点进行配准的策略. 该策略针对待配准的两幅图像，首先分别提取出形状特征点的集合，并定义这两个集合它们的互信息，然后使之最大化，以达到配准。
1 概述1.1 互信息与信息论一般而言，信道中总是存在着噪声和干扰，信源发出消息x，通过信道后信宿只可能收到由于干扰作用引起的某种变形的y。
信宿收到y后推测信源发出x的概率，这一过程可由后验概率p(x/y)来描述。
相应地，信源发出x的概率p(x)称为先验概率。
我们定义x的后验概率与先验概率比值的对数为y对x的互信息量，也称交互信息量（简称互信息）。
互信息是计算语言学模型分析的常用方法，它度量两个对象之间的相互性。
在过滤问题中用于度量特征对于主题的区分度。
互信息的定义与交叉嫡近似。
互信息本来是信息论中的一个概念,用于表示信息之间的关系, 是两个随机变量统计相关性的测度，使用互信息理论进行特征抽取是基于如下假设:在某个特定类别出现频率高,但在其他类别出现频率比较低的词条与该类的互信息比较大。
通常用互信息作为特征词和类别之问的测度，如果特征词属于该类的话，它们的互信息量最大。
由于该方法不需要对特征词和类别之问关系的性质作任何假设，因此非常适合于文本分类的特征和类别的配准工作。
信息论是一门应用概率论、随机过程、数理统计和高等代数的方法来研究信息传输、提取和处理系统中一般规律的学科；它的主要目的是提高信息系统的可靠性、有效性、保密性和认证性，以便达到系统最优化；它的主要内容包括香农理论、编码理论、检测和估计理论、信号设计和处理理论、调制理论、随机噪声理论和密码学理论。
信息理论的应用领域是十分广泛的，也是非常重要的，我们所知道的多是在通讯方面的应用，这是因为香农等人的工作开拓了这方面的广泛而深入的应用。
实际上，任一科学技术领域都离不开信息的基本知识和基本概念的。
1.2 数字图像配准1.2.1 数字图像配准的介绍图像配准(Image registration)就是将不同时间、不同传感器(成像设备)或不同条件下(天候、照度、摄像位置和角度等)获取的两幅或多幅图像进行匹配、叠加的过程，它已经被广泛地应用于遥感数据分析、计算机视觉、图像处理等领域。
配准技术的流程如下：首先对两幅图像进行特征提取得到特征点；通过进行相似性度量找到匹配的特征点对；然后通过匹配的特征点对得到图像空间坐标变换参数：最后由坐标变换参数进行图像配准。
而特征提取是配准技术中的关键，准确的特征提取为特征匹配的成功进行提供了保障。
因此，寻求具有良好不变性和准确性的特征提取方法，对于匹配精度至关重要。
1.2.2 数字图像配准的方式图像配准的方式可以概括为相对配准和绝对配准两种：相对配准是指选择多图像中的一张图像作为参考图像，将其它的相关图像与之配准，其坐标系统是任意的。
绝对配准是指先定义一个控制网格，所有的图像相对于这个网格来进行配准，也就是分别完成各分量图像的几何校正来实现坐标系的统一。
本文主要研究大幅面多图像的相对配准，因此如何确定多图像之间的配准函数映射关系是图像配准的关键。
通常通过一个适当的多项式来拟合两图像之间的平移、旋转和仿射变换，由此将图像配准函数映射关系转化为如何确定多项式的系数，最终转化为如何确定配准控制点（RCP）。
目前，根据如何确定RCP的方法和图像配准中利用的图像信息区别可将图像配准方法分为三个主要类别：基于灰度信息法、变换域法和基于特征法[1]，其中基于特征法又可以根据所用的特征属性的不同而细分为若干类别。
以下将根据这一分类原则来讨论目前已经报道的各种图像配准方法和原理。
1.2.3 数字图像配准的发展近年来，数字图像技术确实已经取得了不少进步，但我觉得图像传感器的技术革新依然不会放慢脚步，我们会继续致力于开发拥有更高表现和更多功能的传感器。
然而，我认为象素量的发展已经接近极限。