信息的内涵与信息论发展简史
信息论的形成、发展及主要内容
信息论的形成、发展及主要内容一、引言信息论是一门研究信息传输、存储和处理的科学，其应用范围涵盖了通信、数据压缩、密码学等多个领域。
本文将介绍信息论的起源、经典信息论的发展、现代信息论的突破以及信息论在各个领域的应用。
二、信息论的起源信息论的起源可以追溯到20世纪初，当时电信和广播业开始快速发展，需要有一种度量信息的方法。
1928年，美国数学家哈特利提出用消息发生的概率来定义消息的熵，从而为信息论的发展奠定了基础。
三、经典信息论的发展1948年，美国数学家香农在《贝尔系统技术》杂志上发表了经典论文《通信的数学理论》，标志着信息论的诞生。
香农提出了信息的度量方法，即信息熵，并且给出了信息的传输速率的上限。
此外，香农还研究了信息的存储和检索问题，提出了数据压缩的理论基础。
四、现代信息论的突破随着技术的发展，现代信息论在经典信息论的基础上有了新的突破。
首先，现代信息论不仅关注信息的传输和存储问题，还关注信息的处理和理解问题。
其次，现代信息论引入了更多的数学工具和概念，如概率图模型、贝叶斯网络等，使得信息论的应用更加广泛和深入。
五、信息论在通信中的应用信息论在通信领域的应用是最为广泛的。
例如，香农的信道编码定理告诉我们，在传输过程中可以通过增加冗余信息来降低错误概率，从而提高通信的可靠性。
此外，信息论还被应用于调制解调、信号检测和同步等领域。
六、信息论在数据压缩中的应用数据压缩是信息论的一个重要应用领域。
通过去除数据中的冗余信息，数据压缩可以减小数据的存储空间和传输时间。
例如，香农提出的哈夫曼编码是一种有效的无损数据压缩算法，被广泛应用于图像、视频和音频数据的压缩。
七、信息论在密码学中的应用密码学是信息安全领域的重要分支，而信息论为其提供了理论基础。
在密码学中，信息论用于分析信息的保密性、认证性、完整性和可用性等安全属性。
例如，基于信息熵的加密算法可以用于评估加密数据的保密性程度。
此外，信息论还被应用于数字签名、身份认证等领域。
(完整)信息论的由来发展
信息论的由来发展科学技术的发展是人类正在进入一个新的时代,这个时代的主要特征之一就是对信息的需求和利用,因此有人称之为信息时代.而迄今为止,人们对信息都没有确切定义,但是它是一种人人皆知、不言自明的抽象概念.信息虽无确切定义，但是却有两个明显的特征:广泛性与抽象性,信息时组成客观世界并促进社会发展的最基本的三大要素之一（物质、能量和信息）。
它依附于物质和能量，但又不同于物质和能量。
没有信息就不能更好地利用物质和能量,人类利用信息和知识改造物质，创造新物质，提高能量利用效率，发现新能量形式.信息也是客观存在的,它是人类认识、改造客观世界的主要动力,是人类认识客观世界的更高层次。
人类社会的生存和发展无时无刻都离不开信息的获取、传递、处理、再生、控制和利用。
信息论正是一门把信息作为研究对象，以揭示信息的本质特征和规律为基础，应用概率论、随机过程和数理统计等方法来研究信息的存储、传输、处理、控制和利用等一般规律的科学。
自从1948年贝尔研究所的香农发表了《通信的数学理论》一文，宣告了信息论作为一门独立的、全新的学科成立。
自此以后，信息理论本身得到不断地发展和深化，尤其是在信息理论的指导下，信息技术也获得飞快发展。
这又使信息的研究冲破了香农狭义信息的范畴，几乎渗透到自然科学与社会科学的所有领域，从而形成了一门具有划时代意义的新兴学科——信息科学.信息科学是人们在对信息的认识与利用不断扩大的过程中，在信息论、电子学、计算机科学、人工智能、系统工程学、自动化技术等多学科基础上发展起来的一门边缘性新学科。
它的任务主要是研究信息的性质，研究机器、生物和人类关于各种信息的获取、变换、传输、处理、利用和控制的一般规律，设计和研制各种信息机器和控制设备，实现操作自动化，以便尽可能地把人脑从自然力的束缚下解数学理论》中系统地提出了关于信息的论述，创立了信息论。
维纳提出的关于度量信息量的数学公式开辟了信息论的广泛应用前景。
信息论
例如： (p22)计算只输出“0， 1”的二元熵函数的信息熵。二元熵函数的曲线图见p23. 解: 数学模型： X P (x) 则 H (X ) = −p log p − (1 − p) log(1 − p) = H (p) 而 H (p) = log 1−p p = 0 1
p 1−p
可以证明， p= 1 时， H (p)为最大值。当p = 0时， 因为 2 lim p log p = lim log p
Example 0.6 同时掷两粒色子，设各个点数出现的概率相等，用随机变量Y 表示两粒色子面上的点数之 和时，有 Y P (y ) = 2
1 36
3
2 36
4
3 36
5
4 36
6
5 36
7
6 36
Example 0.3 播音员使用单词总数为10000个。一个播音员播出1000个单词的熵为 H (X ) = log 100001000 ≈ 1.3 × 104
Example 0.4 掷一个均匀硬币直到出现“正面”为止。令X 表示所需的次数
∞
H (X ) =
n=1
1 log 2n = 2n
∞
n
n=1
1 1 2 = 1 2 = 2 2n (1 − 2 )
Example 0.5 掷一粒色子，各个点数出现的概率相等，即 X P (x) 则熵为
6
=
1
1 6
2
1 6
3
1 6
4
1 6
5
1 6
6
1 6
H ( 6
当掷出色子，得知点数为2时，这时概率分布为 X P (x ) 则熵变为 H (X ) = 0 在此过程中，试验者获得的信息量为 H (X ) − H (X ) = log 6 = 1 2 3 4 5 6 0 1 0 0 0 0
信息论的产生与发展概况
信息论的产生与发展概况信息论有狭义和广义的区别。
狭义的信息论是应用数理统计方法来研究信息处理和信息传递的科学，它研究存在于通讯和控制系统中普遍存在着的信息传递的共同规体，以及如何提高各信息传输系统的有效性和可能性的一门通讯理论。
狭义信息论是申农氏于1948年创立的，其主要内容就是研究信源、信宿、传递及编码问题，因此它主要应用于通讯工作。
后来信息论发展很快，将申农氏信息论的观点做为研究一切问题的理论，即广义信息论。
信息论是建立在信息基础上的理论，所谓信息，即人类凭借感觉器官感知的周围一切变化，都可称作信息。
实践证明，世界上一切事物都在运动变化之中，在这种运动和变化之过程中，就会发出各种各样的信息，内部的变化可以反映到外部，外部的表现反映内在的实质；整体的变化可以反映于局部，局部的变化影响整体。
人类在世界上生存，就必须认识信息、利用信息，否则就无法生存，例如预防和躲避自然灾害、发明创造工具、发展生产、科学试验等等，都是受某些信息的启示。
战争更离不开信息，例如我国周代已利用烽火台传递战争的信息。
凡此种种，一言以蔽之，从有人类的那一天开始，人类就生活在信息的海洋里，一时一刻也离不开信息，而关键的问题就是如何认识信息，利用信息，以改变自己的生存条件、创造更好的生活环境。
人类正是根据世界环境的变化，由大脑作出调整自己行动的方式，改变自己与自然界斗争的策略，因此人类始终着眼于信息，信息论的观点就是把人作用于外界的行为归纳为信息和信息的反馈过程，人类所以能够保证正常的生活状态，不断地改善生活条件，就是人类具有取得、使用、保持和传递信息的能力，这种认识和利用信息的能力和其他问题一样，都是从简单到复杂，从表面到深入，不断地向信息的深度和广度进军。
人类有获取信息的权力，但信息并不为人类所独享，其他生物也同样有认识和利用信息的本能，俗话说“人有人言，兽有兽语”，就是这个意思。
其他如某些动物的保护色，猎取食物等等，都是认识信息、利用信息的表现。
信息论好书
信息论好书摘要：1.信息论的背景与意义2.信息论的发展历程3.信息论的主要理论4.信息论在现代社会的应用5.信息论对未来的影响和挑战正文：信息论是一门研究信息传输、处理、存储和使用的科学。
自20 世纪40 年代香农提出信息论以来，信息论在科学技术和社会经济发展中发挥了重要作用。
本文将从以下几个方面介绍信息论的相关内容。
1.信息论的背景与意义信息论产生于20 世纪40 年代，是计算机科学、通信技术和控制论等领域共同发展的产物。
信息论为解决信息传输中的可靠性和有效性等问题提供了一种理论框架，从而推动了通信技术的发展。
此外，信息论还为经济学、生物学、心理学等领域提供了一种跨学科的研究方法。
2.信息论的发展历程信息论的发展可以分为三个阶段：第一阶段是信息论的创立，以香农的《通信的数学理论》为代表；第二阶段是信息论的拓展，包括信道容量、编码理论和信息检测等问题的研究；第三阶段是信息论与其他领域的交叉融合，如量子信息论、生物信息论和复杂网络信息论等。
3.信息论的主要理论信息论的主要理论包括：信息熵、信道容量、编码理论和信息检测。
信息熵是衡量信息不确定性的量度，它为信息传输中的数据压缩和加密提供了理论依据；信道容量是信道在给定噪声条件下所能传输的最大信息速率，它为通信系统的设计和优化提供了基本准则；编码理论研究如何在给定信道条件下实现可靠的信息传输；信息检测理论则是研究在噪声环境下如何从信号中提取信息。
4.信息论在现代社会的应用信息论在现代社会的应用广泛，如在通信技术中，信息论为数据压缩、信道编码和解码提供了理论支持；在计算机科学中，信息论为数据存储和处理提供了理论指导；在经济学中，信息论为研究信息不完全和不对称问题提供了一种分析方法；在生物学中，信息论为研究生物信息传递和基因编码提供了理论基础。
5.信息论对未来的影响和挑战随着大数据、物联网和人工智能等技术的发展，信息论的研究将面临新的挑战。
如在量子计算、量子通信和量子信息处理等领域，需要发展新的信息论理论来描述和处理量子信息；在生物信息学领域，需要发展更有效的算法和模型来解析生物大分子和生物网络中的信息；在网络科学领域，需要研究复杂网络中的信息传播、筛选和聚合等问题。
信息论发展史
信息论发展史内容摘要：信息论经过六十多年的发展，现在已经成为现代信息科学的一个重要组成部分，信息论是现代通信和信息技术的理论基础。
现代信息论又是数学概率论与数理统计下年的一个分支学科。
现在信息论已经成为国内数学系信息与计算科学专业的一门必须课程。
作为信息论的奠基人克劳德·艾尔伍德·香农（Claude Elwood Shannon ），于1948年和1949年发表的两篇论文一起奠定了现代信息论的基础。
关键字：信息论(information theory）、克劳德·香农（Claude Shannon）、数学、信息与传输一．信息论概念及其研究发向信息论，顾名思义是一门研究信息的处理和传输的科学；即用概率论与数理统计方法来探究信息的度量、传递和变换规律的一门学科。
它主要是研究通讯和控制系统中普遍存在着信息传递的共同规律以及研究最佳解决信息的获限、度量、变换、储存和传递等问题的基础理论。
信息论将信息的传递作为一种统计现象来考虑，给出了估算通信信道容量的方法，信息传输和信息压缩是信息论研究中的两大领域，这两个方面又由信息传输理论、信源－信道隔离定理相互联系。
信息是系统传输和处理的对象，它载荷于语言、文字、图像、数据等之中。
这就是现代信息论的出发点。
二．信息论创始人—香农香农（Shannon）1948年也在《贝尔系统技术杂志》上发表了两百多页的长篇论文《通信的数学理论》；第二年，他又在同一杂志上发表了另一篇名著《噪声下的通信》。
在这两篇论文中，他经典地阐明了通信的基本问题，提出了通信系统的模型，给出了信息量的数学表达式，解决了信道容量、信源统计特性、信源编码、信道编码等有关精确地传送通信符号的基本技术问题，并且开始创造性的定义了“信息”。
这两篇论文成了现在信息论的寞基著作。
而香农也一鸣惊人，成了这门新兴学科的奠基人。
克劳德·艾尔伍德·香农（Claude Elwood Shannon ）美国数学家，信息论的创始人。
信息的发展历史
信息的发展历史一、信息的起源和初步发展信息的发展可以追溯到人类社会的起源。
在古代，人们通过语言、文字和符号等方式进行信息的传递和交流。
最早的信息来源于人们的感知和经验，通过口头传承的方式进行传播。
随着社会的发展，人们开始使用原始的文字和符号来记录信息，这是人类文明发展的重要里程碑。
二、印刷技术的革命15世纪，德国发明家古腾堡发明了活字印刷术，这一发明彻底改变了信息的传播方式。
活字印刷术的出现使得书籍的制作速度大大提高，大量的知识和信息可以被广泛传播。
这一技术的革命对社会产生了深远的影响，推动了文艺复兴运动的兴起，促进了科学、文化和思想的繁荣。
三、电信技术的崛起19世纪末，电信技术的发展带来了新的信息传播方式。
电话的发明使得人们可以通过声音进行远距离的交流，人们可以直接听到对方的声音，大大提高了信息传递的效率。
而电报的出现更是实现了远距离的即时通信，极大地缩短了信息传递的时间。
四、计算机和互联网的革命20世纪下半叶，计算机技术的发展推动了信息革命的到来。
计算机的出现使得信息的处理和存储变得更加高效和便捷。
随着互联网的普及，信息的传递和获取变得更加容易，人们可以通过电子邮件、论坛和社交媒体等方式进行全球范围内的交流和分享。
互联网的发展也催生了电子商务、在线教育和远程办公等新业态，改变了人们的生活方式和工作方式。
五、移动通信技术的爆发21世纪初，移动通信技术的迅猛发展使得人们可以随时随地获取和传递信息。
手机的普及使得人们可以通过短信、电话和移动应用程序进行即时的沟通和信息交流。
随着智能手机的出现，人们可以随时上网浏览新闻、搜索信息和社交互动，移动互联网成为人们获取信息的主要途径。
六、人工智能的崛起近年来，人工智能技术的快速发展为信息的处理和分析提供了新的可能。
机器学习和深度学习等算法使得计算机可以自动识别和理解大量的信息，从而提供更加智能化和个性化的服务。
人工智能技术已经广泛应用于语音识别、图像识别、自然语言处理和推荐系统等领域，为人们提供了更加便捷和智能的信息体验。
《信息论》课程介绍
《信息论》课程介绍【原创实用版】目录1.信息论的定义与重要性2.信息论的发展历程3.信息论的应用领域4.《信息论》课程的主要内容5.学习信息论的意义与价值正文1.信息论的定义与重要性信息论是一门研究信息传输、存储、处理和利用的学科，它涉及数学、统计学、计算机科学、通信技术等多个领域。
在信息时代，信息论为我们提供了理论基础和技术方法，以实现信息的高效、安全、可靠传输和处理。
信息论在现代通信、计算机科学、数据挖掘、密码学等领域具有重要意义。
2.信息论的发展历程信息论的发展始于 20 世纪 40 年代，美国数学家香农（Claude Shannon）发表了著名的《通信的数学理论》，奠定了信息论的理论基础。
此后，信息论在通信技术、计算机科学等领域得到广泛应用和发展。
如今，信息论已经成为一门重要的学科，吸引了众多学者和研究者。
3.信息论的应用领域信息论在许多领域都有广泛的应用，例如通信技术、计算机科学、数据挖掘、密码学、机器学习等。
在通信技术方面，信息论为无线通信、光纤通信等提供了理论支持；在计算机科学方面，信息论为数据压缩、数据加密等技术提供了理论依据；在数据挖掘方面，信息论为数据分析、知识发现等提供了有效方法。
4.《信息论》课程的主要内容《信息论》课程主要涉及以下几个方面的内容：（1）信息论的基本概念和定义，包括信息的定义、熵的定义、信息传输速率等；（2）信息论的基本理论，包括香农定理、信源编码、信道编码等；（3）信息论的基本方法，包括数据压缩、数据加密、信道编码等；（4）信息论的应用领域，包括通信技术、计算机科学、数据挖掘、密码学等。
5.学习信息论的意义与价值学习信息论具有重要的意义和价值，它可以帮助我们更好地理解信息的传输、存储、处理和利用，提高我们在信息时代的竞争力。
此外，信息论也为我们提供了理论基础和技术方法，以实现信息的高效、安全、可靠传输和处理。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
信息的内涵与信息论发展简史学院：数学与统计学院专业：信息与计算科学学生：卢富毓学号：20101910072
内容摘要：信息论经过六十多年的发展，现在已经成为现代信息科学的一个重要组成部分，信息论是现代通信和信息技术的理论基础。
本文详细从来阐述信息论的内涵以及发展史。
信息是什么？什么叫信息论？
信息泛指人类社会传播的一切内容。
人通过获得、识别自然界和社会的不同信息来区别不同事物，得以认识和改造世界。
在一切通讯和控制系统中，信息是一种普遍联系的形式。
1948年，数学家香农在题为“通讯的数学理论”的论文中指出：“信息是用来消除随机不定性的东西”。
美国数学家、控制论的奠基人诺伯特·维纳在他的《控制论——动物和机器中的通讯与控制问题》中认为，信息是“我们在适应外部世界，控制外部世界的过程中同外部世界交换的内容的名称”。
英国学者阿希贝认为，信息的本性在于事物本身具有变异度。
由此可见在不同的领域，有着对信息的不同定义。
而如今比较首肯的是数学家香农给出的解释——信息是用来消除随机不定性的东西。
信息论是运用概率论与数理统计的方法研究信息、信息熵、通信系统、数据传输、密码学、数据压缩等问题的应用数学学科。
信息论将信息的传递作为一种统计现象来考虑，给出了估算通信信道容量的方法。
信息传输和信息压缩是信息论研究中的两大领域。
这两个方面又由信息传输定理、信源－信道隔离定理相互联系。
1948~1949年，香农（Shannon）在《贝尔系统技术杂志》上发表了论文《通信的数学理论》以及《噪声下的通信》。
在这两篇论文中，他经典地阐明了通信的基本问题，提出了通信系统的模型，给出了信息量的数学表达式，解决了信道容量、信源统计特性、信源编码、信道编码等有关精确地传送通信符号的基本技术问题，并且开始创造性的定义了“信息”。
这两篇论文成了现在信息论的奠基著作。
而香农也一鸣惊人，成了这门新兴学科的奠基人。
香农也因此被称为是“信息论之父”。
信息有什么内涵？
信息是现代社会的一种非常重要的资源，信息社会中的信息就像农业社会的土地，工业社会的资金和技术一样，将会成为人们竞相争夺的对象，从某种意义上来说，信息就是现代社会最重要的财富，谁掌握了信息，谁就掌握了未来。
信息的内涵是什么呢？
不同人对信息有着不同的理解。
有人认为信息就是消息，传递信息就是传递消息。
这种定义有一定道理，但不太准确。
信息和消息是有区别的，一般来说，
信息是消息的具体内容，而消息是信息的外壳。
一则消息可能包含丰富的信息，也可能只包含有限的信息。
现在一般认为信息是客观事物所具有的一种基本属性，是客观事物运动形式和状态的表征。
由于人们应用信息概念的层次和角度不同，因此对信息内涵的表述也是不相同的。
一般来说，对信息的理解可以从事物运动的状态和方式来理解，这里所说的事物既包括外部世界的物质客体，也包括人类自身。
人不仅可以接受信息，还可以输出信息。
要准确理解信息的内涵，需要进一步明确信息与物质、信息与美结合信息与符号之间的相互关系。
从一定意义上来说，宇宙是由物资、能量和信息构成的，哈佛大学的著名学者欧廷格曾提出了一个著名的论断：“没有物质，什么东西都不存在；没有能量，什么事情也不会发生；没有信息，什么东西都没有意义。
信息是抽象的，它不像物质那样有明确的质量和体积，但它确实是存在的，并可以传递、加工和处理。
信息不能脱离媒体而存在，信息的显示、信息的传递、信息的加工与处理都需要媒体的参与，但信息的载体可以负载信息，可以传递信息，但媒体不能决定信息的本质与属性。
信息的传递需要以媒体为中介，需要以符号来表现与表达。
符号是信息的表现形式，信息是符号表现的内容。
信息的特征
所有信息都具有如下一些基本特征：
可识别性：所有信息都是可以被识别的。
我们可以通过眼、耳、鼻、舌、皮肤等感觉器官识别自然界中的大部分信息。
对于一些来源于微观世界的信息，通过专用的设备和工具仍然能觉察到它们的存在。
可传递性：所有信息都是可以被传递的。
一种信息可以从一个人传给另一个人；从一个地方传递到另一个地方；从一个信息处理系统传递到另一个信息处理系统，不能传递的信息，是没有价值的。
可存储性：自然界中所发生的各种信息，包括内容信息、状态信息和过程信息，都可以通过一定的媒介进行存储。
常见的存储介质包括纸张、幻灯片、录音磁带、录像带、电影胶片、VCD、DVD、计算机外存储器等。
可处理性：所有信息都可以根据人类的实际需要进行处理和加工。
对信息的处理与加工既包括信息外在表达形式的转换，如用文字来表达眼睛看到的视觉形象，也包括对信息内容进行的分析、归类、整理、加工与整合。
可利用性：所有经过加工与处理的信息，都可以被用来实现特定目标。
人们可以在已掌握信息的基础上，进行科学决策与管理，并通过不同器官或系统的协同活动，发挥信息的最佳效能。
信息论的发展
现代信息论其实是从上世纪二十年代奈奎斯特和哈特莱的研究开始的，他们最早开始研究了通信系统传输信息的能力，并且试图度量系统的信道容量。
香农于1940年在普林斯顿高级研究所期间开始思考信息论与有效通信系统的问题。
经过8年的努力，1948年，来自贝尔研究所的Claude Shannon（克劳德•香农）的《通信的数学理论》论文公诸于世，从此宣告了崭新的一门关于信息发面的学科──信息论的诞生。
1949年，香农又在该杂志上发表了另一著名论文《噪声下的通信》。
在这两篇论文中，香农阐明了通信的基本问题，给出了通信系统的模型，提出了信息量的数学表达式，并解决了信道容量、信源统计特性、信源编码、信道编码等一系列基本技术问题。
两篇论文成为了信息论的奠基性著作。
这两篇论文一起阐述了现代信息论的基础。
并且香农开始创造性的定义了“信息”。
信息论自从二十世纪四十年代中叶到二十一世纪初期，现已成为一门独立的理论科学，他给出一切传输、存储、处理信息系统的一般理论，并指出，实现有效、可靠地传输和存储信息的途径是走数字化的道路。
这是通信技术领域数字化革命的数学或理论基础。
1946年的计算机和1947年晶体管的诞生和相应技术的发展，是这一革命的物理或物质基础。
信息论是在长期的通信工程实践和理论研究的基础上发展起来的。
当物理学中的电磁理论以及后来的电子学理论一旦有某些进展，很快就会促进电信系统的创造发明或改进。
这是因为通信系统对人类社会的发展，其关系实在是太密切了。
日常生活、工农业生产、科学研究以及战争等等，一切都离不开消息传递和信息流动。
通信系统是人类社会的神经系统，即使在原始社会也存在着最简单的通信工具和通信系统，这方面的社会实践是悠久漫长的。
自从香农十九世纪四十年代末两篇论文发表后，前苏联和美国的科学家采取了不同的研究途径经一部发展了信息论。
在苏联以辛锌、柯尔莫哥洛夫、宾斯基和达布鲁新为首的一批著名数学家致力于信息论的公理化体系和更一般更抽象的数学模型，对信息论的基本定理给出了更为普遍的结果，为信息论发展成数学的一个分支作出了贡献。
而在美国测试有一批数学修养很高的工程技术人员致力于信息有效处理和可靠传输的可实现性，维信息论转化为信息技术作出了贡献。
20世纪50年代，信息论向各门学科发起冲击；60年代信息论进入一个消化、理解的时期，在已有的基础上进行重大建设的时期。
研究重点是信息和信源编码问题。
从此信息论迈入第二个阶段。
到70年代，由于数字计算机的广泛应用，通讯系统的能力也有很大提高，如何更有效地利用和处理信息，成为日益迫切的问题。
人们越来越认识到信息的重要性，认识到信息可以作为与材料和能源一样的资源而加以充分利用和共享。
信息的概念和方法已广泛渗透到各个科学领域，它迫切要求突破香农信息论的狭隘范围，以便使它能成为人类各种活动中所碰到的信息问题的基础理论，从而推动其他许多新兴学科进一步发展。
小结：
信息论是运用概率论与数理统计的方法研究信息、信息熵、通信系统、数据传输、密码学、数据压缩等问题的应用数学学科。
通过对信息论的学习以及深刻掌握，我们会在今后的不同领域中通过不同的方式利用它。
（因为其与不同的学科都有着一定的交叉！）。