信息理论基础 周荫清 答案

合集下载

信息技术概述习题答案

信息技术概述习题答案

第一章计算机基础知识第一节信息技术概述1信息化社会的技术特征是______。

A.现代信息技术B.计算机技术C.通信技术D.网络技术2下面关于信息的定义,不正确的是______。

A.信息是不确定性的减少或消除B.信息是控制系统进行调节活动时,与外界相互作用、相互交换的内容C.信息是事物运动的状态和状态变化的方式D.信息就是指消息、情报、资料、信号3信息来源于社会又作用于社会,说明信息具有______。

A.社会性B.传载性C.时间性D.不灭性4信息被存储和传输,说明了信息具有______。

A.社会性B.传载性C.能动性D.不灭性5信息技术的根本目标是______。

A.获取信息B.利用信息C.生产信息D.提高或扩展人类的信息能力6信息技术指的是______。

A.获取信息的技术B.利用信息的技术C.生产信息的技术D.能够提高或扩展人类信息能力的方法和手段的总称7信息技术的发展经历了______发展时期。

A.2个B.3个C.4个D.5个8信息技术大致上可以归纳为______相互区别又相互关联的层次。

A.5个B.4个C.3个D.2个9信息获取技术属于信息技术的______。

A.主体层次B.应用层次C.外围层次D.其它层次10下列技术不属于信息获取技术的是______。

A.传感技术B.遥测技术C.遥感技术D.机器人技术11信息技术的主体层次,除了包括信息获取技术、信息存储技术、信息处理技术、信息传输技术外,还包括______。

A.激光技术B.微电子技术C.卫星通信技术D.信息控制技术12目前在信息处理技术中起中坚作用的是计算机技术和_______等。

A.人工智能技术B.多媒体技术C.计算机网络技术D.无线通信技术13关于信息技术的功能的描述,不正确的是______。

A.信息技术的功能是指信息技术有利于自然界和人类社会发展的功用与效能B.从宏观上看,信息技术最直接、最基本的功能或作用主要体现在:辅人功能、开发功能、协同功能、增效功能和先导功能C.在信息社会中,信息技术的功能或作用是有限的,且固定不变D.信息技术的天职就是扩展人的信息器官功能,提高或增强人的信息获取、存储、处理、传输、控制能力14下面关于信息化的描述,不正确的是______。

信息技术模拟习题与答案

信息技术模拟习题与答案

信息技术模拟习题与答案一、单选题(共100题,每题1分,共100分)1.个人计算机申请了账号并采用PPP拨号方式,接人Internet网后,该机( ) 。

A、没有自己的IP地址B、拥有固定的IP地址C、可以有多个IP地址D、拥有独立的IP地址正确答案:D2.软件的复杂性是(),它引起通信困难、开发费用超支、开发时间超时等问题。

A、固有的B、不可降低的C、人为的D、可消除的正确答案:A3.数据库中,数据的物理独立性是指( )A、数据库与数据库管理系统的相互独立B、用户程序与DBMS的相互独立C、用户的应用程序与存储在磁盘上的数据库中的数据是相互独立的D、应用程序与数据库中数据的逻辑结构相互独立正确答案:C4.设一棵完全二叉树中有65个结点,则该完全二叉树的深度为()。

A、5B、7C、6D、8正确答案:B5.运算器的组成部分不包括()。

A、加法器B、寄存器C、控制线路D、译码器正确答案:D6.移动商务整合可以把难于战胜的风险变成()的风险。

A、可以化解B、规避C、潜在D、控制正确答案:A7.在资源管理器窗口中,被选中的文件或文件夹会()。

A、闪烁显示B、加框显示C、加亮显示D、反像显示正确答案:D8.在 Dreamweaver 中,若希望设计一个能被拖动到任意位置的图象,则应对该图象如何设置:()A、首先将图象放在一新层中再设层特性B、直接插入图象,将属性设为浮动C、直接插入图象,将属性设为两端对齐D、引入帧,将图象放入帧中。

正确答案:D9.在Windows 的“资源管理器”的目录窗口中, 显示着指定目录里的文件信息, 其显示方式是( )。

A、可以只显示文件名, 也可以显示文件的部分或全部目录信息, 由用户选择B、固定为显示文件的全部目录信息C、固定为显示文件的部分目录信息D、只能显示文件名正确答案:A10.在空白幻灯片中不可以直接插入( )A、Word表格B、文字C、文本框D、艺术字正确答案:B11.支持发送彩色图片的应用平台是()A、对象中间件B、MMS多媒体短信平台C、EMS增强型短信平台D、移动中间件正确答案:B12.两个以上的申请人分别就相同内容的计算机程序的发明创造,先后向国务院专利行政部门提出申请,()可以获得专利申请权。

信息论基础B卷及答案

信息论基础B卷及答案

∶∶∶∶∶∶∶∶∶∶装∶∶∶∶∶∶∶∶∶∶∶订∶∶∶∶∶∶∶∶∶∶∶∶∶线∶∶∶∶∶∶∶∶∶∶∶∶∶∶∶∶试卷评分标准及标准答案(2013 — 2014 学年度第 1 学期)《课程(A 卷)一、选择题(本大题共6小题,每小题3分,共18分)1. 有一信源X,其概率分布为12341/41/81/81/2X x x x xP⎛⎫⎛⎫=⎪ ⎪⎝⎭⎝⎭,若对该信源进行二次扩展,则每二个符号的平均信息量是(A )A. 3.5bitB. 1.5bitC. 1.75bitD. 3bit2. 信源的概率密度为()1352xp x⎧≤≤⎪=⎨⎪⎩其它,则信源的差熵为(D )bit/自由度.A.1/2B.1/3C.1/5D.13. 某二元对称信源011/21/2XP⎛⎫⎛⎫=⎪ ⎪⎝⎭⎝⎭,失真矩阵0220d⎛⎫⎪⎝⎭=,则minD和maxD分别为( B )A. 1, 2B. 0, 1C. 1, 1D. 2, 24. 掷两粒骰子,当点数和为7时,该消息包含的信息量是(A )A. log6B. log36C. log18D. log35. 设信道输入用X表示,信道输出用Y表示。

在无噪无损信道中,()H X Y(C )0。

A. >B. <C. =D. 不确定6. 马氏源的转移概率如图所示,则其所对应的概率转移矩阵为(C )1/2A.1/201/201/21/21/302/3⎛⎫⎪⎪⎪⎝⎭B.1/211/21/21/21/21/302/3⎛⎫⎪⎪⎪⎝⎭C.1/32/3001/21/21/201/2⎛⎫⎪⎪⎪⎝⎭D.1/201/201/21/21/32/30⎛⎫⎪⎪⎪⎝⎭二、填空题(本大题共5小题,每小题3分,共15分)1. 信源编码的主要目的是提高有效性,信道编码的主要目的是提高可靠性。

2. 无失真信源编码定理(香农第一定理),可以简述为:存在无失真信源编码的充分必要条件是R H X()()R H X≥或信源编码码率不小于信源的熵()。

信息论基础智慧树知到课后章节答案2023年下潍坊学院

信息论基础智慧树知到课后章节答案2023年下潍坊学院

信息论基础智慧树知到课后章节答案2023年下潍坊学院潍坊学院第一章测试1.信息论的奠基人是()。

A:香农 B:阿姆斯特朗 C:哈特利 D:奈奎斯特答案:香农2.下列不属于信息论的研究内容的是()。

A:纠错编码 B:信息的产生 C:信道传输能力 D:信源、信道模型答案:信息的产生3.下列不属于消息的是()A:文字 B:图像 C:信号 D:语音答案:信号4.信息就是消息. ()A:错 B:对答案:错5.信息是不可以度量的,是一个主观的认识。

()A:错 B:对答案:错6.任何已经确定的事物都不含有信息。

()A:对 B:错答案:对7.1948年香农的文章《通信的数学理论》奠定了香农信息理论的基础。

()A:错 B:对答案:对8.信息论研究的目的就是要找到信息传输过程的共同规律,以提高信息传输的(),使信息传输系统达到最优化。

A:有效性 B:认证性 C:可靠性 D:保密性答案:有效性;认证性;可靠性;保密性9.下列属于香农信息论的主要研究理论的是()。

A:压缩理论 B:调制理论 C:保密理论 D:传输理论答案:压缩理论;保密理论;传输理论10.信源编码的作用包含()。

A:检错纠错 B:对信源的输出进行符号变换 C:数据压缩 D:提升信息传输的安全性答案:对信源的输出进行符号变换;数据压缩第二章测试1.信息传输系统模型中,用来提升信息传输的有效性的部分为()A:信源 B:信道编码器、信道译码器 C:信道 D:信源编码器、信源译码器答案:信源编码器、信源译码器2.对于自信息,以下描述正确的是()A:以2为底时,单位是奈特。

B:以2为底时,单位是比特。

C:以10为底时,单位是奈特。

D:以e为底时,单位是比特答案:以2为底时,单位是比特。

3.信息熵的单位是()A:比特 B:比特每符号 C:无法确定答案:比特每符号4.必然事件和不可能事件的自信息量都是0 。

()A:错 B:对答案:错5.概率大的事件自信息量大。

信息理论基础 周荫清 答案

信息理论基础 周荫清 答案
(1)I(X;YZ) = I(X;Y) + I(X;Z/Y) = I(X;Z) + I(X;Y/Z);
证明:
(2)I(X;Y/Z) = I(Y;X/Z) = H(X/Z) – H(X/YZ);
证明:
(3)I(X;Y/Z) ≥0,当且仅当(X, Y, Z)是马氏链时等式成立。
证明:
当 时等式成立
所以等式成立的条件是X, Y, Z是马氏链
证明:
同理可得 。
2.17 给定声音样值X的概率密度为拉普拉斯分布 ,求Hc(X),并证明它小于同样方差的正态变量的连续熵。
解:
2.18 连续随机变量X和Y的联合概率密度为: ,求H(X),H(Y), H(XYZ)和I(X;Y)。
(提示: )
解:
2.19 每帧电视图像可以认为是由3105个像素组成的,所有像素均是独立变化,且每像素又取128个不同的亮度电平,并设亮度电平是等概出现,问每帧图像含有多少信息量?若有一个广播员,在约10000个汉字中选出1000个汉字来口述此电视图像,试问广播员描述此图像所广播的信息量是多少(假设汉字字汇是等概率分布,并彼此无依赖)?若要恰当的描述此图像,广播员在口述中至少需要多少汉字?
2.2 居住某地区的女孩子有25%是大学生,在女大学生中有75%是身高160厘米以上的,而女孩子中身高160厘米以上的占总数的一半。假如我们得知“身高160厘米以上的某女孩是大学生”的消息,问获得多少信息量?
解:
设随机变量X代表女孩子学历
X
x1(是大学生)
x2(不是大学生)
P(X)
0.25
0.75
设随机变量Y代表女孩子身高
(3) 两个点数的各种组合(无序)对的熵和平均信息量;

信息理论与编码答案 人民邮电出版社

信息理论与编码答案 人民邮电出版社

第一章 自我测试题一、填空题1. 在认识论层次上研究信息的时候,必须同时考虑到形式、__语义___和__语用___三个方面的因素。

2. 如果从随机不确定性的角度来定义信息,信息是用以消除__随机不确定性___的东西。

3. 信源编码的结果是__减小_冗余;而信道编码的手段是__增加___冗余。

4. _1948_年,香农发表了著名的论文__通信的数学理论__,标志着信息论诞生。

5. 信息商品是一种特殊商品,它有__保存性_性、_共享_性、_老化可能_性和 知识创造性 等特征。

二、判断题1. 信息传输系统模型表明,噪声仅仅来源于信道(×)2. 本体论层次信息表明,信息不依赖于人而存在(√)3. 信道编码与译码是一对可逆变换(×)4. 1976年,论文《密码学的新方向》的发表,标志着保密通信研究的开始(×)5. 基因组序列信息的提取和分析是生物信息学的研究内容之一(√)三、选择题1.下列表述中,属于从随机不确定性的角度来定义信息的是__D___ A . 信息是数据B . 信息是集合之间的变异度C . 信息是控制的指令D . 信息是收信者事先不知道的报道 2.___B__是最高层次的信息 A . 认识论 B . 本体论 C . 价值论 D . 唯物论 3.下列不属于狭义信息论的是__D___ A . 信息的测度 B . 信源编码 C . 信道容量 D . 计算机翻译 4.下列不属于信息论的研究内容的是__A___ A . 信息的产生 B . 信道传输能力 C . 文字的统计特性 D . 抗干扰编码 5.下列关于信息论发展历史描述不正确的是__B___A . 偶然性、熵函数引进物理学为信息论的产生提供了理论前提。

B . 1952年,香农发展了信道容量的迭代算法C . 哈特莱用消息可能数目的对数来度量消息中所含有的信息量,为香农创立信息论提供了思路。

D . 1959年,香农首先提出率失真函数和率失真信源编码定理,才发展成为信息率失真编码理论。

信息理论基础 周荫清

信息理论基础   周荫清

2.4 居住某地区的女孩子有25%是大学生,在女大学生中有75%是身高160厘米以上的,而女孩子中身高160厘米以上的占总数的一半。

假如我们得知“身高160厘米以上的某女孩是大学生”的消息,问获得多少信息量?解:设随机变量X 代表女孩子学历X x 1(是大学生) x 2(不是大学生) P(X) 0.25 0.75设随机变量Y 代表女孩子身高Y y 1(身高>160cm ) y 2(身高<160cm ) P(Y) 0.5 0.5已知:在女大学生中有75%是身高160厘米以上的 即:p(y 1/ x 1) = 0.75求:身高160厘米以上的某女孩是大学生的信息量 即:b y p x y p x p y x p y x I 415.15.075.025.0log )()/()(log )/(log )/(2111121111=⎪⎭⎫⎝⎛⨯-=⎥⎦⎤⎢⎣⎡-=-=2. 8:英文字母中e 出现的概率为0.105,c 出现的概率为0.023,o 出现的概率是0.001,分别计算它们的自信息量。

解:2.18有两个二元随机变量X 和Y ,它们的联合概率为并定义另一随机变量Z = XY (一般乘积),试计算:(1) H(X), H(Y), H(Z), H(XZ), H(YZ)和H(XYZ);(2) H(X/Y), H(Y/X), H(X/Z), H(Z/X), H(Y/Z), H(Z/Y), H(X/YZ), H(Y/XZ)和H(Z/XY);(3) I(X;Y), I(X;Z), I(Y;Z), I(X;Y/Z), I(Y;Z/X)和I(X;Z/Y)。

解: (1)111()log 3.25,()log 5.44,()log 9.970.1050.0230.001I e bit I c bit I o bit ======218381)()()(21111=+=+=y x p y x p x psymbol bit y p y p Y H y x p y x p y p y x p y x p y p symbol bit x p x p X H y x p y x p x p jj j ii i / 1)(log )()(218183)()()(218381)()()(/ 1)(log )()(218183)()()(22221212111222122=-==+=+==+=+==-==+=+=∑∑ Z = XY 的概率分布如下:symbolbit z p Z H z z Z P Z kk / 544.081log 8187log 87)()(818710)(22221=⎪⎭⎫ ⎝⎛+-=-=⎪⎭⎪⎬⎫⎪⎩⎪⎨⎧===⎥⎦⎤⎢⎣⎡∑ symbolbit z x p z x p XZ H z p z x p z x p z x p z p z x p z p z x p z x p z x p z p x p z x p z x p z x p z x p x p i kk i k i / 406.1)81log 8183log 8321log 21()(log )()(81)()()()()(835.087)()()()()()(5.0)()(0)()()()(22222222221211112121111112121111=++-=-===+==-=-=+====+=∑∑symbolbit z y p z y p YZ H z p z y p z y p z y p z p z y p z p z y p z y p z y p z p y p z y p z y p z y p z y p y p j kk j k j / 406.1)81log 8183log 8321log 21()(log )()(81)()()()()(835.087)()()()()()(5.0)()(0)()()()(22222222221211112121111112121111=++-=-===+==-=-=+====+=∑∑838121)()()()()()(8/1)()()()()(0)(0)(0)(11111121111111211111111211111212221211=-=-==+===+===z y x p z x p z y x p z x p z y x p z y x p y x p z y x p y x p z y x p z y x p z y x p z y x p z y x psymbolbit z y x p z y x p XYZ H y x p z y x p y x p z y x p z y x p z y x p y x p z y x p y x p z y x p z y x p ijkk j i k j i / 811.181log 8183log 8383log 8381log 81)(log )()(81)()()()()(0)(83)()()()()(2222222222222221221221211212212112=⎪⎭⎫ ⎝⎛+++-=-====+====+∑∑∑(2)symbolbit XY H XYZ H XY Z H symbol bit XZ H XYZ H XZ Y H symbol bit YZ H XYZ H YZ X H symbol bit Y H YZ H Y Z H symbol bit Z H YZ H Z Y H symbol bit X H XZ H X Z H symbol bit Z H XZ H Z X H symbol bit X H XY H X Y H symbol bit Y H XY H Y X H symbolbit y x p y x p XY H i jj i j i / 0811.1811.1)()()/(/ 405.0406.1811.1)()()/(/ 405.0406.1811.1)()()/(/ 406.01406.1)()()/(/ 862.0544.0406.1)()()/(/ 406.01406.1)()()/(/ 862.0544.0406.1)()()/(/ 811.01811.1)()()/(/ 811.01811.1)()()/(/ 811.181log 8183log 8383log 8381log 81)(log )()(22222=-=-==-=-==-=-==-=-==-=-==-=-==-=-==-=-==-=-==⎪⎭⎫ ⎝⎛+++-==-=∑∑ (3)symbolbit YZ X H Y X H Y Z X I symbol bit XZ Y H X Y H X Z Y I symbol bit YZ X H Z X H Z Y X I symbolbit Z Y H Y H Z Y I symbol bit Z X H X H Z X I symbol bit Y X H X H Y X I / 406.0405.0811.0)/()/()/;(/ 457.0405.0862.0)/()/()/;(/ 457.0405.0862.0)/()/()/;(/ 138.0862.01)/()();(/ 138.0862.01)/()();(/ 189.0811.01)/()();(=-=-==-=-==-=-==-=-==-=-==-=-=3.1 设离散无记忆信源⎭⎬⎫⎩⎨⎧=====⎥⎦⎤⎢⎣⎡8/14/1324/18/310)(4321x x x x X P X ,其发出的信息为(202120130213001203210110321010021032011223210),求(1) 此消息的自信息量是多少?(2) 此消息中平均每符号携带的信息量是多少?解:(1) 此消息总共有14个0、13个1、12个2、6个3,因此此消息发出的概率是:62514814183⎪⎭⎫ ⎝⎛⨯⎪⎭⎫ ⎝⎛⨯⎪⎭⎫ ⎝⎛=p此消息的信息量是:bit p I 811.87log 2=-=(2) 此消息中平均每符号携带的信息量是:bit n I 951.145/811.87/==3.3 设信源⎭⎬⎫⎩⎨⎧=⎥⎦⎤⎢⎣⎡17.016.017.018.019.02.0)(654321x x x x x x X P X ,求这个信源的熵,并解释为什么H(X) > log6不满足信源熵的极值性。

《大学信息技术基础》章节测试题与答案

《大学信息技术基础》章节测试题与答案

《大学信息技术基础》章节测试题与答案第一单元1.【单选题】有一二进制信源符号,0和1发生的概率分别P(0)与P(1),当()概率发生时,信源的熵达到最大值。

A、P(0)>P(1)B、P(0)<P(1)C、P(0)=P(1)D、不能确定答案:C2.【单选题】下面几个不同进制的数中,最大的数是()。

A、二进制数100B、十进制数100C、十六进制数100D、二进制数111答案:C3.【单选题】同时掷一对均匀的骰子,点数“2和6同时出现”这一事件的自信息量约为()比特。

A、B、C、D、答案:B4.【单选题】()是现代社会主要依赖的三种资源。

A、信息、物质、能量B、空气、石油、粮食C、意识、物质、能量D、信息、物质、知识答案:A5.【单选题】关于ASCII码,下面说法正确的是()。

A、ASCII码的含义是国际标准信息交换代码。

B、ASCII码使用指定的7位或8位二进制数组合来表示128或256种可能的字符。

C、最新扩展的ASCII编码方案包含了汉字的编码。

D、中国、日本和韩国的象形文字符也可以采用ASCII码表示。

答案:B6.【单选题】若开关闭合与灯泡亮的状态若用条件真表示,则下图中灯泡亮的条件可表示为()。

A、A与BB、A或BC、A非BD、A异或B答案:A7.【单选题】设A、B、C、D四个消息分別以概率1/4、1/8、1/8、1/2传送,信源的平均信息量为()bit。

A、1B、1.5C、1.75D、2答案:C8.【单选题】关于香农信息度量公式,下列陈述正确的是()。

A、它只适合于随机不确定性事件B、它适合于确定性事件C、它适合于语义信息度量D、上述答案都不正确答案:A9.【单选题】关于中文信息处理,以下正确的叙述是()。

A、中文信息在计算机内采用ASCII码表示B、中文信息在计算机内采用双字节表示C、中文信息的输入码与在计算机内采用的编码是一致的D、BIG5码是一种简体汉字的编码方案答案:B10.【单选题】人类经历的四次信息技术革命依次为:语言的产生及文字的出现、();广播、电视的发明和普及;计算机的普及应用及其与通信技术的结合。

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
相关文档
最新文档