信息论与编码复习题,德州学院
信息论与编码题库及答案
信息论与编码题库及答案信息论是一门关于信息传输和处理的学科，主要研究信息的传输、存储与处理，以及在信息传输过程中可能产生的各种噪声和干扰。
信息论在近年来得到了广泛的应用，尤其在计算机科学、通信工程、数据处理以及加密技术等领域中得到了广泛应用。
作为信息处理学科的一个分支，编码学是信息论中重要的研究领域之一，主要研究在信息传输的过程中如何将信息进行编码，并在保证高可靠性的同时减少信息传输的开销。
现代编码学研究所涉及到的内容非常广泛，包括错误检测、纠正编码、信息压缩以及密码学等领域。
为了帮助广大信息与通信工程学习者更好地掌握编码理论及其应用，以下总结了一些编码学的题库及答案，供大家参考。
一、错误检测编码1. 什么是奇偶校验码？答：奇偶校验码是一种简单的错误检测编码方式，它采用了消息的一位奇偶性作为编码方式。
具体而言，对于一组位数固定的二进制数，在其中加入一个附加位，使得这组数的位数为偶数。
然后将这些二进制数按照某种规则排列，例如相邻的两位组成一组，计算每组中1的个数。
如果某组中1的个数是偶数，则附加位赋值为0，否则为1。
这样，如果在传输的过程中数据出现了单一位的错误，则会被检测出来。
2. 什么是海明编码？答：海明编码是一种通过添加校验位来实现错误检测和纠正的编码方式。
在海明编码中，校验位的数目为2的k次幂个，其中k 表示数据位中最大1的位置数。
具体而言，将原始信息看作一组二进制数，再将这些数按照某种规则排列，然后按照一定的算法计算出每个校验位的值，并将这些值添加到原始信息中。
在传输的过程中，如果发现了错误的位，则可以通过一系列错误检测和纠正的操作来确定和修复出错的信息位。
二、信息压缩编码1. 什么是霍夫曼编码？答：霍夫曼编码是一种基于无损数据压缩的编码方式，它的特点是可以将原始信息中出现最频繁的字符用最短的二进制码来表示，同时将出现次数较少的字符用较长的二进制码来表示。
具体来说，霍夫曼编码首先对原始信息中的字符进行统计，确定每个字符出现的频率。
信息论与编码复习题
1.从大量统计中知道，男性红绿色盲的发病率为116，女性发病率为164，如果你问一对男女“你是否是红绿色盲？”他们分别回答可能是“是”。
问此回答各含多少信息量？平均每个回答各含多少信息量？4,6,11/322. 地区的女孩中有25％是大学生，在女大学生中有75％是身高1.6米以上的，而女孩中身高1.6米以上的占半数一半。
假如我们得知“身高1.6米以上的某女孩是大学生”的消息，问获得多少信息量？28log 33.设有一连续随机变量，其概率密度函数为：2,01()0,bx x p x others ⎧≤≤=⎨⎩，试求这随机变量的熵。
又若1(0)Y X K K =+>，22Y X =，试分别求出1Y 和2Y 的熵1()C H Y 和2()C H Y 。
4. 设随机变量X 取值于0{}k X k +∞==，()k P X k P ==，0,1,,k = 已知X 的数学期望0EX A =>,求使()H X 达到最大的概率分布和该分布的熵.5.设Markov 信源的状态空间为：12{,}{0,1}S S =，其一步转移概率如下:11211222(|)0.25, (|)0.75, (|)0.6, (|)0.4.P S S P S S P S S P S S ====1)画出状态转移图？2)求该信源的平稳分布.4/9,5/93)求该信源的极限分布.6. 一信源产生概率为995.0)0(,005.0)1(==P P 的统计独立二进制数符。
这些数符组成长度为100的数符组。
我们为每一个含有3个或少于3个“1”的源数符组提供一个二进制码字，所有码字的长度相等。
①求出为所规定的所有源符组都提供码字所需的最小码长。
18 ②求信源发出一数符组，而编码器无相应码字的概率。
0.001685157 .设有一Markov 信源，其状态集为123{,,}S s s s =，符号集为123{,,}x x x ，在某状态下发出符号的概率如图所示。
信息论与编码习题参考答案(全)
信息论与编码习题参考答案 第一章 单符号离散信源1.1同时掷一对均匀的子，试求：(1)“2和6同时出现”这一事件的自信息量； (2)“两个5同时出现”这一事件的自信息量； (3)两个点数的各种组合的熵； (4)两个点数之和的熵；(5)“两个点数中至少有一个是1”的自信息量。
解：bitP a I N n P bit P a I N n P c c N 17.536log log )(361)2(17.418log log )(362)1(36662221111616==-=∴====-=∴===⨯==样本空间：(3)信源空间：bit x H 32.436log 3662log 3615)(=⨯⨯+⨯⨯=∴ (4)信源空间： bitx H 71.3636log 366536log 3610 436log 368336log 366236log 36436log 362)(=⨯⨯+⨯+⨯+⨯⨯=∴＋＋ (5) bit P a I N n P 17.11136log log )(3611333==-=∴==1.2如有6行、8列的棋型方格，若有两个质点A 和B ，分别以等概落入任一方格，且它们的坐标分别为（Xa ，Ya ）, （Xb ，Yb ）,但A ，B 不能同时落入同一方格。
（1） 若仅有质点A ，求A 落入任一方格的平均信息量； （2） 若已知A 已落入，求B 落入的平均信息量； （3） 若A ，B 是可辨认的，求A ，B 落入的平均信息量。
解：bita P a P a a P a I a P A i 58.548log )(log )()(H 48log )(log )(481)(:)1(481i i i i i ==-=∴=-=∴=∑=落入任一格的概率bitb P b P b b P b I b P A i 55.547log )(log )()(H 47log )(log )(471)(:B ,)2(481i i i i i ==-=∴=-=∴=∑=落入任一格的概率是落入任一格的情况下在已知 bitAB P AB P AB H AB P AB I AB P AB i i i i i i i 14.11)4748log()(log )()()(log )(471481)()3(47481=⨯=-=-=∴⨯=∑⨯=是同时落入某两格的概率1.3从大量统计资料知道,男性中红绿色盲的发病率为7%,女性发病率为0.5%.如果你问一位男士：“你是否是红绿色盲？”他的回答可能是：“是”，也可能“不是”。
信息论与编码学考试试题
信息论与编码学考试试题1. 信息的概念信息：是指各个事物运动的状态及状态变化的方式。
（具有不确定性，任何已经确定的事物都不含有信息）2. 相对熵的概念及计算连续信源可以假设是一个不可数的无限多个幅度值的信源，需要无限多个二进制数来表示，因此它的熵为无穷大。
连续信源的熵具有相对性，有时也叫相对熵。
连续信源熵（相对熵）：Hc(X)=x p x P X X )(log )(?∞∞--3. 信源熵的概念及计算信源中各个符号不确定度的数学期望叫做信源熵H(X)=E[I(X)]= )(log )()()(21i i ni i i i x p x p x I x p ∑∑=-= 单位：比特/符号其中：0≤ )p(x i ≤1，当信源中只含一个符号x 时，必定有)p(x i =1.4. 分组码将信源消息分成若干组，即符号序列X i ，X i =（X 1，X 2 (X)l ...X L ),序列中的每个符号取自于符号集A,X l ∈{a 1,a 2,...,a i ,...,a n }.而每个符号序列X i 依照固定的码表映射成一个码字Y i ，这样的码称为分组码，也叫快码。
只有分组码才有对应的码表，而非分组码中不存在。
5. 唯一可译码任意有限长的码元序列，只能被唯一的分割成一个个的码字，便称为唯一可译码。
唯一可译码分为：非即时码和即时码6. 唯一可译码存在的充分必要条件的概念及应用用树的概念可导出唯一可译码存在的充分必要条件，即各码字的长度Ki 应符合克劳夫特不等式：∑=-n K i m1i ≤1 （m 是进制数，n 是信源符号数）7. 疑义度的概念及计算条件熵H(X/Y)可以看做是信道上的干扰和噪声所造成的对信源符号x 的不确定度，故又称为疑义度或损失熵。
H(X/Y)=E[I(x i /y i )]= )/()(j ,i i i ii y x I y x p ∑ =)/(log )(-j,i i i i i y x p y x p ∑ 散布度或噪声熵H(Y/X)=E[I(y i /x i )]= )/y ()(j ,i i i ii x I y x p ∑ =)/y (log )(-j,i i i i i x p y x p ∑8. 恒重码的概念如果码集的所有码字都具有相同的重量，这种码就叫做恒重码9. 平均自信息量的概念及计算平均自信息量是消除信源不确定度时所需要的信息的量度，即收到一个信源符号，全部解除了这个符号的不确定度。
信息论与编码试卷_信息论与编码试卷题目及答案
最大熵值为组成一个马尔可夫链，且有，。
说明经数据处理后，一般只会增加信息的损失。
，它是高斯加性白噪声信道在单位时间内的信道容量，其值取决于由得，则解释无失真变长信源编码定理。
只要，当什么是保真度准则？对二元信源，其失真矩阵，求和？答：，所以有，而。
息出现前后没有关联，求熵；）假设黑白消息出现前后有关联，其依赖关系为：，，，，求其熵；）信源模型为）由得则）若，，求和；）），最佳输入概率分布为等概率分布。
信源空间为答：1）二元码的码字依序为：10，11，010，011，1010，1011，1000，1001。
平均码长，编码效率2）三元码的码字依序为：1，00，02，20，21，22，010，011。
平均码长，编码效率4.设有一离散信道，其信道传递矩阵为，并设，试分别按最小错误概率准则与最大似然译码准则确定译码规则，并计算相应的平均错误概率。
答：1）最小似然译码准则下，有，2）最大错误概率准则下，有，5.已知一（8，5）线性分组码的生成矩阵为。
求：1）输入为全00011和10100时该码的码字；2）最小码距。
6.设某一信号的信息传输率为5.6kbit/s，在带宽为4kHz的高斯信道中传输，噪声功率谱NO=5×10－6mw/Hz。
试求：（1）无差错传输需要的最小输入功率是多少？（2）此时输入信号的最大连续熵是多少？写出对应的输入概率密度函数的形式。
7.答：1）无错传输时，有即则2）在时，最大熵对应的输入概率密度函数为2）最大错误概率准则下，有，6.答：1）无错传输时，有即则2）在时，最大熵对应的输入概率密度函数为。
信息论与编码复习题
信息论与编码复习题⼀、填空题1. 设信源X 包含4个不同离散消息，当且仅当X 中各个消息出现的概率为___1/4___时，信源熵达到最⼤值，为__2__，此时各个消息的⾃信息量为__2 __。
2.如某线性分组码的最⼩汉明距dmin=4，则该码最多能检测出___3____个随机错，最多能纠正__1____个随机错。
3.克劳夫特不等式是唯⼀可译码___存在___的充要条件。
4.平均互信息量I(X;Y)与信源熵和条件熵之间的关系是___(X;Y)=H(X)-H(X/Y )___。
5._信源___提⾼通信的有效性，_信道____⽬的是提⾼通信的可靠性，_加密__编码的⽬的是保证通信的安全性。
6.信源编码的⽬的是提⾼通信的有效性，信道编码的⽬的是提⾼通信的可靠性，加密编码的⽬的是保证通信的安全性。
7.设信源X 包含8个不同离散消息，当且仅当X 中各个消息出现的概率为__1/8__时，信源熵达到最⼤值，为___3____。
8.⾃信息量表征信源中各个符号的不确定度，信源符号的概率越⼤，其⾃信息量越_⼩___。
9.信源的冗余度来⾃两个⽅⾯，⼀是信源符号之间的__相关性__，⼆是信源符号分布的 __不均匀性__。
10.最⼤后验概率译码指的是译码器要在已知r 的条件下找出可能性最⼤的发码作为译码估值，即令 =maxP( |r)_ __。
11.常⽤的检纠错⽅法有__前向纠错___、反馈重发和混合纠错三种。
⼆、单项选择题1.下⾯表达式中正确的是（A ）。
A.∑=ji j x y p 1)/( B.∑=ii j x y p 1)/(C.∑=jj j i y y x p )(),(ω D.∑=ii j i x q y x p )(),(2.彩⾊电视显像管的屏幕上有5×105个像元，设每个像元有64种彩⾊度，每种彩度⼜有16种不同的亮度层次，如果所有的彩⾊品种和亮度层次的组合均以等概率出现，并且各个组合之间相互独⽴。
信息论与编码考试题(附答案版)
1.按发出符号之间的关系来分，信源可以分为（有记忆信源）和（无记忆信源）2.连续信源的熵是（无穷大），不再具有熵的物理含义。
3.对于有记忆离散序列信源，需引入（条件熵）描述信源发出的符号序列内各个符号之间的统计关联特性3.连续信源X,平均功率被限定为P时，符合（正态）分布才具有最大熵，最大熵是（1/2ln （2πⅇσ2））。
4.数据处理过程中信息具有（不增性）。
5.信源冗余度产生的原因包括（信源符号之间的相关性）和（信源符号分布的不均匀性）。
6.单符号连续信道的信道容量取决于（信噪比）。
7.香农信息极限的含义是（当带宽不受限制时，传送1bit信息，信噪比最低只需-1.6ch3）。
8.对于无失真信源编码，平均码长越小，说明压缩效率（越高）。
9.对于限失真信源编码，保证D的前提下，尽量减少（R(D)）。
10.立即码指的是（接收端收到一个完整的码字后可立即译码）。
11.算术编码是（非）分组码。
12.游程编码是（无）失真信源编码。
13.线性分组码的（校验矩阵）就是该码空间的对偶空间的生成矩阵。
14.若（n，k）线性分组码为MDC码，那么它的最小码距为（n-k+1）。
15.完备码的特点是（围绕2k个码字、汉明矩d=[（d min-1）/2]的球都是不相交的每一个接受吗字都落在这些球中之一，因此接收码离发码的距离至多为t，这时所有重量≤t的差错图案都能用最佳译码器得到纠正，而所有重量≤t+1的差错图案都不能纠正）。
16.卷积码的自由距离决定了其（检错和纠错能力）。
（对）1、信息是指各个事物运动的状态及状态变化的方式。
（对）2、信息就是信息，既不是物质也不是能量。
（错）3、马尔可夫信源是离散无记忆信源。
（错）4、不可约的马尔可夫链一定是遍历的。
（对）5、单符号连续信源的绝对熵为无穷大。
（错）6、序列信源的极限熵是这样定义的：H(X)=H(XL|X1,X2,…,XL-1)。
（对）7、平均互信息量I(X;Y)是接收端所获取的关于发送端信源X的信息量。
信息论与编码复习题
信息论与编码复习题1.从⼤量统计中知道，男性红绿⾊盲的发病率为116，⼥性发病率为164，如果你问⼀对男⼥“你是否是红绿⾊盲？”他们分别回答可能是“是”。
问此回答各含多少信息量？平均每个回答各含多少信息量？4,6,11/322. 地区的⼥孩中有25％是⼤学⽣，在⼥⼤学⽣中有75％是⾝⾼1.6⽶以上的，⽽⼥孩中⾝⾼1.6⽶以上的占半数⼀半。
假如我们得知“⾝⾼1.6⽶以上的某⼥孩是⼤学⽣”的消息，问获得多少信息量？28log 33.设有⼀连续随机变量，其概率密度函数为：2,01()0,bx x p x others ?≤≤=??，试求这随机变量的熵。
⼜若1(0)Y X K K =+>，22Y X =，试分别求出1Y 和2Y 的熵1()C H Y 和2()C H Y 。
4. 设随机变量X 取值于0{}k X k +∞==，()k P X k P ==，0,1,,k = 已知X 的数学期望0EX A =>,求使()H X 达到最⼤的概率分布和该分布的熵.5.设Markov 信源的状态空间为：12{,}{0,1}S S =，其⼀步转移概率如下:11211222(|)0.25, (|)0.75, (|)0.6, (|)0.4.P S S P S S P S S P S S ====1)画出状态转移图？2)求该信源的平稳分布.4/9,5/93)求该信源的极限分布.6. ⼀信源产⽣概率为995.0)0(,005.0)1(==P P 的统计独⽴⼆进制数符。
这些数符组成长度为100的数符组。
我们为每⼀个含有3个或少于3个“1”的源数符组提供⼀个⼆进制码字，所有码字的长度相等。
①求出为所规定的所有源符组都提供码字所需的最⼩码长。
18 ②求信源发出⼀数符组，⽽编码器⽆相应码字的概率。
0.001685157 .设有⼀Markov 信源，其状态集为123{,,}S s s s =，符号集为123{,,}x x x ，在某状态下发出符号的概率如图所⽰。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
一、填空1. 信息论基础主要研究信息的测度、 信道容量 、 信源和信道编码理论 等问题。
2. 必然事件的自信息量是0，不可能事件的自信息量是无穷大。
3. 若把掷骰子的结果作为一离散信源，则信源熵为2log 。
4. 当事件i x 和j y 彼此之间相互独立时，平均互信息量为 0 。
5. 若二维平稳信源的信源熵为3bit/sign ，则其平均符号熵为1.5bit/sign 。
6. 信源熵H(X)表示信源输出后每个消息所提供的 平均信息量 。
7. 布袋中有红白球各50只，若从中随意取出一只球，则判断其颜色所需的信息量为 1bit 。
8. 单符号离散信源是用随机变量来描述的，则多符号离散信源用随机矢量来描述。
9. 平均互信息量与信息熵、联合熵的关系是I(X;Y)=H(X)+H(Y)-H(XY) 。
10. 条件熵H （x|y ）和无条件熵H （X ）的关系是小于等于。
11. 对于理想信道，H （x|y ）等于0 ；I （x ；y ）= H （X ）。
12. 若YZ 统计独立，则H （YZ ）和H （Y ）、H （Z ）之间的关系是H （YZ ）=H （Y ）+H （Z ） 。
13. 对某含有7个消息的信源，其熵的最大值为2log 7，对应为等概分布分布。
14. 对某含有8个消息的信源，其熵的最大值为2log 8，对应为等概分布。
15. 对某含有6个消息的信源，其熵的最大值为2log 6，对应为等概分布。
16. 对某含有9个消息的信源，其熵的最大值为2log 9，对应为等概分布。
17. 十六进制脉冲所含的信息量是四进制脉冲的2 倍。
18. 八进制脉冲所含的信息量是二进制脉冲的3倍。
19. 十六进制脉冲所含的信息量是二进制脉冲的 4倍。
20. 离散平稳无记忆信源的N 次扩展信源的熵等于离散信源熵的N 倍。
21. 离散信源的熵越小，则该信源消息之间的平均不确定性越弱。
22. 对于r 进制树图，n 级节点的个数一般为nr 。
23. 信道中任一时刻输出符号仅统计依赖于对应时刻的输入符号，而与非对应时刻的输入符号及其它任何时刻的输出符号无关，这种信道称之为 有干扰无记忆信道 。
24. 对于某一信源和某一符号集来说，若有一个唯一可译码，其平均码长小于所有其它唯一可译码的平均码长，则称该码为紧致码或最佳码 。
25. 分组码是前向纠错码 ，它可以在无需重新发射的情况下检测出有限个错码，并加以纠正。
26. 信源编码的目的是提高通信的有效性。
27. 对于香农编码和哈夫曼编码，编码方法唯一的是香农编码 。
28. 若纠错码的最小距离为dmin,则可以纠错任意小于等于（dmin-1）/2个差错。
29. 线性分组码是同时具有线性特性和分组特性的纠错码。
30. 道的输出仅与当前输入有关，而与过去无关的信道称无记忆信道。
31. 唯一可译码存在的充要条件是11i nk i m -=≤∑。
32. 编码分为信源编码和信道编码两种。
33. 信道无失真传输信息的条件是信息传输速率小于信道容量。
34. 对称信道中，信源的最佳分布为等概分布。
35. 信源编码和信道编码的最大区别在于信源编码需减少信源的冗余度，而信道编码需增加信源的冗余。
36. 信道编码的目的是提高通信的可靠性。
37. 离散信源分为离散无记忆信源 和 离散有记忆信源。
38. ()R D 是D 的下凸函数。
39. 码字10100001与码字01100000之间的距离是 3 。
40. 码字011111101、100111001之间的最汉明距离为5。
41. 码字101110101、100111001之间的最汉明距离为3。
42. 码字101111101、011111101、100111001之间的最小汉明距离为 2 。
43. 码字101010101、100111001之间的最汉明距离为4。
44. 码字101010101、100101001之间的最汉明距离为5。
45. 码字10100001与码字01100000之间的距离是 3 。
46. 将循环码0010111循环左移位1之后的码字10101110。
47. 将循环码0010111循环左移位2之后的码字1011100。
48. 将循环码0010111循环左移4位之后的码字1110010。
49.50. 二、解释下列名词51. 自信息量：一个随机事件发生某一结果后所带来的信息量称为自信息量，简称自信息。
2()log ()i i I a p a =-52. 互信息量：xi 的后验概率与先验概率比值的对数，为yj 对xi 的互信息量，也称为交互信息量（简称互信息），用I(xi ；yj)表示，53. 即：log (/)(;)()i j iji p x y I x y p x =54. （i=1，2，……n ；j=1，2，……m ）55. 信道冗余度：设信道的信息传输速率为R=I(X,Y)，信道容量为C ，信道的剩余度定义为：信道冗余度=C-I(X,Y)56. 离散信源：发出在时间和幅度上都是离散分布的离散消息的信源。
如：文字、数字、数据、字母等。
57. 离散无记忆序列信源：若信源输出的消息是取值离散的平稳随机序列，并且序列中各随机变量之间彼此统计独立，则此信源称为离散无记忆序列信源.58. 无记忆离散信源：发出的各个符号是相互独立的；各符号序列中的各个符号之间是没有统计关联的关系。
各个符号的出现概率是它自身的先验概率。
无记忆离散信源包含发出单符号的无记忆离散信源和发出符号序列的无记忆离散信源。
59. 有记忆离散信源：发出的各个符号是相关联的。
表述起来很困难。
有记忆离散信源又可分为发出符号序列的有记忆离散信源和发出符号序列的马尔可夫信源。
60. 冗余度: 它表示给定信源在实际发出消息时所包含的多余信息.(也称为多余度或剩余度).m H H /1∞-=γ其中：H ∞(X)--为信源实际熵； Hm(X)--信源最大熵。
61. 线性分组码：同时具有分组特性和线性特性的纠错码。
将输入的信息组编成长为n 的码字,码字前k 位为信息元,后r=n-k 个码元为校验元。
若各校验元与前k 个信息元之间是线性关系,则称这样的码为线性分组码。
62. 唯一可译码：若码的任意一串有限长的码符号序列,只能被唯一的译成所对应的信源符号序列,则称为唯一可译码。
63. 编码效率: 表示编码后实际信息量和能载荷最大信息量的比值。
假设码元为m 进制，即可取m 种可能值，则每个码元所能载荷的最大信息量为logm 比特/码元。
mK x H R R log )(max ==η64. 准对称信道：如果信道转移矩阵按列可以划分为几个互不相交的子集，每个子矩阵满足下列性质： (1)每行都是第一行的某种置换； (2)每列都是第一列的某种置换。
称该信道为准对称信道。
65. 信息率失真函数:选定信源和失真函数后，)],([b a d E D =-可以看成条件概率p(b|a)的函数。
设BD={P(b|a):D D ≤-}满足保真度准则的所有信道集合，这种信道称为失真度D 允许信道（或试验信道）。
66. 即时译码:非延长码或非续长码,任意一个码子都不是其它码字的前缀部分.67. 信道容量：互信息量I(X,Y)是输入符号X 概率分布的凸函数对于一个给定的信道，总是存在某种概率分布p(xi),使得传输每个符号平均获得的信息量最大，即对于每个固定的信道总是存在一个最大的信息传输速率，这个最大信息传输速率定义为信道容量。
68. 对称信道：若转移概率矩阵P 每一行都是第一行的置转, 称矩阵是输入对称.若每一列都是第一列的置转,称矩阵是输出对称.若输入输出都对称,称对称DMC 信道。
69. 汉明距离：长度为n 的两个符号序列(码字)αi 和βj 之间的汉明距离为αi 和βj 对应位置上不同码元的个数, 汉明距离记为d(αi,βj)70. 循环码：设c 是线性分组码的任一码字，如果c 经循环移位c=(c1,c 2,…,cn-1,cn)→c ⑴=(c2,c3,…,cn-1cn,c1)后的序列仍然是码字, 那么称该线性分组码为循环码。
71. 无损压缩：长是利用数据的统计冗余进行压缩，可完全回复原始数据而不引起任何失真。
但压缩率是受到数据统计冗余度的理论限制，一般为2:1到5:1。
72. 有损压缩：经过压缩、解压的数据与原始数据不同,但是非常接近的压缩方法，又称破坏型压缩，即将次要的信息数据压缩掉，牺牲一些质量来减少数据量，使压缩比提高。
73. 输出对称信道：如果信道转移概率矩阵中所有列矢量都是第一列的某种置换，则称信道是关于输出对称离散信道。
74. 有噪无损信道：信道输出符号Y 集合的数量大于信道符号X 集合的数量,即r ＜s,形成一对多的映射关.由于一对多的映射关系,不能由输入完全确定信道的输出,H(X ︱Y) ＞0，H(X)＜H(Y),I(X;Y)=H(X). 75.{}{}()()max (;)max ()log p x p x C I X Y H x r===76. 码树：码树有一个树根A,树根有m 个树枝，树枝的尽头称为节点,每个节点生出是树枝的数量等于码符号的数量m ，从而形成m 进制的码树。
77. 非即时译码：接收端收到一个完整的码字后,不能立即译码,而等下一码字开始接收后才判断是否可以码.78. 平均码长：编码后的每个信源符号平均所需的码元（码符号）个数。
79.1()qi ii K P x K ==∑80. 3.简答81. 简述信息、消息、信号及其区别。
82. 答：信息是事物运动状态或存在方式的不确定性的描述。
信息的基本概念在于它的不确定性，任何确定的事物都不会有信息。
用文字、符号、数据、语言、音符、图片、图像等能够被人们感觉器官所感知的形式，把客观物质运动和主观思维活动的状态表达出来就成为消息。
消息包含信息，是信息的载体，但不是物理性的。
把消息换成适合信道传输的物理量（如电信号、光信号、声信号、生物信号等），这种物理量称为信号。
信号是信息的载体，是物理性的。
83. 信息量、联合自信息量和条件自信息量三者之间的关系。
84. 信息是事物运动状态或存在方式的不确定性的描述。
信息的基本概念在于它的不确定性，任何确定的事物都不会有信息。
用文字、符号、数据、语言、音符、图片、图像等能够被人们感觉器官所感知的形式，把客观物质运动和主观思维活动的状态表达出来就成为消息。
消息包含信息，是信息的载体，但不是物理性的。
把消息换成适合信道传输的物理量（如电信号、光信号、声信号、生物信号等），这种物理量称为信号。
信号是信息的载体，是物理性的。
85. 简述信源熵物理含义。
86. (1)信息熵H(X)表示了信源输出前，信源的平均不确定性； (2)信息熵H(X)表示了信源输出后，每个消息或符号所提供的平均信息量； (3)信息熵H(X)反映了随机变量X 的随机性。