《信息论与编码A》练习题
信息理论与编码-期末试卷A及答案
一、填空题（每空1分，共35分） 1、1948年，美国数学家 发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。
信息论的基础理论是 ，它属于狭义信息论。
2、信号是 的载体，消息是 的载体。
3、某信源有五种符号}{,,,,a b c d e ，先验概率分别为5.0=a P ，25.0=b P ，125.0=c P ，0625.0==e d P P ，则符号“a ”的自信息量为 bit ，此信源的熵为 bit/符号。
4、某离散无记忆信源X ，其概率空间和重量空间分别为1234 0.50.250.1250.125X x x x x P ⎡⎤⎡⎤=⎢⎥⎢⎥⎣⎦⎣⎦和12340.5122X x x x x w ⎡⎤⎡⎤=⎢⎥⎢⎥⎣⎦⎣⎦，则其信源熵和加权熵分别为 和 。
5、信源的剩余度主要来自两个方面，一是，二是 。
6、平均互信息量与信息熵、联合熵的关系是 。
7、信道的输出仅与信道当前输入有关，而与过去输入无关的信道称为 信道。
8、马尔可夫信源需要满足两个条件：一、 ； 二、。
9、若某信道矩阵为⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡010001000001100，则该信道的信道容量C=__________。
10、根据是否允许失真，信源编码可分为 和 。
12、在现代通信系统中，信源编码主要用于解决信息传输中的 性，信道编码主要用于解决信息传输中的 性，保密密编码主要用于解决信息传输中的安全性。
13、差错控制的基本方式大致可以分为 、 和混合纠错。
14、某线性分组码的最小汉明距dmin=4，则该码最多能检测出 个随机错，最多能纠正 个随机错。
15、码字101111101、011111101、100111001之间的最小汉明距离为 。
16、对于密码系统安全性的评价，通常分为 和 两种标准。
17、单密钥体制是指 。
18、现代数据加密体制主要分为 和 两种体制。
19、评价密码体制安全性有不同的途径，包括无条件安全性、 和 。
答案~信息论与编码练习
1、有一个二元对称信道，其信道矩阵如下图所示。
设该信道以1500个二元符号/秒的速度传输输入符号。
现有一消息序列共有14000个二元符号，并设在这消息中P(0)=P(1)=1/2。
问从信息传输的角度来考虑，10秒钟内能否将这消息序列无失真地传送完？解答：消息是一个二元序列，且为等概率分布，即P(0)=P(1)=1/2，故信源的熵为H(X)=1(bit/symbol)。
则该消息序列含有的信息量＝14000(bit/symbol)。
下面计算该二元对称信道能传输的最大的信息传输速率： 信道传递矩阵为：信道容量（最大信息传输率）为：C=1-H(P)=1-H(0.98)≈0.8586bit/symbol得最大信息传输速率为：Rt ≈1500符号/秒× 0.8586比特/符号 ≈1287.9比特/秒 ≈1.288×103比特/秒此信道10秒钟内能无失真传输得最大信息量＝10× Rt ≈ 1.288×104比特 可见，此信道10秒内能无失真传输得最大信息量小于这消息序列所含有的信息量，故从信息传输的角度来考虑，不可能在10秒钟内将这消息无失真的传送完。
2、若已知信道输入分布为等概率分布，且有如下两个信道，其转移概率矩阵分别为：试求这两个信道的信道容量，并问这两个信道是否有噪声？1100.980.020.020.98P ⎡⎤=⎢⎥⎣⎦111122221111222212111122221111222200000000000000000000000000000000P P ⎡⎤⎡⎤⎢⎥⎢⎥⎢⎥⎢⎥==⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦⎣⎦11222211122222log 4(00)1/()log 42/log 8(000000)2/(),H bit symbol H X bit symbol C C H bit symbol H X C =-===>=-==1解答：(1)由信道1的信道矩阵可知为对称信道故C 有熵损失，有噪声。
信息论与编码期末考试题
信息论与编码期末考试题信息论与编码期末考试题（一）一、判断题.1.当随机变量和相互独立时，条件熵等于信源熵.（）2.由于构成同一空间的基底不是唯一的，所以不同的基底或生成矩阵有可能生成同一码集.（）3.一般情况下，用变长编码得到的平均码长比定长编码大得多.（）4.只要信息传输率大于信道容量，总存在一种信道编译码，可以以所要求的任意小的误差概率实现可靠的通信.（）5.各码字的长度符合克拉夫特不等式，是唯一可译码存在的充分和必要条件.（）6.连续信源和离散信源的熵都具有非负性.（）7.信源的消息通过信道传输后的误差或失真越大，信宿收到消息后对信源存在的不确定性就越小，获得的信息量就越小.8.汉明码是一种线性分组码.（）9.率失真函数的最小值是.（）10.必然事件和不可能事件的自信息量都是.（）二、填空题1、码的检、纠错能力取决于.2、信源编码的目的是；信道编码的目的是.3、把信息组原封不动地搬到码字前位的码就叫做.4、香农信息论中的三大极限定理是、、.5、设信道的输入与输出随机序列分别为和，则成立的条件..6、对于香农-费诺编码、原始香农-费诺编码和哈夫曼编码，编码方法惟一的是.7、某二元信源，其失真矩阵，则该信源的= .三、计算题.1、某信源发送端有2种符号,；接收端有3种符号，转移概率矩阵为.（1）计算接收端的平均不确定度；（2）计算由于噪声产生的不确定度；（3）计算信道容量以及最佳入口分布.2、一阶马尔可夫信源的状态转移图如右图所示，信源的符号集为.（1）求信源平稳后的概率分布；（2）求此信源的熵；（3）近似地认为此信源为无记忆时，符号的概率分布为平稳分布.求近似信源的熵并与进行比较.3、设码符号为，信源空间为试构造一种三元紧致码.4、设二元线性分组码的生成矩阵为.（1）给出该码的一致校验矩阵，写出所有的陪集首和与之相对应的伴随式；（2）若接收矢量，试计算出其对应的伴随式并按照最小距离译码准则试着对其译码.（二）一、填空题1、信源编码的主要目的是，信道编码的主要目的是2、信源的剩余度主要来自两个方面，一是，二是3、三进制信源的最小熵为，最大熵为4、无失真信源编码的平均码长最小理论极限制为5、当时，信源与信道达到匹配。
信息论与编码题库
信息论与编码题库信息论与编码模拟题⼀、填空题1、已知 8 个码组为（000000）、（001110）、（010101）、（011011）、（100011）、（101101）、（110110）、（111000）。
则该码组的最⼩码距是 3 ，若只⽤于检错可检测 2 位错码，若只⽤于纠错可纠正 1 位错码。
2、同时掷两个正常的骰⼦，也就是各⾯呈现的概率都是 1/6，则“两个 1 同时出现”这⼀事件的⾃信息量为 5.17 ⽐特。
3、已知信源的各个符号分别为字母A ，B ，C ，D ，现⽤四进制码元表⽰，每个码元的宽度为10ms ，如果每个符号出现的概率分别为1/5，1/4，1/4，3/10，则信源熵H （x ）为 1.985 ⽐特/符号，在⽆扰离散信道上的平均信息传输速率为 198 bit/s 。
4．1948 年，美国数学家⾹农发表了题为“通信的数学理论”的长篇论⽂，从⽽创⽴了信息论。
5．对离散⽆记忆信源来说，当信源呈____________分布情况下，信源熵取最⼤值。
6、对于某离散信道，具有3 x 5的转移矩阵，矩阵每⾏有且仅有⼀⾮零元素，则该信道噪声熵为；最⼤信息传输率为。
7、⼆元删除信道BEC(0.01)的信道转移矩阵为，信道容量为；信道矩阵为100001010001010??的DMC 的信道容量为。
8．数据处理定理：当消息经过多级处理后，随着处理器数⽬的增多，输⼊消息与输出消息之间的平均互信息量趋于变⼩。
9.(7,3)码监督矩阵有 4 ⾏,⽣成矩阵有 3 ⾏。
10.对线性分组码,若要求它能纠正3个随机差错,则它的最⼩码重为 7 ,若要求它能在纠错2位的同时检错3位,则它的最⼩码重为 8。
11．汉明码是⼀种线性分组码，其最⼩码距为 3 。
12.信道编码的⽬的是提⾼数字信息传输的可靠性 ,其代价是降低了信息传输的有效性。
13.在通信系统中,纠检错的⼯作⽅式有反馈重发纠错、前向纠错、混合纠错等。
14.离散对称信道输⼊等概率时，输出为( 等概)分布。
《信息论与编码A》练习题
《信息论与编码A 》习题姓名： 学号： 成绩：一．居住在某地区的女孩中有25%是大学生，在女大学生中有75%是身高1米6以上的，而女孩中身高1米6以上的占总数一半。
假如我们得知“身高1米6 以上的某女孩是大学生”的消息，问获得多少信息量？二．设有一离散无记忆信源，其概率空间为 . 1/8 1/4 1/43/8 3 2 1 01121⎥⎦⎤⎢⎣⎡=====⎥⎦⎤⎢⎣⎡x x x x P X 如果该信源发出的消息符号序列为：S=(202 120 130 213 001 203 210 110 321 010 021 032 011 223 210），求： (1) 此消息的自信息量是多少？(2) 在此消息中平均每个符号携带的信息量是多少？三．试问四进制，八进制脉冲所含的最大信息量是二进制脉冲的多少倍？四．两个实验X 和Y ，X ={x 1，x 2，x 3}，Y ={ y 1，y 2，y 3 }，联合概率p (x i y j )=p ij如下：.24/724/1024/14/124/1024/124/7333231232221131211⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡=⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡p p p p p p p p p(1) 如果有人告诉你X 和Y 的试验结果，你得到的平均信息是多少？(2) 如果有人告诉你Y 的试验结果，你得到的平均信息量是多少？(3) 在已知Y 试验结果的情况下，告诉你X 的试验结果，你得到的平均信息量是多少？五．有两个二元随机变量X 和Y ，它们的联合概率如下图所示，定义另一个随机变量Z=XY （一般乘积）。
试计算：(1) H(X)，H(Y)，H(Z), H(XZ)，H(YZ) 和H(XYZ) (2) H(Y/Z)，H(Z/Y)，H(X/YZ)，H(Y/XZ )和H(Z/XY).(3) I(X;Y)，I(X;Z)，I(Y;Z)，I(X; Y/Z) ,I(Y;Z/X )和I( X;Z/Y).六．一个信源发出二重符号序列消息(i , j ), 其中第一个符号i 可以是A ，B ，C 中的任何一个，第二个符号j 可以是D ，E ，F ，G 中的任一个。
信息论与编码技术练习题
一、判断题1、信息论主要研究目的是找到信息传输过程的共同规律，提高信息传输的可靠性、有效性、保密性和认证性，以达到信息传输系统的最优化。
（√）2、同一信息，可以采用不同的信号形式来载荷；同一信号形式可以表达不同形式的信息。
（√）3、通信中的可靠性是指使信源发出的消息准确不失真地在信道中传输；（√）4、有效性是指用尽量短的时间和尽量少的设备来传送一定量的信息。
（√）5、保密性是指隐蔽和保护通信系统中传送的消息，使它只能被授权接收者获取，而不能被未授权者接收和理解。
（√）6、认证性是指接收者能正确判断所接收的消息的正确性，验证消息的完整性，而不是伪造的和被窜改的。
（√）7、在香农信息的定义中，信息的大小与事件发生的概率成正比，概率越大事件所包含的信息量越大。
（×）8、通信中获得的信息量等于通信过程中不确定性的消除或者减少量。
（√）9、离散信道的信道容量与信源的概率分布有关，与信道的统计特性也有关。
（×）10、连续信道的信道容量与信道带宽成正比，带宽越宽，信道容量越大。
（×）11、信源熵是信号符号集合中，所有符号的自信息的算术平均值。
（×）12、信源熵具有极值性，是信源概率分布P的下凸函数，当信源概率分布为等概率分布时取得最大值。
（×）13、离散无记忆信源的N次扩展信源，其熵值为扩展前信源熵值的N倍。
（√）14、互信息的统计平均为平均互信息量，都具有非负性。
（×）15、信源剩余度越大，通信效率越高，抗干扰能力越强。
（×）16、信道剩余度越大，信道利用率越低，信道的信息传输速率越低。
（×）17、信道输入与输出之间的平均互信息是输入概率分布的下凸函数。
（×）18、在信息处理过程中，熵是不会增加的。
（√）19、熵函数是严格上凸的。
（√）20、信道疑义度永远是非负的。
（√）21、对于离散平稳信源，其极限熵等于最小平均符号熵。
信息论与编码试卷_信息论与编码试卷题目及答案
最大熵值为组成一个马尔可夫链，且有，。
说明经数据处理后，一般只会增加信息的损失。
，它是高斯加性白噪声信道在单位时间内的信道容量，其值取决于由得，则解释无失真变长信源编码定理。
只要，当什么是保真度准则？对二元信源，其失真矩阵，求和？答：，所以有，而。
息出现前后没有关联，求熵；）假设黑白消息出现前后有关联，其依赖关系为：，，，，求其熵；）信源模型为）由得则）若，，求和；）），最佳输入概率分布为等概率分布。
信源空间为答：1）二元码的码字依序为：10，11，010，011，1010，1011，1000，1001。
平均码长，编码效率2）三元码的码字依序为：1，00，02，20，21，22，010，011。
平均码长，编码效率4.设有一离散信道，其信道传递矩阵为，并设，试分别按最小错误概率准则与最大似然译码准则确定译码规则，并计算相应的平均错误概率。
答：1）最小似然译码准则下，有，2）最大错误概率准则下，有，5.已知一（8，5）线性分组码的生成矩阵为。
求：1）输入为全00011和10100时该码的码字；2）最小码距。
6.设某一信号的信息传输率为5.6kbit/s，在带宽为4kHz的高斯信道中传输，噪声功率谱NO=5×10－6mw/Hz。
试求：（1）无差错传输需要的最小输入功率是多少？（2）此时输入信号的最大连续熵是多少？写出对应的输入概率密度函数的形式。
7.答：1）无错传输时，有即则2）在时，最大熵对应的输入概率密度函数为2）最大错误概率准则下，有，6.答：1）无错传输时，有即则2）在时，最大熵对应的输入概率密度函数为。
信息论与编码考试题(附答案版)
1.按发出符号之间的关系来分，信源可以分为（有记忆信源）和（无记忆信源）2.连续信源的熵是（无穷大），不再具有熵的物理含义。
3.对于有记忆离散序列信源，需引入（条件熵）描述信源发出的符号序列内各个符号之间的统计关联特性3.连续信源X,平均功率被限定为P时，符合（正态）分布才具有最大熵，最大熵是（,1/-2.,ln（-,2πⅇ,σ-2...））。
4.数据处理过程中信息具有（不增性）。
5.信源冗余度产生的原因包括（信源符号之间的相关性）和（信源符号分布的不均匀性）。
6.单符号连续信道的信道容量取决于（信噪比）。
7.香农信息极限的含义是（当带宽不受限制时，传送1bit信息，信噪比最低只需-1.6ch3）。
8.对于无失真信源编码，平均码长越小，说明压缩效率（越高）。
9.对于限失真信源编码，保证D的前提下，尽量减少（R(D)）。
10.立即码指的是（接收端收到一个完整的码字后可立即译码）。
11.算术编码是（非）分组码。
12.游程编码是（无）失真信源编码。
13.线性分组码的（校验矩阵）就是该码空间的对偶空间的生成矩阵。
14.若（n，k）线性分组码为MDC码，那么它的最小码距为（n-k+1）。
15.完备码的特点是（围绕2k个码字、汉明矩d=[（d min-1）/2]的球都是不相交的每一个接受吗字都落在这些球中之一，因此接收码离发码的距离至多为t，这时所有重量≤t的差错图案都能用最佳译码器得到纠正，而所有重量≤t+1的差错图案都不能纠正）。
16.卷积码的自由距离决定了其（检错和纠错能力）。
（对）1、信息是指各个事物运动的状态及状态变化的方式。
（对）2、信息就是信息，既不是物质也不是能量。
（错）3、马尔可夫信源是离散无记忆信源。
（错）4、不可约的马尔可夫链一定是遍历的。
（对）5、单符号连续信源的绝对熵为无穷大。
（错）6、序列信源的极限熵是这样定义的：H(X)=H(XL|X1,X2,…,XL-1)。
（对）7、平均互信息量I(X;Y)是接收端所获取的关于发送端信源X的信息量。
信息论与编码试卷及答案
一、（11’）填空题（1）1948年，美国数学家香农发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。
（2）必然事件的自信息是0 。
（3）离散平稳无记忆信源X的N次扩展信源的熵等于离散信源X的熵的N倍。
（4）对于离散无记忆信源，当信源熵有最大值时，满足条件为__信源符号等概分布_。
（5）若一离散无记忆信源的信源熵H（X）等于2.5，对信源进行等长的无失真二进制编码，则编码长度至少为3 。
（6）对于香农编码、费诺编码和霍夫曼编码，编码方法惟一的是香农编码。
（7）已知某线性分组码的最小汉明距离为3，那么这组码最多能检测出_2_______个码元错误，最多能纠正___1__个码元错误。
（8）设有一离散无记忆平稳信道，其信道容量为C，只要待传送的信息传输率R__小于___C（大于、小于或者等于），则存在一种编码，当输入序列长度n足够大，使译码错误概率任意小。
（9）平均错误概率不仅与信道本身的统计特性有关，还与___译码规则____________和___编码方法___有关二、（9?）判断题（1）信息就是一种消息。
（?）（2）信息论研究的主要问题是在通信系统设计中如何实现信息传输、存储和处理的有效性和可靠性。
（?）（3）概率大的事件自信息量大。
（?）（4）互信息量可正、可负亦可为零。
（?）（5）信源剩余度用来衡量信源的相关性程度，信源剩余度大说明信源符号间的依赖关系较小。
（?）（6）对于固定的信源分布，平均互信息量是信道传递概率的下凸函数。
（?）（7）非奇异码一定是唯一可译码，唯一可译码不一定是非奇异码。
（?）（8）信源变长编码的核心问题是寻找紧致码（或最佳码），霍夫曼编码方法构造的是最佳码。
（?）（9）信息率失真函数R(D)是关于平均失真度D 的上凸函数. ( ? )三、（5?）居住在某地区的女孩中有25%是大学生，在女大学生中有75%是身高1.6米以上的，而女孩中身高1.6米以上的占总数的一半。
信息论与编码期末复习试题A含答案.doc
莆田学院期末考试试卷（A）卷2011 — 2012学年第一学期课程名称：信息论与编码适用年级/专业：09/电信（通信）试卷类别开卷（）闭卷（V）学历层次本科考试用时120分钟《考生注意:答案要全部抄到答题纸上,做在试卷上不给分》一'简答题（每小题8分，共32分）1.对于一个一般的通信系统，试给出其系统模型框图，并结合此图，解释数据处理定理。
2.香农信息论研究了哪些内容？试讲述香农第二编码定理。
3.什么是唯一可译码？什么是即时码（前缀码）？构造唯一可译码的充要条件？（10 分）4.什么是信源编码？什么是信道编码？为何要进行这两者编码？二、证明题（每小题6分，共6分）对于任意的事件X、Y,试证明下列不等式成立：H（X|Y）〈=H（X）,并说明等式成立的条件。
三、计算题（第1、5题各16分，第2题12分，第3题10分，第4题8分，共62分）1.（16分）一黑白气象传真图的消息只有黑色和白色两种，即信源X詔黑，白｝。
设黑色出现的概率为P（黑）=0.3,白色的出现概率P（白）=0. 7o求（1）假设图上黑白消息出现前后没有关联，求爛H（X）；（2）假设消息前后有关联，其依赖关系为P（白/白）=0.9, P（黑/白）=0. 1, P （白/黑）=0.2, P （黑/黑）=0.8,求此一阶马尔可夫信源的嫡H2（X）；（3）分别求上述两种信源的剩余度，比较和的大小，并说明其物理意义。
2.（12分）一信源产生概率为P（l）=0. 005, P（0）=0. 995的统计独立二进制数符。
这些数符组成长度为100的数符组。
我们为每一个少于3个“1”的源数符组提供一个二进制码字，所有码字的长度相等。
（1）求出为所规定的所有源符组都提供码字所需的最小码长。
（2）求信源发出一数符组，而编码器无相应码字的概率。
3.（10分）已知一个（6, 3）线性分组码的全部码字为00101L 11001L 010110,101110, 10010L 111000, 01110L 000000。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
《信息论与编码A 》习题
姓名： 学号： 成绩：
一．居住在某地区的女孩中有25%是大学生，在女大学生中有75%是身高1米6以上的，而女孩中身高1米6以上的占总数一半。
假如我们得知“身高1米6 以上的某女孩是大学生”的消息，问获得多少信息量？
二．设有一离散无记忆信源，其概率空间为 . 1/8 1/4 1/4
3/8 3 2 1 01121⎥⎦⎤
⎢⎣⎡=====⎥⎦⎤⎢
⎣⎡x x x x P X 如果该信源发出的消息符号序列为：
S=(202 120 130 213 001 203 210 110 321 010 021 032 011 223 210），求： (1) 此消息的自信息量是多少？
(2) 在此消息中平均每个符号携带的信息量是多少？
三．试问四进制，八进制脉冲所含的最大信息量是二进制脉冲的多少倍？
四．两个实验X 和Y ，X ={x 1，x 2，x 3}，Y ={ y 1，y 2，y 3 }，联合概率p (x i y j )=p ij
如下：
.24/724/1024/14/124/1024/124/73332
31
2322
21131211⎥⎥⎥⎦⎤
⎢
⎢⎢⎣⎡=⎥⎥⎥⎦⎤⎢⎢⎢⎣⎡p p p p p p p p p
(1) 如果有人告诉你X 和Y 的试验结果，你得到的平均信息是多少？
(2) 如果有人告诉你Y 的试验结果，你得到的平均信息量是多少？
(3) 在已知Y 试验结果的情况下，告诉你X 的试验结果，你得到的平均信息量是多少？
五．有两个二元随机变量X 和Y ，它们的联合概率如下图所示，定义另一个随机变量Z=XY （一般乘积）。
试计算：
(1) H(X)，H(Y)，H(Z), H(XZ)，H(YZ) 和H(XYZ) (2) H(Y/Z)，H(Z/Y)，H(X/YZ)，H(Y/XZ )和H(Z/XY).
(3) I(X;Y)，I(X;Z)，I(Y;Z)，I(X; Y/Z) ,I(Y;Z/X )和I( X;Z/Y).
六．一个信源发出二重符号序列消息(i , j ), 其中第一个符号i 可以是A ，B ，C 中的任何一个，第二个符号j 可以是D ，E ，F ，G 中的任一个。
已知各个P (i )和P (j ,i )值列成如下表。
求这个信源的熵H (I J )。
七．在一个二进制信道中，信源消息集X={0, 1}，且P(1)=P(0)，信宿的消息集Y={0，1}，信道传输概率p (1/0)=1/4, p (0/1)=1/8。
求：
(1) 在接收端收到y=0后，所提供的关于传输消息x 平均条件互信息量I (X ; y =0).
(2) 该情况所能提供的平均互信息量I (X ; Y ).
(3) 求该信道的信道容量及其达到信道容量的输入概率分布。
八．设二进制对称信道的信源符号集为X ={0, 1}，信宿符号集为Y ={0, 1}，信道矩阵为
.43 4141 43]]/[[⎥⎥⎥⎥
⎦
⎤⎢⎢⎢⎢⎣⎡=X Y P
(1) 如p (0)=2/3, p (1)=1/3, 求H (X ), H (X , Y ), H (X /Y ), H (Y /X )和I (X ;Y )。
(2) 求该信道的信道容量及其达到信道容量的输入概率分布。
九．将某六进信源进行二进制编码如下表所示，求
(1) 这些码中那些是唯一可译码？
(2) 那些码是非延长码(即时码)？
(3) 所有唯一可译码的平均长和编码效率。
十．某信源有8个符号{u1, u2,…, u8}，概率分别为1/2, 1/4, 1/8, 1/16, 1/32, 1/64, 1/128, 1/128。
编成这样的码：000, 001, 010, 011, 100, 101, 110, 111。
求
(1) 信源的符号熵H(U)；
(2) 出现一个“1”或一个“0”的概率；
(3) 这种码的编码效率；
(4) 相应的仙农-范诺码；
(5) 该码的编码效率。
十一．设有离散无记忆信源P(X)={0.37，0.25，0.18，0.10，0.07，0.03}。
(1) 求该信源符号熵H(X);
(2) 用哈夫曼编码编成二元变长码，计算其编码效率。
十二．信源符号X有6种字母，概率为(0.32，0.22，0.18，0.16，0.08，0.04).
(1) 求符号熵H（X）。
(2) 用仙农-范诺编码编成二进变长码，计算其编码效率。
(3) 用哈夫曼编码编成二进变长码，计算其编码效率。
(4) 用哈夫码编码编成三进变长码，计算其编码效率。
十三．有一个由9个符号组成的信源，概率分别是1/4，1/4，1/8，1/8，1/16，1/16，1/16，1/32，1/32，用三进符号（a, b, c）编码。
(1) 编出仙农-范诺码和哈夫曼码,并求出编码效率.
(2) 若要求符号c后不能紧跟另一个c, 编出一种有效码, 其编码效率是多少?。