南京工程学院信息论参考试卷D

一 填空题（本题15空,每空1分,共15分 ）
1 已知一个二元信源{0，1}等概分布，连接到一个二元信道
⎥
⎦⎤⎢⎣⎡=98.002.002.098.0ji p ，则p(x1,y1)=（ ），p(x1,y2)=（ ），p(x2,y1)=（ ），p(x2,y2)=（ ）；可得p(y1)=（ ）；
p(y2)=（ ）。

2 一离散准对称信道的转移概率矩阵为
⎥⎦⎤
⎢⎣⎡=3/16/13/16/16/16/13/13/1P ，可得到该信道的信道容量C=（ ），此时信道输入端的概率分布为（ ）。

若将两个这
样的准对称信道串接后，（能/不能）（ ）构成一个新的信道，原因是（ ）。

3 R （D ）函数是在限定失真为D 的条件下，信源的最（ ）信息速率，被定义为
（ ）。

4 信源序列往往具有很强的相关性，要提高信源的效率首先要解除信源的相关性。

预测编码解除信源相关性的方法是在（ ）域中进行，而变换编码是在（ ）域中进行。

5 常用的检纠错方法有（ ）、检错重传和混合纠错三种。

二判断题（本题10小题,每小题1分,共10分）
（1） 独立并联信道容量
∑=≥L
l l
L C C 1
,...,2,1；只有在输入符号相互独立时，且p(X 1,X 2,…,X L )
达到最佳分布时，容量最大。

（ ）
（2） 预测编码是通过在频域上解除序列的相关性来压缩码率的。

（ ） （3） 信源的冗余度=1-信源效率。

（ ） （4） 用信噪比换取频带是现代扩频通信的基本原理。

（ ） （5） 互信息I(X;Y)与信源熵H(X)的关系为：I(X;Y)≤H(X)。

（ ） （6） )(D R 是关于失真度D 的严格递减函数。

（ ） （7） 若要求能检测出5个独立随机错误，则要求最小码距6min =d 。

（ ）
（8） 信源编码的基本途径有2个：一是使序列中的各个符号尽可能相互独立；二是使
各个符号出现的概率尽可能地相等。

。

（ ） （9） 信息在处理过程中，具有信息不增性。

（ ） （10） 任意非系统线性分组码都可等价为相应的系统分组码。

（ ） 四 计算题（本题3小题,共25分）
1 布袋中有手感完全相同的3个红球和3个兰球，每次从中随机取出一个球，取出后不放回布袋。

用Xi 表示第i 次取出的球的颜色，i=1,2,….,6。

求：1）H(X1)、H(X2)；
2）H(X2/X1)；
3）随k 的增加，H(Xk/X1…Xk -1)是增加还是减少？请解释。

(4+2+2=8分)
2 某办公室和其上级机关的自动传真机均兼有电话功能。

根据多年来对双方相互通信次数的统计，该办公室给上级机关发传真和打电话占的比例约为3:7，但发传真时约有5%的次数对方按电话接续而振铃，拨电话时约有1%的次数对方按传真接续而不振铃。

求：
（1）上级机关值班员听到电话振铃而对此次通信的疑义度；
（2）接续信道的噪声熵。

（4+4=8分）
3、考虑由g(x)=1+x+x4生成的(15,11)循环Hamming码。

试：
1）确定此码的校验多项式；
2）确定它对偶码的生成多项式；
3）找出此码的系统生成矩阵；
4）求该码的一致校验矩阵。

（2+2+3+2=9分）
五、综合题（本题3小题,共30分）
1 某卷积码的编码器框图如下。

试：
1）写出编码器的生成序列g(1)、g(2)和生成多项式g(1)（D）、g(2)（D）；
2）画出状态图；
3）画出网格图；
4）求该码的自由距离d f。

（4+2+2+2=10分）
2 信源符号X的概率空间为
⎥
⎦
⎤
⎢
⎣
⎡
=
⎥
⎦
⎤
⎢
⎣
⎡
9.0
1.0
2
1
x
x
P
X
，每次两个符号一起编码，试写出其哈夫曼
编码，并求其平均码长L和编码效率。

（4+4=8分）
3设一阶马尔可夫信源的状态转移图如下。

信源X的符号集为{0，1，2}，试：1）求平稳后信源的概率分布；
2）求信源的极限熵H∞；
3）求当p=0和p=1时的信源熵，并说明理由。

（4×3=12
分）
答案：
1、0.49，0.01，0.10，0.40，0.59，0.41
2、0.041bit，等概分布，不能，信道的输出端符号数比信道输入端多
3、小，
4、时，频域或广义频域即空域
5、前向纠错
二判断题（本题10小题,每小题1分,共10分）
1．×2．×3．√4．×5．√6．√7．√8．√9．√10．√四、
1、解：1）P(第一个球是红球)=P(第一个球是兰球)=0.5
H(X1)=log2=1bit/fuhao
P(第二个球是红球)=P(第二个球是兰球)=0.5
H(X2)=log2=1bit/符号
2）H(X2/X1)=P(第一个球是红球)*H(X2/第一个球是红球)+P(第一个球是篮
球)*H(X2/第一个球是兰球)=0.5H(2/5)+0.5H(2/5)=0.971bit/符号
3）随着k的增加，H(X k/X1…X k-1)减少，因为知道以前的结果会降低这次结果的
不确定性，以前的结果知道的越多，这次结果的不确定性就越小，直到
H(X6/X1…X5)=0。

2、解：设发传真和打电话分别为事件X1与X2,对方按传真和按电话接续分别为
事件Y1和Y2,则
P(X1)=30%,P(X2)=70% P(Y1|X1)=95%, P(Y2|X1)=5%,
P(Y1|X2)=1%, P(Y2|X2)=99% P(X1Y1)=0.285, P(X1Y2)=0.015
P(X2Y1)=0.007, P(X2Y2)=0.693
P(Y1)= P(X1Y1)+ P(X2Y1)= 0.292 P(Y2)=1－P(Y1)= 0.708
H(X)=－p(x1)lg p(x1)－p(x2)lgp(x2)=0.8814 bit/符号
H(Y)=－p(y1)lg p(y1)－p(y2)lgp(y2)=0.8713 bit/符号
I(X;Y)=H(X)+H(Y)－H(XY)=0.7288 bit/信符
（1）听到电话振铃的疑义度
H(X|Y2)=－P(X1Y2)lb P(X1Y2)－P(X2Y2)lb P(X2Y2)= 0.4575 bit/信符（2）接续信道的噪声熵H(Y|X)=H(Y)－I(X;Y)=0.1425 bit/信符
3、解：1）校验多项式
h(X)=(X15+1)/g( x)
=X11+X 8+X 7+X 5+X 3+X 2+X+1
2）
五、
1、解：1）由图可知：连接矢量为：g(1)=[1,0,1] g(2)=[0,1,1]连接多项式为：g(1)（D）= 1+D2g(2)（D）=D+D2
2）状态图为：其中（s0:00，s1:01，s2:10，s3:11）
2、解：哈夫曼编码参考答案：0，11，100，101（哈夫曼编码并不唯一）（4分）平均码长=0.81+0.09*2+0.10*3=1.29bit/2符号=0.645bit/符号（2分）
编码效率（2分）
3、。