信息论测试题与答案

一、设X、Y是两个相互统计独立的二元随机变量，其取-1或1的概率相等。定义另一个二元随机变量Z，取

Z=YX（一般乘积）。试计算：

1.H

（

Y）、H（Z）； 2.H（YZ）； 3.I（X;Y）、I（Y;Z）；

二、如图所示为一个三状态马尔科夫信源的转移概率矩阵

1.绘制状态转移图；

2. 求该马尔科夫信源的稳态分布；

3. 求极限熵；

三、在干扰离散对称信道上传输符号1和0，已知P（0）=1/4,P(1)=3/4,试求：

1.信道转移概率矩阵P

2.信道疑义度

3.信道容量以及其输入概率分布

四、某信道的转移矩阵⎥

⎦

⎤

⎢

⎣

⎡

=

1.0

6.0

3.0

1.0

3.0

6.0

P，求信道容量，最佳输入概率分布。

五、求下列各离散信道的容量（其条件概率P(Y/X)如下：）

六、求以下各信道矩阵代表的信道的容量

答案

一、设X 、Y 是两个相互统计独立的二元随机变量，其取-1或1的概率相等。定义另一个二元随机变量Z ，取Z=YX （一般乘积）。试计算：

1.H （Y ）、H （Z ）；

2.H （XY ）、H （YZ ）；

3.I （X;Y ）、I （Y;Z ）； 解：1. 2

i 1

1

111H Y P y logP y log log 2222i i =⎡⎤=-+⎢⎥⎣⎦∑（）=-

（）（）=1bit/符号 Q Z=YX 而且X 和Y 相互独立

∴ 1(1)(1)(1)P

P X P Y P X ⋅=+=-⋅=-（Z =1）=P(Y=1)= 11111

22222⨯+⨯= 2(1)(1)(1)P P X P Y P X ⋅=-+=-⋅=（Z =-1）=P(Y=1)= 11111

22222

⨯+⨯=

故H(Z)= i

2

i

1

(z )log (z )i P P =-∑=1bit/符号

2.从上式可以看出:Y 与X 的联合概率分布为:

H(YZ)=H(X)+H(Y)=1+1=2bit/符号

3.Q X 与Y 相互独立，故H(X|Y)=H(X)=1bit/符号 ∴I （X;Y ）=H(X)-H(X|Y)=1-1=0bit/符号

I(Y;Z)=H(Y)-H(Y|Z)=H(Y)-[H(YZ)-H(Z)]=0 bit/符号

二、如图所示为一个三状态马尔科夫信源的转移概率矩阵

2. 绘制状态转移图； 2. 求该马尔科夫信源的稳态分布；

3. 求极限熵； 解：1.状态转移图如右图 2.由公式3

1

()()(|)j i

j

i i p E P E P E

E ==

∑,可得其三个状态的稳态概率为：

1123223313123111()()()()22411()()()2211

()()()24()()()1P E P E P E P E P E P E P E P E P E P E P E P E P E ⎧

=++⎪⎪⎪=+⎪⎨

⎪=+⎪⎪⎪++=⎩

1233()7

2()72()7P E P E P E ⎧=⎪⎪⎪

⇒=⎨⎪⎪

=⎪⎩

3.其极限熵:

3

i i 1

3112112111

H = -|E =0+0+72272274243228

=1+1+ 1.5=bit/7777

i P H H H H ∞=⨯⨯⨯⨯⨯⨯∑（E ）（X ）（，，）（，，）（，，）

符号

三、在干扰离散对称信道上传输符号1和0，已知P （0）=1/4,P(1)=3/4,试求：

2. 信道转移概率矩阵P 2.信道疑义度

3.信道容量以及其输入概率分布

解：1.该转移概率矩阵为 P=0.90.10.10.9⎡⎤

⎢

⎥

⎣⎦

2.根据P （XY ）=P （Y|X ）⋅P （X ），可得联合概率

由P （X|Y ）=P(X|Y)/P(Y)可得

H(X|Y)=-

i j

i

j

i j

(x y )log x |y =0.09+0.12+0.15+0.035=0.4bit/P P

∑，（）符号 3.该信道是对称信道，其容量为：

C=logs-H=log2-H （0.9,0.1）=1-0.469=0.531bit/符号

这时，输入符号服从等概率分布，即0111()22X P X ⎡⎤

⎡⎤⎢

⎥=⎢⎥⎢⎥⎣⎦⎣⎦

四、某信道的转移矩阵⎥⎦

⎤

⎢

⎣⎡=1.006.03.001.03.06.0P ，求信道容量，最佳输入概率分布。

解：该信道是准对称信道，分解为两个互不相交的子信道矩阵 0.60.30.30.6⎡⎤⎢

⎥⎣⎦ 0.1000.1⎡⎤

⎢⎥⎣⎦

这里110.90.9N M == 22 0.10.1N M == ∴C=logr-H(P 的行矢量)

-

2

k 1

log 1(0.6.3.1)0.9log 0.9-0.1log 0.1K

K N

M H ==--⨯⨯∑，0，0

=0.174bit/符号

这时，输入端符号服从等概率分布，即()X P X ⎡⎤⎢⎥⎣⎦=011122⎡⎤

⎢

⎥⎢

⎥⎣⎦

五、求下列各离散信道的容量（其条件概率P(Y/X)如下：）