第四章 信息率失真函数-习题答案

4.1 一个四元对称信源⎭
⎬⎫
⎩⎨
⎧=⎥⎦⎤⎢
⎣⎡
4/14
/132
4/14/110)(X P X ，接收符号Y = {0, 1, 2, 3}，其失真
矩阵为⎥⎥⎥⎥⎦
⎤⎢⎢⎢
⎢⎣⎡01
1
1
10111101
1110，求D max 和D min 及信源的R(D)函数，并画出其曲线（取4至5个点）。

解：
04
104
104
1041),(min )(4
304
114
114
114
1),()(min
min m in m ax =⨯+⨯+⨯+
⨯=
=
=
⨯+
⨯+
⨯+⨯=
==∑
∑
i
j i j
i i
j i i j
j y x d x p D y x d x p D D
因为n 元等概信源率失真函数：
⎪⎭
⎫
⎝⎛-⎪⎭⎫ ⎝⎛-+-+
=a D a D n a D
a D n D R 1ln 11ln
ln )(
其中a = 1, n = 4, 所以率失真函数为：
()()D D D D D R --++=1ln 13
ln
4ln )(
函数曲线：
D
其中：
symbol
nat D R D symbol
nat D R D symbol
nat D R D symbol nat R D /0)(,4
3/12ln 214ln )(,21/3
16ln 214ln )(,41/4ln )0(,0==
-
==-====
4.2 若某无记忆信源⎭⎬⎫⎩⎨⎧-=⎥⎦⎤⎢
⎣⎡3/113/13
/10
1)(X P X
，接收符号⎭
⎬⎫⎩⎨⎧-=21,21Y ，其失真矩阵⎥⎥⎥
⎦
⎤
⎢⎢⎢⎣⎡=112211D 求信
源的最大失真度和最小失真度，并求选择何种信道可达到该D max 和D min 的失真度。

4.3 某二元信源⎭
⎬⎫⎩⎨⎧=⎥⎦⎤⎢
⎣⎡2/12
/110)(X
P X
其失真矩阵为⎥⎦
⎤
⎢
⎣⎡=a a
D 0
0求这信源的D max 和D min 和R(D)
函数。

解：
02
1021),(min )(2
02
12
1),()(min
min m in m ax =⨯+
⨯=
=
=
⨯+
⨯=
==∑
∑
i
j i j
i i
j i i j
j y x d x p D a a y x d x p D D
因为二元等概信源率失真函数：
⎪⎭
⎫
⎝⎛-=a D H n D R ln )(
其中n = 2, 所以率失真函数为：
⎥⎦⎤
⎢⎣
⎡⎪⎭⎫ ⎝⎛-⎪⎭⎫ ⎝⎛-+-=a D a D a D a D D R 1ln 1ln 2ln )(
4.4 已知信源X = {0, 1}，信宿Y = {0, 1, 2}。

设信源输入符号为等概率分布，而且失真函数⎥⎦
⎤
⎢
⎣⎡∞∞=1100D ，求信源的率失真函数R(D)。

4.5 设信源X = {0, 1, 2, 3}，信宿Y = {0, 1, 2, 3, 4, 5, 6}。

且信源为无记忆、等概率分布。

失真函数定义为
⎪⎪⎩
⎪⎪⎨
⎧∞======其他
且且53,2141,01
0),(j i j i j i y x d j i 证明率失真函数R(D)如图所示。

log2
2log2
D
4.6 设信源X = {0, 1, 2}，相应的概率分布p (0) = p (1) = 0.4，p (2) = 0.2。

且失真函数为
)2,1,0,(1
),(=⎩⎨
⎧≠==j i j
i j i y x d j i
(1) 求此信源的R(D)；
(2) 若此信源用容量为C 的信道传递，请画出信道容量C 和其最小误码率P k 之间的曲线关系。

4.7 设0 < α, β < 1, α + β = 1。

试证明：αR(D ’) +βR(D ”) ≥ R(αD ’ +βD ”)
4.8 试证明对于离散无记忆N 次扩展信源，有R N (D) = NR(D)。

其中N 为任意正整数，D ≥ D min 。

4.9 设某地区的“晴天”概率p (晴) = 5/6，“雨天”概率p (雨) = 1/6，把“晴天”预报为“雨天”，把“雨天”预报为“晴天”造成的损失为a 元。

又设该地区的天气预报系统把“晴天”预报为“晴天”，“雨天”预报为“雨天”的概率均为0.9；把把“晴天”预报为“雨天”，把“雨天”预报为“晴天”的概率均为0.1。

试计算这种预报系统的信息价值率v （元/比特）。

4.10 设离散无记忆信源⎭
⎬⎫
⎩⎨
⎧=⎥⎦⎤⎢
⎣⎡
3/13/13/1)(32
1x x x X P X
其失真度为汉明失真度。

(1) 求D min 和R(D min )，并写出相应试验信道的信道矩阵； (2) 求D max 和R(D max )，并写出相应试验信道的信道矩阵；
(3) 若允许平均失真度D = 1/3，试问信源的每一个信源符号平均最少有几个二进制符号表示？
解：
⎪⎪⎩⎪
⎪⎨⎧
≠-+=-+==⨯+
⨯+
⨯=
=
∑
j i e
n e j i e n x y p y x d x p D sa
sa
sa i j i
j i j
i ,)1(1,)1(11)/(0
03
103
103
1),(min )(m in
4.11 设信源⎭
⎬⎫
⎩⎨⎧-=⎥⎦⎤⎢
⎣⎡
p p x x X P X
1)(21
（p
< 0.5），其失真度为汉明失真度，试问当允许平均失真度D = 0.5p 时，每一信源符号平均最少需要几个二进制符号表示？
解：
因为二元信源率失真函数：
⎪⎭
⎫
⎝⎛-=a D H p H D R )()(
其中a = 1（汉明失真）, 所以二元信源率失真函数为：
)()()(D H p H D R -=
当2
p D =
时
[]symbol nat p p p p p p p p p H p H p R /21ln 212ln 2
)1ln()1(ln 2)(2⎥⎦⎤⎢⎣⎡⎪⎭⎫ ⎝⎛-⎪⎭⎫ ⎝⎛-++--+-=⎪⎭⎫
⎝⎛-=⎪⎭⎫ ⎝⎛。