无失真信源编码题与答案

有一信源，它有6个可能的输出，其概率分布如题表所示，表中给出了对应的码E D C B A ,,,, 和 F 。

(1) 求这些码中哪些是唯一可译码； (2) 求哪些是非延长码（即时码）； (3) 对所有唯一可译码求出其平均码长L 。

解：

(1) 唯一可译码：A ，B ，C

A 是等长码，码长3，每个码字各不相同，因此是唯一可译码。

B 是非即时码，前缀码，是唯一可译码。

C 是即时码，是唯一可译码。

D 是变长码，码长}4 ,4 ,4 ,3 ,2 ,1{，不是唯一可译码，因为不满足Kraft 不等式。

10625.132********

321≥=⨯⎪⎭

⎫

⎝⎛+⎪⎭⎫ ⎝⎛+⎪⎭⎫ ⎝⎛+⎪⎭⎫ ⎝⎛=∑-i

l i

r

E 是变长码，码长}4 ,4 ,4 ,4 ,2 ,1{，满足Kraft 不等式，但是有相同的码字，110053==W W ，不是唯一可译码。

1142121214

21≤=⨯⎪⎭

⎫

⎝⎛+⎪⎭⎫ ⎝⎛+⎪⎭⎫ ⎝⎛=∑-i

l i

r

F 是变长码，码长}3 ,3 ,3 ,3 ,3 ,1{，不满足Kraft 不等式，不是唯一可译码。

1125.1521213

1≥=⨯⎪⎭

⎫

⎝⎛+⎪⎭⎫ ⎝⎛=∑-i

l i

r

(2) 非延长码：A ，C (3)

3125.1616

1

5161416131612411213

=⨯+⨯+⨯+⨯+⨯+⨯=

⋅===∑i

i i C B A l p L L L

设离散信源的概率空间为

⎭⎬⎫⎩

⎨⎧=⎥⎦⎤⎢⎣⎡05.010.015.020.025.025.0654321

s s s s s s P S

对其采用香农编码，并求出平均码长和编码效率。

解：

()%7.897

.2423

.2)( 423.205.0log 05.0...25.0log 25.0log )(7

.2505.041.0315.032.0225.0225.0===

=⨯++⨯-=-==⨯+⨯+⨯+⨯+⨯+⨯=⋅=∑∑L S H bit p p S H l p L i

i i i

i i η

设无记忆二元信源，其概率995.0 ,005.021==p p 。信源输出100=N 的二元序列。在长为

100=N 的信源序列中只对含有3个或小于3个“1”的各信源序列构成一一对应的一组等长码。

(1) 求码字所需要的长度；

(2) 考虑没有给予编码的信源序列出现的概率，该等长码引起的错误概率E p 是多少？

解： (1)

码字中有0个“1”，码字的个数：10

100=C 码字中有1个“1”，码字的个数：1001100=C 码字中有2个“1”，码字的个数：49502100=C 码字中有3个“1”，码字的个数：1617003100=C

1835.17166751log log 166751

161700495010013100210011000100===≥≥=+++=+++=i r i l l q l q

r C C C C q i

(2)

码字中有0个“1”，错误概率：()100

995.01=a p

码字中有1个“1”，错误概率：()005.0995.099

2⨯=a p

码字中有2个“1”，错误概率：()()2

98

500.0995.03⨯=a p

码字中有3个“1”，错误概率：()()3

97

500.0995.04⨯=a p

()()0017

.09983.0119983

.0 161700005.0995.04950005.0 995.0100005.0995.01995.0 397298991003100

2100110001004321=-=-==⨯⨯+⨯⨯+⨯⨯+⨯=+++=N E a a a a N G p p C p C p C p C p G p εε

设有离散无记忆信源

⎭⎬

⎫⎩

⎨⎧=⎥⎦⎤⎢⎣⎡02.005.008.010.015.018.020.022.087654321

s s s s s s s s P S 码符号集}2 ,1 ,0{=X ，现对该信源S 进行三元哈夫曼编码，试求信源熵)(S H ，码平均长度L 和编码效率η。

解：

满树叶子节点的个数：(){}... ,9 ,7 ,5 ,3231=+=-+k r k r ，8=q ，不能构成满树。

i i i l w s

1s 1 1 2s 22 2 3s 21 2

4s 20 2 5s 02 2 6s 01 2 7s 000 3 8s 001 3

85.1302.0305.0208.021.0215.0218.022.0122.0=⨯+⨯+⨯+⨯+⨯+⨯+⨯+⨯=⋅=∑i

i i l p L

()%

9.933log 85.175.2log )( 75.202.0log 02.0...22.0log 22.0log )(=⨯===⨯++⨯-=-=∑r L S H bit

p p S H i

i i η

设有离散无记忆信源，其概率空间为

⎭⎬

⎫⎩

⎨⎧=⎥⎦⎤⎢⎣⎡04.008.016.018.022.032.0654321

s s s s s s P S 进行费诺编码，并求其信源熵)(S H ，码平均长度L 和编码效率η。

解：

()%984

.2352

.2)( 352.204.0log 04.0...32.0log 32.0log )(4

.2404.0408.0316.0218.0222.0232.0===

=⨯++⨯-=-==⨯+⨯+⨯+⨯+⨯+⨯=⋅=∑∑L S H bit

p p S H l p L i

i i i

i i η

设有离散无记忆信源

⎭⎬

⎫⎩

⎨⎧=⎥⎦⎤⎢⎣⎡01.010.015.017.018.019.020.07654321

s s s s s s s P S (1) 求该信源符号熵)(S H ；

(2) 用霍夫曼编码编成二元变长码，计算其编码效率；

(3) 用霍夫曼编码编成三元变长码，计算其编码效率；

(3) 当译码错误小于310-的定长二元码要达到(2)中霍夫曼码的效率时，估计要多少个信源符号一起编才能办到。

解： (1)

()bit p p S H i

i i 609.201.0log 01.0...2.0log 2.0log )(=⨯++⨯-=-=∑

(2)