第八章 限失真信源编码

第八章 限失真信源编码

8.1设信源X 的概率分布P(X):{p(α1), p(α2), …,p(αr ) },失真度为d (αi , βj )≥0,其中 (i=1,2,…,r;j=1,2,…,s).试证明:

∑==r

i j i j

i b a d a p D 1

min )},(min ){(

并写出取得min D 的试验信道的传输概率选取的原则,其中

))}/(,),/(),/({min ),(min 21i S i i j

j i j

a b p a b p a b p b a d =

(证明详见:p468-p470)

8.2设信源X 的概率分布P(X):{p(α1), p(α2), …,p(αr ) },失真度为d(αi , βj )≥0,其中 (i=1,2,…,r;j=1,2,…,s).试证明:

}),()({min 1

max ∑==r

i j i i j

b a d a p D

并写出取得max D 的试验信道传递概率的选取原则. (证明详见:p477-p478)

8.5设二元信源X 的信源空间为:

-1

)( 1 0X

:][X ⎩⎨⎧•ωωX P P

令ω≤1/2,设信道输出符号集Y:{0,1},并选定汉明失真度.试求:

(1) D min ,R(D min ); (2) D max ,R(D max );

(3) 信源X 在汉明失真度下的信息率失真函数R(D),并画出R(D)的曲线; (4) 计算R(1/8). 解：

{}{}{}{}0

)()(0);()1()}0();1({min )1,1()1()1,0()0(;)0,1()1()0,0()0(min ),()(min )2()

()()/()(min );(min )0()(0

)/(),2,1(1)/(0)/(100110][1

0 00

0)1(0)0(),(min )()1(max 21min max min min 2

1

min ==∴====++=⎭

⎬⎫

⎩⎨⎧='

===-===∴====⎥⎦

⎤⎢

⎣⎡===•+•==∑∑==ωω

ωR D R Y X I p p p d p d p d p d p b a d a p D D H X H Y X H X H Y X I R D R Y X H i a b p a b p P D D p p b a d a p D j

j

i j i i j i j i j i j i j i 此时故此时或的信道矩阵

则满足保真度＝最小允许失真度：

⎩⎨

⎧≥<≤-=-=-=∴---=ωωωωD D D H H D R D H H D H X H D R r D D H X H D R 00 )()()()()()()()()1log()()()(,)3(即对此信源下离散信源在汉明失真度

由上，可得R(D)曲线如下:

(4)R(1/8)=H(ω)-H(1/8)= H(ω)-0.5436 bit/symble 8.6一个四进展等概信源

41 41 41 41 )( 3 2 1 0

U :][U ⎪⎩

⎪

⎨⎧•U P P

接收符号集V:{0,1,2,3},其失真矩阵为:

⎥⎥⎥⎥⎦

⎤⎢⎢⎢

⎢⎣⎡=01

11

101111011110

]D [ (1) D min ,R(D min ); (2) D max ,R(D max );

(3) 试求R(D), 并画出R(D)的曲线(去4到5个点). 解:

{}{}{}symble

/bit 2)4

1

,41,41,41()()/()(min );(min )0()(0

)/(),4,3,2,1(1)/(0)/(10

00

010*********][0min 0

0)3(0)2(0)1(0)0(),(min )(min },{:)1(min 4

121===-===∴====⎥⎥⎥⎥⎦

⎤⎢⎢⎢

⎢⎣⎡===•+•+•+•==∑=H U H Y U H U H Y U I R D R Y U H i u b p u b p P D D p p p p b u d u p D b b Y i j i j i j i j i 故此时或的信道矩阵则满足保真度＝最小允许失真度：

设输出符号集

D

H(0

max

symble

/bit 0)4

3

(,43 ;

symble /bit 208.0)21

(,21 ;

symble /bit 792.0)41

(,41 ;

symble /bit 258.1)81

(,81 ;

symble /bit 2)0(,0:43 04

30 3log )(2)(3log )(23log )()()()1log()()()(,)3(0

)()(0);(,43

43,43,43,43min ),()(min )2(max 41min max ==========⎪⎪⎩

⎪⎪⎨

⎧

≥<≤--=--=--=∴---===∴==

⎭⎬⎫⎩⎨⎧=⎭

⎬⎫⎩⎨⎧='

=∑=R D R D R D R D R D D D D D H D R D D H D D H U H D R r D D H X H D R R D R Y X I Y U b u d u p D D j

i j i i j 可计算得即对此信源下离散信源在汉明失真度故相互独立、此时ω可得R(D)曲线如下:

8.7某二进制信源:

⎪⎩

⎪

⎨⎧• 21 21 )( 1 0

U :][U U P P

其失真矩阵为:

⎥⎦

⎤⎢

⎣⎡=0010][1 0 a a D (1) 试求D min ,R(D min );

(2) 试求D max ,R(D max ); (3) 试求R(D);

D

2