5.1_信源编码的目的和编码器

信息论与编码技术

电子信息工程专业

主讲：孙静

机械电子工程系

为了实现高质量、高效率的通信，信息论中引入了信源编码和信道编码。

信源编码和信道编码主要需要解决以下两个问题：

提高抗干扰能力→以降低信息传输效率为代价。

提高传输效率→削弱了其抗干扰能力。这样，设计者在取舍之间就要作均衡考虑。

第五章无失真信源编码

5.1 信源编码的目的和编码器

5.1.1 什么是信源编码

一、信源编码的意义

1.【编码的定义】编码是对信源的原

始符号序列按一定的数学规则进行

的一种变换。

一、信源编码的意义

2.【信源编码的定义】将信源输出符

号，经信源编码器后变换成另外的压缩符号，然后将压缩后信息经信道传送给信宿。

3.【无失真信源编码的含义】无失真

信源编码可精确无失真地复现信源输出的消息。

二、信源编码的目的

1.信源符号之间存在分布不均匀和相关

性，使得信源存在冗余度，信源编码的主要任务就是减少冗余，提高传输效率，即提高通信的有效性。

2.针对信源输出符号序列的统计特性，

寻找一定的方法把信源输出符号序列变换为最短的码字序列，以适合信道传输。

三、信源编码的基本途径

1.使序列中的各个符号尽可能地互相

独立，即解除相关性。

2.使编码中各个符号出现的概率尽可

能地相等，即概率均匀化。

C 信源编码器码符号集信源信道

S X *图5.1 信源编码器

),,,(),,,(2121i l N i i i i i i i i x x x W s s s s =?=码符号集X=(x 1,x 2,…,x r )，共有r 个符号；其中x j 称为码符号（或者码元），是适合信道传输的符号。信源消息序列S=(s 1, s 2, …, s q ) ，长度为q 。 编码器的作用就是将信源符号集S 中的符号s i (i =1, 2, …, q )（或者长为的信源符号序列）变换成由x j (j =1, 2, …, r )组成的长度为l i 的一一对应的码符号序列X 。 长度l i 称为码字长度，或简称码长。

编码器输出的码符号序列称为码字，

用W i (i =1, 2, …, q )来表示，它与信源符号s i (i =1, 2, …, q ) 之间是一一对应的关系。 码字的集合C =(W 1, W 2, …, W q )称为代码组或码。

【例5.1】

用{s

, s2, s3, s4}表示信源的四个消息

1

，码符号集为{0, 1}，表5-1列出了该信源的五种不同编码。

表5-1 同一信源的几种不同编码

信源

消息

各消息

概率

码1码2码3码4码5

s

1

p(s

1

)0000001

s

2

p(s

2

)110110101

s

3

p(s

3

)101000001001

s

4

p(s

4

)1111111110001