信源编码

x2 x1 x3 x2 x1 x1
x1→1 x2→10 x3→11 则无法唯一分割。
4°按译码的即时性分类
非即时码：接收端收到一个完整的码字后，不能立即译码，还需 要等到下一个码字开始接收后才能判断是否可以译码。
即时码：接收端收到一个完整的码字后，就能立即译码，即时码 又称为非延长码或异前缀码。 即时码与唯一可译码
2°码树图的树根、树枝、节点
中间节点（一级节点、二级节点… ）用○表示, 示。
西南石油大学理学院
终端节点用●表
3°二元（进制）码树
【例 1】 x1→1 x2→01 x3→00
A○ 0 1 ○ ● x1 0 1 ○ ●x2 1 ●x3
【例 2】 x1→1 x2→10 x3→11
A○ 1 ● x1 0 1 ●x2 ●x3
定长码：码集中所有码字的码长相等。 变长码：码集中所有码字的码长不全相等。
奇异码与非奇异码
信源符号ai 码1 a1 a2 a3 a4 0 11 00 11 码2 0 10 00 01
2°按信源符号与码字对应关系分类
非奇异码：信源符号与码字是一一对应的，码2。 奇异码：信源符号与码字不是一一对应的，码1。
西南石油大学理学院
4°用码树图构造码 在树的生长过程中，中间节点生出树枝，各树枝标出相 应的码元，为了清晰起见，相同码元的树枝方向相同，终 端节点表示信源符号，从树根到终端节点所经过的树枝旁 的码元按经过的顺序组成的序列构成码字。 5°用码树图构造即时码的条件 如果表示信源符号的终端节点不再延伸，这样构造的码 满足即时码条件。
加密编码：是以提高通信系统的安全性为目的的编码。
通过加密和解密来实现。从信息论的观点出发，“加密 ”可视为增熵的过程，“解密”可视为减熵的过程。
西南石油大学理学院
Leabharlann Baidu.1 信源编码的基本概念
信源 编码器 码表 信道
一、信源的符号集和符号序列
信源符号集：信源发出的符号消息的集合，记为 X ；设 X
如果n 、m、Ki 满足Kraft不等式，则存在唯一可译码; 如果是唯一可译码, 则n 、m、Ki 必定满足Kraft不等式。
西南石油大学理学院
5.2 离散信源编码
一、平均码长和编码有效性
1 平均码长
X x1 单符号信源空间，其中 p( X ) p( x 1 ) x2 p( x 2 ) xn p( x n )

【例】 非即时码 即时码
码流 01001100 … 码流 01001100 …
信源符号ai 码1 即时码 码2
x1→0 x2→01 x3→11 译码为 x2x1x1x3x1?
a1 a2
a3
1 10
100
0 01
001
x1→0 x2→10 x3→11 译码为 x1x2x1x3x1x1
西南石油大学理学院
有n个符号：X ={ x1 , x2 , … , xn }.
信源符号序列：由信源符号集合X中的符号组成长度为L的
符号序列，记为 X iL 。

L为信源符号序列长 , 不同的符号序列共有 nL。 若L=1，则信源符号序列为信源符号集合中的符号。
西南石油大学理学院

二、 码元和码字
1°码元(符)集
信道可传输的基本符号的集合, 记为Y；设 Y 有m个符号：
Y={ y1 , y2 , … , ym }，其中 yi 称为码元或码符。 m 元信道: 可传输m个基本符号的信道。 二元信道: 可传输 2个基本符号的信道。这是一种最常用的 信道, 其基本符号常用 0 , 1 表示。
2° 码字: 由码元组成的序列称为码字，记为Y i 。
a4
1000 0001
异前缀码(即时码)：码集中任何一个码不是其他码的前缀。 即时码必定是唯一可译码, 唯一可译码不一定是即时码。 5°有实用价值的分组码 分组码：将信源符号集中的每个信源符号固定地映射成一个码字。
是非奇异码、唯一可译码、即时码 。
六、码树图 1°码树图: 用码树来描述给定码集中各码字的方法。
七、唯一可译码存在的条件
1°前提条件：非奇异码
西南石油大学理学院
2°唯一可译码存在定理 设n为信源符号或信源符号序列个数，m为码元个数，Ki 为
信源各符号或信源符号序列对应的码长。则唯一可译码存在的 充分和必要条件是满足Kraft不等式
Ki m 1 i 1 n
【注意】

Kraft不等式是一个存在定理，不是唯一可译码的判定定理;
4°码表：所有映射规则的集合。
四、许用码和禁用码
1°许用码字：信源符号 xi或符号序列 XLi与码字Y i定义对应关系的 码字。 2°禁用码字：信源符号 xi或符号序列 XLi与码字Y i未定义对应关系 的码字。 3°许用码字的全体称为码集
西南石油大学理学院
五、分组码（块码）分类
1°按码字的码长分类
码字Y i 的码元个数 Ki 称为Y i的码长。 所有码字Y i 的码长 Ki 均相等称为码长为 K 定长码。 码字Y i 的码长 Ki 不全相等称为变长码。
西南石油大学理学院
三、 编码与译码
1°信源编码：将信源符号xi 或符号序列XLi 按一种规则映像成码字 Yi的过程。 2°无失真编码：信源符号到码字的映射必须一一对应。 3°译码：从码符号到信源符号的映射。
3°按译码唯一性分类
唯一可译码：对于多个码字组成的有限长码流，只能唯一
地分割成一个个的码字。唯一可译码又称为单义码。
非唯一可译码：对有限长码流，不能唯一地分割成一个个
的码字。
西南石油大学理学院
【例】 码流 100111000 … 码1 码2

x1→0 x2→10 x3→11 可分割10, 0, 11, 10, 0, 0
信源符号 xi 对应的码字为Yi （i = 1, 2, … , n），码字Yi 对应 的码长为 K i（i = 1, 2, …, n ） 。 所有的 K i 相等为定长码，记为 K, 不相等时为变长码。
信源编码：以提高通信有效性为目的的编码。通过压缩
信源的冗余度来实现。采用的一般方法是压缩每个信源 符号的平均比特数或信源的码率。即同样多的信息用较 少的码率传送，使单位时间内传送的平均信息量增加， 从而提高通信的有效性。
信道编码：是以提高信息传输的可靠性为目的的编码。
通过增加信源的冗余度来实现。采用的一般方法是增大 码率/带宽。与信源编码正好相反。