限失真信源编码
信息论与编码 第四章
4. 信息率失真函数 R（D）
R( D) = min I ( X ; Y )
PD '
�
说明:
n pij ∈pD ' m
对于离散无记忆信源， R（D）函数可写成
R(D) = min ∑∑ p(xi ) p( y j / xi ) log
i=1 y j )
例4－1－2
�
说明: Dk是第k个符号的平均失真。
4.1.3 信息率失真函数 R（D）
�
1. 信息率失真函数R（D）问题产生? 对于信息容量为 C 的信道传输信息传输率为 R的信源时，如果R＞C，就必须对信源压缩， 使其压缩后信息传输率R 小于信道容量 C ，但 同时要保证压缩所引人的失真不超过预先规定 的限度,信息压缩问题就是对于给定的信源，在 满足平均失真
■
2. R(D)函数的下凸性和连续性
定理 R（D）在定义域内是下凸的 证明: 令
�
D = αD'+(1 − α)D' ' , 0 ≤α ≤1 R(D' ) = min I ( pij ) = I ( p'ij )
pij∈pD'
α
其中： p 是使I（Pij）达到极小值的 证D≤D’。
' ij
p ij ，且保
说明: (1) 由于xi和yj都是随机变量，所以失真函 数d(xi,yj)也是随机变量，限失真时的失真 值，只能用它的数学期望或统计平均值，因 此将失真函数的数学期望称为平均失真。
�
�
(2) p（xi,yj）, i=1,2,…,n， j=1,2,…,m是联合分布； p（xi）是信源 符号概率分布； p（yj ／xi），i= l， 2，…，n，j＝ l，2，…，m是转移概率 分布；d（xi,yj），i=1，2，…， n,j=1，2，… ，m是离散随机变量的 失真函数. (3)平均失真 D是对给定信源分布 p（xi） 在给定转移概率分布为 p（yj／xi）的信 道中传输时的失真的总体量度。
对香农三大定理的分析与探讨
对香农三大定理的分析与探讨摘要本文针对香农三大定理的内容，进行理论分析，探讨了无失真信源编码、有噪信道编码和保真度准则下的信源编码定理。
通过对离散信源熵的分析，延伸到了对扩展信源的理解，同时结合著名的香农公式和信息论与编码的发展史，指出了香农三大定理的意义。
一、香农第一定理香农第一定理主要研究信息的测度，对应的是无失真信源编码定理。
采用无失真最佳信源编码，可以使得用于每个信源符号的编码位数尽可能地小，但它的极限是原始信源的熵值，超过了这一极限就不可能实现无失真的译码。
1.1 离散信源熵1.1.1 信源的概念信源发出消息，消息载荷信息，而消息又具有不确定性，故而可以用随机变量或随机矢量来描述信源输出的消息。
从随机变量出发来研究信息，这正是香农信息论的基本假说。
而离散信源指的是这类信源输出的消息常以一个符号、一个符号的形式出现，这些符号的取值是有限的或者是可数的。
单符号离散信源只涉及一个随机事件，多符号离散信源则涉及多个随机事件。
1.1.2 信源熵的概念及其性质在度量信息的各种方法中，香农提出了解决信息度量问题的方法——熵，这是香农信息论最基本的，也是最重要的概念[1]。
信源熵，即信源的信息熵，又称香农熵、无条件熵，简称熵。
信源各个离散消息的自信息量的数学期望是信源的平均信息量，实质上是无记忆信源平均不确定度的度量。
信源熵表示在信源输出消息前，信源的平均不确定度，也表示在信源输出消息后，平均每个离散消息所提供的信息量，能够反映变量的随机性。
当消息出现的概率相同时，猜测每一个消息发生错误的概率均相同，说明等概率信源的不确定性最大，具有最大熵[2]。
1.2 无失真离散信源编码1.2.1 信源编码的概念信源编码处于通信系统的前端，直接对信源发出的信号进行变换处理。
通过压缩每个信源符号的平均比特数或信源的码率，以较少的码率来传送同样多的信息，增加单位时间内传送的平均信息量，来压缩信源的冗余度，从而提高通信的有效性。
信息论与编码第5章限失真信源编码
第一节 失真测度
• 以上所举的三个例子说明了具体失真度的定义. 一般情况下根据实际信源的失真, 可以定义不同 的失真和误差的度量.
• 另外还可按照其他标准, 如引起的损失、风险、 主观感受上的差别大小等来定义失真度d(ui,vj).
• 从实用意义上说, 研究符号实际信源主观要求的、 合理的失真函数是很重要的.
第一节 失真测度
设信源变量为U={u1,…,ur}, 接收端变量为 V={v1,…,vs}, 对于每一对(u,v), 指定一个非负 函数
d(ui,vj)≥0 称为单个符号的失真度(或称失真函数). 失真函数用来表征信源发出符号ui, 而接收端再现 成符号vj所引起的误差或失真. d越小表示失真越小, 等于0表示没有失真.
➢ 应该指出, 研究R(D)时, 条件概率p(v|u)并没有 实际信道的含义. 只是为了求互信息的最小值而引 用的、假想的可变试验信道. ➢ 实际上这些信道反映的仅是不同的有失真信源编 码或信源压缩. 所以改变试验信道求平均互信息最 小值, 实质上是选择编码方式使信息传输率为最小.
率失真理论与信息传输理论的对偶关系
– 接收端获得的平均信息量可用平均互信息量I(U;V)表示;
– 这就变成了在满足保真度准则的条件下 D D 找平均互信息量I(U;V)的最小值.
,寻
– 因为BD是所有满足保真度准则的试验信道集合, 即可以 在D失真许可的试验信道集合BD中寻找某一个信道 p(vj|ui), 使I(U;V)取最小值.
本章所讨论的内容是量化、数模转换、频带 压缩和数据压缩的理论基础.
前言
本章主要介绍信息率失真理论的基本内容, 侧 重讨论离散无记忆信源.
首先给出信源的失真度和信息率失真函数的定 义与性质, 然后讨论离散信源的信息率失真函数计 算. 在这个基础上论述保真度准则下的信源编码定 理.
第5章限失真信源编码.
第5章 限失真信源编码
例 题：
0 1 1/2 删除信道 X {0 ， 1} ， Y {0 ， 1， 2} ， D ，求 Dmin 1 0 1/2
5.2 信息率失真函数
第5章 限失真信源编码
5.2.1 信息率失真函数的一般概念
如果信源和失真度给定，则根据式（ 5-3） ， D 就只与信道特性有关，把所有满足保真度 准则 D ≤ D 的信道集中起来，构成一个所谓 D 失真允许的试验信道集合，记为 PD ，即：
PD = p( y j | xi ); D ≤ D ; i = 1 , 2 , , m ; j = 1 , 2 , ，n
yn p( y 2 ) p( y n ) y2
对于每一对 ( xi , y j ) ，指定一个非负的函数 d ( xi , y j ) ≥ 0, i 1 , 2 , , m ; j 1 , 2 , , n ， 称 d ( xi , y j ) 为单位符号的失真度或失真函数，用它来表示信源发出一个符号 x i ，而在接收端再 现为 y j 所引起的误差或失真的大小。通常较小的 d 值代表较小的失真，而 d ( xi , y j ) 0 表示没 有失真。由于信源 X 有 m 个符号，信道传输 Y 有 n 个符号，所以 d ( xi , y j ) 有 m n 个，这 m n 个非负的函数可以排列成矩阵形式，即：
第5章 限失真信源编码
汉明失真矩阵 D 通常为方阵，且对角线上的元素为 0。即：
0 1 D 1
D 是 m m 阶方阵。
例 题：
1 1 1 0 1 1 1 1 0
设信道输入 X {0 , 1} ，输出 Y {0 , 1 , 2} ，规定失真函数 d (0 , 0) d (1 , 1) 0 ， d (0 , 1) d (1 , 0) 1 ， d (0 , 2) d (2 , 0) 0.5 ，求 D 。 解：由失真函数和失真矩阵可得出：
信源编码
信息工程学院通信工程系
4.1 信源编码基本概念
信源编码模型
信源编码是对信源发出的符号按一定的数学规则进行的 一种变换。 为了分析方便和突出研究的重点，当研究信源编码时， 将信道编码和译码看成是一个整体，以突出信源编码的研究。 X=X1X2… Xi …XK
信源序列
信源编码器
Y=Y1Y2…Yj …YL
信息工程学院通信工程系
4.1 信源编码Leabharlann 本概念N次扩展码 信源符号集
S {s1 , s2 , , sq }
C {W1 ,W2 , ,Wq }
码字符号集 N次扩展信源符号集
N次扩展码字集
S N {1 , 2 , , q N }, j s j1 s j2 s jN
二元码 若码符号集为 {0,1} ，所得码字都是二进制序列，则称为二 元码。二元码是数字通信和计算机系统中最常用的一种码。 等长码(固定长度码) 若一组码中所有码字的码长都相等，称为等长码。 变长码(非固定长度码) 若一组码中码字的码长不完全相同，则称为变长码。
信息工程学院通信工程系
4.1 信源编码基本概念
C N {W1 ,W2 , ,Wq N }, W j W j1W j2 W jN
信息工程学院通信工程系
4.1 信源编码基本概念
唯一可译码
若码的任意一串有限长的码符号序列只能被唯一的译成其 对应的信源符号序列，则此码称为惟一可译码或单义可译码， 否则则称为非惟一可译码或非单义可译码。 若要所编的码是唯一可译码，不但要求编码时不同的信源 符号序列变换成不同的码序列，而且还要求任意有限长的信源 序列所对应的码符号序列各不相同。只有任意有限长的信源序 列所对应的码符号序列各不同，才能将该码符号序列惟一的分 割成一个个对应的信源序列，从而实现惟一的译码。 即时码 在译码过程中只要接收到每个码字（码序列）的最后一个 符号就可立即将该码字译出，这样的码称为即时码；否则称为 非即时码。
数字通信原理3信源编码
2 q/ 2 e2 p(e)de q/ 2 e2 1 de q2
q/2
q q / 2
12
2010 Copyright
SCUT DT&P Labs
27
均匀量化(续)
第三章 信源编码
量化信噪比与量化电平数M之间的关系
设量化范围为：-VP -- +VP，量化电平数 M=2b
量化间隔：q=2VP/M=2VP/2b
3
＝ 1
12
M i 1
p(mk )q3
q2 12
M i 1
p(mk )q
2010 Copyright
SCUT DT&P Labs
26
均匀量化(续) 利用概率的性质
M
p(mk )q 1
i 1
进一步可得量化噪声功率的简化计算公式
2 q2
12
第三章 信源编码
如假设量化噪声服从均匀分布，亦可得
第三章 信源编码
量化误差
2010 Copyright
SCUT DT&P Labs
24
标量量化（续） （3）有偏型
第三章 信源编码
（4）非均匀型(对小信号误差小)
量化误差
2010 Copyright
SCUT DT&P Labs
25
均匀量化
第三章 信源编码
模拟信号的取值范围：a －b，
量化电平数为M
量化噪声功率：
2 q
q2 12
= VP2 3M 2
1 12
2VP 2b
2 1 12
2VP
2 2 2b
信号功率：
2 x
信噪比：
VP VP
x2
限失真编码PPT课件
感谢您的观看！
第29页/共29页
TK:门限电平（k+1个）
qk:电平值 （k个）
第24页/共29页
4） 均匀量化 概念：量化间隔相等 最优均匀量化：使DRk=1/4+1/2log(Pu/Dk)
问题：均匀量化不是DK最小的一个、提出一种Uoyd-Max算法
第25页/共29页
5）Lioyd-Max算法 思想：反复对{TK}、{qk}在使DK最小的两个必要条件进行迭代（必要条件为：P235）
第7页/共29页
§7.5:香农三大定理的关系和比较－1
无失真信源编码定理 信源冗余度压缩编码 无失真、保熵 信源压缩的极限值：信源熵H(S)
存在性、构造性
限失真信源编码定理 信源的熵压缩编码 有失真、熵压缩 信源压缩的极限值：率失真函数R(D)
存在性定理
第8页/共29页
§7.5:香农三大定理的关系和比较－2
最佳的预测编码：en=yn-un 最小 有三种不同的标准：最小均方误差；最小 平均绝对误差；最大零误差概率；
第17页/共29页
预测编码
DPCM基本原理
转入 f(i,j)
e(i,j)
量化器
编码器
f(i,j)
信
f’(i,j)
道
f’(i,j) 输出
预测器 预测器
传
f’(i,j)
输
e’(i,j)
解码器
f(i,j)
DPCM编、解码原理图
第18页/共29页
预测编码
最佳量化
不带量化器的DPCM线性预测编码，属于无失真编码系 统；带有量化器的DPCM线性预测编码，属于有失真编码系 统。
DPCM线性预测系统是一个负反馈系统，对误差有收敛 性。发送端与接收端之间的误差等于量化误差。
信息论与编码试题集与答案(新)
1. 在无失真的信源中，信源输出由 H (X ) 来度量；在有失真的信源中，信源输出由 R (D ) 来度量。
2. 要使通信系统做到传输信息有效、可靠和保密，必须首先 信源 编码， 然后_____加密____编码，再______信道_____编码，最后送入信道。
3. 带限AWGN 波形信道在平均功率受限条件下信道容量的基本公式，也就是有名的香农公式是log(1)C W SNR =+；当归一化信道容量C/W 趋近于零时，也即信道完全丧失了通信能力，此时E b /N 0为 -1.6 dB ，我们将它称作香农限，是一切编码方式所能达到的理论极限。
4. 保密系统的密钥量越小，密钥熵H (K )就越 小 ，其密文中含有的关于明文的信息量I (M ；C )就越 大 。
5. 已知n ＝7的循环码42()1g x x x x =+++，则信息位长度k 为 3 ，校验多项式 h(x)= 31x x ++ 。
6. 设输入符号表为X ＝{0，1}，输出符号表为Y ＝{0，1}。
输入信号的概率分布为p ＝(1/2，1/2)，失真函数为d (0，0) = d (1，1) = 0，d (0，1) =2，d (1，0) = 1，则D min ＝ 0 ，R (D min )＝ 1bit/symbol ，相应的编码器转移概率矩阵[p(y/x )]＝1001⎡⎤⎢⎥⎣⎦；D max ＝ 0.5 ，R (D max )＝ 0 ，相应的编码器转移概率矩阵[p(y/x )]＝1010⎡⎤⎢⎥⎣⎦。
7. 已知用户A 的RSA 公开密钥(e,n )=(3,55)，5,11p q ==,则()φn = 40 ，他的秘密密钥(d,n )＝(27,55) 。
若用户B 向用户A 发送m =2的加密消息，则该加密后的消息为 8 。
二、判断题1. 可以用克劳夫特不等式作为唯一可译码存在的判据。
（√ ）2. 线性码一定包含全零码。
（√ ）3. 算术编码是一种无失真的分组信源编码，其基本思想是将一定精度数值作为序列的 编码，是以另外一种形式实现的最佳统计匹配编码。