线性分组码的编码与译码
信息论与编码_第7章线性分组码

1 1 1 0 1 1 [000]. 0 0 1 0 0 1
17
线性分组码的校验矩阵
例7-2(续2):求对偶码C
1 1 0 1 0 0 对偶码的生成矩阵=校验矩阵H 1 1 1 0 1 0 . 1 0 1 0 0 1
c mH , c1 m1 m2 m3 c m m 1 2 2 c3 m2 m3 c4 m1 c5 m2 c6 m3
例7-3 设一个(6,3)线性分组码C的校验矩阵为
1 1 0 1 0 0 H 1 1 1 0 1 0 0 0 1 0 0 1
任何1列线性无关, 第1、2列线性相关, C的最小汉明距离 =2
23
线性分组码
线性分组码概念 线性分组码的生成矩阵 线性分组码的校验矩阵 线性分组码的最小汉明重量 线性分组码的译码 完备码 汉明码
21
线性分组码的最小汉明重量
定理7-4 线性分组码C的最小汉明距离等于该码中非零 码字的最小 汉明重量 。 例7-2(续3) 全体码字为:
码字 000000 011101 110001 101100 111010 100111 001011 010110
C的最小汉明距离=3, 可以纠1个错,检2个错
对偶码C 000 000 101 001 111 010 010 011 110 100 011 101 001 110 100 111
18
线性分组码的校验矩阵
课堂练习:已知(5, 3)线性分组码的生成矩阵为G
1 0 1 1 0 G 0 1 0 1 1 1 1 0 1 0
信息元
000 001 010 011 100 101 110 111
线性分组码的编码与译码

实践教学大学计算机与通信学院2014年秋季学期计算机通信课稈设计题目:线性分组码(9 , 4)码的编译码仿真设计专业班级:_______________________________姓名:_________________________________________学号:_______________________________________指导教师:______________________________________成绩:______________________________________________摘要该系统是(9, 4)线性分组码的编码和译码的实现,它可以对输入的四位的信息码进行线性分组码编码,对于接收到的九位码字可以进行译码,从而译出四位信息码。
当接收到的九位码字中有一位发生错误时,可以纠正这一位错码;当接收到的码字有两位发生错误时,只能纠正一位错误,但同时能检测出另一位错误不能纠正。
只有特定位有两位错误时,才能纠正两位错误。
这样就译出正确的信息码组,整个过程是用MATLAB语言实现的。
关键词:编码;译码;纠错摘要 目录1. 信道编码概述2.•…1.1信道模型 ............................................................... 2•…1.2抗干扰信道编码定理及逆定理 ............................................ 3…1.3检错与纠错的基本原理 .................................................. 4•…1.4限失真编码定理 ........................................................ 5•…2. 线性分组码的编码 ........................................................... 6 _2.1生成矩阵 ............................................................... 6•…2.2校验矩阵 ............................................................... 9•…2.3伴随式与译码 ......................................................... 1.0....3. 线性分组码编码的 Matlab 仿真 ............................................... 1.2..3.1程序流程图 ............................................................ 1.2....3.2程序执行结果 ......................................................... 12....3.2线性分组码译码的 Matlab 仿真 .......................................... 1.3.3.3结果分析 .............................................................. 1.5.... 参考文献 .................................................................... .1.6..... 总结 ......................................................................... 1.7.... 致谢 ......................................................................... 1.8.... 附录目录19刖言由于计算机、卫星通信及高速数据网的飞速发展,数据的交换、处理和存储技术得到了广泛的应用,数字信号在传输中往往由于各种原因,使得在传送的数据流中产生误码,从而使接收端产生图象跳跃、不连续、出现马赛克等现象,人们对数据传输和存储系统的可靠性提出来了越来越高的要求,经过长时间的努力,通过编译码来控制差错、提高可靠性的方式在信道传输中得到了大量的使用和发展,并形成了一门新的技术叫做纠错编码技术,纠错编码按其码字结构形式和对信息序列处理方式的不同分为两大类:分组码和卷积码。
线性分组码的编码原理

如果用两个二进制码元来表示一个消息,有4 种可能的码字,即“00”、 “01”、“10”和
“11”。比如规定“00”表示消息A, “11”表示 消息B。码字“01”或“10”不允许使用,称为禁
用码字,对应地,用来表示消息的码字称为许用 码字。如果在传输消息的过程中发生一位错码, 则变成禁用码字“01”或“10”,译码器就可判决 为有错。这表明在信息码元后面附加一位监督码 元以后,当只发生一位错码时,码字具有检错能 力。但由于不能判决是哪一位发生了错码,所以 没有纠错能力。
间的最小距离,称为该编码的最小汉明距离,简称为最小码距,用 d min 表示。例如码长 n =3 的重复码,只有 2 个许用码字,即 000 和 111, 显然 d min =3。
《通信原理课件》
《通信原理课件》
信道编码的效用
《通信原理课件》
[例9.2.1]
《通信原理课件》
《通信原理课件》
9.2.2 信道编码的译码方法
《通信原理课件》
《通信原理课件》
9.4.1 循环码的码多项式
循环码可用多种方式进行描述。在代数编码理论中,通常用多项式 去描述循环码,它把码字中各码元当作是一个多项式的系数,即把一个
n 长的码字 C = cn1,cn2 ,cn3,,c1,c0 用一个次数不超过(n-1)的多
项式表示为
C x cn1 x n1 cn2 x n2 c1 x c0
《通信原理课件》
9.2 信道编码的基本原理
香农的信道编码定理指出:对于一个给
定的有扰信道,如果信道容量为C,只要发 送端以低于C的信息速率R发送信息,则一
定存在一种编码方法,使译码差错概率随 着码长的增加,按指数规律下降到任意小 的值。这就是说,通过信道编码可以使通 信过程不发生差错,或者使差错控制在允 许的数值之下。
8.3.4 线性分组码的编译码电路[共2页]
![8.3.4 线性分组码的编译码电路[共2页]](https://img.taocdn.com/s3/m/830c4bb7ddccda38366baf02.png)
第
8章 信道编码
275
表8-4 (7,4)码伴随式和错1位的错误图样对应关系 错 误 位
错误图样
E
e 6 e 5 e 4 e 3 e 2 e 1 e 0 伴随式S s 3 s 2 s 1 s 0 无错 0 0 0 0 0 0 0 0 0 0 0 e 6 1 0 0 0 0 0 0 1 1 1 0 e 5 0 1 0 0 0 0 0 0 1 1 1 e 4 0 0 1 0 0 0 0 1 1 0 1 e 3 0 0 0 1 0 0 0 1 0 0 0 e 2 0 0 0 0 1 0 0 0 1 0 0 e 1 0 0 0 0 0 1 0 0 0 1 0 e 0
0 0 0 0 0 0 1
0 0 0 1
8.3.4 线性分组码的编译码电路
按照信息码元和监督码元之间的线性关系,可画出线性分组码的并行编码电路和串行编码电路,如图8-2所示。
图8-2 线性分组编码电路原理图
分组码的译码电路一般都比较复杂,这里仅给出一个框图,如图8-3所示。
它由3部分组成,分别是伴随式计算、S E →的转换及纠错电路C R E =+,都是由逻辑电路构成的。
【例8-1】 设某线性码的生成矩阵为110011011101
100101G ⎡⎤
⎢⎥=⎢⎥⎢⎥⎣⎦
,
(1)确定(,n k )码中的n ,k 值; (2)求典型生成矩阵G ; (3)求典型监督矩阵H ; (4)列出全部码组; (5)求min d ;
(6)列出错码图样表。
图8-3 线性分组码的译码框图。
线性分组码的译码

一、实验目的1、通过实验掌握线性分组码的编码原理2、通过实验掌握线性分组码的译码3、了解编码与检错能力之间的关系二、实验内容1、自行设置线性分组码或汉明码的参数,计算所设计出的线性分组码或汉明码的所有码字集合;2、利用库函数译码或利用通信工具箱设计译码模块译码;3、整理好所有的程序清单或设计模块,并作注释。
三、实验结果1、写出产生(3,1)汉明码的生成矩阵,给出生成码的源程序,并给出运行结果。
(1)、源程序function f=hanmingencod(a) %对信息元a进行编码G=[1 1 1]; %(3,1)的生成矩阵t=input('输入0或1:'); %t=0时产生(3,1),汉明编码所有码字t=1时对输入序列进行编码if t==1;a=input('输入信息元序列:'); %当t=0时,则用户手动输入信息元序列c=mod(a*G,2); %对应码字disp('编码后序列为:');disp(c); %显示编码后的结果elsedisp('(3,1)汉明系统为:');%当t=0时,对for循环得到的信息元序列进行编码for i=0:1%进行for循环,得到信息元序列a=dec2bin(i,1); %生成信息源序列c=mod(a*G,2); %对信息元a进行编码disp(a); %显示信息元disp('对应码字为:');disp(c); %显示编码结果endend(2)运行结果:输入0或者1:0(3,1)汉明系统码为:对应码字为:0 0 01对应码字为: 1 1 1输入0或者1:1输入信息元序列:0编码后序列为: 0 0 0输入0或者1:1输入信息元序列:1编码后序列为: 1 1 1(3)、计算生成矩阵:由(3,1)汉明码可知:n=3,k=1;即信源符号1位一组:{}(),0,1,0,1,2,3;i i u u u i =∈=码符号3位一组:{}210(,,),0,1,0,1,2,3,4,5,6;j c c c c c j =∈=则可得其生成矩阵:[]1,1,1G = 或者校验矩阵H=⎥⎦⎤⎢⎣⎡110110=⎥⎦⎤⎢⎣⎡100111 所以生成矩阵[]1,1,1G =2、用encode函数对随机产生的序列进行汉明编码,给出编码结果。
线性分组码

C mG
G是一个k*n阶矩阵,称为(n,k)码的生成矩阵。
7
1 0 G 0
0 0 1 0 0 1
p11 p 21 p k1
p12 p 22 pk 2
p1( n k ) p 2( nk ) I P k pk ( nk )
n 1
u和v之间的距离表示2个码字对应位不同的数目。
如(7,3)码的两个码字:u=0011101
v=0100111
它们之间的距离d=4
4
码的最小距离的dmin :在(n,k)线性码字集合中, 任意两个码字间的距离最小值,是衡量抗干扰能力的 重要参数,dmin越大,抗干扰能力越强。 码字的重量W:码字中非零码元符号的个数;在二元 线性码中,码字的重量是码字中含“1”的个数。 码的最小重量Wmin:线性分组码中,非零码字重量的 最小值,称为码的最小重量,表示为:
限, 性能界限,即码的译码错误概率的上、下 限。 对码距限而言,最重要的限是汉明限,普 洛特金限和吉尔伯特-瓦尔沙莫夫限,汉 明码和普洛特金限告诉我们,在给定码长n 和码的传输速率R=k/n下,最小距离可以达 到的最大值,故它们都是上限,而吉尔伯 特一瓦尔沙莫夫限给出了码的最小距离的 下限。
HC 0
T
T
r=n-k
H
阵是n列,(n-k)行的矩阵;
为了得到确定的码,r个监督方程必须是线性
无关的,即要求H阵的秩为r。
6
2. 生成矩阵G
把方程组写成矩阵的形式为
h11 h 21 h r1
h12 h1k h 22 h 2k h r2 h rk
m 信道编码
C
8.2 线性分组码 线性分组码编码

8.2 线性分组码
线性分组码的编码
1
引言
• 信道编码,目的是提高数字通信的可靠性
– 差错率是信噪比的函数
• 信道编码,差错控制编码,抗干扰编码
• 信道编码过程:
– 信息码元序列+监督码元→编码码组
• 信道译码过程:
– 编码码组→检错或纠错→信息码元序列
2
1. 线性分组码的概念
1 0 0
G=0 1 0 0 1 1
1 0 1
0 0 1 1 1 0
1 1 0
1 1 1
7
由式
,得码组矩阵为:
0 0 0 0 0 1
0 0 0 0 0 0 0 0 1 1 1 0
0 C=0
1
1 1 0
0 1
0
1 0 0
0 1 0
0 0 1
1 0 1
0 1 1
110=100
1 1 0
0 1 0
0 1 1
6
有缘学习更多+谓ygd3076考证资料或关注桃报:奉献教育(店铺)
例8-1 已知(6,3)码的生成矩阵为G,试求:(1) 编码码组 和各码组的码重;(2) 最小码距 d及min其差错控制能力。
解
(1) 由3位码组成的信息码组矩阵为D:
0 0
0 0
0 1
0 1 0
1 0 0 1 0 1
0 1 1
D=
ck = dk
ck +1 ck+2
= =
h11d1 h12d2 h1k dk h21d1 h22d2 h2k dk
G生成矩阵
cn = hm1d1 hm2d2 hmk dk
5
写成矩阵形式,有 C = D G ,G为生成矩阵(k*n),且:
信息论基础——线性分组码

17
线性分组码的基本概念
信息位 00 01 10 11 x2 x0 x1 00000 x3 x0 x x x 01101 0 1 4 码字 10111 11010
信息位k=2 码字数M=4
可见,码字的三个校验元都由其前两位线 性组合得到,即可由的线性方程组求得;
18
线性分组码的基本概念
f1 : GF (2) 2 GF (2)5
信息位 00 01 10 11 码字 00000 01101 10111 11010
1 ( 0 1 ) 1 ( 1 0 ) 1 1
f( 1 1 ) 1 1 0 1 0
1 ( 0 1 1 0 1 )1 ( 1 0 1 1 1 ) 1 1 0 1 0
30
线性分组码的基本概念
汉明距离: 指(n,k)分组码中两个码字xn 、 yn对应位取 值不同的个数;记为d(xn , yn).
5 5 ( 1 0 1 0 1 ) , y ( 0 1 1 1 1 ) 例: x
d(x ,y ) 3
5 5
31
线性分组码的基本概念
线性分组码的最小距离: 称(n,k)分组码中任两个码字汉明距离的最小 值,为该分组码的最小距离d.
f ( 1 ( 0 1 ) 1 ( 1 0 ) ) 1 ( 0 1 1 0 1 ) 1 ( 1 0 1 1 1 ) 线性编码
19
线性分组码的基本概念
例题1: 下面是某个(n,k)线性二元码的全部码字
x16=000000 x26=100011 x36=010101 x46=001111 x56=110110 x66=101100 x76=011010 x86=111001 求n、k的值;
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
·实践教学·大学计算机与通信学院2014年秋季学期计算机通信课程设计题目:线性分组码(9,4)码的编译码仿真设计专业班级:姓名:学号:指导教师:成绩:摘要该系统是(9,4)线性分组码的编码和译码的实现,它可以对输入的四位的信息码进行线性分组码编码,对于接收到的九位码字可以进行译码,从而译出四位信息码。
当接收到的九位码字中有一位发生错误时,可以纠正这一位错码;当接收到的码字有两位发生错误时,只能纠正一位错误,但同时能检测出另一位错误不能纠正。
只有特定位有两位错误时,才能纠正两位错误。
这样就译出正确的信息码组,整个过程是用MATLAB语言实现的。
关键词:编码; 译码; 纠错目录摘要 (1)目录 (2)1. 信道编码概述 (2)1.1信道模型 (2)1.2 抗干扰信道编码定理及逆定理 (3)1.3 检错与纠错的基本原理 (4)1.4 限失真编码定理 (5)2.线性分组码的编码 (6)2.1 生成矩阵 (6)2.2 校验矩阵 (9)2.3 伴随式与译码 (10)3. 线性分组码编码的Matlab仿真 (12)3.1 程序流程图 (12)3.2 程序执行结果 (12)3.2 线性分组码译码的Matlab仿真 (13)3.3结果分析 (15)参考文献 (16)总结 (17)致谢 (18)附录 (19)前言由于计算机、卫星通信及高速数据网的飞速发展,数据的交换、处理和存储技术得到了广泛的应用,数字信号在传输中往往由于各种原因,使得在传送的数据流中产生误码,从而使接收端产生图象跳跃、不连续、出现马赛克等现象,人们对数据传输和存储系统的可靠性提出来了越来越高的要求,经过长时间的努力,通过编译码来控制差错、提高可靠性的方式在信道传输中得到了大量的使用和发展,并形成了一门新的技术叫做纠错编码技术,纠错编码按其码字结构形式和对信息序列处理方式的不同分为两大类:分组码和卷积码。
目前,绝大多数的数字计算机和数字通信系统中广泛采用二进制形式的码。
而线性分组码具有编译码简单,封闭性好等特点,采用差错控制编码技术是提高数字通信可靠性的有效方法,是目前较为流行的差错控制编码技术。
对线性分组码的讨论都在有限域GF(2)上进行,域中元素为{0,1},域中元素计算为模二加法和模二乘法。
分组码是一组固定长度的码组,可表示为(n , k),通常它用于前向纠错。
在分组码中,监督位被加到信息位之后,形成新的码。
在编码时,k个信息位被编为n位码组长度,而n-k个监督位的作用就是实现检错与纠错。
对于长度为n的二进制线性分组码,它有种2n可能的码组,从2n种码组中,可以选择M=2k个码组(k<n)组成一种码。
这样,一个k比特信息的线性分组码可以映射到一个长度为n码组上,该码组是从M=2k个码组构成的码集中选出来的,这样剩下的码组就可以对这个分组码进行检错或纠错。
1. 信道编码概述1.1信道模型信息必须首先转换成能在信道中传输或存储的信息后才能通过信道传送给收信者。
在信息传输过程中,噪声或干扰主要是从信道引入的,它使信息通过信道传输后产生错误和失真。
因此信道的输入和输出之间一般不是确定的函数关系,而是统计依赖的关系。
只要知道信道的输入信号、输出信号以及它们之间的统计依赖关系,就可以确定信道的全部特性。
信道的种类很多,这里只研究无反馈、固定参数的单用户离散信道。
1.离散信道的数学模型离散信道的数学模型一般如图6.1所示。
图中输入和输出信号用随机矢量表示,输入信号为X = (X 1, X 2,…, X N ),输出信号为Y = (Y 1, Y 2,…, Y N );每个随机变量X i 和Y i 又分别取值于符号集A ={a 1, a 2, …, a r }和B ={b 1, b 2, …, b s },其中r 不一定等于s ;条件概率P (y |x ) 描述了输入信号和输出信号之间的统计依赖关系,反映了信道的统计特性。
),...,,(21N X X X X = )|(x y P ),...,,(21N Y Y Y Y =∑=1)|(x y P图1.1 离散信道模型根据信道的统计特性即条件概率P (y |x ) 的不同,离散信道可以分为三种情况:(1)无干扰信道。
信道中没有随机干扰或干扰很小,输出信号Y 与输入信号X 之间有确定的一一对应的关系。
(2)有干扰无记忆信道。
实际信道中常有干扰,即输出符号与输入符号之间没有确定的对应关系。
若信道任一时刻的输出符号只统计依赖于对应时刻的输入符号,而与非对应时刻的输入符号及其他任何时刻的输出符号无关,则这种信道称为无记忆信道。
(3)有干扰有记忆信道。
这是更一般的情况,既有干扰又有记忆,实际信道往往是这种类型。
在这一类信道中某一瞬间的输出符号不但与对应时刻的输入符号有关,而且与此前其他时刻信道的输入符号及输出符号有关,这样的信道称为有记忆信道。
2.单符号离散信道的数学模型单符号离散信道的输入变量为X ,取值于{a 1, a 2, …, a r },输出变量为Y ,取值于{b 1,b 2, …, b s },并有条件概率P (y |x )= P (y=b j |x=a i )= P (b j |a i ) (i =1,2,…,r ;j =1,2,…,s )这一组条件概率称为信道的传递概率或转移概率。
因为信道中有干扰(噪声)存在,信道输入为x =a i 时,输出是哪一个符号y ,事先无法确定。
但信道输出一定是b 1, b 2, …, b s 中的一个,即有∑==s j i j a bP 11)|( (i =1,2,…,r )(1-1) 由于信道的干扰使输入符号x 在传输中发生错误,所以可以用传递概率P (b j |a i );,,2,1(r i Λ=),,2,1s j Λ=来描述干扰影响的大小。
因此,一般简单的单符号离散信道的数学模型可以用概率空间[Y x y P X ),|(,]加以描述。
另外,也可以用图来描述,如图1.2所示。
⎪⎪⎪⎩⎪⎪⎪⎨⎧a a X M 21 Yb b b s ⎪⎪⎪⎭⎪⎪⎪⎬⎫M M 21定义1.1 已知发送符号为a i ,通过信道传输接收到的符号为b j 的概率P (b j |a i )称为前向概率。
已知信道输出端接收到的符号为b j ,而发送符号为a i 的概率P (a i |b j ),称为后向概率。
有时,也把P (a i )称为输入符号的先验概率(即在接收到一个输出符号以前输入符号的概率),而对应地把P (a i |b j )称为输入符号的后验概率(在接收到一个输出符号以后输入符号的概率)。
为了讨论方便,下面列出本章讨论中常用的一些关于联合概率和条件概率的关系:(1) 设输入和输出符号的联合概率为P (x = a i , y = b j )=P (a i b j ),则有)|()()|()()(j i j i j i j i b a P b P a b P a P b a P == (2) ∑==r i i j i j a b P a P b P 1)|()()( (s j ,,1Λ=)。
(3) 根据贝叶斯定律,可得后验概率与先验概率之间的关系)()()|(j j i j i b P b a P b a P = (0)(≠b P j ) =∑=r i i j i i j i a b P a P a b P a P 1)|()()|()( (s j r i ,,2,1;,,2,1ΛΛ==)1.2 抗干扰信道编码定理及逆定理 定理1.1 有噪信道编码定理设离散无记忆信道[X ,P (y |x ),Y ], P (y |x )为信道传递概率,其信道容量为C 。
当信息传输率R <C 时,只要码长n 足够长,总可以在输入的符号集中找到2nR 个码字组成的一组码和相应的译码规则,使译码的错误概率任意小(P E 0→)。
在定理6.1中,信道容量C 是平均互信息量的最大值),(max )(Y X I C x p = 其单位是“bit/符号”。
定理1.2 有噪信道编码逆定理(定理6.1的逆定理)设离散无记忆信道[X ,P (y |x ),Y ],其信道容量为C 。
当信息传输率R >C 时,则无论码长n 多长,均找不到一种编码2nR ,使译码错误概率任意小。
定理1.1和定理1.2统称为申农第二定理,它是一个关于有效编码的存在性定理,它具有根本性的重要意义,它说明错误概率趋于零的好码是存在的。
它有助于指导各种通信系统的设计,有助于评价各种通信系统及编码的效率。
申农1948年发表申农第二定理后,科学家就致力于研究信道中的各种易于实现的实际编码方法,赋予码以各种形式的代数结构,出现了各种形式的代数编码、卷积码、循环码等。
1.3 检错与纠错的基本原理在申农第二定理发表后,很长一段时间内人们都在探寻能够简单、有效地编码和译码的好码。
由此形成了一整套纠错码理论。
在此只简单地介绍检错和纠错的一些基本概念及基本原理。
在信息处理过程中,为了保持数据的正确性应对信息进行编码使其具有检错纠错能力,这种编码称为语法信息编码。
它的基本思想是引入剩余度,在传输的信息码元后增加一些多余的码元,以使信息损失或错误后仍能在接收端恢复。
通常将要处理的信息称为原信息,将原信息转化为数字信息后再进行存储、传输等处理过程称为传送。
工程上最容易实现的是二元数字信息(或二元码信息)的传送。
所谓二元数字信息就是由二元数域F 2={0,1}中的数字0与1组成的数组或向量。
定义1.3 设X =(x 1, x 2,…, x n ),Y =(y 1, y 2,…, y n ),x i ∈F 2,y i ∈F 2,i =1,…, n ,称X 和Y 对应分量不相等的分量个数为X 和Y 的汉明(Hamming )距离,记为d (X , Y )。
记则d (X 1122n y n )容易证明以下定理。
定理1.4 设X 和Y 是长为n 的二元码字,则(1)n Y X d ≤≤),(0(非负且有界性)(2)d (X , Y )=0当且仅当X =Y (自反性)(3)d (X , Y )= d (Y , X )(对称性)(4)),(),(),(Z Y d Y X d Z X d +≤(三角不等式)1.4 限失真编码定理申农第一定理和申农第二定理指明:无论是无噪声信道还是有噪声信道,只要信道的信息传输率R 小于信道容量C ,总能找到一种编码,在信道上以任意小的错误概率和任意接近信道容量的信息传输率传输信息。
反之,若信道信息传输率R 大于信道容量C ,一定不能使传输错误概率任意小,传输必然失真。
实际上,人们并不需要完全无失真地恢复信息,只是要求在一定保真度下,近似恢复信源输出的信息。
比如,人类主要是通过视觉和听觉获取信息,人的视觉大多数情况下对于25帧以上的图像就认为是连续的,通常人们只需传送每秒25帧的图像就能满足通过视觉感知信息的要求,而不必占用更大的信息传输率。