第07讲-信道编码
第7章信道编码概述

可靠性与带宽、速度的关系
从信息传输的角度,监督元不载有任何信息,所以是多余 的。这种多余度使码字具有一定的纠错和检错能力,提高 了传输的可靠性,降低了误码率;
如果信息传输速度不变,在附加了监督元后必须减小码组 中每个码元符号的持续时间,对二进制码,就是要减小脉 冲宽;若编码前每个码脉冲的归一化宽度为1,则编码后 的归一化宽度为 k/n (k<n,k/n<1),因此信道带宽必须展宽 n/k 倍;以带宽的多余度换取了信道传输的可靠性;
级联码
两个以上的编码器按一定方式组合而成的编码器
2023/12/21
22/40
检错与纠错原理
检错与纠错的目的
目的:检测从信道的输出信号序列 R 是否是可能发送的 C, 或纠正导致 R 不等于 C 的错误。
纠错编码是一种冗余编码。例如BSC信道,消息m和码字 C都是二进制序列/向量。
纠错编码
m=(m0,m1,…,mk-1)
优于明线线路,光缆优于电缆;②改进传输线路的传输特性或增加 发送信号功率:如进行相位和幅度均衡以改进线路的群延时和幅频 特性,增加中继放大器。在无线信道中,可以增加发射机功率、利 用高增益天线、低噪声放大器等方法改善信道;③选用潜在抗干扰 性较强的调制解调方案。 2. 采用信道编码,在数字通信系统中增加差错控制设备。
根据监督元与信息元之间关系可分为:线性码 和非线性码
根据码的功能可分为:检错码和纠错码
2023/12/21
11/40
检 纠 错 码
信 道 编 码
正 交 编 码
2023/12/21
分组码
卷积码 m序列 L序列
非线性码
信道编码

前言计算机通信是一种以数据通信形式出现,在计算机与计算机之间或计算机与终端设备之间进行信息传递的方式。
它是现代计算机技术与通信技术相融合的产物,在军队指挥自动化系统、武器控制系统、信息处理系统、决策分析系统、情报检索系统以及办公自动化系统等领域得到了广泛应用。
计算机通信系统是经典的数字通信系统,它是计算机技术和通信技术结合的产物,一方面通信网络为计算机之间的数据传递和交换提供必要的设施和手段;另一方面,数字计算机技术的发展渗透到通信技术中,又提高了通信网络的各种性能,二者相互渗透、互相促进、共同发展。
由于计算机、卫星通信及高速数据网的飞速发展,数据的交换、处理和存储技术得到了广泛的应用,数字信号在传输中往往由于各种原因,使得在传送的数据流中产生误码,从而使接收端产生图象跳跃、不连续、出现马赛克等现象,人们对数据传输和存储系统的可靠性提出来了越来越高的要求,经过长时间的努力,通过编译码来控制差错、提高可靠性的方式在信道传输中得到了大量的使用和发展,并形成了一门新的技术叫做纠错编码技术,纠错编码按其码字结构形式和对信息序列处理方式的不同分为两大类:分组码和卷积码。
第一章 信道编码1.1 信道编码概述1.1.1信道模型信息必须首先转换成能在信道中传输或存储的信息后才能通过信道传送给收信者。
在信息传输过程中,噪声或干扰主要是从信道引入的,它使信息通过信道传输后产生错误和失真。
因此信道的输入和输出之间一般不是确定的函数关系,而是统计依赖的关系。
只要知道信道的输入信号、输出信号以及它们之间的统计依赖关系,就可以确定信道的全部特性。
信道的种类很多,这里只研究无反馈、固定参数的单用户离散信道。
1.离散信道的数学模型离散信道的数学模型一般如图6.1所示。
图中输入和输出信号用随机矢量表示,输入信号为 X = (X 1, X 2,…, X N ),输出信号为Y = (Y 1, Y 2,…, Y N );每个随机变量X i 和Y i 又分别取值于符号集A ={a 1, a 2, …, a r }和B ={b 1, b 2, …, b s },其中r 不一定等于s ;条件概率P (y |x ) 描述了输入信号和输出信号之间的统计依赖关系,反映了信道的统计特性。
信道编码原理

2.1信道编码原理
在一个噪声信道中,如果我们把调制/解调器和检测器看作是信道的一个组成部分。
那么一个数字通信系统模型可以用图2-1表示:(虚线框为假想的信道部分)
图2-1 数字通信系统模型
信道编码器的作用是以可控的方式在二进制信息序列里插入一些冗余度,以达到在接受端利用这些冗余度来克服信号在信道中受到的干扰和噪声的影响。
编码的一般过程是:每次取k 个比特的信息序列,把这个k 比特信息组映射成与之唯一对应的n 比特组,这些n 比特组称为码字。
在这种方式中,由信道编码引入的冗余量可以用比值/n k来衡量,该比值的倒数,即/k n称为码率。
信道编码器输出的二进制序列被送入调制器,进入信道。
调制器把二进制序列映射。
信道编码原理

某一种符号。
p(b1
a) 1
p(0 0)
1
p
p
【例5-1】 二元对称信道简记为
BSC(BinarySpy(mb2mae2t)ricCph(1a1n)nel1), 其p 输p入/输出符号均取
值于{0,1},若r=sp=(2b1,a且2 )a1=pb(10=10),ap2=b2=1,有转移概率
p(b2
(4)选择合适的译码规则可降低平均错误译码的概率 。
5.2.3 费诺不等式
描述了平均错误译码概率Pe与信道疑义度H(X|Y) 的内在联系,即
H(X︱Y) ≤ H(Pe)十Pe1oga(r-1)
注:
(1)不论采用什么准则选择译码规则,费诺不等式都是普 遍成立的。
(2)费诺不等式表明,在收到信道输出随机变量后,对输 入随机变量仍然存在的平均不确定性H(X|Y)由两部分 组成:第一部分是收到输出随机变量后,按选择的译 码规则译码时,是否产生错误译码的平均不确定性 H(Pe);第二部分是当平均错误译码概率为Pe时,到底 是哪一个信源符号被错误译码的最大平均不确定性 Pe1oga(r-1)。
prj p X F(bj ) ai Y bj
3. 错误译码概率Pej
当信道的输入符号是ai,在信道输出端接收到某符号 bj(j=1,2,…,s)后,错误译码的概率pej为信道输出端出现 bj(j=1,2,…,s)的前提下,推测信道输入的符号是除了ai以外 的其他任何可能的输入符号的后验概率,即
(1)从整个传递作用的效果来看,信道的输入是 X=X1X2…XN,输出是Y=Y1Y2…YN。 (2)与基本离散信道相比,N次扩展信道的输入符号数由r 种扩展为rN种,输出符号数由s种扩展为sN种。
N次扩展信道的传递矩阵
信息论基础第七章信道编码

线性分组码(续)
C3 u0 u2 C0 C2
CC54
u0 u0
u1 u1
u2 C0
C0 C1
C1
C2
C6 u1 u2 C1 C2
即
C0 C 2 C3 0 C0 C1 C 2 C3 0 C0 C1 C5 0 C1 C 2 C6 0
线性分组码(续)
亦趋于0,仅有少数比如turbo码,两者性能都比较好。
信道编码的基本概念 (续)
目前大多数信道编码性能却不很理想,因此目前信道编码的主要 目标是以可靠性为主,即在寻求抗干扰强的码的基础上,寻求适当的有 效性,寻求和构造最小距离 d m in 比较大的码。
有关线性分组码的n种等效研究方法
所谓有限域,是指有限个元素的集合,可以进行按规定的代数四 则运算,其结果仍属于集合中的有限元素。
采用系统(组织)码来描述生成矩阵G与监督矩阵H,仅是其中的一种。 在很多情况下是采用非系统码的描述方式,那么两者之间有没有什么实 质上的差别?
线性分组码(续)
由线性代数理论,任何一个非系统的生成矩阵G均可以通过矩阵的初等 变换得到相应的系统码的生成矩阵G。因此,我们可以得到如下结论: 任何一个线性分组(n,k)码,均可找到一个等价的系统码,而且还可以 进一步证明只要在码率R和码长n相同的条件下,最优的系统码与最优的 线性分组码具有相同的错误概率。
例:以(7,3)二元线性分组码为例,其中: n7 , k 3 , nk734,k 3
n7
这时输入编码器的信息分成三个一组,即 u(u0u1u2),
它可按下列线性方程组编码:
写成矩阵形式
线性分组码(续)
u(I Q)
称G为生成矩阵,若G (I Q)即能分解出单位方阵为子阵,且I的位
第07讲-信道编码

译码原理----序列译码(续)
• 优点
–运算量和约束长度无关。
• 缺点
–没有利用卷积码的记忆特性,不是最优算法。
译码原理----维特比译码
• 这是一种基于最大似然算法的译码方法 • 是由A.J.Viterbi首先提出的。 • 可以采用硬判决或软判决。
硬判决:解调器直接判0,1,即1比特量化 软判决:解调器对输出进行多比特量化
B
A A B
线性分组码----举例
• • • • • 奇偶监督码 汉明码 BCH码 RS码 CRC码
奇偶监督码
• 采用奇偶校验原理。 • 只能检错,不能纠错。 • 只能检查出某一分组的单个错误或奇数个错误, 而不能发现偶数个错误。 • 水平奇偶监督码 • 水平垂直奇偶监督码。
奇偶监督码(续)
11100110100011 0 11000101100011 1
译码原理----方法分类
• 代数译码:纠错译码的经典方法。利用 纠错码的代数结构,经过一定的代数运 算,消除误差,恢复正确的信息。常用 的有:大数译码逻辑。特点:电路简单, 编码增益低。 • 概率译码:纠错译码的新方法。考虑到 信道的统计特性。常用的有:序列译码、 维特比译码。特点:电路复杂,编码增 益高。
基本概念
• 信道编码的目的 信道编码是为了保证信息传输的可靠性、提高传输质量而 设计的一种编码。它是在信息码中增加一定数量的多余码 元,使码字具有一定的抗干扰能力。 • 信道编码的实质 信道编码的实质就是在信息码中增加一定数量的多余码元 (称为监督码元),使它们满足一定的约束关系,这样由 信息码元和监督码元共同组成一个由信道传输的码字。 举例而言,欲传输k位信息,经过编码得到长为n(n>k)的 码字,则增加了 n - k = r 位多余码元,我们定义 R = k / n 为编码效率。
第七课-理论-信源与信道编码解读

Page
36
实现交织和解交织一般使用卷积方式。 交织技术对已编码的信号按一定规则重新排列,解 交织后突发性错误在时间上被分散,使其类似于独立发
生的随机错误,从而前向纠错编码可以有效的进行纠错
,前向纠错码加交积的作用可以理解为扩展了前向纠错 的可抗长度字节。
纠错能力强的编码一般要求的交织深度相对较低。纠错
Page 27
0:晴,1:雨
若1→0,0→1。收端无法发现错误
00晴 00
01 10 11雨 11
能发现 一个错误 禁用码组
• 插入1位监督码后具有检出1位错码的能 力,但不能予以纠正。
Page 28
000晴
000 001 010 100 011 101 110
晴
雨
111雨
111
• 在只有1位错码的情况下,可以判决哪位是错 码并予以纠正。
Page 40
约束长度(constraint length)= 寄存器个数(N)+1; 编码速率是指在保证原有信息能够得到还原的码流速度。通常码流速率 越低,编码效率就越高。 典型的Turbo码编码器:由两个反馈的编码器(称为成员编码器)通过 一个交织器I并行连接而成。如果必要,由成员编码器输出的序列经过删余 阵,从而可以产生一系列不同码率的码。例如,对于生成矩阵为g=[g1,g2] 的(2,1,2)卷积码通过编码后,如果进行删余,则得到码率为1/2的编码输 出序列;如果不进行删余,得到的码率为1/3。
将信源的模拟信号转变为数字信号 降低数码率,压缩传输频带(数据压缩)
信道编码
提高数字通信可靠性
数字信号在信道的传输过程中,由于实际信 道的传输特性不理想以及存在加性噪声,在 接收端往往会产生误码。
信道编码课件

编码系统模型下的数字序列变换
信息序列:mi=[mi1 , mi2 ,…, mik]
编码
编码后的发送序列:Ci=[Ci1 , Ci2 ,… , Cin] 信道(干扰) 受到干扰后的接收序列:ri=[ri1 , ri2 ,…, rin]
发 送 端 接 收 端
21
译码
信息序列:m’i=[m’i1 , m’i2 , … , m’ik]
2013-7-11
1.2 错误类型与信道模型
离散无记忆信道(Discrete Memoryless Channel, DMC)
P(y0/x0) P(y0/x1) x0 P(y1/x0) P(y /x0) P(y21/x1) x1 P(y2/x1) P(yQ-1/x0) . . P(yQ-1/x1) . xq-1 y0 y1
2013-7-11
1.1 用于可靠传输和存储数据的编码 ——编码系统模型
信源 m 编码 c 信道
噪声干扰
r
m′ 译码 信宿
三点说明: 1.不可无限的增加冗余码 2.尽可能的重现m,即 使m′尽量接近m 3.编译码算法易实现,设备费用尽量低
研究各种编码和译码方法是信道编码所要解决的问题。
2013-7-11 22
2013-7-11
28
1.2 错误类型与信道模型
吉尔伯特模型:
1-Pgb Good Pgb Bad Pbg 1-Pbg
两个状态:Good,Bad 某一时刻,信道处于两种状态之一 三个主要参数:
Pgb:信道由Good状态转到Bad状态的概率 Pbg:信道由bad状态转到Good状态的概率 2013-7-11 Pe :信道处于Bad状态下的误码率
发送端
干扰
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
基本概念
7 6
5
Eb/No (dB)
4
3
2
1
0
1
2
3
频带扩展 dB
4
5
6
R0 10log1/R 0
1
7/8
3/4
2/3
1/2
1/4
基本概念
• 从图可以看出:当带宽,R00,得到 Eb/N0 1.4dB,信道编码所能达到的极限 比仙侬极限(-1.6dB)差3dB。 • 从图可以看出:若R01,即不加任何信道 编码,这时Eb/N0 ,说明在有限信噪比 情况下无法达到无差错传输。 • 从图可以看出:对于一定的R0,相当于一定 的带宽扩展率,存在一个有限的Eb/N0 ,这 时可以通过选择适当的n达到任意低的差错 率。
卷积码
概述
• 分组码卷积码 • 固定窗型滑动窗型
k k k k k k k k k k k k k k k k
n n
n
n
n
n
n
n n n n n n n n n
概述(续)
• 例:R=1/2卷积码
+
ak
k
Ik
k
k
k
k
k
k
k
+
bk
编码原理
• 原理图
uj0 uj1
...
xj0 uj-m,0 uj-m,1
译码原理----序列译码(续)
• 优点
–运算量和约束长度无关。
• 缺点
–没有利用卷积码的记忆特性,不是最优算法。
译码原理----维特比译码
• 这是一种基于最大似然算法的译码方法 • 是由A.J.Viterbi首先提出的。 • 可以采用硬判决或软判决。
硬判决:解调器直接判0,1,即1比特量化 软判决:解调器对输出进行多比特量化
译 码 器
• 优点:性能较一般短码有很大改善 • 缺点:编码效率低;当R/C →1时性能迅速恶化
CRC码
(循环冗余校验码)
• 是一种循环码,用于检错。 • 具有很强的检错能力,而且编码器及译码器都很容 易实现。因而在数据通信中得到广泛应用。 • 可以检测出突发长度n-k的错误;大部分突发长度 n-k+1的错误;所有与许用码组的码距dmin-1的错 误;以及所有奇数个随机错误。 • 循环冗余校验码和自动反馈重传的组合。
译码原理----序列译码
• 原理:在网格图中每向前走一步,在决定走哪一 个分支时根据该分支子码与该时刻接收子码之间 的相似程度来判断。亦称为逐分支译码。整个路 径是各段分支的组合。 • 一般采用对数似然值度量该相似程度 log P(R|C)=logiP(ri|ci)=ilog(p(ri|ci)) • 堆栈译码和费诺译码
译码原理----方法分类
• 代数译码:纠错译码的经典方法。利用 纠错码的代数结构,经过一定的代数运 算,消除误差,恢复正确的信息。常用 的有:大数译码逻辑。特点:电路简单, 编码增益低。 • 概率译码:纠错译码的新方法。考虑到 信道的统计特性。常用的有:序列译码、 维特比译码。特点:电路复杂,编码增 益高。
译码原理----维特比译码(续)
• Viterbi译码举例
–设对于编码前信息比特为(0,0,0,0,0,0)的接 收序列为
r 1.1,0.3 0.1,0.9 0.5,1.3 0.5,0.6 0.2,0.5 1.2,0.9
~
译码原理----维特比译码(续)
0.8 -0.8 1.6 0 0.2 -1.8 4.5 2.3 2.1 1.9 5.9 4.3 4.9 5.5 00 10 01 11 3.4 2.0 0.8 -0.8 3.8 5.2 2.2 2.6
汉明码
(Hamming码)
• 是一种纠正单个错误的线性分组码。 • 特点: 码长 n = 2m-1 信息码位 k = 2n-m-1 监督码位 r = n-k = m 纠错能力 t = 1 • 扩展的汉明码:将监督码位由m增至m+1,信息 位不变,这时能纠正1位错误同时检查出2位错误。
BCH码
(Bose-Chaudhuri-Hocquenghem码)
几项关键技术
Turbo码采用的几项关键技术措施: • 交织技术 • 级联码技术 • 软输出技术 • 迭代技术
交织技术
• 什么叫交织?
01 02 03 04 05 06 07 08 09 10 11 12 13 14 15
突发误码
16 17 18 19 20
01 06 11 16 02 07 12 17 03 08 13 18 ……...
• 这种码有可能检测偶数个错误。因为每行的监 督位虽然不能用于检测本行中的偶数个错码,但 按列的方向就有可能检测出来。可是也有一些偶 数错码不可能检测出,例如,构成矩形的四个错 码就检测不出来。 • 这种二维奇偶监督码适于检测突发错码。因为 这种突发错码常常成串出现,随后有较长一段无 错区间,所以在某一行中出现多个奇数或偶数错 码的机会较多,这种方阵码适于检测这类错码。 • 一维奇偶监督码一般只适于检测随机错误。
... ... ...
映射
xj1
... ...
xj,n-1
uj,k-1
uj-m,k-1
...
m stage delay
编码原理(续)
• 几个例子
xj0 xj0 uj
+
uj
+
(1)
xj1
+
(2)
xj1
uj0 uj1
+ + +
(3)
xj0 xj1 xj2
(4)
uj
xj0
xj1
返回
编码原理(续)
• 卷积码的参数
RS码
(Reed-Solomon码)
• 是一种多进制的BCH码。即:在(n,k)RS码中,输入信 息被分成km比特一组,每组包括k个符号,每个符号由m 比特组成。 • 纠正t个符号错误的RS码参数如下: 码长 n = 2m-1符号, 或m(2m-1)比特 信息段 k符号, 或km比特 监督段 n-k=2t符号, 或m(n-k)比特 • 能够纠正突发误码,通常用于连续编码系统。是所有线 性码中dmin最大的码。
• 是线性分组码中循环码的一种重要子类,有严 密的代数结构,是目前研究较多、应用较广的 一种线性分组码。 • 具有纠正多个随机错误的能力。 • 根据对纠错能力的要求,选择参数,并根据代 数结构构造编译码算法。 • 如:n = 7, k = 4, t = 1; n = 15, k = 7, t = 2; n = 31, k = 16, t = 3; n = 127, k = 50, t = 13。
性能指标
• 编码率、编码效率、码率
• 编码增益
• 编码延时 • 编译码器的复杂度
分类
• 根据编码的工作过程可分为:前向纠错编码和 反馈纠错编码 • 根据编码的实现功能可分为:检错码和纠错码 • 根据编码的处理过程可分为:分组码和卷积码 • 根据编码的运算过程可分为:线性码和非线性 码
பைடு நூலகம் 分组码
工作原理
• 软判决比硬判决要好2-3dB。
译码原理----维特比译码(续)
• Viterbi译码原理
–Viterbi译码是建立在最大似然译码基础上的 译码方法 –在译码过程中要不断计算各个分支的似然函 数值,并将某条路径的所有分支的似然函数 值相加 –译码输出只需考虑整个路径集合中那些能使 似然函数最大的路径
奇偶监督码(续)
• 行列监督码又称水平垂直一致监督码或二维奇偶 监督码,有时还被称为矩阵码。它不仅对水平 (行)方向的码元,而且还对垂直(列)方向的 码元实施奇偶监督。 • 一般L×m个信息元,附加L+m+1个监督元,由 L+1行,m+1列组成一个(Lm+L+m+1,Lm)行 列监督码的码字。
奇偶监督码(续)
k k k k
k
k
k
k
n
• 图中,n k,R=k/n,称为编码率。 • 分组码的基本原理是将信息码分成K比特一组,然后将 每组的比特数扩展成n( n k),也就是说在信息比 特中插入n-k个比特。 • 另一种看法:将2k矢量空间映射到2n矢量空间。
工作原理(续)
• 定义几个参数: 码重:一组二进制码中“1”的个数 码距d:二组二进制码之间“0”或“1”不同的位数 • 定理: (1)为检查出e个错误,要求:dmin e+1 (2)为纠正t个错误,要求:dmin 2t+1 (3)为纠正t个错误,同时检查出e个错误,要求: dmin e+t+1 (e t) • 用图说明
基于软判决的Viterbi译码
Trellis图
译码原理----维特比译码(续)
• Viterbi译码的特点
-维特比算法是最大似然的序列译码算法 -译码复杂度与信道质量无关 -充分利用了卷积码的记忆特性 -运算量和存贮量都与码长及状态数呈线性关系
Turbo码
产生背景
• 无线通信的发展需要寻找性能更好的信道 编码方法。 • 人们努力去逼近仙侬极限(-1.6dB),但 一直没有达到。 • Turbo码是通过实践发现的,而不是通过 理论发现的。
B
A A B
线性分组码----举例
• • • • • 奇偶监督码 汉明码 BCH码 RS码 CRC码
奇偶监督码
• 采用奇偶校验原理。 • 只能检错,不能纠错。 • 只能检查出某一分组的单个错误或奇数个错误, 而不能发现偶数个错误。 • 水平奇偶监督码 • 水平垂直奇偶监督码。
奇偶监督码(续)
11100110100011 0 11000101100011 1