纠错LDPC的原理讲解
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
LDPC码原理
1
低密度校验） LDPC （低密度校验）码
（Low Density Parity Check） ）
基本思路： 基本思路： 校验矩阵是稀疏矩阵，极长码。只对“ 迭代 迭代Turbo 校验矩阵是稀疏矩阵，极长码。只对“1”迭代 译码 LDPC码历史 LDPC码历史
•Robert Gallager 1960 年在 • 年在MIT Ph. D. 论文中提出，但由于 论文中提出， 1. 计算量大 2. RS码的引入 码的引入 3. RS＋卷积码被认为是最佳搭配 ＋ 因此该码被忽视了几十年 • MacKay (1999) 和Richardson/Urbanke(1998) 重新发现了 该码的优点和利用方式. 该码的优点和利用方式
λi
i
校验节点(行 校验节点 行） f0 f1 f2 f3 fj ci 比特节点(列 比特节点 列) c0 c1 c2 c3 c4 c5 c6 c7
Tanner 图
Tanner图反映了伴随矩阵的运算关系： 图反映了伴随矩阵的运算关系： RHT=CHT+EHT=0+ EHT=S
9
二分图中，节点连线的条数称作该节点的“度数” 二分图中，节点连线的条数称作该节点的“度数” 。 规则LDPC码的所有信息节点具有相同度数， 所有校验节点 码的所有信息节点具有相同度数， 规则 码的所有信息节点具有相同度数 也具有相同度数， 也具有相同度数，且满足条件 信息节点数×信息节点度数＝校验节点数× 信息节点数×信息节点度数＝校验节点数×校验节点度数 不规则LDPC码各节点度数并不相同， 仔细选择节点度数的 码各节点度数并不相同， 不规则 码各节点度数并不相同 分布能极大改善码的性能。通常， 分布能极大改善码的性能。通常，可用下列两个多项式分别 描述信息节点和校验节点的度数分布
∫λ =
λ ( x )dx = ∫（ λ1 + λ 2 x + λ 3 x 2 + L ） dx ∫
0 0
1
1
= （
λ1 x
1
+
λ2 x 2
2
+
λ3 x 3
3
+ L） = |
1 0
∑
i ≥1
λi
i
(2)
表示信息节点数n与总边数 之比。 与总边数Σ ∫ λ 表示信息节点数 与总边数Σ之比。这是因为
∑
i ≥1
码长n的 码的H矩阵有 例 ： 码长 的 LDPC码的 矩阵有 列 ， 对应二分图有 个 码的 矩阵有n列 对应二分图有n个 信息节点。设其中一半节点的度数为3， 信息节点 。设其中一半节点的度数为 ，另一半节点的度 数为4，则二分图上“ 的总数是(n÷ × 数为 ，则二分图上“边”的总数是 ÷2)×3+ (n÷2)×4, ÷ × 4n 3n 4n 4 3n 3n 4n 3 + = , λ4 = 系数λ3 = + = 2 2 2 7 2 2 2 7 描述信息节点分布的多项式为
4
分组码校验矩阵 是稀疏矩阵， •说(n,k)分组码校验矩阵 (n-k行n列)是稀疏矩阵，指其 分组码校验矩阵H 行 列 是稀疏矩阵 每行每列只有极少个“ 而最小距离d 较大。 每行每列只有极少个“1”而最小距离 min又较大。 正则（规则） LDPC码 •正则（规则）的LDPC码: Wr Wc 矩阵每列(column)有同样 c个“1”， n 有同样w 指H矩阵每列 矩阵每列 有同样 ， m 每行(row) 有同样w = 每行 有同样 r个“1”，且 ， 这里m=n-k，wc << m， wr << n。 这里 ， ， 。 对于一个好码，应有w 对于一个好码，应有 c ≥ 3 。 •校验矩阵 共有矩阵元素 校验矩阵H共有矩阵元素 校验矩阵 共有矩阵元素(n-k)×n个，正比于 2。 × 个 正比于n 保持每列“ 的个数 不变， 矩阵H中非零元 的个数w 中非零元“ 若保持每列“1”的个数 c不变，则矩阵 中非零元“1” 的个数为w 的个数随码长n线性增长 的个数为 c · n，即 “1”的个数随码长 线性增长。 ， 的个数随码长 线性增长。 矩阵元素的个数随n平方增长 而其中非零元“ 的个 平方增长， 矩阵元素的个数随 平方增长，而其中非零元“1”的个 数呈线性增长，则当码长n→∞ →∞时 数呈线性增长，则当码长 →∞时，“1”的个数必将远远 的个数必将远远 小于0的个数 校验矩阵将成为稀疏矩阵。 的个数， 小于 的个数，校验矩阵将成为稀疏矩阵。
T
则
sn-k-1 = rn-1h(n-k-1)(n-1) +…+ r1 h(n-k-1)1 + r0 h(n-k-1)0 M s1 = rn-1h1(n-1) +… + r1 h11 + r0 h10 s0 = rn-1h0(n-1) +… + r1 h01 + r0 h00
是稀疏矩阵， 若H是稀疏矩阵，方程组每行仅留下少数非零项相加。 是稀疏矩阵 方程组每行仅留下少数非零项相加。 是规则的， 若H是规则的，即每行包含同样数量个“1”，那么上述 是规则的 即每行包含同样数量个“ ， 每个方程是同样多个项的相加。 每个方程是同样多个项的相加。 如用若干条线的相汇代表加，就得出Tanner图，该图 如用若干条线的相汇代表加，就得出 图 含(n-k)个校验节点 0～ sn-k-1 ，n个消息比特节点 0～ rn-1 ， 7 个校验节点s 个消息比特节点r 个校验节点 个消息比特节点
6
若R=(rn-1, rn-2,… r0), S=(sn-k-1 , … , s1, s0)
h( n − k −1 )( n −1 ) M H= h1( n −1 ) h0( n −1 ) L h( n − k −1 )1 O M L L h11 h01 h( n − k −1 )0 M h10 h00
λ (x )=3/7 x2+ 4/7 x3
用矢量表示是
λ =（ λ3 λ4 ） = （ 3/7 , 4/7 ） （
同理，可令描述校验节点边分布的多项式为ρ(x )， 同理， ， 系数矢量为ρ。 因此，度数分布对(λ, ρ)完全确定了节点的度数分布。 因此，度数分布对 完全确定了节点的度数分布。 完全确定了节点的度数分布
2
LDPC 码性能
信道， •逼近Shannon限，例如在二元输入的 逼近 限 例如在二元输入的AWGN信道，码率 信道 1/2的非正则(Irregular) LDPC码可具有离香农限不到 码可具有离香农限 的非正则( 码可具有离香农限不到 0.06dB的性能;计算机仿真结果表明，最好的非正则 的性能; 的性能 计算机仿真结果表明，最好的非正则LDPC 长度为10 可获得在 时仅偏离容量0． 码(长度为 6)可获得在 BER=10-6时仅偏离容量 ．13 dB 长度为 的性能，优于迄今所知道的最佳turbo码 的性能，优于迄今所知道的最佳 码 (Richardson,2001) •当码长为 7、R=1/2时，性能距香农限只差 当码长为10 当码长为 时 性能距香农限只差0.0045dB的 的 次数分布对已经找到. (Chung,2001) 次数分布对已经找到 •纠码字差错 纠码字差错block error的性能好 纠码字差错 的性能好 •差错平台 差错平台error floor低(误码率随信噪比的增加而下降减 差错平台 低 误码率随信噪比的增加而下降减 速甚至不再下降，称为error floor现象） 现象） 速甚至不再下降，称为 现象 • 最小距离正比于码长 译码复杂度与码长是线性关系 •译码复杂度与码长是线性关系 •适合并行译码运算 适合并行译码运算 3
•描述 描述LDPC码基本工具之一是二分图 描述 码基本工具之一是二分图 (Bipartite graph)， 二分图是一种无向图， ， 二分图是一种无向图， 基本元素是节点(node)和边 和边(edge)。节点分 基本元素是节点 和边 。 成两类(class),一条边所连接的两个节点必须 成两类 一条边所连接的两个节点必须 分属不同的两类。 分属不同的两类。 图是二分图的具体化。 • Tanner图是二分图的具体化。Tanner图里 图是二分图的具体化 图里 有两类节点:消息比特 消息比特(message bit)节点和 有两类节点 消息比特 节点和 校验(check)节点，节点间连线表示关联。 节点， 校验 节点 节点间连线表示关联。
11
由于信息节点的总边数等于校验节点总边数， 由于信息节点的总边数等于校验节点总边数，若总边数及 其分布确定，则检验节点数(n-k)不可能是任意的，码率也 不可能是任意的， 其分布确定，则检验节点数 不可能是任意的 不是任意的。 不是任意的。 设所有校验约束是线性独立的， 设所有校验约束是线性独立的， 则 LDPC码可取码率范围 码可取码率范围 的最小值（最小码率）称为预期码率。 的最小值（最小码率）称为预期码率。最小码率与度数分 布对( 存在一定关系， 布对 λ, ρ)存在一定关系，可计算得出，方法如下。 存在一定关系 可计算得出，方法如下。 令
线性分组码基础
•可用一个生成矩阵 或校验矩阵 来描述 可用一个生成矩阵G或校验矩阵 来描述The structure 可用一个生成矩阵 或校验矩阵H来描述 纠错能力由最小距离d 决定。 •纠错能力由最小距离 min 决定。 最小距离d 等于生成矩阵 生成矩阵G中最轻行的重量 •最小距离 min 等于生成矩阵 中最轻行的重量 最小距离d 也等于校验矩阵 的秩加1 校验矩阵H的秩加 •最小距离 min也等于校验矩阵 的秩加 比如 (7, 4)汉明码 汉明码 1000111 1110100 0100110 1101010 G= 0010101 H= 1011001 0001011 非稀疏矩阵 •码字和校验矩阵的关系：CHT=0 或HCT=0 码字和校验矩阵的关系：
5
LDPC 码结构特点 码结构特点(1)
•非正则（不规则）LDPC码： 非正则（不规则） 码 行和列中“ 的个数不是常数 的个数不是常数。 行和列中“1”的个数不是常数。 非正则码的性能可以优于正则码。 •非正则码的性能可以优于正则码。
解释理由：因为在非正则码中， 解释理由：因为在非正则码中，相连边数多的信息节点迅 速得到它们的正确译码， 速得到它们的正确译码，这样它们可以给相邻的校验节点更 加有效的概率信息， 加有效的概率信息，而这些校验节点又可以给与它们相邻的 次数少的信息节点更多的信息，从而产生波浪效应， 次数少的信息节点更多的信息，从而产生波浪效应，次数高 的信息节点首先得到它们的正确译码， 的信息节点首先得到它们的正确译码，接着是次数稍低的信 息节点，然后是次数更低的节点，如此继续下去， 息节点，然后是次数更低的节点，如此继续下去，直到译出 所有的信息节点。由于这种波浪效应， 所有的信息节点。由于这种波浪效应，使非正则码可以获得 较正则码更好的性能。 较正则码更好的性能。 m (m-1) •LDPC码码长 的上限： n ≤ wc(wc-1) 码码长n的上限 码码长 的上限：
= 信息节点分布 λ（x） ∑ λi x
i =1 dc
drБайду номын сангаас
i −1
dr是信息节点最大度数
校验节点分布 ρ（x） ∑ ρ i x i −1 dc是校验节点最大度数 =
i =1
上述两多项式具有非负实系数且系数之和归一， 上述两多项式具有非负实系数且系数之和归一，即满足 表示与 λ(x)|x=1=1 和 ρ(x)|x=1=1。从概念上说，多项式项 λixi-1 表示与 。从概念上说 度数为i的信息节点相连的边 度数为 的信息节点相连的边 在所有边的总数中所占的比例 10 是 λ i。
8
• Tanner图 图 Tanner图里有两类节点 消息比特 图里有两类节点:消息比特 图里有两类节点 消息比特(message bit)节点和校 节点和校 节点。 乘积码， 验(check)节点。 例如一个 节点 例如一个(8,4)乘积码， 乘积码 11100000 CHT:(1×8)(8×4)=1×4， H = 0 0 0 1 1 1 0 0 × × × ， 10010010 01001001
1
低密度校验） LDPC （低密度校验）码
（Low Density Parity Check） ）
基本思路： 基本思路： 校验矩阵是稀疏矩阵，极长码。只对“ 迭代 迭代Turbo 校验矩阵是稀疏矩阵，极长码。只对“1”迭代 译码 LDPC码历史 LDPC码历史
•Robert Gallager 1960 年在 • 年在MIT Ph. D. 论文中提出，但由于 论文中提出， 1. 计算量大 2. RS码的引入 码的引入 3. RS＋卷积码被认为是最佳搭配 ＋ 因此该码被忽视了几十年 • MacKay (1999) 和Richardson/Urbanke(1998) 重新发现了 该码的优点和利用方式. 该码的优点和利用方式
λi
i
校验节点(行 校验节点 行） f0 f1 f2 f3 fj ci 比特节点(列 比特节点 列) c0 c1 c2 c3 c4 c5 c6 c7
Tanner 图
Tanner图反映了伴随矩阵的运算关系： 图反映了伴随矩阵的运算关系： RHT=CHT+EHT=0+ EHT=S
9
二分图中，节点连线的条数称作该节点的“度数” 二分图中，节点连线的条数称作该节点的“度数” 。 规则LDPC码的所有信息节点具有相同度数， 所有校验节点 码的所有信息节点具有相同度数， 规则 码的所有信息节点具有相同度数 也具有相同度数， 也具有相同度数，且满足条件 信息节点数×信息节点度数＝校验节点数× 信息节点数×信息节点度数＝校验节点数×校验节点度数 不规则LDPC码各节点度数并不相同， 仔细选择节点度数的 码各节点度数并不相同， 不规则 码各节点度数并不相同 分布能极大改善码的性能。通常， 分布能极大改善码的性能。通常，可用下列两个多项式分别 描述信息节点和校验节点的度数分布
∫λ =
λ ( x )dx = ∫（ λ1 + λ 2 x + λ 3 x 2 + L ） dx ∫
0 0
1
1
= （
λ1 x
1
+
λ2 x 2
2
+
λ3 x 3
3
+ L） = |
1 0
∑
i ≥1
λi
i
(2)
表示信息节点数n与总边数 之比。 与总边数Σ ∫ λ 表示信息节点数 与总边数Σ之比。这是因为
∑
i ≥1
码长n的 码的H矩阵有 例 ： 码长 的 LDPC码的 矩阵有 列 ， 对应二分图有 个 码的 矩阵有n列 对应二分图有n个 信息节点。设其中一半节点的度数为3， 信息节点 。设其中一半节点的度数为 ，另一半节点的度 数为4，则二分图上“ 的总数是(n÷ × 数为 ，则二分图上“边”的总数是 ÷2)×3+ (n÷2)×4, ÷ × 4n 3n 4n 4 3n 3n 4n 3 + = , λ4 = 系数λ3 = + = 2 2 2 7 2 2 2 7 描述信息节点分布的多项式为
4
分组码校验矩阵 是稀疏矩阵， •说(n,k)分组码校验矩阵 (n-k行n列)是稀疏矩阵，指其 分组码校验矩阵H 行 列 是稀疏矩阵 每行每列只有极少个“ 而最小距离d 较大。 每行每列只有极少个“1”而最小距离 min又较大。 正则（规则） LDPC码 •正则（规则）的LDPC码: Wr Wc 矩阵每列(column)有同样 c个“1”， n 有同样w 指H矩阵每列 矩阵每列 有同样 ， m 每行(row) 有同样w = 每行 有同样 r个“1”，且 ， 这里m=n-k，wc << m， wr << n。 这里 ， ， 。 对于一个好码，应有w 对于一个好码，应有 c ≥ 3 。 •校验矩阵 共有矩阵元素 校验矩阵H共有矩阵元素 校验矩阵 共有矩阵元素(n-k)×n个，正比于 2。 × 个 正比于n 保持每列“ 的个数 不变， 矩阵H中非零元 的个数w 中非零元“ 若保持每列“1”的个数 c不变，则矩阵 中非零元“1” 的个数为w 的个数随码长n线性增长 的个数为 c · n，即 “1”的个数随码长 线性增长。 ， 的个数随码长 线性增长。 矩阵元素的个数随n平方增长 而其中非零元“ 的个 平方增长， 矩阵元素的个数随 平方增长，而其中非零元“1”的个 数呈线性增长，则当码长n→∞ →∞时 数呈线性增长，则当码长 →∞时，“1”的个数必将远远 的个数必将远远 小于0的个数 校验矩阵将成为稀疏矩阵。 的个数， 小于 的个数，校验矩阵将成为稀疏矩阵。
T
则
sn-k-1 = rn-1h(n-k-1)(n-1) +…+ r1 h(n-k-1)1 + r0 h(n-k-1)0 M s1 = rn-1h1(n-1) +… + r1 h11 + r0 h10 s0 = rn-1h0(n-1) +… + r1 h01 + r0 h00
是稀疏矩阵， 若H是稀疏矩阵，方程组每行仅留下少数非零项相加。 是稀疏矩阵 方程组每行仅留下少数非零项相加。 是规则的， 若H是规则的，即每行包含同样数量个“1”，那么上述 是规则的 即每行包含同样数量个“ ， 每个方程是同样多个项的相加。 每个方程是同样多个项的相加。 如用若干条线的相汇代表加，就得出Tanner图，该图 如用若干条线的相汇代表加，就得出 图 含(n-k)个校验节点 0～ sn-k-1 ，n个消息比特节点 0～ rn-1 ， 7 个校验节点s 个消息比特节点r 个校验节点 个消息比特节点
6
若R=(rn-1, rn-2,… r0), S=(sn-k-1 , … , s1, s0)
h( n − k −1 )( n −1 ) M H= h1( n −1 ) h0( n −1 ) L h( n − k −1 )1 O M L L h11 h01 h( n − k −1 )0 M h10 h00
λ (x )=3/7 x2+ 4/7 x3
用矢量表示是
λ =（ λ3 λ4 ） = （ 3/7 , 4/7 ） （
同理，可令描述校验节点边分布的多项式为ρ(x )， 同理， ， 系数矢量为ρ。 因此，度数分布对(λ, ρ)完全确定了节点的度数分布。 因此，度数分布对 完全确定了节点的度数分布。 完全确定了节点的度数分布
2
LDPC 码性能
信道， •逼近Shannon限，例如在二元输入的 逼近 限 例如在二元输入的AWGN信道，码率 信道 1/2的非正则(Irregular) LDPC码可具有离香农限不到 码可具有离香农限 的非正则( 码可具有离香农限不到 0.06dB的性能;计算机仿真结果表明，最好的非正则 的性能; 的性能 计算机仿真结果表明，最好的非正则LDPC 长度为10 可获得在 时仅偏离容量0． 码(长度为 6)可获得在 BER=10-6时仅偏离容量 ．13 dB 长度为 的性能，优于迄今所知道的最佳turbo码 的性能，优于迄今所知道的最佳 码 (Richardson,2001) •当码长为 7、R=1/2时，性能距香农限只差 当码长为10 当码长为 时 性能距香农限只差0.0045dB的 的 次数分布对已经找到. (Chung,2001) 次数分布对已经找到 •纠码字差错 纠码字差错block error的性能好 纠码字差错 的性能好 •差错平台 差错平台error floor低(误码率随信噪比的增加而下降减 差错平台 低 误码率随信噪比的增加而下降减 速甚至不再下降，称为error floor现象） 现象） 速甚至不再下降，称为 现象 • 最小距离正比于码长 译码复杂度与码长是线性关系 •译码复杂度与码长是线性关系 •适合并行译码运算 适合并行译码运算 3
•描述 描述LDPC码基本工具之一是二分图 描述 码基本工具之一是二分图 (Bipartite graph)， 二分图是一种无向图， ， 二分图是一种无向图， 基本元素是节点(node)和边 和边(edge)。节点分 基本元素是节点 和边 。 成两类(class),一条边所连接的两个节点必须 成两类 一条边所连接的两个节点必须 分属不同的两类。 分属不同的两类。 图是二分图的具体化。 • Tanner图是二分图的具体化。Tanner图里 图是二分图的具体化 图里 有两类节点:消息比特 消息比特(message bit)节点和 有两类节点 消息比特 节点和 校验(check)节点，节点间连线表示关联。 节点， 校验 节点 节点间连线表示关联。
11
由于信息节点的总边数等于校验节点总边数， 由于信息节点的总边数等于校验节点总边数，若总边数及 其分布确定，则检验节点数(n-k)不可能是任意的，码率也 不可能是任意的， 其分布确定，则检验节点数 不可能是任意的 不是任意的。 不是任意的。 设所有校验约束是线性独立的， 设所有校验约束是线性独立的， 则 LDPC码可取码率范围 码可取码率范围 的最小值（最小码率）称为预期码率。 的最小值（最小码率）称为预期码率。最小码率与度数分 布对( 存在一定关系， 布对 λ, ρ)存在一定关系，可计算得出，方法如下。 存在一定关系 可计算得出，方法如下。 令
线性分组码基础
•可用一个生成矩阵 或校验矩阵 来描述 可用一个生成矩阵G或校验矩阵 来描述The structure 可用一个生成矩阵 或校验矩阵H来描述 纠错能力由最小距离d 决定。 •纠错能力由最小距离 min 决定。 最小距离d 等于生成矩阵 生成矩阵G中最轻行的重量 •最小距离 min 等于生成矩阵 中最轻行的重量 最小距离d 也等于校验矩阵 的秩加1 校验矩阵H的秩加 •最小距离 min也等于校验矩阵 的秩加 比如 (7, 4)汉明码 汉明码 1000111 1110100 0100110 1101010 G= 0010101 H= 1011001 0001011 非稀疏矩阵 •码字和校验矩阵的关系：CHT=0 或HCT=0 码字和校验矩阵的关系：
5
LDPC 码结构特点 码结构特点(1)
•非正则（不规则）LDPC码： 非正则（不规则） 码 行和列中“ 的个数不是常数 的个数不是常数。 行和列中“1”的个数不是常数。 非正则码的性能可以优于正则码。 •非正则码的性能可以优于正则码。
解释理由：因为在非正则码中， 解释理由：因为在非正则码中，相连边数多的信息节点迅 速得到它们的正确译码， 速得到它们的正确译码，这样它们可以给相邻的校验节点更 加有效的概率信息， 加有效的概率信息，而这些校验节点又可以给与它们相邻的 次数少的信息节点更多的信息，从而产生波浪效应， 次数少的信息节点更多的信息，从而产生波浪效应，次数高 的信息节点首先得到它们的正确译码， 的信息节点首先得到它们的正确译码，接着是次数稍低的信 息节点，然后是次数更低的节点，如此继续下去， 息节点，然后是次数更低的节点，如此继续下去，直到译出 所有的信息节点。由于这种波浪效应， 所有的信息节点。由于这种波浪效应，使非正则码可以获得 较正则码更好的性能。 较正则码更好的性能。 m (m-1) •LDPC码码长 的上限： n ≤ wc(wc-1) 码码长n的上限 码码长 的上限：
= 信息节点分布 λ（x） ∑ λi x
i =1 dc
drБайду номын сангаас
i −1
dr是信息节点最大度数
校验节点分布 ρ（x） ∑ ρ i x i −1 dc是校验节点最大度数 =
i =1
上述两多项式具有非负实系数且系数之和归一， 上述两多项式具有非负实系数且系数之和归一，即满足 表示与 λ(x)|x=1=1 和 ρ(x)|x=1=1。从概念上说，多项式项 λixi-1 表示与 。从概念上说 度数为i的信息节点相连的边 度数为 的信息节点相连的边 在所有边的总数中所占的比例 10 是 λ i。
8
• Tanner图 图 Tanner图里有两类节点 消息比特 图里有两类节点:消息比特 图里有两类节点 消息比特(message bit)节点和校 节点和校 节点。 乘积码， 验(check)节点。 例如一个 节点 例如一个(8,4)乘积码， 乘积码 11100000 CHT:(1×8)(8×4)=1×4， H = 0 0 0 1 1 1 0 0 × × × ， 10010010 01001001