信息论与编码技术 实验指导书
信息论与编码技术》实验教案
信息论与编码技术实验教案第一章：信息论基础1.1 信息的概念与度量介绍信息的基本概念，信息源的随机性，信息的不确定性。
讲解信息的度量方法，如香农熵、相对熵等。
1.2 信道模型与容量介绍信道的概念，信道的传输特性，信道的噪声模型。
讲解信道的容量及其计算方法，如单符号信道、多符号信道等。
第二章：信源编码与压缩2.1 信源编码的基本概念介绍信源编码的定义、目的和方法。
讲解信源编码的基本原理，如冗余度、平均冗余度等。
2.2 压缩算法与性能评价介绍无损压缩算法，如霍夫曼编码、算术编码等。
讲解有损压缩算法，如JPEG、MP3等。
分析各种压缩算法的性能评价指标，如压缩比、重建误差等。
第三章：信道编码与错误控制3.1 信道编码的基本概念介绍信道编码的定义、目的和方法。
讲解信道编码的基本原理，如纠错码、检错码等。
3.2 常见信道编码技术介绍常用的信道编码技术，如卷积码、汉明码、奇偶校验等。
分析各种信道编码技术的性能，如误码率、编码效率等。
第四章：数字基带传输4.1 数字基带信号与基带传输介绍数字基带信号的概念，数字基带信号的传输特性。
讲解数字基带信号的传输方法，如无编码调制、编码调制等。
4.2 基带传输系统的性能分析分析基带传输系统的性能指标，如误码率、传输速率等。
讲解基带传输系统的优化方法，如滤波器设计、信号调制等。
第五章：信号检测与接收5.1 信号检测的基本概念介绍信号检测的定义、目的和方法。
讲解信号检测的基本原理，如最大后验概率准则、贝叶斯准则等。
5.2 信号接收与性能分析分析信号接收的方法，如同步接收、异步接收等。
讲解信号接收性能的评价指标，如信噪比、误码率等。
第六章：卷积编码与Viterbi算法6.1 卷积编码的基本原理介绍卷积编码的定义、结构及其多项式。
讲解卷积编码的编码过程，包括初始状态、状态转移和输出计算。
6.2 Viterbi算法及其应用介绍Viterbi算法的原理，算法的基本步骤和性能。
讲解Viterbi算法在卷积编码解码中的应用，包括路径度量和状态估计。
信息论与编码实验指导书
信息理论与编码实验教学指导书(试用教材)电子信息工程系2019年4月实验1.1 汉明码的编译码实验板实验一、实验目的1． 学习汉明码编译码的基本概念； 2． 掌握汉明码的编译码方法； 3． 验证汉明码的纠错能力。
二、实验仪器1． RZ9681实验平台 2． 实验模块： ● 主控模块● 信道编码与频带调制模块-A4 ● 频带解调与信道译码模块-A5 3． 100M 双通道示波器 4． 信号连接线 5． PC 机（二次开发）三、实验原理3.1汉明编译码介绍汉明码（Hamming Code ）是一个可以有多个校验位，具有检测并纠正一位错误代码的纠错码，所以它也仅用于信道特性比较好的环境中，如以太局域网中，因为如果信道特性不好的情况下，出现的错误通常不是一位。
汉明码的检错、纠错基本思想是将有效信息按某种规律分成若干组，每组安排一个校验位进行奇偶性测试，然后产生多位检测信息，并从中得出具体的出错位置，最后通过对错误位取反（也是原来是1就变成0，原来是0就变成1）来将其纠正。
3.2汉明编译码原理汉明码编码采用()4,7汉明码，信息位数4=k ，监督位数3=-=k n r ，可以纠一位错码，生成矩阵⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡=1101000101010001100101110001G ，编码情况见表 1。
表 1()4,7 Hamming 编码表汉明码译码计算校正子[]321,,S S S S =,其中24561a a a a S ⊕⊕⊕= 13562a a a a S ⊕⊕⊕= 03463a a a a S ⊕⊕⊕=校正子S 的值决定了接收码元中是否有错码，并且指出错码的位置，见表2。
表2 错码位置示意3.3 举例说明信息位10013456=a a a a ，根据表 1()4,7 Hamming 编码表，编码为1001100，如果在信道传输的过程中产生一位误码，编码接收时变为1101100，我们计算校正子：124561=⊕⊕⊕=a a a a S 113562=⊕⊕⊕=a a a a S 003463=⊕⊕⊕=a a a a S校正子110=S ，查找表2 错码位置示意，5a 产生误码，则译码输出信息位1001。
信息论与编码实验指导书
《信息论与编码》实验指导书前言当前，信息论与编码已经成为电子信息类专业高年级学生必修的专业基础课。
尽管各个院校开设课程名称有所不同，但都是以香农信息论为核心内容的。
这是一门理论性和系统性很强的课程。
涉及多个学科，需要广泛数学知识。
为了能透彻掌握信息论基本概念和分析方法，做实验进行实践练习是不可缺少的环节。
通过综合性、验证性实验，可以加深对理论和概念的理解，增强分析和解决实际问题的能力。
为此，河北工业大学信息学院编写了《信息论与编码实验指导书》，由于可供参考的实验指导书有限，本书的不妥和错误之处，恳请读者予以批评指正。
马杰2008年2月目录实验一信息熵与图像熵计算--------------------------------------- 1实验二 Huffman 编码实验------------------------------------------ 6实验三算术编码实验------------------------------------------------ 11 实验四 CRC校验编码实验------------------------------------------17实验一信息熵与图像熵计算（2学时）一、实验目的1．复习MATLAB的基本命令，熟悉MATLAB下的基本函数。
2．复习信息熵基本定义, 能够自学图像熵定义和基本概念。
二、实验内容1．能够写出MATLAB源代码，求信源的信息熵。
2．根据图像熵基本知识，综合设计出MATLAB程序，求出给定图像的图像熵。
三、实验仪器、设备1．计算机－系统最低配置 256M内存、P4 CPU。
2．Matlab仿真软件－ 7.0 / 7.1 / 2006a 等版本Matlab软件。
四、实验原理1． MATLAB中数据类型、矩阵运算、图像文件输入与输出知识复习。
2．利用信息论中信息熵概念，求出任意一个离散信源的熵（平均自信息量）。
自信息是一个随机变量,它是指某一信源发出某一消息所含有的信息量。
信息论与编码技术》实验教案
信息论与编码技术实验教案第一章：信息论基础1.1 实验目的1. 了解信息的基本概念及其度量方法；2. 掌握信息的熵、冗余度和信道容量等基本概念。
1.2 实验原理1. 信息的基本概念：信息、消息、信源等；2. 信息的度量：平均信息量、熵、冗余度等；3. 信道容量和编码定理。
1.3 实验设备与材料1. 计算机及投影仪；2. 相关实验软件。
1.4 实验步骤1. 讲解信息的基本概念及其度量方法；2. 分析实际例子，演示信息的熵、冗余度和信道容量的计算过程；3. 让学生通过实验软件进行相关计算和分析。
1.5 思考与讨论1. 信息量与消息长度的关系；2. 信道容量在实际通信系统中的应用。
第二章：数字基带编码2.1 实验目的1. 掌握数字基带编码的基本原理；2. 学会使用相关软件进行数字基带编码的仿真。
2.2 实验原理1. 数字基带编码的定义和分类；2. 常用数字基带编码方法：NRZ、RZ、曼彻斯特编码等；3. 数字基带编码的性能评估：误码率、带宽利用率等。
2.3 实验设备与材料1. 计算机及投影仪；2. 相关实验软件。
2.4 实验步骤1. 讲解数字基带编码的基本原理和方法；2. 演示常用数字基带编码的仿真效果；3. 让学生通过实验软件进行数字基带编码的仿真实验。
2.5 思考与讨论1. 数字基带编码的优缺点；2. 如何在实际通信系统中选择合适的基带编码方法。
第三章：信道编码与误码控制3.1 实验目的1. 了解信道编码的基本原理；2. 掌握常见的信道编码方法；3. 学会使用相关软件进行信道编码的仿真。
3.2 实验原理1. 信道编码的定义和作用；2. 常用信道编码方法：卷积编码、汉明编码、里德-所罗门编码等；3. 误码控制原理：检错、纠错等。
3.3 实验设备与材料1. 计算机及投影仪；2. 相关实验软件。
3.4 实验步骤1. 讲解信道编码的基本原理和方法；2. 演示常用信道编码的仿真效果；3. 让学生通过实验软件进行信道编码的仿真实验。
信息与编码理论实验指导书
实验一 信道容量的迭代算法一、 实验目的1、掌握信道容量的概念。
2、了解迭代法计算信道容量的流程。
3、熟悉Matlab 程序的设计和调试方法。
二、 实验要求1、学习Matlab 软件编程和调试方法；2、输入：任意一个信道转移概率矩阵。
包括信源符号个数、信宿符号个数、信道转移概率，在程序运行时从键盘输入；3、输出：输入的信道矩阵、信道容量C 。
三、 算法描述1. 初始化信源分布),,,,,(21)0(r i p p p p p ⋅⋅⋅⋅⋅⋅= （一般初始化为均匀分布），置迭代计数器0=k ,设信道容量相对误差门限为,0,>δδ可设-∞=)0(C ； 2. r i p pp p i k i ij k i ij k ji ,,2,1)()()(⋅⋅⋅==∑ϕ；s j ,,1⋅⋅⋅= 3. r i p p p i j k ji ij j k ji ij k i ,,1ln exp ln exp )()()1(⋅⋅⋅=⎪⎭⎪⎬⎫⎪⎩⎪⎨⎧⎥⎦⎤⎢⎣⎡⎥⎦⎤⎢⎣⎡=∑∑∑+ϕϕ 4. ⎪⎭⎪⎬⎫⎪⎩⎪⎨⎧⎥⎦⎤⎢⎣⎡=∑∑+i j k ji ij k p C )()1(ln exp ln ϕ 5. 如果,)1()()1(δ≤-++k k k C C C 转向76. 置迭代序号k k →+1，转向27. 输出)1(+k i p 和)1(+k C 的结果8. 停止四、 实验报告内容1、画出信道容量迭代算法流程图；2、给出实验结果的截图（输入信道矩阵和信道容量计算结果）；3、对各种情况的实验结果进行分析和检验。
附：实验用Matlab 源程序。
（如果使用了非给定源程序）实验报告提交：电子文档（邮箱：yangxiaoping2004@ ）实验过程：结果出来时，请实验老师检查并做记录（1个结果即可）。
实验二 唯一可译码判决准则一、 实验目的1、了解唯一可译码的概念。
2、掌握唯一可译码判决准则。
3、掌握Matlab 程序调试方法。
信息论实验指导书
信息理论与编码实验指导书电子与电气工程学院罗晓琴编实验要求1、实验前认真阅读实验指导书的内容，并完成预习任务。
2、复习Matlab的相关知识，完成仿真。
3、要熟悉本次实验的任务。
4、实验过程中要认真记录实验结果，仿真结果需经指导教师审阅。
5、实验后每位同学要独立完成实验报告的内容。
目录实验一离散信源的自信息量和熵 (3)实验二最大离散熵定理 (6)实验三费诺编码 (9)实验四霍夫曼编码 (13)实验五香农编码 (16)实验一：计算离散信源的自信息量和熵一、实验目的1、熟悉离散信源的特点。
2、学习Matlab仿真离散信源的方法。
3、学习离散信源自信息量和信源熵的计算方法。
4、熟悉 Matlab 编程。
二、实验设备1、计算机2、软件：Matlab三、实验原理本实验主要完成信源概率分布的自信息量以及信源熵的计算。
计算公式如下：一个字符它所携带的信息量是和该字符出现的概率有关，概率可以表征自信息量的大小自信息的计算公式为：21()l o g aI a p 自信息量有两个含义：第一、当事件发生前，表示该事件发生的不确定性；第二、当事件发生后，标是该事件所提供的信息量．自信息量的单位取决于对数所取的底，若以2为底，单位为比特，以e 为底，单位为奈特，以10为底，单位为哈特。
在通信系统中，通常取比特为单位，底数2略去不写。
由于自信息I(a)是一个随机变量，不能用来表征整个信源的不确定度。
所以我们用平均自信息量来表征整个信源的不确定度。
平均自信息量就是信源输出所有消息的自信息的数学期望，又称为信息熵、信源熵，简称熵。
熵（平均自信息）的计算公式为：22111()log log qq i i i i i i H x p p p p ====-∑∑ 信息熵H （x ）是对信源的平均不确定性的描述。
它从平均意义上来表征信源的总体信息测度。
对于某特定的信源，其信息熵是一个确定的数值。
信息熵具有如下三种物理意义。
第一，信息熵H （x ）是表示信源输出后，每个消息或符号所提供的平均信息量。
《信息论与编码技术》实验教案
卷积码编码与译码方法探讨
卷积码原理
理解卷积码的基本原理和编码过程，包括卷积码 的生成函数和约束长度等概念。
编码实现
通过编程实现卷积码的编码过程，掌握卷积码编 码算法的实现方法。
译码方法
探讨卷积码的译码方法，包括维特比译码算法等 ，并通过仿真实验进行验证。
差错控制编码技术应用实践
应用场景
了解差错控制编码技术在通信、存储等领域的 应用场景和需求。
差错控制编码方法
介绍常用的差错控制编码方法，如奇偶校验码、循 环冗余校验码（CRC）等，并分析其性能特点。
阐述差错控制的基本概念、原理及其在数字 通信系统中的重要性。
差错控制策略设计与实现
通过实验，设计并实现一种基于特定编码方 法的差错控制策略，评估其在数字通信系统 中的性能。
图像压缩编码算法研究及实现
实验内容
设计并实现一个离散信道信息传输系统，通过输入不同的信源符号序列和信道 参数，观察并分析系统性能。
离散信道中的信息传输实验
实验步骤
1
2
1. 确定信源符号集及其概率分布；
3
2. 设计合适的信道编码方案；
离散信道中的信息传输实验
01
3. 在离散信道中实现编码后的信号传输；
02
4. 在接收端进行解码并计算误码率；
详细阐述Turbo码的编码算法、译码算法的具体实现步骤，包括交 织器设计、分量编码器选择、迭代译码算法等。
性能评估方法
介绍Turbo码性能评估的主要指标，如误码率、误帧率等，以及相 应的仿真实验方法和结果分析。
LDPC码编译码算法研究
LDPC码基本原理
介绍LDPC码的定义、分类、编码原理、译码原理等基本概念。
信息论实验指导书
信息论与编码实验指导书任课教师：刘亚荣桂林理工大学电计系Matlab基础：1、变量不需指定类型，拿来就用；变量区分大小写2、向量定义： x=[1/2, 1/4, 1/4](行向量); y=(0:360)*pi/180; 向量的转置x’（列向量）3、 .* ./ .^运算，逐个元素进行运算。
例x1=[1/2, 1/4, 1/4], x2=[2, 4,4]，则x1*x2没定义；x1*x2’有定义（=3）；x1.*x2有定义（逐元素相乘=[1,1,1]）4、变量值显示：如果一行的后面没有分号，则显示出该行的变量结果。
如a=3 显示出a=3。
5、画图命令plot(x,y); x（向量）是一系列坐标， y（向量）是一系列值。
6、求和：sum(), 求积分：求微分：符号微分diff(f)——求f对自由变量的一阶微分diff(f,v)——求f对符号变量v的一阶微分diff(f,v,n)——求f对符号变量v求n阶微分符号积分int(f,v) ——求表达式f的对符号变量v的不定积分int(f,v,a,b) ——求表达式f的对符号变量v的在(a,b)范围内定积分7 M函数文件的基本结构函数文件由function语句引导，其基本结构为：function 输出形参表=函数名(输入形参表)注释说明部分函数体语句说明：(1)关于函数文件名: 函数文件名与函数名也可以不相同。
当两者不同时，MATLAB将忽略函数名而确认函数文件名，因此调用时使用函数文件名。
(2)关于注释说明部分。
注释说明包括三部分内容：①紧随函数文件引导行之后以%开头的第一注释行。
②第一注释行及之后连续的注释行。
③与在线帮助文本相隔一空行的注释行。
(3)关于return语句。
执行到该语句就结束函数的执行，程序流程转至调用该函数的位置。
通常，在函数文件中也可不使用return语句，这时在被调函数执行完成后自动返回。
8显示图形1、%plot函数绘制结果t= 0:pi/100:2*pi; %定义数据点y = sin(t);plot(t,y) %显示图形grid on %显示网格xlabel('t'); %显示x轴的变量ylabel('sin(t)'); %显示y轴的变量2、%plot 函数中x-y 副的使用t = 0:pi/100:2*pi;y = sin(t);plot(t,y)grid ony2 = sin(t-0.25);y3 = sin(t-0.5);plot(t,y,t,y2,t,y3)实验一：计算离散信源的熵一、实验设备:1、计算机2、软件：Matlab二、实验目的:1、熟悉离散信源的特点；2、学习仿真离散信源的方法3、学习离散信源平均信息量的计算方法4、熟悉 Matlab 编程；三、实验内容:1、写出计算自信息量的Matlab 程序2、写出计算离散信源平均信息量的Matlab 程序。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
信息理论与编码实验指导书
实验一离散信源信息熵
一、实验目的
1、理解自信息量和信息熵的基本含义；
2、熟练掌握自信息量和信息熵的计算；
3、熟悉MATLAB 开发环境的使用；
二、实验仪器
计算机、Matlab 仿真软件
三、实验原理
自信息是一个随机变量,它是指某一信源发出某一消息所含有的信息量。
所发出的消息不同，它们所含有的信息量也就不同。
任何一个消息的自信息量都代表不了信源所包含的平均自信息量，不能作为整个信源的信息测度，因此，定义自信息量的数学期望为信源的平均自信息量：
称为信息熵。
信息熵的意义：信源的信息熵H是从整个信源的统计特性来考虑的。
它是从平均意义上来表征信源的总体信息测度的。
对于某特定的信源，其信息熵是一个确定的数值。
不同的信源因统计特性不同，其熵也不同。
四、实验内容
1、根据书本习题2.5和习题2.7，建立离散信源的概率空间；
2、按照题目要求，用matlab实现离散信源自信息量和信息熵的计算；
3、将程序在计算机上仿真，验证其计算结果与实际运算结果相符否。
五、实验要求
1、提前预习实验，认真阅读实验原理以及相应的参考书。
2．简要说明信源熵的含义及信源熵的计算
3、写出信源熵的计算过程，并画出信源熵计算的程序流程图
4、给出信源熵计算的matlab源程序
5、分析软件仿真或计算结果
实验二 离散信道容量
一、实验目的
1、理解信道转移概率矩阵及其特点；
2、理解信道容量的定义和最佳输入概率分布；
3、掌握信道容量和平均互信息的计算步骤；
4、用 MATLAB 进行简单地编程
二、实验仪器
计算机、Matlab 仿真软件
三、实验原理
1、平均互信息
平均互信息代表接收到输出符号后平均每个符号获得的关于输入符号的信息量。
定义为
I(X;Y)=H(X)-H(X|Y)
其中，H （X ）代表接收到输出符号以前关于输入变量X 的平均不确定性，H(X|Y)代表接收到输出符号后关于输入变量X 的平均不确定性。
2、信道容量
对于一个固定的信道，总存在一种信源，使传输每个符号平均获得的信息量最大。
也就是每个固定信道都有一个最大的信息传输率。
我们把这个最大的信息传输率定义为信道容量，即
信息容量是完全描述信道特性的参量，是信道能够传输的最大信息量。
它与输入信源的概率分布无关，只与信道的统计特性有关。
离散信道中有一类特殊的信道，它具有很强的对称性。
信道矩阵P 中每一行都是由同一集合{p1’, p2’,…, ps ’}中的诸元素不同排列组成；每一列也都是由{q1’, q2’,…, qr ’} 中的诸元素不同排列组成。
对于这类信道，它的容量为
四、实验内容
1、建立教材106页习题3.9所要求的数学模型。
2、写出数学模型的Matlab 程序。
3、将程序在计算机上仿真实现。
4、验证程序的正确性。
五、实验要求
1、提前预习实验，认真阅读实验原理以及相应的参考书。
2．简要说明信道容量的含义和特点，并计算信道容量
3、写出信道容量的计算过程，并画出程序流程图
4、给出信道容量计算的matlab 源程序
)};({max )(Y X I C X P =（比特/符号） )/()',...,','(log 21symbol bit p p p H s C s
-=
5、分析软件仿真或计算结果
实验三霍夫曼编码
一、实验目的：
1、理解Huffman编码的基本原理及其特点；
2、熟练掌握Huffman编码的方法步骤；
3、熟练地用Matlab编写二元Huffman编码的程序；
二、实验仪器
计算机、Matlab 仿真软件
三、实验原理
Huffman 编码原理：
①将信源符号按概率从大到小的顺序排列，令
p(x1)≥p(x2)≥…≥p(x n)
②给两个概率最小的信源符号p(x n-1)和p(x n)各分配一个码位“0”和“1”，将这两个信源符号合并成一个新符号，并用这两个最小的概率之和作为新符号的概率，
结果得到一个只包含(n－1)个信源符号的新信源。
称为信源的第一次缩减信源，
用S1表示。
③将缩减信源S1的符号仍按概率从大到小顺序排列，重复步骤2，得到只含(n
－2)个符号的缩减信源S2。
④重复上述步骤，直至缩减信源只剩两个符号为止，此时所剩两个符号的概率之和必为1。
然后从最后一级缩减信源开始，依编码路径向前返回，就得到各
信源符号所对应的码字。
四、实验内容
1、根据Huffman编码的方法步骤，用Matlab编写二元Huffman编码的程序；
2、用习题8.11和例8.1验证程序的正确性。
五、实验要求
1、提前预习实验，认真阅读实验原理以及相应的参考书。
2．阐述霍夫曼编码的基本原理与特点
3、写出霍夫曼编码的基本步骤
4、对给定的任一个信源，通过matlab实现二元霍夫曼编码，画出程序流程图
5、讨论不同的Huffman编码的平均码长如何变化，码字长度偏离平均码长对编码性能的影响。
实验五汉明码
一、实验目的：
1、理解汉明码的基本原理及其特点；
2、熟练掌握汉明码编码的方法步骤；
3、熟练地用Matlab编写汉明码程序；
二、实验仪器
计算机、Matlab 仿真软件
三、实验原理
四、实验内容
五、实验要求
1、提前预习实验，认真阅读实验原理以及相应的参考书。
2．阐述汉明码的基本原理与特点
3、写出汉明码的基本步骤，画出实现汉明码的程序流程图
4、给出循环码的源程序，并给出实验过程中的测试结果
5、分析软件仿真或计算结果。