信息论与编码技术
信息论与编码技术
信息论与编码技术信息论是研究信息传输、存储和处理的一门学科，而编码技术则是信息论的一项重要应用。
信息论与编码技术的发展，对现代通信、数据存储和计算机科学等领域产生了深远的影响。
本文将从信息熵、信道容量和编码理论等方面来探讨信息论与编码技术的基本概念和应用。
一、信息熵信息熵是信息论中的一个重要概念，它用来衡量一个离散随机变量的不确定性。
在信息论中，信息熵越大，代表着信息的不确定性越高，信息量也就越大；相反，信息熵越小，表示信息的不确定性越低，信息量也就越小。
信息熵的计算公式为：H(X) = -∑(p(i) * log2(p(i)))其中，H(X)表示离散随机变量X的信息熵，p(i)表示X取各个值的概率。
通过计算信息熵，我们可以评估信息的平均编码长度。
在通信系统中，对于概率分布已知的消息源，我们可以使用无损编码技术将信息源的输出编码成二进制串，从而实现高效的信息传输和存储。
二、信道容量信道容量是衡量信道传输速率的理论上限。
在信息论中，我们可以通过计算信道容量来确定一种特定的编码和调制方案是否可以实现理论最大传输速率。
对于离散无记忆信道，其信道容量C计算公式为：C = ∑(p(x) * log2(p(x)/p(y)))其中，p(x)表示发送端发出的信号为x的概率，p(y)表示接收端接收到的信号为y的概率。
在计算信道容量时，我们需要寻找一种合适的编码方案，使得发送端发出的信号与接收端接收到的信号之间的互信息最大化。
这样可以有效提高信道的利用率，提高信号传输的可靠性。
三、编码理论编码理论是信息论的重要组成部分，它研究如何将信息源的输出进行编码，以减少数据传输或存储过程中的冗余，从而提高信息传输的效率。
常见的编码技术有可变长编码、定长编码、哈夫曼编码等。
其中，哈夫曼编码是一种基于概率的编码方法，它可以根据不同符号的出现概率，为每个符号分配不同长度的编码，从而实现信息的高效压缩。
除了无损编码技术，还有一种重要的编码技术是差分编码。
计算机科学中的信息论与编码
计算机科学中的信息论与编码信息论与编码是计算机科学中的重要理论，它们对于信息的传输、存储和处理起着至关重要的作用。
信息论主要研究信息的度量和传输的可靠性，而编码则是将信息以有效的方式表示和传递的技术手段。
本文将介绍信息论和编码在计算机科学中的应用，并探讨其对现代计算机技术的影响。
一、信息论的基本概念信息论是由香农在1948年提出的一门学科。
它通过熵和信息量的概念，量化了信息的度量和传输的质量。
熵是信息理论中的关键概念，用来表示一个随机变量的不确定性和信息量的平均值。
计算机系统中的信息可用二进制表示，因此信息的度量单位是比特（bit）。
二、信息论的应用1. 数据压缩信息论的一个重要应用是数据压缩。
利用信息论的原理，可以设计出高效的压缩算法，将大量的数据压缩成较小的文件。
常见的数据压缩算法有哈夫曼编码、LZ编码等。
这些算法通过统计字符或者字符组合出现的频率，将频率高的字符用较短的编码表示，从而实现数据的有损或无损压缩。
2. 信道编码信道编码是信息论的另一个重要应用领域。
在数据传输过程中，由于信道噪声等原因，数据容易出现误码。
为了提高传输的可靠性，可以使用信道编码技术。
常见的信道编码方案有纠错码和调制码，它们可以通过增加冗余信息或者改变信号的特性，提高传输系统的容错能力。
三、编码的基本原理编码是将信息转换成特定的符号或者编码字，以便能够有效地表示和传输。
在计算机科学中，常见的编码方式有ASCII码、Unicode和UTF-8等。
ASCII码是一种最早的字符编码方式，它将每个字符映射为一个7位的二进制数。
Unicode是一种全球通用的字符编码标准，它使用16位或32位的二进制数表示字符。
UTF-8则是Unicode的一种变体，它采用可变长度的编码方式，可以表示任意字符。
四、编码的应用1. 信息存储编码在信息存储中起着关键作用。
计算机系统中的文件和数据都需要以某种方式进行编码才能存储和读取。
不同的数据类型使用不同的编码方式，例如图片可以使用JPEG、PNG等图像编码格式，音频可以使用MP3、AAC等音频编码格式。
精品课课件信息论与编码(全套讲义)
跨学科交叉融合
信息论将与更多学科进行交叉融合，如物理学、 化学、社会学等，共同推动信息科学的发展。
编码技术的发展趋势
高效编码算法
随着计算能力的提升，更高效的编码算法将不断涌现，以提高数据 传输和存储的效率。
智能化编码
借助人工智能和机器学习技术，编码将实现智能化，自适应地调整 编码参数以优化性能。
跨平台兼容性
未来的编码技术将更加注重跨平台兼容性，以适应不同设备和网络环 境的多样性。
信息论与编码的交叉融合
理论与应用相互促进
信息论为编码技术提供理论支持， 而编码技术的发展又反过来推动 信息论的深入研究。
共同应对挑战
精品课课件信息论与编码(全套 讲义)
目
CONTENCT
录
• 信息论基础 • 编码理论 • 信道编码 • 信源编码 • 信息论与编码的应用 • 信息论与编码的发展趋势
01
信息论基础
信息论概述
信息论的研究对象
研究信息的传输、存储、处理和变换规律的科学。
信息论的发展历程
从通信领域起源，逐渐渗透到计算机科学、控制论、 统计学等多个学科。
卷积编码器将输入的信息序列按位输入到一个移位寄存器中，同时根据生成函数将移位寄存 器中的信息与编码器中的冲激响应进行卷积运算，生成输出序列。
卷积码的译码方法
卷积码的译码方法主要有代数译码和概率译码两种。代数译码方法基于最大似然译码准则， 通过寻找与接收序列汉明距离最小的合法码字进行译码。概率译码方法则基于贝叶斯准则， 通过计算每个合法码字的后验概率进行译码。
04
信息论与编码技术》实验教案
信息论与编码技术实验教案第一章：信息论基础1.1 信息的概念与度量介绍信息的基本概念，信息源的随机性，信息的不确定性。
讲解信息的度量方法，如香农熵、相对熵等。
1.2 信道模型与容量介绍信道的概念，信道的传输特性，信道的噪声模型。
讲解信道的容量及其计算方法，如单符号信道、多符号信道等。
第二章：信源编码与压缩2.1 信源编码的基本概念介绍信源编码的定义、目的和方法。
讲解信源编码的基本原理，如冗余度、平均冗余度等。
2.2 压缩算法与性能评价介绍无损压缩算法，如霍夫曼编码、算术编码等。
讲解有损压缩算法，如JPEG、MP3等。
分析各种压缩算法的性能评价指标，如压缩比、重建误差等。
第三章：信道编码与错误控制3.1 信道编码的基本概念介绍信道编码的定义、目的和方法。
讲解信道编码的基本原理，如纠错码、检错码等。
3.2 常见信道编码技术介绍常用的信道编码技术，如卷积码、汉明码、奇偶校验等。
分析各种信道编码技术的性能，如误码率、编码效率等。
第四章：数字基带传输4.1 数字基带信号与基带传输介绍数字基带信号的概念，数字基带信号的传输特性。
讲解数字基带信号的传输方法，如无编码调制、编码调制等。
4.2 基带传输系统的性能分析分析基带传输系统的性能指标，如误码率、传输速率等。
讲解基带传输系统的优化方法，如滤波器设计、信号调制等。
第五章：信号检测与接收5.1 信号检测的基本概念介绍信号检测的定义、目的和方法。
讲解信号检测的基本原理，如最大后验概率准则、贝叶斯准则等。
5.2 信号接收与性能分析分析信号接收的方法，如同步接收、异步接收等。
讲解信号接收性能的评价指标，如信噪比、误码率等。
第六章：卷积编码与Viterbi算法6.1 卷积编码的基本原理介绍卷积编码的定义、结构及其多项式。
讲解卷积编码的编码过程，包括初始状态、状态转移和输出计算。
6.2 Viterbi算法及其应用介绍Viterbi算法的原理，算法的基本步骤和性能。
讲解Viterbi算法在卷积编码解码中的应用，包括路径度量和状态估计。
2024版信息论与编码教案
应用：算术编码在图像、视频和音频压 缩等领域具有广泛应用，如JPEG 2000、 H.264等标准中采用了算术编码技术。 与霍夫曼编码相比，算术编码具有更高 的压缩比和更好的性能表现。
06
多媒体信息压缩编码
多媒体信息压缩编码的基本概念与原理
压缩编码的必要性
多媒体数据量大，存储和传输成本高，需通过压缩编码降低数据 量。
典型编码方法
03
详细介绍几种典型的编码方法，如香农编码、哈夫曼编码、算
术编码等。
教学目标与要求
掌握信息论与编码的基本理论
通过学习，使学生能够深入理解信息论与编 码的基本概念和原理。
培养编码实践能力
通过案例分析、实验等环节，提高学生的编 码实践能力。
培养创新能力
鼓励学生探索新的编码方法，培养创新思维 和解决问题的能力。
编码分类
包括无损编码和有损编码，前者 可以完全恢复原始信息，后者则 会损失部分信息以换取更高的压 缩比。
霍夫曼编码的原理与应用
• 原理：霍夫曼编码是一种可变长度编码方法，根据信源符 号出现的概率来构造最优编码。它利用概率大的符号用较 短的码字表示，概率小的符号用较长的码字表示，从而实 现平均码长最短。
信息论的基本概念
信息
信息是事物运动状态或存在方式的不确定性的描述。
信息系统
由信源、信道、信宿等组成的传输和处理信息的系统。
信息论
研究信息的传输、处理、存储和检索等过程中的基本 理论和方法。
信息的度量与性质
信息的度量
用概率和统计的方法对信息进行量化，如香农 信息熵、互信息等。
信息的性质
包括普遍性、客观性、可传递性、可共享性、 可压缩性等。
压缩编码的可能性
信息论与编码在通信系统中的应用研究
信息论与编码在通信系统中的应用研究在现代社会中，通信系统已经成为人们生活中不可或缺的一部分。
信息论与编码作为通信系统中的重要理论和技术，对于提高通信系统的可靠性和效率起着至关重要的作用。
本文将从信息论的基本原理、编码技术的发展以及在通信系统中的应用等方面进行探讨。
一、信息论的基本原理信息论是由克劳德·香农于1948年提出的一门研究信息传输和处理的数学理论。
它的核心思想是通过量化信息的度量来研究信息的传输和处理过程。
信息论中的基本概念包括信息熵、信道容量等。
信息熵是信息论中的一个重要概念，它用来衡量信息的不确定性。
在通信系统中，信息熵可以用来衡量信源的平均信息量。
当信源的概率分布越均匀，信息熵越大，反之亦然。
通过对信源进行编码，可以将信息熵降低，从而提高信息传输的效率。
信道容量是信息论中的另一个重要概念，它用来衡量信道传输信息的最大速率。
信道容量取决于信道的带宽和信噪比等因素。
通过对信源进行编码和调制，可以将信息传输速率接近信道容量，从而实现高效的信息传输。
二、编码技术的发展编码技术是信息论的重要应用之一，它通过对信息进行编码和解码来提高信息传输的可靠性和效率。
编码技术的发展经历了多个阶段，从最早的香农编码到现在的纠错码和压缩编码等。
香农编码是信息论中最早的编码技术，它通过对离散信源进行编码，将信息的冗余度降低，从而提高信息传输的效率。
随着技术的发展，纠错码和压缩编码等新的编码技术相继出现。
纠错码是一种能够在数据传输过程中检测和纠正错误的编码技术。
它通过在数据中添加冗余信息，可以检测和纠正由于信道噪声等原因引起的错误。
纠错码的应用可以有效提高通信系统的可靠性。
压缩编码是一种能够将信息进行压缩存储的编码技术。
它通过利用信息中的统计特性和冗余度，将信息的存储空间降低，从而提高存储效率。
压缩编码在图像、音频和视频等领域有着广泛的应用。
三、信息论与编码在通信系统中的应用信息论与编码在通信系统中有着广泛的应用。
信息论与编码 共析
信息论与编码一、介绍信息论与编码是一门研究信息传递、存储和处理的学科，它于1948年由克劳德·香农提出。
信息论与编码主要关注如何在信息传递过程中通过编码技术来提高信息传输的效率和可靠性。
本文将深入探讨信息论与编码的基本概念、原理以及应用。
二、信息论的基本概念1. 信息的定义信息是指能够改变接收者行为或知识状态的事物或信号。
在信息论中，信息的单位通常用比特（bit）来表示，表示一个二进制的选择。
2. 信息的熵信息的熵是衡量信息量的一个指标，表示信息的不确定性。
熵越高，信息量越大，不确定性越高；熵越低，信息量越小，不确定性越低。
在信息论中，熵的单位通常用比特/秒（bit/s）来表示。
3. 信源和信道信源是指信息的来源，可以是任何能够产生信息的物体或系统。
信道是指信息传递的媒介，可以是实际的通信线路或无线电波等。
三、编码的基本原理1. 数据压缩编码数据压缩编码是一种通过减少信息的冗余性来减小数据的体积的技术。
其中，无损数据压缩编码通过消除冗余和统计特性来实现数据的无损压缩，而有损数据压缩编码通过舍弃部分信息来实现更高的压缩比。
2. 信道编码信道编码是一种在信道传输过程中，为了增强数据的可靠性而对数据进行编码和解码的技术。
常见的信道编码方式包括前向纠错码和卷积码等。
3. 源编码源编码是一种将信息源的符号序列转换为另一符号序列的技术，以便提高数据传输效率。
在源编码中，常用的方式包括霍夫曼编码和算术编码等。
四、信息论与编码的应用1. 通信系统中的应用信息论与编码在通信系统中有广泛的应用。
通过对信源进行编码和压缩，可以提高信息传输的效率和可靠性。
同时，信道编码可以提高数据在信道传输中的可靠性，减少传输错误。
2. 数据存储与压缩信息论与编码在数据存储与压缩领域也有广泛的应用。
通过对数据进行编码和压缩，可以减小存储空间的需求，降低存储成本，并提高数据的读写效率。
3. 图像和音频处理信息论与编码在图像和音频处理中也起到重要的作用。
信息论与编码技术在通信网络中的应用研究
信息论与编码技术在通信网络中的应用研究在现代社会中，通信网络是信息交流、人际联系和商业活动的重要基础。
而通信网络则以信息传输及交流为目的，成为现代通讯科技的重要领域之一。
在这个领域中，信息论与编码技术是不可或缺的一部分，他们在通信网络中扮演着非常重要的角色。
一、信息论何谓信息论？它是研究在传输、编码和解码过程中，如何最大程度利用带宽或磁盘空间的高效率方法，并保证数据传输的完整性和精确性，以及受到噪音等干扰时如何提高错误检测和重构的专业知识。
信息论中的信息量，是表示某种描述所含有的信息量大小的一种度量方法。
例如，在一个有10个相同字母的字串中，另一字串出现一次，那么他所得到的信息量比在一个有10个不同字母的字串中收获一次事实所获得的信息量要小。
信息量在网络通讯中还用到了压缩和编码的方法。
信息在传输过程中，会受干扰和噪音的影响，从而产生误码。
而信息论就是专门研究在噪声环境下如何对信息进行优化传输的过程，通过研究错误检测和纠错等技术，提高通信质量和效率。
二、编码技术编码技术是信息论的重要组成部分，它是指将信息转换为适合传输、存储、处理和加密的数据流或信号的过程。
编码技术在通信网络中具有至关重要的作用，它可以提高信息传输的速度和传输的可靠性，同时也可以减少传输过程中的时间和占用带宽。
目前，应用最广泛的编码技术是差错编码技术和压缩编码技术。
差错编码技术主要是指通过增加冗余信息，来检测和纠正数据传输时所产生的错误。
而压缩编码则是通过压缩数据的冗余信息和无用信息，来减少数据的传输量。
在差错编码技术中，最常用的是纠错码和检错码。
纠错码可以检测并纠正一定数量的错误数据，在传输过程中有效保证了数据的安全性；而检错码则主要用于数据检测，被认为是预防错误的一种措施。
在压缩编码技术中，最常用的是哈夫曼编码和算术编码。
哈夫曼编码通过将大量出现的数据，采用更短的编码方式进行压缩；而算术编码则是通过将数据划分为不同的区间，来提高数据的压缩效率。
数学中的信息论与编码理论
数学中的信息论与编码理论在没有信息论和编码理论的帮助下，我们现代社会的通信系统几乎无法存在。
信息论和编码理论是数学中一个重要的分支，它们的发展不仅深刻影响了通信技术的进步，也在其他领域起到了重要的作用。
本文将探讨数学中的信息论与编码理论的基本概念和应用。
一、信息论信息论是由美国数学家克劳德·香农在20世纪40年代提出的一门学科。
它的研究对象是信息，旨在衡量信息的传输效率和极限。
那么，什么是信息？信息是我们从一个消息中获得的知识或内容。
在信息论中，信息量的单位被称为“比特”（bit），它表示信息的最基本单位。
例如，当我们投掷一枚公平的硬币，出现正面的概率为50%，我们可以用1比特来表示这个消息，因为它提供了一个二进制的选择（正面或反面）。
在信息论中，还有一个重要的概念是“信息熵”。
信息熵用来衡量一个随机变量的不确定性。
一个有序的事件具有较低的信息熵，而一个随机的事件具有较高的信息熵。
例如，当我们已知一个硬币是公平的时候，投掷获得的信息熵最高，因为我们无法预测结果。
二、编码理论编码理论是信息论的一个重要组成部分。
它研究如何将信息转化为机器能够识别和处理的形式。
编码理论可以分为源编码和信道编码两个方面。
1. 源编码源编码是将源数据（比如文本、图像、声音等）进行压缩和表示的过程。
它的目标是将数据表示为更紧凑的形式，以便于存储和传输。
最著名的源编码算法之一是赫夫曼编码，它利用不同符号出现的频率进行编码，将出现频率较高的符号用较短的编码表示，从而实现数据的压缩。
2. 信道编码信道编码是为了在噪声干扰的信道中可靠地传输信息而设计的编码方法。
它通过引入冗余来纠正或检测传输过程中的错误。
最常见的信道编码方法是奇偶校验码和循环冗余检验码（CRC）。
这些编码方法能够检测和校正一定数量的错误，从而提高传输的可靠性。
三、信息论与编码理论的应用信息论和编码理论不仅在通信领域中发挥着重要作用，也在其他领域有广泛的应用。
数学中的信息论与编码技术
数学中的信息论与编码技术在数学领域中，信息论与编码技术是一门研究信息传输和存储的重要学科。
本文将从信息论的基本概念入手，介绍信息熵、信道容量等关键概念，并对编码技术进行探讨，包括纠错码、压缩编码等常见技术。
一、信息论的基本概念信息论是由克劳德·香农于20世纪40年代提出的一门学科，旨在研究如何在信息传输过程中最大化传输效率和最小化信息损失。
信息论的核心是信息熵的概念。
1. 信息熵信息熵是用来描述信息的不确定性的度量，表示一个随机变量的平均信息量。
假设事件发生的概率为p，其信息量可表示为 -log(p)。
而一个随机变量的信息熵则是所有可能事件的信息量的期望值。
例如，一个随机变量只有两个事件发生的可能性，分别为p和1-p，那么该随机变量的信息熵为-H(p) = p*log(p) + (1-p)*log(1-p)。
信息熵越大，表示不确定性越高。
2. 信道容量信道容量是指在给定的信道条件下，最大可达到的信息传输速率。
根据香农的定理，对于任何给定的信噪比，都存在一个能以任意小的误差将信息传输到接收端的编码方案。
二、编码技术编码技术是信息论的重要应用领域，旨在通过对信息的编码和解码来提高信息传输的效率和可靠性。
下面将介绍两种常见的编码技术。
1. 纠错码纠错码是一种编码技术，通过在原始数据中添加冗余信息，使得接收端能够检测和纠正部分错误。
常用的纠错码有海明码、RS码等。
以海明码为例，它通过在数据中添加额外的校验位，使得接收端能够检测到并纠正少量的错误。
海明码的纠错能力取决于添加的校验位数量，通常能够纠正数比特的错误。
2. 压缩编码压缩编码是一种将冗长的数据表示转换为更简洁形式的编码技术，从而实现数据的压缩和存储空间的节省。
常用的压缩编码有霍夫曼编码、算术编码等。
以霍夫曼编码为例，它通过将较频繁出现的字符用较短的编码表示，将不常出现的字符用较长的编码表示，从而减少数据的表示长度。
压缩后的数据可在传输和存储中占用更少的空间。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
《信息论与编码技术》教学大纲
一、课程信息
课程代码：T0808007
课程名称：信息论与编码技术
英文名称：Information Theory and Coding Techniques
课程类别：拓展课
总学时：36 学时
理论学时：36 学时
实践学时：2 学时
学分： 2 学分
开设学期：第6学期
适用对象: 通信工程本科专业学生
考核方式：考查
先修课程：信号与系统，数字信号处理，通信原理，概率论与数理统计
大纲拟定人：张岩
大纲审定人：吴顺伟
二、课程简介
《信息论与编码技术》课程是通信工程专业的专业拓展课，是通信工程专业的选修课程。
本课程的主要内容是应用概率统计方法来研究信息的传输、存储和处理，建立通信系统的统计模型，对系统中的每个部分进行系统地描述，信息论理论应用于信源和信道就是编码。
信息论与编码技术是一门对现代科学技术的发展具有重大的影响学科。
本课程的教学目的是让学生了解香农信息论的基本内容，掌握其中的基本公式和基本运算，培养利用信息论的基本原理分析和解决实际问题的能力，为进一步学习通信和信息以及其他相关领域的高深技术奠定良好的理论基础。
第一章：概论
教学目标和要求：了解信息论的发展的历史，特别是香农信息论的发展；了解本书的主要内容；了解通信系统的模型，信息的传递，概率统计模型。
教学重点与难点：通信系统的数学模型
实践环节：无
建议使用的教学方法与手段：图文结合多媒体讲授
教学学时：理论2学时实践0学时
第一节信息论的发展概况
信息的一般概念；香农信息定义；信息论与编码发展简史、数字通信系统模型
第二节信息论与编码理论的主要内容
第二章：信息熵
教学目标和要求：掌握熵的定义及其性质，掌握各种信源信息熵的相关理论，会计算各种信源的信息熵。
教学重点与难点：信息熵的定义及各种熵的计算
实践环节：无
建议使用的教学方法与手段：图文结合多媒体讲授
教学学时：理论10学时实践0学时
第一节单符号离散信源
信源的数学模型及分类：信源的数学模型；信源的分类，离散信源的信息熵及其性质。
自信息；信源的信息熵；熵的基本性质。
第二节多符号离散信源
离散无记忆信源的扩展信源，离散平稳信源，平稳信源的概念；二维平稳信源；一般离散平稳信源
第三节连续信源
单符号连续信源的熵；波形信源的熵；最大熵定理。
第四节离散无失真信源编码定理
第三章：信道容量
教学目标和要求：了解信道容量的定义，掌握各种信道的信道容量的计算方法
教学重点与难点：特殊信道的信道容量；连续信道的信道容量。
实践环节：无
建议使用的教学方法与手段：图文结合多媒体讲授
教学学时：理论6学时实践0学时
第一节信道的数学模型与分类
信道的数学模型；信道的分类。
第二节信道疑义度与平均互信息
信道疑义度；平均互信息；平均互信息的性质。
第三节离散无记忆信道的扩展信道
第四节离散信道的信道容量
信道容量的定义；简单离散信道的信道容量；对称离散信道的信道容量；离散无记忆N次扩展信道的信道容量。
第五节连续信道的信道容量
连续单符号加性高斯噪声信道的信道容量；多维无记忆加性连续信道的信道容量；限频限时限功率的加性高斯白噪声信道的信道容量；
第六节信源与信道的匹配
第七节信道编码定理
第四章：信息率失真函数
教学目的与要求：了解信息率失真函数的相关定义，掌握各种信息率失真函数的计算方法。
教学重点与难点：失真函数，平均失真度，信息率失真函数定义及其计算
实践环节：无
建议使用的教学方法与手段：图文结合多媒体讲授
教学学时：理论6学时实践0学时
第一节失真测度：系统模型；失真度和平均失真度
第二节信息率失真函数
信息率失真函数的定义；信息率失真函数的性质。
第三节离散无记忆信源下的信息率失真函数的计算
具有等概率、对称失真信源的计算；信息率失真函数的参量表述及计算（可选）。
第四节连续无记忆信源的信息率失真函数
连续无记忆信源的信息率失真函数的定义；高斯信源的信息率失真函数；连续无记忆信源信息率失真函数的参量表述（可选）；差值失真度量下连续无记忆信源信息率失真函数的计算（可选）。
第五节保真度准则下的信源编码定理
第五章：信源编码
教学目的与要求：掌握离散信源的各种编码方法，了解连续信源的编码。
教学重点与难点：香农编码；菲诺编码；霍夫曼编码
实践环节：无
建议使用的教学方法与手段：图文结合多媒体讲授
教学学时：理论6学时实践0学时
第一节编码器及相关概念
码的分类；码树；Kraft不等式。
第二节最佳变长编码
香农码；费诺码；霍夫曼码。
第三节限失真信源编码
第四节实用信源编码方法：
游程编码；算术编码；预测编码；变换编码
第六章：信道编码
教学目的与要求：掌握相关概念、线性码、循环码的编码方法。
教学重点与难点：循环码的编码与解码
实践环节：无
建议使用的教学方法与手段：图文结合多媒体讲授
教学学时：理论6学时实践0学时
第一节信道编码的概念
信道编码的分类；与信道编码有关的基本概念；检错与纠错原理；检错与纠错方式和能力。
第二节线性分组码
基本概念；矩阵表示；线性分组码的译码；线性分组码检错纠错能力；汉明码。
第三节循环码
循环码的多项式描述；循环码的生成矩阵；系统循环码；多项式运算电路；循环码的编码电路；循环码
的译码电路；常用循环码。
第四节卷积码
卷积码的编码；卷积码的译码。
四、大纲参考资料
教材：《信息论与编码技术》冯桂等编著，清华大学出版社， 2007年。
主要参考书目：
1、Thomas M.Cover, Joy A.Thomas，<<信息论基础>>（Elements of Information Theory, 英文影印版）,清华大学出版社，2003年
2、Robert J.McEliece,<<信息论与编码理论>>(The Theory of Information and Coding, (第2版),电子工业出版社, 2005年.
3、王育民李晖梁传甲，<<信息论与编码理论>> (第1版)，高等教育出版社， 2009年。