信息论与编码教案汇总
信息论与编码-教案
2009-2010第一学期
周次
第1周，第1次课
编写时间
2009.8.29
章节名称
1概论
教学目的与要求：
理解信息的概念、性质和分类，了解通信系统的构成及编码理论在其中的作用，了解信息论的起源、发展及研究内容。
教学重点和难点：
教学重点：信息的概念
教学难点：香农信息论的三大定理
教学组织（含课堂教学内容、教学方法、辅助手段、师生互动、时间分配、板书设计等）：
3自信息量，直观定义信息量为收到某消息获得的信息量=不确定性减少的量=收到此消息前关于某事件发生的不确定性-收到此消息后关于某事件发生的不确定性，讲解10分钟
4联合自信息量，讲解10分钟
5条件自信息量，讲解10分钟
6互信息量，讲解10分钟
7互信息的性质，即对称性和可正可负，讲解25分钟
8条件互信息，讲解10分钟
4信息的分类，（1）从性质分：语法信息、语义信息、语用信息。（2）按观察的过程分：实在信息、先验信息、实得信息。（3）按信息的地位分：客观信息、主观信息。（4）按作用分：有用信息、无用信息、干扰信息。讲解10分钟
5模拟通信系统，该系统传递的是模拟信号，它在任意时刻的取值是任意的，是时间的连续函数。讲解10分钟
教学目标
通过本课程的学习，使学生对信息理论和编码理论有比较全面和系统的了解，掌握信息论的基本概念、基本理论和基本分析方法，包括信源熵、信道容量和信息率失真函数等；掌握常用的信源编码方法，包括香农编码、费诺编码、哈夫曼编码、矢量量化编码和预测编码等；掌握常用的信道编码，包括线性码、循环码等，为从事信息科学的研究和应用打下坚实的基础。
6数字通信系统，该系统中传输的是数字信号，它只能取有限个离散值，且出现的时间也是离散的。讲解5分钟
信息论与编码技术》实验教案
信息论与编码技术实验教案第一章：信息论基础1.1 信息的概念与度量介绍信息的基本概念，信息源的随机性，信息的不确定性。
讲解信息的度量方法，如香农熵、相对熵等。
1.2 信道模型与容量介绍信道的概念，信道的传输特性，信道的噪声模型。
讲解信道的容量及其计算方法，如单符号信道、多符号信道等。
第二章：信源编码与压缩2.1 信源编码的基本概念介绍信源编码的定义、目的和方法。
讲解信源编码的基本原理，如冗余度、平均冗余度等。
2.2 压缩算法与性能评价介绍无损压缩算法，如霍夫曼编码、算术编码等。
讲解有损压缩算法，如JPEG、MP3等。
分析各种压缩算法的性能评价指标，如压缩比、重建误差等。
第三章：信道编码与错误控制3.1 信道编码的基本概念介绍信道编码的定义、目的和方法。
讲解信道编码的基本原理，如纠错码、检错码等。
3.2 常见信道编码技术介绍常用的信道编码技术，如卷积码、汉明码、奇偶校验等。
分析各种信道编码技术的性能，如误码率、编码效率等。
第四章：数字基带传输4.1 数字基带信号与基带传输介绍数字基带信号的概念，数字基带信号的传输特性。
讲解数字基带信号的传输方法，如无编码调制、编码调制等。
4.2 基带传输系统的性能分析分析基带传输系统的性能指标，如误码率、传输速率等。
讲解基带传输系统的优化方法，如滤波器设计、信号调制等。
第五章：信号检测与接收5.1 信号检测的基本概念介绍信号检测的定义、目的和方法。
讲解信号检测的基本原理，如最大后验概率准则、贝叶斯准则等。
5.2 信号接收与性能分析分析信号接收的方法，如同步接收、异步接收等。
讲解信号接收性能的评价指标，如信噪比、误码率等。
第六章：卷积编码与Viterbi算法6.1 卷积编码的基本原理介绍卷积编码的定义、结构及其多项式。
讲解卷积编码的编码过程，包括初始状态、状态转移和输出计算。
6.2 Viterbi算法及其应用介绍Viterbi算法的原理，算法的基本步骤和性能。
讲解Viterbi算法在卷积编码解码中的应用，包括路径度量和状态估计。
2024版信息论与编码教案
应用：算术编码在图像、视频和音频压 缩等领域具有广泛应用，如JPEG 2000、 H.264等标准中采用了算术编码技术。 与霍夫曼编码相比，算术编码具有更高 的压缩比和更好的性能表现。
06
多媒体信息压缩编码
多媒体信息压缩编码的基本概念与原理
压缩编码的必要性
多媒体数据量大，存储和传输成本高，需通过压缩编码降低数据 量。
典型编码方法
03
详细介绍几种典型的编码方法，如香农编码、哈夫曼编码、算
术编码等。
教学目标与要求
掌握信息论与编码的基本理论
通过学习，使学生能够深入理解信息论与编 码的基本概念和原理。
培养编码实践能力
通过案例分析、实验等环节，提高学生的编 码实践能力。
培养创新能力
鼓励学生探索新的编码方法，培养创新思维 和解决问题的能力。
编码分类
包括无损编码和有损编码，前者 可以完全恢复原始信息，后者则 会损失部分信息以换取更高的压 缩比。
霍夫曼编码的原理与应用
• 原理：霍夫曼编码是一种可变长度编码方法，根据信源符 号出现的概率来构造最优编码。它利用概率大的符号用较 短的码字表示，概率小的符号用较长的码字表示，从而实 现平均码长最短。
信息论的基本概念
信息
信息是事物运动状态或存在方式的不确定性的描述。
信息系统
由信源、信道、信宿等组成的传输和处理信息的系统。
信息论
研究信息的传输、处理、存储和检索等过程中的基本 理论和方法。
信息的度量与性质
信息的度量
用概率和统计的方法对信息进行量化，如香农 信息熵、互信息等。
信息的性质
包括普遍性、客观性、可传递性、可共享性、 可压缩性等。
压缩编码的可能性
信息论与编码技术》实验教案
信息论与编码技术实验教案第一章：信息论基础1.1 实验目的1. 了解信息的基本概念及其度量方法；2. 掌握信息的熵、冗余度和信道容量等基本概念。
1.2 实验原理1. 信息的基本概念：信息、消息、信源等；2. 信息的度量：平均信息量、熵、冗余度等；3. 信道容量和编码定理。
1.3 实验设备与材料1. 计算机及投影仪；2. 相关实验软件。
1.4 实验步骤1. 讲解信息的基本概念及其度量方法；2. 分析实际例子，演示信息的熵、冗余度和信道容量的计算过程；3. 让学生通过实验软件进行相关计算和分析。
1.5 思考与讨论1. 信息量与消息长度的关系；2. 信道容量在实际通信系统中的应用。
第二章：数字基带编码2.1 实验目的1. 掌握数字基带编码的基本原理；2. 学会使用相关软件进行数字基带编码的仿真。
2.2 实验原理1. 数字基带编码的定义和分类；2. 常用数字基带编码方法：NRZ、RZ、曼彻斯特编码等；3. 数字基带编码的性能评估：误码率、带宽利用率等。
2.3 实验设备与材料1. 计算机及投影仪；2. 相关实验软件。
2.4 实验步骤1. 讲解数字基带编码的基本原理和方法；2. 演示常用数字基带编码的仿真效果；3. 让学生通过实验软件进行数字基带编码的仿真实验。
2.5 思考与讨论1. 数字基带编码的优缺点；2. 如何在实际通信系统中选择合适的基带编码方法。
第三章：信道编码与误码控制3.1 实验目的1. 了解信道编码的基本原理；2. 掌握常见的信道编码方法；3. 学会使用相关软件进行信道编码的仿真。
3.2 实验原理1. 信道编码的定义和作用；2. 常用信道编码方法：卷积编码、汉明编码、里德-所罗门编码等；3. 误码控制原理：检错、纠错等。
3.3 实验设备与材料1. 计算机及投影仪；2. 相关实验软件。
3.4 实验步骤1. 讲解信道编码的基本原理和方法；2. 演示常用信道编码的仿真效果；3. 让学生通过实验软件进行信道编码的仿真实验。
《信息论与编码技术》实验教案
技术选型
根据实际需求选择合适的差错控制编码技术， 包括线性分组码、卷积码等。
实现与测试
通过编程实现所选差错控制编码技术的编码和解码过程，并进行测试和性能分 析。
04
现代编码技术实验
Turbo码编译码原理及性能评估
Turbo码基本原理
介绍Turbo码的结构、编码原理、迭代译码原理等基本概念。
编译码算法实现
《信息论与编码技术》实验教案
目录
• 课程介绍与实验目标 • 信息论基础实验 • 编码技术基础实验 • 现代编码技术实验 • 信息论与编码技术应用案例分析 • 课程总结与展望
01
课程介绍与实验目标
信息论与编码技术课程概述
课程背景
信息论与编码技术是通信工程、 电子工程等专业的核心课程，主 要研究信息的传输、存储和处理 过程中的基本理论和方法。
2. 根据概率分布生成模拟信源序列；
03
离散信源及其数学模型
3. 计算信源熵、平均符号长度等参数；
4. 分析实验结果，理解信源熵的物理 意义。
信道容量与编码定理验证
实验目的
理解信道容量的概念、计算方法和物理意义，验证香农编码定理的正确性。
实验内容
设计并实现一个信道模拟器，通过输入不同的信道参数和编码方案，计算并输出信道容量、误码率等关键参数。
数据存储系统中纠删码技术应用
纠删码基本原理
阐述纠删码的基本概念、原理及其在数据存储系统中的应用价值。
常用纠删码技术
介绍常用的纠删码技术，如Reed-Solomon码、LDPC码等，并分 析其性能特点。
纠删码技术应用实践
通过实验，将纠删码技术应用于数据存储系统中，评估其对系统可 靠性、数据恢复能力等方面的提升效果。
信息论和编码教案
2.3连续信源熵上一章我们讨论的为离散信源，实际应用中还有一类信源称为连续信源，这种信源的时间和取值都是连续的，例如语音信号，电视信号都是连续信号。
▲时间离散状态连续的信源熵可以用连续信源熵表示，相当于一个连续随机变量。
而时间连续的信源，为一个随机过程，只要信号频谱有限，则可以根据采样定理，将其变为时间离散信源。
▲信息论中只讨论单变量连续信源，即时间离散状态连续的连续信源。
1连续信源的熵1-1连续信源熵的定义▲连续信源的状态概率用概率密度来表示。
如果连续随机变量X ，取值为实数域R ，其概率密度函数为p(x)，则如果取值为有限实数域[a,b]，则这是X 的概率分布函数为：▲ 连续信源的数学模型X: R(或[a,b])P(X): p(x)▲ 连续信源熵的表达式 利用离散信源熵的概念来定义连续信源熵，首先看一个再[a,b]取间的连续随机变量，如图：x首先把X 的取值区间[a,b]分割为n 个小区间，小区间宽度为：△ =(b-a)/n根据概率分布为概率密度函数曲线的区间面积的关系，X 取值为xi 的概率为：Pi=p(xi).△p x dx R()=⎰1p x dx ab()=⎰1F x P X x p x dxx (){}()111=≤=-∞⎰p x dx R()=⎰1按离散信源熵的定义：可得离散信源Xn 的熵：当△趋于0，n 趋于无穷时，离散随机变量Xn 将接近于连续随机变量X ，这时可以得到连续信源的熵为：其中：连续信源的熵定义为：▲连续信源熵为一个相对熵，其值为绝对熵减去一个无穷大量。
▲连续信源有无穷多个状态，因此根据SHANNON 熵的定义必然为无穷大。
▲连续信源的熵不等于一个消息状态具有的平均信息量。
其熵是有限的，而信息量是无限的。
▲连续信源熵不具有非负性，可以为负值。
尽管连续信源的绝对熵为一个无穷大量，但信息论的主要问题是信息传输问题，连续信道的输入输出都是连续变量，当分析其交互信息量时是求两个熵的差，当采用相同的量化过程时，两个无穷大量将被抵消，不影响分析。
《信息论与编码技术》实验教案
《信息论与编码技术》实验教案第一章：信息论基础1.1 信息的概念与度量介绍信息的基本概念，理解信息的含义学习信息熵的计算方法，掌握信息熵在通信系统中的应用1.2 信源与信道模型学习信源的数学模型，理解信源的随机性和统计特性学习信道的数学模型，了解信道的传输特性第二章：信源编码2.1 信源编码的基本概念理解信源编码的目的和意义学习信源编码的基本原理和方法2.2 常用信源编码技术学习霍夫曼编码、算术编码等常用信源编码技术掌握编码算法的实现和应用第三章：信道编码3.1 信道编码的基本概念理解信道编码的目的和意义学习信道编码的基本原理和方法3.2 常用信道编码技术学习卷积编码、汉明编码等常用信道编码技术掌握编码算法的实现和应用第四章：误码控制与编码技术4.1 误码产生的原因与类型了解通信系统中误码的产生原因和类型学习误码的检测与纠正方法4.2 错误控制编码技术学习自动重传请求（ARQ）、前向纠错（FEC）等错误控制编码技术掌握编码算法的实现和应用第五章：信息加密与安全5.1 信息加密的基本概念理解信息加密的目的和意义学习信息加密的基本原理和方法5.2 常用加密技术学习对称加密、非对称加密等常用加密技术掌握加密算法的实现和应用第六章：数据压缩技术6.1 数据压缩的基本概念理解数据压缩的目的和意义学习数据压缩的基本原理和方法6.2 常用数据压缩技术学习霍夫曼编码、LZ77、LZ78等常用数据压缩技术掌握压缩算法的实现和应用第七章：数字信号传输7.1 数字信号传输的基本概念理解数字信号传输的目的和意义学习数字信号传输的基本原理和方法7.2 数字信号传输技术学习基带传输、频带传输等数字信号传输技术掌握传输算法的实现和应用第八章：调制与解调技术8.1 调制与解调的基本概念理解调制与解调的目的和意义学习调制与解调的基本原理和方法8.2 常用调制与解调技术学习幅度调制、频率调制、相位调制等常用调制技术掌握调制与解调算法的实现和应用第九章：无线通信与编码技术9.1 无线通信的基本概念理解无线通信的目的和意义学习无线通信的基本原理和方法9.2 无线通信编码技术学习扩频技术、多址技术等无线通信编码技术掌握编码算法的实现和应用强调实验的重要性和在实际应用中的作用10.2 拓展学习推荐相关的学习材料和参考书籍鼓励学生探索新技术和发展趋势，提高学生的学习兴趣和动力重点和难点解析重点环节一：信息的概念与度量信息熵的计算方法是理解信息论的核心，需要重点掌握。
信息论与编码第三版教学设计 (2)
信息论与编码第三版教学设计课程教学目标本教学设计旨在通过对信息论与编码课程的讲解，使得学生能够理解信息的本质、量化信息的方法和信息在传输过程中的编码与解码技术。
同时培养学生的问题分析和解决问题的能力，开阔学生的科学思维视野。
课程大纲第一章课程介绍•课程目标和教学要求•课程内容简介•课程参考资料第二章信息的产生、表示和处理•信息的产生与传播•信息的表示与处理•信息量的概念和度量第三章熵、信息源以及离散无记忆信源的信息压缩•熵的定义和计算•信息源和信源模型•布劳德算法、霍夫曼编码和算术编码第四章总结无记忆信源的信息压缩•Fano-编码•信息源整体编码•高斯信源和均匀信源的信息率第五章离散有记忆信源的信息压缩•有记忆信源的熵与马尔可夫模型•上下文相关编码和自适应编码第六章通信系统与信道容量•简单通信系统模型•信道的概念与性质•香农极限与信道容量第七章传输信道上的编码•误差控制编码•矩阵和循环码•卷积码和码间干扰第八章内容完备的编码原理•信息多路传输和信道编码•带宽可接受信道的编码原理•分布式压缩与广播教学方法本课程采用讲授、讨论和实验相结合的教学方式。
每周教师讲授一定的叙述知识，随后进行课堂讨论，让学生探讨问题思路和解决方案。
每学期安排至少4次专题讲座，由特邀嘉宾或学生进行分组报告，向全班分享课程相关的研究和应用案例。
另外，本课程将结合MATLAB等相关软件，进行实验教学。
让学生通过编写相关程序，亲手实践信息编码算法，进一步加深对知识理论的理解和掌握。
评价方式本课程评价方式主要以作业、考试和实验三项为主。
其中，每周布置一定量的作业，要求学生灵活运用所学知识，并有一定程度的创新性。
每学期安排两次闭卷考试，考查学生对知识的掌握情况。
此外，每学期安排至少3个实验项目，旨在让学生学以致用，培养学生的问题解决和创新能力。
结语信息论与编码是计算机科学与电子信息工程领域中非常重要的一门基础课程。
希望通过本教学设计，能够深度挖掘信息论与编码的理论研究，加强学生对科学方法论的认识，培养出具有科学素养和创新意识的优秀人才。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
赣南师范学院物理与电子信息工程学院教案授课教师：***授课对象：电子信息工程授课学期：第六学期总学时：32学时使用教材：电子工业出版社《信息论与纠错编码》张丽华第 1 次课教案教学组织一、自我介绍:略二、课程介绍：1、任务和地位：信息论是由Shannon奠基的一门数学学科，它产生于有效而可靠的通信问题中，并获得了广泛应用。
编码技术是信息论的重要分支的基础。
它在通信和计算机工程实践中得到了广泛的应用，成为通信系统设计中的一项通用技术。
通过本课程的学习，使学生对信息理论有一个比较全面和系统的了解，掌握信息论的基本概念和信息论方法，为从事信息科学的研究和应用打下一个坚实的基础。
课程以信号和信道的知识为基础，讲述信息论的基本概念，信源编码、信道编码和伪随机码的基本知识。
2、知识要求：通过一个学期的学习要达到如下要求:1)掌握平均信息量—熵的概念，了解信息论的基本知识和信道容量的计算。
2)掌握信源编码的意义，了解提高信息传输“有效性”的方法，掌握平均码长的计算和最佳信源编码的概念，通过仙农定理导出霍夫曼编码规则。
3)掌握信道编码的意义，了解提高信息传输“可靠性”的方法，掌握纠错编码的基本概念，重点讲解线性分组码的检错能力，介绍卷积码基本概念。
4)掌握伪随机码的基本概念，m序列码的产生及应用。
先修课程：信号与系统、数字逻辑电路、微机原理与应用、通信原理。
3、能力要求：本课程重点是通过讲解信息论与编码技术使学生掌握提高信道传输的“有效性”和“可靠性”的基本理论。
4、考试成绩计算方法：平时成绩 30%（主要包括作业和出勤）期终考试 70%5 课程性质:学科基础课：①电子信息类专业基础课②研究生考试课程6 进度安排 4学分32理论学时16周2学时/周7 学习方法与注意事项1、学习、目的、方法2、课程框架（理清）3、听课与笔记4、实用方法与公式5、预习与复习（书、笔记）6、作业（多练习）8 教材及参考书教材:信息论与纠错编码张丽华电子工业出版社参考书:[1] 王新梅等编著，《纠错码-原理与方法》（修订版），西安电子科技大学出版社，2001 年。
[2] 张宗橙编著，《纠错编码原理和应用》，电子工业出版社，2004年。
[3] [日]江藤良纯等主编，《纠错编码原理及应用》，科学出版社，2004年。
[4] [美]S.林著，陈太一译，《纠错编码入门》，人民邮电出版社，1976年。
[5] 姜丹编著，《信息论与编码》，中国科学技术大学出版社，2001年。
9 主要内容（1）信息及信息的度量（2）离散信源及信源熵,离散信道及信道容量（3）信源编码定理和信道编码定理（4）平均失真测度和信息率失真函数,率失真编码定理（5）线性分组码（6）循环码和卷积码三授课.一、讲授内容第一章信息论基础1.1信息的概念1.2数字通信系统1.3 信源及其数学模型二、教学目的及要求要求学生明确本课程的学习目的及要求，初步了解本课程的特点及学习方法，掌握信息的基本概念和特点，了解信息论研究的对象、目的和内容，了解信息论的形成和发展趋势，以及目前信息论与编码的主要研究成果，激发学习信息论与编码的兴趣与热情。
要求学生掌握信源的基本概念和特点及信源的描述，掌握离散无记忆信源、离散有记忆信源与马尔可夫信源的特点与描述方法。
三、教学重点本课程的特点及学习方法、信息的基本概念与特点，信息论的主要研究对象、目的和内容。
信源的分类，离散信源与连续信源，无记忆信源与有记忆信源，马尔可夫信源。
四、教学难点如何理解信息的概念、信息论及编码技术，有记忆信源，马尔可夫信源。
五、本讲计划学时及时间分配计划2个学时，主讲信息的基本概念和特点，信息论研究的对象、目的和内容，信息论的形成和发展趋势，以及目前信息论与编码的主要研究成果。
课程导入5分钟；本课程的学习目的、要求及方法介绍20分钟；信息的基本概念和特点，信息论研究的对象、目的和内容，信息论的形成和发展趋势，以及目前信息论与编码的主要研究成果讲授55分钟，课堂练习及课后习题讲解15分钟，本节课知识点总结5分钟。
六、实施步骤利用多媒体课件对主要知识点进行讲述，并辅以板书详解，具体如下：课程引入：主要介绍本课程的教学内容、教学重点与难点、考核方式及教材与参考书。
新课讲解：第一章信息论基础1.1信息的概念1.2数字通信系统1.3 信源及其数学模型小结：本次课主要对信息的基本概念和特点，信息论研究的对象、目的和内容，信息论的形成和发展趋势，以及目前信息论与编码的主要研究成果进行讲解，给学生对《信息论与编码》这门课程有初步印象。
对无记忆信源、有记忆信源、马尔可夫信源进行详细讲解，并对其中重难点进行总结概括。
七、课外学习辅导安排及作业布置1、信息、信号、消息的定义是什么？三者的关系如何？2、寻找阅读和信息论与编码发展的有关资料。
3、通信系统的各个主要组成部分是什么？八、其他无第 3 次课教案一、讲授内容第2章信息的度量2.1 自信息量和互信息量二、教学目的及要求要求学生掌握自信息量、离散信源熵、互信息的概念及其求解方法，了解数据处理中信息的变化方式，熟悉并掌握熵的一些基本性质。
三、教学重点自信息量、离散信源熵、互信息的概念及其求解方法、数据处理中信息的变化方式、熵的性质。
四、教学难点离散信源熵、互信息的概念及其求解方法、熵的性质。
五、本讲计划学时及时间分配计划2个学时，主讲离散信源熵和互信息的基本概念和特点。
课程导入5分钟；自信息量概念及其求解方法介绍10分钟；离散信源熵的概念及其求解方法讲授15分钟，互信息的概念及其求解方法讲授25分钟，数据处理中信息的变化方式讲授10分钟，熵的性质讲授15分钟，课堂练习及课后习题讲解15分钟，本节课知识点总结5分钟。
六、实施步骤利用多媒体课件对主要知识点进行讲述，并辅以板书详解，具体如下：课程引入：对上次课的重点进行复习，简单介绍本次课的主要内容，并提出问题：信息可否度量？信息量如何来量测？小结：本次课主要对自信息量、离散信源熵、互信息、数据处理中信息的变化与熵的性质进行讲解，最好对其中涉及到的重难点进行总结概括。
七、课外学习辅导安排及作业布置教材P41 2-3第 4 次课教案一、讲授内容第2章信息的度量2.2 离散集的平均自信息量二、教学目的及要求要求学生掌握离散序列信源熵的概念与求解方法，掌握离散无记忆信源的序列熵与离散有记忆信源的序列熵的概念、特点与求解方法。
三、教学重点离散序列信源熵的概念与求解方法、离散无记忆信源的序列熵与离散有记忆信源的序列熵的概念、特点与求解方法。
四、教学难点离散有记忆信源的序列熵的概念、特点与求解方法。
五、本讲计划学时及时间分配计划2个学时，主讲离散序列信源熵。
课程导入5分钟；离散序列信源熵的概念与求解方法介绍20分钟；离散无记忆信源的序列熵的基本概念、特点与求解方法讲授25分钟，离散有记忆信源的序列熵的概念、特点与求解方法讲授30分钟；课堂练习及课后习题讲解15分钟，本次课知识点总结5分钟。
六、实施步骤利用多媒体课件对主要知识点进行讲述，并辅以板书详解，具体如下：课程引入：对上次课的重点进行复习，简单介绍本次课的基本内容，问题的提出：a．如何描述离散无记忆序列信源的序列熵？b。
如何描述离散有记忆序列信源（平稳序列和齐次遍历马氏信源）的序列熵？小结本次课主要对离散无记忆信源的序列熵、离散有记忆信源的序列熵进行详细讲解，最好对其中涉及到的重难点进行总结概括。
七、课外学习辅导安排及作业布置教材P41 2-4八、其他无第 5 次课教案一、讲授内容第2章信息的度量2.3 离散集的平均互信息量二、教学目的及要求要求学生掌握连续信源熵和互信息的基本概念，掌握幅度连续的单个符号信源熵的求解方法，了解波形信源熵的求解方法已经最大熵定理。
三、教学重点连续信源熵和互信息的基本概念、幅度连续的单个符号信源熵的求解方法、波形信源熵的求解方法已经最大熵定理。
四、教学难点波形信源熵的求解方法已经最大熵定理。
五、本讲计划学时及时间分配计划2个学时，主讲连续信源熵和互信息。
课程导入5分钟；幅度连续的单个符号信源熵概念及求解方法介绍25分钟；波形信源熵的概念及求解方法讲授25分钟，最大熵定理的讲解25分钟；课堂练习及课后习题讲解15分钟，本节课知识点总结5分钟。
六、实施步骤利用多媒体课件对主要知识点进行讲述，并辅以板书详解，具体如下：课程引入：对上次课的重点进行复习，简单介绍本次课的主要内容。
小结：本次课主要对幅度连续的单个符号信源熵、波形信源熵、最大熵定理进行讲解，最后对涉及到的重难点知识进行总结概括。
七、课外学习辅导安排及作业布置教材P43 2-20八、其他无第 2 次课教案一、讲授内容第1章信息论基础1.4 信道及其数学模型二、教学目的及要求要求学生掌握信道的基本概念，了解信道的分类，掌握信道参数与信道容量的定义及其求解方法。
三、教学重点信道的基本概念、信道的分类、信道参数与信道容量的定义及其求解方法。
四、教学难点信道参数与信道容量的定义及其求解方法五、本讲计划学时及时间分配计划2个学时，信道的基本概念。
课程导入5分钟；信道的基本概念阐述10分钟；信道的分类讲授15分钟；信道参数的概念讲解20分钟；信道容量的定义及其求解方法讲授30分钟；课堂练习及课后习题讲解15分钟，本节课知识点总结5分钟。
六、实施步骤利用多媒体课件对主要知识点进行讲述，并辅以板书详解，具体如下：课程引入：本章主要讨论在什么条件下，通过信道的信息量最大，即所谓的信道容量问题。
本章概念和定理也较多，较为抽象，课堂教学时考虑多讲述一些例题，着重阐明定理和公式的物理意义，对较为繁琐的推倒过程做了部分省略。
小结：本次课首先介绍了本章的主要内容，并对3.1小节进行详细讲解，总结其中的重难点。
七、课外学习辅导安排及作业布置教材P68 3-1八、其他无第9 次课教案一、讲授内容第4章离散信道的信道容量4.1信道容量的定义4.2离散无记忆信道容量的计算4.3组合信道的容量二、教学目的及要求要求学生掌握离散单个符号信道及其容量的基本概念，无干扰离散信道、对称DMC信道、准对称DMC信道与一般DMC信道的信道容量定义及其求解方法。
三、教学重点无干扰离散信道、对称DMC信道、准对称DMC信道与一般DMC信道的信道容量定义及其求解方法。
四、教学难点对称DMC信道、准对称DMC信道与一般DMC信道的新的容量定义及其求解方法。
五、本讲计划学时及时间分配计划2个学时，主讲离散单个符号信道及其容量的基本概念。
课程导入5分钟；无干扰离散信道的信道容量阐述15分钟；对称DMC信道的信道容量讲授25分钟；准对称DMC信道的信道容量讲解25分钟；一般DMC信道的信道容量定义及其求解方法讲授15分钟；课堂练习及课后习题讲解10分钟，本节课知识点总结5分钟。