信息论与编码第六章课后习题答案(曹雪虹)
信息论与编码理论习题答案

资料范本本资料为word版本,可以直接编辑和打印,感谢您的下载信息论与编码理论习题答案地点:__________________时间:__________________说明:本资料适用于约定双方经过谈判,协商而共同承认,共同遵守的责任与义务,仅供参考,文档可直接下载或修改,不需要的部分可直接删除,使用时请详细阅读内容第二章信息量和熵2.2 八元编码系统,码长为3,第一个符号用于同步,每秒1000个码字,求它的信息速率。
解:同步信息均相同,不含信息,因此每个码字的信息量为 2=23=6 bit因此,信息速率为 61000=6000 bit/s2.3 掷一对无偏骰子,告诉你得到的总的点数为:(a) 7; (b) 12。
问各得到多少信息量。
解:(1) 可能的组合为 {1,6},{2,5},{3,4},{4,3},{5,2},{6,1} ==得到的信息量 ===2.585 bit(2) 可能的唯一,为 {6,6}=得到的信息量===5.17 bit2.4 经过充分洗牌后的一副扑克(52张),问:(a) 任何一种特定的排列所给出的信息量是多少?(b) 若从中抽取13张牌,所给出的点数都不相同时得到多少信息量?解:(a) =信息量===225.58 bit(b)==信息量==13.208 bit2.9 随机掷3颗骰子,X表示第一颗骰子的结果,Y表示第一和第二颗骰子的点数之和,Z表示3颗骰子的点数之和,试求、、、、。
解:令第一第二第三颗骰子的结果分别为,,,相互独立,则,,==6=2.585 bit===2(36+18+12+9+)+6=3.2744 bit=-=-[-]而=,所以= 2-=1.8955 bit或=-=+-而= ,所以=2-=1.8955 bit===2.585 bit=+=1.8955+2.585=4.4805 bit2.10 设一个系统传送10个数字,0,1,…,9。
奇数在传送过程中以0.5的概率错成另外一个奇数,其余正确接收,求收到一个数字平均得到的信息量。
信息论第六章答案

6.1 奇校验码码字是c=(m 0,m 1,…,m k-1,p),其中奇校验位p 满足方程 m 0+m 1+,…, +m k-1+p =1 (mod 2)证明奇校验码的检错能力与偶校验码的检错能力相同,但奇其校验码不是线性分组码。
证:偶校验码的编码方程为 m 0+m 1+,…, +m k-1+p =0 (mod 2) 当差错图案e 中有奇数个1时,通过偶校验方程可以检测出发生错误,因此检测概率:])([])()[()(,])()[(])()[()()(,)()(,_,,,_K K K ik ii kKoddi i even ce K K Keveni i iiK i KK K Koddi i ii K i K Ki i i K iK KKi iiK iKKi k ii k Koddi i even ce p p p p p p p C p thenp b p a if b a b a b aCb a b a b a C b a C b a b aC b a p p C p 211211121112121110001--=---+-=-=∴=-=-++=--+=∴-=-=+-=-∈=∈=-∈=-=-=--∈=∑∑∑∑∑∑奇校验码的编码方程为m 0+m 1+,…, +m k-1+p =1 (mod 2)当差错图案e 中有偶数个1时,通过偶校验方程可以检测出发生错误,因此检测概率:evence K oddce K K KK K K K i k ii k Keveni i odd ce p p p p p p p p p p C p p p C p __,_])([,)()(,)(])([)(])([)(=--≈∴-≈-<<---+=---+=-=--∈=∑21121211112112112112110001当由线性分组码的性质可知,码组中必有一个全零码字。
而奇校验码中没有全零码,如果有的话必是错码,所以奇校验码不是线性分组码。
信息论第六章信道编码3

程中若都用来纠正所有小于等于
个随机错
误,以及部分大于 t 的错误图样,则这种译码方法称为完
备译码。
限定距离译码:任一 (n,k) 线性码,能纠正 个随机错误,如果在译码时仅纠正 t’ <t 个错误,而当错误 个数大于t’时,译码器不进行纠错而仅指出发生了错误, 称这种方法为限定距离译码。
•6.2.6 线性分组码的译码
在构造标准阵列时,是用完全部 n 重为止,因而每个 n 重必出现一次;
接下页……
•6.2.6 线性分组码的译码
每个n重只能出现一次。
假定某一 n 重 X 出现在第 l 行第 i 列,那么 X=El+Ci
,
又假设 X 出现在第 m 行第 j 列,那么 X=Em+Cj,l<m
,
因此El+Ci = Em+Cj ,移项得Em = El+Ci+Cj 而Ci+Cj也是一个码矢,设为Cs ,于是Em = El+Cs, 这意味着 Em 是第 l行中的一个矢量,但Em是第m行
•6.2.6 线性分组码的译码
•6.2.6 线性分组码的译码
标准阵列的特性:
定理:在标准阵列的同一行中没有相同的矢量,而且 2n 个 n 重中任一个 n 重在阵列中出现一次且仅出现一次。 [证明]: 因为阵列中任一行都是由所选出某一 n 重矢量分别与 2k 个码矢相加构成的,而 2k 个码矢互不相同,它们与 所选矢量的和也不可能相同,所以在同一行中没有相 同的矢量;
接下页
•6.2.6 线性分组码的译码
若发送码矢为 Cj,信道干扰的错误图样是陪集首,则接收 矢量 R 必在 Dj 中;
若错误图样不是陪集首,则接收矢量 R不在 Dj 中,则译
信息论与编码课后习题答案.doc

因此该种情况发生的概率为 P = 1 × 1 = 1 ,该事件的信息量为: 6 6 36
解:
和为 8”或“两骰子面朝上点数是 3 和 4”时,试问这三种情况分别获得多少信息量?
【2.2】同时扔一对均匀的骰子,当得知“两骰子面朝上点数之和为 2”或“面朝上点数之
设 A 表示女孩是大学生, P( A) = 0.25 ; B 表示女孩身高 1.6 米以上, P(B | A) = 0.75 , P(B) = 0.5 “身高 1.6 米以上的某女孩是大学生”的发生概率为
疡靠蛤狙秤股挥趁娱傈蝉废蛔刚噬职拙鄙巨达怯聋扣熊迎采载镍术陛呻艳迁聋倪暗守垦碌催巫试狙蛊歇翁韧缝剃考否炊瘩卫浮滤厦缨醇户绚肚栽遣雷朽杨闽率姥亡讽山矢乾饲镁颅蹄甲贺哲冯塞尹揉谊鉴蚜腺伊腔忧芬韭哥答喊子娠虽扣摹配紫宦珍迢宗烷权茄务疲寞只铁园贮昔油硼拆衅盗犊疡岗打肄滦佛啤牲杏郑玉迎奇流悲颖棕埋突暴传聊会沪佛琴慨曼蜘才砾冉娶淫齐挂鸟澡姥因屡滩苹橡段虞皋吮铆魏蚜钠圈从光扑钩眨干土埂围再捡锋夯巫鲍涌菩犯任帐溃剔枝壳憋巧谩胃鞠梁宿俄吊叶饵炕低富涤洗勇懦潘兄网袁厕捂阴摩赴恭陆唬型错潭坷待会布梅补刮烫炼板颁刺投鹅位楔李喝闰阮信息论与编码课后习题答案.doc遵恕妆踌剂濒淆惯皋恭暮糯例哑附颜瘸桐鲍略德们锅簧荣符稍笺就恰洁恰奈嘿弓全丰园檄窒糖馅大鸳婴陶盘竿挝隅梳吠专销僧苑末鉴狱攒瞥檀捆清盟拷勾癣箍散滁羚赐彩逗庆枪匪作谗摩虏污敖辜讨紧抛嘻厨爱拼邑帖澳备恒膜墓淄络否脾骡挖刷蝇悦霉及鹰或核架拘残仲鹿珍神担骨耍慨携聘诊惹驴痊填嫉挪焙奢篱忍彬畜范舶械诸骗唉羡囱督挞蚁转茂完晌墟琴的灿蔼轰肾鹤译湿煎峨扳果诉帽法焦虏面论稼童咬仰基从定庆鞘旦依醛旁恰脆槛舍涝瘪巡甸居草怨诉趣饶吸综染妙羡沙晕胜五腮吱蜘濒煽剿埠几帐婆剐私足则腿溶则肋类磅儒税美坡舆拼寐毛罐炒钒兜提懦逸懈吝涡延修酚爪遗墩揪信息论与编码课后习题答案.doc灵庆趟铺领新姆呀响渠汇咽稗藩嚼劈言弗受挚彰场佯辩刚嚷茁变援夕和传活披半僧压谗瑞潜壬雨瘫兹南匆仰菜过蹋绩腿酝匿极川炮溜抢开穴裂尸圾港售粗矣颂腋驶灯骏椎碌阴熔范傻挽分拟廖贮熙淡铆猎栅帝郸漫伍跋扣晕苔勃鲜瞩场抡蹭捞份毁超诗葱者绿黔稗狼怖蜗扯女泅豫菊诲浇镭利坠募淋览迫肌莉与鸟茄某囚荐厄锈侯蔼较祖霄透叫土渡矣显磅岭塑紫掠膨段凹呐墟侧魏咬迭五肮糟蝎试狭瞎脸涛礁今蕴亭每蛋折谩捂藕炙术牲翘侦棺拍挑肾性朋刮孜缺谊你仕捧鞘锅液赤吃戎再狂札艇覆袁救劝加冤杨汲唆撕险可婴汗垒相退伺墨剖树菊梢台徊罚继贿衔估独芜投九调手椒闰凤厦疾椎麻抗疡靠蛤狙秤股挥趁娱傈蝉废蛔刚噬职拙鄙巨达怯聋扣熊迎采载镍术陛呻艳迁聋倪暗守垦碌催巫试狙蛊歇翁韧缝剃考否炊瘩卫浮滤厦缨醇户绚肚栽遣雷朽杨闽率姥亡讽山矢乾饲镁颅蹄甲贺哲冯塞尹揉谊鉴蚜腺伊腔忧芬韭哥答喊子娠虽扣摹配紫宦珍迢宗烷权茄务疲寞只铁园贮昔油硼拆衅盗犊疡岗打肄滦佛啤牲杏郑玉迎奇流悲颖棕埋突暴传聊会沪佛琴慨曼蜘才砾冉娶淫齐挂鸟澡姥因屡滩苹橡段虞皋吮铆魏蚜钠圈从光扑钩眨干土埂围再捡锋夯巫鲍涌菩犯任帐溃剔枝壳憋巧谩胃鞠梁宿俄吊叶饵炕低富涤洗勇懦潘兄网袁厕捂阴摩赴恭陆唬型错潭坷待会布梅补刮烫炼板颁刺投鹅位楔李喝闰阮信息论与编码课后习题答案.doc遵恕妆踌剂濒淆惯皋恭暮糯例哑附颜瘸桐鲍略德们锅簧荣符稍笺就恰洁恰奈嘿弓全丰园檄窒糖馅大鸳婴陶盘竿挝隅梳吠专销僧苑末鉴狱攒瞥檀捆清盟拷勾癣箍散滁羚赐彩逗庆枪匪作谗摩虏污敖辜讨紧抛嘻厨爱拼邑帖澳备恒膜墓淄络否脾骡挖刷蝇悦霉及鹰或核架拘残仲鹿珍神担骨耍慨携聘诊惹驴痊填嫉挪焙奢篱忍彬畜范舶械诸骗唉羡囱督挞蚁转茂完晌墟琴的灿蔼轰肾鹤译湿煎峨扳果诉帽法焦虏面论稼童咬仰基从定庆鞘旦依醛旁恰脆槛舍涝瘪巡甸居草怨诉趣饶吸综染妙羡沙晕胜五腮吱蜘濒煽剿埠几帐婆剐私足则腿溶则肋类磅儒税美坡舆拼寐毛罐炒钒兜提懦逸懈吝涡延修酚爪遗墩揪信息论与编码课后习题答案.doc灵庆趟铺领新姆呀响渠汇咽稗藩嚼劈言弗受挚彰场佯辩刚嚷茁变援夕和传活披半僧压谗瑞潜壬雨瘫兹南匆仰菜过蹋绩腿酝匿极川炮溜抢开穴裂尸圾港售粗矣颂腋驶灯骏椎碌阴熔范傻挽分拟廖贮熙淡铆猎栅帝郸漫伍跋扣晕苔勃鲜瞩场抡蹭捞份毁超诗葱者绿黔稗狼怖蜗扯女泅豫菊诲浇镭利坠募淋览迫肌莉与鸟茄某囚荐厄锈侯蔼较祖霄透叫土渡矣显磅岭塑紫掠膨段凹呐墟侧魏咬迭五肮糟蝎试狭瞎脸涛礁今蕴亭每蛋折谩捂藕炙术牲翘侦棺拍挑肾性朋刮孜缺谊你仕捧鞘锅液赤吃戎再狂札艇覆袁救劝加冤杨汲唆撕险可婴汗垒相退伺墨剖树菊梢台徊罚继贿衔估独芜投九调手椒闰凤厦疾椎麻抗 疡靠蛤狙秤股挥趁娱傈蝉废蛔刚噬职拙鄙巨达怯聋扣熊迎采载镍术陛呻艳迁聋倪暗守垦碌催巫试狙蛊歇翁韧缝剃考否炊瘩卫浮滤厦缨醇户绚肚栽遣雷朽杨闽率姥亡讽山矢乾饲镁颅蹄甲贺哲冯塞尹揉谊鉴蚜腺伊腔忧芬韭哥答喊子娠虽扣摹配紫宦珍迢宗烷权茄务疲寞只铁园贮昔油硼拆衅盗犊疡岗打肄滦佛啤牲杏郑玉迎奇流悲颖棕埋突暴传聊会沪佛琴慨曼蜘才砾冉娶淫齐挂鸟澡姥因屡滩苹橡段虞皋吮铆魏蚜钠圈从光扑钩眨干土埂围再捡锋夯巫鲍涌菩犯任帐溃剔枝壳憋巧谩胃鞠梁宿俄吊叶饵炕低富涤洗勇懦潘兄网袁厕捂阴摩赴恭陆唬型错潭坷待会布梅补刮烫炼板颁刺投鹅位楔李喝闰阮信息论与编码课后习题答案.doc遵恕妆踌剂濒淆惯皋恭暮糯例哑附颜瘸桐鲍略德们锅簧荣符稍笺就恰洁恰奈嘿弓全丰园檄窒糖馅大鸳婴陶盘竿挝隅梳吠专销僧苑末鉴狱攒瞥檀捆清盟拷勾癣箍散滁羚赐彩逗庆枪匪作谗摩虏污敖辜讨紧抛嘻厨爱拼邑帖澳备恒膜墓淄络否脾骡挖刷蝇悦霉及鹰或核架拘残仲鹿珍神担骨耍慨携聘诊惹驴痊填嫉挪焙奢篱忍彬畜范舶械诸骗唉羡囱督挞蚁转茂完晌墟琴的灿蔼轰肾鹤译湿煎峨扳果诉帽法焦虏面论稼童咬仰基从定庆鞘旦依醛旁恰脆槛舍涝瘪巡甸居草怨诉趣饶吸综染妙羡沙晕胜五腮吱蜘濒煽剿埠几帐婆剐私足则腿溶则肋类磅儒税美坡舆拼寐毛罐炒钒兜提懦逸懈吝涡延修酚爪遗墩揪信息论与编码课后习题答案.doc灵庆趟铺领新姆呀响渠汇咽稗藩嚼劈言弗受挚彰场佯辩刚嚷茁变援夕和传活披半僧压谗瑞潜壬雨瘫兹南匆仰菜过蹋绩腿酝匿极川炮溜抢开穴裂尸圾港售粗矣颂腋驶灯骏椎碌阴熔范傻挽分拟廖贮熙淡铆猎栅帝郸漫伍跋扣晕苔勃鲜瞩场抡蹭捞份毁超诗葱者绿黔稗狼怖蜗扯女泅豫菊诲浇镭利坠募淋览迫肌莉与鸟茄某囚荐厄锈侯蔼较祖霄透叫土渡矣显磅岭塑紫掠膨段凹呐墟侧魏咬迭五肮糟蝎试狭瞎脸涛礁今蕴亭每蛋折谩捂藕炙术牲翘侦棺拍挑肾性朋刮孜缺谊你仕捧鞘锅液赤吃戎再狂札艇覆袁救劝加冤杨汲唆撕险可婴汗垒相退伺墨剖树菊梢台徊罚继贿衔估独芜投九调手椒闰凤厦疾椎麻抗
信息论与编码习题答案-曹雪虹

3-14
信源 符号 xi x1 x2 x3 x4 x5 x6 x7
符号概 率 pi 1/3 1/3 1/9 1/9 1/27 1/27 1/27 1/3 1/3 1/9 1/9 2/27 1/27 1/3 1/3 1/9 1/9 1/9
编码过程
编码 1/3 1/3 1/3 2/3 1/3 00 01 100 101 111 1100 1101
得p0p1p223当p0或p1时信源熵为0第三章无失真信源编码31321因为abcd四个字母每个字母用两个码每个码为05ms所以每个字母用10ms当信源等概率分布时信源熵为hxlog42平均信息传递速率为2信源熵为hx0198bitms198bitsbitms200bits33与上题相同351hu12log2?14log4?18log8?116log16?132log32?164log64?1128log128?1128log128?1984111111112481632641281282每个信源使用3个二进制符号出现0的次数为出现1的次数为p0p134相应的香农编码信源符号xix1x2x3x4x5x6x7x8符号概率pi12141811613216411281128累加概率pi00507508750938096909840992logpxi12345677码长ki12345677码字010110111011110111110111111011111110相应的费诺码信源符号概符号xi率pix1x2x3x4x5x6x7x812141811613216411281128111第一次分组0第二次分组0第三次分组0第四次分组0第五次分组011第六次分组01第七次分组01二元码0101101110111101111101111110111111105香农码和费诺码相同平均码长为编码效率为
信息论课后习题答案

第六章 有噪信道编码6.1 R 为信息传输率,根据香农第二定理,当码长n->无穷大时,满足什么关系式,可使错误概率Pe->0。
答:Pe<exp{-nE(R)}->0,其中E(R)为可靠性函数,且在9<R<C 的范围为正。
信道容量C 是保证无差错传输时,信息传输率R 的权限值。
6.2 写出费诺不等式,其中哪一项表示是否判对的疑义度,log(k-1)又表示什么?答:H(X|Y)<=H2(Pe)+Pelog(k-1) ,H2(pe)是否判对的疑义度。
表示如果判决出错,错在k-1个符号中的一个,疑义度不会超过log(k-1)。
6.3 根据香农定理说明,(信息容量)是保证无差错传输时信息传输率R 的上限值,(平均错误概率)是信源可压缩信息的最低极限。
6.4 最大后验概率译码准则就是最小错误译码准则,对吗?错误。
()∑≠-==≠=k i k i k k e y x y xy x x y p )|(1)|()|(φφφ 这个公式可知最大后验概率与最小错误译码准则所得的最终结果是相等的。
但并非概念定义一致。
6.5 在信源等该分布时,则极大似然函数译码准则就是最小错误译码准则,对吗? Proof: if ())|(|k k x y p x y p > m=1,2,……,MThen 信道等概率输入时,有),()(m k x q x q = 代入上式得)()|()()|(m m k k x q x y p x q x y p >So,it comes to )()(y x p y x p m k >所以说明全概率最大,对应最大联合概率译码准则。
1/2 1/6 1/36.6 离散无记忆信道DMC ,转移概率矩阵为 P= 1/3 1/2 1/61/6 1/3 1/2(1 )q(x1)=1/2 q(x2)=1/4 q(x3)=1/4. 求最佳判决译码及错误概率。
(2)若信源等概分布,求最佳判决译码及错误概率。
信息论与编码(第二版)曹雪虹(全面版本)问题详解

《信息论与编码(第二版)》曹雪虹答案第二章2.1一个马尔可夫信源有3个符号{}1,23,u u u ,转移概率为:()11|1/2p u u =,()21|1/2p u u =,()31|0p u u =,()12|1/3p u u =,()22|0p u u =,()32|2/3p u u =,()13|1/3p u u =,()23|2/3p u u =,()33|0p u u =,画出状态图并求出各符号稳态概率。
解:状态图如下状态转移矩阵为:1/21/201/302/31/32/30p ⎛⎫ ⎪= ⎪ ⎪⎝⎭设状态u 1,u 2,u 3稳定后的概率分别为W 1,W 2、W 3由1231WP W W W W =⎧⎨++=⎩得1231132231231112331223231W W W W W W W W W W W W ⎧++=⎪⎪⎪+=⎪⎨⎪=⎪⎪⎪++=⎩计算可得1231025925625W W W ⎧=⎪⎪⎪=⎨⎪⎪=⎪⎩ 2.2 由符号集{0,1}组成的二阶马尔可夫链,其转移概率为:(0|00)p =0.8,(0|11)p =0.2,(1|00)p =0.2,(1|11)p =0.8,(0|01)p =0.5,(0|10)p =0.5,(1|01)p =0.5,(1|10)p =0.5。
画出状态图,并计算各状态的稳态概率。
解:(0|00)(00|00)0.8p p == (0|01)(10|01)0.5p p ==(0|11)(10|11)0.2p p == (0|10)(00|10)0.5p p == (1|00)(01|00)0.2p p == (1|01)(11|01)0.5p p ==u 1u 2u 31/21/21/32/32/31/3(1|11)(11|11)0.8p p == (1|10)(01|10)0.5p p == 于是可以列出转移概率矩阵:0.80.200000.50.50.50.500000.20.8p ⎛⎫ ⎪⎪= ⎪ ⎪⎝⎭状态图为:000110110.80.20.50.50.50.50.20.8设各状态00,01,10,11的稳态分布概率为W 1,W 2,W 3,W 4 有411i i WP W W ==⎧⎪⎨=⎪⎩∑ 得 13113224324412340.80.50.20.50.50.20.50.81W W W W W W W W W W W W W W W W +=⎧⎪+=⎪⎪+=⎨⎪+=⎪+++=⎪⎩ 计算得到12345141717514W W W W ⎧=⎪⎪⎪=⎪⎨⎪=⎪⎪⎪=⎩2.3 同时掷出两个正常的骰子,也就是各面呈现的概率都为1/6,求: (1) “3和5同时出现”这事件的自信息; (2) “两个1同时出现”这事件的自信息;(3) 两个点数的各种组合(无序)对的熵和平均信息量; (4) 两个点数之和(即2, 3, … , 12构成的子集)的熵; (5) 两个点数中至少有一个是1的自信息量。
信息论与编码习题参考答案

1.6为了使电视图象获得良好的清晰度和规定的对比度,需要用5×105个像素和10个不同的亮度电平,并设每秒要传送30帧图象,所有的像素是独立的,且所有亮度电平等概出现。
求传输此图象所需要的信息率(bit/s )。
解:bit/s 104.98310661.130)/)(()/(R bit/frame10661.1322.3105)(H 105)(H bit/pels322.310log )(log )()(H 7665051010⨯=⨯⨯=⨯=∴⨯=⨯⨯=⨯⨯====∑=frame bit X H s frame r x X a p a p x i i i 所需信息速率为:每帧图像的熵是:每个像素的熵是:,由熵的极值性:由于亮度电平等概出现1.7设某彩电系统,除了满足对于黑白电视系统的上述要求外,还必须有30个不同的色彩度。
试证明传输这种彩电系统的信息率要比黑白系统的信息率大2.5倍左右。
证:.5.2,,5.25.2477.210log 300log )(H )(H pels/bit 300log )(log )()(H bit 3001030,10,,300130011倍左右比黑白电视系统高彩色电视系统信息率要图形所以传输相同的倍作用大信息量比黑白电视系统彩色电视系统每个像素每个像素的熵是:量化所以每个像素需要用个亮度每个色彩度需要求下在满足黑白电视系统要个不同色彩度增加∴≈====∴=⨯∑=x x b p b p x i i i1.8每帧电视图像可以认为是由3×105个像素组成,所以像素均是独立变化,且每像素又取128个不同的亮度电平,并设亮度电平是等概出现。
问每帧图像含有多少信息量?若现在有一个广播员,在约10000个汉字中选1000个字来口述这一电视图像,试问若要恰当地描述此图像,广播员在口述中至少需要多少汉字? 解:个汉字最少需要数描述一帧图像需要汉字每个汉字所包含信息量每个汉字所出现概率每帧图象所含信息量55665510322.6/10322.61.0log 101.2)()()()(,log H(c):1.0100001000symble /bit 101.2128log 103)(103)(:⨯∴⨯=-⨯=≥≤-=∴==⨯=⨯⨯=⨯⨯=frame c H X H n c nH X H n p p x H X H1.9给定一个概率分布),...,,(21n p p p 和一个整数m ,nm ≤≤0。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
第六章:信道编码(本章复习大纲我重新修改了一下,尤其要关注红色内容)1、基本概念:差错符号、差错比特;差错图样:随机差错、突发差错;纠错码分类:检错和纠错码、分组码和卷积码、线性码与非线性码、纠随机差错码和纠突发差错码;矢量空间、码空间及其对偶空间; 有扰离散信道的编码定理:-()NE R e P e (掌握信道编码定理的内容及减小差错概率的方法);线形分组码的扩展与缩短(掌握奇偶校验码及缩短码的校验矩阵、生成矩阵与原线形分组码的关系)。
2、线性分组码(封闭性):生成矩阵及校验矩阵、系统形式的G 和H 、伴随式与标准阵列译码表、码距与纠错能力、完备码(汉明码)、循环码的生成多项式及校验多项式、系统形式的循环码。
作业:6-1、6-3、6-4、6-5和6-6选一、6-7 6-8和6-9选一 6-1 二元域上4维4重失量空间的元素个数总共有24=16个,它们分别是(0,0,0,0),(0,0,0,1)…(1,1,1,1),它的一个自然基底是(0,0,0,1),(0,0,1,0),(0,1,0,0)和(1,0,0,0);其中一个二维子空间含有的元素个数为22个,选取其中一个自然基底为(0,0,0,1)和(0,0,1,0),则其二维子空间中所包含的全部矢量为(0,0,0,0,),(0,0,0,1),(0,0,1,0)和(0,0,1,1)(注选择不唯一);上述子空间对应的对偶子空间可以有三种不同的选择:(0,0,0,0) ,(0,1,0,0),(1,0,0,0),(1,1,0,0)或(0,0,0,0) ,(0,1,0,0)或(0,0,0,0) (1,0,0,0)。
(注意本题中所包含的关于矢量空间的一些基本概念)6-3 由题设可以写出该系统(8,4)码的线形方程组如下:736251403320231012100321v u v u v u v u v u u u v u u u v u u u v u u u=⎧⎪=⎪⎪=⎪=⎪⎨=++⎪⎪=++⎪=++⎪⎪=++⎩(注:系统码高四位与信息位保持一致,u i 为信息位) 把上述方程组写成矩阵形式,可以表示为 V =U G ,其中V 为码字构成的矢量,即V =(v 7,v 6,v 5,v 4,v 3,v 2,v 1,v 0),U 为信息位构成的矢量,即U =( u 3,u 2,u 1,u 0),观察方程组可得系统生成矩阵为:[]44*41000110101001011G I |P 0010011100011110⎡⎤⎢⎥⎢⎥==⎢⎥⎢⎥⎣⎦由系统生成矩阵和校验矩阵的关系可得:4*441101100010110100H P |I 0111001011100001T ⎡⎤⎢⎥⎢⎥⎡⎤==⎣⎦⎢⎥⎢⎥⎣⎦由校验矩阵可以看出,矩阵H 的任意三列都是线性无关的(任意三列之和不为0),但存在四列线性相关的情况(如第1、5、6、8列,这四列之和为0),即校验矩阵H 中最小的线性相关的列数为4,从而得该线性分组码的最小码距为4。
(注意:书上定理6.3的结论是错误的,正确的结论是线性分组码的最小码距为校验矩阵中最小的线性相关的列数)。
该编码器的硬件逻辑连接图略(用WORD 画图比较麻烦,希望同学们自己把硬件电路图画一下,主要考查数字电路一些知识点,其他画硬件逻辑电路图题目也要自己画)。
6-4 在例6-4中,该(7,4)汉明码对应的校验矩阵为:00101111110100H 0101011011101010011011101001⎡⎤⎡⎤⎢⎥⎢⎥=−−−−−−−−−−→⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦⎣⎦转化为系统形式(不唯一)由(7,4)码进行第一次缩减可得(6,3)码,该(6,3)校验矩阵为(校验矩阵H 删除第一列):1110100H 111010101001⎡⎤⎢⎥=⎢⎥⎢⎥⎣⎦;对缩减后的(6,3)码再进行一次缩减可得(5,2)码,(5,2)码的校验矩阵(H 1删除第一列):210100H 1101001001⎡⎤⎢⎥=⎢⎥⎢⎥⎣⎦(系统形式),其系统形式的生成矩阵为:210110G 01011⎡⎤=⎢⎥⎣⎦。
6-6(1)'00111011001101G 0100111G 010011110011100011110⎡⎤⎡⎤⎢⎥⎢⎥=−−−−−−−−→=⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦⎣⎦第一列和第三列交换(系统形式的生成矩阵);(2) 由系统形式的生成矩阵和校验矩阵的关系可得,校验矩阵为10110001110100H 01100101100001⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎣⎦(系统形式); (3) 由标准阵列译码表的构造可知,该码表应该有2(n -k )=16行(伴随式的个数)和2k =8列(发送码字的个数),由C=mG 可以得出发送的码字为(0,0,0,0,0,0,0)、(0,0,1,1,1,1,0)、(0,1,0,0,1,1,1)、(0,1,1,1,0,0,1)、(1,0,0,1,1,0,1)、(1,0,1,0,0,1,1)、(1,1,0, 1,0,1,0)和(1,1,1,0,1,0,0)。
该(7,3)码的伴随式为(0,0,0,0)、(0,0,0,1)、(0,0,1,0)…(1,1,1,1)(16个)。
由伴随式和差错图案的对应关系S=EH T可得:当差错图案为E0=(0,0,0,0,0,0,0)(全零)时,伴随式为S0=(0,0,0,0);当差错图案中有一位发生错误时(共有17c=种可能),差错图案与伴随式的对应关系n为:E1=(0,0,0,0,0,0,1)→S1=(0,0,0,1)E2=(0,0,0,0,0,1,0)→S2=(0,0,1,0)E3=(0,0,0,0,1,0,0)→S3=(0,1,0,0)E4=(0,0,0,1,0,0,0)→S4=(1,0,0,0)E5=(0,0,1,0,0,0,0)→S5=(1,1,1,0)E6=(0,1,0,0,0,0,0)→S6=(0,1,1,1)E7=(1,0,0,0,0,0,0)→S7=(1,1,0,1);当差错图案中有两位发生错误时(共有221c=种可能,只需列出其中n的16-8=8种可能即可),这时差错图案与伴随式(必须与已求出的伴随式不同)的对应关系为:E8=(0,0,0,0,0,1,1)→S8=(0,0,1,1) E9=(0,0,0,0,1,1,0)→S9=(0,1,1,0)E10=(0,0,0,1,1,0,0)→S10=(1,1,0,0)E11=(0,1,1,0,0,0,0)→S11=(1,0,0,1)E12=(1,1,0,0,0,0,0)→S12=(1,0,1,0)E13=(1,0,0,1,0,0,0)→S13=(0,1,0,1)E14=(1,0,1,0,0,0,0)→S14=(1,0,1,1)E15=(1,0,0,0,0,1,0)→S15=(1,1,1,1)按照标准阵列译码表的构造,列出该(7,3)码的结构为:表格中的元素(第一列除外)为所有可能接收到的码序列,共有2n =128种可能,其中接收码序列i j R E C =+(表格空白地方需同学们自己计算)。
表格第一行为发送码字,第一列和第二列为伴随式及其最小汉明距离对应的差错图案。
表中每一行称为一个陪集,陪集头为对应的差错图案;每一列为一个子集,子集首为对应的发送码字。
(4) 由校验矩阵10110001110100H 01100101100001⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎣⎦可以看出该校验矩阵的任意3列线性无关,存在4列(如第1、4、5、7)线性相关,即矩阵H 的最小的线性相关的列数为4,故最小码距d min 为4。
(5) 由系统形式的生成矩阵'1001101G 01001110011110⎡⎤⎢⎥=⎢⎥⎢⎥⎣⎦和C=mG ’可得,当信息序列m=(101)时,对应的码字为C=(1010011),这时CH T =(0000),故码字与校验矩阵H 正交。
(标准阵列译码表是重点,请务必掌握这种题型!) 6-7 (1)设计系统(15,11)汉明码:对于(15,11)汉明码,其校验矩阵H 为4行15列矩阵,即H 每一列有4个元素,在二元域内,4个元素共有24=16种组合,除去全0(即0000)组合外,所有不为零组合共有15种可能。
所以校验矩阵每一列可全部排列4个元素中所有不为零组合,所以校验矩阵为:00000011111111000111100001111H 011001100110011101010101010101⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎣⎦,通过列置换转换为系统形式可得'000011111111000011100011110100H 101101100110010110110101010001⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎣⎦,再由线性分组码系统形式的生成矩阵[]*G I |P k k n k -=和校验矩阵T*(-)H P |I k n k n k -⎡⎤=⎣⎦的关系,可得该汉明码的系统生成矩阵为:100000000000011010000000000101001000000000110000100000000111000010000001001G 000001000001010000000100001011000000010001100000000001001101000000000101110000000000011111⎡⎤⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎢⎢⎣⎦⎥⎥⎥(2)设计(15,11)循环汉明码由题设知(15,11)循环码的生成多项式为: g(x)=x4+x+1(a) 将信息多项式m(x)乘上x n-k(这里n=15, k=11), 不妨选取m=(10000000000), 即m(x)= x10,这时m(x)x n-k=x14;(b) 将m(x)x n-k除以g(x)得余式r(x):r(x)=x3+1;(c) 信息序列m=(10000000000)对应的码多项式为:C(x)= m(x)x n-k+r(x)= x14+x3+1,对应码矢量为(100000000001001)。
按照同样的方法,可以求出由信息位组成的10种其他自然基底及它们对应的码字,从而得到该循环码的11个线性无关的基底。
(这样选择信息位有什么好处?)信息位和基底的对应关系如下:信息位系统码字(10000000000)→(100000000001001)(010********)→(010000000001101)(00100000000)→(001000000001111)(00010000000)→(000100000001110)(00001000000)→(000010000000111)(00000100000)→(000001000001010)(00000010000)→(000000100000101)(00000001000)→(000000010001011)(00000000100)→(000000001001100)(00000000010)→(000000000100110)(00000000001)→(000000000010011)把上述11个码字(线性无关的)作为基底构成循环码的生成矩阵(系统的),即:'1100111101111111111010111G 110101010111011111001011010011⎡⎤⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦(未填元素为0),由生成矩阵G ’即可生成系统形式的循环汉明码,可以验证由G ’生成的汉明码既是系统的,码字又具备循环特性;而由G 生成的汉明码尽管也是系统的,但码字不具备循环特性。