信息论导引第二章答案
信息论导引第二章答案
1. 以下对信息流的说法正确的是? *
A、基于百度信息流资讯，穿插展现在内容资讯中的原生广告(正确答案)
B、上下文信息内容更匹配，广告与信息流资讯更融合(正确答案)
C、内容页相关推荐广告更符合阅读环境与展示场景(正确答案)
D、定向展示，更符合TA阅读及消费行为(正确答案)
2. 百度信息流自有四大app平台是? *
A、手机百度(正确答案)
B、百度贴吧(正确答案)
C、好看视频(正确答案)
D、全民小视频(正确答案)
3.信息流广告投放中，按媒体支持哪些流量来源?（） *
A.百度信息流(正确答案)
B.贴吧信息流(正确答案)
C.好看视频(正确答案)
D.百青藤(正确答案)
4.百度信息流推广的优势有哪些?（） *
A.定向精准，高效曝光(正确答案)
B.跨屏多场景覆盖(正确答案)
C.AI赋能，激活创意(正确答案)
D.内容偏原生，接受度高(正确答案)
5. 百度信息流购买方式有? *
A、cpc(正确答案)
B、cpt(正确答案)
C、cpm(正确答案)
D、ocpc
6. 信息流cpm购买方式最低购买（）个cpm? [单选题] *
A、1
B、100
C、500
D、1000(正确答案)
7.信息流推广定向方式包括: （） *
A.年龄(正确答案)
B.性别(正确答案)
C.意图定向(正确答案)
D.操作系统(正确答案)
8.百度信息流中下列哪个定向不属于人口信息类定向（） [单选题] *
A.年龄
B.性别
C.学历
D.意图词(正确答案)
9. 信息流意图定向是基于哪几个维度对投放人群进行圈定的? *
A、长期兴趣(正确答案)
B、近期浏览行为
C、意图标签(正确答案)
D、意图词(正确答案)
10.关于百度双引擎“搜索+信息流”，其中信息流是如何实现“找到对的人”?（） *
A.通过搜索行为定位潜在人群的自然属性(正确答案)
B.通过搜索行为定位潜在人群的社会属性(正确答案)
C.通过搜索行为定位潜在人群的兴趣偏好(正确答案)
D.通过搜索行为定位潜在人群的位置行为LBS(正确答案)
11. 信息流竞价广告竞价机制为:cpc*预估ctr [判断题] *
对(正确答案)
错
12. 能够快速助力广告主渡过投放冷启动阶段的工具是? [单选题] *
A、定向包管理
B、云图工具(正确答案)
C、商品目录投放批量工具
D、意图词推荐
13. 信息流推广账户基础结构包括? *
A、计划(正确答案)
B、意图词
C、创意(正确答案)
D、单元(正确答案)
14. 信息流广告创意优化三路径*
A、撰写创意(正确答案)
B、创意配图(正确答案)
C、选择卖点(正确答案)
D、优化描述
15. 以下哪些属于信息流优化的开源手段? *
A、提升预算，增加计划消费(正确答案)
B、参照展现优化部分拓展，增加展现量(正确答案)
C、减少劣质创意数量
D、兴趣定向单独提价(正确答案)
16. 以下哪些属于信息流优化的节流手段? *
A、减少劣质创意数量(正确答案)
B、降价、删除(正确答案)
C、增加创意数量，提高创意质量
D、分行业提高出价
17.以下关于搜索产品和信息流产品的描述正确的是?（） *
A.搜索推广是用户主动输入某个词语，触发相关广告的营销推广方式(正确答案)
B.信息流推广是广告主通过设置目标人群定向，将信息主动推送给用户的营销方式(正确答案)
C.用户的搜索词有可能和客户购买的关键词不一样(正确答案)
D.信息流的意图词包含了用户的多种行为，如搜索、浏览、点击等行为的追踪(正确答案)
18.百度信息流流量矩阵包括哪些资源?（）分值 *
A.百度APP(正确答案)
B.百度贴吧(正确答案)
C.好看视频(正确答案)
D.百青藤(正确答案)
19.百度信息流CPC推广中单元有哪几种状态，分别表示什么?（）分值 [单选题] *
A.有效、暂停推广、推广计划暂停(正确答案)
B.有效、暂停推广
C.有效、处于暂停时段
D.有效、暂停推广、处于暂停时段
20.百度信息流CPC推广中计划有哪几种状态，分别表示什么?（）分值 [单选题] *
A.有效、暂停推广、处于暂停时段、预算不足(正确答案)
B.有效、无效、处于暂停时段、预算不足
C.无法推广、有效、无效、预算不足
D.有效、审核中、处于暂停时段、预算不足
21.百度信息流CPC推广中预算设置可以在哪些层级设置?（）分值 [单选题] *
A.账户层级
B.账户、计划、单元
C.账户、计划(正确答案)
D.账户、单元
22.百度信息流CPC账户中单元定向功能包括以下哪些选项?（）分值 [单选题] *
A.地域、性别、关键词
B.地域、性别、年龄、设备
C.地域、性别、设备
D.地域、性别、年龄、关键词、操作系统(正确答案)
23.百度信息流产品样式包括哪些?（）分值 *
A.橱窗样式(正确答案)
B.翻转样式(正确答案)
C.大图样式(正确答案)
D.社交互动样式(正确答案)
24.百度信息流广告的实际点击扣费公式是什么?（）分值 [单选题] *
A.实际点击扣费=下一位的出价*下一位的CTR/自己的CTR+0.01元(正确答案)
B.实际点击扣费=下一位的出价*下一位的CTR/自己的CTR
C.实际点击扣费=下一位的出价*自己的CTR/下一位的CTR+0.01元
D.实际点击扣费=下一位的出价*自己的CTR/下一位的CTR
25.百度信息流合约广告购买方式有哪些?（）分值 *
A.CPT(正确答案)
B.CPM(正确答案)
C.CPC
D.CPS
26.百度信息流推广定向体系中基础定向包含以下哪些定向功能?（）分值 *
A.年龄(正确答案)
B.学历(正确答案)
C.地域(正确答案)
D.人生阶段(正确答案)
27.百度信息流推广有哪几种素材类型?（）分值 *
A.组图(正确答案)
B.大图(正确答案)
C.单图(正确答案)
D.视频(正确答案)
28.百度信息流意图标签是基于以下哪些用户行为识别用户意图的?（）分值 *
A.搜索行为(正确答案)
B.浏览行为(正确答案)
C.用户画像(正确答案)
D.LBS数据(正确答案)
29.百度信息流有哪些展现样式?（）分值 *
A.大图(正确答案)
B.三图(正确答案)
C.视频(正确答案)
D.单图(正确答案)
30.客户在投放信息流广告时，在同一个单元添加了关键词和兴趣，广告的展现逻辑是什么? （）分值 [单选题] *
A.浏览/搜索过相应关键词
B.符合长期兴趣
C.以上两者都满足时展现(正确答案)
D.满足其中之一时展现
31.客户只想上海用户看到他的信息流广告，需要在哪个层级进行设置（）分值[单选题] *
A.计划层级
B.单元层级(正确答案)
C.账户层级
D.创意层级
32.老王不希望他的信息流推广在周六周日有推广，他不需要在账户哪一个层级进行设置?（）分值 *
A.推广单元(正确答案)
B.推广计划
C.创意(正确答案)
D.账户(正确答案)
33.某客户在百度信息流测试投放过程中，发现效果不好，以下哪些操作有可能优化效果?（）分值 *
A.修改投放时段(正确答案)
B.修改投放地域(正确答案)
C.修改投放媒体
D.修改意图词定向(正确答案)
34.相比其它信息流广告平台，以下哪些属于百度信息流广告的优势?（）分值 *
A.流量优势:依托百度首页，覆盖95%全网人群(正确答案)
B.场景优势:搜索+阅读+社交，多维营销场景(正确答案)
C.内容优势:上万家合作媒体+上万家百家号自媒体+贴吧热点事件、明星及话题(正确答案)
D.技术优势:4重核心定向—人群属性+搜索意图+行为数据+兴趣爱好(正确答案)
35.的账户中，通过信息流推广得到的点击量较少，可能是由于下列哪些原因?（）分值 *
A.出价过低(正确答案)
B.限制了地域投放(正确答案)
C.预算设置过低(正确答案)
D.人群定向覆盖人群过少(正确答案)
36.小吴完成了百度信息流CPC投放设置，但是广告却没有得到展现，可能的原因有哪些?（）分值 *
A.出价过低(正确答案)
B.余额为零(正确答案)
C.创意被拒(正确答案)
D.处于暂停时段(正确答案)
37.小吴在信息流推广单元层级设置的出价为2.5元，单元内某关键词出价为1元，则此单元创意将遵循哪个出价?（）分值 [单选题] *
A.1元(正确答案)
B.3.5元
C.2.5元
D.3元
38.小吴在信息流账户层级设置的每日预算为2500元，在推广计划层级设置的每日预算为1500元，且此账户只有这一个计划处于有效状态，则实际每日花费可能是多少?（）分值 *
A.2500元
B.1500元(正确答案)
C.1000元(正确答案)
D.3500元
39.小吴只想让北京的用户看到他的信息流推广信息，那么他需要在账户哪一个层级进行设置?（）分值 [单选题] *
A.推广单元(正确答案)
B.推广计划
C.创意
D.账户
40.信息流广告CPC实际点击扣费取决于哪些因素?（）分值 *
A.下一位出价(正确答案)
B.下一位点击率(正确答案)
C.自己的出价
D.自己的点击率(正确答案)
41.信息流广告的售卖方式包括哪些?（）分值 *
A.CPC(正确答案)
B.CPM(正确答案)
C.CPT(正确答案)
D.聚屏
42.信息流广告后台可选择的样式有哪些?（）分值 *
A.单图样式(正确答案)
B.三图样式(正确答案)
C.大图样式(正确答案)
D.视频样式(正确答案)
43.信息流广告可以在账户单元层级进行的操作有什么?（）分值 *
A.单元名称(正确答案)
B.推广样式(正确答案)
C.定向设置(正确答案)
D.推广预算
44.信息流好文案的特质有哪些?（）分值 *
A.结合用户心理(正确答案)
B.展现业务卖点(正确答案)
C.内容更信息流(正确答案)
D.内容更像广告，吸引用户关注
45.信息流投放优化全流程，包括以下哪些环节?（）分值 *
A.创意制作(正确答案)
B.落地页制作(正确答案)
C.根据数据分析进行投放优化(正确答案)
D.账户搭建(正确答案)
46.信息流推广定向工具不包含下述哪个选项?（）分值 [单选题] *
A.意图词
B.兴趣
C.人群
D.天气定向(正确答案)
47.信息流推广意图词定向支持哪两种行为锁定目标人群?（）分值 *
A.全网行为(正确答案)
B.近3天浏览行为
C.近7天购买行业
D.历史搜索行为(正确答案)
48.以下不可以在账户计划层级的进行操作有哪些?（）分值 [单选题] *
A.预算设置
B.推广时间
C.推广时段
D.定向设置(正确答案)
49.以下不能提升信息流流量的有（）分值 [单选题] *
A.创意数量
B.提升出价
C.缩减时段(正确答案)
D.增加地域
50.以下哪个工具能够帮助客户查看信息流展示效果?（）分值 [单选题] *
A.去百度APP直接搜索
B.创意中的实况工具(正确答案)
C.预览创意
D.暂时没有开发此功能
51. 请列出至少3种信息流定向方式 * [填空题]
_________________________________(答案：意图定向、基础信息定向、兴趣定向、LBS定向、自定义人群定向)
52. 请简述潜在、目标和品牌忠诚人群，可举例说明并简单解释 * [填空题]
_________________________________(答案：潜在人群:有需求契合点,尚未表现出明确业务兴趣,如:刚买房,未装修的人群婚育年龄段的人群,未明确表示装修兴趣,但行为特征符合,如:查看楼盘信息,查阅房产网站等行业目标人群:开始关注业务相关知识及竞品类人群,明确要进行装修的人群,关注装修相关品类,如:访问装修类目,到访竞品页面,查阅相关装修知识品牌忠诚人群:已经开始关注本品牌的用户,对装修
公司及品牌有一定认知的人群 ,关注本类推广,或曾经到访品牌门店,查阅装修价格,近期优惠等信息)
[填空题]
_________________________________(答案：请设置答案)
信息论与编码理论习题答案
信息论与编码理论习题 答案 LG GROUP system office room 【LGA16H-LGYY-LGUA8Q8-LGA162】
第二章 信息量和熵 八元编码系统，码长为3，第一个符号用于同步，每秒1000个码字，求它的信息速 率。 解：同步信息均相同，不含信息，因此 每个码字的信息量为 2?8log =2?3=6 bit 因此，信息速率为 6?1000=6000 bit/s 掷一对无偏骰子，告诉你得到的总的点数为：(a) 7; (b) 12。问各得到多少信息 量。 解：(1) 可能的组合为 {1，6},{2，5},{3，4},{4，3},{5，2},{6，1} )(a p =366=6 1 得到的信息量 =) (1 log a p =6log = bit (2) 可能的唯一，为 {6，6} )(b p =361 得到的信息量=) (1 log b p =36log = bit 经过充分洗牌后的一副扑克（52张），问： (a) 任何一种特定的排列所给出的信息量是多少？ (b) 若从中抽取13张牌，所给出的点数都不相同时得到多少信息量？ 解：(a) )(a p =! 521 信息量=) (1 log a p =!52log = bit (b) ? ??????花色任选种点数任意排列 13413!13 )(b p =13 52134!13A ?=1352 13 4C 信息量=1313 52 4log log -C = bit 随机掷3颗骰子，X 表示第一颗骰子的结果，Y 表示第一和第二颗骰子的点数之和， Z 表示3颗骰子的点数之和，试求)|(Y Z H 、)|(Y X H 、),|(Y X Z H 、 )|,(Y Z X H 、)|(X Z H 。
信息论与编码习题与答案第二章
36 第一章 信息、消息、信号的定义？三者的关系？ 通信系统的模型？各个主要功能模块及作用？ 第二章 信源的分类？ 自信息量、条件自信息量、平均自信息量、信源熵、不确定度、条件熵、疑义度、 噪声熵、联合熵、互信息量、条件互信息量、平均互信息量以及相对熵的概念？ 计算方法？ 冗余度？ 具有概率为p （x ）的符号x 自信息量：I （X ）- -iogp （x ） 条件自信息量：|（X i = —log p （X i y i ） 平均自信息量、平均不确定度、信源熵： H （X ）二-為p （x ）log p （x ） i H (XY )=送 p (X i ,y j )|(X i y j ) 一瓦 ij ij 联合熵： H (XY )=：Z p (X i ,y j )I(X i ,y j ^Z p (X i ,y j )log p (X i ,y j ) ij ij 互信息： 弋 pyx)亍 pyx) l(X;Y)=W p(X i , y .)log =S p(X i )p(y . X i )log j 入儿 p(y j ) j 入儿入 p(y j ) 熵的基本性质：非负性、对称性、确定性 2.3同时掷出两个正常的骰子，也就是各面呈现的概率都为 1/6，求: （1） “3和5同时出现”这事件的自信息； （2） “两个1同时出现”这事件的自信息； （3） 两个点数的各种组合（无序）对的熵和平均信息量； （4） 两个点数之和（即2, 3, , , 12构成的子集）的熵； （5） 两个点数中至少有一个是1的自信息量。 解: （1） I (xj =-log p(xj 工「log 丄 4.170 bit 18 1 l(xj - - log p(xj - - log 5.170 bit 条件熵: p (X i ,y j )lo gp (X i y j ) p(X i ) 1111 6 6 6 6 1 18 1 p(x "6 1 36
信息论答案
P4.2 Let ()7sin(11)x t t π=,In each of the following parts,the discrete-time signal x[n] is obtained by sampling x(t) at a rate ,and the resultant x[n] can be written as 0[]cos()x n A n ?φ=+ For each part below,determine the values of A, φ ,and ?.In addition,state whether or not the sigmal has been over-sampled or under-sampled. (a) Sampling frequency is s f =10 samples/sec. (b) Sampling frequency is s f =5 samples/sec. (c) Sampling frequency is s f =15 samples/sec. solution:(a) 117,,010A Ts fs ω π ?ωφ=== = =since fmax=5.5HZ,so it is under-sampling. 1120.910π ?ππ=- = (b) 117,,05A Ts fs ω π ?ωφ=== = = since fmax=5.5HZ,so it is also under-sampling. 1120.25π ?ππ= -= (c) 117,,015A Ts fs ω π ?ωφ=== = = since fmax=5.5HZ,so it is over-sampling. 1115π ?= p-4.6 A nonideal D-to-C converter takes asequence y[t] as input and produces a comtinuous-time output y(t) according to the relation ()[]()s n y t y n p t nT ∞ =-∞ = -∑ where second.The input sequence is given by the formula
第一章 第二章课后作业答案
信息论基础（于秀兰 陈前斌 王永）课后作业答案 注：X 为随机变量，概率P(X =x)是x 的函数，所以P(X)仍为关于X 的随机变量，文中如无特别说明，则以此类推。 第一章 1.6 [P (xy )]=[P(b 1a 1)P(b 2a 1)P(b 1a 2) P(b 2a 2)]=[0.360.040.120.48] [P (y )]=[P(b 1) P(b 2)]=[0.480.52] [P (x|y )]=[P(a 1|b 1)P(a 2|b 1)P(a 1|b 2) P(a 2|b 2)]=[0.750.250.0770.923 ] 第二章 2.1 (1) I (B )=−log P (B )=−log 18 =3(bit) 注：此处P (B )表示事件B 的概率。 (2) 设信源为X ， H (X )=E [−logP (X )]=−14log 14−2∙18log 18−12log 12 =1.75(bit/symbol) (3) ξ=1−η=1−1.75log4 =12.5% 2.2 (1) P(3和5同时出现)=1/18 I =−log 118≈4.17(bit) (2) P(两个2同时出现)=1/36 I =−log 136≈5.17(bit) (3) 向上点数和为5时（14，23，41，32）有4种，概率为1/9，
I =−log 19 ≈3.17(bit) (4) (5) P(两个点数至少有一个1)=1−5∙5=11 I =−log 1136 ≈1.71(bit) (6) 相同点数有6种，概率分别为1/36； 不同点数出现有15种，概率分别为1/18； H =6∙136∙log36+15∙118 ∙log18≈4.34(bit/symbol) 2.9 (1) H (X,Y )=E [−logP (X,Y )]=−∑∑P(x i ,y j )logP(x i ,y j )3 j=1 3i=1≈2.3(bit/sequence) (2) H (Y )=E [−logP (Y )]≈1.59(bit/symbol) (3) H (X |Y )=H (X,Y )−H (Y )=0.71(bit/symbol) 2.12 (1) H (X )=E [−logP (X )]=−2log 2−1log 1≈0.92(bit/symbol) Y 的分布律为：1/2,1/3,1/6； H (Y )=E [−logP (Y )]≈1.46(bit/symbol) (2) H (Y |a 1)=E [−logP (Y|X )|X =a 1]=−∑P (b i |a 1)logP (b i |a 1)i =−34log 34−14log 14 ≈0.81(bit/symbol) H (Y |a 2)=E [−logP (Y|X )|X =a 2]=−∑P (b i |a 2)logP (b i |a 2)i
(完整版)信息论与编码-曹雪虹-课后习题答案
《信息论与编码》-曹雪虹-课后习题答案 第二章 2.1一个马尔可夫信源有3个符号{}1, 23,u u u ，转移概率 为：()1 1 |1/2p u u =，()2 1|1/2p u u =，()31|0p u u =，()12|1/3p u u =， ()22|0p u u =，()32|2/3p u u =，()13|1/3p u u =，()23|2/3p u u =，()33|0p u u =， 画出状态图并求出各符号稳态概率。 解：状态图如下 状态转移矩阵为： 1/21/2 01/302/31/32/30p ⎛⎫ ⎪= ⎪ ⎪⎝⎭ 设状态u 1，u 2，u 3稳定后的概率分别为W 1，W 2、W 3 由1231WP W W W W =⎧⎨++=⎩得1231132231231 112331223231 W W W W W W W W W W W W ⎧++=⎪⎪⎪+=⎪⎨⎪=⎪⎪⎪++=⎩计算可得1231025925625W W W ⎧=⎪⎪⎪ =⎨ ⎪ ⎪=⎪⎩
2.2 由符号集{0，1}组成的二阶马尔可夫链，其转移概率为：(0|00)p =0.8，(0|11)p =0.2，(1|00)p =0.2，(1|11)p =0.8， (0|01)p =0.5，(0|10)p =0.5，(1|01)p =0.5，(1|10)p =0.5。画出 状态图，并计算各状态的稳态概率。 解：(0|00)(00|00)0.8p p == (0|01)(10|01)0.5p p == (0|11)(10|11)0.2p p == (0|10)(00|10)0.5p p == (1|00)(01|00)0.2p p == (1|01)(11|01)0.5p p == (1|11)(11|11)0.8p p == (1|10)(01|10)0.5p p == 于是可以列出转移概率矩阵：0.80.20 0000.50.50.50.500000.20.8p ⎛⎫ ⎪ ⎪= ⎪ ⎪⎝⎭ 状态图为： 设各状态00，01，10，11的稳态分布概率为W 1,W 2,W 3,W 4 有 41 1i i WP W W ==⎧⎪⎨=⎪⎩∑ 得 131 132 24324412340.80.50.20.50.50.20.50.81W W W W W W W W W W W W W W W W +=⎧⎪+=⎪⎪+=⎨⎪+=⎪+++=⎪⎩ 计算得到123451417175 14W W W W ⎧=⎪⎪ ⎪=⎪⎨ ⎪=⎪⎪⎪= ⎩
信息论编码与基础课后题(第二章)
第二章习题解答 2-1、试问四进制、八进制脉冲所含信息量是二进制脉冲的多少倍？ 解：四进制脉冲可以表示4个不同的消息，例如：{0, 1, 2, 3} 八进制脉冲可以表示8个不同的消息，例如：{0, 1, 2, 3, 4, 5, 6, 7} 二进制脉冲可以表示2个不同的消息，例如：{0, 1} 假设每个消息的发出都是等概率的，则： 四进制脉冲的平均信息量symbol bit n X H / 24log log )(1=== 八进制脉冲的平均信息量symbol bit n X H / 38log log )(2=== 二进制脉冲的平均信息量symbol bit n X H / 12log log )(0=== 所以：四进制、八进制脉冲所含信息量分别是二进制脉冲信息量的2倍和3倍。 2、 设某班学生在一次考试中获优（A ）、良（B ）、中（C ）、及格（D ）和不及格（E ）的人数相等。当教师通知某甲：“你没有不及格”，甲获得了多少比特信息？为确定自己的成绩，甲还需要多少信息？ 解：根据题意，“没有不及格”或“pass”的概率为 5 4 511pass =- =P 因此当教师通知某甲“没有不及格”后，甲获得信息 在已知“pass”后，成绩为“优”（A ），“良”（B ），“中”（C ）和“及格”（D ） 的概率相同： 41score )pass |()pass |()pass |()pass |(=====D P C P B P A P P 为确定自己的成绩，甲还需信息 bits 24 1 log log score score =-=-=P I 3、中国国家标准局所规定的二级汉字共6763个。设每字使用的频度相等，求一个汉字所含的信息量。设每个汉字用一个1616⨯的二元点阵显示，试计算显示方阵所能表示的最大信息。显示方阵的利用率是多少？ 解：由于每个汉字的使用频度相同，它们有相同的出现概率，即 6763 1 = P 因此每个汉字所含的信息量为 bits 7.126763 1 log log =-=-=P I 字 每个显示方阵能显示25616 1622 =⨯种不同的状态，等概分布时信息墒最大， 所以一个显示方阵所能显示的最大信息量是 bits 322.05 4 log log pass pass =-=-=P I
信息论复习题
信息论复习题 第一、二章 一、填空 1、 1948年，美国数学家 发表了题为“通信的数学理论”的长篇论文，从而创立了信息论。 2、 信息、 与信号，是通信理论中常用的三个既有联系又有区别的概念。信息是系统中 的对象，它包含在 中。消息是比较具体的概念，但不是物理的。信号是表示 的物理量。在通信系统中，传送的本质内容是信息，发送时需要将信息表示成具体的消息，再将消息载至 上，才能在实际的通信系统中传输。 3、 不考虑加密处理，常用通信系统的物理模型包括信源、信源编码器、信道编码器、信道、和 、 、信宿七部分。其中，信源负责向通信系统提供消息； ，是消息传递的对象，即接收消息的人或机器；信道是传递消息的 ，是负责传送物理信号的设施。 4、一个随机事件发生某一结果后所带来的信息量称为自信息量，定义为 。 5、自信息量的单位一般有 。 6、必然事件的自信息是 。 7、不可能事件的自信息量是 。 8、两个相互独立的随机变量的联合自信息量等于 。 9、数据处理定理：当消息经过多级处理后，随着处理器数目的增多，输入消息与输出消息之间的平均互信息量 。 10、离散平稳无记忆信源X 的N 次扩展信源的熵等于离散信源X 的熵的 。 11、若信源当前时刻发出的符号只与前m 个符号有关联，而与更前面的符号无关，则称这种信源为 信源；若该信源的条件转移概率与时间起点无关，则进一步可称其为 信源。经过足够长时间，该信源处于什么状态已与初始状态无关，此时每种状态出现的概率达到了一种 。 12、一维连续随机变量X 在[a ，b]区间内均匀分布时，其信源熵为 。 13、同时掷两个正常的骰子，各面呈现的概率都为1/6，则“3和5同时出现”这件事的自信息量是 。 14、一副充分洗乱的扑克牌（52张），从中任意抽取1张，然后放回，若把这一过程看作离散无记忆信源，则其信源熵为 。 15、对于离散信源，当 时其信源熵具有最大值。 16、对于限平均功率的一维连续信源，当概率密度 时，信源熵有最大值。 二、判断 1、 必然事件和不可能事件的自信息量都是0 。 2、 自信息量是)(i x p 的单调递减函数。 3、 单符号离散信源的自信息和信源熵都具有非负性。 4、 冗余度表示给定信源在实际发出消息时所包含的多余信息。 5、 对于某特定信道，互信息是关于输入符号分布概率的∪型凸函数。 6、 自信息量、条件自信息量和联合自信息量之间有如下关系： )/()()/()()(j i j i j i j i y x I y I x y I x I y x I +=+= 7、 信息熵、条件熵和互信息之间有如下关系： (;)()(|)()(|I X Y H X H X Y H Y H Y X =-=- 8、 当随机变量X 和Y 相互独立时，条件熵等于信源熵。 9、连续信源和离散信源的熵都具有非负性。 10、连续信源和离散信源的平均互信息都具有非负性。 三、计算
信息论习题集
信息论习题集 第一章、判断题 1、信息论主要研究目的是找到信息传输过程的共同规律，提高信息传输的可靠性、有效性、保密性和认证性，以达到信息传输系统的最优化。（√） 2、同一信息，可以采用不同的信号形式来载荷；同一信号形式可以表达不同形式的信息。 （√） 3、通信中的可靠性是指使信源发出的消息准确不失真地在信道中传输；（√） 4、有效性是指用尽量短的时间和尽量少的设备来传送一定量的信息。（√） 5、保密性是指隐蔽和保护通信系统中传送的消息，使它只能被授权接收者获取，而不能 被未授权者接收和理解。（√） 6、认证性是指接收者能正确判断所接收的消息的正确性，验证消息的完整性，而不是伪 造的和被窜改的。（√） 7、在香农信息的定义中，信息的大小与事件发生的概率成正比，概率越大事件所包含的信 息量越大。（×） 第二章 一、判断题 1、通信中获得的信息量等于通信过程中不确定性的消除或者减少量。（√） 2、离散信道的信道容量与信源的概率分布有关，与信道的统计特性也有关。（×） 3、连续信道的信道容量与信道带宽成正比，带宽越宽，信道容量越大。（×） 4、信源熵是信号符号集合中，所有符号的自信息的算术平均值。（×） 5、信源熵具有极值性，是信源概率分布P 的下凸函数，当信源概率分布为等概率分布时取 得最大值。（×） 6、离散无记忆信源的N 次扩展信源，其熵值为扩展前信源熵值的N 倍。（√） 7、互信息的统计平均为平均互信息量，都具有非负性。（×） 8、信源剩余度越大，通信效率越高，抗干扰能力越强。（×） 9、信道剩余度越大，信道利用率越低，信道的信息传输速率越低。（×） 10、信道输入与输出之间的平均互信息是输入概率分布的下凸函数。（×） 11、在信息处理过程中，熵是不会增加的。（√） 12、熵函数是严格上凸的。（√） 13、信道疑义度永远是非负的。（√） 14、对于离散平稳信源，其极限熵等于最小平均符号熵。（√） 2-1 同时掷两个正常的骰子，也就是各面呈现的概率都是l/6 ，求： (1) “ 3 和 5 同时出现”事件的自信息量； (2) “两个 1 同时出现”事件的自信息量； (3)两个点数的各种组合（无序对）的熵或平均信息量； (4)两个点数之和 (即 2， 3，， 12 构成的子集）的熵； (5)两个点数中至少有一个是 1 的自信息。 2-2 居住某地区的女孩中有25％是大学生，在女大学生中有75％身高为 1.6m 以 上，而女孩中身高 1.6m 以上的占总数一半。假如得知“身高 1.6m 以上的某女孩是大学 生”的消息，问获得多少信息量？、 2-3 两个实验和，联合概率为
朱雪龙《应用信息论基础》习题答案
第二章习题参考答案 2.2证明: l(X;Y|Z) H(X|Z) H(X|YZ) H (XZ) H (Z) H (XYZ) H(YZ) H(X) H(Z |X) H(Z) H(XY) H (Z | XY) H (Y) H(Z|Y) [H(X) H(Y) H(XY)] H(Z|X) H(Z) H (Z | XY) H(Z |Y) I(X;Y) H(Z|X) H(Z) H (Z | XY) H(Z | Y) 0 H(Z) H(Z) H (Z | XY) H(Z) H(Z) H (Z | XY) 1 H (Z) H (Z | XY),即 H(Z) 1 H (Z | XY) 又 H(Z) 1,H(Z |XY) 0,故 H(Z) 1,H (Z | XY) 0 同理，可推出H(X) 1;H(Y) 1; H (XYZ) H(XY) H (Z | XY) H(X) H (Y) H (Z | XY) 1 1 0 2 2.3 1) H(X)= 0.918 bit , H(Y) = 0.918 bit 2) H(X|Y) 2 = bit H(Y|X)= 2 -bit , H(X|Z)= 3 2 — bit 3 3) I(X;Y): =0.251 bit , H(XYZ)= =1.585 bit 2.4证明：（1）根据熵的可加性，可直接得到 ,a k 1), H(Y) log(k 1),故原式得证 2.5考虑如下系统: 又 l(X;Y|Z) = H(X|Z) — H(X|YZ) = H(X|Z) = 1 bit 1 不妨设 P(Z=0) = P(Z=1)= 2 设 P(X=0,Y=0|Z=0) = p P(X=1,Y=1|Z=0) = 1 — p 1 ~[ Plogp + (1 — p)log (1 — p)] -[qlogq + (1 — q)log(1 — q)] =11 满足上式的p 、q 可取：p = ; q = 2.1 In 2 x nat IOg 2 bi t P(X=0,Y=1|Z=1) = q P(X=1,Y=0|Z=1) = 1 — q ⑵ Y 的值取自（31,32, 假设输入X 、Y 是相互独立 的，则满足 I(X;Y) = 0 则 H(X|Z)=
信息论基础第二版习题答案
信息论基础第二版习题答案 信息论是一门研究信息传输和处理的学科，它的基础理论是信息论。信息论的基本概念和原理被广泛应用于通信、数据压缩、密码学等领域。而《信息论基础》是信息论领域的经典教材之一，它的第二版是对第一版的修订和扩充。本文将为读者提供《信息论基础第二版》中部分习题的答案，帮助读者更好地理解信息论的基本概念和原理。 第一章：信息论基础 1.1 信息的定义和度量 习题1：假设有一个事件发生的概率为p，其信息量定义为I(p) = -log(p)。求当p=0.5时，事件的信息量。 答案：将p=0.5代入公式，得到I(0.5) = -log(0.5) = 1。 习题2：假设有两个互斥事件A和B，其概率分别为p和1-p，求事件A和B 同时发生的信息量。 答案：事件A和B同时发生的概率为p(1-p)，根据信息量定义，其信息量为 I(p(1-p)) = -log(p(1-p))。 1.2 信息熵和条件熵 习题1：假设有一个二进制信源，产生0和1的概率分别为p和1-p，求该信源的信息熵。 答案：根据信息熵的定义，信源的信息熵为H = -plog(p) - (1-p)log(1-p)。 习题2：假设有两个独立的二进制信源A和B，产生0和1的概率分别为p和1-p，求两个信源同时发生时的联合熵。 答案：由于A和B是独立的，所以联合熵等于两个信源的信息熵之和，即
H(A,B) = H(A) + H(B) = -plog(p) - (1-p)log(1-p) - plog(p) - (1-p)log(1-p)。 第二章：信道容量 2.1 信道的基本概念 习题1：假设有一个二进制对称信道，其错误概率为p，求该信道的信道容量。答案：对于二进制对称信道，其信道容量为C = 1 - H(p)，其中H(p)为错误概率为p时的信道容量。 习题2：假设有一个高斯信道，信道的信噪比为S/N，求该信道的信道容量。答案：对于高斯信道，其信道容量为C = 0.5log(1 + S/N)。 2.2 信道编码 习题1：假设有一个二进制对称信道，其错误概率为p，要使得传输的信息错误率小于等于ε，应该选择什么样的编码方式？ 答案：根据信道编码定理，要使得传输的信息错误率小于等于ε，应该选择编码方式，使得编码后的码字长度满足n > H(p)/ε。 习题2：假设有一个高斯信道，信道的信噪比为S/N，要使得传输的信息错误率小于等于ε，应该选择什么样的编码方式？ 答案：对于高斯信道，要使得传输的信息错误率小于等于ε，应该选择编码方式，使得编码后的码字长度满足n > 0.5log(1 + S/N)/ε。 通过以上习题的解答，读者可以更好地理解信息论的基础概念和原理，对于信息的度量、信息熵、信道容量和信道编码有更深入的理解。信息论作为一门重要的学科，不仅在通信领域有广泛应用，还在数据压缩、密码学等领域发挥着重要作用。希望读者通过学习《信息论基础第二版》和本文提供的习题答案，能够对信息论有更全面的认识和理解。
信息论与编码第二章答案
第二章 信息的度量 2.1 信源在何种分布时，熵值最大？又在何种分布时，熵值最小？ 答：信源在等概率分布时熵值最大；信源有一个为1，其余为0时熵值最小。 2.2 平均互信息量I(X;Y)与信源概率分布q(x)有何关系？与p(y|x)又是什么关系？ 答： 若信道给定，I(X;Y)是q(x)的上凸形函数； 若信源给定，I(X;Y)是q(y|x)的下凸形函数。 2.3 熵是对信源什么物理量的度量？ 答：平均信息量 2.4 设信道输入符号集为{x1,x2,……xk}，则平均每个信道输入符号所能携带的最大信息量是多少？ 答：k k k xi q xi q X H i log 1log 1)(log )() (=- =-=∑ 2.5 根据平均互信息量的链规则，写出I(X;YZ)的表达式。 答：)|;();();(Y Z X I Y X I YZ X I += 2.6 互信息量I(x;y)有时候取负值，是由于信道存在干扰或噪声的原因，这种说法对吗？ 答：互信息量) ()|(log ) ;(xi q yj xi Q y x I =，若互信息量取负值，即Q(xi|yj) 答： 由图示可知：4 3)|(4 1)|(32)|(31)|(41)|(43)|(222111110201= = == == s x p s x p s x p s x p s x p s x p 即： 4 3)|(0)|(4 1)|(31)|(32)|(0)|(0 )|(4 1)|(4 3)|(222120121110020100= == = ==== = s s p s s p s s p s s p s s p s s p s s p s s p s s p 可得： 1 )()()() (43)(31)()(31)(41)()(41)(43)(210212101200=+++ = +=+=s p s p s p s p s p s p s p s p s p s p s p s p 第1章 信息论基础 1.8 p (s 0 ) = 0.8p (s 0 ) + 0.5p (s 2 ) p (s 1 ) = 0.2p (s 0 ) + 0.5p (s 2 ) p (s 2 ) = 0.5p (s 1 ) + 0.3p (s 3 ) p (s 3 ) = 0.5p (s 1 ) + 0.7p (s 3 ) p (s 0 ) + p (s 1 ) + p (s 2 ) + p (s 3 ) = 1 p (s 0 ) = 3715， p (s 1 ) = p (s 2 ) = 376，p (s 3 ) = 37 10 第2章 信息的度量 2.4 logk 2.12 （1）I (x i ) = -log1/100 = log100备注：2.12有错误 （2）H(X)=log100. 2.17 （1）())1(2log 100;14p u I -== （2）())1(2log 2100;104p u I -== （3）())1(2log 3100;1004p u I -== 2.30 （1）H (X ) = 1.69 (Bit/符号) （2）H (Y ) = 1.57 (Bit/符号) (3)() 符号/76.0)(Bit X Y H = (4) (Bit / 2.45)(符号=XY H （5）I (X;Y) = 0.81 (Bit/符号) 第3章 离散信源无失真编码 3.6 （1） 2位 （2）取码长n 1=1、n 1=2、n 1=3、n 1=3就能得到紧致码。 3.14 （1）x 1 →0，x 2→11，x 3→10 5.1=n 99.0=η （2）x 1x 1→01，x 1x 2→110，x 2x 1→101，x 1x 3→011，x 3x 1→010，x 2x 2→1111，x 2x 3→1110，x 3x 2→1001 3=n 99.0=η 3.17 方法一：概率之和与原信源某概率相等，概率之和往上排： 信息论与编码课后习题答案 第二章 2.3 同时掷出两个正常的骰子，也就是各面呈现的概率都为1/6，求： (1) “3和5同时出现”这事件的自信息； (2) “两个1同时出现”这事件的自信息； (3) 两个点数的各种组合（无序）对的熵和平均信息量； (4) 两个点数之和（即2, 3, … , 12构成的子集）的熵； (5) 两个点数中至少有一个是1的自信息量。 解： (1) bit x p x I x p i i i 170.418 1 log )(log )(18 1 61616161)(=-=-== ?+?= (2) bit x p x I x p i i i 170.536 1 log )(log )(36 1 6161)(=-=-== ?= (3) 两个点数的排列如下： 11 12 13 14 15 16 21 22 23 24 25 26 31 32 33 34 35 36 41 42 43 44 45 46 51 52 53 54 55 56 61 62 63 64 65 66 共有21种组合： 其中11，22，33，44，55，66的概率是36 16161=? 其他15个组合的概率是18 1 61612=? ? symbol bit x p x p X H i i i / 337.4181log 18115361log 3616)(log )()(=??? ?? ?+?-=-=∑ 参考上面的两个点数的排列，可以得出两个点数求和的概率分布如下： symbol bit x p x p X H X P X i i i / 274.3 61log 61365log 365291log 912121log 1212181log 1812361log 36 12 ) (log )()(36112181111211091936586173656915121418133612)(=? ?? ?? +?+?+?+?+?-=-=??????????=? ?????∑(5) bit x p x I x p i i i 710.136 11 log )(log )(3611116161)(=-=-== ??= 2.4 2.12 两个实验X 和Y ，X={x 1 x 2 x 3},Y={y 1 y 2 y 3},l 联合概率(),i j ij r x y r =为 1112132122233132 337/241/2401/241/41/2401/247/24r r r r r r r r r ???? ? ?= ? ? ? ????? （1） 如果有人告诉你X 和Y 的实验结果，你得到的平均信息量是多少？ （2） 如果有人告诉你Y 的实验结果，你得到的平均信息量是多少？ （3） 在已知Y 实验结果的情况下，告诉你X 的实验结果，你得到的平均信息量是多少？ 部分答案，仅供参考。 信息速率是指平均每秒传输的信息量 点和划出现的信息量分别为3log ,2 3log ， 一秒钟点和划出现的次数平均为 4 153 14.0322.01= ⨯ +⨯ 一秒钟点和划分别出现的次数平均为4 5.410 那么根据两者出现的次数，可以计算一秒钟其信息量平均为2 53log 4 153log 4 52 3log 4 10-=+ 2.3 解： (a)骰子A 和B ，掷出7点有以下6种可能： A=1,B=6; A=2,B=5; A=3,B=4; A=4,B=3; A=5,B=2; A=6,B=1 概率为6/36=1/6，所以信息量 -log(1/6)=1+log3≈2.58 bit (b) 骰子A 和B ，掷出12点只有1种可能： A=6,B=6 概率为1/36，所以信息量 -log(1/36)=2+log9≈5.17 bit 2.5解： 出现各点数的概率和信息量： 1点：1/21，log21≈4.39 bit ； 2点：2/21，log21-1≈3.39 bit ； 3点：1/7，log7≈2.81bit ； 4点：4/21，log21-2≈2.39bit ； 5点：5/21，log 〔21/5〕≈2.07bit ； 6点：2/7，log(7/2)≈ 平均信息量： (1/21)×4.39+(2/21)×3.39+(1/7)×2.81+(4/21)×2.39+(5/21)×2.07+(2/7)×≈ 2.7解： X=1:考生被录取； X=0:考生未被录取； Y=1:考生来自本市；Y=0:考生来自外地； Z=1: 考生学过英语；Z=0：考生未学过英语 P(X=1)=1/4, P(X=0)=3/4; P(Y=1/ X=1)=1/2； P(Y=1/ X=0)=1/10； P(Z=1/ Y=1)=1, P(Z=1 / X=0, Y=0)=0.4, P(Z=1/ X=1, Y=0 (a) I (X ;Y=1)=∑∑=====x x ) P() 1Y /(P log )1Y /(P )1Y (I )1Y /(P x x x x;x =1) P(X ) 1Y /1X (P log )1Y /1X (P 0)P(X )1Y /0X (P log )1Y /0X (P =====+===== 信息论与编码第二章课后答案在信息科学领域中，信息论和编码是两个息息相关的概念。信息论主要研究信息的传输和处理，包括信息的压缩、传输的准确性以及信息的安全性等方面。而编码则是将信息进行转换和压缩的过程，常用的编码方式包括霍夫曼编码、香农-费诺编码等。 在《信息论与编码》这本书的第二章中，涉及了信息的熵、条件熵、熵的连锁法则等概念。这些概念对于信息理解和编码实现有着重要的意义。 首先是信息的熵。熵可以简单理解为信息的不确定性。当信息的发生概率越大，它的熵就越小。比如说，一枚硬币的正反面各有50%的概率，那么它的熵就是1bit。而如果硬币只有正面，那么它的熵就是0bit，因为我们已经知道了结果，不再有任何不确定性。 其次是条件熵。条件熵是在已知某些信息(即条件)的前提下，对信息的不确定性进行量化。它的定义为已知条件下，信息的熵的期望值。比如说，在猜词游戏中，我们手中已经有一些字母的信息，那么此时猜测单词的不确定性就会下降，条件熵也就会减少。 除了熵和条件熵之外，连锁法则也是信息理解和编码实现中的 重要概念。连锁法则指的是一个信息在不同时刻被传输的情况下，熵的变化情况。在信息传输的过程中，信息的熵可能会发生改变。这是因为在传输过程中，可能会发生噪声或者数据重复等情况。 而连锁法则就是用来描述这种情况下信息熵的变化情况的。 最后，霍夫曼编码和香农-费诺编码是两种比较常用的编码方式。霍夫曼编码是一种无损压缩编码方式，它可以将出现频率高的字 符用较短的二进制编码表示，出现频率较低的字符用较长的二进 制编码表示。香农-费诺编码则是一种用于无失真信源编码的方法，可以把每个符号用尽可能短的二进制串来表示，使得平均码长最 小化。 总的来说，信息论和编码是信息科学中非常重要的两个概念。 通过对信息熵、条件熵、连锁法则等的探讨和了解，可以更好地 理解信息及其传输过程中的不确定性和数据处理的方法。而霍夫 曼编码和香农-费诺编码则是实现数据压缩和传输的常用编码方式。 第2章习题 2-3 同时掷两个正常的骰子，也就是各面呈现的概率都是l/6，求： (1) “3和5同时出现”事件的自信息量； (2)“两个1同时出现”事件的自信息量； (3)两个点数的各种组合（无序对）的熵或平均信息量； (4) 两个点数之和(即 2，3，…，12构成的子集）的熵； (5)两个点数中至少有一个是1的自信息。 解：（1）P （3、5或5、3）＝P （3、5）+P （5、3）＝1/18 I ＝log2（18）＝ 4.1699bit 。 （2）P （1、1）＝l/36。I ＝log2（36）＝5.1699bit 。 （3）相同点出现时（11、22、33、44、55、66）有6种，概率1/36。 不同点出现时有15种，概率1/18。 H （i ，j ）＝6*1/36*log 2（36）+15*1/18*log 2（18）＝4.3366bit/事件。 2/36 1/36) =3.2744bit/事件。 （5）P （1、1or1、j or i 、1）＝1/36+5/36+5/36＝11/36。 I ＝log2（36/11）＝1.7105bit/ 2-5 居住某地区的女孩中有25％是大学生，在女大学生中有75％身高为1.6m 以 上，而女孩中身高1.6m 以上的占总数一半。假如得知“身高1.6m 以上的某女孩是大学 生”的消息，问获得多少信息量？、 解：P （女大学生）＝1/4；P （身高>1.6m / 女大学生）=3/4；P （身高>1.6m ）＝1/2； P （女大学生 / 身高>1.6m ）＝P （身高>1.6m 、女大学生）/P （身高>1.6m ） ＝3/4*1/4*2＝3/8 I ＝log2（8/3）＝1.4150bit 。 2-7两个实验123{,,}X x x x =和123{,,}Y y y y =，联合概率()i j ij p x y p =为 11121321222331 32 337/241/2401/241/41/2401/247/24p p p p p p p p p ⎡⎤⎡⎤ ⎢⎥⎢⎥=⎢⎥⎢⎥⎢⎥⎢⎥⎣⎦⎣⎦ 【】设有 12 枚同值硬币，其中有一枚为假币。只知道假币的重量与真币的重量不同，但不知究竟是重还是轻。现用比较天平左右两边轻重的方法来测量。为了在天平上称出哪一枚是假币，试问至少必须称多少次？ 解：从信息论的角度看， “12 枚硬币中，某一枚为假币”该事件发生的概率为P 1 ；12 “假币的重量比真的轻，或重”该事件发生的概率为P 1 ；2 为确定哪一枚是假币，即要消除上述两事件的联合不确定性，由于二者是独立的，因此有 I log12log 2 log 24 比特 而用天平称时，有三种可能性：重、轻、相等，三者是等概率的，均为P 1 ，因此天 3 平每一次消除的不确定性为 I log 3 比特 因此，必须称的次数为 I 1 log 24 I 2 log 3 次 因此，至少需称 3 次。 【延伸】如何测量？分 3 堆，每堆 4 枚，经过 3 次测量能否测出哪一枚为假币。【】同时扔一对均匀的骰子，当得知“两骰子面朝上点数之和为 2”或“面朝上点数之 和为 8”或“两骰子面朝上点数是 3 和 4”时，试问这三种情况分别获得多少信息量？ 解： “两骰子总点数之和为 2”有一种可能，即两骰子的点数各为 1，由于二者是独立的， 因此该种情况发生的概率为P 1 1 6 6 1 ，该事件的信息量为：36 I log 36比特 “两骰子总点数之和为 8”共有如下可能：2 和 6、3 和 5、4 和 4、5 和 3、6 和2，概 率为P 1 1 5 6 6 5 ，因此该事件的信息量为：36 I log 36 5 比特 “两骰子面朝上点数是 3 和 4”的可能性有两种：3 和 4、4 和 3，概率为P 因此该事件的信息量为：1 1 2 1 ，6 6 18 I log18比特 【】如果你在不知道今天是星期几的情况下问你的朋友“明天星期几？”则答案中含有 多少信息量？如果你在已知今天是星期四的情况下提出同样的问题，则答案中你能获得多少信息量（假设已知星期一至星期日的顺序）？ 解： 如果不知今天星期几时问的话，答案可能有七种可能性，每一种都是等概率的，均为 P 1 ，因此此时从答案中获得的信息量为 7 I log 7比特 而当已知今天星期几时问同样的问题，其可能性只有一种，即发生的概率为1，此时获得 的信息量为0 比 特。 【】居住某地区的女孩中有 25%是大学生，在女大学生中有 75%是身高米以上的，而女孩中身高米以上的占总数一半。假如我们得知“身高米以上的某女孩是大学生”的消息，问获得多少信息量？ 2-1、一阶马尔可夫链信源有3个符号(f úh ào)，转移(zhu ǎny í)概率 为： ， ， ， ，， ， ， ， 。 画出状态图并求出各符号(f úh ào)稳态概率。 解：由题可得状态概率(g àil ǜ)矩阵为： 状态(zhu àngt ài)转换图为： 令各状态的稳态分布概率为，，，则： 1W = 1W + 2W +133W ， 2W =1 21W + 3W , 3W = 2 3 2W 且：1W +2W +3W =1 稳态分布概率为： 1W =，2W = ，3W = 2-2.由符号集｛０，１｝组成的二阶马尔可夫链，其转移概率为： P(0|00)=0.8,P(0|11)=0.2,P(1|00)=0.2,P(1|11)=0.8,P(0|01)=0.5,p(0|10)=0.5,p(1|01)=0.5,p(1|10)=0.5画出状态图，并计算各符号稳态概率。 解：状态转移概率矩阵为： 令各状态的稳态分布概率为 、 、 、 ，利用（2-1-17）可得方程组。 且； 解方程组得：即： 2-3、同时掷两个正常(zhèngcháng)的骰子，也就是各面呈现的概率都是，求： （1）、“3和5同时(tóngshí)出现”事件(shìjiàn)的自信息量； （2）、“两个1同时(tóngshí)出现”事件(shìjiàn)的自信息量； （3）、两个点数的各种组合的熵或平均信息量； （4）、两个点数之和的熵； （5）、两个点数中至少有一个是1的自信息量。 解：（1）3和5同时出现的概率为： （2）两个1同时出现的概率为： （3）两个点数的各种组合（无序对）为： (1,1),(1,2),(1,3),(1,4),(1,5),(1,6) (2,2),(2,3),(2,4),(2,5),(2,6) (3,3), (3,4),(3,5),(3,6) (4,4),(4,5),(4,6) (5,5),(5,6) (6,6)信息论课后习题答案
信息论与编码课后习题答案
信息论与编码理论第二章习题答案(王育民)
信息论与编码第二章课后答案
信息论习题答案第二章陈前斌版
第三版信息论答案
信息论与编码第二章答案