《信息论与编码》曹雪虹-张宗橙清华大学出版社可配北邮版本

北京邮电大学概率论期末考试试卷及答案

第1章 概率论的基本概念 §1 .1 随机试验及随机事件 1. (1) 一枚硬币连丢3次，观察正面H ﹑反面T 出现的情形. 样本空间是：S= ； (2) 一枚硬币连丢3次，观察出现正面的次数. 样本空间是：S= ； 2.(1) 丢一颗骰子. A ：出现奇数点，则A= ；B ：数点大于2，则B= . (2) 一枚硬币连丢2次， A ：第一次出现正面，则A= ； B ：两次出现同一面，则= ； C ：至少有一次出现正面，则C= . §1 .2 随机事件的运算 1. 设A 、B 、C 为三事件，用A 、B 、C 的运算关系表示下列各事件： (1)A 、B 、C 都不发生表示为： .(2)A 与B 都发生,而C 不发生表示为： . (3)A 与B 都不发生,而C 发生表示为： .(4)A 、B 、C 中最多二个发生表示为： . (5)A 、B 、C 中至少二个发生表示为： .(6)A 、B 、C 中不多于一个发生表示为： . 2. 设}42:{},31:{},50:{≤<=≤<=≤≤=x B x x A x x S ：则 （1）=?B A ，（2）=AB ，（3）=B A ， （4）B A ?= ，（5）B A = 。 §1 .3 概率的定义和性质 1. 已知6.0)(,5.0)(,8.0)(===?B P A P B A P ，则 (1) =)(AB P , (2)()(B A P )= , (3))(B A P ?= . 2. 已知,3.0)(,7.0)(==AB P A P 则)(B A P = . §1 .4 古典概型 1. 某班有30个同学,其中8个女同学, 随机地选10个,求:(1)正好有2个女同学的概率, (2)最多有2个女同学的概率,(3) 至少有2个女同学的概率. 2. 将3个不同的球随机地投入到4个盒子中,求有三个盒子各一球的概率. §1 .5 条件概率与乘法公式 1．丢甲、乙两颗均匀的骰子，已知点数之和为7, 则其中一颗为1的概率是 。 2. 已知,2/1)|(,3/1)|(,4/1)(===B A P A B P A P 则=?)(B A P 。 §1 .6 全概率公式 1. 有10个签，其中2个“中”，第一人随机地抽一个签，不放回，第二人再随机地抽一个 签，说明两人抽“中‘的概率相同。 2. 第一盒中有4个红球6个白球，第二盒中有5个红球5个白球，随机地取一盒，从中随 机地取一个球，求取到红球的概率。 §1 .7 贝叶斯公式 1． 某厂产品有70%不需要调试即可出厂，另30%需经过调试，调试后有80%能出厂，求（1） 该厂产品能出厂的概率，（2）任取一出厂产品, 求未经调试的概率。 2． 将两信息分别编码为A 和B 传递出去，接收站收到时，A 被误收作B 的概率为，

信息论与编码第三章曹雪虹习题答案

第三章 3.1 设二元对称信道的传递矩阵为? ?????????32313132 (1) 若P(0) = 3/4, P(1) = 1/4，求H(X), H(X/Y), H(Y/X)和I(X;Y)； (2) 求该信道的信道容量及其达到信道容量时的输入概率分布； 解： 1) symbol bit Y X H X H Y X I symbol bit X Y H Y H X H Y X H X Y H Y H Y X H X H Y X I symbol bit y p Y H x y p x p x y p x p y x p y x p y p x y p x p x y p x p y x p y x p y p symbol bit x y p x y p x p X Y H symbol bit x p X H j j i j i j i j i i i / 062.0749.0811.0)/()();(/ 749.0918.0980.0811.0)/()()()/() /()()/()();(/ 980.0)4167.0log 4167.05833.0log 5833.0()()(4167 .03 2 413143)/()()/()()()()(5833.031 413243)/()()/()()()()(/ 918.0 10 log )3 2 lg 324131lg 314131lg 314332lg 3243( ) /(log )/()()/(/ 811.0)41 log 4143log 43()()(222221212221221211112111222=-==-==+-=+-=-=-==?+?-=-==?+?=+=+==?+?= +=+==??+?+?+?-=-==?+?-=-=∑∑∑∑ 2) 2221122 max (;)log log 2(lg lg )log 100.082 /3333 mi C I X Y m H bit symbol ==-=++?=其最佳输入分布为1 ()2 i p x = 3-2某信源发送端有2个符号，i x ，i ＝1，2；()i p x a =，每秒发出一个符号。接受端有3 种符号i y ，j ＝1，2，3，转移概率矩阵为1/21/201/21/41/4P ?? =? ? ?? 。 （1） 计算接受端的平均不确定度； （2） 计算由于噪声产生的不确定度(|)H Y X ； （3） 计算信道容量。

(完整版)北邮研究生概率论与随机过程2012-2013试题及答案

北京邮电大学2012——2013学年第1学期 《概率论与随机过程》期末考试试题答案 考试注意事项：学生必须将答题内容（包括填空题）做在试题答题纸上，做在试卷纸上一律无效。在答题纸上写上你的班号和选课单上的学号，班内序号! 一. 单项选择题和填空题：（每空3分，共30分） 1.设A 是定义在非空集合Ω上的集代数,则下面正确的是 .A （A ）若A B ∈∈A,A ,则A B -∈A ; （B ）若A A B ∈?A,,则B ∈A ; （C ）若12n A n =∈?A,,,,则 1 n n A ∞=∈A ; （D ）若12n A n =∈?A,,,,且123A A A ??? ,则 1 n n A ∞ =∈A . 2. 设(),ΩF 为一可测空间，P 为定义在其上的有限可加测度，则下面正确的是 .c （A ）若A B ∈∈F,F ,则()()()P A B P A P B -=-； （B ）若12n A n =∈?F,,,,,且123A A A ??? ，则1 li ( )()m n n n n P A A P ∞→∞ ==； （C ）若A B C ∈∈∈F,F,F,，则()()()()P A B C P A P AB P A BC =++； （D ）若12n A n =∈?F,,,,,且,i j A i j A =??=/，1 1 ( )()n n n n P P A A ∞ ∞===∑. 3.设f 为从概率空间(),P ΩF,到Borel 可测空间(),R B 上的实可测函数，表达式为100 0()k A k f kI ω==∑，其中1000 ,, i j n n i j A A A ==??=Ω/=，则fdP Ω=? ；

北邮版概率论标准答案(7)

习题七 1.设总体X 服从二项分布b （n ，p ），n 已知，X 1，X 2，…，X n 为来自X 的样本，求参数p 的矩法估计. 【解】1(),(),E X np E X A X ===因此np =X 所以p 的矩估计量 ?X p n = 2.设总体X 的密度函数 f （x ,θ）=22 (),0, 0, .x x θθθ?-<

(2) 似然函数1 1 ,01n n i i i L x x θ θ-==<<∏g ,i =1,2,…,n. 1 ln ln (1)ln n i i L n x θθ==+-∏ 由1 d ln ln 0d n i i L n x θθ==+=∏知 1 1?ln ln n n i i i i n n x x θ ===-=- ∑∏ 所以θ的极大似然估计量为 1 ?ln n i i n x θ ==-∑ 求这批股民的收益率的平均收益率及标准差的矩估计值. 【解】 0.094x =- 0.101893s = 9n = ?0.094.EX x ==- 由2 2 2 2 21 ()()[()],()n i i x E X D X E X E X A n ==+==∑知222 ??[()]E X A σ+=,即有 ?σ =于是 ?0.101890.0966σ === 所以这批股民的平均收益率的矩估计值及标准差的矩估计值分别为-0.94和0.966. 5.随机变量X 服从［0，θ］上的均匀分布，今得X 的样本观测值：0.9,0.8,0.2,0.8,0.4,0.4,0.7,0.6， 求θ的矩法估计和极大似然估计，它们是否为θ的无偏估计. 【解】(1) ()2 E X θ = ,令()E X X =，则 ?2X θ =且?()2()2()E E X E X θθ===, 所以θ的矩估计值为?220.6 1.2x θ ==?=且?2X θ=是一个无偏估计.

信息论与编码(曹雪虹_张宗橙)第二、三章答案

2-1.解：该一阶马尔可夫信源，由转移概率构成的转移矩阵为： 对应的状态图如右图所示。设各符号稳定概率为：1p ，2p ，3p 则可得方程组： 1p = 211p +312p +313p 2p =211p +323p 3p =3 22p 1p +2p +3p =1 解得各符号稳态概率为： 1p = 2510，2p =259，3p =25 6 2-2.解：该马尔可夫信源的符号条件概率矩阵为： 状态转移概率矩阵为： 对应的状态图如右图所示。

设各状态的稳态分布概率为1W ,2W ,3W ,4W ,则可得方程组为： 1W =0.81W +0.53W 2W =0.21W +0.53W 3W =0.52W +0.24W 4W =0.52W +0.84W 1W +2W +3W +4W =1 解得稳定分布的概率为: 1W = 145，2W =142，3W =142，4W =14 5 2-3.解：（1）“3和5同时出现”事件的概率为： p(3,5)= 18 1 故其自信息量为： I(3,5)=-㏒2 18 1 =4.17bit （2）“两个1同时出现”事件的概率为： p(1,1)= 36 1 故其自信息量为： I(1,1)=- ㏒2 36 1 =5.17bit （3）两个点数的各种组合构成的信源，其概率空间为： 则该信源熵为： H(x 1)=6× 36 1 lb36+15×181lb18=4.337bit/事件 （4）两个点数之和构成的信源，其概率空间为：

则该信源的熵为： H(x 2)=2× 361 lb36+2×181lb18+2×121lb12+2×91lb9+2×365lb 536+6 1lb6 =3.274bit/事件 （5）两个点数中至少有一个是1的概率为： p(1)= 36 11 故其自信息量为： I(1)= -㏒2 36 11 =1.7105bit 2-7.解：（1）离散无记忆信源的每个符号的自信息量为 I(x 1)= -㏒2 83 =1.415bit I(x 2)= -㏒241 =2bit I(x 3)= -㏒241 =2bit I(x 4)= -㏒28 1 =3bit （2）由于信源发出消息符号序列有12个2，14个0，13个1，6个3，故该消息符 号序列的自信息量为： I(x)= -㏒2( 8 3)14 (41)25 (81)6 =87.81bit 平均每个符号携带的信息量为： L H (x)= 45 ) (x I =1.95bit/符号 2-10 解：用1x 表示第一次摸出的球为黑色，用2x 表示第一次摸出的球为白色，用1y 表示第二次摸出的球为黑色，用2y 表示第二次摸出的球为白色，则 (1)一次实验包含的不确定度为： H(X)=-p(1x )lbp(1x )-p(2x )lbp(2x )=- 13lb 13-23lb 2 3 =0.92 bit (2)第一次实验X 摸出的球是黑色，第二次实验Y 给出的不确定度: H(Y|1x )=-p(1y |1x )lb p(1y |1x )-p(2y |1x )lb p(2y |1x ) = - 27lb 27-57lb 57 = 0.86 bit (3)第一次实验X 摸出的球是白色，第二次实验Y 给出的不确定度:

北京邮电大学概率论期末考试试卷及答案

北京邮电大学概率论期末考试试卷及答案

第1章概率论的基本概念 §1 .1 随机试验及随机事件 1. (1) 一枚硬币连丢3次，观察正面H﹑反面T 出现的情形. 样本空间是：S= ； (2) 一枚硬币连丢3次，观察出现正面的次数. 样本空间是：S= ； 2.(1) 丢一颗骰子. A：出现奇数点，则 A= ；B：数点大于2，则B= . (2) 一枚硬币连丢2次， A：第一次出现正面，则A= ； B：两次出现同一面，则= ； C：至少有一次出现正面，则C= . §1 .2 随机事件的运算 1. 设A、B、C为三事件，用A、B、C的运算关 系表示下列各事件： (1)A、B、C都不发生表示为： .(2)A 与B都发生,而C不发生表示为： . (3)A与B都不发生,而C发生表示为： .(4)A、B、C中最多二个发生表示为： . (5)A、B、C中至少二个发生表示为： .(6)A、B、C中不多于一个发生表示为： .

2. 设}4 B =x ≤ x ≤ A S：则 x x = x < 3 1: }, { 2: { }, ≤ = {≤< 5 0: （1）= A，（2） ?B = AB，（3）=B A， （4）B A?= ，（5）B A= 。 §1 .3 概率的定义和性质 1.已知6.0 A P ?B = P A B P，则 ( ,5.0 ( ) ) ,8.0 (= ) = (1) =) (AB P, (2)() P)= , (B A (3)) P?= . (B A 2. 已知, 3.0 P A P则 =AB ( (= ) ,7.0 ) P= . A ) (B §1 .4 古典概型 1. 某班有30个同学,其中8个女同学, 随机地选10个,求:(1)正好有2个女同学的概率, (2)最多有2个女同学的概率,(3) 至少有2个女同学的概率. 2. 将3个不同的球随机地投入到4个盒子中,求有三个盒子各一球的概率. §1 .5 条件概率与乘法公式 1．丢甲、乙两颗均匀的骰子，已知点数之和为7, 则其中一颗为1的概率是。 2. 已知,2/1 A P =B A P则 = A P B | ( | ) ,3/1 ) ) ,4/1 ( (=

北邮版概率论答案

习题三 1.将一硬币抛掷三次，以X 表示在三次中出现正面的次数，以Y 表示三次中出现正面次数与 出现反面次数之差的绝对值.试写出X 和Y 的联合分布律. 222??222 ??= 2.盒子里装有3只黑球、2只红球、2只白球，在其中任取4只球，以X 表示取到黑球的只数，以Y 表示取到红球的只数.求X 和Y 的联合分布律. 324 C 35= 32 4 C 35= 322 4 C 35= 11322 4 C C 12C 35=132 4 C 2C 35 = 21322 4 C C 6C 35 = 2324 C 3 C 35 = 3.设二维随机变量（X ，Y ）的联合分布函数为 F （x ，y ）=?????≤ ≤≤≤., 020,20,sin sin 其他ππy x y x 求二维随机变量（X ，Y ）在长方形域? ?? ? ??≤<≤<36,40πππy x 内的概率. 【解】如图πππ {0,}(3.2)463 P X Y <≤ <≤公式 ππππππ(,)(,)(0,)(0,)434636 F F F F --+

ππππππ sin sin sin sin sin0sin sin0sin 434636 2 (31). 4 =--+ =- 题3图 说明：也可先求出密度函数，再求概率。 4.设随机变量（X，Y）的分布密度 f（x，y）= ? ? ?> > + - . ,0 ,0 ,0 ,)4 3( 其他 y x A y x e 求：（1）常数A； （2）随机变量（X，Y）的分布函数； （3）P{0≤X<1，0≤Y<2}. 【解】（1）由-(34) 00 (,)d d e d d1 12 x y A f x y x y A x y +∞+∞+∞+∞ + -∞-∞ === ???? 得A=12 （2）由定义，有 (,)(,)d d y x F x y f u v u v -∞-∞ =?? (34)34 00 12e d d(1e)(1e)0,0, 0, 0, y y u v x y u v y x -+-- ??-->> ? == ?? ? ?? ?? 其他 (3) {01,02} P X Y ≤<≤< 12 (34)38 00 {01,02} 12e d d(1e)(1e)0.9499. x y P X Y x y -+-- =<≤<≤ ==--≈ ?? 5.设随机变量（X，Y）的概率密度为 f（x，y）= ? ? ?< < < < - - . ,0 ,4 2,2 ), 6( 其他 y x y x k （1）确定常数k； （2）求P{X＜1，Y＜3}； （3）求P{X<1.5}； （4）求P{X+Y≤4}. 【解】（1）由性质有

信息论与编码第三章曹雪虹习题答案

没文化，真可怕！！！ 第三章 3.1 设二元对称信道的传递矩阵为? ?????????32313132 (1) 若P(0) = 3/4, P(1) = 1/4，求H(X), H(X/Y), H(Y/X)和I(X;Y)； (2) 求该信道的信道容量及其达到信道容量时的输入概率分布； 解： 1) symbol bit Y X H X H Y X I symbol bit X Y H Y H X H Y X H X Y H Y H Y X H X H Y X I symbol bit y p Y H x y p x p x y p x p y x p y x p y p x y p x p x y p x p y x p y x p y p symbol bit x y p x y p x p X Y H symbol bit x p X H j j i j i j i j i i i / 062.0749.0811.0)/()();(/ 749.0918.0980.0811.0)/()()()/() /()()/()();(/ 980.0)4167.0log 4167.05833.0log 5833.0()()(4167 .03 2 413143)/()()/()()()()(5833.031 413243)/()()/()()()()(/ 918.0 10 log )3 2 lg 324131lg 314131lg 314332lg 3243( ) /(log )/()()/(/ 811.0)41 log 4143log 43()()(222221212221221211112111222=-==-==+-=+-=-=-==?+?-=-==?+?=+=+==?+?= +=+==??+?+?+?-=-==?+?-=-=∑∑∑∑ 2) 2221122 max (;)log log 2(lg lg )log 100.082 /3333 mi C I X Y m H bit symbol ==-=++?=其最佳输入分布为1 ()2 i p x = 3-2某信源发送端有2个符号，i x ，i ＝1，2；()i p x a =，每秒发出一个符号。接受端有3 种符号i y ，j ＝1，2，3，转移概率矩阵为1/21/201/21/41/4P ?? =???? 。 （1） 计算接受端的平均不确定度；

北邮版概率论答案(2)

习题二 1.一袋中有5只乒乓球，编号为1，2，3，4，5，在其中同时取3只，以X 表示取出的3只 球中的最大号码，写出随机变量X 的分布律. 【解】 3535 24 35 3,4,51 (3)0.1C 3(4)0.3C C (5)0.6 C X P X P X P X ====== ==== 2.设在15只同类型零件中有2只为次品，在其中取3次，每次任取1只，作不放回抽样，以X 表示取出的次品个数，求： （1） X 的分布律； （2） X 的分布函数并作图； (3) 133 {},{1},{1},{12}222 P X P X P X P X ≤<≤≤≤<<. 【解】 3 1331512213 3151133 150,1,2. C 22 (0). C 35C C 12(1). C 35 C 1 (2).C 35 X P X P X P X ========== （2） 当x <0时，F （x ）=P （X ≤x ）=0 当0≤x <1时，F （x ）=P （X ≤x ）=P (X =0)= 2235

当1≤x <2时，F （x ）=P （X ≤x ）=P (X =0)+P (X =1)=3435 当x ≥2时，F （x ）=P （X ≤x ）=1 故X 的分布函数 0, 022 ,0135()34,12351,2x x F x x x

北邮概率论与数理统计条件概率1.3

§1.3 条件概率 条件概率是概率论中的一个基本概念，也是概率论中的一个重要工具，它既可以帮助我们认识更复杂的随机事件，也可以帮助我们计算一些复杂事件的概率。 1. 条件概率的定义及计算 在一个随机试验中或随机现象中，当我们已知一个事件B 发生了，这时对另外一个事件A 发生的概率往往需要重新给出度量.称事件A 的这个新概率为在事件B 发生的条件下事件A 发生的条件概率,记为)|(B A P .为了对条件概率有一个直观的认识以及考虑该如何给出条件概率的数学定义,我们先看一个例子. 例1 一批同类产品由甲、乙两个车间生产，各车间生产的产品数及正品和次品的情况如下表 甲车间 乙车间 合计 正品 465 510 975 次品 15 10 25 合计 480 520 1000 从这批产品中任取一件，则这件产品是次品的概率为 %5.21000 25= 现在假设被告知取出的产品是由甲车间生产的，那么这件产品为次品的概率就不再是 %5.2，而是 %125.3480 15= 在本例中，设B 表示事件“取出的产品是由甲车间生产的”，A 表示事件“取出的产品是次品”，前面算出的事件A 的概率是在没有任可进一步的信息的情况下得到的，而后面算出的事件A 的概率是在有了 “事件B 发生了”这一信息的情况下得到的.后一个概率就是在事件B 发生的条件下事件A 发生的条件概率.与此对应，我们可以把前一个概率称为无条件概率。经过简单计算有 ) ()(1000/4801000/1548015)|(B P AB P B A P === 这个关系式尽管是从本例得出的，但它具有普遍意义.受由启发,我们可以在一般的样本空间中给出条件概率的数学定义. 定义 设B A ,是样本空间Ω中的两个事件，且0)(>B P ，在事件B 发生的条件下，事件A 的条件概率定义为 ) ()()|(B P AB P B A P = 根据条件概率的定义，不难验证条件概率满足概率定义中的三条公理： （1）非负性：对任一事件B ，有0)|(≥A B P ； （2）规范性：1)|(=ΩA P ；

信息论与编码(第二版)曹雪虹(最全版本)答案

《信息论与编码（第二版）》曹雪虹答案 第二章 一个马尔可夫信源有3个符号{}1,23,u u u ，转移概率为：()11|1/2p u u =，()21|1/2p u u =， ()31|0p u u =，()12|1/3p u u =，()22|0p u u =，()32|2/3p u u =，()13|1/3p u u =，()23|2/3p u u =，()33|0p u u =，画出状态图并求出各符号稳态概率。 解：状态图如下 状态转移矩阵为： 1/21/2 01/302/31/32/30p ?? ?= ? ??? 设状态u 1，u 2，u 3稳定后的概率分别为W 1，W 2、W 3 由1231WP W W W W =??++=?得1231132 231231 112331223231W W W W W W W W W W W W ?++=???+=???=???++=? 计算可得1231025925625W W W ?=???= ?? ?=?? 由符号集{0，1}组成的二阶马尔可夫链，其转移概率为：(0|00)p =，(0|11)p =，(1|00)p =， (1|11)p =，(0|01)p =，(0|10)p =，(1|01)p =，(1|10)p =。画出状态图，并计算各状态的稳态概 率。 解：(0|00)(00|00)0.8p p == (0|01)(10|01)0.5p p == (0|11)(10|11)0.2p p == (0|10)(00|10)0.5p p == (1|00)(01|00)0.2p p == (1|01)(11|01)0.5p p == u 1 u 2 u 3 1/2 1/21/3 2/32/3 1/3

信息论与编码-曹雪虹-第五章-课后习题答案

第五章 --习题答案 (2) 哪些码是非延长码？ (3) 对所有唯一可译码求出其平均码长和编译效率。 解：首先，根据克劳夫特不等式，找出非唯一可译码 31123456231244135236:621 63:222222164 63: 164 :22421:2521:2521 C C C C C C --------------?<+++++=<<++?=+?>+?< 5C ∴不是唯一可译码，而4C ： 又根据码树构造码字的方法 1C ，3C ，6C 的码字均处于终端节点 ∴他们是即时码

(1) 因为A,B,C,D四个字母,每个字母用两个码,每个码为0.5ms, 所以每个字母用10ms 当信源等概率分布时,信源熵为H(X)=log(4)=2 平均信息传递速率为bit/ms=200bit/s (2) 信源熵为 H(X)= =0.198bit/ms=198bit/s 5-5 (1) 1 2 1 4 1 8 1 16 1 32 1 64 1 128 1 128 H(U)= 1 2Log2() 1 4 Log4() + 1 8 Log8() + 1 16 Log16 () + 1 32 Log32 () + 1 64 Log64 () + 1 128 Log128 () + 1 128 Log128 () + 1.984 = (2) 每个信源使用3个二进制符号,出现0的次数为 出现1的次数为 P(0)= P(1)= (3) 相应的费诺码

（5）香农码和费诺码相同平均码长为 编码效率为： 5-11 （1）信源熵 （2）香农编码： 平均码长： 编码效率为 （3）

概率论与数理统计课后答案北邮版(第四章)

习题四 1.设随机变量X 的分布律为 1 0 1 2 求E （X ），E （X 2 ），E （2X +3）. 【解】(1) 11111 ()(1)012;8 2842 E X =-?+? +?+?= (2) 22 22211115()(1)012;82844 E X =-?+?+?+?= (3) 1 (23)2()32342 E X E X +=+=?+= 2.已知100个产品中有10个次品，求任意取出的5个产品中的次品数的数学期望、方差. 【解】设任取出的5个产品中的次品数为X ，则X 的分布律为 故 ()0.58300.34010.07020.00730405E X =?+?+?+?+?+? 0.501,= 5 2 ()[()]i i i D X x E X P == -∑ 222(00.501)0.583(10.501)0.340(50.501)0 0.432. =-?+-?++-?= 3.设随机变量X 的分布律为 1 0 1 且已知E （X ）=,E (X 2 )=,求P 1，P 2，P 3.

【解】因1231P P P ++=……①, 又12331()(1)010.1E X P P P P P =-++=-=……②, 2222 12313()(1)010.9E X P P P P P =-++=+=……③ 由①②③联立解得1230.4,0.1,0.5.P P P === 4.袋中有N 只球，其中的白球数X 为一随机变量，已知E （X ）=n ，问从袋中任取1球为白 球的概率是多少 【解】记A ={从袋中任取1球为白球}，则 (){|}{}N k P A P A X k P X k ===∑全概率公式 1 {}{} 1().N N k k k P X k kP X k N N n E X N N ===== ===∑∑ 5.设随机变量X 的概率密度为 f （x ）=?? ? ??≤≤-<≤.,0,21,2, 10,其他x x x x 求E （X ），D （X ）. 【解】12 20 1 ()()d d (2)d E X xf x x x x x x x +∞ -∞ = =+-? ?? 2 1 3 32011 1.33x x x ?? ??=+-=??????? ? 1 2 2 2 3 20 1 7 ()()d d (2)d 6 E X x f x x x x x x x +∞ -∞ ==+-= ? ?? 故 2 2 1()()[()].6 D X E X E X =-= 6.设随机变量X ，Y ，Z 相互独立，且E （X ）=5，E （Y ）=11，E （Z ）=8，求下列随机变量的数学期望. （1） U =2X +3Y +1； （2） V =YZ 4X .

信息论与编码曹雪虹 题库

1. 在无失真的信源中，信源输出由H (X ) 来度量；在有失真的信源中，信源输出由R (D ) 来度量。 2. 要使通信系统做到传输信息有效、可靠和保密，必须首先信源编码，然后_加密_编码，再_信道编码，最后送入信道。 3. 带限AWGN 波形信道在平均功率受限条件下信道容量的基本公式，也就是有名的香农公式是C =W log(1+SNR ) ；当归一化信道容量C/W趋近于零时，也即信道完全丧失了通信能力，此时E b /N0为-1.6 dB ，我们将它称作香农限，是一切编码方式所能达到的理论极限。 4. 保密系统的密钥量越小，密钥熵H (K ) 就越小，其密文中含有的关于明文的信息量I (M ；C ) 就越大。 5. 已知n ＝7的循环码g (x ) =x 4+x 2+x +1，则信息位长度k 为，校验多项式h(x)= 3 6. 设输入符号表为X ＝{0，1}，输出符号表为Y ＝{0，1}。输入信号的概率分布为p ＝(1/2，1/2)，失真函数为d (0，0) = d (1，1) = 0，d (0，1) =2，d (1，0) = 1，则D min ＝0 ，?10??； D max ＝0.5 ，01??R (D min ) ＝1bit/symbol ，相应的编码器转移概率矩阵[p(y/x)]＝? R (D max ) ＝0 ，相应的编码器转移概率矩阵[p(y/x)]＝??10??。10?? 7. 已知用户A 的RSA 公开密钥(e,n )=(3,55)，p =5, q =11, 则φ(n ) = 40 ，他的秘密密钥(d,n ) ＝(27,55) 。若用户B 向用户A 发送m =2的加密消息，则该加密后的消息为8 。１．设Ｘ的取值受限于有限区间［a,b ］，则X 服从均匀分布时，其熵达到最大；如X 的均值为μ，方差受限为σ，则X 服从分布时，其熵达到最大。 2．信息论不等式：对于任意实数z >0，有ln z ≤z -1，当且仅当z =1时等式成立。 3．设信源为X={0，1}，P （0）=1/8，则信源的熵为1/8log 28+7/8log 2(7/8) ，如信源发出由m 个“0”和（100-m ）个“1”构成的序列，序列的自信息量为2m log 28+(100-m ) log 2(7/8) 。4．离散对称信道输入等概率时，输出为等概分布。 5．根据码字所含的码元的个数，编码可分为定长编码和变长编码。 6．设DMS 为?u 2u 3u 4u 5u 6?U ??u 1?=. ，用二元符号表????P U ??0. 370. 250. 180. 100. 070. 03? X ={x 1=0, x 2=1}对其进行定长编码，若所编的码为{000，001，010，011，100，101}，则编码器输出码元的一维概率P (x 1) =, P (x 2) = 1. 在现代通信系统中，信源编码主要用于解决信息传输中的有效性，信道编码主要用于解决信息传输中的可靠性，加密编码主要用于解决信息传输中的安全性。 X ??x 1x 2x 3x 4?2. 离散信源?，则信源的熵为1.75bit/符号。=?p (x ) ??1/21/41/81/8?????3. 对称DMC 信道的输入符号数为n ，输出符号数为m ，信道转移概率矩阵为p ij ，则该信道的容量为C =log m +m j =1∑p ij log p ij 。 n 4. 采用m 进制编码的码字长度为K i ，码字个数为n ，则克劳夫特不等式为∑m -K i ≤1， i =1 它是判断唯一可译码存在的充要条件。 5. 差错控制的基本方式大致可以分为前向纠错、反馈重发和混合纠错。 6. 如果所有码字都配置在二进制码树的叶节点，则该码字为唯一可译码。 7. 齐次马尔可夫信源的一步转移概率矩阵为P ，稳态分布为W ，则W 和P 满足的方程为W=WP 。 8. 设某信道输入端的熵为H(X)，输出端的熵为H(Y)，该信道为无噪有损信道，则该信道的容量为MAX H（Y ）。 9. 某离散无记忆信源X ，其符号个数为n ，则当信源符号呈等概_____分布情况下，信源

信息论与编码_曹雪虹_课后习题答案

《信息论与编码》 -雪虹-课后习题答案 第二章 2.1 一 个 马 尔 可 夫 信 源 有 3 个 符 号 u u , u ， 转 移 概 率 为 ： p u 1|u 11/2 ， p u 2|u 11/2 ， p u 3|u 1 ， p u 1|u 2 1/3 ， p u 2|u 20 ， p u 3|u 22/3 ， p u 1|u 3 1/3 ， p u 2|u 3 2/3 ， p u 3|u 3 0 ，画出状态图并求出各符号稳态概率。 解：状态图如下 1/2 u 1 1/2 1/3 u 2 状态转移矩阵为： 1/3 u 3 2/3 2/3 1/ 2 1/ 2 0 p 1/ 3 0 2 / 3 设状态 u u u 稳定后的概率分别为 W ，W 、W 1， 2， 3 1 2 3 1 1 1 W 1 W 2 W 3 W 1 2 3 3 1 2 WP W W 1 W 3 W 2 由 得 2 3 计算可得 2 W W W 1 1 2 3 W 2 W 3 3 W W W 1 10 25 9 25 6 25 2.2 由符号集{0，1}组成的二阶马尔可夫链，其转移概率为： p (0 | 00) =0.8，p (0 |11) =0.2， p (1| 00) =0.2，p (1|11) =0.8，p (0 | 01) =0.5，p (0 |10) =0.5，p (1| 01) =0.5，p (1|10) =0.5。 画出状态图，并计算各状态的稳态概率。 解： p (0 | 00) p (00 | 00) 0.8 p (0 | 01) p (10| 01) 0.5 p (0 |11) p (10|11) 0.2 p (0 |10) p (00 |10) 0.5 p (1| 00) p (01| 00) 0.2 p (1| 01) p (11| 01) 0.5 p (1|11) p (11|11) 0.8 p (1|10) p (01|10) 0.5 1, 2 3 1/ 3 2 / 3 0 W 1 W 2 W 3 1 2 3

北邮版概率论答案

习题二 2?设在15只同类型零件中有 2只为次品，在其中取 3次，每次任取1只，作不放回抽样, 以X 表示取出的次品个数，求： （1） X 的分布律； （2） X 的分布函数并作图； ⑶ 1 3 3 P{X -}, P{1 X -}, P{1 X }, P{1 X 2}. 2 2 2 【解】 X 0,1,2. C ；3 22 P(X 0) J C 15 35 1 2 C ； 12 P(X 1) J — C 15 35 C 1 1 P(X 2) 3 C 15 35 故X 的分布律为 X 0 \ 1 2 P 22 12 1 .Z ........... 35 35 / 35 (2)当 x<0 时，F (x ) =P (X w x ) =0 当0 w x<1时， F (x ) =P (X w x ) \ Z 22 =P(X=0)=—— 35 2, 3, 4, 5，在其中同时取 3只，以X 表示取出的3只 X 的 分布律. X 3,4,5 P(X 1 3) -3 0.1 / P(X 3 4) -3 0.3 2 / P(X 5) C 3 0.6 C ； 故所求分布律为 1?一袋中有5只乒乓球，编号为1， 球中的最大号码，写出随机变量 【解】

4.( 1)设随机变量X 的分布律为 当1 < x<2时, F (x ) =P (X W x ) =P(X=0)+P(X=1)=34 35 当 x >2 时，F (x ) =P (X W x ) =1 故X 的分布函数 0, x 0 F(x) 22 35 34 35 1, x 2 22 35 3 3 34 34 P(1 X ) F(：) F(1) 0 2 2 35 35 3 3 12 P(1 X -) P(X 1) P(1 X -)- 2 2 35 34 P(1 X 2) F(2) F(1) P(X 2) 1 - 35 1 0. 35 3?射手向目标独立地进行了 3次射击，每次击中率为，求 3次射击中击中目标的次数的分布 律及分布函数，并求 3次射击中至少击中2次的概率? 【解】 设X 表示击中目标的次数?则X=0，1，2，3. P(X 0) (0.2)3 0.008 P(X 1) C ；0.8(0.2)2 0.096 P(X 2) C 3(0.8)20.2 0.384 P(X 3) 3 (0.8) 0.512 X \ 0 1 2 3 P 分布函数 0, x 0 0.008, 0 x 1 F(x) 0.104, 1 x 2 0.488, 2x3 1, x 3 P(X 2) P(X 2) P(X 3) 0.896 P(X F(2) 故X 的分布律为

北邮版概率论答案(7)

习题七 1.设总体X 服从二项分布b （n ，p ），n 已知，X 1，X 2，…，X n 为来自X 的样本，求参数p 的矩法估计. 【解】1(),(),E X np E X A X ===因此np =X 所以p 的矩估计量 ?X p n = 2.设总体X 的密度函数 f （x ,θ）=22 (),0, 0, .x x θθθ?-<

所以θ的极大似然估计量为1 ?X θ =. (2) 似然函数1 1 ,01n n i i i L x x θ θ -==<<∏,i =1,2,…,n. 1 ln ln (1)ln n i i L n x θθ==+-∏ 】 由1 d ln ln 0d n i i L n x θθ==+=∏知 1 1?ln ln n n i i i i n n x x θ ===-=- ∑∏ 所以θ的极大似然估计量为 1 ?ln n i i n x θ ==-∑ 求这批股民的收益率的平均收益率及标准差的矩估计值. 【解】 0.094x =- 0.101893s = 9n = 0.094.EX x = =- 由2 2 2 2 21()()[()],()n i i x E X D X E X E X A n ==+==∑知222 ??[()]E X A σ+=,即有 ￥ ?σ =于是 ?0.101890.0966σ === 所以这批股民的平均收益率的矩估计值及标准差的矩估计值分别为和. 5.随机变量X 服从［0，θ］上的均匀分布，今得X 的样本观测值：,,,,,,,，求θ的矩法估计 和极大似然估计，它们是否为θ的无偏估计. 【解】(1) ()2 E X θ = ,令()E X X =，则