贝叶斯统计复习
贝叶斯统计复习
贝叶斯统计习题1. 设θ是一批产品的不合格率，从中抽取8个产品进行检验，发现3个不合格品，假如先验分布为 （1）U 0,1θ:（）（2）21-0<<1=0,θθπθ⎧⎨⎩（），（）其它 求θ的后验分布。
解：()()()()()111335368362(|)(1)*2(1)112(1)15(|)840(1),01m x p x d C d d p x x m x θπθθθθθθθθθθπθπθθθθ==--=-===-<<⎰⎰⎰2． 设12,,,n x x x L 是来自均匀分布U 0,θ（）的一个样本，又设θ的先验分布为Pareto 分布，其密度函数为+1000/>=0,αααθθθθπθθθ⎧⎨≤⎩，（）其中参数0>0,>0θα，证明：θ的后验分布仍为Pareto 分布。
解：样本联合分布为：1(),0np x x θθθ=<<1000/,()0,αααθθθθπθθθ+⎧>=⎨≤⎩{}110101()()()/1/,max ,,,n n n x p x x x αααπθθπθαθθθθθθ++++∝=∝>=L因此θ的后验分布的核为11/n αθ++，仍表现为Pareto 分布密度函数的核即1111()/,()0,n n n x αααθθθθπθθθ+++⎧+>=⎨≤⎩即得证。
3． 设12,,,n x x x L 是来自指数分布的一个样本，指数分布的密度函数为-(|)=,>0xp x e x λλλ，（1） 证明：伽玛分布(,)Ga αβ是参数λ的共轭先验分布。
（2） 若从先验信息得知，先验均值为0.0002，先验标准差为0.0001，确定其超参数,αβ。
解：()()()111()1()()()()(),.nii x nn n x n n x p x ee ex p x e Ga n nx λλααβλαβλλλλβπλλαλπλλπλλαβ=----+--+∑===Γ∝∝++样本的似然函数：参数的后验分布服从伽马分布220.0002(2)4,20000.0.0001αβαβαβ⎧=⎪⎪⇒==⎨⎪=⎪⎩4. 设一批产品的不合格品率为θ，检查是一个接一个的进行，直到发现第一个不合格品停止检查，若设X 为发现第一个不合格品是已经检查的产品数，则X 服从几何分布，其分布列为 ()-1(=|)=1-,=1,2,x P X x x θθθL假如θ只能以相同的概率取三个值1/4, 2/4, 3/4，现只获得一个观察值=3x ，求θ的最大后验估计ˆMDθ。
贝叶斯统计-习题答案)
第一章 先验分布与后验分布1.1 解：令120.1,0.2θθ==设A 为从产品中随机取出8个，有2个不合格，则22618()0.10.90.1488P A C θ== 22628()0.20.80.2936P A C θ== 从而有5418.03.02936.07.01488.07.01488.0)()|()()|()()|()|(2211111=⨯+⨯⨯=+=θπθθπθθπθθπA P A P A P A 4582.0)|(1)|(4582.03.02936.07.01488.03.02936.0)()|()()|()()|()|(122211222=-==⨯+⨯⨯=+=A A or A P A P A P A θπθπθπθθπθθπθθπ1.2 解：令121, 1.5λλ==设X 为一卷磁带上的缺陷数，则()XP λ∴3(3)3!e P X λλλ-==R 语言求：)4(/)exp(*)3(^gamma λλ-1122(3)(3)()(3)()0.0998P X P X P X λπλλπλ∴===+== 从而有111222(3)()(3)0.2457(3)(3)()(3)0.7543(3)P X X P X P X X P X λπλπλλπλπλ==========1.3 解：设A 为从产品中随机取出8个，有3个不合格，则3358()(1)P A C θθθ=-（1） 由题意知 ()1,01πθθ=<< 从而有.10,)1(504)|(504)6,4(/1)6,4(1)6,4()1()1()1()1()1()1()1()()|()()|()|(535311614531535315338533810<<-==-=--=--=--==⎰⎰⎰⎰--θθθθπθθθθθθθθθθθθθθθθθθθπθθπθθπA beta B R B d d d C C d A P A P A ：语言求（2）.10,)1(840)|(840)7,4(/1)7,4(1)7,4()1()1()1()1()1()1(2)1()1(2)1()()|()()|()|(63631171463163631533853381<<-==-=--=--=----==⎰⎰⎰⎰--θθθθπθθθθθθθθθθθθθθθθθθθθθπθθπθθπA beta B R B d d d C C d A P A P A ：语言求1.5 解：（1）由已知可得.5.125.11,110110/1)()|()()|()|(,2010,101)(5.125.111)|(2112211)|(12,2121,1)|(5.125.11201011111111<<===<<=<<=+<<-==+<<-=⎰⎰θθθθπθθπθθπθθπθθθθθθθθd d x p x p x x p x p x x x p ，，即，时，当（2）由已知可得.6.115.11,1010110/1)()|,,()()|,,(),,|(,2010,101)(6.115.111)|,,(,219.1121,214.1121,211.1121,217.1121215.11212112211)|,,(9.11,4.11,1.11,7.11,5.11,0.12,6,2,1,2121,1)|,,(6.115.112010621621621621621654321621<<===<<=<<=+<<-+<<-+<<-+<<-+<<-+<<-========+<<-=⎰⎰θθθθπθθπθθπθθπθθθθθθθθθθθθθθθθθθd d x x x p x x x p x x x x x x p x x x p x x x x x x i x x x x p i ，即，，时，当【原答案：由已知可得 ()1,0.50.5P x x θθθ=-<<+1(),102010πθθ=<< 11.611.51()0.0110m x d θ==⎰从而有()()()10,11.511.6()P x x m x θπθπθθ==<< 】1.6 证明：设随机变量()XP λ，λ的先验分布为(,)Ga αβ，其中,αβ为已知，则即得证！),(~),,|()()|,,(),,|(,0,)()(,!!)|,,(121)(121211112111βαλπλλπλλπλλαβλπλλλλβαβλααλλ++∑∑∝•∝>Γ=∑===+--+--=-=-==∏∏n x Ga x x x ex x x p x x x e x e x e x x x p ni i n n x n n ni in x ni i x n ni i ni ii【原答案： (),0!x e P x x λλλλ-=>1(),0()e ααβλβπλλλα--=>Γ 因此 11(1)()()()x x x P x e e e λαβλαβλπλλπλλλλ---+--+∝•∝= 所以 (,1)x Ga x λαβ++】 1.7 解：（1）由题意可知.1},max{,1)/(1)/(122)()|,,()()|,,(),,|(,10,1)(,,2,1,10,22)|,,(121},max{221},max{2121121212112122111<<∝===<<==<<<==⎰⎰∏∏⎰∏∏====θθθθθθθθθθπθθπθθπθθπθθθθn nx x nn x x nni in nni inn n n ni i nni inin x x d d x xd x x x p x x x p x x x n i x xx x x x p n n【原答案：由题意可知 ()1,01πθθ=<< 因此122()12(1)xxm x d x θθ=•=-⎰因此 2()()1(),1()1P x x x x m x x θπθπθθθ==<<-（实质是新解当n=1的情形）】 （2） 由题意可知.1},max{,1)/(1)/(13232)()|,,()()|,,(),,|(,10,3)(,,2,1,10,22)|,,(12-21},max{2-22-21},max{2212211212121212122111<<∝=⨯⨯==<<==<<<==⎰⎰∏∏⎰∏∏====θθθθθθθθθθθθπθθπθθπθθθπθθθθn n x x n n x x nni in nni inn n n ni i nni inin x x d d x xd x x x p x x x p x x x n i x xx x x x p n n【原答案：由题意可知 1222()36xm x d x θθθ=•=⎰因此 ()()()1,01()P x x m x θπθπθθ==<<】 1.8 解：设A 为100个产品中3个不合格，则3397100()(1)P A C θθθ=-由题意可知 199(202)()(1),01(200)πθθθθΓ=-≤≤Γ 因此 3971994296()()()(1)(1)(1)A P A πθθπθθθθθθθ∝•∝--=- 由上可知)297,5(~)|(Be A θπ1.9 解：设X 为某集团中人的高度，则2(,5)XN θ∴25(,)10XNθ ∴2(176.53)5()p x θθ--=由题意可知 2(172.72)5.08()θπθ--=又由于X 是θ的充分统计量，从而有()()()()x x p x πθπθθπθ=∝•222(176.53)(172.72)(174.64)55.0821.26eeeθθθ------⨯∝•∝因此 (174.64,1.26)x N θ1.10 证明：设22(,),,N u u θσσ其中为已知又由于X 是θ的充分统计量，从而有()()()()x x p x πθπθθπθ=∝•222222251()()11252()11225252u x x u eeeσθθθσσσ+----+⨯--⨯+⨯∝∝因此 222251(,)112525u x xN σθσσ+++又由于21112525σ≤+ 所以 θ的后验标准差一定小于151.11 解：设X 为某人每天早上在车站等候公共汽车的时间，则(0,)X U θ.8,861)/(1192192)()|,,()()|,,(),,|(,4,192)(.81)|,,(8,8,5.3,2,1,0,1)|,,(768778774321321321433213213321>⨯====≥=>=====<<=⎰⎰⎰∞∞∞θθθθθθθθθθπθθπθθπθθθπθθθθθθd d d x x x p x x x p x x x x x x p x x x i x x x x p i ，时，当【原答案：设X 为某人每天早上在车站等候公共汽车的时间，则(0,)XU θ∴1(),0p x x θθθ=<<当8θ>时，31()p x θθ=43819211()8192m x d θθθ+∞==⎰从而有 7()()3()()128p x x m x θπθπθθ==, 计算错误】1.12 证明：由题意可知 1(),0,1,2,...,i np x x i n θθθ=<<=从而有 ()()()()x x p x πθπθθπθ∝•00111n n n ααααθθθθθ++++∝•∝ 因此 θ的后验分布仍是Pareto 分布。
贝叶斯统计ppt课件
29
二 参数的Bayes点估计
（3）后验中位数估计
若 Me是后验分布h(θ| x )的中位数， 则 Me称为θ的后验中位数估计。即若
u0.5 h( x)d 0.5
则后验分布中位数估计
Me u0.5
30
二 参数的Bayes点估计
以上三种估计统称θ的Bayes估计，记为
或简记B 为 。它们 皆是样本观察值
18
历史迭代图
不收敛 收敛
19
(2)观察自相关性图 （m）
自相关性图用于描述（m）序列在不同迭代
延迟下的相关性，延迟i的自相关性是指相 距i步的两迭代之间的相关性。具有较差的 性质的链随着迭代延迟的增加会表现出较 慢的自相关衰弱。
20
21
22
23
Bayes Bayes统计推断
Bayes统计推断概述 参数的Bayes点估计 Bayes区间估计 Bayes假设检验
选择检验统计量，确定抽样分布，等等。
41
四 Bayes假设检验
Bayes假设检验不同型：
简单假设 简单假设
复杂假设 复杂假设 假单假设 复杂假设
42
四 Bayes假设检验
Bayes因子
设两个假设Θ0，Θ1的先验概率分布为π0与π1，
即：
0 P( 0 ),1 P( 1)
则 0 1 称为先验概率比。
3
（一）预备知识
4
5
（二）基本思想
6
（三）常用MCMC算法 Gibbs抽样（吉布斯采样算法）
7
8
立即更新的Gibbs抽样
每次迭带的时候 的一些元素已经被跟新了，如果在更
新其他的元素时不使用这些更新后的元素会造成一定程度 的浪费。事实上， Gibbs抽样 可通过在每一步都利用近似 得到的其他元素的值来获得更好的效果。这种方法改进了 练的混合，换句话说，链能更加迅速，更加详尽的搜索目 标分布的支撑空间。
贝叶斯统计习题答案
第一章 先验分布与后验分布1.1 解：令120.1,0.2θθ==设A 为从产品中随机取出8个，有2个不合格，则22618()0.10.90.1488P A C θ== 22628()0.20.80.2936P A C θ== 从而有5418.03.02936.07.01488.07.01488.0)()|()()|()()|()|(2211111=⨯+⨯⨯=+=θπθθπθθπθθπA P A P A P A 4582.0)|(1)|(4582.03.02936.07.01488.03.02936.0)()|()()|()()|()|(122211222=-==⨯+⨯⨯=+=A A or A P A P A P A θπθπθπθθπθθπθθπ1.2 解：令121, 1.5λλ==设X 为一卷磁带上的缺陷数，则()XP λ∴3(3)3!e P X λλλ-==R 语言求：)4(/)exp(*)3(^gammaλλ- 1122(3)(3)()(3)()0.0998P X P X P X λπλλπλ∴===+== 从而有111222(3)()(3)0.2457(3)(3)()(3)0.7543(3)P X X P X P X X P X λπλπλλπλπλ==========1.3 解：设A 为从产品中随机取出8个，有3个不合格，则3358()(1)P A C θθθ=-（1） 由题意知 ()1,01πθθ=<< 从而有.10,)1(504)|(504)6,4(/1)6,4(1)6,4()1()1()1()1()1()1()1()()|()()|()|(535311614531535315338533810<<-==-=--=--=--==⎰⎰⎰⎰--θθθθπθθθθθθθθθθθθθθθθθθθπθθπθθπA beta B R B d d d C C d A P A P A ：语言求（2）.10,)1(840)|(840)7,4(/1)7,4(1)7,4()1()1()1()1()1()1(2)1()1(2)1()()|()()|()|(636311714631636315338533810<<-==-=--=--=----==⎰⎰⎰⎰--θθθθπθθθθθθθθθθθθθθθθθθθθθπθθπθθπA beta B R B d d d C C d A P A P A ：语言求1.5 解：（1）由已知可得.5.125.11,110110/1)()|()()|()|(,2010,101)(5.125.111)|(2112211)|(12,2121,1)|(5.125.11201011111111<<===<<=<<=+<<-==+<<-=⎰⎰θθθθπθθπθθπθθπθθθθθθθθd d x p x p x x p x p x x x p ，，即，时，当（2）由已知可得.6.115.11,1010110/1)()|,,()()|,,(),,|(,2010,101)(6.115.111)|,,(,219.1121,214.1121,211.1121,217.1121215.11212112211)|,,(9.11,4.11,1.11,7.11,5.11,0.12,6,2,1,2121,1)|,,(6.115.112010621621621621621654321621<<===<<=<<=+<<-+<<-+<<-+<<-+<<-+<<-========+<<-=⎰⎰θθθθπθθπθθπθθπθθθθθθθθθθθθθθθθθθd d x x x p x x x p x x x x x x p x x x p x x x x x x i x x x x p i ，即，，时，当【原答案：由已知可得 ()1,0.50.5P x x θθθ=-<<+1(),102010πθθ=<< 11.611.51()0.0110m x d θ==⎰从而有()()()10,11.511.6()P x x m x θπθπθθ==<< 】1.6 证明：设随机变量()XP λ，λ的先验分布为(,)Ga αβ，其中,αβ为已知，则即得证！),(~),,|()()|,,(),,|(,0,)()(,!!)|,,(121)(121211112111βαλπλλπλλπλλαβλπλλλλβαβλααλλ++∑∑∝•∝>Γ=∑===+--+--=-=-==∏∏n x Ga x x x ex x x p x x x e x e x ex x x p ni i n n x n n ni in x ni i x n ni i ni ii【原答案： (),0!x e P x x λλλλ-=>1(),0()e ααβλβπλλλα--=>Γ因此 11(1)()()()x x x P x e e e λαβλαβλπλλπλλλλ---+--+∝•∝= 所以 (,1)x Ga x λαβ++】 1.7 解：（1）由题意可知.1},max{,1)/(1)/(122)()|,,()()|,,(),,|(,10,1)(,,2,1,10,22)|,,(121},max{221},max{2121121212112122111<<∝===<<==<<<==⎰⎰∏∏⎰∏∏====θθθθθθθθθθπθθπθθπθθπθθθθn nx x nn x x nni in nni inn n n ni i nni inin x x d d x xd x x x p x x x p x x x n i x xx x x x p n n【原答案：由题意可知 ()1,01πθθ=<< 因此122()12(1)xxm x d x θθ=•=-⎰因此 2()()1(),1()1P x x x x m x x θπθπθθθ==<<- （实质是新解当n=1的情形）】 （2） 由题意可知.1},max{,1)/(1)/(13232)()|,,()()|,,(),,|(,10,3)(,,2,1,10,22)|,,(12-21},max{2-22-21},max{2212211212121212122111<<∝=⨯⨯==<<==<<<==⎰⎰∏∏⎰∏∏====θθθθθθθθθθθθπθθπθθπθθθπθθθθn n x x n n x x nni in nni inn n n ni i nni inin x x d d x xd x x x p x x x p x x x n i x xx x x x p n n【原答案：由题意可知 1222()36xm x d x θθθ=•=⎰因此 ()()()1,01()P x x m x θπθπθθ==<<】1.8 解：设A 为100个产品中3个不合格，则3397100()(1)P A C θθθ=-由题意可知 199(202)()(1),01(200)πθθθθΓ=-≤≤Γ 因此 3971994296()()()(1)(1)(1)A P A πθθπθθθθθθθ∝•∝--=- 由上可知)297,5(~)|(Be A θπ1.9 解：设X 为某集团中人的高度，则2(,5)XN θ∴25(,)10XN θ∴2(176.53)5()p x θθ--= 由题意可知 2(172.72)5.08()θπθ--=又由于X 是θ的充分统计量，从而有()()()()x x p x πθπθθπθ=∝•222(176.53)(172.72)(174.64)55.0821.26eeeθθθ------⨯∝•∝因此 (174.64,1.26)xN θ1.10 证明：设22(,),,N u u θσσ其中为已知又由于X 是θ的充分统计量，从而有()()()()x x p x πθπθθπθ=∝•222222251()()11252()11225252u x x u eeeσθθθσσσ+----+⨯--⨯+⨯∝∝因此 222251(,)112525u x xN σθσσ+++又由于21112525σ≤+ 所以 θ的后验标准差一定小于151.11 解：设X 为某人每天早上在车站等候公共汽车的时间，则(0,)X U θ.8,861)/(1192192)()|,,()()|,,(),,|(,4,192)(.81)|,,(8,8,5.3,2,1,0,1)|,,(768778774321321321433213213321>⨯====≥=>=====<<=⎰⎰⎰∞∞∞θθθθθθθθθθπθθπθθπθθθπθθθθθθd d d x x x p x x x p x x x x x x p x x x i x x x x p i ，时，当【原答案：设X 为某人每天早上在车站等候公共汽车的时间，则(0,)X U θ∴1(),0p x x θθθ=<<当8θ>时，31()p x θθ=43819211()8192m x d θθθ+∞==⎰从而有 7()()3()()128p x x m x θπθπθθ==, 计算错误】 1.12 证明：由题意可知 1(),0,1,2,...,i np x x i n θθθ=<<=从而有 ()()()()x x p x πθπθθπθ∝•00111n n n ααααθθθθθ++++∝•∝ 因此 θ的后验分布仍是Pareto 分布。
贝叶斯统计复习
贝叶斯统计习题1. 设θ是一批产品的不合格率，从中抽取8个产品进行检验，发现3个不合格品，假如先验分布为 （1）U 0,1θ（）（2）21-0<<1=0,θθπθ⎧⎨⎩（），（）其它 求θ的后验分布。
解：()()()()()111335368362(|)(1)*2(1)112(1)15(|)840(1),01m x p x d C d d p x x m x θπθθθθθθθθθθπθπθθθθ==--=-===-<<⎰⎰⎰2． 设12,,,n x x x 是来自均匀分布U 0,θ（）的一个样本，又设θ的先验分布为Pareto 分布，其密度函数为+1000/>=0,αααθθθθπθθθ⎧⎨≤⎩，（） 其中参数0>0,>0θα，证明：θ的后验分布仍为Pareto 分布。
解：样本联合分布为：1(),0np x x θθθ=<<1000/,()0,αααθθθθπθθθ+⎧>=⎨≤⎩{}110101()()()/1/,max ,,,n n n x p x x x αααπθθπθαθθθθθθ++++∝=∝>=因此θ的后验分布的核为11/n αθ++，仍表现为Pareto 分布密度函数的核即1111()/,()0,n n n x αααθθθθπθθθ+++⎧+>=⎨≤⎩即得证。
3．设12,,,n x x x 是来自指数分布的一个样本，指数分布的密度函数为-(|)=,>0x p x e x λλλ，（1） 证明：伽玛分布(,)Ga αβ是参数λ的共轭先验分布。
（2） 若从先验信息得知，先验均值为0.0002，先验标准差为0.0001，确定其超参数,αβ。
解：()()()111()1()()()()(),.nii x nn n x n n x p x ee ex p x e Ga n nx λλααβλαβλλλλβπλλαλπλλπλλαβ=----+--+∑===Γ∝∝++样本的似然函数：参数的后验分布服从伽马分布220.0002(2)4,20000.0.0001αβαβαβ⎧=⎪⎪⇒==⎨⎪=⎪⎩4. 设一批产品的不合格品率为θ，检查是一个接一个的进行，直到发现第一个不合格品停止检查，若设X 为发现第一个不合格品是已经检查的产品数，则X 服从几何分布，其分布列为 ()-1(=|)=1-,=1,2,x P X x x θθθ假如θ只能以相同的概率取三个值1/4, 2/4, 3/4，现只获得一个观察值=3x ，求θ的最大后验估计ˆMDθ。
第六章 贝叶斯统计初步
4i i 2 (1 ) 5 4
它的概率分布为
P( i / 4 X 2)
1/4
9/20
2/4
8/20
3/4
3/20
根据定理4知，在0-1损失函数下，的贝叶斯 ˆ 1 ，因为这是后验分布的众数。 估计应是
4
贝叶斯学派与经典学派的区别：
（1）贝叶斯学派的出发点与经典学派不同，后 者的出发点是样本分布的频率函数 p ( x; ) 。 （2）在给定样本等于x时，对 ( x) 或 f ( x; ) 的含义的解释上也不同，前者在贝叶斯学派眼 中是关于 的（条件）频率函数；而后者在经 典学派眼中（作为 的函数）并没有概率的含 义在里面，因而称为似然函数。
结论：对于随机变量X， （1）若 EX 2 ，则
E( X EX )2 mina E( X a)2
（2）若 E X ，M(X)为X的中位数，则
E X M ( X ) mina E X a
2 ˆ ˆ 定理2 在平方损失函数 L( , ) ( ) 下 ， 的贝叶斯估计为后验分布 ( x) 的条件期望，
h( x, ) ( x)m( x) ~ ~ ~ 其中 m ( x )是 x 的边缘密度函数，公式为 ~
~
~
m( x) h( x, )d p ( x ) ( )d
~
它与 无关，或者说 m ( x )中不含 任何信息。 ~ 因此能用来对作出推断的仅是条件分布，它的 计算公式为
这就是参数为x+1和n-x+1的 分布B(x+1,n-x+1)。
第二节 贝叶斯估计
一、损失函数（lost function）
STAT
(完整版)贝叶斯统计-习题答案)
第一章 先验分布与后验分布1.1 解：令120.1,0.2θθ==设A 为从产品中随机取出8个，有2个不合格，则22618()0.10.90.1488P A C θ== 22628()0.20.80.2936P A C θ== 从而有5418.03.02936.07.01488.07.01488.0)()|()()|()()|()|(2211111=⨯+⨯⨯=+=θπθθπθθπθθπA P A P A P A 4582.0)|(1)|(4582.03.02936.07.01488.03.02936.0)()|()()|()()|()|(122211222=-==⨯+⨯⨯=+=A A or A P A P A P A θπθπθπθθπθθπθθπ1.2 解：令121, 1.5λλ==设X 为一卷磁带上的缺陷数，则()XP λ∴3(3)3!e P X λλλ-==R 语言求：)4(/)exp(*)3(^gamma λλ-1122(3)(3)()(3)()0.0998P X P X P X λπλλπλ∴===+== 从而有111222(3)()(3)0.2457(3)(3)()(3)0.7543(3)P X X P X P X X P X λπλπλλπλπλ==========1.3 解：设A 为从产品中随机取出8个，有3个不合格，则3358()(1)P A C θθθ=-（1） 由题意知 ()1,01πθθ=<< 从而有.10,)1(504)|(504)6,4(/1)6,4(1)6,4()1()1()1()1()1()1()1()()|()()|()|(535311614531535315338533810<<-==-=--=--=--==⎰⎰⎰⎰--θθθθπθθθθθθθθθθθθθθθθθθθπθθπθθπA beta B R B d d d C C d A P A P A ：语言求（2）.10,)1(840)|(840)7,4(/1)7,4(1)7,4()1()1()1()1()1()1(2)1()1(2)1()()|()()|()|(636311714631636315338533810<<-==-=--=--=----==⎰⎰⎰⎰--θθθθπθθθθθθθθθθθθθθθθθθθθθπθθπθθπA beta B R B d d d C C d A P A P A ：语言求1.5 解：（1）由已知可得.5.125.11,110110/1)()|()()|()|(,2010,101)(5.125.111)|(2112211)|(12,2121,1)|(5.125.11201011111111<<===<<=<<=+<<-==+<<-=⎰⎰θθθθπθθπθθπθθπθθθθθθθθd d x p x p x x p x p x x x p ，，即，时，当（2）由已知可得.6.115.11,1010110/1)()|,,()()|,,(),,|(,2010,101)(6.115.111)|,,(,219.1121,214.1121,211.1121,217.1121215.11212112211)|,,(9.11,4.11,1.11,7.11,5.11,0.12,6,2,1,2121,1)|,,(6.115.112010621621621621621654321621<<===<<=<<=+<<-+<<-+<<-+<<-+<<-+<<-========+<<-=⎰⎰θθθθπθθπθθπθθπθθθθθθθθθθθθθθθθθθd d x x x p x x x p x x x x x x p x x x p x x x x x x i x x x x p i ，即，，时，当【原答案：由已知可得 ()1,0.50.5P x x θθθ=-<<+1(),102010πθθ=<< 11.611.51()0.0110m x d θ==⎰从而有()()()10,11.511.6()P x x m x θπθπθθ==<< 】1.6 证明：设随机变量()XP λ，λ的先验分布为(,)Ga αβ，其中,αβ为已知，则即得证！),(~),,|()()|,,(),,|(,0,)()(,!!)|,,(121)(121211112111βαλπλλπλλπλλαβλπλλλλβαβλααλλ++∑∑∝•∝>Γ=∑===+--+--=-=-==∏∏n x Ga x x x ex x x p x x x e x e x ex x x p ni i n n x n n ni in x ni i x n ni i ni ii【原答案： (),0!x e P x x λλλλ-=>1(),0()e ααβλβπλλλα--=>Γ 因此 11(1)()()()x x x P x e e e λαβλαβλπλλπλλλλ---+--+∝•∝= 所以 (,1)x Ga x λαβ++】 1.7 解：（1）由题意可知.1},max{,1)/(1)/(122)()|,,()()|,,(),,|(,10,1)(,,2,1,10,22)|,,(121},max{221},max{2121121212112122111<<∝===<<==<<<==⎰⎰∏∏⎰∏∏====θθθθθθθθθθπθθπθθπθθπθθθθn nx x nn x x nni in nni inn n n ni i nni inin x x d d x xd x x x p x x x p x x x n i x xx x x x p n n【原答案：由题意可知 ()1,01πθθ=<< 因此122()12(1)xxm x d x θθ=•=-⎰因此 2()()1(),1()1P x x x x m x x θπθπθθθ==<<- （实质是新解当n=1的情形）】（2） 由题意可知.1},max{,1)/(1)/(13232)()|,,()()|,,(),,|(,10,3)(,,2,1,10,22)|,,(12-21},max{2-22-21},max{2212211212121212122111<<∝=⨯⨯==<<==<<<==⎰⎰∏∏⎰∏∏====θθθθθθθθθθθθπθθπθθπθθθπθθθθn n x x n n x x nni in nni inn n n ni i nni inin x x d d x xd x x x p x x x p x x x n i x xx x x x p n n【原答案：由题意可知 1222()36xm x d x θθθ=•=⎰因此 ()()()1,01()P x x m x θπθπθθ==<<】 1.8 解：设A 为100个产品中3个不合格，则3397100()(1)P A C θθθ=-由题意可知 199(202)()(1),01(200)πθθθθΓ=-≤≤Γ 因此 3971994296()()()(1)(1)(1)A P A πθθπθθθθθθθ∝•∝--=- 由上可知)297,5(~)|(Be A θπ1.9 解：设X 为某集团中人的高度，则2(,5)XN θ∴25(,)10XNθ ∴2(176.53)5()p x θθ--=由题意可知 2(172.72)5.08()θπθ--=又由于X 是θ的充分统计量，从而有()()()()x x p x πθπθθπθ=∝•222(176.53)(172.72)(174.64)55.0821.26eeeθθθ------⨯∝•∝因此 (174.64,1.26)x N θ1.10 证明：设22(,),,N u u θσσ其中为已知又由于X 是θ的充分统计量，从而有()()()()x x p x πθπθθπθ=∝•222222251()()11252()11225252u x x u eeeσθθθσσσ+----+⨯--⨯+⨯∝∝因此 222251(,)112525u x xN σθσσ+++又由于21112525σ≤+ 所以 θ的后验标准差一定小于151.11 解：设X 为某人每天早上在车站等候公共汽车的时间，则(0,)X U θ.8,861)/(1192192)()|,,()()|,,(),,|(,4,192)(.81)|,,(8,8,5.3,2,1,0,1)|,,(768778774321321321433213213321>⨯====≥=>=====<<=⎰⎰⎰∞∞∞θθθθθθθθθθπθθπθθπθθθπθθθθθθd d d x x x p x x x p x x x x x x p x x x i x x x x p i ，时，当【原答案：设X 为某人每天早上在车站等候公共汽车的时间，则(0,)XU θ∴1(),0p x x θθθ=<<当8θ>时，31()p x θθ=43819211()8192m x d θθθ+∞==⎰从而有 7()()3()()128p x x m x θπθπθθ==, 计算错误】1.12 证明：由题意可知 1(),0,1,2,...,i np x x i n θθθ=<<=从而有 ()()()()x x p x πθπθθπθ∝•00111n n n ααααθθθθθ++++∝•∝ 因此 θ的后验分布仍是Pareto 分布。
贝叶斯统计1.4-1.6
k 1 2 S2 ( ) i k 1 i 1
然后令其分别等于贝塔分布Be(α,β) 的期望与方差
2 S 2 ( 1)
2
(1 ) ˆ 1 2 S 解之，可得参数α与β的估计值 (1 ) ˆ (1 ) S 2 1
2 2 2
1 （vn / 2 1) 2 2 1 ( 2） exp v K ( u u ) n n 2 n n 2 这与 ( , 2 ) ( | 2 ) ( 2 ) 1 （vn / 2 1) 2 2 1 ( 2） exp v K ( u u ) 0 0 2 n n 2 形式相同
假如根据先验信息可获得先验均值和p分位数p，则 可列出下列方程的 p ( ) 1 (1 ) 1d p 0 ( )( ) 解之，可得参数α与β的估计值。 四、其它方法 假如根据先验信息可获得先验均值，令
例如用两个上下四分位数U和L来确定α与β
L
0 1
U
( ) 1 1 (1 ) d 0.25 ( )( ) ( ) 1 (1 ) 1d 0.25 从这两个方程 ( )( ) 解出α与β
5
三、利用先验矩和先验分位数
(1 , 2 x ) p( x 1 , 2 ) (1 , 2 )
8
在多参数问题中，人们关心的常常是其中一个或少数几 个参数，这时其余参数常被称为讨厌参数或多余参数。
在处理讨厌参数上，贝叶斯方法要比经典方法方便得多。 例如讨厌参数2，为了获得1的边际后验密度，只要对 讨厌参数积分即可。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
贝叶斯统计习题
1. 设θ是一批产品的不合格率，从中抽取8个产品进行检验，发现3个不合格品，假如
先验分布为 （1）U 0,1θ（）
（2）21-0<<1=0,θθπθ⎧⎨
⎩（），（）其它 求θ的后验分布。
解：
2． 设12,,
,n x x x 是来自均匀分布U 0,θ（）的一个样本，又设θ的先验分布为Pareto 分布，
其密度函数为 其中参数0>0,>0θα，证明：θ的后验分布仍为Pareto 分布。
解：样本联合分布为：
因此θ的后验分布的核为11/n αθ++，仍表现为Pareto 分布密度函数的核 即1111()/,()0,n n n x αααθθθθπθθθ+++⎧+>=⎨≤⎩
即得证。
3． 设12,,,n x x x 是来自指数分布的一个样本，指数分布的密度函数为-(|)=,>0x p x e x λλλ，
（1） 证明：伽玛分布(,)Ga αβ是参数λ的共轭先验分布。
（2） 若从先验信息得知，先验均值为0.0002，先验标准差为0.0001，确定其超参数,αβ。
解：
4. 设一批产品的不合格品率为θ，检查是一个接一个的进行，直到发现第一个不合格品停止检查，若设X 为发现第一个不合格品是已经检查的产品数，则X 服从几何分布，其分布列为 ()-1(=|)=1-,=1,2,x P X x x θθ
θ
假如θ只能以相同的概率取三个值1/4, 2/4, 3/4，现只获得一个观察值=3x ，求θ的最大后
验估计ˆMD
θ。
解：θ的先验分布为
在θ给定的条件下，X=3的条件概率为
联合概率为
X=3的无条件概率为
θ的后验分布为
5。
设x 是来自如下指数分布的一个观察值，
取柯西分布作为θ的先验分布，即
求θ的最大后验估计ˆMD
θ。
解 后验密度
6. 设12=(,,,)n x x x x 是来自均匀分布(0,)U θ的一个样本，又设θ服从Pareto 分布，密度函数为
求θ的后验均值和后验方差。
解：θ的先验分布为：1000/,()0,αααθθθθπθθθ+⎧>=⎨≤⎩
令{}101max ,,,n x x θθ= 可得后验分布为：1111
()/,()0,n n n x αααθθθθπθθθ+++⎧+>=⎨≤⎩ 则θ的后验期望估计为：1()()1
n E x n αθθα+=+-， 后验方差为：212()()(1)(2)
n Var x n n αθθαα+=+-+-. 7. 设x 服从伽玛分布1(,)22n Ga θ
，θ的分布为倒伽玛分布(,)IGa αβ， （1） 证明：在给定x 的条件下，θ的后验分布为倒伽玛分布(+,+)22
n x IGa αβ。
（2） 求θ的后验均值与后验方差。
解：由1~(,),~(,)22n x Ga IGa θαβθ
可以得出 （1）θ的后验分布为： 即为倒伽玛分布(,
)22
n
x IGa αβ++的核。
所以θ的后验分布为(,)22
n x IGa αβ++ （2）后验均值为22()2212
x x E x n n ββθαα++==+-+- 后验方差为2
2()2()(1)(2)22x Var x n n βθαα+=+-+- 8. 对正态分布(,1)N θ作观察，获得三个观察值：2，3，5，若θ的先验分布为(3,1)N ，求
θ的0.95可信区间。
9. 设某电子元件的失效时间X 服从指数分布，其密度函数为
若未知参数θ的先验分布为倒伽玛分布(1,0.01)IGa 。
计算该种元件在时间200之前失效的边缘密度。
解：
10. 设12,,,n X X X 相互独立，且(),=1,,i i X P i n θ。
若12,,,n θθθ是来自伽玛分布(),Ga αβ的一个样本，找出对12=(,,
,)n X x x x 的联合边缘密度。
解： 11. 某厂准备一年后生产一种新产品，如今有三个方案供选择：改建本厂原有生产线（1a ）,从国外引进一条自动化生产线（2a ）；与兄弟厂协助组织“一条龙”生产线（3a ）。
厂长预计一年后市场对此产品的需求量大致可分为三种：较高（1θ）；一般（2θ）；较低（3θ）。
假设其收益矩阵为（单位：万元），700980400=250-50090-200-800-30Q ⎛⎫ ⎪ ⎪ ⎪⎝⎭
假设厂长根据自己对一年后市场需求量是高，中，低，给出的主观概率分别为0.6,0.3，0.1。
求在悲观准则，乐观准则，和先验期望准则下的最优行动。
解：悲观准则下：首先行动1a ，2a ，3a 的最小收益分别为-200，-800，-30,。
然后选出其中
最大的收益为-30，从而最优行动为3a
乐观准则下：首先行动1a ，2a ，3a 的最大收益分别为700，980，400,。
然后选出其中
最大的收益为980，从而最优行动为2a 。
先验期望准则下：各行动的先验期望收益为
从而最优行动为1a 。
12. 某水果店准备购进一批苹果投放市场，市场需求量和采购量都在500至2000公斤之间，已知其收益函数为0.8-0.38,5000.9(,)0.34,
0.92000a a Q a a a θθθθ≤≤⎧=⎨≤≤⎩，假设θ的先验分布为 []500,2000上的均匀分布，该店应购进多少苹果可使先验期望收益最大？
解：先验期望收益为
当a=1343时，先验期望达到最大，故应购进1343公斤苹果。