贝叶斯判别习题

1. 办公室新来了一个雇员小王，小王是好人还是
坏人大家都在猜测。

按人们主观意识，一个人是好人或坏人的概率均为0.5。

坏人总是要做坏事，好人总是做好事，偶尔也会做一件坏事，一般好人做好事的概率为0.9，坏人做好事的概率为0.2，一天，小王做了一件好事，小王是好人的概率有多大，你现在把小王判为何种人。

解：A ：小王是个好人 a ：小王做好事
B ：小王是个坏人 B ：小王做坏事
()(/)(/)()(/)()(/)P A P a A P A a P A P a A P B P a B =
+0.5*0.9
0.820.5*0.90.5*0.2==+
()(/)0.5*0.2
(/)()(/)()(/)0.5*0.90.5*0.2
P B P a B P B b P A P a A P B P a B =
=++=0.18
0.82>0.18 所以小王是个好人、
2. 设 m = 1,k = 2 ，X 1 ~ N (0,1) ，X 2 ~ N (3,2 2 ) ，试就C(2 | 1) = 1，C(1 | 2) = 1，且不考虑先验概率的情况下判别样品
2，1 属于哪个总体，并求出 R = (R1, R2 ) 。

解：
2222
121/821
()()/}1,2
21(2)(20)}0.05421(2)(23)/4}0.176
2i i i P x x i P P μσ--=
--==
--===--==
由于1(2)P <2(2)P ，所以2属于2π
21/2
121/221(1)(10)}0.242
21(1)(13)/4}0.120
2P P --=
--===--==
1(1)P >2(1)P ，所以1属于1π
由
1()P x
22211
}()(3)/4}22x P x x -==--
即221
exp{}2x -=21exp{(69)}8
x x --+
2211
ln 2(69)28
x x x -=--+
解得
1
x =1.42
2
x =-3.14.所以
R=([-3.41,1.42],(-∞,-3.41)U(1.42,+∞)).
3.已知1π，2π的先验分布分别为1q =3
5,2q =25
,C(2|1)=1，C(1|2)=1，且
11,01()2,120,x x f P x x x <≤⎧⎪==-<≤⎨⎪⎩其他 22
(1)/4,13()(5)/4,350,x x f P x x x -<≤⎧⎪
==-<≤⎨⎪⎩
其他 使判别1x = 95
，2x =2所属总体。

解：1p (9/5)=2-9/5=1/5 1p (2)=2-2=0 2p (9/5)=(9/5-1)/4=1/5
2p (2)=(2-1/4)=1/4
11q p = 35*15= 325> 22q p = 25*15 =2
25
11q p =0<22q p =25*14=1
10
所以判1x =9
5
属于1π。

同理可知2x =2属于2π。

4. 假设在某地区切片细胞中正常(ω1)和异常(ω２)两类的先验概率分别为P(ω1)=0.9，P(ω2)=0.1。

现有一待识别细胞呈现出状态x ，由其类条件概率密度分布曲线查得p(x|ω1)=0.2，p(x|ω２)=0.4，试对细胞x 进行分类
解：利用贝叶斯公式，分别计算出状态为x 时ω1与ω２的后验概率
根据贝叶斯决策有
P(ω1|x)＝0.818＞P(ω２|x)＝0.182 判断为正常细胞，错误率为0.182 判断为异常细胞，错误率为0.818 因此判定该细胞为正常细胞比较合理 5 简述贝叶斯判别法的基本思想和方法
基本思想：设k 个总体k G G G ,,,21Λ，其各自的分布密度函数
)(,),(),(21x x x k f f f Λ，假设k 个总体各自出现的概率分别为k q q q ,,,21Λ，
0≥i q ，11
=∑=k
i i q 。

设将本来属于i G 总体的样品错判到总体j G 时造成的损
失为)|(i j C ，k j i ,,2,1,Λ=。

设k 个总体k G G G ,,,21Λ相应的p 维样本空间为 ),,,(21k R R R R Λ=。

在规则R 下，将属于i G 的样品错判为j G 的概率为
x x d f R i j P j
R i )(),|(⎰= j i k
j i ≠=,,2,1,Λ
则这种判别规则下样品错判后所造成的平均损失为
∑==k
j R i j P i j C R i r 1)],|()|([)|( k i ,,2,1Λ=
则用规则R 来进行判别所造成的总平均损失为
∑==k
i i R i r q R g 1),()(
∑∑===k i k
j i R i j P i j C q 1
1
),|()|(
贝叶斯判别法则，就是要选择一种划分k R R R ,,,21Λ，使总平均损失)(R g 达到极小。

基本方法：∑∑===k
i k
j i R i j P i j C q R g 1
1
),|()|()(
x x d f i j C q k i k
j R i i j
∑∑⎰===1
1)()|(
∑⎰∑===k
j R k
i i i j
d f i j C q 1
1
))()|((x x
令1
(|)()()k i i j i q C j i f h ==∑x x ，则 ∑⎰==k
j R j j
d h R g 1
)()(x x
若有另一划分),,,(**2
*
1
*
k
R R R R Λ=，∑⎰==k
j R j j
d h R g 1
*
*)()(x x
则在两种划分下的总平均损失之差为
∑∑⎰
==⋂-=-k i k
j R R j i j
i d h h R g R g 11
*
*)]()([)()(x x x
因为在i R 上)()(x x j i h h ≤对一切j 成立，故上式小于或等于零，是贝叶斯判别的解。

从而得到的划分
)
,,,(21k R R R R Λ=为
1{|()min ()}
i i j j k
R h h ≤≤==x x x
k i ,,2,1Λ=。

6．已知：P(ω1)=0.005，P(ω2)=0.995，
p(x=阳|ω1)=0.95，p(x=阴|ω1)=0.95， p(x=阳|ω2)=0.01，p(x=阴|ω2)=0.99 试计算判断阙值。

解：利用贝叶斯公式，有：
323
.0995
.001.0005.095.0005
.095.0)()|()()|()
()|()
()
()|()|(221111111=⨯+⨯⨯=
=+===
===
=ωωωωωωωωωP x p P x p P x p x p P x p x P 阳阳阳阳阳阳 似然比：950.010.95
)|p(x )|p(x 2112=====
ωω阳阳l
判决阈值：1970.005
0.995
)P()P(1221===ωωθ
（学习的目的是增长知识，提高能力，相信一分耕耘一分收获，努力就一定可以获得应有的回报）。