贝叶斯分类作业题

作业：在下列条件下，求待定样本x=(2,0)T的类别，画出分界线，编程上机。

1、二类协方差相等，

2、二类协方差不等。

1、二类协方差不等

Matlab程序如下：

>> x1=[mean([1,1,2]),mean([1,0,-1])]',x2=[mean([-1,-1,-2]),mean([1,0,-1])]' x1 =

1.3333

x2 =

-1.3333

>> m=cov([1,1;1,0;2,-1]),n=cov([-1,1;-1,0;-2,-1])

m =

0.3333 -0.5000

-0.5000 1.0000

n =

0.3333 0.5000

0.5000 1.0000

>> m1=inv(m),n1=inv(n)

m1 =

12.0000 6.0000

6.0000 4.0000

n1 =

12.0000 -6.0000

-6.0000 4.0000

>> p=log((det(m))/(det(n)))

p =

>> q=log(1)

q =

>> x=[2,0]'

x =

2

>> g=0.5*(x-x1)'*m1*(x-x1)-0.5*(x-x2)'*n1*(x-x2)+0.5*p-q

g =

-64

（说明：g<0,则判定x=[2,0]T属于ω1类）

（化简矩阵多项式0.5*(x-x1)'*m1*(x-x1)-0.5*(x-x2)'*n1*(x-x2)+0.5*p-q，其中x1,x2已知，x设为x=[ x1,x2]T,化简到(12x1-16+6x2）(x1-4/3)+(6x1-8+4x2)

-(12x1+16-6x2)(x1+4/3)-(-6x1-8+4x2)x2，

下面用matlab化简，程序如下）

>> syms x2;

>> syms x1;

>>

w=(12*x1-16+6*x2)*(x1-4/3)+(6*x1-8+4*x2)*x2-(12*x1+16-6*x2)*(x1+4/3)-(-6*x1-8+4 *x2)*x2,simplify(w)

w =

(12*x1-16+6*x2)*(x1-4/3)+(6*x1-8+4*x2)*x2-(12*x1+16-6*x2)*(x1+4/3)-(-6*x1-8+4*x 2)*x2

ans =

-64*x1+24*x2*x1

(说明：则-64×x1+24×x2×x1=0,即x1=0，或者x2=8/3,很显然分界线方程为x1=0，因为x2=8/3连ω1类与ω2都分不开)

2、二类协方差相等

Matlab程序如下：

>> l=m+n

l =

0.6667 0

0 2.0000

>> l1= inv(l)

l1 =

1.5000 0

0 0.5000

>> g1=(x2-x1)'*m1*x+0.5*(x1'*l1*x1-x2'*l1*x2)-q

g1 =

-64.0000

（说明：g1<0,则判定x=[2,0]T属于ω1类）

>> (x2-x1)'*m1

ans =

-32.0000 -16.0000

>> syms x11;

>> syms x22;

>> w1=-32*x11+(-16)*x22+0.5*(x1'*l1*x1-x2'*l1*x2)-q,simplify(w1)

w1 =

-32*x11-16*x22

ans =

-32*x11-16*x22

（说明：分界线方程为-32×x1-16×x2=0,即2×x1+x2=0）

以下是matlab 绘图程序：

>> x1=[1;1;2]; x2=[1;0;-1];plot(x1,x2,'mx','markersize',15);axis([-5,5,-5,5]);grid on;hold on >> x1=[-1;-1;-2]; x2=[1;0;-1];plot(x1,x2,'m*','markersize',15);axis([-5,5,-5,5]);hold on

>> x1=[2]; x2=[0];plot(x1,x2,'mp','markersize',15);axis([-5,5,-5,5]);hold on >> x2=-5:0.02:5;x1=0;plot(x1,x2,'b');axis([-5,5,-5,5]);

>> x1=-5:0.02:5;x2=-2*x1;plot(x1,x2,'-.k');axis([-5,5,-5,5]);

绘图如下：

-5-4

-3

-2

-1

1

2

3

4

5

（说明：×点为ω1类的样本点，*点位ω2类的样本点，五角星为待定样本，实直线为二类协方差不等时的分界线，点划线为二类协方差相等时的分界线。）