模式识别实验报告年月

模式识别实验报告－年月

————————————————————————————————作者: ————————————————————————————————日期:

学院：

班级：

姓名：

学号：

2012年3月

实验一 Ｂay ｅｓ分类器的设计

一、 实验目的:

1. 对模式识别有一个初步的理解，能够根据自己的设计对贝叶斯决策理论算法有一个深刻地认识；

2． 理解二类分类器的设计原理。

二、 实验条件：

1． PC 微机一台和MA TL ＡB 软件。

三、 实验原理:

最小风险贝叶斯决策可按下列步骤进行:

１. 在已知)(i P ω，

)|(i X P ω,c i ,,1 =及给出待识别的X 的情况下,根据贝叶斯公式计算出后验概率:

∑==c j j

j i i i P X P P X P X P 1)()|()

()|()|(ωωωωω c j ,,1 =

２. 利用计算出的后验概率及决策表，按下式计算出采取

i α决策的条件风险: ∑==c j j j i i X P X R 1)

|(),()|(ωωαλα a i ,,1 =

3. 对2中得到的a 个条件风险值

)|(X R i α（a i ,,1 =）进行比较，找出使条件风险最小的决策

k α,即:

)|(min )|(,,1X R X R k c i k αα ==, 则k α就是最小风险贝叶斯决策。

四、 实验内容:

（以下例为模板，自己输入实验数据）

假定某个局部区域细胞识别中正常（1ω)和非正常(2ω）两类先验概率分别为： 正常状态：)(1ωP =0.9;

异常状态：)(2ωP =０．１。

现有一系列待观察的细胞,其观察值为x :

-3.9847 -３.5549 -1.2401 -0.9780 -0.７9３2 -2.8531

-２.76０5 －3．７28７ -3.５414 -2．269２ -3.4549 -3．0752 -3.９934 2.87９2 -０.9７８0 0.793２ 1.18８2 3．0６８2 -1.５７9９ -1.4８85 －0.74３1 -0.42２１ -１.1186 ４.253２

)|(1ωx P )|(2ωx P 类条件概率分布正态分布分别为(－2，0.25)（２,４）。决策表为011=λ(11λ表示),(j i ωαλ的简写),12λ＝６, 21λ＝1，22λ＝0。

试对观察的结果进行分类。

五、 实验程序及结果：

试验程序和曲线如下，分类结果在运行后的主程序中:

实验主程序如下：

-4-3-2-1012345

00.1

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1

第一类的后验概率第二类的后验概率ﻬ实验二

将此图改为自己的实验结果！

基于Ｆｉｓher 准则的线性分类器设计

一、 实验目的:

1． 进一步了解分类器的设计概念,能够根据自己的设计对线性分类器有更深刻地认识；

2. 理解Fisher 准则方法确定最佳线性分界面方法的原理,以及拉格朗日乘子求解的原理。

二、 实验条件：

1. ＰC 微机一台和MATLAB 软件。

三、 实验原理：

设有一个集合包含N 个d 维样本N x x x ,,,21 ,其中1N 个属于1ω类，2N 个属于2ω类。线性判别函数的一般形式可表示成0)(w x W x g T +=,其中T d w w W ),,(1 =。 根据Ｆish ｅr 选择投影方向W 的原则，即使原样本向量在该方向上的投影能兼顾类间分布尽可能分开,类内样本投影尽可能密集的要求，用以评价投影方向W 的函数为: W

S W W S W W J w T b T F =)( T W

m m S W )(211*-=- 其中:

∑==i

N j j i i x N m 1

1 2,1=i j x 为i N 类中的第j 个样本 w S 为类内离散度,定义为：∑∑==--=2111))((i N j T i j j w i

m x m x S

b S 为类间离散度,定义为:T b m m m m S ))((2121--=

上面的公式是使用Ｆish ｅｒ准则求最佳法线向量的解，我们称这种形式的

运算为线性变换,其中)(21m m -是一个向量,1-W S 是W S 的逆矩阵，如)(21m m -是d

维,1-W S 和W S 都是d ×d 维,得到的*W 也是一个d 维的向量。

向量*W 就是使F ｉsher 准则函数)(W J F 达极大值的解,也就是按F ｉshe ｒ准则将d 维X 空间投影到一维Y 空间的最佳投影方向,该向量*W 的各分量值是对

原d 维特征向量求加权和的权值。

以上讨论了线性判别函数加权向量W 的确定方法,并讨论了使Ｆis ｈe ｒ准则函数极大的d 维向量*W 的计算方法，但是判别函数中的另一项0w 尚未确定，一般可采用以下几种方法确定0w 如

2

)(21*0m m W w T +-= 或者2

12211*0)(N N m N m N W w T ++-= 或当)(1ωP 与)(2ωP 已知时可用

]2

)](/)(ln[2)([212121*0-+-+-=N N P P m m W w T ωω 当0w 确定之后,则可按以下规则分类,ﻫ

10*ω∈→->x w X W T

20*ω∈→-

四、 实验内容:

（以下例为模板,自己输入实验数据)

已知有两类数据1ω和2ω二者的概率已知)(1ωP =0．6,)(2ωP =０.４。 1ω中数据点的坐标对应一一如下：

1x =０.２33１ 1．５2０7 0.649９ ０．7757 1.05２4 １.1974 ０．２908 0．25１8 0．6６８２ 0.５62２ 0.902３ 0.１３3３

-0.54３1 ０．94０７ -0.21２６ 0.0507 -０.０810 0.7315 0.３345 １.０650 -0．0２4７ 0．１043 0.312２ 0.6655 0．58３8 1.1653 1.2653 0．813７ -0.3399 0.５152

0.7226 －0.20１5 ０.４070 -0.1７17 －1.0５7３ -0．２099 1y =2.３385 2.１９46 1.67３0 1.6３６5 1.7844 2．01５5 2.06８１ 2.1２１３ 2.4797 1.5118 １.９６９２ 1．８340 １.8704 2.294８ 1.７7１4 2.３９３9 1.5648 1.9329 ２．20２7 2.４568 1．7523 １.６９91 ２.4883 1.7259 2．0４66 ２.02２６ 2.375７ 1.７987 2.0828 2.0７98 １.94４9 2.380１ ２.２373 2．１６1４ 1.923５ 2.2６04