模式识别课堂练习

课 堂 练 习

1、假设两类(ω1和ω２)的先验概率分别为P(ω1)=0.9，P(ω2)=0.1。类条件概率密度分布曲线为p(x|ω1)，p(x|ω２)，两者均满足正态分布，方差相同，均为1，均值分别是-1，和1。

1）写出按最小错误率决策时的负对数似然比决策规则。

2）根据1）写出判别函数及决策面方程。

2、1）写出正态分布条件下，最小错误率贝叶斯分类器是最小距离分类器的条件。

2）写出最小距离分类器的判别函数及决策规则。

3) 考虑一个两维的两类分类问题，其先验概率相同，类条件概率均服从正态分布，各类的均值及协方差矩阵分别为

111/20[3,6],;01/2T μ??=∑=???? 221/20[3,2],01/2T μ??=-∑=????

若按最小错误率贝叶斯决策，求其决策面方程。

3、已知两类二维样本属于正态分布，其均值向量、协方差矩阵如下：

1[2,2]T μ=--，2[2,2]T μ=，11001??∑=?

???，21004??∑=????

按fisher 准则求解最优投影方向W

4、已知两类已规范化的样本向量集YY={y1,y2,…,y N }，yi ，i=1，…,N 是N 个已知类别的规范化增广样本向量。对于给定步长系数ρk ，画出“批处理感知器算法”的主程序流程图

5、有7个2维向量

x1=（1，0）T ，x2=（0，1）T ，x3=（0，-1）T ，

x4=（0，0）T ，x5=（0，2）T ，x6=（0，-2）T ，x7=（-2，0）T 。 前3个是w1类，后4是w2类 ，画出最近邻法的决策面

6、什么是特征提取和特征选择？特征提取和选择的目的是什么？

7、有两类样本：W1: x11=(0,0,0)T , X12=(1,0,0)T , X13=(1,0,1)T , X14=(1,1,0)T ； W2: x21=(0,0,1)T , X22=(0,1,0)T , X23=(0,1,1)T , X24=(1,1,1)T 试利用散度J D 降低维数。

8、对一组D 维数据X 1,X 2,….,X N ，如何对其求得K-L 变换坐标系（即求正交基向量）？ 若选择d （

9、已知两类样本，其协方差矩阵及均值

12311113116113????∑=∑=-????-??

， 11[311]4T μ= ， 21[133]

4T μ= 总的类内离散度 1231111()131216113w S ????=∑+∑=-????-??

已知其本征值矩阵和本征向量矩阵为，

1/80001/20001/2????Λ=?????? ，

1421412141214

U ?--?=--???? 采用K-L 变换的从类平均向量中提取判别信息的方法将数据降到1维，求变换向量

10、现有4个样本： x1=[4,5]T ,，x2=[1,4]T ，x3=[0,1]T ，x4=[5,0]T ；将其聚成两类，若有如下3种聚类：

（1） ω1={x1，x2}； ω 2={x3，x4}

（2） ω1={x1，x4}； ω 2={x2，x3}

（3） ω1={x1，x2，x3}； ω 2={x4}

按最小平方误差和准则，哪种聚类最好？

11、现有8个一维数据：

{-5.5，-4.1，-3.0，-2.6，10.1，11.9，12.6，13.8}

若类与类的相似性定义为：20-Δ(Γi ，Γj )，其中{},(,)(,)min i j i j x y x y δ∈Γ∈Γ?ΓΓ=

，

(,)x y δ表示两个样本的距离。按（基于合并的）分级聚类方法画出聚类的树图，并说明分成几个聚类较为合理。