模式识别习题2017杭电模式识别

《模式识别》课后习题

注：章和习题编号与《模式识别》（第二版，清华大学出版社）一致，请按内容与其它教材对应，另有部分补充题目单独编号。

第二章 贝叶斯决策理论

习题作业

2.3 证明：在两类情况下12()()1P x P x ωω+= 2.4 分别写出在以下两种情况 （1）

（2）

下的最小错误率贝叶斯决策规则。

2.9 写出两类和多类情况下最小风险贝叶斯决策判别函数和决策方程。

2.20 对的特殊情况，证明

(1) 若

，则超平面靠近先验概率较小的类；

(2) 在什么情况下，先验概率对超平面的位置影响不大。

2.24 二维正态分布，

写出负对数似然比决策规则。

第三章 概率密度函数的估计

3.1设总体分布密度为N (μ,1 )，-∞< μ < +∞，并设 R ={x 1,x 2,…,x N } ，分别

用最大似然估计和贝叶斯估计计算求 , 已知μ的先验分布p(μ)~ N (0,1 )。

（3-2）试分析用Parzen 窗法估计的类概率密度函数，窗口尺寸h 过大或过小可能产生的影响，比较Kn 近邻估计较之于Parzen 窗法的优势。

12()()

p x p x ωω=12()()P P ωω=2

i

I σ∑=()()

i j P P ωω≠1212111122(1,0) (1,0) 111122T T

μμ⎡⎤⎡

⎤-⎢⎥⎢⎥=-=∑=∑=⎢⎥⎢⎥⎢⎥⎢⎥

-⎢⎥⎢⎥⎣⎦⎣⎦，，，12()()P P ωω=ˆμ

第四章 线性判别函数

4.4 对于二维线性判别函数12g()22x x x =+- (1)将判别函数写成0()T g x w x w =+的形式，并画出()0g x =的几何图形。

(2)映射成广义七次线性函数()T

g x a y =；

(3)指出上述X 空间实际是Y 空间的一个子空间，且0T

a y =对于X 子空间的

划分和原空间中00T

w w +=对原空间的划分相同，并在图上表示出来。

（4-2）两类样本点

用感知器算法设计分类器。

（4-3）两类样本点

用MSE 准则函数方法，取b i ＝1，设计分类器。

第五章 非线性判别函数与近邻法

6.5 有7个二维向量：1234(1,0),(0,1),(0,1),(0,0),T

T

T

T

x x x x ===-=

567(0,2),(0,2),(2,0),T T T x x x ==-=-假定前三个为1w 类，后四个为2w 类。

(1) 画出最近邻法决策面

(2) 求样本均值12,m m ，若按离样本均值距离的大小进行分类，试画出决策

面。

第六章 特征的选择与提取

8.1 三类123,,w w w ，求,w b S S 。 1w 类的样本点{(1,0),(2,0),(1,1)},T T T

2w 类的样本点{(0,1)

,(1,0),(1,1)},T

T T --

12:(1,0),(0,1);:(0,1),(1,0)T T T T

ωω--12

:(1,2),(2,0);:(3,1),(2,3)T T T T

ωω

3w 类的样本点{(0,1),(1,1),(0,2)}T T T ----。

9.1 若有下列两类样本集

1w 2w

1234(0,0,0)(1,0,0)(1,0,1)(1,1,0)T T T T

x x x x ====

1234(0,0,1)(0,1,0)(0,1,1)(1,1,1)T T T T

y y y y ====

用K-L 变换，分别把特征空间维数降到d=2和d=1维，并用图画出样本在该特征空间中的位置

第七章 非监督学习方法

10. 5 设 现有下列三种划分：

证明对于平方误差和准则，第三种划分最好，而若用 准则，前两种划分为好。

（10-2）设有样本集，

试用C-均值算法对样本集分类。

{(0,0),(0,1),(1,0),(4,4),(4,5),(5,4),(5,5)}T T T T T T T 1234(4,5),(1,4),(0,1),(5,0)T T T T

x x x x ====112234114223112324(1) {,}, {,}(2) {,}, {,}(3) {,,}, {}

x x x x x x x x x x x x X =X =X =X =X =X =w S