模式识别习题
模式识别练习题
模式识别练习（1）主题：1．“基于最小错误率的贝叶斯决策”模式识别练习2．“基于最小风险的贝叶斯决策”模式识别练习3．基于“主成分分析”的贝叶斯决策模式识别练习已知训练样本集由“”、“”组成：={(0,0),(0,1),(1,0)};={(4,4),(4,5),(5,4),(5,5)}，而测试样本集为C={(2,2),(2.2,2.2),(3,3)}。
（1）利用“基于最小错误率的贝叶斯决策”判别测试集为C中的样本的归类；（2）利用“基于最小风险的贝叶斯决策”判别测试集为C中的样本的归类；（3）在进行“主成分分析”的基础上，采用90%的主成分完成前面的（1）、（2），比较结果的异同。
模式识别练习（2）主题：很多情况下，希望样本维数（特征数）越少越好，降维是解决问题的一个有效的方法。
主成分分析希望得到较少的特征数，而Fisher准则方法则将维数直接降到1维。
一、已知训练样本集由“”、“”组成：={(0,0),(0,1),(1,0)};={(4,4),(4,5),(5,4),(5,5)}，而测试样本集为C={(i,i)|i=0:0.005:5}。
分别利用基于最小错误率的贝叶斯决策、基于最小风险的贝叶斯决策、仅使用第一主成分、使用Fisher准则等四种方法（自编函数文件或用书上的函数文件）计算出测试集C中线段(0,0)-(5,5)的临界点；要求：将计算结果自动写入数据文件中二、已知训练样本集为教材上的10类手写数字集。
分别利用基于最小错误率的贝叶斯决策、基于最小风险的贝叶斯决策、仅使用第一主成分、使用Fisher准则等四种方法，统计出各大类的错误率和计算机cpu的计算时间，采用的测试集C依旧是10类手写数字集（虽然分类已知，但用不同的方法实际判别时可能有误判情况！）要求：使用书上的函数文件，并将计算结果自动写入数据文件中模式识别练习（3）一、已知训练样本集由“”、“”组成：={(0,0),(0,1),(1,0)}；={(4,4),(4,5),(5,4),(5,5)}，而测试样本集为C={(i,i)|i=0:0.01:5}。
模式识别试卷及答案
模式识别试卷及答案一、选择题（每题5分，共30分）1. 以下哪一项不是模式识别的主要任务？A. 分类B. 回归C. 聚类D. 预测答案：B2. 以下哪种算法不属于监督学习？A. 支持向量机（SVM）B. 决策树C. K最近邻（K-NN）D. K均值聚类答案：D3. 在模式识别中，以下哪一项是特征选择的目的是？A. 减少特征维度B. 增强模型泛化能力C. 提高模型计算效率D. 所有上述选项答案：D4. 以下哪种模式识别方法适用于非线性问题？A. 线性判别分析（LDA）B. 主成分分析（PCA）C. 支持向量机（SVM）D. 线性回归答案：C5. 在神经网络中，以下哪种激活函数常用于输出层？A. SigmoidB. TanhC. ReLUD. Softmax答案：D6. 以下哪种聚类算法是基于密度的？A. K均值聚类B. 层次聚类C. DBSCAND. 高斯混合模型答案：C二、填空题（每题5分，共30分）1. 模式识别的主要任务包括______、______、______。
答案：分类、回归、聚类2. 在监督学习中，训练集通常分为______和______两部分。
答案：训练集、测试集3. 支持向量机（SVM）的基本思想是找到一个______，使得不同类别的数据点被最大化地______。
答案：最优分割超平面、间隔4. 主成分分析（PCA）是一种______方法，用于降维和特征提取。
答案：线性变换5. 神经网络的反向传播算法用于______。
答案：梯度下降6. 在聚类算法中，DBSCAN算法的核心思想是找到______。
答案：密度相连的点三、简答题（每题10分，共30分）1. 简述模式识别的基本流程。
答案：模式识别的基本流程包括以下几个步骤：（1）数据预处理：对原始数据进行清洗、标准化和特征提取。
（2）模型选择：根据问题类型选择合适的模式识别算法。
（3）模型训练：使用训练集对模型进行训练，学习数据特征和规律。
模式识别 习题集
模式识别习题Part 1CH11. Describe the structure of a pattern classification system and give detailed informationabout each module.CH22. Bayesian Classifier(a) What is the decision rule of the Bayesian classifier?(b) Which independency assumption is used for naive Bayes and how does this affectthe decision rule?(c) Show the optimality of the Bayesian classifier.3. Vessel diseases are a growing problem in the western world. Now, there is a softwarethat can classify a diseased person as actually diseased with 99% reliability. However, it may happen in 2% of the cases that a healthy person is mistakenly classified as diseased. A statistical analysis shows that the disease is apparent in one out of 100 patients. What is the probability that a patient is actually diseased if the system classifies a disease?4. 分别写出在以下两种情况1) P (x|w 1)=P (x|w 2) 2) P (w 1)=P (w 2)下的最小错误率贝叶斯决策规则。
模式识别作业题(1)
m 2 mn ] 是奇异的。 mn n 2
1
2、参考参考书 P314“模式识别的概要表示”画出第二章的知识结构图。 答：略。 3、现有两类分类问题。如下图所示， （1,
1 1 3 ） 、 （ ， ） 、 （1， 3 ） 、 （1，-tan10°）为 3 2 2 3 3 ，- * tan 10° ） 、 （2，0）为 W2 类。 5 5
W1 类，其中（1，-tan10°）已知为噪声点； （1,0） 、 （ 自选距离度量方法和分类器算法，判别（
6 ，0）属于哪一类？ 5
答：度量方法：根据题意假设各模式是以原点为圆心的扇状分布，以两个向量之间夹角（都 是以原点为起点）的余弦作为其相似性测度，P22。 然后使用 K 近邻法，K 取 3，求已知 7 个点与（
2
答： （1）×，不一定，因为仅仅是对于训练样本分得好而已。 （2）×，平均样本法不需要。 （3）√，参考书 P30，将 r 的值代入式（2.26）即得。 （4）√，参考书 P34，三条线线性相关。 （ 5 ） √ ，就是说解区是 “ 凸 ” 的，参考书 P37 ，也可以证明，设 W1T X’=a, W2T X’=b, 则 a≤λW1+(1-λ)W2≤b（设 a≤b） 。 （6）√，参考书 P38。 （7）×，前一句是错的，参考书 P46。 （8）×，是在训练过程中发现的，参考书 P51。 （9）×，最简单的情况，两个点（0,0）∈w1,（2,0）∈w2，用势函数法求出来的判决界面是 x1=1。 （10）√，一个很简单的小证明， 设 X1=a+K1*e，X2= a-K1*e，X3=b+K2*e，X4= b-K2*e， Sw=某系数*e*e’，设 e=[m n]，则 e *e’= [
方法三：参照“两维三类问题的线性分类器的第二种情况（有不确定区域） ”的算法，求 G12,G23,G13。 G12*x1>0, G12*x2<0, G12=(-1,-1,-1)’ G23*x2>0, G23*x3<0, G23=(-1,-1,1)’ G13*x1>0, G13*x3<0, G12=(-1,-1,1)’ 有两条线重合了。
模式识别例题
1.感知器算法已知两类训练样本，(0,0),(0,1)属于w1，(1,0),(1,1)属于w2，试用感知器算法求解w*训练样本分量增广化以及符号规范化。
将训练样本增加一个分量1，且把来自w2的样本各分量乘以-1，得到训练模式集x1=(0,0,1), x2=(0,1,1), x3=(-1,0,-1), x4=(-1,-1,-1)运用训练算法，给权向量赋初值w(1)=(1,1,1)T，取增量c=1，置迭代步数k=1，下面是迭代过程K=1,x m=x1,w(k)T x m=1>0,w(2)=w(1)K=2, x m=x2,w(k)T x m=2>0,w(3)=w(2)K=3, x m=x3,w(k)T x m=-2<0,w(4)=w(3)+ x3=(0,1,0)TK=4, x m=x4,w(k)T x m=-1<0,w(5)=w(4)+ x4=(-1,0,-1)TK=5, x m=x1,w(k)T x m=-1<0,w(6)=w(5)+ x1=(-1,0,0)TK=6, x m=x2,w(k)T x m=0,w(7)=w(6)+ x2=(-1,1,1)TK=7, x m=x3,w(k)T x m=0,w(8)=w(7)+ x3=(-2,1,0)TK=8, x m=x4,w(k)T x m=1>0,w(9)=w(8)K=9,x m=x1,w(k)T x m=0,w(10)=w(9) + x1=(-2,1,1)TK=10, x m=x2,w(k)T x m=2>0,w(11)=w(10)K=11, x m=x3,w(k)T x m=1>0,w(12)=w(11)K=12, x m=x4,w(k)T x m=0,w(13)=w(12)+ x4=(-3,0,0)TK=13, x m=x1,w(k)T x m=0,w(14)=w(13)+ x1=(-3,0,1)TK=14, x m=x2,w(k)T x m=1>0,w(15)=w(14)K=15, x m=x3,w(k)T x m=2>0,w(16)=w(15)K=16, x m=x4,w(k)T x m=2>0,w(17)=w(16)K=17, x m=x1,w(k)T x m=1>0,w(18)=w(17)通过上面的结果可以看出，经过对x1, x2, x3, x4一轮迭代后，使用w(14)已经能够对所有训练样本正确分类，增广权矢量的值不再发生变化，所以算法收敛于w(14)，w(14)就是所求的解向量，即w*=(-3,0,1)T。
模式识别习题集
2.6 简述最小张树算法的优点。
2.7 证明马氏距离是平移不变的、非奇异线性变换不变的。 2.8 设，类 有
p 、 q 的重心分别为 x p 、 xq ，它们分别有样本 n p 、 n q 个。将和 q 合并为 l ，则 l
个样本。另一类
2 Dkl
nl n p nq
k 的重心为 x k 。试证明 k 与 l 的距离平方是
，JH 越（
），说明模式的
）(i=1,2,…,c)时，JH 取极大值。
1.20 Kn 近邻元法较之于 Parzen 窗法的优势在于 （ 上述两种算法的共同弱点主要是（ ）。 ）。
1.21 已知有限状态自动机 Af=(，Q，，q0，F)，={0，1}；Q={q0，q1}； ：(q0，0)= q1，(q0，1)= q1，(q1，0)=q0，(q1，1)=q0；q0=q0；F={q0}。现有输入字符串：(a) 00011101011，(b) 1100110011，(c) 101100111000，(d)0010011，试问，用 Af 对上述字符串进行分类 的结果为（ 1.22 句法模式识别中模式描述方法有： （1）符号串 （2）树 （3）图 （4）特征向量 ）。 。
《模式识别》习题集
一、基本概念题 1.1 是： 1.2、模式分布为团状时，选用 1.3 欧式距离具有 。 马式距离具有 模 式 识 、 别 的 三 大 、 聚类算法较好。 。 核 心 问 。 题
（1）平移不变性 （2）旋转不变性 （3）尺度缩放不变性 （4）不受量纲影响的特性 1.4 描述模式相似的测度有： （1）距离测度 （2）模糊测度 （3）相似测度 （4）匹配测度 ；（2） 个技术途径。 ； 。
（1）
模式识别习题及答案
模式识别习题及答案模式识别习题及答案模式识别是人类智能的重要组成部分，也是机器学习和人工智能领域的核心内容。
通过模式识别，我们可以从大量的数据中发现规律和趋势，进而做出预测和判断。
本文将介绍一些模式识别的习题，并给出相应的答案，帮助读者更好地理解和应用模式识别。
习题一：给定一组数字序列，如何判断其中的模式？答案：判断数字序列中的模式可以通过观察数字之间的关系和规律来实现。
首先，我们可以计算相邻数字之间的差值或比值，看是否存在一定的规律。
其次，我们可以将数字序列进行分组，观察每组数字之间的关系，看是否存在某种模式。
最后，我们还可以利用统计学方法，如频率分析、自相关分析等，来发现数字序列中的模式。
习题二：如何利用模式识别进行图像分类？答案：图像分类是模式识别的一个重要应用领域。
在图像分类中，我们需要将输入的图像分为不同的类别。
为了实现图像分类，我们可以采用以下步骤：首先，将图像转换为数字表示，如灰度图像或彩色图像的像素矩阵。
然后，利用特征提取算法，提取图像中的关键特征。
接下来，选择合适的分类算法，如支持向量机、神经网络等，训练模型并进行分类。
最后，评估分类结果的准确性和性能。
习题三：如何利用模式识别进行语音识别？答案：语音识别是模式识别在语音信号处理中的应用。
为了实现语音识别，我们可以采用以下步骤：首先，将语音信号进行预处理，包括去除噪声、降低维度等。
然后，利用特征提取算法，提取语音信号中的关键特征，如梅尔频率倒谱系数（MFCC）。
接下来，选择合适的分类算法，如隐马尔可夫模型（HMM）、深度神经网络（DNN）等，训练模型并进行语音识别。
最后，评估识别结果的准确性和性能。
习题四：如何利用模式识别进行时间序列预测？答案：时间序列预测是模式识别在时间序列分析中的应用。
为了实现时间序列预测，我们可以采用以下步骤：首先，对时间序列进行平稳性检验，确保序列的均值和方差不随时间变化。
然后，利用滑动窗口或滚动平均等方法，将时间序列划分为训练集和测试集。
模式识别导论习题集
模式识别导论习题集模式识别导论习题集1、设⼀幅256×256⼤⼩的图像，如表⽰成向量，其维数是多少？如按⾏串接成⼀维，则第3⾏第4个象素在向量表⽰中的序号。
解：其维数为2；序号为256×2＋4＝5162、如标准数字1在5×7的⽅格中表⽰成如图所⽰的⿊⽩图像，⿊为1，⽩为0，现若有⼀数字1在5×7⽹格中向左错了⼀列。
试⽤分别计算要与标准模板之间的欧⽒距离、绝对值偏差、偏差的夹⾓表⽰，异⼰⽤“异或”计算两者差异。
解：把该图像的特征向量为5×7＝35维，其中标准模版的特征向量为：x =[0 0 1 0 0 0 0 1 0 0 0 0 1 0 0 0 0 1 0 0 0 0 1 0 0 0 0 1 0 0 0 0 1 0 0]T待测样本的特征向量为：y =[0 1 0 0 0 0 1 0 0 0 0 1 0 0 0 0 1 0 0 0 0 1 0 0 0 0 1 0 0 0 0 1 0 0 0]T，绝对值偏差为351|()|14i i i x y =-=∑，夹⾓余弦为cos 0||||||||T x y x y θ==?，因此夹⾓为90度。
3、哈明距离常⽤来计算⼆进制之间的相似度，如011与010的哈明距离为1，010与100距离为3。
现⽤来计算7位LED 编码表⽰的个数字之间的相似度，试计算3与其它数字中的哪个数字的哈明距离最⼩。
解：是“9”，距离为14、对⼀个染⾊体分别⽤⼀下两种⽅法描述：(1)计算其⾯积、周长、⾯积/周长、⾯积与其外接矩形⾯积之⽐可以得到⼀些特征描述，如何利⽤这四个值？属于特征向量法，还是结构表⽰法？(2)按其轮廓线的形状分成⼏种类型，表⽰成a 、b 、c 等如图表⽰，如何利⽤这些量？属哪种描述⽅法？ (3)设想其他结构描述⽅法。
解：（1）这是⼀种特征描述⽅法，其中⾯积周长可以体现染⾊体⼤⼩，⾯积周长⽐值越⼩，说明染⾊体越粗，⾯积占外接矩形的⽐例也体现了染⾊体的粗细。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
7.朴素贝叶斯方法的条件独立假设是(P(x| 3 i) =P(x1, x2,…,xn | co i)第一章绪论1 •什么是模式？具体事物所具有的信息。
模式所指的不是事物本身，而是我们从事物中获得的2•模式识别的定义？ 让计算机来判断事物。
3•模式识别系统主要由哪些部分组成？数据获取一预处理一特征提取与选择一分类器设计/分类决策。
第二章贝叶斯决策理论P ( W 2 ) / P ( W 1 ) _,贝V X1. 最小错误率贝叶斯决策过程？答：已知先验概率，类条件概率。
利用贝叶斯公式 得到后验概率。
根据后验概率大小进行决策分析。
2. 最小错误率贝叶斯分类器设计过程？答：根据训练数据求出先验概率P ( W i ),>类条件概率分布P ( X | W i ), i 1 , 2 利用贝叶斯公式得到后验概率 P (W i 1 x)1如果输入待测样本 X ，计算X 的后验概率根据后验概率大小进行分类决策分析。
3. 最小错误率贝叶斯决策规则有哪几种常用的表示形式?决策规则的4- I-J 形工战< dx +) — max 爪'(vr I A *), MJ A * 匚 w.如SI 卫(A *叫)厂)= 如果lg=上心lw) py %)心li M/ JC ) = —1IL | /( A *)J = — hi JC | 讥.j + 111 | i r 2 )>尸(“空)I MJ4 .贝叶斯决策为什么称为最小错误率贝叶斯决策？答：最小错误率Bayes 决策使得每个观测值下的条件错误率最小因而保证了 (平均)错误率最小。
Bayes 决策是最优决策：即，能使决策错误率最小。
5. 贝叶斯决策是 由先验概率和(类条件概率)概率，推导(后验概率)概率，然后利用这 个概率进行决策。
6. 利用乘法法则和全概率公式证明贝叶斯公式p(AB) p(A|B)p(B) p(B|A)p(A)P (A」B )答：m所以推出贝叶斯公式p(B) p(B|Aj)p(Aj)j 1P(W i |x)P (x | W i ) P(W i )2P(x | W j ) P (w j )j 11 , 2.信息__。
如果 I (x)P (X | W i ) P (W i )P(X | W j )P(W j )max />(A' |t),则时 P(B |A i )P(AJ P ( B ) P ( B | A i ) P ( A i ) 7MP ( B | A j ) P ( A j )2=P （x1| 3 i ） P （x2| 3 i ）…P （xn| 3 i ）） 8•怎样利用朴素贝叶斯方法获得各个属性的类条件概率分布？答：假设各属性独立，P （x| 3 i ） =P （x1, x2,…,xn | 3 i ） = P （x1| 3 i ） P （x2| 3 i ）…P （xn| 3i ）后验概率： P(3 i|x) = P( 3 i) P(x1| 3 i) P(x2| 3 i)…P(xn| 3 i)类别清晰的直接分类算，如果是数据连续的，假设属性服从正态分布，算出每个类的均值方 差，最后得到类条件概率分布。
9•计算属性Marital Status 的类条件概率分布给表格计算，婚姻状况几个类别和分类几个就求出多少个类条件概率。
10,朴素贝叶斯分类器的优缺点？答：分类器容易实现。
面对孤立的噪声点，朴素贝叶斯分类器是健壮的。
因为在从数据中估计条件概率时。
这些 点被平均。
面对无关属性，该分类器是健壮的。
相关属性可能降低分类器的性能。
因为对这些属性，条件独立的假设已不成立。
11.我们将划分决策域的边界称为（决策面），在数学上用可以表示成 （决策面方程）12•用于表达决策规则的函数称为（判别函数）13•判别函数与决策面方程是密切相关的，且它们都由相应的决策规则所确定 14.写出多元正态概率下的最小错误率贝叶斯决策的判别函数，即2（x山）i （X 山）d In 2 215•多元正态概率下的最小错误率贝叶斯决策的决策面方程为 16•多元正态概率下的最小错误率贝叶斯决策，当类条件概率分布的协方差矩阵为2 时，每类的协方差矩阵相等，且类内各特征间（相互独立），并具有相等的方差。
17•多元正态概率下的最小错误率贝叶斯决策，如果先验概率相等，并 i2且i=1,2,…c ,那么分类问题转化为只要计算待测样本 x 到各类均值的（欧式距离），然后把x 归于具有（最小距离平方）的类。
这种分类器称为（最小距离分类器）。
18.I 己知样車类条件概率密度.ZX 划径）心儿二、 j =-l Q 其中砂=© J 〉*# 宀=#貝吗）=0.7” 刊马）= > V 如果用最小锚i 吴率贝叶斯决策2丿来行分类器设计，决策而将 ________________ 不通过 ______ C 通过*不通过》刈 和从连线的中点。
决策向宀向虽 19吗-小______________ 正仝 ____ （.1疋交*不止交）O I W .多元正态概率下的最小错误率贝叶斯决策，类条件概率密度各类的协方差矩阵不相等时，决策面是（超二次曲面）均值：mean （x ）XI方差：var （x ） m 1n (xIx)A 2g i (x) ln( p(x | |)P( |))g i (x) g j (x) 0In P( I )，判别函数是（二次型）证明：多元正态概率下的最小错误率贝叶斯决策，对于&二土人r = L2 …”*c的特殊情况.最终的决策而方理为超平而.证明：多元正态槪率下的最小错误率贝叶斯决策，对于r 二Y j 二1 2 c 的特殊情况，最终的决策而方程为：艸辽"仙十）多尤止态槪率卜'的虽小错溟率贝叶斯抉策号对丁二=trV, z = L 2 ________ cI的特殊情况*证明先验概率相等时*形成的分类器是最小即离分类器。
多元正态槪率卜的毘小错误率贝叶斯决策，对于Y 二二7 —…疋的特殊惰况*证明判别雷融是线杵的“2.6砸筑题甩朋朋险轴瞅策删可舫为呼岡）J兀-仏）卩的r r J W'7?(叭=叫 | x)—人| x) + A2P((t?2| x)2—少z | x) = A21P (叫| x) + A22P(ti)2| x)i用Bayes公式展开,最小凤险贝叶斯决策决策得到：如果P（丫叫）、血][FWj)贝1] , X € f旳0（耳1叫）(4 -亀)P(©)'如果"（工的）丿（兀-亦戸㈣）则丁x € ro. P（卞1叫）〔広2】-占］円®）第三章概率密度函数的估计i•类条件概率密度估计的两种主要方法（参数估计）和（非参数估计）2•类条件概率密度估计的非参数估计有两种主要的方法 们的基本原理都是基于样本对分布的（未知）原则。
4. 假设正常细胞和癌细胞的样本的类条件概率服从多元正态分布，使用最大似然估计方法，对概率密度的参数估计的结果为。
证明：使用最大似然估计方法，对一元正态概率密度的参数估计的结果如下:X kk 15•已知5个样本和2个属性构成的数据集中， w1类有3个样本，w2类有两个样本。
如果使 用贝叶斯方法设计分类器，需要获得各类样本的条件概率分布， 现假设样本服从多元正态分 布p （x| i ） N （山，J i 1,2 则只需获得分布的参数均值向量和协方差矩阵即可，那么采用最大似然估计获得的 w1类的第四章 线性判别函数1•已知两类问题的样本集中，有两个样本。
X 1 （1, 3,2）T 属于类，X 2（1,2, 3/ 属于类，对它们进行增广后，这两个样本的增广样本分别为[y1 =（1,1,-3,2）T,y2 =（-1,-1,-2,3）T ]2广义线性判别函数主要是利用（映射）原理解决（普通函数不能解决的高次判别函数）问题,利用广义线性判别函数设计分类器可能导致（维数灾难）。
3•线性分类器设计步骤?主要步骤:1•收集训练数据集 D={x1,x2，…,xN}2•按需要确定一个准则函数 J （D,w,wO ）或J （D,a ），其值反映分类器的性能，其极值解对应于“最好”决策。
3.用最优化技术求准则函数 J 的极值解w* , w*或a*。
T T 4•最终，得到线性判别函数，完成分类器设计g （x ） （w*） x W o ,g （x ） （a*） y5. 线性判别函数g （x ）的几何表示是：点 x 到决策面H 的（距离的一种代数度量）。
6. 增广样本向量使特征空间增加了（一）维，但样本在新的空间中保持了样本间的（欧氏距离）不变，对于分类效果也与原决策面相同。
在新的空间中决策面 H 通过坐标（原点）10.利用Lagrange 乘子法使Fisher 线性判别的准则函数极大化，最终可以得到的判别函数（Parzen 窗法）和（KN 近邻法）。
它3•如果有N 个样本，可以计算样本邻域的体积V ，然后获得V 中的样本数(X kk 1?)2类条件概率密度均值向量为（2,3转置）2 0 2 ,以及协方差矩阵为（0 2 2 )。
2247・Fisher 准则的基本原理为： 找到一个最合适的投影轴， 使_（类间）在该轴上投影之间的距离尽可能远，而（类内）的投影尽可能紧凑，从而使分类效果为最佳。
8.Fisher 准则函数的定义为J F (w)9Fisher 方法中，样本类内离散度矩阵S i（x mj （x mJ T , ix D i烬w T S b w S比w S w wSi 与总类内离散度矩阵 Sw 分别为1,2 S w S 1 S 2* A权向量w S w (m 1 m 2)11•叙述Fisher算法的基本原理。
Fisher准则的基本原理：找到一个最合适的投影轴，使两类样本在该轴上投影之间的距离尽可能远，而每一类样本的投影尽可能紧凑，从而使分类效果为最佳。
12Fisher公式的推导疋函数：L(w, 4) = —- c)Ak 一广一=Ew - = 0zw = S； S,w = S； <m1 - m Km -m2) wW* = —S v l[m l-m2')^S v~}(in}_ni；)」”丄T13. 已知两类问题的样本集中，有两个样本°X[属于W1类,x2(1,2, 3)T属于w2类，对它们进行增广规范化后，这两个样本的规范化增广样本分别为y1=(1,1,-3,2)转置和y2=(1,-1,-2,3)转置。
14. 叙述感知准则的梯度下降算法的基本过程。
答：1.初值：任意给定一向量初始值a(1)2. 迭代：第k+1次迭代时的权向量a(k+1)等于第k次的权向量a(k)加上被错分类的所有样本之和与pk的乘积3. 终止：对所有样本正确分类(y Y k16线性判别函数g(x)的几何表示是：点 x 到决策面H 的(距离的代数度量)17•感知机方法主要有两种，批量样本修正法与单样本修正法。