距离判别法在鸢尾花亚属类型判定中的应用初探

距离判别法及其应用

距离判别法及其应用一、什么是距离判别（一）定义距离判别分析方法是判别样品所属类别的一应用性很强的多因素决策方法，根据已掌握的、历史上每个类别的若干样本数据信息，总结出客观事物分类的规律性，建立判别准则，当遇到新的样本点，只需根据总结得出的判别公式和判别准则，就能判别该样本点所属的类别。距离判别分析的基本思想是：样本和哪个总体的距离最近，就判它属于哪个总体。（二）作用判别个体所属类型。例如在经济学中，可根据各国的人均国人民收入、人均工农业产值和人均消费水平等多种指标来判定一个国家经济发展程度的怕属类型医学上根据口才的体温、白血球数目以及其他病理指标来判断患者所患何病等。二、距离判别分析原理（一）欧氏距离欧氏距离（Euclidean distance ）是一个通常采用的距离定义，最多的应用是对距离的测度。大多情况下，人们谈到距离的时候，都会很自然的想到欧氏距离。从数学的角度来讲，它是在m 维空间中两个点之间的真实距离。在二维空间中其公式为： 2 21221)()(y y x x d -+-=

推广到n 维空间其公式为： 2 1) (1 i n i i y x d -=∑= （二）马氏距离在判别分析中，考虑到欧氏距离没有考虑总体分布的分散性信息，印度统计学家马哈诺必斯（Mahalanobis ）于1936年提出了马氏距离的概念。设总体T m X X X G },...,,{21=为m 维总体（考察m 个指标），样本 T m i x x x X },...,,{21=。令μ=E(i X )(i=1,2, …，m)，则总体均值向量为 T m },,{21μμμμ???=。总体G 的协方差矩阵为： ]))([()(T G G E G COV μμ--==∑。设X ，Y 是从总体G 中抽取的两个样本，则X 与Y 之间的平方马氏距离为： )()(),(12Y X Y X Y X d T -∑-=- 样本X 与总体G 的马氏距离的平方定义为： )()(),(12μμ-∑-=-X X G X d T 1．两总体距离判别。设有两总体1G 和2G 的均值分别为1μ和2μ，协方差矩阵分别为1∑和2∑（1∑，2∑>0），1?m X 是一个新样本，判断其属于哪个总体。定义1?m X 到1G 和2G 的距离为),(12 G X d 和),(22 G X d ，则按如下判别规则进行判断： 1G X ∈，若),(12G X d ≤),(22G X d 2G X ∈，若),(22G X d ﹤),(12G X d (1)当1∑=2∑时，该判别式可进行如下简化： ),(12G X d -),(22G X d =)()(111μμ-∑--X X T -)()(212μμ-∑--X X T

判别分析案例(鸢尾花)

Wilks 的 Lambda 卡方df Sig. 函数检验Wilks 的 Lambda 1 到 2 .025 538.950 8 .000 2 .774 37.351 3 .000 标准化的典型判别式函数系数函数 1 2 花萼长-.346 .039 花萼宽-.525 .742 花瓣长.846 -.386 花瓣宽.613 .555 - =0.613 ? ? 0.846 - 1 + 346 0.525 .0 花萼长z 花萼宽花瓣长 ? z 花瓣宽 z D? + z =0.555 ? + 0.386 0.742 ? 2 0.039 - ? 花萼宽花瓣长花瓣宽花萼长z z D? + z z 结构矩阵函数 1 2 花瓣长.726*.165 花萼宽-.121 .879* 花瓣宽.651 .718* 花萼长.221 .340* 判别变量和标准化典型判别式函数之间的汇聚组间相关性按函数内相关性的绝对大小排序的变量。 *. 每个变量和任意判别式函数间最大的绝对相关性

0.155 0.196 - - =0.299 .0 花瓣宽.2 526 - 063 1 z z 花萼长z 花萼宽 ? z 花瓣长 ? D? + ? + 0.089 - + - =0.271 978 ? 2 .6 0.007 0.218 z 花萼长z 花萼宽花瓣长花瓣宽 z z ? ? + D? +

区域图典则判别函数 2 -16.0 -12.0 -8.0 -4.0 .0 4.0 8.0 12.0 16.0 +---------+---------+---------+---------+---------+---------+---------+---------+ 16.0 + 13 + I 13 I I 13 I I 123 I I 123 I I 12 23 I 12.0 + + + + 12 23 + + + + I 12 23 I I 12 23 I I 12 23 I I 12 23 I I 12 23 I 8.0 + + + + 12 + 23 + + + + I 12 23 I I 12 23 I I 12 23 I I 12 23 I I 12 23 I 4.0 + + + + 12 + 23 + + + + I 12 23 I I 12 23 I I 12 23 I I 12 23 I I 12 23 * I .0 + + + * + 12 + 23 + + + I 12 * 23 I I 12 23 I I 12 23 I I 12 23 I I 12 23 I -4.0 + + + + 12 + + 23 + + + I 12 23 I I 12 23 I I 12 23 I I 12 23 I I 12 23 I -8.0 + + + +12 + + 23 + + + I 12 23 I I 12 23 I I 12 23 I I 12 23 I I 12 23 I -12.0 + + + 12 + + 23 + + I 12 23 I I 12 23 I I 12 23 I I 12 23 I I 12 23 I -16.0 + 12 23 + +---------+---------+---------+---------+---------+---------+---------+---------+ -16.0 -12.0 -8.0 -4.0 .0 4.0 8.0 12.0 16.0 典则判别函数 1 区域图中使用的符号符号组标签 ---- -- -------------- 1 1 刚毛鸢尾花 2 2 变色鸢尾花 3 3 佛吉尼亚鸢尾花 * 表示一个组质心

多个总体距离判别法(DOC)

多个总体距离判别法及其应用课程名：年级：专业：姓名：学号：

目录一、摘要 (1) 二、引言 (1) 三、原理 (1) 3.1定义 (1) 3.2思想 (1) 3.3判别分析过程 (1) 四、具体应用 (3) 4.1判别分析在医学上的应用 (3) 4.2距离判别法在居民生活水平方面的应用 (9) 4.3判别分析软件的使用 (12) 五、参考文献 (14) 六、附录 (15)

一、摘要近年来随着信息化社会的进行，数据分析对我们来说日趋重要，为了对数据的分类进行判别，本文介绍了数据分类判别的一种方法：距离判别法。本文从多个总体距离判别法理论出发并结合例题详细介绍了多个总体距离判别法的在医学领域以及居民生活水平方面的应用，同时也简单介绍了spss 软件一般判别法的具体操作。关键词：距离判别法判别分析一般判别分析二、引言随着科技的发展，判别分析在经济，医学等很多领域以及气候分类，农业区划，土地类型划分等有着重要的应用，本文从多个总体距离判别分析理论出发，介绍了多个总体距离判别法在医学以及人民生活方面的应用，并介绍了spss 一般判别分析的应用。三、原理 3.1 定义距离判别法：距离判别分析方法是判别样品所属类别的一应用性很强的多因素决方法，其中包括两个样本总体距离判别法，多个样本距离判别法。多个总体距离判别法：多个总体距离判别法是距离判别法的一种，是两个总体距离判别法的推广，具有多个总体，将待测样本归为多个样本中的一类。 3.2 思想计算待测样本与各总体之间的距离，将待测样本归为与其距离最进的一类。 3.3 判别分析过程对于k 个总体k 21G G G ?，，，假设其均值分别为：k 21u u u ，，，?，协方差阵

判别分析-四种方法

第六章判别分析 §6.1 什么是判别分析判别分析是判别样品所属类型的一种统计方法，其应用之广可与回归分析媲美。在生产、科研和日常生活中经常需要根据观测到的数据资料，对所研究的对象进行分类。例如在经济学中，根据人均国民收入、人均工农业产值、人均消费水平等多种指标来判定一个国家的经济发展程度所属类型；在市场预测中，根据以往调查所得的种种指标，判别下季度产品是畅销、平常或滞销；在地质勘探中，根据岩石标本的多种特性来判别地层的地质年代，由采样分析出的多种成份来判别此地是有矿或无矿，是铜矿或铁矿等；在油田开发中，根据钻井的电测或化验数据，判别是否遇到油层、水层、干层或油水混合层；在农林害虫预报中，根据以往的虫情、多种气象因子来判别一个月后的虫情是大发生、中发生或正常；在体育运动中，判别某游泳运动员的“苗子”是适合练蛙泳、仰泳、还是自由泳等；在医疗诊断中，根据某人多种体验指标（如体温、血压、白血球等）来判别此人是有病还是无病。总之，在实际问题中需要判别的问题几乎到处可见。判别分析与聚类分析不同。判别分析是在已知研究对象分成若干类型（或组别）并已取得各种类型的一批已知样品的观测数据，在此基础上根据某些准则建立判别式，然后对未知类型的样品进行判别分类。对于聚类分析来说，一批给定样品要划分的类型事先并不知道，正需要通过聚类分析来给以确定类型的。正因为如此，判别分析和聚类分析往往联合起来使用，例如判别分析是要求先知道各类总体情况才能判断新样品的归类，当总体分类不清楚时，可先用聚类分析对原来的一批样品进行分类，然后再用判别分析建立判别式以对新样品进行判别。判别分析内容很丰富，方法很多。判别分析按判别的组数来区分，有两组判别分析和多组判别分析；按区分不同总体的所用的数学模型来分，有线性判别和非线性判别；按判别时所处理的变量方法不同，有逐步判别和序贯判别等。判别分析可以从不同角度提出的问题，因此有不同的判别准则，如马氏距离最小准则、Fisher 准则、平均损失最小准则、最小平方准则、最大似然准则、最大概率准则等等，按判别准则的不同又提出多种判别方法。本章仅介绍四种常用的判别方法即距离判别法、Fisher 判别法、Bayes 判别法和逐步判别法。 §6.2 距离判别法基本思想：首先根据已知分类的数据，分别计算各类的重心即分组（类）的均值，判别准则是对任给的一次观测，若它与第i 类的重心距离最近，就认为它来自第i 类。距离判别法，对各类（或总体）的分布，并无特定的要求。 1 两个总体的距离判别法设有两个总体（或称两类）G 1、G 2，从第一个总体中抽取n 1个样品，从第二个总体中抽取n 2个样品，每个样品测量p 个指标如下页表。今任取一个样品，实测指标值为),,(1'=p x x X ，问X 应判归为哪一类？首先计算X 到G 1、G 2总体的距离，分别记为),(1G X D 和),(2G X D ，按距离最近准则

判别分析实例

例：人文与发展指数是联合国开发计划署于1990年5月发表的第一份《人类发展报告》中公布的。该报告建议，目前对人文发展的衡量指标应当以人生的三大要素为重点。衡量人生的三大要素的指标分别为：实际人均GDP指数、出生时的预期寿命指数、受教育程度指数（由成人识字率指数和综合总人学率指数按2/3、1/3的权重加权而得），将一生三个指数合成为一个指数就是人文发展指数。今从2007年世界各国人文发展指数（2005年）的排序中，选取高发展水平、中等发展水平和低发展水平国家各6个作为三组样品，另选四个国家作为待判样品，资料如下表所示。试用判别分析过程对以下数据资料进行判别分析，并据此对待选的四个国家进行判别归类。

data develop; input type gdp life rate zhrate@@; cards; 1 41890 77.9 99.5 93.3 1 29461 79.1 99. 2 88 1 23381 78.9 96 99 1 29663 79.4 92.5 87.3 1 28529 80.3 98.4 90.6 1 22029 77.9 99 96 2 6000 77.7 99.8 87.6 2 9060 71.9 97. 3 76.8 2 8402 71.7 88.6 87.5 2 8677 69.6 92.6 71.2 2 5137 71 92.6 81.1 2 8407 71.4 87.4 68.7 3 1550 62.6 48.6 58.1 3 1128 46.5 69.1 56.2 3 2299 49.8 67.9 62.3 3 2370 64.6 49.9 40 3 3071 73.7 90.3 63.9 3 3843 69.7 90. 4 68.2 . 31267 82.3 99 85.9 . 3452 63.7 61 63.8 . 6757 72.5 90.9 69.1 . 11110 50.8 82.4 77 ; proc discrim simple wcov distance list;/*simple:要求技术各类样品的简单描述统计量；选项WCOV要求计算类内协方差阵；选项DISTANCE要求计算马氏距离；选项LIST要求输出重复替换归类结果。由于没有给出方法选项，所以系统按缺省时的正态分布进行有关参数的估计和归类。*/ class type; var gdp life rate zhrate; run; proc discrim pool=test slpool=0.05list; /*simple: */ class type; priors'1'=0.3'2'=0.4'3'=0.3 ; run; proc discrim method=npar k=2list; /*simple: */ class type; run; proc candisc out=result ncan=2; /*simple: */

SPSS操作方法：判别分析例题

实验指导之二判别分析的SPSS软件的基本操作 [实验例题]为研究1991年中国城镇居民月平均收入状况，按标准化欧氏平方距离、离差平方和聚类方法将30个省、市、自治区．分为三种类型。试建立判别函数，判定广东、西藏分别属于哪个收入类型。判别指标及原始数据见表9-4。 1991年30个省、市、自治区城镇居民月平均收人数据表单位：元／人 x1：人均生活费收入 x6：人均各种奖金、超额工资(国有+集体) x2：人均国有经济单位职工工资 x7：人均各种津贴(国有+集体) x3：人均来源于国有经济单位标准工资 x8：人均从工作单位得到的其他收入 x4：人均集体所有制工资收入 x9：个体劳动者收入 x5：人均集体所有制职工标准工资

贝叶斯判别的SPSS操作方法： 1. 建立数据文件 2．单击Analyze→Classify→Discriminant，打开Discriminant Analysis判别分析对话框如图1所示：图1 Discriminant Analysis判别分析对话框 3．从对话框左侧的变量列表中选中进行判别分析的有关变量x1~x9进入Independents 框，作为判别分析的基础数据变量。从对话框左侧的变量列表中选分组变量Group进入Grouping Variable 框，并点击Define Range...钮，在打开的Discriminant Analysis: Define Range 对话框中，定义判别原始数据的类别数，由于原始数据分为3类，则在Minimum（最小值）处输入1，在Maximum（最大值）处输入3（见图2）。。选择后点击Continue按钮返回Discriminant Analysis主对话框。图2 Define Range对话框 4、选择分析方法

距离判别 sas

距离判别一、实验目的和要求掌握距离判别分析的理论与方法、模型的建立与误差率估计；掌握利用判别分析的SAS 过程解决有关实际问题. 实验要求:编写程序，结果分析．实验容：要求:1题必做,2,3,4题可选1-2题 1.写出几种距离公式,两总体距离判别准则; 一．几种距离公式： 1．欧氏距离 2 121] )([),(jk ik p k j i x x d -=∑=x x 2．绝对距离 ∑=-=p k jk ik j i x x d 1 ),(x x 3． Minkowski 距离 m p k m jk ik j i x x d 11 ]||[),(∑=-=x x 其中1≥m ．Minkowski 距离又称m L 距离，2L 距离即欧氏距离，1L 距离即绝对距离． 4． Chebyshev 距离 jk ik p k j i x x d -=≤≤1m ax ),(x x Chebyshev 距离是Minkowski 距离当+∞→m 时的极限．以上距离与各变量的量纲有关．为消除量纲的影响，可对数据进行标准化，然后用标准化数据计算距离．标准化数据即 p k n i s x x x k k ik ik ,...,2,1;,...,2,1,* ==-= 其中∑∑==--==n i n i k ik k ik k x x n s x n x 11 22 )(11,1. 5．方差加权距离 2 112 2 ])([),(∑ =-=p k k jk ik j i s x x d x x 易证，标准化数据* ik x 的欧氏距离既是方差加权距离． 6．马氏距离

2 11 )]()),(j i T j i j i d x x S x [(x x x --=- 其中S 是由样品n x x x ,...,,21算得的样本协方差矩阵： ∑=---=n i T i i n 1 ))((11x x x x S ，其中.11 ∑==n i i n x x 令nxn ij j i ij d D d d )(),,(==x x 形成n 个样品n x x x ,...,,21两两之间的距离矩阵 ? ???? ???????=0002 1 221 112 n n n n d d d d d d D 其中ij d =ji d 二．两个总体的距离判别准则 1．距离判别准则 21,G G 为两个p 维已知总体，均值向量21,μμ, 协方差矩阵21,ΣΣ， T p x x x ),,,(21 =x 为待判样品，距离判别准则为 ?? ?>∈≤∈) ()(, ) ()(,121221G x,G x,G x G x,G x,G x d d d d 若若 (5.1) 说明：马氏距离思想——极大似然思想一般p 维总体,),(~),,(~2211ΣμΣμp p N G N G ,协方差矩阵同为Σ,概率密度为 ??????-∑--∑ =-)()(21exp )2(11112 12 1μx μx T p f π ? ?????-∑--∑ = -)()(21exp )2(12122 12 2μx μx T p f π 则 )()(21G x,G x,d d ≤ ?)()()()(212111μx μx μx μx -∑-≤-∑---T T )()(21x x f f ≥? 距离判别准则转化为 ??? ???? <∈≥∈1)()(,1)()(,21221x x G x x x G x 1f f f f 若若与似然比准则一致． 2．ΣΣΣ==21情形

判别分析实例汇总

3 2299 49.8 67.9 62.3 3 2370 64.6 49.9 40 3 3071 73.7 90.3 63.9 3 3843 69.7 90. 4 68.2 . 31267 82.3 99 85.9 . 3452 63.7 61 63.8 . 6757 72.5 90.9 69.1 . 11110 50.8 82.4 77 ; proc discrim simple wcov distance list;/*simple:要求技术各类样品的简单描述统计量；选项WCOV要求计算类内协方差阵；选项DISTANCE要求计算马氏距离；选项LIST要求输出重复替换归类结果。由于没有给出方法选项，所以系统按缺省时的正态分布进行有关参数的估计和归类。*/ class type; var gdp life rate zhrate; run; proc discrim pool=test slpool=0.05list; /*simple: */ class type; priors'1'=0.3'2'=0.4'3'=0.3 ; run; proc discrim method=npar k=2list; /*simple: */ class type; run; proc candisc out=result ncan=2; /*simple: */ class type; var gdp life rate zhrate; run; proc gplot data=reult; plot can1*can2=type; run; proc discrim data=result distance list; class type; var can1 can2; run; 表1 已知样本分类水平信息

SPSS操作方法：判别分析例题

为研究1991年中国城镇居民月平均收入状况，按标准化欧氏平方距离、离差平方和聚类方法将30个省、市、自治区．分为三种类型。试建立判别函数，判定广东、西藏分别属于哪个收入类型。判别指标及原始数据见表9-4。 1991年30个省、市、自治区城镇居民月平均收人数据表单位：元／人 x1：人均生活费收入 x6：人均各种奖金、超额工资(国有+集体) x2：人均国有经济单位职工工资 x7：人均各种津贴(国有+集体) x3：人均来源于国有经济单位标准工资 x8：人均从工作单位得到的其他收入 x4：人均集体所有制工资收入 x9：个体劳动者收入 5

贝叶斯判别的SPSS操作方法： 1. 建立数据文件 2．单击Analyze→ Classify→ Discriminant，打开Discriminant Analysis 判别分析对话框如图1所示：图1 Discriminant Analysis判别分析对话框 3．从对话框左侧的变量列表中选中进行判别分析的有关变量x1~x9进入Independents 框，作为判别分析的基础数据变量。从对话框左侧的变量列表中选分组变量Group进入Grouping Variable 框，并点击Define Range...钮，在打开的Discriminant Analysis: Define Range对话框中，定义判别原始数据的类别数，由于原始数据分为3类，则在Minimum（最小值）处输入1，在Maximum（最大值）处输入3（见图2）。。选择后点击Continue按钮返回Discriminant Analysis主对话框。图2 Define Range对话框 4、选择分析方法 ?Enter independent together 所有变量全部参与判别分析（系统默认）。本例选择此项。 ?Use stepwise method 采用逐步判别法自动筛选变量。

费希尔判别法理论

费希尔判别费希尔判别（或称典型判别）的基本思想是投影（或降维）：用p 维向量12(,,)p x x x x '=???的少数几个线性组合（称为费希尔判别函数或典型变量）1122,,r r y a x y a x y a x '''==???=（一般r 明显小于p ）来代替原始的p 个变量12,,p x x x ???，以达到降维的目的，并根据这r 个判别函数12,,r y y y ???对样品的归属做出判别或将各组分离。成功的降维将使样品的归类或组的分离更为方便和有效，并且可以对前三个判别函数作图，从直观的几何图像上区别各组。在降维的过程中难免会有部分有用信息的损失，但只要使用的方法得当，我们可以最大限度地减少这种损失，从而保留尽可能多的有用信息，即关于能够反应组之间差异的信息。为便于理解，我们以下用一个简单的二维例子来加以说明。图投影到某个方向再判别如图所示，两个组的所有样品都测量了两个变量1x 和2x ，将所有（12,x x ）点画于直角坐标系上，一组的样品点用“×”表示，另一组的样品点用“○”表示。假定我们希望将二维空间的点投影到某个一维空间，即一条直线上，然后再对两组进行判别，则投影到不同的直线上，判别的效果一般是不同的。从图中可见，如果两组的点都投影到直线z 上则这两组的投影点在该直线上的分布几乎无任何差异，他们完全混合在一起，我们无法将这两组的点区别开来，这样的降维把反应两组间差异的信息都给损失了，显然是不可取的。事实上，最好的投影是投影

到直线y 上，因为它把两组的投影点很清楚地区分了开来，这种降维把有关两组差异的信息很好地保留了下来，几乎没有任何损失，如此就完全可以在一维的直线上作判别分析。我们现考虑在p R 中将k 组的p 维数据向量投影到某个具有最佳方向的a 上，即投影到a 上的点能最大限度地显现出各组之间的差异。设来自组i π的p 维观测值为ij x ，1,2,,i j=n ???，1,2,,i=k ???，将它们共同投影到某一p 维常数向量a 上，得到的投影点可分别对应线性组合i j i j y =a x '，1,2,,i j=n ???，1,2,,i=k ???。这样，所有的p 维观测值就简化为一维观测值。下面我们用i y 表示组i π中ij y 的均值，y 表示所有组k 组的ij y 的总均值，即 11i n i ij i j i y y a x n ='==∑ 11 1i n k i ij i j y y a x n =='==∑∑ 式中1 k i i n n ==∑，11i n i ij j i x x n ==∑，11k i i i x n x n ==∑。对于任一用来投影的a ，我们需要给出一个能反映组之间分离程度的度量。比较图中的上、下半图，上半图三组均值之间的差异程度与下半图是相同的，而前者组之间的分离程度却明显高于后者，原因就在于前者的组内变差要远小于后者，后者组之间有较多重叠。因此，可以考虑将组之间的分离程度度量为相对其组内变差的组间变差。在以下的讨论中，我们需假定各组的协方差矩阵相同，即12k ∑=∑=???=∑=∑。

判别分析三种方法

作业一：为研究1991年中国城镇居民月平均收入状况，按标准化欧氏平方距离、离差平方和聚类方法将30个省、市、自治区．分为两种类型。试建立判别函数，判定广东、西藏分别属于哪个收入类型。判别指标及原始数据见表9-4。 1991年30个省、市、自治区城镇居民月平均收人数据表单位：元／人 x1：人均生活费收入 x6：人均各种奖金、超额工资(国有+集体) x2：人均国有经济单位职工工资 x7：人均各种津贴(国有+集体) x3：人均来源于国有经济单位标准工资 x8：人均从工作单位得到的其他收入 x4：人均集体所有制工资收入 x9：个体劳动者收入 x5：人均集体所有制职工标准工资

一、距离判别法解：变量个数p＝9，两类总体各有11个样品，即n1＝n2＝11 ，有2个待判样品，假定两总体协差阵相等。由spss可计算出：协方差和平均值

合计x1 123.2881 23.27817 22 22.000 x2 80.4895 22.04796 22 22.000 x3 50.8709 6.14867 22 22.000 x4 10.1450 3.11887 22 22.000 x5 6.0659 2.72297 22 22.000 x6 14.6060 6.73264 22 22.000 x7 15.7215 6.64603 22 22.000 x8 8.7895 3.02700 22 22.000 x9 1.5291 1.31496 22 22.000 知道了均值和协方差可利用matlab计算线性判别函数W（x）的判别系数a和判别常数。程序如下： v=[1.000,0.217,0.299,0.045,-0.054,0.688,0.212,0.121,-0.245;.217,1,.102,-.234,-.211,. 136,-.052,.116,.154;.299,.102,1,-.296,-.062,.091,-.017,-.607,-.034;.045,-.234,-.296,1,. 762,-.172,-.297,.103,-.554;-.054,-.211,-.062,.762,1,-.156,-.342,.022,-.654;.688,.136,.0 91,-.172,-.156,1,.235,.384,-.098;.212,-.052,-.017,-.297,-.342,.235,1,-.040,.424;.121,.1 16,-.607,.103,.022,.384,-.040,1,-.071;-.245,.154,-.034,-.554,-.654,-.098,.424,-.071,1]; >> m1=[139.2664;93.0918;53.9882;11.2073;6.7645;17.9345;17,8327;11.0018;1.6736];m 2=[107.3099;67.8873;47.7536;9.0827;5.3673;11.2775;13.6102;6.5773;1.3845]; >> m=(m1+m2)/2; >> arfa=inv(v)*(m1-m2);

R语言中的多元统计之判别分析

前言判别分析（discriminant analysis）是多元统计分析中较为成熟的一种分类方法，它的核心思想是“分类与判断”，即根据已知类别的样本所提供的信息，总结出分类的规律性，并建立好判别公式和判别准则，在此基础上，新的样本点将按照此准则判断其所属类型。例如，根据一年甚至更长时间的每天的湿度差及压差，我们可以建立一个用于判别是否会下雨的模型，当我们获取到某一天（建立模型以外的数据）的湿度差及压差后，使用已建立好的模型，就可以得出这一天是否会下雨的判断。根据判别的组数来区分，判别分析可以分为两组判别和多组判别。接下来，我们将学习三种常见的判别分析方法，分别是： ?距离判别 ?Bayes判别 ?Fisher判别一、距离判别基本理论假设存在两个总体和，另有为一个维的样本值，计算得到该样本到两个总体的距离和,如果大于，则认为样本属于总体，反之样本则属于总体；若等于，则该样本待判。这就是距离判别法的基本思想。

在距离判别法中，最核心的问题在于距离的计算，一般情况下我们最常用的是欧式距离，但由于该方法在计算多个总体之间的距离时并不考虑方差的影响，而马氏距离不受指标量纲及指标间相关性的影响，弥补了欧式距离在这方面的缺点，其计算公式如下：，为总体之间的协方差矩阵二、距离判别的R实现（训练样本）首先我们导入数据 # 读取SAS数据 > library(sas7bdat) > data1 <- read.sas7bdat('disl01.sas7bdat') # 截取所需列数据，用于计算马氏距离 > testdata <- data1[2:5] > head(testdata,3) X1 X2 X3 X4 1 -0.45 -0.41 1.09 0.45 2 -0.56 -0.31 1.51 0.16 3 0.06 0.02 1.01 0.40 # 计算列均值 > colM <- colMeans(testdata) > colM

判别分析实验报告 SPSS

一、实验目的及要求： 1、目的用SPSS软件实现判别分析及其应用。 2、内容及要求用SPSS对实验数据利用Fisher判别法和贝叶斯判别法，建立判别函数并判定宿州、广安等13个地级市分别属于哪个管理水平类型。二、仪器用具：三、实验方法与步骤: 准备工作：把实验所用数据从Word文档复制到Excel，并进一步导入到SPSS 数据文件中，同时，由于只有当被解释变量是属性变量而解释变量是度量变量时，判别分析才适用，所以将城市管理的7个效率指数变量的变量类型改为“数值（N）”，度量标准改为“度量（S）”，以备接下来的分析。四、实验结果与数据处理：表1 组均值的均等性的检验 Wilks 的 Lambda F df1 df2 Sig. 综合效率标准指数.582 23.022 2 64 .000 经济效率标准指数.406 46.903 2 64 .000 结构效率标准指数.954 1.560 2 64 .218 社会效率标准指数.796 8.225 2 64 .001 人员效率标准指数.342 61.645 2 64 .000 发展效率标准指数.308 71.850 2 64 .000 环境效率标准指数.913 3.054 2 64 .054 表1是对各组均值是否相等的检验，由该表可以看出，在0.05的显著性水平上我们不能拒绝结构效率标准指数和环境效率标准指数在三组的均值相等的假设，

即认为除了结构效率标准指数和环境效率标准指数外，其余五个标准指数在三组的均值是有显著差异的。表2 对数行列式 group 秩对数行列式 1 6 -33.410 2 6 -33.177 3 6 -40.584 汇聚的组内 6 -32.308 打印的行列式的秩和自然对数是组协方差矩阵的秩和自然对数。表3 检验结果箱的 M 140.196 F 近似。 2.498 df1 42 df2 1990.001 Sig. .000 对相等总体协方差矩阵的零假设进行检验。以上是对各组协方差矩阵是否相等的Box’M检验，表2反映协方差矩阵的秩和行列式的对数值。由行列式的值可以看出，协方差矩阵不是病态矩阵。表3是对各总体协方差阵是否相等的统计检验，由F值及其显著水平，在0.05的显著性水平下拒绝原假设，认为各总体协方差阵不相等。 1）Fisher判别法：图一

判别分析-四种方法

第六章判别分析 § 什么是判别分析判别分析是判别样品所属类型的一种统计方法，其应用之广可与回归分析媲美。在生产、科研和日常生活中经常需要根据观测到的数据资料，对所研究的对象进行分类。例如在经济学中，根据人均国民收入、人均工农业产值、人均消费水平等多种指标来判定一个国家的经济发展程度所属类型；在市场预测中，根据以往调查所得的种种指标，判别下季度产品是畅销、平常或滞销；在地质勘探中，根据岩石标本的多种特性来判别地层的地质年代，由采样分析出的多种成份来判别此地是有矿或无矿，是铜矿或铁矿等；在油田开发中，根据钻井的电测或化验数据，判别是否遇到油层、水层、干层或油水混合层；在农林害虫预报中，根据以往的虫情、多种气象因子来判别一个月后的虫情是大发生、中发生或正常；在体育运动中，判别某游泳运动员的“苗子”是适合练蛙泳、仰泳、还是自由泳等；在医疗诊断中，根据某人多种体验指标（如体温、血压、白血球等）来判别此人是有病还是无病。总之，在实际问题中需要判别的问题几乎到处可见。判别分析与聚类分析不同。判别分析是在已知研究对象分成若干类型（或组别）并已取得各种类型的一批已知样品的观测数据，在此基础上根据某些准则建立判别式，然后对未知类型的样品进行判别分类。对于聚类分析来说，一批给定样品要划分的类型事先并不知道，正需要通过聚类分析来给以确定类型的。正因为如此，判别分析和聚类分析往往联合起来使用，例如判别分析是要求先知道各类总体情况才能判断新样品的归类，当总体分类不清楚时，可先用聚类分析对原来的一批样品进行分类，然后再用判别分析建立判别式以对新样品进行判别。判别分析内容很丰富，方法很多。判别分析按判别的组数来区分，有两组判别分析和多组判别分析；按区分不同总体的所用的数学模型来分，有线性判别和非线性判别；按判别时所处理的变量方法不同，有逐步判别和序贯判别等。判别分析可以从不同角度提出的问题，因此有不同的判别准则，如马氏距离最小准则、Fisher 准则、平均损失最小准则、最小平方准则、最大似然准则、最大概率准则等等，按判别准则的不同又提出多种判别方法。本章仅介绍四种常用的判别方法即距离判别法、Fisher 判别法、Bayes 判别法和逐步判别法。 § 距离判别法基本思想：首先根据已知分类的数据，分别计算各类的重心即分组（类）的均值，判别准则是对任给的一次观测，若它与第i 类的重心距离最近，就认为它来自第i 类。距离判别法，对各类（或总体）的分布，并无特定的要求。 1 两个总体的距离判别法设有两个总体（或称两类）G 1、G 2，从第一个总体中抽取n 1个样品，从第二个总体中抽取n 2个样品，每个样品测量p 个指标如下页表。今任取一个样品，实测指标值为),,(1'=p x x X ，问X 应判归为哪一类首先计算X 到G 1、G 2总体的距离，分别记为),(1G X D 和),(2G X D ，按距离最近准则

距离判别法及其应用

推广到n 维空间其公式为： 21) (1i n i i y x d -=∑= （二）马氏距离在判别分析中，考虑到欧氏距离没有考虑总体分布的分散性信息，印度统计学家马哈诺必斯（Mahalanobis ）于1936年提出了马氏距离的概念。设总体T m X X X G },...,,{21=为m 维总体（考察m 个指标），样本 T m i x x x X },...,,{21=。令μ=E(i X )(i=1,2, …，m)，则总体均值向量为 T m },,{21μμμμ???=。总体G 的协方差矩阵为： ]))([()(T G G E G COV μμ--==∑。设X ，Y 是从总体G 中抽取的两个样本，则X 与Y 之间的平方马氏距离为： )()(),(12Y X Y X Y X d T -∑-=- 样本X 与总体G 的马氏距离的平方定义为： )()(),(12μμ-∑-=-X X G X d T 1．两总体距离判别。设有两总体1G 和2G 的均值分别为1μ和2μ，协方差矩阵分别为1∑和2∑（1∑，2∑>0），1?m X 是一个新样本，判断其属于哪个总体。定义1?m X 到1G 和2G 的距离为),(12G X d 和 ),(22G X d ，则按如下判别规则进行判断： 1G X ∈，若),(12G X d ≤),(22G X d 2G X ∈，若),(22G X d ﹤),(12G X d (1)当1∑=2∑时，该判别式可进行如下简化：

判别分析案例(鸢尾花)

特征值函数特征值方差的 % 累积 % 正则相关性 1 30.419a99.0 99.0 .984 2 .293a 1.0 100.0 .476 a. 分析中使用了前 2 个典型判别式函数。 Wilks 的 Lambda 卡方df Sig. 函数检验Wilks 的 Lambda 1 到 2 .025 538.950 8 .000 2 .774 37.351 3 .000 标准化的典型判别式函数系数函数 1 2 花萼长-.346 .039 花萼宽-.525 .742 花瓣长.846 -.386 花瓣宽.613 .555 - =0.613 ? 0.846 ? 346 1 .0 + 0.525 - 花萼长z 花萼宽花瓣长 ? z 花瓣宽 z D? + z =0.555 ? + 0.386 0.742 ? 2 0.039 - ? 花萼宽花瓣长花瓣宽花萼长z z D? + z z 结构矩阵函数 1 2 花瓣长.726*.165 花萼宽-.121 .879* 花瓣宽.651 .718* 花萼长.221 .340* 判别变量和标准化典型判别式函数之间的汇聚组间相关性按函数内相关性的绝对大小排序的变量。 *. 每个变量和任意判别式函数间最大的绝对相关性

典型判别式函数系数函数 1 2 花萼长-.063 .007 花萼宽-.155 .218 花瓣长.196 -.089 花瓣宽.299 .271 (常量) -2.526 -6.987 非标准化系数 0.196 0.155 - - =0.299 1 ? .2 526 .0 063 - 花萼长z z 花萼宽花瓣长 ? z 花瓣宽 + z ? + D? 0.089 - + - =0.271 978 ? 2 .6 0.007 0.218 z 花萼长z 花萼宽花瓣长花瓣宽 z z ? ? + D? +