SAS 判别分析 discrimination
sas判断与分析
5.2 判别分析判别分析的方法有参数方法和非参数方法。
参数方法假定每个类的观测来自（多元）正态分布总体，各类的分布的均值（中心）可以不同。
非参数方法不要求知道各类所来自总体的分布，它对每一类使用非参数方法估计该类的分布密度，然后据此建立判别规则。
1.DISCRIM过程的语句说明SAS/STAT的DISCRIM过程可以进行参数判别分析和非参数判别分析，其一般格式如下：PROC DISCRIM DATA=输入数据集：CLASS 分类变量：VAR 判别用自变量集合：RUN;其中，PROC DISCRIM语句的选项中"输入数据集"为训练数据的数据集，包括一个分类变量（在CLASS语句中说明）和用来建立判别公式的自变量集合（在VAR 语句中说明）。
可以用"TESTDATA=数据集"选项指定一个检验数据集，检验数据集必须包含与训练数据集相同的自变量集合，用训练数据集产生判别规则后将对检验数据集中的每一个观测给出分类值，如果这个检验数据集中有表示真实分类的变量可以在过程中用"TESTCLASS分类变量"语句指定，这样可以检验判别的效果如何。
用"OUTSTAT=数据集"指定输出判别函数的数据集，后面可以再次用DISCRIM过程把这样输出的判别函数作为输入数据集(DATA=)读入并用它来判别检验数据(TESTDATA=)。
用"OUT=数据集"指定存放训练样本及后验概率、交叉确认分类的数据集。
用"OUTD=数据集"指定存放训练样本及分组的密度估计的数掘集。
用"TESTOUT=数据集"指定存放检验数据的后验概率及分类结果的数据集。
用"TESTOUTD=数据集"输出检验数据及分组密度估计。
PROC DISCRIM语句还有一些指定判别分析方法的选项。
METHOD=NORMAL或NPAR 选择参数方法或非参数方法。
11.3.2 DISCRIM过程_SAS统计分析标准教程_[共5页]
![11.3.2 DISCRIM过程_SAS统计分析标准教程_[共5页]](https://img.taocdn.com/s3/m/733590e45a8102d277a22f2f.png)
第11章 判 别 分 析·213· 以上逐步判别分析过程选取了全部的4个备选变量作为建立判别模型的指标变量，说明本实例中的原有指标变量的判别能力都较强。
在将要介绍的DISCRIM 过程中将用这些通过筛选的变量建立判别函数，对样本进行判别归类。
11.3.2 DISCRIM 过程DISCRIM 过程根据一批具有一个分类变量和若干数值型变量的数据计算一个判别函数（判别准则），再由这个判别函数将该批数据或其他数据中的观测归入已知的类别中去。
从某一批数据中获得的判别函数，也可以在同一过程步中应用于其他的数据。
DISCRIM 过程用以获得判别函数的数据被称为训练数据集（也称为训练样本）。
如果各个类内样本的分布为多元正态分布，可以用参数方法建立判别函数；如果各个类内样本的分布未知或不属于多元正态分布，则需要用非参数方法来估计类别密度，从而实现分类的功能。
此类非参数方法包括核密度法（Kernel Method ）和K 最近邻法（K-Nearest- Neighbor Method ），其中核密度法又因确定核的方法不同而分为不同的方法。
DISCRIM 过程可以得到若干个典则变量，用来体现各类间的差异。
DISCRIM 过程的分析结果一定包含判别函数，如果只需要进行典则判别分析而无须获得判别函数，则应当调用CANDISC 过程来执行。
DISCRIM 过程还可以通过对训练样本以外的观测进行分类，得到错判率估计值（Error Rate Estimate ），从而达到对所得判别函数的效能进行评价的目的。
错判率估计值又包括错判个数估计值（Error-Count Estimate ）和后验错判率估计值（Posterior Probability Error-Rate Estimate ）。
如果输入数据集为一般类型的SAS 数据集，还可通过对训练样本的交叉验证（Cross Validation ）得到错判率的估计值。
SAS_判别分析
data d522; input group x1-x4 @@; cards; 1 228 134 20 11 1 245 134 10 40 1 200 167 12 27 1 170 150 7 8 1 100 167 20 14 2 225 125 7 14 2 130 100 6 12 2 150 117 7 6 2 120 133 10 26 2 160 100 5 10 3 185 115 5 19 3 170 125 6 4 3 165 142 5 3 3 135 108 2 12 3 100 117 7 2 ; proc print data=d522; run;
贝叶斯判别
书p192，表5.2，胃癌检验的生化指标
Obs group x1 x2 x3 x4 Group=1，胃癌 Group=2，萎缩性胃炎 Group=3，非胃炎
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15
1 1 1 1 1 2 2 2 2 2 3 3 3 3 3
228 245 200 170 100 225 130 150 120 160 185 170 165 135 100
134 134 167 150 167 125 100 117 133 100 115 125 142 108 117
20 11 2.75459 10 40 2.04732 12 27 2.87670 7 8 0.42984 20 14 2.88596 7 14 0.16132 6 12 -2.03517 7 6 -1.15808 10 26 0.32348 5 10 -1.97122 5 19 -0.84243 6 4 -0.87319 5 3 -0.44736 2 12 -2.36910 7 2 -1.78267
判别分析例题及SAS程序
判别分析例题某医院眼科研究糖尿病患者的视网膜病变情况, 视网膜病变分轻、中、重三型。
研究者用年龄(age)、患糖尿病年数(time)、血糖水平(glucose)、视力(vision)、视网膜电图中的a波峰时（at）、a波振幅(av)、b波峰时(bt)、b波振幅(bv)、qp波峰时(qpt)及qp波振幅(qpv)等指标建立判别视网膜病变的分类函数, 以判断糖尿病患者的视网膜病变属于轻、中、重中哪一型。
为此观察131例糖尿病患者,要求其患眼无其他明显眼前段疾患, 眼底无明显其他视网膜疾病和视神经、葡萄膜等疾患,测定了他们的以上各指标值,并根据统一标准诊断其疾患类型,记分类指标名为group。
见表1 (表中仅列出前5例)。
试以此为训练样本, 仅取age,vision,at,bt和qpv 等指标, 求分类函数, 并根据王××的信息: 38岁, 视力1.0, 视网膜图at=14.25, bv=383.39, qpv=43.18判断其视网膜病变属于哪一型。
表1 131例糖尿病患者各指标实测记录（前5例）──────────────────────────────────例号年龄患病血糖视力a波a波b波b波qp波pq波视网膜年数峰时振幅峰时振幅峰时振幅病变程度──────────────────────────────────1 49 2.00 191 1.5 12.25 235.40 52.50 417.57 78.5 27.43 A12 49 2.00 191 1.2 13.50 225.15 52.00 391.20 78.5 46.69 A13 63 4.00 200 1.0 14.25 318.92 53.25 616.35 77.5 35.38 A14 63 4.00 200 0.6 14.00 361.90 55.00 723.30 77.0 47.01 A15 54 10.00 137 0.6 13.75 269.59 55.50 451.27 78.0 33.70 A2──────────────────────────────────解假定样本系从总体中随机抽取,则样本中三种疾患类型的样本量可近似地反映先验概率, 利用SAS的Discrim过程可得分类函数Y1＝-181.447+0.473(age)+60.369(vision)+17.708(at)+0.048(bv)+0.364(qpv)Y2＝-165.830+0.472(age)+49.782(vision)+17.658(at)+0.034(bv)+0.325(qpv)Y3＝-189.228+0.178(age)+43.974(vision)+20.447(at)+0.040(bv)+0.265(qpv)以王××的观察值代入分类函数, 得Y1=-181.447+0.473×38+60.369×1.0+17.708×14.25+0.048×383.39+0.364×43.18 =183.36同样可算得：Y2＝180.58, Y3＝179.66其中最大者为Y1, 故判断为轻度病变。
第十四章判别分析DiscriminantAnalysis
1 49 2.00 191 1.5 12.25 235.40 52.50 417.57 78.5 27.43 A1
2 49 2.00 191 1.2 13.50 225.15 52.00 391.20 78.5 46.69 A1
3 63 4.00 200 1.0 14.25 318.92 53.25 616.35 77.5 35.38 A1
观察131例糖尿病患者,要求其患眼无其他明显眼前段 疾患, 眼底无明显其他视网膜 疾病和视神经、葡萄膜等疾 患,测定了他们的以上各指标值,并根据统一标准诊断其疾患 类型,记分类指标名为group.见表14.2.<表中仅列出前5例>. 试以此为训练样本, 仅取age,vision,at,bv和qpv 5项指标, 求分类函数, 并根据王××的信息: 38岁, 视力1.0, 视网 膜电图at=14.25, bv=383.39, qpv=43.18判断其视网膜病变 属于哪一型.
<三>. 事前概率
事前概率〔prior probability〕又称先 验概率.如在所研究的总体中任取一个样品,该 样品属于第f类别的概率为q<yf>,则称它为类 别f的事前概率.例如, 阑尾炎病人总体中卡他 性占50％,蜂窝织炎占30％,坏疽性占10％,腹 膜炎占10％; 则在该总体中任取一个阑尾炎病 人,该病人属于以上四型的概率分别为 0.5,0.3,0.1和0.1, 它们也分别是这四类的事 前概率.
以王××的观察值代入分类函数, 得 Y1=-181.447+0.473×38+60.369×1.0+17.708×14.25
+0.048×383.39+0.364×43.18 =183.36 同样可算得： Y2＝180.58, Y3＝179.66 其中最大者为Y1, 故判断为轻度病变.
线性判别分析(Linear Discriminant Analysis)
1. 问题之前我们讨论的PCA、ICA也好，对样本数据来言，可以是没有类别标签y的。
回想我们做回归时，如果特征太多，那么会产生不相关特征引入、过度拟合等问题。
我们可以使用PCA 来降维，但PCA没有将类别标签考虑进去，属于无监督的。
比如回到上次提出的文档中含有“learn”和“study”的问题，使用PCA后，也许可以将这两个特征合并为一个，降了维度。
但假设我们的类别标签y是判断这篇文章的topic是不是有关学习方面的。
那么这两个特征对y几乎没什么影响，完全可以去除。
再举一个例子，假设我们对一张100*100像素的图片做人脸识别，每个像素是一个特征，那么会有10000个特征，而对应的类别标签y仅仅是0/1值，1代表是人脸。
这么多特征不仅训练复杂，而且不必要特征对结果会带来不可预知的影响，但我们想得到降维后的一些最佳特征（与y关系最密切的），怎么办呢？2. 线性判别分析（二类情况）回顾我们之前的logistic回归方法，给定m个n维特征的训练样例（i从1到m），每个对应一个类标签。
我们就是要学习出参数，使得（g 是sigmoid函数）。
现在只考虑二值分类情况，也就是y=1或者y=0。
为了方便表示，我们先换符号重新定义问题，给定特征为d维的N个样例，，其中有个样例属于类别，另外个样例属于类别。
现在我们觉得原始特征数太多，想将d维特征降到只有一维，而又要保证类别能够“清晰”地反映在低维数据上，也就是这一维就能决定每个样例的类别。
我们将这个最佳的向量称为w（d维），那么样例x（d维）到w上的投影可以用下式来计算这里得到的y值不是0/1值，而是x投影到直线上的点到原点的距离。
当x是二维的，我们就是要找一条直线（方向为w）来做投影，然后寻找最能使样本点分离的直线。
如下图：从直观上来看，右图比较好，可以很好地将不同类别的样本点分离。
接下来我们从定量的角度来找到这个最佳的w。
首先我们寻找每类样例的均值（中心点），这里i只有两个由于x到w投影后的样本点均值为由此可知，投影后的的均值也就是样本中心点的投影。
SAS判别分析
S A S判别分析-CAL-FENGHAI-(2020YEAR-YICAI)_JINGBIAN课程：SAS判别分析部门：创新业务部-徐宝莲时间：2015/1/16内容概要：1、判别分析的简单介绍2、一般判别分析——PROC DISCRIM3、典型判别分析——PROC CANDISC4、逐步判别分析——PROC STEPDISC1、判别分析的简单介绍判别分析是一种应用性很强的统计方法。
它通常是根据已有的数据资料，来建立一种判别方法，然后再来判断一个新的样品归属哪一类。
判别分析的SAS过程所处理的数据集要求具有一个分类变量和若干个数值型变量。
SAS中进行判别分析的具体目标可以分为以下三条：建立判别函数，以便用来判别某一新的观测值的所属类别；寻找一组数值型变量的线性组合，使得其能够很好地反映各类别之间的差别；筛选出某些能反映类别间差别的变量。
2、一般判别分析——PROC DISCRIM2.1距离判别法距离判别法是通过计算距离函数来进行判别，即样品与哪个总体之间的距离最近，则判断它属于哪个总体。
如何衡量样品与总体间的这种抽象的距离？我们一般利用马氏距离来描述。
对于两总体的情形，设和是两个P维总体，样品X到的距离为,样品X到的距离为，则我们按照下面的准则对样本X进行判别归类：1)若,则判定X属于；2)若,则判定X属于；3)若，则X有待于进一步判定。
2.2Bayes判别法Bayes判别法是基于Bayes统计的思想，即假定事先对所研究的对象有一定的了解，并通过先验概率分布来进行描述，当抽取样本后，用样本来修正先验概率分布，并得到后验概率分布，然后根据后验概率分布进行各种统计推断。
Bayes判别法首先计算给定样品属于各个总体的条件概率，然后比较这些概率值的大小，将样品判归于条件概率最大的总体。
PROC DISCRIM DATA=数据集名<选项>；CLASS变量名列表；PRIORS概率值；BY 分组变量名；RUN;语句说明：1）PROC DISCRIM 语句用来调用DISCRIM 过程。
SASdiscrim 距离判别和贝叶斯判别法
距离判别和贝叶斯判别法SAS/STAT （DISCRIM ）过程部分语句说明一、 D ISCRIM 过程语句SAS/STAT （DISCRIM ）产生线性判别函数并进行分类，主要的语句如下：二、程序实例及解释例：某年为了研究某年全国各地农民家庭收支的分布情况，对全国28个地区进行了抽样调查。
食品1x ，衣着2x ，燃料3x ，住房4x ，生活用品及其他5x 和文化服务支出6x 。
data a;input type x1-x6;cards;数据行；run;data b;input x1-x6; cards;190.33 43.77 9.73 60.54 49.01 9.04 221.11 38.64 12.53 115.65 50.82 5.89 182.55 20.52 18.32 42.40 36.97 11.68 ;PROC DISCRIM DATA=a TESTDATA=b out=c crossvalidate method=normal TESTLIST testout=d; priors proportional; CLASS TYPE; VAR x3 x5 x6; proc print data=d; RUN;PROC DISCRIM DATA=a 指定对数据集a 中的数据进行判别分析； TESTDATA=b 指定欲分类观测的样品所在的数据集；crossvalidate 要求做交叉核实。
交叉核实的想法是，为了判断对观测i 的判别正确与否，用删除第method=normal 或npar 确定导出分类准则的方法，却上缺省值为method=normal 。
当指定method=normal 时，基于类内服从多员正态分布，并产生的判别函数是线性函数或二次判别函数； ALL 规定打印出所有的结果；TESTLIST 规定列出TESTDATA=b 中的全部的分类结果；testout=d 生成一个新的数据集，该数据集包括TESTDATA=b 中的所有数据，后验概率和每个样品被分的类。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
在医学研究和疾病防治工作中，经常遇到需要根据观测到 的资料对所研究的对象进行分类的问题。例如： 农业样本抽样检验，对病菌蔬菜用1标识，非病菌蔬菜用 2标识，两类样本各抽样5例化验四项指标，用逐步判别法 对10个样本进行判别归类。
data vegetable; input group v1-v4; datalines; 1 288 134 20 11 1 245 134 10 40 1 200 167 12 27 1 170 150 7 8 1 100 167 20 14 2 185 115 5 19 2 170 125 6 4 2 165 142 5 3 2 135 108 2 12 2 100 117 7 2 ; proc stepdisc data=vegetable; title "判别分析"; class group; var v1-v4; run; /*输出结果保留下来对变异贡献度最大的变量：v2，v3，v4*/ proc discrim data=vegetable list; class group; var v2 v3 v4; run;
根据stepdisc逐步判别进行变量筛选，最终v2，v3，v4被选择进入分析列。然后运 用判别分析过程discrim对三个指标变量v2，v3，v4进行分析。可以看出3个变量 对蔬菜病菌影响起到了主要作用。
பைடு நூலகம்