试验数据异常值的检验及剔除方法
异常值的检验方法和判断标准
异常值的检验方法和判断标准全文共四篇示例，供读者参考第一篇示例：异常值是数据集中与大部分数值相差较大的数值，它可能会对数据分析产生影响，因此在数据处理前，需要对数据进行异常值的检验和处理。
异常值的检验方法和判断标准是数据分析的重要步骤之一，下面将介绍一些常见的异常值检验方法和判断标准。
一、常见的异常值检验方法1. 均值标准差方法均值标准差方法是一种比较简单直观的异常值检验方法。
首先计算数据的均值和标准差，然后根据正态分布的原理，认为落在均值加减3倍标准差范围之外的数据点为异常值。
2. 箱线图方法箱线图是一种直观显示数据分布情况的方法，通过箱线图可以很容易地识别出异常值。
在箱线图中，异常值通常被定义为小于Q1-1.5IQR或大于Q3+1.5IQR的数据点，其中Q1为下四分位数，Q3为上四分位数，IQR为四分位数间距。
3. Cook距离方法Cook距离是一种基于回归模型的异常值检验方法，它描述了在删除一个观测值时，对回归模型参数产生的影响程度。
一般来说，Cook 距离大于阈值（通常为4/n，n为样本量）的观测值可以被认为是异常值。
4. DBSCAN聚类方法DBSCAN是一种基于密度的聚类算法，可以用来识别数据中的异常值。
通过设定一定的距离和密度阈值，DBSCAN可以将数据点分为核心点、边界点和噪声点，噪声点可以被认为是异常值。
二、判断标准1. 统计学方法在使用均值标准差或箱线图等统计学方法进行异常值检验时，可以根据具体情况设定阈值，一般来说，超出均值加减3倍标准差或Q1-1.5IQR和Q3+1.5IQR范围的数据点可以被认为是异常值。
2. 领域知识方法在某些情况下，领域知识可能比统计学方法更能帮助我们识别异常值。
在医学领域，某些生理指标的异常值可能不是由数据采集或处理错误引起的，而是由于疾病或其他因素引起的，因此需要结合领域知识对异常值进行判断。
3. 机器学习方法机器学习方法也可以用来识别数据中的异常值，例如使用聚类算法（如DBSCAN）、离群点检测算法（如LOF、Isolation Forest）等方法。
试验数据异常值的检验及剔除方法
试验数据异常值的检验及剔除方法
摘要
异常值（outliers）指的是可能存在的测试数据点，其值大大偏离了
它们的数据集的中位数或平均值，如果未及时发现和处理这些异常值，将
会严重影响实验数据的准确性和有效性，因此，检验和剔除测试数据中的
异常值是必不可少的任务。
本文将介绍测试数据异常值检验和剔除的方法，旨在有效改善测试数据的准确性和有效性。
一、异常值的定义
异常值简单来说，指的是数据集中与其他所有值有明显差异的数据点。
它可能是由于实验环境的变化，实验设备的变化，数据获取的失误而产生的，或者错误的测量结果导致的。
二、异常值的检验
在检验数据中是否存在异常值之前，首先要明确测试数据的分布类型。
根据数据的分布，可采用不同的检验方法，通常按照如下步骤检验异常值：（1）可先将测试数据按照箱线图或四分位图等形式画出，看看数据
是否符合正态分布；
（2）可以计算数据的中位数、平均数、标准偏差等，来查看异常值
的程度；
（3）可以根据数据的中位数、平均数等，计算出数据的上下限，这
样便可以将数据划分为”正常“和”异常“；
（4）可以使用基于概率的检验方法，此方法可以给出异常值的检验
结果。
剔除异常值的方法
1.拉依达准则法（3δ）：简单，无需查表。
测量次数较多或要求不高时用。
是最常用的异常值判定与剔除准则。
但当测量次数《=10次时，该准则失效。
如果实验数据值的总体x是服从正态分布的，则式中，μ与σ分别表示正态总体的数学期望和标准差。
此时，在实验数据值中出现大于μ＋3σ或小于μ—3σ数据值的概率是很小的。
因此，根据上式对于大于μ＋3σ或小于μ—3σ的实验数据值作为异常值，予以剔除。
在这种情况下，异常值是指一组测定值中与平均值的偏差超过两倍标准差的测定值。
与平均值的偏差超过三倍标准差的测定值，称为高度异常的异常值。
在处理数据时，应剔除高度异常的异常值。
异常值是否剔除，视具体情况而定。
在统计检验时，指定为检出异常值的显著性水平α=0.05，称为检出水平；指定为检出高度异常的异常值的显著性水平α=0.01，称为舍弃水平，又称剔除水平(reject level)。
标准化数值（Z-score）可用来帮助识别异常值。
Z分数标准化后的数据服从正态分布。
因此，应用Z分数可识别异常值。
我们建议将Z分数低于-3或高于3的数据看成是异常值。
这些数据的准确性要复查，以决定它是否属于该数据集。
2.肖维勒准则法（Chauvenet）：经典方法，改善了拉依达准则，过去应用较多，但它没有固定的概率意义，特别是当测量数据值n无穷大时失效。
3.狄克逊准则法（Dixon）：对数据值中只存在一个异常值时，效果良好。
担当异常值不止一个且出现在同侧时，检验效果不好。
尤其同侧的异常值较接近时效果更差，易遭受到屏蔽效应。
4.罗马诺夫斯基（t检验）准则法：计算较为复杂。
5.格拉布斯准则法（Grubbs）：和狄克逊法均给出了严格的结果，但存在狄克逊法同样的缺陷。
朱宏等人采用数据值的中位数取代平均值，改进得到了更为稳健的处理方法。
有效消除了同侧异常值的屏蔽效应。
国际上常推荐采用格拉布斯准则法。
这些方法，都有各自的特点，例如，拉依达准则不能检验样本量较小（显著性水平为0.1时，n必须大于10）的情况，格拉布斯准则则可以检验较少的数据。
数据分析中的异常检测和异常值处理技巧
数据分析中的异常检测和异常值处理技巧在数据分析领域，异常值是指与其他观测值相比具有显著不同的观测值。
异常值的出现可能是由于测量误差、数据录入错误、系统故障或者真实的异常情况引起的。
对于异常值的处理，不仅可以提高数据分析的准确性和可靠性，还可以避免异常值对分析结果的影响。
本文将介绍数据分析中常用的异常检测和异常值处理技巧。
一、异常检测方法1. 统计方法统计方法是最常用的异常检测方法之一。
通过计算观测值与平均值之间的偏差或者观测值与中位数之间的偏差来判断是否为异常值。
常用的统计方法包括均值、中位数、标准差、箱线图等。
均值是一组数据的平均值，可以通过计算数据的总和除以数据的个数得到。
如果某个观测值与均值之间的偏差超过了某个阈值，就可以判断该观测值为异常值。
中位数是一组数据的中间值，可以通过将数据按照大小排序，找到中间位置的数值得到。
如果某个观测值与中位数之间的偏差超过了某个阈值，就可以判断该观测值为异常值。
标准差是一组数据的离散程度的度量，可以通过计算数据与均值之间的偏差的平方的平均值再开方得到。
如果某个观测值与均值之间的偏差超过了某个阈值的倍数乘以标准差，就可以判断该观测值为异常值。
箱线图是一种可视化的异常检测方法，通过绘制数据的分布情况来判断是否存在异常值。
箱线图包含了数据的最小值、最大值、中位数和上下四分位数，如果某个观测值超过了上下四分位数加上某个阈值的倍数乘以四分位距，就可以判断该观测值为异常值。
2. 聚类方法聚类方法是一种基于样本之间相似性度量的异常检测方法。
聚类方法将数据分成多个簇，每个簇包含相似的样本。
如果某个观测值与其他观测值之间的相似度低于某个阈值，就可以判断该观测值为异常值。
常用的聚类方法包括K均值聚类和DBSCAN聚类。
K均值聚类将数据分成K 个簇，每个簇的中心点是该簇内所有样本的平均值。
如果某个观测值与其所属簇的中心点之间的距离超过了某个阈值，就可以判断该观测值为异常值。
DBSCAN聚类是一种基于密度的聚类方法，将数据分成核心点、边界点和噪声点。
试验数据异常值的检验及剔除方法
试验数据异常值的检验及剔除⽅法⽬录摘要 ........................................................................................................................................................................ I 关键词 (I)1 引⾔ (1)2 异常值的判别⽅法 (1)2.1检验（3S）准则 (1)2.2 狄克松（Dixon）准则 (2)2.3 格拉布斯（Grubbs）准则 (2)2.4 指数分布时异常值检验 (3)2.5 莱茵达准则（PanTa） (3)2.6 肖维勒准则（Chauvenet） (4)3 实验异常数据的处理 (4)4 结束语 (5)参考⽂献 (6)试验数据异常值的检验及剔除⽅法摘要：在实验中不可避免会存在⼀些异常数据，⽽异常数据的存在会掩盖研究对象的变化规律和对分析结果产⽣重要的影响，异常值的检验与正确处理是保证原始数据可靠性、平均值与标准差计算准确性的前提.本⽂简述判别测量值异常的⼏种统计学⽅法，并利⽤DPS软件检验及剔除实验数据中异常值，此⽅法简单、直观、快捷，适合实验者⽤于实验的数据处理和分析.关键词：异常值检验；异常值剔除；DPS；测量数据1 引⾔在实验中，由于测量产⽣误差，从⽽导致个别数据出现异常，往往导致结果产⽣较⼤的误差，即出现数据的异常.⽽异常数据的出现会掩盖实验数据的变化规律，以致使研究对象变化规律异常，得出错误结论.因此，正确分析并剔除异常值有助于提⾼实验精度.判别实验数据中异常值的步骤是先要检验和分析原始数据的记录、操作⽅法、实验条件等过程，找出异常值出现的原因并予以剔除.利⽤计算机剔除异常值的⽅法许多专家做了详细的⽂献[1]报告.如王鑫，吴先球，⽤Origin 剔除线形拟合中实验数据的异常值；严昌顺．⽤计算机快速剔除含粗⼤误差的“环值”；运⽤了统计学中各种判别异常值的准则，各种准则的优劣程度将体现在下⽂.2 异常值的判别⽅法判别异常值的准则很多，常⽤的有t 检验（3S ）准则、狄克松（Dixon ）准则、格拉布斯（Grubbs ）准则等准则.下⾯将⼀⼀简要介绍. 2.1 检验（3S ）准则t 检验准则⼜称罗曼诺夫斯基准则，它是按t 分布的实际误差分布范围来判别异常值，对重复测量次数较少的情况⽐较合理.基本思想：⾸先剔除⼀个可疑值，然后安t 分布来检验被剔除的值是否为异常值.设样本数据为123,,nx x x x ，若认x 为可疑值.计算余下1n -个数据平均值1n x -及标准差1n s -，即2111,1,1n n i n i i j x x s n --=≠=-∑.然后，按t 分布来判别被剔除的值x 是否为异常值.若1(,)n jx x k na -->，则x 为异常值，应予剔除，否则为正常值，应予以保留.其中：a 为显著⽔平；n 数据个数；(,)k n a 为检验系数，可通过查表得到.2.2 狄克松（Dixon ）准则设有⼀组测量数据123nx x x x ≤≤≤ ，且为正态分布，则可能为异常值的测量数据必然出现在两端，即1x 或n x .狄克松给出了不同样本数量n 时检验统计量的计算公式（见表1）.当显著⽔平a 为1%或5%时，狄克松给出了其临界值1()a n D -.如果测量数据的检验统计量1()a n D D ->，则1x 为异常值，如果测量数据的检验统计量'1()a n D D ->，则n x 为异常值.2.3 格拉布斯（Grubbs ）准则设有⼀组测量数据为正态分布，为了检验数据中是否存在异常值，将其按⼤⼩顺序排列，即123nx x x x ≤≤≤ ，可能为异常值的测量数据⼀定出现在最⼤或最⼩的数据中.若最⼩值1x 是可疑的，则检验统计量1()/G x x s =-.式中x 是均值、s 是标准差，即211,n i i x x s n ==∑. 对于检验统计量G ，格拉布斯导出了其统计分布，并给出了当显著⽔平a 为1%或5%时的临界值(1)()n G n -.(1)()n G n -称格拉布斯系数，可通过抽查表得到.当最⼩值1x 或最⼤值n x 对应的检验统计量G ⼤于临界值时，则认为与之对应的1x 或n x 为可疑异常值，应予以剔除.2.4 指数分布时异常值检验设⼀组测量数据为指数分布，为了检验数据中是否存在异常值，将其按⼤⼩顺序排列，即123n x x x x ≤≤≤ .检验最⼩值或最⼤值是否为异常值的检验⽅法如下：当样本量100n ≤时，计算统计量()1/nn n n i i T x x ==∑及(1)11/nn i i T x x ==∑对于给定的显著⽔平a （通常取0.5）和样本数量n ，通过查表得到()n n T 及(1)n T 分别对应的临界值()(1)n n T a -和(1)()n T a .若()()(1)nn nn T T a >-时，认为n x 为异常值；若(1)(1)()n n T T a <时，认为1x 为异常值. 当样本容量100n >时，计算统计量()111(1)()/()nn n n n i n i E n x x x x --==--+∑及(1)111(1)/()nn i i E n n x x n x ==-+∑. 对于给定显著⽔平a 和样本数量n ，若11()2,2~2,1(1)(1)n n n n aE F n a --->=--，则判断n x 为异常值；若11(1)2,22,(1)[(1)1]n n n aE F n a --->=---，则判断1x 为异常值. 2.5 莱茵达准则（PanT a ）对于实验数据测出值123,,,,nx x x x ，求取其算术平均值11/ni i x n x ==∑及剩余误差值i i v x x =-，然后求出其均⽅根偏差21/2(/1)iv n σ=-∑. 判别依据（假设v 服从正态分布）：3i x x σ->，则x 相对⽽⾔误差较⼤，应舍去； 3i x x σ-≤，x 为正常数据，应该保留.有概率论统计可知，如果误差服从正要分布，误差⼤于3σ的观测数据出现的概率⼩于0.003，相当⼤于300次观测中有⼀次出现的可能.莱茵达准则只是进⾏粗略的剔除，取舍的概率较⼩，可能将不合理的异常值保留.2.6 肖维勒准则（Chauvenet ）次准则也是建⽴在实验数据服从正态分布.假设多次测量的n 个测量值中，数据的参与误差i c v Z σ>，则剔除该数据.其中21/2(/1)iv n σ=-∑，样品容量为n 时的判别系数3c Z <，弥补了莱茵达准则的不⾜，故此准则优胜于莱茵达准则，但条件更为苛刻.3 实验异常数据的处理对于测定中异常数据的处理，必须慎重考虑，不能凭预感任意删除或添加.应该从所学知识上考虑，异常值有时能反映试验中的某些新现象.这类“异常值”正深化⼈们对客观事物的认识，如果随意删除它，可能深⼊了解和发现新事物的⼀次机会，那么对学者深⼊研究⾮常可惜.所以对任何异常数据都因⾸先在技术上寻找原因，如果在技术上发现原因，理应舍去.如在技术上⽆法作出判断，却可在上述准则中发现其⾼度异常，也因舍弃.其中，运⽤DPS 软件进⾏异常数据的检验与剔除特别⽅便，⽽且不许编写程序，它融合了SPSS 表格和EXCELL 表格，操作简单，实⽤性强.如图⼀下为DPS 数据处理系统对话框.图⼀数据处理系统对话框只要执⾏菜单命令下的“数据分析——异常值检验”弹出如图⼆下图的窗⼝，然后进⾏选择检验分析⽅法及显著⽔平，点击确定即可.图⼆⽤户对话框在测定中，有时发现个别数据离群严重，上述检验原则为异常值，但它与其他测定值的差异在仪器的精度范围内，这种数据不应舍去，应予保留.⽽对于⼀些分析⽽⾔，需要估计总体参数，异常数据⼀般都要舍去.对于不同的之⼼度应作相应的处理，则要据实际情况⽽定.4结束语由上述可知，⽤DPS软件进⾏异常值检验和剔除的过程简单、直观、快捷，适⽤于⼤众学⽣进⾏各实验数据的处理和分析.将此软件运⽤于实验教学，可以使学⽣快速准确判断实验结果，也可以提⾼教学质量.参考⽂献[1] 王鑫，吴先球．⽤Origin剔除线形拟合中实验数据的异常值[J]．⼭西师范⼤学学报，2003，17(1)，56—57.[2] 严昌顺．⽤计算机快速剔除含粗⼤误差的“环值”[J]．计量技术，1994（5），45—47.[3] 苏⾦明，傅荣华，周建斌．统计软件SPSS系列应⽤实战篇[M]．电⼦⼯业出版社，2002[4] 唐起义．DPS数据处理系统——实验设计、统计分析及数据挖掘[M]．科学出版社，2006[5] 何国伟等编著.误差分析⽅法．北京：国防⼯业出版社，1978。
计量测试中异常数据剔除的措施
并 以 实例来 说 明计 量测 试 中异 常
数据 剔 除 的措 施 ，能够 保证 计 量 测试的准确性和科 学性 。
ｊ 了 ４种 有 针 对 性 的 异 常 数 据 剔 除 方 法 ，这 些
数值舍弃 。在实 际的运用过程 中，将 所测数据 代入上式 ，若与上式相 符，则可判 断该值为异 常值，应将其剔除。
２ ． ２ 肖维 勒 准 则
ｆ 一 ｆ ＞ ・ ３ ｏ －
在 该 公 式 的 使 用 过 程 抓 奶 哥 ，若 将 测 得 的
求 ，而要 确 保 获取 数据 的 精 准 性 ， 除 了需 在数 据 获取 后 进行 科 学、 有 效 的处理 外 ，尚 需剔 除其 中一 些 异 常 数 据 ， 之 后 方 可 作 为 相 关
以下为 结合 实例所 判 定 的异 常 值判 断准 则 ：如经过某测量得 出了如下一系列的测量数
Ｄ ａ ｔ ａ Ｂ ａ ｓ ｅ Ｔ ｅ ｃ ｈ ｎ ｉ ｑ ｕ ｅ・ 数据库技术
计量测试中异常数据剔除的措施
文／ 孙江晖 龙 燕
是 当前 人们最常用 的异常值 判断准则 ，即 ３∑
众 所 周 知 ， 计 量 测 量 工 作 对
可将之视作异常值而 予以剔 除。
准则、 肖维勒准则、 检验法以及格拉布斯准则。 ３实侈 ０ 判定 ２计量测试 中异常数据剔 除的措施
据 ：１ ０ ． ０ ０ ２ ，２ ２ ８ ， １ ０ ． ２ ３ ０ ， １ ０ ＿ ３ ｌ ２ ， １ ０ ． ３ ２ ０ ， １ ０ ． ３ ４ ２ ， １ ０ ． ３ ４ ６ ， 结 合 以上 方 式 进 行 判 断
实验室鉴别和处理数据异常方法
实验室鉴别和处理数据异常方法引言在实验室工作中，准确和可信的数据是十分重要的。
然而，由于实验设备、实验操作或其他因素的影响，实验室中的数据异常是不可避免的。
因此，实验室需采取适当的方法来鉴别和处理这些数据异常，以确保数据的可靠性和科学性。
本文将介绍一些常用的实验室鉴别和处理数据异常的方法。
数据异常的鉴别方法1. 异常值检测异常值是与其他数据点显著不同的值，可能是由于误操作、设备故障或实验操作中的其他原因而出现的异常。
鉴别和处理异常值是鉴别和处理数据异常的首要步骤。
常用的异常值检测方法包括箱线图箱线图将数据进行分组，并通过绘制箱线和观察是否有超出箱线的数据点来检测异常值。
箱线图能够直观地展示数据的分布情况，并帮助识别异常值。
3σ原则3σ原则是一种常用的统计方法，假设数据服从正态分布。
根据3σ原则，异常值的定义是距离均值大于3倍标准差的数据点。
通过计算均值和标准差，并将超出范围的数据点标记为异常值。
2. 趋势分析趋势分析可用于鉴别数据中的异常趋势。
当数据呈现出非线性的异常趋势时，可能存在数据异常。
常用的趋势分析方法包括回归分析回归分析是一种用于研究因变量与自变量之间关系的统计方法。
在数据异常鉴别中，回归分析可用于研究数据的线性或非线性趋势，并判断是否存在异常。
时间序列分析时间序列分析是一种研究时间序列数据变化趋势的方法。
通过绘制时间序列图并分析其趋势，可以鉴别数据中的异常值。
数据异常的处理方法1. 数据清洗数据清洗是指移除异常值或进行修正，以提高数据的质量和可靠性。
在进行数据清洗时，应综合考虑实验目的、实验设计和异常值的原因。
常用的数据清洗方法包括删除异常值在通过鉴别方法确认了异常值后，可以将其从数据集中删除。
这样可以防止异常值对数据分析产生影响，提高数据的准确性。
修正异常值在一些情况下，可以通过一些方法修正或估计异常值。
例如，可以通过插值、平均值或回归分析等方法修正异常值，以确保数据的准确性。
2. 数据替代方法在某些情况下，不适合删除或修正异常值，但仍需要使用数据进行分析。
数据处理中的异常值检测与处理方法(二)
数据处理中的异常值检测与处理方法在数据处理过程中，异常值是一个常见的问题。
异常值指的是与大多数观测值明显不同的观测值，它们可能是由于测量误差、采样误差、录入错误或者真实情况中的异常事件所导致。
异常值的存在会影响数据的准确性和可靠性，因此在数据分析和建模过程中，我们需要对异常值进行检测和处理。
本文将介绍一些常用的异常值检测与处理方法。
一、统计学方法统计学方法是最常用的异常值检测方法之一。
基于统计学的方法主要依赖于数据集的统计性质，比如均值、标准差、分位数等。
其中，Z-Score和Percentile方法是两种常见的基于统计学的异常值检测方法。
Z-Score方法是通过计算观测值与均值之间的标准差的差异来判断异常值。
具体来说，Z-Score等于观测值与均值之差除以标准差。
当观测值的Z-Score大于某个阈值（一般为2或3）时，可以认为该观测值是异常值。
Percentile方法是基于数据集的分位数进行判断。
通过计算数据集的第一分位数（25%分位数）和第三分位数（75%分位数），确定一个分位数范围。
如果某个观测值小于第一分位数减去一个阈值或者大于第三分位数加上一个阈值，那么该观测值可以被认为是异常值。
二、基于机器学习的方法基于机器学习的异常值检测方法是近年来比较热门的一种方法。
它通常使用无监督学习算法，将异常值视为数据集中的异常模式，并利用这些模式进行异常值检测和处理。
以下是两种常见的基于机器学习的异常值检测方法。
聚类方法是一种常见的基于机器学习的异常值检测方法。
聚类算法可以将数据集划分为多个簇，而异常值可能位于不同的簇中或者成为一个孤立的簇。
因此，通过计算观测值与其所属簇的聚类中心之间的距离，可以判断观测值是否为异常值。
离群点检测方法是另一种常见的基于机器学习的异常值检测方法。
离群点检测算法通过寻找与其他观测值明显不同的观测值来判断异常值。
其中，孤立森林（Isolation Forest）和局部离群因子（Local Outlier Factor）是两种常见的离群点检测算法。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
目录摘要...................................................... 错误!未定义书签。
关键词................................................... 错误!未定义书签。
1 引言...................................................... 错误!未定义书签。
2 异常值的判别方法..................................... 错误!未定义书签。
检验（3S）准则........................................ 错误!未定义书签。
狄克松（Dixon）准则.................................. 错误!未定义书签。
格拉布斯（Grubbs）准则.............................. 错误!未定义书签。
指数分布时异常值检验................................. 错误!未定义书签。
莱茵达准则（PanTa）.................................. 错误!未定义书签。
肖维勒准则（Chauvenet）............................. 错误!未定义书签。
3 实验异常数据的处理 .................................. 错误!未定义书签。
4 结束语................................................... 错误!未定义书签。
参考文献.................................................... 错误!未定义书签。
试验数据异常值的检验及剔除方法摘要：在实验中不可避免会存在一些异常数据，而异常数据的存在会掩盖研究对象的变化规律和对分析结果产生重要的影响，异常值的检验与正确处理是保证原始数据可靠性、平均值与标准差计算准确性的前提.本文简述判别测量值异常的几种统计学方法，并利用DPS软件检验及剔除实验数据中异常值，此方法简单、直观、快捷，适合实验者用于实验的数据处理和分析.关键词：异常值检验；异常值剔除；DPS；测量数据1 引言在实验中，由于测量产生误差，从而导致个别数据出现异常，往往导致结果产生较大的误差，即出现数据的异常.而异常数据的出现会掩盖实验数据的变化规律，以致使研究对象变化规律异常，得出错误结论.因此，正确分析并剔除异常值有助于提高实验精度.判别实验数据中异常值的步骤是先要检验和分析原始数据的记录、操作方法、实验条件等过程，找出异常值出现的原因并予以剔除.利用计算机剔除异常值的方法许多专家做了详细的文献[1]报告.如王鑫，吴先球，用Origin 剔除线形拟合中实验数据的异常值；严昌顺．用计算机快速剔除含粗大误差的“环值”；运用了统计学中各种判别异常值的准则，各种准则的优劣程度将体现在下文.2 异常值的判别方法判别异常值的准则很多，常用的有t 检验（3S ）准则、狄克松（Dixon ）准则、格拉布斯（Grubbs ）准则等准则.下面将一一简要介绍. 2.1 检验（3S ）准则t 检验准则又称罗曼诺夫斯基准则，它是按t 分布的实际误差分布范围来判别异常值，对重复测量次数较少的情况比较合理.基本思想：首先剔除一个可疑值，然后安t 分布来检验被剔除的值是否为异常值.设样本数据为123,,n x x x x ，若认j x 为可疑值.计算余下1n -个数据平均值1n x -及标准差1n s -，即2111,1,1n n i n i i j x x s n --=≠=-∑.然后，按t 分布来判别被剔除的值j x 是否为异常值.若1(,)n j x x kn a -->，则j x 为异常值，应予剔除，否则为正常值，应予以保留.其中：a 为显著水平；n 数据个数；(,)k n a 为检验系数，可通过查表得到.2.2 狄克松（Dixon ）准则设有一组测量数据123nx x x x ≤≤≤，且为正态分布，则可能为异常值的测量数据必然出现在两端，即1x 或n x .狄克松给出了不同样本数量n 时检验统计量的计算公式（见表1）.当显著水平a 为1%或5%时，狄克松给出了其临界值1()a n D -.如果测量数据的检验统计量1()a n D D ->，则1x 为异常值，如果测量数据的检验统计量'1()a n D D ->，则n x 为异常值.2.3 格拉布斯（Grubbs ）准则设有一组测量数据为正态分布，为了检验数据中是否存在异常值，将其按大小顺序排列，即123n x x x x ≤≤≤，可能为异常值的测量数据一定出现在最大或最小的数据中.若最小值1x 是可疑的，则检验统计量1()/G x x s =-.式中x 是均值、s 是标准差，即211,n i i x xs n ==∑. 对于检验统计量G ，格拉布斯导出了其统计分布，并给出了当显著水平a 为1%或5%时的临界值(1)()n G n -.(1)()n G n -称格拉布斯系数，可通过抽查表得到.当最小值1x 或最大值n x 对应的检验统计量G 大于临界值时，则认为与之对应的1x 或n x 为可疑异常值，应予以剔除.2.4 指数分布时异常值检验设一组测量数据为指数分布，为了检验数据中是否存在异常值，将其按大小顺序排列，即123n x x x x ≤≤≤.检验最小值或最大值是否为异常值的检验方法如下：当样本量100n ≤时，计算统计量()1/nn n n i i T x x ==∑及(1)11/nn i i T x x ==∑对于给定的显著水平a （通常取）和样本数量n ，通过查表得到()n n T 及(1)n T 分别对应的临界值()(1)n n T a -和(1)()n T a .若()()(1)n n n n T T a >-时，认为n x 为异常值；若(1)(1)()n n T T a <时，认为1x 为异常值. 当样本容量100n >时，计算统计量()111(1)()/()nn n n n i n i E n x x x x --==--+∑及(1)111(1)/()nn i i E n n x x n x ==-+∑. 对于给定显著水平a 和样本数量n ，若11()2,2~2,1(1)(1)n n n n aE F n a --->=--，则判断n x 为异常值；若11(1)2,22,(1)[(1)1]n n n a E F n a --->=---，则判断1x 为异常值. 2.5 莱茵达准则（PanTa ）对于实验数据测出值123,,,,nx x x x ，求取其算术平均值11/ni i x n x ==∑及剩余误差值i i v x x =-，然后求出其均方根偏差21/2(/1)i v n σ=-∑. 判别依据（假设v 服从正态分布）：3i x x σ->，则i x 相对而言误差较大，应舍去； 3i x x σ-≤，i x 为正常数据，应该保留.有概率论统计可知，如果误差服从正要分布，误差大于3σ的观测数据出现的概率小于，相当大于300次观测中有一次出现的可能.莱茵达准则只是进行粗略的剔除，取舍的概率较小，可能将不合理的异常值保留.2.6 肖维勒准则（Chauvenet ）次准则也是建立在实验数据服从正态分布.假设多次测量的n 个测量值中，数据的参与误差i c v Z σ>，则剔除该数据.其中21/2(/1)i v n σ=-∑，样品容量为n 时的判别系数3c Z <，弥补了莱茵达准则的不足，故此准则优胜于莱茵达准则，但条件更为苛刻.3 实验异常数据的处理对于测定中异常数据的处理，必须慎重考虑，不能凭预感任意删除或添加.应该从所学知识上考虑，异常值有时能反映试验中的某些新现象.这类“异常值”正深化人们对客观事物的认识，如果随意删除它，可能深入了解和发现新事物的一次机会，那么对学者深入研究非常可惜.所以对任何异常数据都因首先在技术上寻找原因，如果在技术上发现原因，理应舍去.如在技术上无法作出判断，却可在上述准则中发现其高度异常，也因舍弃.其中，运用DPS 软件进行异常数据的检验与剔除特别方便，而且不许编写程序，它融合了SPSS 表格和EXCELL 表格，操作简单，实用性强.如图一下为DPS 数据处理系统对话框.图一 数据处理系统对话框只要执行菜单命令下的“数据分析——异常值检验”弹出如图二下图的窗口，然后进行选择检验分析方法及显著水平，点击确定即可.图二用户对话框在测定中，有时发现个别数据离群严重，上述检验原则为异常值，但它与其他测定值的差异在仪器的精度范围内，这种数据不应舍去，应予保留.而对于一些分析而言，需要估计总体参数，异常数据一般都要舍去.对于不同的之心度应作相应的处理，则要据实际情况而定.4结束语由上述可知，用DPS软件进行异常值检验和剔除的过程简单、直观、快捷，适用于大众学生进行各实验数据的处理和分析.将此软件运用于实验教学，可以使学生快速准确判断实验结果，也可以提高教学质量.参考文献[1] 王鑫，吴先球．用Origin剔除线形拟合中实验数据的异常值[J]．山西师范大学学报，2003，17(1)，56—57.[2] 严昌顺．用计算机快速剔除含粗大误差的“环值”[J]．计量技术，1994（5），45—47.[3] 苏金明，傅荣华，周建斌．统计软件SPSS系列应用实战篇[M]．电子工业出版社，2002[4] 唐起义．DPS数据处理系统——实验设计、统计分析及数据挖掘[M]．科学出版社，2006[5] 何国伟等编著.误差分析方法．北京：国防工业出版社，1978。