粗大误差四种判别准则的比较

合集下载

测试精度分析4

测试精度分析4

一、莱以特准则(3σ准则)
二、肖维特准则
三、格罗布斯准则 四、t 检验准则 五、狄克松准则
每次剔除一个 重新计算时数据个数 已经改变 计算自由度
重点掌握: 粗大误差剔除的基本原理 不同剔除方法的应用范围 等精度测量的误差分析流程
等 精 度 直 接 测 量 数 据 处 理 流 程
选择怀疑含有粗差的个体x(1)或x(n) 据不同测量次数,可由表(P53表4-5)计算 γ10(或γ11 或γ21或 γ22,公式不同)
同样,据不同的P(α)和n,可查表得临界值 γ0(n,α) 比较、检验:若计算得到的γij>γ0,则认为被 怀疑值存在粗差
粗大误差判断的基本原则: 残差是否超过极限误差
格罗布斯准则 分别考虑测量次数n和置信概率P 步骤:
一次剔除 一个
小→大排序
在x(1)、x(n
中确定最可怀疑值(残差绝对值最大者)
)
计算g(1)

x
x(1)
ˆ
或g(n)

x(1)
ˆ
x
据n、α查表(P51表4-3),求临界值g0
判断:若g(i)

g0
(n,
),则认为g(i
含有粗差
)
t检验准则 测量次数少时用
第四章 粗大误差
主要内容: 判断粗大误差的基本原则 各种剔除准则的应用范围及特点 五种剔除准则的使用
粗大误差判断的基本原则:
残差是否超过极限误差
一、莱以特准则(3σ准则)
二、肖维特准则
三、格罗布斯准则
四、t 检验准则
五、狄克松准则
填表
方法 准则内容 使用范围 特点
3σ准则
肖维勒 准则
格罗布 斯准则

粗大误差

粗大误差

计算标准差及算 术平均值标准差
ˆ x
测量结果
x limx x t x
二、不等精度测量数据处理一般步骤: 假定不存在系差和粗差 1 确定各组(测量值)权值
1 1 p1 : p 2 : : p m 2 : 2 : : 2 1 2 m
加权算术平均值
x
p x
i 1 m i
m
i
p
i 1
测量结果
i
加权算术平均值标准差
pi
pi v 2 x i
i 1 m
x limx x t x
x ) pi
i 1
m
| vd || xd x | 3
则可认为该数据含有粗大误差,应予以剔除。 (二)罗曼诺夫斯基准则
原理简单
特点
适合测量次数较少的情况
当测量次数较少时,按 t 分布确定臵信系数,判别 粗差较为合理。 若
x j x t
则认为测量值该值含有粗大误差,应予剔除。
n
4 5 6 0.05 0.01 n 0.05 0.01 n 0.05 0.01
4.97 3.56 3.04
11.46 6.53 5.04
13 14 15
2.29 2.26 2.24
3.23 3.17 3.12
22 23 24
2.14 2.13 2.12
2.91 2.90 2.88
7
8 9 10 11 12
2.78
2.62 2.51 2.43 2.37 2.33
4.36
3.96 3.71 3.54 3.41 3.31
r0 (n, a)
0.641 0.616 0.595 0.577 0.561 0.547 0.535 0.524 0.514 0.505 0.497 0.489 0.546 0.525 0.507 0.490 0.475 0.462 0.450 0.440 0.430 0.421 0.413 0.406

粗大误差四种判别准则的比较

粗大误差四种判别准则的比较

粗大误差四种判别准则的比较粗大误差是指在测量过程中,偶尔产生的某些不应有的反常因素造成的测量数值超出正常测量误差范围的小概率误差。

含有粗大误差的数据会干扰对实验结果的分析,甚至歪曲实验结果。

若不按统计的原理剔除异常值,而把一些包含较大正常误差但不属于异常值的数据舍弃或保留一些包含较小粗大误差的异常值,就会错估了仪器的精确等级。

因此,系统检验测量数据是否含有粗大误差是保证原始数据的可靠及其有关计算的准确的前提。

排除异常数据有四种较常用的准则,分别是拉伊达准则、格拉布斯准则、肖维勒准则和狄克逊准则。

每种判别准则都有其处理方法,导致用不同准则对异常值判别的结果有时会不一致。

目前异常值的剔除还没有统一的准则,本文综合判别粗大误差四种方法的特点,系统归纳各种准则的应用,以便更好地发现和判别含有粗大误差的数据。

1.四种判别粗大误差准则的特点1.1拉伊达准则拉伊达准则[4]是以三倍测量列的标准偏差为极限取舍标准,其给定的置信概率为99.73%,该准则适用于测量次数n>10或预先经大量重复测量已统计出其标准误差σ的情况。

Xi为服从正态分布的等精度测量值,可先求得它们的算术平均值 X、残差vi和标准偏差σ。

若|Xi- X|>3σ,则可疑值Xi含有粗大误差,应舍弃;若|Xi- X|≤3σ,则可疑值Xi为正常值,应保留。

把可疑值舍弃后再重新算出除去这个值的其他测量值的平均值和标准偏差,然后继续使用判别依据判断,依此类推。

1.2格拉布斯准则格拉布斯准则适用于测量次数较少的情况(n<100),通常取置信概率为95%,对样本中仅混入一个异常值的情况判别效率最高。

其判别方法如下:先将呈正态分布的等精度多次测量的样本按从小到大排列,统计临界系数G(a,n)的值为G0, 然后分别计算出G1、Gn:G1=( X-X1)/σ,Gn=(Xn- X)/σ (1)若G1≥Gn且G1>G0,则X1应予以剔除;若Gn≥G1且Gn>G0,则Xn应予以剔除;若G1<G0且Gn<G0,则不存在“坏值”。

笔记五、粗大误差的处理方法

笔记五、粗大误差的处理方法

1 n xi n 1 i 1
i j
v
标准差
i 1 i j
n
2
i
n 1 根据测量次数 n,选取显著度 ,查表得到检验系数
K (n, ) ,若被剔除测量值 x j 满足如下:
x j x K ,则认为含有粗大误差,剔除 x j 是正确的
例子 2:试用此法判断上述例子 1 中的测量值中有无粗大误差?
查表,显著度 =0.05 ,统计临界值 r0 (n, ) r0 (14,0.05) 0.546 判断最大值 x (14) : r22
'
x( n ) x( n2) x( n ) x(3)

x '(14) x '(12) x (14) x (3)
' '

20.43 20.43 0 20.43 20.39
'
x(n) x
'

'

20.43 20.411 1.18 0.016
查表得 g(0) (15-1,0.05) 2.37 g(15) 1.18 则 x(15) 不含有粗大误差,应保留。 ➢ 狄克松准则 适用范围:测量次数少,但可靠性要求高。 优点:判断测量列中的粗大误差的速度较快 判别方法: 测量值: x1 , x2 ,...xn ;次数为 n 将测量值按照从小到大排列: x(1) , x(2) ,...x( n) 选定显著度 (一般为 0.01 或 0.05) ,查表得到临界统计量
判别 r22 0 r0 (15,0.05) 0.525 ,故 x '(14) 不含粗大误差,应保留 判断最小值 x '(1) : r22

1.2.3 粗大误差判别

1.2.3 粗大误差判别
2
1.2.3 粗大误差判别
肖维勒准则:假设多次重复测量所得n个测量 值中, 某个测量值的残余误差|vi|>Zcσ,则剔 除此数据。实用中Zc<3, 所以在一定程度上弥 补了3σ准则的不足。
3
1.2.3 粗大误差判别
格拉布斯准则:某个测量值的残余误差的绝对值|vi| >Gσ, 则判断此值中含有粗大误差,据中某个测量值的残余误差的绝对值v则该测量值为可疑值坏值应剔除
1.2.3 粗大误差判别
1. 3σ准则 2. 肖维勒准则 3. 格拉布斯准则
1
1.2.3 粗大误差判别
3σ准则(莱以达准则):如果一组测量数据中某个 测量值的残余误差的绝对值|vi|>3σ时, 则该测量值 为可疑值(坏值), 应剔除。最常用,应用于测量次 数充分多的情况。
4

粗大误差的检验与坏值的剔除

粗大误差的检验与坏值的剔除

变值系统误差存在与否的检验(续)
3用阿贝准则检验 按测量先后顺序排列测量值, 按测量先后顺序排列测量值,求出测量 列标准残差估计值S 列标准残差估计值S,计算统计量
C = ∑ vi vi +1
i =1 =1
n −1

C > n −1 × S
2
则可以认为该测量列中含有周期性系统 误差。 误差。
例题
格拉布斯准则临界值T(n,a)表 , 表 格拉布斯准则临界值
0.05 3 4 5 6 7 8 9 10 11 12 13 14 15 16 1.153 1.463 1.672 1.822 1.938 2.032 2.110 2.176 2.234 2.285 2.331 2.371 2.409 2.443 0.01 1.155 1.492 1.749 1.944 2.097 2.221 2.323 2.410 2.485 2.550 2.607 2.659 2.705 2.747 17 18 19 20 21 22 23 24 25 30 35 40 45 50 0.05 2.475 2.504 2.532 2.557 2.580 2.603 2.624 2.644 2.663 2.745 2.811 2.866 2.914 2.956 0.01 2.785 2.821 2.854 2.884 2.912 2.939 2.963 2.987 3.009 3.103 3.178 3.240 3.292 3.336
vi = xi − Байду номын сангаас > 3σ
_
故又称为3Ơ准则,实际使用时标准误差 可用其估计值 代替。 可用其估计值S代替 故又称为 准则,实际使用时标准误差Ơ可用其估计值 代替。 准则 按上述准则剔除坏值后, 按上述准则剔除坏值后,应重新计算提出坏值后测量列的算术平均 值和标准误差估计值S,再行判断,直至余下测量值中无坏值存在。 值和标准误差估计值 ,再行判断,直至余下测量值中无坏值存在。 准则判断粗大误差的存在, 用3Ơ准则判断粗大误差的存在,虽然方法简单,但它是依据正 准则判断粗大误差的存在 虽然方法简单, 态分布得出的。当子样容量不很大时,由于所取界限太宽, 态分布得出的。当子样容量不很大时,由于所取界限太宽,坏值不 能剔除的可能性较大。特别是当子样容量n<10时,尤其严重,所以 能剔除的可能性较大。特别是当子样容量 时 尤其严重, 目前都推荐使用以t分布为基础的格拉布斯准则。 目前都推荐使用以 分布为基础的格拉布斯准则。 分布为基础的格拉布斯准则 二、格拉布斯准则 将重复测量值按大小顺序重新排列, 将重复测量值按大小顺序重新排列,

粗大误差的剔除的四种准则

粗大误差的剔除的四种准则

粗大误差的剔除的四种准则粗大误差的剔除,哎呀,这可是个大话题,咱们平常做实验、搞研究的时候,常常会碰上那些“调皮捣蛋”的数据,它们就像小孩子一样,总爱跑偏。

今天咱们就聊聊,这四种准则,帮助我们把这些“捣乱分子”踢出局。

先说说第一种准则,大家都知道的——极端值法。

这一招就像是大排档里那些大菜,一眼就能看出来,放眼望去,如果某个数据跟其他的完全不搭调,就该打上“叉”了。

想象一下,大家都在吃水饺,结果你一上来就给大家端了个榴莲,这不就是极端值嘛,果断剔除,谁爱吃谁吃去。

再说说第二种准则,标准差法,听上去挺高大上的,其实也没啥,简单来说,就是把数据的波动性考虑进去。

数据之间要有个“家族感”,如果有某个数据孤零零的站在一边,距离其他数据太远,那可就得考虑是不是有问题了。

就像打麻将,四个人围着,突然你有个五个的牌,那肯定不对劲,哎哟,赶紧检查一下。

接着是第三种准则,啥?比值法,这个可以算是个“盲盒”玩法。

你得看看数据之间的比例关系,假如比例失衡,那就得好好瞅瞅了。

就像你跟朋友一起去喝酒,他喝了十瓶,你才喝了一口,那明显不对嘛,赶紧问问怎么回事。

最后一个,离群值法,名字听起来就很神秘,其实就是识别那些不合群的数据。

生活中总有些人,哪怕人群再热闹,他们的存在感也弱得可怜,像个隐形人。

数据也是一样,如果有某个数据跟大多数差得离谱,就得认真思考,究竟是数据出问题,还是测量的过程出了纰漏。

这四个准则,就像咱们生活中的小规则一样,大家都得遵守。

想想看,如果不把这些“糟心”的数据剔除掉,咱们的结论岂不是跟瞎子摸象一样,摸来摸去,根本不知道对不对。

这就好比大家一起去春游,结果你背了个五十斤的包,别的同学轻装上阵,结果到了目的地,你累得跟条狗似的,整场活动都没法好好玩儿了。

所以啊,剔除粗大误差,绝对是研究工作中的一门艺术,也是科学精神的体现,务必不能马虎。

说到底,数据就像一颗颗珍珠,得把那些不合适的剔除,才能串成一条闪闪发光的项链。

四种判别粗大误差准则的比较与讨论

四种判别粗大误差准则的比较与讨论

除ꎬ后者更为严格 [5] ꎮ 笔者通过阅读文献发现ꎬ
收稿日期: 2017 ̄04 ̄23 基金项目: 广东省教育科研 十二五 规划 2012 年度研究项目(2012JK241) ∗通讯联系人
106
四种判别粗大误差准则的比较与讨论
除ꎮ 莱依达准则一般适用于测量次数较多的情况 1.3㊀ 肖维勒准则 ( n ⩾ 50) ꎮ 对于可疑数据 x m ꎬ若其残差满足 xm - x > ωn S
2㊀ 四种判断粗大误差准则的比较
2.1㊀ 四种判别粗大误差准则的归纳 准则 的 思 维 方 法 可 以 概 括 为: 首 先 求 出 测 量 值 x 1 ꎬx 2 ꎬ������ꎬx n 的样本均值 x 和样本标准差 S ꎬ 对于 第 i 次测量值ꎬ如果满足: x m - x > KS (9) 观察(3) ㊁(4) ㊁(5) 和 (8) 式ꎬ 不难发现ꎬ 四种
ꎻ另一种方式是比较统计临界值ꎬ
1 ð ( xi - x ) n ̄1 1.1㊀ 格拉布斯准则 xm - x

(2)
根据格拉布斯准则 [6ꎬ7] :若统计量 > G ( n ꎬa ) (3) S 则 x m 为异常值ꎬ须剔除ꎮ 式中 G ( nꎬa) 为统 Gm =
计量的临界值ꎬ根据测量次数和取定的显著水平 1.2㊀ 莱依达准则 足下式 a ( 一般为 0.05 或 0.01) ꎬ通过查表 [8] 可知临界值 G ( n ꎬa ) ꎮ 根据莱依达准则 [9] ꎬ测量值 x m 的残余误差满 x m - x > 3S (4) 则认为 x m 是含有粗大误差的异常值ꎬ 须剔
99.7%) ㊁格拉布斯准则( 显著水平为 0.01㊁0.05) ㊁t
㊀ ㊀ 利用 EXCEL 画出莱依达准则 ( 置信概率为 检验法准则( 显著水平为 0.01㊁0.05) 和肖维勒准 则在测量次数落在区间 3 ~ 100 中的 K ̄n 曲线如 图 1 所示
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

粗大误差四种判别准则的比较
粗大误差是指在测量过程中,偶尔产生的某些不应有的反常因素造成的测量数值超出正常测量误差范围的小概率误差。

含有粗大误差的数据会干扰对实验结果的分析,甚至歪曲实验结果。

若不按统计的原理剔除异常值,而把一些包含较大正常误差但不属于异常值的数据舍弃或保留一些包含较小粗大误差的异常值,就会错估了仪器的精确等级。

因此,系统检验测量数据是否含有粗大误差是保证原始数据的可靠及其有关计算的准确的前提。

排除异常数据有四种较常用的准则,分别是拉伊达准则、格拉布斯准则、肖维勒准则和狄克逊准则。

每种判别准则都有其处理方法,导致用不同准则对异常值判别的结果有时会不一致。

目前异常值的剔除还没有统一的准则,本文综合判别粗大误差四种方法的特点,系统归纳各种准则的应用,以便更好地发现和判别含有粗大误差的数据。

1.四种判别粗大误差准则的特点
1.1拉伊达准则
拉伊达准则[4]是以三倍测量列的标准偏差为极限取舍标准,其给定的置信概率为99.73%,该准则适用于测量次数n>10或预先经大量重复测量已统计出其标准误差σ的情况。

Xi为服从正态分布的等精度测量值,可先求得它们的算术平均值X、残差vi和标准偏差σ。

若|Xi- X|>3σ,则可疑值Xi含有粗大误差,应舍弃;
若|Xi- X|≤3σ,则可疑值Xi为正常值,应保留。

把可疑值舍弃后再重新算出除去这个值的其他测量值的平均值和标准偏差,然后继续使用判别依据判断,依此类推。

1.2格拉布斯准则
格拉布斯准则适用于测量次数较少的情况(n<100),通常取置信概率为95%,对样本中仅混入一个异常值的情况判别效率最高。

其判别方法如下:
先将呈正态分布的等精度多次测量的样本按从小到大排列,统计临界系数G(a,n)的值为G0, 然后分别计算出G1、Gn:G1=( X-X1)/σ,Gn=(Xn- X)/σ (1)
若G1≥Gn且G1>G0,则X1应予以剔除;
若Gn≥G1且Gn>G0,则Xn应予以剔除;
若G1<G0且Gn<G0,则不存在“坏值”。

然后用剩下的测量值重新计算平均值和标准偏差,还有G1、Gn和G0,重复上述步骤继续进行判断,依此类推。

1.3肖维勒准则
肖维勒准则是建立在频率p=m/n趋近于概率P{|Xi- X|>Zcσ}的前提下的(其中m是绝对值大于Ecσ的误差出现次数,P是置信概率)。

设等精度且呈正态分布的测量值为Xi,若其残差vi ≥Zcσ则Xi可视为含有粗大误差,此时把读数Xi应舍弃。

把可疑值舍弃后再重新计算和继续使用判别依据判断,依此类推。

1.4狄克逊准则
狄克逊准则是一种用极差比双侧检验来判别粗大误差的准则。

它从测量数据的最值入手,一般取显著性水平a为0.01.此准则的特点是把测量数据划分为四个组,每个组都有相应的极端异常值统计量R1、R2的计算方法,再根据测量次数n和所对应的统计临界系数D(a,n)按照以下方法来判别:
若R1>R2,R1>D(a,n),则判别X1为异常值,应舍弃;
若R2>R1,R2>D(a,n),则应舍弃Xn;
若R1<D(a,n)且R2<D(a,n),则没有异常值。

2.四种判别粗大误差准则的比较
2.1四种判别粗大误差准则的归纳
实际上教学实验中的测量样本大多比较小,四种准则所要求的正态分布前提不容易满足,标准偏差会由于偏离正态分布而不准确。

若不考虑具体的临界系数与置信水平,这四种准则的思维方法都可归纳为:首先计算某组测量值X1,X2,X3……Xn的平均值x、残差vi和标准偏差σ。

对于第i次测量值,如果vi>kσ (2)则可判别为含有粗大误差,其中k为统计临界系数。

狄克逊准则是用极差比来检测异常值的,它的统计临界系数与其他准则不具有可比性。

除狄克逊准则外,作拉伊达准则、格拉布斯准则和肖维勒准则在测量次数3≤n≤250的曲线关系,见图1。

2.2四种判别粗大误差准则的比较讨论
拉伊达准则、格拉布斯准则和肖维勒准则的对比曲线可以看出:对应于相同的测量次数,各判别准则的统计临界系数各不相同,以拉伊达准则的统计临界系数3为线索,当n=25时,格拉布斯准则(a=0.01)的统计临界系数刚好到达3以上,而当n=185时,肖维勒准则的统计临界系数刚好也到达3。

因此可把总范围分为以下三个小范围。

(1)在3≤n<25这个范围内,建议用狄克逊准则或格拉布斯准则(a=0.01)来判别可疑数据。

在少量样品时,拉伊达准则的统计临界系数相对比较大,不易及时发现异常数据,使用它会比较苛刻。

而肖维勒准则的统计临界系数太小,容易剔除仅含有较大正常误差的测量值。

因此用可一次性剔除多个异常值且无需求出样本平均值X、残差vi和标准偏差σ的狄克逊准则或格拉布斯准则(a=0.01)来判别可疑数据是合适的。

(2)在25≤n≤185的范围内,建议用格拉布斯准则(a=0.05)或肖维勒准则来判别可疑数据。

统计临界系数最大的是格拉布斯准则(a=0.01),虽然肖维勒准则的统计临界系数偏小,但在这一范围内肖维勒准则可以补充拉伊达准则的不足,因此判别数据时采用格拉布斯准则(a=0.05)或肖维勒准则比较合适。

(3)在测量次数n>185时,建议采用拉伊达准则。

因为此时肖维勒准则的统计临界系数偏大,在剔除异常值时容易把含有较小粗大误差的数据遗漏掉。

因此,为了更好地对测量数据作出确切的判断且尽量避免让被剔除的数据丢失总体信息,可以采用以下方法:
判别前最好先按照从小到大排列测量数据。

首先怀疑最值,如果最值不是异常值则其他值也就不会含有粗大误差了。

对此四种准则的综合判别方法,见表1。

表1综合判别方法
结论
综上所述,由于四种判别准则在理论上剔除异常值是各自相对于某个精度而言的,它们的检
验范围和判别效果不同,在不同的情况下应用不同的准则的严格程度不同,但不加比较随便使用某一种准则来判别测量值是否含有粗大误差,这样有时会得到相对不准确的结论,可能把仅包含正常误差的可疑值剔除了,或者保留了含有粗大误差的异常值。

本文中的图1直观明了、使用方便,因此采用本文建议的综合归纳方法可以使在数据处理中判别粗大误差有据可依,并使剔除异常数据的效率有所提高,得出相对准确的测量计算结果。

在目前还没有一个适用于所有情况的判别粗大误差的准则,因此对数据是否含有粗大误差的判别仍然是一个需要逐步研究和更多实践的问题。

本文的建议和尝试,仍需理论研究分析和进一步完善。

相关文档
最新文档