完整word版数据处理及测量误差

数据处理及测量误差

一、有效数字和计算规则

(一) 有效数字概念

所谓“有效数字”是指在分析和测量中所能得到的有实际意义的数字。换句话说，有效数字的位数反映了计量器具的精密度和准确度。记录和报告的结果只应包含有效数字，对有效数字的位数不能任意增删。因此必须按实际工作需要对测量结果的原始数据进行处理。

(二) 有效数字的记录

有效数字是由全部确定数字和一位不确定的可疑数字构成的。从最后一个算起的第二位以前的数字应该是可靠的（确定的），只有末位数字是可疑的（不确定的），总体构成有效数字的数值。如2.368为四位有效数字，698523为五位有效数字。这里要注意：当数字“0”用于指示小数点的位置，而与测量的准确度无关时，不是有效数字；当它用于表示与测量准确程度有关的数值大小时，则是有效数字。这与“0”在数值中的位置有关。下面将要点列举如下：

(1) 如：“0”在数字前，仅起定位作用，则“0”本身不是有效数字。如：某一测量结果记录为0.02315g，为四位有效数字。

(2) 数值中间的“0”为有效数字。如：2.04和5005分别为三位和四位有效数字。

(3)“0”在数字后面为有效数字。如6.230和0.1420均为四位有效数字。

(4) 以“0”结尾的整数，有效位数不确定。此时应根据测定值的准确度改写成指数44，分别为三位和五位有效数字。10 和2.4200形式。如2.42×10×(三) 有效数字修约规则

测量结果的数据处理和结果表达是测量过程的最后环节，由于测量结果含有测量误差，测量结果的有效位数应保留适宜，太多会使人误认为测量准确度很高，同时也会带来计算上的繁琐；太少则会损失测量准确度。测量、计算结果的数值应按《数值修约规则》（GB/T8170-1987）进行修约，即按“四舍六入五余进，奇进偶舍”规则修约。

“四舍六入五余进，奇进偶舍”规则，即当尾数不大于4时，舍去；尾数不小于6时进位；当尾数为5时，则视保留的末位数是奇数还是偶数：5前为偶数应将5舍去，5前为奇数则将5进位。这一规则具体运用如下：

(1) 拟舍弃的第一位数字小于5，则舍去，拟保留的末位数字不变。如2.7258修约到只保留一位小数时，其被舍弃的第一位数字为2（小于5），则修约后的数值应为2.7。

(2) 拟舍弃的第一位数字大于5，则进1，即拟保留的末位数字加1。如2.78修约到只保留一位小数时，其被舍弃的第一位数字为8（大于5），则修约后的数值应为2.8。

(3) 拟舍弃的第一位数字为5，而其后的数字不全为零，则进1。如2.7502修约到只保留一位小数，其被舍弃的第一位数字是5，5后面为“01”，则修约后的数值应为2.8。

(4) 拟舍弃的第一位数字为5，而其后无数字或数字全部为零，则视被保留的末位2.735、2.705如末位数字为偶数时舍去。，1末位数字为奇数时进数字为奇数

或偶数而定，

。2.70和2.74修约到保留三位有效数字，修约后的数值分别为然后在修约值前面加负号。负数修约时，先将它的绝对值按上述规定进行修约，(5)

拟修约数字应在确定修约位数后一位修约获得结果，不得连续修约。(6)

有效数字的计算规则四) (加法和减法1

几个数相加减的结果，经修约后保留有效数字的位数，取决于绝对误差最大的数值或者说以各近似值中小数点后位数最少相同。在实际运算过程中，保留的位数比各数值中小数点后位数最少者多保留一位小数，而计算结果按数值修约规则处理。3.03= 62.75 36.58＋－－3.028≈29.2例如：29.2＋36.58 62.8。最后计算结果保留一位小数，为 2 乘法和除法几个数相乘除时，得数经修约后，其有效数字的位数应与参加运算的各近似值中有效数字位数最少者相同，即所得结果的有效数字位数决定于相对误差最大的数值。在实际运算中，先将各近似值修约至比有效数字位数最少者多保留一位有效数字，再将计算结果按数值修约规则处理。

61.69= 414.61849

28.6×≈0.235×0.235例如：×28.6×61.689三个参与运算的数值的有效数字位数分别三、三、五，所以最后计算结果用三位有2。4.15×10效数字表示，为乘方和开方3

近似值乘方或开方时，原近似值有几位有效数字，计算结果就可以保留几位有效数字。2 。= 12.8164，运算结果保留三位有效数字为例如：3.5812.86.28 =

2.5059928…，运算结果保留三位有效数字为2.50。

4 对数和反对数

在近似值的对数计算中，所取对数的小数点后的位数（不包括首数）应与真数的有效数字位数相同。换言之，对数有效数字的位数，只计小数点以后的数字的位数，而不计对数的整数部分。

5 平均值

计算4个或4个以上近似数值的平均值时，先将计算结果修约至比要求的位数多一位，再按数值修约规则处理。

x：6.38、6.39、6.40、6.34、6.42。如：求下列数值的平均值6.38?6.39?6.40?6.34?6.42 x==6.386

5修约后平均值计算结果为6.39。

6 差方和、方差和标准偏差

差方和、方差和标准偏差在运算过程中对中间结果不作修约，只将最后结果修约至要求的位数。

二、可疑值的判断和取舍

当对同一样品进行多次重复测定时，有时会发现一组测定值中某个测定值比其他测定值明显偏大或偏小，称这种明显偏离的测定值为可疑值。可疑值不可随意取舍，因为它可能是粗大误差，也可能是误差较大的正常值。正确的处理办法是：首先进行直观分析，若确认某可疑值是由于写错、记错、误操作等或是外界条件的改变产生的，则可剔除，这种直观判断称为物理差别法。此外，还可用统计法判别。下面介绍几种常用的统计检验方法。

d法) 4(一

d法即4倍于平均偏差法，适用于4～6个平行数据的取舍。具体作法如下：4 dx。除了可疑值外，将其余数据相加求算术平均值及平均偏差(1)

?xx?x，则可疑值应舍弃；若可疑值将可疑值与平均值相减，若可疑值(2) ≥d4＜，则可疑值应保留。d4(二) Dixon检验法

此法用于一组测定数据的一致性检验和剔除异常值检验，适用于检出一个或多个异常值。但当最大值和最小值同时为可疑值，或在最大值(或最小值)一侧同时出现两个可疑值时，此法并不理想。检验方法如下：

将n次测定的数据从小到大排列为X，X，…，X，…，X-1，X。X为最小可疑1n21in值，X为最大可疑值，然后按照下列相应的公式计算统计量(r)：n

检验X检验X1n

??XX XX1?nn12或3～7次?r?r1010??XX XX1n1n??XXXXn?n1n?n1

或～810次??rr1111??XXXX12nn?1??XXXX13?n2n次11～13 或?r?r2121??XXXX112nn???XXXX13n?2n 2514～次或??rr2222

??XXXX13?n2n将统计量(r)的计算值与根据n次测定和显著性水平从表中查得的临界值比较，如极端值大于临界值，应予舍弃，并重复进行检验，直到不再检出其它极端值为止。

表2-3-1 Dixon检验临界值表

a) 显著性水平(显著性水平nn0.05 0.10 0.01 0.01 0.10 0.05

0.616 0.525 0.472 15 0.988 0.886 0.941 3

0.595 0.454 0.899 0.765 16 0.507 0.679 4

0.577 0.642 17 0.438 0.490 0.557 0.780 5

0.561 18 0.698 0.424 0.475 0.482 6 0.560

0.547 19 0.412 0.462 0.637 0.434 7 0.507

0.535 20 0.683 0.401 0.450 8 0.479 0.554

0.524 21 0.440 0.391 9 0.441 0.635 0.512

0.514 22 0.382 10 0.409 0.430 0.477 0.597

0.505 0.374 11 0.517 0.421 0.576 0.679 23

0.497 12 0.367 0.490 0.546 0.413 0.642 24

0.489 0.521 0.360 0.615 25 0.406 0.467 13

0.641

14

0.492

0.546

检验法) Grubbs三(

此法适用于检验多组测定均值的一致性检验和剔除异常值的检验。也适用于检验一组测量值和剔除一组测量值中的异常值。当一组数据中仅有一个可疑值时，用Grubbs检验法可以得到满意的结果，而有多个可疑值时此法并不理想。检验方法如下：

将一组数据从小到大依次排列为X，X，…，X，…，X-1，X。若认为最小值n2n1i X或最大值X可疑时，用下列公式之一计算统计量T：n1XX?X?X n或1?T?T SS式中：—算术平均值；X S—标准差。

将求得的T值与表中的临界值T比较，如T>T，此可疑值应舍弃；若T

表2-3-2 Grubbs检验临界值表

三、测量误差

(一) 测量误差产生的原因

测量误差是被测量的单个结果和真值之差。测量误差产生的原因主要有以下三个方面：

(1) 观测者：由于观测者感觉器官鉴别能力有一定的局限性，在仪器安置、照准、读数等方面都产生误差。同时观测者的技术水平、工作态度及状态都对测量成果的质量有直接影响。

(2) 测量仪器：每种仪器有一定限度的精密程度，因而测量值的精确度也必然受到一定的限度。同时仪器本身在设计、制造、安装、校正等方面也存在一定的误差，如钢尺的刻划误差、度盘的偏心等。

(3) 外界条件：测量时所处的外界条件，如温度、湿度、大气折光等因素都会对测量结果产生一定的影响。外界条件发生变化，测量结果将随之变化。

(二) 测量误差分类

测量工作中，尽管观测者按照规定的操作要求认真进行测量，但在同一量的各测量值之间，或在各测量值与其理论值之间仍存在差异。也就是说，测量误差是客观存在，不可避免的。研究测量误差的来源及其规律，采取各种措施消除或减小其误差影响，是测量工作者的一项主要任务。

测量误差是一个单个数值，任意一个误差均可分解为随机误差和系统误差的代数．和。下面仅对系统误差和随机误差作简单介绍。

1系统误差

在重复性条件下，对同一被测量进行无限多次测量所得结果的平均值与被测量的真值之差，称为系统误差。例如，用一把名义为30m长、而实际长度为30.02m 的钢尺丈量距离，每量一尺段就要少量2cm，该2cm误差在数值上和符号上都

是固定的，且随着尺段的倍数呈累积性。

系统误差的产生一般与测量仪器或装置本身的准确程度有关，与测量者本身的状

况及测量时的外界条件有关。系统误差是独立于测量次数的，因此不能在相同的测量条件下通过增加测量次数的方法使之减小。

例如，在检定或测试中，标准仪器或设备的本身存在一定的误差。在进行计量检定，向下一级标准量值传递时，标准值的误差即属系统误差。因此，某些仪器或设备，在测量前须先进行调零位，若因测量前未调零位或存在调零偏差，使标准仪器在测量前即具有某一初始值，该初始值必然影响测量结果，给测量结果带来误差。这种误差称为零位误差。

某些仪器设备，如未按要求放置、未正确接地或屏蔽或未用专用连接导线，也会给测量结果带来误差。测量时的客观环境条件也会给测定结果带来误差。如，重力加速度因地点不同而不同，如未加以适当的修正也会给测量结果带来误差。这种误差是因为客观环境因素引起的，一般把它称为环境误差。

系统误差对测量成果影响较大，且一般具有累积性，应尽可能消除或限制到最小程度，其常用的处理方法有：

(1) 检校仪器，把系统误差降低到最小程度。

(2) 加改正数，在测量结果中加入系统误差改正数，如尺长改正等。

(3) 采用适当的测量方法，使系统误差相互抵消或减弱，如测水平角时采用盘左、盘右现在每个测回起始方向上改变度盘的配置等。

2 随机误差

测量结果与在重复条件下，对同一被测量进行无限多次测量所得结果的平均值之差，称为随机误差或偶然误差。

在相同条件下作一系列测量，若误差的大小及符号都表现出偶然性，即从单个误差来看，该误差的大小及符号没有规律，但从大量误差的总体来看，具有一定的统计规律，这类误差称为随机误差。例如用经纬仪测角时，测角误差实际上是许多微小误差项的总和，而每项微小误差随着偶然因素影响不断变化，因而测角误差也表现出偶然性。对同一角度的若干次测量，其值不尽相同，测量结果中不可避免地存在着随机误差的影响。

随机误差是由多种因素综合影响产生的，测量结果中不可避免地存在随机误差，因而随机误差是误差理论主要研究的对象。就单个随机误差而言，其大小和符号都没有规律性，呈现出随机性，但就其总体而言却呈现出一定的统计规律性，并且是服从正态分布的随机变量。即在相同测量条件下，大量随机误差分布表现出一定的统计规律性，即：

(1) 在一定的测量条件下，随机误差的绝对值不会超过一定的限值；

(2) 绝对值较小的误差比绝对值大的误差出现的概率大；

(3) 绝对值相等的正、负误差出现的概率相同；

(4) 同一量的等精度测量，其随机误差的算术平均值，随着测量次数的无限增加而趋近于零，即

[?]lim?0n??n

随机误差不可能用测量的方法加以消除，但可通过增加测量的次数加以减少。(三) 绝对误差和相对误差

。，所得结果为绝对误差Δ测量结果y减去被测量约定真值t–t) / t×

(y100%=100%。×即可求得相对误差为tΔ将绝对误差除以约定真值，δ= Δ/ t 所以，相对误差表示绝对误差所占约定真值的百分比。

当被测量大小相近时，通常用绝对误差进行测量水平的比较。当被测量值相关较大时，用相对误差才能进行有效的比较。另外，绝对误差与被测量的量纲相同，而相对误差是量纲一的量或无量