第二章监测数据地处理

第二章 监测数据的统计处理和结果表述

2.1基本概念

2.1.1误差和偏差

2.1.1.1真值:在某一时刻和某一位置或状态下，某量的效应体现出客观值或实际值。

理论真值

真值包括 约定真值

标准器的相对真值

2.1.1.2误差及其分类

1、由于被测量的数据形式通常不能以有限为数表示，同时由于认识能力和科学技术水平的限制，使测量值与真挚不一致，这种矛盾在数值上表现即为误差。

2、差按其性质和产生原因可分为：

●系统误差（可测误差、恒定误差、偏倚）：指测量值的总体均值与真值之间的

差别，是由测量过程中某些恒定因素造成的，在一定条件下具有重现性，并不因增加测量次数而减少系统误差，他的产生可以是方法、仪器、试剂、恒定的操作人员或恒定的环境等所造成。

● 随机误差（偶然误差、不可测误差）：是由测量过程中各种随机因素的共同作用所造成的，其遵从正态分布规律。

●过失误差：是由测量过程中犯下不应有的错误所造成，它明显的歪曲了测量结

果，因而一经发现必须及时改正。

3、 误差的表示方法

绝对误差：测量值（x ）与真值（x

t ）之比。 绝对误差=x-x t 相对误差：指绝对误差与真值之比。 相对误差=

t

t

x x x -×100% 4、偏差：个别测量值与多次测量均值之偏离。分

绝对偏差（d ）：测量值与均值(x ’)之差。 d i =x i -x ’

相对偏差：绝对偏差与均值之比。 相对偏差=

'

x d

×100% 平均偏差：是绝对偏差绝对值之和的平均值。 d ’=

n

1di n

i ∑

=1

=

n

1

( )

标准偏差和相对标准偏差

● 差方和（S ）：指绝对值的平方之和。 S=

∑

=-n

i i

x x 12

'）（ ● 样本方差（s 2

或V ） s 2

=11-n ∑=-n i i x x 12

'）（=1

1-n S ● 样本标准偏差（s 或s D ） s=2

1

)'(1∑=-n

i i x x n =S n 1 ● 样本相对标准偏差（变异系数）：样本标准偏差在样本均值中所占的百分

数 C v =

'

x s

×100% ● 总体方差和总体标准偏差分别以σ2和σ表示

σ2

=

N

1∑

=-n

i i

x 1

2

）（μ σ=∑=-n

i i x 1

2)(N 1

μ=N

N

)x (-

x

2

i i

2

∑∑

式中：N ——总体容量 μ——总体均值

● 级差（R ）：一组测量值中最大值与最小值之差，表示误差的范围. R=x max -x min 5、总体、样本和平均数 ● 总体和个体

研究对象的全体称总体，其中一个单位叫个体。 ● （2）样本和样本容量

总体中的一部分叫样本，样本中含有个体的数目叫此样本的样本容量。 ● (3)平均数：平均数代表一组变量的平均水平或集中趋势，样本观测中大多数

测量值靠近平均数。

算术均数：样本均数x ’=n

x i

∑

总体均数μ=

n

x i

∑ n →∞

几何均数:当变量呈等比关系,常需用几何均数. x g ’=( x 1x 2……x n )1/n

● 中位数：将各数据按大小顺序排列，位于中间的数据。若为偶数取中间两数的

平均值。

● 众数：一组数据中出现次数最多的一个数据。

例题：有一氯化物的标准水样，浓度为110mg/l ，以银量法测定5次其值为：112、115、14、113、15mg/l ，求算术均数、几何均数、中位数、绝对误差、相对偏差、平均偏差、极差、样本的差方和、方差、标准偏差和相对标准偏差。 解：算术平均数 x g =（112+115+114+113+115）/5=13.8mg/l 几何均数 x g ’=（112×115×114×113×115）1/5=13.8mg/l 中位数 114mg/l

绝对误差 x i -x t =112-110=2 mg/l(以x i 为112 mg/l ，x t 为112 mg/l 为例) 相对误差 2/110=1.8%

绝对偏差 d i =x i -x ’=112-113.8=-1.8mg/l 平均偏差 d ’=1.04 mg/l 极差 R=115-12=3 mg/l

样本差方和 S=(-1.8)2

+1.22

+1.22

+(-0.8) 2

+1.22

=6.8 mg/l

样本方差 s 2=

1

1

n S=1.70mg/l 样本标准偏差 s=2s =1.3mg/l 样本相对标准偏差 C v =

8

.1133

.1×100%=1.1% 2.1.3 数据的处理和结果表述

2.1.

3.1 数据修约规则

计算的数据需要修约时，应遵守下列规则：

四舍六入五考虑，五后非零则进一，五后皆零视寄偶，五前为偶应舍去，五前为寄则进一。

例题：将下列数据修约到只保留一位小数

修约前： 14.3426 14.2631 14.2501 14.2500 14.0500 14.1500

修越后： 14.3 14.3 14.3 14.2 14.0

14.2

2.1.

3.2可疑数据的取舍

离群数据：与正常数据不是来自同一分布总体，明显歪曲试验结果的测量数据。 可疑数据：可能会歪曲试验结果，但尚未经验证断定其实离群数据的测量数据。 测量中发现明显的系统误差和过失误差，由此而产生的数据应随时剔除，而可疑数据的舍取应采用统计方法判别，即离群数据的统计检验。常用的检验方法

（1）狄克逊（Dixon ）检验法适用于一组测量值的一致性检验和剔除离群值。

● 将一组测量数据从小到大顺序排列为x 1、x 2…x n ，x 1和x n 分别为最小可疑值和最大可疑值。 ● 按下表计算式求Q 值

● 根据给定的显著性水平（α）和样本容量（n ），从临界值表中查得临界值。

● 若Q ≤Q 0.05则可疑值为正常值。

若Q 0.05＜Q ≤Q 0.01则可疑值为偏离值。 若Q ＞Q 0.01则可疑值为离群值。

狄克逊检验统计量Q 计算公式

例题：一组测量值从小到大顺序排列为：14.65、14.90、14.90、14.92、14.95、14.96、15.00、15.01、15.01、15.02，检验最小值14.65和最大值15.02是否为离群值。

解：检验最小值x 1=14.65，n=10，x 2=14.90，x n-1=15.01 Q=

1

11

2x x x x n ---=0.69

查临界值表知，当n=10，给定显著性水平α=0.01时，Q 0.01=0.597 Q ＞Q 0.01，故最小值14.65为离群值，应予以剔除。 检验最大值x n =15.02

Q=

2

1

x x x x n n n ---=0.083

查临界值表知，当n=10，给定显著性水平α=0.05时，Q 0.05=0.477 Q ≤Q 0.05，故最大值15.02为正常值

（2）格鲁勃斯（Grubbs ）检验法—是用于检验多组测量值的一致性和剔除多组测量值中离群均值。

● 有l 组测定值，每组n 个测定值的均值分别为x 1’、x 2’…x i ’…x l ’，其中最大均值记为x max ’，最小均值记为x min ’。 ● 由l 个均值计算总均值x ’’和标准偏差s x ’

x ’’=l 1∑=l

i i x 1

' s x ’=∑---l i i x x l 12)'''(11 ● 可疑均值为最大值（x max ’）时，按下式计算统计量（T ）

T=

'

min '

''x s x x - ● 根据测定值组数和给定的显著性水平从表中查的临界值。 ● 若T ≤T 0.05 则可疑均值为正常均值。

若T 0.05＜T ≤T 0.01 则可疑均值为偏离均值。

若T ＞T 0.01 则可疑均值为离群均值。 例题：p301

2.1.4监测结果的表述

1、 用算术均数（x ’）代表集中趋势

2、 用算术均数和标准偏差表示测定结果的精密度（x ’±s ）

3、 用(x ’±s,C v )表示结果

4、 均数置信区和t 值 2.1.5 直线相关和回归 2.1.6 方差分析 2.1.7 模糊聚类分析

2.2 实验室质量保证

2.2 .1有关术语

1、准确度：是用一个特定的分析程序所获得的分析结果与假定的或公认的真值之

间符合程度的度量。反映分析方法或测量系统存在的系统误差和随机误差两个的综合指标，并决定其分析结果的可靠性。用绝对误差和相对误差来表示。

评价准确度的方法有两种

用某一方法分析标准物质，测定其回收率，据其结果确定准确度。

加标回收法：即在样品中加入标准物质，测定其回收率，以确定准确度。计算式为：

回收率=

加标值试样测定值

加标试样测定值

×100%

2、精密度：用一特定的分析程序在受控条件下重复分析均一样品所得测定值得一

致程度。它反映分析方法或测量系统所存在随机误差的大小。

3、平行性：同一实验室中，当分析人员、分析设备和分析时间都相同时，用同一

分析方法对同一样品进行双份或多份平行样测定结果之间的符合程度。4、重复性：在同一实验室内，当分析人员、分析设备和分析时间三因素中至少

有一项不相同时，用同一分析方法对同一样品进行两次或两次以上独立测定结果之间的符合程度。

5、再现性：在不同实验室（分析人员、分析设备、甚至分析时间都不相同），用

同一分析方法对同一样品进行多次测定结果之间的符合程度。

6、灵敏度：指该方法对单位浓度或单位量的待测物质的变化所引起的响应量变

化的程度。

7、空白试验：是用蒸馏水代替试样的测定。其所加试剂和操作与试验测定完全相

同，空白试验应与试样测定同时进行，试样分析时仪器的响应值不仅是试样中待测物质的分析响应值，还包括所有其他因素，如试剂种杂志，环境及操作进程的玷污等的响应值。

8、校准曲线：—用于描述待测物质的浓度或量与相应的测量仪器的相应值或其他

指标之间的定量关系的曲线。

9、检测限：某一分析方法在给定的可靠程度内可以从样品中检测待测物质的最小

浓度或最小量。

10、测定限：分测定上限和测定下限。

2.2.2、实验室内质量控制

1、质量控制图的绘制及应用

质量控制图的基本组成：预期值——图中的中心线

目标值——图中上、下警告线之间区域

实测值的可接受范围——图中上下控制限制间的区域

辅助线——上、下各一线，在中心线两侧与上、下警告限之间各一半处。

2、均数控制图——控制样品的浓度和组成，使其尽量与环境样品相识，用同一

方法在一定时间内重复测定，至少累计20个数据，按公式计算总

均值、标准偏差、平均极差等。

均数—极差控制图

多样控制图