第2章 实验数据的误差分析
过程参数检测及仪表第2章 误差分析及处理
按误差出现的规律，将下列误差进行分类
1、用一只电流表测量某电流，在相同条件下每隔一定时间重复 测量n次，测量数值间有一定的偏差。 2、用万用表测量电阻时，由于零点没有调整，测得的阻值始终 偏大。 3、由于仪表放置的位置问题，使观测人员只能从一个非正常角 度对指针式仪表读数，由此产生的读数误差。 4、由于仪表刻度（数值）不清楚，使用人员读错数据造成的误 差。 5、用热电偶测量温度，由于导线电阻引起的测量误差。 6、要求垂直安装的仪表，没有按照规定安装造成的测量误差。
b a c e d
t
曲线a是恒定系统误差 曲线b是线性变化系统误差 曲线c是非线性变化系统误差 曲线d是周期性变化系统误差 曲线e是复杂规律变化系统误差
再现性 --- 偏差（Deviation） 理论分析/实验验证 --- 原因和规律 --- 减少/消除
系统误差是有规律性的，因此可以 通过实验的方法或引入修正值的方 法计算修正，也可以重新调整测量 仪表的有关部件予以消除。
改变测量条件（如方向）--- 两次测量结果的误差符号相反 --- 平均值消除带有间隙特性的定值系统误差 例：千分尺 --- 空行程（刻度变化，量杆不动）--- 系统误差 正反两个方向对准标志线——不含系统误差－a， 空程引起误差－ε 顺时针 ---
d = a+ε
逆时针 --- d ' = a − ε 正确值 --- a = ( d + d ' ) / 2
第二章 测量误差的分析与处理
第一节 测量误差的概念
实验结果 --- 实验数据 --- 与其理论期望值不完全相同
1、测量误差的产生原因 （1）检测系统误差 （2）环境误差 （3）方法误差 （4）人员误差
2、测量误差的分类
第二章 误差和分析数据处理
课堂互动 下面是三位学生练习射击后的射击靶 图，请您用精密度或准确度的概念来评 价这三位学生的射击成绩。
二、系统误差和偶然误差
误差(error)：测量值与真实值的差值
根据误差产生的原因及性质，可以将误差分为系统误 差和偶然误差。
1 系统误差 (systematic error) 又称可测误差，由某
§3 有效数字及计算规则
小问题：1与1.0和1.00相等吗? 答:在分析化学中1≠1.0≠1.00 一、有效数字(significant figure) 概念：分析工作中实际上能测量到的数字，除最后一 位为可疑数字，其余的数字都是确定的
如：分析天平称量：1.21 23 (g) 滴定管读数：23.20 (ml)
=0.17
S 0.17 RSD 100 % 100 % 1.1% 15.82 X
用标准偏差比用平均偏差更科学更准确。
例: 两组数据
(1) 0.11, -0.73, 0.24, 0.51, -0.14, 0.00, 0.30, -0.21,
n=8 n=8 d1=0.28 d2=0.28 s1>s2 s1=0.38 s2=0.29 (2) 0.18, 0.26, -0.25, -0.37, 0.32, -0.28, 0.31，-0.27
(1)绝对误差 (δ) : δ= x－μ (2) 相对误差(RE): R E= δ / μ× 100%
注:
注1:两种误差都有正、负值之分。
小问题1：
买猪肉1000斤少0.5斤和买1斤少0.5斤哪个误差大?
小问题2： 用分析天平称量两个样品，一个是0.0021克，另一 个是0.5432克，两个测量值的绝对误差都是0.0001 克，试通过计算相对误差来说明哪种表示法更好。
实验力学盖秉政第2章误差分析和数据处理
Sy
y x1
2 S12
y x 2
2
S
2 2
y x r
2
S
2 r
r
y xi
2
S
2 i
r
y xi
S
i
于是各自变量的误差
S1
Sy
r
y x1
， S2
Sy
r
y x2
，
……
Sr
Sy
r
y xr
p.20
理论力学
理论力学
【例题2-2】一悬臂梁如图2-5所示，要 求测量应力误差不大于2％，求各被测量 F、l、b、h允许多大误差。
x
1 n
x1
x2
xn
1 n
n i1
xi
（2-3）
剩余误差
剩余误差是测量数据与其算术平均值之差，记作 i
即
i xi x
算术平均差
算术平均差是剩余误差绝对值的算术平均值，即
1 n i n i1
（2-4）
p.10
理论力学
理论力学
2．标准差
随机变量的重要特征是分散性，标 准差与随机误差的平方有关，对数值较 大的误差反应灵敏，因而标准差是评估 随机误差分散性的重要指标。
1.准确度 准确度是指测量值与真值接近的程度
2.精密度 精密度是指多次测量所得数据的重复程度
图2-1 不同打靶结果说明准确度和精密度
p.5
理论力学
第三节 系统误差的消除
理论力学
一、校准法
定期校准仪器仪表是消除系统误差的重要方法。校准法是用更准确的 仪器校准实验仪器以减小系统误差，或用通过分析给出的各种修正公式修 正实验数据以消除系统误差。
第二章测量数据处理及测量误差分析
第二章测量数据处理及测量误差分析测量数据处理及测量误差分析是科学实验中非常重要的一个环节，它涉及到对实验数据进行整理、处理以及对测量误差进行分析、评估的过程。
本章主要包括数据的整理、数据处理的常用方法、误差分析和误差处理方法等内容。
一、数据的整理在进行数据整理之前，首先要明确实验的目的和要求，明确需要获得的数据类型和数据量，有针对性地进行数据测量和记录。
数据整理主要包括：1.数据记录：将实验过程中获得的原始数据按照一定的格式记录下来，包括数据名称、数据值、测量单位等。
2.数据清洗：对记录下来的数据进行初步的筛选和清理，去除明显的异常值和错误数据，保留有效和可靠的数据。
同时，要注意将数据转换为适当的统计量，如平均值、中位数、标准差等。
二、数据处理常用方法数据处理是对记录下来的数据进行统计、分析和加工的过程，常用的数据处理方法有：1.统计分析：包括计算数据的平均值、中位数、众数等统计量，分析数据的分布特征，进行图表的绘制和描述。
2.走势分析：通过时间序列数据的走势分析，观察数据的变化规律，判断数据是否存在趋势性、周期性等特征。
3.相关分析：用于研究两组或多组数据之间的相关性，包括相关系数的计算和相关关系的绘图等。
4.假设检验：通过已知的数据样本对一些假设的合理性进行检验，判断假设是否成立并进行统计推断。
三、误差分析误差是指测量结果与真实值之间的差异，它是不可避免的，但可以通过分析和处理来减小误差的影响。
误差分为系统误差和随机误差两种。
1.系统误差：主要源于测量仪器、测量方法和实验设计的不确定性，它会导致测量结果的整体偏移，常常是可检测和可纠正的。
调整测量仪器的零点、校正仪器的偏差、改进实验设计等方法可以减小系统误差的影响。
2.随机误差：主要源于测量过程中的各种随机因素，如环境的变化、测量操作的不精确等。
随机误差是不可避免的，通过多次重复测量可以获得多组数据，然后进行数据的平均处理和统计分析，可以减小随机误差的影响。
第二章误差分析讲解
第三节 有限测量数据的统计处理
一、偶然(随机)误差的正态分布
同一矿石样品的n次测定值：
23
y
测量值的波动符合正态分布
y
1
2
exp
1 2 x源自2
µ -0 +
x(测量值) x-µ(误差)
y 表示概率密度
σ—总体标准偏差，表示数据的离散程度
μ—无限次测量的总体平均值，
即F
s12 s22
s1
s2
P一定时，查 F , f1, f2
注意：f1为大方差的自由度 f2为小方差的自由度
如F F ，则两组数据的精密度不存在显著性差异 ，f1, f2
如F F ，则两组数据的精密度存在显著性差异 ，f1, f2 33
练习
例：在吸光光度分析中，用一台旧仪器测定溶液的
由P 95%, f大 5，f小 3 F表 9.01
F F表 两仪器的精密度不存在显著性差异
34
（二）t检验（准确度显著性检验）
1. x 与µ比较
x
t
n
S
当t≥tα,f 存在显著性差异 当t<tα,f 不存在显著性差异
35
练习
例：采用某种新方法测定基准明矾中铝的百分含量， 得到以下九个分析结果，10.74%，10.77%， 10.77%，10.77%，10.81%，10.82%，10.73%， 10.86%，10.81%。试问采用新方法后，是否 引起系统误差？（P=95%）已知含量为10.77%。
26
2.t一定时，由于f不同， 则曲线形状不同，所包 括的面积不同，其概率 也不同。
27
检测技术 第二章：误差分析与数据处理
可以得到精确的测量结果，否则还可能损坏仪器、设备、元器件等。
2．理论误差 理论误差是由于测量理论本身不够完善而采用近似公式或近似值计算测量 结果时所引起的误差。例如，传感器输入输出特性为非线性但简化为线性 特性，传感器内阻大而转换电路输入阻抗不够高，或是处理时采用略去高 次项的近似经验公式，以及简化的电路模 型等都会产生理论误差。
误差，周期性系统误差和按复杂规律变化的系统误差。如图2.1所示，其中1为定值系差，2 为
线性系统误差，3为周期系统误差，4为按复杂规律变化的系统误差。 系统误差的来源包括仪表制造、安装或使用方法不正确，
测量设备的基本误差、读数方法不正确以及环境误差等。
系统误差是一种有规律的误差，故可以通过理论分析采 用修正值或补偿校正等方法来减小或消除。
•理论真值又称为绝对真值，是指在严格的条件下，根据一定的理论，按定义确定的数值。 例如三角形的内角和恒为180°一般情况下，理论真值是未知的。 •约定真值是指用约定的办法确定的最高基准值，就给定的目的而言它被认为充分接近于 真值，因而可以代替真值来使用。如：基准米定义为“光在真空中1/299792458s的时间 间隔内行程的长度”。测量中，修正过的算术平均值也可作为约定真值。
表等级为0.2级。
r＝
0.12 100% 100% 0.12 A 100
在选仪表时,为什么应根据被测值的大小,在满足被测量数值范围的前提下,尽可能 选择量程小的仪表，并使测量值大于所选仪表满刻度的三分之二。在满足使用 要求时，满量程要有余量，一般余量三分之一，为了装拆被测工件方便。 （同一精度，量程越大，误差越大，故量程要小，但留余量）
第二章 误差分析与数据处理
三．测量误差的来源
1．方法误差 方法误差是指由于测量方法不合理所引起的误差。如用电压表测量电压时，
实验数据的误差与结果处理(精)
7
2.2 实验数据处理及结果评价 2.2.1 数理统计的几个基本概念
1. 总体(universe)（或母体）——分析研究的对象 的全体 2. 样本(swatch)（或子样）——从总体中随机抽取 一部分样品进行测定所得到的一组测定值 3. 个体(individual)——样本中的每个测定值xi 4. 样本容量(capacity of sample)（或样本大小）— 样本中所含个体的数目，用n表示
1 x (79.58 79.45 .... 79.38)% 79.50% 6
s
2018年9月28日7时8分
X
i X
2
n 1
0.09%
SX S / 6 0.04%
14
2.2 实验数据处理及结果评价
2.2.3 置信度与置信区间
偶然误差的正态分布曲线：
对于有限次测定,结果的平均 值与总体平均值 关系为 ： s x t sx x t n
5. 样本平均值
1 x xi n
6. 极差: 表示数据的分散程度
2018年9月28日7时8分
R xmax xmin
8
2.2 实验数据处理及结果评价
2.2.2 少量数据的统计处理 1. 平均偏差
平均偏差又称算术平均偏差，用来表示一组数据的精密度 平均偏差： 相对平均偏差：
1 1 d xi x d i n n
s——有限次测定的标准偏差 n——测定次数
t 值表 ( t——某一置信度下的几率系数)
置信度——真值在置信区间出现的几率 置信区间——以平均值为中心，真值出现的范围 讨论： 1. 置信度不变时: n 增加，t 变小，置信区 间变小 2. n不变时：置信度增加， t变大，置信区 间变大 2. n， t不变时：s增加，置信区间变大，准 确度降低 2018年9月28日7时8分
实验数据误差分析和数据处理
第二章实验数据误差分析和数据处理第一节实验数据的误差分析由于实验方法和实验设备的不完善，周围环境的影响，以及人的观察力，测量程序等限制，实验观测值和真值之间，总是存在一定的差异。
人们常用绝对误差、相对误差或有效数字来说明一个近似值的准确程度。
为了评定实验数据的精确性或误差，认清误差的来源及其影响，需要对实验的误差进行分析和讨论。
由此可以判定哪些因素是影响实验精确度的主要方面，从而在以后实验中，进一步改进实验方案，缩小实验观测值和真值之间的差值，提高实验的精确性。
一、误差的基本概念测量是人类认识事物本质所不可缺少的手段。
通过测量和实验能使人们对事物获得定量的概念和发现事物的规律性。
科学上很多新的发现和突破都是以实验测量为基础的。
测量就是用实验的方法，将被测物理量与所选用作为标准的同类量进行比较，从而确定它的大小。
1.真值与平均值真值是待测物理量客观存在的确定值，也称理论值或定义值。
通常真值是无法测得的。
若在实验中，测量的次数无限多时，根据误差的分布定律，正负误差的出现几率相等。
再经过细致地消除系统误差，将测量值加以平均，可以获得非常接近于真值的数值。
但是实际上实验测量的次数总是有限的。
用有限测量值求得的平均值只能是近似真值，常用的平均值有下列几种:(1) 算术平均值 算术平均值是最常见的一种平均值。
设1x 、2x 、……、n x 为各次测量值，n 代表测量次数，则算术平均值为nx n x x x x ni in ∑==+⋅⋅⋅++=121(2-1)(2) 几何平均值 几何平均值是将一组n 个测量值连乘并开n 次方求得的平均值。
即n nx x x x ⋅⋅⋅⋅=21几(2-2)（3）均方根平均值 nxnxx x x ni in∑==+⋅⋅⋅++=1222221均(2-3)(4) 对数平均值 在化学反应、热量和质量传递中，其分布曲线多具有对数的特性，在这种情况下表征平均值常用对数平均值。
设两个量1x 、2x ，其对数平均值21212121lnln ln x x x x x x x x x -=--=对(2-4)应指出，变量的对数平均值总小于算术平均值。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第2章 实验数据的误差分析通过实验测量所得大批数据是实验的主要成果，但在实验中，由于测量仪表和人的观察等方面的原因，实验数据总存在一些误差，所以在整理这些数据时，首先应对实验数据的可靠性进行客观的评定。
误差分析的目的就是评定实验数据的精确性，通过误差分析，认清误差的来源及其影响，并设法消除或减小误差，提高实验的精确性。
对实验误差进行分析和估算，在评判实验结果和设计方案方面具有重要的意义。
本章就化工原理实验中遇到的一些误差基本概念与估算方法作一扼要介绍。
2.1 误差的基本概念2.1.1真值与平均值真值是指某物理量客观存在的确定值。
通常一个物理量的真值是不知道的，是我们努力要求测到的。
严格来讲，由于测量仪器，测定方法、环境、人的观察力、测量的程序等，都不可能是完善无缺的，故真值是无法测得的，是一个理想值。
科学实验中真值的定义是：设在测量中观察的次数为无限多，则根据误差分布定律正负误差出现的机率相等，故将各观察值相加，加以平均，在无系统误差情况下，可能获得极近于真值的数值。
故“真值”在现实中是指观察次数无限多时，所求得的平均值（或是写入文献手册中所谓的“公认值”）。
然而对我们工程实验而言，观察的次数都是有限的，故用有限观察次数求出的平均值，只能是近似真值，或称为最佳值。
一般我们称这一最佳值为平均值。
常用的平均值有下列几种：（1）算术平均值这种平均值最常用。
凡测量值的分布服从正态分布时，用最小二乘法原理可以证明：在一组等精度的测量中，算术平均值为最佳值或最可信赖值。
nx n x x x x n i in ∑=++==121 （2-1） 式中： n x x x 21、——各次观测值；n ――观察的次数。
（2）均方根平均值n x n x x x x n i i n ∑=++==1222221 均 （2-2）（3）加权平均值设对同一物理量用不同方法去测定，或对同一物理量由不同人去测定，计算平均值时，常对比较可靠的数值予以加重平均，称为加权平均。
∑∑=++++++===n i i ni ii n n n w x w w w w x w x w x w w 11212211 （2-3）式中；n x x x 21、——各次观测值；n w w w 21、——各测量值的对应权重。
各观测值的权数一般凭经验确定。
（4）几何平均值n n x x x x x 321⋅⋅=发 （2-4）（5）对数平均值21212121ln ln ln x x x x x x x x n -=--= （2-5） 以上介绍的各种平均值，目的是要从一组测定值中找出最接近真值的那个值。
平均值的选择主要决定于一组观测值的分布类型，在化工原理实验研究中，数据分布较多属于正态分布，故通常采用算术平均值。
2.1.2误差的定义及分类在任何一种测量中，无论所用仪器多么精密，方法多么完善，实验者多么细心，不同时间所测得的结果不一定完全相同，而有一定的误差和偏差，严格来讲，误差是指实验测量值（包括直接和间接测量值）与真值（客观存在的准确值）之差，偏差是指实验测量值与平均值之差，但习惯上通常将两者混淆而不以区别。
根据误差的性质及其产生的原因，可将误差分为：1）系统误差； 2）偶然误差；3）过失误差三种。
1．系统误差又称恒定误差，由某些固定不变的因素引起的。
在相同条件下进行多次测量，其误差数值的大小和正负保持恒定，或随条件改变按一定的规律变化。
产生系统误差的原因有：1）仪器刻度不准，砝码未经校正等；2）试剂不纯，质量不符合要求；3）周围环境的改变如外界温度、压力、湿度的变化等；4）个人的习惯与偏向如读取数据常偏高或偏低，记录某一信号的时间总是滞后，判定滴定终点的颜色程度各人不同等等因素所引起的误差。
可以用准确度一词来表征系统误差的大小，系统误差越小，准确度越高，反之亦然。
由于系统误差是测量误差的重要组成部分，消除和估计系统误差对于提高测量准确度就十分重要。
一般系统误差是有规律的。
其产生的原因也往往是可知或找出原因后可以清除掉。
至于不能消除的系统误差，我们应设法确定或估计出来。
2．偶然误差又称随机误差，由某些不易控制的因素造成的。
在相同条件下作多次测量，其误差的大小，正负方向不一定，其产生原因一般不详，因而也就无法控制，主要表现在测量结果的分散性，但完全服从统计规律，研究随机误差可以采用概率统计的方法。
在误差理论中，常用精密度一词来表征偶然误差的大小。
偶然误差越大，精密度越低，反之亦然。
在测量中，如果已经消除引起系统误差的一切因素，而所测数据仍在未一位或未二位数字上有差别，则为偶然误差。
偶然误差的存在，主要是我们只注意认识影响较大的一些因素，而往往忽略其他还有一些小的影响因素，不是我们尚未发现，就是我们无法控制，而这些影响，正是造成偶然误差的原因。
3．过失误差又称粗大误差，与实际明显不符的误差，主要是由于实验人员粗心大意所致，如读错，测错，记错等都会带来过失误差。
含有粗大误差的测量值称为坏值，应在整理数据时依据常用的准则加以剔除。
综上所述，我们可以认为系统误差和过失误差总是可以设法避免的，而偶然误差是不可避免的，因此最好的实验结果应该只含有偶然误差。
2.1.3 精密度、正确度和精确度（准确度）测量的质量和水平，可用误差的概念来描述，也可用准确度等概念来描述。
国内外文献所用的名词术语颇不统一，精密度、正确度、精确度这几个术语的使用一向比较混乱。
近年来趋于一致的多数意见是：精密度：可以称衡量某些物理量几次测量之间的一致性，即重复性。
它可以反映偶然误差大小的影响程度。
正确度：指在规定条件下，测量中所有系统误差的综合，它可以反映系统误差大小的影响程度。
精确度（准确度）：指测量结果与真值偏离的程度。
它可以反映系统误差和随机误差综合大小的影响程度。
为说明它们间的区别，往往用打靶来作比喻。
如图2-1所示，A 的系统误差小而偶然误差大，即正确度高而精密度低；B 的系统误差大而偶然误差小，即正确度低而精密度高；C 的系统误差和偶然误差都小，表示精确度（准确度）高。
当然实验测量中没有像靶心那样明确的真值，而是设法去测定这个未知的真值。
对于实验测量来说，精密度高，正确度不一定高。
正确度高，精密度也不一定高。
但精确度（准确度）高，必然是精密度与正确度都高。
2.2误差的表示方法 测量误差分为测量点和测量列（集合）的误差。
它们有不同的表示方法。
2.2.1测量点的误差表示1．绝对误差D测量集合中某次测量值与其真值之差的绝对值称为绝对误差。
x X D -= （2-6）即 D x X D x D x X +≤≤-±=-式中：X ——真值，常用多次测量的平均值代替；x ——测量集合中某测量值2．相对误差Er绝对误差与真值之比称为相对误差XD =Er （2-7）相对误差常用百分数或千分数表示。
因此不同物理量的相对误差可以互相比较，相对误差与被测之量的大小及绝对误差的数值都有关系。
3．引用误差仪表量程内最大示值误差与满量程示值之比的百分值。
引用误差常用来表示仪表的精度。
2.2.2测量列（集合）的误差表示1．范围误差范围误差是指一组测量中的最高值与最低值之差，以此作为误差变化的范围。
使用中常应用误差的系数的概念。
αL K = （2-8） 式中：K ——最大误差系数；L ——范围误差；α——算术平均值。
范围误差最大缺点是使K 只以决于两极端值。
而与测量次数无关。
2．算术平均误差算术平均误差是表示误差的较好方法，其定义为δ=nd i ∑，n i ,2,1= （2-9） 式中：n ——观测次数；i d —－测量值与平均值的偏差，α-=i i x d 。
算术平均误差的缺点是无法表示出各次测量间彼此符合的情况。
3．标准误差标准误差也称为根误差。
nd i∑=2σ （2-10） 标准误差对一组测量中的较大误差或较小误差感觉比较灵敏，成为表示精确度的较好方法。
上式适用无限次测量的场合。
实际测量中，测量次数是有限的，改写为12-=∑n d iσ （2-11）标准误差不是一个具体的误差，σ的大小只说明在一定条件下等精度测量集合所属的任一次观察值对其算术平均值的分散程度，如果σ的值小，说明该测量集合中相应小的误差就占优势，任一次观测值对其算术平均值的分散度就小，测量的可靠性就大。
算术平均误差和标准误差的计算式中第i 次误差可分别代入绝对误差和相对误差，相对得到的值表示测量集合的绝对误差和相对误差。
上述的各种误差表示方法中，不论是比较各种测量的精度或是评定测量结果的质量，均以相对误差和标准误差表示为佳，而在文献中标准误差更常被采用。
2.2.3仪表的精确度与测量值的误差1．电工仪表等一些仪表的精确度与测量误差这些仪表的精确度常采用仪表的最大引用误差和精确度的等级来表示。
仪表的最大 引用误差的定义为最大引用误差= 绝对值该仪表相应档次量程的仪表显示值的绝对误差×100% （2-12） 式中仪表显示值的绝对误差指在规定的正常情况下。
被测参数的测量值与被测参数的标准值之差的绝对值的最大值。
对于多档仪表，不同档次显示值的绝对误差和程量范围均不相同。
式（2-12）表明，若仪表显示值的绝对误差相同，则量程范围愈大，最大引用误差愈小。
我国电工仪表的精确度等级有七种：0.1、0.2、0.5、1.0、1.5、2..5、5.0。
如某仪表的精确度等级为2.5级，则说明此仪表的最大引用误差为2.5%。
在使用仪表时，如何估算某一次测量值的绝对误差和相对误差？设仪表的精确度等级P 级，其最大引用误差为10%。
设仪表的测量范围为n x 仪表的 示值为i x ，则由式（2-12）得该示值的误差为⎪⎭⎪⎬⎫⨯≤=⨯≤%%P x x x D E P x D i n i n 相对误差绝对误差 （2-13） 式（2-13）表明：（1）若仪表的精确度等级P 和测量范围n x 已固定，则测量的示值i x 愈大，测量的相对误差愈小。
（2）选用仪表时，不能盲目地追求仪表的精确度等级。
因为测量的相对误差还与i n x x 有关。
应该兼顾仪表的精确度等级和in x x 两者。
2．天平类仪器的精确度和测量误差这些仪器的精度用以下公式来表示：仪器的精密度=量程的范围名义分度值 （2-14） 式中名义分度值指测量时读数有把握正确的最小分度单位，即每个最小分度所代表的数值。
例如TG —3284型天平，其名义分度值（感量）为0.1毫克，测量范围为0~200克，则其精确度=731051002001.0-⨯=⨯-）（ （2-15） 若仪器的精确度已知，也可用式（2-14）求得其名义分度值。
使用这些仪器时，测量的误差可用下式来确定：⎪⎭⎪⎬⎫≤≤测量值名义度值相对误差名义分度值绝对误差 （2-16）3．测量值的实际误差由于仪表的精确度用上述方法所确定的测量误差，一般总是比测量值的实际误差小的多。