有效数字和数值修约
有效数字和数值的修约
有效数字和数值的修约一、目的阐述如何把数字修约至适当的有效位数从而得出合理的报告结果.二、定义1、有效数字在检验工作中所能得到的有实际意义的数值，其最后一位数字牵住你是允许的，这种由可靠数字和最后一位估计值组成的数值，即为有效数字。
2、有效数位从左边第一个非零数字算起，所有的有效数字的个数。
3、数字修约对拟修约数值中超出需要保留位数时的舍弃，根据保留位数来保留最后一位或最后几位数。
4、测量的估计值在测量过程中介于测量/称量器具最小分度值之间的数值为估计值。
5、报告阈值为一限度,高于此限度的杂质需要报告6、忽略限为一限度，在色谱检测中，等于或小于此数值的峰/信号不被计入总杂质中。
通常情况下，忽略限与报告阈值是相同的。
7、积分阈值为一限度，在色谱检测中，数据采集系统设置的阈值,至少为报告阈值的一半。
三、读数的规定1、对于有数显的测量/称量器具，直接读取数值并记录。
（天平的使用，直接读取数值）2、对于非数显的测量/称量器具，仪器读数的最后一位是读数误差所在的一位。
最小分度值的末位为1，则其读数记录至下一位的估值;否则,则其读数记录至相同位的估计值。
①最小分度值的末位为1，按1/10估读原则；例如:分度值为0。
1ml的滴定管，读数的最小估计值为0。
01ml.可以读为0.15ml.②最小分度值的末位为2,按1/2估读原则；例如:分度值为0。
2的称读数的最小估值为0.1kg.可以读为0.3kg、0。
4kg、不能读0。
35kg。
③最小分度值末位为5，按1/5估读原则。
例如：机械称最小分度值为5g，游码刻度值在5g-10g 之间，可以读为6g、7g、8g，不能读5。
5g。
④最小分度值为50,按1/5估读原则。
最小分度值为200，按1/2估读原则。
四、修约规定1、四舍五入原则。
例如：将下列数字修约为四位有效数字,结果为0。
53664---———0。
536612.7450——---—12。
752、拟修约数字应在确定修约位数后一次修约获得结果，不允许多次按规则修约.例如：将下列数字保留为两位有效数字17。
环境监测中如何进行数值修约及有效数字的取舍
环境监测中如何进行数值修约及有效数字的取舍所属行业: 环境监测关键词：环境监测第三方检测数值修约检验检测当中，数值的修约是非常重要的一项工作。
然而在现实当中，很多单位忽略了这个问题，使得同一个监测项目报出的结果，有效数字及小数点后的位数不一致。
特别是第三方检测机构的爆发式的发展，忽略质量管理使得报出数据更加混乱。
测量只能不断接近真实值，但是不可能得到真实值。
测量值和真实值的差就是误差。
所谓数值修约，是指通过省略原数值的最后若干位数字，调整所保留的末尾数字，使最后所得的值最接近原数值的过程。
一、数值修约。
检测原始数据通常是很长的一串数字，报出结果的时候，就需要进行数值修约。
数值修约最基本的规则是：进舍规则和不允许连续修约规则。
①进舍规则用一句话表述，就是“四舍六入五成双”。
四舍六入好理解，五成双是：拟舍弃数字的最左一位数字为5，且其后无数字或皆为0时，若所保留的末尾数字问奇数（1,3,5,7,9）则进1，即保留数字的末位数字加1。
若所保留的末尾数字问偶数（0,2,4,6,8），则舍去。
②不允许连续修约是指一次修约获得结果，不能连续多次修约。
二、有效数字及小数点后最多位数。
在环境监测当中，有效数字的位数、小数点后的位数保留，一般遵循以下几个方面的规则：①记录测定数值时，应同时考虑计量器具的精密度、准确度和读数误差。
对检定合格的计量器具，有效数字位数可以记录到最小分度值，最多保留一位不确定数字。
②精密度一般只取1～2位有效数字。
③校准曲线相关系数只舍不入，保留到小数点后第一个非9数字。
如果小数点后多于4个9，最多保留4位。
校准曲线斜率的有效位数，应与自变量的有效数字位数相等。
校准曲线截距的最后一位数，应与因变量的最后一位数取齐。
以实验室最常用的计量器具为例：①用天平（最小分度值为0.1mg）进行称量时，有效数字可以记录到小数点后面第四位，如1.2235g，此时有效数字为五位；称取0.9452g，则为四位。
药检有效数字和数值的修约及其运算规则
药检有效数字和数值的修约及其运算规则一目的：制定有效数字和数值的修约及其运算规则，规范有效数字和数值的修约及其运算。
二适用范围：适用于有效数字和数值的修约及其运算。
三责任者：品控部。
四正文：本规程系根据中国兽药典2005年版“凡例”和国家标准GB8170-87《数值修约规程》制许，适用于药检工作中除生物检定统计法以外的各种测量或计算而得的数值。
1 有效数字的基本概念1.1 有效数字系指在检验工作中所能得到有实际意义的数值。
其最后位数字欠准是允许的，这种由可靠数字和最后一位不确定数字组成的数值，即为有效数字。
最后一位数字的欠准程序通常只能是上下差1单位。
1.2 有效数字的字位（数位），是指确定欠准数字的位置。
这个位置确定后，其后面的数字均为无效数字。
欠准数字的位置可以是十进位的任何数位，用10n来表示：n可以是正整数，如n=1、101=10（十数位），n=2、102=100（百数位），……，n也可以是负数，如n= -1、10-1=0.1（十分位），n= -2、10-2=0.01（百分位），……，1.3 有效位数1.3.1 在没有小数位且以若干个零结尾的数值中，有效位数系指从非零数字最左一位向右数得到的位数减去无效零（即仅为定位用的零）的个数。
例如35000中若有两个无效零，则为三位有效位数，应写作350×102；若有三个无效零，则为两位有效位数，应写作35×102。
1.3.2 在其它十进位数中，有效数字系指从非零数字最左一位向右数而得到的位数。
例如3.2、0.32、0.032和0.0032均为两位有效位数，为0.320三位有效位数，10.00为四位有效位数，12.490为五位有效位数。
1.3.3 非连续型数值（如个数、分数、倍数）是没有欠准数字的，其有效位数可视为无限多位；例如分子式“H2SO4”中的“2”和“4”是个数。
常数π、e和系数2等值的有效位数也可视为无限多位；含量测定项下“每1ml的XXXX滴定液（0.1mol/L）……”中的“0.1”为名义浓度，规格项下的“0.3g”或“1ml：25mg”中的“0.3”、“1”和“25”为标示量，其有效位数也均为无限多位；即在计算中，其有效位数应根据其他数值的最少有效位数而定。
有效数字和数值的修约及其运算
有效数字和数值的修约及其运算本规程系根据中国药典2010年版凡例和国家标准GB 8170-2008《数值修约规则与极限数值的表示和判定》制订，适用于药检工作中除生物检定统计法以外的各种测量或计算而得的数值。
1.数值修约通过省略原数值的最后若干位数字，调整所保留的末位数字，使最后所得到的值最接近原数值的过程。
2.修约间隔确定修约保留位数的一种方法。
注:修约间隔的数值一经确定，修约值即为该数值的整数倍。
例1:如指定修约间隔为0.1，修约值应在0.1的整数倍中选取，相当于将数值修约到一位小数。
例2:如指定修约间隔为100，修约值应在100的整数倍中选取，相当于将数值修约到“百”数位。
2.3极限数值limiting values标准(或技术规范)中规定考核的以数量形式给出且符合该标准(或技术规范)要求的指标数值范围的界限值。
3数值修约规则3. 1确定修约间隔a)指定修约间隔为10-n(n为正整数)，或指明将数值修约到n位小数;b)指定修约间隔为1，或指明将数值修约到“个”数位;c)指定修约间隔为10n (n为正整数)，或指明将数值修约到10n数位，或指明将数值修约到“十”、“百”、“千”……数位。
3. 2进舍规则3.2.1拟舍弃数字的最左一位数字小于5，则舍去，保留其余各位数字不变。
例:将12. 149 8修约到个数位，得12;将12. 149 8修约到一位小数，得12.l。
3.2.2拟舍弃数字的最左一位数字大于5，则进一，即保留数字的末位数字加1.例:将1 268修约到“百”数位，得13 × 102(特定场合可写为1 300)。
注:本标准示例中，“特定场合”系指修约间隔明确时。
3.2.3拟舍弃数字的最左一位数字是5，且其后有非0数字时进一，即保留数字的末位数字加1。
例:将10. 500 2修约到个数位，得1。
3.2.4拟舍弃数字的最左一位数字为5，且其后无数字或皆为0时，若所保留的末位数字为奇数(1,3,5,7,9)则进一，即保留数字的末位数字加1;若所保留的末位数字为偶数((0,2,4,6,8)，则舍去。
药检有效数字及数值的修约及其运算规则
药检有效数字和数值的修约及其运算规则一目的：制定有效数字和数值的修约及其运算规则，规范有效数字和数值的修约及其运算。
二适用范围：适用于有效数字和数值的修约及其运算。
三责任者：品控部。
四正文：本规程系根据中国兽药典2005年版“凡例”和国家标准GB8170-87《数值修约规程》制许，适用于药检工作中除生物检定统计法以外的各种测量或计算而得的数值。
1 有效数字的基本概念1.1 有效数字系指在检验工作中所能得到有实际意义的数值。
其最后位数字欠准是允许的，这种由可靠数字和最后一位不确定数字组成的数值，即为有效数字。
最后一位数字的欠准程序通常只能是上下差1单位。
1.2 有效数字的字位（数位），是指确定欠准数字的位置。
这个位置确定后，其后面的数字均为无效数字。
欠准数字的位置可以是十进位的任何数位，用10n来表示：n可以是正整数，如n=1、101=10（十数位），n=2、102=100（百数位），……，n也可以是负数，如n= -1、10-1=0.1（十分位），n= -2、10-2=0.01（百分位），……，1.3 有效位数1.3.1 在没有小数位且以若干个零结尾的数值中，有效位数系指从非零数字最左一位向右数得到的位数减去无效零（即仅为定位用的零）的个数。
例如35000中若有两个无效零，则为三位有效位数，应写作350×102；若有三个无效零，则为两位有效位数，应写作35×102。
1.3.2 在其它十进位数中，有效数字系指从非零数字最左一位向右数而得到的位数。
例如3.2、0.32、0.032和0.0032均为两位有效位数，为0.320三位有效位数，10.00为四位有效位数，12.490为五位有效位数。
1.3.3 非连续型数值（如个数、分数、倍数）是没有欠准数字的，其有效位数可视为无限多位；例如分子式“H2SO4”中的“2”和“4”是个数。
常数π、e和系数2等值的有效位数也可视为无限多位；含量测定项下“每1ml的XXXX滴定液（0.1mol/L）……”中的“0.1”为名义浓度，规格项下的“0.3g”或“1ml：25mg”中的“0.3”、“1”和“25”为标示量，其有效位数也均为无限多位；即在计算中，其有效位数应根据其他数值的最少有效位数而定。
检测结果数值修约与有效数字保留
检测结果数值修约与有效数字保留1目的保证检测结果能够合理地反映测量精度。
2范围适用于大连环境事业部。
3规范性引用文件《地表水和污水监测技术规范》（HJ/T91-2002）《地下水环境监测技术规范》（HJ/T164-2004）《海洋监测规范》（GB17378.2-2007）《数值修约规则与极限数值的表示和判定》（GB/T8170-2008）4定义4.1有效数字所谓有效数字：具体地说，是指在分析工作中实际能够测量到的数字。
我们把通过直读获得的准确数字叫做可靠数字；把通过估读得到的那部分数字叫做存疑数字。
把测量结果中能够反映被测量大小的带有一位存疑数字的全部数字叫有效数字。
5内容5.1有效数字的判断5.1.1第一个非零数字前的零不是有效数字.5.1.2第一个非零数字以及之后的所有数字(包括零)都是有效数字.5.1.3当计算的数值为lg或者pH、pOH等对数时，由于小数点以前的部分只表示数量级，故有效数字位数仅由小数点后的数字决定。
例如lgx=9.04为2位有效数字，pH=7.355为三位有效数字。
5.1.4л等常数，具有无限位数的有效数字，在运算时可根据需要取适当的位数。
5.2有效数字的处理5.2.1数据的修约应采用“四舍六入五成双”的原则。
5.2.2拟舍弃数字的最左一位数字小于5，则舍去，保留其余各位数字不变。
5.2.3拟舍弃数字的最左一位数字大于5，则进一，即保留数字的末位数字加1。
5.2.4拟舍弃数字的最左一位数字是5，且其后有非0数字时进一，即保留数字的末位数字加1。
5.2.5拟舍弃数字的最左一位数字是5，且其后无数字或者皆为0时，若保留的末位数字为奇数（1，3，5，7，9）则进一；若所保留的末位数字为偶数（0，2，4，6，8），则舍去。
5.2.6有效数字的修约是按照“四舍六入五成双”的原则一次修约的结果，不得多次按“四舍六入五成双”的原则连续修约。
如：97.46保留2位有效数字正确的做法：97.46→97不正确的做法：97.46→97.5→985.3有效数字运算规则5.3.1许多数值相加减时，每个数及它们的和或差的有效数字保留，以小数点后面有效数字位数最少的数据为准。
有效数字和数值的修约及其运算1
有效数字的修约及其运算规则本规程系根据中国药典2015年版和国家标准GB 8170-2008《数值修约规则》制订，适用于药检工作中除生物检定统计法以外的各种测量或计算而得的数值。
有效数字：是指在分析工作中实际能够测量到的数字。
其中包括所有的准确数字和最后一位可疑数字。
保留有效数字的位数，受到测量仪器的精度和分析方法的准确度限制。
因此，有效数字不仅反应数值的大小，还反应了测量结果的准确度。
1.数字的俢约：根据有效数字的要求把多余数字的处理过程称为数字的俢约。
2.修约间隔修约值的最小数值单位。
注:修约间隔的数值一经确定，修约值即为该数值的整数倍。
例1:如指定修约间隔为0.1，修约值应在0.1的整数倍中选取，相当于将数值修约到一位小数。
例2:如指定修约间隔为100，修约值应在10的整数倍中选取，相当于将数值修约到“百”数位。
3. 2有效数字俢约规则：按照国家标准GB8170-2008《数字俢约规则》，“采用四舍六入五留双”的规则。
3.2.1被俢约的数字小于4或等于4时，则该数字舍去。
3.2.2被俢约的数字大于6或等于6时，则进1。
3.2.3被俢约的数字等于5时，若5后数字不为零，则进1；若5后无数字或零，则看5前一位数字，前一位是奇数则进1，是偶数则舍去。
3.2.4拟舍弃数字的最左一位数字为5，且其后无数字或皆为0时，若所保留的末位数字为奇数(1,3,5,7,9)则进一，即保留数字的末位数字加1;若所保留的末位数字为偶数((0,2,4,6,8)，则舍去。
例如：将下列数据俢约为四位有效数字2.87435 2.8740.37426 0.37431.50250 1.5021.50150 1.5022.38351 2.3844.5245 4.5243.2.5负数修约时，先将它的绝对值按3.2.1～3.2.4的规定进行修约，然后在所得值前面加上负号。
例1:将下列数字修约到“十”数位:拟修约数值修约值-355 -36× 10(特定场合可写为-360)-325 -32 × 10(特定场合可写为-320)例2:将下列数字修约到三位小数，即修约间隔为10-3；拟修约数值修约值-0.036 5 -36 × 10-3(特定场合可写为-0. 036)3. 3不允许连续修约3.3.1拟修约数字应在确定修约间隔或指定修约数位后一次修约获得结果，不得多次按3. 2规则连续修约。
有效数字及数值修约在分析测试中的应用
2010年12月有效数字及数值修约在分析测试中的应用89有效数字及数值修约在分析测试中的应用李瑞林1丁教2(1．江西省九江市产品质量监督检验所，332000；2．江西省化工化肥农药质检站，330029)摘要：本文介绍了有效数字、数值修约规则、检测结果的判定以及在分析测试中的应用。
关键词：有效数字数值修约分析测试应用0引言由于测量所得数值的有效位数标志着测量值的可靠程度，因此，当一些准确度不同的数值进行运算时，需遵守一定的规则，以使运算结果能真实反映实际测量的准确度，获得最合理、可靠的分析结果。
之所以要进行数值修约，是因为修约前的数值有效位数过多，没有必要或没有意义，反而给计算带来不必要的麻烦，增加计算错误的几率，因此将其修约到必要的有效位数。
分析测试中所得数据，应按规定经过一定处理后，才能形成正式的检测报告。
因此，对于分析测试人员，必须掌握其应用。
1有效数字在产品质量检验中，为了得到准确的检验结果，不仅要准确地测量各种数据，而且还要正确地记录和计算。
记录数据和计算结果究竟应该保留几位数字?这需视测量方法和使用仪器的精度来决定。
有的检验人员认为记录数据和计算结果报的位数越多越准确，其实不然。
由于仪器和我们感官的分析能力都受到限制，在测试中只能读取一定位数的数字。
读取数字的位数过多，不但不能提高测量结果的精确度，反而使计算工作量大大增加，而且还常常出错，读数位数过少，则表达不出测量的精确度。
为了确切表达测量结果数字的位数，先给出有效数字的概念。
一般地说，如果测量结果的极限误差是在某一位上的半个单位之内，则从测量结果的第一个不是零的数字起到最末一位数字止的所有数字，都是有效数字。
通俗讲，有效数字就是只保留末一位不准确数字，其余数字均为准确数字。
例如3．2、0．32、0．032、0．0032均为两位有效数字；12．490和10．00分别为五位有效数字和四位有效数字。
由此看来，有效数字不仅反映数量大小，而且也反映测量结果的精确度。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
13
有效数字和数值修约
➢修约规则
在未特别指明修约单位的情况下,一般都按“1” 单位修约进行
修约 拟修约 修约值
备注
规则
数值 (修约间隔0.1)
四要舍 14.234 2 14.2 包括4及4以下
指定修约间隔为10±n （n为正整数，包 括0），按“1”单位修约 ① 指定修约间隔为10-n，或指明将数值修 约到小数点后n位 ② 指定修约间隔为1（n为0），或指明将 数值修约到个数位
11
有效数字和数值修约
③ 指定修约间隔为10n，或指明将数值修 约到10n数位，或指明将数值修约到十、 百、千……数位
n=1 101=10
十数位
n=2 102=100 百数位
n=-1 10-1=0.1 十分位
n=-2 10-2=0.01 百分位
3
有效数字和数值修约
(一) 基本概念 ➢3、有效位数 ①没有小数位且以若干个零结尾的数值
从非零数字最左一位向右数得到的位数 减去无效零的个数
4
有效数字和数值修约
35000 若有两个无效零，为三位有效位数， 写作350×102或3.50×104 若有三个无效零，为两位有效位数， 写作35×103或3.5×104
常数π
规格项 0.3g
1ml:25mg
7
有效数字和数值修约
➢有效位数 ④有效数字的首位数字为8或9时，
其有效位数可以多计一位 85% 115% 三位有效位数 99.0% 110.0% 四位有效位数
8
有效数字和数值修约
(二)数值修约
GB8170—1987数值修约规则
对拟修约数值中超出需要保留位数时的 舍弃，根据舍弃数来保留最后一位数或 最后几位数
或只舍不进
修约值
只舍不进
② 含量≥99.8% 99.7%
(不合格)
相对标准偏差
实测值99.78% 0.162%
0.17% 0.6%
只进不舍
0.52%
16
有效数字和数值修约
（三）运算规则 ➢加减运算
以绝对误差最大（欠准数字的数位最大） 的数值为准，确定其它数值保留的数位 和计算结果的有效数位 13.65（百分位）+0.00823+1.633 13.65+0.008+1.633=15.291→15.29
17
有效数字和数值修约
（三）运算规则 ➢乘除运算
以相对误差最大（有效位数最少）的数 值为准，确定其它数值保留数位和计算 结果的有效数位 14.131×0.07654÷0.78（两位） 14.1×0.0765÷0.78=1.38→1.4
18
有效数字和数值修约
（四）注意事项 ➢ 1 正确记录检测所得的数值
有效数字和数值修约
(一)基本概念 (二)数值修约 (三)运算规则 (四)注意事项
1
有效数字和数值修约
(一) 基本概念 ➢1、有效数字
由可靠数字和最后一位不确定数字组成 的数值（只含有一位可疑数字的数值） ➢2、有效数字定位(数位) 确定欠准数字的位置
2
有效数字和数值修约
欠准数字的位置可以是十进位的任何数 位，用10n来表示，n可以是正整数，也 可以是负整数
5
有效数字和数值修约
➢有效位数 ②其它十进位数值
从非零数字最左一位向右数而得到的位数 3.2 0.32 0.032 0.0032 两位有效数字 3.20 三位有效数字 10.00 四位有效数字 12.490 五位有效数字
6
有效数字和数值修约
➢有效位数
③非连续型数值（如个数、分数、倍 数）
没有欠准数字，其有效位可视为无限 多，在计算中应根据其他数值的最少 有效位数而定
六应入 18.484 3 18.5 包括6及6以上
14
有效数字和数值修约
修约 规则
五后有数进一 五后为零看左方
左为奇数进一 左为偶数舍去
一次修约
拟修约 数值
修约值
(修约间隔 0.1)
备注
14.051 2 14.1
1.350 0 1.4 进与舍，以结果
1.450 0 1.4 为偶数为准
1.050 0 1.0 0 视为偶数
根据取样量、量具的精度、检测方法的 允许误差和标准中的限度规定，确定数 字的有效位数，检测值必须与测量的准 确度相符合，记录全部准确数字和一位 欠准数字
19
有效数字和数值修约
➢2 正确掌握和运用规则 ①进行计算时，应执行进舍规则和运算规
则 ②用计算器计算时，也应将计算结果经修
约后记录 ③工作站出的数据，可按有效数字修约原
21
有效数字和数值修约
量取5ml 选用5～10ml的量筒 量取5.0ml 选用5～10ml的刻度吸管 量取5.00ml 选用5ml的移液管
22
有效数字和数值修约
▪ 4 测量数据记录
▪ 滴定管 5ml以上
➢修约间隔 确定修约保留位数的一个数值，确定后 修约值即为该数值的整数倍
9
有效数字和数值修约
被修约数值
修约值
修约值
(修约间隔为0.1) (修约间隔为10)
122.23
122.2
12×10
125.00
125.0
12×10
115.00
115.0
12×10
10
有效数字和数值修约
➢ 确定修约位数的表达方式 1. 指定数位
1.545 46 1.5 不能依次修约 1.54546→1.545
5→1.546→1.55
Байду номын сангаас→1.6
15
有效数字和数值修约
修约规则
拟修约数值
修约值
备注
在涉及安全或 ① 室内空气CO
已知极限的情
最高容许含
况下,只单项修
量30mg/m3
约:
实测值
修约值
只进不舍
只进不舍
30.4mg/m3 31mg/m3 (不合格)
则修约后判定
20
有效数字和数值修约
➢3 根据取样的要求，选择相应的量具
✓ “精密称定”系指称取重量应准确至所取重量 的千分之一，可根据称量选用分析天平
✓ “精密量取”系指量取体积的准确度应符合规 定标准中对该体积移液管的精度要求
✓ “称定”系指称取重量应准确至所取重量的千 分之一
✓ “量取”系指可用量筒或按照量取体积的有效 数位选用量具
2. 指定将数值修约成n位有效位数（n为正 整数）
非1单位修约（0.5单位和0.2单位修约）
12
有效数字和数值修约
▪ 熔点测定结果修约间隔为0.5 ▪ 0.1～0.2℃舍去，0.3～0.7℃修约为0.5 ℃，
0.8～0.9℃进为1℃，并以修约后的数据报告 ▪ 当标准规定的熔点范围其有效数字的定位为