有效数字及数值修约
有效数字及有效数字计算修约基础知识

有效数字及有效数字计算、修约基础知识一、有效数字1、末的概念末:指任何一个数最末一位数字所对应的单位量值。
例:用分度值为0.1mm的卡尺测量物体的长度,结果为19.8mm,最末一位的量值0.8mm,即为最末一位数8与所对应的单位量0.1mm的乘积,故19.8mm的末为0.1mm。
2、有效数字的界定1~9都为有效数字,数字之间的0、末尾的0也为。
二、近似数计算1、“+-”以小数位数最少为准,修约比该数多一位,计算后修约以小数点最少数的位数为准。
如:18.3+1.4545+0.876≈18.3+1.45+0.88=20.63≈20.62、“×÷”各数修约到有效数字最少多一位,最后结果以有效数字最少的那个为准。
如:3.670×45.3×5.6735≈3.670×45.3×5.674=943.31≈9433、乘方、开方,参加运算有几位有效数字,结果就得保留几位数字。
81=9.000 9.002=81.0.00如几级运算,乘方开方多保留一位。
0.81+4.359=9.000=4.3594、混合运算:不管如何运算,结果必须以位数最少为准。
三、修约规则1、舍去数第一位小于5则舍,大于5则进。
4.254→4.25 38.735→392、舍去数第一位为5,5后并非全为0则进。
9.55033→9.63、舍去数第一位为5,5后无数或全为0,奇进偶舍。
0.0415→0.042 0.0425→0.0424、注意不得连续修约。
如:37.4546→37.455→37.46→37.5→385、按GB 8170-2008《数值修约规则》对“1”“2”“5”修约间隔做了规定,即k×10n(k=1、2、5,n为正、负整数)另外,0.5、0.2修给采用分别乘以2与5,修约后再除以2与5来修约。
如:以0.5修约60.2560.25×2得120.5修约为120,再除以2得60.0练习题:一、说出下列数值有几位有效数字?1、60.0002、0.60003、0.06004、6.001×107二、近似数计算:1、19.3+1.5837+0.9762、3.780×47.5×6.57453、00025.三、数值修约:1、5.256、5.254、5.255、5.265保留三位有效数字?2、60.25以0.2修约。
有效数字和数值的修约

有效数字和数值的修约一、目的阐述如何把数字修约至适当的有效位数从而得出合理的报告结果.二、定义1、有效数字在检验工作中所能得到的有实际意义的数值,其最后一位数字牵住你是允许的,这种由可靠数字和最后一位估计值组成的数值,即为有效数字。
2、有效数位从左边第一个非零数字算起,所有的有效数字的个数。
3、数字修约对拟修约数值中超出需要保留位数时的舍弃,根据保留位数来保留最后一位或最后几位数。
4、测量的估计值在测量过程中介于测量/称量器具最小分度值之间的数值为估计值。
5、报告阈值为一限度,高于此限度的杂质需要报告6、忽略限为一限度,在色谱检测中,等于或小于此数值的峰/信号不被计入总杂质中。
通常情况下,忽略限与报告阈值是相同的。
7、积分阈值为一限度,在色谱检测中,数据采集系统设置的阈值,至少为报告阈值的一半。
三、读数的规定1、对于有数显的测量/称量器具,直接读取数值并记录。
(天平的使用,直接读取数值)2、对于非数显的测量/称量器具,仪器读数的最后一位是读数误差所在的一位。
最小分度值的末位为1,则其读数记录至下一位的估值;否则,则其读数记录至相同位的估计值。
①最小分度值的末位为1,按1/10估读原则;例如:分度值为0。
1ml的滴定管,读数的最小估计值为0。
01ml.可以读为0.15ml.②最小分度值的末位为2,按1/2估读原则;例如:分度值为0。
2的称读数的最小估值为0.1kg.可以读为0.3kg、0。
4kg、不能读0。
35kg。
③最小分度值末位为5,按1/5估读原则。
例如:机械称最小分度值为5g,游码刻度值在5g-10g 之间,可以读为6g、7g、8g,不能读5。
5g。
④最小分度值为50,按1/5估读原则。
最小分度值为200,按1/2估读原则。
四、修约规定1、四舍五入原则。
例如:将下列数字修约为四位有效数字,结果为0。
53664---———0。
536612.7450——---—12。
752、拟修约数字应在确定修约位数后一次修约获得结果,不允许多次按规则修约.例如:将下列数字保留为两位有效数字17。
有效数字和数值的修约及其运算

有效数字和数值的修约及其运算本规程系根据中国药典2010年版凡例和国家标准GB 8170-2008《数值修约规则与极限数值的表示和判定》制订,适用于药检工作中除生物检定统计法以外的各种测量或计算而得的数值。
1.数值修约通过省略原数值的最后若干位数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。
2.修约间隔确定修约保留位数的一种方法。
注:修约间隔的数值一经确定,修约值即为该数值的整数倍。
例1:如指定修约间隔为0.1,修约值应在0.1的整数倍中选取,相当于将数值修约到一位小数。
例2:如指定修约间隔为100,修约值应在100的整数倍中选取,相当于将数值修约到“百”数位。
2.3极限数值limiting values标准(或技术规范)中规定考核的以数量形式给出且符合该标准(或技术规范)要求的指标数值范围的界限值。
3数值修约规则3. 1确定修约间隔a)指定修约间隔为10-n(n为正整数),或指明将数值修约到n位小数;b)指定修约间隔为1,或指明将数值修约到“个”数位;c)指定修约间隔为10n (n为正整数),或指明将数值修约到10n数位,或指明将数值修约到“十”、“百”、“千”……数位。
3. 2进舍规则3.2.1拟舍弃数字的最左一位数字小于5,则舍去,保留其余各位数字不变。
例:将12. 149 8修约到个数位,得12;将12. 149 8修约到一位小数,得12.l。
3.2.2拟舍弃数字的最左一位数字大于5,则进一,即保留数字的末位数字加1.例:将1 268修约到“百”数位,得13 × 102(特定场合可写为1 300)。
注:本标准示例中,“特定场合”系指修约间隔明确时。
3.2.3拟舍弃数字的最左一位数字是5,且其后有非0数字时进一,即保留数字的末位数字加1。
例:将10. 500 2修约到个数位,得1。
3.2.4拟舍弃数字的最左一位数字为5,且其后无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,即保留数字的末位数字加1;若所保留的末位数字为偶数((0,2,4,6,8),则舍去。
有效数字、数值修约及运算法则

数值修约及其进舍规则
拟舍弃数字的最左一位数字为5,而右面无 数字或皆为0时,若所保留末位数为奇数(1, 3,5,7,9)则进一,为偶数(2,4,6, 8,0)则舍弃。 修约间隔(rounding interval)—— 修约 值的最小数值单位。属于确定修约保留位数 的一种方式。 注:修约间隔的数值一经确定,修约值即
质量控制部 2013.04.25
主要依据
中国药典2010 年版“凡例” 中国药品检验操作规范(2010年 版) 国家标准GB8170—2008《数值 修约规程》
主要适用于
适用于药检工作中除生物检定统 计法以外的各种测量或计算而得 的数值。
有效数字的基本概念
注意事项
要根据取样的要求,选择相应的量具。
( 1 ) “精密称定”系指称取重量应准确到所取 重量的 0.1%,可根据称量选用分析天平或半微量 分析天平;“精密量取”应选用符合国家标准的移 液管;必要时应加校正值。 ( 2 )“称定”(或“量取”)系指称取的重量 (或量取的容量)应准确至所取重量(或容量)的 百分之一。
甲氧基、乙氧基和羟丙基测定法(P187189)
气相色谱法:供试品应测定2份,相对偏差 不得过2.0%; 容量法:供试品应测定2份,相对偏差不得 过0.5%;
干燥失重测定法(二部P221)
供试品称取:干燥失重在1.0%以下的品种 可只做一份,1.0%以上的品种应同时做平 行实验两份。 干燥至恒重,除另有规定外,系指在规定条 件下连续两次干燥后称重的差异在0.3mg以 下。
数值修约及其进舍规则
数值修约
是指对拟修约数值中超出需要保留位数时的 舍弃,根据舍弃学来保留最后一位数或最后 几位数。
有效数字及有效数字计算修约基础知识

有效数字及有效数字计算、修约基础知识一、有效数字1、末的概念末:指任何一个数最末一位数字所对应的单位量值。
例:用分度值为0.1mm的卡尺测量物体的长度,结果为19.8mm,最末一位的量值0.8mm,即为最末一位数8与所对应的单位量0.1mm的乘积,故19.8mm的末为0.1mm。
2、有效数字的界定1~9都为有效数字,数字之间的0、末尾的0也为。
二、近似数计算1、“+-”以小数位数最少为准,修约比该数多一位,计算后修约以小数点最少数的位数为准。
如:18.3+1.4545+0.876≈18.3+1.45+0.88=20.63≈20.62、“×÷”各数修约到有效数字最少多一位,最后结果以有效数字最少的那个为准。
如:3.670×45.3×5.6735≈3.670×45.3×5.674=943.31≈9433、乘方、开方,参加运算有几位有效数字,结果就得保留几位数字。
81=9.000 9.002=81.0.00如几级运算,乘方开方多保留一位。
0.81+4.359=9.000=4.3594、混合运算:不管如何运算,结果必须以位数最少为准。
三、修约规则1、舍去数第一位小于5则舍,大于5则进。
4.254→4.25 38.735→392、舍去数第一位为5,5后并非全为0则进。
9.55033→9.63、舍去数第一位为5,5后无数或全为0,奇进偶舍。
0.0415→0.042 0.0425→0.0424、注意不得连续修约。
如:37.4546→37.455→37.46→37.5→385、按GB 8170-2008《数值修约规则》对“1”“2”“5”修约间隔做了规定,即k×10n(k=1、2、5,n为正、负整数)另外,0.5、0.2修给采用分别乘以2与5,修约后再除以2与5来修约。
如:以0.5修约60.2560.25×2得120.5修约为120,再除以2得60.0练习题:一、说出下列数值有几位有效数字?1、60.0002、0.60003、0.06004、6.001×107二、近似数计算:1、19.3+1.5837+0.9762、3.780×47.5×6.57453、00025.三、数值修约:1、5.256、5.254、5.255、5.265保留三位有效数字?2、60.25以0.2修约。
检测结果数值修约与有效数字保留

检测结果数值修约与有效数字保留1目的保证检测结果能够合理地反映测量精度。
2范围适用于大连环境事业部。
3规范性引用文件《地表水和污水监测技术规范》(HJ/T91-2002)《地下水环境监测技术规范》(HJ/T164-2004)《海洋监测规范》(GB17378.2-2007)《数值修约规则与极限数值的表示和判定》(GB/T8170-2008)4定义4.1有效数字所谓有效数字:具体地说,是指在分析工作中实际能够测量到的数字。
我们把通过直读获得的准确数字叫做可靠数字;把通过估读得到的那部分数字叫做存疑数字。
把测量结果中能够反映被测量大小的带有一位存疑数字的全部数字叫有效数字。
5内容5.1有效数字的判断5.1.1第一个非零数字前的零不是有效数字.5.1.2第一个非零数字以及之后的所有数字(包括零)都是有效数字.5.1.3当计算的数值为lg或者pH、pOH等对数时,由于小数点以前的部分只表示数量级,故有效数字位数仅由小数点后的数字决定。
例如lgx=9.04为2位有效数字,pH=7.355为三位有效数字。
5.1.4л等常数,具有无限位数的有效数字,在运算时可根据需要取适当的位数。
5.2有效数字的处理5.2.1数据的修约应采用“四舍六入五成双”的原则。
5.2.2拟舍弃数字的最左一位数字小于5,则舍去,保留其余各位数字不变。
5.2.3拟舍弃数字的最左一位数字大于5,则进一,即保留数字的末位数字加1。
5.2.4拟舍弃数字的最左一位数字是5,且其后有非0数字时进一,即保留数字的末位数字加1。
5.2.5拟舍弃数字的最左一位数字是5,且其后无数字或者皆为0时,若保留的末位数字为奇数(1,3,5,7,9)则进一;若所保留的末位数字为偶数(0,2,4,6,8),则舍去。
5.2.6有效数字的修约是按照“四舍六入五成双”的原则一次修约的结果,不得多次按“四舍六入五成双”的原则连续修约。
如:97.46保留2位有效数字正确的做法:97.46→97不正确的做法:97.46→97.5→985.3有效数字运算规则5.3.1许多数值相加减时,每个数及它们的和或差的有效数字保留,以小数点后面有效数字位数最少的数据为准。
有效数字和数值的修约及其运算1

有效数字的修约及其运算规则本规程系根据中国药典2015年版和国家标准GB 8170-2008《数值修约规则》制订,适用于药检工作中除生物检定统计法以外的各种测量或计算而得的数值。
有效数字:是指在分析工作中实际能够测量到的数字。
其中包括所有的准确数字和最后一位可疑数字。
保留有效数字的位数,受到测量仪器的精度和分析方法的准确度限制。
因此,有效数字不仅反应数值的大小,还反应了测量结果的准确度。
1.数字的俢约:根据有效数字的要求把多余数字的处理过程称为数字的俢约。
2.修约间隔修约值的最小数值单位。
注:修约间隔的数值一经确定,修约值即为该数值的整数倍。
例1:如指定修约间隔为0.1,修约值应在0.1的整数倍中选取,相当于将数值修约到一位小数。
例2:如指定修约间隔为100,修约值应在10的整数倍中选取,相当于将数值修约到“百”数位。
3. 2有效数字俢约规则:按照国家标准GB8170-2008《数字俢约规则》,“采用四舍六入五留双”的规则。
3.2.1被俢约的数字小于4或等于4时,则该数字舍去。
3.2.2被俢约的数字大于6或等于6时,则进1。
3.2.3被俢约的数字等于5时,若5后数字不为零,则进1;若5后无数字或零,则看5前一位数字,前一位是奇数则进1,是偶数则舍去。
3.2.4拟舍弃数字的最左一位数字为5,且其后无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,即保留数字的末位数字加1;若所保留的末位数字为偶数((0,2,4,6,8),则舍去。
例如:将下列数据俢约为四位有效数字2.87435 2.8740.37426 0.37431.50250 1.5021.50150 1.5022.38351 2.3844.5245 4.5243.2.5负数修约时,先将它的绝对值按3.2.1~3.2.4的规定进行修约,然后在所得值前面加上负号。
例1:将下列数字修约到“十”数位:拟修约数值修约值-355 -36× 10(特定场合可写为-360)-325 -32 × 10(特定场合可写为-320)例2:将下列数字修约到三位小数,即修约间隔为10-3;拟修约数值修约值-0.036 5 -36 × 10-3(特定场合可写为-0. 036)3. 3不允许连续修约3.3.1拟修约数字应在确定修约间隔或指定修约数位后一次修约获得结果,不得多次按3. 2规则连续修约。
有效数字和数字修约

有效数字和数值的修约1.有效数字的基本概念1.1定义:系指在检验工作中所能得到有实际意义的数值。
其最后一位数字欠准是允许的,这种由可靠数字和最后一位欠准数字组成的数值,即为有效数字。
最后一位数字的欠准程度通常只能是上下差1个单位1.2有效数字的定位(位数),是指确定欠准数字的位置。
这个位置确定后,其后面的数字均为无效数字。
欠准数字的位置可以由十进位的任何数位,用10n来表示:n可以是正整数,如n=1、101=10(十位数),n=2、102=100(百位数),······;n可以是负数,如n=-1、10-1=0.1(十分位),n=-2、10-2=0.01(百分位),······。
1.3有效位数1.3.1在其他十进位数中,有效位数系指从非零数字最左一位向右数得到的位数。
例如:2.6、0.26、0.026、0.0026均为两位有效位数,0.260为三位有效位数,2.600为四位有效位数。
1.3.2非连续型数值(个数、分数、倍数、名义浓度或标示量)是没有欠准数字的,其有效位数可视为无限多位。
例如:H2SO4、π、含量测定项下“每1ml的xx滴定液(0.1mol/l)中,1为位数,0.1为名义浓度,其有效位数为无限位。
1.3.3 pH等对数值,其有效位数是由小数点后的位数决定的,其整数部分只表明其真数的乘方次数。
(pH=6.32)1.3.4有效数字首位数字为8或9时,其有效数字要多计一位。
例如:85%、105%,都是三位有效数字,95.0%、101.0%都是四位有效数字。
2. 数值的修约及进舍规则2.1 定义:指对拟修约数值中超出需保留位数时的舍弃,根据舍弃数来保留最后一位数或最后几位数。
2.2修约间隔:是确定修约保留位数的一种方式,修约间隔的数值一经确定,修约值应为该数值的整数倍。
例如:指定修约间隔为0.1,修约值应在0.1的整数倍中选取,也就是说,将数值修约到小数点后一位。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
有效数字定义:
通常把只保留最后一位不准确数字,而其余数字均为准确数字的这种数字称为有效数字。
也就是说,有效数字是实际上能测出的数字。
例如,我们用毫米尺测量一个物体的长度,读出物体的长度为32.31 cm,这个读数的前三位32.3 cm是直接从尺上读出,称为可靠数字,而最末一位0.0l cm则是从尺上最小刻度之间估计来的,称为存疑数字。
可靠数字和存疑数字合起来,称为有效数字,所以,32.31cm 一共有四位有效数字。
但是,如果用其他精确度高一些的仪器(如大型千分尺),还能够更准确地进行测量。
例如,测得的数值为32.3142 cm,这时有效数字增加到六位。
可见,有效数字的多少,表示了测量所能达到的准确程度,与一定的测量工具有关。
2.有效数字位
对于一个有效数字,从左边的第一个非零数字算起,到最末一位数字为止,有几位数即为几位有效数字。
例如:
7.4000 54609 5位有效数字
33.15 0.07020 4位有效数字
0.0276 2.56×10-4 3位有效数字
49 0.00040 2位有效数字
0.003 4×105 1位有效数字
63000 200 有效数字位数不定
“0”在有效数字中的作用
(1)“0”在数字前,仅起定位作用,“0”本身不是有效数字,如0.0275中,数字2前面的两个0都不是有效数字,这个数的有效数字只有3位。
(2)“0”在数字中,是有效数字。
如2.0065中的两个0都是有效数字,2.0065有5位有效数字。
(3)“0”在小数的数字后,也是有效数字如6.5000中的3个0都是有效数字。
0.0030中数字3前面的3个0不是有效数字,3后面的0是有效数字。
所以,6.5000是5位有效数字。
0.0030是2位有效数字(4)以“0”结尾的正整数,有效数字的位数不定。
如54000,可能是2位,3位或4位甚至5位有效数字。
这种数应根据有效数字的情况改写为指数形式。
如为2位,则写成5.4×104;如为3位,则写成5.40×104,等等。
有效数字的计算规则
(1) 进行数值加减时,结果保留小数点后位数应与小数点位数最少者相同。
例如, 0.0121+12.56+7.8432
可先修约后计算,即
0.01+12.56+7.84=20.41
(2) 进行数值乘除时,结果保留位数应与有效数字位数最少者相同。
例如, (0.0142×24.43×305.84)/28.67
可先修约后计算,
(0.0142×24.4×306)/28.7=3.69。
(3) 进行数值乘方或开方时, 结果有效数字位数不变。
例如, 6.542=42.8
数值修约:
现在被广泛使用的修约规则主要有四舍五入规则和四舍六入五留双规则。
1. 拟舍弃数字的最左一位数字小于5时则舍去,即保留的各位数字不变。
2.拟舍弃数字的最左一位数字大于5;或等于5,而其后跟有并非全部为0的数字时则进一即保留的末位数字加1。
3.拟舍弃数字的最左一位数字等于5,而右面无数字或皆为0时,若所保留的末位数字为奇数则进一,为偶数(包含0)则舍弃。
4.负数修约时,取绝对值按照上述1~3规定进行修约,再加上负号。
不允许连续修约
数值修约简明记忆口诀:
「4舍6入5看右,5后有数进上去,尾数为0向左看,左数奇进偶舍弃」。
四舍六入五留双规则的具体方法是:
(一)当尾数小于或等于4时,直接将尾数舍去。
例如将下列数字全部修约为四位有效数字,结果为:
0.53664——0.5366 10.2731——10.27 18.5049——18.50 0.58344——0.5834 16.4005——16.40
(二)当尾数大于或等于6时,将尾数舍去并向前一位进位。
例如将下列数字全部修约为四位有效数字,结果为:
0.53666——0.5367 8.3176——8.318 16.7777——16.78 0.58387——0.5839 10.29501——10.30
(三)当尾数为5,而尾数后面的数字均为0时,应看尾数“5”的前一位:若前一位数字此时为奇数,就应向前进一位;若前一位数字此时为偶数,则应将尾数舍去。
数字“0”在此时应被视为偶数。
例如将下列数字全部修约为四位有效数字,结果为:
0.153050——0.1530 12.6450——12.64 18.2750——18.28 0.153750——0.1538 12.7350——12.74
(四)当尾数为5,而尾数“5”的后面还有任何不是0的数字时,无论前一位在此时为奇数还是偶数,也无论“5”后面不为0的数字在哪一位上,都应向前进一位。
例如将下列数字全部修约为四位有效数字,结果为:
0.326552——0.3266 12.73507——12.74 21.84502——21.85 12.64501——12.65 18.27509——18.28
按照四舍六入五留双规则进行数字修约时,一次性修约到指定的位数,不可以进行数次修约,否则得到的结果也有可能是错误的。
例如:
将数字10.2749945001修约为四位有效数字时,应一步到位:10.2749945001——10.27(正确)。
10.2749945001——10.274995——10.275——10.28(错误)。