有效数字运算及修约
有效数字及有效数字计算修约基础知识

有效数字及有效数字计算、修约基础知识一、有效数字1、末的概念末:指任何一个数最末一位数字所对应的单位量值。
例:用分度值为0.1mm的卡尺测量物体的长度,结果为19.8mm,最末一位的量值0.8mm,即为最末一位数8与所对应的单位量0.1mm的乘积,故19.8mm的末为0.1mm。
2、有效数字的界定1~9都为有效数字,数字之间的0、末尾的0也为。
二、近似数计算1、“+-”以小数位数最少为准,修约比该数多一位,计算后修约以小数点最少数的位数为准。
如:18.3+1.4545+0.876≈18.3+1.45+0.88=20.63≈20.62、“×÷”各数修约到有效数字最少多一位,最后结果以有效数字最少的那个为准。
如:3.670×45.3×5.6735≈3.670×45.3×5.674=943.31≈9433、乘方、开方,参加运算有几位有效数字,结果就得保留几位数字。
81=9.000 9.002=81.0.00如几级运算,乘方开方多保留一位。
0.81+4.359=9.000=4.3594、混合运算:不管如何运算,结果必须以位数最少为准。
三、修约规则1、舍去数第一位小于5则舍,大于5则进。
4.254→4.25 38.735→392、舍去数第一位为5,5后并非全为0则进。
9.55033→9.63、舍去数第一位为5,5后无数或全为0,奇进偶舍。
0.0415→0.042 0.0425→0.0424、注意不得连续修约。
如:37.4546→37.455→37.46→37.5→385、按GB 8170-2008《数值修约规则》对“1”“2”“5”修约间隔做了规定,即k×10n(k=1、2、5,n为正、负整数)另外,0.5、0.2修给采用分别乘以2与5,修约后再除以2与5来修约。
如:以0.5修约60.2560.25×2得120.5修约为120,再除以2得60.0练习题:一、说出下列数值有几位有效数字?1、60.0002、0.60003、0.06004、6.001×107二、近似数计算:1、19.3+1.5837+0.9762、3.780×47.5×6.57453、00025.三、数值修约:1、5.256、5.254、5.255、5.265保留三位有效数字?2、60.25以0.2修约。
有效数字的修约规则

有效数字及计算规则有效数字是指能够代表一定的物理量的数字,即所有实际能测得的确定数字再加上一位不定数字。
例如在分析天平上称得某物重0.5020g,其中小数点后的前三位是确定的数字,而小数点后面第四位是估读的,因此这最后一位是不定数字。
小数点前的0不是有效数字,只起到定位作用,而小数点后面的两个0都是有效数字,故0.5020有四位有效数字。
有效数字的记录及计算规则如下:1、记录测量数据只应该保留一位不定数字。
如一般滴定管可以准确读至小数点后第一位数字,而第二位小数是估计值。
因此只能保留至第二位小数。
2、“四舍六入五单双”法则:(1)所拟舍去的数字中,其最左边的第一个数字小于5时,则舍去。
例如拟将14.2423修约只保留一位小数时,其所舍去的数字中最左边的第一个数字是4,则结果成为14.2。
(2)所拟舍去的数字中,其最左边的第一个数字大于5时,则进一。
例如拟将6.4843修约只保留数一位小数时,其所舍去的数字中最左边的第一个数字是8则结果成为6.5。
(3)所拟舍去的数字中,其最左边的第一个数字等于5而其后面的数字并非全部为0时,则进一。
例如拟将21.0501修约只保留数一位小数时,其所舍去的数字中最左边的第一个数字是5,5后面的数字还有01,则进1,则结果为21.1。
(4)所拟舍去的数字中,其最左边的第一个数字等于5而其后面的数字全部为0时,保留的数字末位如果为奇数则进1,如为偶数则不进(0以偶数论)。
例如将下列数字修约只保留一位小数。
10.05因保留的数字末位为0,以偶数论不进,成为10.010.15因保留的数字末位为1,奇数进1,成为10.210.25因保留的数字末位为2,偶数不进,成为10.210.45因45保留的末位数字是4,偶数不进,成为10.4(5)所以舍去的数字并非单独的一个数字时,不得对该数字进行连续的修约。
例如:将45.4565修约为整数,不能采取将45.4565---45.456---45.46---45.5---46的方法修约;正确的修约应为45.4565---45。
药检有效数字和数值的修约及其运算规则

药检有效数字和数值的修约及其运算规则一目的:制定有效数字和数值的修约及其运算规则,规范有效数字和数值的修约及其运算。
二适用范围:适用于有效数字和数值的修约及其运算。
三责任者:品控部。
四正文:本规程系根据中国兽药典2005年版“凡例”和国家标准GB8170-87《数值修约规程》制许,适用于药检工作中除生物检定统计法以外的各种测量或计算而得的数值。
1 有效数字的基本概念1.1 有效数字系指在检验工作中所能得到有实际意义的数值。
其最后位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。
最后一位数字的欠准程序通常只能是上下差1单位。
1.2 有效数字的字位(数位),是指确定欠准数字的位置。
这个位置确定后,其后面的数字均为无效数字。
欠准数字的位置可以是十进位的任何数位,用10n来表示:n可以是正整数,如n=1、101=10(十数位),n=2、102=100(百数位),……,n也可以是负数,如n= -1、10-1=0.1(十分位),n= -2、10-2=0.01(百分位),……,1.3 有效位数1.3.1 在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。
例如35000中若有两个无效零,则为三位有效位数,应写作350×102;若有三个无效零,则为两位有效位数,应写作35×102。
1.3.2 在其它十进位数中,有效数字系指从非零数字最左一位向右数而得到的位数。
例如3.2、0.32、0.032和0.0032均为两位有效位数,为0.320三位有效位数,10.00为四位有效位数,12.490为五位有效位数。
1.3.3 非连续型数值(如个数、分数、倍数)是没有欠准数字的,其有效位数可视为无限多位;例如分子式“H2SO4”中的“2”和“4”是个数。
常数π、e和系数2等值的有效位数也可视为无限多位;含量测定项下“每1ml的XXXX滴定液(0.1mol/L)……”中的“0.1”为名义浓度,规格项下的“0.3g”或“1ml:25mg”中的“0.3”、“1”和“25”为标示量,其有效位数也均为无限多位;即在计算中,其有效位数应根据其他数值的最少有效位数而定。
有效数字修约及运算

目的●正确地进行有效数字判定、修约及运算●规范取样规则依据●药典“凡例”●国家标准《数值修约规程》●《中国药品检定标准操作规范》●适用于药检工作中除生物检定统计法以外的各种测量或计算而得的数值。
主要内容1、有效数位的判断1.1有效数字的基本概念有效数字系指在药检工作中所能得到有实际意义的数值。
是由可靠数字和最后一位不确定数字组成的。
最后一位数字的欠准程度通常只能是上下差1单位。
1.2有效数位的判断1.2.1从非零数字最左一位向右数得到的位数减去无效零。
例:350×102 保留三位有效数,两个无效零。
35×103 保留二位有效数,三个无效零。
1.2.2从非零数字最左一位向右数而得到的位数。
例: 3.2 两位有效数字0.032 两位有效数字0.0320 三位有效数字1.2.3有效位数可视为无限多位的1.2.3.1 非连续型数值(如个数、分数、倍数)1.2.3.2 常数π,e和系数√21.2.3.3 (0.1 mol/L)滴定液的名义值1.2.3.4 规格、标示量1.2.4 pH值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。
例:pH=11.26([H+]=5.5×10-12 mol/L),其有效位数只有两位。
1.2.5有效数字的首位数字为8或9时,其有效位数可以多计一位。
例:85% 三位有效位数115% 三位有效位数99.0% 四位有效数字101.0% 四位有效数字。
2、数值的修约及取舍规则进舍规则:四舍六入五考虑。
五后非零则进一,五后全零看五前,五前偶舍奇进一,不论数字多少位,都要一次修约成。
RSD修约:只进不舍例:0.163% 修约成2位有效数位→0.17%不许连续修约:拟修约数字应在确定修约位数后一次修约获得结果,而不得多次连续修约。
例:修约15.4546,修约间隔为 1正确的做法为:15.4546—15;不正确的做法为:15.4546→15.455→15.46→15.5→16修约间隔为0.5(熔点值修约)50.8、50.9 修约值为5150.1、50.2 修约为50。
有效数字修约和运算法则

•有效数字修约与运算法则• 1.有效数字的大体概念:•(1)有效数字是指在查验工作中所能取得有实际意义的数值,其最后一名数字欠准是允许的,这种由靠得住数字和最后一名不肯定数字组成的数值,即为有效数字。
•(2)有效数字的定位(数位),是指肯定欠准数字的位置,那个位置肯定后,其后面的数字均为无效数字。
•例如,一支25ml的滴定管,其最小刻度为,若是滴定管的体积介符于到之间,则需估量一名数字,读出,那个7就是个欠准的数字,那个位置肯定后,它有效位数就是4个,即便其后面还有数字也只是无效数字。
•(3)在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一名向右数取得的位数减去无效零(即仅为定位用的零)的个数。
•例如:35000,如有两个无效零,则为三位有效位数,应写作350×102或×104;如有三个无效零,则为两位有效位数,应写作35×103或×104。
•(4)在其他10进位数中,有效数字系指从非零数字最左一名向右数而取得的位数,例如:、、和均为两位有效位数;为三位有效位数;为四位有效位数;为五位有效位数。
•(5)非持续型数值:(如个数、分数、倍数)是没有欠准数字的,2其有效位数可视为无穷多位。
例如,H2SO4中的2和4是个数。
常数л和系数等。
数值的有效位数可视为无穷多位。
每1ml××滴定液(L)中的为名义浓度,规格项下的或“1ml:25mg”中的“”、“1”、“25”均为标示量,其有效位数,也为无穷多位。
即在计算中,其有效位数应按照其他数值的最少有效位数而定。
•(6)pH值等对数值,其有效位数是由其小数点后的位数决定的,其整数部份只表明其真数的乘方次数。
•如:pH= ([H+]=×10-12mol/L),其有效数字只有两位。
•(7)有效数字的首位数字为8或9时,其有效位数能够多计一名,例如:85%与115%,都能够看成是三位有效数字;%与%都能够看成是四位有效数字。
分析化学有效数字的修约与运算规则

分析化学有效数字的修约与运算规则摘要:监测工作过程中需要记取大量数据,所以要求工作人员提高记录数据的精确度和准确度,该文概述了化学有效数字运算法则及修约规则,并结合了实际监测数据做了详细分析,以便更加准备的做好监测工作。
关键词:有效数字准确度运算规则修约规则监测数据1.有效数字定义在监测工作中,需要记取很多读数,一般允许最后一位是估计的,虽不太准确,却不是任意的。
它们全都是有效的,所以称为有效数字,即指分析测量中所能得到的有实际意义的数字。
记录仪器的读数的有效数字位数由仪器的性能和测量方法的精密度决定,通常可估计到测量仪器最小刻度的十分位。
对于一个数来说,含有有效数的个数叫做这个数的准确度,而一个数的最后一个可靠数字相对于零的位置叫做这个数的精确度。
2.有效数字的运算法则监测分析中,试样的结果由以一系列测得的原始数据经一定计算公式的运算而求得。
在运算过程中,两数的相加减,应使它们有相同的精确度;两数相乘除,应使它们有相同的准确度,即每一个数都保留同样位数的有效数字。
近似运算中应遵循以下几点:(1)几个数相加减时:它们的和或差的有效数字保留的位数应以小数点后位数最少的那个数为依据。
在运算过程中看,可多保留一位小数,最后结果按修约规则取舍。
(2)做乘除运算时:有效数字的位数取决于相对误差最大的那个数或者有效数字位数最少的那个数。
要注意的是,乘除法前,应先将各近似值修约至比有效数字位数最少者多保留一位有效数字。
或每一个分步运算的结果,、应比有效数字位数最少的那个数多保留一位。
(3)做乘方和开方时:计算结果与原近似值的有效数字位数一致。
(4)做对数和反对数时:计算时,所取对数的小数点后的位数(不包括首数)应与真数的有效位数一致。
最常用的是pH与氢离子浓度的换算。
(5)算平均值时:求四个或四个以上准确度接近的近似值的平均值,其有效数字位数可增加一位。
3.数字修约规则进舍规则:在计算一组有效数字位数不同的数据以前,应该首先按照确定了的有效数字将多余的数字予以修约。
药检有效数字及数值的修约及其运算规则

药检有效数字和数值的修约及其运算规则一目的:制定有效数字和数值的修约及其运算规则,规范有效数字和数值的修约及其运算。
二适用范围:适用于有效数字和数值的修约及其运算。
三责任者:品控部。
四正文:本规程系根据中国兽药典2005年版“凡例”和国家标准GB8170-87《数值修约规程》制许,适用于药检工作中除生物检定统计法以外的各种测量或计算而得的数值。
1 有效数字的基本概念1.1 有效数字系指在检验工作中所能得到有实际意义的数值。
其最后位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。
最后一位数字的欠准程序通常只能是上下差1单位。
1.2 有效数字的字位(数位),是指确定欠准数字的位置。
这个位置确定后,其后面的数字均为无效数字。
欠准数字的位置可以是十进位的任何数位,用10n来表示:n可以是正整数,如n=1、101=10(十数位),n=2、102=100(百数位),……,n也可以是负数,如n= -1、10-1=0.1(十分位),n= -2、10-2=0.01(百分位),……,1.3 有效位数1.3.1 在没有小数位且以若干个零结尾的数值中,有效位数系指从非零数字最左一位向右数得到的位数减去无效零(即仅为定位用的零)的个数。
例如35000中若有两个无效零,则为三位有效位数,应写作350×102;若有三个无效零,则为两位有效位数,应写作35×102。
1.3.2 在其它十进位数中,有效数字系指从非零数字最左一位向右数而得到的位数。
例如3.2、0.32、0.032和0.0032均为两位有效位数,为0.320三位有效位数,10.00为四位有效位数,12.490为五位有效位数。
1.3.3 非连续型数值(如个数、分数、倍数)是没有欠准数字的,其有效位数可视为无限多位;例如分子式“H2SO4”中的“2”和“4”是个数。
常数π、e和系数2等值的有效位数也可视为无限多位;含量测定项下“每1ml的XXXX滴定液(0.1mol/L)……”中的“0.1”为名义浓度,规格项下的“0.3g”或“1ml:25mg”中的“0.3”、“1”和“25”为标示量,其有效位数也均为无限多位;即在计算中,其有效位数应根据其他数值的最少有效位数而定。
有效数字的修约和计算

1 有效数字的定义有效数字是指实际上能测量到的数值,在该数值中只有最后一位是可疑数字,其余的均为可靠数字。
它的实际意义在于有效数字能反映出测量时的准确程度。
例如:用最小刻度为0.1cm的直尺量出某物体的长度为11.23 cm。
显然这个数值的前3位数是准确的,而最后一位数字就不是那么可靠,因为它是测试者估计出来的,这个物体的长度可能是11.24cm,亦可能是11.22cm,测量的结果有±0.01cm的误差。
我们把这个数值的前面3位可靠数字和最后一位可疑数字称为有效数字。
在确定有效数字位数时,特别需要指出的是数字“0”来表示实际测量结果时,它便是有效数字。
例如:分析天平称得的物体质量为7.1560g滴定时滴定管读数为20.05mL这两个数值中的“0”都是有效数字在0.006g中的“0”只起到定位作用,不是有效数字有效位数及数据中的“0 ”:1.0005,五位有效数字0.5000,31.05% 四位有效数字0.0540, 1.86 三位有效数字0.0054,0.40% 两位有效数字0.5,0.002% 一位有效数字2 有效数字的计算规则2.1 有效数字的修约规则在运算时,按一定的规则舍入多余的尾数,称为数字的修约。
2.1.1 四舍六入五六双。
即测量数值中被修订的那个数,若小于等于4,则舍弃;若大于等于6,则进一;若等于5(5后无数或5后为0),5前面为偶数则舍弃,5前面为奇数则进一,当5后面还有不为0的任何数时,无论5前面是偶数还是奇数一律进一。
例如,将下列测量值修约为四位数:3.142 45 3.1423.215 60 3.2165.623 50 5.6245.624 50 5.6243.384 51 3.3853.384 5 3.3842.1.2 修约数字时,对原测量值要一次修约到所需位数,不能分次修约。
例如,将3.314 9 修约成三位数,不能先修约成3.315,再修约成3.32;只能一次修约为3.31。
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
❖ e.g. 将1.050修约至小数点后一位得1.0,将0.35 修约至小数点后一位得0.4。
❖ ⑤ 负数修约时先取绝对值,按照① ② ③ ④ 中的
规则进行修约,然后在其A 前面加上负号。
9
不允许连续修约规则
❖ (1) 拟修约数字应在确定修约间隔或指定修 约数位后一次修约获得结果,不得按照进 舍规则多次进行多次修约。
❖ 每个数据最后一位都有±1的绝对误差,即 0.012 1±0.0001;25.64 ±0.01;0.10572 ±0.00001;以上数据中以25.64的绝对误差 最大,在加减运算中最终结果的绝对误差 决定于该数据,故最终结果的有效数字位 数决定于25.64这个数据。
❖ So 上式变换为:0.01+25.64+1.06=26.71
❖ 极限数值:标准(或技术规范)中规定考核的以数 量形式给出且符合该标准(或技术规范)要求的指 标数值范围的界限值,即指标的上限或者下限。
A
6
数值修约规则
❖ 数值修约的步骤大体分两步: ❖ 1、确定修约间隔; ❖ 2、根据修约的进舍规则对数值进行修约。 ❖ 数值修约的规则: ❖ 1、进舍规则; ❖ 2、不允许连续修约; ❖ 3、0.5单位修约; ❖ 4、0.2单位修约。
❖ e.g. 将97.46修约至个位数 ❖ 正确做法:97.46→97 ❖ 错误做法:97.46→97.5→98
A
10
不允许连续修约规则
❖ (2) 在具体实施中,有时测试与计算部门先 将获得的数值按照指定的修约数位多一位 或几位报出,而后再由其它部门判定。为 了避免产生连续修约的错误,应按以下两 个步骤进行操作。
13.2。
A
8
进舍规则
❖ ③ 拟舍弃数字的最左一位数字是5,且其后有非0 数字时进一,即保留数字的末位数字加1。
❖ e.g. 将11.5002修约至个位数,得12。
❖ ④ 拟舍弃数字的最左一位数字是5,且其后无数 字或皆为0时,若所保留数字的末位数字为奇数时 则进一,若所保留数字的末位数字为偶数时则舍 去。
数值修约规则及极限数值的表示和判定 Significant figure
A
1
情景导入
❖ 进行化学滴定分析时,当凹液面在两刻度线 之间时,需要对两刻度线之间的体积进行估 读,梅仁耀读取到23.44mL、梅仁爱读取到 23.46mL、梅仁姓读取到23.45mL;
❖ 梅闻画看到一试剂柜中的NaOH标准滴定溶液 的浓度写着:0.1065(+)mol/L。
A
5
数值修约规则
❖ 数值修约:通过省略原数值的最后若干位数字, 调整所保留的若干位数字,使最后得到的值最接 近原数值的过程。
❖ 修约间隔:修约值的最小数值单位。修约间隔的 数值一经确定,修约值一定是该数值的整数倍。
❖ e.g.1:修约间隔为0.1(或10-1),表示将数值修约 至一位小数;
❖ e.g.2:修约间隔为100(或102),表示将数值修约 至百位数。
A
2
有效数字的定义
❖ 数学定义:从左边第一个不是0的数字算起,到精 确到的位数为止,所有的数字都叫做这个数的有 效数字。
❖ 分析化学定义:在分析工作中实际能够测量到的 数字。能够测量到的是包括最后一位估读的,不 确定的数字。我们把通过直读获得的准确数字叫 做可靠数字,把通过估读得到的那部分数字叫做 存疑数字,把测量结果中能够反映被测量大小的 带有一位存疑数字的全部数字叫有效数字。
A
16
有效数字的×÷运算
❖ 在几个数据相乘或相除时,有效数字的保留, 应与几个数据中相对误差最大的数相对应,通 常根据有效数字最少的数据来进行修约。
A
7
进舍规则
❖ 大规则:四舍六入五成双
❖ ① 拟舍弃数字的最左一位数字小于5,则舍 去,保留其余各位数字不变;
❖ e.g. 将12.1498修约至个位数,得到12,修 约至小数点后一位,得到12.1.
❖ ② 拟舍弃数字的最左一位数字大于5,则进 一,即保留位数的末位数字加一;
❖ e.g. 将13.1634修约至小数点后一位,得到
(3.60×102)
A4ຫໍສະໝຸດ 效数字位数判定❖ 1、在分析化学计算中,常遇到倍数、分数 关系,这些数据不是测量直接得到的,可 视为无限多位有效数字;
❖ 2、对于pH、pM、lgc、lgK等对数值,其有 效数字取决于小数部分的位数,因为整数 部分只代表该数字的方次。
❖ e.g. pH=11.20,换算为H+浓度时,应为 c(H+)=6.3×10-12mol/L,有效数字是两位。
A
11
不允许连续修约规则
❖ Ⅰ.报出数值最右的非零数字为5时,应在数值的 右上角加上“+”或“-”或不加符号,分别表明进行过 舍、进或未舍未进。
❖ e.g. 16.50+,表示实际值大于16.50,16.50-表示 实际值小于16.50。
❖ Ⅱ.如对报出值需进行修约,当拟舍弃的最后一位 数值为5,且其后无数字或皆为0时,数值右上角 有“+”者进一,有“-”者舍去,其余按照① ② ③ ④ 中的规则进行修约。
A
3
有效数字位数判定
❖ 1.0008 43.181
五位
❖ 0.1000 10.98%
四位
❖ 0.0382 1.98×10-10 三位
❖ 54
0.0040 两位
❖ 3600
100
位数模糊
❖ 注意:
❖ 1、以上数据中0的左右的差异;
❖ 2、对于3600之类的数字,一般看成4位有
效数字,但它也可能是2位(3.6×103)或3位
A
13
A
14
有效数字的+-×÷
❖ 在实际的分析工作中,经常会遇到计算公 式,而计算公式中的不同项目所保留的有 效数字的位数是不同的,最终的计算结果 到底保留多少个有效数字值得关注。
A
15
有效数字的+-运算
❖ 在几个数据相加或相减时,有效数字的保 留,应该以小数点后位数最少的数字为根 据。
❖ e.g. 0.0121+25.64+1.05782=?
A
12
0.5单位修约和0.2单位修约
❖ 定义:0.5单位修约是指按指定修约单位间 隔对拟修约的数值的0.5单位进行的修约。
❖ 步骤:将拟修约数值X乘以2,按指定修约 间隔对2X根据上述进舍规则进行修约,得 到的数值(2X修约值)再除以2。
❖ 0.2单位修约的定义和步骤跟0.5单位修约类 似,将倍数“2”变为“5”。