数字修约规则.ppt
合集下载
GBT8170-2008 数据修约规则与极限数值的标示和判定(东锦内部培训课件)PPT

3.4.2 0.2单位修约 单位修约 0.2单位修约是指按指定修约间隔对拟修约的数值 单位修约是指按指定修约间隔对拟修约的数值 0.2单位进行的修约。 单位进行的修约。 单位进行的修约 0.2单位修约方法如下:将拟修约数值 乘以 ,按 单位修约方法如下: 乘以5, 单位修约方法如下 将拟修约数值X乘以 指定修约间隔对5X依 的规则修约 所得数值(5X 的规则修约, 指定修约间隔对 依3.2的规则修约,所得数值 修约值)再除以 再除以5。 修约值 再除以 。
计算法则
在计算中, 在计算中,其有效位数应根据其他数值 最少有效位数而定。 的最少有效位数而定。
加减运算
应以各数中有效数字末位数的数位最高者为准 应以各数中有效数字末位数的数位最高者为准 小数即以小数部分位数最少者为准), ),其余数 (小数即以小数部分位数最少者为准),其余数 均比该数向右多保留一位有效数字 向右多保留一位有效数字。 均比该数向右多保留一位有效数字。
3.1确定修约间隔 确定修约间隔 a)指定修约间隔为 -n(n为正整数),或指明将数值 为正整数), )指定修约间隔为10 为正整数),或指明将数值 修约到n位小数 位小数; 修约到 位小数; b)指定定修约间隔为 ,或指明将数值修约到个数位; )指定定修约间隔为1,或指明将数值修约到个数位; c)指定修约间隔为 n(n为正整数),或指明将数值 为正整数), )指定修约间隔为10 为正整数),或指明将数值 修约到10 数位,或指明将数值修约到“ 修约到 n数位,或指明将数值修约到“十”、“百”、 数位。 “千”……数位。 数位
4.3.3修约值比较法 修约值比较法 4.3.3.1将测定值或其计算值进行修约,修约数位应 将测定值或其计算值进行修约, 将测定值或其计算值进行修约 与规定的极限数值数位一致。 与规定的极限数值数位一致。 当测试或计算精度允许时,应先将获得的数值按指 当测试或计算精度允许时, 定的修约数位多一位或几位报出,然后按3.2的程序 定的修约数位多一位或几位报出,然后按 的程序 修约至规定的数位。 修约至规定的数位。 4.3.3.2将修约后的数值与规定的极限数值进行比较, 将修约后的数值与规定的极限数值进行比较, 将修约后的数值与规定的极限数值进行比较 只要超出极限数值规定的范围( 只要超出极限数值规定的范围(不论超出程度大 ),都判定为不符合要求 都判定为不符合要求。 小),都判定为不符合要求。 示例见下表: 示例见下表
数值修约规则

• 13、无论才能知识多么卓著,如果缺乏热情,则无异 纸上画饼充饥,无补于事。Friday, December 11, 202011
-Dec-2020.12.11
• 14、我只是自己不放过自己而已,现在我不会再逼自 己眷恋了。20.12.1103:55:1411 December 202003:55
•
7、最具挑战性的挑战莫过于提升自我 。。20 20年12 月上午 3时55 分20.12. 1103:5 5December 11, 2020
•
8、业余生活要有意义,不要越轨。20 20年12 月11日 星期五 3时55 分14秒0 3:55:14 11 December 2020
ห้องสมุดไป่ตู้
•
9、一个人即使已登上顶峰,也仍要自 强不息 。上午 3时55 分14秒 上午3时 55分03 :55:142 0.12.11
例1:拟修约数值 1.150修约到一位小数,修约值结果 1.1 例2:拟修约数值 1.050修约到一位小数,修约值结果 1.0
• 负数修约时,先将它的绝对值按数字修约规定 进行修约,然后在修约值前面加上负号。
例1:将下列数字修约到“十”数位
拟修约数值-355 修约值 -36×10
举例:
•
拟修约数字应在确定修
进舍规则
• 四舍六入五考虑, • 五后非零则进一, • 五后皆零视奇偶, • 五前为偶应舍去, • 五前为奇则进一, • 不论数字多少位, • 都要一次修约成。
举例:
• 拟舍弃数字的最左一位数字小于5时,则 舍去,即保留的各位数字不变。
例1:将12.1498修约到一位小数,得12.1 例2:将12.1498修约成两位有效位数,得12
•
数值修约(培训课件)

位数,或指明将数值修约到“十”、“百”、“千”、、、 数位。
2、进舍规则
2.1 拟舍弃数字的最左一位数字小于5,则舍去,保留其余各位 数字不变。 例:将12.1498修约到个位数,得12;将12.1498修约到一位小数, 得12.1.
2.2 拟舍弃数字的最左一位数字大于5,则进一,即保留数字的 末位数字加1。 例:将1268修约到“百”位数,得13X102(特定场合可写为1300). 注:本标准示例中,“特定场合”系指修约间隔明确时。
拟修约数值X
2X
2X修约值
60.25
120.50
120
60.38
120.76
121
60.28
120.56
121
-60.75
-121.50
-122
延伸:将890修约到“百”数位的0.5单位?
X修约值 60.0 60.5 60.5 61.0
4.2 0.2单位修约 0.2单位修约是指按指定修约间隔对拟修约的数值0.2单位进行的
3.2.2 如对报出值需进行修约,当拟舍弃数字的最左一位数字
为5,且其后无数字或皆为零时,数值右上角有“+”者进一,有
“-”者舍去,其他仍按《进舍规则》的规定进行。
例:将下列数字修约到个位数(报出值多留一位至一位小数)。
实测值
报出值
修约值
15.4546
15.5-
15
-15.4546
-15.5-
-15
4、0.5单位修约与0.2单位修约
4.1 0.5单位修约(半个单位修约)
0.5单位修约是指按指定修约间隔对拟修约的数值0.5单位进行的修约
。
0.5单位修约方法如下:将拟修约数值X乘以2,按指定修约间隔对2X
2、进舍规则
2.1 拟舍弃数字的最左一位数字小于5,则舍去,保留其余各位 数字不变。 例:将12.1498修约到个位数,得12;将12.1498修约到一位小数, 得12.1.
2.2 拟舍弃数字的最左一位数字大于5,则进一,即保留数字的 末位数字加1。 例:将1268修约到“百”位数,得13X102(特定场合可写为1300). 注:本标准示例中,“特定场合”系指修约间隔明确时。
拟修约数值X
2X
2X修约值
60.25
120.50
120
60.38
120.76
121
60.28
120.56
121
-60.75
-121.50
-122
延伸:将890修约到“百”数位的0.5单位?
X修约值 60.0 60.5 60.5 61.0
4.2 0.2单位修约 0.2单位修约是指按指定修约间隔对拟修约的数值0.2单位进行的
3.2.2 如对报出值需进行修约,当拟舍弃数字的最左一位数字
为5,且其后无数字或皆为零时,数值右上角有“+”者进一,有
“-”者舍去,其他仍按《进舍规则》的规定进行。
例:将下列数字修约到个位数(报出值多留一位至一位小数)。
实测值
报出值
修约值
15.4546
15.5-
15
-15.4546
-15.5-
-15
4、0.5单位修约与0.2单位修约
4.1 0.5单位修约(半个单位修约)
0.5单位修约是指按指定修约间隔对拟修约的数值0.5单位进行的修约
。
0.5单位修约方法如下:将拟修约数值X乘以2,按指定修约间隔对2X
1.4.9数据修约

0.5465 0.546
0.5475 0.位
8.369 8.4 7.3500 7.4
7.4500 7.4 7.4501 7.5
7.549 7.5
小练习:将下列数字修约到3位有效数字 0.5464 0.546 0.546504 0.547 0.5466 0.547 0.54749 0.547
一定要一 次修约到 位,否则 将得0.548
有效数字的处理规则
二. 数字修约 各测量值有效数字位数可能不同,因 此计算前要先对各测量值进行修约。 应保留的有效数字位数确定之后,其 余尾数一律舍弃的过程称为修约。 修约应一次到位,不得连续多次修约。
修约规则:为四舍六入五成双(尾留双),被修约≤4,舍 弃,被修约数≥6则进位,若是5将有两种情况:前面 是奇数则进位为偶数,若前面是偶数则舍弃,若5后面 还有不为0的数,则不管前面数字奇偶一律进位。例如, 将 下列数据修约为两位有效数字
数字修约

4)以“0”结尾的正整数,
“0”是不是有效 数字不确定,应根据测试结果的准确度确 定。 如3600,后面的两个“0”如果不指明 测量准确度就不能确定是不是有效数字。 测量中遇到这种情况,最好根据实际 测试结果的精确度确定有效数字的位数, 有效数字用小数表示,把“0”用10的乘方 表示。如将3600写成3.6×103表示此数有 两位有效数字;写成3.60×103表示此数 有三位有效数字;写成3.600×103表示此 数有四位有效数字。
GB8170-87《数值修约规则》
二OO八年十一月
数值修约
一、数值修约的概念及意义 二、数值修约的基础知识 三、数值修约规则及注意事项 四、数值运算规则
一、数值修约的概念及意义
1.
2.
测量及测量结果 数值修约的概念及意义
1. 测量、测量结果
(1)测量、测量结果 测量是以确定量值为目的的一组操作。量值是 由一个数(值)乘以测量单位所表示的特定量 的大小。 测量有间接和直接之分:直接测量的结果 可直接测到而不必通过函数计算;而间接测量 的结果需将直接测量的结果代入函数计算才能 得到。
5.2
0.2单位修约 将拟修约数乘以5,按指定数位依3.1-3.4规 则修约,所得数值再除以5。
例如:将下列数修约到“百”数位的0.2单位
(或修约间隔为20 )
拟修约数 乘5 5A修约值 A修约值
(A) 830 842 -930
(5A)(修约间隔为100)(修约间隔为20) 4150 4200 840 4210 4200 840 -4650 -4600 -920
b.在进行具体的数值计算前,对参加计算的数
值进行修约,可简化计算,降低计算出错的机 会。
有效数字修约和计算PPT幻灯片课件

在运算过程中,为减少舍入误差,其它数值的修约可以暂时多保留一位,等运算 得到结果时,再根据有效位数弃去多余的数字。
遇到收尾数字为8或9时,可多算以为有效数字,中间算式中可多保留以为。
11
例如: 14.131 × 0.07654 ÷ 0.78 = ? 分析:在三个数值中,0.78的有效位数最少,仅为两位有效位数,因此各数值
四舍六入五成双,即当尾数≤4时舍去,尾数≥6时进位。当尾数为5时,其后跟有 并非全部为0的数字,则进一;5后面为0,则应看5前面的数字是奇数还是偶数,5前为偶 数应将5舍去,5前为奇数则将5进位。
6
进舍规则口诀:四舍六入五成双,五后非零则进一; 五后全零看五前,五前偶舍奇进一; 不论数字多少位,都要一次修约成。
均应暂保留三位有效位数进行运算,最后结果再修约为两位有效位数。 最后对计算结果进行修约,应只保两位有效位数,故: 14.131 × 0.07654 ÷ 0.78 = 14.1 × 0.0765 ÷ 0.78 = 1.4
12
三、有效数字的应用实例
例1 异戊巴比妥钠的干燥失重,规定不得过4.0%,今取样1.0042g,干燥失重量 0.0408g,请判断是否符合规定? 解析:
例如: 0.6000g、20.05%、6.325×103 0.0450g、6.32×103 、63.2×102
-------四位有效数字 -------三位有效数字
pH值等对数值,其有效数字是由其小数点后的位数决定的,其整数部分只表明其 真数的乘方次数。如pH=11.26([H]+=5.5×10-12mol/L),其有效位数只有两位。
应修约成0.17%,0.6%;在抽样时根据取样规则确定取样件数时也采取“只进不舍” 规则。
8
遇到收尾数字为8或9时,可多算以为有效数字,中间算式中可多保留以为。
11
例如: 14.131 × 0.07654 ÷ 0.78 = ? 分析:在三个数值中,0.78的有效位数最少,仅为两位有效位数,因此各数值
四舍六入五成双,即当尾数≤4时舍去,尾数≥6时进位。当尾数为5时,其后跟有 并非全部为0的数字,则进一;5后面为0,则应看5前面的数字是奇数还是偶数,5前为偶 数应将5舍去,5前为奇数则将5进位。
6
进舍规则口诀:四舍六入五成双,五后非零则进一; 五后全零看五前,五前偶舍奇进一; 不论数字多少位,都要一次修约成。
均应暂保留三位有效位数进行运算,最后结果再修约为两位有效位数。 最后对计算结果进行修约,应只保两位有效位数,故: 14.131 × 0.07654 ÷ 0.78 = 14.1 × 0.0765 ÷ 0.78 = 1.4
12
三、有效数字的应用实例
例1 异戊巴比妥钠的干燥失重,规定不得过4.0%,今取样1.0042g,干燥失重量 0.0408g,请判断是否符合规定? 解析:
例如: 0.6000g、20.05%、6.325×103 0.0450g、6.32×103 、63.2×102
-------四位有效数字 -------三位有效数字
pH值等对数值,其有效数字是由其小数点后的位数决定的,其整数部分只表明其 真数的乘方次数。如pH=11.26([H]+=5.5×10-12mol/L),其有效位数只有两位。
应修约成0.17%,0.6%;在抽样时根据取样规则确定取样件数时也采取“只进不舍” 规则。
8
数值修约规则GBT8170-2008ppt

二、数值修约规则
B、在具体实施中,有时测试与计算部门先将获得数值按指定的修 约位数多一位或几位报出,而后由其他部门判定。为避免产生连续 修约的错误,应按下述步骤进行。
a.报出数值最右的非零数字为5时,应在数值后面加“(+)”或“(-)”或不 加符号,以分别表明已进行过舍、进或未舍未进。 例:16.50(+)表示实际值大于16.50,经修约舍弃成为16.50; 16.50(-)表示实际值小于16.50,经修约进一成为16.50。
X修约值 840 840 840 -920
汇报完毕!
二、数值修约规则
2、进舍规则: 四舍六入五考虑, 五后非零则进一, 五后皆零视奇偶, 五前为偶应舍去, 五前为奇则进一, 不论数字多少位, 都要一次修约成。
二、数值修约规则
A、拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位 数字不变。(四舍六入五考虑)
例1:将12.1498修约到一位小数,得12.1。 例2:将12.1498修约成两位有效位数,得12。
பைடு நூலகம்
二、数值修约规则
4、0.5单位修约与0.2 A、0.5单位修约(半个单位修约):指按指定修约间隔对拟修约的数值 按0.5单位进行修约。 修约方法:将拟修约数值乘以2,按指定数位依数字修约规则修约,所 得数值再除以2。
例:将下列数字修约到“个”数位的0.5单位修约。 拟修约数值X 2X 2X修约值 60.25 120.50 120 60.38 120.76 121 60.28 120.56 121 -60.75 -121.50 -122
数值修约规则
GB/T8170-2008
入井流体检验站酸化室 2015年4月
汇报提纲
一、术语和定义
二、数值修约规则
有效数字运算及修约 ppt课件

笨,没有学问无颜见爹娘 ……” • “太阳当空照,花儿对我笑,小鸟说早早早……”
4
有效数字运算及修约
❖ 数学定义:从左边第一个不是0的数字算起,到精 确到的位数为止,所有的数字都叫做这个数的有 效数字。
❖ 分析化学定义:在分析工作中实际能够测量到的 数字。能够测量到的是包括最后一位估读的,不 确定的数字。我们把通过直读获得的准确数字叫 做可靠数字,把通过估读得到的那部分数字叫做 存疑数字,把测量结果中能够反映被测量大小的 带有一位存疑数字的全部数字叫有效数字。
❖ 极限数值:标准(或技术规范)中规定考核的以数 量形式给出且符合该标准(或技术规范)要求的指 标数值范围的界限值,即指标的上限或者下限。
8
有效数字运算及修约
❖ 数值修约的步骤大体分两步: ❖ 1、确定修约间隔; ❖ 2、根据修约的进舍规则对数值进行修约。 ❖ 数值修约的规则: ❖ 1、进舍规则; ❖ 2、不允许连续修约; ❖ 3、0.5单位修约; ❖ 4、0.2单位修约。
有极限偏差的数值)无特殊规定时,均应使用 全数值比较法。如规定修约值比较法,应在 标准中加以说明。 ❖ 若标准或有关文件规定了使用其中一种比较 方法时,一经确定,不得改动。
23
有效数字运算及修约
❖ 将测试所得的测定值或计算值不经修约处理(或虽 经修约处理,但应标明它是经舍、进货未舍未进 而得),用该数值与规定的极限数值作比较,只要 超出极限数值规定的范围(不论超出程度大小), 都判定为不符合要求。
9
有效数字运算及修约
❖ 大规则:四舍六入五成双
❖ ① 拟舍弃数字的最左一位数字小于5,则舍 去,保留其余各位数字不变;
❖ e.g. 将12.1498修约至个位数,得到12,修 约至小数点后一位,得到12.1.
4
有效数字运算及修约
❖ 数学定义:从左边第一个不是0的数字算起,到精 确到的位数为止,所有的数字都叫做这个数的有 效数字。
❖ 分析化学定义:在分析工作中实际能够测量到的 数字。能够测量到的是包括最后一位估读的,不 确定的数字。我们把通过直读获得的准确数字叫 做可靠数字,把通过估读得到的那部分数字叫做 存疑数字,把测量结果中能够反映被测量大小的 带有一位存疑数字的全部数字叫有效数字。
❖ 极限数值:标准(或技术规范)中规定考核的以数 量形式给出且符合该标准(或技术规范)要求的指 标数值范围的界限值,即指标的上限或者下限。
8
有效数字运算及修约
❖ 数值修约的步骤大体分两步: ❖ 1、确定修约间隔; ❖ 2、根据修约的进舍规则对数值进行修约。 ❖ 数值修约的规则: ❖ 1、进舍规则; ❖ 2、不允许连续修约; ❖ 3、0.5单位修约; ❖ 4、0.2单位修约。
有极限偏差的数值)无特殊规定时,均应使用 全数值比较法。如规定修约值比较法,应在 标准中加以说明。 ❖ 若标准或有关文件规定了使用其中一种比较 方法时,一经确定,不得改动。
23
有效数字运算及修约
❖ 将测试所得的测定值或计算值不经修约处理(或虽 经修约处理,但应标明它是经舍、进货未舍未进 而得),用该数值与规定的极限数值作比较,只要 超出极限数值规定的范围(不论超出程度大小), 都判定为不符合要求。
9
有效数字运算及修约
❖ 大规则:四舍六入五成双
❖ ① 拟舍弃数字的最左一位数字小于5,则舍 去,保留其余各位数字不变;
❖ e.g. 将12.1498修约至个位数,得到12,修 约至小数点后一位,得到12.1.