有效数字和数值的修约运算及极限数值判定
数字运算、修约、极限数值表示方法讲义

数字运算、修约、极限数值表示方法讲义数字运算、修约、极限数值判定与表示方法一、数字运算二、数值修约规则三、极限数值的表示方法和判定方法一、数字运算在检验过程中,对检验所得的数据如何进行计算、整理,如何按照技术标准要求作出判定,是检验人员必须掌握的基础知识。
1、有效位数在检验过程中,记录数据和计算结果究竟应该保留几位数字?有的检验人员认为记录和计算保留的位数越多越准确,其实不然。
由于检验方法、仪器设备和人们感官分析能力的限制,测量中只能读取一定位数的数字。
读取位数过多,不但不能提高检验结果的准确度,反而使计算工作量大大增加,而且还常常容易出错;读取位数过少,则表达不出测量的准确度。
为了确切表达测量结果的位数,我们给出有效位数的概念。
若截取得到的近似数,其绝对误差是末位上的半个单位,那么这个近似数,从第一个不是零的数字起到这个数位止,所有数字均称为有效数字。
一个进似数有n个有效数字,也叫这个进似数有n个有效位数。
如 3.1416、2.1173、180.00,均为五位有效数;而0.00274、274、27.4,均为三位有效数。
在判断有效数字时,要特别注意0这个数字,它可以是有效数字,也可以不是有效数字,例如:0.00274,前面三个0都不是有效数字,而180.00,后面三个0却都是有效数字。
因为前者与测量的精确度无关,而后者却有关。
为了说明这个问题,我们不妨各都去掉两个0,即0.00274=0.274×10-2表示其真值为:(0.2735~0.2745)×10-2其绝对误差为:0.0005×10-2=0.000005而0.00274的绝对误差也是0.000005,故去掉前面两个0后,其绝对误差不变;而对于180.00,若去掉后面两个0,成为:180.00=180则其真值所在区间为:(180.5 ~179.5)其绝对误差为0.5;但对于180.00来说,其真值所在区间应为:(180.005 ~179.995)其绝对误差为0.005,显然,由于去掉右边两个0,而使绝对误差由0.005变成了0.5,这样就不对了。
数值修约规则与极限数值的表示和判定

3.2.2拟舍弃数字的最左一位数字大于5,则 进一,即保留数字的末位数字加1。 例:将1268修约到“百”数位,得13×102 (特定场合可写为1300) “特定场合”系指修约间隔明确时。 例:将下列数字修约到个数位 10.68 15.74 200.89 199.63
修约后:11 16 201 200
3.2.4拟舍弃数字的最左一位数字为5,且其 后无数字或皆为0时,若所保留的末位数字为 奇数(1,3,5,7,9)则进一,即保留数 字的末位数字加1;若所保留的末位数字为偶 数(0,2,4,6,8),则舍去。 例1:修约间隔为0.1(或10-1) 拟修约数值 修约值 1.050 1.0 0.35 0.4 1.250 1.2 1.75 1.8
例:将下列数字修约到“个”数位的0.5单位修约 拟修约数值X 2X 2X修约值 X修约值 60.25 120.50 120 60.0 60.38 120.76 121 60.5 60.28 120.56 121 60.5 -60.75 -121.50 -122 -61.0
3.4.2 0.2单位修约 0.2单位修约是指按指定修约间隔对拟修约的 数值0.2单位进行的修约。 0.2单位修约方法如下:将拟修约数值X乘以5, 按指定修约间隔对5X依3.2的规则修约,所得 数值(5X修约值)再除以5。
3.2进舍规则
3.2.1拟舍弃数字的最左一位数字小于5,则 舍去,保留其余各位数字不变。 例:将12.1498修约到个位数,得12;将 12.1498修约到一位小数,得12.1。 例:将下列数字按0.1单位修约 10.5025 19.428 0.0395 0.04959 修约后: 10.5 19.4 0.0 0.0
数值修约规则与极限数值的表示和判定

数值修约规则与极限数值的表示和判定1、目的为确保检测结果准确可靠,本指导书提供检测结果出具的一些细节,重点描述了检测结果的数值的修约表述方式和表述方式。
2、依据GB/T8170-2008《数值修约规则与极限数值的表示和判定》、GB/T5009.1-2003《食品卫生检验方法理化部分总则》、CNAS-GL27-2009《声明检测或校准结果及与规范符合性的指南》。
3、范围本指导书适用于原始记录、检测报告的出具。
4、定义4.1 数值修约通过省略原数值的最后若干位数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。
4.2 修约间隔修约值的最小数值单位。
注:修约间隔的数值一经确定,修约值即为该数值的整数倍。
例1:如指定修约间隔为0.1,修约值应在0.1的整数倍中选取,相当于将数值修约到一位小数。
例2:如指定修约间隔为100,修约值应在100的整数倍中选取,相当于将数值修约到“百”数位。
4.3 极限数值标准(或技术规范)中规定考核的以数量形式给出且符合该标准(或技术规范)要求的指标数值范围的界限值。
5、作业规程5.1 数值修约规则5.1.1 确定修约间隔(指定数位)指定修约间隔为10-n(n为正整数),或指明将数值修约到n 位小数。
指定修约间隔为1,或指明将数值修约到“个”数位。
指定修约间隔为10n(n为正整数).或指明将数值修约到10n数位,或指明将数值修约到‘十”、“百”“千”…………数位。
5.1.2 进舍规则拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。
例1:将12.1498修约到一位小数,得12.1;将12.1498修约到个数位,得12。
拟舍弃数字的最左一位数字大于5,则进一,即保留数字的末位数字加1。
例1:将1268修约到“百”数位,得13×102(特定场合可写成为1300)。
例2:将10.502修约到个数位,得11。
注:示例中“特定场合”系指修约间隔明确时。
GBT8170-2019数值修约规则与极限数值的表示和判定-PPT精选文档

二0一0年七月
数值修约规则 -----------基于GB/T8170-2019
术语和定义 数值修约规则 近似数运算 极限数值的判定方法与修约
一、术语和定义
1、数值修约:通过省略原数值的最后若干 位数字,调整所保留的末位数字,使最后所 得到的值最接近原数值的过程。 注:经数值修约后的数值称为(原数值的) 修约值。
• 例2:842
842×5=4210 按100间隔修约为 4200/5为840 • 例3:-930 -930×5=-4650,按100间隔修约为 -4600/5=-920
4.2、“0.5”单位修约规则 “0.5” 单位修约是指按指定修约 间隔对拟修约的数值0.5单位进行 的修约。 修约方法:将拟修约数值X乘以2, 按指定修约间隔对2X依规定修约, 所得数值再除以2。
例1:35000,若有两个无效0,则为三 位有效位数,应写为350×102;若有 三个无效0,则为二位有效位数,应写 为35×103。 例2: 0.0025---2位有效位数; 1.001000---7位有效位数; 2.8×107---2位有效位数; (对于a×10n表示的数值,其有效 数字的位数由a中的有效位数决定)
例2: 60.29 60.29×5=301.45按1间隔修约为 301/5=60.2 例3: 60.30 60.30×5=301.5按1间隔修约为 302/5=60.4
例:将下列数字修约到“百”数位的0.2 单位(或修约间隔为20) ◦ 例1:830 830×5=4150 按100间隔修约为4200/5 为840
“1”间隔修约:整数 ◦ “0.5”单位修约 指修约间隔为指定数位的0.5单位,即 修约到指定数位的0.5单位。 “0.2”单位修约 指修约间隔为指定数位的0.2单位,即 修约到指定数位的0.2单位。
有效数字和数值的修约及其运算

有效数字和数值的修约及其运算本规程系根据中国药典2010年版凡例和国家标准GB 8170-2008《数值修约规则与极限数值的表示和判定》制订,适用于药检工作中除生物检定统计法以外的各种测量或计算而得的数值。
1.数值修约通过省略原数值的最后若干位数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。
2.修约间隔确定修约保留位数的一种方法。
注:修约间隔的数值一经确定,修约值即为该数值的整数倍。
例1:如指定修约间隔为0.1,修约值应在0.1的整数倍中选取,相当于将数值修约到一位小数。
例2:如指定修约间隔为100,修约值应在100的整数倍中选取,相当于将数值修约到“百”数位。
2.3极限数值limiting values标准(或技术规范)中规定考核的以数量形式给出且符合该标准(或技术规范)要求的指标数值范围的界限值。
3数值修约规则3. 1确定修约间隔a)指定修约间隔为10-n(n为正整数),或指明将数值修约到n位小数;b)指定修约间隔为1,或指明将数值修约到“个”数位;c)指定修约间隔为10n (n为正整数),或指明将数值修约到10n数位,或指明将数值修约到“十”、“百”、“千”……数位。
3. 2进舍规则3.2.1拟舍弃数字的最左一位数字小于5,则舍去,保留其余各位数字不变。
例:将12. 149 8修约到个数位,得12;将12. 149 8修约到一位小数,得12.l。
3.2.2拟舍弃数字的最左一位数字大于5,则进一,即保留数字的末位数字加1.例:将1 268修约到“百”数位,得13 × 102(特定场合可写为1 300)。
注:本标准示例中,“特定场合”系指修约间隔明确时。
3.2.3拟舍弃数字的最左一位数字是5,且其后有非0数字时进一,即保留数字的末位数字加1。
例:将10. 500 2修约到个数位,得1。
3.2.4拟舍弃数字的最左一位数字为5,且其后无数字或皆为0时,若所保留的末位数字为奇数(1,3,5,7,9)则进一,即保留数字的末位数字加1;若所保留的末位数字为偶数((0,2,4,6,8),则舍去。
数值修约规则与极限数值的表示和判定

数值修约规则与极限数值的表示和判定1范围本标准规定了对数值进行修约的规则、数值极限数值的表示和判定方法,有关用语及其符号,以及将测定值或其计算值与标准规定的极限数值作比较的方法。
本标准适用于科学技术与生产活动中试验测定和计算得出的各种数值。
当所得数值需要修约时,应按本标准给出的规则进行。
本标准适用于各种标准或其他技术规范的编写和对测试结果的判定。
2 术语和定义下列术语和定义适用于本标准。
2.1数值修约 rounding off for numerical values通过省略原数值的最后若干数字,调整所保留的末位数字,使最后所得到的值最接近原数值的过程。
注:经数值修约后的数值称为(原数值的)修约值。
2.2修约间隔 rounding interval修约值的最小数值单位。
注:修约间隔的数值一经确定,修约值即应为该数值的整数倍。
例l:如指定修约间隔为0.l,修约值应在0.1的整数倍中选取,相当于将数值修约到一位小数。
例2:如指定修约间隔为100,修约值应在100的整数倍中选取,相当于将数值修约到“百”数位。
2.3极限数值 limiting values标准(或技术规范)中规定考核的以数量形式给出且符合该标准(或技术规范)要求的指标数值范围的界限值。
3数值修约规则3.1确定修约间隔a)指定修约间隔为10-n(n为正整数),或指明将数值修约到n位小数;b)指定修约间隔为1,或指明将数值修约到“1”数位;c)指定修约间隔为10n(n为正整数),或指明将数值修约到10n数位,或指明将数值修约到“十”、“百”、“千”……数位。
3.2 进舍规则3.2.1 拟舍弃数字的最左一位数字小于5,则舍去,保留其余各位数字不变。
例:将12.1498修约到个数位,得12;将12.1 498修约到一位小数,得12。
1。
3.2.2 拟舍弃数字的最左一位数字大于5;则进一,即保留数字的末位数字加1。
例:将1268修约到“百”数位,得13×102(特定时可写为1300)。
关于日常检验工作中有效数字运算、数值修约和判定

解:(1)求出N的不确定度σN =0.1(cm2)
(2)N=62.5+1.234-5.43=58.304(cm2) (3)用误差(估计误差范围的不 确定度)决定结果的有效数字
N=58.3±0.1(cm2 )
6.计算公式中的常数 计算公式中的常数因不是测 量值,所以不存在测量误差,其 有效数字是无穷位。例如:在 D=2R中,2不是一位有效数字, 而是无穷位。 对于计算公式中的常数π、 e等,在运算中可取比有效数 字位数最少的数值多一位。例 如:L=2π R, 其中R=2.35×10-2m, L=2×3.142×2.35×10-2=0.148(m) 这里常数π取3.142。 7.近似数的混合运算[2] 混合运算按照算式的顺序,每
二、需要注意的几个问题
1.测定值或计算值修约 在日常工作中,测定值或计 算值修约和表示判定按照《G B/T 8170-2008 数值修约规则与极限数 值的表示和判定》标准要求进行即 可。数值修约按照“四舍六入五成 双,五后有尾进一;五后无尾(含 零),五前奇进一,五前偶舍去” 方法进行。 例如:将10.5002修约到个数 位,得11,将1.050修约到十分 位,得1.0。 2.测定值或计算值的表示 测定值或计算值与标准规定的 极限数值比较有全数值和修约值比 较两种方法。如果在产品标准判定 规则中没有特别说明用“修约值比 较法”判定,那么最后的结果用
“全数值比较法”判定[3]。使用哪 种比较方法通常和结果的不确定 度有关。
全数值比较法:将测试所得 测定值或计算值不经修约处理 (或虽经修约处理,但应标明它 是经舍、进或未舍未进而得), 用该数值与规定的极限数值作比 较,只要超出极限数值规定的范 围(不论超出程度大小),都判 定为不符合要求。一般最后结果 有效数字的位数和仪器设备的精 度有关。因为其直接测量结果一 般是在仪器设备最小刻度(精 度)基础上保留一位估读数字, 若后来涉及计算,也是依据上述 运算法则修约而得到最终的有效 数字。
数值修约和运算规则

(二)修约规则
5)口诀四舍五入,逢五看前数,奇入偶不入。
6)负数修约,先以负值绝对值按上述修约后, 加上负号。
-15.456 绝对值15.456.修约间隔“0.1”、 15.5.加上负号;-15.5。
(三)其他规定
1.不允许连续修约:拟修的数字应在确定 修约间隔或指定修约数位后一次修约获得 结果,不得连续按上述要求修约。
(二)修约规则
1、确定修约间隔(确定有效位数), 0.0356修约到0.01得0.04 保留一位有效数字,0.04
2、进舍规则: 1)拟舍弃数字பைடு நூலகம்最后一位数字小于5,
则舍去。保留其余各位数字不变。 12.1498修约到“1”,12 ;修约到 0.1,得 12.1
(二)修约规则
2)拟舍弃数字的最后一位数字大于5.则 进一,保留数字的末位数加1。
1268修约到“ 100 ”位. 13×102也意味着有效数字为 2 位。 1300意味着有效数字为 4 位。
(二)修约规则
3)拟舍弃数字的最左一位数字是5,且 其后有非零数字也进一,保留数字 的末位数字加1.
10.5002.修约到“1”. 得 11
(二)修约规则
4)拟舍弃数字的最后一位数字是5,且其后 无数字或为0时,若所保留的数字为奇数(1、 3、5、7、9),则进一。即保留数字的末位 数字加1.若保留的末位数字为偶数(0、2、4、 6、8)则舍去。
(一)概念
2.有效数值:一个数从左边第一个不 是零的数字数起一直到最后一位数字 (包括零、科学计数法不计10的N次 方)称为有效数字。
0.0109
是三位
3.109×105
是四位
0.0230
是三位
(一)概念
- 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
0.5单位修约与0.2单位修约
• 0.2单位修约 • 0.2单位修约是指按指定修约间隔对拟修约的数值0.2单位进
行的修约。 • 将拟修约数值X乘以5,按指定修约间隔对5X依修约规则修约, 所得数值(5X修约值)再除以5。 • 如:将下列数字修约到“百”数位的0.2单位修约 • 拟修约数值X 5X 5X修约值 X修约值 830 4150 4200 840 842 4210 4200 840 - 930 -4650 -4600 -920
进舍规则 1、拟舍弃数字的最左一位数字小于5,则舍去,保 留其余各位数字不变。 2、拟舍弃数字的最左一位数字大于5,则进一,即 保留数字的末位数字加1。 3、拟舍弃数字的最左一位数字是5,且其后有非0数 字时进一,即保留数字的末位数字加1。 4、拟舍弃数字的最左一位数字为5,且其后无数字 或皆为0时,若所保留的末位数字为奇数(1,3, 5,7,9)则进一,即保留数字的末位数字加1; 若所保留的末位数字为偶数(0,2,4,6,8), 则舍去。
熔点
两种修约方式: • 按修约间隔1修约
• 按修约间隔0.5修约
熔点
一、按修约间隔1修约 • 当指标定位为个位数时,如薄荷脑熔点 “42℃~44℃” • 四舍六入五成双 • 例:标准规定应为42℃~44℃ 实测数值42.5℃~43.2℃ 结果修约42℃~43℃
熔点
二、按修约间隔0.5修约 • 当指标定位为个位数时,如苯甲酸熔点 “121℃~124.5℃” • 0.1~0.2舍去,0.8~0.9进位;0.3~0.7 修约为0.5; • 例:标准规定应为121℃~124.5℃ 实测数值121.6℃~123.2℃ 结果修约121.5℃~123℃
0.5单位修约与0.2单位修约
• 0.5单位修约(半个单位修约) • 0.5单位修约是指按指定修约间隔对拟修约的数值0.5单位进
行的修约。 • 将拟修约数值X乘以2,按指定修约间隔对2X依修约规则修约, 所得数值(2X修约值)再除以2。 • 如:将下列数字修约到“个”数位的0.5单位修约 • 拟修约数值X 2X 2X修约值 X修约值 60.25 120.50 120 60.0 60.38 120.76 121 60.5 - 60.75 -121.50 -122 -61.0
12.011×18+1.00794×20+18.9984032+14.006747×3+15.9994×4
=216.20+20.159+18.998+42.020+63.998
=361.375 =361.38
加法前:保 留至千分位
乘法后:各 自保留相应 位数
结果修约: 百分位
单种运算时才能直接判断结果有效位或位数。
• 报出数值最右的非零数字为5时,应在数值
右上角加“+”或加“-”或不加符号, 分别表明已进行过舍,进或未舍未进。 如:16.50+表示实际值大于16.50,经修约 舍弃为16.50;16.50-表示实际值小于 16.50,经修约进一为16.50。
• 如对报出值需进行修约,当拟舍弃数字的最左一
位数字为5,且其后无数字或皆为零时,数值右上 角有“+”者进一,有“-”者舍去,其他仍按 修约规则进行。 如:将下列数字修约到个数位(报出值多留一 位至一位小数)。 实测值 报出值 修约值 15.4546 15.5- 15 -11.4563 -11.5- -11 16.5203 16.5+ 17 17.5000 17.5 18
定义
• 极限数值:标准(或技术规范)中规定考
核的以数量形式给出且符合该标准(或技 术规范)要求的指标数值范围的界限值。
• 在判定测定值或其计算值是否符合标准要求时,
应将测试所得的测定值或其计算值与标准规定的 极限数值作比较,比较方法有: 1、全数值比较法 2、修约值比较法 a、当标准或有关文件中,若对极限数值(包括 带有极限偏差值的数值)无特殊规定时,均应使 用全数值比较法。如规定采用修约值比较法,应 在标准中加以说明。 b、比较方法一经确定,不得改动。 c、对同样的极限数值,若它本身符合要求,则 全数值比较法比修约值比较法相对较严格。
• pH值等对数值,其有效位数是由其小数点
后的位数决定的,其整数部分只表明其真 数的乘方次数。pH= -lg[浓度值] pH= 11.26([H+]=5.5×10-12mol/L)。其有效位数只
有两位。
• 有效数字的首位数字为8或9时,其有
效位数可以多计一位。 例:85% 三位有效位数 115% 三位有效位数 99.0% 四位有效数字 101.0% 四位有效数字
• 确定修约间隔
一、指定修约间隔为10-n(n为正整数),或指明将数 值修约到n位小数。 二、指定修约间隔为1,或指明将数值修约到“个” 数位。 三、指定修约间隔为10n (n为正整数),或指明将数 值修约到10n数位,或指明将数值修约到‘十”、 “百”、“千”„„数位。 四、在相对标准偏差(RSD)的求算中,其有效数位 应为其1/3值的首位(非零数字),故通常为百分 位或千分位。
• 有效数位判断、数值结果修约、
运算及判定 • 当标准提出“…称…g”时,应选用 什么精度的天平,称样量是否符合 规定(称量范围)
• 有效位数的判断 • 数值修约规则 • 运算规则 • 极限数值的判定 • 注意事项
• 有效数字系指在检验工作中所能得到有实际意义的
基本概念
•
数值。其最后一位数字欠准是允许的,这种由可靠 数字和最后一位不确定数字组成的数值,即为有效 数字。最后一位数字的欠准程度通常只能是上下差1 单位。 有效数字的定位(数位),是指确定欠准数字的位 置。这个位置确定后,其后面的数字均为无效数字。 欠准数字的位置可以是十进位的任何数位,用10n来 表示:n可以是正整数,如n=1、101=10(十数位), n=2、102=100(百数位),„„;n也可以是负数, 如n=-1、10-1=0.1(十分位),n=-2、 10-2=0.01(百分位),„„。
习题
按照修约间隔为1000(或103) 2500 →2×103
3500
→4×103
习题
修约成两位有效位数
0.0325 →0.032 32500
→32×103
• RSD修约 只进不舍(只要后面有任何数值
都往前进1位,除了0) 0.163% 修约成2位有效数位 →0.17% 0.52% 修约成十分位
一、判定有效数位: 相对误差最大/有效位数最少 0.78 两位有效位数 二、其它各数均暂先保留三位有效位数 三、结果修约至有效数位
• 14.131×0.07654÷0.78
= 14.1×0.0765÷0.78 = 1.38 = 1.4
计算氧氟沙星(C18H20FN3O4)的分子量
=216.20+20.1588+18.9984032+42.020241+63.9976
• 全数值比较法:将测试所得的测定值或计
算值不经修约处理(或虽经修约处理,但 应标明它是经舍、进或未进未舍而得), 用该数值与规定的极限数值作比较,只要 超出极限数值规定的范围(不论超出程度 大小),都判定为不符合要求。
• 修约值比较法:将测定值或其计算值进行
修约时,应先将获得的 数值按规定的修约数位多一位或几位报出, 然后按修约规则修约至规定的数位。 • 将修约后的数值与规定的极限数值作比较, 只要超出极限数值规定的范围(不论超出 程度大小),都判定为不符合要求。详见 示例
• 口诀:四舍六入五考虑,五后非零
则进一,五后全零看五前,五前偶 舍奇进一,不论数字多少位,都要 一次修约成。
习题
12.1498修约到一位小数
→12.1 12.1498修约成两位有效位数 →12 将1268修约到百数位 →13×102
习题
将1268修约到三位有效位数 → 127×10
将10.502修约到个数位 → 11 1.050修约间隔为0.1(或10-1) →1.0
•有效位数可视为无限多位的几种情况:
一、非连续型数值(如个数、分数、倍数)是没有欠 准数字的,其有效位数可视为无限多位。例如分子 式“H2SO4”中的“2”和“4”是个数。 二、常数π ,e和系数√2等数值。 三、含量测定项下“每lml的×××××滴定液 (0.1mol/L)” 中的“0.1”为名义浓度。 四、规格项下的“0.3g”或“1ml︰25mg”中的 “0.3”、“1”和“25”为标示量,其有效位数也 均为无限多位。 在计算中,其有效位数应根据其他数值的最少 有效位数而定。
• 相加减时
以诸数值中绝对误差最大(即欠准数字 的数位最大)的数值为准
• 相乘除时
以诸数值中相对误差最大(即有效位数 最少)的数值为准
• 在运算过程中,为减少舍入误差,其
它数值的修约可以暂时多保留一位, 等运算得到结果时,再根据有效位数 弃去多余的数字。 →3步走: 一、判定有效数位 二、过程多保留1位 三、结果修约
• 三、要根据取样的要求,选择相应的量具
1“精密称定”系指称取重量应准确至所取重量的 0.1% 2、“称定”系指称取重量应准确至所取重量1% 3、“称重”“称取”:一般准确到规定重量下一位 4、取“约XX”时,指取用量不超过规定量的 (100±10)%。 5、若无“约”,则按照修约原则来确定称量范围
基本定义
一、数值修约:通过省略原数值的最后若干位数字, 调整所保留的末位数字,使最后所得到的值最接 近原数值的过程。 经数值修约后的数值称为(原数值的)修约值。 二、修约间隔:指修约值的最小数值单位。 修约间隔的数值一经确定,修约值即为该数值 的整数倍 。 例1:如指定修约间隔为0.1,修约值应在0.1的整数 倍中选取,相当于将数值修约到一位小数。 例2:如指定修约间隔为100,修约值应在100的整 数倍中选取,相当于将数值修约到“百”数位。
有效数字和数值的修约运算 及极限数值判定