2-4 有效数字及其运算规则

合集下载

普通化学 有效数字

普通化学 有效数字

“5之后有大于0的数字则入”: “5之后有大于0的数字则入” 之后有大于
0.7851保留两位有效数字时为0.79 7851 7851 7
4.有效数字的运算规则 4.有效数字的运算规则——先修约后计算 有效数字的运算规则 先修约后计算 加减法: ( 1 ) 加减法 : 运算结果的绝对误差必须与所有参与 运算的数字中绝对误差最大 绝对误差最大的数字保持一致,即应依 绝对误差最大 小数点位数最少的数据为依据。 小数点位数最少
3.有效数字的修约规则 3.有效数字的修约规则
在处理分析数据时, 在处理分析数据时,根据测量数据的精度和有效数字的 运算规则,合理地保留有效数字,叫做有效数字的修约。 运算规则,合理地保留有效数字,叫做有效数字的修约。
规则: 四舍六入五成双” 规则:“四舍六入五成双”:
四舍:如0.324保留两位有效数字时为0.32 324 32 32 六入:如0.326保留两位有效数字时为0.33 326 32 3 五成双:0.785保留两位有效数字时为0.78; 785 78 7 0.775保留两位有效数字时也为0.78 775 77 7
导出单位=∏(基本单位)n
SI制—词头(十进制)
因数1024 1021 符号 Y Z 名称 尧 泽 1018 E 艾 1015 P 拍 1012 T 太 109 G 吉 106 M 兆 103 102 101 100 k h da 千 百 十
宇宙的尺度:150亿光年=?米
150×108 ×365 ×24 ×3600 ×3.0 ×108=1.4 ×1026m 1.4
133Cs基态两个超精细能级之间跃迁
长度 质量 时间 电流 热力学 温度 物质 的量 发光 强度
米 千克 秒 安[培]
m kg s A

有效数字及其运算规则

有效数字及其运算规则

一、目的:建立有效数字及其运算规程,规范药品生产时记录数据的运算规范、准确。

二、范围:适用于所有相关数据的计算。

三、责任者:生产部、质量管理部。

四、内容1.有效数字1.1定义有效数字就是实际能测到的数字。

有效数字的位数和分析过程所用的分析方法、测量方法、测量仪器的准确度有关。

我们可以把有效数字这样表示。

有效数字=所有的可靠的数字+ 一位可疑数字1.2有效数字位数从一个数的左边第一个非0数字起,到末位数字止,所有的数字都是这个数的有效数字。

例:A.0.0109,前面两个0不是有效数字,后面的109均为有效数字(注意,中间的0也算)。

B.3.109*10^5(3.109乘以10的5次方)中,3 1 0 9均为有效数字,后面的10的5次方不是有效数字。

C.5200000000,全部都是有效数字。

D.0.0230,前面的两个0不是有效数字,后面的230均为有效数字(后面的0也算)。

E.1.20 有3个有效数字。

F.1100.120 有7位有效数字。

G.2.998*104(2.998乘以10的4次方)中,保留3个有效数字为3.00*104。

H.对数的有效数字为小数点后的全部数字,如lg x=1.23有效数字为2.3,lg a=2.045有效数字为0、4.5,pH=2.35有效数字为3.5。

1.3“0”的双重意义1.3.1作为定位的标志。

例:滴定管读数为20.30毫升。

两个0都是测量出的值,算做普通数字,都是有效数字,这个数据有效数字位数是四位。

1.3.2作为普通数字使用例:改用“升”为单位,数据表示为0.02030升,前两个0是起定位作用的,不是有效数字,此数据是四位有效数字。

2.有效数字的运算规则2.1数字修约规则测量值的数字的舍入,首先要确定需要保留的有效数字和位数,保留数字的位数确定以后,后面多余的数字就应予以舍入修约,其规则为“四舍六入五成双”,具体规则如下:2.1.1当保留n位有效数字,若第n+1位数字小于5时,则舍去,即保留的各位数字不变。

有效数字及其运算规则

有效数字及其运算规则
1.有效数字的加减
的必要。
在上面两例中,我们按数值的大小对齐后相加或相减,并以其中可疑位数最靠前的为基准,先进行取舍,取齐诸数的可疑位数,然后加、减,则运算简便,结果相同。
2.有效数字的乘除
点后面是可疑数字,允许有所不同。
从以上两例中可得如下结论:诸量相乘或相除,以有效数字最少的数为标准,将有效数字多的其它数字,删至与文相同,然后进行运算。最后结果中的有效数字位数与运算前诸量中有效数字位数最少的一个相同。
2.确定测量结果有效数字的基本方法
(1)仪器的正确测读
仪器正确测读的原则是:读出有效数字中可靠数部分是由被测量的大小与所用仪器的最小分度来决定。可疑数字由介于两个最小分度之间的数值进行估读,估读取数一位(这一位是有误差的)。
例如,用分度值为1mm的米尺测量一物体的长度,物体的一端正好与米尺零刻度线对齐,另一端如图1-1。
4.数值表示方幂来表示其数量级。前面的数字是测得的有效数字,并只保留一位数在小数点的前面。如×105m×10-3kg等。
二、有效数字的运算规则
在有效数字的运算过程中,为了不致因运算而引进误差或损失有效数字,影响测量结果的精确度,并尽可能地简化运算过程,因此,规定有效数字运算规则如下(例中加横线的数字代表可疑数字):
有效数字及其运算规则
§ 有效数字及其运算规则
一、有效数字的一般概念
1.有效数字
任何一个物理量,其测量结果必然存在误差。因此,表示一个物理量测量结果的数字取值是有限的。
我们把测量结果中可靠的几位数字,加上可疑的一位数字,统称为测量结果的有效数字。例如,的有效数字是三位,是可靠数字,尾位“8”是可疑数字。这一位数字虽然是可疑的,但它在一定程度上反映了客观实际,因此它也是有效的。

有效数字及其运算规则

有效数字及其运算规则

题目有效数字及其运算规则编码:页码:1/3修订审核批准修订日期审核日期批准日期颁发部门质量管理部颁发数量份生效日期分发单位生产部、质量管理部一、目的:建立有效数字及其运算规程,规范药品生产时记录数据的运算规范、准确。

二、范围:适用于所有相关数据的计算。

三、责任者:生产部、质量管理部。

四、内容1.有效数字1.1定义有效数字就是实际能测到的数字。

有效数字的位数和分析过程所用的分析方法、测量方法、测量仪器的准确度有关。

我们可以把有效数字这样表示。

有效数字=所有的可靠的数字+ 一位可疑数字1.2有效数字位数从一个数的左边第一个非0数字起,到末位数字止,所有的数字都是这个数的有效数字。

例:A.0.0109,前面两个0不是有效数字,后面的109均为有效数字(注意,中间的0也算)。

B.3.109*10^5(3.109乘以10的5次方)中,3 1 0 9均为有效数字,后面的10的5次方不是有效数字。

C.5200000000,全部都是有效数字。

D.0.0230,前面的两个0不是有效数字,后面的230均为有效数字(后面的0也算)。

E.1.20 有3个有效数字。

F.1100.120 有7位有效数字。

G.2.998*104(2.998乘以10的4次方)中,保留3个有效数字为3.00*104。

H.对数的有效数字为小数点后的全部数字,如lg x=1.23有效数字为2.3,lg a=2.045有效数字为0、4.5,pH=2.35有效数字为3.5。

1.3“0”的双重意义1.3.1作为定位的标志。

例:滴定管读数为20.30毫升。

两个0都是测量出的值,算做普通数字,都是有效数字,这个数据有效数字位数是四位。

1.3.2作为普通数字使用例:改用“升”为单位,数据表示为0.02030升,前两个0是起定位作用的,不是有效数字,此数据是四位有效数字。

2.有效数字的运算规则2.1数字修约规则题目有效数字及其运算规则页码:2/3颁发部门质量管理部编码:测量值的数字的舍入,首先要确定需要保留的有效数字和位数,保留数字的位数确定以后,后面多余的数字就应予以舍入修约,其规则为“四舍六入五成双”,具体规则如下:2.1.1当保留n位有效数字,若第n+1位数字小于5时,则舍去,即保留的各位数字不变。

有效数字及其运算规则

有效数字及其运算规则

有效数字及其运算规则一、测量结果得有效数字1.有效数字得定义及其基本性质测量结果中所有可靠数字加上末位得可疑数字统称为测量结果得有效数字。

有效数字具有以下基本特性:(1)有效数字得位数与仪器精度(最小分度值)有关,也与被测量得大小有关。

对于同一被测量量,如果使用不同精度得仪器进行测量,则测得得有效数字得位数就是不同得。

例如用千分尺(最小分度值,)测量某物体得长度读数为。

其中前三位数字“”就是最小分度值得整数部分,就是可靠数字;末位“"就是在最小分度值内估读得数字,为可疑数字;它与千分尺得在同一数位上,所以该测量值有四位数字、如果改用最小分度值(游标精度)为得游标卡尺来测量,其读数为,测量值就只有三位有效数字。

游标卡尺没有估读数字,其末位数字“"为可疑数字,它与游标卡尺得也就是在同一数位上。

(2)有效数字得位数与小数点得位置无关,单位换算时有效数字得位数不应发生改变。

2、有效数字与不确定度得关系在我们规定不确定度得有效数字只取一位时,任何测量结果,其数值得最后一位应与不确定度所在得那一位对齐、如,测量值得末位“”刚好与不确定度得“"对齐。

由于有效数字得最后一位就是不确定度所在位,因此有效数字或有效位数在一定程度上反映了测量值得不确定度(或误差限值)。

测量值得有效数字位数越多,测量得相对不确定度越小;有效位数越少,相对不确定度就越大。

3.数值得科学表示法二、有效数字得运算规则1.数值得舍入修约原则测量值得数字得舍入,首先要确定需要保留得有效数字与位数,保留数字得位数确定以后,后面多余得数字就应予以舍入修约,其规则如下:(1)拟舍弃数字得最左一位数字小于5时,则舍去,即保留得各位数字不变。

(2)拟舍弃数字得最左一位数字大于5,或者就是5而其后跟有并非0得数字时,则进1,即保留得末位数字加1。

(3)拟舍弃数字得最左一位数字为5,而5得右边无数字或皆为0时,若所保留得末位数字为奇数则进1,为偶数或0则舍去,即“单进双不进”。

有效数字及其运算规则

有效数字及其运算规则

有效数字及其运算规则一、测量结果的有效数字1.有效数字的定义及其基本性质测量结果中所有可靠数字加上末位的可疑数字统称为测量结果的有效数字。

有效数字具有以下基本特性:(1)有效数字的位数与仪器精度(最小分度值)有关,也与被测量的大小有关。

对于同一被测量量,如果使用不同精度的仪器进行测量,则测得的有效数字的位数是不同的。

例如用千分尺(最小分度值0.01mm ,0.004mm ∆=仪)测量某物体的长度读数为4.834mm 。

其中前三位数字“483”是最小分度值的整数部分,是可靠数字;末位“4”是在最小分度值内估读的数字,为可疑数字;它与千分尺的∆仪在同一数位上,所以该测量值有四位数字。

如果改用最小分度值(游标精度)为0.02mm 的游标卡尺来测量,其读数为4.84mm ,测量值就只有三位有效数字。

游标卡尺没有估读数字,其末位数字“4”为可疑数字,它与游标卡尺的0.02mm ∆仪=也是在同一数位上。

(2)有效数字的位数与小数点的位置无关,单位换算时有效数字的位数不应发生改变。

2.有效数字与不确定度的关系在我们规定不确定度的有效数字只取一位时,任何测量结果,其数值的最后一位应与不确定度所在的那一位对齐。

如3(8.9270.005)/g cm ρ=±,测量值的末位“7”刚好与不确定度0.005的“5”对齐。

由于有效数字的最后一位是不确定度所在位,因此有效数字或有效位数在一定程度上反映了测量值的不确定度(或误差限值)。

测量值的有效数字位数越多,测量的相对不确定度越小;有效位数越少,相对不确定度就越大。

3.数值的科学表示法 二、有效数字的运算规则1.数值的舍入修约原则测量值的数字的舍入,首先要确定需要保留的有效数字和位数,保留数字的位数确定以后,后面多余的数字就应予以舍入修约,其规则如下:(1)拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。

(2)拟舍弃数字的最左一位数字大于5,或者是5而其后跟有并非0的数字时,则进1,即保留的末位数字加1。

有效数字及其运算规则

有效数字及其运算规则
10
3 .乘方或开方: 结果有效数字位数不变。 例如, 6.542=42.8
4 .对数计算: 对数尾数的位数应 与真数的有效数字位数相同。 例如:
[H ] 6.3 10 pH 10.20

11
mol/L
11
注意
为提高计算的准确性, 在计算过程 中可暂时多保留一位有效数字, 计 算完后再修约.运用电子计算器运 算时, 要对其运算结果进行修约, 保
留适当的位数,不可将显示的全部
数字作为结果。
12
练习
0.015+1.3256+502.33= ? 0.02+1.33+502.33=503.68
(0.0177×35.81×302.5)/28.658= ? (0.0177×35.8×302)/28.7=6.67
13
某人用差示光度分析法分析药物含量,称取 此药物试样0.0520g,最后计算此药物的质量 分数为 96.24%。问该结果是否合理?为什么 ? 答:该结果不合理。因为试样质量只有三位 有效数字,而结果却报出四位有效数字,结 果不可能有那样高的精度。最后计算此药物 的质量分数应改为96.2%。
14
15
,e
二、有效数字的修约规则
1. “四舍六入五成双”
例:0.37456 , 0.3745 均修约至三位有效数字
0.375 0.374
2.只能对数字进行一次性修约 例:6.549, 2.451 一次修约至两位有效数字
6.5
2.5
7
注意 尾数为5时,若“5”后的数字为“0”则按“5”前 面为偶数者舍弃,为奇数者进1位;若“5”后面 的数字不为“0”的任何数,则不论“5”前面的 一个数为偶数或奇数均进1位

有效数字运算规则

有效数字运算规则
不能数次修约。
00:58:31
5
有效数字及其运算规则
二、有效数字修约原则: 在取舍有效数字位数时,应注意以下几点)
(4)有关化学平衡计算中的浓度,一般保留二位或三位 有效数字。pH值的小数部分才为有效数字,一般保留一 位或 二位有效数字。 例如,[H+]=5.210 -3 mol·L-1 ,则pH = 2.28
00:58:31
2
有效数字及其运算规则
一.有效数字
2.数字零在数据中具有双重作用: (1)若作为普通数,是有效数字
如 0.3180 4位有效数字 3.18010 -1 (2)若只起定位作用,不是有效数字。
如 0.0318 3位有效数字 3.1810 -2 3.改变单位不改变有效数字的位数:
19.02 mL → 19.0210-3 L
(2)分析天平(万分之一)称取样品,质量小数点后取 45 位有效数字。
(3)标准溶液的浓度,用 4 位有效数字表示。
00:58:31
13
四.有效数字规则在分析化学中的应用
2.按有效数字的运算规则正确地计算数据—报出合理的 测试结果。 注意:算式中的相对分子质量取 4 位有效数字。
00:58:31
14
00:58:31
9
有效数字及其运算规则
三. 有效数字的运算规则 2. 乘除运算
几个数据的乘除运算中,所得结果的有效数字的位数 取决于有效数字位数最少的那个数,即相对误差最大 的那个数。
例:( 0.0325 5.103 )/ 139.8 = 0.00119
00:58:31
10
有效数字及其运算规则
(5)表示误差时,取一位有效数字已足够,最多取二位。
00:58:31
  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。

(2)零与有效数字位数的关系 凡是在数字前边的零是无效的。 • • • 后边 • • • 有效• • • 。
(5000,1/2,π,e) (3)非测量数字的位数无限多。
(4)对数的位数由小数点后边 的位数决定。
pH=7.68 lgK=16.64 10-2.00 2.3×10-5
2位 2位 2位 2位
§2-4 有效数字及其运算规则
一、有效数字的定义及位数
二、有效数字的运算规则
2
辽宁师范大学
Analytical Chemistry 分析化学
一、有效数字
1.定义:能实际测量到的数字。
仪器精度(Ea )
记作 含义
台秤 ±0.1g 0.5g 0.4~0.6g
分析天平 ±0.0001g 0.5000g 0.4999 ~ 0.5001g
辽宁师范大学
Analytical Chemistry 分析化学
问题的提出
例如: 0.0121×25.64×1.05782 =0.328182308 0.0121+25.64+1.05782=
0.0121 25.64 1.05782
1
+
辽宁师范大学
Analytical Chemistry 分析化学
第二章 定量分析误差Fra bibliotek滴定管精度:
Ea=± 0.01mL 例如:25.46mL;

万分之一全自动 电子天平精度:
Ea=± 0.0001g 例如:0.5465g
6
辽宁师范大学
Analytical Chemistry 分析化学
3.有效数字位数的确定
(1)由仪器精度确定。
台秤 Ea ±0.1g 记作 0.5g 位数 1位
分析天平 ±0.0001g 0.5000g 4位
w MnO2 0.8000 3 5 ( 8.00 0.1000 10 ) 86.94 2 126.07 100% 0.5000
问测定结果应以几位有效数字报出?
分析: 0.8000 0.0063457
126.07
5 8.00 0.1000 10 0.002000 2
Er
前三位准确
± 20%
±0.02%
最后一位不确定,含一个单位的误差
3
辽宁师范大学
Analytical Chemistry 分析化学
2.有效数字的组成
所有的准确数字+最后一位不确定数字
例:量取7mL溶液
100mL量筒 10mL量筒 10mL移液管
Ea
实际 取出
±1mL
7 ±1mL (1位)
±0.1mL
8
=5,且5后有非零数字: 进位
辽宁师范大学
Analytical Chemistry 分析化学
2. 运算规则
(一)加减法
以小数点后面位数 最少的数字为准修约, 使每个数据小数点后面 的位数相同。 0.0121+25.64+1.05782 =0.01+25.64+1.06 =26.71
0.0121 25.64 1.05782
7
辽宁师范大学
Analytical Chemistry 分析化学
二、有效数字的运算规则
先修约,后运算。 1. 修约原则:四舍六入五留双 ≤4: 舍弃 ≥6: 进位 尾数 =5,看5前:
0.31845=0.3184(5舍弃) 保留4位: 0.31844=0.3184(4舍弃) 0.318451=0.3185(进位) 0.31835=0.3184(5进位) 0.31846=0.3185(6进位) 前为双数,舍弃 前为单数,进位
3
wMnO2 75.568248%
75 .57 %
在乘除法中,若有效数字位数最少的数据的首数是 8或9,其位数可以多算一位。
10
辽宁师范大学
Analytical Chemistry 分析化学
例:下面结果应以几位有效数字报出?
0.1010 25.00 24.80) ( 1.0000
0.1010 0.20 1.0000
+
(二)乘除法 以有效数字位数最少 0.0121×25.64×1.05782 的数字为准修约,使每个 =0.0121×25.6×1.06 数据的有效数字位数相同。 =0.328
9
辽宁师范大学
Analytical Chemistry 分析化学
例:用返滴定法测定软锰矿中MnO2含量, 其结果按下式计算:
(2位)
例:下面结果应以几位有效数字报出?
0.1010 25.00 0.80) ( 1.0000
0.1010 24.20 1.0000
(4位)
链接总结
11
7.0 ±0.1 (2位)
±0.01mL
7.00 ±0.01 (3位)
4
辽宁师范大学
Analytical Chemistry 分析化学
3.有效数字位数的确定
(1)由仪器精度确定。
台秤 Ea ±0.1g 记作 0.5g 位数 1位
分析天平 ±0.0001g 0.5000g 4位
5
辽宁师范大学
Analytical Chemistry 分析化学
相关文档
最新文档