有效数字及运算规则

合集下载

有效数字的计算法则

有效数字的计算法则

有效数字的计算法则
有效数字是指在最后一个数字后面的数字都是不确定的数字。

有效数字的计算法则是指在进行数学计算时,应当根据有效数字的规则进行计算以保证结果的准确性。

以下是一些有效数字的计算法则: 1. 加减法:在进行加减法运算时,结果的有效数字应当与被加数或被减数中有效数字最少的那个数相同。

2. 乘法:在进行乘法运算时,结果的有效数字应当与被乘数和乘数中有效数字的总和相同。

3. 除法:在进行除法运算时,结果的有效数字应当与被除数中有效数字的总数相同。

4. 幂运算:在进行幂运算时,结果的有效数字应当与底数中有效数字的总数相同。

5. 对数运算:在进行对数运算时,结果的有效数字应当与真数中有效数字的总数相同。

在进行数学计算时,应当注意有效数字的规则,以保证计算结果的准确性。

同时,应当注意四舍五入的规则,以便得到正确的有效数字。

- 1 -。

有效数字及其运算规则

有效数字及其运算规则

§2—3有效数字及其运算规则1. 有效数字的一般概念1) 有效数字的概念 实验中测量的结果都是有误差的,那么测量值如何表达才算合理呢?如用最小分度值为1mm 的尺子测得某物体的长度L =12.46cm ,可否写成12.460cm 或12.4600cm 呢?回答当然是否定的,因为用该米尺测量时毫米以下的一位数字6已经是估计的(即有误差存在),再往下估读已无实际意义。

在大学物理实验中,12.460和12.4600这两个数值与12.46有着不同的含义,即表示它们的误差是不相同的。

在实验测量和近似计算中得到的数据,其末位是有误差的,我们称这种数为有效数字。

所以,有效数字是由若干位准确数字和一位欠准确数字构成的。

上面的举例L=12.46cm ,就是有四位有效数字。

若我们用最小分度为0.02mm 的游标卡尺去测量该物体,得L =12.460cm ;用最小分度为0.0lmm 的螺旋测微器测量该物体,读数为12.4602cm ,则它们分别是五位和六位的有效数字。

由此可见,同一物体,用不同精度的仪器去测量,有效数字的位数是不同的,精度越高,有效位数越多。

当我们用m 或km 作单位时,物理量L =12.46cm 表示为L =0.1246m 或L =0.0001246km ,它们是几位有效数字呢?因为单位换算并没有改变它原来测量的精度,因此仍是四位有效数字,这里的“0”是确定小数点位置的,不是有效数字,也就是说,在非零数字前的“0”不是有效数字。

当“0”不是确定小数点位置,即在非零数字后面时,与其它的字码是有同等地位的,都是有效数字。

例如,1.005cm ,是四位有效数字;1.00m 是三位有效数字。

这里的“0”就不能随便的增或减。

2) 数值的科学表达方式当一个数值很大,但有效数字又不多的情况下,如何来正确表达呢? 这时可以用尾数乘以10的多少次幂的形式表示,即所谓的科学记数法。

例如某号钢的弹性模量为,它有三位有效数字,显然写成197,000,000,000是不妥当的。

有效数字与运算规则

有效数字与运算规则

有效数字按小数点后的位数计算。
(5)表示分析方法的精密度和准确度时,大多数取1—2位有
效数字。
2020/1/30
4 有效数字运算规则在分析测试中的应用
• 1.记录测定结果时,只应保留一位可疑数字。 • 2.有效数字位数确定以后,按“四舍六入五成双”规
则进行修约。 • 3.几个数相加减时,以绝对误差最大的数为标准,使
0.1256;1.97;704.7;9.3 10 5 ;
1.3.3 置信度(置信水平)与平均值的置信区间
• (1) 置信度(置信水平,P) :真实值(测定结果的平均值)
落在 tSX 区间内的概率. 一般P=90%或95%.
(2) 平均值的置信区间:在一定置信度下,以平均值为
中心,包括总体平均值 x的置信区间,即
xts
1-P称为显著水准:
n
即测定值落在u 外的可能性大小.
表示出数据的集中趋势与分散程度,就可进一步 对总体平均值可能存在的区间作出估计。
由一组少量实验数据中求得 x ,s和n值后,再根
据选定的置信度及自由度,由t值表查得 t( , f ),就可
以计算出平均值的置信区间。
SUCCESS
结果的位数取决于绝对误差最大的数据的 位数(即以运算式中小数点后位数最少的数据为依据)
例: 误差:0.0001
0.01 20200/.1/03001
26.7091
26.71
0.0121 25.64 1.057
绝对
2. 乘除运算时
有效数字的位数取决于相对误差最大的数据
的位数(即以运算式中有效数字位数最少的数据为依据)
(2)分析天平(万分之一)取4位有效数字
(3)标准溶液的浓度,用4位有效数字表示:

有效数字及其运算规则

有效数字及其运算规则

有效数字及其运算规则一、测量结果得有效数字1.有效数字得定义及其基本性质测量结果中所有可靠数字加上末位得可疑数字统称为测量结果得有效数字。

有效数字具有以下基本特性:(1)有效数字得位数与仪器精度(最小分度值)有关,也与被测量得大小有关。

对于同一被测量量,如果使用不同精度得仪器进行测量,则测得得有效数字得位数就是不同得。

例如用千分尺(最小分度值,)测量某物体得长度读数为。

其中前三位数字“”就是最小分度值得整数部分,就是可靠数字;末位“"就是在最小分度值内估读得数字,为可疑数字;它与千分尺得在同一数位上,所以该测量值有四位数字、如果改用最小分度值(游标精度)为得游标卡尺来测量,其读数为,测量值就只有三位有效数字。

游标卡尺没有估读数字,其末位数字“"为可疑数字,它与游标卡尺得也就是在同一数位上。

(2)有效数字得位数与小数点得位置无关,单位换算时有效数字得位数不应发生改变。

2、有效数字与不确定度得关系在我们规定不确定度得有效数字只取一位时,任何测量结果,其数值得最后一位应与不确定度所在得那一位对齐、如,测量值得末位“”刚好与不确定度得“"对齐。

由于有效数字得最后一位就是不确定度所在位,因此有效数字或有效位数在一定程度上反映了测量值得不确定度(或误差限值)。

测量值得有效数字位数越多,测量得相对不确定度越小;有效位数越少,相对不确定度就越大。

3.数值得科学表示法二、有效数字得运算规则1.数值得舍入修约原则测量值得数字得舍入,首先要确定需要保留得有效数字与位数,保留数字得位数确定以后,后面多余得数字就应予以舍入修约,其规则如下:(1)拟舍弃数字得最左一位数字小于5时,则舍去,即保留得各位数字不变。

(2)拟舍弃数字得最左一位数字大于5,或者就是5而其后跟有并非0得数字时,则进1,即保留得末位数字加1。

(3)拟舍弃数字得最左一位数字为5,而5得右边无数字或皆为0时,若所保留得末位数字为奇数则进1,为偶数或0则舍去,即“单进双不进”。

有效数字及其运算规则

有效数字及其运算规则

有效数字及其运算规则一、测量结果的有效数字1.有效数字的定义及其基本性质测量结果中所有可靠数字加上末位的可疑数字统称为测量结果的有效数字。

有效数字具有以下基本特性:有效数字具有以下基本特性:(1)有效数字的位数与仪器精度(最小分度值)有关,也与被测量的大小有关。

)有效数字的位数与仪器精度(最小分度值)有关,也与被测量的大小有关。

对于同一被测量量,如果使用不同精度的仪器进行测量,则测得的有效数字的位数是不同的。

例如用千分尺(最小分度值00.011m m ,0.004m mD =仪)测量某物体的长度读数为84.8334m m 。

其中前三位数字“483”是最小分度值的整数部分,是可靠数字;末位“4”是在最小分度值内估读的数字,为可疑数字;它与千分尺的D 仪在同一数位上,所以该测量值有四位数字。

如果改用最小分度值(游标精度)为00.022m m 的游标卡尺来测量,其读数为84.844m m ,测量值就只有三位有效数字。

游标卡尺没有估读数字,其末位数字“4”为可疑数字,它与游标卡尺的0.02m m D 仪=也是在同一数位上。

也是在同一数位上。

(2)有效数字的位数与小数点的位置无关,单位换算时有效数字的位数不应发生改变。

2.有效数字与不确定度的关系在我们规定不确定度的有效数字只取一位时,任何测量结果,其数值的最后一位应与不确定度所在的那一位对齐。

如39(8.922700.0005)/g c m r =±,测量值的末位“7”刚好与不确定度00.0005的“5”对齐。

”对齐。

由于有效数字的最后一位是不确定度所在位,因此有效数字或有效位数在一定程度上反映了测量值的不确定度(或误差限值)。

测量值的有效数字位数越多,测量的相对不确定度越小;有效位数越少,相对不确定度就越大。

越小;有效位数越少,相对不确定度就越大。

3.数值的科学表示法二、有效数字的运算规则1.数值的舍入修约原则测量值的数字的舍入,首先要确定需要保留的有效数字和位数,保留数字的位数确定以222()()()A B C D +D +D 2222()()0.300.088A C D +D +2222()()0.0402483.751.2R T RTD D æöæöæöæ+´=+´ç÷ç÷ç÷çèøèøèøè2。

有效数字及其运算规则

有效数字及其运算规则
10
3 .乘方或开方: 结果有效数字位数不变。 例如, 6.542=42.8
4 .对数计算: 对数尾数的位数应 与真数的有效数字位数相同。 例如:
[H ] 6.3 10 pH 10.20

11
mol/L
11
注意
为提高计算的准确性, 在计算过程 中可暂时多保留一位有效数字, 计 算完后再修约.运用电子计算器运 算时, 要对其运算结果进行修约, 保
留适当的位数,不可将显示的全部
数字作为结果。
12
练习
0.015+1.3256+502.33= ? 0.02+1.33+502.33=503.68
(0.0177×35.81×302.5)/28.658= ? (0.0177×35.8×302)/28.7=6.67
13
某人用差示光度分析法分析药物含量,称取 此药物试样0.0520g,最后计算此药物的质量 分数为 96.24%。问该结果是否合理?为什么 ? 答:该结果不合理。因为试样质量只有三位 有效数字,而结果却报出四位有效数字,结 果不可能有那样高的精度。最后计算此药物 的质量分数应改为96.2%。
14
15
,e
二、有效数字的修约规则
1. “四舍六入五成双”
例:0.37456 , 0.3745 均修约至三位有效数字
0.375 0.374
2.只能对数字进行一次性修约 例:6.549, 2.451 一次修约至两位有效数字
6.5
2.5
7
注意 尾数为5时,若“5”后的数字为“0”则按“5”前 面为偶数者舍弃,为奇数者进1位;若“5”后面 的数字不为“0”的任何数,则不论“5”前面的 一个数为偶数或奇数均进1位

有效数字及运算法则

有效数字及运算法则
指针在82mA与83mA之间:读为82.* mA
指针正好在82mA上:读为82.0mA
可修改
12
对于1.0级表 △仪=100mA×1.0%=1mA
指针在82mA与84mA之间: 可读为82mA、83mA或84mA
指针正好在82mA上:读为82mA
可修改
13
例1
62 .
–5
+
1.
23–4
=
63
.
7–
0.326 9.674 __1_0_.0_0_0_,
100.00 __1_._00_0_0_。
0.326 9.674可修改
28
在表达式 100.00 0.100cm 中的
100.00的有效数字是_4__位;
100.00 0.10cm 中的
100.00的有效数字是__4__ 位;
100.0 0.1cm 中的有效数字
注意:进行单位换算时,
有效数字的位数不变。
可修改
4
2.数值的科学记数法
数据过大或过小时,可以 用科学表达式。
某电阻值为20000(欧姆),保留三位有 效数字时写成 2.00104
又 如 数 据 为 0.0000325m , 使 用 科 学 记 数 法写成3.2510-5m
可修改
5
3.有效数字与仪器的关系
N 0.96 0.0可3修cm改
18
运算规则:结果的有效数字与其底或被开
方数的有效数字位数相同。
如: 1002=100102
100=10.0
49 = 7.0
4.02=16
正确
49 = 7
4.02=16.0 错误
可修改
19
(1)对数函数 lgx的尾数与x的位数相同

有效数字及运算规则

有效数字及运算规则

有效数字及运算规则1.4.1 有效数字的基本概念任何测量结果都存在不确定度,测量值的位数不能任意的取舍,要由不确定度来决定,即测量值的末位数要与不确定度的末位数对齐。

如体积的测量值3cm 961.5=V ,其不确定度3cm 04.0=V U ,由不确定度的定义及V U 的数值可知,测量值在小数点后的百分位上已经出现误差,因此961.5=V 中的“6”已是有误差的欠准确数,其后面一位“1”已无保留的意义,所以测量结果应写为3cm 04.096.5±=V 。

另外,数据计算都有一定的近似性,计算时既不必超过原有测量准确度而取位过多,也不能降低原测量准确度,即计算的准确性和测量的准确性要相适应。

所以在数据记录、计算以及书写测量结果时,必须按有效数字及其运算法则来处理。

熟练地掌握这些知识,是普通物理实验的基本要求之一,也为将来科学处理数据打下基础。

测量值一般只保留一位欠准确数,其余均为准确数。

所谓有效数字是由所有准确数字和一位欠准确数字构成的,这些数字的总位数称为有效位数。

一个物理量的数值与数学上的数有着不同的含义。

例如,在数学意义上600.460.4=,但在物理测量中(如长度测量),cm 600.4cm 60.4≠,因为cm 60.4中的前两位“4”和“6”是准确数,最后一位“0”是欠准确数,共有三位有效数字。

而cm 600.4则有四位有效数字。

实际上这两种写法表示了两种不同精度的测量结果,所以在记录实验测量数据时,有效数字的位数不能随意增减。

1.4.2 直接测量的读数原则直接测量读数应反映出有效数字,一般应估读到测量器具最小分度值的10/1。

但由于某些仪表的分度较窄、指针较粗或测量基准较不可靠等,可估读5/1或2/1分度。

对于数字式仪表,所显示的数字均为有效数字,无需估读,误差一般出现在最末一位。

例如:用毫米刻度的米尺测量长度,如图1-4-1(a )所示,cm 67.1=L 。

“6.1”是从米尺上读出的“准确”数,“7”是从米尺上估读的“欠准确”数,但是有效的,所以读出的是三位有效数字。

  1. 1、下载文档前请自行甄别文档内容的完整性,平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益,请联系客服反馈,我们会尽快为您处理(人工客服工作时间:9:00-18:30)。
0.47
0.44
0.41
Q 0.95
0.97
0.84
0.73
0.64
0.59
0.54
0.51
0.49
步子
1.由大到小排列;
2.计算极差R;
3.计算离群值与其相邻值之差(取绝对值)D;
4.计算舍弃商Q计算:Q计=D/R;
5.根据测定次数和要求设置置信度,查舍弃商Q值表;
6.将Q计与Q表比较,如果Q计≥Q表,则舍弃。
注意:置信度越高,μ置信区间越大。
2.
主要检验有无系统误差。检测测量平均值与标准值或两种分析方法的平均值是否有显著性差异。
由μ= ± 导出
t=
按上式计算出一定置信度下的t值,与查表的t值比较,
当t计≥t表,则存在显著误差;
当t计<t表,则不存在显著误差。
例:用一种新方法测定纯明矾中铝的百分含量。n=9,测量结果:10.74%、10.77%、10.77%、10.77%、10.81%、10.82%、10.83%、10.86%、10.81%,已知标准值10.77%,判断置信度为95%的系统误差。
实验数据处理及结果评价
1.
总体或母体universe,样本swatch,个体individual,样本容量capicotyof sample
无限次数测量,总体平均值μ
平均值(arithmetic average) = =
标准差(均方根偏差,s)standard deviation
S=
相对标准偏差(变异系数,CV)variable coefficient
μ90%= ± =26.74±2.353*0.09/ =26.74±0.11%,即(26.74-0.11,26.74+0.11)=(26.63%~26.85%);
μ95%= ± =26.74±3.182*0.09/ =26.74±0.14%,即(26.74-0.14,26.74+0.14)=(26.60%~26.88%)
5.
有效数字significant figure:分析工作中能测量到的数字,包括最后一位估计的数字。
位数:从最左边第一个非零数字后的位数算起,这个数字有几位,就是有效数字(可读数字、综合可疑数字概念,略)。如
1.0001 5位
0.1000 4位;
0.0123 3位
0.0040 2位
1.330*1044位
如将下列数字修约为4位数
0.727646 0.7276
0.473660.4737
11.235011.24
11.245011.24
11.245001 11.25
运算法则:先确定有效数字的统一,其中,
加法:有效数字位数统一于绝对误差最大的那个数,即保留一位可疑数字,保持小数位数一致性;
乘法:有效数字位数统一于相对误差最大的那个数,即有效数字最少的为准。
CV(%)= ×100
n个平行试验,其平均值 的标准偏差 = ,平均值的标准偏差比样本的精密度小,一般4~6次试验即可。
如某石灰岩CaO化验数据
x/%
37.20
37.25
37.30
37.45
37.50
37.34
0.06
S/%
0.13
置信度confidence level:测定结果的可靠程度,即概率。英国Gosset用统计方法推到出无限次测定结果的平均值μ= ± ,公式中:
有效数字确定及运算规则
修约rounding:合理取舍。规则:四舍六入五留双,一次修约到位,不能分次修约。四舍六入五留双解读:修约数字6进4约5看,有后进,前奇进,前偶无后约(无后:5后跟一串0,均为0)。即:
要修约的数字≤4,舍去;
要修约的数字≥6,进位;
要修约的数字等于5且①后边数字均为0,若其前位数字为偶数,则舍去,否则进位;②如果要修约的5后还有非零的任何数,则要进位。
4.6045.598… Nhomakorabea8=9-1


2.306



置信区间confienceinterval,即x变量区间。
例:有一组数据,其4次测定结果的平均值26.74%,标准偏差0.09%,球置信度90%和95%的置信区间。
解:已知s=0.09%,n=4,查4-1与置信度90%、95%对应t1=2.353,t2=2.776%代入公式
±0.01/25.63=±0.04%,按±0.05%对应的0.021进行修约,有效位数3位,分别为:0.0221、1.06、25.6,再相乘。
t—选定置信度下的概率系数,可查表就得
自由度
f=n-1
置信度
50%
90%
95%
99%
99.5%
1
1.000
6.314
12.706
63.657
127.32
2
0.816
2.920
4.303
9.925
14.089

3=4-1
0.765
2.353
3.182
5.481
7.453
4
0.741
2.132
2.776
注意:以0结尾的整数,如1200,写成指数形式。
1.2*1032位
1.20*1033位
1.200*1034位
在运算时,首位数字≥8时,确定位数应在原基础上+1
精度
某质量为0.5100g,最后一位是估计的,表示0.5100g±0.0001g,相对误差为:0.0001/0.5100=0.02%
某质量为0.510g,最后一位是估计的,表示0.5100g±0.001g,相对误差为:0.001/0.5100=0.2%
例:测定某溶液的浓度(mol/L):0.1020、0.1022、0.1023、0.1025、0.1026、0.1029,问0.1029值是否舍?
解:Q计=D/R=(0.1029-0.1026)/(0.1029-0.1020)=0.33
查表:置信度按90%,n=6,查Q 0.9=0.56
Q计<Q表,保留0.1029
查表t表,自由度用f=n1+n2-2
比较方法同上。
例:略
3.
比较两组数据的方差( ),以确定是否存在显著误差。常用于检查偶然性误差大小。
公式:F计算=
与查表数据比较,
当F计≥F表,则存在显著误差;
当F计<F表,则不存在显著误差。
例:用不同的方法测定某试样,用第一种方法测定6次,得出标准偏差s1=0.05%;第二种方法测定4次,s2=0.02%,判断误是否存在显著误差。
解:F计算= =6.25
查表F(n大-1,n小-1)=(5,3)=9.01
F计算<F表,无显著误差。
置信度95%时F值(单边)
f小f大
2
3
4
5
6

2
3
9.01
4

4.
离群值或可疑值questionable value
舍弃商Q值表
Q n
3
4
5
6
7
8
9
10
Q 0.9
0.94
0.76
0.64
0.56
0.51
特例注意:首位数字≥8时,应用有效位数时在原有效位上+1,如0.0995有效位数字为4;而9.01有效位数字也为4。
如0.0221、1.05666、25.63
加法:绝对误差分别为±0.001、±0.00001、±0.01,按0.01修约,有效数字在百分位,分别为:0.02、1.06、25.63,
乘法:相对误差±0.001/0.021=±0.05%;±0.00001/1.05666=±0.0009%;
解:9次结果得出: ,s=0.038%,已知μ=10.77%
t计= =2.368
查表:t表(8和置信度95%)=2.306
t计=2.368>t表=2.306,新方法存在系统误差
两组试验比较:合并标准偏差与检验:不同实验人员或不同试验方法测定同一试样,得到两组测定值,判断是否存在显著性差异。
t计=
s合=
相关文档
最新文档