公路工程用计算器计算相对标准偏差(RSD)
使用SHARP EL-5100计算相对标准偏差(RSD )、标准工作曲线、相关系数(r )和农药降解动态方程示例
注意:本计算器部分数码管失灵,可通过调整小数点位数读出。具体是按左侧
3位,按
4位……。
1 计算相对标准偏差(RSD )、标准工作曲线、相关系数(r )示例 1.1计算相对标准偏差(RSD )
分析测试结果的精密度通常用相对标准偏差(RSD )表示,过去也有用变异系数(CV )表示的。目前,我国相关标准中规定精密度用相对标准偏差(RSD )表示。以下列一组测试数据为例计算相对标准偏差(RSD )。
表1 一组测定数据的统计值
打开计算器电源将右下角的开关拨至统计档,按黄色的和红色的清空内存。输入数据20.5,按蓝色的1.0000…., 依次输入21.3,按蓝色的 2.0000…., 直至8组数据输入完毕。按黄色的X ;按黄色的取Sx ; 用Sx /X ×100= RSD
在常量和痕量分析中,对RSD 有不同的要求,将测定值的RSD 同标准中规定的RSD 相比,判断是否超差。超差则说明测定方法有问题。
分析测定方法中的准确度通常用回收率表示,即测定值与添加值的比值。常量分析为99~101%;痕量分析(如农药残留分析)通常为80~120%。添加通常采用“半量”添加的方法,比如原溶液中测定有50ng组分,再添入50ng组分。农药残留的添加回收通常是在空白对照样品中添加。
1.2标准工作曲线、相关系数(r)示例
表2 标准工作曲线数据统计
进样量(ng)
10203040506070 X轴
峰面积
1020204030604090511060907150 Y轴
直线回归方
Y = 2.8571+101.92X
程
相关系数(r)0.9999
打开计算器电源ON ,将右下角的开关拨至统计档STAT ,按黄色的2ndF和红色的CL清空内存。输入数据10,按M后出现逗号,然后输入数据1020,按M+显示1.0000…., 依次输入20,输入数据2040,按蓝色的M+显示2.0000…., 直至7组数据输入完毕。按2ndF,按×提取截距a; 按2ndF,按+ 提取斜率b ; 按2ndF,按(提取相关系数(r)。将得到的r同表5比较。本组n=5, 若线性相关(水平0.01,即100次试验,有99次应这样),r = 0.874,而本试验计算得r = 0.9999,说明成极好的线性回归关系;反之则不然。本计算器的直线回归方程为Y = a+bX。
有时对进样量、峰面积取单对数或双对数时,二者才能呈线性关系。这与检测器特性有关。
2 计算农药降解动态方程示例
当X 与Y 在单对数坐标系上画图呈直线时,表明函数属于Y =de bx
的变量关系,即In Y =bX +In d , 令Y’=In Y , B =In d , M=b , 则化为直线式: Y’=MX+B 此时,
截距 2
2)(ln ln 2
X n X X Y X Y X B ∑-∑∑∑-∑∑=
斜率 2
2)(ln ln X n X Y X n Y X M
∑-∑∑-∑∑=
大多数农药降解动态可用方程Ct = C 0 e -Kt
来具体表达,即通常所说的化学一级反应动力学方程。Ct=Y ,d=C 0,b=K=M ,X=t 。
由于农药在环境中的浓度通常是较低的,因此我们可以用下式来表达:
…………………………………………………………………(1)
将(1)式积分得: Ct = C 0 e
-kt
(2)
式中,K 为降解速率常数;C 0为农药的初始浓度;也叫原始沉积量;
kc dt
dc =-
Ct 为t 时刻农药的浓度。
对(2)式取对数得:
0ln ln C Kt Ct +-= (3)
(4)
当施用的农药降解50%,即Ct =1/2C 0时,所需时间叫降解半衰期,以
T 1/2表示时:
K
K T 693
.02ln 2/1==
…………………………………………………………(5) 式(5)说明T 1/2与降解速率常数K 成反比,与农药初始浓度C0无关。
同理T 0.99即农药降解99%所需时间可按下式计算:
K K T 595.499ln 99
.0==……………………………………………………(6)
式(3)~(5)推算细节: Ct C KT
-=0ln
Ct C Kt 0
ln =
K
Ct C t 0
ln = 令Ct =1/2C 0Ct
C Kt 0
ln
=
K
K K C C K C C T 693.02ln 2ln
21ln
2/100
00
====
(7)
大多数农药在农作物上和环境中的残留量(浓度),随施药后的时间(天)变化以近似负指数函数递减的规律变化。以甲基毒死蜱在甘蓝及土壤上的消解动态数据为例,具体介绍求降解动态方程实例。
表3 甲基毒死蜱在甘蓝及土壤上的消解动态
施药剂量 g/ha(a.i .) 取样间隔 时 间
(d)
施药1次
甘蓝
土壤
平均残留量 (mg/kg) 消解率
( % )
平均残留量
(mg/kg) 消解率 ( % ) 720
1/24 5.82 — 2.12 — 1 1.10 81 1.12 47 2
0.19 97 0.59 72 3 0.06 99 0.26 88 7 0.02 99 0.07 97 14 0.002 99 0.02 99 21
0.002
99
0.006
99
原始沉积量所对应的时间为1/24天,即喷药后1小时。 以X 表示时间,Y 表示残留量。在计算回归方程时,通常只取降解率达90%以上的1~2组数据。即甘蓝上取4组数据,土壤上取5组数据。
将Y 转换成ln Y ,或直接输入具有计算直线回归方程功能的计算器计算。
以SHARP EL-5100计算器为例,甲基毒死蜱在甘蓝上的降解动态方程,计算结果为:r =-0.9957,是否相关,及相关显著水平,可查相关系数检验表(表2),v =4-2=2, P 0.05=0.950, P 0.01=0.990,因此该方程可以模拟该种药剂随时间变化的情况。a =1.7119,b =-1.5666=K 。取a 值自然对数为C 0=5.5397,因此Ct = 5.5397e
-1.5666t
。
按式(5)d K T 4.05666
.1693
.02ln 2/1≈== 由此,我们可以得出甲基毒死蜱在甘蓝上的降解动态方程为:
Ct = 5.5397e -1.5666t ,T 1/2=0.4d ,r =-0.9957,显著水平为P 0.01。
m g /k g
-6
-4-20246
l n m g /k g
按照上述计算过程,可同理计算出土壤上的降解方程。
对某些除草剂可用Ct=C0t-k回归。数据处理取双对数,即X和Y都取对数。
.