实验数据的处理方法
一、实验误差
在检验过程中,由于受检验方法、测量仪器、试剂和检验工作者的主观因素等方面的限制,使得检验结果不可能与真实值完全一致。即使是技术很熟练的检验工作者,用最精密的仪器,用同一种方法对同一样品进行多次检验,也很难得到完全一致的结果。这说明在客观上存在难以避免的误差,但可以通过适当措施减少误差,从而提高检验结果的准确度。
(一)误差的来源
1.系统误差
系统误差是由于分析过程中某些固定的、经常性的原因所引起的误差,它具有单向性,其正负、大小具有一定的规律性,即在多次平行测定中系统误差会反复出现,使测定结果总是系统地偏高或偏低,故又被称为可测误差。系统误差主要来源于以下几个方面。
(1)方法误差 由于检测方法本身不完善所造成的误差,如重量分析中,沉淀溶解损失或吸附某些杂质。
(2)器具、仪器和试剂误差 由于仪器末校准或仪器的精密度、灵敏度不符合要求,试剂不合规格引起的误差。
(3)主观误差 是指在正常操作情况下,由于操作人员主观原因所造成的误差。例如滴定管读数的编高或偏低,滴定终点颜色辨别偏深或偏浅等。
2.随机误差
随机误差是由于一些偶然的、意外的、无法控制的外界因素所引起的误差。例如测量时环境温度、压力、湿度的突然变化,仪器性能的微小变化,分析人员操作的细小变化等。这类误差对测定结果的影响程度不确定,非单向,这类误差是不可避免又无法校正的。
(二)误差的减免方法
系统误差可以能过对照试验、空白试验和校准仪器等方法进行减免。而进行多次平行测定是减小随机误差的有效办法。严格管理,提高检验人员的操作水平,也是高质量完成检验工作,减少检验误差的关键。
(三)误差的表示方法
1.准确度与误差
准确度是指测定值与真实值相接近的程度,它说明测定值的正确性,常用误差的大小来衡量。误差一般用绝对误差和相对误差来表示。
(1)绝对误差
(1.2) |
绝对误差E表示测定值xi与真实值xT之间的差。绝对误差越小,测定值与真实值越接近,测定结果越准确。一些仪器的测定准确度高低常用绝对误差的大小来表示。
(2)相对误差
绝对误差在真实值中所占的比例称为相对误差(Er),由于其能反映误差在真实值中所点的比例,故常用相对误差来表示或比较各种情况下测定结果的准确度。
(1.3) |
2.精密度与偏差
精密度是指在相同的条件下,一组平行测定结果之间相互接的程度。精密度的高低常用偏差来衡量。
(1)偏差
个别测定值xi与多个测定结果的平均值之差称为偏差。偏差的大小可表示分析结果的精密度,偏差越小表明测定结果的精密度越高。与误差相似,偏差也可表示为绝对偏差(di)和相对偏差(dr)。绝对偏差和相对偏差只能用于衡量单次测定结果对平均值的偏差。为了更好地说明测定结果的精密度,在一般分析工作中常用平均偏差和标准偏差表示。
(1.4) |
(1.5)
(2)平均偏差
平均偏差()是指各次测定偏差绝对值的平均值。相对平均偏差()是平均偏差与平均值的比值。
(i=1,2,···,n)(1.6) |
(1.7) |
(3)标准偏差
标准差又称均方根偏差,反映一组测定数据的离散程度。简写为SD,常用符号S表示。由于测定数值有大小不同,单用标准差不能说明测定结果的精密程度,故又常用相对标准差来说明,常用符号RSD表示。
(1.8) |
(1.9)
(4)极差
极差是指一组数据中最大值与最小值之差,它表示偏差的范围,常以符号R表示。
(1.10) |
二、有效数字和数值修约规则
(一)有效数字的基本概念
1.有效数字系指在检验工作中所能得到有实际意义的数值。其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。最后一位数字的欠准程度通常只能是上下差1单位。
2.有效位数
(1)在其它十进位数中,有效数字系指从非零数字最左一位向右数而得到的位数。例 如3.2、0.32、0.032和0.0032均为两位有效位数,0.320为三位有效位数、10.00为四位有效位数,12.490为五位有效位数。
(2)非连续型数值(如个数、分数、倍数)是没有欠准数字的,其有效位数可视为无限多位;例如分子式“H2SO4”中的“2”和“4”是个数。常数π、e和系数等数值的有效位数也可视为是无限多位;含量测定项下“每1ml的××××滴定液(0.1mol/L)……”中的“0.1”为名义浓度,规格项下的“0.3g”或“1ml:25mg”中的 “0.3”、“1”和“25”为标示量,其有效位数也均为无限多位;即在计算中,其有效位数应根据其他数值的最少有效位数而定。
(3) pH值等对数值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。如pH=11.26([H+]=5.5×10-12mol/L),其有效位数只有两位。
(4)有效数字的首位数字为 8或9时,其有效位数可以多计一位。例如:85%与 115%,都可以看成是三位有效位数;99.0%与101.0%都可以看成是四位有效数字。
(二)进舍规则
1.拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。
例1 将12.1498修约到一位小数(十分位),得 12.1。
例2 将12.1498修约成两位有效位数,得12。
2.拟舍弃数字的最左一位数字大于5,或者是5,而其后跟有并非全部为0的数字时,则进一,即在保留的末位数字加1。
例1 将1268修约到百数位,得13×102。
例2 将1268修约到三位有效位数,得127×10。
例3 将 10.502修约到个数位,得11。
3.拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留末位数为奇数(1,3,5,7,9)则进一,为偶数(2,4,6,8,0)则舍弃。
例1 修约间隔为0.1(10-1)
拟修约数值 修约值
1.050 1.0
0.350 0.4
例2 修约间隔为1000(或103)
拟修约数值 修约值
2500 2×103
3500 4×103
例3 下列数字修约成两位有效位数
拟修约数值 修约值
0.0325 0.032
32500 32×103
4.在相对标准偏差(RSD)中,采用“只进不舍”的原则,如 0.163%、0.52%宜修约为0.17%、0.6%。
5.不许连续修约。拟修约数字应在确定修约位数后一次修约获得结果,而不得多次连续修约。
6.为便于记忆,上述进舍规则可归纳成下列口诀:四舍六入五考虑,五后非零则进一,五后全零看五前,五前偶舍奇进一,不论数字多少位,都要一次修约成。但在按美、英、日药典方法修约时,按四舍五入进舍即可。
(三)运算规则
1.许多数值相加减时,所得和或差的绝对误差必较任何一个数值的绝对误差大,因此相加减应以诸数值中绝对误差最大(即欠准数字的位数最大)的数值为准,确定其它数值在运算中保留的位数和决定计算结果的有效位数。
2.许多数值相乘除时,所得积或商的相对误差必较任何一个数值的相对误差大。因此相乘除时应以诸数值中相对误差最大(即有效位数最少)的数值为准,确定其它数值在算中保留的位数和决定计算结果的有效位数。
3.在运算过程中,为减少舍入误差,其它数值的可以暂时多保留一位,等运算得到结果时,再根据有效位数弃去多余的数字。