当前位置:首页 >> 教学资源 >> 参考资料

实验数据的处理

2018/10/8 14:10:10人浏览

实验数据的处理方法

一、实验误差

在检验过程中,由于受检验方法、测量仪器、试剂和检验工作者的主观因素等方面的限制,使得检验结果不可能与真实值完全一致。即使是技术很熟练的检验工作者,用最精密的仪器,用同一种方法对同一样品进行多次检验,也很难得到完全一致的结果。这说明在客观上存在难以避免的误差,但可以通过适当措施减少误差,从而提高检验结果的准确度。

(一)误差的来源

1.系统误差

系统误差是由于分析过程中某些固定的、经常性的原因所引起的误差,它具有单向性,其正负、大小具有一定的规律性,即在多次平行测定中系统误差会反复出现,使测定结果总是系统地偏高或偏低,故又被称为可测误差。系统误差主要来源于以下几个方面。

1)方法误差  由于检测方法本身不完善所造成的误差,如重量分析中,沉淀溶解损失或吸附某些杂质。

2)器具、仪器和试剂误差  由于仪器末校准或仪器的精密度、灵敏度不符合要求,试剂不合规格引起的误差。

3)主观误差  是指在正常操作情况下,由于操作人员主观原因所造成的误差。例如滴定管读数的编高或偏低,滴定终点颜色辨别偏深或偏浅等。

2.随机误差

随机误差是由于一些偶然的、意外的、无法控制的外界因素所引起的误差。例如测量时环境温度、压力、湿度的突然变化,仪器性能的微小变化,分析人员操作的细小变化等。这类误差对测定结果的影响程度不确定,非单向,这类误差是不可避免又无法校正的。

(二)误差的减免方法

系统误差可以能过对照试验、空白试验和校准仪器等方法进行减免。而进行多次平行测定是减小随机误差的有效办法。严格管理,提高检验人员的操作水平,也是高质量完成检验工作,减少检验误差的关键。

(三)误差的表示方法

1.准确度与误差

准确度是指测定值与真实值相接近的程度,它说明测定值的正确性,常用误差的大小来衡量。误差一般用绝对误差和相对误差来表示。

1)绝对误差

1.2

绝对误差E表示测定值xi与真实值xT之间的差。绝对误差越小,测定值与真实值越接近,测定结果越准确。一些仪器的测定准确度高低常用绝对误差的大小来表示。



2)相对误差

绝对误差在真实值中所占的比例称为相对误差(Er),由于其能反映误差在真实值中所点的比例,故常用相对误差来表示或比较各种情况下测定结果的准确度。

1.3



2.精密度与偏差

精密度是指在相同的条件下,一组平行测定结果之间相互接的程度。精密度的高低常用偏差来衡量。

1)偏差

个别测定值xi与多个测定结果的平均值之差称为偏差。偏差的大小可表示分析结果的精密度,偏差越小表明测定结果的精密度越高。与误差相似,偏差也可表示为绝对偏差(di)和相对偏差(dr)。绝对偏差和相对偏差只能用于衡量单次测定结果对平均值的偏差。为了更好地说明测定结果的精密度,在一般分析工作中常用平均偏差和标准偏差表示。

1.4

1.5



2)平均偏差

平均偏差()是指各次测定偏差绝对值的平均值。相对平均偏差()是平均偏差与平均值的比值。

i=12···n)(1.6


1.7



3)标准偏差

标准差又称均方根偏差,反映一组测定数据的离散程度。简写为SD,常用符号S表示。由于测定数值有大小不同,单用标准差不能说明测定结果的精密程度,故又常用相对标准差来说明,常用符号RSD表示。

1.8

1.9



4)极差

极差是指一组数据中最大值与最小值之差,它表示偏差的范围,常以符号R表示。


1.10



二、有效数字和数值修约规则

(一)有效数字的基本概念

1.有效数字系指在检验工作中所能得到有实际意义的数值。其最后一位数字欠准是允许的,这种由可靠数字和最后一位不确定数字组成的数值,即为有效数字。最后一位数字的欠准程度通常只能是上下差1单位。

2.有效位数

1)在其它十进位数中,有效数字系指从非零数字最左一位向右数而得到的位数。例 如3.20.320.0320.0032均为两位有效位数,0.320为三位有效位数、10.00为四位有效位数,12.490为五位有效位数。

2)非连续型数值(如个数、分数、倍数)是没有欠准数字的,其有效位数可视为无限多位;例如分子式“H2SO4中的“2”和“4”是个数。常数π、e和系数等数值的有效位数也可视为是无限多位;含量测定项下“每1ml的××××滴定液(0.1mol/L……中的“0.1”为名义浓度,规格项下的“0.3g或“1ml25mg”中的 “0.3”、“1”和“25”为标示量,其有效位数也均为无限多位;即在计算中,其有效位数应根据其他数值的最少有效位数而定。

3 pH值等对数值,其有效位数是由其小数点后的位数决定的,其整数部分只表明其真数的乘方次数。如pH=11.26([H+=5.5×10-12mol/L),其有效位数只有两位。

4)有效数字的首位数字为 89时,其有效位数可以多计一位。例如:85% 115%,都可以看成是三位有效位数;99.0%101.0%都可以看成是四位有效数字。

(二)进舍规则

1.拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。

  12.1498修约到一位小数(十分位),得 12.1

  12.1498修约成两位有效位数,得12

2.拟舍弃数字的最左一位数字大于5,或者是5,而其后跟有并非全部为0的数字时,则进一,即在保留的末位数字加1

1   1268修约到百数位,得13×102  

2  1268修约到三位有效位数,得127×10

   10.502修约到个数位,得11

3.拟舍弃数字的最左一位数字为5,而右面无数字或皆为0时,若所保留末位数为奇数(13579)则进一,为偶数(24680)则舍弃。

1   修约间隔为0.110-1

拟修约数值     修约值

          1.050           1.0

0.350           0.4

2   修约间隔为1000(或103

拟修约数值      修约值

            2500          2×103

3500          4×103

下列数字修约成两位有效位数

拟修约数值       修约值

            0.0325         0.032

32500          32×103

4.在相对标准偏差(RSD)中,采用“只进不舍”的原则,如 0.163%0.52%宜修约为0.17%0.6%

5.不许连续修约。拟修约数字应在确定修约位数后一次修约获得结果,而不得多次连续修约。

6.为便于记忆,上述进舍规则可归纳成下列口诀:四舍六入五考虑,五后非零则进一,五后全零看五前,五前偶舍奇进一,不论数字多少位,都要一次修约成。但在按美、英、日药典方法修约时,按四舍五入进舍即可。

(三)运算规则

1.许多数值相加减时,所得和或差的绝对误差必较任何一个数值的绝对误差大,因此相加减应以诸数值中绝对误差最大(即欠准数字的位数最大)的数值为准,确定其它数值在运算中保留的位数和决定计算结果的有效位数。

2.许多数值相乘除时,所得积或商的相对误差必较任何一个数值的相对误差大。因此相乘除时应以诸数值中相对误差最大(即有效位数最少)的数值为准,确定其它数值在算中保留的位数和决定计算结果的有效位数。

3.在运算过程中,为减少舍入误差,其它数值的可以暂时多保留一位,等运算得到结果时,再根据有效位数弃去多余的数字。