登录

实验室检测数据保留几位有效数字?

嘉峪检测网 2016-12-06 11:25

导读:测量过程中的结果,保留几位有效数字,有效数字应该怎么保留,这都不问题。

导读:测量过程中的结果,保留几位有效数字,有效数字应该怎么保留,这都不问题。

 

1、有效数字,有效位数的概念: 

有效数字:是指如果测量结果经修约后的数值,其修约误差绝对值≤0.5(末位),则该数值称为有效数字,即从左起第一个非零的数字到最末一位数字止的所有数字都是有效数字。

 

有效位数:是指有效数字的位数。

如0.0025---2位有效数字;

1.001000----7位有效数字;

2.8×107 ---2位有效数字,

对于a×10n 形式表示的数值,其有效数字的位数由a中有效位数来决定。

 

从以上来看,“0” 这个数字在有效数字中起很大作用,处于第一个非零的有效数字以后的所有“0”都是有效数字。在有效数字位数中的“0”不能随意取舍,否则会改变有效数字的位数,影响其数据准确度。

 

2、测量结果不确定度位数的保留

测量结果不确定度(扩展不确定度)的有效数字一般不超过2位,即只需要1~2位数字表达。但在合成之前的各个分量的标准不确定度可以保留多余的位数(《测量结果不确定度评定与表示指南》)。

当第一位非零有效数字大于或者等于3,可以只取1位有效数字;当第一位非零数字小于3,取2位有效数字。(在JJF1059-1999上没有规定,因为这种比较适合用不确定度的位数来修约测量结果的位数,但通常我们都是用测量结果的位数来保留不确定度的位数)

 

3、不确定度的数值的修约

有两种观点:一种是全进法;一种是“三分之一”准则。

全进法参考《JJF1059-1999测量不确定度评定与表示》以及《计量基础知识》。全进法就是测量结果不确定度只进不舍,有效自由度采取只舍不进(全舍法)。

例如:10.47mg→11mg  

有效自由度为11.97,则修约为:11.97 → 11

这种方法主要是依据保守原则,自由度越小,结果越不可靠;不确定度越大,包含真值的区间也越大(相对于同一合成标准不确定度和包含因子言)。

“三分之一”准则参考《误差理论与数据处理》。

所谓“三分之一”准则是指:先令测量估计值最末位的一个单位作为测量不确定度的基本单位,再将不确定度取到基本单位的整数位,其余位数可以按照微小误差舍取准则,若小于基本单位的1/3则舍去,若大于或者等于基本单位的1/3,舍去后将最末一位整数+1。这种修约方法得到的不确定度,对测量结果评定更加可靠。

例如:已知被测量的估计值为20.0005mm,

若有两种情况:U =0.00124mm;U =0.00123mm.要对U 进行修正。

根据被测量的估计值,取0.0001mm作为基本单位。

1. U =0.00124mm,其整数部分为12,小数部分为0.4,大于基本单位的1/3,故舍去后整数+1。修约后,U =0.0013mm 。

2. U =0.00123mm,整数部分也为12,小数部分为0.3,小于基本单位的1/3,故舍去。修约后 U =0.0012mm。

值得注意的是,微小误差舍去原则是被舍去的误差必须小于或者等于测量结果总标准差的1/3至1/10。满足此条件的微小误差在标准差的计算中的影响很小,这也是为什么选择高一级精度的标准器具时,其误差一般应为被检器具允许总误差的1/3—1/10的原因。

由于我们进行校准的时候主要是对仪器的示值误差进行校准,评定的标准也是用示值误差,对不确定度的要求不是以特别高,所以建议采用全进法,方便。如果特别要求准确评定不确定度时,可以考虑1/3准则。

 

4、不确定度的数值与被测量的末位对齐

例如:M=(100.02147±0.00079)g

通常情况下都是按照测量结果的位数来确定不确定度的对齐位数。但在JJF1059-1999中也这样说过:输入输出的估计值,应修约到与它们不确定度的位数一致。(测量结果位数按不确定度位数保留)但不管怎么说,当采用同一测量单位来表述测得值及其不确定度时,它们的有效位数末位应是对齐的。

 

5、误差以及允许误差的位数保留

测得的误差有效位数末位数一般来说应该与测量值对齐,这里的所说的测量值有可能是真值也有可能是被校值。

例1:耐压机的报警电流

      设定值(mA)

      实测值(mA)

     误差(mA)

2.0

 2.092

     -0.092

这里的测量值是2.092mA,是约定真值。

 

例2:推拉力计:

     试验力(N)

      示值(N)

     误差(N)

       50

       50.2

       0.2

这里的测量值是50.2N,是被检表的示值。

 

例3:

    标准值

   被校示值

      误差

   50.005

    50.05

      0.045

这里的标准值的精度可以保证到千分之一(这个通常会在标准件的说明书给出),也就是小数点后三位。虽然50.05是测量值,但误差不应和它对齐,应该和精度高的标准值对齐。

在《误差理论与数据处理》一书中:测量结果的最末一位有效数字取到哪一位,是由测量精度来决定的。所用仪器的精度越高,测量结果的有效数字就会越多,所得到的误差有效数字也会越多。

 

我们可以这么说:标准值,被校值两者中,谁的有效位数多,误差的有效位数末位就应该与谁对齐。

值得注意的是:标准仪器的精度肯定比被校仪器的精度高,但我们在使用标准值的时候,往往取其名义值。例如:砝码 100g,量块41.2mm,没有说成砝码100.000g,量块41.200mm。这并不是说明他们的精度只到1或者0.1,在一定范围内,被校仪器的精度越高,这些标准值读出的为数也应该越多。

 

允许误差数值保留的有效位数也遵循以上原则。

来源:实验室ISO17025

关键词: 实验室 数据

相关资讯

我要检测 电话咨询