原始记录、报告上有效数字的确定

时间: 2020-03-10 21:45 阅读: 次大中小

原始记录、报告上保留几位有效数字

原始记录有效数字

　　原始记录的有效数字位数既不可少，也不可多，要根据仪器、仪表指示的最小分度值如实记录，并允许增记一位估计数字

例如，

　　50 mL，滴定管的最小分度值为0.1 mL，又因为允许增加一位估计数字，可以记录到两位小数，如12.34 mL。

　　这一量值表明十分位上的3是刻度指示值，确切可信;百分位上的4则是估计判读的，是可疑数字，并知其波动范围为0.02 mL，其相对误差为(0.02/12.34)×100%=0.16%。若在原始记录中仅记为12.3 mL，则表示可能产生1.6%的相对误差。

　　由于原始记录不合理致使数据的准确度下降一个数量级。但也不可任意增加有效数字的位数。如果记成12.340则是明显失真，因为不可能估计出两位数字。

　　公众号ISO17025告诉大家一个方法，实验室通的仪器、仪表、计量器具最小分度(准确到第几位)，可以用检定规程，校准规范，设备说明书等文件获得。

报告的有效数字

　　报告结果有效数字位数，乐春雷老师提醒你可以有2种方法

（1）方法的标准差已知的情况

　　报告结果的有效数字取四分之一个标准差的首数所在数位，定为分析结果的尾数。例如：某一测定结果为25.352，标准差为1.4，四分之一标准差为0.35，其首位数字(0.35中的3)所在数位是十分位，即定为该结果的末位，可报为25.4

（2）方法的标准差未知的情况

　　这种遵守原始记录的结果，并按照有效数字的运算规则来确定。

　　有效数字运算规则如下：

加减运算：

有效数字中小数位数最少者

　　最终计算结果中保留的小数位数，与参加运算的相同

乘除运算：

有效数字中有效位数最少者

　　运算结果经修约后，保留的有效数字位数应与参加运算的几个相同。

对数运算：

　　对数的有效数字位数应和原数(真数)的相同。

平方、立方、开方运算：

　　计算结果的有效数字位数应和原数的相同。

例如：

　　某实验室要求测试密度。

　　原始记录的结果为：质量m=0.8044g，体积V=1.82ml

　　密度=m/v=0.8044/1.82=0.4419780219·······

有效数字中有效位数最少者（1.82）

　　这是一个乘除运算，最终结果与参加运算的几个相同

　　那么报告的最终结果应该是：0.442g/ml