校准曲线的斜率、截距保留几位有效数字?

时间: 2020-06-08 21:09 阅读:

 ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

  ​1ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

参考依据ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

  参考标准HJ 630,其他行业参考使用。ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

  2ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

相关系数r保留的有效数字ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

  校准曲线相关系数只舍不入,保留到小数点后第一个非9数字。如果小数点后多于4个9,最多保留4位。ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

  3ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

校准曲线斜率的有效位数ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

有效位数ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

  校准曲线斜率的,应与自变量的有效数字位数相等。ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

  4ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

校准曲线截距的有效位数ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

最后一位数ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

  校准曲线截距的,应与因变量的最后一位数取齐。ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

  5ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

自变量和因变量的有效数字ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

  记录测定数值时,应同时考虑计量器具的精密度、准确度和读数误差。对检定合格的计量器具,有效数字位数可以记录到最小分度值,最多保留一位不确定数字。ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

  6ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

实例ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

  校准曲线的相关参数如图:ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

相关系数:ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

  相关系数计算结果为:r=0.999945,按照规则,小数点后的9多余4个则,最多保留4个9,所以,r=0.9999ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

斜率:ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

  斜率计算结果为:14.48,按照规则,斜率和自变量的有效数字位数相等,自变量的有效数字的位数相同,自变量的有效数字有2位的(如,2.0),有三位的(如,16.0),保持曲线更精确,取有效数字多的位数,取3位。ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

  所以斜率取:14.5ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

截距:ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

  计算的截距为0.6442,按照规则,截距的最后一位数,应与因变量的最后一位数取齐,因变量的最后一位为效数点后一位。ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

  所以截距取 0.6ayq七二检测-工程检测,教程,报告,记录,程序,考试,标准,招聘,求职等

验证码:

赞助推荐