校准曲线的斜率、截距保留几位有效数字?

时间: 06-08 21:09 阅读: 821次
  ​1参考依据  参考标准HJ 630,其他行业参考使用。  2相关系数r保留的有效数字  校准曲线相关系数只舍不入,保留到小数点后第一个非9数字。如果小数点后多于4个9,最...
  ​1 参考依据   参考标准HJ 630,其他行业参考使用。   2 相关系数r保留的有效数字   校准曲线相关系数只舍不入,保留到小数点后第一个非9数字。如果小数点后多于4个9,最多保留4位。   3 校准曲线斜率的有效位数 有效位数   校准曲线斜率的,应与自变量的有效数字位数相等。   4 校准曲线截距的有效位数 最后一位数   校准曲线截距的,应与因变量的最后一位数取齐。   5 自变量和因变量的有效数字   记录测定数值时,应同时考虑计量器具的精密度、准确度和读数误差。对检定合格的计量器具,有效数字位数可以记录到最小分度值,最多保留一位不确定数字。   6 实例   校准曲线的相关参数如图: 相关系数:   相关系数计算结果为:r=0.999945,按照规则,小数点后的9多余4个则,最多保留4个9,所以,r=0.9999 斜率:   斜率计算结果为:14.48,按照规则,斜率和自变量的有效数字位数相等,自变量的有效数字的位数相同,自变量的有效数字有2位的(如,2.0),有三位的(如,16.0),保持曲线更精确,取有效数字多的位数,取3位。   所以斜率取:14.5 截距:   计算的截距为0.6442,按照规则,截距的最后一...

需要 [月卡会员] 级别以上与扣除 20 点才能查看。 一键登录     升级会员 ,本站暂停手动注册,仅可通过 QQ 快捷登录或 微信 登录,自动生成账号,一旦违规外传资源,永久封号,请您珍惜账号!珍惜资源! 如果已经登录请 点击刷新本页面


热搜标签

客服微信

微信公众号