检测结果有效数字及其运算

时间: 03-16 08:23 阅读: 239次
有效数字及其有效数字的保留1 .有效数字的定义有效数字指,保留末一位不准确数字,其余数字均为准确数字。有效数字的最后一位数值是可疑值。  我们把通过直读获得的准确数字...
有效数字及其有效数字的保留 1 .有效数字的定义 有效数字指,保留末一位不准确数字,其余数字均为准确数字。有效数字的最后一位数值是可疑值。   我们把通过直读获得的准确数字叫做可靠数字;把通过估读得到的那部分数字叫做存疑数字。把测量结果中能够反映被测量大小的带有一位存疑数字的全部数字叫有效数字。   如:0.2014为四位有效数字,最末一位数值4是可疑值,而不是有效数值。   再如: 1g、1.000g其所表明的量值虽然都是1,但其准确度是不同的,其分别表示为准确到整数位、准确到小数点后第三位数值。因此有效数值不但表明了数值的大小,同时反映了测量结果的准确度。 2 .有效数字的保留 因此,计算过程中,计算的结果应比标准极限或技术指标规定的位数要求多保留一位,最后的报出值应与标准对定的位数相一致。   由于有效数字最末一位是可疑值,而不是准确值。   如:在标准的极限数值(或技术指标)的表示中,×× ≧95 表明结果要求保留到整数位。因此,计算结果一定要保留到小数点后一位,最后再修约到整数位,如计算结果为94.6报出结果为95(-);因为94.6结果的0.6为可疑值,要想...

需要 [月卡会员] 级别以上与扣除 20 点才能查看。 一键登录     升级会员 ,本站暂停手动注册,仅可通过 QQ 快捷登录或 微信 登录,自动生成账号,一旦违规外传资源,永久封号,请您珍惜账号!珍惜资源! 如果已经登录请 点击刷新本页面


热搜标签

客服微信

微信公众号