校准曲线的斜率、截距保留几位有效数字?

2022-11-20 21:33:50, 实验室ISO17025


管理层提升、飞行检查、授权签字人、不确定度、LIMS系统、方法验证和确认  培训 点击→【报名


实验室CNAS、CMA好书推荐  点击→【购买】


2023年全年培训计划 点击→【查看】


校准曲线的斜率、截距保留几位有效数字?
1

参考依据


参考标准HJ 630,其他行业参考使用。

2

相关系数r保留的有效数字


校准曲线相关系数只舍不入,保留到小数点后第一个非9数字。如果小数点后多于4个9,最多保留4位。

3

校准曲线斜率的有效位数


校准曲线斜率的有效位数,应与自变量的有效数字位数相等。

4

校准曲线截距的有效位数


校准曲线截距的最后一位数,应与因变量的最后一位数取齐。

5

自变量和因变量的有效数字


记录测定数值时,应同时考虑计量器具的精密度、准确度和读数误差。对检定合格的计量器具,有效数字位数可以记录到最小分度值,最多保留一位不确定数字。

6

实例


校准曲线的相关参数如图:


相关系数:
相关系数计算结果为:r=0.999945,按照规则,小数点后的9多余4个则,最多保留4个9,所以,r=0.9999

斜率:
斜率计算结果为:14.48,按照规则,斜率和自变量的有效数字位数相等,自变量的有效数字的位数相同,自变量的有效数字有2位的(如,2.0),有三位的(如,16.0),保持曲线更精确,取有效数字多的位数,取3位。
所以斜率取:14.5

截距:
计算的截距为0.6442,按照规则,截距的最后一位数,应与因变量的最后一位数取齐,因变量的最后一位为效数点后一位。
所以截距取 0.6


为实验室提供服务的清单  点击→【查看】


2023年 注册计量师考试辅导课程  点击→【报名】


实验室二手仪器出售,二手仪器收购,请点击链接:

二手仪器出售,二手仪器收购




  • 客服电话: 400-6699-117 转 1000
  • 京ICP备07018254号
  • 电信与信息服务业务经营许可证:京ICP证110310号
  • 京公网安备1101085018
  • 客服电话: 400-6699-117 转 1000
  • 京ICP备07018254号
  • 电信与信息服务业务经营许可证:京ICP证110310号
  • 京公网安备1101085018

Copyright ©2007-2022 ANTPEDIA, All Rights Reserved