有效数字的运算的规则,帮你确定结果报告保留的位数

2025-02-10 17:58:15, 实验室ISO17025 实验室资源网labr.cc



有效数字的运算的规则,帮你确定结果报告保留的位数

1

加减法

在加减法运算中,保留有效数字的位数,以小数点后位数最少
的为准,即以绝对误差最大的为准,例如:
上例中相加的3 个数据中,25.64中 的 “ 4” 已是可疑数字。因此最后结果有效数字的保留应以此数为准,即保留有效数字的位数到小数点后第二位。所以左面的写法是正确的,而右面的写法是不正确的。
2

乘除法

乘除法运算中,保留有效数字的位数,以位数最少的数为准,即以相对误差最大的数为准。例如:
0.0121X25. 64X1.05782=?
以上3 个数的乘积应为:
0. 0121X25.6X1.06 = 0. 328
在这个算题中,3 个数字的相对误差分别为:
在上述计算中,以第一个数的相对误差最大(有效数字为3 位),应以它为准,将其它数字根据有效数字修约原则,保 留 3 位有效数字 ,然后相乘即得0.328结果。
再计算一下结果0. 328的相对误差:
此数的相对误差与第一数的相对误差相适应。故应保 留3 位有效数字。
如果不考虑有效数宇保留原则,直接计算:
0. 0121X 25. 64X 1. 05782= 0. 328182308
结果得到9 位数字,显然这是极端不合理的。
同样,在计算中也不能任意减少位数,如上述结果记为0.32,也是不正确的。这个数的相对误差为:
显然是又超过了上面3 个数的相对误差。
在运算中,各数值计算有效数字位数时,当第一位有效数字>8 时,有效数字位数可以多计1 位。如 8.34是 3 位有效数字,在运算中可以作4 位有效数字看待。
有效数字的运算法,目前还没有统一的规定,可以先修约,然后运算,也可以直接用计算器计算,然后修约到应保留的位数,其计算结果可能稍有差别,不过也是最后可疑数字上稍有差别,影响不大。
3

自然数

在分析化学运算中,有时会遇到一些倍数或分数的关系,如 :
水的相对分子质量(Mr) =2X1. 008+ 16. 00= 18. 02
在 这里分母“ 3” 和 “ 2X1.008” 中 的 “ 2” ,都不能看做是1 位有效数字。因为它们是非测量所得到的数,是自然数,其有效数字位数 ,可视为无限的。
4

分析结果报出的位数

有效数字的修约与运算规则汇总如下表:
在报出分析结果时,分析结果数据>10% 时,保 留4 位有效数字 ;数 据 1% 〜10%之间时,保 留 3 位有效数字;数据< 1 % 时,保 留 2 位有效数字。
5

思考题

用有效数字表示计算结果?
答案:
237. 1;8 .3;0. 1012

更多工具

实验室资源网提供海量免费工具以及实验室资源,更多资源可登录资源网(labr.cc)获取。




  • 客服电话: 400-6699-117 转 1000
  • 京ICP备07018254号
  • 电信与信息服务业务经营许可证:京ICP证110310号
  • 京公网安备1101085018
  • 客服电话: 400-6699-117 转 1000
  • 京ICP备07018254号
  • 电信与信息服务业务经营许可证:京ICP证110310号
  • 京公网安备1101085018

Copyright ©2007-2026 ANTPEDIA, All Rights Reserved