2022-12-03 22:38:56, 嘉峪检测网
好消息!嘉峪检测网已开通行业专栏,都是你想要的!
材料专栏http://mat.anytesting.com
汽车专栏http://auto.anytesting.com
电子电气专栏http://ee.anytesting.com
医疗器械专栏http://med.anytesting.com
医药专栏http://drug.anytesting.com
以下为正文:
有效数字及其有效数字的保留
1 .有效数字的定义
我们把通过直读获得的准确数字叫做可靠数字;把通过估读得到的那部分数字叫做存疑数字。把测量结果中能够反映被测量大小的带有一位存疑数字的全部数字叫有效数字。有效数字指,保留末一位不准确数字,其余数字均为准确数字。有效数字的最后一位数值是可疑值。
如:0.2014为四位有效数字,最末一位数值4是可疑值,而不是有效数值。
再如:1g、1.000g其所表明的量值虽然都是1,但其准确度是不同的,其分别表示为准确到整数位、准确到小数点后第三位数值。因此有效数值不但表明了数值的大小,同时反映了测量结果的准确度。
2 .有效数字的保留
由于有效数字最末一位是可疑值,而不是准确值。因此,计算过程中,计算的结果应比标准极限或技术指标规定的位数要求多保留一位,最后的报出值应与标准对定的位数相一致。
如:在标准的极限数值(或技术指标)的表示中,×× ≧95 表明结果要求保留到整数位。因此,计算结果一定要保留到小数点后一位,最后再修约到整数位,如计算结果为94.6报出结果为95(-);因为94.6结果的0.6为可疑值,要想保留到整数位结果为准确值,计算结果必须要多保留一位。
如,分析天平的分辨率为0.1mg(即我们常说的万分之一天平),如果我们称取的量是10.4320g,则实际的称取结果结果为10.4320±0.0002g(万分之一的天平误差)。
如GB/T 601-2016《化学试剂 标准滴定溶液的制备》,要求报出结果取4位有效数字,因此在标定计算结果中,应保留5位有效数字,最后再修约到4位有效数字(如果直接保留到4位有效数字,实际上是保留了三位有效数字,因最后一位是可疑值,则由标准溶液的浓度的不准确,会引进系统误差。
“0” 在数字中的作用
“0”作为一个特殊的数字,在数值的不同的位置,有着不同的作用,只有明确了“0”在数字中的作用,才能更好的掌握有效数字及其加减乘除的运算规则。“0”在数字中不同的位置,有不用的作用,根据“0”在数字的位置,起三种作用。即定位(无效)、定值(有效)及不确定作用。
1 .定位(无效)
当“0”在小数点后,又在数字之前(前提:小数点前为“0”)时,为定位。如:0.0001(数字前4个零) 0.02040(数字前2个零)均为定位作用。
2. 定值(有效)
当“0”在小数点后的数值中间或数尾(前提:小数点前必为“0”)时。如:0.00204 0.300020;当“0”在小数点后,而小数点前为非“0”时。如1.000 1.0204,均为有效作用。
3 不确定作用:当“0”在整数后
如:4500 有效数值是几位?回答是:不确定。将4500用三位有效数字表示:0.450×104 4.50×103 。将4500用四位有效数字表示:0.4500×104 、45.00×102。
数字修约规则(GB/T 8170)
1.数字修约规则
“四舍五入法”是我们所熟悉的求近似数的方法。它深深地印在我们的脑海里,只要一遇到求近似数的问题,马上就会想到“四舍五入法”。可是,在实验中,经常要对大量的数据进行统计分析。如果仍用“四舍五入法”取近似值,就不够精确。
世界上的许多国家已广泛采用“四舍六入法”。我国国家科委于1955年就作了推荐。“四舍六入法”可以概括为:“四舍六入五考虑,五后非零就进一,五后皆零看奇偶,五前为偶应舍去,五前为奇要进一。”就是说,如果省略的尾数最高位是4或小于4,就将尾数都舍去;如果省略的尾数最高位是6或大于6,去掉尾数后,要向它的前一位进1;如果省略的尾数最高位是5,那就要根据具体情况而定。如果5后不都是0,将尾数略去后要向它的前一位进1;如果5后面都是0,就看它的前一位是单数还是双数,5的前一位是双数,就将尾数舍去;5的前一位是单数,舍去尾数后要向它的前一位进1。
2 .检验结果的修约
根据技术标准的指标要求,在原始记录中,通常检验计算的结果应比标准规定的位数要多保留一位,但被多保留的一位数值,应该体现出修约的情况,或一步修约到位,但不能存在连续修约的现象。
a)检验结果修约后,应体现出修约的情况。
如:标准值 ××<0.5
检测结果为:0.456, 第1步修约:0.46(-) (四舍六入),报出值:0.5(-) 判定:合格。
如:标准值 ×× ≥15
检测结果为:14.55,第1步修约:14.6(-), 报出值:15(-),按全数值比较法(15(-))判定不合格、按修约值比较法(15)判定合格。
14.55(5后非零要进一。讲评:在拟舍弃的数字中即14.55的第一个“5”,虽然“5”前为偶数,但“5”后非“0”,所以要进一。)
如,若检验结果为:14.35,第1步修约:14.4(+) (修约原则,四舍六入) 报出结果:14。
最终的报出结果只有修约到标准值上时,才用+、-表示。
b)一步修约到位 (这种修约更直接和更直观)。
例题:将下列结果修约到整数位
检测结果 报出值
15.4546 15
16.5203 17
17.5000 18
14.5500 15
10.5020 11
c)不准连续修约。
拟修约数字应在确定修约位数后,应一次修约获得结果,而不准多次修约即连续修约。
如15.4546 一次修约结果为:15。
※ 连续修约:15.455 — 15.46-15.5-16
※ 按多保留一位的修约法:15.5(-)
因为.5(-),即修约后到5(-) ,但不足5(<5),所以不进,最终结果为15。
数值的修约方法
1. 数值的修约方法有两种,即修约值比较法和全数值比较法
a)修约值比较法:数值修约后,体现不出数值的修约情况;
b)全数值比较法:数值修约后,能够体现出数值的修约情况。
2 .如何选择修约值的方法
a)当检测项目牵涉到卫生指标、安全指标等,应首选用全数值比较法;
b)只有当检测结果修约到标准值上时,方采用全数值比较法。
由上表可以看出,一般情况下全数值比较法严与修约值比较法。
产品检测、技术培训、仪器校准
全国客服电话:4008180021
医疗器械质量与检测(medtesting)
实验室经理人(labmanager)
药研检测(drugtest)
嘉峪检测网(anytesting2014)
嘉峪检测网会员分享,侵删
【点这里】更多实验技术干货
12-03 晚安小分队
水泥行业、平板玻璃行业碳减排技术指南发布!12-03
站在人与自然和谐共生的高度谋划发展——在深刻领会新时代10年伟大变革中贯彻落实党的二十大精神之生态文明篇12-03
60岁首席工程师被SpaceX边缘化,主管:我怕他退休或死了12-03 关注前沿科技
孤独患者福音!日本科学家开发小型“大白”,戴上就能缓解痛苦焦虑12-03 关注前沿科技
AI解数学题,答案是对的过程却是错的?DeepMind新研究改进谷歌思维链方法12-03 关注前沿科技
甜味芯片打印法了解一下:科学家用糖实现微电路曲面打印,连针尖发丝都可以 | Science12-03 关注前沿科技
何恺明团队12页论文新作剑指AIGC!“新CLIP”只需一个trick,训练速度快3.7倍!性能不降反升12-03 关注前沿科技
倒计时7天,CNCC2022大会日程最新发布!12-03 中国计算机学会
12.3-5 人文讲座【王国维直面的人与事【关于李白名篇<行路难>的讨论【老子的大智慧【儒家的信仰【印度宗教研究漫谈】12-03
多所高校,清理文科机构!12-03 数据洞见未来
历史讲座4场 | 内聚性:辽宋夏金时代历史发展趋势再思考 | 历史演进的细节:从宋太祖数临国子监说起 | 唐代色役若干问题再认识12-03
重点讲座 | 顾彬:散文的精神 | 宋代文学与东亚 | 共情:打开历史课堂学习的钥匙:“晚清时期的内忧外患与救亡图存”为例12-03
重点讲座 | 索罗宁:西夏佛教与佛教文献学:文本与历史构拟 | 佛教哲学:法相唯识学的“转依”及其“心、心所”认识论的“四分”说12-03
清华讲座 | 谈晟广:竹取秘语:天皇神话起源新探 | 张明杰:日本藏中国游记类文献及其跨学科研究12-03
大师讲座 | 京师康德论坛:康德学名家系列讲座12-03
沙龙报名 | 新征程中的国家制度与国家治理现代化:跨学科对话12-03
来赢松下冲牙器!就在索尔维直播间12-03 索尔维
一周环保大事记12-03 hbzhan
圣祖德儿童研究医院Charalampos Kalodimos课题组诚招博士后12-03