原始记录、报告上的有效数字如何确定?
2020-02-25
作者:
浏览数:1384
原始记录的有效数字位数既不可少,也不可多,要根据仪器、仪表指示的最小分度值如实记录,并允许增记一位估计数字。
例如,50 mL,滴定管的最小分度值为0.1 mL,又因为允许增加一位估计数字,可以记录到两位小数,如12.34 mL。
这一量值表明十分位上的3是刻度指示值,确切可信;百分位上的4则是估计判读的,是可疑数字,并知其波动范围为0.02 mL,其相对误差为(0.02/12.34)×100%=0.16%。若在原始记录中仅记为12.3 mL,则表示可能产生1.6%的相对误差。
由于原始记录不合理致使数据的准确度下降一个数量级。但也不可任意增加有效数字的位数。如果记成12.340则是明显失真,因为不可能估计出两位数字。
告诉大家一个方法,实验室通的仪器、仪表、计量器具最小分度(准确到第几位),可以用检定规程,校准规范,设备说明书等文件获得。
报告结果的有效数字取四分之一个标准差的首数所在数位,定为分析结果的尾数。例如:某一测定结果为25.352,标准差为1.4,四分之一标准差为0.35,其首位数字(0.35中的3)所在数位是十分位,即定为该结果的末位,可报为25.4
这种遵守原始记录的结果,并按照有效数字的运算规则来确定。
最终计算结果中保留的小数位数,与参加运算的有效数字中小数位数最少者相同
运算结果经修约后,保留的有效数字位数应与参加运算的几个有效数字中有效位数最少者相同。
原始记录的结果为:质量m=0.8044g,体积V=1.82ml
密度=m/v=0.8044/1.82=0.4419780219·······
这是一个乘除运算,最终结果与参加运算的几个有效数字中有效位数最少者(1.82)相同
那么报告的最终结果应该是:0.442g/ml
来源:实验室ISO17025