雷竞技电竞
服务号

化验员、质监员培训讲义基本常识之有效数字的处理

放大字体缩小字体发布日期:2021-07-27 来源:食品微生物检测公众号
核心提示:一、有效数字。1.在分析工作中实际能测量到的数字就称为有效数字。2.在记录有效数字时,规定只允许数的末位欠准,而且只能上下差
一、有效数字

1.在分析工作中实际能测量到的数字就称为有效数字。

2.在记录有效数字时,规定只允许数的末位欠准,而且只能上下差1


二、有效数字修约规则

用“四舍六入五成双”规则舍去过多的数字。

即当尾数≤4时,则舍;尾数≥6时,则入;尾数等于5时,若5前面为偶数则舍,为奇数时则入。当5后面还有不是零的任何数时,无论5前面是偶或奇皆入。

例如:将下面左边的数字修约为三位有效数字

2.324→2.32 2.3252.32 2.3262.33 2.3352.34 2.325012.33


三、有效数字运算法则

1.在加减法运算中,每数及它们的和或差的有效数字的保留,以小数点后面有效数字位数最少的为标准。在加减法中,因是各数值绝对误差的传递,所以结果的绝对误差必须与各数中绝对误差最大的那个相当。

例如:2.0375+0.074539.54=

39.54 是小数点后位数最少的,在这三个数据中,它的绝对误差最大,为±0.01,所以应以39.54为准,其它两个数字亦要保留小数点后第二位,因此三数计算应为:2.040.0739.54=41.65


2.在乘除法运算中,每数及它们的积或商的有效数字的保留,以每数中有效数字位数最少的为标准。在乘除法中,因是各数值相对误差的传递,所以结果的相对误差必须与各数中相对误差最大的那个相当。

例如:13.92×0.0112×1.9723=

0.0112 是三位有效数字,位数最少,它的相对误差最大,

所以应以0.0112的位数为准,

即:13.9×0.0112×1.97=0.307


3.分析结果小数点后的位数,应与分析方法精密度小数点后的位数一致。


4.检验结果的写法应与药典规定相一致。

编辑:songjiajie2010

分享:

推荐图文
推荐检验技术
点击排行
检验技术
Processed in 0.161 second(s), 16 queries, Memory 0.95 M
Baidu
map