一. 有效数字及其运算规则
1. 有效数字的意义和位数
(1)有效数字:所有准确数字和一位可疑数字(实际能测到的数字)
(2)有效位数及数据中的“ 0 ”
1.0005, 五位有效数字
0.5000, 31.05% 四位有效数字
0.0540, 1.86 三位有效数字
0.0054, 0.40% 两位有效数字
0.5, 0.002% 一位有效数字
2. 有效数字的表达及运算规则
(1)记录一个测定值时,只保留一位可疑数据,
(2)整理数据和运算中弃取多余数字时,采用“数字修约规则”:
四舍六入五考虑
五后非零则进一
五后皆零视奇偶
五前为奇则进一
五前为偶则舍弃
不许连续修约
(3)加减法:以小数点后位数最少的数据的位数为准,即取决于绝对误差最大的数据位数;
(4)乘除法:由有效数字位数最少者为准,即取决于相对误差最大的数据位数;
(5)对 数:对数的有效数字只计小数点后的数字,即有效数字位数与真数位数一致;
(6)常 数:常数的有效数字可取无限多位;
(7)第一位有效数字等于或大于 8 时,其有效数字位数可多算一位;
(8)在计算过程中,可暂时多保留一位有效数字;
(9)误差或偏差取 1~2 位有效数字即可。
二. 可疑数据的取舍
1.Q-检验法 (3~10次测定适用,且只有一个可疑数据)
(1) 将各数据从小到大排列:x1,x2,x3……xn;
(2)计算 (x大-x小), 即 (xn-x1);
(3)计算 (x可-x邻),
(4)计算舍弃商Q计=?x可-x邻?/xn-x1
(5)根据n和P查Q值表得Q表
(6)比较Q表与Q计
若:Q计?Q表可疑值应舍去
Q计<Q表可疑值应保留
2.G检验法(Grubbs 法)
设有n各数据,从小到大为x1, x2, x3,…… xn;
其中x1或xn为可疑数据:
(1) 计算(包括可疑值x1、xn在内)、∣x可疑-∣及S;
(2) 计算G:
(3) 查G值表得Gn,P
(4) 比较G计与Gn,P:
若G计?Gn,P则舍去可疑值;
G计<Gn,P则保留可疑值。
三. 分析数据的显著性检验
1. 平均值()与标准值(m)之间的显著性检验—— 检查方法的准确度
(20)
若t计?t0.95,n则与m有显著性差异(方法不可靠)
t计<t0.95,n则与m无显著性差异(方法可靠)
2. 两组平均值的比较
(1)先用F检验法检验两组数据精密度S1(小)、S2(大)有无显著性差异(方法之间)
(21)
若此F计值小于表中的F(0.95) 值,说明两组数据精密度S1、S2无显著性差异,反之亦反。
(2)再用t检验法检验两组平均值之间有无显著性差异
(22)
查t0.95(f=n1+n2)
若t计?t0.95,n则 说明两平均值有显著性差异
t计<t0.95,n则 说明两平均值无显著性差异