一. 有效數(shù)字及其運(yùn)算規(guī)則
1. 有效數(shù)字的意義和位數(shù)
(1)有效數(shù)字:所有準(zhǔn)確數(shù)字和一位可疑數(shù)字(實(shí)際能測(cè)到的數(shù)字)
(2)有效位數(shù)及數(shù)據(jù)中的“ 0 ”
1.0005, 五位有效數(shù)字
0.5000, 31.05% 四位有效數(shù)字
0.0540, 1.86 三位有效數(shù)字
0.0054, 0.40% 兩位有效數(shù)字
0.5, 0.002% 一位有效數(shù)字
2. 有效數(shù)字的表達(dá)及運(yùn)算規(guī)則
(1)記錄一個(gè)測(cè)定值時(shí),只保留一位可疑數(shù)據(jù),
(2)整理數(shù)據(jù)和運(yùn)算中棄取多余數(shù)字時(shí),采用“數(shù)字修約規(guī)則”:
四舍六入五考慮
五后非零則進(jìn)一
五后皆零視奇偶
五前為奇則進(jìn)一
五前為偶則舍棄
不許連續(xù)修約
(3)加減法:以小數(shù)點(diǎn)后位數(shù)最少的數(shù)據(jù)的位數(shù)為準(zhǔn),即取決于絕對(duì)誤差最大的數(shù)據(jù)位數(shù);
(4)乘除法:由有效數(shù)字位數(shù)最少者為準(zhǔn),即取決于相對(duì)誤差最大的數(shù)據(jù)位數(shù);
(5)對(duì) 數(shù):對(duì)數(shù)的有效數(shù)字只計(jì)小數(shù)點(diǎn)后的數(shù)字,即有效數(shù)字位數(shù)與真數(shù)位數(shù)一致;
(6)常 數(shù):常數(shù)的有效數(shù)字可取無(wú)限多位;
(7)第一位有效數(shù)字等于或大于 8 時(shí),其有效數(shù)字位數(shù)可多算一位;
(8)在計(jì)算過程中,可暫時(shí)多保留一位有效數(shù)字;
(9)誤差或偏差取 1~2 位有效數(shù)字即可。
二. 可疑數(shù)據(jù)的取舍
1. Q-檢驗(yàn)法 (3~10次測(cè)定適用,且只有一個(gè)可疑數(shù)據(jù))
(1) 將各數(shù)據(jù)從小到大排列:x1, x2, x3……xn ;
(2)計(jì)算 (x大-x小), 即 (xn -x1);
(3)計(jì)算 ( x可-x鄰),
(4)計(jì)算舍棄商 Q 計(jì) =ô x可-x鄰ô/ xn -x1
(5)根據(jù) n 和 P 查 Q 值表得 Q表
(6)比較 Q表 與 Q 計(jì)
若: Q 計(jì) ³ Q表 可疑值應(yīng)舍去
Q 計(jì) < Q表 可疑值應(yīng)保留
2. G檢驗(yàn)法(Grubbs 法)
設(shè)有n各數(shù)據(jù),從小到大為x1, x2, x3,…… xn;
其中 x1 或 xn為可疑數(shù)據(jù):
(1) 計(jì)算 (包括可疑值x1、 xn在內(nèi))、∣x可疑-∣及S;
(2) 計(jì)算G:
(3) 查G值表得Gn,P
(4) 比較G計(jì)與Gn,P:
若 G計(jì) ³ Gn,P則舍去可疑值;
G計(jì) < Gn,P則保留可疑值。
三. 分析數(shù)據(jù)的顯著性檢驗(yàn)
1. 平均值()與標(biāo)準(zhǔn)值(m)之間的顯著性檢驗(yàn) —— 檢查方法的準(zhǔn)確度
(20)
若 t計(jì) ³ t0.95, n 則 與 m 有顯著性差異(方法不可靠)
t計(jì) < t0.95, n 則 與 m 無(wú)顯著性差異(方法可靠)
2. 兩組平均值的比較
(1)先用F 檢驗(yàn)法檢驗(yàn)兩組數(shù)據(jù)精密度 S1(小)、S2(大) 有無(wú)顯著性差異(方法之間)
(21)
若此 F計(jì) 值小于表中的F(0.95) 值,說明兩組數(shù)據(jù)精密度S1、S2無(wú)顯著性差異,反之亦反。
(2)再用 t 檢驗(yàn)法檢驗(yàn)兩組平均值之間有無(wú)顯著性差異
(22)
查 t0.95 (f=n1+n2)
若 t計(jì) ³ t0.95, n 則 說明兩平均值有顯著性差異
t計(jì) < t0.95, n 則 說明兩平均值無(wú)顯著性差異