1 有效數(shù)字
有效數(shù)字是分析中具有實際意義的測定數(shù)值。它是由直接讀取的準(zhǔn)確數(shù)字和通過估讀得到的可疑數(shù)字(最后一位)組成。
例如:3.2438中的“8”和0.130中的“0”。
有效數(shù)字的個數(shù)是有效位數(shù),對于不同類型的測定數(shù)值其有效位數(shù)為:
2 數(shù)值修約規(guī)則
一般來說,分析工作者習(xí)慣采用“四舍五入”修約規(guī)則,不過在分析中逢五就進(jìn),必然會造成結(jié)果的系統(tǒng)偏高,誤差偏大,為了避免這樣的狀況出現(xiàn),盡量減少因修約而產(chǎn)生的誤差,一般采用四舍六入五留雙的修約規(guī)則:
3 運算修約規(guī)則
4 試驗過程中數(shù)值記錄(參考)
1、稱量實驗“精密稱定”是指稱取重量應(yīng)準(zhǔn)確至所取重量的千分之一;
“稱定”是指稱取重量應(yīng)準(zhǔn)確至所取重量的百分之一,按照“精密稱定”項原則進(jìn)行修約;
“稱重”,“稱取”一般準(zhǔn)確到規(guī)定重量下一位;
取“約XX”時,指取用量不超過規(guī)定量的(100±10)%;
取“XX”時,參照修約規(guī)則。
2、量取試驗
以刻度為依據(jù)可讀到最小刻度所在位并估讀最小刻度之間。
圖中“1”記錄為35.00cm,而不能記錄35cm,圖中“2”記錄為35.40cm,圖中“3”可記錄為35.75cm。
量取5ml的液體應(yīng)采用5-10ml的量筒;量取5.0ml的液體應(yīng)采用5-10ml的刻度管;量取5.00ml的液體應(yīng)采用5-10ml的移液管。
容量瓶的定容應(yīng)記錄為定容至100.00ml。
3、色譜實驗
峰面積一般不做修約,按實際測定值進(jìn)行記錄,參與計算后按相關(guān)規(guī)定進(jìn)行修約。
拖尾因子、分離度可修約至小數(shù)點后兩位,理論塔板數(shù)一般修約至正整數(shù)。
保留時間不做修約。
工作站自動生成數(shù)值也可不做修約。
化合物含量應(yīng)該比標(biāo)準(zhǔn)規(guī)定限度的有效位數(shù)多一位,根據(jù)實際情況以修約規(guī)則進(jìn)行修約。并且至少保留一位有效數(shù)字。
RSD按“只進(jìn)不舍”進(jìn)行修約。
色譜條件數(shù)值不得修約。
方法學(xué)驗證項的數(shù)值應(yīng)該比標(biāo)準(zhǔn)規(guī)定限度的有效位數(shù)多一位,根據(jù)實際情況以修約規(guī)則進(jìn)行修約。并且至少保留一位有效數(shù)字。
4、其他實驗
熔點、沸點等物理參數(shù)可修約至小數(shù)點后一位。
旋光率、折光率、原子吸收值可修約至小數(shù)點后三位。