您當(dāng)前的位置:檢測資訊 > 實驗管理
嘉峪檢測網(wǎng) 2024-06-04 17:33
在實驗記錄及數(shù)據(jù)分析中為了得到準(zhǔn)確的測量結(jié)果,不僅要準(zhǔn)確地測定各種數(shù)據(jù),還需要對數(shù)據(jù)進(jìn)行修約
今天就跟小編來一起學(xué)習(xí)下如何確定有效數(shù)字以及進(jìn)行修約吧。
有效數(shù)字的意義及保留位數(shù)
有效數(shù)字是工作中所能測量到的有實際意義的數(shù)字,不僅反映測定數(shù)據(jù)的多少,也反映測定時所用儀器的準(zhǔn)確度。
我們把直接讀取的數(shù)字叫“準(zhǔn)確數(shù)字”,把估讀的數(shù)字叫“存疑數(shù)字”,把測量結(jié)果中能夠反映被測量大小的帶有一位存疑數(shù)字的全部數(shù)字叫有效數(shù)字。除最后一位為估讀數(shù)字外,其他的數(shù)字都能從儀器上準(zhǔn)確讀取[1]。
因此,有效數(shù)字保留的位數(shù),應(yīng)當(dāng)根據(jù)分析方法和所用儀器的精確度來決定。

由此可知,有效數(shù)字是由“準(zhǔn)確數(shù)字”和“估讀數(shù)字”兩部分組成的。
如果數(shù)據(jù)中有“0”,要分析具體情況再確定其有效數(shù)字的位數(shù)。
第一個非零數(shù)字前面的零不是有效數(shù)字,只起定位作用;如果將該數(shù)字轉(zhuǎn)換為指數(shù)的形式能將零省略,這些零就不是有效數(shù)字[2]。

在實驗記錄及數(shù)據(jù)分析中,有效數(shù)字的位數(shù)往往由儀表的精度決定,通常記錄時以儀表最小刻度再另估讀保留一位有效數(shù)字。
π、e等常數(shù)有效位數(shù)可以認(rèn)為沒有限制,可根據(jù)實際需要來確定有效位數(shù)。
pH、pM、lgK等對數(shù)數(shù)值,其有效數(shù)字的位數(shù)取決于小數(shù)點后的位數(shù),小數(shù)點前的數(shù)字只說明該數(shù)的方次,如:
pH=12.68,即[H+]=2.1×10-13 mol/L,其有效數(shù)字是兩位而不是四位[2]。
有效位數(shù)的修約規(guī)則
數(shù)據(jù)分析處理時,須根據(jù)各步驟的測量精度及有效數(shù)字的計算規(guī)則,合理修約并保留有效數(shù)字的位數(shù)。當(dāng)確定有效數(shù)字的位數(shù)后,其余數(shù)字(尾數(shù))一并舍去。


數(shù)字修約時,只允許對原測量值一次性修約到所需的位數(shù),不能分次修約。
例:將“2.0154546”修約,并保留4位有效數(shù)字。
不能按照 2.0154546 → 2.015455 → 2.01546 → 2.0155 → 2.016 分次修約。
應(yīng)一次性修約:2.0154546 → 2.015。
參考文獻(xiàn):
[1] 孫又寧.有效數(shù)字在農(nóng)業(yè)化學(xué)分析中的意義和應(yīng)用[J].中國土壤與肥料,2008,(05):1-5.
[2] 高向陽. 現(xiàn)代食品分析[M]. 北京,科學(xué)出版社,2012.5,21-44.
[3] GB/T8170-2008,數(shù)值修約規(guī)則與極限數(shù)值的表示和判定[S].

來源:SMQ食品檢測