中文字幕一级黄色A级片|免费特级毛片。性欧美日本|偷拍亚洲欧美1级片|成人黄色中文小说网|A级片视频在线观看|老司机网址在线观看|免费一级无码激情黄所|欧美三级片区精品网站999|日韩av超碰日本青青草成人|一区二区亚洲AV婷婷

您當(dāng)前的位置:檢測資訊 > 實(shí)驗(yàn)管理

數(shù)值修約全面匯總

嘉峪檢測網(wǎng)        2024-09-03 11:16

分析實(shí)驗(yàn)中,為了得到準(zhǔn)確的分析結(jié)果,不僅要準(zhǔn)確進(jìn)行測量,而且還要正確記錄和計(jì)算。處理和計(jì)算出來的結(jié)果不僅要反映出測量的可信程度,也要反映出實(shí)驗(yàn)結(jié)果的真實(shí)性。本文是基于分析過程中測定數(shù)值的修約,希望能對小伙伴有所幫助。

 

有效數(shù)字

 

有效數(shù)字是分析中具有實(shí)際意義的測定數(shù)值。它是由直接讀取的準(zhǔn)確數(shù)字和通過估讀得到的可疑數(shù)字(最后一位)組成。

例如:3.2438中的“8”和0.130中的“0”。

有效數(shù)字的個數(shù)是有效位數(shù),對于不同類型的測定數(shù)值其有效位數(shù)為:

 

 

 

數(shù)值修約規(guī)則

 

一般來說,分析工作者習(xí)慣采用“四舍五入”修約規(guī)則,不過在分析中逢五就進(jìn),必然會造成結(jié)果的系統(tǒng)偏高,誤差偏大,為了避免這樣的狀況出現(xiàn),盡量減少因修約而產(chǎn)生的誤差,一般采用四舍六入五留雙的修約規(guī)則:

 

 

 

運(yùn)算修約規(guī)則

 

 

試驗(yàn)過程中數(shù)值記錄

 

1、稱量實(shí)驗(yàn)

“精密稱定”是指稱取重量應(yīng)準(zhǔn)確至所取重量的千分之一;

“稱定”是指稱取重量應(yīng)準(zhǔn)確至所取重量的百分之一,按照“精密稱定”項(xiàng)原則進(jìn)行修約;

“稱重”,“稱取”一般準(zhǔn)確到規(guī)定重量下一位;

取“約XX”時(shí),指取用量不超過規(guī)定量的(100±10)%;

取“XX”時(shí),參照修約規(guī)則。

2、量取試驗(yàn)

以刻度為依據(jù)可讀到最小刻度所在位并估讀最小刻度之間。

圖中“1”記錄為35.00cm,而不能記錄35cm,圖中“2”記錄為35.40cm,圖中“3”可記錄為35.75cm。

量取5ml的液體應(yīng)采用5-10ml的量筒;量取5.0ml的液體應(yīng)采用5-10ml的刻度管;量取5.00ml的液體應(yīng)采用5-10ml的移液管。 

容量瓶的定容應(yīng)記錄為定容至100.00ml。

3、色譜實(shí)驗(yàn)

峰面積一般不做修約,按實(shí)際測定值進(jìn)行記錄,參與計(jì)算后按相關(guān)規(guī)定進(jìn)行修約。 

拖尾因子、分離度可修約至小數(shù)點(diǎn)后兩位,理論塔板數(shù)一般修約至正整數(shù)。

保留時(shí)間不做修約。

工作站自動生成數(shù)值也可不做修約。

化合物含量應(yīng)該比標(biāo)準(zhǔn)規(guī)定限度的有效位數(shù)多一位,根據(jù)實(shí)際情況以修約規(guī)則進(jìn)行修約。并且至少保留一位有效數(shù)字。

RSD按“只進(jìn)不舍”進(jìn)行修約。

色譜條件數(shù)值不得修約。

方法學(xué)驗(yàn)證項(xiàng)的數(shù)值應(yīng)該比標(biāo)準(zhǔn)規(guī)定限度的有效位數(shù)多一位,根據(jù)實(shí)際情況以修約規(guī)則進(jìn)行修約。并且至少保留一位有效數(shù)字。

4、其他實(shí)驗(yàn)

熔點(diǎn)、沸點(diǎn)等物理參數(shù)可修約至小數(shù)點(diǎn)后一位。

旋光率、折光率、原子吸收值可修約至小數(shù)點(diǎn)后三位。

 

數(shù)值修約的基礎(chǔ)知識

 

1、什么是有效數(shù)字呢?

⑴有效數(shù)字是指在分析和測量中所能得到的有實(shí)際意義的數(shù)字。測量結(jié)果是由有效數(shù)字組成的(前后定位用的“0”除外)。

例如 測量結(jié)果1.1080g,組成數(shù)字1、1、0、8、0都是實(shí)際測讀到的,它們是表示試樣質(zhì)量大小的,因而都是有實(shí)際意義的。

⑵有效數(shù)字的前幾位都是準(zhǔn)確數(shù)字,只有最后一位是可疑數(shù)字。

例如前述的1.1080, 前幾位數(shù)字1、1、0、8都是稱量讀到的準(zhǔn)確數(shù)字,而最后一位數(shù)字0則是在沒有刻度的情況下估讀出來的,是不準(zhǔn)確的或者說可疑的。

⑶有效數(shù)字是處于表示測量結(jié)果的數(shù)值的不同數(shù)位上。所有有效數(shù)字所占有的數(shù)位個數(shù)稱為有效數(shù)字位數(shù)。

例如 數(shù)值3.5,有兩個有效數(shù)字,占有個位、十分位兩個數(shù)位,因而有效數(shù)字位數(shù)為兩位;3.501有四個有效數(shù)字,占有個位、十分位、百分位等四個數(shù)位,因而是四位有效數(shù)字。

⑷測量結(jié)果的數(shù)字,其有效位數(shù)反映了測量結(jié)果的精確度,它直接與測量的精密度有關(guān)。這也是有效數(shù)字實(shí)際意義的體現(xiàn),是非常重要的體現(xiàn)。

例如 前述例子中,若測量結(jié)果為1.1080g,則表示測量值的誤差在10-4量級上,天平的精度為萬分之一;若測量結(jié)果為1.108g,則表示測量值的誤差在10-3量級上,天平的精度為千分之一。

2、有效數(shù)字位數(shù)的確定原則

在確定有效數(shù)字位數(shù)時(shí)應(yīng)遵循下列原則:

⑴數(shù)值中數(shù)字1~9都是有效數(shù)字。

⑵數(shù)字“0”在數(shù)值中所處的位置不同,起的作用也不同,可能是有效數(shù)字,也可能不是有效數(shù)字。判定如下:

① “0”在數(shù)字前,僅起定位作用,不是有效數(shù)字。

例如 0.0257中,“2”前面的兩個“0”均非有效數(shù)字。0.123、0.0123、0.00123中“1”前面的“0”也均非有效數(shù)字。

②數(shù)值末尾的“0”屬于有效數(shù)字。

例如 0.5000中, “5”后面的三個“0”均為有效數(shù)字;0.50中, “5”后面的一個“0”也是有效數(shù)字。

③數(shù)值中夾在數(shù)字中間的“0”是有效數(shù)字。

 例如 數(shù)值1. 008中的兩個“0”是均是有效數(shù)字;數(shù)值8. 01中間的 “0”也是有效數(shù)字。

④以“0”結(jié)尾的正整數(shù),“0”是不是有效數(shù)字不確定,應(yīng)根據(jù)測試結(jié)果的準(zhǔn)確度確定。

例如 3600,后面的兩個“0”如果不指明測量準(zhǔn)確度就不能確定是不是有效數(shù)字。測量中遇到這種情況,最好根據(jù)實(shí)際測試結(jié)果的精確度確定有效數(shù)字的位數(shù),有效數(shù)字用小數(shù)表示,把“0”用10的乘方表示。如將3600寫成3.6×103表示此數(shù)有兩位有效數(shù)字;寫成3.60×103表示此數(shù)有三位有效數(shù)字;寫成3.600×103表示此數(shù)有四位有效數(shù)字。

3、修約間隔

修約間隔又稱修約區(qū)間或化整間隔,系確定修約保留位數(shù)的一種方式。修約間隔一般以k×10n(k=1,2,5;n為整數(shù))的形式表示,將同一k值的修約間隔,簡稱為“k”間隔。

修約間隔的數(shù)值一經(jīng)確定,修約值即應(yīng)為該數(shù)值的整數(shù)倍。

例如 指定修約間隔為0.1,修約值即應(yīng)在0.1的整數(shù)倍中選取,相當(dāng)于將數(shù)值修約到一位小數(shù)。

1.0239修約到0.01,為1.02,

1.02÷0.01=102(倍)

4、修約數(shù)位及確定修約位數(shù)的表達(dá)方式

修約時(shí)擬將擬修約數(shù)的哪一位數(shù)位后部分按修約規(guī)則舍去,則該數(shù)位就是修約數(shù)位。

數(shù)值修約時(shí)需要先明確修約數(shù)位,確定修約位數(shù)的表達(dá)方式如下:

⑴指明具體的修約間隔。如指明將某數(shù)按0.2(2×10-1)修約間隔修約、100(1×102)修約間隔修約等。

⑵指定將擬修約數(shù)修約至某數(shù)位的0.1、0.2或0.5個單位。

⑶指明“k”按間隔將擬修約數(shù)修約為幾位有效數(shù)字,或修約至某數(shù)位。這時(shí)“1” 間隔可不必指明,但“2”間隔和“5”間隔必須指明。                          

 

數(shù)值修約規(guī)則

 

1、GB/T 8170-2008 《數(shù)值修約規(guī)則》

⑴擬舍棄數(shù)字的最左一位數(shù)字小于5時(shí),則舍去,即保留的各位數(shù)字不變。

例如 將12.1498修約到一位小數(shù),得12.1。

例如 將12.1498修約成兩位有效位數(shù),得12。

⑵擬舍棄數(shù)字的最左一位數(shù)字大于5;或者是5,而其后跟有并非全部為0的數(shù)字時(shí),則進(jìn)一,即保留的末位數(shù)字加1。

例如 將1268修約到“百”數(shù)位,得13×102(特定時(shí)可寫為1300)。

例如 將1268修約成三位有效位數(shù),得127×10(特定時(shí)可寫為1270)。

例如 將10.502修約到個數(shù)位,得11。

注:“特定時(shí)”的涵義系指修約間隔或有效位數(shù)明確時(shí)。

⑶擬舍棄數(shù)字的最左一位數(shù)字為5,而右面無數(shù)字或皆為0時(shí),若所保留的末位數(shù)字為奇數(shù)(1,3,5,7,9)則進(jìn)一,為偶數(shù)(2,4,6,8,0)則舍棄。

⑷負(fù)數(shù)修約時(shí),先將它的絕對值按上述⑴⑵⑶規(guī)定進(jìn)行修約,然后在修約值前面加上負(fù)號。

⑸0.5單位修約與0.2單位修約

①0.5單位修約 既將擬修約數(shù)乘以2,按指定數(shù)位依3.1-3.4規(guī)則修約,所得數(shù)再除以2。

②0.2單位修約 既將擬修約數(shù)乘以5,按指定數(shù)位依3.1-3.4規(guī)則修約,所得數(shù)值再除以5。

2、通用數(shù)值修約方法

⑴如果為修約間隔整數(shù)倍的一系列數(shù)中,只有一個數(shù)最接近于擬修約數(shù),則該數(shù)就是修約數(shù)。

例如 將1.150001按0.1修約間隔進(jìn)行修約。此時(shí),與擬修約數(shù)1.150001鄰近的為修約間隔整數(shù)倍的數(shù)有1.1和1.2(分別為修約間隔的11倍和12倍),然而只有1.2最接近于擬修約數(shù),因此1.2就是修約數(shù)。

⑵如果為修約間隔整數(shù)培的一系列數(shù)中,有連續(xù)兩個數(shù)同等接近于擬修約數(shù),則這兩個數(shù)中,為修約間隔偶數(shù)培的數(shù)就是修約數(shù)。

例如,將1150按100修約間隔行修約。此時(shí),與擬修約數(shù)1150鄰近的為修約間隔整數(shù)倍的數(shù)有1100和1200(分別為修約間隔的11倍和12倍),這兩個數(shù)同等接近于擬修約數(shù),然而1200為修約間隔的偶數(shù)培(12倍),因此1200 就是修約數(shù)。

⑶一個數(shù)據(jù)的修約只能進(jìn)行一次,不能分次修約。

分享到:

來源:Internet

相關(guān)新聞: