有效數(shù)字修約
1.有效數(shù)字、小數(shù)點(diǎn)保留位數(shù)、計(jì)量單位、精度、準(zhǔn)確度的聯(lián)系與區(qū)別
有效數(shù)字反映了計(jì)量器具的精度,由其最小分度值所決定,是客觀的;小數(shù)點(diǎn)保留位數(shù)受到人為因素和計(jì)量器具的影響,帶有主觀性;計(jì)量單位改變可以改變小數(shù)點(diǎn)后保留位數(shù),卻不能改變有效數(shù)字位數(shù)。儀器準(zhǔn)確度等級(jí)反映了儀器測(cè)量的不確定度,因此,儀器直接測(cè)量值的有效數(shù)字位數(shù)只與計(jì)量器具的最小分度值有關(guān),而與其準(zhǔn)確度等級(jí)(A級(jí)、B級(jí))無(wú)關(guān)。
2.理論真值(原子價(jià))、約定真值(單位、分子量、摩爾質(zhì)量等)、相對(duì)真值(化學(xué)試劑的純度、計(jì)量器具的準(zhǔn)確度、污染物排放限制等)、單標(biāo)線容器和量器(單標(biāo)線吸管、容量瓶等)、π等的有效數(shù)字都是無(wú)限的。
3.原始記錄有效數(shù)字保留位數(shù):
3.1用空氣流量校準(zhǔn)器校準(zhǔn)流量時(shí),二氧化硫、甲醛、氨等采樣器流量記錄至小數(shù)點(diǎn)后兩位,單位:L/min。
在現(xiàn)場(chǎng)采樣記錄中,氣溫記錄到小數(shù)點(diǎn)后一位,單位:℃;
氣壓記錄到小數(shù)點(diǎn)后一位,單位:kPa;
濕度記錄到整數(shù),單位:%;
WBGT指數(shù)測(cè)定結(jié)果應(yīng)取整數(shù)位;
噪聲測(cè)定多用精密聲級(jí)計(jì),其固有誤差為 ±0.7 dB , 故測(cè)定結(jié)果最多只能保留一位小數(shù);
風(fēng)速記錄到小數(shù)點(diǎn)后一位,單位:m/s;
采樣流量記錄同校準(zhǔn)流量一致,單位:L/min;
采樣時(shí)間到整數(shù),單位:min;
采樣體積及換算標(biāo)態(tài)體積記錄到小數(shù)點(diǎn)后一位,二氧化硫、甲醛、氨等,單位:L;PM10等,單位:m3。
PM10(重量法)稱重記錄到小數(shù)點(diǎn)后四位,單位:g。
分光光度法測(cè)定吸光度值記錄到小數(shù)點(diǎn)后三位。
3.2校準(zhǔn)曲線回歸處理與有效數(shù)字
用具有回歸統(tǒng)計(jì)功能的計(jì)算器進(jìn)行計(jì)算時(shí),把原始數(shù)據(jù)輸入則可直接顯示r、a、b,從而求得一元回歸方程:
y=ax+b 。回歸時(shí)應(yīng)扣除空白值。不扣除空白值,直接回歸的曲線,可用來(lái)計(jì)算空白值的濃度。
r取小數(shù)點(diǎn)后全部9(但最多取小數(shù)點(diǎn)后四位)與第一位非9的修約數(shù)字。
a的有效數(shù)字位數(shù),應(yīng)與自變量x的有效數(shù)字位數(shù)相等,或最多比x多保留一位。b的最后一位數(shù),則和因變量y的最后一位數(shù)取齊,或最多比y 多一位。校準(zhǔn)曲線的斜率和截距有時(shí)小數(shù)點(diǎn)后位數(shù)很多,最多保留 3 位有效數(shù)字,并以冪表示,如 0.0000234→2.34×10-5。
4.監(jiān)測(cè)數(shù)據(jù)的數(shù)字修約及計(jì)算規(guī)則
4.1數(shù)字修約
數(shù)字修約按國(guó)家標(biāo)準(zhǔn)GB 8170 《數(shù)字修約規(guī)則》的規(guī)定進(jìn)行。
4 舍 6入 5 看右,5 后有數(shù)進(jìn)上去,尾數(shù)為 0 向左看,左數(shù)奇進(jìn)偶舍棄。
4.2計(jì)算規(guī)則
在根據(jù)正確記錄的原始數(shù)據(jù)進(jìn)行數(shù)據(jù)處理時(shí),有效數(shù)字的處理方法需按以下原則進(jìn)行:
◆加減運(yùn)算時(shí),得數(shù)經(jīng)修約后,小數(shù)點(diǎn)后有效數(shù)字的位數(shù)應(yīng)和參加運(yùn)算的數(shù)中小數(shù)點(diǎn)后面有效數(shù)字位數(shù)最少者相同。
◆乘除運(yùn)算時(shí),得數(shù)經(jīng)修約后,其有效數(shù)字位數(shù)應(yīng)和參加運(yùn)算的數(shù)中有效數(shù)字位數(shù)最少者相同。
◆對(duì)數(shù)計(jì)算時(shí),對(duì)數(shù)的有效數(shù)字是由其小數(shù)點(diǎn)后位數(shù)確定的。(所取對(duì)數(shù)的小數(shù)點(diǎn)后的位數(shù)(不包括首數(shù))應(yīng)與其數(shù)的有效數(shù)字位數(shù)相同)
◆進(jìn)行平方、立方或開方運(yùn)算時(shí),計(jì)算結(jié)果有效數(shù)字的位數(shù)和原數(shù)相同。
◆計(jì)算中,常數(shù)π、e和 、1/3等有效數(shù)字位數(shù)是無(wú)限的,根據(jù)需要取有效數(shù)字的位數(shù)。
◆來(lái)自一個(gè)正態(tài)總體的一組數(shù)據(jù)(多于4個(gè)),其平均值的有效數(shù)字位數(shù)可比原數(shù)增加一位。
◆表示分析結(jié)果精密度的數(shù)據(jù)一般只取一位有效數(shù)字,只有當(dāng)測(cè)定次數(shù)很多時(shí)才能取兩位,且最多只能取兩位。
◆分析結(jié)果有效數(shù)字所能達(dá)到的位數(shù)不能超過方法最低檢出濃度的有效數(shù)字所能達(dá)到的位數(shù)。
◆在實(shí)際加減乘除等計(jì)算中,可先將各近似值修約到比有效數(shù)字位數(shù)最少者多保留1位有效數(shù)字,再將計(jì)算結(jié)果按上述規(guī)則處理。
◆在一系列操作中,使用多種計(jì)量?jī)x器時(shí),有效數(shù)字以最少的一種計(jì)量?jī)x器的位數(shù)表示。
5.當(dāng)最小分度值為次小分度值的0.1或0.2單位時(shí),即最小刻度是0.1或0.2時(shí),讀數(shù)的有效數(shù)字位數(shù)達(dá)到最小分度的后一位;當(dāng)最小分度值為次小分度值的0.5單位時(shí),即最小刻度為0.5時(shí),讀數(shù)的有效數(shù)字位數(shù)只到最小刻度。
6.從采樣到最后結(jié)果報(bào)告,有效數(shù)字保留的實(shí)例分析
采樣 樣品分析 結(jié)果報(bào)告 根據(jù)儀器的測(cè)量精度(最小分度值)確定有效數(shù)字位數(shù)(流量),在記錄時(shí)不能修約;有需要通過計(jì)算得到的參數(shù)(標(biāo)態(tài)體積),按近似計(jì)算規(guī)則的要求將原始數(shù)據(jù)修約,可以比指定的修約位數(shù)多一位或幾位有效數(shù)字;確定修約位數(shù)后一次完成,不能連續(xù)修約。 對(duì)于滴定法,標(biāo)準(zhǔn)參考溶液多為中間值(用來(lái)配置標(biāo)準(zhǔn)標(biāo)定溶液),可以比分析方法中計(jì)量器具(多為滴定管)的有效數(shù)字多一位;標(biāo)準(zhǔn)標(biāo)定溶液則原則上保留4位(根據(jù)滴定管確定,注意確保消耗的標(biāo)準(zhǔn)標(biāo)定溶液體積);其他的標(biāo)準(zhǔn)溶液則直接根據(jù)稱量器具確定有效數(shù)字;儀器分析直接出結(jié)果的要根據(jù)儀器檢測(cè)限確定有效數(shù)字位數(shù)。 標(biāo)準(zhǔn)上有明確規(guī)定的最終結(jié)果要與標(biāo)準(zhǔn)一致。計(jì)算結(jié)果根據(jù)修約規(guī)則來(lái)保留有效數(shù)字,報(bào)告中有效數(shù)字位數(shù)不能超過其參加計(jì)算的參數(shù)的有效數(shù)字位數(shù)。不得在運(yùn)算過程中出現(xiàn)連續(xù)修約。
氣相色譜檢測(cè)大氣中污染物的數(shù)據(jù)處理(實(shí)例):
采樣:流量0.50L/min(最小量綱0.1L,因此保留到小數(shù)點(diǎn)后兩位),采樣時(shí)間保留整數(shù)15min
采樣體積(2位有效數(shù)字)= 流量*時(shí)間
校正后的標(biāo)態(tài)采樣體積(可以暫時(shí)比采樣體積多保留一個(gè)有效數(shù)字)=采樣體積*校正系數(shù)
解吸:解吸到100ml大注射器中(保留3個(gè)有效數(shù)字)
標(biāo)準(zhǔn)曲線濃度:取1.0μl的苯液,注入100 ml大注射器中,濃度為2個(gè)有效數(shù)字
最后通過進(jìn)樣計(jì)算濃度:根據(jù)近似數(shù)運(yùn)算規(guī)則,按有效數(shù)字最少的值來(lái)保留有效數(shù)字(兩位)
C = ( A ×CS ) / ( AS ×V0) ×D ×100