《海洋監測規範 第2部分: 數據處理與分析質量控制》,是適用於海洋環境監測中海水分析、沉積物分析、生物體分析、近海污染生態調查和生物監測的數據處理及實驗室內部分析質量控制而制定的標準。
2007年10月18日,《海洋監測規範 第2部分: 數據處理與分析質量控制》由中華人民共和國國家質量監督檢驗檢疫總局、中國國家標準化管理委員會發布,並於2008年5月1日發布。
基本介紹
- 中文名:海洋監測規範第2部分: 數據處理與分析質量控制
- 外文名:The specification for marine monitoring - Part 2:Data processing and quality control of analysis
- 頒布時間:2007年10月18日
- 實施時間:2008年5月1日
- 發布單位:中華人民共和國國家質量監督檢驗檢疫總局、中國國家標準化管理委員會
檔案發布,內容摘要,
檔案發布
2007年10月18日,《海洋監測規範 第2部分: 數據處理與分析質量控制》由中華人民共和國國家質量監督檢驗檢疫總局、中國國家標準化管理委員會發布,並於2008年5月1日發布。
內容摘要
1 範圍
GB17378的本部分規定了海洋監測數據處理常用術語及符號,離群數據的統計檢驗,兩均數差異的顯著性檢驗,分析方法驗證,內控樣的配製與套用,分析質量控制圖繪製等。
本部分適用於海洋環境監測中海水分析、沉積物分析、生物體分析、近海污染生態調查和生物監測的數據處理及實驗室內部分析質量控制。海洋大氣、污染物入海通量調查、海洋傾廢和疏浚物調查等也可參照使用。
2 規範性引用檔案
下列檔案中的條款通過GB17378的本部分的引用而成為本部分的條款。凡是注日期的引用檔案,其隨後所有的修改單(不包括勘誤的內容)或修訂版均不適用於本部分,然而,鼓勵根據本部分達成協定的各方研究是否可使用這些檔案的最新版本。凡是不注日期的引用檔案,其最新版本適用於本部分。
GB8170 數值修約規則
GB17378.5—2007 海洋監測規範 第5部分:沉積物分析
GB17378.6—2007 海洋監測規範 第6部分:生物體分析
3 術語和定義
下列術語和定義適用於GB17378的本部分。
3.1
原始樣 狉犪狑狊犪犿狆犾犲
現場採集的初始樣品。
3.2
分析樣 犪狀犪犾狔狋犻犮犪犾狊犪犿狆犾犲
需要經過預處理,才能進行測定的樣品。
3.3
平行樣 狆犪狉犪犾犾犲犾狊犪犿狆犾犲
獨立取自同一個樣本的兩個以上的樣品。
3.4
標準空白 狊狋犪狀犱犪狉犱犫犾犪狀犽
對應標準系列中零濃度的分析信號回響值。
3.5
分析空白 犪狀犪犾狔狊犻狊犫犾犪狀犽
在與樣品分析全程一致的條件下,空白樣品的測定結果。
3.6
校準曲線 犮犪犾犻犫狉犪狋犻狅狀犮狌狉狏犲
樣品中待測項目的量值(犡)與分析儀器給出的信號值(犢)之間的相關曲線。校準曲線分為標準曲線和工作曲線。
3.7
工作曲線 狑狅狉犽犻狀犵犮狌狉狏犲
標準系列的測定步驟與樣品分析過程完全相同條件下測定得到的校準曲線。
3.8
標準曲線 狊狋犪狀犱犪狉犱犮狌狉狏犲
標準系列的測定步驟比樣品分析過程有所簡化的條件下測定得到的校準曲線。
3.9
方法靈敏度 犿犲狋犺狅犱狊犲狀狊犻犫犻犾犻狋狔
某一測定方法的靈敏度,在量值上等於回響信號的指示量與產生該信號的待測物質的濃度或質量的比值。它反映了待測物質單位濃度或單位質量變化所導致的回響信號指示量的變化程度。
3.10
檢出限(犡犖)犱犲狋犲犮狋犻狅狀犾犻犿犻狋
通過一次測量,就能以95%的置信機率定性判定待測物質存在所需要的最小濃度或量。
3.11
測定下限(犡犅) 犾犻犿犻狋狅犳犱犲狋犲狉犿犻狀犪狋犻狅狀
置信機率為95%時,可以被定量測定的被測物的最低濃度或最低量。
3.12
未檢出 狌狀犱犲狋犲犮狋犻狅狀
低於檢出限犡N的測定結果。
3.13
精密度 狆狉犲犮犻狊犻狅狀
在規定條件下,相互獨立的測試結果之間的一致程度。常用標準偏差來度量。
註:精密度僅依賴於隨機誤差,而與被測量的真值或其他約定值無關。
3.14
極差(犚) 狉犪狀犵犲
測定結果樣本中最大值與最小值之差。
3.15
偏差(犇) 犱犲狏犻犪狋犻狅狀
各個單次測定值與平均值之差。
3.16
相對偏差(犚犇) 狉犲犾犪狋犻狏犲犱犲狏犻犪狋犻狅狀
單次測定值與平均值之差再與平均值之比。
3.17
標準偏差 狊狋犪狀犱犪狉犱犱犲狏犻犪狋犻狅狀
樣本分量與樣本均值之差的平方和除以樣本容量減1的平方根,見式(1):
狀
1 (犡犻-犡珡)!!!!!!!!!!!!!(1)犛=槡 犻=1狀-1
式中:
犛———標準偏差;
犡犻———各次測定值;犡———平均值;
狀———重複測定次數;
狀
當狀≥20時:犛=槡狀犻=1(犡犻-犡珡)。
3.18
相對標準偏差(犚犛犇) 狉犲犾犪狋犻狏犲狊狋犪狀犱犪狉犱犱犲狏犻犪狋犻狅狀
樣本標準偏差與樣本均值之比。
3.19
重複性 狉犲狆犲犪狋犪犫犻犾犻狋狔
在重複性條件下,相互獨立的測試結果之間的一致程度。
3.20
重複性條件 狉犲狆犲犪狋犪犫犻犾犻狋狔犮狅狀犱犻狋犻狅狀
在同一實驗室,由同一操作者使用相同的設備,按相同的測試方法,並在短時間內從同一被測對象取得相互獨立測試結果的條件。
3.21
再現性 狉犲狆狉狅犱狌犮犻犫犻犾犻狋狔
在再現性條件下,測試結果之間的一致程度。
3.22
再現性條件 狉犲狆狉狅犱狌犮犻犫犻犾犻狋狔犮狅狀犱犻狋犻狅狀狊
在不同的實驗室,由不同的操作者使用不同的設備,按相同的測試方法,從同一被測對象取得測試結果的條件。
[GB/T20001.4—2001,定義3.14]
3.23
準確度 犪犮犮狌狉犪犮狔
測試結果與被測量真值或約定真值間的一致程度。
3.24
測試誤差 犲狉狉狅狉狅犳犪狋犲狊狋
測試結果與被測量的真值(或約定真值)之差。測試誤差包括系統誤差和隨機誤差。
3.25
系統誤差 狊狔狊狋犲犿犪狋犻犮犲狉狉狅狉
由一種或多種確定原因引起的測量誤差。
註:無論引起系統誤差的原因是已知的還是未知的,理論上應採用適當的方法予以糾正。
3.26
隨機誤差 狉犪狀犱狅犿犲狉狉狅狉
由不確定原因引起、服從統計規律、具有抵償性的測量誤差。
註:應通過多次測量求平均值的方法降低隨機誤差對測量結果的影響。
4 一般規定
4.1 現場原始工作記錄在指定的表格上用硬質鉛筆書寫、字跡端正,不應塗抹。需要改正錯記時,在錯的數字上劃一橫線,將正確數字補寫在其上方。
4.2 按5.1給出的方法記錄與修約有效數字的位數。
4.3 表示測試結果的量綱及其有效數字位數,應按照該分析方法中具體規定填報。若無此規定時,一般性原則是一個數據中只準許末尾一個數字是估計(可疑)值,其他各數字都是有效(可信)的,依此決定整數及小數的位數。因量綱的變化不作小數取位的硬性規定,有關計算方法的細節見第5章。
4.4 低於檢出限犡N的測試結果,應報“未檢出”,但在區域性監測檢出率占樣品頻數的1/2以上(包括1/2)或不足1/2時,未檢出部分可分別取犡N的1/2和1/4量參加統計運算。
4.5 未執行業務主管部門規定的質量控制程式所產生的數據,視為可疑數據。可疑數據不得用於海洋環境質量及海洋環境影響評價。
4.6 平行樣品測試是分析質量控制的方法之一。原則規定,不與內控樣同步測定的項目,一律測試雙平行分析樣。溶解氧、水中油類等須測原始樣雙平行(此類不必測分析樣雙平行)。若分析方法未對海水雙樣的相對偏差允許值進行規定,則按表1執行。
4.7 沉積物和生物體雙樣相對偏差表見GB17378.5和GB17378.6。
4.8 天然樣品加標回收率,不得越出方法給出範圍值。若無此規定,按表2執行。
4.9 海洋監測中,若採用本規範以外的分析方法,必須按規定做方法對比驗證工作,報請業務主管部門批准備案。
表1 海水平行雙樣相對偏差表
分析結果所在數量級 | 10-4 | 10-5 | 10-6 | 10-7 | 10-8 | 10-9 | 10-10 | |
相對偏差容許限/ % | 1.0 | 2.5 | 5 | 10 | 20 | 30 | 50 | 計算|犃-犅|×100犃+犅 |
表2 回收率容許值表
濃度或含量範圍/ (μg/L) | 回收率/ % |
<100 | 60~110 |
>100 | 80~110 |
>1000 | 90~110 |
容量及重量法 | 95~105 |
5 數據處理
5.1 有效數字和數值修約
5.1.1 有效數字
5.1.1.1 任何特定量的測量(定)結果,都是通過測量(定)得到的賦予被測量的值,也稱為量值。量值一般由一個數字乘以測量單位來表示特定量的大小。由於不能人為地實現完善的測量(定)過程,所以測量(定)結果不可避免地含有誤差。為了表達測量(定)結果的準確程度,用有效數字表示特定量測量
(定)結果的數字部分。
5.1.1.2 有效數字由一位或多位“可靠數字”和一位“末位欠準數字”組成。有效數字的有效位數是“可靠數字”和“末位欠準數字”的位數之和。由於不同的具體測量(定)條件下,“末位欠準數字”的欠準程度不同,所以原則上本標準不對修約間隔進行具體規定。但在通常情況下,分析領域的修約間隔為“末位欠準數字”的1個單位。
5.1.1.3 有效數字的有效位數的多少,除了反映量值的大小之外,在分析領域中還反映該數值的準確程度。例如0.6705g草酸鈉,這一數值的可信數字截取在千分位上的0,在萬分位的數字5是可疑的,其真值處於0.6704g~0.6706g之間。
5.1.1.4 有效數字中的“0”是否計算為有效數字的有效位數,要根據“0”的位置及其前後的數字狀況而定。常見的有以下四種情況: ———位於非“0”數字之間的“0”,如2.005,1.025這兩個有效數字中的三個“0”都應計算為有效數字的有效位數(簡稱有效位數)。
———位於非“0”數字後面的一切“0”都應計算為有效位數(全整數尾部“0”除外)。如2.2500,
1.0250。
———前面不具非零數字的“0”,如0.0025中的三個“0”都不應計算為有效位數,只起定位作用。一般可表示為2.5×10。
———整數中後面的“0”,很難判斷是否有效數字。例如1.5g也可表示成1500mg,從表觀上看,同一個量值的有效數字位數卻不同。為了避免誤解,統一用指數形式表示,上例可記為1.5×
10mg,表明是兩位有效數字。
5.1.2 數據的原始記錄
為確保數據應有的準確度,應從正確地記錄原始數據開始,對任何一個有計算意義的數據都要審慎地估量,正確地記載量值的有效位數。例如50mL滴定管的最小分度值為0.1mL,又因為允許增加一位估計數字,可以記錄到兩位小數,如12.34mL。這一量值表明十分位上的3是刻度指示值,確切可信;百分位上的4則是估計判讀的,是可疑數字,並知其波動範圍為0.02mL,其相對誤差為(0.02/12.34)×100%=0.16%。若在原始記錄中僅記為12.3mL,則表示可能產生1.6%的相對誤差。由於原始記錄不合理致使數據的準確度下降一個數量級。但也不可任意增加有效數字的位數。如前例記成
12.340則是明顯失真,因為不可能估計出兩位數字。原始記錄的有效數字位數既不可少,也不可多。
記取的原則是根據儀器、儀表指示的最小分度值如實記錄並允許增記一位估計數字。
實驗室通用的計量器具可記取的位數如下:
———萬分之一天平:小數點後第四位即萬分位。
———上皿天平:小數點後第二位即百分位。
———分光光度計:吸光值記到小數點後第三位即千分位。
———玻璃量器:記取的有效數字位數須根據量器的允許誤差和讀數誤差決定。
常見的一等量器準確容量的記錄按表3和表4的格式進行記錄。
5.1.3 有效數字運算規則為了確保最終結果中只包含有效數字(定位“0”例外),有效數字運算要遵守下列規則:
———加減運算:最終計算結果中保留的小數位數,應與參加運算的有效數字中小數位數最少者相同。
———乘除運算:運算結果經修約後,保留的有效數字位數應與參加運算的幾個有效數字中有效位數最少者相同。
———對數運算:對數的有效數字位數應和原數(真數)的相同。
———平方、立方、開方運算:計算結果的有效數字位數應和原數的相同。
———π、e和槡2、槡3、等的有效位數,須參照與之相關的數據決定保留的位數。
3
———來自一個正態總體的一組數據,多於4個時,其平均值的有效數字位數可比原數的增加一位。
———用於表示方法或分析結果精密度的標準差,其有效數字的位數一般只取一位;當測定次數較多時可取兩位,且最多只能取兩位。
———報告分析結果有效數字位數,應根據分析方法的精密度即標準差的大小決定。通常可取四分之一個標準差的首數所在數位,定為分析結果的尾數。例如某一測定結果為25.352,標準差為1.4,四分之一標準差為0.35,其首位數字所在數位是十分位,即定為該結果的末位,可報為
25.4。
表3 一等無分度移液管準確容量的表示 單位為毫升
容量示值 | 允許差 | 準確容量 |
2 | ±0.006 | 2.00 |
3 | ±0.006 | 3.00 |
5 | ±0.01 | 5.00 |
10 | ±0.02 | 10.00 |
15 | ±0.03 | 15.00 |
20 | ±0.03 | 20.00 |
25 | ±0.04 | 25.00 |
50 | ±0.05 | 50.00 |
100 | ±0.08 | 100.0 |
表4 一等量入式量瓶準確容量的表示 單位為毫升
容量示值 | 允許差 | 準確容量 |
10 | ±0.02 | 10.00 |
25 | ±0.03 | 25.00 |
50 | ±0.05 | 50.00 |
100 | ±0.10 | 100.0 |
200 | ±0.10 | 200.0 |
250 | ±0.10 | 250.0 |
500 | ±0.15 | 500.0 |
1000 | ±0.30 | 1000.0 |
2000 | ±0.50 | 2000.0 |
5.1.4 數值修約數值修約應遵守以下規則(詳見GB8170有關規定):
———在擬捨棄的數字中,若左邊第一個數字小於5(不包括5)時則捨去,即擬保留的末位數字不變。
示例1:
將14.2432修約到保留一位小數:
修約前 | 修約後 |
14.2432 | 14.2 |
———在擬捨棄的數字中,若左邊第一個數字大於5(不包括5)時,則進一,即所擬保留的末位數字加一。
示例2:
將26.4843修約到只保留一位小數:
修約前 | 修約後 |
26.4843 | 26.5 |
———在擬捨棄的數字中,若左邊第一個數字等於5,其右邊的數字並非全部為“0”,則進一;若5的右邊皆為“0”,擬保留的末位數字若為奇數則進一,若為偶數(包括“0”)則不進。
示例3:
將下列數值修約到只保留一位小數:
修約前 | 修約後 |
0.3500 | 0.4 |
0.4500 | 0.4 |
1.0500 | 1.0 |
———所擬捨棄的數字,若為兩位以上數字時,不得連續進行多次修約,應根據所擬捨棄數字中左邊第一個數字的大小,按上述規定一次修約出結果。
示例4:
將15.4546修約成整數。
正確的做法是:修約前修約後
15.4546 15
不正確的做法:修約前一次修約二次修約
15.4546三次修約 15.5 | 15.455 四次修約(結果) 16 | 15.46 |
在修約計算過程中對中間結果不必修約,將最終結果修約到預期位數。
5.2 異常值的統計檢驗
一組(群)正常的測定數據,應來自具有一定分布的同一總體;若分析條件發生顯著變化,或在實驗操作中出現過失,將產生與正常數據有顯著性差別的數據,此類數據稱為離群數據或異常值。離群數據或異常值須經過檢驗加以判定。表觀差異較大的分析數據,但未經過檢驗判定為離群數據或異常值時,稱為可疑數據。
5.2.1 可疑數據的檢驗
剔除離群數據,會使測定結果更客觀;但不應隨意刪去一些表觀差異較大而並非離群的可疑數據。
對可疑數據的取捨,應參照下述原則處理。
———仔細回顧和複查產生可疑數據的試驗過程,如果是過失誤差,則捨棄。
———如果未發現過失,則要按統計程式檢驗,決定是否作為離群數據或異常值予以捨棄。
5.2.2 離群數據的判別準則
離群數據的判別應遵循以下準則:
———統計量的計算值不大於顯著性水平α=0.05時的臨界值,則可疑數據為正常數據,應保留。
———統計量的計算值大於α=0.05時的臨界值但又不大於α=0.01時的臨界值,此可疑數據為偏離數據,可以保留,取中位數代替平均數值。
———統計量的計算值大於α=0.01時的臨界值,此可疑值為異常值,應予剔除,並對剩餘數據繼續檢驗,直到數據中無異常值為止。
5.2.3 異常值的檢驗方法
5.2.3.1 犇犻狓狅狀檢驗法
用於一組測定數據的一致性檢驗和剔除異常值檢驗,步驟如下:
———將重複狀次的測定值從小到大排列為犡1,犡2,犡3,……,犡狀;
———按表5列公式,求算犙值;
———α和重複測定次數狀,查表6得臨界值犙α;
———按5.2.2條的判別準則,決定取捨。若犙>犙0.01,則可疑值為異常值,捨棄:
1) 若犙0.05<犙≤犙0.01,則可疑值為偏離值,可以保留,取中位數代替平均數值。
2) 若犙≤犙0.05,則可疑值為正常值,保留。
示例5:
一組測定值按從小到大的順序排列為14.56、14.90、14.90、14.92、14.95、14.96、15.00、15.00、15.01、15.02。
檢驗最小值14.56是否為異常值。
可疑值為最小值犡1時,按式(2)計算統計量犙:
犡-犡14.90-14.56 !!!!!!!!!!!!!(2)犙= = =0.755犡狀-1-犡1 15.01-14.56
當狀=10,顯著水平α=0.01,查表6臨界值為0.597,因0.755>0.597 即犙>犙0.01,則判定最小值犡1為異常,應予剔除。
表5 犇犻狓狅狀檢驗統計量(犙)計算公式
狀值範圍 | 可疑數值為最小值犡1時 | 可疑數值為最大值犡狀時 |
3~7 | 犙10= 2-犡1犡 犡狀-犡1 | 犙10= -犡狀-1犡 犡狀-犡1 |
8~10 | 犙11= 2-犡1犡 犡狀-1-犡1 | 犙11= -犡狀-1犡 犡狀-犡2 |
11~13 | 犙21= 3-犡1犡 犡狀-1-犡1 | 犙21= -犡狀-2犡 犡狀-犡2 |
14~25 | 犙22= 3-犡1犡 犡狀-2-犡1 | 犙22= -犡狀-2犡 犡狀-犡3 |
表6 犇犻狓狅狀檢驗臨界值(犙α)表
狀 | 顯著性水平α) | 狀 | 顯著性水平α) | ||||
0.10 | 0.05 | 0.01 | 0.10 | 0.05 | 0.01 | ||
3 | 0.886 | 0.941 | 0.988 | 15 | 0.472 | 0.525 | 0.616 |
4 | 0.679 | 0.765 | 0.899 | 16 | 0.454 | 0.507 | 0.595 |
5 | 0.557 | 0.642 | 0.780 | 17 | 0.438 | 0.490 | 0.577 |
6 | 0.482 | 0.560 | 0.698 | 18 | 0.424 | 0.475 | 0.561 |
7 | 0.434 | 0.507 | 0.637 | 19 | 0.412 | 0.462 | 0.547 |
8 | 0.479 | 0.554 | 0.683 | 20 | 0.401 | 0.450 | 0.535 |
9 | 0.441 | 0.512 | 0.635 | 21 | 0.391 | 0.440 | 0.524 |
10 | 0.409 | 0.477 | 0.597 | 22 | 0.382 | 0.430 | 0.514 |
11 | 0.517 | 0.576 | 0.679 | 23 | 0.374 | 0.421 | 0.505 |
12 | 0.490 | 0.546 | 0.642 | 24 | 0.367 | 0.413 | 0.497 |
13 | 0.467 | 0.521 | 0.615 | 25 | 0.360 | 0.406 | 0.489 |
14 | 0.492 | 0.546 | 0.641 |
5.2.3.2 犌狉狌犫犫狊檢驗法
用於多組測定均值的一致性檢驗和剔除離群值的檢驗。也適用於實驗室內一系列單個測定值的一致性檢驗。步驟如下:
———設有犔組數據,各組平均值分別為犡1,犡2,……犡犔。
———將犔個均值按大小順序排列,最大均值記為犡max,最小均值記為犡min;
———由犔個均值(犡犻)計算總均值犡和標準偏差犛:
犔
∑犡犻
犻=1(3)犡=!!!!!!!!!!!!!!!!
犔
犔
∑(犡犻-犡)2
犛=槡!!!!!!!!!!!!!!(4)犔-1
式中:
犛———標準偏差;
犡犻———代表各組測定的平均值。
———根據可疑值犡max或犡min分別按式(5)和式(6)計算統計量狋1或狋2;
狋1=犡!!!!!!!!!!!!!!!!(5)犛
犡-犡!!!!!!!!!!!!!!!!(6)狋2=
犛
———根據給定的顯著性水平α和組數犔查表7得臨界值;
———按5.2.2條的判別準則,決定取捨;
———若本法用於實驗室內一組數據檢驗時,將組數犔改為測定次數狀,將各組平均值犡犻改為單次測定值犡犻。
示例6:
有10個實驗室分析同一樣品,其平均值分別為4.41,4.49,4.30,4.51,4.64,4.75,4.81,4.95,5.01,5.39,檢驗最大值5.39是否為離群值。
10
∑犡犻
犡==4.746=4.75!!!!!!!!!!!!!(7)
10
10
∑(犡犻-犡)
犛=槡=0.3051=0.31!!!!!!!!!!(8)
10-1
犡-犡 5.39-4.75!!!!!!!!!!!(9)狋1= = =2.11犛 0.31
當犔=10,α=0.05,查表7臨界值(犜α)應該為2.18;判定:2.11<2.18,狋1<犜α,最大值5.39為正常值。
5.2.3.3 犆狅犮犺狉犪狀最大方差檢驗法
用於多組測定值的方差一致性檢驗和剔除離群方差檢驗。步驟如下: ———設有犔組數據,每組測定狀次,標準差分別為犛1,犛2,犛3,……犛犔;
———將犔個標準差(犛犻)按大小順序排列,最大者記為犛max;
———按式(10)計算統計量犆;
犛2(10)犆= 犔 !!!!!!!!!!!!!!!!!
∑犛犻2
犻=1
若狀=2,即每組只有兩次測定時,各組內差值分別為犚1,犚2,犚3,……犚犔,則按式(11)計算統計量犆:
犚2(11)犆= 犔 !!!!!!!!!!!!!!!!!
∑犚犻2
犻=1
———根據選定的顯著性水平α,組數犔,測定次數狀查表8得臨界值犆α;
———按5.2.2條異常值的判別準則,決定取捨。
表7 犌狉狌犫犫狊檢驗臨界值(犜α)值
顯著性水平α) | 顯著性水平α) | ||||||||
犔 | 0.05 | 0.025 | 0.01 | 0.005 | 犔 | 0.05 | 0.025 | 0.01 | 0.005 |
3 | 1.153 | 1.155 | 1.155 | 1.155 | 30 | 2.745 | 2.908 | 3.103 | 3.236 |
4 | 1.463 | 1.481 | 1.492 | 1.496 | 31 | 2.759 | 2.924 | 3.119 | 3.253 |
5 | 1.672 | 1.715 | 1.749 | 1.764 | 32 | 2.773 | 2.938 | 3.135 | 3.270 |
6 | 1.822 | 1.887 | 1.944 | 1.973 | 33 | 2.786 | 2.952 | 3.150 | 3.286 |
7 | 1.938 | 2.020 | 2.097 | 2.139 | 34 | 2.799 | 2.965 | 3.164 | 3.301 |
8 | 2.032 | 2.126 | 2.221 | 2.274 | 35 | 2.811 | 2.979 | 3.178 | 3.316 |
9 | 2.110 | 2.215 | 2.323 | 2.387 | 36 | 2.823 | 2.991 | 3.191 | 3.330 |
10 | 2.176 | 2.290 | 2.410 | 2.482 | 37 | 2.835 | 3.003 | 3.204 | 3.343 |
11 | 2.234 | 2.355 | 2.485 | 2.564 | 38 | 2.846 | 3.014 | 3.216 | 3.356 |
12 | 2.285 | 2.412 | 2.550 | 2.636 | 39 | 2.857 | 3.025 | 3.228 | 3.369 |
13 | 2.331 | 2.462 | 2.607 | 2.699 | 40 | 2.866 | 3.036 | 3.240 | 3.381 |
14 | 2.371 | 2.507 | 2.659 | 2.755 | 41 | 2.877 | 3.046 | 3.251 | 3.393 |
15 | 2.409 | 2.549 | 2.705 | 2.806 | 42 | 2.887 | 3.057 | 3.261 | 3.404 |
16 | 2.443 | 2.585 | 2.747 | 2.852 | 43 | 2.896 | 3.067 | 3.271 | 3.415 |
17 | 2.475 | 2.620 | 2.785 | 2.895 | 44 | 2.905 | 3.075 | 3.282 | 3.425 |
18 | 2.504 | 2.651 | 2.821 | 2.932 | 45 | 2.914 | 3.085 | 3.292 | 3.435 |
19 | 2.532 | 2.681 | 2.854 | 2.968 | 46 | 2.923 | 3.094 | 3.302 | 3.445 |
20 | 2.557 | 2.709 | 2.881 | 3.001 | 47 | 2.931 | 3.103 | 3.310 | 3.455 |
21 | 2.580 | 2.733 | 2.912 | 3.031 | 48 | 2.940 | 3.111 | 3.319 | 3.464 |
22 | 2.603 | 2.758 | 2.939 | 3.060 | 49 | 2.948 | 3.120 | 3.329 | 3.474 |
23 | 2.624 | 2.781 | 2.963 | 3.087 | 50 | 2.956 | 3.128 | 3.336 | 3.483 |
24 | 2.644 | 2.082 | 2.987 | 3.112 | 60 | 3.025 | 3.199 | 3.411 | 3.560 |
25 | 2.663 | 2.822 | 3.009 | 3.135 | 70 | 3.082 | 3.257 | 3.471 | 3.622 |
26 | 2.681 | 2.841 | 3.029 | 3.157 | 80 | 3.130 | 3.305 | 3.521 | 3.673 |
27 | 2.698 | 2.859 | 3.049 | 3.178 | 90 | 3.171 | 3.347 | 3.563 | 3.716 |
28 | 2.714 | 2.876 | 3.068 | 3.199 | 100 | 3.207 | 3.383 | 3.600 | 3.754 |
29 | 2.730 | 2.893 | 3.085 | 3.218 |
示例7:
6個實驗室分析同一樣品,各實驗室5次測定的標準差分別為0.84,1.30,1.48,1.67,1.79,2.17。檢驗6個實驗室是否為等精度。
其中:犛max=2.17
犛22 !!!!!!!(12)犆= 犔 2=0.842+1.302+……+2.172=0.308
∑犛1
犻=1
根據選定水平α=0.05,犔=6,狀=5,查表8得臨界犆α為0.480;
判定:0.308<0.480,犆<犆0.05。6個實驗室的測定數據為等精度,2.17為正常方差,應予保留。
示例8:
7個實驗室分析同一樣品,各實驗室兩次測定的差分別為0.0,0.1,0.1,0.2,0.2,0.2,0.9。檢驗極差0.9的實驗室與其他實驗室的測定是否為等精度。
犆=犚犔2max = 22 0.92 !!!!!!!(13)
=0.850
2 0.0+0.1+0.12……+0.92
∑犚犻
犻=1
選定顯著性水平α=0.01,犔=7,狀=2,查表8得臨界值犆α為0.838。
判定:0.850>0.838,犆>犆0.01。0.9屬於離群方差,0.9與其他實驗室的測定精度不等,應予剔除。
5.3 兩組數據差異的顯著性檢驗
5.3.1 狋檢驗法
狋檢驗法適用於樣本容量較小、樣本方差沒有顯著性差異的兩組數據的比較檢驗。狋檢驗法可有三種計算公式選擇,分別滿足不同目的和不同類型的統計檢驗,見表9。
5.3.1.1 狋檢驗法的判定準則
狋檢驗法的判定準則如下:
a 狋<狋α(0.05),差別不顯著;
b) 狋α(0.05)<狋<狋α(0.01),差別較顯著;
c 狋>狋α(0.01),差別很顯著;
d) 對於犎0:μ=μ0,犎1:μ≠μ0的檢驗:雙側檢驗;查狋值表(表22)中犘(2)。 e) 對於犎0:μ=μ0,犎1:μ<μ0(或μ>μ0)的檢驗:單側檢驗;查狋值表犘(1)。
5.3.1.2 成對數據的比較
5.3.1.2.1 套用本法的條件
套用本法的條件如下:
a) 兩組測定數據隨機配對,不得人為地選擇匹配。如果是實驗設計中所預期配對比較,則應先配對後測定。
b) 測定過程中除對比的因素不同外,其他一切因素都是相同的。
c) 兩組重複測定次數(狀)相等。
示例9:
選用新的分析方法和原方法同時測定同一均勻樣品,各重複測定9次,結果見表10,問新方法較原方法有無顯著性差異。
表8 犆狅犮犺狉犪狀最大方差檢驗臨界值(犆α)表
犔 | 狀=2 | 狀=3 | 狀=4 | 狀=5 | 狀=6 | |||||
α=0.01 | α=0.05 | α=0.01 | α=0.05 | α=0.01 | α=0.05 | α=0.01 | α=0.05 | α=0.01 | α=0.05 | |
2 | 0.995 | 0.975 | 0.979 | 0.939 | 0.959 | 0.906 | 0.937 | 0.877 | ||
3 | 0.993 | 0.967 | 0.942 | 0.871 | 0.883 | 0.798 | 0.834 | 0.746 | 0.793 | 0.707 |
4 | 0.968 | 0.906 | 0.864 | 0.768 | 0.781 | 0.684 | 0.721 | 0.629 | 0.676 | 0.590 |
5 | 0.928 | 0.841 | 0.788 | 0.684 | 0.696 | 0.598 | 0.633 | 0.544 | 0.588 | 0.506 |
6 | 0.883 | 0.781 | 0.722 | 0.616 | 0.626 | 0.532 | 0.564 | 0.480 | 0.520 | 0.445 |
表8(續)
犔 | 狀=2 | 狀=3 | 狀=4 | 狀=5 | 狀=6 | |||||
α=0.01 | α=0.05 | α=0.01 | α=0.05 | α=0.01 | α=0.05 | α=0.01 | α=0.05 | α=0.01 | α=0.05 | |
7 | 0.838 | 0.727 | 0.664 | 0.561 | 0.568 | 0.480 | 0.508 | 0.431 | 0.466 | 0.397 |
8 | 0.794 | 0.680 | 0.615 | 0.516 | 0.521 | 0.438 | 0.463 | 0.391 | 0.423 | 0.360 |
9 | 0.754 | 0.638 | 0.573 | 0.478 | 0.481 | 0.403 | 0.425 | 0.358 | 0.387 | 0.329 |
10 | 0.718 | 0.602 | 0.536 | 0.445 | 0.447 | 0.373 | 0.393 | 0.331 | 0.357 | 0.303 |
11 | 0.684 | 0.570 | 0.504 | 0.417 | 0.418 | 0.348 | 0.366 | 0.308 | 0.332 | 0.281 |
12 | 0.653 | 0.541 | 0.475 | 0.392 | 0.392 | 0.326 | 0.343 | 0.288 | 0.310 | 0.262 |
13 | 0.624 | 0.515 | 0.450 | 0.371 | 0.369 | 0.307 | 0.322 | 0.271 | 0.291 | 0.246 |
14 | 0.599 | 0.492 | 0.427 | 0.352 | 0.349 | 0.291 | 0.304 | 0.255 | 0.274 | 0.232 |
15 | 0.575 | 0.471 | 0.407 | 0.335 | 0.332 | 0.276 | 0.288 | 0.242 | 0.259 | 0.220 |
16 | 0.553 | 0.452 | 0.388 | 0.319 | 0.316 | 0.262 | 0.274 | 0.230 | 0.246 | 0.208 |
17 | 0.532 | 0.434 | 0.372 | 0.305 | 0.301 | 0.250 | 0.261 | 0.219 | 0.234 | 0.198 |
18 | 0.514 | 0.418 | 0.356 | 0.293 | 0.288 | 0.240 | 0.249 | 0.209 | 0.223 | 0.189 |
19 | 0.496 | 0.403 | 0.343 | 0.281 | 0.276 | 0.230 | 0.238 | 0.200 | 0.214 | 0.181 |
20 | 0.480 | 0.389 | 0.330 | 0.270 | 0.265 | 0.220 | 0.229 | 0.192 | 0.205 | 0.174 |
21 | 0.465 | 0.377 | 0.318 | 0.261 | 0.255 | 0.212 | 0.220 | 0.185 | 0.197 | 0.167 |
22 | 0.450 | 0.365 | 0.307 | 0.252 | 0.246 | 0.204 | 0.212 | 0.178 | 0.189 | 0.160 |
23 | 0.437 | 0.354 | 0.297 | 0.243 | 0.238 | 0.197 | 0.204 | 0.172 | 0.182 | 0.155 |
24 | 0.425 | 0.343 | 0.287 | 0.235 | 0.230 | 0.191 | 0.197 | 0.166 | 0.176 | 0.149 |
25 | 0.413 | 0.334 | 0.278 | 0.228 | 0.222 | 0.185 | 0.190 | 0.160 | 0.170 | 0.144 |
26 | 0.402 | 0.325 | 0.270 | 0.221 | 0.215 | 0.179 | 0.184 | 0.155 | 0.164 | 0.140 |
27 | 0.391 | 0.316 | 0.262 | 0.215 | 0.209 | 0.173 | 0.179 | 0.150 | 0.159 | 0.135 |
28 | 0.382 | 0.308 | 0.255 | 0.209 | 0.202 | 0.168 | 0.173 | 0.146 | 0.154 | 0.131 |
29 | 0.372 | 0.300 | 0.248 | 0.203 | 0.196 | 0.164 | 0.168 | 0.142 | 0.150 | 0.127 |
30 | 0.363 | 0.293 | 0.241 | 0.198 | 0.191 | 0.159 | 0.164 | 0.138 | 0.145 | 0.124 |
31 | 0.355 | 0.286 | 0.235 | 0.193 | 0.186 | 0.155 | 0.159 | 0.134 | 0.141 | 0.120 |
32 | 0.347 | 0.280 | 0.229 | 0.188 | 0.181 | 0.151 | 0.155 | 0.131 | 0.138 | 0.117 |
33 | 0.339 | 0.273 | 0.224 | 0.184 | 0.177 | 0.147 | 0.151 | 0.127 | 0.134 | 0.114 |
34 | 0.332 | 0.267 | 0.218 | 0.179 | 0.172 | 0.144 | 0.147 | 0.124 | 0.131 | 0.111 |
35 | 0.325 | 0.262 | 0.213 | 0.175 | 0.168 | 0.140 | 0.144 | 0.121 | 0.127 | 0.108 |
36 | 0.318 | 0.256 | 0.208 | 0.172 | 0.165 | 0.137 | 0.140 | 0.118 | 0.124 | 0.106 |
37 | 0.312 | 0.251 | 0.204 | 0.168 | 0.161 | 0.134 | 0.137 | 0.116 | 0.121 | 0.103 |
38 | 0.306 | 0.246 | 0.200 | 0.164 | 0.157 | 0.131 | 0.134 | 0.113 | 0.119 | 0.101 |
39 | 0.300 | 0.242 | 0.196 | 0.161 | 0.154 | 0.129 | 0.131 | 0.111 | 0.116 | 0.099 |
40 | 0.294 | 0.237 | 0.192 | 0.158 | 0.151 | 0.128 | 0.128 | 0.108 | 0.114 | 0.097 |
5.3.1.2.2 檢驗步驟
按以下步驟進行檢驗:
a) 檢驗假設:新法與原法無顯著性差別(μ=μ0)
b) 隨機配對,排序列表。見表10。
表9 各計算公式適用領域
名稱 | 公 式 | 適用領域 |
成對數據的比較(見5.3.1.2) | |犱-0|狋= 犛/槡狀 | 兩個實驗室、檢測人員、分析方法間的分析結果比對 |
兩樣本均值比較(見5.3.1.3) | |犡犛犡1-犡2 狋= 1-犡2|-犱 | 同一方法不同樣品,或同一樣品不同方法比對;貯存條件等的對比 |
樣本均值與總體均值比較(見5.3.1.4) | |犡- 狋= μ0|犛/槡狀 | 方法、儀器準確度檢驗,回收率檢驗 |
表10 新法與原法測定結果
序 號 | 原 法 狑m/10-6 | 新 法 狑m/10-6 | 犱 | 犱2 |
1 | 4.43 | 4.50 | -0.07 | 0.0049 |
2 | 4.02 | 4.27 | -0.25 | 0.0625 |
3 | 4.63 | 4.53 | 0.10 | 0.0100 |
4 | 4.58 | 4.30 | 0.28 | 0.0784 |
5 | 4.11 | 4.21 | -0.10 | 0.0100 |
6 | 4.21 | 4.10 | 0.11 | 0.0121 |
7 | 4.50 | 4.31 | 0.19 | 0.0361 |
8 | 4.30 | 4.52 | -0.22 | 0.0484 |
9 | 4.57 | 4.12 | 0.45 | 0.2025 |
狀=9 | Σ犱=0.49 | Σ犱=0.465 |
c) 按式(14)、式(15)和式(16)計算統計量
Σ犱 0.49 !!!!!!!!!!!!!(14)犱= = =0.0544狀 9
2 (Σ犱)2 (0.49)2
Σ犱- 0.465-
狀 9 !!!!!!!!(15)犛=槡 =槡=0.234狀-18
狘犱狘 0.0544 !!!!!!!!!!!!(16)狋= = =0.697犛/槡狀 0.0780
d) 自由度γ=狀-1=8,查狋值表(表22)犘(2),狋(0.05,8)=2.31。
e) 判定:0.697<2.31,狋<狋α,兩個方法差異不顯著,接受檢驗假設(μ=μ0)。
5.3.1.3 兩樣本均值的比較
兩個樣本的測定次數(狀)可以不相同。
5.3.1.3.1 計算公式:
按式(17)、式(18)和式(19)計算如下:
a) 合併標準差犛
2 (Σ犡1)2 2 (Σ犡2)2
Σ犡1- +Σ犡2-狀1 狀2
犛=!!!!!!!!!!
槡 狀1+狀2-2
(17) b) 兩樣本均值標準誤差犛犡1-犡2
1 2 犛 !!!!!!!!!!!!!!!(18)犛犡-犡 =
狀1狀2
槡狀1+狀2
c) 計算統計量狋
狋=狘犡!!!!!!!!!!!!!!!(19)
犛犡1-犡2
示例10:
同一樣品採用甲,乙兩種消解方法,甲法測定8次(狀1),乙法測定6次(狀2),分別測得兩組均值如表11。問兩種消解
方法,有無顯著性差別。
5.3.1.3.2 步驟:
比較步驟如下:
a) 檢驗假設:差異不顯著(μ=μ0);
b) 分別按式(20)、式(21)和式(22)計算統計量犛、犛犡1-犡2和狋;
合併標準差
(
2 Σ犡1)2 2 (Σ犡2)2
Σ犡1- +Σ犡2-
狀1 狀2 (20)犛= !!!!!!!!!!
槡 狀1+狀2-2 33.5814.39
144.96-+35.79-868+6-2
犛=槡=0.66
標準誤差 | ||
犛 | 0.66 |
犛犡1-犡2 = = =0.36!!!!!!!!!!!(21)狀1狀2 8×6槡狀1+狀2 槡8+6
狋=狘犡1-犡2狘=4.20-2.40=5.00!!!!!!!!!!(22)犛犡1-犡2 0.36
c 查狋值表犘(2)(表22),γ=狀1+狀2-2=12;狋α(0.05,12)=2.18;狋α(0.01,12)=3.06
d) 判定:5.00>3.06,狋>狋α(0.01),兩者差異顯著,拒絕接受檢驗假設。
表11 兩組測定值 單位為毫克每升
犡1 | 犡21 | 犡2 | 犡22 |
4.30 | 18.4900 | 2.32 | 5.3824 |
4.37 | 19.0969 | 2.34 | 5.4756 |
3.69 | 13.6161 | 1.97 | 3.8809 |
3.01 | 9.0601 | 1.79 | 3.2041 |
4.01 | 16.0801 | 2.87 | 8.2369 |
4.81 | 23.1361 | 3.10 | 9.6100 |
3.86 | 14.8996 | ||
5.53 | 30.5809 | ||
Σ犡1=33.58 犡1=4.20 狀1=8 | Σ犡1=144.96 | Σ犡2=14.39 犡2=2.40 狀2=6 | Σ犡2=35.79 |
5.3.1.4 樣本均值與總體均值比較
本方法適用於測定總體均值為已知的標準物質,用以驗證分析方法等。按式(23)計算統計量標準差犛,按式(24)計算標準誤差犛犡,按式(25)計算狋值。
犛=槡Σ(犡犻-犡)2 !!!!!!!!!!!!!!!(23)狀-1
犡 犛 !!!!!!!!!!!!!!!!!(24)犛=
槡狀
犡-!!!!!!!!!!!!!!!!!(25)狋=
犛/槡狀
示例11:
某一標準物質中含鎘的保證值狑m為12.24×10,選用分析方法B共重複測定8次,結果列於表12。問分析方法
B的測定結果與保證值有無顯著差別。
顯著差別檢驗步驟如下:
a) 檢驗假設:犡=μ0(雙側)表12 犅法測定結果
序 號 | 犡犻 | 犡犻2 |
1 | 12.24 | 149.817 |
2 | 11.48 | 131.790 |
3 | 12.15 | 147.622 |
4 | 12.40 | 153.760 |
5 | 12.71 | 161.544 |
6 | 11.56 | 133.633 |
7 | 12.34 | 152.275 |
8 | 11.93 | 142.324 |
Σ犡犻=96.81犡=12.10 | Σ犡犻=1172.8 |
b) 統計量計算
標準差 犛=槡1172.8-96.81/8=0.42
7
標準誤差 犛犡===0.148槡狀 槡8
狋值 狋=|犡-μ0|=|12.10-12.24|=0.946犛犡 0.148
c) 查狋值表犘(2) 狋α(0.05,7)=2.365
d) 統計推斷0.946<2.36,狋<狋0.05
e) 接受檢驗假設:用B法所測結果與保證值無顯著差異。
示例12:
回收率犘的檢驗:向海水樣品中添加一定量標準物質,加標形成的濃度為3.98mg/L。用B方法對此加標樣品重複測定10次,測定結果列表13。問方法B的回收率是否與100%的回收率無顯著性差異。
顯著性差異檢驗步驟如下:
a) 檢驗假設:μ≤100%,μ0=3.98mg/L。
b) 統計量計算 犛0.226
犚犛犇=×100%= ×100%=5.9%犡 3.858
回收率犘=×100%=×100%=96.93% μ0 3.980
狋=狘犘-μ狘=狘96.93%-100%|=1.65犚犛犇/槡狀 5.9%/槡10
c) 查狋值表犘(1)狋α(0.05,9)=1.83
d) 統計推斷 1.65<1.83,狋<狋α(0.05)
接受檢驗假設,B法的回收率與100%無顯著差異。
5.3.2 犉檢驗法
犉檢驗常用於兩組數據是否具有相同的精密度或方差的齊性檢驗,即檢驗在不同的分析條件下(不同的時間,空間,人員,設備,方法以及不同的反應條件等)所得兩組數據樣本是否來自一個方差為σ的總體。例如用於進行狋檢驗之前預測總體方差是否相等的檢驗,只有兩方差相等時方可進行狋檢驗。
進行犉檢驗時,首先分別按式(26)和式(27)計算兩組數據的樣本方差:
犛21=Σ(犡1-犡1)2 !!!!!!!!!!!!!!!(26)狀-1
犛2=(!!!!!!!!!!!!!!!(27)狀-1
再以兩個方差中較大者為分子,較小者為分母,按式(28)計算兩個方差的比值作為統計量—犉值:
犛(2)(犛1≥犛2)!!!!!!!!!!!!!!!(28)犉= 2 犛2
對於顯著性水平α,犛21和犛22屬於同一總體方差σ2的無偏估計這一假設的拒絕域為:
犛212>犉(α,1,2);犛2
示例13:
分別用犡1型和犡2型測汞儀,共測同一海水外控樣。犡1型測8次(狀1=8),犡2型測6次(狀2=6),測得汞的濃度值列表14,檢驗兩種儀器在α=0.10時的精密度是否相等。
表13 回收率測定結果單位為毫克每升
序 號 | 犡犻 | 犡犻2 |
1 | 4.12 | 16.974 |
2 | 3.65 | 13.322 |
3 | 3.79 | 14.364 |
4 | 4.16 | 17.305 |
5 | 3.60 | 12.960 |
6 | 4.07 | 16.564 |
7 | 3.69 | 13.616 |
8 | 4.10 | 16.810 |
9 | 3.73 | 13.912 |
10 | 3.67 | 13.468 |
Σ犡犻=38.58 犡=3.858 | Σ犡犻=149.3犛=0.266 |
序 號 | 犡1 | 犡2 |
1 | 2.43 | 2.81 |
2 | 2.36 | 2.86 |
3 | 2.45 | 2.53 |
4 | 2.64 | 2.33 |
5 | 2.35 | 2.65 |
6 | 2.38 | 2.58 |
7 | 2.61 | |
8 | 2.41 | |
犡1=2.454犛1=0.0124 | 犡2=2.627犛2=0.0376 |
表14 汞濃度測定值 單位為毫克每升
檢驗步驟如下:
a) 統計假設:兩種型號測汞儀所得結果的精密度相同;b) 計算統計量:2 Σ(犡1-犡1)0.08659
犛1== =0.0124狀-18-12 Σ(犡2-犡2)0.1881 犛2= = =0.0376
狀-1 6-1犛0.0376
犉= 2==3.03犛1 0.0124
c) 查表15或表16中的犉值(當顯著性水平犘=0.05時查表15;顯著性水平犘=0.01時查表
16),較大均方為犛2,其自由度γ=6-1=5;較小均方為犛1,其自由度γ=8-1=7。犉0.05(5,7)=
3.97;
d) 統計推斷 3.03<3.97,犉<犉0.05(5,7),接受檢驗假設:兩種型號測汞儀所測結果的精密度相等。
6 實驗室內部分析質量控制
6.1 分析方法驗證
本標準多數方法經過多家驗證,已給出檢出限,精密度,準確度等具體指標。但各指標常因分析條件的改變而變化,而且用於驗證的標準物質代表範圍有限,當遇有特殊組分的樣品,測定可能會受干擾。為此每個實驗室或分析人員在使用各方法和遇有特殊樣品時,都應進行方法驗證,並做出肯定的評價,方可用於樣品測定。
6.1.1 校準曲線的統計檢驗