UNIVERZITA PARDUBICE Fakulta chemicko-technologická, Katedra analytické chemie
Òkolní rok 2000/2001
LICENNÍ STUDIUM STATISTICKÉ ZPRACOVÁNÍ DAT PÌI MANAGEMENTU JAKOSTI
PÌ ÌEDM T:
2.2 Kalibrace a limity její pÍÍesnosti
Vypracoval: Ing. Adolf Goebel, Ph.D.
V PÍerov, 2. záÍí 2000
2.2.1 Lineární kalibrace Stanovení obsahu K2O v pigmentovém oxidu titaničitém Pro stanovení obsahu K2O v pigmentovém oxidu titaničitém metodou rentgenové fluorescenční analýzy bylo připraveno 7 standardních vzorků s odstupňovaným obsahem oxidu draselného. Koncentrace K2O ve standardech byla stanovena metodou atomové absorpční spektrometrie - metoda standardního přídavku bez korekce pozadí pro obsahy do 0,1 % K2O; pro obsahy nad 0,1 % K2O metoda kalibrační přímky, plamen vzduch-acetylen při vlnové délce λ = 766,5 nm. Výsledky stanovení pro kalibrační závislost jsou uvedeny v tabulce I. U jednotlivých standardů byla změřena intenita vrcholu draslíku za použití rentgenového fluorescenčního spektrometru Philips PW 1480. Vyhodnocení kalibrační závislosti bylo provedeno počítačovým programem ADSTAT, Trilobyte Pardubice metodou nejmenších čtverců. Tabulka I - Koncentrace K2O ve standardech Koncentrace K2O [%]
Intenzita vrcholu [kcp/s]
0,001
0,0343
0,045
0,7182
0,120
1,7556
0,200
2,9129
0,240
3,4641
0,450
6,2741
0,486
6,7943
2
Vyhodnocení I.
Regresní diagnostika
Zvolená strategie regresní analýzy: Omezení, P: Transformace: Váhy: Absolutní člen zahrnut:
1.10-34 Ne Ne Ano
Podmínky a kvantily pro statistické testy: Hladina významnosti, α: Počet bodů, n: Počet parametrů, m: Kvantil Studentova rozdělení t(1-α/2, n-m): Kvantil rozdělení χ2 (1-α, m):
0,050 7 2 2,571 5,991
Odhady parametrů a testy významnosti: Test H0: Bj = 0 vs. HA: BjU 0 Parametr
Odhad
Směrodatná odchylka
t-kritérium
hypotéza H0 je
B0
0,0897
0,0310
2,8915
Zamítnuta
B1
13,830
0,1104
125,31
Zamítnuta
Statistické charakteristiky regrese: Vícenásobný korelační koeficient, R: Koeficient determinace, R2: Predikovaný korelační koeficient, Rp2: Střední kvadratická chyba predikce, MEP: Akaikeho informační kritérium, AIC: Odhad reziduálního rozptylu, σ2 (e):
0,9998 0,9997 0,9997 0,0037 - 40,034 0,0295
Testování regresního tripletu (data + model + metoda): Fisher-Snedocorův test významnosti regrese,F: Tabulkový kvantil, F(1-α, m-1, n-m):
1,570.104 6,6079
Závěr: Navržený model je přijat jako významný
-1,1469.10-14
Scottovo kriterium multikolinearity, M: Závěr: Navržený model je korektní
3
Cook-Weisbergův test heteroskedasticity, Sf:
7,6027
Tabulkový kvantil, χ2(1-α, 1):
3,8415
Závěr: Rezidua vykazují heteroskedasticitu Jarque-Berraův test normality reziduí, L(e):
0,3700
Tabulkový kvantil, χ2(1-α,2):
5,9915
Závěr: Normalita je přijata
Waldův test autokorelace, Wa:
0,1188
Tabulkový kvantil, χ2(1-α, 1):
3,8415
Závěr: Rezidua nejsou autokorelována
Znaménkový test, Dt:
0,7882
Tabulkový kvantil, N(1-α/2):
1,6449
Závěr: Rezidua nevykazují trend Ze závěru testování plyne, že regresní model je použitelný pro kalibraci.
II.
Kalibrace
Parametry kalibrace: Test H0: Bj = 0 vs. HA: BjU 0 Parametr
Odhad
Směrodatná odchylka
t-kritérium
hypotéza H0 je
B0
0,0897
0,0310
2,8915
Zamítnuta
B1
13,830
0,1104
125,31
Zamítnuta
Tabulka II - Kalibrační meze Signál [kcp/s]
Koncentrace K2O [%]
Kritická úroveň,
yc: 0,169
xc: 0,0058
Limita detekce,
yd: 0,247
xd: 0,0114
Mez stanovitelnosti,
ys: 0,596
xs: 0,0366
4
Obr. 1
Tabulka III -Kalibrační tabulka Měřená hodnota [kcp/s]
Přímý odhad % K2O
0,6430
Konfidenční interval dolní mez
horní mez
0,040
0,029
0,051
2,2876
0,159
0,149
0,169
4,5410
0,322
0,312
0,332
Závěr: Stanovení obsahu draslíku v pigmentovém oxidu titaničitém má pro zamýšlené použití dostatečnou citlivost a nízkou limitu detekce. Metoda je použitelná pro účely mezioperační a výstupní kontroly výroby pigmentového oxidu titaničitého i pro účely výzkumu.
5
Příklad 2
Nelineární kalibrace
Stanovení p-dichlorbenzenu v chlorbenzenu Stanovení p-dichlorbenzenu v chlorbenzenu se provádí metodou plynové chromatografie na vnitřní standard toluen. Proměřením kalibračních roztoků byla získána závislost poměru ploch p-dichlorbenzenu a vnitřního standardu na procentickém obsahu p-dichlorbenzenu . Proměřením dvou vzorků chlorbenzenu byly získány odezvy 0,024 a 0,048. Úkolem je posoudit vhodný tvar kalibrační závislosti a zjistit obsah p-dichlorbenzenu v obou vzorcích. Tabulka I - Koncentrace p-dichlorbenzenu v chlorbenzenu, standardy Obsah p-dichlorbenzenu [%]
Naměřená odezva
0,01
0,013
0,02
0,027
0,03
0,040
0,04
0,048
0,05
0,053
0,08
0,070
0,10
0,090
0,15
0,120
0,20
0,150
0,30
0,220
0,40
0,270
0,50
0,320
6
Vyhodnocení I.
Lineární kalibrace
I.3
Regresní diagnostika
Zvolená strategie regresní analýzy: Omezení, P: Transformace: Váhy: Absolutní člen zahrnut:
1.10-34 Ne Ne Ano
Podmínky a kvantily pro statistické testy: Hladina významnosti, α: Počet bodů, n: Počet parametrů, m: Kvantil Studentova rozdělení t(1-α/2, n-m): Kvantil rozdělení χ2 (1-α, m):
0,050 12 2 2,228 5,991
Odhady parametrů a testy významnosti: Test H0: Bj = 0 vs. HA: BjU 0 Parametr
Odhad
Směrodatná odchylka
t-kritérium
hypotéza H0 je
B0
2,0905.10-2
3,2978.10-3
6,3392
Zamítnuta
B1
6,2241.10-3
1,4944.10-2
41,651
Zamítnuta
Statistické charakteristiky regrese: Vícenásobný korelační koeficient, R: Koeficient determinace, R2: Predikovaný korelační koeficient, Rp2: Střední kvadratická chyba predikce, MEP: Akaikeho informační kritérium, AIC: Odhad reziduálního rozptylu, σ2 (e):
0,9971 0,9943 0,9945 1,0378.10-4 -113,93 6,4731.10-5
Testování regresního tripletu (data + model + metoda): Fisher-Snedocorův test významnosti regrese,F:
1734,8
Tabulkový kvantil, F(1-α, m-1, n-m):
4,9646
Závěr: Navržený model je přijat jako významný
-4,5873.10-16
Scottovo kriterium multikolinearity, M: Závěr: Navržený model je korektní
7
Cook-Weisbergův test heteroskedasticity, Sf:
26,152
Tabulkový kvantil, χ2(1-α, 1):
3,842
Závěr: Rezidua vykazují heteroskedasticitu Jarque-Berraův test normality reziduí, L(e):
0,5720
Tabulkový kvantil, χ2(1-α,2):
5,992
Závěr: Normalita je přijata
Waldův test autokorelace, Wa:
2,4896
Tabulkový kvantil, χ2(1-α, 1):
3,842
Závěr: Rezidua jsou autokorelována
Znaménkový test, Dt:
-0,5749
Tabulkový kvantil, N(1-α/2):
1,645
Závěr: Rezidua nevykazují trend
II.
Nelineární kalibrace Další možností je použití spline pro danou kalibrační závislost. Postupně jsou vyhodnoceny lineární, kvadratický a kubický spline vždy s jedním, dvěmi a třemi uzlovými body - tabulka II. Jako výsledek hodnocení je srovnávána limita detekce koncentrace x a odhad směrodatné odchylky reziduí σ . Za nejlepší kalibrační model se považuje takový, který má nejnižší limitu detekce koncentrace x a odhad směrodatné odchylky reziduí σ při nejnižším počtu uzlových bodů. D
e
D
e
Tabulka II - Vyhodnocení kalibrační závislosti pomocí spline a) lineární spline Parametry uzlové body
lineární spline 1
2
3
x [%]
1,423.10-2
1,615.10-2
1,827.10-2
σ
4,662.10-3
4,732.10-3.
4,986.10-3
D
e
8
b) kvadratický spline Parametry
kvadratický spline
uzlové body
1
2
3
x [%]
1,612.10-2
1,827.10-2
1,490.10-2
σ
4,493.10-3
4,698.10-3
3,780.10-3
D
e
c) kubický spline Parametry
kubický spline
uzlové body
1
2
3
x [%]
1,831.10-2
1,331.10-2
1,579.10-2
σ
4,587.10-3
3,424.10-3
3,622.10-3
D
e
Z tabulky II c) plyne použití kubického spline se dvěma uzlovými body jako nejlepšího kalibračního modelu. Kalibrační rovnice má tvar: Y = a.x3 + bx2 + cx + d
pro k[i-1] < x k[i]
Koeficienty kalibrační rovnice jsou uvedeny v tabulce III a graf rovnice je uveden na obr.1.
Tabulka III - Koeficienty kalibrační rovnice bod k[i]
a
b
c
d
0,173
10,561
-4,245
1,154
5,124.10-3
0,337
-6,431
4,593
-0,378
0,0936
0,500
9,829
-11,830
5,152
-0,527
9
Tabulka IV Kalibrační tabulka Měřená hodnota
Inverzní odhad koncentrace [%]
Konfidenční interval koncentrace [%]
yexp[i]
xvyp[i]
dolní mez Llxvyp[i]
horní mez Luxvyp[i]
0,024
0,017
0,012
0,022
0,048
0,043
0,039
0,048
Obr. 1
Závěr Ze statistické analýzy různých kalibračních modelů se jeví jako nejlepší model kubický spline s dvěma uzlovými body. U tohoto modelu je limita detekce xD = 0,0133 % pdichlorbenzenu. Vzorku se signálem 0,024 je možné přiřadit inverzní odhad koncentrace 0,017 % [0,012;0,022], vzorku se signálem 0,048 odhad 0,043 [0,039;0,048].
10
Tabulka III Kalibrační tabulka Měřená hodnota [kcp/s]
Přímý odhad % ZnO
1,789
Konfidenční interval dolní mez
horní mez
0,074
0,058
0,089
5,9407
0,246
0,230
0,261
11,662
0,483
0,467
0,498
Závěr: Stanovení obsahu zinku v pigmentovém oxidu titaničitém má dostatečnou citlivost a nízkou limitu detekce. Metoda je použitelná pro účely mezioperační a výstupní kontroly výroby pigmentového oxidu titaničitého.
11
