UNIVERZITA PARDUBICE FAKULTA CHEMICKO-TECHNOLOGICKÁ
SEMESTRÁLNÍ PRÁCE Kalibrace a limity její přesnosti
Precheza a.s. Přerov 2005
Ing. Miroslav Štrajt
1. Zadání
Úloha 1. Lineární kalibrace: u přímkové kalibrační závislosti vyčíslete bodový a intervalový odhad pro tři neznámé koncentrace a současně vyčíslete i limity přesnosti. Úloha 2. Nelineární kalibrace: u nelineární (křivkové) kalibrační závislosti vyčíslete bodový a intervalový odhad pro tři neznámé koncentrace a současně vyčíslete i limity přesnosti. Úloha 3. Rozlišení mezi lineární a nelineární kalibrací: u experimentální kalibrační závislosti rozhodněte o počtu uzlových bodů, typu splinové závislosti a současně vyčíslete bodový a intervalový odhad pro tři neznámé koncentrace a současně i limity přesnosti. 2. Zpracované úlohy 2.1. Lineární kalibrace 2.1.1. Zadání příkladu U suspenze TiO2 je měřena koncentrace suspendovaných částic pomocí nefelometru. Proložte naměřené údaje vhodnou kalibrační křivkou a proveďte stanovení koncentrace z křivky pro hodnoty rozptylu:2100, 3200, 5200 FNU (formaline nefelometric unit). Data: (software Qc-Expert 2.5) c (g/dm3) FNU
0 1,8
0,005 112
0,0125 269
c (g/dm3) FNU
0,25 5481
0,3 6632
0,35 7956
0,025 540
0,05 1070
0,1 2000
0,125 2834
0,2 4538
0,25 5481
0,3 6632
0,35 7956
2.1.2. Řešení příkladu Z charakteru dat je zřejmé, že jde o lineární závislost. Pokusíme se naměřené hodnoty proložit pomocí metody nejmenších čtverců. Před tím provedeme ověření předpokladů použití této metody a testování významnosti parametrů modelu. 2.1.2.1. Předběžný průzkum dat Pomocí metody nejmenších čtverců byly stanoveny parametry regresního modelu a jeho základní statistické charakteristiky (viz. tab. č.1). tabulka 1: Parametry modelu se statistickým testem Proměnná Odhad Směr.odchylka Závěr Úsek -47,0622 43,55719553 Nevýznamný Směrnice 22507,73 207,1584829 Významný
Pravděpodobnost Spodní mez Horní mez 0,301171 -141,965 47,84082 0 22056,37 22959,09
Ve výše uvedené tabulce je testována hypotéza, zda se odhad hodnoty úseku, resp. směrnice statisticky významně odlišuje od nuly. Součásti tabulky je 95% interval spolehlivosti a vzhledem k tomu, že v případě úseku obsahuje nulu, je úsek nevýznamný. To potvrzuje i hodnota P, která v tomto případě vyšla vyšší než 0,05.
2
V tabulce číslo 2 je proveden pro doplnění test významnosti modelu pomocí analýzy rozptylu. tabulka 2: ANOVA test významnosti modelu Zdroj variability Regrese Reziduální variabilita Celková variabilita
-
St. volnosti SS MS F krit. 1 1,19E+08 1,19E+08 11804,78 12 121174,9 10097,91 13 1,19E+08
P 2,48E-19
SS suma čtverců a MS je příslušná suma čtverců vydělená stupněm volnosti
Hodnota testovacího kriteria F krit. je 11804,78 a je větši než hodnota kvantilu F (1-alfa, m-1, nm), která je 4,7472. Zvolený model je významný. V tabulce je to dokázáno hodnotou P (pravděpodobnost), která je menší než 0,05. tabulka 3:Statistické charakteristiky regrese
Vícenásobný korelační koeficient R Koeficient determinace R2 Predikovaný korelační koeficient Rp Střední kvadratická chyba predikce MEP : Akaikeho informační kritérium :
0,999492 0,998984 0,997264 11665,82 130,9231
Vhodnost zvoleného modelu potvrzují i vysoké hodnoty v tabulce č.3. Koeficient determinace je 0,9989, což znamená že cca 99,9% bodu leží na kalibrační křivce. Dále provedeme soubor testů, ve kterých ověříme, zda jsou splněny předpoklady použití metody nejmenších čtverců. Fisher-Snedecorův test významnosti modelu Hodnota kritéria F : 11804,78411 Kvantil F (1-alfa, m-1, n-m) : 4,747225347 Pravděpodobnost : 2,475100229E-019 Závěr : Model je významný Scottovo kritérium multikolinearity Hodnota kritéria SC : 0,3332893823 Závěr : Model vykazuje multikolinearitu! Cook-Weisbergův test heteroskedasticity Hodnota kritéria CW : 0,5654330198 Kvantil Chi^2(1-alfa,1) : 3,841458829 Pravděpodobnost : 0,4520794415 Závěr : Rezidua vykazují homoskedasticitu. Jarque-Berrův test normality Hodnota kritéria JB : 0,8671237868 Kvantil Chi^2(1-alfa,2) : 5,991464547 Pravděpodobnost : 0,6481961723 Závěr : Rezidua mají normální rozdělení.
3
Waldův test autokorelace Hodnota kritéria WA : 0,5914480413 Kvantil Chi^2(1-alfa,1) : 3,841458829 Pravděpodobnost : 0,4418597158 Závěr : Autokorelace je nevýznamná Durbin-Watsonův test autokorelace Hodnota kritéria DW : -1 Kritické hodnoty DW 0 Závěr : Negativní autokorelace reziduí není prokázána. Znaménkový test reziduí Hodnota kritéria Sg : 0,2031885063 Kvantil N(1-alfa/2) : 1,959963999 Pravděpodobnost : 0,8389876961 Závěr : V reziduích není trend. Model vykazuje multikolinaritu. Multikolinearita sama o sobě není porušením předpokladů použití metody nejmenších čtverců. Vede pouze při určování parametrů modelu (směrnice a úsek) k vysokým hodnotám rozptylu. V tomto případě ale nedosahuje kritické hranice. Závěrem tedy je, že použití metody nejmenších čtverců vhodné. Dále provedeme identifikaci případných odlehlých bodů. Nejprve pomocí hodnot rezidui uvedených v následující tabulce. tabulka 4: Analýza reziduí Index 1 2 3 4 5 6 7 8 9 10 11 12 13 14
Standardní Jackknife 0,539569891 0,5229819 0,511567105 0,4952179 0,379419741 0,3654655 0,263866655 0,2533692 -0,088720063 -0,0849709 -2,124722582 -2,5756486 0,700703243 0,6850328 0,864824767 0,8550826 -1,038135391 -1,0418226 -0,789924705 -0,7767601 1,40890341 1,476564 -1,038135391 -1,0418226 -0,789924705 -0,7767601 1,40890341 1,476564
Predikované 60,1664309 56,8020964 41,8743313 28,8513118 -9,5481368 -223,78 73,3468379 90,4315317 -110,07042 -86,010234 159,900432 -110,07042 -86,010234 159,900432
Diag(Hii) 0,187883 0,180955 0,17096 0,155364 0,128158 0,089681 0,078412 0,076476 0,101748 0,148269 0,216039 0,101748 0,148269 0,216039
Diag(H*ii) Cookova vzdál. 0,207586 0,062414807 0,198817 0,05651116 0,180906 0,039120866 0,160265 0,024268148 0,12873 -0,006520769 -0,104660105 0,432147 0,116119 0,029809041 0,134037 0,03580784 0,18242 -0,058796492 0,192557 -0,068754706 0,345719 0,194127924 0,18242 -0,058796492 0,192557 -0,068754706 0,345719 0,194127924
Z hodnot Jackknife reziduí je vidět, že výběr neobsahuje odlehlé body. Je indikována pouze přítomnost významného bodu (č.6). To potvrzují i níže uvedené grafy. Na obrázku 1 je vidět přítomnost jednoho významného nikoliv odlehlého bodu (bod.č.6). Obr. č.3 indukuje přítomnost podezřelého bodu č.6. Bod č.6 je podezřely spolu s bodem č.11 i na obr. 4. Mezi grafy je i Q-Q graf reziduí- ten mimo potvrzeni splnění předpokladů normality reziduí indikuje rovněž přítomnost jednoho odlehlého bodu (bod č.6).
4
obrázek 1: Graf predikce
obrázek 2: L-R graf
Predikce reziduí - Sheet1
E pred
E2norm
200
L-R graf - Sheet1
1.10 1.00 0.90
100
0.80 0.70
-0
0.60 0.50
-100
0.40 0.30
-200
0.20
-300 -300
0.10
E
-200
-100
-0
100
Hat-diagonal
-0.00 0.00 0.10 0.20 0.30 0.40 0.50 0.60 0.70 0.80 0.90 1.00 1.10
200
obrázek 3: MCulloh-Meterův graf
obrázek 4:Pregibonův graf
McCulloh-Meterův graf - Sheet1
E std
E2 norm
8
0.60
6
0.50
4
Pregibonův graf - Sheet1
0.40
2
6
0.30
11 14
12 9
0
0.20
-2
0.10
-4 LN(Hat-diagonal)n
-6 -3.4 -3.2 -3.0 -2.8 -2.6 -2.4 -2.2 -2.0 -1.8 -1.6 -1.4
0.00 0.00
Hat-diagonal
0.10
0.20
0.30
obrázek 5: Graf normality rezidui Q-rezidua
Q-Q graf reziduí - Sheet1
200 100 -0 -100 -200 -300 -2.0
Q-teor
-1.0
0.0
1.0
2.0
Předpoklady použití metody nejmenších čtverců jsou splněny. Výběr neobsahuje odlehlé body. Úsek vychází statisticky nevýznamný.
2.1.2.2. Vlastní kalibrace Jako vhodný kalibrační vztah se na základě výše uvedených diagnostik jeví přímka s nulovým úsekem. Kalibrační rovnice má tvar: y=22331,51(±128,55)x, kde y je signál (FNU) a x je měřená hodnota (koncentrace), v závorce je uvedena hodnota směrodatné odchylky.
5
tabulka 5:Statistické charakteristiky regrese u zpřesněného modelu Vícenásobný korelační koeficient R Koeficient determinace R2 Predikovaný korelační koeficient Rp Střední kvadratická chyba predikce MEP Akaikeho informační kritérium
0,999443 0,998886 0,997226 11830,06 130,2228
Pro úplnost uvádím výsledky testování regresního tripletu u zpřesněného modelu. Fisher-Snedecorův test významnosti modelu Hodnota kritéria F : 11653,54479 Kvantil F (1-alfa, m-1, n-m) : 4,667192732 Pravděpodobnost : 1,387847358E-020 Závěr : Model je významný Cook-Weisbergův test heteroskedasticity Hodnota kritéria CW : 0,8684316812 Kvantil Chi^2(1-alfa,1) : 3,841458829 Pravděpodobnost : 0,3513898517 Závěr : Rezidua vykazují homoskedasticitu. Jarque-Berrův test normality Hodnota kritéria JB : 1,29422329 Kvantil Chi^2(1-alfa,2) : 5,991464547 Pravděpodobnost : 0,52355581 Závěr : Rezidua mají normální rozdělení. Waldův test autokorelace Hodnota kritéria WA : 0,3824124053 Kvantil Chi^2(1-alfa,1) : 3,841458829 Pravděpodobnost : 0,5363149773 Závěr : Autokorelace je nevýznamná Durbin-Watsonův test autokorelace Hodnota kritéria DW : -1 Kritické hodnoty DW 0 2 Závěr : Negativní autokorelace reziduí není prokázána. Znaménkový test reziduí Hodnota kritéria Sg : 0,2031885063 Kvantil N(1-alfa/2) : 1,959963999 Pravděpodobnost : 0,8389876961 Závěr : V reziduích není trend. V následující tabulce č.6 jsou uvedeny hodnoty kalibračních mezí. Kde Y je signál a X je měřená hodnota (koncentrace). Indexy mají následující význam- c-kritická úroveň (co je pod ní zaniká v šumu měření), d označuje limitu detekce (hodnota Xd udává minimální koncentraci, kterou lze ještě s pravděpodobnosti 1-α odlišit od nulové hodnoty). Z hodnot v tabulce je patrné, že je možné pro naměřené hodnoty rozptylu provést určení koncentrace.
6
tabulka 6: Kalibrační meze Metoda Metoda podle ISO 11843-2 Přímá metoda analytu Přímá metoda signálu, IUPAC Kombinovaná metoda Ebel,Kamm
Yc 111,1683 81,88559 81,88559 79,19492
Yd 146,4122 205,4886 208,0858 205,4521
Yq 269,3988 326,5838 331,6346 326,548
Xc 0,00703 0,005729 0,005729 0,005609
Xd 0,008596 0,011221 0,011336 0,011219
Přistupme tedy k určení koncentrací. V tabulce č.7 jsou uvedeny jejich hodnoty spolu s příslušnými intervalovými odhady. tabulka 7:Kalibrační tabulka (95% intervaly spolehlivosti) Číslo vzorku Zpětný odhad Spodní mez Horní mez Naměřené hodnoty 1 0,095392201 0,091321934 0,09935824 2100 2 0,144264295 0,140667462 0,147829518 3200 3 0,233122645 0,22918742 0,237158301 5200 obrázek 6: Kalibrační křivka Regresní křivka - Sheet1
FNU
8000 7000 6000 5000 4000 3000 2000 1000 0 0.00
c (g/dm3)
0.10
0.20
0.30
0.40
2.1.3. Závěr Jde o lineární závislost. Byly splněny předpoklady použití metody nejmenších čtverců. Výběr neobsahuje odlehlé body a všechny naměřené hodnoty leží nad hodnotami kalibračních mezí. Určené koncentrace jsou uvedeny v tabulce č.7 2.2. Nelineární kalibrace 2.2.1. Zadání příkladu Byly naměřeny následující data: X Y
2,8 96,3
9,7 229,9
17,3 347,6
27,8 513,4
X Y
65,6 828,9
75 844,9
80,4 844,9
88,4 855,6
36,9 625,7
43,5 711,2
53,7 764,7
Naměřené hodnoty mají jasně nelineární charakter. Proveďte nelineární kalibraci a určete hodnoty veličiny X pro tyto tři úrovně signálu Y:300, 450, 710. Software: Qc-expert 2.5
7
2.2.2. Vlastní kalibrace Jako nejvýhodnější se jeví kvadratický model popsaný rovnicí y=a.x2+b.x+c, kde a, b a c jsou konstanty modelu. Jejich hodnoty s 95% intervaly spolehlivosti jsou uvedeny v následující tabulce: tabulka 8:Parametry kvadratického modelu Parametr c b a
Odhad Sm. odchylka Spodní mez Horní mez 38,91113 8,8426547 18,5199272 59,30232383 20,71041 0,4653154 19,6373882 21,78342688 -0,13144 0,0049389 0,14283204 0,120053731
Z tabulky č.8 je patrné,že jde o dobré odhady vzhledem k nízkým hodnotám směrodatných odchylek. Intervalový odhad úseku neobsahuje nulu a tedy úsek je významný. Dále byly určeny hodnoty kalibračních mezí, které vypovídají o přesnosti měření a vhodnosti zvoleného modelu. tabulka 9: Kalibrační meze Kritická úroveň Limita detekce
67,83827021 Xc: 93,48531682 Xd:
Yc: Yd:
1,409350618 2,680718517
Z výše uvedených hodnot je patrné, že je možné provést určení hodnot pro zadané úrovně signálu. Dále uvádím kalibrační tabulku, ve které bylo provedeny nepřímé odhady x pro tři úrovně signálu Y. Součástí tabulky jsou 95% intervaly spolehlivosti. tabulka 10: Kalibrační tabulka Číslo vzorku
Signál 1 2 3
300 450 710
Zpětný odhad Spodní mez Horní mez 13,81857325 12,84560608 14,74935301 23,29282931 22,33020145 24,27511756 45,60130368 43,76216142 47,54913333
Obrázek 7: Kalibrační křivka Kalibrační závislost - Sheet1
Y
900 800 700 600 500 400 300 200 100 X
0 0
10
20
30
40
50
60
70
80
90
2.2.3. Závěr Byl zvolen kalibrační model y=38,9(±8,84)-0,1314(±0,005).x2+20,71(±0,465).x. V závorce jsou uvedeny sm. odchylky. Pro úrovně signálu 300, 450 a 710 byly určené příslušné hodnoty x, které jsou uvedeny v tabulce č.10.. 8
2.3. Rozlišení mezi lineární a nelineární kalibrací 2.3.1. Zadání příkladu Na kontrolní filtraci na provoze Titanové běloby bylo provedeno proměření závislosti mezi výškou hladiny v produkčním žlabu kalolisů a průtokem titanového roztoku (viz. tabulka níže). Proložte naměřené body pomocí vhodné kalibrační závislosti a v případě nelinearity naměřených dat proveďte volbu optimálního typu splinu a v hodného počtu uzlových bodů. Data: Hladina (cm) Průtok (m3/h)
5,000 7
Hladina (cm) Průtok (m3/h)
6,000 8
11,220 22
7,250 10
11,610 24
8,305 12
9,110 14
9,805 16
10,305 18
10,780 20
11,944 26
Software: ADSTAT 1.25 2.3.2. Řešení příkladu Z charakteru dat je zřejmé, že se nejedná o lineární závislost. To názorně potvrzuje uvedeny graf reziduí (viz. obr.8). Na obr.č.8 je dobře patrný významný trend v reziduích. Nelineární charakter dat dokresluje i prosté zobrazení naměřených bodu na obr.9. Obrázek 8: Graf reziduí
Obrázek 9: Závislost průtoku tit. roztoku
25 průtok (m 3/h)
R ez id u a
30
3 2 1 0 -1 -2 -3
20 15 10 5
0
5
10
15
Hladina (cm)
0 4
6
8
10
12
14
hladina (cm)
V další fázi řešení provedeme rozhodnutí o tom zda použijeme při kalibraci lineární, kvadratický či kubický spline určíme optimální počet uzlových bodů. Za nejlepší kalibrační model se považuje takový, který má nejnižší limitu detekce koncentrace a odhad směrodatné odchylky reziduí při nejnižším počtu uzlových bodů.
a) lineární spline parametry uzlové body xc σe
lineární spline 1 2 3 3,750 2,655 3,3757 0,57863 0,25878 0,19732
9
b)kvadratický spline parametry uzlové body xD σe
kvadratický spline 1 2 3 8,0024 10,217 6,4145 0,080569 0,08875 0,075817
c) kubický spline parametry kubický spline uzlové body 1 2 3 xD 15,084 9,213 0,08676 0,07086 0,07969 σ(e) Na základě výše uvedených údajů se jeví jako nejvýhodnější model použití kvadratického splinu s jedním uzlovým bodem.
Kalibrační rovnice má následující tvar: y=a x2+b x+c
pro k[i-1] ≤x ≤ k[i]
Koeficienty rovnice jsou uvedeny v tabulce č.11. V tabulce č.12 jsou uvedeny hodnoty kalibračních mezí. V tabulce č.13 je uveden inverzní odhad pro hodnoty 9, 10 a 11 spolu s příslušnými intervalovými odhady. Tabulka 11:Hodnoty koeficientů kalibrační rovnice
bod k[i] 8,472 11,944
a 0,16902 0,51086
b -0,72811 -6,5202
c 6,3727 30,908
Reziduální součet čtverců, RSC 0,04544 Průměr absolutních hodnot reziduí, Me 0,05648 Průměr relativních reziduí, Mer[%] 0,406 2 Odhad reziduálního rozptylu, s (e) 0,006491 Odhad směrodatné odchylky reziduí, s(e) 0,080569 Tabulka 12:Hodnoty kalibračních mezí Kritická úroveň Limita detekce
yc: yd:
8,533547 xc: 8,656854 xd:
6,328039 6,414529
Tabulka 13:Kalibrační tabulka
Měřená hodnota yexp [i]
Inverzní odhad koncentrace xvyp [i]
9 10 11
6,646461 7,262658 7,812142
Konfidenční interval dolní mez Llxvyp[i] horní mez Luxvyp[i] 6,562115 7,184305 7,746743
6,73155 7,339218 7,874532
10
2.3.3. Závěr Na základě provedených statistických analýz se jako nejvhodnější model jeví kubický spline s jedním uzlovým bodem. U tohoto modelu je limita detekce 6,41 cm výšky hladiny titanového roztoku. Byl proveden inverzní odhad pro tři různé hodnoty určení intervalů spolehlivosti, viz. tabulka č.10
11
Obsah 1. Zadání..................................................................................................................................... 2 2. Zpracované úlohy.................................................................................................................. 2 2.1. Lineární kalibrace ......................................................................................................... 2 2.1.1. Zadání příkladu..................................................................................................... 2 2.1.2. Řešení příkladu...................................................................................................... 2 2.1.2.1. Předběžný průzkum dat ............................................................................... 2 2.1.2.2. Vlastní kalibrace............................................................................................ 5 2.1.3. Závěr....................................................................................................................... 7 2.2. Nelineární kalibrace...................................................................................................... 7 2.2.1. Zadání příkladu..................................................................................................... 7 2.2.2. Vlastní kalibrace.................................................................................................... 8 2.2.3. Závěr....................................................................................................................... 8 2.3. Rozlišení mezi lineární a nelineární kalibrací ............................................................ 9 2.3.1. Zadání příkladu..................................................................................................... 9 2.3.2. Řešení příkladu...................................................................................................... 9 2.3.3. Závěr..................................................................................................................... 11
12
