KALIBRACE A LIMITY JEJÍ PŘESNOSTI 2015

UNIVERZITA PARDUBICE Fakulta chemicko-technologická Katedra analytické chemie Nám. Čs. Legií 565, 532 10 Pardubice

15. licenční studium

INTERAKTIVNÍ STATISTICKÁ ANALÝZA DAT

Semestrální práce

KALIBRACE A LIMITY JEJÍ PŘESNOSTI 2015

Vedoucí studia a odborný garant: Prof. RNDr. Milan Meloun, DrSc. Vyučující: Prof. RNDr. Milan Meloun, DrSc.

Prosinec 2015

Autor práce: Mgr. Veronika Pilařová

OBSAH ÚLOHA 1: LINEÁRNÍ KALIBRACE ............................................................................................................. 3 Zadání .................................................................................................................................................. 3 Data ..................................................................................................................................................... 3 Program............................................................................................................................................... 3 Řešení .................................................................................................................................................. 3 Závěr .................................................................................................................................................... 9 ÚLOHA 2: NELINEÁRNÍ KALIBRACE....................................................................................................... 10 Zadání ................................................................................................................................................ 10 Data ................................................................................................................................................... 10 Program............................................................................................................................................. 10 Řešení ................................................................................................................................................ 10 Závěr .................................................................................................................................................. 16 ÚLOHA 3: ROZLIŠENÍ MEZI LINEÁRNÍ A NELINEÁRNÍ KALLIBRACÍ ....................................................... 17 Zadání ................................................................................................................................................ 17 Data ................................................................................................................................................... 17 Program............................................................................................................................................. 17 Řešení ................................................................................................................................................ 17 Závěr .................................................................................................................................................. 21

ÚLOHA 1: LINEÁRNÍ KALIBRACE Zadání U pacientů s podezřením na nízkou hladinu vitaminu E, velmi důležitého antioxidantu, jehož nedostatek může zvýšit riziko nádorových onemocnění či aterosklerózy, byla změřena hladina nejvíce biologicky aktivního isomeru tohoto vitamínu v séru (α-tokoferolu) metodou SFC-MS. Pro kvantitativní stanovení bylo nutné změřit řadu kalibračních roztoků o různé koncentraci. Koncentrace α-tokoferolu je vyjádřena v µg/ml lidského séra. U pěti vzorků pacientů určete koncentraci α-tokoferolu v séru (odezva – plocha píku):

Data Vzorek č. K1 K2 K3 K4 K5 K6 K7 K8 K9 Pacient č. 1 Pacient č. 2 Pacient č. 3 Pacient č. 4 Pacient č. 5

Koncentrace α-tokoferolu [µg/ml] 0.001 0.005 0.01 0.05 0.1 0.5 1 5 10 ? ? ? ? ?

Plocha píku 1645 15194 26819 116251 267778 1375631 2689384 13353438 25757948 1008702 87904 345290 29563 46534

Program QC.Expert 3.3 – Linerární regrese QC.Expert 3.3 - Kalibrace

Řešení Regresní diagnostika dat: Návrh modelu: Použijeme lineární regresní model y = β0 + β1x, kde x odpovídá koncentraci α-tokoferolu a y ploše píku zmíněného isomeru. Odhad parametrů a testy významnosti: Metodou nejmenších čtverců byly určeny odhady parametrů β0 a β1 na hladině významnosti 0.05. Odhady parametrů Proměnná Odhad Směr.Odch. Závěr Pravděpodobnost Spodní mez Horní mez β0 50281,06918 61165,99743 Nevýznamný 0,4381522965 -94353,53171 194915,6701 β1 2589197,071 16330,29041 Významný 1,048050535E-013 2550582,07 2627812,071

Absolutní člen lineárního regresního modelu je na základě testu intervalem spolehlivosti vyhodnocen jako nevýznamný, neboť interval vymezený horní a spodní mezí obsahuje 0, hodnota p-testu je vyšší než zadaná hladina významnosti 0,05. Hodnota směrnice je vyhodnocena jako významná, 0 neleží v intervalu spolehlivosti a p-hodnota je nižší než zadaná hladina významnosti 0,05.

Regresní křivka - Sheet1

y - plocha píku

3.0E07

2.0E07

1.0E07

0.0E07

x - koncentrace

-1.0E07 0

1

2

3

4

5

6

7

8

9

10

Testování vlivných bodů pomocí diagnostických grafů: Z uvedených grafů je patrné, že v datech nalezneme 2 vlivné body – bod 8 a 9. Z Pregibonova grafu vyplývá, že bod 8 je považován ze vlivný bod (pod červenou linkou) a bod 9 za velmi vlivný bod (na červené lince). Williamsův graf ukazuje, že bod 8 je bodem vybočujícím (nad vodorovnou linkou), bod 9 silně vlivným vybočujícím extrémem (nad vodorovnou a za svislou linkou). McCulloh-Meterův graf označuje bod 8 za vlivný (nad červenou linkou) a bod 9 za silně vlivný (nad červenou a za svislou linkou). L-R graf označuje bod 8 za vlivný (v oblasti křivek zobrazujících sílu vlivu) a bod 9 za silně vlivný (na linii nad hyperbolickými křivkami).

8 8

9

9

9

8 8 9

Grafická analýza ukazuje, že body 8 a 9 jsou odlehlé a je třeba je vyloučit a model opravit. Kritika modelu a metody: Statistické testy: Fisher-Snedecorův test významnosti Hodnota kritéria F: 25138,67584 Kvantil F (1-alfa, m-1, n-m): 5,591447851 Pravděpodobnost: 1,047612396E-013 Závěr: Model je významný Scottovo kritérium multikolinearity Hodnota kritéria SC: 0,3333213863 Závěr: Model vykazuje multikolinearitu! Cook-Weisbergův test heteroskedasticity Hodnota kritéria CW: 3,432982418 Kvantil Chi^2(1-alfa,1): 3,841458829 Pravděpodobnost: 0,06390659693 Závěr: Rezidua vykazují homoskedasticitu. Jarque-Berrův test normality Hodnota kritéria JB: 5,029772765 Kvantil Chi^2(1-alfa,2): 5,991464547 Pravděpodobnost: 0,08087210018

Závěr: Rezidua mají normální rozdělení. Waldův test autokorelace Hodnota kritéria WA: 0,3101413713 Kvantil Chi^2(1-alfa,1): 3,841458829 Pravděpodobnost: 0,5775934472 Závěr: Autokorelace je nevýznamná Durbin-Watsonův test autokorelace Hodnota kritéria DW: -1 Kritické hodnoty DW 0 2 Závěr: Negativní autokorelace reziduí není prokázána. Znaménkový test reziduí Hodnota kritéria Sg: 1,224744871 Kvantil N(1-alfa/2): 1,959963999 Pravděpodobnost: 0,2206713619 Závěr: V reziduích není trend.

Základní statistické charakteristiky: Vícenásobný korelační koeficient R (optimálně co nejblíže 1): 0,9998608014 Koeficient determinace R2 (optimálně co nejblíže 1): 0,9997216221 Predikovaný korelační koeficient Rp(optimálně co nejblíže 1): 0,9964333811 Střední kvadratická chyba predikce MEP (optimálně co nejnižší číslo): 1,268748521E+011 Akaikeho informační kritérium (optimálně co nejnižší číslo): 217,3749475

Vysoká hodnota vícenásobného korelačního koeficientu ukazuje, že navržený lineární regresní model je statisticky významný. Koeficient determinace ukazuje, že model vystihuje data v 99, 97 %. Střední kvadratická chyba predikce MEP a Akaikeho informační kritérium AIC slouží pro optimalizaci modelu (optimálním modelem se jeví ten model, který dosahuje co nejnižších hodnot pro MEP i AIC). Opravený model: Z výsledků předchozí regresní analýzy byl pro další tvorbu modelu odebrán bod č. 8 a 9 (vlivné odlehlé body).

Proměnná β0 β1

Odhad Směr.Odch. -1432,276925 6828,247592 2702717,85 16077,58877

Odhady parametrů Závěr Pravděpodobnost Spodní mez Horní mez Nevýznamný 0,8421359199 -18984,84615 16120,2923 Významný 1,413318351E-010 2661389,093 2744046,608


Statistické testy: Fisher-Snedecorův test významnosti Hodnota kritéria F: 28259,18207 Kvantil F (1-alfa, m-1, n-m): 6,607890974 Pravděpodobnost: 1,413319162E-010 Závěr: Model je významný Scottovo kritérium multikolinearity Hodnota kritéria SC: 0,3333326414 Závěr: Model vykazuje multikolinearitu! Cook-Weisbergův test heteroskedasticity Hodnota kritéria CW: 0,5624755472 Kvantil Chi^2(1-alfa,1): 3,841458829 Pravděpodobnost: 0,4532645231 Závěr: Rezidua vykazují homoskedasticitu. Jarque-Berrův test normality Hodnota kritéria JB: 0,5850492127 Kvantil Chi^2(1-alfa,2): 5,991464547 Pravděpodobnost: 0,7463768792

Závěr: Rezidua mají normální rozdělení. Waldův test autokorelace Hodnota kritéria WA: 0,4527001917 Kvantil Chi^2(1-alfa,1): 3,841458829 Pravděpodobnost: 0,5010554578 Závěr: Autokorelace je nevýznamná Durbin-Watsonův test autokorelace Hodnota kritéria DW: -1 Kritické hodnoty DW 0 2 Závěr: Negativní autokorelace reziduí není prokázána. Znaménkový test reziduí Hodnota kritéria Sg: 0,06063390626 Kvantil N(1-alfa/2): 1,959963999 Pravděpodobnost: 0,9516507699 Závěr: V reziduích není trend.

Základní statistické charakteristiky: Vícenásobný korelační koeficient R (optimálně co nejblíže 1): 0,9999115449 Koeficient determinace R2 (optimálně co nejblíže 1): 0,9998230977 Predikovaný korelační koeficient Rp(optimálně co nejblíže 1): 0,9982212724 Střední kvadratická chyba predikce MEP (optimálně co nejnižší číslo): 804322056,1 Akaikeho informační kritérium (optimálně co nejnižší číslo): 136,2310976 Závěr testů předpokladů MNČ: Předpoklady MNČ jsou splněny, ač model dle Scottova kritéria vykazuje multikolinearitu, vzhledem k nevýznamnosti absolutního členu je tento závěr přijatelný a MNČ lze použít. Kalibrace: Pro kalibraci byla použita zpřesněná data s vyloučenými body 8 a 9. Pro kalibraci bylo použito 7 bodů, byla provedena lineární kalibrace na hladině významnosti 0,05.

Parametr β0 β1

Hodnota -1432,276925

Parametry kalibračního modelu Odhad Směr.Odch. Spodní mez -1432,276925 6828,247592 -18984,84615 2702717,85 16077,58877 2661389,093 Významnost absolutního členu β 0 Spodní mez Horní mez -18984,84615 16120,2923

Závěr Nevýznamný

Horní mez 16120,2923 2744046,608

Validace směrnice Spodní mez Horní mez 2661389,093 2744046,608

Hodnota 2702717,85

Směrnice = 1 Ne

Absolutní člen je nevýznamný, znamená to, že kalibrační křivka prochází počátkem souřadnic. Absolutní člen nemůže být vyloučen z modelu, došlo by k deformaci intervalu spolehlivosti predikce pro x=0 a nebyly by spočítány kalibrační meze.

Kalibrační závislost - Sheet1

y - plocha píku

3.0E06

2.0E06

1.0E06

0.0E06

-1.0E06 0.00

x - koncentrace

0.10

0.20

0.30

0.40

0.50

0.60

0.70

0.80

0.90

1.00

Korelační koeficient: 0,9999115449 Kalibrační meze: Metoda Metoda podle ISO 11843-2 Přímá metoda analytu Přímá metoda signálu, IUPAC Kombinovaná metoda Ebel,Kamm Metoda K*Sigma z regrese Metoda K*Sigma, ACS

Yc 18053,58183 21227,99251 21227,99251 20982,9984 21227,99251 27894,04128

Yd 23425,69 43404,36 43640,64 43398,29 43888,26 57220,36

Yq 37539,44 65352,96 65814,53 65346,96 66548,53 86546,68

Xc 0,00721 0,008384 0,008384 0,008294 0,008384 0,010851

Xd 0,009197 0,016589 0,016677 0,016587 0,016769 0,021701

Xq 0,014419 0,02471 0,024881 0,024708 0,025153 0,032552

yc – kritická hodnota y, nejnižší hodnota rozeznatelná od šumu (hodnoty nižší jsou šum) yd – mez detekce y, hodnota, nad kterou můžeme bezpečně měřit hodnotu yq – mez kvantifikace, hodnota, nad níž můžeme stanovit skutečnou hodnotu y s relativní chybou menší než α xc – kritická úroveň x, hodnota odpovídající yc podle kalibračního modelu xd – mez detekce x, minimální hodnota x, detekovatelná danou kalibrační metodou

xq – mez kvantifikace x, minimální hodnota x, kterou lze stanovit s relativní chybou menší než α Určení vzorků: Číslo vzorku

Naměřené hodnoty

Bodový odhad

1 2 3 4 5

1008702 87904 345290 29563 46534

0,187138949 0,016792458 0,064408786 0,005999804 0,009139606

Intervalový odhad Spodní mez Horní mez -3,234997517 3,607238 -0,287910493 0,316118 -1,110949113 1,233082 -0,101919804 0,111641 -0,155963013 0,170885

Závěr Závislost je lineární. Stanovení má dostatečnou citlivost. Byly vypočteny bodové a intervalové odhady koncentrace isomeru vitaminu E v lidském séru. Výsledky jsou uvedeny v tabulce.

ÚLOHA 2: NELINEÁRNÍ KALIBRACE Zadání Pro stanovení hydralazinu (vazodilatans)bylo připraveno 9 kalibračních vzorků. Lidská plasma byla obohacena standardem hydralazinu a upravena mikroextrakční metodou společně s reálnými vzorky. Vzorky byly následně změřeny pomocí LC-MS metody. Vyčíslete bodový a intervalový odhad pro neznámé koncentrace.

Data Koncentrace hydralazinu [ng/ml]

Plocha píku

50,00 75,00 100,00 250,00 500,00 750,00 1000,00 2500,00 5000,00

294,33 732,67 1077,00 3595,33 8203,33 9936,00 10550,67 27697,33 72715,67

? ? ?

5098,39 51385,09 962,10

Program QC.Expert 3.3 – Linerární regrese QC.Expert 3.3 - Kalibrace

Řešení Regresní diagnostika dat: Návrh modelu: Použijeme lineární regresní model y = β0 + β1x, kde x odpovídá koncentraci hydralazinu a y ploše píku. Odhad parametrů a testy významnosti: Metodou nejmenších čtverců byly určeny odhady parametrů β0 a β1 na hladině významnosti 0.05. Odhady parametrů Proměnná Odhad Směr.Odch. Závěr Pravděpodobnost Spodní mez Horní mez β0 -1005,753228 1278,67393 Nevýznamný 0,4573368256 -4029,336614 2017,830157 β1 14,06886152 0,6663222847 Významný 1,344928287E-007 12,49325969 15,64446336 Absolutní člen lineárního regresního modelu je na základě testu intervalem spolehlivosti vyhodnocen jako nevýznamný, neboť interval vymezený horní a spodní mezí obsahuje 0,

hodnota p-testu je vyšší než zadaná hladina významnosti 0,05. Hodnota směrnice je vyhodnocena jako významná, 0 neleží v intervalu spolehlivosti a p-hodnota je nižší než zadaná hladina významnosti 0,05.


plocha - y 8.0E04 7.0E04 6.0E04 5.0E04 4.0E04 3.0E04 2.0E04 1.0E04 0.0E04

koncentrace - x

-1.0E04 0

1000

2000

3000

4000

5000

Testování vlivných bodů pomocí diagnostických grafů a grafů reziduí: Z Q-Q grafu je patrné, že data mají normální rozdělení. Graf heteroskedasticity ukazuje, že v datech heteroskedasticita není přítomná, a je přítomný jeden podezřelý bod (vzdálený od ostatních) – bod 9.

Z uvedených grafů je patrné, že v datech nalezneme 2 vlivné body – bod 8 a 9. Z Pregibonova grafu vyplývá, že oba body jsou považovány za vlivné (pod červenou linkou). Williamsův graf ukazuje, že bod 8 je bodem vybočujícím (nad vodorovnou linkou), bod 9 silně vlivným vybočujícím extrémem (nad vodorovnou a za svislou linkou). McCulloh-Meterův graf označuje

bod 8 za vlivný (nad červenou linkou) a bod 9 za silně vlivný (nad červenou a za svislou linkou). L-R graf označuje body 8 a 9 za vlivné body (v oblasti křivek zobrazujících sílu vlivu).

9

8 8 9

8

9

8 9 10

Grafická analýza ukazuje, že body 8 a 9 jsou velmi vlivné a je třeba je vyloučit a model opravit. Kritika modelu a metody: Statistické testy: Fisher-Snedecorův test významnosti Hodnota kritéria F: 445,8094124 Kvantil F (1-alfa, m-1, n-m): 5,591447851 Pravděpodobnost: 1,344928287E-007 Závěr: Model je významný Scottovo kritérium multikolinearity Hodnota kritéria SC: 0,3327168368 Závěr: Model vykazuje multikolinearitu! Cook-Weisbergův test heteroskedasticity Hodnota kritéria CW: 2,286324758 Kvantil Chi^2(1-alfa,1): 3,841458829 Pravděpodobnost: 0,1305186571 Závěr: Rezidua vykazují homoskedasticitu. Jarque-Berrův test normality Hodnota kritéria JB: 2,814684574 Kvantil Chi^2(1-alfa,2): 5,991464547

Pravděpodobnost: 0,2447930089 Závěr: Rezidua mají normální rozdělení. Waldův test autokorelace Hodnota kritéria WA: 0,004806063336 Kvantil Chi^2(1-alfa,1): 3,841458829 Pravděpodobnost: 0,9447303081 Závěr: Autokorelace je nevýznamná Durbin-Watsonův test autokorelace Hodnota kritéria DW: -1 Kritické hodnoty DW 0 2 Závěr: Pozitivní autokorelace reziduí není prokázána. Znaménkový test reziduí Hodnota kritéria Sg: 0,6744532734 Kvantil N(1-alfa/2): 1,959963999 Pravděpodobnost: 0,5000231832

Závěr: V reziduích není trend.

Základní statistické charakteristiky: Vícenásobný korelační koeficient R (optimálně co nejblíže 1): 0,9922403728 Koeficient determinace R2 (optimálně co nejblíže 1): 0,9845409574 Predikovaný korelační koeficient Rp(optimálně co nejblíže 1): 0,831349916 Střední kvadratická chyba predikce MEP (optimálně co nejnižší číslo): 42419012,29 Akaikeho informační kritérium (optimálně co nejnižší číslo): 146,3936087 Opravený model: Z výsledků předchozí regresní analýzy byl pro další tvorbu modelu odebrán bod č. 8 a 9 (vlivné odlehlé body).

Proměnná β0 β1

Odhad 332,3483416 11,76619876

Směr.Odch. 715,1100141 1,375093517

Odhady parametrů Závěr Pravděpodobnost Spodní mez Horní mez Nevýznamný 0,6616455822 -1505,900471 332,3483416 Významný 0,0003591219358 8,231408339 11,76619876



plocha - y 1.60E04

1.40E04

1.20E04

1.00E04

0.80E04

0.60E04

0.40E04

0.20E04

0.00E04 koncentrace - x -0.20E04 0

100

200

300

400

500

600

700

800

900

1000

Statistické testy: Fisher-Snedecorův test významnosti Hodnota kritéria F: 73,21631916 Kvantil F (1-alfa, m-1, n-m): 6,607890974 Pravděpodobnost: 0,0003591219358 Závěr: Model je významný Scottovo kritérium multikolinearity Hodnota kritéria SC: 0,3320234759 Závěr: Model vykazuje multikolinearitu! Cook-Weisbergův test heteroskedasticity Hodnota kritéria CW: 0,8256739155 Kvantil Chi^2(1-alfa,1): 3,841458829 Pravděpodobnost: 0,3635264518 Závěr: Rezidua vykazují homoskedasticitu. Jarque-Berrův test normality Hodnota kritéria JB: 0,3751960798 Kvantil Chi^2(1-alfa,2): 0,8289478442 Pravděpodobnost: 0,508869263

Závěr: Rezidua mají normální rozdělení. Waldův test autokorelace Hodnota kritéria WA: 0,1467499732 Kvantil Chi^2(1-alfa,1): 3,841458829 Pravděpodobnost: 0,7016607514 Závěr: Autokorelace je nevýznamná Durbin-Watsonův test autokorelace Hodnota kritéria DW: -1 Kritické hodnoty DW 0 2 Závěr: Pozitivní autokorelace reziduí není prokázána. Znaménkový test reziduí Hodnota kritéria Sg: 0,7882407814 Kvantil N(1-alfa/2): 1,959963999 Pravděpodobnost: 0,430555879 Závěr: V reziduích není trend.

Základní statistické charakteristiky: Vícenásobný korelační koeficient R (optimálně co nejblíže 1): 0,9675095459 Koeficient determinace R2 (optimálně co nejblíže 1): 0,9360747213 Predikovaný korelační koeficient Rp(optimálně co nejblíže 1): 0,6640764584 Střední kvadratická chyba predikce MEP (optimálně co nejnižší číslo): 3254921,339 Akaikeho informační kritérium (optimálně co nejnižší číslo): 101,5278166 Závěr testů předpokladů MNČ: Předpoklady MNČ jsou splněny, ač model dle Scottova kritéria vykazuje multikolinearitu, vzhledem k nevýznamnosti absolutního členu je tento závěr přijatelný a MNČ lze použít. Z regresní přímky je patrné, že se nejedná o lineární závislost. Odebráním vlivných bodů došlo ke zhoršení hodnot základních statistických parametrů. Kalibrace: Pro kalibraci byla použita zpřesněná data s vyloučenými body 8 a 9. Pro kalibraci bylo použito 7 bodů, byla provedena nelineární kalibrace (kvadratická) na hladině významnosti 0,05.

Parametr Abs. X X2

Parametry kalibračního modelu Odhad Směr.Odch. Spodní mez -1093,126639 275,5733972 -1858,241049 23,93668974 1,641361656 19,3795392 -0,01224761337 0,001604539245 -0,0167025285

Horní mez -328,012229 28,49384027 -0,007792698236

Významnost absolutního členu β 0 Hodnota

Spodní mez

Horní mez

Závěr

-1093,126639

-1858,241049

-328,012229

Významný

Hodnota 23,93668974


Směrnice = 1 Ne


plocha - y 1.20E04

1.00E04

0.80E04

0.60E04

0.40E04

0.20E04

0.00E04

koncentrace - x -0.20E04 0

100

200

300

400

500

600

700

800

900

Korelační koeficient: 0,9979445338 Křivka grafu reziduí (zakřivenost) svědčí o nelinearitě kalibrační závislosti:

1000

Kalibrační meze: Metoda Metoda podle ISO 11843-2 Přímá metoda analytu Přímá metoda signálu, IUPAC Kombinovaná metoda, Ebel,Kamm Metoda K*Sigma z regrese Metoda K*Sigma, ACS

Yc -804,4011364 -66,13798184 -66,13798184 -228,1547318 -66,13798184 -396,3534248

Yd -719,6898172 664,4877803 771,637396 636,8178847 960,8506751 300,4197893

Yq -515,675634 1324,574784 1488,962476 1299,09785 1987,839332 997,1930033

Xc 12,07440422 43,89001379 43,89001379 36,8298648 43,89001379 29,55597425

Xd 15,72758632 76,41541589 81,28469325 75,16226309 89,94850656 60,06393838

Xq 24,14880845 106,8451302 114,5902666 105,6509429 138,532673 91,62227469

yc – kritická hodnota y, nejnižší hodnota rozeznatelná od šumu (hodnoty nižší jsou šum) yd – mez detekce y, hodnota, nad kterou můžeme bezpečně měřit hodnotu yq – mez kvantifikace, hodnota, nad níž můžeme stanovit skutečnou hodnotu y s relativní chybou menší než α xc – kritická úroveň x, hodnota odpovídající yc podle kalibračního modelu xd – mez detekce x, minimální hodnota x, detekovatelná danou kalibrační metodou xq – mez kvantifikace x, minimální hodnota x, kterou lze stanovit s relativní chybou menší než α Určení vzorků: Číslo vzorku

Naměřené hodnoty

Bodový odhad

1 2 3

5098,39 51385,09 962,1

166,3436164 977,1945 68,20723021

Intervalový odhad Spodní mez Horní mez -1551,841328 -649899,3303 -7025,015699 -649899,3303 -388,1169671 742,9004506

Závěr Kalibrační závislost vystihuje kalibrační nelineární křivka: y = ax2 + bx +c.

ÚLOHA 3: ROZLIŠENÍ MEZI LINEÁRNÍ A NELINEÁRNÍ KALLIBRACÍ Zadání Pro stanovení léčivé látky metaraminol v lidské plasmě (látka stahující cévy, zvyšující krevní tlak a nosní dekongescens) byla vyvinuta LC-MS metoda. Vzorky pacientů měřeny touto metodou jsou kvantifikovány pomocí matricové kalibrační křivky v uvedeném rozmezí. Určete koncentrace léčivé látky u pacientů, kterým byly odebrány vzorky.

Data Koncentrace metaraminolu [ng/ml] 50,00 75,00 100,00 250,00 500,00 750,00 1000,00 2500,00 5000,00 7500,00 ? ? ?

Plocha píku 737,00 1239,00 1594,00 3659,33 7814,00 9969,00 13020,00 33274,00 56647,33 79317,67 5098,39 43071,71 13031,05

Program QC.Expert 3.3 - Kalibrace

Řešení Byla provedena lineární a kvadratická kalibrace a výsledky obou kalibrací porovnány. Lineární kalibrace Lineární kalibrace byla provedena s 10 body na hladině významnosti 0,05. Lineární model dle výsledků nevyhovuje (viz příloha).

Parametr Abs. X

Parametry kalibračního modelu Odhad Směr.Odch. Spodní mez 1786,30075 867,0955353 -213,2251395 10,68594203 0,2900112801 10,01717482 Významnost absolutního členu β 0

Hodnota

Spodní mez

Horní mez

Závěr

1786,30075

-213,2251395

3785,82664

Nevýznamný

Horní mez 3785,82664 11,35470924


Hodnota 10,68594203

Směrnice = 1 Ne

Citlivost metody: 10,68594203 Zvolený faktor K: 1,959963999 Vypočítaná sm.odch. slepého signálu: 2208,194764 Z lineární kalibrační závislosti je patrné, že křivka (přímka) nekopíruje body, korelační koeficient se blíží jedné. Graf reziduí je velmi zakřivený, ukazuje nevhodnost lineární kalibrace.


plocha - y 9.0E04 8.0E04 7.0E04 6.0E04 5.0E04 4.0E04 3.0E04 2.0E04 1.0E04 0.0E04

koncentrace - x

-1.0E04 0

1000

2000

Korelační koeficient: 0,9970667436

3000

4000

5000

6000

7000

8000


Yc 3086,810355 4452,33527 4452,33527 4332,148924 4452,33527 6114,28299

Yd 3399,107062 6890,13458 6992,808284 6877,997196 7118,36979 10442,26523

Yq 4387,319959 9241,365501 9426,561714 9229,625832 9784,40431 14770,24747

Xc 121,7028504 249,4898917 249,4898917 238,2427461 249,4898917 405,0164437

Xd 150,9278552 477,6213285 487,2296254 476,4855013 498,9797834 810,0328875

Xq 243,4057007 697,6516183 714,9824453 696,5530096 748,4696751 1215,049331


Naměřené hodnoty

Bodový odhad

1 2 3

5098,39 43071,71 13031,05

71,43911574 1848,274508 442,7054008

Intervalový odhad Spodní mez Horní mez -4798,359583 4671,759848 -37661,00896 41371,32701 -11648,99899 12297,52255

Kvadratická kalibrace Kvadratická kalibrace byla provedena s 10 body na hladině významnosti 0,05. Kvadratický model dle výsledků vyhovuje (viz příloha).

Parametr Abs. X X2

Parametry kalibračního modelu Odhad Směr.Odch. Spodní mez Horní mez 336,8783551 402,661228 -615,2641499 1289,02086 13,61536442 0,450931006 12,54908203 14,68164681 -0,000418709916 6,237103814E-005 -0,0005661939853 -0,0002712258466 Významnost absolutního členu β 0

Hodnota

Spodní mez

Horní mez

Závěr

336,8783551

-615,2641499

1289,02086

Nevýznamný

Hodnota 13,61536442


Směrnice = 1 Ne

Citlivost v nule: 13,61536442 Citlivost v počátku: 13,57349343 Citlivost ve středu: 10,49597554 Citlivost na konci: 7,334715678 Zvolený faktor K: 1,959963999 Vypočítaná sm.odch. slepého signálu: 865,5661629 Z kvadratické kalibrační závislosti je patrné, že křivka prokládá body těsněji, než přímka v lineární kalibrační závislosti, korelační koeficient se blíží jedné a je vyšší hodnoty, než korelační koeficient u kalibrace lineární. Znamená to, že křivka prokládá body přesněji (větší počet kalibračních bodů leží na křivce). Graf reziduí je velmi zakřivený, ukazuje vhodné použití kvadratické kalibrace.


plocha - y 9.0E04 8.0E04 7.0E04 6.0E04 5.0E04 4.0E04 3.0E04 2.0E04 1.0E04 0.0E04

koncentrace - x

-1.0E04 0

1000

2000

3000

4000

5000

6000

7000

8000

Korelační koeficient: 0,999606149

Graf reziduí - Sheet1

Reziduum

2000

1000

0

-1000

koncentrace - x

-2000 0

1000 2000 3000 4000 5000 6000 7000 8000


Yc 857,1646513 1675,626499 1675,626499 1591,559363 1675,626499 2033,356873

Yd 985,3543435 2856,584596 2925,051991 2846,241409 3014,374643 3729,835391

Yq 1377,450947 3982,245288 4102,360105 3972,343495 4353,122787 5426,313908

Xc 38,21552495 98,62541187 98,62541187 92,41449112 98,62541187 125,08144

Xd 47,69821679 186,1288414 191,2165677 185,3603922 197,8564447 251,1402234

Xq 76,4310499 269,9807677 278,9542568 269,2412532 297,7043941 378,1996243


Naměřené hodnoty

Bodový odhad

1 2 3

5098,39 43071,71 13031,05

163,3440199 1639,75014 460,4291794

Intervalový odhad Spodní mez Horní mez -3457,592622 4235,634635 -21854,44266 -45512571,18 -8066,133521 -45512571,18

Závěr Po porovnání lineární a kvadratické kalibrace byla zvolena jako správná kalibrační metoda metoda kvadratická. Kvadratická kalibrační závislost lépe prokládá kalibrační body, má vyšší hodnotu korelačního koeficientu, tudíž i výsledky z analýzy vzorků odebraných pacientům budou přesněji vyhodnoceny kvadratickou kalibrací. Kalibrační křivka má tedy obecný tvar: y = ax2 + bx +c.

KALIBRACE A LIMITY JEJÍ PŘESNOSTI 2015

Recommend Documents