Vergelijking van atomaire fluorescentie en atomaire absorptie bij de bepaling van kwik in water volgens NEN 6445 en NEN 6449
RIZA Hoofdafdeling Informatie en Meettechnologie Laboratorium voor anorganische analyse Lab.Hoofd:mw. G.C.M.Tielens-Wester
Werkdocument: 95.022X Door: E. Klopstra en P.C.M.Frintrop Lelystad, februari 1995
n.b.
De inhoud van dil werkdocument hoeft niet in overeenstemming te zijn met de visie van het Ministerie van Verkeer en Waterstaat.
INHOUDSOPGAVE
SAMENVATTING 2 2.1 2.2 2.3
INLEIDING Doel Probleemstelling Plan van aanpak
7 7 7 8
3 3.1 3.2
ALGEMEEN Beginsel Apparatuur
9 9 9
4 RESULTATEN EN DISCUSSIE 4.1 Instrumentele condities 4.2 Analysekarakteristieken 4.2.1 Analysekarakteristieken volgens SA 8141 4.2.2 Onderzoek naar de juistheid 4.2.3 Discussie over de verkregen analysekarakteristieken 4.3 Resultaten vergelijkend onderzoek aan praktijkmonsters 4.3.1 Meetresultaten 4.3.2 Vergelijking van de meetresultaten 4.3.2.1 Lineaire regressie 4.3.2.2 Vergelijken van de verschillen tussen de resultaten 4.3.2.3 Toetsing van de gelijkwaardigheid met de'chi-kwadraat'x 2 test . . . 4.3.3 Discussie van de vergelijkbaarheid
1 1 1 1 1 12 13 13 13 13 14 14 15
5
CONCLUSIES
17
6 6.1 6.2 6.2.1 6.2.2 6.2.3 6.2.3 6.3 6.3.1 6.3.2 6.3.3 6.3.4 6.4
BIJLAGEN Bijlage 1: tabellen met de resultaten t.b.v.de analysekarakteristieken. . . . Bijlage 2: vergelijking van AFS en AAS voor monsters oppervlaktewater Bijlage 2a: analyseresultaten oppervlaktewater Bijlage 2b: berekening lineare regressie Bijlage 2c: berekening van de verschilanalyse Bijlage 2d: berekening van de %2 vo<>r oppervlaktewater Bijlage 3: vergelijking van AFS en AAS voor monsters afvalwater Bijlage 3a: analyseresultaten afvalwater Bijlage 3b: berekening lineaire regressie Bijlage 3c: berekening van de verschilanalyse Bijlage 3d: berekening van de %2 t.b.v.afvalwater Bijlage 4: Instrumentele condities
19 19 23 23 24 25 26 29 29 31 33 34 37
SAMENVATTING In 1992 heeft het RIZA voor de bepaling van kwik in oppervlaktewater en afvalwater gekozen voor een nieuwe meetmethode: de koude damp atomaire fluorescentie spectrometrie (CVAFS). Deze techniek is gevoeliger dan de tot dan toe gebruikelijke koude damp atomaire absorptie spectrometrie (CVAAS), hetgeen leidt tot lagere detectiegrenzen. Het onderzoek naar de vergelijking van CVAFS en CVAAS bij de bepaling van kwik in water volgens de in de NEN 6445 (oppervlaktewater na ontsluiting met broom) en NEN 6449 ( afvalwater na ontsluiting met permanganaat en persulfaat) beschreven ontsluitingsmethoden heeft het volgende opgeleverd: De detectiegrenzen bij CVAFS zijn lager dan bij CVAAS. Voor oppervlaktewater volgens NEN 6445 is de detectiegrens een factor 5 verlaagd tot 0,004 fig/l en voor afvalwater volgens NEN 6449 is de detectiegrens een factor 20 verlaagd tot 0,01 /ig/1. De systematische afwijking bij bepalingen in oppervlaktewater bedraagt - 1,1 % voor een toegevoegde kwikstandaard en - 6 % voor een toegevoegd gecertificeerd referentiemateriaal. De systematische afwijking bij bepalingen in afvalwater bedraagt - 6,6 % voor een toegevoegde kwikstandaard en - 8 % voor een toegevoegd gecertificeerd referentiemateriaal. Het gebruik van CVAFS bij NEN 6445 en NEN 6449 in plaats van de de voorgeschreven CVAAS leidt niet tot andere meetresultaten. De omschakeling van CVAAS naar CVAFS is derhalve een zinvolle beslissing geweest.
INLEIDING
2.1
Doel Aantonen dat de resultaten van de kwikbepaling met koudedamp fluorescentiespectrometrie (CVAFS: cold vapour atomic fluorescence spectrometry) gelijkwaardig zijn aan de resultaten van de in NEN 6445 en NEN 6449 beschreven koude damp atomaire-absorptiespectrometrie (CVAAS: cold vapour atomic absorption spectrometry).
2.2
Probleemstelling Voor de bepaling van het gehalte aan kwik in water zijn twee normvoorschriften, NEN 6445 (februari 1978) en NEN 6449 (november 1981) uitgebracht. De meetmethode is in beide normvoorschriften gelijk, n.l. atomaire absorptie spectrometrie (AAS). De ontsluitingsmethoden verschillen: NEN 6445 past een ontsluiting toe met broom, gevolgd door reductie van het gevormde Hg2+ tot Hg met behulp van tin(II)chloride, NEN 6449 past een ontsluiting toe met permanganaat en persulfaat, gevolgd door reductie van het gevormde Hg2+ tot Hg met behulp van tin(II)chloride. NEN 6445 wordt vooral toegepast bij het bepalen van Hg in oppervlaktewater, NEN 6449 wordt toegepast voor afvalwater. Omdat door allerlei maatregelen de gehalten aan kwik in oppervlaktewater en afvalwater afnemen en omdat deze lagere gehalten aan kwik nog steeds als nadelig voor het milieu worden beschouwd, is er een vraag naar betrouwbare, lagere kwikgehalten, en dus naar meer gevoelige meetmethoden. De atomaire fluorescentie spectrometrie (AFS) is gevoeliger dan atomaire absorptie spectrometie (zie 3.1). Deze betrekkelijk nieuwe techniek maakt het mogelijk om lagere gehalten aan kwik te bepalen. Er zijn echter nog geen genormaliseerde bepalingsmethoden voor kwik in water die deze nieuwe techniek bevatten. Wel is ontwerp NEN 5779 (augustus 1994) uitgebracht die voor de bepaling van kwik in grond CVAAS en CVAFS als gelijkwaardige meettechnieken beschrijft. Het RIZA heeft voor de bepaling van kwik gekozen voor het toepassen van de modernere en gevoeligere techniek van CVAFS. Omdat de normvoorschriften NEN 6445 en NEN 6449 in regelgeving zijn vermeld als toe te passen meetmethoden, dient het RIZA aan te tonen dat op basis van CVAFS gelijkwaardige analyseresultaten worden verkregen t.o.v. de in NEN 6445 en NEN 6449 beschreven CVAAS.
2.3
Plan van aanpak Het uitgangspunt is dat de beide ontsluitingsmethoden volgens NEN 6445 en NEN 6449 elk een bestaansrecht hebben. Beide methoden leiden, na oxidatie en reductie, tot de vorming van kwikatomen in een waterige oplossing. Het onderzoek wordt derhalve beperkt tot een vergelijking van meetmethoden, CVAFS versus CVAAS. Het onderzoek is opgebouwd uit twee onderdelen:
8
1)
Het vaststellen van de analysekarakteristieken voor kwik in: oppervlaktewater volgens NEN 6445 (ontsluiting) + CVAFS afvalwater volgens NEN 6449 (ontsluiting) + CVAFS.
2)
Het bepalen van de vergelijkbaarheid tussen CVAFS en CVAAS door praktijkmonsters te onderzoeken zowel met CVAAS volgens het betreffende normvoorschrift als met CVAFS.
ad 1
De analysekarakteristieken worden bepaald volgens de standaardaanwijzing SA 8141. Dit betreft de volgende prestatiekenmerken: detectiegrens, bepalingsgrens, herhaalbaarheid en het terugvindingspercentage. De juistheid is bepaald door het in water suspenderen van een bekende hoeveelheid gecertificeerd referentiemateriaal. De suspensies zijn vervolgens behandeld als oppervlaktewater resp. als afvalwater.
ad 2
In de periode maart/april 1992 zijn 25 monsters oppervlaktewater en 57 monsters afvalwater onderzocht met beide meettechnieken. De vergelijkbaarheid is getoetst met behulp van lineaire regressie, analyse van verschillen en de chi-kwadraat test.
ALGEMEEN
3.1
Beginsel Atomaire absorptie spectrometrie (AAS) en atomaire fluorescentie spectrometrie (AFS) zijn beide optische technieken, gebaseerd op het absorberen van straling door (metaal)atomen. Bij AAS wordt de absorptie van straling van een - per metaal verschillende golflengte - gemeten; deze absorptie is evenredig met de hoeveelheid metaalatomen die zich in de stralingsbundel bevindt. De absorptie wordt berekend uit de verhouding van de doorgelaten stralingsintensiteiten zonder en met metaalatomen in de stralingsbundel. Bij lage gehalten aan metaalatomen in het monster is het verschil tussen beide stralingsintensiteiten gering. De detectiegrens wordt bepaald door de mogelijkheid om dit geringe verschil tussen de nagenoeg gelijke stralingsintensiteiten vast te stellen. Bij AFS wordt de straling die sommige metalen, waaronder kwik, uitzenden (=emissie) na absorptie van straling (=excitatie) gemeten. De emissiestraling heeft een gelijke of grotere golflengte dan de excitatiestraling. De richting waarin de emissiestraling wordt uitgezonden is niet vooraf te bepalen; een verzameling van metaalatomen zendt in alle richtingen fluorescentiestraling uit. Door de fluorescentiestraling te meten in de richting loodrecht op de ingestraalde bundel, wordt in feite straling gemeten tegen een donkere achtergrond. In deze situatie is er bij lage metaalgehalten geen sprake meer van het meten van een klein verschil tussen grote intensiteiten; de detectiegrens wordt nu vooral bepaald door de mogelijkheid om lage stralingsintensiteiten te kunnen meten. Door het toepassen van een fotomultiplicatorbuis zijn lage intensiteiten, zeker in het UV-spectrum en het blauwe/groene deel van het zichtbare lichtspectrum, goed te meten. Hierdoor zijn met AFS lagere detectiegrenzen mogelijk dan met AAS, ondanks het feit dat de fluorescentiestraling in alle richtingen wordt uitgezonden en er slechts een (beperkt) deel van de uitgezonden straling door de detector wordt geregistreerd. Omdat de detectiegrens van een bepalingsmethode niet alleen door de meetmethode maar ook door de ontsluiting wordt bepaald is de winst in detectiegrens minder groot dan in theorie; de verwachte winst is een factor 5 - 10.
3.2
Apparatuur Atoomfluorescentiespectrofotometer (P.S. ANALYTICAL Ltd - Engeland) type PSA 10.623 Merlin Plus Systeem bestaande uit: PSA 10.003 hydride systeem, PSA 20.099 monsterwisselaar, PSA 10.023 Merlin detector, PSA Perma pure vochtverwijderingssysteem, LASER 286/3X computer met PSA 30.001 TouchStone software en printer EPSON LX-850.
Atoomabsorptiespectrofotometer (LDC/Milton Roy - USA) Mercury Monitor" bestaande uit: P/N 920404 elemental mercury detector, P/N 900720 flow cell, P/N 920250 gas/vloeistof scheider van 30 mL (Technoglas), voordruk stabilisator, spanningsstabilisator Imunelec MS 300, multi range recorder Kipp & Zonen BD 8.
10
RESULTATEN EN DISCUSSIE
4.1
Instrumentele condities Bij de ingebruikname van de apparatuur zijn de instrumentele condities voor de verschillende matrices vastgelegd; zie bijlage 4.
4.2
Analysekarakteristieken
4.2.1 Analysekarakteristieken volgens SA 8141 Om de analysekarakteristieken te kunnen vaststellen is zoveel mogelijk gebruik gemaakt van praktijkmonsters, waar dit niet mogelijk was zijn synthetische monsters gemaakt. Voor oppervlaktewater monsters gebruikt: detectiegrens, serie 1 detectiegrens, serie 2
zijn voor de verschillende onderzoeken = =
herhaalbaarheid
=
terugvinding
=
de volgende
een praktijkmonster (=M1), 1000 ml demi-dest + 240 /xl standaard (cHg = 0,05 mg/l), ± 1000 ml Ml + 800 /xl standaard (cHg = 0,05 mg/l), ± 1000 ml Ml + 1000 /xl standaard (cHg = 0,05 mg/l).
Voor afvalwater zijn voor de verschillende onderzoeken de volgende monsters gebruikt: detectiegrens, serie 1 = een mengsel van een aantal praktijkmonsters (=M2), ongeveer 2 voudig verdund, detectiegrens, serie 2 = 1000 ml demi-dest + 240 /xl standaard (cHg = 0,05 mg/l), herhaalbaarheid = M2 (niet verdund), terugvinding = ± 1000 ml M2 + 1000 /xl standaard (cHg = 0 , 0 5 mg/l). De meetresultaten en de berekening van de prestatiekenmerken zijn vermeld in bijlage 1; de samenvatting van de resultaten is vermeld in tabel 1 op de volgende bladzijde.
U
Tabel 1: Analysekarakteristieken Oppervlaktewater (NEN 6445 - AFS)
Afvalwater (NEN 6449 - AFS)
detectiegrens
0,004 /xg/1
0,010/xg/1
bepalingsgrens
0,012 Mg/l
0,034 /xg/1
herhaalbaarheid
0,008 /xg/1
0,008 /xg/1
98,9 %
93,4 %
Prestatiekenmerk
terugvinding
4.2.2 Onderzoek naar de juistheid De juistheid is bepaald door het in water suspenderen van een bekende hoeveelheid gecertificeerd referentiemateriaal (=CRM). Voor oppervlaktewater is ± 50 mg BCR 143 in 1000 ml demi-dest gesuspendeerd en aangezuurd met HN0 3 tot pH=2; geanalyseerd is volgens NEN 6445. Voor afvalwater is ± 50 mg BCR 143 in 100 ml demi-dest gesuspendeerd en vervolgens geanalyseerd volgens NEN 6449. De juistheid wordt als volgt berekend. Er wordt met een t-toets onderzocht of er sprake is van een significant verschil tussen het gemiddeld gevonden gehalte, terug gerekend naar de ingewogen hoeveelheid CRM, en het voor het CRM gecertificeerde gehalte. Er is geen sprake van een significant verschil indien de toetsgrootheid | t | kleiner is dan 2,5. Y A
crm
-Y A
gem.lab c
\ Waarin: Agem.lab
2 (S 1 crm
+
|<2,5
2
^)
n '
toetsgrootheid voor de juistheid opgegeven gehalte aan Hg in het CRM (=3,92 mg/kg) gevonden gemiddelde gehalte aan Hg in het CRM standaarddeviatie van het gehalte aan Hg in het CRM (=0,23 mg/kg) gemeten standaarddeviatie van het gehalte aan Hg in het
CRM aantal waarnemingen.
De meetresultaten en de berekening van de juistheid zijn vermeld in bijlage 1. De samenvatting van de resultaten is vermeld in tabel 2 op de volgende bladzijde.
12
Tabel 2: Juistheid
1
Toetsgrootheid
Oppervlaktewater (NEN 6445 - AFS)
Afvalwater (NEN6449 - AFS)
i«i
0,87
1,15
4.2.3 Discussie over de verkregen analysekarakteristieken De verkregen karakteristieken zijn niet rechtstreeks te vergelijken met die van de AAS-methode. De redenen hiervan zijn: de wijze waarop de prestatiekenmerken zijn gedefinieerd en waarop de karakteristieken zijn bepaald is betrekkelijk nieuw, de oude apparatuur waarmee indertijd met AAS is gemeten, is niet langer beschikbaar. Wanneer de detectiegrenzen van AFS worden vergeleken met de detectiegrenzen zoals die destijds voor AAS zijn gehanteerd, wordt geconstateerd dat de detectiegrens voor oppervlaktewater (NEN 6445) is afgenomen van 0,02 tot 0,004 /xg/1 en voor afvalwater (NEN 6449) van 0,2 tot 0,01 /xg/1. Bij de beoordeling van de juistheid wordt geconcludeerd dat: de spreiding Slab in beide gevallen groter is dan de opgegeven spreiding voor het referentiemateriaal Scrm (= 0,23 mg/kg). Dit wordt toegeschreven aan de experimentele omstandigheden. Scm, is bepaald in het uitgangsmateriaal. Daarbij bevat het analysemonster veel grotere hoeveelheden vaste stof dan het analysemonster van de onderzochte suspensie. de gevonden waarden voor de toetsgrootheid 111 klein zijn t.o.v. de vereiste waarde van < 2,5, de terugvindpercentages (recoveries) voor NEN 6445 en NEN 6449 94 ± 11% resp. 92 ± 10%, bedragen, berekend ten opzichte van de nominale waarde 100 ±6%. Deze percentages zijn lager dan de terugvindpercentages in tabel 1. Dit wordt toegeschreven aan het gebruik van gesuspendeerd referentiemateriaal in plaats van de goed oplosbare kwikstandaarden bij het bepalen van de analysekarakteristieken; het kwik moet eerst door oxidatie ontsloten worden uit het vaste referentiemateriaal, terwijl het kwik in de standaardoplossing al in de gewenste oxidatietoestand is. de waarden voor de terugvinding in alle gevallen ruimschoots voldoen aan het RIZA-criterium dat bepalingsmethoden een juistheid van 70 110 % moeten hebben.
13
4.3
Resultaten vergelijkend onderzoek aan praktijkmonsters
4.3.1 Meetresultaten De validatie gegevens zijn verkregen in de periode maart/april 1992, door verschillende oppervlaktewater- en afvalwatermonsters zowel met AFS als met AAS te analyseren. De resultaten zijn vermeld in bijlagen 2a en 3a.
4.3.2 Vergelijking van de meetresultaten. Achtereenvolgens zijn de volgende vergelijkingen gemaakt: lineaire regressie (4.3.2.1), verschil analyse (4.3.2.2)en chi-kwadraat toets (4.3.2.3). 4.3.2.1 Lineaire regressie De constanten a en b met de bijbehorende 95%-betrouwbaarheidsintervallen worden berekend volgens: CVAFS=(a±S*tq,%)+(b±Sb*tg,%)*CVAAS Waarin:
de t-factor van Student de standaardafwijking van a de standaardafwijking van b.
Us* S, Sr,
Indien de functie y=xeen element is van de hiervoor beschreven functie is met 95% zekerheid vastgesteld dat er geen significant verschil is in de analyseresultaten van beide methoden. Tabel 3: Resultaten lineaire regressie Matrix
14
a O'g/I)
Opp.vl.water (NEN 6445) Afvalwater (NEN 6449)
s. <'
b 0-g/l)
O'g/I)
-0.00572
0.00462
1.02950
0,02223
0.01496
0.98505
<M«
zie bijlage
0.03043
2.069313
2b
0.01828
2.004571
3b
Oppervlaktewater (NEN 6445) CK4F5=(-0,006±0,005*2,07)+(l,030±0,030*2,07)*CKA4S
CVAFS,_} = -0,015 +0,967 *CVAAS
CVAFS^=0,004+l,092*CVAAS
Afvalwater (NEN 6449) CK/1F5=(0)022±0,015*2,01)+(0)99±0,018*2,01)*CF/L45
CVAFSH=-0,008 +0,948 *CVAAS
CVAFS, t)=0,052 +1,022 *CVAAS
4.3.2.2Vergelijken van de verschillen tussen de resultaten Van de populatie van verschillen tussen AFS en AAS wordt het gemiddelde en het 95%-betrouwbaarheidsinterval berekend. Indien de waarde "nul" binnen het 95%-betrouwbaarheidsinterval ligt, is met 95% zekerheid vastgesteld dat er geen significant verschil is in de analyseresultaten van beide methoden.
Tabel 4: Resultaten verschilanalyse Matrix
1 Oppervl. water (NEN 6445) Afvalwater (NEN 6449)
s
Gemiddelde 0-g/l)
(Mg/0
ondergrens 95% betrouwbaarheid interval (ug/l)
bovengrens 95% betrouwbaarheid interval (/xg/1)
zie bijlage
-2,6* 10*3
0.0166
-9,455* 10"3
4,255* 10*3
2c
0,178
0.1049
•0,0100
0.0456
3c
15
4.3.2.3Toetsing van de gelijkwaardigheid met de 'chi-kwadraat'x toets
2_V^
/ *CVAFS ^CVAAS x2 ft'CVAFS2*$ CVAAS2
Waarin: n ^CVAFS *CVAAS ScVAFS ScVAAS
chi-kwadraat aantal waarnemingen analyseresultaat van de bepaling met CVAFS analyseresultaat van de bepaling met CVAAS standaarddeviatie van de bepaling met CVAFS standaarddeviatie van de bepaling met CVAAS
Resultaten van een altematieve bepalingsmethode zijn is gelijkwaardig met de resultaten van een referentiemethode indien de gevonden XfcvAFs2<Xf2 (P=0,01;f).
Tabel 5: Resultaten chi-kwadraat toets ScVAFS
ScVAAS
X'
n
X2 in tabel bij (n-1)
zie bijlage
Oppvl.water (NEN 6445)
0,032358
0,0332
3,157801
25
43,0
2d
Afvalwater (NEN 6449)
0.671215
0,39894
1.041889
57
83,5
3d
Matrix
4.3.3 Discussie van de vergelijkbaarheid
Lineaire regressie. Uit de resultaten blijkt dat voor de onderzochte meetbereiken de regressielijn CVAFS = 1,00*CVAAS ligt binnen het 95% betrouwbaarheidsinterval. Dit geldt zowel voor NEN 6445 als voor NEN 6449.
Verschilanalyse. Uit de resultaten blijkt dat de nulhypothese "er is geen verschil tussen CVAFS en CVAAS" niet kan worden verworpen uitgaande van het betrouwbaarheidsinterval van 95%.
Gelijkwaardigheid. Uit de resultaten blijkt dat de gevonden waarde voor x2 veel lager is dan de waarde volgens de tabel. Ook uit deze test blijkt dat CVAFS en CVAAS als gelijkwaardig mogen worden beschouwd.
16
CONCLUSIES Het onderzoek naar de vergelijking van CVAFS en CVAAS bij de bepaling van kwik in water volgens de in de NEN 6445 en NEN 6449 beschreven ontsluitingsmethoden heeft het volgende opgeleverd: CVAFS leidt tot lagere detectiegrenzen dan CVAAS. Voor oppervlaktewater volgens NEN 6445 is de detectiegrens bij CVAFS een factor 5 lager; voor afvalwater volgens NEN 6449 een factor 20. De detectiegrenzen met CVAFS bedragen 0,004 /xg/1 voor oppervlaktewater en 0,01 /xg/1 voor afvalwater. De juistheid van NEN 6445 en NEN 6449 bij toepassing van CVAFS bedraagt 94 ± 11% resp. 92 ± 10% voor suspensies van het gecertificeerde referentiemateriaal BCR 143 in water, Resultaten van praktijkmonsters oppervlaktewater volgens NEN 6445 met CVAFS en CVAAS en praktijkmonsters afvalwater volgens NEN 6449 met CVAFS en CVAAS tonen aan dat CVAFS en CVAAS leiden tot gelijkwaardige resultaten, zowel op basis van lineaire regressie, verschilanalyse als de chi-kwadraat test. De eindconclusies van dit onderzoek zijn dan ook: dat het gebruik van CVAFS bij NEN 6445 en NEN 6449 in plaats van de voorgeschreven CVAAS niet leidt tot andere meetresultaten, dat CVAFS leidt tot lagere detectiegrenzen dan CVAAS en dat het omschakelen van CVAAS op CVAFS een zinvolle beslissing is geweest.
17
18
6
BIJLAGEN
6.1
Bijlage 1: tabellen met de resultaten t.b.v.de analysekarakteristieken. De resultaten zijn berekend en gecorrigeerd volgens SA 8141. bepaling van de detectiegrens voor NEN 6445 - AFS serie 1: gehalte tussen 3-15S
serie 2: gehalte ongeveer 3S
X, (/Xg/1)
X, (Mg/l)
(XrX^)2 (Mg/D2
2
(Mg/D 1
0,048
0,0000071
0,013
0,0000013
2
0,046
0,0000004
0,012
0,0000000
3
0,044
0,0000018
0,011
0,0000007
4
0,045
0,0000001
0,011
0,0000007
5"
0,055'
0,0000934"
0,012
0,0000000
6
0,045
0,0000001
0,013
0,0000013
7
0,044
0,0000018
0,011
0,0000007
0,045
SI = 0,0015055
0,012
S2 *= 0,0008997
Xgcm
0,0012/xg/1
Spoiled J
0,004 /xg/1
-""pooled
10*8^
0,012 ug/l *
herhaalbaarheid voor NEN 6445 - AFS X.Gtg/1)
(XrX^) 2 (Mg/02
1
0,075
0,0000099
2
0,081
0,0000082
3
0,079
0,0000007
4
0,080
0,0000034
5
0,080
0,0000034
6
0,074
0,0000172
7
0,078
0,0000000
0,078
Sr = 0,0026726
Xjcm
herhaalbaarheid
(1.008 ug/l
19
terugvindpercentage voor NEN 6445 - AFS X( (/xg/1)
(X,-X,CJ2 (Mg/D2
1
0.100
0,0000013
*
0,097
0,0000028
3
0,097
0,0000040
4
0,105
0,0000303
5
0,098
0,0000001
6
0,096
0,0000023
7
0,099
0,0000000
0,09886
Sr = 0,0026043
y gem
(%) terugvinding
98,86
juistheid voor NEN 6445 - AFS
I'-'"
|t|
20
(XrXgtm)2 (mg/kg)2
1
3,5267857
0,0207337
fN
Y
Xj (mg/kg)
3,6155378
0,0030514
3
3,1974638
0,2240260
4
3,3273703
0,1179286
5
3,6159844
0,0030023
6
4,5932540
0,8509625
7
3,8190476
0,0219840
3,6707777
St = 0,459155 0,87
detectiegrens voor NEN 6449 - AFS serie 1: gehalte tussen 3-15S
serie 2: gehalte ongeveer 3S
X; (Mg/D
(X,-X^) 2 (Mg/D2
X, (Mg/D
(X.-X^J 2 (Mg/D2
1
0,051
0,0000432
0,008
0.0000149
2
0,039
0,0000295
0,010
0,0000034
3
0,043
0,0000020
0,013
0,0000013
4
0,043
0,0000020
0,015
0,0000099
5
0.042
0,0000059
0,014
0,0000046
6
0,049
0,0000209
0,011
0,0000007
7
0,044
0.0000002
0,012
0,0000000
0,044
SI = 0,0041576
0,012
S2 = 0,0024103
Xgtrn
0,0034 ug/l
Spooled
3*S^«
0,010 ug/l
to*'*;
0,034 ug/l
l u
-""pooled
herhaalbaarheid voor NEN 6449 - AFS X, (ug/l)
(X.-X^J 2 (Mg/D2
1
0,068
0.0000020
2
0,067
0,0000002
3
0,065
0,0000025
4
0,069
0,0000059
5
0.061
0,0000310
6
0,070
0,0000118
7
0,066
0,0000003
0,067
Sr =0,0029921
Xgtm
herhaalbaarheid
0,008 ug/l
21
terugvindpercentage voor NEN 6449 - AFS X,(Mg/D
(X,-Xgera)2 (Mg/l)2
1
0,089
0,0000196
2
0,100
0,0000432
3
0,088
0,0000295
4
0,098
0,0000209
5
0,101
0,0000573
6
0,082
0,0001306
7
0,096
0,0000066
0,09342
Sr = 0,0071614
Xgem
(%) terugvinding
93,43
juistheid voor NEN 6449 - AFS
(x,-x gcm );
X, (mg/kg)
(mg/kg)2
Xgem
|t|
22
1
3,1538462
0,2075718
2
3,2575758
0,1238131
3
4,0210526
0,1694195
4
3,8571429
0,0613534
5
3,3267327
0,0799272
6
3,5802469
0,0008526
7
4,0695297
0,2116764
3.6094467
St = 0,37774065 1,15
6.2
Bijlage 2: vergelijking AFS en AAS in praktijkmonsters oppervlaktewater 1 Bijlage 2a: analyseresultaten oppervlaktewater Nr
AFS
Monster
AAS
A (Mg/D
waarn. (Mg/D
blanko (Mg/l)
gehalte (Mg/D
waarn. (Mg/D
blanko (Mg/D
gehalte (Mg/D
1
92003187a
0.266
0.018
0,248
0,258
0,018
0,240
0,008
2
92003187b
0,246
0.0 IS
0,228
0,258
0.018
0.240
-0,012
3
92002530
0,197
0,018
0.179
0.192
0,018
0,174
0,005
4
92002530nf
0.006
0,006
0.000
0,022
0,018
0.004
-0,004
5
92002760
0,013
0,007
0,006
0,031
0,018
0.013
-0,007
6
92002760nf
0,007
0,007
0,000
0,016
0,016
0,000
0,000
7
92003988a
0,307
0,007
0.300
0.279
0,006
0.273
0,027
8
92003988b
0.245
0.007
0,238
0.285
0.006
0.279
-0.041
9
92003157
0.048
0.007
0,041
0,057
0,006
0.051
-0.010
10
92003157nf
0,007
0,007
0,000
0,026
0.006
0,020
-0,020
11
92003209
0,031
0,007
0,024
0,037
0,006
0,031
-0.007
12
92003209nf
0.007
0,007
0,000
0.010
0,006
0.004
-0,004
13
92003703
0,029
0,008
0,021
0,037
0,006
0,031
-O.010
14
92003703nf
0,008
0.008
0,000
0.010
0.006
0.004
-0.004
15
92004804a
0,202
0.008
0,194
0.211
0.004
0.207
-0.013
!'.
92004804b
0,195
0,008
0,187
0,225
0,004
0.221
-0,034
17
92003990
0,013
0,009
0,004
0.012
0,004
0,008
-0,004
18
92003990nf
0.009
0.009
0,000
0,008
0,004
0.004
-0.004
19
92004796
0.010
0.009
0,001
0,010
0,004
0.006
-0.005
20
92004796nf
0,009
0,009
0,000
0.006
0.004
0,002
-0,002
21
92003941
0.400
0,009
0,391
0.355
0.004
0.351
0,040
22
92003942
0.165
0.009
0,156
0.153
0.O04
0.149
0,007
23
92003943
0,124
0,009
0,115
0.112
0,004
0.108
0,007
24
92003944
0.150
0,009
0.141
0.140
0,004
0.136
0.005
25
92005551
0.111
0,009
0.102
0.089
0.004
0.085
0,017
23
6.2.2 Bijlage 2b: berekening lineare regressie 01-16-1995 12:05:39 NEW FILE: C:\STAT\STATCAL\CALDATA\vergopp.CAL POLYNOMIAL FIT DEGREE OF POLYNOMIAL SPECIFIED : 1 POLYNOMIAL STANDARD DEV DEGREES OF DEGREE OF RESIDUALS FREEDOM 0 0.1159786 24 1 1.662643E-02 23 < —USED FOR CALCULATION POLYNOMIAL FIT COEFFICIENTS OF THE POLYNOMIAL (Y=A+B*X+C*X'>2+ . . .) A = -5.716818E-03 B = 1.029504 STANDARD DEVIATION OF RESIDUALS = 1.662643E-02 TABLE OF RESIDUALS Nr AAS 1 0.240 2 0,240 3 0,174 4 0.004 5 0,013 6 0,000 7 0,273 8 0,279 9 0.051 10 0.020 11 0,031 12 0,004 13 0,031 14 0,004 15 0.207 16 0,221 17 0.008 18 0.004 19 0,006 20 0.002 21 0,351 22 0.149 23 0,108 24 0.136 25 0.085 t-LIMITS: t(95)= 2.069313 t(99) = — CONFIDENCE INTERVALS ARE
ST.DEV OF RESIDUALS = 1.662643E-02 AFS Weight Y-Calc 0,248 0,241364 1 0,228 0,241364 1 0.179 0,173417 1 0,000 -0,001599 1 0,007667 0,006 1 -0,005717 0,000 1 0,300 0,275338 1 0,238 0,281515 1 0,041 0,046788 1 0.000 0,014873 1 0,024 0.026198 1 0,000 -0,001599 1 0,026198 0,021 1 0.000 -0.001599 1 0,194 0,207391 1 0,187 0.221804 1 0.004 0.002519 1 -0.001599 0,000 1 0,000460 0,001 1 -0,003658 0.000 1 0,355639 0,391 1 0,147679 0,156 1 0,105470 0,115 1 0,134296 0,141 1 0.081791 0.102 1 23 DF 2.810049 1(999) = 3.772876 INDICATED BY NS, * , ** AND *** —
Residual 0.006636 -0.013364 0.005583 0.001599 -0,001667 0,005717 0,024662 -0.043515 -0.005788 -0.014873 -0,002198 0.001599 -0,005198 0,001599 -0,013391 -0,034804 0,001481 0.001599 0.000540 0,003658 0.035361 0,008321 0.009530 0.006704 0.020209
Signif. NS
ORTHOGONAL COEFFICIENTS, THEIR STANDARD DEVIATIONS AND "-VALUES (=RATIOS) POLYNOMIAL ORTHOGONAL STANDARD t-VALUE SIGNIFICANCY DEGREE COEFFICIENT DEVIATION (=RATIO) 0 a= 0.103040 3.325286E-03 30.98681 *** 1 b= 1.029504 3.042727E-02 33.83492 **• t-LIMITS: t(95)= 2.069313 t(99)= 2.810049 t(999)= 3.772876 23 DF — CONFIDENCE INTERVALS ARE INDICATED BY NS. * . ** AND **• — NS MEANS COEFFICIENT IS NOT SIGNIFICANTLY DEVIATING FROM ZERO
24
NS NS NS NS NS
NS • NS NS NS NS NS NS NS
* NS NS NS NS
* NS NS NS NS
STATISTK 4.0 VERGOPP, 16/01/95.13:14 UNWEIGHTED LEAST SQUARES LINEAR REGRESSION OF AFS PREDICTOR VARIABLES
COEFFN:IENT
STD ERROR
STUDENT'S T
P
CONSTANT AAS
-0.00572 1.02950
0.00462 0.03043
-1.24 33.83
0.2289 0.0000
0.9803 0.9794
R-SQUARED ADJUSTED R-SQUARED
MS
RESID. MEAN SQUARE (MSE STANDARD DEVIATION 0.01663 F
P
SOURCE
DF
SS
REGRESSION RESIDUAL TOTAL
1 23 24
0.31647 0.31647 1144.80 0.0000 0.00636 2.764E-04 0.32282
CASES INCLUDED 25 MISSING CASES 0
6.2.3 Bijlage 2c: berekening van de verschilanalyse V«k-0*Iljlflrkjt
T**aA/EJ>C
ixx
op*p**rvlakt«-rr)jkt«r
-,-
-:Ji>^H^^ --ZjL-Z-Z^^-* -* •""
^" 1-**-iw'
- -i"'
_J&*5
"
"
**
-li****"*"^*^' ~
-
STATISTIX 4.0 DESCRIPTIVE STATISTICS
VERGOPP, 16/01/95,13:06
VARIABLE N VERSCHIL 25
UP 95% CI SD 4.255E-03 0.0166
LO 95% CI MEAN -9.455E-03 -2.600E-03 V— -I**—C3faiai-»*ca
P S A / L D C
I D
o p p
I
a
••
•
25
6.2.4 Bijlage 2d: berekening van de x2 voor oppervlaktewater Berekening van de SAFS en SAAS t.b.v. oppervlaktewater AFS X ( * • • * / ! )
X
X
X2
(MB/1)
(UR/D
(uam
1
0.19
0,0361
0,19
0,0361
2
0,19
0,0361
0.19
0,0361
3
0,21
0,0441
0,21
0,0441
4
0,21
0,0441
0,22
0,0484
5
0,23
0.0529
0,22
0.0484
6
0,23
0,0529
0,22
0,0484
7
0,25
0.0625
0,22
0,0484
8
0,25
0,0625
0,22
0,0484
9
0.25
0.0625
0,22
0,0484
10
0,25
0,0625
0,23
0,0529
ll
0.25
0,0625
0,23
0,0529
12
0,26
0,0676
0,23
0,0529
13
0.26
0,0676
0,24
0,0576
14
0,26
0.0676
0,24
0,0576
15
0,26
0,067081
0,24
0,0576
16
0.26
0,0676
0.24
0.0576
14
0,26
0,0676
0,24
0,0576
18
0.26
0.0676
0,24
0,0576
19
0.26
0.0676
0,25
0,0625
20
0,27
0,0729
0,26
0,0676
21
0.27
0,0729
0,27
0,0729
22
0,28
0.0784
0.27
0,0729
23
0,28
0.0784
0,28
0.0784
24
0,29
0.0841
0,29
0,0841
25
0,31
0.0961
0,29
0.0841
26
0,31
0.0961
0.29
0,0841
27
0,32
0.1024
0,30
0,09
28
0,30
0,09
29
0.31
0,0961
s
6.919
1,800281
7.15000
1,79370
11
27
27
29
29
0,256259
x* m
0,24655
0,032358
§A4S
0,03320
x,. _5A£5
26
AAS 2
XAFS
XAAS
x2
A
(Mg/D
0*g/D
O-g/D
(Mg/D
1
0,248
0,240
0,029777
0.008
2
0.228
0,240
0.066999
-0.012
3
0,179
0,174
0,011632
0,005
4
0.000
0,004
0.007444
-0.004
s
0.006
0,013
0,022798
-0.007
6
0.000
0,000
0.000000
0.000
7
0.300
0.273
0,339183
0.027
8
0,238
0,279
0,782122
-0.041
9
0.041
0,051
0,046527
-0.010
10
0,000
0,020
0,186109
-0.020
II
0,024
0.031
0.022798
-0.007
12
0,000
0,004
0,007444
-0.004
13
0.021
0,031
0.046527
-0.010
14
0,000
0,004
0,007444
-0.004
15
0,194
0,207
0,078631
-0.013
16
0,187
0,221
0.537854
-0,034
17
0.004
0,008
0.007444
-0,004
18
0.000
0,004
0.007444
-0,004
19
0,001
0,006
0.011632
-0.005
2(1
0,000
0.002
0.001861
-0.002
21
0.391
0,351
0.744435
0.040
22
0.156
0,149
0.022798
0,007
23
0.115
0.108
0,022798
0,007
24
0,141
0,136
0.011632
0.005
25
0.102
0.085
0,134464
0,017
ZX2 = 3,157801 AFS is vergelijkbaar met AAS. P=O,01 is xf2 43,0.
M
i
m
Xr.AFs2
<X f 2 (P=0.01;f).Bij24 vrijheidsgraden en
27
6.3
Bijlage 3: vergelijking van AFS en AAS voor praktijkmonsters afvalwater
6.3.1 Bijlage 3a: analyseresultaten afvalwater
Nr
28
Monster
AAS
AFS
V waarn. (Mg/D
blanko (Mg/D
gehalte (Mg/D
waarn. (MR/I)
blanko (Mg/D
gehalte (Mg/l)
A (Mg/»
1
92002359
0,033
0,007
0.026
0.073
0,003
0,070
-0,044
2
92002358
0,078
0.OO7
0,071
0.125
0,003
0,122
-0,051
3
92002195
0.168
0.008
0,160
0,108
0,020
0,088
0,072
4
92002196
3,248
0,008
3,240
3,720
0,020
3.700
-0.46
5
92002219
2,972
0,008
2.964
2,526
0.020
2.506
0.458
6
92002573
0,027
0,008
0.019
0,020
0,020
0.000
0,019
7
92002576
0,325
0,008
0.317
0,125
0,020
0.105
0.212
8
92002578
0.091
0,008
0.083
0.oo3
0.003
0,000
0,083
9
92004413
0,067
0.008
0.059
0.055
0,020
0,035
0.024
10
92002311
0,468
0,000
2.340
0,471
0,000
2,355
-0.015
11
92002715
0.102
0,014
0,088
0,055
0,003
0,052
0.036
12
92002719
0,055
0,014
0,041
0.038
0.003
0,035
0,006
13
92002328
0,054
0,014
0,040
0.038
0,003
0,035
0.005
14
92002329
0.054
0.014
0.040
0.038
0,003
0,035
0.005
15
92002330
0.048
0.014
0.034
0,038
0.0O3
0.035
-0,001
16
92002331
0,021
0.014
0.007
0.003
0.003
0.000
0.007
17
92002541
0,149
0.008
0.141
0.108
0,003
0.105
0.036
18
92002591
0.552
0.008
0.544
0,495
0,003
0.492
0.052
19
92002665
3,325
0.008
3,317
3,124
0,003
3.121
0.196
20
92002666
0,157
0,008
0,149
0.125
0,003
0,122
0,027
21
92002667
0.087
0.008
0.079
0.073
0.003
0,070
0.009
22
92002711
0,039
0,008
0.031
0.020
0,003
0,017
0.014
23
92004460
0.090
0,008
0.082
0.003
0.003
0,000
0.082
24
92002673
0,029
0.008
0.021
0,003
0,003
0,000
0.021
25
92002691
0,035
0,008
0,027
0,038
0,003
0.035
-0.008
26
92002569
0,166
0.005
0,161
0,000
0,000
0.000
0.161
27
92002572
0.286
0,005
0,281
0,231
0.000
0.231
0.050
Nr
Monster
AFS
AAS
V waarn. (Mg/D
blanko (Mg/D
gehalte (Mg/D
waarn. (Mg/D
blanko (Mg/D
gehalte (Mg/D
A (Mg/l)
28
92002577
0,017
0,005
0,012
0,000
0,000
0,000
0,012
29
92004868
0,018
0,005
0,013
0,000
0,000
0,000
0.013
30
92002697
0.012
0,012
0,000
0,000
0,000
0,000
0,000
31
92002698
0.036
0.013
0,023
0.000
0,000
0,000
0,023
32
92002927
0.562
0,013
0,549
0.487
0.000
0.487
0.062
33
92002948
0.048
0,046
0,002
o.ooo
0,000
0,000
0.002
34
92003057
0.047
0,035
0,012
0,000
0,000
0,000
0,012
35
92003064
0,165
0,035
0.130
0.136
0,000
0.136
-0,006
36
92003764
0,078
0,035
0,043
0.043
0,000
0,043
0.000
37
92003731
0,058
0,035
0,023
0.006
0,000
0.006
0.017
38
92003741
1.211
0,035
1,176
1.365
0,000
1.365
-0.189
39
92003702
0.113
0,035
0.078
0.025
0,000
0,025
0.053
4o
92003770
0.198
0,035
0.163
0.136
0,000
0,136
0.027
41
92003367
0.056
0,038
0.018
0,000
0,000
0.000
0.018
42
92003369
0.046
0,038
0.008
0,000
0.000
0.000
0.008
43
92003385
0.447
0,038
0,409
0.542
0.000
0.542
-0.133
44
92003862
0,240
0,048
0.192
0.176
0,047
0,129
0.063
45
92003864
0.158
0,048
0.110
0.144
0,047
0.097
0.013
46
92003888
0.141
0.048
0.093
0.160
0.047
0.113
-0.020
47
92004174
0.087
0,044
0.043
0,079
0,047
0.032
0,011
48
92005863
0.189
0,044
0.145
0,160
0.047
0,113
0,032
49
92003523
0,049
0.043
0.006
0,047
0,047
0.000
0.006
50
92003928
0.023
0,023
0,000
0.047
0.047
0.000
0.000
51
92003931
0.041
0.041
0.000
0.063
0,047
0.016
-0.016
52
92003935
0.058
0,044
0.014
0,079
0,047
0.032
-0,018
53
92005936
0,016
0,016
0.000
0.047
0,047
0,000
0.000
54
92004240
0.083
0,006
0.077
0.096
0.047
0,049
0.028
55
92004241
0.142
0,006
0,136
0.176
0,047
0.129
0,007
56
92004242
0.101
0.006
0.095
0.144
0,047
0.097
-0.002
57
92004146
0.017
0,006
0.011
0,063
0,047
0.016
-0,005
29
6.3.2 Bijlage 3b: berekening lineaire regressie 01-16-1995 17:35:19 NEW FILE: C:\STAT\STATCAL\CALDATA\vergafv.CAL POLYNOMIAL FIT DEGREE OF POLYNOMIAL SPECIFIED : 1 POLYNOMIALSTANDARD DEVDEGREES OF DEGREEOF RESIDUALSFREEDOM 00.764693956 10.1052155 < —USED FOR CALCULATION
POLYNOMIAL FIT COEFFICIENTS OF THE POLYNOMIAL (Y=A+B*X + C*X*2+ . . .) A = 2.222887E-02 B = .9850538 STANDARD DEVIATION OF RESIDUALS = .10521 TABLE OF RESIDUALS AAS AFS Nr 1 0.070 0,026 2 0.122 0,071 0,088 0,160 3 4 3.240 3.700 2,506 2,964 5 0.000 0,019 6 0,317 7 0.105 8 0.000 0,083 0.035 0.059 9 2,340 10 2,355 0,052 0,088 11 0,041 12 0.035 13 0.035 0.040 14 0,040 0,035 15 0,034 0.035 16 0,007 0.000 17 0,105 0,141 18 0,492 0,544 3,121 3,317 19 20 0,149 0,122 21 0.070 0.079 22 0,017 0.031 0,082 23 0,000 24 0,000 0,021 0.035 0,027 25 26 0,000 0.161 27 0,281 0,231 28 0,000 0.012 29 0,000 0,013 30 0,000 0,000 31 0.000 0.023 32 0.487 0.549 33 0.000 0,002 34 0,000 0,012 ! < 0.130 0.136 36 0,043 0,043 37 0,006 0.023
30
Weight
1
ST.DEV OF RESIDUALS = .10521 Y-Calc Residual Signif. Verschil 0,0911827 -0.0651827 NS -0,044 0,1424054 -0,0714054 NS -0,051 0.0510864 NS 0.072 0,1089136 *** -0.460 3.6669290 -0.4269285 2.4907740 0.4732258 •*• 0,458 0,0222289 -0,0032289 NS 0,019 0,1913405 NS 0.212 0,1256595 0,0222289 0,0607711 NS 0.083 0,0567058 0,0022942 NS 0.024 2.3420310 -0,0020308 NS -O.015 0,0734517 0.0145483 NS 0,036 0,0567058 -0.0157058 NS 0.006 NS 0,005 0,0567058 -0,0167058 NS 0.0567058 -0,0167058 0,005 0,0567058 -0.0227058 NS -0,001 0.007 0,0222289 -0,0152289 NS NS 0.036 0,1256595 0,0153405 0.052 0,5068755 0,0371246 NS 0,2204177 NS 0.196 3,0965820 0.1424054 NS 0.027 0,0065946 0.0911827 -0.0121827 NS 0.009 -0,0079748 NS 0,014 0.0389748 0.0597711 NS 0,082 0,0222289 -0,0012289 NS 0.021 0,0222289 0,0567058 -0.0297058 NS -0,008 0.1387711 NS 0,161 0.0222289 NS 0.050 0.2497764 0.0312236 NS 0.012 0.0222289 -0,0102289 -0,0092289 NS 0,013 0,0222289 0,000 0,0222289 -0,0222289 NS 0,0007711 0.023 0,0222289 NS 0,0470499 NS 0.062 0,5019501 0,0222289 -0,0202289 NS 0.002 -0,0102289 NS 0,012 0,0222289 -0.0261962 NS -0.006 0.1561962 -0,0215862 NS 0.000 0,0645862 -0,0051393 NS 0.017 0.0281393
Nr AAS AFS Weight Y-Calc Residual Signif. Verschil 1,365 • -0,189 38 1.176 1 1,3668270 -0.1908275 39 0,025 NS 0,053 0,078 1 0,0468552 0,0311448 40 0,136 0,163 0.0068038 NS 0,027 1 0,1561962 41 0.000 0.018 -0,0042289 NS 0,018 1 0,0222289 42 0.000 0,008 -0,0142289 NS 0,008 1 0,0222289 43 0.542 0.409 -0,1471281 NS -0,133 1 0,5561281 44 0,0426991 NS 0,129 0.192 1 0.1493009 0,063 0,097 NS 45 0.110 1 0.1177791 -0,0077791 0,013 NS 46 0.113 0.093 -0,0405399 -0,020 1 0,1335399 47 0,032 0,043 -0,0107506 NS 0,011 1 0,0537506 48 0.113 0,145 1 0,1335399 0,0114601 NS 0.032 -0,0162289 NS 49 0,000 0,006 1 0,0222289 0.006 50 0.000 0.000 1 0,0222289 -0,0222289 NS 0,000 -0.0379897 NS 0.016 0.000 1 0.0379897 -0,016 51 0.032 0.014 -0,0397506 NS -0,018 52 1 0.0537506 0,000 -0,0222289 NS 0.000 53 0,000 1 0,0222289 0,077 0,0065035 NS 0,028 54 0,049 1 0,0704965 0,129 0,136 -0,0133009 NS 0,007 55 1 0,1493009 56 0,097 0.095 1 0,1177791 -0.0227791 NS -0,002 57 NS 0,016 0,011 1 0,0379897 -0,0269897 -0,005 t-LIMITS: t(95) == 2.004571 t(99) == 2.670212 t(999)= 3.479586 55 DF — CONFIDENCE INTERVALS ARE INDICATED BY NS, * , ** AND *** •. NS MEANS COEFFICIENT IS NOT SIGNIFICANTLY DEVIATING FROM ZERO
31
STATISTK 4.0
16/01/95.20:59
UNWEIGHTED LEAST SQUARES LINEAR REGRESSION OF AFS PREDICTOR VARIABLES
COEFFICIENT
STD ERROR
STUDENT'S T
P
CONSTANT AAS
0.02223 0.98505
0.01496 0.01828
1.49 53.88
0.1429 0.0000
R-SQUARED ADJUSTED R-SQUARED
0.9814 0.9811
RESID. MEAN SQUARE (MSE) STANDARD DEVIATION
MS
F
SOURCE
DF
SS
P
REGRESSION RESIDUAL TOTAL
1 55 56
32.1375 32.1375 2903.34 0.0000 0.60880 0.01107 32.7463
CASES INCLUDED 57 MISSING CASES 0
1
STATISTDC 4.0
16/01/95.21:01
6.3.3 Bijlage 3c: berekening van de verschilanalyse DESCRIPTIVE STATISTICS VARIABLE VERSCHIL
f
32
N 57
LO 95% CI -0.0100
MEAN UP 95% CI 0.0178 0.0456
SD 0.1049
0.01107 0.10521
6.3.4 Bijlage 3d: berekening van de %2 voor afvalwater Berekening van de S A t s en S t t < t.b.v. afvalwater AFS
AAS 2
X
X
X
X2
(mg/kg)
(mg/kg)
(mg/kg)
(mg/kg)
1
4,70
22,09
5.50
30,25
2
5.10
26,01
5,50
30,25
3
5,30
28,09
5,60
31.36
4
5,40
29.16
5,90
34.81
5
5,40
29,16
5,90
34,81
6
5,80
33.64
5,90
34,81
7
5.80
33,64
5.90
34,81
8
5,80
33,64
5,90
34.81
9
5,90
34.81
6.00
36.00
10
5,90
34,81
6.00
36,00 37.21
11
6,10
37,21
6,10
12
6,20
38,44
6,10
37,21
13
6.30
39.69
6,20
38,44
14
6.30
39,69
6,20
38.44
15
6,30
39,69
6,30
39,69
16
6.40
40,96
6,30
39,69
14
6,50
42,25
6,30
39.69
18
6,50
42,25
6,40
40.96
19
6,50
42,25
6.40
40.96
20
6.60
43,56
6,40
40.96
21
6,70
44.89
6.50
42.25
22
6.80
46,24
6.50
42,25
23
6.80
46,24
6,60
43,56
24
6.90
47,61
6,60
43,56
25
6.90
47,61
6.70
44,89
26
7,00
49,00
6.70
44,89
27
7,00
49.00
7,00
49.00
28
7.70
59,29
7,00
49,00
E
174,6
1100,92
174.4
1090.56
n
28
28
28
28
X
|em
6.235714
Xgem
6.22857
SAFS
0,671215
IlUA
0.39894
33
X
(Mg/D
34
AAS
r
A
(Mg/D
(Mg/D
(Mg/D
X
AFS
1
0.026
0,070
0,003175
-0,044
2
0.071
0,122
0.004266
-0,051
3
0.160
0,088
0,008503
0,072
4
3,240
3,700
0.347067
-0,46
5
2.964
2,506
0,344055
0.458
6
0,019
0,000
0,000592
0,019
7
0,317
0,105
0,073717
0,212
8
0.083
0,000
0.011299
0,083
9
0.059
0,035
0.000945
0,024
10
2.340
2,355
0,000369
-0,015
ii
0,088
0,052
0,002126
0,036
12
0.041
0,035
0.000059
0,006
13
0.040
0,035
0,000041
0.005
14
0,040
0,035
0,000041
0,005
15
0,034
0,035
0,000002
-0,001
16
0.007
0,000
0,000080
0.007
17
0.141
0,105
0,002126
0,036
18
0,544
0,492
0.004435
0,052
is
3.317
3,121
0.063010
0,196
20
0.149
0.122
0,001196
0.027
21
0.079
0,070
0,000133
0,009
22
0,031
0,017
0,000321
0.014
23
0.082
0.000
0,011029
0.082
24
0,021
0,000
0,000723
0,021
25
0,027
0,035
0,000105
-0.008
26
0,161
0,000
0,042516
0,161
27
0.281
0,231
0.004101
0,050
28
0,012
0,000
0,000236
0,012
29
0.013
0,000
0,000277
0,013
30
0.000
0,000
0.000000
0.000
31
0.023
0,000
0.000868
0.023
32
0.549
0,487
0,006305
0.062
X
AAS
x2
A
(Mg/D
(Mg/D
(Mg/D
X
AFS
(Mg/D 33
0.002
0.000
0,000007
0,002
34
0.012
0,000
0.000236
0,012
35
0.130
0.136
0.000059
-0,006
36
0.043
0,043
0,000000
0,000
37
0.023
0.006
0.000474
0,017
38
1.176
1.365
0.058590
-0.189
'9
0.078
0,025
0.004607
0.053
40
0.163
0.136
0.001196
0.027
41
0.018
0,000
0.000531
0,018
42
0,008
0.000
0,000105
0.008
43
0,409
0.542
0,029014
-0,133
44
0,192
0.129
0,006510
0,063
45
0,110
0,097
0,000277
0,013
46
0,093
0.113
0.000656
-0.020
47
0.043
0,032
0.000198
0.011
4S
0,145
0.113
0.001680
0.032
49
0.006
0.000
0.000059
0.006
SO
0,000
0.000
0.000000
0,000
51
0,000
0.016
0.000420
-0,016
52
0,014
0.032
0.000531
-0,018
53
0,000
0.000
0.000000
0.000
54
0,007
0.049
0.002893
-0.042
55
0,136
0,129
0,000080
0.007
56
0,095
0,097
0.000007
-0,002
57
0.011
0,016
0.000041
-0.005
EX2 =1,041889 AFS is vergelijkbaar met AAS. indien P=0,01 is x t 2 83.5
Xf.AFS2 < Xf2 (P*=0.01;f)-
Bij 56 vrijheidsgraden en
35
36
6.4
Bijlage 4: Instrumentele condities
Oppervlaktewater NEN 6445
Afvalwater NEN 6449
Measured bij
Peak Ht
Peak Ht
RANGE
1000
1000
FINE
1,4
2,4
DELAY
10 sec
10 sec
RINSE
25 sec
25 sec
ANAL
0,5 min
0,5 min
MEMORY
60 sec
60 sec
CARRIER
0,3 l/min
0,3 l/min
SHEATH
0,3 l/min
0,3 l/min
DRYER
2,6 l/min
2,6 l/min
37
