matematikai statisztika október 24

´ sz´ınu ˝ s´ ´ m´ıta ´s Valo egsza ´ es matematikai statisztika

2006. október 24.

ii

Tartalomjegyz´ ek I.

Val´ osz´ın˝ us´ egsz´ am´ıt´ as

1

1. V´ eletlen jelens´ egek matematikai modellje 1.1. Valósz´ın˝ uségi mez˝o . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1.2. Nevezetes véletlen k´ısérletek . . . . . . . . . . . . . . . . . . . . . . . . . 1.3. Feladatok . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

3 3 7 12

2. Felt´ eteles val´ osz´ın˝ us´ eg, f¨ uggetlens´ eg 2.1. A f¨ uggetlenség tulajdonságai . . . . . . 2.2. A feltételes valósz´ın˝ uség tulajdonságai 2.3. Bayes döntés . . . . . . . . . . . . . . 2.4. Feladatok . . . . . . . . . . . . . . . .

. . . .

13 14 17 18 19

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

3. Val´ osz´ın˝ us´ egi v´ altoz´ ok 3.1. Valósz´ın˝ uségi változóval kapcsolatos események 3.2. Valósz´ın˝ uségi változók strukt´ urája . . . . . . . . 3.3. Valósz´ın˝ uségi változók eloszlása . . . . . . . . . 3.4. Nevezetes eloszlás´ u valósz´ın˝ uségi változók . . . 3.5. Feladatok . . . . . . . . . . . . . . . . . . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

21 21 23 24 30 35

4. V´ arhat´ o´ ert´ ek, sz´ or´ as 4.1. Várható érték . . . . . . . . 4.2. Szórás . . . . . . . . . . . . 4.3. Nevezetes eloszlások várható 4.4. Momentumok, kovariancia . 4.5. Feladatok . . . . . . . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

37 37 42 43 45 47

5. Nagy sz´ amok t¨ orv´ enye 5.1. Nevezetes egyenl˝otlenségek . . . . . . . . . . . . . . . . . . . . . . . . . . 5.2. Nagy számok törvényei . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5.3. Feladatok . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

51 51 53 54

6. Karakterisztikus f¨ uggv´ eny 6.1. Határeloszlások . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6.2. Véletlen tagszám´ u o¨sszeg . . . . . . . . . . . . . . . . . . . . . . . . . . . 6.3. Feladatok . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

57 61 66 67

. . . . . . . . értéke, . . . . . . . .

iii

. . . . . . . . . . szórása . . . . . . . . . .

. . . . .

. . . . .

´ TARTALOMJEGYZEK

iv 7. Vektor val´ osz´ın˝ us´ egi v´ altoz´ ok jellemz˝ oi 7.1. Jelölések, elnevezések . . . . . . . . . . . . . . 7.1.1. Várható érték, kovariancia mátrix . . . 7.1.2. Karakterisztikus f¨ uggvény . . . . . . . 7.2. Vektor valósz´ın˝ uségi változó f˝okomponensei . . 7.3. Normális eloszlás´ u vektor valósz´ın˝ uségi változó 7.4. Feladatok . . . . . . . . . . . . . . . . . . . .

. . . . . .

69 69 70 71 72 75 78

8. Nevezetes eloszl´ asok 8.1. χ2 eloszlás . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8.2. T és F -eloszlás . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8.3. Feladatok . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

81 81 86 88

9. Regresszi´ o anal´ızis 9.1. Többváltozós lineáris regresszió . . . . . . 9.2. Elméleti regresszió, feltételes várható érték 9.3. Bayes döntés . . . . . . . . . . . . . . . . 9.4. Feladatok . . . . . . . . . . . . . . . . . .

. . . .

. . . .

. . . . . .

. . . .

. . . . . .

. . . .

10.Sztochasztikus folyamatok 10.1. Véletlen eseményfolyamat, Poisson folyamat . . . 10.2. Brown-mozgás, Wiener folyamat . . . . . . . . . . 10.3. F¨ uggetlen és stacionárius növekmény˝ u folyamatok 10.4. Stacionárius folyamatok . . . . . . . . . . . . . . 10.5. Feladatok . . . . . . . . . . . . . . . . . . . . . .

II.

. . . . . .

. . . . . . . . .

. . . . . .

. . . . . . . . .

. . . . . .

. . . . . . . . .

. . . . . .

. . . . . . . . .

. . . . . .

. . . . . . . . .

. . . . . .

. . . . . . . . .

. . . . . .

. . . . . . . . .

. . . . . .

. . . . . . . . .

. . . . . .

. . . . . . . . .

. . . . . .

. . . . . . . . .

. . . . . .

. . . . . . . . .

. . . . . .

. . . . . . . . .

. . . .

89 89 93 103 105

. . . . .

107 109 114 118 122 130

Matematikai statisztika

11.A matematikai statisztika alapfogalmai 11.1. Statisztikai mez˝o . . . . . . . . . . . . 11.2. Statisztikák . . . . . . . . . . . . . . . 11.3. Paraméterek . . . . . . . . . . . . . . . 11.4. Likelihood f¨ uggvény . . . . . . . . . . . 11.5. Feladatok . . . . . . . . . . . . . . . .

133 . . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

12.Param´ eterbecsl´ es 12.1. Pontbecslés . . . . . . . . . . . . . . . . . . . . . . . . . 12.2. Becslések hatékonysága . . . . . . . . . . . . . . . . . . . 12.2.1. Maximum likelihood becslés . . . . . . . . . . . . 12.2.2. Hatékonyabb becslés mint az elégséges statisztika f¨ uggvénye . . . . . . . . . . . . . . . . . . . . . . 12.2.3. A hatékonyság információs határa . . . . . . . . . 12.3. Intervallum becslések . . . . . . . . . . . . . . . . . . . . 12.4. Feladatok . . . . . . . . . . . . . . . . . . . . . . . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

. . . . .

135 135 138 140 141 145

147 . . . . . . . . . 147 . . . . . . . . . 153 . . . . . . . . . 153 . . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

154 154 158 162

´ TARTALOMJEGYZEK

v

13.Hipot´ ezis vizsg´ alat 13.1. Alapfogalmak . . . . . . . . . . . . . . . 13.2. Valósz´ın˝ uséghányados próba . . . . . . . 13.2.1. Bartlett próba . . . . . . . . . . . 13.2.2. Valósz´ın˝ uség próbája, (n;c) terv . 13.3. Normális eloszlás paramétereinek próbái 13.4. Feladatok . . . . . . . . . . . . . . . . .

. . . . . .

. . . . . .

14.Line´ aris f¨ ugg˝ os´ egi kapcsolat 14.1. Egyenl˝o mérték˝ u, f¨ uggetlen megfigyelési hiba 14.2. Korrelált megfigyelési hibák . . . . . . . . . 14.3. Ridge becslés . . . . . . . . . . . . . . . . . 14.4. Nemlineáris regressziós f¨ uggvények . . . . . 14.5. Feladatok . . . . . . . . . . . . . . . . . . .

. . . . . . . . . . .

. . . . . . . . . . .

. . . . . . . . . . .

. . . . . . . . . . .

. . . . . . . . . . .

. . . . . . . . . . .

. . . . . . . . . . .

. . . . . . . . . . .

. . . . . . . . . . .

. . . . . . . . . . .

. . . . . . . . . . .

. . . . . . . . . . .

. . . . . . . . . . .

. . . . . . . . . . .

. . . . . . . . . . .

. . . . . .

165 165 167 168 170 172 176

. . . . .

177 177 184 186 187 189

15.Sz´ or´ asanal´ızis 191 15.1. Rögz´ıtett hatások modellje . . . . . . . . . . . . . . . . . . . . . . . . . . 192 15.2. Véletlen hatások modellje . . . . . . . . . . . . . . . . . . . . . . . . . . 196 15.3. Feladatok: . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 197 16.Nem param´ eteres pr´ ob´ ak 16.1. Illeszkedés vizsgálat . . . 16.2. F¨ uggetlenség vizsgálat . 16.3. Homogenitás vizsgálat . 16.4. Feladatok . . . . . . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

. . . .

199 199 202 204 207

A. M´ ert´ ek ´ es integr´ al 209 A.1. Mérték . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 209 A.2. Mérhet˝o f¨ uggvény . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 214 A.3. Integrál . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 215 B. T´ abl´ azatok

219

C. K´ epletek

229

Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.

vi

´ TARTALOMJEGYZEK

I. r´ esz Val´ osz´ın˝ us´ egsz´ am´ıt´ as

1

1. fejezet V´ eletlen jelens´ egek matematikai modellje 1.1.

Val´ osz´ın˝ us´ egi mez˝ o

Véletlen jelenségek körének meghatározása hasonló nehézségekkel jár, mint más természettudományok esetén a vizsgálatok tárgyának megadása. Azt azonban elfogadhatjuk, és mindennapi szóhasználatunk is ezt jelzi, hogy vannak olyan jelenségek, történések, melyek lejátszódásával kapcsolatos bizonytalanságunkat u ´ gy fejezz¨ uk ki, hogy a ”véletlen¨ ul”, ”találomra”, stb. kifejezéseket használjuk. Ilyen jelenségek például egy kocka dobása, vagy egy adott helyen és id˝opontban mérhet˝o id˝ojárási elem (pl. h˝omérséklet). Ezen jelenségekr˝ol b˝oséges tapasztalat szerezhet˝o ismételt megfigyelés¨ ukkel. Ilyen tapasztalat, hogy szabályos kockát dobva minden eredmény hasonló gyakorisággal következik be, vagy másképp fogalmazva, egyforma esély˝ u, illetve januárban kevésbé valósz´ın˝ u a 20C◦ feletti h˝omérséklet, mint a fagypont alatti, vagy a´ltalában a gyakrabban bekövetkez˝o dolgokat, éppen gyakoriságuknak megfelel˝oen, valósz´ın˝ ubbnek mondjuk. Foglaljuk most o¨ssze az ilyen, un. véletlen k´ısérletek közös vonásait: • a véletlen k´ısérletnek jól meghatározható kimenetelei vannak; • bizonyos kimenetelek bekövetkezésének eseményér˝ol beszélhet¨ unk; • az ilyen események bekövetkezési esélye mennyiségi formában megadható; Célunk olyan modell megfogalmazása, ahol mindezeknek matematikai fogalmakat feleltet¨ unk meg, és matematikai módszerekkel olyan eredményeket nyerhet¨ unk, amelyek seg´ıtenek ezen jelenségek megértésében, illetve a tapasztalat a´ltal is meger˝os´ıthet˝o törvényszer˝ uségeket tudunk bizony´ıtani. Egy ilyen modell seg´ıtségével olyan következtetések is ”levezethet˝ové” válnak, melyek tapasztalatinkb˝ol közvetlen¨ ul nem következtethet˝ok ki, lehet˝ové téve ezzel ilyen eredmények széleskör˝ u alkalmazását.

3

´ ´ 1. FEJEZET. VELETLEN JELENSEGEK MATEMATIKAI MODELLJE

4

1.1. Defin´ıci´ o. Valósz´ın˝ uségi mez˝onek nevezz¨ uk az (Ω, A, P ) hármast, ahol • Ω – az elemi események halmaza, eseménytér; • A ⊂ 2Ω – az eseménytér részeinek egy σ-algebrája, az eseményalgebra, azaz teljes¨ ulnek: A1 Ω ∈ A ;

A2 ha A ∈ A akkor A = Ω \ A ∈ A ; A3 ha An ∈ A n = 1, 2, . . .

akkor

∞ S

n=1

An ∈ A ;

• P : A → R – f¨ uggvény, a valósz´ın˝ uségi mérték, azaz teljes¨ ulnek: P1 P (Ω) = 1 ; P2 ha A ∈ A akkor P (A) ≥ 0 ;

P3 ha An ∈ A n = 1, 2, . . . és Ak ∩ Al = ∅ k 6= l = 1, 2, . . . akkor ! ∞ ∞ [ X An = P (An ) ; P n=1

n=1

Tehát a valósz´ın˝ uségi mez˝o egy mértéktér véges mértékkel (lásd A. F¨ uggelék). A továbbiakban minden esetben egy ilyen modellt tételez¨ unk fel, és ha k¨ ulön nem is eml´ıtj¨ uk, fogalmaink egy (Ω, A, P ) valósz´ın˝ uségi mez˝ovel lesznek kapcsolatosak. Az alábbiakban felsorolunk néhány egyszer˝ uen következ˝o tulajdonságot, és itt használatos elnevezést, kifejezést. 1. Az A eseményalgebra elemei az események, Ω ∈ A a biztos esemény. 2. Mivel ∅ = Ω ∈ A, az ∅ u ¨ res halmazt lehetetlen eseménynek nevezz¨ uk. 3. Az eseményalgebra zárt a szokásos m¨ uveletekre: ha A, B ∈ A akkor • A ∪B = A∪B ∪∅∪ ∅∪... ∈ A • A∩B =A∪B ∈A

• A\B =A∩B ∈A

4. A lehetetlen esemény valósz´ın˝ usége 0, mivel P (∅) = P (∅ ∪ ∅ ∪ ∅ ∪ . . .) = P (∅) + P (∅) + P (∅) + . . . ami csak u ´ gy teljes¨ ulhet, ha P (∅) = 0.

´ ÍNUS ˝ EGI ´ ˝ 1.1. VALOSZ MEZO

5

5. A valósz´ın˝ uségi mérték végesen addit´ıv: ha A, B ∈ A és A ∩ B = ∅ vagyis A és B kiz´ arj´ ak egymást, akkor A∪ B = A ∪B ∪ ∅∪ ∅∪... kizáró események egyes´ıtése, és ´ıgy P (A ∪ B) = P (A) + P (B) + 0 + 0 + . . . = P (A) + P (B) . 6. Néhány további ”számolási szabály”: ha A, B ∈ A akkor • mivel Ω = A ∪ A kizáró események u ´ niója, ´ıgy 1 = P (A) + P (A), tehát P (A) ≤ 1

P (A) = 1 − P (A) ;

és

• mivel A = (A ∩ B) ∪ (A \ B) kizáró események u ´ niója, ´ıgy P (A \ B) = P (A) − P (A ∩ B) ; ha teljes¨ ul még A ⊃ B, vagyis B bek¨ ovetkezése maga ut´ an vonja A bek¨ ovetkezését, akkor P (A) ≥ P (B) és P (A \ B) = P (A) − P (B) ; • mivel A ∪ B = A ∪ (B \ A) kizáró események u ´ niója, használva az el˝oz˝o eredményt, kapjuk P (A ∪ B) = P (A) + P (B) − P (A ∩ B) ; • az el˝oz˝o eredményb˝ol kapjuk a valósz´ın˝ uség un. szubaddit´ıv tulajdonságát: P (A ∪ B) ≤ P (A) + P (B) ami véges vagy megszámlálható u ´ nióra is következik. 7. A valósz´ın˝ uségi mérték folytonossága: ha A1 ⊂ A2 ⊂ . . . ∈ A, akkor B1 = A 1 , B2 = A 2 \ A 1 , B3 = A 3 \ A 2 , . . . páronként kizáró események, és egyes´ıtés¨ uk ∞ [

n=1

Bn =

∞ [

An ,

n=1

amib˝ol kapjuk ! ∞ [ P An = P (A1 ) + (P (A2 ) − P (A1 )) + (P (A3 ) − P (A2 )) + . . . = lim P (An ) . n→∞

n=1

Hasonlóan teljes¨ ul A1 ⊃ A2 ⊃ . . . ∈ A esetén ! ∞ \ P An = lim P (An ) . n=1

n→∞


6


A továbbiakban néhány tipikus, véletlen jelenségek modellezésére jól használható példát adunk valósz´ın˝ uségi mez˝ok megadására. 1. Kombinat´ orikus val´ osz´ın˝ us´ egsz´ am´ıt´ asi probl´ em´ ak Véges sok, egyform´ an val´ osz´ın˝ u kimenetellel rendelkez˝ o véletlen k´ısérlet modellje. Ω = {ω 1 , ω 2 , . . . , ω n } A = 2Ω < A elemeinek száma > P (A) = < Ω elemeinek száma >

A⊂Ω

ahol 2Ω jel¨ ol¨ oli Ω o ¨sszes részeinek halmaz´ at (hatv´ anyhalmaz´ at). 2. ”Diszkr´ et” val´ osz´ın˝ us´ egi mez˝ o Véges vagy megsz´ aml´ alhat´ oan végtelen sok kimenetel˝ u véletlen k´ısérlet modellje, ahol a kimenetelek val´ osz´ın˝ uségei egy (pn )n=1,2,... diszkrét valósz´ın˝ uségeloszlással adottak. Ω = {ω 1 , ω 2 , . . . , ω n , . . .} A = 2Ω X P (A) = pn ω n ∈A

ahol (pn )n=1,2,... egy diszkrét val´ osz´ın˝ uségeloszl´ as, azaz pn ≥ 0 n = 1, 2, . . .

és

X

pn = 1.

n

3. Geometriai val´ osz´ın˝ us´ egsz´ am´ıt´ asi probl´ em´ ak Rn valamely véges, pozit´ıv mérték˝ u részhalmaz´ at kit¨ olt˝ o kimenetelekkel rendelkez˝ o véletlen k´ısérlet modellje, ahol egy résztartom´ any bek¨ ovetkezési val´ osz´ın˝ usége ar´ anyos annak mértékével. Ω ⊂ Rn A = {Ω ∩ B | B ∈ Bn } < A mértéke > P (A) = A∈A < Ω mértéke > ahol Bn jel¨ oli az Rn intervallumait tartalmaz´ o legsz˝ ukebb σ-algebr´ at. 4. ”Folytonos” val´ osz´ın˝ us´ egi mez˝ o A véletlen k´ısérlet kimenetelei Rn (vagy valamely mérhet˝ o részének) pontjaival n azonos´ıthat´ ok, és egy x ∈ R pont ”kis” k¨ ornyezetébe esés val´ osz´ın˝ usége ar´ anyos

´ ´ 1.2. NEVEZETES VELETLEN KÍSERLETEK

7

egy valósz´ın˝ uségi s˝ ur˝ uségf¨ uggvény f (x) értékével. Ω = Rn A = B Zn P (A) = f

A∈A

A

ahol az f : Rn → R egy val´ osz´ın˝ uségi s˝ ur˝ uségf¨ uggvény, azaz Z n f (x) ≥ 0 x ∈ R és f = 1. Rn

A fenti példákban a 1.1 defin´ıciónak megfelel˝o hármast adtunk meg, ami a 2. példa kapcsán egyszer˝ uen ellen˝or´ızhet˝o, az 1. példa pedig ennek speciális esete a pk =

1 n

k = 1, 2, . . . n

valósz´ın˝ uségeloszlással. A 4. példa az A. f¨ uggelék egyik példája mérték megadására, és a 3. példa lényegében az el˝obbi speciális esete az 1 ha x ∈ Ω <Ω mértéke> f (x) = 0 egyébként valósz´ın˝ uségi s˝ ur˝ uségf¨ uggvény választásával.

1.2.

Nevezetes v´ eletlen k´ıs´ erletek

Az alábbiakban felsorolunk néhány nevezetes véletlen jelenséget, megfogalmazzuk a vel¨ uk kapcsolatos valósz´ın˝ uségi modellt, és megadjuk események valósz´ın˝ uségeit. Ezek a valósz´ın˝ uségi mez˝ok a fenti példák konkrét esetei lesznek, ezért mind´ıg csak az Ω eseményteret és a megfelel˝o diszkrét valósz´ın˝ uségeloszlást, illetve valósz´ın˝ uségi s˝ ur˝ uségf¨ uggvényt adjuk meg. (1) Visszatev´ es n´ elk¨ uli mintav´ etel Egy N ∈ N+ elemsz´ am´ u halmaz elemei k¨ oz¨ ott M ≤ N sz´ am´ u megjel¨ olt van. Véletlenszer˝ uen kiv´ alasztva n ≤ N sz´ am´ ut, mennyi annak val´ osz´ın˝ usége, hogy k sz´ am´ u megjel¨ olt van a kiv´ alasztottak k¨ oz¨ ott, azaz a mintában? Legyen • Ω az N elem n-ed osztály´ u ismétlés nélk¨ uli kombinációinak CNn = szám´ u halmaza, • minden kombináció egyformán valósz´ın˝ u,

N n

elem-

• Ak – esemény (azon kombinációk halmaza). amikor a kiválasztottak között k-szám´ u megjelölt van, k = 0, 1, 2, . . . n. Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


8

Használjuk a továbbiakban az a = 0 ha a < b ∈ N b értelmezést, amivel Ak elemszáma M N −M · , k n−k tehát P (Ak ) =

M k

·

N −M n−k N n

k = 0, 1, 2, . . . n.

(1.1)

Mivel az Ak k = 0, 1, 2, . . . n események páronként kizáróak, és Ω = ∪nk=0 Ak , teljes¨ ul n X

P (Ak ) = 1

k=0

vagyis (1.1) egy diszkrét valósz´ın˝ uségeloszlás, amit hipergeometriai eloszl´ asnak nevez¨ unk. (2) Visszatev´ eses mintav´ etel Egy N ∈ N+ elemsz´ am´ u halmaz elemei k¨ oz¨ ott M ≤ N sz´ am´ u megjel¨ olt van. Véletlenszer˝ uen kiv´ alasztva n ≤ N sz´ am´ ut egym´ as ut´ an a kiv´ alasztottak visszatevésével, mennyi annak val´ osz´ın˝ usége, hogy k sz´ am´ u megjel¨ olt van a mint´ aban? Legyen • Ω az N elem n-ed osztály´ u ismétléses variációinak VNn,i = N n elemszám´ u halmaza, • minden variáció egyformán valósz´ın˝ u,

• Ak – esemény (azon variációk halmaza), amikor a választottak között k-szám´ u megjelölt van, k = 0, 1, 2, . . . n.

Mivel Ak elemszáma

ap=

M N

n · M k · (N − M )n−k , k

jelölést bevezetve kapjuk: n · pk · (1 − p)n−k P (Ak ) = k

k = 0, 1, 2, . . . n.

(1.2)

Az Ak k = 0, 1, 2, . . . n események most is páronként kizáróak, és Ω = ∪nk=0 Ak , tehát n X P (Ak ) = 1 k=0

vagyis (1.2) egy diszkrét valósz´ın˝ uségeloszlás, amit binomi´ alis eloszl´ asnak nevez¨ unk.


9

(3) Bernoulli k´ıs´ erlet Egy p ∈ [0; 1] val´ osz´ın˝ uség˝ u esemény n-ismételt megfigyelése esetén mennyi annak val´ osz´ın˝ usége, hogy a figyelt esemény k-szor k¨ ovetkezik be? Vegy¨ uk észre, hogy a visszatevéses mintavételtben egy p = M valósz´ın˝ uség˝ u eseN ményt figyel¨ unk meg n-szer, és Ak éppen azt jelenti, hogy k-szor következik be a figyelt esemény, azaz a megjelölt választása. Tehát választhatjuk • Ω = {0, 1, 2, . . . , n} • pk = nk · pk · (1 − p)n−k

k = 0, 1, 2, . . . n.

Ezek a példák a véletlen jelenségekr˝ol szerezhet˝o tapasztalatok leggyakoribb forrásait modellezik. Az ismételt megfigyelésb˝ol szerezhet˝o tapasztalataink szerint egy esemény bekövetkezéseinek relat´ıv gyakorisága a vélelmezett valósz´ın˝ uség egyfajta közel´ıtése. Ezt igazolni látszik az a könnyen ellen˝or´ızhet˝o kör¨ ulmény is, hogy a hipergeometriai és binomiális eloszlások legnagyobb valósz´ın˝ uségei az np értékhez legközelebbi egészek egyike lesz. Tehát az np érték mint ”átlagos” illetve ”legvalósz´ın˝ ubb” gyakoriság értelmezhet˝o. Ezzel a fogalommal lehet˝ové válik olyan jelenségek modellezése, ahol a megfigyelések n száma igen nagy, és a p bekövetkezési valósz´ın˝ uség nagyon kicsi, de az ”átlagos” gyakoriság megadható mint egy 0 < λ mennyiség. Létezik ugyanis a következ˝o határérték n λk −λ n−k k lim · p · (1 − p) = ·e k = 0, 1, 2, . . . (1.3) n→∞ k k! np=λ és

∞ X λk k=0

k!

· e−λ = 1,

tehát (1.3) egy diszkrét valósz´ın˝ uségeloszlást, az un. Poisson eloszl´ ast határoz meg, amivel megfogalmazhatjuk a következ˝o véletlen k´ısérletet. (4) V´ eletlen esem´ enysz´ am Egy a ´tlagosan λ-szor bek¨ ovetkez˝ o esemény véletlen sz´ am´ u bek¨ ovetkezésének megfigyelése. Legyenek • Ω=N • pk =

λk k!

· e−λ

k∈N.

Ha ez utóbbi k´ısérletet olyan esetben fogalmazzuk meg, amikor egy esemény bekövetkezése egy berendezés meghibásodását jelenti, és λ az id˝oegységre jutó meghibásodások a´tlagos száma, akkor t-id˝otartam´ u meghibásodás mentes m˝ uködés valósz´ın˝ usége: Z ∞ p0 = e−λt = λ · e−λt dt , t



10 ahol

f (t) =

λ · e−λt ha 0 ≤ t 0 egyébként

egy un. exponenci´ alis valósz´ın˝ uségi s˝ ur˝ uségf¨ uggvény. Megfogalmazhatjuk tehát a következ˝o véletlen k´ısérletet, melynek modellje egy folytonos valósz´ın˝ uségi mez˝o. (5) V´ eletlen id˝ otartam u véletlen id˝ otartam megfigyelése esetén, adjuk meg egy Egy a ´tlagosan T = λ1 idej˝ t-nél hosszabb id˝ otartam bek¨ ovetkezésének val´ osz´ın˝ uségét! Legyenek • Ω = R+

• f (t) = λ · e−λt

• At = [t; +∞[

t ∈ R+

a 0 < t-nél hosszabb id˝otartam megfigyelésének eseménye,

akkor P (At ) = e

−λt

=

Z

∞ t

λ · e−λt dt t > 0 .

(1.4)

Vizsgáljuk a következ˝o k´ısérletet: egy lejt˝on az alábbi módon helyez¨ unk el ékeket 2n szám´ u sorban, és egy golyót legur´ıtunk u ´ gy, hogy az minden soron a´thaladva, és egy éknél véletlenszer˝ uen irányt változtatva érkezik le a k = −n, −(n−1), . . . , −1, 0, 1, . . . , (n−1), n helyek valamelyikére.

−n

.. . 4

4 ···

4 .. . 4

4 4 0

4 .. . 4

4 ···

.. . 4

1. sor 2. sor 3. sor .. . 2n. sor n érkezési helyek

A k helyre érkezés pontosan akkor következik be, ha a golyó 2n szám´ u u ¨ tközésb˝ol n − k szám´ uszor fog jobbra gurulni, és feltehetj¨ uk a jobbra és balra haladás egyforma valósz´ın˝ uségét. Tehát a Bernoulli késérlet szerint a k helyre érkezés valósz´ın˝ usége: 2n 1 pk = · 2n k = 0, ±1, ±2, . . . , ±n . n−k 2 Ha a sorok számát növelj¨ uk, de egyben a méretek csökkentésével elérj¨ uk, hogy a leérkezési 1 helyek egymás közti távolsága csökkenjen, és éppen √n legyen, az x = √kn rögz´ıtett helyre érkezés valósz´ın˝ uségére nyerj¨ uk a következ˝o határértéket: lim n→∞

x= √k n

√

1 2 n · pk = √ · e−x π

x∈R.

(1.5)


Ezt felhasználva, elég nagy tábla esetén, két x1 = eseményének valósz´ın˝ uségére kapjuk:

P A[x1 ;x2 ] = ahol xk =

√k n

l2 X

k=l1

11 l1 √ n

< x2 =

l2 √ n

hely közé érkezés A[x1 ;x2 ]

Z x2 l2 X 1 1 1 2 −x2k √ ·e √ · e−x dx ·√ ≈ pk ≈ π n π x1 k=l 1

k = l1 , · · · , l2 . Tehát egy folytonos valósz´ın˝ uségi modellt kapunk az 1 2 f (x) = √ · e−x π

x∈R

s˝ ur˝ uségf¨ uggvénnyel. Ennek egyszer˝ u transzformáltjaként kapható f (x) = √

(x−m)2 1 · e− 2σ2 2π · σ

x∈R

(1.6)

az un. Gauss, vagy norm´ alis valósz´ın˝ uségi s˝ ur˝ uségf¨ uggvény a´ltalános alakja, ahol m ∈ R és σ > 0. Mindezek alapján megfogalmazhatjuk sok véletlen eltérés o¨sszegének, mint pl. egy mérés véletlen eredményének modelljét. (6) M´ er´ esi eredm´ eny Sok kicsiny eltérés o ¨sszegeként nyerhet˝ o véletlen érték megfigyelése. Legyenek • Ω=R • f (x) =

√1 2π·σ

· e−

(x−m)2 2σ 2

x∈R

ahol az f normális s˝ ur˝ uségf¨ uggvény alakja miatt, m a hiba mentes, igazi érték, σ > 0 pedig a pontosság egyfajta mértékeként értelmezhet˝o. Egy [x1 ; x2 ] intervallumba es˝o érték megfigyelésének valósz´ın˝ usége Z x2 (x−m)2 1 √ P ([x1 ; x2 ]) = · e− 2σ2 dx . (1.7) 2π · σ x1 (7) V´ eletlen pont v´ alaszt´ asa Egy [a; b] ⊂ R intervallumban v´ alasszunk tal´ alomra egy sz´ amot, adjuk meg annak val´ osz´ın˝ uségét, hogy a pont egy [x; y] ⊂ [a; b] részintervallumba esik! Legyenek

• Ω = [a; b] • f (x) =

1 b−a

x ∈ [a; b] ,

akkor egy [x1 ; x2 ] ⊂ [a; b] intervallumba es˝o érték választásának valósz´ın˝ usége Z x2 1 x2 − x 1 P ([x1 ; x2 ]) = = dx . (1.8) b−a x1 b − a Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


12

1.3.

Feladatok

1. Legyenek A1 , A2 , . . . , An páronként diszjukt halmazok, és Ω = ∪nk=1 Ak . Adjuk meg az ezeket tartalmazó legsz˝ ukebb eseményalgebrát, és az ezen értelmezhet˝o valószn´ın˝ uségi mértékeket mi határozza meg? 2. Legyenk A1 , A2 , . . . , An halmazok, és Ω = ∪nk=1 Ak , továbbá teljes¨ uljön

A∗1 ∩ A∗2 ∩ . . . ∩ A∗n 6= ∅ ahol A∗k vagy az Ak halmaz, vagy A¯k = Ω \ Ak k = 1, 2, . . . n. Adjuk meg az ezeket tartalmazó legsz˝ ukebb eseményalgebrát, és mutassuk meg, hogy pontosan egy olyan valósz´ın˝ uségi mérték adható meg ezen, hogy teljes¨ uljenek P

(A∗1

∩

A∗2

P (Ak ) = pk ∈ [0; 1] k = 1, 2, . . . n ∩ . . . ∩ A∗n ) = P (A∗1 ) · P (A∗2 ) · . . . · P (A∗n ) .

3. Adjuk meg a hipergeometriai, binomiális és Poisson eloszlás legnagyobb valósz´ın˝ uségét! 4. Igazoljuk az (1.5) határértéket az √ n! = αn · 2πn · nn · e−n

ahol

lim αn = 1

n→∞

Stirling formula seg´ıtségével! 5. Vizsgáljuk az (1.6) f¨ uggvény menetét, és mutassuk meg, hogy valósz´ın˝ uségi s˝ ur˝ uségf¨ uggvény! 6. Szám´ıtsuk ki a LOTTO jéték kapcsán a k¨ ulönböz˝o nyer˝o osztályok valósz´ın˝ uségeit! 7. Egy jegypénztárban 500Ft-ért lehet egy jegyet vásárolni. Ha 100 sorbanálló mindegyike egy jegyet vásárol, és negyvenen ezressel, hatvanan pedig o¨tszázassal akarnak fizetni, mennyi annak valósz´ın˝ usége, hogy a nyitáskor u ¨ res pénztár ellenére nem lesz fennakadás? 8. Mi valósz´ın˝ ubb: (a) egy kockával 4 dobásból legalább egyszer hatost dobni? (b) két kockával 24 dobásból legalább egyszer dupla hatost dobni? 9. n1 szám´ u 1-est és n2 szám´ u 0-át véletlenszer˝ uen elrendezve, adjunk rekurz´ıv formulát annak valósz´ın˝ uségére, hogy a véletlen sorrendben az egyeseket o¨sszesen k = 0, 1, . . . , n1 · n2 szám´ u nulla el˝ozi meg! 10. Egy s´ıklapon egymástól d távolságra párhuzamos vonalak vannak, és egy l < d hossz´ uság´ u t˝ ut ejt¨ unk találomra a s´ıkra. Mennyi annak valósz´ın˝ usége, hogy valamelyik vonalat metszi a t˝ u? 11. Egy r sugar´ u körben találomra választott h´ ur milyen valósz´ın˝ uséggel lesz r-nél rövidebb?

2. fejezet Felt´ eteles val´ osz´ın˝ us´ eg, f¨ uggetlens´ eg Véletlen jelenségek kapcsán megfogalmazott valamely esemény bekövetkezése esetén, más események bekövetkezésének esélyét sok esetben u ´ jra értékelj¨ uk, és kevésbé vagy még inkább valósz´ın˝ unek vélj¨ uk mint korábban. Mindezt annak megfelel˝oen tessz¨ uk, hogy a vizsgált eseményt alkotó kimenetelek milyen mértékben ”töltik” ki a bekövetkezett eseményt. 2.1. Defin´ıci´ o. Legyenek A, B ∈ A események, és P (B) > 0. Az A esemény B-re vonatkozó feltételes valósz´ın˝ uségének nevezz¨ uk: P (A | B) =

P (A ∩ B) P (B)

Az ´ıgy definiált feltételes valósz´ın˝ uséget az A esemény (feltétel nélk¨ uli, abszulut, teljes) valósz´ın˝ uségével o¨sszehasonl´ıtva, mondhatjuk: • P (A | B) > P (A) ⇒ B bekövetkezése esetén az A esemény bekövetkezése valósz´ın˝ ubb. • P (A | B) < P (A) ⇒ B bekövetkezése esetén az A esemény bekövetkezése kevésbé valósz´ın˝ u. • P (A | B) = P (A) ⇒ B bekövetkezése nem befolyásolja az A esemény bekövetkezési esélyét, és ilyenkor ha még P (A) > 0 is teljes¨ ul, kapjuk P (B | A) = P (B) és P (A ∩ B) = P (A) · P (B) . Tehát ez utóbbi esetben A bekövetkezése sem befolyásolja a B esemény bekövetkezési esélyét, ami a következ˝o fogalom defin´ıciójához vezet. 2.2. Defin´ıci´ o. i) Az A, B ∈ A eseményeket f¨ uggetleneknek nevezz¨ uk, ha teljes¨ ul P (A ∩ B) = P (A) · P (B) . 13

´ ´ ÍNUS ˝ EG, ´ FUGGETLENS ¨ ´ 2. FEJEZET. FELTETELES VALOSZ EG

14

ii) Az A1 , A2 , . . . ⊂ A eseményhalmazokat, vagy másképpen eseményrendszereket páronként f¨ uggetleneknek nevezz¨ uk, ha A ∈ Ak

és B ∈ Al f¨ uggetlenek k 6= l = 1, 2, . . . .

iii) Az A1 , A2 , . . . ⊂ A eseményrendszereket teljesen f¨ uggetleneknek nevezz¨ uk, ha A ki ∈ A ki

{k1 , k2 , . . . , kn } ⊂ N+

n ∈ N+

esetén teljes¨ ul P (Ak1 ∩ Ak2 ∩ . . . ∩ Akn ) = P (Ak1 ) · P (Ak2 ) · . . . · P (Akn ) . A f¨ uggetlenség fogalma tehát a feltételes valósz´ın˝ uség értelmezésének egyszer˝ u következménye. Ha az eseményrendszerek egyetlen eseményb˝ol a´llnak, az eseményeket mondjuk páronként illetve teljesen f¨ uggetleneknek.

2.1.

A f¨ uggetlens´ eg tulajdons´ agai

A 2.2 defin´ıcióból következik néhány egyszer˝ u a´ll´ıtás, megjegyzés: 1. Ha eseményrendszerek teljesen f¨ uggetlenek, akkor páronként is f¨ uggetlenek, és az A k1 ∩ A k2 ∩ . . . ∩ A kn

A l1 ∩ A l2 ∩ . . . ∩ A lm

események f¨ uggetlenek, ahol Aki ∈ Aki {k1 , k2 , . . . , kn } ⊂ N+ n ∈ N+ Ali ∈ Ali {l1 , l2 , . . . , lm } ⊂ N+ m ∈ N+ ∅ = {k1 , k2 , . . . , kn } ∩ {l1 , l2 , . . . , lm } . A teljes f¨ uggetlenség tehát azt jelenti, hogy az egyes eseményrendszerek eseményeinek egy¨ uttes bekövetkezése f¨ uggetlen más, ugyancsak véges sok eseményrendszer eseményeinek egy¨ uttes bekövetkezését˝ol. Ez nem következik a páronkénti f¨ uggetlenségb˝ol (lásd 1. feladat). A továbbiakban, több esemény, eseményrendszer esetén, a f¨ uggetlenség mind´ıg a teljes f¨ uggetlenséget fogja jelenteni. 2. A lehetetlen illetve biztos esemény minden eseményt˝ol f¨ uggetlen, mivel A ∈ A esetén P (A ∩ ∅) = 0 = P (A) · 0 , P (A ∩ Ω) = P (A) = P (A) · 1 .

¨ ´ TULAJDONSAGAI ´ 2.1. A FUGGETLENS EG

15

3. Ha A és B f¨ uggetlen események, akkor A¯ és B,

¯ A és B,

A¯ és

¯ B

f¨ uggetlenek, mert pl. ¯ · P (B) . P (A¯ ∩ B) = P (B \ A) = P (B) − P (A) · P (B) = P (A) K¨ ovetkezm´ eny: F¨ uggetlen eseményrendszerek b˝ov´ıthet˝ok az események komplementereivel, a páronkénti illetve teljes f¨ uggetlenség megtartásával. 4. Véletlen k´ısérletek f¨ uggetlenségét modellezhetj¨ uk valósz´ın˝ uségi mez˝ok szorzat mértékterével. Legyen (Ω1 , A1 , P1 ) és (Ω2 , A2 , P2 ) két valósz´ın˝ uségi mez˝o, akkor az (Ω, A, P ) szorzat mértéktér (lásd A. F¨ uggelék) egy valósz´ın˝ uségi mez˝o, ahol Ω = Ω 1 × Ω2 A = σ {A × B | A ∈ A1 , B ∈ A2 } P (A × B) = P1 (A) · P2 (B) A ∈ A1 , B ∈ A2 , és ebben az Ae1 = {A × Ω2 | A ∈ A1 } ⊂ A Ae2 = {Ω1 × B | B ∈ A2 } ⊂ A

eseményrendszerek f¨ uggetlenek. Hasonlóan kapjuk több véletlen k´ısérlet teljesen f¨ uggetlen ”beágyazását” a szorzat modellbe. A f¨ uggetlenség fogalmával a korábban már eml´ıtett Bernoulli k´ısérlet u ´ jra megfogalmazható, és u ´ jabb nevezetes véletlen k´ısérleteket vizsgálhatunk. (3) Bernoulli k´ıs´ erlet Egy p ∈ [0; 1] val´ osz´ın˝ uség˝ u eseményt n-szer megfigyelve, mennyi annak val´ osz´ın˝ usége, hogy k-szor k¨ ovetkezik be? Legyenek a B1 , B2 , . . . , Bn események f¨ uggetlenek, és P (Bi ) = p i = 1, 2, . . . , n. Jelölje továbbá Ak esemény k-szám´ u bekövetkezését a B1 , B2 , . . . , Bn események köz¨ ul. Akkor ¯k+1 ∩ . . . ∩ B ¯n ∪ . . . Ak = B1 ∩ B 2 ∩ . . . ∩ B k ∩ B olyan nk -tag´ u diszjunkt u ´ nió, melynek minden tagja k-szám´ u B· és (n − k)-szám´ u ¯ B· esemény közös része, ezért n · pk (1 − p)n−k k = 0, 1, 2, . . . n . P (Ak ) = k Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


16

(8) T¨ obb kimenetel˝ u k´ıs´ erlet ism´ etelt megfigyel´ ese Egy r kimenetel˝ u k´ısérletet n-szer megismételve, adjuk meg annak val´ osz´ın˝ uségét, hogy az egyes kimenetelek k1 , k2 , . . . kr -szer k¨ ovetkeznek be, ha az egyes kimenetelek val´ osz´ın˝ uségei a p1 , p2 , . . . , pr diszkrét val´ osz´ın˝ uségeloszl´ assal adottak! Legyenek a {Bi1 , Bi2 , . . . , Bir } ⊂ A i = 1, 2, . . . , n

teljes eseményrendszerek f¨ uggetlenek, és P (Bij ) = pi

i = 1, 2, . . . , n,

j = 1, 2, . . . , r .

Ekkor a vizsgált Ak1 ,k2 ,...,kr =

[

j1 ,j2 ,...,jn

esemény egy pontosan

n! k1 !·k2 !·...·kr !

n \

Biji

i=1

!

tag´ u diszjunkt u ´ nió, ahol j1 , j2 , . . . , jn

egy ismétléses permutáció k1 szám´ u 1-essel, k2 szám´ u 2-essel, . . . és kr szám´ u r-essel, ´ıgy a f¨ uggetlenséget is használva, kapjuk n! · pk1 · pk22 · . . . pkr r (2.1) P (Ak1 ,k2 ,...,kr ) = k1 ! · k2 ! · . . . · kr ! 1 r X ha kj ∈ N j = 1, 2, . . . , n és kj = n . j=

Mivel (2.1) valósz´ın˝ uségeinek o¨sszege (a polinomiális tétel szerint is) 1, ezt a valósz´ın˝ uségeloszlást polinomi´ alis eloszl´ asnak nevezz¨ uk.

(9) Esem´ eny megfigyel´ ese az els˝ o bek¨ ovetkez´ esig Egy p ∈]0; 1[ val´ osz´ın˝ uség˝ u eseményt figyel¨ unk meg az els˝ o bek¨ ovetkezésig, adjuk meg annak val´ osz´ın˝ uségét, hogy ez a k-adik kisérletben t¨ orténik meg! Legyenek a B1 , B2 , . . . események f¨ uggetlenek, és P (Bi ) = p i = 1, 2, . . .. Jelölje továbbá a vizsgálandó eseményt ¯1 ∩ B ¯2 ∩ . . . ∩ B ¯k−1 ∩ Bk k = 1, 2, . . . Ak = B akkor a f¨ uggetlenségb˝ol kapjuk:

P (Ak ) = p · (1 − p)k−1

k = 1, 2, . . .

(2.2)

ami az un. diszkrét geometriai eloszl´ as, ugyanis konvergens geometriai sor o¨sszegeként kapjuk ∞ X p · (1 − p)k−1 = 1 . k=1

¯1 ∩ B ¯2 ∩ . . . = A1 ∪ A2 ∪ . . . esemény Ez egyben azt is jelenti, hogy az A∞ = B valósz´ın˝ usége P (A∞ ) = 0 .

´ ´ ÍNUS ˝ EG ´ TULAJDONSAGAI ´ 2.2. A FELTETELES VALOSZ

2.2.

17

A felt´ eteles val´ osz´ın˝ us´ eg tulajdons´ agai

Az alábiakban felsoroljuk a feltételes valósz´ın˝ uség néhány egyszer˝ uen ellen˝or´ızhet˝o fontos tulajdonságát, melyek indokolják a fogalom értelmezését, és módszereket adnak bizonyos t´ıpus´ u problémák megoldásához. 1. Ha B, A ∈ A f¨ uggetlenek, és P (B) > 0, akkor P (A | B) = P (A) , tehát a feltételt˝ol f¨ uggetlen esemény feltételes valósz´ın˝ usége változatlan. 2. Legyen P (B) > 0, ha B ⊂ A ∈ A akkor P (A | B) = 1, tehát ha B maga után vonja az A eseményt, annak erre vonatkozó valósz´ın˝ usége 1. Ha pedig A, B ∈ A kizáróak, akkor P (A | B) = 0. 3. Ha B ∈ A egy rögz´ıtett esemény, és P (B) > 0, akkor P (· | B) : A →R A 7→ P (A | B) valósz´ın˝ uségi mérték A-n.

K¨ ovetkezm´ eny: A valósz´ın˝ uségggel kapcsolatos ”számolási szabályokat” a feltételes valósz´ın˝ uségre is alkalmazhatjuk, mint pl. • P (A¯ | B) = 1 − P (A | B)

• P (A1 \ A2 | B) = P (A1 | B) − P (A1 ∩ A2 | B)

• P (A1 ∪ A2 | B) = P (A1 | B) + P (A2 | B) − P (A1 ∩ A2 | B) .. .

4. Szorz´ asi szab´ aly Legyenek A1 , A2 , . . . , An ∈ A események olyanok, hogy P (A1 ∩ A2 ∩ . . . ∩ An ) > 0, akkor P (A1 ∩ A2 ∩ . . . ∩ An ) = P (A1 ) · P (A2 | A1 ) · P (A3 | A1 ∩ A2 ) · . . . · P (An | A1 ∩ A2 ∩ . . . An−1 ) . 5. Teljes val´ osz´ın˝ us´ eg t´ etel Legyenek B1 , B2 , . . . , Bn ∈ A, Bk ∩ Bl = ∅ ha k 6= l = 1, 2, . . . , n és ∪nk=1 Bk = Ω, vagyis egy un. teljes esményrendszer, továbbá A ∈ A, akkor P (A) =

n X k=1

P (A | Bk ) · P (Bk ) . Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


18 6. Bayes t´ etel

Legyen B1 , B2 , . . . , Bn ∈ A egy teljes eseményrendszer, A ∈ A és P (A) > 0, akkor

2.3.

P (A | Bl ) · P (Bl ) P (Bl | A) = Pn k=1 P (A | Bk ) · P (Bk )

l = 1, 2, . . . , n .

Bayes d¨ ont´ es

A feltételes valósz´ın˝ uség seg´ıtségével megadhatjuk a következ˝o, un. döntési feladat megoldását. Feladat: Legyenek (Ai )ni=1 és (Bj )m enyrendszerek, és P (Bj ) > 0 j = j=1 teljes esem´ 1, 2, . . . m. Keress¨ uk azt a d : {1, 2, . . . , m} → {1, 2, . . . , n} un. döntés f¨ uggvényt, mellyel a Hd =

m X j=1

A¯d(j) ∩ Bj

d¨ ontési hiba val´ osz´ın˝ usége a legkisebb. A döntési hiba valósz´ın˝ uségét a´talak´ıtva kapjuk: P (Hd ) = 1 −

m X j=1

m X P Ad(j) | Bj · P (Bj ). P Ad(j) ∩ Bj = 1 − j=1

Ez pedig akkor maximális, ha azt a d∗ döntésf¨ uggvényt választjuk, melyre teljes¨ ul P (Ad∗ (j) | Bj ) ≥ P (Ai | Bj ) i = 1, 2, . . . , n j = 1, 2, . . . , m , amit Bayes d¨ ontésnek nevez¨ unk. Természetesen d∗ nem egyértelm˝ uen adott, de minden Bayes döntés hibavalósz´ın˝ usége ugyanaz. Egy másik lehetséges döntésf¨ uggvény az a konstans dmax , melyre teljes¨ ul P (Admax ) = max {P (A1 ), P (A2 ), . . . , P (An )} amivel a döntés hibája P (Hdmax ) = 1 − P (Admax ) ≤ P (Hd∗ ) . Könnyen belátható, hogy a két teljes eseményrendszer f¨ uggetlensége esetén d ∗ = dmax . Egy másik ”széls˝oséges” eset, amikor minden Bj -hez van olyan Ai esemény, hogy Bj ⊂ Ai , vagyis az Ω eseménytér (Bj )m asa finomabb, mint az (Ai )ni=1 felosztás, másképpen j=1 felosz´ fogalmazva minden Bj esemény maga után vonja egy Ai esemény bekövetkezését. Ekkor d∗ (j) = i ha Bj ⊂ Ai amib˝ol következik, hogy ilyenkorP (Hd∗ ) = 0.

19

2.4. FELADATOK

2.4.

Feladatok

1. Válasszunk egy origó középpont´ u r sugar´ u körben találomra egy pontot, és jelölje • A – a pont az ”x” tengely fölötti félkörbe esik;

• B – a pont az ”y” tengelyt˝ol jobbra es˝o félkörbe esik;

• C – a pont az els˝o, vagy a harmadik s´ıknegyedbe esik; Mutassuk meg, hogy az A, B és C események páronként f¨ uggetlenek, de nem teljesen! 2. Mutassuk meg, hogy ha Ω = I0 ×J0 ⊂ R2 intervallum, és a geometriai valósz´ın˝ uségszám´ıtás modelljét használjuk, akkor az Ix = {I × J0 | I ⊂ I0 intervallum} és Jy = {I0 × J | J ⊂ J0 intervallum} eseményrendszerek f¨ uggetlenek. 3. Bizony´ıtsuk a feltételes valósz´ın˝ uség tulajdonságait! 4. Két céllöv˝o felváltva l˝o, és az nyer, aki el˝oször eltalálja a célt. Ha feltessz¨ uk, hogy a cél eltalálásának eseményei az egymást követ˝o lövések során teljesen f¨ uggetlenek, és az els˝onek löv˝o esetén 0.6, illetve a másodiknál 0.8 a találati valósz´ın˝ uség, adjuk meg annak valósz´ın˝ uségét, hogy az els˝o, illetve a második löv˝o nyer! 5. Egy kosárlabda játékos egymás után végez b¨ untet˝o dobásokat. Az els˝ot bedobja, a másodikat nem, és minden további dobása akkora valósz´ın˝ uséggel lesz sikeres, mint amennyi a megel˝oz˝o dobásokban a kosarak relat´ıv gyakorisága. Mennyi annak valósz´ın˝ usége, hogy 100 dobásból pontosan 50 kosarat fog dobni? 6. Szinbád, a szultánnak tett szolgálataiért, választhat egyet az N szám´ u háremhölgy köz¨ ul u ´ gy, hogy az egyenként el˝otte elvonuló hölgyek valamelyikére rámutat. Tegy¨ uk fel, hogy a háremhölgyek szépség¨ uk szerint egyértelm˝ uen sorrendbe a´ll´ıthatóak, és Szinbád stratégiája a következ˝o: az els˝o n szám´ u hölgy szemrevétele után azt választja, aki szebb minden korábban látottnál. Mennyi annak valósz´ın˝ usége, hogy N Szinbád a legszebb háremhölgyet választja? Hogyan kell az n értékét megválasztani elég nagy N esetén, hogy ez a valósz´ın˝ uség a legnagyobb legyen? 7. Két város közötti táv´ıró o¨sszeköttetés olyan, hogy a leadott táv´ıró jelek köz¨ ul a 2 1 pontok 5 -e vonallá torzul, a vonalak 3 -a pedig ponttá. A leadott jelek köz¨ ul a pontok és vonalak aránya 5 : 3. Adjunk döntési szabályt a vev˝o számára, mennyi a hibás dekódolás valósz´ın˝ usége?


20


3. fejezet Val´ osz´ın˝ us´ egi v´ altoz´ ok Egy véletlen k´ısérlet eredményéhez sok esetben természetes módon tartozik egy vagy több (véletlen) mennyiség. A matematikai modellben ennek megfelel˝o fogalom a következ˝o. 3.1. Defin´ıci´ o. i) Skalár valósz´ın˝ uségi változónak (röviden v.v.) nevezz¨ uk a ξ:Ω→R f¨ uggvényt, ha ∀x ∈ R esetén {ξ < x} = {ω ∈ Ω | ξ(ω) < x} = ξ −1 (] − ∞, x[) ∈ A ; ii) Vektor valósz´ın˝ uségi változónak (röviden v.v.v.) nevezz¨ uk a ξ = (ξ 1 , ξ 2 , . . . , ξ n ) : Ω → Rn f¨ uggvényt, ha a ξ i : Ω → R i = 1, 2, . . . , n komponensek skalár valósz´ın˝ uségi változók. A továbbiakban a skalár ill. vektor jelz˝oket csak akkor használjuk, ha azt hangs´ ulyozni k´ıvánjuk, egyébként egyszer˝ uen valósz´ın˝ uségi változóról, röviden (v.)v.v.-ról beszél¨ unk.

3.1.

Val´ osz´ın˝ us´ egi v´ altoz´ oval kapcsolatos esem´ enyek

Jelöljön a továbbiakban ξ egy skalár v.v.-t, ekkor a vele kapcsolatos események az alábbiak: 1. A defin´ıció szerint ∀x ∈ R esetén {ξ < x} = {ω ∈ Ω | ξ(ω) < x} = ξ −1 (] − ∞, x[) ∈ A ; 21

´ ÍNUS ˝ EGI ´ ´ ´ 3. FEJEZET. VALOSZ VALTOZ OK

22

2. Az eseményalgebra tulajdonságaiból következnek ∀x ≤ y ∈ R esetén {ξ ≥ x} = {ω ∈ Ω | ξ(ω) ≥ x} = ξ −1 ([x, +∞[) = {ξ < x} ∈ A ; {x ≤ ξ < y} = {ω ∈ Ω | x ≤ ξ(ω) < y} = ξ −1 ([x, y[) = {ξ < y} \ {ξ < x} ∈ A ; ∞ T 1 −1 {ξ = x} = {ω ∈ Ω | ξ(ω) = x} = ξ ({x}) = ∈A; x≤ξ <x+ n n=1 {x ≤ ξ ≤ y} = {ω ∈ Ω | x ≤ ξ(ω) ≤ y} = ξ −1 ([x, y]) = = {x ≤ ξ < y} ∪ {ξ = y} ∈ A ; .. . tehát a´ltalában I ⊂ R intervallum esetén {ξ ∈ I} = {ω ∈ Ω | ξ(ω) ∈ I} = ξ −1 (I) ∈ A . Hasonlóan ellen˝or´ızhet˝o, hogy egy ξ = (ξ 1 , ξ 2 , . . . , ξ n ) : Ω → Rn v.v.v. esetén például {x1 ≤ ξ 1 < y1 , x2 ≤ ξ 2 < y2 , . . . , xn ≤ ξ n < yn } =

n \

i=1

{xi ≤ ξ i < yi } ∈ A

xi ≤ yi ∈ R i = 1, 2, . . . , n , vagy a´ltalában {ξ ∈ I} = {ω ∈ Ω | ξ(ω) ∈ I} = ξ −1 (I) ∈ A ∀I ⊂ Rn intervallum. Mindezekb˝ol (lásd : A. f¨ uggelék) következnek az alábbiak: 3.2. K¨ ovetkezm´ eny. i) Egy ξ : Ω → Rn f¨ uggvény pontosan akkor (v.)v.v., ha mérhet˝o az intervallumokat tartalmazó legsz˝ ukebb Bn σ-algebrára, azaz {ξ ∈ B} = {ω ∈ Ω | ξ(ω) ∈ B} = ξ −1 (B) ∈ A ∀B ∈ Bn . ii)

Aξ = ξ −1 (Bn ) = ξ −1 (B) | B ∈ Bn ⊂ A

egy eseményalgebra, amit a ξ (v.)v.v.-val kapcsolatos események rendszerének nevez¨ unk. iii) A ξ (v.)v.v. egy Pξ : Bn → [0; 1] B 7→ P (ξ ∈ B)

valósz´ın˝ uségi mértéket generál, amit ξ eloszlásának nevez¨ unk. Ennek megfelel˝oen, valósz´ın˝ uségi változókat akkor fogunk (páronként, teljesen) f¨ uggetleneknek nevezni, ha a vel¨ uk kapcsolatos eseményrendszerek (eseményalgebrák) f¨ uggetlenek. Ezzel kapcsolatos a következ˝o tétel.

´ ÍNUS ˝ EGI ´ ´ ´ STRUKTUR ´ AJA ´ 3.2. VALOSZ VALTOZ OK

23

3.3. T´ etel. A ξ : Ω → Rp és η : Ω → Rq (v.)v.v.-k pontosan akkor f¨ uggetlenek, ha P ({ξ ∈ I} ∩ {η ∈ J}) = P (ξ ∈ I) · P (η ∈ J)

I ⊂ Rp , J ⊂ Rq intervallumok.

(3.1)

Bizony´ıt´ as. Az egyik irány nyilvánvaló, tehát tegy¨ uk fel, hogy (3.1) teljes¨ ul. Ekkor a Bp+q -n (ξ, η)-által generált P(ξ,η) mértékre P(ξ,η) (I × J) = Pξ (I) · Pη (J)

I ⊂ I p , J ⊂ Iq ,

tehát megegyezik a szorzatmértékkel az Ip+q félgy˝ ur˝ un, de akkor az egyértelm˝ u kiterjesztés miatt P(ξ,η) a szorzatmérték (lásd: A. f¨ uggelék, A.3. tétel), vagyis P(ξ,η) (A × B) = P ({ξ ∈ A} ∩ {η ∈ B}) = P (ξ ∈ A) · P (η ∈ B)

A ⊂ B p , B ⊂ Bq ,

amit bizony´ıtani kellett.

3.2.

Val´ osz´ın˝ us´ egi v´ altoz´ ok strukt´ ur´ aja

Az alábbiakban o¨sszefoglaljuk a skalár v.v.-k (mérhet˝o f¨ uggvények, lásd: A f¨ uggelék), könnyen ellen˝or´ızhet˝o tulajdonságait. 1. Egy A ∈ A esemény indik´ atora 1A (ω) =

1 ha ω ∈ A 0 ha ω ∈ A¯

valósz´ın˝ uségi változó. Speciálisan az 1Ω ≡ 1 iletve 1∅ ≡ 0 konstans f¨ uggvények v.v.-k. 2. A skalár v.v.-k L halmaza vektorháló, azaz ξ ∈ L, c ∈ R ⇒ c · ξ ∈ L ξ, η ∈ L ⇒ ξ + η ∈ L max{ξ, η}

min{ξ, η} ∈ L ,

amib˝ol következik, hogy egy ξ v.v. ξ + = max{0, ξ} ξ − = − min{0, ξ} pozit´ıv és negat´ıv része, és |ξ| = ξ + − ξ −

abszol´ ut értéke is valósz´ın˝ uségi változó.

3. Egy véges értékkészlet˝ u ξ : Ω → R f¨ uggvény pontosan akkor v.v., ha {ξ = x} ∈ A x ∈ im(ξ), és ekkor a ξ=

X

x∈im(ξ)

x · 1{ξ=x}

valósz´ın˝ uségi változót egyszer˝ u nek nevezz¨ uk. Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


24

4. A skalár v.v.-k L halmaza zárt a pontonkénti limeszre, azaz ha ξ n ∈ L n = 1, 2, . . . és lim ξ n = ξ : Ω → R , n→∞

akkor ξ valósz´ın˝ uségi változó. 5. Ha 0 ≤ ξ v.v., akkor megadható egyszer˝ u v.v.-k (ξ n )∞ okken˝o n=1 monoton nem cs¨ sorozata, hogy Aξn ⊂ Aξ n = 1, 2, . . . és lim ξ n = ξ .

n→∞

(3.2)

6. Valósz´ın˝ uségi változó mérhet˝o f¨ uggvénye is valósz´ın˝ uségi változó, tehát ha ξ : Ω → Rn (v.)v.v. és h : Rn → R mérhet˝o, akkor h◦ξ :Ω→R valósz´ın˝ uségi változó. Speciálisan, ha h folytonos f¨ uggvény, akkor h◦ξ valósz´ın˝ uségi változó.

3.3.

Val´ osz´ın˝ us´ egi v´ altoz´ ok eloszl´ asa

Egy ξ : Ω → Rn (v.)v.v. mind´ıg generál egy (Rn , Bn , Pξ ) valósz´ın˝ uségi mez˝ot, ahol a Pξ (B) = P ξ −1 (B) B ∈ Bn

valósz´ın˝ uségi mértéket (vagy a generált valósz´ın˝ uségi mez˝ot), amely az egységnyi valósz´ın˝ un séget ”szétosztja” R mérhet˝o halmazain, a ξ v.v. eloszl´ asának nevezz¨ uk. A ξ-t diszkrét eloszl´ as´ u nak nevezz¨ uk, ha ez a mérték egy diszkrét valósz´ın˝ uségeloszlással adott, vagyis X Pξ (B) = P (ξ = x) B ∈ Bn , x∈B

n

ahol a P (ξ = x) x ∈ R valósz´ın˝ uségek köz¨ ul csak véges, vagy megszámlálhatóan végtelen sok k¨ ulönbözik nullától, és azok o¨sszege X P (ξ = x) = 1 . x∈Rn

A ξ-t folytonos eloszl´ as´ u nak nevezz¨ uk, ha ez a mérték egy valósz´ın˝ uségi s˝ ur˝ uségf¨ uggvénnyel adott, vagyis Z Pξ (B) = f B ∈ Bn , B

ahol f : Rn →

R+ 0

valósz´ın˝ uségi s˝ ur˝ uségf¨ uggvény, azaz Z f =1. Rn

´ ÍNUS ˝ EGI ´ ´ ´ ELOSZLASA ´ 3.3. VALOSZ VALTOZ OK

25

Ilyenkor f nulla mérték˝ u halmazon történ˝o megváltoztatása azonos eloszlást eredményez, tehát f megadása nulla mérték˝ u halmaztól eltekintve egyértelm˝ u. Eloszlások e két t´ıpusa azonban közel sem mer´ıti ki az o¨sszes lehet˝oséget (lásd pl. a ubben kezelhet˝ok, és az alkalma3. feladatban (ξ 1 , η) eloszlása), csupán ezek a legegyszer˝ zásokban is ilyenek fordulnak el˝o leggyakrabban. Mint kés˝obb látni fogjuk, a Pξ mértéket, vagyis ξ eloszlását egyértelm˝ uen meghatározza a következ˝o fogalom. 3.4. Defin´ıci´ o. A ξ = (ξ 1 , ξ 2 , . . . , ξ n ) : Ω → Rn (v.)v.v. eloszlásf¨ uggvényének nevezz¨ uk az F (x1 , x2 , . . . , xn ) = P (ξ 1 < x1 , ξ 2 < x2 , . . . , ξ n < xn )

(x1 , x2 , . . . , xn ) ∈ Rn

f¨ uggvényt. A defin´ıcióból és a valósz´ın˝ uségi mérték tulajdonságaiból egyszer˝ uen következnek az alábbiak. Az eloszl´ asf¨ uggv´ eny tulajdons´ agai: 1. A ξ (v.)v.v. F eloszlásf¨ uggvénye korlátos, im (F ) ⊂ [0; 1] . 2. Legyen a ξ v.v.v. eloszlásf¨ uggvénye F, akkor rögz´ıtett (x 1 , . . . , xk−1 , xk+1 , . . . , xn ) ∈ n−1 R esetén az F(k) = F (x1 , . . . , xk−1 , ·, xk+1 , . . . , xn ) : R → [0; 1] x 7→ F (x1 , . . . , xk−1 , x, xk+1 , . . . , xn ) parciális f¨ uggvény (a) monoton nem csökken˝o, balról minden¨ utt folytonos; (b) határértéke a végtelenben: F(k) (−∞) = lim F(k) (x) = 0 x→−∞

és F(k) (+∞) = lim F(k) (x) = x→+∞

= P ξ 1 < x1 , ξ 2 < x2 , . . . , ξ k−1 < xk−1 , ξ k+1 < xk+1 , . . . ξ n < xn vagyis F(k) (+∞) a ξ 1 , ξ 2 , . . . , ξ k−1 , ξ k+1 , . . . ξ n n − 1 dimenziós un. perem eloszlásf¨ uggvénye az (x1 , . . . , xk−1 , xk+1 , . . . , xn ) ∈ Rn−1 helyen. Speciálisan, ha ξ skalár v.v., F monoton nem csökken˝o, balról folytonos, és lim F (x) = 0

x→−∞

lim F (x) = 1 .

x→+∞



26

3. Legyen ξ skalár v.v., akkor a ξ-vel kapcsolatos események valósz´ın˝ uségei x ≤ y ∈ R esetén: P (ξ < x) = F (x) P (ξ ≥ x) = 1 − F (x) P (x ≤ ξ < y) = F (y) − F (x) P (ξ = x) = F (x + 0) − F (x) P (x ≤ ξ ≤ y) = F (y + 0) − F (x) P (x < ξ ≤ y) = F (y + 0) − F (x + 0) P (x < ξ < y) = F (y) − F (x + 0) ahol F (x + 0) = lim F (t), t→x+

vagy a´ltalában jelölj¨ uk mindezt az alábbi módon: P (ξ ∈ I) = [F ]I

I ⊂ R intervallum.

Ha ξ vektor valósz´ın˝ uségi változó, hasonlóan kaphatjuk P (ξ ∈ I) = [F ]I

I ⊂ Rn intervallum .

Megjegyz´ es: Tehát Pξ értéke az intervallumokon kifejezhet˝o az eloszlásf¨ uggvénnyel, azaz ξ eloszlását meghatározza eloszlásf¨ uggvénye (lásd: A. f¨ uggelék, A.3. tétel). Ennek következménye az, hogy egy v.v. értékét 0 valósz´ın˝ uség˝ u eseményen tetsz˝olegesen módos´ıtva (vagy akár meg sem adva), az eloszlásf¨ uggvény változatlan marad. A továbbiakban felsorolunk néhány egyszer˝ uen ellen˝or´ızhet˝o, (feladatokban, alkalmazásokban) gyakran használt következményt. K¨ ovetkezm´ enyek: 1. Legyen a ξ : Ω → R skalár v.v. (a) diszkrét eloszlás´ u, akkor a diszkrét eloszlás valósz´ın˝ uségei P (ξ = x) = F (x + 0) − F (x) x ∈ R , és az eloszlásf¨ uggvény F (x) =

X t<x

P (ξ = t) x ∈ R .

Egy I ⊂ R intervallum esetén P (ξ ∈ I) =

X x∈I

P (ξ = x) .


27

(b) folytonos eloszlás´ u, akkor valósz´ın˝ uségi s˝ ur˝ uségf¨ uggvénye f (x) = F 0 (x) x ∈ R ahol f folytonos, és az eloszlásf¨ uggvény F (x) =

Z

x −∞

f (t)dt x ∈ R .

Egy I ⊂ R intervallum esetén, ha belseje ]a; b[ Z P (ξ ∈ I) = f (t)dt = [F ]I = F (b) − F (a) . I

Mindez ξ : Ω → Rn v.v.v. esetén az alábbi o¨sszef¨ uggéseket jelenti: n

f (x1 , x2 , . . . , xn ) = ∂x ∂x∂ ...∂x F (x1 , x2 , . . . , xn ) n 1 2 (x1 , x2 , . . . , xn ) ∈ Rn ahol f folytonos, illetve F (x1 , x2 , . . . , xn ) =

R x1 R x2 −∞

−∞

...

és egy I ⊂ Rn intervallum esetén, P (ξ ∈ I) =

R xn

−∞

Z

I

f (t1 , t2 , . . . , tn )dt1 dt2 . . . dtn (x1 , x2 , . . . , xn ) ∈ Rn ,

f = [F ]I .

Megjegyz´ es. Egy ξ skalár v.v. eloszlásának folytonosága egyszer˝ uen következik, ha teljes¨ ul az alábbi két feltétel: • F folytonos f¨ uggvény; • F folytonosan differenciálható az ]an ; bn [ n = 1, 2, . . . , N ny´ılt intervallumokon, ahol a1 = −∞, a2 = b1 , a3 = b2 , · · · , aN = bN −1 , bN = +∞ . 2. Legyen a (ξ, η) : Ω → Rp+q v.v.v. (a) diszkrét eloszlás´ u, akkor ξ illetve η diszkrét eloszlás´ uak, és P (ξ = x) =

X y

P (η = y) =

X x

P (ξ = x, η = y) x ∈ Rp ; P (ξ = x, η = y) y ∈ Rq ; Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


28

(b) folytonos eloszlás´ u f : Rp+q → R+ ur˝ uségf¨ uggvénnyel, akkor ξ illetve η 0 s˝ folytonos eloszlás´ uak, és s˝ ur˝ uségf¨ uggvényeik Z fξ (x) = f (x, y)dy x ∈ Rp ; q ZR fη (y) = f (x, y)dx y ∈ Rq ; Rp

Megjegyz´ es: Kaptuk tehát, hogy diszkrét illetve folytonos eloszlás´ u v.v.v. peremeinek eloszlása ugyancsak diszkrét illetve folytonos. A megford´ıtás az els˝o esetben igaz, hiszen a peremek diszkrét eloszlása miatt az egy¨ uttes eloszlás már legfeljebb megszámlálhatóan végtelen sok érték-pár felvételéhez o¨sszesen 1 valósz´ın˝ uséget rendel. A peremek folytonos eloszlásából azonban nem következik az egy¨ uttes eloszlás folytonossága (lásd 3. feladat). 3. A (ξ, η) : Ω → Rp+q v.v.v. ξ : Ω → Rp és η : Ω → Rq peremei pontosan akkor f¨ uggetlenek, ha a megfelel˝o eloszlásf¨ uggvényekre teljes¨ ul F(ξ,η) (x, y) = Fξ (x) · Fη (y) x ∈ Rp

y ∈ Rq .

Ha (ξ, η) diszkrét eloszlás´ u, ez a feltétel ekvivalens a P (ξ = x, η = y) = P (ξ = x) · P (η = y) x ∈ Rp

y ∈ Rq

teljes¨ ulésével, és ha (ξ, η) folytonos eloszlás´ u, a feltétel f (x, y) = fξ (x) · fη (y) x ∈ Rp

y ∈ Rq

alakban ´ırható a megfelel˝o s˝ ur˝ uségf¨ uggvények alkalmas választásával. 4. Valósz´ın˝ uségi változó konstruálása adott eloszlással: (a) Legyen (pn )n=1,2,... egy diszkrét valósz´ın˝ uségeloszlás, és {x1 , x2 , . . .} ⊂ Rp , akkor az Ω = Rp A = Bp X P (B) = pn xn ∈B

B∈A

valósz´ın˝ uségi mez˝on értelmezett ξ = idRp v.v. diszkrét eloszlás´ u, és eloszlása: pn ha x = xn n = 1, 2, . . . P (ξ = x) = . 0 egyébként


29

(b) Legyen f : Rp → R egy valósz´ın˝ uségi s˝ ur˝ uségf¨ uggvény, akkor az Ω = Rp A = Bp Z P (B) = f B

B∈A

valósz´ın˝ uségi mez˝on értelmezett ξ = idRp v.v. folytonos eloszlás´ u, és s˝ ur˝ uségf¨ uggvénye: f : Rp → R . (c) Legyen a ξ : Ω → R v.v. F eloszlásf¨ uggvénye folytonos, akkor az η = F (ξ) v.v. eloszlásf¨ uggvénye   0 ha x ≤ 0 x ha 0 < x ≤ 1 . Fη (x) = (3.3)  1 ha 1 < x

Megjegyz´ es: Az ilyen eloszlás´ u η v.v.-t (pontosabban megfigyelt értékét) véletlen sz´ amnak nevezz¨ uk, a megfigyelt értéket szolgáltató k´ısérlet illetve eljárás pedig az un.véletlen szám gener´ ator. A véletlen szám generátorok nélk¨ ulözhetetlenek véletlen jelenségek szimulációjához, seg´ıtség¨ ukkel kaphatunk k´ıvánt eloszlás´ u véletlen mennyiségeket: i. Ha F folytonos és invertálható eloszlásf¨ uggvény, akkor az η véletlen szám seg´ıtségével kaphatunk F eloszlásf¨ uggvény˝ u ξ = F −1 (η) valósz´ın˝ uségi változót. Ez a módszer esetenként id˝oigényes lehet az inverz f¨ uggvény megadása miatt, ezért ilyenkor hatékonyabb (gyorsabb) eljárásokat használnak (lásd: 10. feladat). ii. Ha p1 , p2 , p3 , · · · egy diszkrét valósz´ın˝ uségeloszlás és {x1 , x2 , x3 , · · · } ⊂ R, akkor a ξ = x1 · 1{η≤p1 } + x2 · 1{p1 <η≤p1 +p2 } + x3 · 1{p1 +p2 <η≤p1 +p2 +p3 } + · · · v.v. eloszlása P (ξ = xk ) = pk

k = 1, 2, · · · .

5. Valósz´ın˝ uségi változó f¨ uggvényének eloszlása: Legyen ξ : Ω → Rp v.v.v. (a) diszkrét eloszlás´ u, és h : Rp → Rq , akkor η = h ◦ ξ : Ω → Rq diszkrét eloszlás´ u v.v., és X P (η = y) = P (ξ = x) y ∈ Rq . (3.4) {x∈Rp |h(x)=y}



30

(b) folytonos eloszlás´ u f : Rp → R s˝ ur˝ uségf¨ uggvénnyel, h : Rp → Rp invertálható, és h−1 folytonosan differenciálható f¨ uggvény, akkor η = h ◦ ξ : Ω → Rp v.v.v. eloszlása folytonos, és s˝ ur˝ uségf¨ uggvénye ∂ −1 fη (y) = det h (y) · f h−1 (y) y ∈ Rp . (3.5) ∂y

K¨ ovetkezm´ eny: Ha a (ξ, η) : Ω → R valósz´ın˝ uségi változó

(a) diszkrét eloszlás´ u, akkor ξ + η eloszlása is diszkrét, és P P P (ξ + η = x) = z P (ξ = x − z, η = z) = z P (ξ = z, η = x − z) x∈R, és ha még f¨ uggetlenek is, akkor P P P (ξ + η = x) = z P (ξ = x − z) · P (η = z) = z P (ξ = z) · P (η = x − z) x∈R. (b) folytonos eloszlás´ u f : R2 → R s˝ ur˝ uségf¨ uggvénnyel, akkor ξ + η eloszlása is folytonos, és s˝ ur˝ uségf¨ uggvénye Z +∞ Z +∞ fξ+η (x) = f (x − z, z)dz = f (z, x − z)dz x ∈ R , −∞

és ha még f¨ uggetlenek is, akkor Z +∞ Z fξ+η (x) = fξ (x − z) · fη (z)dz = −∞

−∞

+∞ −∞

fξ (z) · fη (x − z)dz

x∈R,

ahol fξ és fη a megfelel˝o peremek s˝ ur˝ uségf¨ uggvényei.

3.4.

Nevezetes eloszl´ as´ u val´ osz´ın˝ us´ egi v´ altoz´ ok

A továbbiakban röviden o¨sszefoglaljuk a már korábban (azonos sorszámmal) felsorolt, nevezetes véletlen k´ısérletek kapcsán megfogalmazható valósz´ın˝ uségi változó jellemz˝oit, és néhány könnyen ellen˝or´ızhet˝o tulajdonságát. Az egyszer˝ ubb jelölés érdekében, diszkrét eloszlások esetén csak a pozit´ıv valósz´ın˝ uségeket soroljuk fel a megfelel˝o értékekkel, és folytonos eloszlás s˝ ur˝ uségf¨ uggvényét csak ott adjuk meg, ahol pozit´ıv értéket vesz fel. Tehetj¨ uk mindezt azért is, mert 0 vallósz´ın˝ uség˝ u eseményen egy v.v. tetsz˝olegesen megváltoztatható az eloszlás változatlansága mellett. (1) Visszatev´ es n´ elk¨ uli mintav´ etel Egy N ∈ N+ elemsz´ am´ u halmaz elemei k¨ oz¨ ott 0 < M < N sz´ am´ u megjel¨ olt van. Véletlenszer˝ uen kiv´ alasztva n ≤ N sz´ am´ ut, jel¨ olje ξ a megjel¨ oltek sz´ am´ at a mint´ aban.

´ U ´ VALOSZ ´ ÍNUS ˝ EGI ´ ´ ´ 3.4. NEVEZETES ELOSZLAS VALTOZ OK

31

Ekkor ξ diszkrét eloszlás´ u, és (1.1) szerint eloszlása hipergeometrikus : N −M M · n−k k P (ξ = k) = k = 0, 1, 2, . . . n, N n

jelölése ξ ∈ Hyp(N, M, n). Vezess¨ uk be továbbá a következ˝o eseményeket Ak – a k-adik kiválasztott a megjelöltek köz¨ ul való k = 1, 2, . . . , n; akkor ξ = 1 A1 + 1 A2 + . . . + 1 An

(3.6)

ahol P (Ak ) =

M M (M − 1) = p P (Ak ∩ Al ) = N N (N − 1)

k 6= l = 1, 2, . . . , n.

Tulajdons´ agok: (a) A legvalósz´ın˝ ubb érték, un. m´ odusz, az a legnagyobb k egész, melyre teljes¨ ul (n + 1)

M +1 ≥k, N +2

és ha itt egyenl˝oség teljes¨ ul, akkor P (ξ = k) = P (ξ = k − 1) .

a´llandó, akkor (b) Ha ξ N ∈ Hyp(N, M, n) és p = M N n · pk · (1 − p)n−k lim P (ξ N = k) = N →∞ k p= M

k = 0, 1, 2, . . . n.

N

(2,3) Visszatev´ eses mintav´ etel, Bernoulli k´ıs´ erlet Egy 0 < p < 1 val´ osz´ın˝ uség˝ u esemény n-ismételt megfigyelése esetén jel¨ olje a ξ v.v. a bek¨ ovetkezések sz´ am´ at. Ekkor ξ diszkrét eloszlás´ u, és (1.2) szerint eloszlása n-edrend˝ u p-paraméter˝ u binomiális eloszlás : n P (ξ = k) = · pk · (1 − p)n−k k = 0, 1, 2, . . . n, k jelölése ξ ∈ Bin(n; p). Vezess¨ uk be továbbá a következ˝o (teljesen) f¨ uggetlen eseményeket Ak – a k-adik megfigyelésben bekövetkezik a figyelt esemény

k = 1, 2, . . . , n;

akkor ξ = 1 A1 + 1 A2 + . . . + 1 An

(3.7)

ahol P (Ak ) = p k = 1, 2, . . . , n. Tulajdons´ agok: Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


32

(a) Az eloszlás módusza az a legnagyobb k egész, melyre teljes¨ ul (n + 1) p ≥ k , és ha itt egyenl˝oség teljes¨ ul, akkor P (ξ = k) = P (ξ = k − 1) .

(b) Ha ξ 1 ∈ Bin(n1 ; p) és ξ 2 ∈ Bin(n2 ; p) f¨ uggetlenek, akkor ξ 1 + ξ 2 ∈ Bin(n1 + n2 ; p) . (c) Ha ξ n ∈ Bin(n; p) és np = λ a´llandó, akkor lim P (ξ n = k) = n→∞ np=λ

λk −λ e k!

k = 0, 1, 2, . . . .

(4) V´ eletlen esem´ enysz´ am Egy a ´tlagosan 0 < λ-szor bek¨ ovetkez˝ o esemény bek¨ ovetkezéseinek sz´ am´ at jel¨ olje a ξ v.v. Ekkor ξ diszkrét eloszlás´ u, és (1.3) szerint eloszlása λ-paraméter˝ u Poisson eloszlás: P (ξ = k) =

λk −λ ·e k!

k ∈ N,

jelölése ξ ∈ Po(λ).

Tulajdons´ agok:

(a) Az eloszlás módusza az a legnagyobb k egész, melyre λ ≥ k, és ha itt egyenl˝oség teljes¨ ul, akkor P (ξ = k) = P (ξ = k − 1) .

(b) Ha ξ 1 ∈ Po(λ) és ξ 2 ∈ Po(µ) f¨ uggetlenek, akkor

ξ 1 + ξ 2 ∈ Po(λ + µ) (5) V´ eletlen id˝ otartam Egy a ´tlagosan T = v´ altoz´ o.

1 λ

idej˝ u véletlen id˝ otartam értéke legyen a ξ val´ osz´ın˝ uségi

Ekkor ξ folytonos eloszlás´ u, és (1.4) szerint eloszlása λ-paraméter˝ u exponenciális eloszlás, s˝ ur˝ uségf¨ uggvénye f (t) = λ · e−λt eloszlásf¨ uggvénye F (t) = jelölése ξ ∈ Exp(λ).

Tulajdons´ agok:

t>0,

0 ha t ≤ 0 −λt 1−e ha 0 < t

,

´ U ´ VALOSZ ´ ÍNUS ˝ EGI ´ ´ ´ 3.4. NEVEZETES ELOSZLAS VALTOZ OK

(a) Az eloszlás un. medi´ anja, az F (t) =

1 2

T1 = 2

33

egyenlet megoldása ln(2) , λ

ami olyan id˝otartamként értelmezhet˝o, mely alatt, sok ilyen véletlen id˝otartamnak a´tlagosan a fele ér véget (felezési id˝ o ). (b) Egy folytonos eloszlásf¨ uggvény˝ u ξ : Ω → R+ es csak akkor expo0 v.v. akkor ´ nenciális eloszlás´ u, ha minden x, y > 0 esetén teljes¨ ul: P (ξ > x + y | ξ > y) = P (ξ > x) . (c) Ha ξ ∈ Exp(λ), és c ∈ R+ , akkor c · ξ ∈ Exp( λc ). (6) M´ er´ esi eredm´ eny Sok (kis) eltérés o ¨sszegeként nyerhet˝ o véletlen értéket jel¨ olje a ξ val´ osz´ın˝ uségi v´ altoz´ o. Ekkor ξ folytonos eloszlás´ u, és (1.7) szerint eloszlása m ∈ R és σ > 0 paraméter˝ u normális (vagy Gauss) eloszlás, s˝ ur˝ uségf¨ uggvénye f (x) = √

(x−m)2 1 · e− 2σ2 2π · σ

eloszlásf¨ uggvénye F (x) = jelölése ξ ∈ N (m; σ).

Z

x ∈ R,

x −∞

f (t)dt x ∈ R ,

Tulajdons´ agok:

(a) Ha m = 0 és σ = 1, standard normális eloszlásról beszél¨ unk, aminek s˝ ur˝ uségf¨ uggvénye x2 1 ϕ(x) = √ · e− 2 x ∈ R , 2π eloszlásf¨ uggvénye pedig Z x Φ(x) = ϕ(t)dt x ∈ R , −∞

amit táblázat seg´ıtségével használhatunk (lásd: B. f¨ uggelék). Mivel ϕ páros f¨ uggvény, teljes¨ ul Z ∞ Z −x Φ(−x) = ϕ(t)dt = ϕ(t)dt = 1 − Φ(x) x ∈ R , −∞

x

ezért a táblázatok a´ltalában csak 0 ≤ x helyen adják meg a Φ(x) f¨ uggvényértéket. Ebb˝ol következik, hogy a N (0; 1) eloszlás mediánja 0. Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


34

(b) Ha ξ ∈ N (m; σ), és a 6= 0, b ∈ R, akkor a · ξ + b ∈ N (a · m + b; |a| · σ) , tehát a lineáris transzformáció nem változtat az eloszlás normális voltán. Speciálisan a ξ u.n. standardiz´ altja ξ−m ∈ N (0; 1) . σ (c) Ha ξ ∈ N (m; σ), akkor s¨ ur˝ uségf¨ uggvénye 1 x−m f (x) = ϕ σ σ eloszlásf¨ uggvénye F (x) = Φ mediánja m.

x−m σ

x∈R,

x∈R,

(d) Ha ξ 1 ∈ N (m1 ; σ 1 ) és ξ 2 ∈ N (m2 ; σ 2 ) f¨ uggetlenek, akkor q 2 2 ξ 1 + ξ 2 ∈ N m1 + m 2 ; σ 1 + σ 2 (7) V´ eletlen pont v´ alaszt´ asa Egy [a; b] ⊂ R intervallumban v´ alasszunk tal´ alomra egy sz´ amot, jel¨ olje ezt a ξ val´ osz´ın˝ uségi v´ altoz´ o. Ekkor ξ folytonos eloszlás´ u, és (1.8) szerint az eloszáls´ u v.v., s˝ ur˝ uségf¨ uggvénye f (x) = eloszlásf¨ uggvénye F (x) = jelölése ξ ∈ U (a; b).

1 b−a

  0 

x−a b−a

1

[a; b] intervallumon egyenletes

a<x
ha x ≤ a ha a < x ≤ b ha b < x

,

Tulajdons´ agok:

(a) Az eloszlás mediánja

a+b 2

.

(b) Ha ξ ∈ U (a; b) és 0 6= α, β ∈ R akkor U (αa + β; αb + β) ha α > 0 α·ξ+β ∈ U (αb + β; αa + β) ha α < 0

.

35

3.5. FELADATOK

(c) A már eml´ıtett véletlen számok eloszlása U (0; 1), és ha η ∈ U (0; 1) egy ilyen véletlen szám, akkor a + (b − a) · η ∈ U (a; b) . (9) Esem´ eny megfigyel´ ese az els˝ o bek¨ ovetkez´ esig Egy p ∈]0; 1[ val´ osz´ın˝ uség˝ u eseményt figyel¨ unk meg az els˝ o bek¨ ovetkezésig. Jel¨ olje ξ az ennek a k´ısérletnek a sorsz´ am´ at! Ekkor (2.2) szerint P (ξ = k) = p · (1 − p)k−1

k = 1, 2, . . .

tehát ξ eloszlása a diszkrét geometriai eloszlás, jelölése ξ ∈ Geom(p).

3.5.

Feladatok

1. Mutassuk meg, hogy egy ξ skalár v.v. eloszlásf¨ uggvénye legfeljebb megszámlálhatóan sok pont kivételével folytonos! 2. Kockát dobunk kétszer, és jelölje ξ az eredmények minimumát, η az eredmények maximumát. Adjuk meg ξ, η és (ξ, η) eloszlását! F¨ uggetlenek-e ξ és η ? 3. Válasszunk két véletlen pontot a [0; 1] intervallumban, jelölje ezeket ξ 1 és ξ 2 . Adjuk meg ξ 1 , ξ 2 és (ξ 1 , ξ 2 ) eloszlását! Legyen továbbá η = max{ξ 1 , ξ 2 }, adjuk meg (ξ 1 , η) eloszlását! F¨ uggetlenek-e ξ 1 és ξ 2 , illetve ξ 1 és η ? 4. Egy egységnyi sugar´ u körben találomra választunk egy pontot. Jelölje a pont polárkoordinátáit (ρ, ϕ) , f¨ uggetlenek-e a ρ és ϕ v.v.-k? 5. Egy dobozban 5 db cédula van, az 1,2,3,4 és 5 számokkal. Találomra kiválsztunk (visszatevés nélk¨ ul) hármat, és jelölje a ξ v.v. a három kiválsztott köz¨ ul a legkisebbet. Adjuk meg ξ eloszlását, szám´ıtsuk ki a P (2 ≤ ξ ≤ 4) valósz´ın˝ uséget! 6. Legyen a ξ v.v. s˝ ur˝ uségf¨ uggvénye c · cos(x) ha 0 ≤ x ≤ π2 f (x) = . 0 egyébként Adjuk meg ξ eloszlásf¨ uggvényét, és a P (ξ 2 > 1) valósz´ın˝ uséget! 7. Legyenek ξ 1 , ξ 2 ∈ N (0, 1) f¨ uggetlen valósz´ın˝ uségi változók, adjuk meg η 1 = ξ 21

és η 2 = ξ 21 + ξ 22

eloszlását!. Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


36

8. Legyenek ξ, η ∈ N (0, 1) f¨ uggetlen valósz´ın˝ uségi változók, adjuk meg η=

ξ η

eloszlását! 9. Legyen τ ∈ U (0; 1), és λ > 0, adjuk meg − λ1 ln(τ ) eloszlását! 10. Legyenek ξ k ∈ U (a; b), η k ∈ U (c; d) k = 1, 2, . . . f¨ uggetlenek, f : [a; b] → [c; d] egy valósz´ın˝ uségi s˝ ur˝ uségf¨ uggvény, és a ζ v.v. olyan hogy ζ = ξn

ha f (ξ n ) ≥ η n és

f (ξ k ) < η k

k = 1, 2, . . . , n − 1.

Adjuk meg ζ eloszlását! 11. Legyenek a ξ és η f¨ uggetlen skalár valósz´ın˝ uségi változók, és eloszlásf¨ uggvényeik folytonosak. Mutassuk meg, hogy P (ξ = η) = 0. 12. Ellen˝or´ızz¨ uk a nevezetes eloszlások tulajdonságait!

4. fejezet V´ arhat´ o´ ert´ ek, sz´ or´ as Véletlen mennyiségek megfigyelésével kapcsolatos tapasztalat, hogy a megfigyelt véletlen értékek egy ”közép-érték” kör¨ ul ingadoznak valamilyen ”mértékben”. A továbbiakban egy ξ skalár v.v.-val kapcsolatban, ennek megfelel˝o fogalmakat vezet¨ unk be a matematikai modell¨ unkben.

4.1.

V´ arhat´ o´ ert´ ek

4.1. Defin´ıci´ o. i) A ξ ≥ 0 egyszer˝ u v.v., várható értékének nevezz¨ uk az X E(ξ) = x · P (ξ = x) x∈R

o¨sszeget, ahol az o¨sszegzés a véges sok pozit´ıv tagra vonatkozik. ii) A ξ ≥ 0 v.v. várható értékének nevezz¨ uk az E(ξ) = lim E(ξ n ) n→∞

véges határértéket, ha (ξ n )∞ ıv egyszer˝ u v.v.-k monoton nem csökken˝o n=1 nemnegat´ sorozata, és limn→∞ ξ n = ξ. iii) A ξ skalár v.v. várható értékének nevezz¨ uk az E(ξ) = E(ξ + ) − E(ξ − ) k¨ ulönbséget, ha a ξ + = max{0, ξ} és ξ − = max{0, −ξ} nemnegat´ıv v.v.-k várható értéke definiált. A várható érték egyértelm˝ uen meghatározott, mint a ξ : Ω → R f¨ uggvény P valósz´ın˝ uségi mérték szerinti Z ξdP

Ω

37

´ ´ ERT ´ EK, ´ SZOR ´ AS ´ 4. FEJEZET. VARHAT O

38

integrálja, ha az véges érték (lásd: A f¨ uggelék). Tehát, ha a ξ v.v.-nak definiált (létezik) a várható értéke, azt ∃E(ξ) vagy ξ ∈ L1 jelöli a továbbiakban. A várható érték (mint egy véges mérték szerinti integrál), teljes´ıti az alábbi tulajdonságokat (lásd: A. F¨ uggelék). 1. Esem´ eny indikátorának várható értéke: Legyen A ∈ A, akkor

E(1A ) = P (A) .

Speciálisan az 1Ω ≡ 1 illetve 1∅ ≡ 0 konstansok várható értéke E(1Ω ) = E(1) = 1 E(1∅ ) = E(0) = 0 . 2. Nemnegat´ıv tulajdonság: Ha ξ ≥ 0 és ∃E(ξ), akkor E(ξ) ≥ 0 és E(ξ) = 0 ⇔ P (ξ = 0) = 1. 3. Homog´ en és addit´ıv tulajdonság: Ha ξ, η v.v.-k várható értéke létezik, és c ∈ R, akkor létezik E(c · ξ) és E(ξ + η), továbbá E(c · ξ) = c · E(ξ) E(ξ + η) = E(ξ) + E(η) . K¨ ovetkezm´ enyek: (a) (Monoton) Ha ξ ≤ η v.v.-k várható értéke létezik, akkor E(ξ) ≤ E(η) és E(ξ) = E(η) ⇔ P (ξ = η) = 1. (b) (Konvex) Ha h : I → R konvex f¨ uggvény az I ⊂ R intervallumon, és ξ : Ω → I v.v., továbbá létezik az E(h(ξ)), E(ξ) várható érték, akkor h (E(ξ)) ≤ E(h(ξ)) . (c) A ξ v.v. várható értéke akkor és csak akkor létezik, ha ∃E(|ξ|), és ekkor |E(ξ)| ≤ E(|ξ|) . (d) A ξ v.v. várható értéke akkor és csak akkor létezik, ha ∃η ∈ L 1 és |ξ| ≤ η, és ekkor |E(ξ)| ≤ E(|ξ|) ≤ E(η) .

´ ´ ERT ´ EK ´ 4.1. VARHAT O

39

4. Folytonoss´ ag: (a) Ha ξ n ∈ L1 n = 1, 2, . . . v.v.-k monoton nem csökken˝o sorozata, ξ = lim ξ n : Ω → R, n→∞

és (E(ξ n ))∞ atos sorozat, akkor létezik a ξ v.v. várható értéke, és n=1 korl´ E(ξ) = lim E(ξ n ) . n→∞

(b) Ha ξ n : Ω → R

n = 1, 2, . . . v.v.-k konvergens sorozata, ξ = lim ξ n : Ω → R, n→∞

és ζ ∈ L1 melyre |ξ n | ≤ ζ és

n = 1, 2, . . ., akkor létezik a ξ v.v. várható értéke, E(ξ) = lim E(ξ n ) . n→∞

A következ˝o tulajdonságok valósz´ın˝ uségszám´ıtási szempontok miatt lesznek fontosak számunkra, illetve a mértéktér véges (normált) voltából következnek. 5. Konstans várható értéke mind´ıg létezik, és E(c) = E(c · 1Ω ) = c · P (Ω) = c c ∈ R . 6. A várható érték a véletlen igadozás centruma: Ha ξ ∈ L1 , akkor

E (ξ − E(ξ)) = E(ξ) − E(ξ) = 0.

7. Ha α > 1 esetén ξ α ∈ L1 , azaz ξ ∈ Lα , akkor |ξ| ≤ 1 + |ξ α | miatt következik ξ ∈ L1 . Speciálisan ha ξ ∈ L2 ⇒ ξ ∈ L1 , ahol L2 = ξ | ξ v.v., és ξ 2 ∈ L1 . 8. Ha ξ, η ∈ L2 , akkor ξ · η ∈ L1 és

|E(ξ · η)| ≤

q

E(ξ 2 ) ·

p E(η 2 ) ,

(4.1)

továbbá egyenl˝oség pontosan akkor teljes¨ ul, ha van olyan x ∈ R, hogy P (ξ = x · η) = 1 vagy P (η = x · ξ) = 1 . Bizony´ıt´ as. Mivel |ξ · η| ≤ 12 ξ 2 + η 2 , létezik E(ξ · η) és az E (ξ − x · η)2 = E(η 2 )x2 − 2E(ξη)x + E(ξ 2 )

(4.2)



40

várható érték minden x ∈ R esetén. Ha E(η 2 ) = 0, akkor P (η = 0) = 1, és ´ıgy teljes¨ ul: q p 0 = |E(ξ · η)| = E(ξ 2 ) · E(η 2 ) = 0 P (η = 0 · ξ) = 1 . Ha E(η 2 ) > 0, akkor az el˝obbi (4.2) másodfok´ u f¨ uggvény diszkrimimánsára 4E 2 (ξη) − 4E(ξ 2 )E(η 2 ) ≤ 0, amit bizony´ıtani kellett, továbbá a diszkrimináns pontosan akkor zérus, ha a (4.2) E(ξη) es ´ıgy másodfok´ u f¨ uggvény egyetlen zérushelye x = E(η 2) , ´ P

E(ξη) η ξ− E(η 2 )

2

=0

!

=1.

9. A várható érték minimum tuljadonsága: Ha ξ ∈ L2 akkor m ∈ R esetén E (ξ − m)2 ≥ E (ξ − E(ξ))2 ,

és ” = ” akkor és csak akkor teljes¨ ul, ha m = E(ξ).

Bizony´ıt´ as. Mivel E (ξ − m)2 = E ((ξ − E(ξ)) + (E(ξ) − m))2 = E (ξ − E(ξ))2 + (E(ξ) − m)2 következik az a´ll´ıtás.

A következ˝o tételben a várható érték kiszám´ıtási ”szabályait” foglaljuk o¨ssze. 4.2. T´ etel (Kisz´ am´ıt´ asi formul´ ak). i) Legyen ξ : Ω → Rn v.v.v., h : Rn → R mérhet˝o f¨ uggvény, akkor Z E(h ◦ ξ) = hdPξ , Rn

és a várható érték pontosan akkor létezik, ha a h f¨ uggvény integrálja az (R n , Bn , Pξ ) mértéktéren létezik és véges. Speciálisan, ha n = 1 és h : R → R x 7→ x , akkor Z +∞ E(ξ) = xdPξ (x). −∞

´ ´ ERT ´ EK ´ 4.1. VARHAT O

41

ii) Ha ξ : Ω → Rn v.v.v. diszkrét eloszlás´ u, h : Rn → R mérhet˝o f¨ uggvény, akkor h ◦ ξ várható értéke pontosan akkor létezik, és akkor X E(h ◦ ξ) = h(x)P (ξ = x) , x∈Rn

ha ez a sor abszoult konvergens (illetve véges o¨sszeg). Speciálisan, ha n = 1 és h : R → R x 7→ x , akkor X E(ξ) = x · P (ξ = x), x∈R

feltéve, hogy ez a sor abszolut konvergens. iii) Ha ξ : Ω → Rn v.v.v. folytonos eloszlás´ u f : R n → R+ osz´ın˝ uségi s˝ ur˝ uségf¨ ugg0 val´ n vénnyel, h : R → R mérhet˝o f¨ uggvény, akkor h ◦ ξ várható értéke pontosan akkor létezik, és akkor Z Z E(h ◦ ξ) = · · · h(x1 , x2 , · · · , xn ) · f (x1 , x2 , · · · , xn )dx1 dx2 · · · dxn Rn

ha az improprius integrál abszolut konvergens (azaz a megfelel˝o Lebesgue integrál létezik, és véges). Speciálisan, ha n = 1 és h : R → R x 7→ x , akkor Z +∞ E(ξ) = x · f (x)dx, −∞

feltéve, hogy ez az improprius integrál abszolut konvergens. iv) Ha ξ, η ∈ L1 f¨ uggetlen v.v.-k, akkor ξ · η ∈ L1 és E(ξ · η) = E(ξ) · E(η) . Bizony´ıt´ as. Az i) eset az o¨sszetett f¨ uggvény integráljának kiszám´ıtási szabálya a bels˝o (ξ) f¨ uggvény a´ltal generált (Pξ ) mérték szerinti integrállal (lásd A. F¨ uggelék). A ii) és iii) ennek speciális esete, figyelembe véve az integrál kiszám´ıtását a megfelel˝o mértékek szerint. A iv) a´ll´ıtáshoz legyen h(x, y) = x · y (x, y) ∈ R2 ,

és P(ξ,η) a Pξ és Pη mértékek szorzatmértéke. A szorzatmérték szerinti integrálás kiszám´ıtási szabályát (lásd A. F¨ uggelék) használva, kapjuk: Z Z Z Z E(ξ) · E(η) = xdPξ · ydPη = x · ydPξ dPη = R R R R ZZ = x · ydP(ξ,η) = E(ξ · η) R×R



42

4.2.

Sz´ or´ as

A várható érték minimum tulajdonsága miatt, a véletlen mennyiségek ingadozási mértékének tekinthetj¨ uk a következ˝o fogalmat. 4.3. Defin´ıci´ o. A ξ skalár v.v. szórásának nevezz¨ uk a q D(ξ) = E (ξ − E(ξ))2

mennyiséget, feltéve a megfelel˝o várható értékek létezését. A defin´ıcióban szerepl˝o várható értékek létezéséhez elég feltenni, hogy ξ ∈ L 2 , a kijelölt gyökvonás mind´ıg elvégezhet˝o a várható érték nemnegat´ıv tulajdonsága miatt. A D 2 (ξ) mennyiséget sz´ or´ asnégyzetnek nevezz¨ uk. A sz´ or´ as tulajdons´ agai: (feltéve a megfelel˝o várható értékek létezését) 1. Kiszám´ıtási formula: A várható érték tulajdonságaiból, kapjuk D 2 (ξ) = E ξ 2 − 2E(ξ) · ξ + E 2 (ξ) = E(ξ 2 ) − E 2 (ξ) .

2. Nemnegat´ıvitás:

A várható érték nemnegat´ıv tulajdonságából D(ξ) ≥ 0 és D(ξ) = 0 ⇔ P (ξ = E(ξ)) = 1 . 3. Pozit´ıv homogén: Ha ξ v.v., c ∈ R, akkor a defin´ıció alapján q D(c · ξ) = E (c · ξ − E(c · ξ))2 = |c| · D(ξ) .

4. F¨ uggetlen v.v.-k o¨sszegének szórása:

Ha ξ és η v.v.-k f¨ uggetlenek, akkor a kiszám´ıtási formulából, felhasználva E(ξη) = E(ξ) · E(η), kapjuk D 2 (ξ + η) = E(ξ 2 ) + E(η 2 ) − E 2 (ξ) − E 2 (η) = D 2 (ξ) + D 2 (η) .

K¨ ovetkezm´ eny: Mivel konstans v.v. f¨ uggetlen minden v.v.-tól (Ab·1Ω = {∅, Ω}), és szórása nulla, kapjuk D(aξ + b) = |a| D(ξ) a, b ∈ R . Már a várható érték kiszám´ıtási formuláiból láttuk, hogy azt a v.v. eloszlása határozza meg. Ennek megfelel˝oen a szórás is az eloszlással adott, ezért az eloszlás várható értékér˝ol vagy szórásáról beszélhet¨ unk. Ha tehát a ξ és η v.v.-k eloszlásf¨ uggvénye megegyezik (ha pl. P (ξ = η) = 1), akkor várható értékekeik illetve szórásaik egyszerre léteznek, és ekkor E(ξ) = E(η) D(ξ) = D(η) .

´ ´ ´ ERT ´ EKE, ´ ´ ASA ´ 4.3. NEVEZETES ELOSZLASOK VARHAT O SZOR

4.3.

43

Nevezetes eloszl´ asok v´ arhat´ o´ ert´ eke, sz´ or´ asa

A továbbiakban kiszám´ıtjuk a már felsorolt nevezetes eloszlások várható értékét és szórását, felhasználva a kiszám´ıtási formulákat és tulajdonságokat. (1) Hipergeometrikus eloszl´ as A ξ ∈ Hyp(N, M, n) v.v. eloszlása: P (ξ = k) =

M k

Használjuk a (3.6) szerinti

·

N −M n−k N n

k = 0, 1, 2, . . . n.

ξ = 1 A1 + 1 A2 + . . . + 1 An felbontást, akkor kapjuk: E(ξ) = np = n

M . N

Továbbá ξ 2 = 1 A1 + 1 A2 + . . . + 1 An +

X

i6=j=1,2,...,n

1Ai ∩Aj

miatt kapjuk E(ξ 2 ) = np + n(n − 1)

M (M − 1) , N (N − 1)

amib˝ol a szórás értéke: D(ξ) =

s

n−1 np(1 − p) 1 − . N −1

(2,3) Binomi´ alis eloszl´ as A ξ ∈ Bin(n; p) v.v. eloszlása:

n P (ξ = k) = · p · (1 − p)n−k k

k = 0, 1, 2, . . . n .

Használjuk a (3.7) ξ = 1 A1 + 1 A2 + . . . + 1 An felbontást, ahol az o¨sszeadandó indikátorok most f¨ uggetlenek is, ezért kapjuk p E(ξ) = np D(ξ) = np(1 − p) . Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


44 (4) Poisson eloszl´ as A ξ ∈ Po(λ) v.v. eloszlása: P (ξ = k) =

λk −λ ·e k!

k ∈ N.

A megfelel˝o sorok o¨sszegzésével kapjuk E(ξ) = λ D(ξ) =

√

λ.

(5) Exponenci´ alis eloszl´ as A ξ ∈ Exp(λ) v.v. s˝ ur˝ uségf¨ uggvénye: f (t) = λ · e−λt dt t > 0 . A megfelel˝o integrálok kiszám´ıtásával kapjuk E(ξ) =

1 λ

D(ξ) =

1 . λ

(6) Norm´ alis eloszl´ as A ξ 0 ∈ N (0; 1) standard normális eloszlás´ u v.v. s˝ ur˝ uségf¨ uggvénye: x2 1 ϕ(x) = √ · e− 2 2π

x∈R.

A várható érték kiszám´ıtásához most az Z +∞ x2 1 x · √ · e− 2 dx 2π −∞ improprius integrál abszolut konvergenciáját kell ellen˝or´ızni, amihez számoljuk ki az Z +∞ Z 0 2 x2 1 1 1 − x2 x · √ · e dx = − x · √ · e− 2 dx = √ 2π 2π 2π 0 −∞ konvergens integrálokat, amib˝ol kapjuk E(ξ 0 ) = 0 . A szórást az

Z

+∞

x2 1 x2 · √ · e− 2 dx = 1 2π −∞ konvergens improprius integrált felhasználva kapjuk

E(ξ 20 )

=

D(ξ 0 ) = 1 . Mivel ξ = σξ 0 + m ∈ N (m; σ), kapjuk tetsz˝oleges normális eloszlás várható értékét és szórását E(ξ) = m D(ξ) = σ .

45

4.4. MOMENTUMOK, KOVARIANCIA

(7) Egyenletes eloszl´ as A ξ ∈ U (a; b) v.v. s˝ ur˝ uségf¨ uggvénye: f (x) =

1 b−a

a<x
A megfelel˝o integrálok kiszám´ıtásával kapjuk E(ξ) =

4.4.

a+b 2

D(ξ) =

b−a √ . 2 3

Momentumok, kovariancia

A várható érték fogalmával természetesen adódnak a következ˝ok (a jelölt várható értékek létezését feltéve): 1. A ξ skalár v.v. (a) nulladik momentuma m0 = E(ξ 0 ) = 1, (b) els˝ o momentuma m1 = E(ξ), (c) m´ asodik momentuma m2 = E(ξ 2 ), (d) n-edik momemtuma mn = E(ξ n ) n ∈ N, (e) els˝ o centr´ alis momentuma σ 1 = E(ξ − m1 ) = 0, (f) m´ asodk centr´ alis momentuma (variancia) σ 2 = E (ξ − m1 )2 = D 2 (ξ),

(g) n-edik centr´ alis momentuma

σ n = E ((ξ − m1 )n )

n ∈ N+ .

A várható érték tulajdonságaiból kapjuk az alábbi o¨sszef¨ uggéseket: σ 2 = m2 − m21 σ 3 = m3 − 3m2 m1 + 2m31 .. . Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


46

amib˝ol az mn n = 2, 3, . . . momentumok is kifejezhet˝ok m1 és a centrális momentumok seg´ıtségével m2 = σ 2 + m21 m3 = σ 3 + 3m1 σ 2 + m31 .. . Megjegyz´ es: A centrális momentumokból szokás számolni az un. ferdeség σ3 σ3 és lapults´ ag

σ4 −3 σ4

√ jellemzésére használt mér˝oszámokat, ahol σ = σ 2 = D(ξ). Ezek a mutatók a ξ v.v. un. ξ−E(ξ) standardizáltjának harmadik illetve negyedik momentumai, ez D(ξ) utóbbiból levonva a N (0; 1) eloszlás negyedik momentumát (lásd 10. feladat). A ferdeség a szimmetria hiányának mértéke, a lapultság pedig a normális eloszlás s˝ ur˝ uségének lapultságához ad o¨sszehasonl´ıtási alapot. 2. A ξ és η skalár v.v.-k (a) kovarianci´ aja (kölcsönös varianciája) cov(ξ, η) = E [(ξ − E(ξ)) · (η − E(η))] = E(ξ · η) − E(ξ) · E(η) , (b) ha még D(ξ), D(η) > 0, a két v.v. korrel´ aci´ os egy¨ utthat´ oja r=

cov(ξ, η) . D(ξ) · D(η)

(4.3)

A (4.1) egyenl˝otlenség szerint |cov(ξ, η)| ≤ D(ξ) · D(η) tehát −1 ≤ r ≤ 1. Ezért a korrelációs egy¨ uttható a két v.v. közötti f¨ ugg˝oség egyfajta normált mértéke, ugyanis ha ξ és η f¨ uggetlenek ⇒ cov(ξ, η) = r = 0 . P (η = aξ + b) = 1 vagy P (ξ = aη + b) = 1 a, b ∈ R ⇔ r = ±1

47

4.5. FELADATOK

Két v.v. kovarianciája fontos szerepet játszik a következ˝o un. regresszi´ os feladat megoldásában. Feladat: Legyenek ξ és η ( ∈ L2 ) skal´ ar val´ osz´ın˝ uségi v´ altoz´ ok, és keress¨ uk az a, b ∈ R regressziós egy¨ utthatókat, melyekkel az η ∼ aξ + b k¨ ozel´ıtés a legjobb, azaz a

σ 2R = E (η − aξ − b)2

maradék minim´ alis.

Megold´ as: Ha D 2 (ξ) = 0, akkor P (ξ = E(ξ)) = 1, tehát a minimum-feladat megoldása a várható érték minimum tulajdonsága miatt a = 0 b = E(η) és σ 2R = D 2 (η) . Ha D 2 (ξ) > 0, akkor az E (η − aξ − b)2 = D 2 (ξ) · a2 − 2 cov(ξ, η) · a + D 2 (η) + [E(η) − a · E(ξ) − b]2

célf¨ uggvény minimumhelye a=

4.5.

cov(ξ, η) D 2 (ξ)

b = E(η) − a · E(ξ) és σ 2R = D 2 (η)(1 − r 2 ) .

(4.4)

Feladatok

1. Legyen ξ ∈ Ω → R v.v., mutassuk meg, hogy E(ξ) akkor és csak akkor létezik, ha a ∞ X P (|ξ| > n) n=1

sor konvergens!

2. Bizony´ıtsuk az un. ”parciális integrálás” szabályát: Legyen ξ ≥ 0 v.v. eloszl´ asf¨ uggvénye F , akkor Z x Z x tdPξ (t) = (1 − F (t)) dt − x · (1 − F (x)) . 0

0

3. Mutassuk meg, hogy ha a ξ ≥ 0 v.v.-nak létezik várható értéke, akkor lim x · P (ξ > x) = 0 .

x→∞



48

4. Legyen a ξ : Ω → N v.v. diszkrét eloszlás´ u. Mutassuk meg, hogy ξ ∈ L1 pontosan akkor, ha a ∞ X P (ξ > k) k=0

sor konvergens, és ekkor

E(ξ) =

∞ X

P (ξ > k)

k=0

5. Legyen a ξ : Ω → R+ asf¨ uggvénye F. Mutassuk meg, hogy ξ ∈ L1 0 v.v. eloszl´ pontosan akkor, ha az Z +∞ Z +∞ P (ξ > x)dx = (1 − F (x)) dx 0

0

integrál véges, és ekkor E(ξ) =

Z

+∞ 0

(1 − F (x)) dx .

6. Legyenek ξ 1 , ξ 2 , . . . , ξ n skalár v.v.-k, és h : Rn → R konvex f¨ uggvény, azaz minden (x01 , x02 , . . . , x0n ) ∈ Rn ponthoz van olyan lineáris f¨ uggvény, hogy teljes¨ ul h(x1 , x2 , . . . , xn ) ≥ h(x01 , x02 , . . . , x0n )+a1 ·(x1 −x01 )+a2 ·(x2 −x02 )+· · ·+an ·(xn −x0n ) és léteznek a megfelel˝o várható értékek, akkor h (E(ξ 1 ), E(ξ 2 ), . . . , E(ξ n )) ≤ E (h(ξ 1 , ξ 2 , . . . , ξ n )) . 7. Válasszunk véletlenszer˝ uen egy pontot az origó középpont´ u egység sugar´ u körben, jelölje (ξ, η) a pont koordinátáit. Szám´ıtsuk ki ξ, η és ξ · η várható értékét, ξ és η szórását! 8. Dobjunk két kockát, jelölje az eredmények minimumát ξ, maximumát η. Szám´ıtsuk ki várható érték¨ uket! 9. Legyen ξ folytonos eloszlás´ u f (x) =

c 1 + x2

x∈R

s˝ ur˝ uségf¨ uggvénnyel, mutassuk meg, hogy E(ξ) nem létezik! 10. Legyen ξ ∈ N (0; 1), szám´ıtsuk ki ξ momentumait: σ 2n = E(ξ 2n ) = (2n − 1) · (2n − 3) · . . . · 3 · 1 =

σ 2n+1 = E(ξ 2n+1 ) = 0

n = 0, 1, 2, . . .

(2n)! 2n · n!

4.5. FELADATOK

49

11. Egy p < 1 valósz´ın˝ uség˝ u eseményt ismételten megfigyel¨ unk az els˝o bekövetkezésig. k Legyen a ξ v.v. értéke 2 ha ez a k-adik ismétlésben történik, k = 1, 2, . . . . Adjuk meg ξ várható értékét és szórását. 12. Egy hallgató egy tárgyból háromszor vizsgázhat. Az egyes vizsgák eredményessége egymástól (teljesen) f¨ uggetlen, és sikeres vizsga valósz´ın˝ usége rendre 0.6, 0.8 és 0.9. Jelölje a ξ valósz´ın˝ uségi változó az els˝o sikeres vizsga sorszámát, illetve legye értéke 0, ha mindhárom sikertelen. Mennyi M (ξ) és D(ξ) értéke? 13. A következ˝o szerencsjátékot játszuk egy T o¨sszeg befizetése ellenében: kockát dobunk, és ha az eredmény 3-nál több, az eredmény négyzetének értékét nyerj¨ uk, egyébként még fizet¨ unk annyit amennyi a dobás eredménye. Milyen T esetén érdemes játszani? ”Határesetben” mennyi az egyenleg várható értéke és szórása? 14. Egy ujságárusnál egy adott lapot a´tlagosan 100 vásárló keres egy napon. Mennyit kell naponta rendelnie, hogy a várható haszna maximális legyen, ha az 50Ft-ért beszerzett lapot 60Ft-ért adja a vásárlónak, és a megmaradt példányokat 30Ft-ért veszi vissza a terjeszt˝o?


50


5. fejezet Nagy sz´ amok t¨ orv´ enye Ebben a fejezetben azt a tapasztalati tényt igazoljuk a matematikai modellben, hogy véletlen jelenségek nagy szám´ u megfigyelése során bizonyos ”kiegyenl´ıt˝odés” figyelhet˝o meg, mint például a relat´ıv gyakoriság egyre kissebb mérték˝ u ingadozása.

5.1.

Nevezetes egyenl˝ otlens´ egek

A következ˝o a´ll´ıtások véletlen mennyiségek ingadozásainak mértékér˝ol adnak becslést, lényegében korlátosságukat a´ll´ıtva. 5.1. T´ etel (Markov egyenl˝ otlens´ eg). Legyen ξ ≥ 0 v.v., λ > 0, és E(ξ) > 0, akkor P (ξ ≥ λ · E(ξ)) ≤

1 λ

(5.1)

Bizony´ıt´ as. Jelölje m = E(ξ) > 0, akkor a várható érték monoton tulajdonságából ξ ≥ λ · m · 1{ξ≥λ·E(ξ)} ⇒ m ≥ λ · m · P (ξ ≥ λ · m) amib˝ol rendezéssel kapjuk a bizony´ıtandó egyenl˝otlenséget. 5.2. T´ etel (Csebisev egyenl˝ otlens´ eg). Legyen ξ skalár v.v., λ > 0, és D(ξ) > 0, akkor 1 (5.2) P (|ξ − E(ξ)| ≥ λ · D(ξ)) ≤ 2 λ Bizony´ıt´ as. Írjuk a Markov egyenl˝otlenséget a (ξ − E(ξ))2 ≥ 0 v.v.-val és λ2 > 0 számmal, akkor kapjuk 1 P (ξ − E(ξ))2 ≥ λ2 · D 2 (ξ) ≤ 2 λ

ami a bizony´ıtandó (5.2)-egyenl˝otlenség.

51

´ ¨ ENYE ´ 5. FEJEZET. NAGY SZAMOK TORV

52 K¨ ovetkezm´ enyek: 1. A Markov egyenl˝otlenségben λ = esetén

ε E(ξ)

helyettes´ıtéssel kapjuk tetsz˝oleges 0 < ε

P (ξ ≥ ε) ≤

E(ξ) , ε

(5.3)

ami már az E(ξ) = 0 esetben is teljes¨ ul. 2. Hasonlóan nyerhetj¨ uk a Csebisev egyenl˝otlenség következ˝o alakját ε > 0 esetén P (|ξ − E(ξ)| ≥ ε) ≤

D 2 (ξ) , ε2

(5.4)

ami teljes¨ ul a D(ξ) = 0 esetben is. 3. A Markov illetve Csebisev egyenl˝otlenségek egyfajta korlátosságot a´ll´ıtanak, annak megfelel˝oen, hogy létezik a várhat´ a szórás. Ha még feltessz¨ uk o érték illetve E(ξ 4 ) létezését, akkor létezik az E (ξ − E(ξ))4 negyedik centrális momentum, és hasonlóan kapjuk E (ξ − E(ξ))4 , (5.5) P (|ξ − E(ξ)| ≥ ε) ≤ ε4 ami esetenként még szigr´ ubb korlátot jelenet mint (5.4) ugyanazon esemény valósz´ın˝ uségére. 4. Alkalmazzuk az (5.4) illetve (5.5) egyenl˝ otlenségeket a (ξ n )∞ uggetlen, azonos n=1 f¨ P eloszlás´ u v.v.-k sorozatából nyert ¯ξ = n1 nk=1 ξ k a´tlagra: (a) ha ∃σ 2 = D 2 (ξ n ) n = 1, 2, . . . és ε > 0, akkor σ2 P ¯ξ − m ≥ ε ≤ 2 nε (b) ha ∃σ 4 = E (ξ n − E(ξ n ))4 n = 1, 2, . . . és ε > 0, akkor 3σ 4 P ¯ξ − m ≥ ε ≤ 2 4 n ε

(5.6)

(5.7)

ahol m = E(ξ n ) n = 1, 2, . . . a közös várható érték. Bizony´ıt´ as. Mivel m = E(¯ξ) és D 2 (¯ξ) = σn2 (5.4)-b˝ol következik (5.6). (5.7) igazolásához számoljuk ki az a´tlag negyedik centrális momentumát:  !4  n h X 4 i 1  = E ¯ξ − m E (ξ k − m)  = n4 k=1 " # X 1 = E (ξ 1 − m)k1 · (ξ 2 − m)k2 · . . . · (ξ n − m)kn = n4 k1 +k2 ,...+kn =4 1 n 4! 2 1 σ 2 = 4 n · σ 4 + 3n(n − 1)σ 22 n · σ4 + = 4 n n 2 2!2!

´ ¨ ENYEI ´ 5.2. NAGY SZAMOK TORV

53

ahol kihasználva a sorozat tagjainak f¨ uggetlenségét, az E (ξ k − m) · (ξ l − m)3 = 0 k 6= l = 1, 2, . . . n tagokat elhagyhattuk. A várható érték konvexitása szerint σ 22 = E 2 (ξ k − m)2 ≤ σ 4 ,

és használjuk az

E

h

¯ξ − m

4 i

≤

1 3σ 4 [n · σ 4 + 3n(n − 1)σ 4 ] ≤ 2 4 n n

becslést (5.5)-ben, ´ıgy kapjuk (5.7)-et.

5.2.

Nagy sz´ amok t¨ orv´ enyei

5.3. T´ etel (Nagy sz´ amok gyenge t¨ orv´ enye). Legyenek (ξ n )∞ uggetlen, azonos eln=1 f¨ oszlás´ u skalár v.v.-k, és létezzen m = E(ξ k ), σ = D(ξ k ) k = 1, 2, . . . közös várható érték¨ uk, szórásuk. Akkor ε > 0 esetén n ! 1 X lim P ξ k − m ≥ ε = 0 . (5.8) n→∞ n k=1

Bizony´ıt´ as. Az a´ll´ıtás következik (5.6)-b˝ol.

5.4. K¨ ovetkezm´ eny (Nagy sz´ amok Bernoulli t¨ orv´ enye). Legyen η n ∈ Bin(n; p) n = 1, 2, . . . és ε > 0, akkor η lim P n − p ≥ ε = 0 . n→∞ n

Bizony´ıt´ as. Mivel f¨ uggetlen, azonos p-valósz´ın˝ uség˝ u események indikátorainak o¨sszege binomiális eloszlás´ u, (5.8)-b˝ol következik az a´ll´ıtás.

5.5. T´ etel (Nagy sz´ amok er˝ os t¨ orv´ enye). Legyenek (ξ n )∞ uggetlen, azonos eloszn=1 f¨ lás´ u skalár v.v.-k, és létezzen közös m = E(ξ n ) várható érték¨ uk, akkor ! n 1X ξk = m = 1 . P lim n→∞ n k=1

Bizony´ıt´ as. A bizony´ıtást itt csak abban az esetben adjuk meg, amikor léteznek a σ 4 = E [(ξ k − m)4 ] k = 1, 2, . . . közös negyedik centrális momentumok. Jelölje ( n ) ∞ [ ∞ 1 X \ 1 AN = ξ k − m > ∈A n N M =1 n=M k=1



54

∞ P uggvény-) sorozat nem koneseményt, melynek ω ∈ AN pontjaiban a n1 nk=1 ξ k n=1 (f¨ vergálhat m-hez. Az o¨sszes ilyen elemi események halmaza ekkor az A=

∞ [

N =1

AN ∈ A

esemény, ami a monoton b˝ov¨ ul˝o (AN )∞ enysorozat egyes´ıtése, ezért a valósz´ın˝ uségi N =1 esem´ mérték folytonossága miatt P (A) = lim P (AN ) . (5.9) N →∞

A valósz´ın˝ uségi mérték monoton és szubaddit´ıv tulajdonságából kapjuk tetsz˝oleges M ∈ N+ esetén ( n )! ! ∞ ∞ n 1 X [ X X 1 1 1 P (AN ) ≤ P ξ k − m > ≤ P ξ k − m > , n n N N n=M k=1 n=M +1 k=1

amit (5.7) felhasználásával tovább növelve kapjuk P (AN ) ≤

∞ X

3σ 4

2 n=M +1 n

1 4 N

ami egy konvergens sor o¨sszegének és M -edik részletösszegének eltérése, ami tetsz˝olegesen kicsi lesz, ha M elég nagy. Tehát P (AN ) = 0 , amib˝ol (5.9) miatt következik az a´ll´ıtás. A fenti a´ll´ıtások azt fejezik ki, hogy azonos eloszlás´ u, f¨ uggetlen valósz´ın˝ uségi változók a´tlaga bizonyos értelemben közeledik a várható értékhez. Ez az 5.3 és 5.4 tételek esetén az un. sztochasztikus (vagy mértékben val´ o ) konvergenciát jelenti, az 5.5 tétel pedig egy nulla valósz´ın˝ uség˝ u esemény kivételével a pontonkénti, un. majdnem biztos (vagy majdnem minden¨ utt) konvergenciát a´ll´ıtja.

5.3.

Feladatok

1. Legyen egy ξ v.v. várható értéke E(ξ) = 100, szórása D(ξ) = 2. Mit mondhatunk a P (ξ ≥ 110) P (90 < ξ < 110) valósz´ın˝ uségekr˝ol? Adjuk meg a választ normális és egyenletes eloszlás esetén! 2. Borel-Cantelli lemma: Legyenek A1 , A2 , . . . , An , . . . ∈ A események, és jelölje ∞ ul A = ∩∞ n=1 (∪k=n Ak ), akkor teljes¨ ∞ X n=1

P (An ) < +∞

=⇒

P (A) = 0 ;

55

5.3. FELADATOK

ha még az A1 , A2 , . . . , An , . . . ∈ A események f¨ uggetlenek, akkor teljes¨ ul ∞ X

P (An ) = +∞

=⇒

P (A) = 1 .

n=1

3. Mutassuk meg, hogy ha a ξ 1 , ξ 2 , . . . , ξ n , . . . f¨ uggetlen, azonos eloszlás´ u valósz´ın˝ uségi változók esetén 1-valósz´ın˝ uséggel létezik a n 1 X lim · ξk n→∞ n k=1

határérték, akkor létezik az m = E(ξ n ) közös várható érték!


56


6. fejezet Karakterisztikus f¨ uggv´ eny Már láttuk, hogy valósz´ın˝ uségi változók eloszlását meghatározza az eloszlásf¨ uggvény. Most egy u ´ jabb, ugyancsak egyértelm˝ u azonos´ıtásra alkalmas fogalmat vezet¨ unk be. Ehhez használjuk a várható érték fogalmának komplex érték˝ u valósz´ın˝ uségi változókra történ˝o E(ζ) = E (Re(ζ)) + i · E (Im(ζ)) kiterjesztését, ahol a ζ : Ω → C valós és képzetes részei skalár érték˝ u valósz´ın˝ uségi változók. Az ´ıgy kiterjesztett várható érték is rendelkezik a már korábban megismert, és ebben az esetben is megfogalmazható tulajdonságokkal (pl. homogén és addit´ıv, de a nemnegat´ıv illetve monoton tulajdonság nem értelmezhet˝o). A komplex számok p |x + iy| = h(x, y) = x2 + y 2 x, y ∈ R abszulut értékét megadó h f¨ uggvény konvexitásából most is következik (lásd: 48. oldal 6. feladat) |E(ζ)| ≤ E (|ζ|) . 6.1. Defin´ıci´ o. i ) A ξ : Ω → R skalár v.v. krakterisztikus f¨ uggvényének nevezz¨ uk a φξ : R → C t 7→ E eitξ

(6.1)

f¨ uggvényt.

ii) A ξ : Ω → N nemnegat´ıv egész érték˝ u v.v. generátorf¨ uggvényének nevezz¨ uk a Gξ : C → C z 7→ E z f¨ uggvényt. Megjegyz´ esek: 57

ξ

=

∞ X n=0

z n P (ξ = n)

(6.2)

¨ ´ 6. FEJEZET. KARAKTERISZTIKUS FUGGV ENY

58

1. φξ értelmezett minden t ∈ R esetén, mivel eitξ = 1 és korlátos v.v.-nak mind´ıg van várható értéke. Speciálisan φξ (0) = 1. 2. Gξ egy, a zárt egységkörben konvergens hatványsor o¨sszegf¨ uggvénye, melynek konvergencia sugara legalább 1, mivel |z| ≤ 1 esetén ∞ X n=0

n

|z| P (ξ = n) ≤

∞ X

P (ξ = n) = 1 = Gξ (1) .

n=0

3. Nemnegat´ıv egész érték˝ u v.v. karaktarisztikus f¨ uggvényét megkaphatjuk generátorf¨ uggvényéb˝ol: t∈R φξ (t) = Gξ eit

4. A várható érték kiszám´ıtási szabályainak megfelel˝oen, ha (a) ξ diszkrét eloszlás´ u, akkor φξ (t) =

X x

eitx · P (ξ = x)

t ∈ R,

(6.3)

ahol az o¨sszegzés azon véges vagy megszámlálhatóan sok x ∈ R esetén értend˝o, melyre P (ξ = x) > 0. (b) ξ folytonos eloszlás´ u f : R → R+ ur˝ uségf¨ uggvénnyel, akkor 0 s˝ Z+∞ φξ (t) = eitx · f (x)dx t ∈ R ,

(6.4)

−∞

ur˝ uségf¨ uggvénye. ahol f : R → R+ 0 a ξ v.v. s˝ 5. Egy ξ v.v. karakterisztikus f¨ uggvényét meghatározza ξ eloszlása, ezért beszélhet¨ unk a megfelel˝o eloszlások karakterisztikus f¨ uggvényér˝ol. A karakterisztikus f¨ uggv´ eny tulajdons´ agai 1. A karakterisztikus f¨ uggvény folytonos ∀t ∈ R esetén, mivel i(t+h)ξ e − eitξ ≤ eihξ − 1 ≤ 2

amib˝ol következik a határérték és a várható érték felcserélhet˝osége, tehát lim φξ (t + h) − φξ (t) = E lim ei(t+h)ξ − eitξ = 0 h→0

h→0

2. φξ korlátos f¨ uggvény, mivel φξ (t) = E(eitξ ) ≤ E eitξ = φξ (0) = 1.

59 3. Ha létezik az E(ξ n ) várható érték, akkor φξ n-szer differenciálható, és (k)

φξ (t) = ik E(ξ k eitξ ) t ∈ R k = 1, 2, . . . n ; illetve speciálisan t = 0 esetben (k)

φξ (0) = ik E(ξ k ) k = 1, 2, . . . n . Hasonlóan kapjuk nemnegat´ıv egész értéket felvev˝o v.v. esetén a generátorf¨ uggvény deriváltjaira: (k) Gξ (1) = E (ξ(ξ − 1)(ξ − 2) · · · (ξ − k + 1)) Bizony´ıt´ as. Elég megmutatni, hogy a deriválás és a várható érték képzés sorrendje felcserélhet˝o, amihez megmutatjuk, hogy a megfelel˝o k¨ ulönbségi hányadosnak van integrálható majoránsa. Nézz¨ uk ezt a legegyszer˝ ubb, k = 1 esetben. Mivel ekkor E(ξ) is létezik, és i(t+h)ξ ihξ itξ e e − 1 − e = |ξ| hξ ≤ K · |ξ| h ahol K a korlátos

( ix e −1 ix ha x ∈ R\{0} x 7→ 1 ha x = 0

(6.5)

f¨ uggvény fels˝o korlátja. Tehát a h → 0 határátmenet és az integrálás (lásd A. f¨ uggelék, (A.9)) sorrendje felcserélhet˝o, és kapjuk i(t+h)ξ e − eitξ 0 = E(iξeitξ ) t ∈ R. φξ (t) = lim E h→0 h A k > 1 esetben hasonlóan járunk el, csak akkor |ξ|k várható értékének létezését használjuk ki. K¨ ovetkezm´ eny: Írjuk a Taylor formulát a t = 0 pontban φξ (t) =

n X (it)k k=0

ahol teljes¨ ul

k!

E(ξ k ) + Rn (t) t ∈ R ,

1 Rn (t) = 0 . t→0 tn

lim

4. Ha létezik az E(ξ n ) várható érték ∀n ∈ N, akkor φξ (t) =

∞ X (it)k k=0

k!

E(ξ k )

a hatványsor konvergencia tartományában. Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


60

Bizony´ıt´ as. Elég megmutatni, hogy a Taylor formula 2n − 1-edik maradéktagjára (2n) φ (ϑ) 2n 2n ξ 2n i2n E(ξ eiϑξ ) 2n E(ξ ) 2n ·t →0 |R2n−1 (t)| = · t ≤ ·t = (2n)! (2n)! (2n)! ami a konvergencia tartományban teljes¨ ul.

5. Bizony´ıtás nélk¨ ul megeml´ıtj¨ uk, hogy a 3. tulajdonság részbeni megford´ıtása is igaz, nevezetesen: (2n) ∃φξ (0) ⇒ ∃E(ξ 2n ). 6. Ha ξ karakterisztikus f¨ uggvénye φξ , akkor a, b ∈ R esetén az η = aξ + b karakterisztikus f¨ uggvénye φη (t) = E eit(aξ+b) = eitb · φξ (at) t ∈ R . és speciálisan

φ−ξ (t) = E e−itξ = φξ (−t) = φξ (t) .

Ha tehát ξ eloszlása szimmetrikus, azaz ξ és −ξ eloszlása azonos, akkor karakterisztikus f¨ uggvénye valós érték˝ u. 7. Ha ξ és η v.v.-k f¨ uggetlenk, akkor φξ+η (t) = E eit(ξ+η) = E eitξ · E eitη = φξ (t) · φη (t)

t ∈ R ..

8. φξ : R → C u ´ gynevezett pozit´ıv szemidefinit f¨ uggvény, azaz ∀t1 , t2 , . . . , tn ∈ R és esetén teljes¨ ul: 0≤

n X n X k=1 l=1

∀z1 , z2 , . . . , zn ∈ C

φξ (tk − tl ) · zk · z¯l

Bizony´ıt´ as. Mivel 2 n X n n n X n X X X itk ξ itk ξ it ξ e · e l · zk · z¯l = 0≤ zk e = ei(tk −tl )ξ · zk · z¯l k=1 l=1

k=1

k=1 l=1

kapjuk

0≤E

n X n X k=1 l=1

e

i(tk −tl)ξ

· zk · z¯l

!

=

n X n X k=1 l=1

φξ (tk − tl ) · zk · z¯l

A (6.3) és (6.4) kiszám´ıtási formulákból és a fenti tulajdonságokból közvetlen¨ ul megkaphatók az alábbi eloszlások karakterisztikus f¨ uggvényei.

´ ´ 6.1. HATARELOSZL ASOK

61

1. A ∈ A, és ξ = 1A , akkor Gξ (z) = 1 − P (A) + z · P (A) z ∈ C ; φξ (t) = 1 − P (A) + eit · P (A) t ∈ R ; 2. A1 , A2 , . . . , An ∈ A f¨ uggetlenek, és P (Ak ) = p k = 1, 2, . . . n, akkor a ξ = Bin(n; p) v.v. esetén n φξ (t) = p · eit − 1 + 1 t∈R;

Pn

k=1

1Ak ∈

3. ξ ∈ Geom(p), akkor

Gξ (z) =

∞ X k=1

z k (1 − p)k−1 p = φξ (t) =

zp 1 − z + zp

eit p 1 − eit + eit p

|z| <

1 ; 1−p

t∈R;

Amib˝ol megkaphatjuk a diszkrét geometriai eloszlás várható értékét és szórását: p 1 0 = E(ξ) 2 −→ G (1) = p (1 − z + zp) 2 (1 − p) 2p (1 − p) 00 = E(ξ 2 ) − E(ξ) G00 (z) = 3 −→ G (1) = 2 p (1 − z + zp) G0 (z) =

tehát E(ξ) = p1 , és D(ξ) =

s

2 (1 − p) 1 + − p2 p

4. ξ ∈ U (a, b), akkor φξ (t) =

2 p (1 − p) 1 . = p p

eibt − eiat i(b − a)t

t∈R;

5. ξ ∈ Exp(λ), akkor φξ (t) =

6.1.

λ 1 = λ − it 1 − itT

t∈R T =

1 . λ

Hat´ areloszl´ asok

Most bizony´ıtás nélk¨ ul kimondunk két tételt, melyek a karakterisztikus f¨ uggvény két további fontos tulajdonságát a´ll´ıtják. Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


62

6.2. T´ etel (Egy´ ertelm˝ us´ egi t´ etel). Egy ξ v.v. φξ karakterisztikus f¨ uggvénye meghatározza ξ F : R → [0; 1]

eloszlásf¨ uggvényét, nevezetesen ha a < b ∈ R az F eloszlásf¨ uggvény folytonossági helyei, akkor ZT −iat 1 e − e−ibt φξ (t)dt . (6.6) F (b) − F (a) = lim T →∞ 2π it −T

6.3. K¨ ovetkezm´ eny. Ha φξ integrálható, akkor az eloszlásf¨ uggvény F 0 = f deriváltja minden¨ utt létezik, tehát ξ folytonos eloszlás´ u 1 f (x) = F (x) = 2π 0

Z∞

e−ixt φξ (t)dt x ∈ R

−∞

(6.7)

folytonos és korlátos s˝ ur˝ uségf¨ uggvénnyel. Bizony´ıt´ as. φξ integrálhatósága esetén 1 lim T →∞ 2π

ZT

e−iat − e−ibt φξ (t)dt = it

−T

=

1 lim T →∞ 2π 1 2π

Z∞

−∞

Z∞

−∞

1{−T ≤x≤T } ·

e−iat − e−ibt φξ (t)dt = it

e−iat − e−ibt φξ (t)dt = F (b) − F (a) it

mivel ekkor az integrandusnak van T -t˝ol nem f¨ ugg˝o integrálható majoránsa (lásd A. f¨ uggelék, (A.9)): −iat −ibt −it(b−a) e − e e − 1 −ita 1{−T ≤x≤T } · ≤ (b − a) e ≤ (b − a) · K · φξ (t) , φ (t) φ (t) ξ ξ it −it(b − a)

ahol K a már eml´ıtett (6.5) f¨ uggvény fels˝o korlátja. Ebb˝ol kapjuk 1 F (b) − F (a) = b−a 2π

Z∞

−∞

e−ibt − e−iat φ (t)dt , −it(b − a) ξ

amib˝ol a b → a határérték képzésével (hasonlóan találva b-t˝ol nem f¨ ugg˝o integrálható majoránst) kapjuk az a´ll´ıtást, mivel F folytonossági helyei s˝ ur˝ u halmazt alkotnak (lásd 35. oldal 1. feladat). f folytonossága és korlátossága következik a (6.7) formulából. Az egyértelm˝ uségi tétel ad választ arra a nevezetes problémára is, hogy egy ξ v.v. eloszlását mikor határozzák meg momentumai, az E(ξ k ) k = 1, 2, . . . mennyiségek. Ha ugyanis léteznek ezek a várható értékek, és a φξ karakterisztikus f¨ uggvényt el˝oa´ll´ıtja (t = 0 pontban fel´ırt) Taylor sora, akkor az eloszlást már meghatározza momentumainak sorozata.


63

6.4. T´ etel (Folytonoss´ agi t´ etel). Legyen (Fn )n∈N eloszlásf¨ uggvények gyengén konvergens sorozata, azaz lim Fn (x) = F (x) x ∈ {x ∈ R |F folytonos az x pontban} ,

n→∞

és F eloszlásf¨ uggvény, akkor az Fn eloszlásf¨ uggvényhez tartozó φn karakterisztikus f¨ uggvények (n ∈ N) sorozata konvergens, és lim φn = φ

n→∞

az F eloszlásf¨ uggvényhez tartozó karakterisztikus f¨ uggvény. Megford´ıtva, ha létezik a φ(t) = lim φn (t) t ∈ R n→∞

határf¨ uggvény, és φ folytonos a t = 0 pontban, akkor a megfelel˝o (F n )n∈N eloszlásf¨ uggvények sorozata gyengén konvergens, azaz lim Fn (x) = F (x) x ∈ {x ∈ R |F folytonos az x pontban} ,

n→∞

és F eloszlásf¨ uggvény, amelyhez tartozó karakterisztikus f¨ uggvény φ. Alkalmazzuk most a fentieket további nevezetes eloszlások karakterisztikus f¨ uggvényének megadásához. 1. Poisson eloszl´ as karakterisztikus f¨ uggv´ enye. Mivel a binomiális eloszlás tagjainak határértke λ = np esetben egy λ paraméter˝ u Poisson eloszlás megfelel˝o tagja, az eloszlásf¨ uggvények (gyenge) konvergenciája miatt kapjuk a n λ it φ(t) = lim t∈R · e − 1 + 1 = exp λ eit − 1 n→∞ n Po(λ) eloszlás karakterisztikus f¨ uggvényét.

2. Cauchy eloszl´ as karakterisztikus f¨ uggv´ enye. Mivel az f (x) = 21 e−|x| x ∈ R s˝ ur˝ uségf¨ uggvény˝ u eloszlás karakterisztikus f¨ uggvénye 1 uségi tétel következménye szerint (lásd: 5. feladat) φ(t) = 1+t2 , az egyértelm˝ 1 −|a| 1 e = 2 2π

Z∞

e−iat

−∞

amib˝ol kapjuk e

−|a|

=

Z∞

−∞

e

iat

1 dt a ∈ R , 1 + t2

1 1 π 1 + t2

dt a ∈ R ,

ami a Cauchy eloszlás karakterisztikus f¨ uggvényét adja meg. Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


64

3. Norm´ alis eloszl´ as karakterisztikus f¨ uggv´ enye. Legyen ξ ∈ N (0, 1), akkor (lásd 48. oldal 10. feladat) E(ξ 2n ) = (2n − 1) · (2n − 3) · . . . · 3 · 1 = amib˝ol kapjuk φξ (t) =

∞ X k=0

k

(−1) ·

(2n)! 2n · n!

2 k t 2

E(ξ 2n+1 ) = 0

t2

= e− 2

k!

n = 0, 1, 2, . . .

t∈R,

mivel a sor konvergens az egész számegyenesen. Ha σ > 0 és m ∈ R, akkor σξ + m ∈ N (m, σ), és ´ıgy kapjuk tetsz˝oleges normális eloszlás φ(t) = eimt−

t2 σ 2 2

t∈R,

karakterisztikus f¨ uggvényét. Egy további nevezetes alkalmazás a következ˝o tétel. 6.5. T´ etel (K¨ ozponti hat´ areloszl´ as t´ etel, C.H.T.). Legyenek ξ 1 , ξ 2 , . . . , ξ n , . . . azonos eloszlás´ u, f¨ uggetlen (skalár érték˝ u) valósz´ın˝ uségi változók. Jelölje közös várható érték¨ uket és szórásukat m = E(ξ k ) σ = D(ξ k ) k = 1, 2, . . . akkor teljes¨ ul a következ˝o lim P

n→∞

1 Pn

Bizony´ıt´ as. Legyen φ0 a

ξk − m √ n<x σ

k=1

n

= Φ(x) x ∈ R

ξ k −m σ

v.v.-k közös karakterisztikus f¨ uggvénye. Mivel " 2 # ξk − m ξk − m ξk − m =0 D =E E =1, σ σ σ

φ0 Taylor formulája a t = 0 pontban φ0 (t) = 1 − Jelölje továbbá φ1 az

ξ k −m σ

·

t2 + R(t) t ∈ R 2

és

R(t) =0 t→0 t2

lim

√1 n

v.v. karakterisztikus f¨ uggvényét, akkor t2 t t =1− + R( √ ) t ∈ R , φ1 (t) = φ0 √ n 2n n

amib˝ol ηn =

1 n

Pn

n

Xξ −m 1 ξk − m √ k ·√ n= σ σ n k=1

k=1


65

miatt az η n krakterisztikus f¨ uggvénye n t2 t n φn (t) = φ1 (t) = 1 − + R( √ ) 2n n

t∈R.

Használjuk a következ˝o határértéket: Ha (rn )∞ ul limn→∞ n · rn = 0, és a ∈ C, akkor n=1 ⊂ C sorozatra teljes¨ lim

n→∞

n a 1 + + rn = exp(a) . n

Mivel a maradéktag tulajdonsága miatt n · R( √tn ) → 0, kapjuk t2

lim φn (t) = e− 2

n→∞

t∈R

ami az N (0, 1) eloszlás karakterisztikus f¨ uggvénye, amit bizony´ıtani kellett. 6.6. K¨ ovetkezm´ eny (Moivre-Laplace t´ etel). Legyen η n ∈ Bin(n; p), akkor ! η n − np lim P p < x = Φ(x) x ∈ R . n→∞ np(1 − p)

Bizony´ıt´ as. Mivel η n fel´ırható p-valósz´ın˝ uség˝ u f¨ uggetlen események indikátorainak o¨sszegeként, az a´ll´ıtás következik az el˝oz˝o tételb˝ol. A centrális határeloszlás tételt (röviden C.H.T.) u ´ gy alkalmazhatjuk, hogy sok f¨ uggetlen és azonos eloszlás´ u v.v. o¨sszegének standardizáltját közel´ıt˝oen standard normális eloszlás´ unak tek¨ untj¨ uk, vagyis az o¨sszeg eloszlását normális eloszlással közel´ıthetj¨ uk. Az természetesen a´ltalában nem adható meg, hogy milyen n értékt˝ol elfogadható a közel´ıtés, de pl. a binomiális eloszlás esetén np > 10 esetben ez már kielég´ıt˝o. Ha ξ diszkrét eloszlás´ u, N-beli lehetséges értékekkel, karakterisztikus f¨ uggvényét, és ´ıgy eloszlását meghatározza generátorf¨ uggvénye. A generátorf¨ uggvény is meghatározza deriváltjaival a ξ : Ω → N v.v. momentumait ha azok léteznek, nevezetesen: Gξ (1) = 1 0 Gξ (1) = E(ξ) 00

Gξ (1) = E(ξ 2 ) − E(ξ) .. . (k) Gξ (1) = E (ξ · (ξ − 1) · (ξ − 2) · . . . · (ξ − k + 1)) Használjuk mindezt annak igazolására, hogy a hipergeometrikus eloszlás közelithet˝o a binomiális eloszlással nagy N, M esetén. Elég megmutatnunk, hogy momentumaik közelednek egymáshoz, vagy ami ugyanaz, deriváltjaik a z = 1 helyen, ezért generátorf¨ uggvényeik is, melyek n-edfok´ u polinomok, tehát karakterisztikus f¨ uggvényeik is, amib˝ol Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


66

következik az eloszlások hasonló konvergenciája. Az n-edrend˝ u p-paraméter˝ u binomiális eloszlás generátorf¨ uggvénye: n X k n pk (1 − p)n−k = (zp + 1 − p)n z ∈ C , G(z) = z k k=0 amib˝ol 0

Gξ (1) = np 00

Gξ (1) = n(n − 1)p2 .. . (k) Gξ (1) = n(n − 1) · . . . · (n − k + 1)pk

k = 1, 2, . . . n

Az N > M paraméter˝ u hipergeometrikus eloszlás generátorf¨ uggvénye: n M N −M X k n−k zk z ∈ C H(z) = N n

k=0

amib˝ol egyszer˝ u számolással kapjuk: 0

Hξ (1) = n · 00

M N

Hξ (1) = n(n − 1) · .. .

M M −1 · N N −1

(k)

Hξ (1) = n(n − 1) · . . . · (n − k + 1) ·

M −k+1 M M −1 · ·...· N N −1 N −k+1

Ha még feltessz¨ uk, hogy M, N → ∞ és p =

6.2.

M N

k = 1, 2, . . . n

a´llandó, kapjuk a bizony´ıtandó a´ll´ıtást.

V´ eletlen tagsz´ am´ uo ¨sszeg

Vizsgáljuk most a következ˝o esetet. Legyenek a ν : Ω → N,

ξ 1, ξ2, . . . , ξn, . . .

v.v.-k teljesen f¨ uggetlenek, és az utóbbiak azonos eloszlás´ uak Jelölje η v.v. az alábbi o¨sszeget ν ∞ X X η= ξk = 1{ν≥k} ξ k , k=0

k=1

ahol ξ 0 = 0. Ekkor η karakterisztikus f¨ uggvénye ! ∞ ∞ k X Y X itξ j = P (ν = k) · φk (t) t ∈ R φη (t) = E 1{ν=k} e k=0

j=0

k=0

67

6.3. FELADATOK

ahol φ a ξ k

k = 1, 2, . . . v.v.-k közös karakterisztikus f¨ uggvénye, és ha G(z) =

∞ X k=0

P (ν = k) · z k

z∈C

jelöli ν generátorf¨ uggvényét, kapjuk φη (t) = G ◦ φ(t) t ∈ R . Ebb˝ol kapjuk η várható értékére ha létezik µ = E(ν) és m = E(ξ k ): iE(η) = φ0η (0) = G0 (1) · φ0 (0) = i · µ · m vagyis E(η) = µ · m . Továbbá 2

−E(η 2 ) = φ00η (0) = G00 (1) · [φ0 (0)] + G0 (1) · φ00 (0) amib˝ol

E(η 2 ) = m2 E(ν 2 ) − µ + µ · E(ξ 2k )

vagyis

D 2 (η) = m2 · δ 2 + µ · σ 2

ahol δ 2 = D 2 (ν) és σ 2 = D 2 (ξ k ) k = 1, 2, . . . .

6.3.

Feladatok

1. Két kockával dobunk. Jelölje ξ és η a két dobás eredményét, ´ırjuk fel a ξ 2 + η 2 v.v. generátorf¨ uggvényét, eloszlását! uggvényét! 2. Adjuk meg a χ22n eloszlás karakterisztikus f¨ 3. Egy szekrény hat fiókjában kellene rendet tenn¨ unk. Egy kocka dobásával döntj¨ uk el, hogy hány fiókot tesz¨ unk rendbe. Ha egy fiók rendezéséhez sz¨ ukséges id˝o egyenletes eloszlás´ u a 0 - 10 perc intervallumban, mi a rendezéssel töltött id˝o karakterisztikus f¨ uggvénye, várható értéke és szórása? 4. Legyenek a ξ és η v.v.-k f¨ uggetlenek, eloszlásuk pedig xı 1 4

P (ξ = xı ) 1 3 2 3

yj P (η = xj ) 2 . 2 3 1 5 3

Adjuk meg ξ, η és ξ + η generátorf¨ uggvényét, és ξ + η eloszlását! Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


68 5. Legyena ξ v.v. s˝ ur˝ uségf¨ uggvénye

1 f (x) = e−|x| 2 adjuk meg ξ karakterisztikus f¨ uggvényét! 6. Legyen a ξ v.v. s˝ ur˝ uségf¨ uggvénye f (x) =

(

0

x∈R,

ha x < 0

4xe−2x ha 0 ≤ x

,

adjuk meg ξ karakterisztikus f¨ uggvényét! 7. Legyenek a ξ és η v.v.-k f¨ uggetlenek, eloszlásuk pedig k−1 1 2 P (ξ = k) = P (η = k) = k = 1, 2, . . . . 3 3 Adjuk meg ξ, η és ξ + η generátorf¨ uggvényét! 8. Legyen a ξ v.v. s˝ ur˝ uségf¨ uggvénye ( f (x) =

3 2 x 8

ha 0 < x < 2

0

egyébként

,

adjuk meg ξ karakterisztikus f¨ uggvényét! ¨ 9. Egy bizonyos t´ıpus´ u alkatrész, ha hibátlan a´tlagosan 10 o´ráig m˝ uköd˝oképes. Ot ilyen alkatrészt vásárolunk egy olyan gyártótól, amely termékeinek 10%-a hibás. Jel¨ ulje η v.v. a megvásárolt termékek o¨sszzes m˝ uködési idejét, ´ırjuk fel η karakterisztikus f¨ uggvényét, várható értékét és szórását! 10. Egy u ¨ zletbe bej˝ov˝o vásárló exponenciális eloszlás´ u véletlen o¨sszeget költ el ha megtalálja az a´ltala keresett terméket. Ilyenkor az a´tlagos vásárlási érték 1000Ft. Annak valósz´ın˝ usége, hogy megtaláható a keresett termék, 0.7 . Jelölje η az els˝o sikertelen vásárlásig befolyt bevétel o¨sszegét, adjuk meg η (a) karakterisztikus f¨ uggvényét! (b) várható értékét és szórását! 11. Egy sorsoláson p = 0.5 valósz´ın˝ uséggel lehet egy 100 o´ra várható élettartam´ u izzólámpát nyerni. 10 sorsoláson igy nyert izzók o˝sszélettartamát jelölje az η valósz´ın˝ uségi változó. Adjuk meg η karakterisztikus f¨ uggvényét, várható értékét és szórását! ¨ 12. Egy bizonyos t´ıpus´ u alkatrész, ha hibátlan a´tlagosan 10 o´ráig m˝ uköd˝oképes. Ot ilyen alkatrészt vásárolunk egy olyan gyártótól, amely termékeinek 10%-a hibás. Jel¨ ulje η v.v. a megvásárolt termékek o¨sszzes m˝ uködési idejét, ´ırjuk fel η karakterisztikus f¨ uggvényét, várható értékét és szórását!

7. fejezet Vektor val´ osz´ın˝ us´ egi v´ altoz´ ok jellemz˝ oi 7.1.

Jel¨ ol´ esek, elnevez´ esek

p×q t´ıpus´ u véletlen mátrixnak is nevezz¨ uk a ξ pq-dimenziós vektor valósz´ın˝ uségi változót, és komponenseit egy megfelel˝o méret˝ u mátrixba rendezve, az alábbi jelöléseket használjuk:   ξ 11 ξ 12 · · · ξ 1q  ξ   21 ξ 22 · · · ξ 2q  ξ =  .. : Ω → Rp×q .. . . ..   .  . . . ξ p1 ξ p2 · · · ξ pq A továbbiakban egy ξ = (ξ 1 , ξ 2 , . . . ξ n ) n-dimenziós vektor valósz´ın˝ uségi változót egy n × 1 t´ıpus´ u véletlen mátrixként is használni fogunk, tehát ugyancsak ξ jelöli az oszlopvektort és ξ T ennek transzponáltját, azaz:   ξ1  ξ   2  ξT = ξ1 ξ2 · · · ξn . ξ =  ..   .  ξn A fentieknek megfelel˝oen a továbbiakban használni fogjuk a mátrixokkal kapcsolatos szokásos m˝ uveleteket, igy például ha ξ és η két n-dimenziós v.v., skaláris szorzatuk < ξ, η >= ξ T η =

n X

ξk ηk,

k=1

a ξ v.v. hosszának négyzete pedig: 2

T

|ξ| =< ξ, ξ >= ξ ξ = 69

n X i=1

ξ 2i .

´ ÍNUS ˝ EGI ´ ´ ´ JELLEMZOI ˝ 7. FEJEZET. VEKTOR VALOSZ VALTOZ OK

70

7.1.1.

V´ arhat´ o´ ert´ ek, kovariancia m´ atrix

7.1. Defin´ıci´ o. Véletlen vektor illetve mátrix várható értékén a megfelel˝o komponensek várható értékéb˝ol képzett vektort illetve mátrixot értj¨ uk, tehát     E(ξ 11 ) E(ξ 12 ) · · · E(ξ 1q ) ξ 11 ξ 12 · · · ξ 1q     ξ  21 ξ 22 · · · ξ 2q   E(ξ 21 ) E(ξ 22 ) · · · E(ξ 2q )  E  ..  ∈ Rp×q .. .. ..  =  .. .. . . . .   . . . . .   . . . E(ξ p1 ) E(ξ p2 ) · · · E(ξ pq ) ξ p1 ξ p2 · · · ξ pq

A mátrix-m˝ uveletek és a várható érték tulajdonságaiból következnek például az alábbiak: A ∈ Rn×p , ξ : Ω → Rp×q , B ∈ Rq×r ⇒ E(AξB) = AE(ξ)B ∈ Rn×r 7.2. Defin´ıci´ o. i) A ξ = (ξ 1 , ξ 2 , . . . , ξ p ) p− dimenzi´ os vektor val´ osz´ın˝ uségi v´ altoz´ o (auto-)kovariancia m´ atrix´ anak nevezz¨ uk a cov(ξ, ξ) = cov(ξ i , ξ j i=1,2,...,p j=1,2,...,p

p × p t´ıpus´ u m´ atrixot.

ii) A ξ = (ξ 1 , ξ 2 , . . . , ξ p ) p− dimenzi´ os és η = (η 1 , η 2 , . . . η q ) q− dimenzi´ os vektor val´ osz´ın˝ uségi v´ altoz´ ok (kereszt-)kovariancia m´ atrix´ anak nevezz¨ uk a cov(ξ, η) = cov(ξ ı , η j ) i=1,2,...,p j=1,2,...,q

p × q t´ıpus´ u m´ atrixot.

A kovarianci m´ atrix tulajdons´ agai a defin´ıció közvetlen következményei: jelölje ξ és η a defin´ıcióban szerepl˝o véletlen vektorokat, akkor könnyen ellen˝or´ızhet˝oek az alábbiak. 1. cov(ξ, η)T = cov(η, ξ), cov(ξ, ξ)T = cov(ξ, ξ). 2. Kiszám´ıtási formula: cov(ξ, η) = E(ξη T ) − E(ξ)E(η)T . 3. Számolási ”szabályok” : (a) Ha ζ egy további p-dimenziós vektor valósz´ın˝ uségi változó, akkor cov(ξ + ζ, η) = cov(ξ, η) + cov(ζ, η) .

¨ ESEK, ´ ´ 7.1. JELOL ELNEVEZESEK

71

(b) Ha a ξ, η véletlen vektorok f¨ uggetlenk, akkor cov(ξ, η) = 0 ∈ Rp×q . (c) Ha A ∈ Rn×p , a ∈ Rn×1 , B ∈ Rr×q , b ∈ Rr×1 , akkor cov(Aξ + a, Bη + b) = A cov(ξ, η)B T ∈ Rn×r . (d) Ha ξ, η : Ω → Rn f¨ uggetlen v.v.v.-k, akkor cov(ξ + η, ξ + η) = cov(ξ, ξ) + cov(η, η). 4. A ξ kovariancia mátrixa szimmetrikus, pozit´ıv szemidefinit mátrix, továbbá az alábbi a´ll´ıtások ekvivalensek: • cov(ξ, ξ) invertálható;

• cov(ξ, ξ) pozit´ıv definit;

• A cov(ξ, ξ)x = 0n homogén lineáris egyenletrendszernek csak az x = (0, 0, . . . 0) ∈ Rp triviális megoldása van. • ξ komponensei között nincs lineáris o¨sszef¨ uggés, azaz ∀ c = (c1 , c2 , . . . cp ) ∈ Rp Pp estén a i=1 ci ξ i valósz´ın˝ uségi változó nem lehet egy valósz´ın˝ uséggel a´llandó, ha c nem a zérus vektor.

7.1.2.

Karakterisztikus f¨ uggv´ eny

7.3. Defin´ıci´ o. A ξ : Ω → Rn v.v.v. karakterisztikus f¨ uggvényének nevezz¨ uk a φξ : Rn → C t 7−→ E ei f¨ uggvényt.

A skalár esethez hasonlóan, most is teljes¨ ulnek az alábbi tulajdonságok: 1. A várható érték kiszám´ıtási szabályainak megfelel˝oen, ha (a) ξ diszkrét eloszlás´ u {x1 , x2 , . . .} ⊂ Rn lehetséges értékekkel, akkor X φξ (t) = ei · P (ξ = xk ) t ∈ Rn k

(b) ξ folytonos eloszlás´ u f : R n → R+ ur˝ uségf¨ uggvénnyel, akkor 0 s˝ Z Z φξ (t) = · · · ei · f (x)dx t ∈ Rn . Rn



72

2. φξ folytonos, korlátos f¨ uggvény, és φξ ≤ 1.

3. Ha létezik az E(ξ l11 · ξ l22 · . . . · ξ lnn ) várható érték, akkor k1 ≤ l1 , k2 ≤ l2 , . . . , kn ≤ ln esetén D1k1 D2k2 . . . Dnkn φξ (t) = ik1 +k2 +...+kn E(ξ k11 · ξ k22 · . . . · ξ knn ei ) t ∈ Rn . 4. Ha ξ karakterisztikus f¨ uggvénye φξ , akkor A ∈ Rr×n és b ∈ Rr esetén az η = Aξ + b karakterisztikus f¨ uggvénye φη (t) = E ei = ei · φξ AT t t ∈ Rr . 5. Ha ξ és η v.v.-k f¨ uggetlen n-dimenziós v.v.v.-k, akkor φξ+η (t) = E ei = E ei · E ei = φξ (t) · φη (t)

t ∈ Rn ..

6. H ξ : Ω → Rp és η : Ω → Rq v.v.(v.)-k f¨ uggetlenek, akkor φ(ξ,η) (t1 , t2 ) = E ei<(t1 ,t2 ),(ξ,η)> = E ei · E ei = = φξ (t1 ) · φη (t2 ) t1 ∈ Rp t2 ∈ Rq . 7. Az egyértelm˝ uségi és folytonossági tételeknek megfelel˝o a´ll´ıtások most is teljes¨ ulnek, tehát például a v.v.v. karakterisztikus f¨ uggvénye és eloszlásf¨ uggvénye most is kölcsönösen meghatározzák egymást. K¨ ovetkezm´ eny: A ξ : Ω → Rp és η : Ω → Rq v.v.(v.)-k akkor és csak akkor f¨ uggetlenek, ha φ(ξ,η) (t1 , t2 ) = φξ (t1 ) · φη (t2 ) t1 ∈ Rp t2 ∈ Rq .

7.2.

Vektor val´ osz´ın˝ us´ egi v´ altoz´ o f˝ okomponensei

A továbbiakban legyen ξ : Ω → Rp v.v.v., jelölje várható érték vektorát E(ξ) = m ∈ Rp , és kovariancia mátrixát cov(ξ, ξ) = V ∈ Rp×p . Jelölje továbbá ξ centráltját ξ ∗ = ξ − m. A V sjátértékei csökken˝o sorba rendezve legyenek: λ1 ≥ λ 2 ≥ . . . ≥ λ p ≥ 0 a megfelel˝o sajátvektorok ortonormált rendszere pedig legyen: 1 ha i = j p T v1 , v2 , . . . , vp ∈ R , vi vj = i, j = 1, 2, . . . , p. 0 ha i 6= j Ekkor teljes¨ ulnek: V =

p X

λi vi viT

és Ip =

i=1

ahol Ip ∈ Rp×p jelöli a p × p t´ıpus´ u egységmátrixot.

p X i=1

vi viT ,

´ ÍNUS ˝ EGI ´ ´ ´ FOKOMPONENSEI ˝ 7.2. VEKTOR VALOSZ VALTOZ O

73

7.4. Defin´ıci´ o. i) A ξ v.v.v. f˝ okomponenseinek nevezz¨ uk a τ i = viT ξ ∗

i = 1, 2, . . . , p

skal´ ar val´ osz´ın˝ uségi v´ altoz´ okat. ii) A ξ v.v.v. pozit´ıv saj´ atértékeihez tartoz´ o f˝ ofaktorainak nevezz¨ uk a 1 τ ∗i = √ τ i λi

i = 1, 2, . . . , p és λi > 0

skal´ ar val´ osz´ın˝ uségi v´ altoz´ okat. A f˝ okomponensek ´ es f˝ ofaktorok tulajdons´ agai: 1. A f˝okomponensek és f˝ofaktorok centráltak és korrelálatlanok, azaz E(τ i ) = E(τ ∗i ) = 0, továbbá szórásaik:

cov(τ i , τ j ) = cov(τ ∗i , τ ∗j ) = 0 i 6= j = 1, 2, . . . p

p λi i = 1, 2, . . . p D(τ i ) = ∗ D(τ i ) = 1 i = 1, 2, . . . p és λi > 0

2. A ξ v.v.v. fel´ırható f˝okomponenseivel: ξ=

p X

τ i vi + m illetve f˝ofaktoraival ξ =

i=1

√

p X

τ ∗i wi + m

i=1,λı >0

ahol wi = λi vi ha λi > 0. Itt a vi illetve wi un. s´ ulyvektorok adnak lehet˝oséget az egyes faktorok értelmezésére, annak megfelel˝oen, hogy milyen szoros kapcsolat van a ξ v.v.v. egyes komponensei és a k¨ ulönböz˝o f˝okomponensek ill. f˝ofaktorok között. Ha még ξ komponensei egységnyi szórás´ uak, a wi s´ ulyvektor egyes kordinátái ξ megfelel˝o komponense és az i-edik f˝okomponens ill. f˝ofaktor közötti korrelációs egy¨ utthatóval azonos érték˝ u. 3. A ξ v.v.v. közel´ıtése p-nél kevesebb r-dimenziós altérbe történ˝o vet´ıtéssel: ξ≈

r X i=1

τ i vi + m illetve ξ ≈

r X

τ ∗i wi + m

i=1,λı >0

Ekkor a közel´ıtés hibája:   2  2  p r X X τ i v i  = E  σ 2r = E  ξ − m − τ i vi  = i=1 i=r+1  ! !T ! p p p p X X X X 2   = E τ i vi τ i vi =E τi = λi i=r+1

i=r+1

i=r+1

i=r+1



74

4. Az el˝oz˝o közel´ıtést lényegkiemelésnek is nevezz¨ uk, igaz ugyanis az alábbi a´ll´ıtás: Legyenek p ≥ r ∈ N+ , ui ∈ Rp i = 0, 1, 2, . . . , r vektorok , ψ i : Ω → R i = 1, 2, . . . , r skal´ ar val´ osz´ın˝ uségi v´ altoz´ ok, akkor  !T ! r r X X (7.1) ψ i ui − u 0 ξ− ψ i ui − u0  ≥ σ 2r . E ξ− i=1

i=1

Bizony´ıt´ as.

(a) Alak´ıtsuk a maradékot   2  2  r r X X (ψ i − E(ψ i ) · ui  + ψ i ui − u0  = E  (ξ − m) − E  ξ − i=1 i=1 2 r X u − m + E(ψ ) · u 0 i i i=1

amib˝ol következik, hogy elég a ξ ∗ = ξ − m centrált v.v.v. közel´ıtésésvel foglalkozni, amikor feltehet˝o E(ψ i ) = 0 i = 1, 2, . . . , r és u0 = 0 ∈ Rp .

(b) Ha az ui ∈ Rp i = 1, 2, . . . , r vektorok nem lineárisan f¨ uggetlenek, akkor a maradék egy kevesebb dimenziós közel´ıtés maradéka, tehát feltehet˝o ezen vektorok f¨ uggetlensége. ´ıgy az a´ltaluk generált altér minden bázisához tartozik egy ugynilyen maradékot adó közel´ıtés, tehát választhatjuk ezeket a vektorokat egy ortonormált bázis vektorainak: 1 ha i = j T . < ui , uj >= ui uj = 0 ha i 6= j Ekkor azonban ξ ∗ -hoz az altérb˝ol a ”mer˝oleges vet¨ ulete” van legközelebb:  2  r X ∗  E ξ − ψ i ui  = i=1  2  ! r r X X = E  ξ ∗ − < ξ ∗ , ui > u i − (ψ i − < ξ ∗ , ui >) ui  = i=1 i=1  2  r r X  X ∗ ∗  E (ψ i − < ξ ∗ , ui >)2 ≥ < ξ , ui > u i + = E ξ − i=1 i=1  2  r X ∗ ∗  ≥ E ξ − < ξ , ui > u i  i=1

tehát a ψ ı =< ξ ∗ , ui >= ξ ∗T ui i = 1, 2, . . . , r

választás a minimumot adja.

´ ´ U ´ VEKTOR VALOSZ ´ ÍNUS ˝ EGI ´ ´ ´ 7.3. NORMALIS ELOSZLAS VALTOZ O

75

(c) Tehát elég a maradék minimumát a fenti esetben keresni. Legyenek ui = [v1 , v2 , . . . , vp ] · cı ahol:

cji =< vj , ui >

és teljes¨ ulnek p X



  j = 1, 2, . . . p cı =   r X

c2ji = 1 i = 1, 2, . . . , r,

j=1

i=1



c1i c2i .. . cpi

   ∈ Rp 

i = 1, 2, . . . , r,

c2ji ≤ 1 j = 1, 2, . . . p .

´ıgy a maradék az alábbi alakban ´ırható:  2  p r r X r X X X λj · c2ji . uTi V ui = E ξ ∗T ξ ∗ − ψ i ui  = E ξ ∗T ξ ∗ − E  ξ ∗ − i=1 j=1

i=1

i=1

Vagyis elég megkeresni a

p X j=1

λj · q j

ahol qj =

r X

c2ji

i=1

Pp

kifejezés maximumát az 1 ≥ qj ≥ 0 j = 1, 2, . . . p, mellett. ´ırjuk tehát p X j=1

λj · q j = ≤

r X

j=1 r X j=1

λj −

r X j=1

λj − λ r ·

λj · (1 − qj ) + r X j=1

p X

j=1 qj

j=r+1

(1 − qj ) + λr ·

= r, feltételek

λj · q j ≤

p X

j=r+1

qj =

r X

λj ,

j=1

amit bizony´ıtani kellett.

7.3.

Norm´ alis eloszl´ as´ u vektor val´ osz´ın˝ us´ egi v´ altoz´ o

7.5. Defin´ıci´ o. Legyenek ξ 1 , ξ 2 , . . . ξ p ∈ N (0, 1) teljesen f¨ uggetlenek, A ∈ Rq×p mátrix és m ∈ R, jelölje továbbá ξ = (ξ 1 , ξ 2 , . . . ξ p ),. ekkor az Aξ + m : Ω → Rq

(7.2)

v.v.v. eloszlását q-dimenziós normális eloszlásnak nevezz¨ uk. Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


76 Megjegyz´ esek:

1. Ha p = 1 a skalár normális eloszlás defin´ıcióját kapjuk, azzal a k¨ ulönbséggel, hogy a konstans is normális eloszlás´ u az utóbbi értelemben. 2. Ha A = Ip a p × p t´ıpus´ u egység mátrix és m = 0, ξ eloszlását kapjuk, amit p-dimenziós standard normális eloszlásnak, ezért ξ-t standard normális vektornak nevezz¨ uk. A standard eloszlás s˝ ur˝ uségf¨ uggvénye a komponensek f¨ uggetlensége miatt ϕ(x) =

1 − 12 xT x p e (2π) 2

x ∈ Rp ,

karakterisztikus f¨ uggvénye pedig Pp 1 Pp 2 φξ (t) = E ei k=1 tk ξk = e− 2 k=1 tk

t ∈ Rp

A norm´ alis eloszl´ as tulajdons´ agai: 1. Ha η egy q-dimenziós normális eloszlás´ u v.v.v., és B ∈ Rr×q b ∈ Rr , akkor Bη + b r-dimenziós normális eloszlás´ u v.v.v..Tehát normális vektor lineáris transzformáltja normális eloszlás´ u. K¨ ovetkezm´ eny: Normális vektor minden pereme is normális eloszlás´ u. 2. Ha ξ p-dimenziós standard normális vektor, és O ∈ Rq×p ortogonális mátrix, azaz OO T = Iq , akkor Oξ q-dimenzós standard normális eloszlás´ u. 3. Legyen ξ p-dimenziós standard normális vektor, A ∈ Rq×p , m ∈ Rp és legyen az η v.v.v. eloszlása olyan mint Aξ + m eloszlása. Ekkor E(η) = m, cov(η, η) = V = AAT és

1 φη (t) = exp i < t, m > − < t, V t > 2

1 = exp it m − tT V t 2

4. Ha egy η v.v.v. karakterisztikus f¨ uggvénye 1 T T φη (t) = exp it m − t V t 2

T

t ∈ Rp .

t ∈ Rp

ahol m ∈ Rp , V ∈ Rp×p pozit´ıv szemidefinit szimmetrikus mátrix, és jelölje V sajátvektorainak ortonormált rendszerét és a hozzá tartozó sajátrértékeket v1 , v2 , . . . , vp ∈ R p

λ1 ≥ λ2 ≥ . . . ≥ λp ≥ 0,

´ ´ U ´ VEKTOR VALOSZ ´ ÍNUS ˝ EGI ´ ´ ´ 7.3. NORMALIS ELOSZLAS VALTOZ O

77

akkor a q = rang(V ) szám´ u pozit´ıv sajátértékhez tartozó 1 τ ∗k = √ (ξ − m)T vk λk

k = 1, 2, . . . , q

f˝ofaktorok a τ ∗ = (τ ∗1 , τ ∗2 , . . . τ ∗q ) q = rang(V ) standard normális vektor komponensei, mivel   τ ∗ = A · (η − m) A =  

√1 v T λ1 1

.. .

√1 vqT λq

karakterisztikus f¨ uggvénye:

1 T t

φτ ∗ (t) = φη−m (AT t) = e− 2 t ´ıgy η=

√

λ1 · v 1



  ∈ Rq×p  t ∈ Rq . 

 p √  · v . . . · v λ2 2 λq q  

τ ∗1 τ ∗2 .. . τ ∗q



   + m, 

tehát η eloszlása normális, és cov(η, η) = V , E(η) = m, vagyis η f˝ofaktorai standard normális vektort alkotnak, és η ezek lineáris transzformáltjaként ´ırható. K¨ ovetkezm´ enyek: 1. Normális v.v.v. mind´ıg fel´ırható a defin´ıcióban szerepl˝o 7.2 alakban, nevezetesen a f˝ofaktorainak lineáris transzformáltjaként. 2. A normális eloszlását egyértelm˝ uen meghatározza várható értéke és kovarianci mátrixa, jelölése ezért N (m, V ), ahol m ∈ Rq és V ∈ Rq×q pozit´ıv szemidefinit szimmetrikus mátrix. Ez a jelölés a skalár normális eloszlás N (m, σ 2 ) jelölésének felel meg, azzal a kiegész´ıtéssel, hogy a konstans v.v. (σ 2 = 0) is normáslis eloszlás´ ua továbbiakban. 3. Ha (ξ, η) egy p + q-dimenziós normális vektor, és cov(ξ, η) = 0p×q ∈Rp×q , akkor ξ és η f¨ uggetlenek, mivel a cov(ξ, ξ)∈Rp×p

V22 = cov(η, η)∈Rq×q

m1 = E(ξ)∈Rp

m2 = E(η)∈Rp

jelölésekkel tehát

ξ ∈ N (m1 , V11 ) η ∈ N (m2 , V22 ) ,

1 T T V11 0p×q t1 T T t t = φξ+η (t1 , t2 ) = exp i(t1 m1 + t2 m2 ) − 0q×p V22 t2 2 1 2 = φξ (t1 ) · φη (t2 ) Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


78

4. Ha rang(V ) = q, akkor η folytonos eloszlás´ u, s˝ ur˝ uségf¨ uggvénye: 1 1 T −1 x ∈ Rq . fη (x) = exp − (x − m) V (x − m) q p 2 (2π) 2 det(V )

(7.3)

5. Ha 0 < rang(V ) = r < q, akkor η egy r-dimenziós peremének lineáris f¨ uggvényeként kifejezhet˝o η többi komponense, és ezen r-dimenziós perem kovariancia mátrixa invertáható, tehát s˝ ur˝ uségf¨ uggvénye megadható az eredeti V kovariancia mátrix ill. m várható érték vektor megfelel˝o komponenseib˝ol. 6. Ha egy η q-dimenziós v.v.v. s˝ ur˝ uségf¨ uggvénye 7.3 alakban ´ırrható, ahol E(η) = m, cov(η, η) = V, akkor η q-dimenziós normális eloszlás´ u.

7.4.

Feladatok

1. Legyen a (ξ; η) v.v.v. eloszlása: ξ

1 2

η

1

0

1 12 1 6

1 12 1 3

−1 1 6 1 6

Adja meg a peremeloszlásokat, f¨ uggetlenek-e ξ és η ? Adja meg (ξ; η) kovariancia mátrixát, várható értékét és karakterisztikus f¨ uggvényét! 2. Legyen X = {X1 , X2 , . . . , XN } ⊂ R, és válasszunk ki visszatevés nélk¨ ul találomra n szám´ u elemet X elemeib˝ol, és jelölje ξ k a k-adik válsztás eredményét k = 1, 2, . . . , n. Adjuk meg a ξ = (ξ 1 , ξ 2 , . . . , ξ n ) v.v.v. várható értékét és kovariancia mátrixát! 3. Írjuk fel a ν = (ν 1 , ν 2 , . . . , ν r ) polinomiális eloszl´ as´ u v.v.v. kovariancia mátrixát! P T Ellen˝or´ızz¨ uk, hogy cov(ν, ν)1 = 0 , mivel ν 1 = ri=1 ν ı = n. ´ırjuk fel ν karakterisztikus f¨ uggvényét! 4. Legyenek ξ, η ∈ N (0, 1) f¨ uggetlenek, és ξ 1 = 2ξ + η

ξ 2 = ξ + 2η

´ırjuk fel (ξ 1 , ξ 2 ) kovariancia mátrixát, ellen˝orizz¨ uk, hogy pozit´ıv definit! Adjuk meg a ξ 1 ≈ aξ 2 + b és ξ 2 ≈ a0 ξ 1 + b0 regressziós közel´ıtéseket, és maradék szórásaikat! ´ırjuk fel (ξ 1 , ξ 2 ) karakterisztikus f¨ uggvényét! 5. A 4. feladat kapcsán adja meg a kovariancia mátrix sajátvektorait, szám´ıtsa ki a legjobb egy-dimenziós vet¨ ulet hibáját! Irja fel a f˝ofaktor s´ ulyok mátrixát, és a faktoroknak a komponesekkel való korrelációs egy¨ utthatóit!

79

7.4. FELADATOK

6. A ξ = (ξ 1 , ξ 2 ) v.v.v. kovariancia mátrixa és várható érték vektora: √ 3 7 1 √ cov(ξ, ξ) = M (ξ) = 2 3 5 (a) Határozza meg a nagyobbik sajátértékhez tartozó f˝okomponensek egyenesét! √ (b) Adja meg az (1+2 3; 4) megfigyelt ponthoz tartozó f˝okomponensek és f˝ofaktorok értékeit! 7. Legyenek τ 1 ∈ U (0; 1), τ 2 ∈ N (1; 2) f¨ uggetlenek, és jelölje ξ = τ2 − 2 · τ1

η = τ2 .

Adjuk meg (ξ; η) kovariancia mátrixát, és a ”legjobb” egydimenziós vet´ıtés egyenesét! 8. Legyen (ξ, η) 2-dimenziós normális vektor, és E(ξ) = m1 , E(η) = m2 , D 2 (ξ) = σ 21 , D 2 (η) = σ 22 , cov(ξ, η) = σ 12 és σ 21 σ 22 − σ 12 > 0. Irjuk fel a kétdimenziós s˝ ur˝ uségf¨ uggvényt! Ellen˝orizz¨ uk, hogy a korrelálatlanságból következik a két komponens f¨ uggetlensége! 9. Legyen a (ξ, η) v.v.v. s˝ ur˝ uségf¨ uggvénye: √ f (x, y) = c · exp −x2 + 2xy − y 2

(x, y) ∈ R2 .

Szám´ıtsa ki ξ és η korrelációs egy¨ utthatóját!


80


8. fejezet Nevezetes eloszl´ asok A következ˝o eloszlások a normális eloszlásból származtathatók, és nevezetes felhasználási ter¨ ulet¨ uk a matematikai statisztika.

8.1.

χ2 eloszl´ as

8.1. Defin´ıci´ o. Legyen ξ = (ξ 1 , ξ 2 , . . . , ξ n ) standard normális vektor, az η=

n X

ξ 2i

i=1

valósz´ın˝ uségi változó eloszlását n-szabadsági fok´ u χ 2 eloszlásnak nevezz¨ uk, jelölése: η ∈ χ2n . Megjegyz´ esek: ur˝ uségf¨ uggvénye megadható: 1. A χ2n eloszlás folytonos, s˝  n −1 − x  x2 e 2 ha x > 0 n fn (x) = 2 2 Γ( n2 )  0 ha x ≤ 0 R +∞ ahol Γ(t) = 0 ut−1 e−u du t > 0. 2. A χ22 eloszlás azonos az Exp 21 eloszlással (lásd 1. feladat).

3. Ha n elég nagy (n > 80, 100, ...), a χ2n eloszlás közel normális lesz a centrális határeloszlás tétel miatt. 4. Az eloszlás k¨ ulönböz˝o α ∈]0; 1[ és n ∈ N+ értékekhez tartozó un. χ2α kritikus érték ei, melyekre P η > χ2α = α ha η ∈ χ2n , táblázatból nyerhet˝ok (lásd B. f¨ uggelék). 81

´ 8. FEJEZET. NEVEZETES ELOSZLASOK

82 A χ2 eloszl´ as tulajdons´ agai: 1. Add´ıciós tulajdonság.

Legyenek η 1 ∈ χ2n1 és η 2 ∈ χ2n2 f¨ uggetlenek, akkor η 1 + η 2 ∈ χ2n1 +n2 . Bizony´ıt´ as. Defin´ıcó alapján nyilvánvaló. 2. A χ2 eloszlás várható értéke és szórása: Ha η ∈ χ2n , akkor

E(η) = n

D(η) =

√ 2n.

Bizony´ıt´ as. Ha ξ ∈ N 0; 1), akkor E(ξ 2 ) = 1 és E(ξ 4 ) = 3, amib˝ol következik az a´ll´ıtás. √ K¨ ovetkezm´ eny: Ha n elég nagy, akkor χ2n ≈ N (n, 2n), tov´ abb´ a ∀ ε > 0 esetén η lim P − 1 > ε = 0. n→∞ n

3. A χ2 eloszlás mint négyzetösszeg eloszlása.

Legyen a Q ∈ Rn×n szimmetrikus m´ atrix rangja r ≥ 1 és teljes¨ ulj¨ on QQ = Q. a) Ha ξ ∈ N (m, σ 2 I), ahol m ∈ Rn , σ > 0 és I ∈ Rn×n az egységm´ atrix, akkor teljes¨ ulnek az al´ abbi a ´ll´ıt´ asok: i) ξ T Qξ = (Qξ)T (Qξ); ii) σ12 ξ T Qξ ∈ χ2r ⇔ mT Qm = 0

iii) E(ξ T Qξ) = rσ 2 + mT Qm; b) Ha η ∈ N (0, σ 2 Q), akkor

1 T η η σ2

⇔

Qm = 0 ∈ Rn .

∈ χ2r .

Bizony´ıt´ as. Ha v egység hossz´ uság´ u sajátvektora Q-nak, akkor Qv = λv és T 2 (Qv) Qv = λ = λ, tehát Q sajátértéke csak 0 vagy 1 lehet, de akkor pontosan r-szám´ u 1 és a többi 0. i) Nyilvánvaló.

P ii)-iii) Legyen tehát Q = ri=1 vi viT ahol (vi )ri=1 ⊂ Rn ortonormált vektorrendszer, akkor 2 r X 1 1 T 2 Tξ −m ξ Qξ = vi + 2 ξ T Qm − 2 mT Qm 2 σ σ σ σ i=1

ahol v1T ξ−m , . . . vrT ξ−m korrelálatlan, tehát f¨ uggetlen standard normális eloszσ σ lás´ u v.v.-k. Ebb˝ol várható értéket számolva kapjuk iii)-t, és következik az a´ll´ıtás, figyelmbe véve, hogy mT Qm = 0 ⇔ Qm = 0.

´ 8.1. χ2 ELOSZLAS

83

A b) a´ll´ıtás a ii) következménye, ha m = 0, és η = Qξ. Megjegyz´ es: Az i) és iii) a´ll´ıtások tetsz˝oleges n-dimenziós ξ v.v.v. esetén is teljes¨ ulnek. 4. A χ2 eloszlás part´ıciós tulajdonsága (Fisher-Cochran tétel). Legyenek a Q1 , Q2 , . . . , Qk ∈ Rn×n szimmetrikus m´ atrixok rangjai az r1 , r2 , . . . , rk pozit´ıv egészek, és teljes¨ ulj¨ on: I = Q 1 + Q2 + . . . + Q k

(8.1)

ahol I ∈ Rn×n az egységm´ atrix, legyen tov´ abb´ a ξ ∈ N (m, σ 2 I) norm´ alis eloszl´ as´ u vektor val´ osz´ın˝ uségi v´ altoz´ o. Ekkor az a)-d) feltételek ekvivalensek: (a) n ≥ r1 + r2 + . . . + rk ; (b) n = r1 + r2 + . . . + rk ; (c) Qi Qi = Qi

i = 1, 2, . . . k;

(d) Qi Qj = 0 ∈ Rn×n ha i 6= j = 1, 2, . . . k; és b´ armelyikb˝ ol k¨ ovetkeznek az al´ abbiak: (e) ξ T Qi ξ = (Qi ξ)T (Qi ξ) i = 1, 2, . . . k; négyzet¨ osszegek, és ξ T ξ = (f) Qi ξ (g)

i = 1, 2, . . . k

1 T ξ Qi ξ σ2

∈ χ2ri

⇔

illetve

ξ T Qi ξ

i = 1, 2, . . . k

P

i

ξ T Qi ξ

f¨ uggetlenek;

mT Qi m = 0 i = 1, 2, . . . , k;

Bizony´ıt´ as. El˝obb az a)-d) feltételek ekvivalenciáját bizony´ıtjuk. a⇒b Mivel x = Q1 x + Q2 x + . . . + Qk x, Rn minden vektora, például egy bázisa, el˝oa´ll legfeljebb r1 + r2 + . . . + rk szám´ u vektor lineáris kombinációjaként, tehát n ≤ r1 + r2 + . . . + rk , amib˝ol következik az a´ll´ıtás. b⇒c Ha n = r1 +r2 +. . .+rk , akkor Q1 , . . . , Qk r1 +r2 +. . .+rk szám´ u oszlopvektora bázis. Ha. q a Q1 ezen bázishoz tartozó oszlopvektora, vagyis az r1 szám´ u lineárisan f¨ uggetlen oszlopvektor egyike, akkor az egyértelm˝ u el˝oa´ll´ıtás és q = Q1 q + Q2 q + . . . + Q k q miatt Q1 q = q kell hogy teljes¨ uljön. Ha p a Q1 olyan oszlopvektora, amely az r1 szám´ u f¨ uggetlen oszlopvektor lineáris kombinációja, akkor is Q 1 p = p. Tehát Q1 Q1 = Q1 , és hasonlóan Qi Qi = Q i

i = 1, 2, . . . , k. Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


84

c⇒d c) miatt xT Qi x = (Qi x)T (Qi x) ≥ 0 x ∈ Rn oszlopvektora, akkor

i = 1, 2, . . . k. Ha q a Q1 egy

q T q = q T q + q T Q2 q + . . . + q T Qk q q T Qi q = (Qi q)T (Qi q) ≥ 0 i = 2, 3, . . . k amib˝ol következik Qi q = 0 ∈ Rn , vagyis Qi Q1 = 0 ∈ Rn×n hasonlóan Qi Qj = 0 ∈ Rn×n i 6= j = 1, 2, . . . k;

i = 2, 3, . . . k, és

d⇒a Szorozzuk (8.1) mindkét oldalát pl. Q1 -el, kapjuk Q1 = Q 1 Q1 tehát teljes¨ ul c) is. Tegy¨ uk fel, hogy n < r1 + r2 + . . . + rk , akkor a zérusvektor kifejezhet˝o u ´ gy, hogy 0 = Q 1 x1 + . . . + Q k xk ahol az xi kombináló vektoroknak az ri szám´ un k´ıv¨ uli, nem f¨ uggetlen vektorokhoz tartozó kordinátái nullák, és van között¨ uk nem zérusvektor, pl.x 1 Ekkor Q1 -el balról szorozva kapjuk 0 =Q1 x1 ami nem teljes¨ ulhet, mert Q1 lineárisan f¨ uggetlen vektoraiból csak triviális módon kombinálható ki a zérusvektor. Tehát az n < r1 + r2 + . . . + rk indirekt feltétel nem teljes¨ ulhet, vagyis n ≥ r1 + r2 + . . . + r k . Az e)-g) a´ll´ıtások következnek az a)-d) feltételekb˝ol és a 3. tulajdonságból. Megjegyz´ es: A part´ıciós tulajdonság annak feltételét adja, hogy a ξ T ξ = ξ T Q1 ξ + ξ T Q2 ξ + . . . + ξ T Qk ξ négyzetösszeg felbontásának tagjai mikor lesznek f¨ uggetlen négyzetösszegek, és ezek ponuak, ha várható érték¨ uk ennek megfelel˝o, mivel az g)-ben szerepl˝o tosan akkor χ2ri eloszlás´ mT Qi m = 0 feltétel és E( σ12 ξ T Qi ξ) = ri ekvivalensek. 8.2. K¨ ovetkezm´ eny. Legyenek a ξ 1 , ξ 2 , . . . ξ n ∈ N (m, σ) skal´ ar val´ osz´ın˝ uségi v´ altoz´ ok f¨ uggetlenek, akkor n n X 2 1 X ∗2 ¯ξ = 1 ξ i és s = ξ i − ¯ξ (8.2) n i=1 n − 1 i=1 f¨ uggetlenek, tov´ abb´ a

¯ξ ∈ N

σ m, √ n

és

n − 1 ∗2 s ∈ χ2n−1 . σ2

(8.3)

´ 8.1. χ2 ELOSZLAS

85

Bizony´ıt´ as. Jelölje 



  Q2 =  

1 n 1 n

1 n 1 n

··· ··· .. .

1 n 1 n

1 n

1 n

···

1 n

  Q1 =  ..  .

.. .

1 − n1 − n1 · · · − n1 − n1 1 − n1 · · · − n1 .. .. .. .. . . . . 1 1 −n − n · · · 1 − n1





  n×n ..  ∈ R  .

   ∈ Rn×n 

r1 = rang(Q1 ) = 1

r2 = rang(Q2 ) ≤ n − 1

mivel Q2 · 1 = 0 ∈ Rn

szimmetrikus mátrixokat és ξ ∈ N (m · 1, σ 2 · I), amivel teljes¨ ul I =Q1 + Q2

1T =

1 1 ··· 1

és n ≥ r1 + r2 .

Tehát és

f¨ uggetlenek, és ezért

n = r1 + r2 ⇒ r2 = n − 1 

  Q1 ξ =  

¯ξ ¯ξ .. . ¯ξ

    



  Q2 ξ =  

¯ξ és ξ T Q2 ξ =

n X i=1

ξ 1 − ¯ξ ξ 2 − ¯ξ .. . ξ n − ξ¯

    

2 ξ i − ¯ξ

f¨ uggetlenek, de akkor ¯ξ és s∗2 is f¨ uggetlen. Továbbá nyilvánvalóan teljes¨ ul ¯ξ ∈ N m, √σ , n és Q2 · (m · 1) = 0n miatt

n − 1 ∗2 s ∈ χ2n−1 . σ2

8.3. K¨ ovetkezm´ eny. Legyen ν 1 , ν 2 , . . . , ν r n-edrend˝ u p1 , p2 , . . . , pr paraméter˝ u polinomia ´lis eloszl´ as´ u, akkor nagy n (npk > 10) esetén a r X (ν k − npk )2 k=1

npk

(8.4)

val´ osz´ın˝ uségi v´ altoz´ o eloszl´ asa k¨ ozel χ 2r−1 . Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


86

Bizony´ıt´ as. A központi határeloszlás tétel miatt a ν = (ν 1 , ν 2 , . . . , ν r ) eloszlása közel´ıt˝oen normális, tehát feltehetj¨ uk (használjuk a 78. oldal 3. feladat eredményét)      p1 p1 (1 − p1 ) −p1 p2 ··· −p1 pr   p2   −p2 p1  p2 (1 − p2 ) · · · −p2 pr       ν ∈ N n  ..  , n   .. .. .. ..   .    . . . . pr −pr p1 −pr p2 · · · pr (1 − pr )

és ´ıgy



  ν =   ∗

ahol



  p= 

p1 p2 .. . pr

    

√1 np1

0

0 .. .

√1 np2

.. . 0

0

 √ p √ 1  √  p2 p =  ..  . √ pr

    

··· ··· .. . ···



0 .. . .. . √1 npr



  Q= 

   (ν − n · p) ∈ N (0, Q)  

√ √ 1 − p 1 − p1 p2 · · · − p1 pr √ √ − p2 p1 1 − p 2 · · · − p2 pr .. .. .. .. . . . . √ √ − pr p1 − pr p2 · · · 1 − p r

Tehát Q ∈ Rr×r szimmetrikus mátrix, és

√ √ T p· p I =Q + √ √ T √ p · p = 0r×r , tehát következnek Q p = 0 ∈ Rr ezért Q · √ √ T QQ = Q rang(Q) = r − rang p· p =r−1 , továbbá a χ2 eloszlás 3.b) négyzetösszeg tulajdonsága miatt ∗T

∗

ν ν =

r X (ν k − npk )2 k=1

8.2.

npk

∈ χ2r−1 .

T ´ es F-eloszl´ as

8.4. Defin´ıci´ o. i) Legyenek ξ ∈ N (0; 1) és η ∈ χ2n val´ osz´ın˝ uségi v´ altoz´ ok f¨ uggetlenek, a ξ t = pη

n

v.v. eloszl´ as´ at n-szabadsági fok´ u T eloszlásnak nevezz¨ uk, jel¨ olése: t ∈ Tn .



   . 

´ F-ELOSZLAS ´ 8.2. T ES

87

ii) Legyenek η 1 ∈ χ2n1 , η 2 ∈ χ2n2 val´ osz´ın˝ uségi v´ altoz´ ok f¨ uggetlenek, az f=

η 1 n2 · η 2 n1

v.v. eloszl´ as´ at (n1 , n2 )-szabadsági fok´ u F -eloszlásnak nevezz¨ uk, jelölése f ∈ Fn1 ,n2 . Megjegyz´ es: A T és F eloszlás folytonos, s˝ ur˝ uségf¨ uggvény¨ uk megadható, tulajdonságaik 2 egyszer˝ uen következnek a defin´ıcióból és a χ eloszlás tulajdonságaiból. AT ´ es F eloszl´ as tulajdons´ agai: 1. A T -eloszlás szimmetrikus az x = 0 -ra, vagyis ha t ∈ Tn akkor −t ∈ Tn . 2. Ha n elég nagy (n > 120) és t ∈ Tn akkor t eloszlása közel N (0, 1). 3. Az eloszlás k¨ ulönböz˝o α ∈]0; 1[ és n ∈ N+ értékekhez tartozó un. tα kritikus érték ei, melyekre P (|η| > tα ) = α ha η ∈ Tn , táblázatból nyerhet˝ok (lásd B. f¨ uggelék). Az n = ∞ jelenti a standard normális eloszlásra vonatkozó uα -val jelölt kritikus értékeket. 4. Ha f ∈ Fn1 ,n2 akkor

1 f

∈ Fn2 ,n1 .

5. Ha f ∈ Fn1 ,n2 és n2 elég nagy (n > 80, 120) n1 · f

eloszlása közel χ2n1 .

6. Az eloszlás k¨ ulönböz˝o α ∈]0; 1[ és n1 , n2 ∈ N+ értékekhez tartozó un. fα kritikus érték ei, melyekre P (η > fα ) = α ha η ∈ Fn1 ,n2 , táblázatból nyerhet˝ok (lásd B. f¨ uggelék). A táblázatok a kis α = 0.1, 0.05, · · · értékez tartozó ”fels˝o” fα kritikus értéket szolgáltatják, az ”alsó” f1−α kritikus értéket, melyre P (η > f1−α ) = 1 − α ha η ∈ Fn1 ,n2 kapjuk az P

1 1 > η f1−α

=α

1 ∈ Fn2 ,n1 η

o¨sszef¨ ugés szerint, mint a ford´ıtott szabadsági fok-párhoz tartozó fels˝o kritikus érték reciprokát. Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


88

8.3.

Feladatok

1. Adjuk meg a χ21 és χ22 eloszlások s˝ ur˝ uségf¨ uggvényét! 2. Adjuk meg a χ2n eloszlás karakterisztikus f¨ uggvényét! 3. Adjuk meg a (8.2)-ben szerepl˝o s∗2 , valamint s2 = várható értékét, szórását!

n−1 ∗2 s n

valósz´ın˝ uségi változók

4. Legyen ξ ∈ N (m, V ) n-dimenziós folytonos normális eloszlás´ u, és keress¨ unk olyan k ∈ R számot, hogy P (ξ − m)T V −1 (ξ − m) ≤ k = 1 − α teljes¨ uljön!

5. Legyen ξ ∈ N (m, σ 2 · Q) ahol m ∈ Rn×1

Q ∈ Rn×n

Q = QT

Q·Q=Q

rang(Q) ≥ 1 σ > 0 .

Mutassuk meg, hogy az

1 · ξ T Qξ 2 σ valósz´ın˝ uségi változó eloszlása meghatározott az r = rang(Q) ranggal, és a λ = 1 T · m Qm un. nemcentráltsági paraméterrel (η eloszlása az un. nemcentrált χ2 σ2 eloszlás). η=

6. Három egyenként 100 o´ra várható élettartam´ u (exponenciális eloszlás´ u) izzót egymás után felhasználva, (a) milyen id˝otartamnál lesz több az o¨ssz-élettartam 0.9 valósz´ın˝ uséggel? (b) milyen határok között lesz az a´tlagélettartam 0.9 valósz´ın˝ uséggel? (c) milyen határok között lesz 30 izzó a´tlagélettartama 0.95 valósz´ın˝ uséggel? 7. Egy 100 o´ra várható élettartam´ u alkatrész élettartamánál hányszor több egy 800 o´rás várható élettartam´ u alkatrész élettartama 0.95 valósz´ın˝ uséggel? Tegy¨ uk fel, hogy az alkatrészek élettartama f¨ uggetlen exponenciális eloszlás´ u!

9. fejezet Regresszi´ o anal´ızis A ξ és η (vektor-) valósz´ın˝ uségi változókhoz keress¨ uk azt az f un. regressziós f¨ uggvényt, mellyel az η ≈ f (ξ)

közel´ıtés a ”legjobb”. Hogy mi a legjobb közel´ıtés, az f¨ ugg a választott célf¨ uggvényt˝ol, és a szóba jöhet˝o regressziós f¨ uggvények halmazától. Egy ilyen célf¨ uggvény, melynek minimumát keress¨ uk, lehet az E |η − f (ξ)|2 u.n. maradék szórásnégyzet, vagy az

E (|η − f (ξ)|) abszolut eltérés várható értéke. Ha az f f¨ uggvényt speciális formában keress¨ uk, beszélhet¨ unk ennek megfelel˝oen η ≈ Aξ + b lineáris η ≈ a0 + a1 ξ + a2 ξ 2 + · · · + ap ξ p polinomiális η ≈ eAξ+b exponenciális .. .. . . regressziós feledatról. Mivel a legtöbb (elegend˝oen sima) f¨ uggvény jól közel´ıthet˝o lineáris f¨ uggvénnyel (esetleg értelmezési tartományának megfelel˝o lesz˝ uk´ıtésével), illetve más esetekben u ´ j komponensek bevezetésével (pl. polinom f¨ uggvények), vagy egyszer˝ u transzformációval (pl. exponenciális f¨ uggvények) a kit˝ uzött feladat lineáris regresszós f¨ uggvény keresését jelenti.

9.1.

T¨ obbv´ altoz´ os line´ aris regresszi´ o

Feladat: Legyen η q-dimenzi´ os és ξ p-dimenzi´ os vektor val´ osz´ın˝ uségi v´ altoz´ o. Keress¨ uk az η un. f¨ ugg˝o változó legjobb line´ aris k¨ ozel´ıtését a ξ un. f¨ uggetlen változóval, azaz keress¨ uk az A ∈ Rq×p m´ atrixot és b ∈ Rq vektort 89

´ ANALÍZIS 9. FEJEZET. REGRESSZIO

90 u ´gy, hogy az η ≈ Aξ + b k¨ ozel´ıtés

σ 2R = E |η − Aξ − b)|2

hib´ aja, az un. maradék sz´ or´ asnégyzet, minim´ alis legyen! Megjegyz´ esek:

1. Jelölje η = (η 1 , η 2 , . . . , η q ) ξ = (ξ 1 , ξ 2 , . . . , ξ p ), továbbá   aT1  aT   2  A =  ..   .  aTq

ahol ai ∈ Rp és b = (b1 , b2 , . . . , bq ) ∈ Rq . Mivel a maradék szórásnégyzet az alábbi o¨sszegre bontható q X 2 E (η i − aTi ξ − bi )2 , σR = i=1

elég a q = 1 esetben megoldani a széls˝oérték feladatot.

2. Feltételezhetj¨ uk, hogy ξ komponensei között nincs lineáris o¨sszef¨ uggés, azaz cov(ξ, ξ) ∈ Rp×p invertálható. Megold´ as: q = 1 eset. Legyen η skalár v.v., és keress¨ uk azt az a ∈ Rp vektort valamint b ∈ R számot melyekre σ 2R = E (η − aT ξ − b)2 ´ minimális. Atalak´ ıtva kapjuk:

σ 2R = cov(η, η) − 2 cov(η, ξ)a + aT cov(ξ, ξ)a + E(η) − aT E(ξ) − b amib˝ol kapjuk az aT = cov(η, ξ) cov(ξ, ξ)−1

b = E(η) − aT E(ξ)

minimum helyet, és ezzel a minimum σ 2R = cov(η, η) − cov(η, ξ) cov(ξ, ξ)−1 cov(η, ξ)T értékét.

2

¨ ´ ´ LINEARIS ´ ´ 9.1. TOBBV ALTOZ OS REGRESSZIO

91

q > 1 eset. Vezess¨ uk be az alábbi jelöléseket: m1 = E(η) ∈ Rq m2 = E(ξ) ∈ Rp V12 = cov(η, ξ) ∈ Rq×p V11 = cov(η, η) ∈ Rq×q V21 = cov(ξ, η) ∈ Rp×q V22 = cov(ξ, ξ) ∈ Rp×p ekkor a fenti eredményb˝ol kapjuk a lineáris regressziós feledat megoldását A = V12 V22−1

b = m1 − Am2 .

és a maradék szórásnégyzet minimális σ 2R = tr V11 − V12 V22−1 V21

értékét, ahol tr(·) a négyzetes mátrix f˝oa´tlójában lév˝o elemek o¨sszegét jelenti. Vizsg´ aljuk a továbbiakban az η = η 0 + η 00 felbontást, ahol η 0 = Aξ + b a ξ-vel közel´ıtett rész; η 00 = η − Aξ − b a maradék; Itt, és a továbbiakban A és b a fenti széls˝oérték feladat megoldását jelöli. A két rész tulajdoságai a következ˝ok: 1. E(η 0 ) = m1 , E(η 00 ) = 0 ∈Rq . 2. cov(ξ, η 00 ) = 0 ∈Rp×q , cov(η 0 , η 00 ) = 0 ∈Rq×q , tehát a ξ-vel le´ırt rész és a maradék korrelálatlan, normális eloszlás esetén f¨ uggetlen. 3. VR = cov(η 00 , η 00 ) = V11 − V12 V22−1 V21 az un. maradék kovariancia mátrix, melynek f˝oa´tlójában lév˝o elemeket o¨sszeadva kapjuk a maradék szórásnégyzetet: σ 2R = tr (VR ) . Ezen maradék kovariancia mátrixból szám´ıtható η 00 i 6= j komponensei közti olyan o¨sszef¨ uggés mértéke, mely ξ hatásától mentes, másképpen fogalmazva, η komponensei közti tiszta kapcsolat mértéke. Ezt nevezz¨ uk az η i és η j közti, ξ-re vonatkozó parciális korrelációs egy¨ utthatónak. Jelölése: ρ η i η j |ξ. 4. Ha q = 1, a maradék kovariancia mátrix 1 × 1 t´ıpus´ u, σ 2R = D 2 (η) − V12 V22−1 V21 . Feltéve, hogy η szórása sem nulla, a regressziós kapcsolat szorosságát jelzi az η és η 0 közti korrelációs egy¨ uttható, amit az η v.v. ξ-re vonatkozó többszörös korrelációs egy¨ utthatójának nevez¨ unk. Jelölése, és kiszám´ıtása a fentiek alapján: s p −1 σ2 V12 V22 V21 ρη|ξ = = 1 − 2R (9.1) D(η) D (η) Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


92

ennek négyzete az un. determinációs egy¨ uttható, amivel a maradék szórásnégyzet σ 2R = D 2 (η) 1 − ρ2η|ξ kifejezhet˝o. Mindezekb˝ol egyszer˝ uen következnek:

ρη|ξ = 1 ⇔ σ 2R = 0; ρη|ξ = 0 ⇔ cov(η, ξ) = 0 ∈ Rp ⇔ a = 0 ∈ Rp ;

(9.2)

továbbá, ha p = 1, és r jelöli a ξ és η változó 4.3 szerinti korrelációs egy¨ utthatóját, akkor ρη|ξ = |r| . (9.3) A lineáris regressziós feladat egyben megoldását adja a következ˝o nevezetes problémának is. Feladat (Legkisebb n´ egyzetek m´ odszere): Az (yk , xk1 , xk2 , . . . , xkp ) ∈ R1+p 1, 2, . . . , n pontokhoz keress¨ uk az

k =

a0 , a1 , . . . , ap ∈ R egy¨ utthat´ okat u ´gy, hogy a n X k=1

[yk − (a0 + a1 xk1 + a2 xk2 + · · · + ap xkp )]2

(9.4)

négyzetösszeg minimális legyen! Megold´ as: Legyen az (η, ξ 1 , ξ 2 , . . . , ξ p ) : Ω → R1+p vektor valósz´ın˝ uségi változó eloszlása P (η = yk , ξ 1 = xk1 , ξ 2 = xk2 , . . . , ξ p = xkp ) =

1 n

k = 1, 2, . . . , n ,

akkor a 9.4 négyzetösszeg minimumát az η ≈ a 0 + a1 ξ 1 + a2 ξ 2 + · · · + a p ξ p regressziós feladat megoldásaként kapjuk. Ha még p = 1, 4.4 szerint kapjuk P xk yk − x¯y¯ a1 = 1 P 2 xk − x¯2 n 1 n

a0 = y¯ − a1 x¯

σ 2R

X 1 2 2 yk − y¯ − = n

1 n

2 P xk yk − x¯y¯ P 2 . (9.5) 1 2 x − x ¯ k n

´ ´ FELTETELES ´ ´ ´ ERT ´ EK ´ 9.2. ELMELETI REGRESSZIO, VARHAT O

9.2.

93

Elm´ eleti regresszi´ o, felt´ eteles v´ arhat´ o´ ert´ ek

A lineáris regressziós feladatban a f¨ ugg˝o változót a f¨ uggetlen változó lineáris f¨ uggvényével közel´ıtett¨ uk. Keress¨ uk most a legjobban közel´ıt˝o f¨ uggvényt nem csak a lineáris f¨ uggvények körében, és ha van ilyen, azt a legjobb, vagy elméleti regressziós f¨ uggvénynek is nevezz¨ uk. A következ˝o gondolatmenetben vázoljuk a pontos megfogalmazás igénye nélk¨ ul a feladat megoldhatóságával kapcsolatos fogalmakat (lásd: A. f¨ uggelék). A továbbiakban tehát fontos szerepet töltenek be azon q-dimenziós, illetve skalár valósz´ın˝ uségi változók, melyek komponensei négyzetesen integrálhatók, jelölje ezeket L2 , ahol k¨ ulön nem jelölj¨ uk a dimenziót. Ekkor L2 teljes vektorháló a < ξ, η >L2 = E (< ξ, η >)

ξ, η ∈ L2

skaláris szorzatból származtatható alábbi félnormával: q p kξk = E |ξ|2 = E (< ξ, ξ >) ξ ∈ L2 .

Használjuk továbbá az un. mérhet˝o f¨ uggvények fogalmát, vagyis azon f : Rp → Rq f¨ uggvényeket, melyekre teljes¨ ul ∀I ⊂ Rq intervallum esetén f −1 (I) ∈ σ {J | J ⊂ Rp intervallum} . Ilyen f¨ uggvények és vektor valósz´ın˝ uségi változók f ◦ξ o¨sszetételéb˝ol mind´ıg valósz´ın˝ uségi 2 változót kapunk, és ha azokat választjuk melyekre |f ◦ ξ| -nak van várhat´ qo értéke, az Rp → Rq t´ıpus´ u f¨ uggvények egy teljes vektorhálóját kapjuk az kf k = E |f ◦ ξ|2 félnormával. A továbbiakban szerepl˝o f¨ uggvények mind´ıg ilyenek lesznek, ezért azt k¨ ulön nem eml´ıtj¨ uk a feltételek között, és az eml´ıtett teljesség miatt, a kit˝ uzött feladatnak mind´ıg van megoldása, amit a legfontosabb esetekben meg is adunk. 9.1. Defin´ıci´ o. Az η ∈ L2 q-dimenziós (vektor-) valósz´ın˝ uségi változó ξ : Ω → Rp (v.)v.v.-ra vonatkozó feltételes várható értékének nevezz¨ uk a H : Rp → R q f¨ uggvényt, illetve a H ◦ ξ : Ω → Rq

valósz´ın˝ uségi változót, melyre minden h : Rp → Rq f¨ uggvény esetén: E |η − H ◦ ξ|2 ≤ E |η − h ◦ ξ|2 .

Jelölése:

E(η|ξ = .) = H illetve

vagy E(η|ξ = x) = H(x) /x ∈ Rp / E(η|ξ) = H ◦ ξ .



94 Megjegyz´ esek:

1. A kés˝obbiekben szerepl˝o η vektor valósz´ın˝ uségi változók mind´ıg L 2 -beliek lesznek, és p q a korábbi R → R t´ıpus´ u f¨ ugvényekkel kapcsolatos megjegyzés¨ unk szerint mind´ıg léteznek majd a szerepl˝o várható értékek. 2. A feltételes várható értéken tehát vagy egy E(η|ξ = x) = H(x) /x ∈ R p / f¨ uggvényt (elméleti regressziós f¨ uggvény), vagy egy E(η|ξ) = H(ξ) valósz´ın˝ uségi változót (regressziós közel´ıtés) ért¨ unk, ami a fenti értelemben legjobban közel´ıti az η f¨ ugg˝o változót. 3. Vektor v.v. komponensének feltételes várható értéke a feltételes várható érték megfelel˝o komponense, mivel: q X E |η i − Hi ◦ ξ|2 E |η − H ◦ ξ|2 = i=1

ahol η = (η 1 , η 2 , . . . η q ) és H = (H1 , H2 , . . . , Hq ). Ebb˝ol következik, hogy a feltételes várható érték tulajdonságait, kiszám´ıtási módjait elég a q = 1 esetben vizsgálni. 4. A feltételes v.é. ξ-szerint 1-valósz´ın˝ uséggel meghatározott. Ha ugyanis P (E(η|ξ) = H ∗ ◦ ξ) = 1, akkor H ∗ is rendelkezik a definicióban le´ırt minimum tulajdonsággal. Késöbb azt is látni fogjuk, hogy bármely, a minimum tulajdoságot teljes´ıt˝o H 0 és H 00 esetén P (H 0 ◦ ξ = H 00 ◦ ξ) = 1. Ezért egy feltételes várható értéket meghatározó E(η|ξ = .) f¨ uggvényt elég megadni ξ értékkészletének 1-valósz´ın˝ uség˝ u részén. A felt´ eteles v´ arhat´ o´ ert´ ek tulajdons´ agai: 1. A feltételes v.é. v´ arhat´ o´ ert´ eke a feltétel nélk¨ uli várható érték: Legyenek η : Ω → Rq , ξ : Ω → Rp (v.)v.v.-k, akkor E (E(η|ξ)) = E(η). Bizony´ıt´ as. Legyen q = 1, és jelölje m = E(η) − E (E(η|ξ)), akkor a várható érték minimum tulajdonsága miatt E [η − E(η|ξ)]2 ≥ E [η − E(η|ξ) − m]2 ,

ahol a feltételes várható érték minimum tulajdosága miatt csak egyenl˝oség lehet, ami pontosan akkor teljes¨ ul, ha m = 0.


95

2. A feltételes várható érték mint ortogon´ alis vet¨ ulet: q p Legyenek η : Ω → R , ξ : Ω → R (v.)v.v.-k, a H : Rp → Rq f¨ uggvényre H = E(η|ξ = .) ⇐⇒ ha ∀h : Rp → Rq esetén E (η − H ◦ ξ)T h ◦ ξ = 0. Bizony´ıt´ as.

⇐ Tegy¨ uk fel most, hogy ∀h : Rp → Rq esetén E (η − H ◦ ξ)T h ◦ ξ = 0. Ekkor E (η − E(η|ξ))2 = E ((η − H ◦ ξ) + (H ◦ ξ − E(η|ξ)))2 = E (η − H ◦ ξ)2 + E (H ◦ ξ − E(η|ξ))2

amib˝ol következik E ((E(η|ξ) − H ◦ ξ)2 ) = 0, vagyis P (E(η|ξ) = H ◦ ξ) = 1.

⇒ Legyen q = 1, és tegy¨ uk fel, hogy H = E(η|ξ = .) és h : Rp → R olyan, hogy E ((η − H ◦ ξ) · h ◦ ξ) 6= 0 .

Jelölje τ = η − H ◦ ξ, és vizsgáljuk a τ ∼ a · h ◦ ξ + b lineáris regressziós feladatot. A maradék szórásnégyzetre ekkor kapjuk: σ 2R = σ 2τ · 1 − r 2 , amib˝ol r 6= 0 miatt következik

σ 2R = E (η − H ◦ ξ − a · h ◦ ξ − b)2 < σ 2τ = E (η − H ◦ ξ)2

ami nem teljes¨ ulhet ha H a feltételes várható érték.

K¨ ovetkezm´ enyek: (a) A bizony´ıtásból következik az a korábbi megjegyzés is, mely szerint a mininumfeladat bármely két megoldása 1-valósz´ın˝ uséggel megegyezik. (b) Ha (ξ, η) egy¨ uttes eloszlása normális, akkor a lineáris regresszós f¨ uggvény egyben a feltételes várható érték, mivel az η − Aξ − b maradék és ξ (vagy h ◦ ξ) ekkor f¨ uggetlenek, de akkor E (η − Aξ − b)T h ◦ ξ = 0.

Megjegyz´ es:

(a) Az a´ll´ıtásban szerepl˝o h : Rp → Rq mérhet˝o f¨ uggvények helyett elég a q = 1 eset, és a h = 1I I ⊂ Rp intervallum alak´ u f¨ uggvény tetsz˝oleges választása.. Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


96 (b) Az ortogonalitás az E (η · h ◦ ξ)

illetve E (E(η|ξ) · h ◦ ξ)

várható értékek egyenl˝oségével ekvivalens, és itt a ” · ” m˝ uvelet nem csak skaláris szorzás lehet, hanem vektor skalárral való szorzása is, mivel a feltételes várható érték komponensei a feltételes várható érték megfelel˝o komponensei. 3. Homog´ en: Legyenek η : Ω → Rq , ξ : Ω → Rp (v.)v.v.-k, ϕ : Rp → R, akkor E (ϕ ◦ ξ · η | ξ) = ϕ ◦ ξ · E (η|ξ) Bizony´ıt´ as. Legyen q = 1, és ellen˝or´ızz¨ uk az ortogonalitást: E ((ϕ ◦ ξ · η − ϕ ◦ ξ · E (η|ξ)) · h ◦ ξ) = E ((η − E (η|ξ)) · ϕ ◦ ξ · h ◦ ξ) = 0 . 4. Addit´ıv: Legyenek η 1 , η 2 : Ω → Rq , ξ : Ω → Rp (v.)v.v.-k, akkor E(η 1 + η 2 | ξ) = E(η 1 |ξ) + E(η 2 |ξ) Bizony´ıt´ as. Legyen q = 1, és az ortogonalitás ellen˝orzéséhez számoljuk ki a E ((η 1 + η 2 ) · h ◦ ξ) = E (η 1 · h ◦ ξ) + E (η 2 · h ◦ ξ) E ((E(η 1 |ξ) + E(η 2 |ξ)) · h ◦ ξ) = E (E(η 1 |ξ) · h ◦ ξ) + E (E(η 2 |ξ) · h ◦ ξ) várható értékeket. 5. Nemnegat´ıv: Legyenek η≥0, ξ : Ω → Rp (v.)v.v.-k, akkor P (E(η|ξ) ≥ 0) = 1. Bizony´ıt´ as. Mivel (η − E(η|ξ))2 ≥ (η − max {0; E(η|ξ)})2 , következik az a´ll´ıtás. K¨ ovetkezm´ eny: Ha η 1 ≤ η 2 ξ : Ω → Rp (v.)v.v.-k, akkor P (E(η 1 |ξ) ≤ E(η 2 |ξ)) = 1. 6. F¨ uggetlen v.v.-k felt´ eteles v´ arhat´ o´ ert´ eke: q p Legyenek η : Ω → R , ξ : Ω → R (v.)v.v.-k f¨ uggetlenek, akkor E(η|ξ) = E(η). Bizony´ıt´ as. Ellen˝or´ızz¨ uk az ortogonalitást a q = 1 esetben: E (η · h ◦ ξ) = E(η) · E(h ◦ ξ) = E (E(η) · E(h ◦ ξ))


97

7. Folytonoss´ ag: (a) Legyenek 0 ≤ η 1 ≤ η 2 ≤ · · · ≤ η n ≤ · · · ≤ η ∈ Ω → R, ξ : Ω → Rp (v.)v.v.-k és limn→∞ η n = η, akkor lim E (η n |ξ) = E (η|ξ)

n→∞

(b) Legyenek η 1 , η 2 , · · · , η n , · · · , η ∈ Ω → R, ξ : Ω → Rp (v.)v.v.-k és limn→∞ η n = η, továbbá legyen ζ ∈ Ω → R olyan négyzetesen integrálható v.v., melyre |η n | ≤ ζ, akkor lim E (η n |ξ) = E (η|ξ) n→∞

Bizony´ıt´ as. Mindkét a´ll´ıtás következik az ortogonalitás ellen˝orzéséb˝ol, felhasználva a várható érték folytonosságát. K¨ ovetkezm´ enyek: 1. Ha ϕ = c ∈ R a´llandó, akkor E (c · η | ξ) = c · E (η|ξ) .

Bizony´ıt´ as. A ϕ = c konstans f¨ uggvény választásával, a homogén tulajdonságból következik az a´ll´ıtás.

2. A közel´ıtés maradékának kovariancia mátrixa az alábbi módon számolható: VR = cov (η − E(η|ξ), η − E(η|ξ)) = E(ηη T ) − E E(η|ξ)E(η|ξ)T = = cov(η, η) − cov (E(η|ξ), E(η|ξ))

Bizony´ıt´ as. Az ortogonalitás miatt E (η − E(η|ξ)) E(η|ξ)T = 0

továbbá a homogenitást felhasználva, és a feltételes várható érték várható értékét véve E E(η | ξ)η T = E E E(η | ξ)η T | ξ = E E(η | ξ)E η T | ξ kapjuk:

VR = E (η − E(η|ξ)) (η − E(η|ξ))T = = E (η − E(η|ξ)) η T − E (η − E(η|ξ)) E(η|ξ)T = = E(ηη T ) − E E(η|ξ)η T = E(ηη T ) − E E(η|ξ)E(η|ξ)T = = E(ηη T ) − E(η)E T (η) − E E(η|ξ)E(η|ξ)T − E(η)E T (η) . Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


98

3. Ha η, ξ 1 , ξ 2 (v.)v.v.-k, akkor E (E(η|ξ 1 , ξ 2 )|ξ 1 ) = E(η|ξ 1 ) . Bizony´ıt´ as. Ellen˝or´ızz¨ uk az ortogonalitást: E [(E(η|ξ 1 , ξ 2 ) − E(η|ξ 1 )) h(ξ 1 )] = = E [(η − E(η|ξ 1 )) h(ξ 1 )] − E [(η − E(η|ξ 1 , ξ 2 )) h(ξ 1 )] = 0 . 4. Ha ξ, η f¨ uggetlen r illetve s dimenziós vektor valósz´ın˝ uségi változók, továbbá g : Rr+s → R (mérhet˝o) f¨ uggvény, akkor E (g(ξ, η) | ξ = x) = E (g(x, η))

x ∈ Rr .

Bizony´ıt´ as. Ellen˝or´ızz¨ uk az ortogonalitást, szám´ıtsuk ki a várható értékeket a generált mértékterekben. Mivel Z E (g(x, η)) = g(x, y)dPη (y) , Rs

kapjuk E [E (g(·, η)) (ξ) · h(ξ)] =

Z

Rr

 

Z

Rs



g(x, y)dPη (y) · h(x)dPξ (x),

és a f¨ uggetlenség miatt a szorzatmérték szerinti integrált számolva (lásd: A. f¨ uggelék): ZZ E [g(ξ, η) · h(ξ)] = g · hd (Pξ × Pη ) = Rr+s   Z Z  g(x, y)dPη (y) · h(x)dPξ (x) . = Rr

Rs

A felt´ eteles v´ arhat´ o´ ert´ ek kisz´ am´ıt´ asa 1. Legyenek A, B ∈ A,és η = 1A , ξ = 1B és 0 < P (B) < 1. Mivel ξ értékkészlete {0, 1}, elég megadni az u1 , µ2 ∈ R számokat u ´ gy, hogy E (1A − µ1 · 1B − µ2 · 1B )2 = (1 − u1 )2 P (A ∩ B) + µ21 P (A ∩ B) + (1 − u2 )2 P (A ∩ B) + µ22 P (A ∩ B)

minimális legyen. ´ıgy kapjuk: E(η|ξ = x) =

P (A | B) ha x = 1 . P (A | B) ha x = 0


99

Megjegyz´ es: Láthatjuk, hogy események indikátorának feltételes várható értéke szoros kapcsolatban van az események körében definiált feltételes valósz´ın˝ uséggel. A tulajdoságokból következnek továbbá, hogy egy ξ : Ω → R p (v.)v.v. esetén: E(1Ω | ξ) = 1 ∀A ∈ A 0 ≤ E(1A | ξ) ≤ 1 1-valósz´ın˝ uséggel E(1A∪B | ξ) = E(1A | ξ) + E(1B | ξ) ha A, B ∈ A és A ∩ B = ∅ Ezeket is figyelembe véve, az E(1A | ξ) feltételes várható értéket feltételes val´ osz´ın˝ uségnek nevezz¨ uk a továbbiakban, és az alábbi jelölést használjuk: P (A | ξ) = E(1A | ξ) illetve P (A | ξ = x) = E(1A | ξ = x) x ∈ Rp . P 2. Legyen A ∈ A, η = 1A , ξ = i xi 1{ξ=xi } , és P (ξ = xi ) > 0 i = 1, 2, . . . , akkor ´ırhatjuk  !2  X X E (η − H ◦ ξ)2 = E  (1 − µi ) · 1A∩{ξ=xi } − µi · 1A∩{ξ=xi }  = i

E X i

X i

i

(1 − µi )2 · 1A∩{ξ=xi } +

X i

(1 − µi )2 · P (A ∩ {ξ = xi }) +

µ2i · 1A∩{ξ=xi } X i

!

=

µ2i · P A ∩ {ξ = xi }

amib˝ol kapjuk, mint el˝obb: P (A|ξ = x) = P (A|ξ = xi )

ha x = xi

i = 1, 2, . . .

P q K¨ ovetkezm´ eny: Ha η = j yj 1{η=yj } , ahol im(η) = {yj | j = 1, 2, . . .} ⊂ R , akkor X E(η|ξ = xi ) = yj P (η = yj | ξ = xi ) i = 1, 2, . . . j

Tehát a feltételes várható érték {ξ = xi } feltétel esetén a (P (η = yj | ξ = xi ))j un. feltételes eloszl´ ashoz tartozó várható érték. Ebb˝ol y ∈ R q esetben kapjuk X Fη|ξ (y|xi ) = P (η < y|ξ = xi ) = P (η = yj | ξ = xi ) i = 1, 2, . . . yj
amit az η (v.)v.v. ξ = xi feltételre vonatkozó feltételes eloszlásf¨ uggvényének nevez¨ unk. A feltételes eloszlásf¨ uggvénnyel kifejezhetj¨ uk (az eloszlásf¨ uggvényhez hasonlóan) a X P (η ∈ I|ξ = xi ) = P (η = yj | ξ = xi ) = Fη|ξ (·|xi ) I i = 1, 2, . . . I ⊂ R yj ∈I



100

feltételes valósz´ın˝ uségeket, és ´ıgy egy h (mérhet˝o) f¨ uggvény esetén X E(h ◦ η|ξ = xi ) = h(yj ) · P (η = yj | ξ = xi ) i = 1, 2, . . . j

ami megfelel a várható érték szokásos kiszám´ıtásának diszkrét eloszlás esetén. 3. Legyen A ∈ A és 0 < P (A) < 1, továbbá a ξ : Ω → Rp (v.)v.v. eloszlása olyan, hogy minden I ⊂ Rp intervallum esetén Z P (ξ ∈ I | A) = fA P (ξ ∈ I | A) =

ZI

fA

I

ahol fA és fA valósz´ın˝ uségi s˝ ur˝ uségf¨ uggvények, a ξ v.v. A ill. A eseményekre vonatkozó un. feltételes s˝ ur˝ uségf¨ uggvényei. Ekkor a teljes valósz´ın˝ uség tétel szerint P (ξ ∈ I) = P (A) ·

Z

fA + P (A) ·

I

Z

fA ,

I

tehát ξ s˝ ur˝ uségf¨ uggvénye fξ (x) = fA (x) · P (A) + fA (x) · P (A) x ∈ Rp , továbbá fA (x)P (A) ha fξ (x) > 0 fξ (x)  R   p xfA (x)dx ha y = 1 = y) = RR   xfA (x)dx ha y = 0

P (A|ξ = x) =

E(ξ|1A

(9.6)

Rp

Ellen˝or´ızz¨ uk az ortogonalitás teljes¨ ulését ez utóbbi formulák esetén: (a) Legyen h = 1I , ahol I ⊂ Rp intervallum, akkor

E 1A · 1{ξ∈I} = P ({ξ ∈ I} ∩ A) = P (A) · és E

fA (ξ)P (A) · 1{ξ∈I} fξ (ξ)

Z I

= P (A) ·

Z I

fA .

fA


101

(b) Legyen h : R → Rp tetsz˝oleges, akkor h(1A ) = a · 1A + b · 1A , ahol a = h(1), b = h(0) ∈ Rp . A (9.6) formulát is használva E ξ T h(1A ) = E T (ξ · 1A ) a + E T (ξ · 1A ) b = = E T [ξ · P (A | ξ)] a + E T ξ · P A | ξ b = fA (ξ)P (A) fA (ξ)P (A) T T =E ·ξ a+E ·ξ b= fξ (ξ) fξ (ξ) Z Z T T xfA (x)dx bP (A) xfA (x)dx aP (A) + = Rp

Rp

és  

E  

Z

Rp





xfA (x)dx · 1A +  =

Z

Z

Rp



T

aP (A) +

Z



xfA (x)dx · 1A  h(1A ) =

xfA (x)dx Rp

T

Rp

xfA (x)dx

T

bP (A)

P K¨ ovetkezm´ eny: Ha η = j yj 1{η=yj } ahol im(η) = {yj | j = 1, 2, . . .} ⊂ Rq és a ξ : Ω → Rp (v.)v.v. {η = yj } feltételre vonatkozó s˝ ur˝ uségf¨ uggvénye fj j = 1, 2, . . ., akkor ξ s˝ ur˝ uségf¨ uggvénye: X fξ (x) = fj (x)P (η = yj ) x ∈ Rp j

továbbá E(η|ξ = x) =

X j

E(ξ|η = yj ) =

Z

yj

fj (x)P (η = yj ) fξ (x)

ha fξ (x) > 0

xfj (x)dx j = 1, 2, . . .

Rp

fj (x)P (η = yj ) Tehát az E(η|ξ) feltételes várható érték a P (η = yj | ξ = x) = fξ (x) j feltételes eloszl´ ashoz tartozó közönséges várható érték. Az ebb˝ol y ∈ R q esetén kapható X fj (x)P (η = yj ) Fη|ξ (y|x) = P (η < y | ξ = x) = ha fξ (x) > 0 fξ (x) y
feltételes valósz´ın˝ uséget az η (v.)v.v. ξ = x feltételre vonatkozó feltételes eloszl´ asf¨ uggvényének nevezz¨ uk. A feltételes eloszlásf¨ uggvénnyel kifejezhetj¨ uk (az eloszlásf¨ uggvényhez hasonlóan) a X fj (x)P (η = yj ) = Fη|ξ (·|x) I ha fξ (x) > 0 P (η ∈ I|ξ = x) = fξ (x) y ∈I j



102

feltételes valósz´ın˝ uségeket, és egy h (mérhet˝o) f¨ uggvény esetén E(h ◦ η|ξ = x) =

X j

h(yj ) ·

fj (x)P (η = yj ) fξ (x)

ha fξ (x) > 0

ami megfelel a várható érték szokásos kiszám´ıtásának diszkrét eloszlás esetén. 4. Legyen a (ξ, η) (p + q)-dimenziós v.v.v. s˝ ur˝ uségf¨ uggvénye f : R p+q → R+ 0 , akkor az ortogonalitás ellen˝orzésével kapjuk: Z E(η|ξ = x) = y · f (y|x)dy ha fξ (x) > 0 Rq

ahol fξ (x) =

Z

Rq

f (x, y)dy x ∈ Rp

a ξ perem s˝ ur˝ uségf¨ uggvénye, és f (y|x) =

f (x, y) fξ (x)

ha fξ (x) > 0

az η v.v.v. ξ = x feltételre vonatkozó un. feltételes s˝ ur˝ uségf¨ uggvénye. Tehát a feltételes várható érték a feltételes s˝ ur˝ uségf¨ uggvényhez tartozó közönséges várható érték. K¨ ovetkezm´ enyek: (a) Az ortogonalitás ellen˝orzéséb˝ol, vagy a 3. kiszám´ıtási formulából kapjuk z ∈ Rq esetén: Z Fη|ξ (z|x) = P (η < z | ξ = x) = f (y|x)dy ha fξ (x) > 0 ]−∞;z]

amit az η (v.)v.v. ξ = x feltételre vonatkozó feltételes eloszlásf¨ uggvényének nevez¨ unk. Hasonlóan kaphatjuk tetsz˝oleges I intervallum esetén Z P (η ∈ I | ξ = x) = f (y|x)dy = Fη|ξ (·|x) I ha fξ (x) > 0 I

amib˝ol kapjuk a folytonosság felhasználásával egy h (mérhet˝o) f¨ uggvény esetén a Z E(h ◦ η|ξ = x) = h(y) · f (y|x)dy ha fξ (x) > 0 Rq

kiszám´ıtási formulát..

¨ ´ 9.3. BAYES DONT ES

103

(b) Legyen a (η, ξ) (q + p)-dimenziós v.v.v. eloszlása normális V11 V12 q+P ∈ R(q+p)×(q+p) (m1 , m2 ) ∈ R V21 V22 várható értékkel és invertálható kovariancia mátrixszal. Ekkor η-nak a ξ-re vonatkozó feltételes s˝ ur˝ uségf¨ uggvénye a 4. kiszám´ıtási formula szerint: −1 1 ∗ T −1 ∗ f (y|x) = C exp − (y − m ) V11 − V12 V22 V21 (y − m ) (9.7) 2

− 21 q ∈ R+ , m∗ = V12 V22−1 (x−m2 )+m1 , ahol C = (2π)− 2 det V11 − V12 V22−1 V21 vagyis a feltételes s˝ ur˝ uségf¨ uggvény normális eloszlás s˝ ur˝ usége, a hozzá tartozó várható érték pedig a lineáris regressziós f¨ uggvény, tehát E(η | ξ = x) = V12 V22−1 (x − m2 ) + m1

/x ∈ Rp /

továbbá a maradék kovariancia mátrix a lineáris regressziónál megismert: VR = V11 − V12 V22−1 V21 .

9.3.

Bayes d¨ ont´ es

Feladat: Legyen (Ai )ni=1 ⊂ A teljes eseményrendszer, és P (Ai ) > 0 i = 1, 2, . . . n, tov´ abb´ a a ξ p-dimenzi´ os v.v.v. Ai feltételre vonatkoz´ o feltételes s˝ ur˝ uségf¨ uggvénye fi : Rp → R + 0

i = 1, 2, . . . n.

Keress¨ uk azt a d : Rp → {1, 2, . . . , n} un. döntés f¨ uggvényt, mellyel a Hd =

n X i=1

{d(ξ) = i} ∩ Ai

d¨ ontési hiba val´ osz´ın˝ usége a legkisebb. A döntési hiba valósz´ın˝ uségét a´talak´ıtva kapjuk: P (Hd ) = 1 −

n X i=1

P ({d(ξ) = i} ∩ Ai ) = 1 − E

n X i=1

!

P ({d(ξ) = i} ∩ Ai | ξ) .

A feltételes várható érték ill. valósz´ın˝ uség tulajdonságait használva kapjuk: n X i=1

P ({d(ξ) = i} ∩ Ai | ξ = x) =

n X i=1

fi (x)P (Ai ) 1{d(x)=i} · Pn ≤ j=1 fj (x)P (Aj )



104

≤ p

ha x ∈ R és fξ (x) = teljes¨ ul

Pn

j=1

n X i=1

fi (x)P (Ai ) 1{d∗ (x)=i} · Pn j=1 fj (x)P (Aj )

fj (x)P (Aj ) > 0. Itt d∗ jelöli azt a döntés f¨ uggvényt,melyre

fi (x)P (Ai ) fk (x)P (Ak ) ≤ fξ (x) fξ (x)

ha d∗ (x) = k és fξ (x) > 0, i = 1, 2, . . . n.

Ezt a d∗ f¨ uggvényt Bayes döntésnek nevezz¨ uk, amivel a kit˝ uzött feladat megoldását kapjuk, vagyis n X P ({d∗ (ξ) = i} ∩ Ai ) . P (Hd ) ≥ P (Hd∗ ) = 1 − i=1

K¨ ovetkezm´ enyek:

1. Legyen n = 2, és a két feltételes s˝ ur˝ uségf¨ uggvény legyen V 1 , V2 ∈ Rp×p kovariancia mátrix´ u m1, m2 ∈ Rp várható érték˝ u normális eloszláshoz tartozó, vagyis 1 1 T −1 /x ∈ Rp / i = 1, 2. exp − (x − mi ) Vi (x − mi ) fi (x) = p 2 2π det(Vi ) továbbá

pi = P (Ai ) i = 1, 2 ahol p1 + p2 = 1. Ekkor a d∗ Bayes döntés megadása ekvivalens az f1 (x) · p1 > f2 (x) · p2

x ∈ Rp

egyenl˝otlenség megoldáshalmazának megadásával, mely egyenl˝otlenség eset¨ unkben 1 1 (x − m1 )T V1−1 (x − m1 ) − (x − m2 )T V2−1 (x − m2 ) < C 2 2 ahol C = ln

p p det(V1 ) − ln det(V2 ) + ln(p2 ) − ln(p1 )

ami az x ∈ Rp pont m1 és m2 várható értékekt˝ol való un. Mahalanobis t´ avols´ agok o¨sszehasonl´ıtását jelenti. 2. Ha a két kovariancia mátrix azonos, ez utóbbi egynel˝otlenség ekvivalens az alábbi, az x ∈ Rp pont un. line´ aris diszkriminancia f¨ uggvényének l(x) értékét˝ol f¨ ugg˝o egyenl˝otlenséggel: C < l(x) = xT V −1 (m1 − m2 ) ahol

1 C = (m1 − m2 )T V −1 (m1 + m2 ) − ln(p2 ) + ln(p1 ). 2

105

9.4. FELADATOK

9.4.

Feladatok

1. Legyenek ξ, τ , ε ∈ N (0, 1) f¨ uggetlenek, és 1 η = τ+ ε 2 ξ1 = ξ ξ2 = τ − ξ Adjuk meg az η ≈ aξ 1 + bξ 2 + c regressziós közel´ıtést, a kmaradék szórást és a többszörös korrelációs egy¨ utthatót! Vizsgáljuk az η és ξ 1 közti tiszta, ξ 2 hatásától mentes o¨sszef¨ uggést, szám´ıtsuk ki a ρη,ξ1 |ξ2 parciális korrelációs egy¨ uthatót! 2. Keress¨ uk az x y −1 1 0 0 1 2 2 4 pontokra legjobban illeszked˝o másodfok´ u polinomot! 3. A (ξ 1 , ξ 2 , ξ 3 ) v.v.v. kovariancia mátrixa és várható érték vektora 

 64 −16 −19  −16 100 126  , −19 126 160



 10  20  30

határozza meg a ρξ 1 ,ξ3 |ξ 2 korrelációs egy¨ utthatót, adja meg a ξ 2 ≈ aξ 1 + bξ 3 + c regressziós f¨ uggvényt, a közel´ıtés maradék szórását! 4. Kétféle izzólámpából 60 illetve 40 van egy raktárban. Mindkét t´ıpus élettartama exponenciális eloszlás´ u, várható élettartamuk pedig (ebben a sorrenben)120 ill. 200 o´ra. Véletlenszer˝ uen választunk egy izzót a raktárból, adjuk meg a m˝ uködési id˝o eloszlását! Ha a választott izzó 210 o´ráig m˝ uködik, mennyi annak valósz´ın˝ usége, hogy az egyik ill. másik csoportból való? Adjuk meg a Bayes döntést, és a döntés hibavalósz´ın˝ uségét! 5. Legyen ξ és η f¨ uggetlen, skalár érték˝ u v.v., f : R → R (mérhet˝o) f¨ uggvény, mutassuk meg, hogy P (η < f ◦ ξ | ξ = x) = P (η < f (x)) x ∈ R ! 6. Legyenek ξ : Ω → Rn mutassuk meg, hogy

η1 : Ω → R

f¨ uggetlenek, és η 2 = f ◦ ξ : Ω → R v.v.-k,

P (η 1 + η 2 < z | ξ = x) = P (η 1 < z − f (x)) x ∈ R ! Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


106

7. Legyenek η ∈ N (0; σ), εk ∈ N (0; σ0 ) k = 1, 2, . . . , n f¨ uggetlen v.v.-k, és ξ k = η + εk

k = 1, 2, . . . , n ,

adjuk meg az E(η | ξ 1 , ξ 2 , . . . , ξ n ) feltételes várható értéket! 8. Tudjuk, hogy a lakosság 52%-át kitev˝o n˝ok testmagassága normális eloszlás´ u 165cm várható értékkel és 8cm szórással. A férfiak magasságánál ezek a paraméterek 178cm és 10cm. Ha valakir˝ol tujuk, hogy 173cm magas, mennyi a valósz´ın˝ usége, hogy n˝o ill. férfi az illet˝o? 9. Legyen a (ξ, η) 2-dimenziós v.v.v. s˝ ur˝ uségf¨ uggvénye: ( c(x + y) x, y ∈ [0, 1] f (x, y) = . 0 egyébként Adjuk meg az E(η|ξ = .) feltételes várható értéket és a maradék szórást! Hasonl´ıtsuk o¨ssze a kapott eredményt az η ∼ aξ + b regressziós közel´ıtéssel! 10. Egy adott termékb˝ol háromféle a´tlagos élettartam´ u t´ıpus van forgalomban, melyek mennyiségének megoszlása 50%, 30% és 20%. Az élettartamokat exponenciális eloszlás´ u, 50, 100 és 200 várható érték˝ u véletlen mennyiségeknek tekintve, adjunk dötési szabályt egy megfigyelt élettartam alapján arra, hogy melyik t´ıpus´ u termékr˝ol van szó! 11. Két kockával dobunk, jelölje ξ az eredmények maximumát, η pedig a minimumát. Adjuk meg (a) az η ∼ aξ + b regressziós közel´ıtést!

(b) a {ξ = i} 7→ {η = j} legjobb döntési szabályt! (c) az E(η|ξ) feltételes várható értéket!

10. fejezet Sztochasztikus folyamatok Vektor valósz´ın˝ uségi változók esetében véges sok indexhez tartozott egy-egy valósz´ın˝ uségi változó (komponens), aminek természetes kiterjesztése az alábbi fogalom. 10.1. Defin´ıci´ o. A (ξ t )t∈T (n-dimenziós) valósz´ın˝ usági változók egy¨ uttesét sztochasztikus folyamatnak nevezz¨ uk, ahol T − ξ t : Ω → Rn − ξ . (ω) : T → Rn −

az un. paraméterhalmaz ; a t ∈ T -hez tartozó a´llapot (v.)v.v. ; az ω ∈ Ω-hoz tartozó pályagörbe, a folyamat egy véletlen realizációja ;

Egy ilyen folyamat sokszor id˝oben lejátszódó jelenségek modellje, ezért a T paraméter halmaz, mely legtöbbször N, Z,R,R+ esze lesz, elemeit id˝opontoknak 0 , vagy ezek valamely r´ + mondjuk. Ha T ⊂ N, Z id˝osorról, ha T ⊂ R,R0 folyamatról beszél¨ unk. 10.2. P´ elda. Legyen τ ∈ U (0, 1) v.v., és T = [0; 1], továbbá ξ t = 1{τ =t}

t ∈ T.

Ekkor a (ξ t )t∈T folyamat minden realizációja egy pont kivételével a konstans 0-értéket felvev˝o f¨ uggvény, a t = τ (ω ) pontban pedig 1 az értéke, tehát ”szakadása” van. Tetsz˝oleges t ∈ T -hez tartozó ξ t a´llapot eloszlása P (ξ t = 0) = 1, de véges sok t1 , t2 , . . . , tk ∈ T esetén is P (ξ t1 = 0, ξ t2 = 0, . . . , ξ tk = 0) = 1. 10.3. P´ elda. Legyen T = [0; 1], ξt = 0 t ∈ T Ekkor a (ξ t )t∈T folyamat minden realizációja a konstans 0-értéket felvev˝o folytonos f¨ uggvény, és a t ∈ T -hez tartozó ξ t a´llapot eloszlása P (ξ t = 0) = 1, és véges sok t1 , t2 , . . . , tk ∈ T esetén P (ξ t1 = 0, ξ t2 = 0, . . . , ξ tk = 0) = 1. 107

108

10. FEJEZET. SZTOCHASZTIKUS FOLYAMATOK

A fenti két példa szerint, két folyamat realizációi analitikus viselkedés¨ uket tekintve eléggé k¨ ulönböz˝oek lehetnek, véges-dimenziós eloszlásaik azonban mégis azonosak. Mivel minden valósz´ın˝ uségszám´ıtási jellemz˝o a véges dimenziós eloszlásokkal adott, az ilyen folyamatokat sztochasztikusan ekvivalensnek nevezz¨ uk. Vizsgáljuk most meg egy (ξ t )t∈T folyamat véges dimenziós eloszlásainak tulajdonságait, az egyszer˝ uség kedvéért T ⊂ R esetben: • jelölje a t1 < t2 < . . . < tn ∈ T id˝opontokhoz tartozó véges-dimenziós eloszlást meghatározó eloszlásf¨ uggvényt Ft1 ,t2 ,...,tn : Rn → [0; 1] ;

(10.1)

• ekkor limx→+∞ Ft1 ,t2 ,...,tn (x1 , x2 , . . . , xk−1 , x, xk+1 , . . . xn ) = = Ft1 ,t2 ,...,tk−1 ,tk+1 ,...,tn (x1 , x2 , . . . , xk−1 , xk+1 , . . . , xn ) x1 , x2 , . . . , xk−1 , xk+1 , . . . , x ∈ R .

(10.2)

Eloszlásf¨ uggvények ilyen 10.1-10.2 halmazát kompatibilisnek nevezz¨ uk. A következ˝o a´ll´ıtás szerint, ilyen eloszlások ismerete már meghatároz a 10.1 defin´ıció szerinti sztochasztikus folyamatot, ezért a tvábbiakban legtöbbször az eloszlásokkal kapcsolatos ismereteket helyezz¨ uk el˝otérbe. 10.4. T´ etel (Kolmogorov alapt´ etele). Legyen a T ⊂ R index-halmazhoz tartozó eloszlásf¨ uggvények egy (Ft1 ,t2 ,...,tn )t1
´ ´ 10.1. VELETLEN ESEMENYFOLYAMAT, POISSON FOLYAMAT

10.1.

109

V´ eletlen esem´ enyfolyamat, Poisson folyamat

A következ˝o példa, véletlen id˝opontokban bekövetkez˝o események modelljéu ¨ l szolgál. Legyen a (ξ t )t∈R+ egy N a´llapotter˝ u folyamat, melyre teljes¨ ulnek a következ˝o feltételek: 0

1. ξ 0 = 0. 2. Ha 0 ≤ t1 ≤ t2 ≤ t3 ≤ . . . ≤ tn ⇒ ξ tn − ξ tn−1 , ξ tn−1 − ξ tn−2 , ξ tn−2 − ξ tn−3 , . . . , ξ t2 − ξ t1 teljesen f¨ uggetlenek. 3. Ha 0 ≤ t1 ≤ t2 ≤ t3 ≤ . . . ≤ tn , 0 ≤ h ⇒ ξ tn − ξ tn−1 , ξ tn−1 − ξ tn−2 , ξ tn−2 − ξ tn−3 , . . . , ξ t2 − ξ t1 egy¨ uttes eloszlása olyan mint ξ tn +h − ξ tn−1 +h , ξ tn−1 +h − ξ tn−2 +h , ξ tn−2 +h − ξ tn−3 +h , . . . , ξ t2 +h − ξ t1 +h eloszlása. Megjegyz´ esek: (a) A ξ t v.v. jelentésének a [0, t[ intervallumban bekövetkez˝o események számát tulajdon´ıtva, az 1. feltételezés természetes. (b) A 2. feltétel szerint a folyamat un. f¨ uggetlen n¨ ovekmény˝ u, azaz az egymást követ˝o id˝ointervallumok alatt észlelt események száma egymástól f¨ uggetlen, és 1. miatt ξ t = ξ t − ξ 0 és ξ t+h − ξ t f¨ uggetlenek, ha t, h ≥ 0. (c) A 3. feltétel a folyamat növekményeinek un. stacion´ arius voltát jelenti, ami az 1.-2. feltételek miatt ekvivalens az alábbi egyszer˝obb feltétellel: Ha 0 ≤ t, h ⇒ ξ t+h − ξ t eloszlása nem f¨ ugg t-t˝ol, azaz eloszlása azonos ξ h eloszlásával. 4. Teljes¨ ul továbbá P (ξ h ≥ 1) = λ · h + r1 (h) h≥0 P (ξ h ≥ 2) = r2 (h) h≥0 ahol λ > 0, és 1 lim ri (h) = 0 h→0 h

i = 1, 2. Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.

110


A továbbiakban meghatározzuk a folyamat véges dimenziós eloszlásait. ξ t eloszlását a pn (t) = P (ξ t = n) n ∈ N,

t≥0

f¨ uggvények határozzák meg. Mivel ξ t+h = 0 = {ξ t = 0} ∩ ξ t+h − ξ t = 0 ,

felhasználva a novekmények f¨ uggetlenségét és stacionárius tulajdonságát, kapjuk p0 (t + h) = p0 (t)p0 (h) t, h ≥ 0 amib˝ol a 4. tulajdonság felhasználásával kapjuk p0 (t + h) − p0 (t) = −λhp0 (t) − p0 (t)r1 (h) amib˝ol következik, hogy p0 megoldása a p00 (t) = −λp0 (t) t ≥ 0 p0 (0) = 1 kezdetiérték feladatnak, tehát p0 (t) = e−λt

t ≥ 0.

Tegy¨ uk fel most, hogy a pn−1 f¨ uggvény már ismert, és keress¨ uk a pn f¨ uggvényt. Használjuk a következ˝oket ξ t+h = n = {ξ t = n} ∩ ξ t+h − ξ t = 0 ∪ {ξ t = n − 1} ∩ ξ t+h − ξ t = 1 ∪ R n [ ahol R = {ξ t = n − k} ∩ ξ t+h − ξ t = k . k=2

Mivel

R ⊂

n [

k=2

ξ t+h − ξ t = k

1 ⇒ lim P (R) = 0 h→0 h

⇒ 0 ≤ P (R) ≤

∞ X k=2

P (ξ h = k) = P (ξ h ≥ 2) = r2 (h),

és kapjuk

p1 (h) = 1 − p0 (h) − P (ξ h ≥ 2) = 1 − p0 (h) − r2 (h)

pn (t + h) − pn (t) = (p0 (h) − 1) pn (t) − pn−1 (t) (p0 (h) − 1) − pn−1 (t)r2 (h) + P (R) amib˝ol p0n (t) = −λpn (t) + λpn−1 (t) t ≥ 0 pn (0) = 0.


Vezess¨ uk be a qn (t) = pn (t) · eλt

111

t ≥ 0 f¨ uggvényeket, melyekre

qn0 (t) = λqn−1 (t) t ≥ 0 qn (0) = 0. Felhasználva, hogy q0 (t) = 1, kapjuk (λt)n qn (t) = n!

t≥0

és ´ıgy

(λt)n −λt e t ≥ 0, n = 0, 1, 2, . . . . n! Használjuk fel a folyamt növekményeinek f¨ uggetlenségét és a stacionárius tulajdonságát, igy kapjuk a véges dimenziós eloszlásokat a 0 ≤ t1 ≤ t2 ≤ t3 ≤ . . . ≤ tn id˝opontokban: pn (t) =

P (ξ t1 = k1 , ξ t2 = k2 , . . . , ξ tn = kn ) = P (ξ t1 = k1 , ξ t2 − ξ t1 = k2 − k1 , . . . , ξ tn − ξ tn−1 = kn − kn−1 ) = (λt1 )k1 −λt1 e k1 !

(λ(t2 −t1 ))k2 −k1 −λ(t2 −t1 ) e (k2 −k1 )!

kn −kn−1

n−1 )) · . . . (λ(tn −t e−λ(tn −tn−1 ) = (kn −kn−1 )! k1 k2 −k1 kn −kn−1 tn −tn−1 (λtn )kn −λtn t1 t2 −t1 kn ! e · . . . · · = k1 !(k2 −k1 )!·...·(kn −kn−1 )! tn tn tn kn !

=

·

ahol k1 ≤ k2 ≤ . . . ≤ kn ∈ N. K¨ ovetkezm´ enyek: 1. A ξ t v.v. és a folyamat ξ t+h − ξ t növekménye f¨ uggetelen Poisson eloszlás´ u λt illetve λh paraméterrel, ha t, h ≥ 0. 2. A véges dimenziós eloszlásból kapjuk, hogy a 0 ≤ t 1 ≤ t2 ≤ t3 ≤ . . . ≤ t n a´ltal meghatározott felosztás részintervallumaiban bekövetkez˝o események száma, feltéve, hogy o¨sszesen l szám´ u esemény következett be, P (ξ t1 = l1 , ξ t2 − ξ t1 = l2 , . . . , ξ tn − ξ tn−1 = ln | ξ tn = l) = l1 l l tn − tn−1 n t1 t2 − t 1 2 l! ... = l1 ! · l 2 ! · . . . · l n ! t n tn tn P ahol l1 , l2 , . . . ln ∈ N, és ni=1 li = l. Tehát ez az eloszlás l-edrend˝ u polinomiális, az intervallumok hosszával arányos valósz´ın˝ uség paraméterekkel. Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.

112


3. A véges dimenziós perem-eloszlások fenti alakja, és az el˝oz˝oek szerint, a Poisson folyamat egy (szimulációkban jól használható) közel´ıtése az alábbiak szerint adható meg: Legyenek τ 1 , τ 2 , . . . , τ N egyenletes eloszlás´ u, f¨ uggetlen véletlen számok a [0; 1] intervallumban, 0 < λ és N X ξt = 1{ N τ i ≤t} t ≥ 0 . λ

i=1

Ekkor 0 ≤ t1 ≤ t2 ≤ t3 ≤ . . . ≤ tn ≤

N λ

és k1 ≤ k2 ≤ . . . ≤ kn ∈ N esetén

P (ξ t1 = k1 , ξ t2 = k2 , . . . , ξ tn = kn ) = = P (ξ t1 = l1 , ξ t2 − ξ t1 = l2 , . . . , ξ tn − ξ tn−1 = ln ) = = P (ξ t1 = l1 , ξ t2 − ξ t1 = l2 , . . . , ξ tn − ξ tn−1 = ln , ξ N − ξ tn = N − l) = λ l2 ln N N −l l λ( λ −tn ) 1 λ(t2 −t1 ) λ(tn −tn−1 ) = = l1 !·l2 !·...·lNn!!·(N −l)! λtN1 . . . N N N l2 ln l l1 N tn −tn−1 t2 −t1 t1 l! · · . . . · · λl! · 1 − λtNn · · = l1 !·l2 !·...·l tn tn tn n! −l N N −1 · 1 − λtNn · N · N · . . . · N −l+1 N P ahol l1 = k1 , li = ki − ki−1 i = 2, 3, . . . , n és l = ni=1 li = kn . Ez pedig N → ∞ esetén azt jelenti, hogy az ´ıgy definiált (ξ t )t≥0 folyamat véges-dimenziós peremeinek eloszlása tart a Poisson folyamat megfelel˝o peremének eloszlásához. 4. Markov tulajdons´ ag: ha 0 ≤ t1 ≤ t2 ≤ t3 ≤ . . . ≤ tn ≤ t és k1 ≤ k2 ≤ . . . ≤ kn ≤ k ∈ N, akkor P (ξ t = k | ξ tn = kn , ξ tn−1 = kn−1 , . . . , ξ t1 = k1 ) = =

(λ(t − tn ))k−kn −λ(t−tn ) e = P (ξ t = k | ξ tn = kn ) (k − kn )!

5. Marting´ al tulajdons´ ag: jelölje η t = ξ t − λt a centrált folyamatot, és legyenek 0 ≤ t1 ≤ t2 ≤ t3 ≤ . . . ≤ tn ≤ t, és k1 ≤ k2 ≤ . . . ≤ kn ≤ k ∈ N, továbbá yj = kj − tj λ j = 1, 2, . . . n, ekkor E(η t |η tn = yn , η tn−1 = yn−1 , . . . , η t1 = y1 ) = = E(ξ t |ξ tn = yn + tn λ, η tn−1 = yn−1 + tn−1 λ, . . . , η t1 = y1 + t1 λ) − λt = ∞ X kP (ξ t = k | ξ tn = kn , ξ tn−1 = kn−1 , . . . , ξ t1 = k1 ) − λt = = = =

k=kn ∞ X

k=kn ∞ X

k=kn

kP (ξ t = k | ξ tn = kn ) − λt = (λ(t − tn ))k−kn −λ(t−tn ) (k − kn ) e + kn − λt = (k − kn )!

= λ(t − tn ) + kn − λt = yn .


113

6. A Poisson folyamat ”szakadási” helyeinek eloszlása: A folyamat n−edik szakadási helyét jelölje ζ n = sup {t | ξ t = n − 1}

n = 1, 2, . . . ,

t≥0

ami valósz´ın˝ uségi változó, mivel {ζ n ≤ x} = {ξ x ≥ n}

n ∈ N + , x ∈ R+ .

Itt a sup legyen 0, ha a {t | ξ t = n − 1} halmaz u ¨ res, és {ζ n ≤ x} = ∅ ha x < 0. ∞ Ekkor a (ζ n )n=1 monoton nem csökken˝o sorozat, és ha 0 < x1 < x2 < . . . < xn , és h > 0 olyan, hogy xi + h < xi+1 , akkor P (x1 < ζ 1 < x1 + h ∧ x2 < ζ 2 < x2 + h ∧ . . . ∧ xn < ζ n < xn + h) = = P (ξ x1 = 0) · P (ξ h = 1) · P (ξ x2 −x1 −h = 0) · . . . · P (ξ h = 1) = = λn hn exp (−λxn − λh) .

Ebb˝ol, hn -vel osztva, és h → 0 határátmenettel kapjuk ζ 1 , ζ 2 , . . . , ζ n egy¨ uttes s˝ ur˝ uségf¨ uggvényét: ( n −λxn λ e ha 0 < x1 < x2 < . . . < xn , f (x1 , x2 , . . . , xn ) = 0 egyébként amib˝ol kapjuk a szomszédos szkadások között eltelt ζ 1 , ζ 2 − ζ 1 , . . . , ζ n − ζ n−1 id˝ok eloszlásának ( n −λ Pn ui i=1 λ e ha 0 < u1 , u2 , . . . , un g(u1 , u2 , . . . , un ) = 0 egyébként s˝ ur˝ uségf¨ uggvényét, tehát a (ζ n )∞ osor egy-lépéses n=1 id˝ δ1 = ζ 1 δ n = ζ n − ζ n−1

n = 2, 3, . . .

növekményei (differenciái) f¨ uggetlen exponenciális eloszlás´ uak. Így ´ırhatjuk ζn =

n X

δi

n = 1, 2, . . . ,

i=1

tehát ζ n f¨ uggetlen, azonos λ-paraméter˝ u exponenciális eloszlás´ u v.v.-k o¨sszege. 7. A Poisson folyamat várható értéke és kovariancia f¨ uggvénye: E(ξ t ) = λt t ≥ 0, és ha pl. t ≥ s, akkor ξ s és ξ t − ξ s f¨ uggetlenek, igy

E(ξ s · ξ t ) = E(ξ s )E(ξ t − ξ s ) + E(ξ 2s ) = λ2 s(t − s) + λs + (λs)2 = λ2 ts + λs,

amib˝ol kapjuk cov(ξ t , ξ s ) = λ min{s, t}. Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.

114


8. A trajektóriák folytonossága: (a) négyzetes k¨ ozépben, E (ξ t − ξ s )2 = E ((ξ t − λt) − (ξ s − λs) + λ(t − s))2 =

= cov(ξ t , ξ t ) + cov(ξ s , ξ s ) − 2 cov(ξ t , ξ s ) + (E(ξ t ) − E(ξ s ))2 ,

amib˝ol a várható érték és kovariancia f¨ uggvények folytonossága miatt következik lim E (ξ t − ξ s )2 = 0. t→s

(b) sztochasztikusan,

E ((ξ t − ξ s )2 ) 0 ≤ P (ξ t − ξ s )2 > ε2 < ε2

amit a Markov egyenl˝otlenségb˝ol kapunk, és felhasználva a négyzetes közép szerinti folytonosságot, kapjuk ∀ε > 0 esetén lim P (|ξ t − ξ s | > ε) = 0 t→s

(c) 1-val´ osz´ın˝ uséggel, ∞ o [ n {ζ n = s} As = lim ξ t 6= ξ s = t→s

n=1

amib˝ol ζ n folytonos eloszlása (2λζ n ∈ χ22n ) miatt következik P (As ) = 0.

10.2.

Brown-mozg´ as, Wiener folyamat

A következ˝o példa folyadékban véletlenszer˝ u mozgást végz˝o részecskék modelljeként vált nevezetessé. Az egyszer˝ uség kedvéért, az un. egy-dimenziós Brown-mozgás modelljét vizsgáljuk, tehát a részecske elmozdulástát egyetlen tengely irányában figyelj¨ uk meg. A (ξ t )t≥0 folyamat legyen R a´llapotter˝ u, és feltételezz¨ uk az alábbiakat: 1. ξ 0 = 0. 2. A folyamat f¨ uggetlen növekmény˝ u, és a növekmények stacionáriusak és normális eloszlás´ uak, tehát ξ t − ξ s ∈ N (0, d(t − s)) 0 ≤ s < t + ahol d:R+ uggvény, melyre 1.miatt d(0) = 0. 0 → R0 folytonos f¨

K¨ ovetkezm´ enyek:

´ WIENER FOLYAMAT 10.2. BROWN-MOZGAS,

115

1. Mivel 0 ≤ s, t esetén ξ t+s = (ξ t+s − ξ t ) + ξ t , és az o¨sszeg tagjai f¨ uggetlenek, d2 (t + s) = d2 (s) + d2 (t), tehát d2 a fenti f¨ uggvényegyenlet megoldása, amib˝ol következik, hogy d 2 (t) = σ 2 t t ≥ 0 Tehát a növekmények eloszlására teljes¨ ul: √ ξ t − ξ s ∈ N (0, σ t − s) 0 ≤ s < t. 2. A folyamat várható értéke és kovariancia f¨ uggvénye: mt = 0 Γ(t, s) = σ 2 min{t, s} ami egyszer˝ u számolással ellen˝or´ızhet˝o, és ´ıgy az un. korrelációs f¨ uggvény pedig az alábbi lesz (r r ) t s . , γ(t, s) = min s t 3. A folyamat véges dimenziós eloszlása a 0 ≤ t1 < t2 < . . . < tn id˝opontokban a növekmények f¨ uggetlensége, és stacionárius volta miatt egy n-dimenziós normális eloszlás lesz:    t1 t1 · · · t 1  t t2 · · · t 2      2 1 (ξ t1 , ξ t2 , . . . ξ tn ) ∈ N 0, σ  .. .. ..  .  . . · · · .   t1 t2 · · · t n 4. Martingál tulajdonság: ha 0 ≤ t1 < t2 < . . . < tn < t, akkor E(ξ t | ξ t1 , ξ t2 , . . . ξ tn ) = E(ξ t − ξ tn | ξ t1 , ξ t2 , . . . ξ tn ) + E(ξ tn | ξ t1 , ξ t2 , . . . ξ tn ) = ξ tn . 5. Markov tulajdonság: ha 0 ≤ t1 < t2 < . . . < tn < t, akkor az fξt |ξt1 ,ξt2 ,...ξ tn (x|x1 , x2 , . . . , xn ) =

fξ t ξ t

,ξt ,...ξtn (x,x1 ,x2 ,...,xn ) 2 ,ξ ,...ξ tn (x1 ,x2 ,...,xn ) 1 t2

1

fξ t

x ∈ R, (x1 , x2 , . . . , xn ) ∈ Rn

feltételes s˝ ur˝ uségf¨ uggvény, mivel az egy¨ uttes eloszlás normális, olyan normális eloszlás s˝ ur˝ uségf¨ uggvénye, melynek várható értéke a feltételes várható érték E(ξ t | ξ t1 = x1 , ξ t2 = x2 , . . . , ξ tn = xn ) = xn , szórása pedig a maradék szórás q p σ R = E (ξ t − ξ tn )2 = D(ξ t−tn ) = σ (t − tn ).


116


Tehát

1 1 2 p (x − xn ) fξ t |ξ t1 ,ξt2 ,...ξ tn (x|x1 , x2 , . . . , xn ) = √ exp − 2 2σ (t − tn ) 2πσ (t − tn ) = fξt |ξ tn (x|xn ) x, xn ∈ R

amib˝ol következik P (ξ t < x | ξ t1 = x1 , ξ t2 = x2 , . . . , ξ tn = xn ) = = P (ξ t < x | ξ tn = xn ) x, xn ∈ R,

Zx

fξt |ξ tn (u|xn )du =

−∞

vagyis tetsz˝oleges ξ t -vel kapcsolatos {ξ t ∈ A} eseményre: P (ξ t ∈ A | ξ t1 = x1 , ξ t2 = x2 , . . . , ξ tn = xn ) = P (ξ t ∈ A | ξ tn = xn ) xn ∈ R. 6. A trajektóriák folytonossága: (a) négyzetes középben lim E (ξ t − ξ s )2 = lim σ 2 |t − s| = 0. t→s

(b) sztochasztikusan

t→s

∀ε > 0 :

lim P (|ξ t − ξ s | > ε) = 0 t→s

mivel a Markov egyenl˝otlenségb˝ol

Megjegyz´ esek:

E ((ξ t − ξ s )2 ) 0 ≤ P |ξ t − ξ s |2 > ε2 ≤ ε2

1. A folyamat f¨ uggetlen és stacionárius növekmény˝ usége miatt tetsz˝oleges n ∈ N + esetén n ξ i − ξ (i−1) X t t t n n · ξt = t n n i=1 ami azt sugalja, hogy ξ t egyfajta integrálközel´ıt˝o o¨sszegek határértéke, feltéve a

ξ s+h − ξ s s, h > 0 h differencia hányados valamilyen értelemben vett határértékének létezését h → 0 esetén. Mivel σ D(η s,h ) = √ → ∞ ha h → 0, h ez a határérték nem létezhet, az eddigi fogalmaink szerint nincs olyen folyamat, melynek ξ t az integrál-f¨ uggvénye. Formálisan ugyanis azt kellene elfogadnunk, hogy a Wiener folyamat olyan, minden id˝opontban végtelen nagy szórás´ u Gauss folyamat integrál f¨ uggvénye, melynek k¨ ulönböz˝o id˝opontokhoz tartozó a´llapotai f¨ uggetlenek. Ilyen a´ltalánosabb értelemben vett folyamat az un. fehérzaj folyamat. η s,h =

´ WIENER FOLYAMAT 10.2. BROWN-MOZGAS,

117

2. Legyen (Wt )t≥0 az un. standard Wiener folyamat, tehát amelynek 0 ≤ s < t id˝opontokhoz tartozó növekményei: √ Wt − Ws ∈ N 0, t − s . Ekkor a σ-paraméter˝ u Wiener folyamat h > 0 id˝otartamhoz tartozó változásaira dξ t = σ · dWt

(*)

ahol dξ t = ξ t+h − ξ t

dWt = Wt+h − Wt .

A (*) egyenletet, mint a sodrásmentes, csak kaotikus Brown-mozgást le´ıró differencia´legyenletet tekinthetj¨ uk a ξ 0 = 0 kezdeti feltétellel. Ha van egy a´llandó v sebesség˝ u sodrás, a (*) egyenlet az alábbiak szerint módosul: dξ t = v · dt + σ · dWt ,

(**)

a ξ 0 kezdeti értékr˝ol pedig feltessz¨ uk, hogy f¨ uggetlen a Wt − Ws megváltozásoktól, ha 0 ≤ s < t. A (**) egyenlet megoldása ekkor ξ t = ξ 0 + v · t + σWt , amib˝ol az is látható, hogy ξ t f¨ uggetlen a t ≤ s < s0 id˝opontokhoz tartozó, tehát a t-t követ˝o Ws0 − Ws megvátozásoktól.

Mindezek természetes a´ltalános´ıtása a

dξ t = F (t, ξ t ) · dt + G(t, ξ t ) · dWt

(***)

egyenlet, a Wt − Ws megváltozásoktól (0 ≤ s < t) f¨ uggetlen ξ 0 kezdeti értékkel. Ha ebb˝ol a kis h > 0 id˝otartamhoz tartozó növekményeket ennek megfelel˝oen ´ırjuk: ξ t+h = ξ t + F (t, ξ t ) · h + G(t, ξ t ) · (Wt+h − Wt ) amib˝ol most is következik, hogy ξ t+h f¨ uggetlen a Wt folyamat t + h-id˝opont utáni megváltozásaitól. Ebben az egyenletben az F az un. sodrás, és G az un. diff´ uziós egy¨ uttható f¨ uggvények. Természetesen (***) pontos megfogalazása Z t Z t ξt = ξ0 + F (t, ξ t ) · dt + G(t, ξ t ) · dWt 0

0

lenne, ahol az integrálok, de k¨ ulönösen a második integrál pontos értelmezése némi el˝okész¨ uletet igényelne, ezzel azonban itt nem foglalkozunk. Ha pl. F lineáris a második változójában, tehát F (t, ξ t ) = f (t)ξ t , a megoldás-folyamat várható értéke megoldása az m0 (t) = f (t) · m(t) t ≥ 0, m(0) = E(ξ 0 ) kezdetiérték feladatnak. Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.

118


3. Ha a (***) egyenlet megoldás-folyamatát a 0 < h (kicsiny) id˝otartam többszöröseinek megfelel˝o id˝opontokban η n = ξ nh n = 0, 1, 2, . . . jelöli, kapjuk az η n+1 − η n = An (η n ) + bn (η n )εn+1 n ∈ N √ egyenletet, ahol An (x) = F (nh, x)és bn (x) = hG(nh, x) /n ∈ N, x ∈ R/, továbbá εn+1 = √1h W(n+1)h − Wnh n ∈ N az un. diszkrét fehérzaj id˝osora, vagyis f¨ uggetlen, standard normális eloszlás´ u v.v.-k sorozata. Ha bevezetj¨ uk még az an (x) = An (x) − x f¨ uggvényt, kapjuk az η n+1 = an (η n ) + bn (η n )εn+1

n∈N

egyenletet, amib˝ol a lineáris esetben, tehát amikor F a második változójában lineáris, továbbá ha G nem f¨ ugg az a´llapottól, kapjuk η n+1 = an · η n + bn · εn+1

n ∈ N η0 = ξ0

az un. els˝orend˝ u autóregressziós id˝osort.

10.3.

F¨ uggetlen ´ es stacion´ arius n¨ ovekm´ eny˝ u folyamatok

Az alábbiakban o¨sszefoglaljuk az el˝oz˝o két példa kapcsán megismert tulajdonságokat, és azon következményeket, amelyek a növekmények f¨ uggetlenségéb˝ol és stacionárius voltából következnek. 10.5. Defin´ıci´ o. A (ξ t )t∈T , ahol T ⊂ R, sztochasztikus folyamatot f¨ uggetlen növekmény˝ unek nevezz¨ uk, ha tesz˝oleges t1 < t2 < . . . < tn ∈ T,

n∈N

esetén a ξ tn − ξ tn−1 , ξ tn−1 − ξ tn−2 , . . . ξ t2 − ξ t1

valósz´ın˝ uségi változók f¨ uggetlenek.

10.6. Defin´ıci´ o. A (ξ t )t∈T , ahol T ⊂ R, sztochasztikus folyamatot stacionárius növekmény˝ unek nevezz¨ uk, ha t1 < t 2 < . . . < t n ∈ T

és t1 + h < t2 + h < . . . < tn + h ∈ T, n ∈ N

esetén a ξ tn − ξ tn−1 , ξ tn−1 − ξ tn−2 , . . . ξ t2 − ξ t1

növekmények egy¨ uttes eloszlása megegyezik a

ξ tn +h − ξ tn−1 +h , ξ tn−1 +h − ξ tn−2 +h , . . . ξ t2 +h − ξ t1 +h növekmények egy¨ uttes eloszlásával.

¨ ´ STACIONARIUS ´ ¨ ´ ˝ FOLYAMATOK 10.3. FUGGETLEN ES NOVEKM ENY U

119

Megjegyz´ esek: 1. A tk és tk+1 közötti éles egyenl˝otlenség természetesen mindkét defin´ıcióban enyh´ıthet˝o, mivel egyenl˝oség esetén a növekmény a konstans 0 = ξ tk+1 − ξ tk , ami minden valósz´ın˝ uségi változótól f¨ uggetlen, eloszlása pedig nem változik a h-id˝oeltolással. 2. Ha a növekmények stacionárius eloszlás´ uak, és T = R+ asos 0 vagy T = N, szok´ további feltételezés a kezd˝o a´llapotra: ξ 0 = 0. Ha ugyanis ez nem teljes¨ ul, a folyamatot ξ 0t = ξ t − ξ 0

t∈T

módos´ıtva, már ilyen folyamatot kapunk. 3. A (ξ t )t∈T folyamat f¨ uggetlen növekmény˝ uségéb˝ol, ha az s < t ∈ T id˝opontokhoz tartozó ξt − ξs növekmény eloszlása csak a t − s k¨ ulönbségt˝ol f¨ ugg, következik a növekmények stacionárius tulajdonsága.

Most felsorolunk néhány, a példákban is bemutatott következményt. K¨ ovetkezm´ enyek: 1. Legyen (ξ t )t∈T f¨ uggetlen és stacionárius növekmény˝ u folyamat,és ξ 0 = 0 és T = + R0 , N,R vagy Z, továbbá a várható érték és szórás az id˝o-paraméter folytonos f¨ uggvénye (ami a diszkrét id˝o-paraméter esetén mind´ıg teljes¨ ul), akkor teljes¨ ulnek az alábbi a´ll´ıtások. (a) A folyamat szórásnégyzete és várható értéke D 2 (ξ t ) = σ 2 · |t|

t ∈ T,

m(t) = E(ξ t ) = λ · t t ∈ T. Bizony´ıt´ as. Ha T = N vagy Z, akkor D 2 (ξ n ) = D 2

n X k=1

ξ k − ξ k−1

!

= σ 2 |n|

n∈T

ahol σ 2 = D 2 (ξ 1 ). Ha T = R+ olje d(t) = D 2 (ξ t ) t ∈ T nemnegat´ıv 0 vagy R, jel¨ páros f¨ uggvényt, és ekkor 0 ≤ t, s esetén teljes¨ ul d(t + s) = d(t) + d(s) Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.

120


mely egyenlet megoldása d(t) = σ 2 |t|

t ∈ T.

Hasonlóan, ha λ = m(1) kapjuk a diszkrét esetben m(n) = λ · n n ∈ T, és a folytonos id˝o-paraméter esetén ha s, t ∈ T m(t + s) = m(t) + m(s) aminek megoldása m(t) = λ · t t ∈ T, ahol λ = m(1). (b) A folyamat kovarianciaf¨ uggvénye Γ(t, s) = σ 2 min{t, s} s, t ∈ T, korrelációs f¨ uggvénye pedig γ(t, s) = min

(r

t , s

r ) s t

0 < s, t ∈ T.

Bizony´ıt´ as. Ha 0 ≤ t < s ∈ T ξ s = ξ t + (ξ s − ξ t ) két f¨ uggetlen v.v. o¨sszege, ´ıgy E(ξ s · ξ t ) = D 2 (ξ t ) + E 2 (ξ t ) + (E(ξ s ) − E(ξ t )) E(ξ t ) = σ 2 t + E(ξ s ) · E(ξ t ) amib˝ol kapjuk a bizony´ıtandó a´ll´ıtást. (c) A folyamat trajektóriái folytonosak négyzetes középben és sztochasztikusan. Bizony´ıt´ as. Mint a Wiener-folyamat példájában. (d) Ha λ = E(ξ 1 ) > 0 akkor a folyamat sztochasztikusan divergál +∞-hez, azaz minden K ∈ R esetén lim P (ξ t ≤ K) = 0 . (10.3) t→∞

Bizony´ıt´ as. Legyen 0 < t0 ∈ T olyan, hogy E(ξ t ) = λt > K ha t > t0 , ekkor a Csebisev egyenl˝otlenség 5.4 következményét használva kapjuk P (ξ t ≤ K) = P (λt − ξ t ≥ λt − K) ≤ P (|λt − ξ t | ≥ λt − K) ≤ amib˝ol t → ∞ esetén következik az a´ll´ıtás.

σ2t , (λt − K)2

¨ ´ STACIONARIUS ´ ¨ ´ ˝ FOLYAMATOK 10.3. FUGGETLEN ES NOVEKM ENY U

121

Megjegyz´ es: 10.3 ´ırható lim P (ξ t > K) = 1

t→∞

alakban is, és λ < 0 esetén hasonlóan nyerhet˝o, hogy a folyamat −∞-be divergál, vagyis lim P (ξ t < K) = 1 . t→∞

2. Legyen a (ξ t )t∈T folyamat f¨ uggetlen növekmény˝ u és centrált, azaz E(ξ t ) = 0, ahol + most T = N vagy R0 és ξ 0 = 0, akkor ∀ 0 ≤ t 1 < t2 < . . . < t n < t ∈ T esetén E(ξ t | ξ t1 , ξ t2 , . . . , ξ tn ) = ξ tn tehát teljes¨ ul az un. marting´ al tulajdons´ ag. Bizony´ıt´ as. Mivel a folyamat f¨ uggetlen növekmény˝ u E(ξ t − ξ tn | ξ t1 , ξ t2 , . . . , ξ tn ) = E(ξ t − ξ tn ) = 0 és E(ξ tn | ξ t1 , ξ t2 , . . . , ξ tn ) = ξ tn kapjuk ezek o¨sszegéb˝ol a bizony´ıtandó a´ll´ıtást. 3. Legyen a (ξ t )t∈T folyamat f¨ uggetlen növekmény˝ u, ahol most T = N vagy R+ 0 , ξ 0 = 0, akkor ∀ 0 ≤ t 1 < t2 < . . . < t n < t ∈ T és x, x1 , x2 . . . , xn ∈ R esetén P (ξ t < x | ξ t1 = x1 , ξ t2 = x2 , . . . , ξ tn = xn ) = P (ξ t < x | ξ tn = xn ),

(10.4)

tehát teljes¨ ul az un. Markov tulajdons´ ag. Bizony´ıt´ as. Mivel η = ξ t − ξ tn f¨ uggetlen a ξ tn − ξ tn−1 , ξ tn−1 − ξ tn−2 , . . . , ξ t1 − ξ 0 = ξ t1 növekményekt˝ol, ezért f¨ uggetlen annak föggvényeként ´ırható ξ = ξ t1 , ξ t2 , . . . , ξ tn


122


v.v.v.-tól is, és a feltételes várható értkkkel kapcsolatos 105. oldal 5. feladat szerint, mivel ξ és η f¨ uggetlenek, és f (x1 , x2 , . . . , xn ) = x − xn jelöléssel kapjuk: P (η < f ◦ ξ | ξ = (x1 , x2 , . . . , xn )) = = P (ξ t − ξ tn < x − ξ tn | ξ = (x1 , x2 , . . . , xn )) = = P (ξ t − ξ tn < x − xn ) , de akkor P (ξ t < x | ξ tn = xn ) = P (ξ t − ξ tn < x − xn ) is teljes¨ ul, amib˝ol következik 10.4.

10.4.

Stacion´ arius folyamatok

A korábbiakban olyan folyamatokat vizsgáltunk, melyek id˝obeni megváltozásai rendelkeztek nevezetes tulajdonságokkal, f¨ uggetlenek ill. stacionáriusak. Ilyen folyamatok diszkrét id˝opontokban való megfigyelése esetén a differenciák képzésével kapott u ´ j folyamat rendelkezik a következ˝o tulajdonsággal. 10.7. Defin´ıci´ o. A (ξ t )t∈T sztochasztikus folyamatot (er˝osen) stacionáriusnak nevezz¨ uk, ha t1 , t2 , . . . , tn ∈ T ⊂ R és t1 + h, t2 + h, . . . , tn + h ∈ T esetén a ξ t1 , ξ t2 , . . . , ξ tn

és ξ t1 +h , ξ t2 +h , . . . , ξ tn +h

véges dimenziós peremek eloszlása megegyezik. Megjegyz´ esek: 1. Stacionárius folyamat esetén ξ t eloszlása ∀t ∈ T esetén ugyanaz, tehát a várható érték és szórás-f¨ uggvény m(t) = E(ξ t ) = m, D(ξ t ) = σ

t∈T

a´llandó, illetve a kovariancia f¨ uggvény Γ(t, s) = cov(ξ t , ξ s ) = R(t − s)

t, s ∈ T

ahol R : T − T → R páros f¨ uggfény, R(0) = σ 2 , és T − T = {t − s|t, s ∈ T } . 2. A Γ illetve R kovarianciaf¨ uggvény egy un. pozit´ıv szemidefinit f¨ uggvény, azaz: ∀t1 , t2 , . . . , tn ∈ T

és ∀x1 , x2 , . . . , xn ∈ R

´ 10.4. STACIONARIUS FOLYAMATOK

123

esetén teljes¨ ul n X n X

Γ(tk , tl )xk xl =

k=1 l=1

n X n X k=1 l=1

R(tk − tl )xk xl ≥ 0,

ami egyszer˝ u következménye a megfelel˝o véges dimenziós perem kovariancia mátrixa hasonló tulajdonságának. 3. Stacionárius Gauss folyamat (a véges dimenziós peremek egy¨ uttes eloszlása normális) esetén a folyamat véges dimenziós eloszlásait meghatározza az R f¨ uggvény, és az m a´llandó. 10.8. Defin´ıci´ o. A (ξ t )t∈T sztochasztikus folyamatot gyengén stacionáriusnak nevezz¨ uk, ha ∀t ∈ T ∀t, s ∈ T

esetén m(t) = E(ξ t ) = m a´llandó esetén Γ(t, s) = cov(ξ t , ξ s ) = R(t − s),

ahol R : T − T → R f¨ uggvényt nevezz¨ uk a folyamat (auto-) kovariancia f¨ uggvényének. Megjegyz´ esek: 1. Ha teljes¨ ul még R(0) = 1, szokás R-et (auto-) korrelációs f¨ uggvénynek nevezni, mivel ekkor R(h) a h távolságra lév˝o id˝opontokhoz tartozó a´llapotok korrelációs egy¨ utthatója. Szintén gyakori egyszer˝ us´ıtési lehet˝oség, hogy a folyamat centráltját vizsgáljuk, tehát m = 0. 2. Az nyilvánvaló, hogy az er˝osen stacionárius folyamat gyengén is stacionárius, feltéve a várható értékek és kovarianciák létezéset. Ford´ıtva, pl. Gauss folyamat esetén a gyengén stacionáris tulajdonságból következik az er˝os értelemben vett stacionárius tulajdonság. 3. Komplex érték˝ u folyamatok esetén a kovariancia f¨ uggvény h i Γ(t, s) = cov(ξ t , ξ s ) = E (ξ t − m(t)) (ξ s − m(s))

t, s ∈ T

thehát stacionárius folyamat esetén R ∈ R → C pozit´ıv szemidefinit f¨ uggvény, azaz ∀t1 , t2 , . . . , tn ∈ T

esetén

n X n X k=1 l=1

és ∀x1 , x2 , . . . , xn ∈ C

R(tk − tl )xk x¯l ≥ 0.

A következ˝o egyszer˝ u következményekben azt soroljuk fel, hogy a stacionárius (er˝os vagy gyenge) tulajdonság megmarad bizonyos transzformációk esetén. Megjegyz´ esek: Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.

124


1. Legyen (ξ t )t∈T stacionárius er˝os vagy gyenge értelemben, és c ∈ R olyan, hogy ha t ∈ T akkor c · t ∈ T, akkor η t = ξ ct t ∈ T folyamat is stacionárius, melynek várható érték és kovariancia f¨ uggvénye: mη (t) = m t ∈ T,

Rη (h) = Rξ (c · h) h ∈ T,

ahol m = E(ξ t ). 2. Legyen (ξ t )t∈T stacionárius er˝os vagy gyenge értelemben, és T 0 ⊂ T , akkor az ηt = ξt

t ∈ T0

”lesz˝ uk´ıtés” is stacionárius hasonló értelemben. Ezt gyakran alkalmazzuk folytons id˝oparaméter˝ u folyamat diszkrét id˝opontokban történ˝o megfigyelése esetén. Ekkor (η t )t∈T várható érték és kovariancia f¨ uggvénye egyszer˝ u lesz˝ uk´ıtése az eredetinek. 3. Legyen (ξ t )t∈T stacionárius er˝os vagy gyenge értelemben, és a, b ∈ R, akkor ηt = a · ξt + b t ∈ T szintén stacionárius a megfelel˝o értelemben. Ekkor (η t )t∈T várható érték és kovariancia f¨ uggvénye: mη (t) = a · m + b t ∈ T,

Rη (h) = |a|2 Rξ (h) h ∈ T − T,

ahol m = E(ξ t ). 4. Legyenek (ξ t )t∈T , (η t )t∈T f¨ uggetlen stacionárius folyamatok er˝os vagy gyenge értelemben, akkor ζ t = ξ t + ηt t ∈ T szintén stacionárius a megfelel˝o értelemben. Az o¨sszeg várható érték és kovariancia f¨ uggvénye: mζ (t) = mξ + mη

t ∈ T,

Rζ (h) = Rξ (h) + Rη (h) h ∈ T − T

ahol mξ = E(ξ t ), mη = E(η t ). A következ˝okben néhány nevezetes stacionárius (gyenge ill. er˝os értelemben) folyamatot mutatunk be. P´ eld´ ak: 1. Legyen ξ egy v.v. E(ξ) = m, D(ξ) = σ, és legyen ξ t = ξ t ∈ T (R, vagy Z). Nyilván (ξ t )t∈T stacionárius, er˝os értelemben, melynek trajektóriái semmi változást nem mutatnak, a´llandók. A folyamat várható értéke és kovariancia f¨ uggvénye: m(t) = m R(t) = σ 2

t ∈ T.


125

2. Legyenek εt ∈ N (0, 1) t ∈ Z f¨ uggetlenek, vagyis a diszkrét fehérzaj, és legyen ξ t = σεt t ∈ Z. Nyilván (ξ t )t∈T stacionárius, er˝os értelemben. Az el˝oz˝o példával ellentétben a trajektóriák teljesen véletlen váltakozást mutatnak, mivel a k¨ ulönböz˝o id˝opontokhoz tartozó a´llapotok teljesen f¨ uggetlenek.A folyamat várható értéke és kovariancia f¨ uggvénye: ( 2 σ ha t = 0 t ∈ Z. m(t) = 0 R(t) = 0 egyébként 3. A következ˝o példa folyamata az el˝oz˝o széls˝oségekhez képest szabályos, periódikus változás´ u trajektóriákkal rendelkezik. ´ ıt´ All´ as: Legyen g : R → R egy T -szerint peri´ odikus f¨ uggvény, τ ∈ U (0, T ) (egyenletes eloszl´ as´ u a [0, T ] intervallumon) v.v., és legyen ξ t = g(t + τ ) t ∈ R sztochasztikus folyamat, akkor (ξ t )t∈R er˝ osen stacion´ arius. Bizony´ıt´ as. Felhasználjuk, hogy egy ξ : Ω → Rn v.v.v y ∈ Rn ϕξ (y) = E ei

karakterisztikus f¨ uggvénye egyértelm˝ uen meghatározza ξ eloszlását. Legyenek t1 , t2 , . . . , tn , h ∈ R, és ´ırjuk fel ξ = (ξ t1 , ξ t2 , . . . , ξ tn ) karakterisztikus f¨ uggvényét: 1 ϕξ (y) = T

Z

T

ei

Pn

k=1

yk g(tk +x)

dx

0

amib˝ol x = u + h helyettes´ıtéssel Z 1 T −h i Pnk=1 yk g(tk +h+u) e du = ϕξ (y) = T −h Z Z 1 T −h i Pnk=1 yk g(tk +h+u) 1 0 i Pnk=1 yk g(tk +h+u) = e du + e du T 0 T −h ahol a második integrálban helyettes´ıts¨ unk u = v −T -t, és kihasználva g periódikusságát kapjuk Z Z 1 T i Pnk=1 yk g(tk +h+v) 1 T −h i Pnk=1 yk g(tk +h+u) e du + e dv = ϕξ (y) = T 0 T T −h Z 1 T i Pnk=1 yk g(tk +h+u) e du = T 0 Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.

126


ami éppen (ξ t1 +h , ξ t2 +h , . . . , ξ tn +h ) karakterisztikus f¨ uggvénye, tehát ξ t1 , ξ t2 , . . . , ξ tn

és ξ t1 +h , ξ t2 +h , . . . , ξ tn +h

egy¨ uttes eloszlása megegyezik. K¨ ovetkezm´ enyek: A folyamat a´llandó várható értéke Z 1 T g(x)dx, m = E(ξ t ) = E(ξ 0 ) = T 0 szórásnégyzete 1 σ = D (ξ t ) = D (ξ 0 ) = T 2

2

2

Z

T 0

g 2 (x)dx − m2 ,

továbbá a t, s ∈ R id˝opontokhoz tartozó kovariancia f¨ uggvénye Z 1 T g(x)g(t − s + x)dx − m2 , Γ(t, s) = cov(ξ 0 , ξ t−s ) = R(t − s) = T 0 vagyis 1 R(h) = T

Z

T 0

g(x)g(h + x)dx − m2

h ∈ R.

4. Az el˝oz˝o példa szerint könnyen konstruálhatunk véletlen periódikus folyamatokat a trigonometrikus f¨ uggvények felhasználásával, melyek megjelenése természetes sok alkalmazás esetén. (a) Legyen tehát az ω -frekvenciáj´ u véletlen harmonikus f¨ uggvény (az id˝o-paraméter konstanssal való szorzása nem változtat a stacionárius tulajdonságon): √ ξ t = 2σ cos(ω · t + τ ) t ∈ R, ahol τ egyenletes eloszlás´ u v.v. a [0, 2π] intervallumban. Ekkor a fentiek szerint (ξ t )t∈R stacionárius, és √ Z 2π 2σ cos(x)dx = 0 m(t) = π 0 Z σ 2 2π R(h) = cos(x) cos(ω · h + x)dx = σ 2 cos(ω · h) h ∈ R. π 0 Írjuk most az add´ıciós képletek felhasználásával ezt a folyamatot az alábbi alakba ξ t = A cos(ωt) + B sin(ωt) t ∈ R, ahol az A=

√

2σ cos(τ ) B =

√

2σ sin(τ )


127

valósz´ın˝ uségi változókra E(A) = E(B) = cov(A, B) = D 2 (A) = D 2 (B) =

Z

2π

√

2σ cos(x)dx = 0, 2π 0 Z 2π √ 2σ sin(x)dx = 0, 2π 0 Z 2π 2 σ cos(x) sin(x)dx = 0, E(A · B) = π 0 Z 2π 2 σ 2 cos2 (x)dx = σ 2 , E(A ) = π 0 Z 2π 2 σ E(B 2 ) = sin2 (x)dx = σ 2 . π 0

Az itt szerepl˝o ω, A és B szemléletes jelentéssel b´ırnak, az el˝obbi a harmonikus véletlen f¨ uggvény frekvenciája, az utóbbiak pedig a véletlen fázisszöget (τ ) és az amplitudót (ami itt most valójában nem is véletlen, mert A2 + B 2 = 2σ 2 ) határozzák meg. A jel intenzitásának a D 2 (ξ t ) = 2σ 2 a´llandó mennyiséget tekinthetj¨ uk. Vegy¨ uk észre, hogy mindezek már meghatározzák a folyamat várható értékét, és kovariancia f¨ uggvényét, tehát a következ˝o példa folyamata, ha nem is lesz feltétlen¨ ul er˝os értelemben stacionáris, de gyengén igen. (b) Legyenek A, B valósz´ın˝ uségi változók és E(A) = E(B) = E(A · B) = 0,

D 2 (A) = D 2 (B) = σ 2 ,

ami teljes¨ ul, ha pl. A és B f¨ uggetlen azonos szórás´ u, 0 várható érték˝ u valósz´ın˝ uségi változó. Ekkor a ξ t = A cos(ωt) + B sin(ωt) t ∈ R véletlen harmonikus f¨ uggvény gyengén stacionáris, várható értéke és kovariancia f¨ uggvénye: m(t) = 0 t ∈ R R(h) = σ 2 cos(ω · h) h ∈ R.

Ha még feltessz¨ uk, hogy A és B normális eloszlás´ uak, akkor a(ξ t )t∈R folyamat er˝osen stacionárius. (c) Mivel a stacionáris tulajdonság meg˝orz˝odik f¨ uggetlen folyamatok o¨sszegzése esetén, legyenek Ak , Bk k = 1, 2, . . . korrelálatlan valósz´ın˝ uségi változók (pl. f¨ uggetlenek), és legyen D 2 (Ak ) = D 2 (Bk ) = σ 2k

k = 1, 2, . . . Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.

128


ekkor a ξt =

X k

(Ak cos(ω k · t) + Bk sin(ω k · t))

t∈R

véletlen harmonikus folyamat gyengén stacionárius, várható értéke és kovariancia f¨ uggvénye m(t) = 0 t ∈ R X R(h) = σ 2k cos(ω k · h) h ∈ R. k

Ha még feltételezz¨ uk, hogy az Ak , Bk k = 1, 2, . . . valósz´ın˝ uségi változók normális eloszlás´ uak, a folyamat er˝os értelemben is stacionárius. Ilyenkor az {ω 1 , ω 2 , ω 3 , . . .} frekvenciákat a folyamat spektrumának nevezz¨ uk, a (σ 2k )k mennyiségeket, mivel ezek az egyes frekvenciákhoz tartozó o¨sszetev˝ok véletlen amplitudójának mértékei, a véges diszkrét eloszlások analógiájaként a spektrum eloszlásának, a kett˝ot egy¨ ut, tehát a ω k 7→ σ 2k hozzárendelést, a folyamat spektrális eloszl´ asának nevezz¨ uk. Ez természetesen nem valósz´ın˝ uségP 2 eloszlás, tehát a´ltalában k σ k 6= 1. A spektrumot alkotó frekvenciákról mind´ıg feltehet˝o, hogy csak nemnegat´ıv elemei vannak, mert egy ω < 0 frekvencia esetén mind´ıg ´ırhatjuk: A cos(ωt) + B sin(ωt) = A cos(−ωt) + (−B) sin(−ωt) ami ismét feltételeinknek megfelel˝o harmonikus tagot eredményez, az azonos frekvenciához tarozó tagokat természetesen o¨sszevonva. Ugyanakkor a spektrumot mint a 0-ra szimmetrikus halmazt is tekinthetj¨ uk, és a folyamat pozit´ıv σ 2 frekvenciáj´ u ω 7−→ σ tagjához válasszuk az A1 , A2 , B1 , B2 ∈ N 0; √2 f¨ uggetlen v.v.-kat, amivel a A1 cos(ωt) + B1 sin(ωt) + A2 cos(−ωt) + B2 sin(−ωt) szochasztikusan ekvivalens szimmetrikus o¨sszetev˝okre bontva kapjuk a 0-ra σ2 szimmetrikus ±ω k 7→ 2k spektrális eloszlást. Figyelemre méltó ugyanakkor, hogy a kovariancia f¨ uggvény ezen spektrális eloszláshoz tartozó ”karakterisztikus f¨ uggvény”, ami a spektrális eloszlás szimmetrikussága folytán valós érték˝ u ´ lesz, ha ismét a valósz´ın˝ uségszám´ıtási analógiákra utalunk. Altalában a stacionáris folyamatok kovariancia f¨ uggvényének R(h) =

X σ2

k iω k h

±ω k

illetve R(h) =

2

Z+∞

−∞

e

=

X ωk

σ 2k cos(ω k · h) h ∈ R,

f (ω) iωh e dω = 2

Z+∞ f (ω) cos(ωh)dω 0


129

alak´ u el˝oa´ll´ıtása esetén beszél¨ unk a folyamat ω k 7→ σ 2k

ω k ≥ 0 illetve

± ω k 7→

σ 2k 2

diszkrét spektrális eloszlásáról, illetve az ω 7→ f (ω) ω ≥ 0 illetve

± ω 7→

f (ω) 2

folytonos spekrális eloszlásról, ahol az f f¨ uggvényt spekrális s˝ ur˝ uségf¨ uggvénynek nevezz¨ uk. Utolsó példánkban eljutottunk egy olyan stacionárius folyamathoz, mely sok véletlen jelenség modelljéu ¨ l szolgálhat. Ha a spektrummal kapcsolatban elmondottakat figyelembe vessz¨ uk, azt mondhatjuk, hogy az 1. p´ elda egy 0 7→ σ 2 spektrális eloszlás´ u véletlen harmonikus folyamat, melyhez minden id˝opontban még hozzáadtunk egy m a´llandót, mivel ezen ”indikátor” eloszlás ”karakterisztikus f¨ uggvénye” lesz az R(h) = σ 2 cos(0 · h) h ∈ R kovariancia f¨ uggvény. Mivel a 2. p´ elda kovariancia f¨ uggvénye σ2 R(h) = 2π

Zπ

−π

e

iω·h

σ2 dω = π

Zπ 0

cos(ω · h)dω

h ∈ Z,

azt mondhatjuk, hogy a diszkrét fehérzaj spektrális eloszlása egyenletes a [0, π] inter2 2 vallumon. Tehát minden ω ∈ [0, π] frekvencia azonos σπ , illetve ω ∈ [−π, π] esetén σ2π spektrális s˝ ur˝ uséggel vesz részt a folyamat ”el˝oa´llitásában”. Ezt az el˝oa´ll´ıtást u ´ gy értj¨ uk, hogy a X ξt = (Ak cos(ω k t) + Bk sin(ω k t)) t ∈ Z k

folyamat el˝oa´ll´ıtásában az ω k ∈ [0, π] frekvenciák halmazát minden határon t´ ul finom´ıtva, az Ak, Bk ∈ N (0, σ) k = 1, 2, . . . f¨ uggetlen valósz´ın˝ uségi változókkal juthatunk olyan véletlen harmonikus Gauss folyamathoz, melynek végesdimenziós eloszlásai tetsz˝olegesen megközel´ıtik a diszkrét fehérzaj id˝osorét. Egy már korábban eml´ıtett példához juthatunk, egy olyan stacionárius (ξ t )t∈R Gauss folyamatból, melyre E (ξ t ) = 0 R(h) = a · e−b|h|

h ∈ R. Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.

130


Ekkor R(h) =

Z+∞

1 ab eiωh dω 2 2 πb +ω

−∞

h∈R

ab tehát a folyamat spektrális s˝ ur˝ usége ω 7→ π1 b2 +ω ω ∈ R. Ha az a → +∞, b → +∞ 2 1 a ur˝ uség az egész számegyenesen határátmenetet vizsgáljuk u ´ gy, hogy b → 2 , akkor ez a s˝ 1 a´llandó 2π spektrális s˝ ur˝ uséghez tart, a kovariancia f¨ uggvény pedig ( +∞ ha h = 0 lim R(h) = a→∞,b→∞ 0 egyébként

ami a korábban már eml´ıtett, közönséges értelemben nem létez˝o, folytonos fehérzaj folyamat jellemz˝oje. Mindezt meger˝os´ıti, hogy ekkor az ηt =

Zt 0

ξ t dt t ∈ R

Gauss folyamatra, az integrálás és várható érték képzést felcserélve, kapjuk E(η t ) = 0 t ∈ R és ha t ≤ s ∈ R cov(η t , η s ) =

Z t Zs 0

0

a a ae−b|u−v| dudv = 2 · t + 2 e−bt + e−bs − e−b(s−t) b b

amib˝ol lim

a,b→+∞, ab → 21

cov(η t , η s ) = min{t, s} t, s ∈ R,

˙t tehát a (ξ t )t∈R valóban a folytonos fehérzaj, a W

10.5.

t∈R

közel´ıtésének tekinthet˝o.

Feladatok

1. Mutassuk meg, hogy (ξ t )t∈R pontosan akkor Markov folyamat, ha s1 < s2 < · · · < sr < t < u1 < u2 < · · · < uq ∈ R és x1 , x2 , · · · , xr , y1 , y2 , · · · , yq ∈ R esetén P (ξ s1 < x1 , ξ s2 < x2 , · · · , ξ sr < xr , ξ u1 < y1 , ξ u2 < y2 , · · · , ξ uq < yq | ξ t ) = P (xξ s1 < x1 , ξ s2 < x2 , · · · , ξ sr < xr | ξ t ) · P (ξ u1 < y1 , ξ u2 < y2 , · · · , ξ uq < yq | ξ t ) . 2. Mutassuk meg, hogy ha (ξ t )t∈R Markov folyamat, akkor s < t < u és x ∈ R esetén P (ξ u < x | ξ s ) = E (P (ξ u < x | ξ t ) | ξ s ) . K¨ ovetkezm´ eny: Ha a véges dimenziós peremek

131

10.5. FELADATOK

(a) diszkrét eloszlás´ uak, akkor P (ξ u = x | ξ s = y) =

X z

P (ξ u = x | ξ t = z) · P (ξ t = z | ξ s = y) ;

(b) folytonos eloszlás´ uak, akkor fξ u |ξs (x | y) =

Z

R

fξ u |ξt (x | z) · fξ t |ξs (z | y)dz .

3. Mutassuk meg, hogy (ξ n )n∈N id˝osor pontosan akkor Markov tulajdonság´ u, ha minden n ∈ N és x ∈ R esetén P (ξ n+1 < x | ξ n , ξ n−1 , . . . , ξ 0 ) = P (ξ n+1 < x | ξ n ) . 4. Legyen a (ξ n )n∈N id˝osor Markov tulajdonság´ u, és az a´llapottér im(ξ n ) = {1, 2, . . . , n}. Mutassuk meg, hogy a (ξ n )n∈N Markov lánc véges dimenziós eloszlásait meghatározzák a Πn+1,n = P (ξ n+1 = l | ξ n = k) k=1,2,...,n ∈ Rn×n l=1,2,...,n

un. egy-lépéses a´tmenet valósz´ın˝ uségek, és a ξ 0 kezdeti a´llapot eloszlása.

5. Igazoljuk, hogy ha egy homogén Markov láncnak (Πn+1,n = Π n = 0, 1, . . .) határeloszlása p ∈ R1×n , akkor p stacionárius eloszlás, azaz p·Π=p . 6. Egy urnában 3 golyó van, a közt¨ uk lév˝o pirosak számát jelölje a ξ 0 valósz´ın˝ uségi változó. Egymás után véletlenszer˝ uen kivesz¨ unk egy golyót és minden h´ uzás után egy fehéret betesz¨ unk a kivett golyó helyett. Jelölje ξ n az n-edik h´ uzás után az urnában lév˝o piros golyók számát, n = 1, 2, . . .. Markov láncot alkot-e a (ξ n )n∈N id˝osor? Ha igen, adjuk meg az a´tmenetvalósz´ın˝ uségek mátrixát, van-e stacionárius eloszlás? Ha P (ξ 0 = 2) = 1 mennyi a P (ξ 2 ≥ 1) valósz´ın˝ uség? 7. Legyenek ε1 , ε2 , ε3 , . . . ∈ N 0, 1) f¨ uggetlenk, és ξn =

n X k=1

εk

n ∈ N+

ξ0 = 0

Írjuk fel az id˝osor várható érték és kovariancia f¨ uggvényét! Milyenek a (ξ n )n∈N folyamat növekményei? 8. Legyen

1 ξ t = t · (τ − ) t ∈ R 2 ahol τ a [0,1] intervallumin egyenletes eloszlás´ u valósz´ın˝ u ségi változó. Adjuk meg a várható érték és kovariancia f¨ uggvényeket. Stacionárius-e a (ξ t )t∈R folyamat? Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.

132


9. Legyen ξ 0 = 0,

εn ∈ N (0, 1) n = 1, 2, . . . f¨ uggetlenek, és ξ n+1 = aξ n + εn+1

n = 0, 1, 2, . . .

Milyen a esetén lesz (ξ n )n∈N martingál? Teljes¨ ul-e ekkor a Markov tulajdonság? Mutassuk meg, hogy ”elég nagy” N ∈ N és |a| < 1 esetén (ξ n )n≥N stacionárius id˝osor, melynek (folytonos) spektrális eloszlása ω 7→

1 1 · 2π 1 − 2a cos ω + a2

ω ∈ [0, 2π].

Keress¨ uk a spektrális s˝ ur˝ uségf¨ uggvényt az alábbi alakban: ∞ 1 1X R(n) · cos nω f (ω) = · R(0) + 2π π n=1

ω ∈ [0, 2π]

10. Egy Brown-mozgást végz˝o részecske egységnyi id˝otartam alatti helyváltozásának szórása 0.5 . Mennyi annak valósz´ın´ usége, hogy 4 id˝oegység alatt a részecske 1.645nél nagyobb elmozdulást végez? 11. Legyen ξ egyenletes eloszlás´ u a [-1;1] intervallumban, és ξ t = t + ξ t ≥ 0 . Határozza meg a várható érték és kovariancia f¨ uggvényeket! Martingál tulajdonság´ u, ill. stacionárius-e a (ξ t )t∈R+ folyamat ? 0

12. Legyenek ξ 1 , ξ 2 , ξ 3 ∈ N (0; 1), és

  [ξ 1 ] ha 0 ≤ t < 1 [ξ ] ha 1 ≤ t < 2 . ηt =  2 [ξ 3 ] ha 2 ≤ t < 3

Adjuk meg (η t )t∈[0,3[ várható érték és kovariancia f¨ uggvényét!

II. r´ esz Matematikai statisztika

133

11. fejezet A matematikai statisztika alapfogalmai Az u ´ gynevezett statisztikai feladatok olyan valósz´ın˝ uségszám´ıtási problémaként is megfogalmazhatók, ahol a valósz´ın˝ uségi törvény (mérték) nem, vagy csak részben ismert, és egy megfigyelésb˝ol (a véletlen kisérlet eredményéb˝ol) valamilyen valósz´ın˝ uségszám´ıtási jellemz˝ore, illtve magára a törvényre (valósz´ın˝ uségi mértékre) k´ıvánunk következtetni.

11.1.

Statisztikai mez˝ o

11.1. Defin´ıci´ o. Statisztikai mez˝onek nevezz¨ uk az (X, A, P) hármast, ahol • X – az un. mintatér, elemei a minták; • A – a mintatér részeinek egy σ-algebrája; • P – a lehetséges valósz´ın˝ uségi mértékek halmaza, és P ∈ P esetén (X, A, P ) egy valósz´ın˝ uségi mez˝o; Megjegyz´ esek: 1. A mintatér a´ltalában Rn (vagy Rnxp ) lesz, még akkor is ha annak csak egy valódi része következhet be 1-valósz´ın˝ uséggel (minden .P ∈ P esetén). Ennek megfelel˝oen az A eseményalgebra mind´ıg az intervallumokat tartalmazó legsz˝ ukebb B n σ-algebra lesz. 2. A statisztikai mez˝ot diszkrétnek illetve folytonosnak fogjuk nevezni, ha P mértékei diszkrét illetve folytonos valósz´ın˝ uségeloszlásokkal adottak. P´ eld´ ak: 1. Egy valósz´ın˝ uségi változó megfigyelésével kapcsolatos s.m.: • X = R (vagy Rp ) 135

136

11. FEJEZET. A MATEMATIKAI STATISZTIKA ALAPFOGALMAI

• A = B 1 (vagy B p )

• P – P ∈ P adott a megfigyelt v.v. F ∈ F lehetséges eloszlásf¨ uggvényeivel 2. Egy valósz´ın˝ uségi változó n-ismételt megfigyelésével kapcsolatos s.m.: • X = Rn (vagy Rn×p )

• A = B n (vagy B n×p )

• P – P ∈ P adott a megfigyelt v.v. F ∈ F lehetséges (p-dimenziós) eloszlásf¨ uggvényeivel mint szorzat-mérték, tehát P (I1 × I2 × . . . × In ) = [F ]I1 · [F ]I2 · . . . · [F ]In

(11.1)

ahol P ∈ P, Ik ⊂ R(Rp ) k = 1, 2, . . . n intervallumok, vagyis a megfigyelések f¨ uggetlenek is. 3. Egy valósz´ın˝ uségi változó sorozatos megfigyelésével kapcsolatos s.m.: • X = R∞ (vagy R∞×p ) végtelen (vektor-) sorozatok halmaza

• A = σ {I1 × . . . × In | Ik ⊂ R (vagy Rp ) intervallum k = 1, 2, . . . , n n ∈ N+ } • P – az el˝oz˝o, 11.1 szerint adott

Mindegyik példában az ismeretlen valósz´ın˝ uségi mértéket a megfigyelt (mintavételezett) v.v. F eloszlásf¨ uggvénye határozza meg, ezért a megfelel˝o mértéket P F jelöli. A lehetséges eloszlásf¨ uggvények F halmazának alkalmas választásával vehet˝ok figyelembe egyéb ismereteink (feltételezéseink). Például egy ismeretlen várható érték˝ u és szórás´ u normális eloszlás´ u (röviden N (·; ·)) v.v., vagy ismeretlen várható érték˝ u és ismert σ 0 szórás´ u normális eloszlás´ u (röviden N (·; σ 0 )) v.v. megfigyelésér˝ol illetve n-ismételt megfigyelésér˝ol beszélhet¨ unk. A 2. és 3. példában a mérték 11.1 megadásából következik az egyes komponensekkel kapcsolatos események f¨ uggetlensége, ezért beszélhet¨ unk ilyenkor f¨ uggetlen mintavételezés modelljér˝ol. A 3. példa lényegében tartalmazza az n-ismételt megfigyelés modelljét minden n ∈ N+ esetén, és lehet˝ové teszi a statisztikai módszerek aszimptotikus viselkedésének vizsgálatát. Ha a megfigyelt minta alapján következtetni akarunk a valósz´ın˝ uségi törvényre, vagy annak valamely jellemz˝ojére, azt az utóbbi példa esetén az ismeretlen eloszlásf¨ uggvénnyel kapcsolatban kell megtenn¨ unk. Ennek eszköze az un. empirikus eloszl´ asf¨ uggvény, ami egy skalár v.v. n-ismételt megfigyelése esetén n

Fxn (z)

1X = 1{xk
x = (x1 , x2 , . . . , xn ) ∈ Rn

z∈R,

(11.2)

ami egy rögz´ıtett x ∈ Rn minta esetén egy Fxn (·) : R → [0, 1] f¨ uggvény, ami egy olyan véges diszkrét eloszláshoz tartozó eloszlásf¨ uggvény, amely a minta egy x k komponenséhez annak mintabeli relat´ıv gyakoriságát rendeli, mint bekövetkezési valósz´ın˝ uséget. Ha pedig

˝ 11.1. STATISZTIKAI MEZO

137

z ∈ R rögz´ıtett, akkor minden F ∈ F esetén n · F·n (z) : Rn → {0, 1, 2, . . . , n} egy nedrend˝ u F (z)-paraméter˝ u binomiális eloszlás´ u valósz´ın˝ uségi változó. A nagy számok 5.4 Bernoulli törvénye szerint ekkor ε > 0 esetén lim PF (|F·n (z) − F (z)| ≥ ε) = 0

n→∞

ahol a konvergencia z-ben egyenletes, ugyanis a Csebisev egyenl˝otlenség szerint PF (|F·n (z) − F (z)| ≥ ε) ≤

F (z) · (1 − F (z)) 1 ≤ . 2 n·ε 4 · n · ε2

(11.3)

Tehát igen a´ltalános kör¨ ulmények között mód van az ismeretlen F eloszlásf¨ uggvény fenti értelemben tetsz˝olegesen pontos közel´ıtésére. Ezt az eredményt a következ˝o, er˝osebb formában fogalmazhatjuk meg. 11.2. T´ etel (A matematikai statisztika alapt´ etele). Az n ismételt megfigyelés statisztikai modelljében jelölje F a minta elemek közös eloszlásf¨ uggvényét, F ·n (·) az emp´ırikus eloszlásf¨ uggvényt, akkor tetsz˝oleges ε > 0 esetén teljes¨ ul lim PF

n→∞

sup |F·n (z) z∈R

− F (z)| ≥ ε

=0

(11.4)

ahol PF jelöli az F a´ltal meghatározott valósz´ın˝ uségi mértéket az R n mintatéren. Bizony´ıt´ as. Jelölje ∆n = sup |F·n (z) − F (z)| , z∈R

és legyen M ∈ N+ egy pozit´ıv természetes szám, amivel vezess¨ uk be az xk,M

k−1 k = sup x ∈ R | M ≤ F (x) < M 2 2

k = 1, 2, · · · , 2M

sorozatot,amivel kapjuk M = 1, 2, · · · esetén ∆− n,M = ∆+ n,M = ∆n,M =

max

k=1,2,··· ,2M

{|F·n (xk,M ) − F (xk,M )|}

max {|F·n (xk,M k=1,2,··· ,2M + max ∆− n,M , ∆n,M

+ 0) − F (xk,M + 0)|}

valósz´ın˝ uségi változók monton növekv˝o, korlátos sorozatát, melyekre teljes¨ ul ∆n,M ≤ ∆n ≤ ∆n,M +

1 2M

(11.5)


138


tehát ∆n = limM →∞ ∆n,M valósz´ın˝ uségi változó. A valósz´ın˝ uség szubaddit´ıv tulajdonságát és a 11.3 egyenl˝otlenséget használva, elég nagy M esetén 1 PF (∆n ≥ ε) ≤ PF ∆n,M + M ≥ ε ≤ 2 2M X 1 n ≤ PF |F· (xk,M ) − F (xk,M )| ≥ ε − M + 2 k=1 2M X 1 n PF |F· (xk,M + 0) − F (xk,M + 0)| ≥ ε − M ≤ + 2 k=1 ≤ 2M −1 ·

amib˝ol következik az a´ll´ıtás.

1

n ε−

1 2 2M

11.3. Megjegyz´ es. Eredmény¨ unket a sorozatos (3. példa) mintavételezés statisztikai modelljében u ´ gy is fogalmazhatjuk, hogy ∆n sztochasztikusan konvergál 0-hoz, illetve a 11.5 egyenl˝otlenségb˝ol, a nagy számok er˝os törvénye seg´ıtségével azt kapjuk, hogy ∆ n majdnem biztosan konvergál 0-hoz.

11.2.

Statisztik´ ak

Statisztikai következtetéseink leggyakoribb eszközei a mintából számolható k¨ ulönböz˝o menynyiségek lesznek. 11.4. Defin´ıci´ o. Statisztikának nevezz¨ uk a t : X → Rq f¨ uggvényt, ha t valósz´ın˝ uségi változó az (X, A, P ) valósz´ın˝ uségi mez˝oben (minden P ∈ P esetén). A statisztikák tehát a valósz´ın˝ uségi változók szerepét töltik be, és mibenlét¨ uk szempontjából közömbös a lehetséges valósz´ın˝ uségi mértékek P halmaza. Valósz´ın˝ uségszám´ıtási jellemz˝oik azonban f¨ ugghetnek a P ∈ P választástól, mint pl. a várható érték, szórás, eloszlás, stb., de lehetnek a P ∈ P válsztástól f¨ uggetlenek is, mint pl. statisztikákat egyszer˝ uen f¨ uggetleneknek, azonos eloszlás´ uaknak, stb. nevez¨ unk, ha f¨ uggetlenek, azonos eloszlás´ uak, stb. minden P ∈ P esetben. Ha q = 1, skalár statisztikáról, egyébként vektor statisztikáról beszél¨ unk. Amint a vektor valósz´ın˝ uségi változóknál is, most is elég a´ltalában a skalár eset vizsgálata, mivel vektor statisztika komponensei mind´ıg skalár statisztikák. A fenti F.n (z) pl. egy skalár statisztika minden z ∈ R esetén. A sorozatos megfigyelés (3. példa) modelljében csak olyan statisztikák lesznek fontosak számunkra, melyek véges sok megfigyelést˝ol (minta elemt˝ol) f¨ uggnek, ezeket megengedett statisztikának nevezz¨ uk.

´ 11.2. STATISZTIKAK

139

Nevezetes statisztik´ ak: 1. Ha a mintatér R, vagy Rn , a ξ = idX : X → X x 7→ x f¨ uggvényt minta statisztik´ a nak nevezz¨ uk, és n > 1 esetén a ξ k : X → R (x1 , x2 , . . . , xk , . . . , xn ) 7→ xk komponens f¨ uggvényeket k = 1, 2, . . . , n; minta elem statisztik´ a knak nevezz¨ uk. 2. Az n-ismételt megfigyelés modelljében fel´ırt empirikus eloszlásf¨ uggvényhez tartozó • várható érték

n

X ¯ξ : X → R (x1 , x2 , . . . , xk , . . . , xn ) 7→ x¯ = 1 xk n k=1

az a ´tlag statisztika; • szórás

v u n u1 X s : X → R (x1 , x2 , . . . , xk , . . . , xn ) 7→ s(x) = t (xk − x¯)2 n k=1

az empirikus sz´ or´ as statisztika.

3. Ugyancsak az n-ismételt megfigyelés modelljében használatosak még az alábbiak: • rendezett minta ξ ∗ : X → R (x1 , x2 , . . . , xn ) 7→ (x∗1 , x∗2 , . . . , x∗n ) ahol

x∗1 = xk1 = min {x1 , x2 , . . . , xn } x∗2 = xk2 = min {x1 , x2 , . . . , xk1 −1 , xk1 +1 , . . . , xn } .. .

• rendezett minta elemek

ξ ∗1 : X → R (x1 , x2 , . . . , xn ) 7→ x∗1 ξ ∗2 : X → R (x1 , x2 , . . . , xn ) 7→ x∗2 .. .

• a minta terjedelme R : X → R (x1 , x2 , . . . , xn ) 7→ x∗n − x∗1 Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.

140


• medi´ an

( x∗ + x ∗ k k+1 ha n = 2k me : X → R x = (x1 , x2 , . . . , xn ) 7→ 2 x∗k+1 ha n = 2k + 1

A 2. és 3. -ban felsorolt statisztikák a sorozatos megfigyelés modelljében is megfogalmazhatók minden n ∈ N+ estén, és teljes´ıtik azt a nyilvánvaló követelményt, hogy érték¨ uk véges sok minta elemb˝ol számolható, tehát megengedettek. A fenti statisztikákat a kés˝obbiekben hasonló jelöléssel használjuk, és mint más esetben is, gyakran ´ırjuk azokat a minta, iletve minta elem statisztikák f¨ uggvényeként, pl.: n

n

X ¯ξ = 1 ξ n i=1 i

1 X 2 ¯2 s = ξ −ξ n i=1 i 2

ξ ∗n = max{ξ 1 , ξ 2 , . . . , ξ n } n

Fξn (z) =

11.3.

1X 1{ξ i
z∈R.

Param´ eterek

Statisztikai következtetéseink célja sok esetben az ismeretlen valósz´ın˝ uségi mérték valamilyen mennyiségi jellemz˝oje, paramétere. 11.5. Defin´ıci´ o. i) Paraméternek nevezz¨ unk egy ϑ : P → Rq

f¨ uggvényt. Ha q = 1 skalár, egyébként vektor paraméterr˝ol beszél¨ unk. ii) Ha a ϑ paraméter invertálható, akkor meghatározó paraméternek nevezz¨ uk. Ekkor a lehetséges mértékek ϑ értékkészletének elemeivel azonos´ıthatók, jelölésben P y ha y ∈ im(ϑ). Nevezetes param´ eterek: 1. A mintákkal kapcsolatos A ∈ A esemény val´ osz´ın˝ usége: P(A) : P → R P → P (A) . 2. Legyen t egy skalár statisztika, akkor • v´ arhat´ o érték e az

E(t) : P → R P 7→ EP (t)

paraméter, ahol Ep jelöli a P valósz´ın˝ uséggel számolt várható értéket;

¨ ´ 11.4. LIKELIHOOD FUGGV ENY

• sz´ or´ asa a paraméter;

141 q D(t) = E (t − E(t))2

feltéve az itt szerepl˝o várható értékek létezését minden P ∈ P esetén. 3. Egy v.v. megfigyelésével kapcsolatos modellben a minta statisztika várható értéke és szórása m = E(ξ) σ = D(ξ), illetve az n-ismételt megfigyelés esetén a minta elemek közös várható értéke és szórása m = E(ξ k ) σ = D(ξ k ), a megfigyelt (mintavételezett) v.v. várható értéke és szórása paraméterek, amit a továbbiakban mind´ıg m illetve σ jelöl majd, természetesen feltételezve a sz¨ ukséges várható értékek létezését. Egy paraméter kapcsán fontos lesz számunkra, hogy hogyan f¨ ugg értéke az ismeretlen mértékt˝ol. Egy normális eloszlás´ u (N (., .)) v.v. megfigyelése esetén pl. az eloszlás várható érték és szórás paramétere (m, σ) meghatározó, tehát minden paraméter vele kifejezhet˝o, mint pl. x−m P(ξ < x) = Φ σ ahol ξ a minta statisztika (vagy egy minta elem az n-ismételt megfigyelés esetén), és x ∈ R.

11.4.

Likelihood f¨ uggv´ eny

Statisztikai következtetéseinket a Bayes döntés analógiájaként, annak alapján fogalmazhatjuk meg, hogy egy megfigyelt minta esetén melyik valósz´ın˝ uségi mérték a ”legvalósz´ın˝ ubb”. Ehhez sz¨ ukség¨ unk van a megfigyelt minta (feltételes) valósz´ın˝ uségét megadó f¨ uggvényre. 11.6. Defin´ıci´ o. Likelihood f¨ uggvénynek nevezz¨ uk azt az L : X × P →R f¨ uggvényt, melyre i) diszkrét statisztikai modell esetén, amikor is egy P ∈ P mérték az {x 1 , x2 , . . .} ⊂ X megszámlálható halmaz elemeihez tartozó diszkrét valósz´ın˝ uségeloszlással adott, L (x; P ) = P ({x})

x ∈ X, P ∈ P; Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.

142


ii) folytonos statisztikai modell esetén, amikor is egy P ∈ P mérték egy f valósz´ın˝ uségi s˝ ur˝ uségf¨ uggvénnyel adott (jelölésben: Pf ), L (x; Pf ) = f (x) x ∈ X, Pf ∈ P; Az L(., .) olyan ”két”-változós f¨ uggvény, melynek parciális f¨ uggvényei: • rögz´ıtett P ∈ P esetén L(., P ) : X → R+ 0 egy statisztika; • rögz´ıtett x ∈ X esetén L(x, .) : P → R+ eter, ami megadja az x megfi0 egy param´ gyelt minta valósz´ın˝ uségét, illetve egy ”kis” környezetének valósz´ın˝ uségével arányos értéket; A likelihood f¨ uggvényt, ha van ϑ meghatározó paraméter, annak f¨ uggvényeként is ´ırhatjuk, mint L : X × im(ϑ)→R t´ıpus´ u f¨ uggvényt. Természetesen más meghatározó paramétert válsztva, más alakhoz jutunk, ezért ilyenkor mind´ıg megnevezz¨ uk azon paramétert, amelynek f¨ uggvényeként ´ırtuk a likelihood f¨ uggvényt. Vizsgáljuk most azt a legegyszer˝ ub esetet, amikor a lehetséges valósz´ın˝ uségekb˝ol pontosan kett˝o van, P = {P1 , P2 }, és tekints¨ uk az L(., Pi ) -ket i = 1, 2 , mint feltételes eloszlásokat illetve s˝ ur˝ uségf¨ uggvényeket két egyenl˝o valósz´ın˝ uség˝ u eseményre vonatkozóan, melyek jelzik, hogy melyik valósz´ın˝ uségi mérték az ”igazi”. Ekkor a Bayes-döntés szerint P1 -et választjuk egy, x ∈ X esetén, ha L(x, P1 ) > L(x, P2 ) illetve P2 -t egyébként. Ha P tetsz˝oleges, ezen elv alapján bármely két valósz´ın˝ uségi mértékr˝ol eldönthet˝o egy x megfigyelt minta esetén, hogy melyik a ”valósz´ın˝ ubb”, és ha ∗ van olyan P ∈ P melyre L(x, P ∗ ) ≥ L(x, P ) P ∈ P,

akkor választásunk nyilván P ∗ lesz. Ezt a módszert a legnagyobb val´ osz´ın˝ uség elvé nek nevezz¨ uk. A következ˝o tétel a f¨ uggetlen mintavételezés esetén ezen elv aszimptotikusan jó tulajdonságát mondja ki. 11.7. T´ etel. Legyen az n-ismételt megfigyelés modelljében L(n) n = 1, 2, . . . az els˝o n megfigyeléshez tartozó likelihood f¨ uggvény. Legyen továbbá P 1 6= P2 ∈ P melyekre az L(., Pi ) = L(1) (., Pi ) i = 1, 2 statisztikák pozit´ıvak, és a z = ln

L(., P1 ) L(., P2 )

¨ ´ 11.4. LIKELIHOOD FUGGV ENY

143

statisztikának létezzen szórása P1 és P2 esetén. Jelölje továbbá n

L(n) (x, P1 ) X = z(xi ) x = (x1 , x2 , . . . , xn ) ∈ Xn , η n (x) = ln (n) L (x, P2 ) i=1 akkor teljes¨ ul ∀K ∈ R esetén: lim P1 (η n > K) = 1 illetve

n→∞

lim P2 (η n < K) = 1

n→∞

Bizony´ıt´ as. Jelölje ξ 1 , ξ 2 , . . . , ξ n az els˝o n megfigyeléshez tartozó minta elemeket, akkor a ζ i = z(ξ i ) i = 1, 2, . . . n statisztikák azonos eloszlás´ uak és f¨ uggetlenek. Közös várható érték¨ uket és szórásukat P 1 illetve P2 esetén jelölje µi = EPi (ζ k ),

δ i = DPi (ζ k ) i = 1, 2.

Ekkor δ i > 0 i = 1, 2, mert k¨ ulönben, L(., P1 ) = L(., P2 ) következne pl. P2 szerint 1 valósz´ın˝ uséggel, ami ellentmond a P1 6= P2 feltételnek. Most megmutatjuk, hogy µ2 < 0. Az ln(t) ≤ t − 1 t ∈ R+ egyenl˝otlenséget használva, kapjuk ζk ≤

L(ξ k , P1 ) −1 L(ξ k , P2 )

amib˝ol pl. folytonos statisztikai mez˝o esetén a várható érték monotonitását használva Z L(u, P1 ) L(u, P2 )du − 1 = 0, µ2 ≤ L(u, P2 ) R

k ,P2 ) ahol egyenl˝oség δ 2 > 0 miatt nem lehet. Tehát µ2 < 0, és −ζ k = ln L(ξ miatt kapjuk L(ξ ,P1 ) k

EP1 (−ζ k ) = −µ1 < 0 ⇒ µ1 > 0. Jelölje továbbá η 0 = 0, akkor az (η n )n∈N id˝osor f¨ uggetlen és stacionárius növekmény˝ u, és √ EP1 (η n ) = µ1 n DP1 (η n ) = δ 1 n n ∈ N amib˝ol 10.3 szerint következik lim P1 (η n > K) = 1.

n→∞

Hasonlóan kapjuk lim P2 (−η n > −K) = 1 ⇒ lim P2 (η n < K) = 1.

n→∞

n→∞


144


Az a´ll´ıtás lényegében azt fejezi ki, hogy a k¨ ulönböz˝o valósz´ın˝ uségi mértékekhez tartozó likelihood f¨ uggvény értékek köz¨ ul az a nagyobb, és ez a relat´ıv k¨ ulönbség a mintavétel számának növelésével minden határon t´ ul n˝o, azaz L(., P1 ) n→∞ +∞ P1 esetén −→ , 0 P2 esetén L(., P2 ) amely az ”igazi” mértékhez tartozik. Tehát elég sok megfigyelést tartalmazó x minta esetén b´ızhatunk abban, hogy a likelihood f¨ uggvény az igazi valósz´ın˝ uségi mértékkel adja a legnagyobb értéket. Az a´ll´ıtás alapján az is világos, hogy ha két P 1 és P2 valósz´ın˝ uségi mérték köz¨ ul kell választanunk egy x ∈ X alapján, akkor a két mértékhez tartozó likelihood f¨ uggvény értékek hányadosa alapján érdemes dönten¨ unk. A likelihood f¨ uggvény sajátos alakja esetén mód van arra is, hogy statisztikai következtetéseink meghozatalához kiválasszunk bizonyos statisztikákat, melyek ismerete a fenti t´ıpus´ u döntésekhez elégséges. 11.8. Defin´ıci´ o. A T : X → Rk statisztikát elégségesnek nevezz¨ uk, ha a likelihood f¨ uggvény az alábbi alakban ´ırható: L(x, P ) = g(T (x), P ) · f (x)

/x ∈ X, P ∈ P/ .

A defin´ıció alapján, két P1 és P2 közötti választáshoz elég ismerni a T statisztika értékét, mert a likelihood f¨ uggvény értékeinek hányadosa csak ett˝ol f¨ ugg. Természetesen a defin´ıció szerint a minta statisztika nyilvánvalóan elégséges, de ilyen a f¨ uggetlen mintavétel modelljében a rendezett minta is. A következ˝o a´ll´ıtás azt fejezi ki, hogy az elégséges statisztika értékének ismeretében a mintatér eseményeinek (feltételes) valósz´ın˝ usége, és statisztikák (feltételes) várható értéke már nem f¨ ugg P ∈ P válaszásától, tehát bekövetkezés¨ uk, illetve érték¨ uk nem ad további információt az ismeretlen valósz´ın˝ uségi mértékr˝ol. 11.9. T´ etel. Legyen η egy tetsz˝oleges, és T egy elégséges statisztika. Akkor az E(η|T ) feltételes várható érték megadható u ´ gy, hogy nem f¨ ugg a P ∈ P választástól. Bizony´ıt´ as. Bizony´ıtás nélk¨ ul felhasználjuk a következ˝o segédtételt: 11.10. Lemma. Ha az (X, A, P) statisztikai mez˝o esetén megadható az L likelihood f¨ uggvény, akkor választható egy olyan (Pn )n=1,2,... ⊂ P sorozat, melyre teljes¨ ul az alábbi tulajdonság minden A ∈ A eseménnyel kapcsolatban: P (A) = 0 ∀P ∈ P ⇔ Pn (A) = 0 n = 1, 2, . . . , aminek következményeként megadható a P ∗ =

P∞

1 n=1 2n Pn

valósz´ın˝ uségi mérték, mellyel

P (A) = 0 ∀P ∈ P ⇔ P ∗ (A) = 0 .

145

11.5. FELADATOK

Feltehetj¨ uk, hogy η skalár érték˝ u, és pl. a diszkrét statisztikai modellben bizony´ıtjuk az a´ll´ıtást. B˝ov´ıts¨ uk P-t és a likelihood f¨ uggvény értelmezési tartományát a lemma szerinti P ∗ valósz´ın˝ uségi mértékkel, tehát L(x, P ∗ ) = g(T (x), P ∗ ) · f (x) x ∈ X ahol g(T (x), P ∗) =

X 1 g(T (x), Pn ) x ∈ X. 2n n

uségi mértékre vonatkozó feltételes várható Ekkor a fenti lemma szerinti P ∗ valósz´ın˝ értéket jelölje: t = EP ∗ (η|T ) Legyen P ∈ P, és h egy tetsz˝oleges skalár érték˝ u f¨ uggvény, akkor kapjuk X EP ((η − t) · h ◦ T ) = (η(x) − t(x)) · h(T (x))g(T (x), P ) · f (x) = x∈X

=

X

06=g(T (x),P ∗ )

(η(x) − t(x)) ·

h(T (x))·g(T (x),P ) g(T (x), P ∗ ) g(T (x),P ∗ )

· f (x) = 0

a P ∗ -re vonatkozó feltételes várható érték ortogonalis tulajdonsága miatt. Ez pedig azt jelenti, hogy t teljes´ıti a P -re vonatkozó feltételes várható érték hasonló tulajdonságát, vagyis EP (η|T ) = t.

11.5.

Feladatok

1. Emberek magasságának n = 10 megfigyeléséb˝ol kaptuk az alábbi mintát: 182 176 168 192 184 174 185 182 175 190 [cm] Ajuk meg az empirikus eloszlásf¨ uggvényt, szám´ıtsuk ki a nevezetes statisztikák értékeit! 2. Legyen a statisztikai modell egy F (x) =

0 ha x ≤ 0 −αxβ ha 0 < x 1−e

eloszlásf¨ uggvény˝ u v.v. n-ismételt megfigyelésével kapcsolatos. (a) Írjuk fel a likeihood f¨ uggvényt az α, β pozit´ıv paraméterek f¨ uggvényeként! (b) Keress¨ unk elégséges statisztikát! 3. Írjuk fel a likelihood f¨ uggvényt a megfelel˝o paraméter(-ek) f¨ uggvényeként (a) Bin(ni ; ·) i = 1, 2, . . . , N eloszláss´ u (azonos valósz´ın˝ uség paraméterrel) v.v. megfigyelése esetén; Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.

146


(b) egy Po (·) eloszláss´ u v.v. egy illetve n-ismételt megfigyelése esetén; (c) egy Exp(·) eloszláss´ u v.v. n-ismételt megfigyelése esetén;

(d) egy N (·; ·) eloszláss´ u v.v. n-ismételt megfigyelése esetén; Keress¨ unk elégséges statisztikát! 4. Egy Po(·) eloszlás´ u v.v. n-ismételt megfigyelése esetén adjuk meg a ! n X P ξj = k | ξi = K i=1

feltételes eloszlást! 5. Egy U (0; ·) eloszlás´ u v.v. n-ismételt megfigyelése esetén, mutassuk meg, hogy ξ ∗n elégséges, és adjuk meg a P(ξ k < x | ξ ∗n = ·) feltételes eloszlást, és E(ξ k | ξ ∗n = ·) feltételes várható értéket!

12. fejezet Param´ eterbecsl´ es 12.1.

Pontbecsl´ es

Statisztikai feladatainkban többnyire egy paraméter ismeretlen értékére kell következtetn¨ unk a megfigyelt mintából. 12.1. Defin´ıci´ o. A ϑ : P → Rp paraméter becslésének nevezz¨ unk egy t : X → Rp statisztikát. Jelölése: ϑ ∼ t . Egy ilyen ϑ ∼ t becslést u ´ gy alkalmazunk, hogy x ∈ X megfigyelt minta esetén a ϑ paraméter értékét a becsl˝o t statisztika t(x) értékével azonos´ıtjuk, pontosabban azzal közel´ıtj¨ uk. Jelölése: ϑ ≈ t(x). Természetesen egy paraméter számára több becslés is adható, melyek köz¨ ul az alábbi tulajdonságok alapján válszthatunk. Mivel vektor paraméter komponenseinek becslése a becsl˝o vektor statisztika megfelel˝o komponense, elegend˝o skalár paraméterek becsléseinek vizsgálata. 12.2. Defin´ıci´ o. A ϑ skalár paraméter ϑ ∼ t i) becslését torz´ıtatlannak nevezz¨ uk, ha E(t) = ϑ; ii) torz´ıtatlan becslésének hatékonyságát a becslés D(t) standard hibáj´ aval ”mérj¨ uk”. iii) Ha a ϑ skalár paraméter becslése az n-ismételt megfigyelés modelljében ϑ ∼ t n n = 1, 2, . . . , és minden ε > 0 esetén lim P (|tn − ϑ| ≥ ε) = 0 ,

n→∞

akkor ezt a becslést, pontosabban becslés-sorozatot konzisztensnek nevezz¨ uk. A konzisztencia ellen˝orzéséhez torz´ıtatlan becslések esetén használjuk az alábbi a´ll´ıtásban megfogalmazott elégséges feltételt. 147

´ ´ 12. FEJEZET. PARAMETERBECSL ES

148

´ ıt´ 12.3. All´ as. Ha a ϑ skalár paraméter becslése az n-ismételt megfigyelés modelljében ϑ ∼ tn n = 1, 2, . . . torz´ıtatlan, és lim D(tn ) = 0,

n→∞

akkor a becslés-sorozat konzisztens. Bizony´ıt´ as. A Csebisev egyenl˝otlenség szerint, ha ε > 0 akkor P (|tn − E(tn )| ≥ ε) ≤

D2 (tn ) , ε2

amib˝ol következik az a´ll´ıtás. A továbbiakban felsorolunk néhány gyakran használt becslést, és megvizsgáljuk tulajdonságait. 1. Val´ osz´ın˝ us´ eg becsl´ ese. (a) Visszatevéses mintavétel, Bernoulli k´ısérlet. Egy ismeretlen valósz´ın˝ uség˝ u esemény n-ismételt megfigyelése esetén legyen a s.m. egy Bin(n; ·) eloszlás´ u v.v. megfigyelésével kapcsolatos. Jelölje ξ − a minta statisztikát; p − a valósz´ın˝ uség paramétert; Vizsgáljuk a p∼

ξ n

becslést. Mivel ξ ξ 1 p E =p D =√ p · (1 − p), n n n a becslés torz´ıtatlan és konzisztens. A hatékonyság mértéke, a becslés standard hibája f¨ ugg az ismeretlen paramétert˝ol, de 1 1 p √ p · (1 − p) ≤ √ , n 2 n

ezért ”tervezhet˝o”, vagyis megadható a megfigyelések n száma u ´ gy, hogy a standard hiba egy k´ıvánt érték alatt maradjon. A standard hiba becslésére a valósz´ın˝ uség becslését használva kapjuk: s 1 ξ ξ ξ ∼√ . D · 1− n n n n

´ 12.1. PONTBECSLES

149

(b) Visszatevés nélk¨ uli mintavétel. Legyen a s.m. egy Hip(N, ·, n) eloszlás´ u v.v. megfigyelésével kapcsolatos. Jelölje ξ − a minta statisztikát; a valósz´ın˝ uség paramétert, M − ahol M az alapsokaság ”megjelölt” p= N egyedeinek (ismeretlen) száma; Vizsgáljuk a p∼

ξ n

becslést. Mivel s ξ ξ 1 n−1 p · (1 − p) · 1 − E =p D =√ , n n N −1 n a becslés torz´ıtatlan és konzisztens abban az értelemben, hogy n növelésével a ξ standard hiba csökken, és n = N esetben D n = 0. A hatékonyság mértéke, a becslés standard hibája f¨ ugg a p paramétert˝ol, de most is teljes¨ ul r n−1 1 p 1 √ , p · (1 − p) ≤ √ 1− n 2 n N −1 ezért ”tervezhet˝o”, pontosabban fels˝o határa el˝ore megadható. A standard hiba becslésére a valósz´ın˝ uség becslését használva kapjuk: s 1 n−1 ξ ξ ξ D ∼√ · 1− . · 1− n n N −1 n n

2. A v´ arhat´ o´ ert´ ek ´ es sz´ or´ as becsl´ ese. (a) Mintavétel visszatevéssel, illetve végtelen alapsokaságból. Egy ismeretlen várható érték˝ u és szórás´ u v.v. n-ismételt megfigyelése esetén jelölje ξ = (ξ 1 , ξ 2 , . . . , ξ n ) − a minta statisztikát; m − a várható érték paramétert; σ − a szórás paramétert;

Vizsgáljuk az empirikus eloszlásf¨ uggvény várható értékét illetve szórását adó a´tlaggal illetve empirikus szórással nyerhet˝o m ∼ ¯ξ σ 2 ∼ s2 becsléseket. Mivel a minta elemek f¨ uggetlenek, azonos eloszlás´ uak, közös várható érték¨ uk m, szórásuk σ, σ E(¯ξ) = m D(¯ξ) = √ . n Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


150

Az els˝o becslés tehát torz´ıtatlan és konzisztens, de ! ! n n X X 1 1 2 2 ξ − ¯ξ (ξ i − m) − ¯ξ − m =E E(s2 ) = E n i=1 i n i=1 n 1 X 2 σ2 n = σ − = · σ2 , (12.1) n i=1 n n−1 tehát az utóbbi becslés torz´ıtott. Ez a torz´ıtás azonban ”korrigálható”, és a σ 2 ∼ s∗2 becslés már torz´ıtatlan, ahol v u r n u 1 X 2 n ∗ t s = ξ k − ¯ξ = ·s n − 1 k=1 n−1

az un. korrig´ alt empirikus sz´ or´ as statisztika. Használjuk ezt az a´tlag standard hibájának becslésére: s∗ D(¯ξ) ∼ √ . n (b) Minatvétel véges alapsokaságból visszatevés nélk¨ ul. Egy X = {X1 , X2 , . . . , XN } ⊂ R véges halmazból visszatevés nélk¨ ul választott n-elem˝ u minta esetén jelölje ξ = (ξ 1 , ξ 2 , . . . , ξ n ) − a minta statisztikát; ¯ = 1 PN Xi − a várható érték paramétert; m=X q P N i=1 ¯ 2 − a szórás paramétert; σ = SX = N1 N i=1 Xi − X

Mivel a minta elemek közös eloszlása P(ξ k = Xi ) =

1 N

k = 1, 2, . . . , n i = 1, 2, . . . , N

és P(ξ k = Xi , ξ l = Xj ) =

1 N (N − 1)

k 6= l = 1, 2, . . . , n i 6= j = 1, 2, . . . , N

egyszer˝ u számolással kapjuk (lásd: 78. oldal 2. feladat): E(ξ k ) = m D(ξ k ) = σ és cov(ξ k , ξ l ) = −

σ2 N −1

k = 1, 2, . . . , n

k 6= l = 1, 2, . . . , n

´ 12.1. PONTBECSLES

151

amib˝ol σ E(¯ξ) = m D(¯ξ) = √ · n

r

1−

n−1 . N −1

Tehát az m ∼ ¯ξ becslés torz´ıtatlan, és standard hibája n → N esetén nullához közeledik. Az 12.1 szerinti módon számolva az empirikus szórásnégyzet várható értékét N n−1 · , E(s2 ) = σ 2 · n N −1 tehát a σ 2 ∼ s2 becslés most is torz´ıtott, de korrigálhatóan, vagyis σ2 ∼

n N −1 2 · · s ≈ s∗2 n−1 N

uk a már torz´ıtatlan becslés, ahol az NN−1 korrekció elhanyagolásával nyerj¨ ∗2 korábbi s becslést. Ezt használva kapjuk a várható érték becslésének standard hibájára: r ∗ s n−1 . D(¯ξ) ∼ √ · 1 − n N −1 Megjegyz´ es: Ha az X véges sokaság elemei nem mind k¨ ulönböznek, de választásuk valósz´ın˝ usége arányos az ismétl˝odések számával, eredményeink változatlanul érvényesek. 3. Kovariancia becsl´ ese (a) Mintavétel visszatevéssel, illetve végtelen alapsokaságból. Egy (ismeretlen eloszlás´ u) kétdimenziós v.v.v. n-ismételt megfigyelése esetén jelölje (ξ, η) = ((ξ 1 , η 1 ), (ξ 2 , η 2 ), . . . , (ξ n , η n )) − a minta statisztikát; m1 , m2 − a két várható érték paramétert; σ 1 , σ2 a két szórás, illetve − σ 12 kovariancia paramétert; A fentiekhez hasonlóan kaphatjuk a kovariancia becslésére n

σ 12 ∼ s12 =

n

1X 1X ξ i − ¯ξ (η i − η¯) = ξ · η − ¯ξ · η¯ , n i=1 n i=1 i i

P ahol s12 az un. empirikus kovariancia statisztika, ¯ξ = n1 ni=1 ξ i illetve η¯ = P n 1 o minta elemek a´tlagai, az m1 illetev m2 paraméterek i=1 η i a megfelel˝ n becslései. Vizsgáljuk most a becslés torz´ıtatlanságát, kihasználva a minta elem párok f¨ uggetlenségét, az 12.1-ben alkalmazott módon kapjuk: E(s12 ) =

n · σ 12 . n−1 Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


152

Tehát most is torz´ıtott becslést kapunk, de a n σ 12 ∼ s∗12 = s12 n−1 korrigálással ismét torz´ıtatlan becsléshez jutunk.

(b) Minatvétel véges alapsokaságból visszatevés nélk¨ ul. Egy XY = {(X1 , Y1 ), (X2 , Y2 ), . . . , (XN , YN )} ⊂ R2 véges halmazból visszatevés nélk¨ ul választott n-elem˝ u minta esetén jelölje

σ 12

(ξ, η) = ((ξ 1 , η 1 ), (ξ 2 , η 2 ), . . . , (ξ n , η n )) − a minta statisztikát; ¯ = 1 P N Xi m1 = X a két várható érték i=1 N − P N 1 paramétert; m1 = Y¯ = N i=1 Yi q P ¯ 2 σ 1 = SX = N1 N i=1 Xi − X , a két szórás, és a q P 2 N − kovariancia 1 σ 2 = SY = N i=1 Yi − Y¯ , paramétert; P ¯ · Yi − Y¯ = SXY = 1 N Xi − X i=1

N

Mivel a minta elemek közös eloszlása most P(ξ k = Xi , η k = Yi ) =

1 N

k = 1, 2, . . . , n i = 1, 2, . . . , N

és 1 N (N − 1) k 6= l = 1, 2, . . . , n i 6= j = 1, 2, . . . , N

P(ξ k = Xi , η k = Yi , ξ l = Xj , η l = Yj ) =

a 2b pontban le´ırtakhoz hasonlóan kapjuk az s12 =

n n 1X 1X ξ · η − ¯ξ · η¯ ξ i − ¯ξ (η i − η¯) = n i=1 n i=1 i i

empirikus kovariancia statisztikára:

E(s12 ) = σ 12 ·

N n−1 · . n N −1

Tehát a σ 12 ∼ s12 becslés most is torz´ıtott, de korrigálhatóan, vagyis σ 12 ∼

n N −1 n · · s12 ≈ s∗12 = · s12 n−1 N n−1

már torz´ıtatlan becslés, ahol az NN−1 korrekció elhanyagolásával nyerj¨ uk a korábbi s∗12 becslést. Megjegyz´ es: Hasonlóan a 2b pont utáni megjegyzéshez, most is érvényesek maradnak eredményeink, ha az XY véges sokaság elemei nem mind k¨ ulönböznek, de választásuk valósz´ın˝ usége arányos az ismétl˝odések számával.

´ ´ ´ 12.2. BECSLESEK HATEKONYS AGA

153

Megjegyz´ es: A kovariancia most kapott becsléséb˝ol kaphatjuk a korrelációs egy¨ uttható becslését σ 12 s12 s∗ r= ∼ rˆ = = ∗ 12 ∗ σ1 · σ2 s1 · s2 s1 · s2 használva a szórások becslését. Hasonlóan nyerhet˝ok a kovarianciák becsléséb˝ol a regressziós feladatokban megismert további paraméterek. Azok ugyanis a varianciákkal (szórásnégyzetekkel), várható értékekkel és kovarianciákkal kifejezhet˝ok, ´ıgy az itt megadott becslések megfelel˝o kifejezéseivel becs¨ ulhet˝ok.

12.2.

Becsl´ esek hat´ ekonys´ aga

Az alábbiakban becslések hatékonyságát, pontosabban torz´ıtatlan becslések standard hibáját vizsgáljuk, és megmutatjuk, hogy a legnagyobb valósz´ın˝ uség elve alapján nyerhet˝o becslések a´ltalában a leghatékonyabbak.

12.2.1.

Maximum likelihood becsl´ es

A legnagyobb valósz´ın˝ uség elve seg´ıtségével becsléseket kaphatunk. 12.4. Defin´ıci´ o. Legyen a ϑ meghatározó paraméter, és irjuk a likelihood f¨ uggvényt ennek f¨ uggvényeként: L(., ϑ) : X → R+ 0. A t : X → im(ϑ) statisztikát a ϑ paraméter maximum liokelihood becslésének nevezz¨ uk, ha ∀x ∈ X esetén teljes¨ ul: L(x, t(x)) ≥ L(x, y) y ∈ im(ϑ). Megjegyz´ esek: 1. Tehát ilyen becslés u ´ gy nyerhet˝o, hogy egy x ∈ X megfigyelt mintához olyan értéket rendel¨ unk, mely az L(x, .) : im(ϑ) → R+ uggvény globális maximum helye, 0 f¨ természetesen csak ha van ilyen. 2. Ha van elégséges statisztika, akkor a likelihood becslés az elégséges statisztika f¨ uggvényeként adható meg. 3. Könnyen ellen˝orzhet˝o, hogy a valósz´ın˝ uség becslése a relat´ıv gyakorisággal, továbbá normális eloszlás´ u v.v. n-ismételt megfigyelése esetén az m ∼ ¯ξ σ ∼ s maximum likelihood becslések. 4. Fontos észrevétel továbbá, hogy ha ϑ ∼ t maximum likelihood becslés, akkor h(ϑ) ∼ h(t) is az, minden kölcsönösen egyértelm˝ u, im(ϑ)-n értelmezett h f¨ uggvény esetén. Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.

154

12.2.2.


Hat´ ekonyabb becsl´ es mint az el´ egs´ eges statisztika f¨ uggv´ enye

12.5. T´ etel. Legyen a ϑ skalár paraméter t bcslése torz´ıtatlan, és legyen T elégséges statisztika. Akkor a t∗ = E(t|T ) feltételes várható érték, mely nem f¨ ugg a valósz´ın˝ uségi mértékt˝ol, tehát a t∗ statisztika, hatékonyabb becslése a ϑ paraméternek. Bizony´ıt´ as. A 11.9. tétel szerint t∗ statisztika megadható (ϑ-tól nem f¨ ugg˝o módon), várható értéke pedig, mint feltételes várható érték várható értéke: E(t∗ ) = E (E(t|T )) = E(t) = ϑ tehát ϑ ∼ t∗ torz´ıtatlan becslés. Az eredeti becslés szórásnégyzetét ´ırjuk az alábbiak szerint: D2 (t) = E ((t − t∗ ) + (t∗ − ϑ))2 = = E (t − t∗ )2 + D2 (t∗ ) ≥ D2 (t∗ ) ahol felhasználtuk a feltételes várható érték ortogonális tulajdonságát ∀P ∈ P esetén EP [(t − t∗ )h ◦ T ] = 0. ahol h(y) = EP (t|T = y) − ϑ(P ). Tehát a hatékonyabb torz´ıtatlan becslést az elégséges statisztika f¨ uggvényeként érdemes keresni, és a maximum likelihood becslés mind´ıg ilyen lesz, ha nem is mind´ıg torz´ıtatlan. A bizony´ıtásból az is kider¨ ul, hogy a standard hiba csökkentése annál nagyobb, minél egyszer˝ ubb, de még elégséges, u ´ gynevezett sz¨ ukséges statisztikára ”vet´ıt¨ unk”, mivel ekkor szám´ıthatunk nagyobb maradék szórásra, és ´ıgy kisebb standard hibára.

12.2.3.

A hat´ ekonys´ ag inform´ aci´ os hat´ ara

A továbbiakban feltessz¨ uk, hogy ϑ egy meghatározó paraméter (p-dimenziós), ξ jelöli a minta statisztikát, és a likelihood f¨ uggvényt ϑ-f¨ uggvényeként ´ırva az egész mintatéren pozit´ıv L(x; ϑ) > 0 x ∈ X,

és léteznek a paraméter szerinti, alábbiakban szerepl˝o parciális deriváltak. Amint azt már vizsgáltuk, két ϑ, ϑ0 paraméter köz¨ ul a választás egy x ∈ X megfigyelt minta esetén az 0 L(x; ϑ) és L(x; ϑ ) közti k¨ ulönbségt˝ol f¨ ugg. K¨ ulönösen fontos ennek mértéke ha ϑ, ϑ 0 ∈ Rp két közeli paraméter érték. Ezen k¨ ulönbség változásának relat´ıv mértéke egy ϑ paraméter értékb˝ol indulva az : x ∈ X megfigyelt minta esetén (a derivált-vektort sorvektorként ´ırva): Dϑ L(x; ϑ) S(x; ϑ) = = Dϑ ln (L(x; ϑ)) ∈ R1×p L(x; ϑ) P Mivel, például diszkrét esetben, 1 = E(1) = x∈X L(x; ϑ), ha a ϑ-szerinti driválás és az o¨sszegzés felcserélhet˝o, kapjuk 0 = E (S(ξ; ϑ)) ∈ R1×p .


155

ϑ L(.;ϑ) A DL(.;ϑ) = Dϑ ln L(.; ϑ) (vektor) statisztika komponensei véletlen ingadozásának várható értéke tehát a ϑ-val kapcsolatban nyerhet˝o információ mértékének tekinhet˝o, ezért az I(ϑ) = E S(ξ; ϑ) · S(ξ; ϑ)T = = cov (S(ξ; ϑ), S(ξ; ϑ)) ∈ Rp×p

várható értéket, ha létezik, Fisher féle inform´ aci´ o m´ atrix nak nevezz¨ uk. Vegy¨ uk észre, hogy az n-f¨ uggetlen megfigyelés modelljében S(ξ; ϑ) = Dϑ ln L(ξ 1 , ξ 2 , · · · , ξ n ; ϑ) =

n X

Dϑ ln L1 (ξ i ; ϑ) ,

i=1

ahol L1 jelöli az n = 1 megfigyeléshez tartozó likleihood f¨ uggvényt, az o¨sszeg tagjai f¨ uggetlenek, ezért az egy megfigyelt értékhez tartozó I1 (ϑ) információs mátrixból kapjuk: I(ϑ) = n · I1 (ϑ) . Az információs mátrix megkapható a likelihood f¨ uggvény másodrend˝ u parciális deriváltjaiból is, nevezetesen a B(x; ϑ) = Dϑ S(x; ϑ) ∈ Rp×p deriválással kapható B(ξ; ϑ) véletlen mátrix várható értéke, például folytonos modell esetén, feltételezve a deriválás és integrálás sorrendjének felcserélhet˝oségét: Z 1 Dϑ Dϑ L(x; ϑ) · L(x; ϑ) − Dϑ L(x; ϑ)T · Dϑ L(x; ϑ) dx = E (B(ξ; ϑ)) = X L(x; ϑ) T Z Z Dϑ L(x; ϑ) Dϑ L(x; ϑ) = Dϑ Dϑ L(x; ϑ)dx − · L(x; ϑ)dx = −I(ϑ) · L(x; ϑ) L(x; ϑ) X X Feltételezz¨ uk továbbá, hogy I(ϑ) reguláris, tehát létezik az I(ϑ) −1 inverz mátrix és a deriválás és várható érték képzés (összegzés ill. folytonos esetben integrálás) a továbbiakban is felcserélhet˝o. Ekkor az I(ϑ) mátrix seg´ıtségével becslések hatékonyságára nyerhet¨ unk korlátot. Legyen ugyanis a ϕ : Rp → Rq×1 egy differenciálható f¨ uggvény, és q×1 a t : X → R statisztika a ϕ(ϑ) paraméter (komponensenként) torz´ıtatlan becslése. Ekkor feltételezés¨ unk szerint, és felhasználva, hogy 0q×p = ϕ(ϑ) · E (S(ξ; ϑ)) = E (ϕ(ϑ) · S(ξ; ϑ)) ∈ Rq×p kapjuk: Dϑ ϕ(ϑ) = Dϑ E(t) = E ((t − ϕ(ϑ)) · S(ξ; ϑ)) ∈ Rq×p .

Az a´ttekinthet˝oség érdekében jelölje η = S(ξ; ϑ)T , ekkor

E(t) = 0q×1 ∈ Rq×1 , E(η) =0p×1 ∈ Rp×1 , cov(t, η) = Dϑ ϕ(ϑ) ∈ Rq×p , cov(η, η) = I(ϑ) ∈ Rp×p . Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


156

Vizsgáljuk az t ≈ Aη + b lineáris regressziós problémát, akkor a maradék kovariancia mátrix a VR = cov (t, t) − Dϑ ϕ(ϑ)T I(ϑ)−1 Dϑ ϕ(ϑ) (12.2) egy pozit´ıv szemidefinit szimmetrikus mátrix, ami pontosan akkor lesz a zérusmátrix, ha 1-valósz´ın˝ uséggel teljes¨ ul egy A ∈ Rq×p mátrixszal, ami a mintától nem, de a paramétert˝ol esetleg f¨ ugghet: t = ϕ(ϑ) + A · S(ξ; ϑ) . (12.3) A (12.2) mátrix pozit´ıv szemidefinit, ezért t komponensei szórásnégyzetének alsó határa a Dϑ ϕ(ϑ)T I(ϑ)−1 Dϑ ϕ(ϑ) ∈ Rq×q mátrix f˝oa´tlójának megfelel˝o eleme, illetve a q = 1 esetben:

D2 (t) ≥ Dϑ ϕ(ϑ)T I(ϑ)−1 Dϑ ϕ(ϑ). Ha még ϑ skalár paraméter, akkor I(ϑ) egy pzit´ıv paraméter, és kapjuk (ϕ0 (ϑ))2 . D (t) ≥ I(ϑ) 2

Ezzel a torz´ıtatlan becslés hatékonyságának alsó korlátját kaptuk a Fisher-féle információ mennyiség seg´ıtségével. Mindezekb˝ol hasznos következtetések vonhatók le maximum likelihood becslések esetén. b maximum likelihood becslés, amivel Legyen tehát ϑ ∼ ϑ és

01×p = S(ξ; b ϑ)

b = Dϑ S(ξ; ϑ) b = Dϑ Dϑ ln L(ξ; ϑ b ∈ Rp×p B(ξ; ϑ)

b becslés elég közel van a ϑ paraméterhez (pl. negat´ıv definit szimmetrikus mátrix. Ha a ϑ konzisztens becslés nagy minta esetén), akkor T b b ≈ ϑ − B −1 (ξ; ϑ) · S(ξ; ϑ)T . 0p×1 ≈ S(ξ; ϑ) + B(ξ; ϑ) · ϑ − ϑ =⇒ ϑ

Ami éppen a (12.3) esetnek felel meg, ha B(ξ; ϑ) illetve B −1 (ξ; ϑ) közel a´llandónak tekinthet˝o (pl. elég nagy minta, és ϑ szerint elég sima likelihodd f¨ uggvény esetén). Ekkor b VR ≈ 0q×q , B(ξ; ϑ) ≈ E (B(ξ; ϑ)) = −I(ϑ), tehát ϑ komponensei a ϑ paraméter megfelel˝o komponenseinek leghatékonyabb becslése lesz, és amib˝ol következik a

b ϑ) b = I(ϑ)−1 ≈ B −1 (ξ; ϑ) cov(ϑ;

b ϑ) b = I(ϑ)−1 ∼ −B −1 (ξ; ϑ) b cov(ϑ;

becslés is. Tekints¨ unk most egy pédát a fentiek alkalmazására.


157

12.6. P´ elda. Legyen a statisztikai modell egy N (·; ·) eloszlás´ u v.v. n-ismételt megfigyelésével kapcsolatos. Ekkor n 1 − 2 s2 + (x − m)2 L(x; m, σ 2 ) = n exp n 2σ (2π) 2 (σ 2 ) 2 n S(x; m, σ 2 ) = (x − m) ; − n2 · σ12 + n2 · σ14 s2 (x) + (x − m)2 σ2 n n 2 4 (x − m) 2 σ σ B(x; m, σ ) = − n (x − m) − 2σn4 + σn6 s2 (x) + (x − m)2 σ4 m(x) b = x σb2 (x) = s2 (x) tehát kapjuk

2

2

I(m, σ ) = −E B(ξ; m, σ ) továbbá −B

−1

n σ2

0 n 2σ 4

0

ξ; ξ, s

2

=

I s2 n

0

−1

0 s4 n2

2

(m, σ ) =

σ2 m

0

σ2 n

0

0 σ 4 n2

.

Tehát a várható érték leghatékonyabb becslésének standard hibája ξ=

√σ , n

ami a 12.3 szerinti

· S(ξ; m, σ 2 )T + m

es hibája. Mivel az m ∼ ξ σ 2 ∼ s2 o¨sszef¨ uggés miatt az m ∼ ξ torz´ıtatlan becsl´ −1 2 −1 becslések konzisztensek, a B uggése ξ; ξ, s és B (ξ; m, σ 2 ) mátrix mintától való f¨ elhanyagolható, ezért nagy n esetén használhatjuk az I −1 (m, σ 2 ) ∼ −B −1 ξ; ξ, s2 becslést. Tehát az m ∼ ξ torz´ıtatlan becslés D(ξ) = √σn standard hibája éppen az információs határ, aminek becslése a szokásos √sn . A σ 2 ∼ s2 asszimptotikusan torz´ıtatlan becslés q standard hibájának becslése pedig s2 n2 . Ez utóbbi becslés az egyébként is nagy n érték feltételezése esetén megfelel az ellen˝or´ızhet˝o (lásd: 88. oldal 3. feladat) s r 2 2 1 D(s2 ) = σ 2 1− ≈ σ2 n n n

o¨sszef¨ uggésnek. A torz´ıtatlanság miatt korrigált σ 2 ∼ s∗2 becslés standard hibája s r 2 2 n 1 2 ∗2 2 σ D(s ) = 1− =σ n−1 n n n−1 q 2 2 mind´ıg nagyobb lesz mint a σ információs határ, de azt tetsz˝olegesen megközel´ıti n n → ∞ esetén.. Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


158

12.3.

Intervallum becsl´ esek

Egy ismeretlen paraméter becs¨ ult, tehát nyilvánvalóan pontatlan értéke helyet esetenként fontosabb lehet a skalár paraméter korlátainak megadása. 12.7. Defin´ıci´ o. A ϑ skalár paraméter (1 − α)-szint˝ u intervallum becslése a t1 < t2 statisztika pár, ha P (t1 ≤ ϑ ≤ t2 ) = 1 − α . Jelölése: ahol t =

t1 +t2 2

ϑ ∼ (t1 ; t2 ) az intervallum közepe, d =

illetve ϑ ∼ t ± d

t2 −t1 2

pedig a pontosság mértéke.

Az intervallum becslést, vagy konfidencia intervallumot u ´ gy alkalmazzuk, hogy kis 0 < α << 1 (α = 0.1, 0.05, . . .) érték mellett, az ismeretlen paraméter alsó illetve fels˝o korlátjának az x ∈ X megfigyelt mintához tartozó t1 (x) illetve t2 (x) értékeket tekintj¨ uk (1 − α) megb´ızhatósági szint mellett. Jelölése ϑ ≈ (t1 (x); t2 (x))

illetve ϑ ≈ t(x) ± d(x) .

Ha a t1 = −∞ illetve t2 = +∞ választást is megengedj¨ uk, kapjuk az ismeretlen paraméter (1 − α)-szint˝ u fels˝o illetve alsó határát. A továbbiakban néhány nevezetes eloszlás paraméterének intervallum becslését adjuk meg. 1. Val´ osz´ın˝ us´ eg intervallum becsl´ ese. (a) (Visszatevéses mintavétel, Bernoulli k´ısérlet) Egy ismeretlen valósz´ın˝ uség˝ u esemény n-ismételt megfigyelése esetén legyen a s.m. egy Bin(n; ·) eloszlás´ u v.v. megfigyelésével kapcsolatos. Jelölje ξ − a minta statisztika; p − a valósz´ın˝ uség paraméter; Ha n elég nagy (np > 10), a C.H.T. szerint közel´ıt˝oen teljes¨ ul ξ − np p ∈ N (0; 1) . np(1 − p)

´ gy, hogy ha Válasszuk az 0 < α << 1 értékhez az uα táblázati értéket u u ∈ N (0; 1) ⇒ P (|u| > uα ) = α. Ekkor

! ξ − np P p ≤ uα = 1 − α, np(1 − p)

´ 12.3. INTERVALLUM BECSLESEK

159

ahol az egyenl˝otlenség ekvivalens alak´ıtásával, és az ilyenkor elegend˝oen nagy n érték miatt megtehet˝o unα elhanyagolásával kapjuk: P

ξ uα −√ n n

s

ξ ξ · 1− n n

ξ uα ≤p≤ +√ n n

tehát kaptuk a ξ uα p∼ ±√ n n

s

s

! ξ ξ = 1 − α, · 1− n n

ξ ξ · 1− n n

(1−α)-szint˝ u kétoldali intervallum becslést. Az egyik oldali korlát elhagyásával nyerj¨ uk a s s uα ξ ξ uα ξ ξ ξ ξ · 1− · 1− p≥ −√ illetve p ≤ + √ n n n n n n n n (1 − α2 )-szint˝ u alsó illetve fels˝o határokat. A kétoldali intervallum becslés pontossága f¨ ugg a mintától, de s uα ξ uα ξ √ ≤ √ · 1− n n n 2 n ezért tervezhet˝o, vagyis adott pontosság eléréséhez megadható a sz¨ ukséges megfigyelések n száma.. (b) (Visszatevés nélk¨ uli mintavétel) Legyen a s.m. egy Hyp(N, ·, n) eloszlás´ u v.v. megfigyelésével kapcsolatos. Jelölje ξ − a minta statisztika; a valósz´ın˝ uség paraméter, M − ahol M az alapsokaság ”megjelölt” p= N egyedeinek (ismeretlen) száma; Mivel E (ξ) = np D (ξ) =

s

n−1 n · p · (1 − p) · 1 − , N −1

és a hipergeonetrikus eloszlás elég nagy N, M értékek esetén közel´ıthet˝o a binomiális eloszlással, amit normális eloszlással közel´ıthet¨ unk, és ´ıgy az el˝oz˝oekhez hasonlóan kapjuk a s ξ uα ξ ξ n−1 p∼ ±√ · 1− · 1− n n n n N −1 (1 − α)-szint˝ u kétoldali intervallum becslést. Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


160

2. Norm´ alis eloszl´ as v´ arhat´ o´ ert´ ek´ enek intervallum becsl´ ese ismert σ 0 sz´ or´ as eset´ en. Egy N (·; σ 0 ) eloszlás´ u v.v. n-ismételt megfigyelése esetén jelölje ξ = (ξ 1 , ξ 2 , . . . , ξ n ) − a minta statisztikát; m − a várható érték paramétert; Mivel ξ k ∈ N (m; σ 0 ) k = 1, 2, . . . , n f¨ uggetlenek, ¯ξ − m √ n ∈ N (0; 1) . σ0 Válasszuk az 0 < α << 1 értékhez az uα táblázati értéket u ´ gy, hogy ha u ∈ N (0; 1) ⇒ P (|u| > uα ) = α. Ekkor

¯ ξ − m√ P n ≤ uα = 1 − α , σ0

amib˝ol az egyenl˝otlenség ekvivalens alak´ıtásával kapjuk σ0 σ0 ¯ ¯ P ξ − uα √ ≤ m ≤ ξ + uα √ =1−α , n n tehát

σ0 m ∼ ¯ξ ± uα √ n

(1 − α)-szint˝ u kétoldali intervallum becslés, és σ0 m ≥ ¯ξ − uα √ n

illetve

σ0 m ≤ ¯ξ + uα √ n

(1 − α2 )-szint˝ u féloldali megb´ızhatósági határok. A kétoldali becslés pontossága σ0 √ uα n ismert (nem f¨ ugg a mintától), ezért tervezhet˝o. Megjegyz´ es: P A fentiek mintájára, megadható további η = (η 1 , η 2 , . . . , η k ) megfi1 gyelések η¯ = k ki=1 η i a´tlagának konfidencia intervalluma, ugyanis

amib˝ol hasonlóan kaphatjuk:

¯ξ − η¯ q σ 0 n1 +

1 k

∈ N (0; 1) ,

η¯ ∼ ¯ξ ± uα · σ 0 · (1 − α)-valósz´ın˝ uséggel.

r

1 1 + n k

´ 12.3. INTERVALLUM BECSLESEK

161

3. Norm´ alis eloszl´ as v´ arhat´ o´ ert´ ek´ enek intervallum becsl´ ese ismeretlen sz´ or´ as eset´ en. Egy N (·; ·) eloszlás´ u v.v. n-ismételt megfigyelése esetén jelölje ξ = (ξ 1 , ξ 2 , . . . , ξ n ) − a minta statisztikát; m − a várható érték paramétert; σ − a szórás paramétert; Mivel ξ k ∈ N (m; σ) k = 1, 2, . . . , n f¨ uggetlenek, és a χ2 eloszlás tulajdonságainak következményeként megfogalmazott 8.3 felhasználásával ¯ ξ−m √ ¯ξ − m √ n σ q n ∈ Tn−1 . = s∗ s∗2 σ2

Válasszuk az 0 < α << 1 értékhez a tα táblázati értéket u ´ gy, hogy ha t ∈ Tn−1 ⇒ P (|t| > tα ) = α.

Ekkor

¯ ξ − m√ P ∗2 n ≤ tα = 1 − α , s amib˝ol az egyenl˝otlenség ekvivalens alak´ıtásával kapjuk ∗ ∗ s s P ¯ξ − tα √ ≤ m ≤ ¯ξ + tα √ =1−α , n n

tehát

s∗ m ∼ ¯ξ ± tα √ n

(1 − α)-szint˝ u kétoldali intervallum becslés, és s∗ m ≥ ¯ξ − tα √ n

illetve

s∗ m ≤ ¯ξ + tα √ n ∗

(1− α2 )-szint˝ u féloldali megb´ızhatósági határok. A kétoldali becslés pontossága t α √s n most f¨ ugg a mintától, ezért közvetlen¨ ul nem tervezhet˝o. Megjegyz´ es: Most is megadható további η = (η 1 , η 2 , . . . , η k ) megfigyelések η¯ = Pk 1 ´tlagának konfidencia intervalluma, ugyanis i=1 η i a k

amib˝ol hasonlóan kaphatjuk:

¯ξ − η¯ q s∗ n1 +

1 k

∈ Tn−1 ,

η¯ ∼ ¯ξ ± tα · s · ∗

r

1 1 + n k

(1 − α)-valósz´ın˝ uséggel. Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


162

4. Norm´ alis eloszl´ as sz´ or´ as´ anak konfidencia hat´ arai. Egy N (·; ·) eloszlás´ u v.v. n-ismételt megfigyelése esetén jelölje ξ = (ξ 1 , ξ 2 , . . . , ξ n ) − a minta statisztikát; σ − a szórás paramétert; Mivel ξ k ∈ N (m; σ) k = 1, 2, . . . , n f¨ uggetlenek, és a χ2 eloszlás tulajdonságainak következményeként megfogalmazott 8.3 felhasználásával n − 1 ∗2 s ∈ χ2n−1 . 2 σ Válasszuk az 0 < α << 1 értékhez a χ21− α2 < χ2α2 táblázati értékeket u ´ gy, hogy ha η ∈ χ2n−1 ⇒ P (η > χ21− α ) = 1 − 2

Ekkor P

χ21− α 2

α 2

és P (η > χ2α ) = 2

n − 1 ∗2 ≤ s ≤ χ2α 2 σ2

α . 2

=1−α ,

amib˝ol az egyenl˝otlenség ekvivalens alak´ıtásával kapjuk ! s s n − 1 n − 1 ≤ σ ≤ s∗ · =1−α , P s∗ · χ2α χ21− α 2

2

tehát σ∼

∗

s ·

s

n−1 ∗ ;s · χ2α 2

s

n−1 χ21− α 2

!

(1 − α)-szint˝ u kétoldali intervallum becslés, és s s n − 1 n−1 σ ≥ s∗ · illetve σ ≤ s∗ · 2 χα χ21− α 2

2

(1 − α2 )-szint˝ u féloldali megb´ızhatósági határok. 12.8. Megjegyz´ es. A utóbbi intervallum becslések a normális eloszlás feltételezése nélk¨ ul is megadhatók, és elég nagy minta esetén, mivel az itt szerepl˝o a´tlag és empirikus szórásnégyzet statisztikák a C.H.T. miatt ekkor közel normális eloszlás´ uak, a normális eloszlás esetének megfelel˝o konfidencia szintet kapunk.

12.4.

Feladatok

1. U (0; ·) eloszlás´ u v.v. n-ismételt megfigyelése esetén becs¨ ulj¨ uk az eloszlás intervallumának d fels˝o határát! Adjuk meg a likelihood f¨ uggvényt, keress¨ unk elégséges statisztikát, adjunk maximum likelihood becslést a d paraméterre! Vizsgáljuk a becslések torz´ıtatlanságát és hatékonyságát!

163

12.4. FELADATOK

2. Adjunk intervallum becslést (a) Poisson eloszlás paraméterére; (b) exponenciális eloszlás várható értékére; (c) két azonos szórás´ u normális eloszlás várható értékének k¨ ulönbségére; 3. Legyen egy alkatrész élettartamának eloszlásf¨ uggvénye: 0 ha x ≤ 0 F (x) = . −αx2 1−e ha x > 0

ahol α > 0 ismeretlen paraméter. 6db ilyen alkatrész élettartamát megfigyelve kaptuk: 12.5 4.5 17.6 6.8 21.2 16.4 Keress¨ unk elégséges statisztikát, adjuk meg α maximum likelihood becslését!

4. Egy folytonos eloszlás´ u v.v. s˝ ur˝ uségf¨ uggvénye α · xα−1 ha 0 < x < 1 f (x) = 0 egyébként

ahol α > 0 ismeretlen paraméter. n-ismételt megfigyelés esetén (a) adjuk meg a likelihood f¨ uggvényt, keress¨ unk elégséges statisztikát! (b) kész´ıts¨ unk maximum likelihood becslést az α1 paraméterre, torz´ıtatlan-e ez a becslés?

5. Egy ismeretlen valósz´ın˝ uség˝ u eseményt az els˝o bekövetkezéséig figyel¨ unk meg. Kész´ıts¨ unk maximum likelihood becslést a valósz´ın˝ uség paraméterre! Torzitatlan-e ez a becslés? 6. Legyen a statisztikai modell egy F (x) =

0 ha x ≤ 0 −αxβ 1−e ha 0 < x

eloszlásf¨ uggvény˝ u v.v. n-ismételt megfigyelésével kapcsolatos. (a) (b) (c)

Írjuk fel a likeihood f¨ uggvényt az α, β pozit´ıv paraméterek f¨ uggvényeként! Keress¨ unk elégséges statisztikát! Adjuk meg a maximum likelihood becslések implicit egyenletét!

7. Hasonl´ıtsuk o¨ssze a szokásos becslések hatékonyságát (a) binomiális (b) exponenciális (c) normális eloszlások paraméterei esetén az információs határral! Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.

164


13. fejezet Hipot´ ezis vizsg´ alat 13.1.

Alapfogalmak

13.1. Defin´ıci´ o. i) A lehetséges valósz´ın˝ uségi mértékek H0 ⊂ P részét hipotézisnek nevezz¨ uk. A H0 hipotézis P-re vonatkozó H1 = P \ H0 komplementerét alternat´ıv hipotézisnek nevezz¨ uk. ii) Egy hipotézist egyszer˝ unek nevez¨ unk, ha egy eleme van, egyébként o¨sszetettnek mondjuk. iii) Egy H0 hipotézis eldöntésére szolgáló α ∈]0; 1[ terjedelm˝ u kritikus tartománynak nevezz¨ uk a mintatér K ∈ A részhalmazát, melyre teljes¨ ul PH0 (K) = α vagyis P (K) = α P ∈ P . iv) Egy H0 hipotézis eldöntésére szolgáló K kritikus tartomány´ u próba er˝of¨ uggvénye, illetve jelleggörbéje az E = P(K) illetve J = 1 − P(K) paraméter. Megjegyz´ esek: 1. A fenti fogalmakat u ´ gy alkalmazzuk, hogy ha x ∈ K ⇒ elutas´ıtjuk H0 -t, vagyis az ”igazi” valósz´ın˝ uségi mértéket H1 -belinek fogadjuk el. Ha pedig x∈ / K ⇒ elfogadjuk H0 -t, vagyis az ”igazi” valósz´ın˝ uségi mértéket H0 -belinek tekintj¨ uk. Következtetés¨ unket az els˝o esetben az indokolja, a szokásos α < 0.1 esetben, hogy kis valósz´ın˝ uség˝ u esemény bekövetkezésében kételked¨ unk, m´ıg a második esetben erre nincs okunk. Ezt az eljárást statisztikai pr´ ob´ a nak nevezz¨ uk. 165

´ ´ 13. FEJEZET. HIPOTEZIS VIZSGALAT

166

2. Paraméterekkel kapcsolatos hipotéziseket gyakran használunk, ilyen lehet pl. a ϑ skalár paraméterrel kapcsolatos H0 = {P ∈ P | ϑ(P ) = ϑ0 }

röviden H0 : ϑ = ϑ0

ahol ϑ0 egy adott, hipotetikus érték. Ilyen hipotézist többnyire a H1 = {P ∈ P | ϑ(P ) 6= ϑ0 }

röviden H1 : ϑ 6= ϑ0

un. kétoldali alternat´ıv hipotézissel, de esetenként a H1+ = {P ∈ P | ϑ(P ) > ϑ0 }

röviden H1+ : ϑ > ϑ0

H1− = {P ∈ P | ϑ(P ) < ϑ0 }

röviden H1− : ϑ < ϑ0

illetve un. féloldali alternat´ıv hipotézissel egy¨ utt fogalmazunk meg. 3. A próba során, egy x ∈ X megfigyelt minta esetén, kétféleképpen dönthet¨ unk hibásan: (a) Els˝ ofaj´ u hiba – ha x ∈ K és az ”igazi” valósz´ın˝ uségi mérték H 0 -beli; Ennek mértéke az α = PH0 (K) adott terjedelem. (b) M´ asodfaj´ u hiba – ha x ∈ / K és az ”igazi” valósz´ın˝ uségi mérték H 1 -beli; Ennek mértéke a β = PH1 (K) = 1 − PH1 (K) = 1 − E|H1 = J|H1 alternat´ıv hipotézisre lesz˝ uk´ıtett paraméter. Ezért olyan próba k´ıvánatos, melynek er˝of¨ uggvénye H0 -on konstans α érték˝ u, a H1 alternat´ıv hipotézis esetén pedig nagy, egyhez közeli érték˝ u. Tehát a kritikus tartomány kijelölése határozza meg egy próba erejét (jóságát), és az α-terjedelm˝ u K1 , K2 kritikus tartomány´ u próbák köz¨ ul az els˝ot er˝osebbnek (illetve az utóbbit gyengébbnek) mondjuk, ha E1 illetve E2 er˝of¨ uggvényeikre teljes¨ ul E1|H1 = PH1 (K1 ) ≥ E2|H1 = PH1 (K2 ) , vagyis azonos alternat´ıva esetén az els˝onél kisebb a másodfaj´ u hiba mértéke. 4. Ha ϑ egy skalár paraméter, és ϑ ∼ (t1 ; t2 )

egy (1 − α)-szint˝ u intervallum becslés, akkor a H0 : ϑ = ϑ0 hipotézis eldöntésére szolgáló α-terjedelm˝ u kritikus tartomány lesz: K = {x ∈ X | ϑ0 < t1 (x) vagy t2 (x) < ϑ0 } .

´ ÍNUS ˝ EGH ´ ´ ´ 13.2. VALOSZ ANYADOS PROBA

13.2.

167

Val´ osz´ın˝ us´ egh´ anyados pr´ oba

A következ˝o a´ll´ıtásban, egy egyszer˝ u esetben megmutatjuk, hogy a fenti értelemben leger˝osebb próba megadásához a legnagyobb valósz´ın˝ uség elve vezet. 13.2. T´ etel (Neyman–Pearson lemma). Legyenek P = {P0 , P1 } és H0 = {P0 }, H1 = {P1 }. Jelölje továbbá L a likelihood föggvényt, KC = {x ∈ X | L(x; P0 ) < C · L(x; P1 )} ,

(13.1)

ahol C > 0, és α = P0 (KC ) a KC kritikus tartomány´ u próba terjedelme. Ekkor tetsz˝oleges, a H0 hipotézis eldöntésére szolgáló legfeljebb α-terjedelm˝ u K kritikus tartomány´ u próba gyengébb, azaz P1 (KC ) ≥ P1 (K), és az egyenl˝oség nem teljes¨ ulhet, ha P0 (K) < α. Bizony´ıt´ as. Legyen K ∈ A és P0 (K) ≤ α, és vizsgáljuk a H(x) = [1KC (x) − 1K (x)] · [C · L(x; P1 ) − L(x; P0 )]

x∈X

f¨ uggvényt. Mivel x ∈ KC ⇒ 1KC (x) − 1K (x) ≥ 0 és C · L(x; P1 ) − L(x; P0 ) > 0 továbbá x∈ / KC ⇒ 1KC (x) − 1K (x) ≤ 0 és C · L(x; P1 ) − L(x; P0 ) ≤ 0 teljes¨ ul H(x) ≥ 0 x ∈ X , amit rendezve kapjuk C · [1Kc (x) · L(x; P1 ) − 1K (x) · L(x; P1 )] ≥ 1KC (x) · L(x; P0 ) − 1K (x) · L(x; P0 ) x ∈ X. Az egyenl˝otlenség mindkét oldalát integrálva X-en a folytonos statisztikai modell esetén, illtve o¨sszegezve X-elemeire a diszkrét esetben, kapjuk C · [P1 (KC ) − P1 (K)] ≥ P0 (KC ) − P0 (K) = α − P0 (K) ≥ 0, amit bizony´ıtani kellett. A 13.2 tétel szerint tehát olyan 1 > C > 0 konstanshoz tartozó KC kritikus tartományt érdemes keresni, amelyre teljes¨ ul 13.1 a ”legvalósz´ın˝ ubb” P 0 ∈ H0 és P1 ∈ H1 esetén, vagyis KC =

x ∈ X | sup L(x; P0 ) < C · sup L(x; P1 ) P0 ∈H0

P1 ∈H1



168 ami pozit´ıv likelihood f¨ uggvény esetén a λ(x) =

supP0 ∈H0 L(x; P0 ) supP ∈P L(x; P )

x∈X

statisztikával is megadható: Kc = {x ∈ X | λ(x) < c} . Az ilyen kritikus tartomány´ u próbát val´ osz´ın˝ uségh´ anyados pr´ ob´ a nak nevezz¨ uk, és mint a legnagyobb valósz´ın˝ uség elve alapján hozott más következtetéseinknél is, a kritikus tartomány bekövetkezése eldönhet˝o az elégséges statisztika (ha van!) ismeretében. Természetesen a c konstans megadásának lehet˝osége egy adott α terjedelemhez mindebb˝ol még nem következik, de esetenként találhatunk erre megoldást. Bizony´ıtás nélk¨ ul kimondjuk a következ˝o a´ll´ıtást, mely elég a´ltalános feltételek mellett lehet˝ové teszi ilyen próbák kész´ıtését az n-ismételt megfigyelés modelljében. ´ ıt´ 13.3. All´ as. Ha a H0 hipotézis a ϑ = (ϑ1 , ϑ2 , . . . , ϑr ) meghatározó paraméterrel kapcsolatos, mégpedig H0 : ϑ1 = ϑ01 , ϑ2 = ϑ02 , . . . , ϑp = ϑ0p ahol ϑ01 , ϑ02 , . . . , ϑ0p adott értékek, p ≤ r, akkor elég nagy minta esetén −2 ln(λ) eloszlása H0 teljes¨ ulésekor közel´ıt˝oen χ2 eloszlás´ u p szabasági fokkal.

13.2.1.

Bartlett pr´ oba

Használjuk az el˝obbi a´ll´ıtást a következ˝o feladatban. Legyen a statisztikai modell r szám´ u f¨ uggetlen normális eloszlás´ u valósz´ın˝ uségi változó n1, n2 , . . . , nr ismételt megfigyelésével kapcsolatos. Jelölje a minta elemeket ξ ij

j = 1, 2, . . . ni

i = 1, 2, . . . r,

az r szám´ u minta várható érték és szórás paraméterét pedig mi , σ i

i = 1, 2, . . . r,

tehát ξ ij ∈ N (mi , σ i ) j = 1, 2, . . . ni

i = 1, 2, . . . r.

Vizsgáljuk a H0 : σ 1 = σ 2 = . . . = σ r hipotézist. A valósz´ın˝ uséghányados próbához határozzuk meg a liklehood f¨ uggvény maximumát. Ez a maximum P ∈ P esetén, mivel azt mintánként határozhatjuk meg n no 1 exp − n n 2 (2π) 2 s1 1 sn2 2 · · · snr r ahol s2i

ni 2 1 X = ξ ij − ¯ξ i. ni j=1

i = 1, 2, . . . r,

és n =

r X i=1

ni .


169

H0 esetén a maximumát kell venni az alábbi kifejezésnek, ahol σ jelöli a közös szórás paramétert: ) ( r X ni 1 s2i + (¯ξ i. − mi )2 . exp − n 2 2σ (2π) 2 σ n i=1 Maximum helyen nyilván mi = ¯ξ i. , és igy σ-szerinti maximumhelyként kapjuk v u r u1 X S=t ni s2i , n i=1 tehát a maximum értéke

n no 1 . exp − n 2 (2π) 2 S n Thát a statisztika, amire a próbát alapozzuk sup L(.; P0 )

λ=

P0 ∈H0

sup L(.; P )

=

sn1 1 sn2 2 · · · snr r . Sn

P ∈P

Ha a szórások helyett paraméterként a σ 1, σ 2 − σ 1 , σ 3 − σ 1 , . . . , σ r − σ 1 paramétereket vezetj¨ uk be, hipotézis¨ unk r − 1 szám´ u praméterre vonatkozóan H0 : σ 2 − σ 1 = 0, σ 3 − σ 1 = 0, . . . , σ r − σ 1 = 0

alakban ´ırható. Korábbi a´ll´ıtásunk szerint a 2

−2 ln(λ) = n ln S − χ2r−1

r X

ni ln s2i

i=1

eloszlás, ezért válasszunk egy 0 < α < 1 számot, statisztika eloszlása H0 esetén közel 2 és táblázatból egy χα értéket, melyre P (η > χ2α ) = α ha η ∈ χ2r−1 , és ekkor PH0 (−2 ln(λ) > χ2α ) = α.

Tehát K = {x ∈ X | −2 ln(λ(x)) > χ2α } α-terjedelm˝ u kritikus tartomány H0 eldöntésére. M. S. Bartlett megmutatta, hogy a korrigált empirikus szórásokat használva, a következ˝o módos´ıtott próba-statisztika már kis minta esetén is kielég´ıt˝oen χ 2r−1 eloszlás´ u a H0 hipotézis esetén: ! r X 2.3026 (n − r) ln S ∗2 − (ni − 1) ln s∗2 i c i=1

ahol

r

X 1 1 1 − c = 1+ 3(r − 1) i=1 ni − 1 n − r ni 2 s i = 1, 2, . . . r s∗2 = i ni − 1 i r 1 X ∗2 S = (ni − 1)s∗2 i . n − r i=1

!



170

13.2.2.

Val´ osz´ın˝ us´ eg pr´ ob´ aja, (n;c) terv

Tömeggyártás min˝oségellen˝orzésének alapvet˝o feladata, hogy egy minta alapján eldöntend˝o, nem tartalmaz e a termékhalmaz a megengedettnél több hibás darabot. Ha a selejthányadot p jelöli, akkor ez annak valósz´ın˝ usége, hogy egy kiválasztott termék hibás. Vizsgálnunk kell tehát azt a hipotézist, hogy az ismeretlen selejthányad meghaladja-e az el˝oirás szerinti p0 értéket, tehát vizsgáljuk a H0 : p = p0 hipotézist a H1 : p > p0 alternat´ıvával szemben. Feladatunk olyan kritikus tartomány kijelölése, melyhez tartozó els˝ofaj´ u hiba α. Legyenek 0 < p0 < p1 < 1, és vizsgáljuk el˝oször azt az esetet, amikor H0 : p = p0 , H1 : p = p1 . A likelihood f¨ uggvényt a p paraméter f¨ ugvényében ´ırva (közel´ıtve a c) és d) esetben), n elem˝ u mintát véve: a) visszatevés nélk¨ uli mintavétel esetén M N −M L(k; p) =

k

n−k N n

k = 0, 1, 2, . . . n

és N jelöli a sokaság elemszámát, melyb˝ol az n elem˝ u mintát ahol p = M N választottuk, M pedig a hibás darabok számát. Tehát egy hipergeometrikus eloszlás´ u v.v. megfigyelésével kapcsolatos a s.m., ahol p meghatározó paraméter, ha M és N köz¨ ul az egyik ismeretlen. b) visszatevéses mintavétel esetén n k p (1 − p)n−k L(k; p) = k

k = 0, 1, 2, . . . n.

Ekkor egy n-edrend˝ u binomiális eloszlás´ u v.v.-t figyel¨ unk meg, melynek p paramétere ismeretlen. c) nagy minta, és kis p esetén ( np < 10 ) L(k; p) ≈

(np)k −np e k!

k = 0, 1, 2, . . . .

Tehát a megfigyelt v.v. Poisson eloszlás´ u, ismeretlen λ = np paraméterrel. d) nagy minta és np > 10 esetén L(k; p) ≈ Φ

k + 1 − np p 2 np(1 − p)

1 ≈ p ϕ np(1 − p)

!

! k − 21 − np −Φ p ≈ np(1 − p) ! k − np p k = 0, 1, 2, . . . . np(1 − p)

p Ekkor egy np várható érték˝ u és np(1 − p) szórás´ u normális eloszlást figyel¨ unk meg, ahol p az ismeretlen paraméter.


171

Egyszer˝ u számolással kapjuk, hogy a C konstans´ u valósz´ın˝ uséghányados próba kritikus tartományára mindegyik esetben KC = {k ∈ {1, 2, . . .} | L(k; p0 ) ≤ C · L(k; p1 )} = = Kc = {k | k > c, k = 1, 2, . . .} , figyelembe véve, hogy 0 < C < 1, és p0 < p1 , és c egy alkalmasan választott pozit´ıv egész szám. Tehát keress¨ uk c-t u ´ gy, hogy a Kc = {k | k > c, k = 1, 2, . . . , n} kritikus tartomány α valósz´ın˝ uség˝ u legyen H0 esetén. Egy α értékhez azonban nem feltétlen található ilyen egész szám, ezért keress¨ uk azt a legkisebb c ∈ N számot, melyre n X

k=c+1

vagy másképpen:

c X k=0

L(k; p0 ) ≤ α

L(k; p0 ) ≥ 1 − α.

Ekkor a Kc kritikus tartomány´ u próba β másodfaj´ u hibája: c X

L(k; p1 ) = β.

k=0

Ha a továbbiakban tetsz˝oleges p ∈]0; 1[ értéket megengd¨ unk, a próba jelleggörbéje, ami annak valósz´ın˝ usége, hogy a H0 hipotézist elfogadjuk J (p) =

c X k=0

L(k; p) p ∈]0; 1[.

Könnyen ellen˝orizhet˝o, hogy ez p-nek monoton csökken˝o f¨ uggvénye, lim 0 J (p) = 1 és lim1 J (p) = 0, tehát p0 -nál kisebb p esetán még α-nál is kisebb els˝ofaj´ u hibával, p1 -nél nagyobb p esetén pedig β-nál kisebb másodfaj´ u hibával dönthet¨ unk tévesen. Igaz ugyan, hogy p0 és p1 között a döntési hiba nagy, de ha a valóban veszélyes alternat´ıva értéke p1 -nél kezd˝odik, akkor az ilyen fajta rossz döntés még nem jelenthet megengedhetetlen kockázatot. Ha β értékét is el˝o´ırjuk, a minta elemszáma tervezhet˝o. Ezt nevezz¨ uk az α, β-hibákhoz tartozó (n; c)-tervnek. Azt a legkisebb n egészet kell választani, melyre egyszerre teljes¨ ulnek c X

k=0 c X k=0

L(k; p0 ) ≥ 1 − α, L(k; p1 ) ≤ β.

Egy lehetséges algoritmus n meghatározására, ha egy kezd˝o n = n 0 értékb˝ol indulunk, és a gyakorlati eseteknek megfelel˝oen a c)-beli likelihood f¨ uggvény alakot hasznlva: Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


172

1. n esetén meghatározzuk azt a legkisebb c egészt, melyre c X k=0

2. Ha

L(k; p0 ) ≥ 1 − α.

c X k=0

L(k; p1 ) ≤ β

teljes¨ ul, megvan a keresett n, ha nem n + 1 értékével folytatjuk az 1. lépésnél. Mindez a d) esetben egyszer˝ ubben alakul, ugyanis c X

k=0 c X k=0

13.3.

L(k; p0 ) ≈ Φ L(k; p1 ) ≈ Φ

c − np0

p np0 (1 − p0 ) c − np1

p np1 (1 − p1 )

! !

≥1−α ≤β .

Norm´ alis eloszl´ as param´ etereinek pr´ ob´ ai

Megmutatható, hogy az alábbi próbák ekvivalensek egy valósz´ın˝ uséghányados próbával, de a kritikus tartományokat egyszer˝ ubben, közel´ıt˝o eloszlás felhasználása nélk¨ ul adjuk meg. 1. (Egymint´ as) u-pr´ oba. Legyen a s.m. egy N (·; σ 0 ) eloszlás´ u v.v. n ismételt megfigyelésével kapcsolatos, ahol σ 0 adott. Jelölje a minta statisztikát ξ = (ξ 1 , ξ 2 , . . . , ξ n ), és m a várható érték paramétert, és vizsgáljuk a H0 : m = m0 hipotézist a H1 : m 6= m0 alternat´ıvával szemben. Mivel H0 esetén ¯ξ − m0 √ σ0 ¯ξ ∈ N m0 ; √ ⇒ n ∈ N (0; 1) , n σ0 válasszuk a 0 < α << 1 értékhez táblázatból uα értékét u ´ gy, hogy u ∈ N (0; 1) esetén P (|u| > uα ) = α, akkor ¯ ξ − m0 √ PH0 n > uα = α , σ0 tehát kaptuk a ¯ − m0 √ n x K= x∈R | n > uα σ0 α-terjedelm˝ u, kétoldali kritikus tartományt. Hasonlóan nyerhet˝ok ¯ − m0 √ + n x K = x∈R | n > u2α σ0 ¯ − m0 √ − n x K = x∈R | n < −u2α σ0

´ ´ PARAMETEREINEK ´ ´ AI ´ 13.3. NORMALIS ELOSZLAS PROB

173

ugyancsak α-terjedelm˝ u, féloldali kritikus tartományok. Adjuk meg a megfelel˝o er˝of¨ uggvényeket a k¨ ulönböz˝o próbák o¨sszehasonl´ıtásához, tehát ¯ ξ − m0 √ E = P(K) = 1 − P n ≤ uα = σ0 ¯ξ − m √ m0 − m √ m0 − m √ n≤ n ≤ uα + n = = 1 − P −uα + σ0 σ0 σ0 m0 − m √ m0 − m √ = 1 − Φ uα + n + Φ −uα + n , σ0 σ0 illetve hasonlóan nyerhet˝ok E

m0 − m √ n = 1 − Φ u2α + σ0 m0 − m √ n . = Φ −u2α + σ0

+

E−

Egyszer˝ uen ellen˝or´ızhet˝o, hogy E az m paraméter m0 -ra szimmetrikus f¨ uggvénye, és E E E E

< > < >

E + ha α > E+ E − ha α > E−

m0 ha m0 ha

<m m0 > m >m m0 < m .

Tehát a H1+ : m0 < m illetve H1− : m0 > m alternat´ıv hipotézisek esetén er˝osebb próbákat kapunk a K + illetve K − kritikus tartományok alkalmazásával. Teljes¨ ulnek továbbá lim E = lim E + = lim E − = 1

m→±∞

m→+∞

m→−∞

és lim E = 1 ha m 6= m0

n→∞

lim E + = 1 ha m > m0

n→∞

lim E − = 1 ha m < m0

n→∞

ami azt jelenti, hogy a másodfaj´ u hiba adott alternat´ıva esetén tetsz˝olegesen kicsivé tehet˝o a minta n elemszámának növelésével. 2. Egymint´ as T -pr´ oba. Legyen a s.m. egy N (·; ·) eloszlás´ u v.v. n ismételt megfigyelésével kapcsolatos. Jelölje a minta statisztikát ξ = (ξ 1 , ξ 2 , . . . , ξ n ), és m, σ a várható érték és szórás paramétert, és Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


174

vizsgáljuk a H0 : m = m0 hipotézist a H1 : m 6= m0 alternat´ıvával szemben. Mivel H0 esetén (lásd 8.3) ¯ξ − m0 √ n ∈ Tn−1 s∗ válasszuk a 0 < α << 1 értékhez táblázatból tα értékét u ´ gy, hogy t ∈ Tn−1 esetén P (|t| > tα ) = α, akkor ¯ ξ − m0 √ n > tα = α , PH0 s∗ tehát kaptuk a

K = x ∈ Rn

x¯ − m0 √ | n > t α s∗

α-terjedelm˝ u, kétoldali kritikus tartományt. Hasonlóan nyerhet˝ok ¯ − m0 √ + n x K = x∈R | n > t2α s∗ ¯ − m0 √ − n x n < −t2α K = x∈R | s∗ ugyancsak α-terjedelm˝ u, féloldali kritikus tartományok. Az er˝of¨ uggvények viselkedése + − hasonló az el˝obbi esethez, ezért a H1 : m0 < m illetve H1 : m0 > m alternat´ıv hipotézisek esetén most is er˝osebb próbákat kapunk a K + illetve K − kritikus tartományok alkalmazásával. Továbbá az er˝of¨ uggvények jó közel´ıtése adható az u-próba megfelel˝o er˝of¨ uggvényeivel a táblázati értékek (uα x tα ), illetve a szórás és becslése (σ 0 x s∗ ) kicserélésével. 3. Sz´ or´ as χ2 pr´ ob´ aja. Legyen a s.m. egy N (·; ·) eloszlás´ u v.v. n ismételt megfigyelésével kapcsolatos. Jelölje a minta statisztikát ξ = (ξ 1 , ξ 2 , . . . , ξ n ), és σ a szórás paramétert, és vizsgáljuk a H0 : σ = σ 0 hipotézist a H1 : σ 6= σ 0 alternat´ıvával szemben. Mivel H0 esetén (lásd 8.3) n − 1 ∗2 s ∈ χ2n−1 σ 20 válasszuk a 0 < α << 1 értékhez táblázatból χ21− α < χ2α értékét u ´ gy, hogy η ∈ χ2n−1 2 2 esetén P (η > χ21− α ) = 1 − α2 és P (η > χ2α ) = α2 , akkor 2

K=

2

n − 1 ∗2 n − 1 ∗2 s < χ21− α ∨ χ2α < s x∈R | 2 2 2 σ0 σ 20 n

α-terjedelm˝ u, kétoldali kritikus tartomány. 4. K´ etmint´ as T -pr´ oba.

´ ´ PARAMETEREINEK ´ ´ AI ´ 13.3. NORMALIS ELOSZLAS PROB

175

Legyen a s.m. két azonos szórás´ u normális eloszlás´ u v.v. n1 illetve n2 ismételt megfigyelésével kapcsolatos. Jelölje a minta statisztikát (ξ, η) = (ξ 1 , ξ 2 , . . . , ξ n1 , η 1 , η 2 , . . . , η n2 ), és m1 , m2 a két várható érték paramétert, σ a közös szórás paramétert, és vizsgáljuk a H0 : m1 = m2 hipotézist a H1 : m1 6= m2 alternat´ıvával szemben. Mivel H0 esetén r 1 1 ¯ξ − η¯ ∈ N 0; σ · , + n1 n2 és ett˝ol f¨ uggetlen ∗2 (n1 − 1) · s∗2 1 + (n2 − 1) · s2 ∈ χ2n1 +n2 −2 , 2 σ ∗ ∗ ahol s1 illetve s2 jelöli a két minta korrigált empirikus szórást és ezekb˝ol kaphatjuk a közös szórásnégyzet ∗2 (n1 − 1) · s∗2 1 + (n2 − 1) · s2 σ2 ∼ S 2 = n1 + n 2 − 2

torz´ıtatlan becslését. Tehát H0 esetén

¯ξ − η¯ r n1 · n2 t= ∈ Tn1 +n2 −2 · S n1 + n 2 amib˝ol kaphatjuk a

K = (x; y) ∈ Rn1 +n2 | |t(x; y)| > tα

kétoldali kritikus tartományt, ahol tα a Tn1 +n2 −2 eloszláshoz tartozó megfelel˝o kritikus érték. 5. K´ et sz´ or´ as egyenl˝ os´ eg´ enek F pr´ ob´ aja. Legyen a s.m. két (nem feltétlen¨ ul azonos szórás´ u) normális eloszlás´ u v.v. n 1 illetve n2 ismételt megfigyelésével kapcsolatos. Jelölje a minta statisztikát (ξ, η) = (ξ 1 , ξ 2 , . . . , ξ n1 , η 1 , η 2 , . . . , η n2 ), és σ 1 , σ 2 a két szórás paramétert, és vizsgáljuk a H0 : σ 1 = σ 2 hipotézist a H1 : σ 1 6= σ 2 alternat´ıvával szemben. Mivel (n1 − 1) · s∗2 1 ∈ χ2n1 −1 2 σ1

(n2 − 1) · s∗2 2 ∈ χ2n2 −1 , 2 σ2

ahol az s∗1 és s∗2 korrigált empirikus szórás statisztikák f¨ uggetlenek, ezért H0 esetén s∗2 1 ∈ F(n1 −1;n2 −1) . s∗2 2 Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


176

´ gy, hogy η ∈ Válasszuk a 0 < α << 1 értékhez táblázatból f1− α2 < f α2 értékét u α α α α F(n1 −1;n2 −1) esetén P (η > f1− 2 ) = 1 − 2 és P (η > f 2 ) = 2 , akkor K=

(x; y) ∈ R

n1 +n2

s∗2 s∗2 1 < f1− α2 ∨ f α2 < 1∗2 | ∗2 s2 s2

α-terjedelm˝ u, kétoldali kritikus tartomány H0 eldöntésére. Mivel a szokásos terjedelmekhez tartozó táblázati értékekre f1− α2 < 1 < f α2 teljes¨ ul, a próbát u ´ gy célszer˝ u elvégezni, hogy a nagyobb empirikus szórásnégyzetet osztva a kisebbel, csupán az s∗2 f α2 < 1∗2 s2 egyenl˝otlenség teljes¨ ulését ellen˝or´ızz¨ uk. 13.4. Megjegyz´ es. A 12.8 megjegyzés¨ unk most is érvényes, ezért a fenti hipotézis vizsgálatok elég nagy minta esetén a normális eloszlás feltételezése nélk¨ ul is elvégezhet˝ok.

13.4.

Feladatok

1. Ha az (n; c) tervet u ´ gy alkalmazzuk sorozatosan, hogy N elem˝ u tételeket elfogadunk illetve visszautas´ıtunk a döntést˝ol f¨ ugg˝oen, adjuk meg a kibocsájtott selejthányad várható értékét a p f¨ uggvényében! Mennyi ennek maximuma? 2. Mutassuk meg, hogy a normális eloszlás paramétereinek itt megadott próbái valósz´ın˝ uséghányados próbák! 3. Kész´ıts¨ unk próbát exponenciális eloszlás paraméterére! 4. Adjuk meg a valósz´ın˝ uség próbáját, és a próba erejét a normális eloszlással való közel´ıtés esetén! 5. Adjuk meg a szórás χ2 próbájának er˝of¨ uggvényét! 6. Adjuk meg a kétmintás u-próbát a kétmintás t-próbához hasonlóan!

14. fejezet Line´ aris f¨ ugg˝ os´ egi kapcsolat Vizsgáljuk a következ˝o feladatot: egy y mennyiséget egy x mennyiségt˝ol f¨ ugg˝oen tudunk megfigyelni y = f (x) + , (14.1) ahol f a regresszi´ os f¨ uggvény, a megfigyelési hiba. Eset¨ unkben feltételezz¨ uk, hogy f az x-nek lineáris f¨ uggvénye, tehát ha pl. x egy p-dimenziós vektor-mennyiség: f (t1, t2, . . . , tp ) = a1 t1 + a2 t2 + . . . + ap tp

x = (t1, t2 , . . . , tp ) ∈ D ⊂ Rp

ahol az a1 , a2 , . . . ap ismeretlen regresszi´ os egy¨ uthat´ o kat kell becs¨ ulni az Y mennyiség x ∈ D ismert helyekhez tartozó megfigyelése alapján. Itt a D halmaz az X mennyiség lehetséges értékeit tartalmazó halmaz, melyben ha pl. az els˝o koordináta mind´ıg 1, azaz D = (1, t2 , t3 , . . . , tp )|(t2 , t3 , . . . , tp ) ∈ D 0 ⊂ Rp−1 , akkor a szokásos origón nem a´tmen˝o regressziós f¨ uggvényt kapjuk. Ha pedig D = (1, t, t2 , . . . , tp )|t ∈ J ⊂ R ,

akkor a p-edfok´ u polinom regressziós f¨ uggvényt kapjuk. Az hibáról azt tételezz¨ uk fel, hogy k¨ ulönböz˝o x ∈ D helyekhez tartozó x hibák f¨ uggetlenek, és N (0, σ) eloszlás´ uak azonos σ (ismeretlen) szórással.

14.1.

Egyenl˝ o m´ ert´ ek˝ u, f¨ uggetlen megfigyel´ esi hiba

Legyen tehát a statisztikai mez˝o az Y mennyiség x1 , x2 , . . . , xn ∈ D ⊂ Rp (adott) helyekhez tartozó értékének f¨ uggetlen megfigyelésével kapcsolatos, tehát a mintatér R n , és jelölje η = (η 1 , η 2 , . . . , η n ) a minta statisztikát, a = (a1 , a2 , . . . ap ) a regressziós egy¨ utthatók, és σ a megfigyelési hiba szórása paramétereket. Jelölje továbbá   xT1  xT   2  X =  ..  ∈ Rn×p  .  xTn 177

´ ¨ ˝ EGI ´ 14. FEJEZET. LINEARIS FUGG OS KAPCSOLAT

178

az un. terv m´ atrix ot, és feltessz¨ uk, hogy rang(X) =p. Ekkor η ∈ N (Xa, σ 2 In ) , ahol In az n × n-t´ıpus´ u egységmátrix. Irjuk a likelihood f¨ uggvényt az a és σ paraméterek f¨ uggvényében: 1 1 T L(y; a, σ) = exp − 2 (y − Xa) (y − Xa) y ∈ Rn . n n 2σ (2π) 2 · σ Kerress¨ uk a likelihood f¨ uggvény maximum helyét a ∈ Rp , és σ > 0 esetben. Ekkor a minimum helye a n X i=1

yı − xTı a

2

= (y − Xa)T (y − Xa) = y T y − 2y T Xa + aT XT Xa

p-változós másodfok´ u polinomf¨ uggvénynek. Ez a minimum feladat, a szokásos origón nem a´tmen˝o regressziós f¨ uggvény esetén, a legkisebb négyzetek módszere (lásd: 92. oldal) kapcsán megfogalmazott probléma megoldását jelenti. Feltételeinkb˝ol következik, hogy XT X pozit´ıv definit, ezért a keresett (y-tól f¨ ugg˝o) minimum hely b a(y) = XT X

−1

XT y

y ∈ Rn

és a minimum értéke −1 T −1 T T T SS(y) = y In − X X X X y = y T y − y T X XT X X y

y ∈ Rn .

Ezt a likelihood f¨ uggvény logaritmusába ´ırva, és σ-szerint deriválva n 1 ∂ ln ◦L (y; b a, σ) = − + 3 SS(y) ∂σ σ σ

amib˝ol kapjuk a σ-szerinti maximum helyet: r Kaptuk tehát az

σ b (y) =

1 SS(y). n

−1 T a ∼ b a = XT X X η −1 T −1 T 1 1 1 T σ2 ∼ σ b2 = SS = η T In − X XT X η η − η T X XT X X η X η= n n n

maximum likelihood becsléseket. Vizsgáljuk most a kapott becslések tulajdonságait. Az b a statisztika eloszlása normális, és −1 T E(b a ) = XT X X E(η) = a, −1 T −1 −1 T cov(b a, b a) = X X X cov(η, η)X XT X = σ 2 XT X ,

˝ MERT ´ EK ´ U, ˝ FUGGETLEN ¨ ´ HIBA 14.1. EGYENLO MEGFIGYELESI

179

tehát az a ∼ b a becslés torz´ıtatlan. Legyenek továbbá −1 T −1 T Q 1 = X XT X X , Q 2 = I n − X XT X X

szimmetrikus mátrixok, melyekre In = Q1 + Q2 . Mivel Q1 mint lineáris leképezés olyan értékkészlettel rendelkezik, melynek minden vektora az X mátrix oszlopvektorainak lineáris kombinációja, ezért Q1 rangja legfeljebb p, másrészt Q1 X = X, tehát értékkészletében van p szám´ u lineárisan f¨ uggetlen vektor, vagyis rangja legalább p. Tehát rang (Q 1 ) = p, és könnyen ellen˝or´ızhet˝o, hogy teljes¨ ul Q1 · Q2 = 0n×n ∈ Rn×n amib˝ol a χ2 eloszlás part´ıciós tulajdonságaként bizony´ıtott (Fisher-Cochran) tétel szerint következnek az alábbiak: rang (Q2 ) = n − p Q1 Q1 = Q 1 , Q2 Q2 = Q 2 továbbá az

1 1 T SS = η Q2 η σ2 σ2 négyzetösszeg χ2 -eloszlás´ u n − p szabadsági fokkal, mivel Q2 Xa = 0n×n ∈ Rn . Tehát E(b σ2) = vagyis a σ 2 ∼ σ b2 becslés torz´ıtott, és ezért a

n−p 2 σ , n

σ 2 ∼ s2R =

1 SS n−p

becslés torz´ıtatlan. Tovább cov (b a, Q2 η) = XT X

−1

XT cov(η, η)Q2 = 0 ∈ Rp×n ,

ezért b a és Q2 η, és ´ıgy b a és s2R is f¨ uggetlenek. Mindezek fontos következményei az alábbi intervallum becslések:

1. A regresszi´ os egy¨ uthat´ ok line´ aris f¨ uggvényének intervallum becslése. p T Legyen c ∈ R , és becs¨ ulj¨ uk az a c skalár paramétert! Mivel q −1 T T b a c∈N b a c; σ cT (XT X) c ezért aT c ∼ b aT c is torz´ıtatlan becslés, továbbá

b aT c − a T c q ∈ Tn−p , −1 T T sR c (X X) c Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


180 amib˝ol kapjuk az (1 − α)-szint˝ u

q a c∼b a c ± tα sR cT (XT X)−1 c T

intervallum becslést.

T

Speci´ alis esetek: (a) Ha c = ek a k-adik egységvektor, kapjuk a k-adik egy¨ uttható √ ak ∼ b ak ± tα sR qkk intervallum becslését, ahol qkk az . XT X

−1

mátrix f˝oa´tlójának k-adik eleme.

(b) Ha c = x a f¨ uggetlen változó egy lehetséges értéke, kapjuk az ehhez tertozó f¨ ugg˝o változó várható értékének q T T f (x) = a x ∼ b a x ± tα sR xT (XT X)−1 x becslését.

2. A f¨ ugg˝ o v´ altoz´ o véletlen értékének becslése. p Legyen x ∈ R , P becs¨ ulj¨ uk az ehhez tartozó további r-szám´ u y1 , y2 , . . . , yr véletlen értékekek y¯ = 1r ri=1 yi a´tlagát! Mivel σ T y¯ ∈ N a x; √ , r kapjuk y¯ − b aT x ∈ N

0; σ

amib˝ol nyerhet˝o az (1 − α)-szint˝ u T

intervallum becslés.

y¯ ∼ b a x ± t α sR

r

r

! 1 −1 + xT (XT X) x , r

1 + xT (XT X)−1 x r

(14.2)

3. A f¨ uggetlen v´ altoz´ o értékének becslése. Legyen most x ∈ Rp egy ismeretlen hely, melyhez tartozó r-szám´ u y 1 , y2 , . . . , yr véletlen értékek adottak. 14.2 a´trendezésével kapjuk 2 −1 1 T 2 2 T T P y¯ − b a x ≤ t α sR +x X X x =1−α , r

ahol az egyenl˝otlenség a´trendezésével nyerhet˝o az ismeretlen f¨ uggetlen változó (1 − α)-szint˝ u konfidencia tartománya.


181

Megjegyz´ es: A felsorolt intervallum becslések lehet˝oséget adnak a megfelel˝o paraméterrel kapcsolatos hipotézisek vizsgálatára. Vizsgáljuk most azt az esetet, amikor az a paraméter vektor néhány, pl. utolsó r szám´ u 0 komponense 0. Ez lényegében azt jelenti, hogy az Y f¨ ugg˝o változó kevesebb p = p − r szám´ u f¨ uggetlen változóval közel´ıthet˝o. Ennek megfelel˝oen jelölje az X mátrix els˝o p 0 oszlopát tartalmazó mátrixot X1 , melynek rangja p0 , és a els˝o p0 komponensét tartalmazó vektort a1 , tehát η ∈ N (X1 a1 , σ 2 In ) . Az ´ıgy nyert maradék négyzetösszeg statisztika −1 T SS1 = η T In − X1 XT1 X1 X1 η, amire nyilvánvalóan teljes¨ ul SS ≤ SS1 . A növekmény pedig −1 T −1 T SS2 = η T X XT X X − X1 XT1 X1 X1 η , tehát SS1 = SS + SS2 . Ekkor irhatjuk

0

In = Q + Q 1 + Q 2 ahol Q = X XT X 0

−1

−1

XT1 , −1 T X = I n − X XT X

Q1 = X1 XT1 X1 Q2

XT − X1 XT1 X1

−1

XT1 ,

szimmetrikus n × n t´ıpus´ u mátrixok, melyekr˝ol a korábbiak szerint tudjuk, hogy 0

rang(Q1 ) = p0 .

rang(Q2 ) = n − p és Mint azt már láttuk, a Q2 mátrixra

0 = Q2 Q1 ⇒ 0 = Q2 X =Q2 Q1 X, 0

tehát a Q2 mátrix az X mátrix oszlopait zérus vektorba viszi a´t. Ezért Q2 X1 ∈ Rn×p is zérus mátrix. Ezt felhasználva kapjuk 0

0

QQ1 = QQ2 = Q1 Q2 = 0 amib˝ol a már eml´ıtett Fisher-Cochran tétel szerint következnek: rang(Q) SS 1 SS2 σ2 1 SS σ2

= n − p0 − (n − p) = p − p0 = r, = η T Q2 η, SS2 = η T Qη f¨ uggetlenek,

(14.3)

∈ χ2r , mivel QE(η) = QX1 a1 = 0 ∈ Rn ∈ χ2n−p , mivel Q2 E(η) = Q2 X1 a1 = 0 ∈ Rn . Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


182

Használjuk most ezt az eredményt a szokásos origón nem a´tmen˝o regeressziós f¨ uggvény esetében annak eldöntésére, hogy a f¨ uggetlen változók befolyásolják-e a f¨ ugg˝o változót, vagyis az a0 + a1 xk1 + a2 xk2 + · · · + ap xkp k = 1, 2, . . . , n

regressziós f¨ uggvény kapcsán vizsgáljuk a H0 : a1 = a2 = · · · = ap hipotézist. Ekkor a H0 szerint sz˝ uk´ıtett modellben a maradék négyzetösszeg SS1 =

n X k=1

(η k − η¯)2 ,

amivel képezhetj¨ uk a meghatározottság fokát mér˝o un. determin´ aci´ os egy¨ utthat´ ot: R2 = 1 − Mivel H0 esetén σ2 ∼ torz´ıtatlan becslések, a

SS n−p−1 R∗2 = 1 −

SS . SS1 σ2 ∼

SS1 n−1

SS n−p−1 SS1 n−1

korrigált értékkel (is) szokás jellemezni a föggetlen változók hatásának mértékét. A H 0 hipotézis ellen˝orzéséhez 14.3 szerint használhatjuk az SS2 n − p − 1 R2 n−p−1 · = · ∈ F(p;n−p−1) 2 SS p 1−R p

(14.4)

ilyenkor F eloszlás´ u próba statisztikát. K¨ ovetkezm´ eny: Eredményeinket felhasználhatjuk az un. korrelációs-regressziós (lásd: 9.1 szakasz) statisztikai feladatok megoldásához. Legyen a statisztikai modell¨ unk egy 1 + p dimenziós normális eloszlás´ u v.v.v. n ismételt megfigyelésével kapcsolatos, jelölje a minta statisztikát η = [η 1 , η 2 , . . . , η n ]T ξ = [ξ kl ]l=1,2,...,p k=1,2,...,n . n o l=1,2,...,p Ha a mintatéren a ξ = [xkl ]k=1,2,...,n feltételre vonatkozó feltételes eloszlás melletti valósz´ın˝ uségi mértéket tekintj¨ uk, 9.7 szerint ekkor η ∈ N Xa, σ 2 In ahol



  X = 

1 x11 · · · x1p 1 x21 · · · x2p .. .. .. .. . . . . 1 xn1 · · · xnp

    


183

a nem origón a´tmen˝o lineáris regressziós probléma terv mátrixa. Ennek megfelel˝oen fenti eredményeink a megelel˝o feltételes eloszlás mellett érvényesek. Ekkor pl. az b a statisztika feltételes várható értéke a, de akkor feltétel nélk¨ uli várható értéke is, mivel a konstans (már nem f¨ uggvénye ξ-nek), tehát a regressziós egy¨ utthatók a∼b a

becslése most is torz´ıtatlan. Egy másik fontos következmény a többszörös korrelációs egy¨ uttható próbája. Vizsgáljuk a H0 : ρη|ξ = 0 hipotézist, ami 9.2 miatt az a1 = a2 = · · · = ap = 0 feltétellel ekvivalens, tehát H0 esetén (a feltétel mellett, de akkor nélk¨ ule is) n−p−1 R2 · ∈ F(p;n−p−1) . 2 1−R p Vegy¨ uk észre továbbá, hogy σ 2R ∼

SS n−p−1

D2 (η k ) ∼

SS1 n−1

torz´ıtatlan becslések a feltételes eloszlás mellett, de akkor feltétel nélk¨ ul is, tehát 9.1 szerint kapjuk a többszörös korrelációs egy¨ uttható ρη|ξ ∼ R∗ korrigált, illeve ρη|ξ ∼ R nem korrigált becsését. Ha p = 1, kapjuk két normális eloszlás´ u v.v. r korrelációs egy¨ utthatójának próbáját. Vegy¨ uk figyelembe, hogy 9.3 szerint ρη|ξ = |r|, és 9.5 felhasználásával a maradék négyzeto¨sszeg 2 P 1 ¯ξ¯ X ξ η − η k k SS = η 2k − n¯ η2 − n n 1 P 2 , 2 ξ − ¯ξ n

k

és ´ıgy most R2 = rˆ2 , ahol

rˆ = r P 1 n

P

ξ k η k − ¯ξ¯ η q P 2 1 ξ 2k − ¯ξ η 2k − η¯2 n 1 n

az un. emp´ırikus korrel´ aci´ os egy¨ utthat´ o. Továbbá egy F (1;n−2) eloszás´ u v.v. egy Tn−2 eloszlás´ u négyzete, tehát H0 : r = 0 esetén kapjuk a √

√ rˆ · n − 2 ∈ Tn−2 1 − rˆ2

próba statisztikát. Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


184

14.2.

Korrel´ alt megfigyel´ esi hib´ ak

Vizsgáljuk most azt az esetet, amikor az megfigyelési hibák nem f¨ uggetlenek, iletve szórásaik k¨ ulönböz˝oek. Ez az eset fordul el˝o akkor, amikor adott x i ∈ D helyhez több, Pegy i η ij j = 1, 2, . . . , kı megfigyelés tartozik, és ezek η¯i. = n1i nj=1 η ij a´tlaga a´ll rendelkezésre. Tegy¨ uk fel tehát, hogy most a minta statisztika eloszlása: η ∈ N Xa, σ 2 Λ 1

ahol Λ ∈ Rn×n adott pozit´ıv definit szimmetrikus mátrix. Ekkor van olyan Λ 2 ∈ Rp×n pozit´ıv definit szimmetrikus mátrix az un. s´ ulym´ atrix, melyre 1

1

Λ = Λ2 · Λ2. 1 1 Ekkor a ζ = Λ− 2 η minta vektorra már ζ ∈ N Λ− 2 Xa, σ 2 In teljes¨ ul. Ezt felhasználva, hasonlóan nyerhet˝oek az −1 T −1 a ∼ b a = XT Λ−1 X X Λ η −1 T −1 1 T −1 1 η Λ η − η T Λ−1 X XT Λ−1 X X Λ η σ2 ∼ σ b2 = SS = n n 1 σ 2 ∼ s2R = SS n−p ahol most is teljes¨ ul

1 σ2

−1 b a ∈ N a, σ 2 XT Λ−1 X

SS ∈ χ2n−p

uggetlenek. és b a és s2R f¨ Vizsgáljuk most az ismételt megfigyelés esetét, amikor minden xi értékhez ki szám´ u η ij megfigyelés tartozik (i = 1, 2, . . . n). Ekkor

és az εi ∈ N 0;

√σ ki

amivel a következ˝o

η¯i· = aT · xi + εi

i = 1, 2, . . . n

i = 1, 2, . . . n hiba tagok f¨ uggetlenek. Tehát 

  Λ =  p ki η¯i. ,

1 k1

0 .. .

0

0 1 k2

.. . 0

p k i xi

··· ··· .. .

0 0 .. .

···

1 kn



  , 

i = 1, 2, . . . n

(14.5)

´ ´ HIBAK ´ 14.2. KORRELALT MEGFIGYELESI

185

s´ ulyozott minta elemeket és f¨ uggetlen változó vektorokat használjuk. szórásnégyzetének becslésére használhatjuk az

Ekkor a hiba

k

si∗2 statisztikákat, melyekb˝ol

i 2 1 X η ij − η¯i. i = 1, 2, . . . , n = ki − 1 j=1

1 σ2

Pn

2 − 1) · s∗2 i ∈ χN −n miatt kapjuk a

i=1 (ki

n

σ2 ∼ S 2 = torz´ıtatlan becslést, ahol N = ahol most

Pn

i=1

SS =

1 X (ki − 1) · s∗2 i N − n i=1

ki , és nyilvánvalóan S 2 és SS (ill. b a) f¨ uggetlenek, n X i=1

2 ki η¯i. − xTi b a .

Mivel az (N − n) · S 2 és SS négyzetösszegek f¨ uggetlenek, és ha modell¨ unk helyes, akkor (N − n) · S 2 ∈ χ2N −n σ2

SS ∈ χ2n−p σ2

vagyis mindkét négyzetösszegb˝ol azonos szórásra következtethet¨ unk. Ezt felhasználva, a két szórás azonosságának, vagy másképpen a linearitás hipotézisének ellen˝orzésére használhatjuk az ilyenkor SS 1 ∈ Fn−p,N −n S2 n − p

eloszlás´ u próba statisztikát. A hipotézis elfogadása esetén ezeket o¨sszevonva nyerhet˝o a σ 2 ∼ s2R =

1 (N − n) · S 2 + SS N −p

(14.6)

még nagyobb szabadságfok´ u χ2 eloszlásra alapozott (tehát pontosabb) torz´ıtatlan becslés. Könnyen ellen˝or´ızhet˝o, hogy az itt szerepl˝o két négyzetösszeg o¨sszevonásával pontosan az η ij xi i = 1, 2, . . . , n j = 1, 2, . . . , ki (14.7) minta elemekre vonatkozó regressziós feladat maradékát kapjuk, ugyanis ki n X X i=1 j=1

T

η ij − a xi

2

=

ki n X X i=1 j=1

η ij − η¯i· ) + (¯ η i· − aT xi

= (N − n) · S 2 + SS .

2

=

Mindez azt is jelenti, hogy a 14.5 és 14.7 mintákból azonos becslést kapunk a regressziós egy¨ utthatókra, és a modell helyes volta esetén az 14.6 becslést használhatjuk a korábban tárgyalt intervallum becslésekhez és hipotézis vizsgálatokhoz. Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


186

14.3.

Ridge becsl´ es

Térj¨ unk ismét vissza az egyenl˝o és f¨ uggetlen hibák esetéhez, tehát amikor a minta statisztika η ∈ N Xa, σ 2 In . Mint láttuk, az

a∼b a = XT X

−1

XT η

becslés torz´ıtatlan, és a becslés kovariancia mátrixának nyoma, a komponensek szórásnégyzetének o¨sszege −1 tr (cov(b a, b a)) = σ 2 tr XT X

mint egyfajta ”össz-”hatékonysági mutató értékelhet˝o. Jelölje λı i = 1, 2, . . . p az XT X mátrix sajátértékeit, és v1 , v2 , . . . , vp ∈ Rp a megfelel˝o sajátvektorok ortonormált rendszerét. Ezekkel a következ˝o, ugynevezett ridge becslést vizsgáljuk: ! p X 1 T vı vı XT η ε ≥ 0. a ∼ aε = ε + λı i=1 Mivel

aε = XT X + εIn

−1

XT η,

a ridge becslés ugy nyerhet˝ o, hogy a f¨ uggetlen változók X-ben felsorolt vektoraihoz √ hozzávessz¨ uk még a εIn mátrixot, és a megfelelô f¨ ugg˝o változókat 0-nak választjuk. Ez a becslés minden ε ≥ 0 esetén megadható, és ε = 0 esetben a korábbi maximum likelihood becslést kapjuk vissza. Vizsgáljuk most ezt a becslést, melyre ! p X 1 E(aε ) = vi viT XT Xa = ε + λ i i=1 ! ! ! p p p X λi X 1 X λi vi viT a = vi viT vi viT a ε + λ ε + λ i i i=1 i=1 i=1

ami csak akkor lehet torz´ıtatlan, ha ε = 0. A becslés kovariancia mátrixa ! p X λi vi viT , cov(aε , aε ) = σ 2 2 (ε + λi ) i=1

a becs¨ ulni k´ıvánt paramétert˝ol való eltérésére pedig kapjuk: 2

T

d (ε) = E (aε − a) (aε − a) = E |aε − E(aε )|

2

2

+ |E(aε ) − a| =

p X σ 2 λi + ε2 (aT vi )2 i=1

(ε + λi )2

mely az ε = 0 esetben a maximum likelihood becslés távolságát adja az a paramétert˝ol. Ezt a kifelyezést ε-szerint deriválva kapjuk p X −2λi σ 2 − (aT vi )2 ε , (*) 3 (ε + λ ) i i=1

´ ´ FUGGV ¨ ´ 14.4. NEMLINEARIS REGRESSZIOS ENYEK

187

mely kifejezés ε-nak folytonos f¨ uggvénye, és ε = 0 esetben negat´ıv, tehát a fenti értelemben vett távolság csökkenthet˝o a maximum likelihood becsléshez képest egy alkalmas 0 < ε választásával. Sajnos (*) zérushelye, és igy d2 minimum helye az a és σ ismerete nélk¨ ul nem aható meg, de a maximum likelihood becslések jó kiinduló pontot adnak, és a szokásos eljárás az, hogy ε értékét ezen induló érték környezetében változtatva, vizsgáljuk a becslések változását. Ha a sajátértékek elég nagyok, az optimális ridge becslés nem k¨ ulönbözik lényegesen az b a becslést˝ol, de az ugynevezett gyengén meghatározott esetben, amikor van közel zérus sajátérték, az optimális ridge becslés már jelent˝osen eltérhet ett˝ol, és lényegesen jobb eredményre vezethet. Bizony´ıtás nélk¨ ul megjegyezz¨ uk, hogy minden ridge becslés az a 7→ |a| 2 f¨ uggvény minimumát adja a n X (η i − aT xi )2 = c i=1

feltétel mellett, ahol c egy (ε-tól f¨ uggô) a´llandó. Magát az elnevezést (ridge=gerinc) ez indokolja, az alkalmazói gyakorlatban pedig az a jelent˝osége, hogy a gyengén meghatározott esetekben a széls˝os˝ogesen nagy hibáj´ u becslések helyet, torz´ıtott, de mégis pontosabb becslés nyerhet˝o.

14.4.

Nemline´ aris regresszi´ os f¨ uggv´ enyek

Térj¨ unk most vissza az eredeti 14.1 feladathoz, de most az f regressziós f¨ uggvényt nemlineáris f¨ uggvények valamilyen halmazában keress¨ uk. A polinom f¨ uggvény esetét már láttuk, amikor u ´ j változók bevezetésével lineáris regressziós f¨ uggvény keresésére vezett¨ uk azt vissza. Vizsgáljuk pl. az un. exponenciális regressziós f¨ uggvény esetét, amikor f (x) = eax+b

x∈R,

ahol a, b ismeretlen paraméterek. Ha tehát η i = eaxi +b + i

i = 1, 2, . . . n

mindkét oldal logaritmusát véve, a jobboldalt közel´ıtve els˝orend˝ u Taylor polinomjával az axı +b e pontban, kapjuk τ i = ln(η i ) = axi + b + δ i ahol

δ i ∈ N 0;

σ eaxi +b

i = 1, 2, . . . n ,

i = 1, 2, . . . n

f¨ uggetlenek,

és σ az eredeti megfigyelési hibák a´llandó szórás, melynek kis értéke esetén elhanyagolható a közel´ıtésb˝ol ered˝o hiba. Ekkor a hibák szórása f¨ ugg a becs¨ uln´ı k´ıvánt paraméterekt˝ol Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


188

is, tehát az ilyenkor sz¨ ukséges s´ ulymátrixot csak közel´ıteni megfigyelt mintából    1 1 0 ··· 0 y1  eax1 +b       1    0 0 ··· 0 1    eax2 +b Λ2 =  ≈ .. .. .. ..    .. . . . .    .    1 0 0 ··· 0 eaxn +b

tudjuk az y = (y 1 , y2 , . . . yn )

0

···

1 ··· y2 .. . . . . 0

Tehát az

···



0    0  . ..  .   1  yn

y˜ = (y1 ln(y1 ), y2 ln(y2 ), · · · , yn ln(yn )) ”megfigyelt mintával”, és



 ˜ = X  

 x1 · y 1 y 1 x2 · y 2 y 2   ..  .. .  . xn · y n y n

s´ ulyozott terv mátrixszal kell a lineáris regressziós f¨ uggvény paramétereit becs¨ ulni. Ha az eredeti megfigyelési hibák σ=

D(η ı ) eaxi +b

i = 1, 2, . . . n

relat´ıv szórása a´llandó, ami sok esetben elfogadható, nincs sz¨ ukség a s´ ulyokra, az y˜ = (ln(y1 ), ln(y2 ), · · · , ln(yn )) megfigyelt mintával és az



  X= 

 x1 1 x2 1   .. ..  . .  xn 1

terv mátrixszal kell a paramétereket becs¨ ulni. Más, nemlineáris regressziós f¨ uggvény esetén is találhatunk alkalmas transzformációt az 14.1 linearizálására. Most egy a´ltalános esetben használható iterációs eljárást mutatunk, melynek kezd˝oértékei meghatározására használhatjuk a fenti módszereket. Legyen a regressziós föggvény f : Rq+p → R (x, a1 , a2 , . . . , ap ) 7→ f (x, a1 , a2 , . . . , ap ) ahol x ∈ Rq és a1 , a2 , . . . , ap ∈ R az ismeretlen paraméterek. Tegy¨ uk fel továbbá, hogy f a q paraméterek szerint differenciálható, akkor az xı ∈ R i = 1, 2, . . . n pontok ismeretében

189

14.5. FELADATOK

az f f¨ uggvényt a Taylor formulával közel´ıtve egy a01 , a02 , . . . , a0p ∈ R kezd˝oértékkel, kapjuk az ηi −

f (xi , a01 , a02 , . . . , a0p )

≈

p X j=1

4aj ·

∂ f (xi , a01 , a02 , . . . , a0p ) + i ∂aj

lineáris regressziós feladatot, melynek 4aj = aj − a0j ”jav´ıtásokkal” kapjuk az u ´j a ˜0j = a0j + 4aj

i = 1, 2, . . . n

j = 1, 2, . . . p megoldásaval mint

j = 1, 2, . . . p

kezd˝oértékeket, és ha az eljárás konvergensnek bizonyul, az utolsó lépés ∂ 0 0 0 f (xi , a1 , a2 , . . . , ap ) X= ∂aj i=1,2,...,n j=1,2,...,p

terv mátrixszával és az 2 n X ∂ 0 0 0 0 0 0 SS(y) = yi − f (xi , a1 , a2 , . . . , ap ) − 4aj · f (xi , a1 , a2 , . . . , ap ) ∂a j i=1 maradék négyzetösszegb˝ol számolhatjuk a lineáris esetben érvényes, most pedig jó közel´ıtésként használható szórásokat, intervallum becsléseket. Egy ilyen algoritmus konvergenciájára a´ltalában nem biztos´ıtott, ezért lépésenként esetleg egyéb módon, pl. ridge becsléssel ezen jav´ıthatunk. A konvergencia ténye illetve sebessége sokszor er˝osen f¨ ugg a jó kezd˝oérték választástól, ezért azt esetleg egy alkalmas linearizálással érdemes megválasztani.

14.5.

Feladatok

1. Egy egyenletesen gyorsuló mozgást végz˝o pont a´ltal megtett utat mérve, a mozgás kezdete o´ta eltelt t = 1, 2, 3, 4 [s] id˝opontokban, kaptuk s = 1, 5, 8, 16 [m]. Becs¨ ulj¨ uk a gyorsulást, a kezd˝osebességet és az u ´ t mérésének hibáját! 2. Ha az el˝oz˝o feladat mérései 2,2,3, illetve 3 ismételt mérés a´tlagai, adjuk meg a paraméterek becsléseit!


190


15. fejezet Sz´ or´ asanal´ızis Vizsgáljuk a következ˝o problémát. Egy megfigyelhet˝o skalár v.v. értéke néhány további változó, u ´ gynevezett faktor, véges sok lehetséges értékét˝ol, vagy másképpen szintjét˝ol az alábbi módon f¨ ugg: ξ i,j,k,... = µ + ai + bj + abij + . . . + εi,j,k,... (i, j, k, . . .) ∈ J

(15.1)

ahol a szerepl˝o modell tagok jelentése a következ˝o µ: ai : bj : .. .

az un. teljes vérható érték az A faktor i-edik szintjének addit´ıv hatása a B faktor j-edik szintjének addit´ıv hatása .. .

abij : az A és B faktorok i és j szintjéhez tartozó kölcsönös hatás, interakció εi,j,k,... : a megfigyelés véletlen hibája A J halmaz a faktorok olyan szintjeinek kombinációit tartalmazza, melyekkel megfigyelést végezt¨ unk, ezért ennek megadása az un. kisérlet tervet, vagy kisérleti elrendezést jelenti. A statisztikai modellben ξ i,j,k,... jelenti a mintaelem statisztikákat, J elemszáma pedig a mintatér dimenziója. A továbbiakban mind´ıg feltételezz¨ uk, hogy µ egy ismeretlen skalár paraméter, a megfigyelés véletlen hibája pedig εi,j,k,... ∈ N (0, σ) (i, j, k, . . .) ∈ J

f¨ uggetlenek,

a faktorok hatásainak megfelel˝o többi tagról pedig az alábbi két lehet˝oség egyikét tételezz¨ uk fel: 1. ismeretlen skalár paraméterek, egyértelm˝ uség¨ uk érdekében feltessz¨ uk X X X X ai = bj = abij = abij = . . . = 0 J

J

J

(15.2)

J

jelezve ezzel azt is, hogy ezek a paraméterek a faktorok megfelel˝o szintjeihez tartozó eltérést okozó hatások mértékei (fix vagy r¨ ogz´ıtett hat´ asok modellje, 15.2 teljes¨ ulése mind´ıg feltételezhet˝o, ha ugyanis nem teljes¨ ul, egyszer˝ u a´t-paraméterezéssel az u ´j paraméterekre már teljes¨ ul 15.2); 191

´ ASANAL ´ ÍZIS 15. FEJEZET. SZOR

192

2. f¨ uggetlen, centrált normális eloszlás´ u véletlen mennyiségek ai ∈ N (0, σ A ), bj ∈ N (0, σ B ), abij ∈ N (0, σ AB ) (i, j, k, . . .) ∈ J

f¨ uggetlenek,

(véletlen hat´ asok modellje); Mindkét esetben fontos szerepe van a J index-halmaznak, vagy másképpen kisérlettervnek. Ennek megfelel˝oen a statisztikai modell¨ unkben egy ξ i,j,k,... mintaelem J egy (i, j, k, . . .) elemével azonos´ıtható, ezért fogjuk a minta statisztikát ξ = ξ i,j,k,... (i,j,k,...)∈J módon jelölni, vagy ha a J halmazt már azonos´ıtottuk, röviden a ξ = ξ i,j,k,... jelölést használjuk, és a megfigyelt mintát pedig x = (xi,j,k,...) jelöli. A J halmaz elemszámát, vagyis a mintatér dimenzióját mind´ıg n jelöli majd.

15.1.

R¨ ogz´ıtett hat´ asok modellje

A faktorok számában és kapcsolatában, vagy a kisérleti elrendezésben (J) k¨ ulönböz˝o modell vizsgálható az 1. feltételezés mellett. A következ˝okben megadjuk a paraméterek becsléseit, és vizsgáljuk a faktorok hatásával kapcsolatos hipotéziseket a legegyszer˝ ubb esetben. Egyszer˝ u oszt´ alyoz´ as, k¨ ul¨ onb¨ oz˝ o ism´ etl´ esekkel. Legyen az (15.1) egyenlet, és ennek megfelel˝oen most a minta-elem statisztikák ξ ij = µ + ai + εij

j = 1, 2, . . . ni

i = 1, 2, . . . r

vagyis az egyetlen A faktor ai eltér´ıt˝o hatásai szerepelnek a modellben. Mindez u ´ gy is értelmezhet˝o, hogy több, r-szám´ u f¨ uggetlen normélis eloszlásból vett, r i elem˝ u mintánk van, közös σ szórással és µ + ai várható értékkel. 1. A paraméterek becslése. Vezess¨ uk be a ni X ¯ξ = 1 ξ i. ni j=1 i,j

statisztikákat, ahol n =

r

i = 1, 2, . . . r Pr

i=1

r

n

i X XX ¯ξ = 1 ¯ξ = 1 ξ n i .. i. n i=1 n i=1 j=1 i,j

ni ekkor a µ + ai ∼ ¯ξ i. ai ∼ ¯ξ i. − ¯ξ .. µ ∼ ¯ξ ..

(15.3)

¨ ÍTETT HATASOK ´ 15.1. ROGZ MODELLJE

193

becslések torz´ıtatlanok. Mivel ezek a statisztikák egy x = (xi,j ) ∈ Rn megfigyelt minta lineáris f¨ uggvényei, megadhatók a Q1 , Q2 , és Q3 n × n t´ıpus´ u mátrixok, melyekre Q1 x = (¯ x.. )

Q2 x = (¯ xi. − x¯.. )

Q3 x = (xij − x¯i. )

x ∈ Rn .

Ekkor a Q1 mátrix minden eleme n1 , tehát rangja r1 = 1, és szimmetrikus. Q2 els˝o n1 , majd következ˝o n2, stb. sora azonos, de még ezekb˝ol is kikombinálható a zérusvektor az ni egy¨ uthatókkal, ezért rangja r2 ≤ r − 1. Könnyen ellen˝or´ızhet˝o, hogy Q2 szimmetrikus, ugyanis n

T

∀x, y ∈ R : y Q2 x =

r X i=1

ni y¯i.x¯i. − n¯ x.. y¯.. = xT Q2 y.

Ebb˝ol, és az In = Q 1 + Q 2 + Q 3 o¨sszef¨ uggésb˝ol következik, hogy Q3 is szimmetrikus, továbbá Q3 z (k) = 0 ∈ Rn , ahol 1 ha i = k és j = 1, 2, . . . ni (k) zij = k = 1, 2, . . . r 0 egyébként miatt z (k) ∈ Rn lineárisan f¨ uggetlen vektorok, teát Q3 rangja r3 ≤ n − r. Tehát teljes¨ ul a χ2 eloszlás part´ıciós tulajdonságaként megismert Fisher-Cochran tétel 1. feltétele, amib˝ol következnek: n = r1 + r2 + r3 ami csak u ´ gy teljes¨ ulhet, hogy r2 = r − 1 és r3 = n − r. A minta statisztika most 2 ξ ∈ N ((µ + ai ), σ In ), és ´ıgy Q1 ξ = (¯ξ .. ),

Q2 ξ = (¯ξ i. − ¯ξ .. ),

Q3 ξ = (ξ ij − ¯ξ i. )

f¨ uggetlenek, mint ahogyan a teljes (T ) négyzetösszeg felbomlik a teljes a´tlagnak (M ) megfelel˝o, a csoportok közötti (B), és csoportokon bel¨ uli (W ) négyzetösszeg f¨ uggetlen o¨sszegére: T

T = ξ ξ= T

M = ξ Q1 ξ

ni r X X

ξ 2i.j

i=1 j=1 2 = n¯ξ .. r X

B = ξ T Q2 ξ =

i=1

W = ξ T Q3 ξ =

ni ¯ξ i. − ¯ξ ..

ni r X X i=1 j=1

2

ξ ij − ¯ξ i.

2



194 Továbbá teljes¨ ul Q3 (µ + ai ) = 0 ∈ Rn , tehát hiba szórásnégyzetének

1 W σ2

∈ χ2n−r , amib˝ol kapjuk a véletlen

W σ 2 ∼ s∗2 = n−r torz´ıtatlan becslését. Mivel ¯ξ i. ∈ N µ + ai , √σni és ¯ξ .. ∈ N µ, √σn ,a szokásos módon nyerhet˝ok az s∗ µ + ai ∼ ¯ξ i. ± tα √ ni

i = 1, 2, . . . r r 1 1 ∗ i = 1, 2, . . . r − ai ∼ ¯ξ i. − ¯ξ .. ± tα s ni n s∗ µ ∼ ¯ξ .. ± tα √ n

(1−α) szint˝ u intervallum becslések, ahol tα a Tn−r eloszlás megfelel˝o kritikus értéke. P P További fontos probléma egy ri=1 ci (µ+ ai ) = ri=1 c ese, i ai u.n. kontraszt becsl´ qP 2 Pr Pr ci r , kapjuk a ahol i=1 ci = 0. Mivel i=1 ci ¯ξ i. ∈ N ai , σ i=1 ni r X i=1

ci a i ∼

r X i=1

intervallum becslést.

v u r 2 u X ci ∗ ci ¯ξ i. ± tα s t ni i=1

2. Hipotézis vizsgálat. Vizsgáljuk most a HA : a1 = a2 = . . . = ar = 0 hipotézist, vagyis azt, hogy a faktornak nincs eltér´ıt˝o hatása, vagy másképpen, a minták várható értéke azonos. A χ2 -eloszlás mint négyzetösszeg eloszlása alapján B várható értékére kapjuk: 2

T

E(ξ Q2 ξ) = E(B) = σ (r − 1) +

r X

ni a2i .

(15.4)

i=1

Tehát az

B n−r · W r−1 statisztika eloszlása F(r−1,n−r) ⇔ha HA teljes¨ ul, amib˝ol a HA hipotézis eldöntésére szolgáló α terjedelm˝ u (egy-oldali) kritikus tartomány: B(x) n − r n · > bα , K = x = (xij ) ∈ R | W (x) r − 1 f=

ahol bα az F(r−1,n−r) eloszlás megfelel˝o kritikus értéke. A kritikus tartományt azért választjuk ´ıgy, mert az alternat´ıv hipotézis esetén, amikor is legalább egy a i > 0, az f próbastatisztika értéke várható értékben n˝o, mivel B és F ilyenkor is f¨ uggetlenek,

¨ ÍTETT HATASOK ´ 15.1. ROGZ MODELLJE

195

és B várható értékének növekménye (15.4) szerint o¨sszefoglalója az alábbi

Pr

i=1

ni a2i . A fentiek táblazatos

Sz´ or´ asanal´ızis t´ abl´ azat Szóródás oka ´ Atlag Faktor Véletlen Teljes

Szabadsági fok 1 r−1 n−r n

Négyzetösszeg 2 M = n¯ξ .. 2 P B = ri=1 ni ¯ξ i. − ¯ξ .. 2 P P i ξ ij − ¯ξ i. W = ri=1 nj=1 P P i 2 ξ ij T = M + B + W = ri=1 nj=1

F(r−1,n−r) B W

·

n−r r−1

Vizsgáljuk most a HA0 : a1 = a2 = . . . = ar0 = 0 hipotézist, ha r < r. Írjuk a fenti négyzetösszegeket az alábbi alakban: 0

B =

r X i=1

W =

ni ¯ξ i. − ¯ξ ..

ni r X X

2

ξ ij − ¯ξ i.

i=1 j=1

=

2

r X i=1

=

2 2 ni ¯ξ i. − n¯ξ ..

ni r X X

ξ 2ij

i=1 j=1

−

r X i=1

ezeket figyelembe véve, a sz˝ uk´ıtett modellben, amikor is a ξ ij meket figyelmen k´ıv˝ ul hagyjuk, nyerj¨ uk a 0

B

0

=

r X

2 ni ¯ξ i.

i=1

W

0

−

02 n0 ¯ξ .. 0

=

i=1 j=1

ξ 2ij

ahol n =

r X

ni ,

¯ξ 0 ..

i=1

0

ni r X X

0

0

−

r X

2

ni ¯ξ i. 0

i > r minta ele-

0

ni r 1 XX ξ = 0 n i=1 j=1 ij

2

ni ¯ξ i.

i=1

0

f¨ uggetlen négyzetösszegeket, melyek köz¨ ul W ∈ χ2n0 −r0 , és 0

W =W +

ni r X X

i=r 0 +1 j=1

ξ 2ij

−

r X

2

ni ¯ξ i.

i=r 0 +1

u, ha HA0 teljes¨ ul, miatt B 0 W f¨ uggetlenek. Mivel B 0 pontosan akkor χ2r0 −1 eloszlás´ kapjuk az B0 n − r · f0 = W r0 − 1 próba statisztikát, mely HA0 esetén F(r0 −1,n−r) eloszlás´ u. Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


196

15.2.

V´ eletlen hat´ asok modellje

Az alábbiakban a 2. feltételezésnek megfelel˝o legegyszer˝ ubb modellel foglalkozunk, vagyis egy (véletlen hatás´ u) faktor van, és minden szinthez azonos szám´ u ismételt megfigyelés. A minta elemek most ξ ij = µ + ai + εij

j = 1, 2, . . . t,

i = 1, 2, . . . r

ahol t > 1 az ismétlések közös száma, tehát n = r · t, és most ai ∈ N (0, σ A ), N (0, σ) j = 1, 2, . . . t, i = 1, 2, . . . r f¨ uggetlenek. Mivel  2  σ + σ 2A ha i = k és j = l σ 2A ha i = k és j 6= l , cov(ξ ij , ξ kl ) =  0 egyébként

εij ∈

a korábbi 15.1 szakasz jelöléseit használva (figyelembe véve, hogy n i = t i = 1, 2, . . . r), kapjuk a ξ = (ξ ij ) minta statisztikára    µ    ξ ∈ N  ...  , σ 2 In + tσ 2A (Q1 + Q2 ) . µ Tehát

amib˝ol nyerhet˝ok a



  µ    Q1 ξ = (¯ξ .. ) ∈ N  ...  , (σ 2 + tσ 2A )Q1  µ Q2 ξ = (¯ξ i. − ¯ξ .. ) ∈ N 0, (σ 2 + tσ 2A )Q2 Q3 ξ = (ξ ij − ¯ξ i. ) ∈ N 0, σ 2 Q3 µ ∼ ¯ξ ..

1 W n −r 1 1 1 B− W ∼ t r−1 n−r

σ2 ∼ σ 2A

torz´ıtatlan becslések. Itt az utolsó becslés csak akkor sz¨ ukséges, ha σ A > 0. Vizsgáljuk most a HA : σ A = 0 hipotézist. A fentiekb˝ol az is következik, hogy az f=

B n−r · W r−1

statisztika eloszlása F(r−1,n−r) ⇔ha HA teljes¨ u, tehát pontosan az 15.1-ben kapott módon kell a próbát végrehajtani. A kritikus tartomány változatlan, csupán a próba ereje változik.

197

15.3. FELADATOK:

15.3.

Feladatok:

1. Egy mérend˝o mennyiséget három k¨ ulönböz˝o helyen, 3-3 párhuzamos méréssel próbáltak meghatározni. Az alábbi statisztikákat kaptuk: x¯1. = 12.13 s∗1 = 0.015 x¯2. = 12.10 s∗2 = 0.011 x¯3. = 12.14 s∗2 = 0.012 Van-e kimutatható k¨ ulönbség a három helyen kapott eredmények között? Ha igen, van-e legalább két hely, ahol a kapott eredmények nem k¨ ulönböznek szignifikánsan? 2. 30 véletlenszer˝ uen választott egypetéj˝ u ikerpár inteligecia hányadosát mérték ugyanazon IQ feladatlappal. Tekints¨ uk a mért értékeket 30, egyenként két-elemˆ u csoport tagjainak. Mennyi a csoportok közti (tehát az embrek közti véletlen) k¨ ulönbözôsg mértéke (szórása), illetve van-e, és mennyi a feladatlap hibájából eredô pontatlanság (szórás), ha a csoportok közötti és csoporton bel¨ uli négyzetösszegek: SB = 25.921

SW = 6.050

¨ egyenként négyfôs csoport o¨t k¨ 3. Ot ulönböz˝o étrend szeint táplálkozik. Egy hét m´ ulva a s´ ulyváltozások az alábbiak voltak: 1 2 +3 +2 -2 0 0 +2 -2 +1

3 4 5 +4 +3 +1 0 0 -1 +1 -1 -2 +2 +1 -1

Van-e kimutatható k¨ ulönbség az egyes étrendek hatása között? Ha igen, milyen határok között van ez a hatás étrendenként 90%-os biztonsággal?


198


16. fejezet Nem param´ eteres pr´ ob´ ak Eddigi vizsgálataink célja paraméterek becslése, illetve vel¨ uk kapcsolatos hipotézisek eldöntése volt. A továbbiakban néhány olyan próbát ismertet¨ unk, ahol (még ha paraméterek is szerepelnek majd) nem a paraméterek értéke a vizsgálat célja, hanem a megfigyelt valósz´ın˝ uségi változók eloszlása vagy f¨ uggetlensége.

16.1.

Illeszked´ es vizsg´ alat

Illeszkedés vizsg´ alaton olyan hipotézis eldöntését értj¨ uk, hogy a megfigyelt valósz´ın˝ uségi változó ismeretlen eloszlásf¨ uggvénye azonos-e (illeszkedik) egy adott F 0 hipotetikus eloszlásf¨ uggvénnyel. Jelölése: H0 : F = F0 . Egyszer˝ u valósz´ın˝ uségi változó esetén a statisztikai modellr˝ol, mint egy teljes eseményrendszer megfigyelésér˝ol is beszélhet¨ unk, és a hipotézist H0 : pk = pk0 k = 1, 2, . . . .r jelöli, ahol (pk )k=1,2,....r az ismeretlen, (pk0 )k=1,2,....r pedig a hipotetikus (véges) diszkrét valósz´ın˝ uségeloszlás. Ha a hipotetikus eloszlásf¨ uggvény, illetve p k0 néhány ismertlen paraméter f¨ uggvényeként adott, becsléses illeszkedés vizsg´ alatról beszél¨ unk. 1. Illeszked´ es vizsg´ alat χ2 pr´ ob´ aval Legyen a s.m. egy r tag´ u teljes eseményrendszer n-ismételt megfigyelésével kapcsolatos. Jelölje a minta statisztikát ν = (ν 1 , ν 2 , . . . , ν r ) ahol a pk valósz´ın˝ uség˝ u k-adik esemény megfigyelt gyakorisága ν k . Vizsgáljuk a H0 : pk = pk0 k = 1, 2, . . . .r hipotézist, ahol (pk0 )k=1,2,....r adott hipotetikus (véges) diszkrét valósz´ın˝ uségeloszlás. Ekkor ν polinomiális eloszlás´ u, és elég nagy n esetén (n · p k > 10) 8.4 szerint H0 esetén: r X (ν k − npk0 )2 ∈ χ2r−1 . np k0 k=1 199

´ ´ AK ´ 16. FEJEZET. NEM PARAMETERES PROB

200

Válasszuk 0 < α << 1 értékhez a χ2α kritikus értéket u ´ gy, hogy ha η ∈ χ2r−1 akkor P (η > χ2α ) = α, ´ıgy ! r X (ν k − npk0 )2 > χ2α = α, P H0 npk0 k=1

tehát kaptuk a

K=

(

(n1 , n2 , . . . , nr ) ∈ X |

r X (nk − npk0 )2 k=1

npk0

>

χ2α

)

α terjedelm˝ u kritikus tartományt. Megjegyz´ esek: 1. A féloldali kritikus tartomány alkalmazását az indokolja, hogy H0 esetén E(ν k ) = npk0 k = 1, 2, . . . .r, és ezért a várható érték minimum tulajdonsága miatt E (ν k − npk0 )2 ≥ E (ν k − npk )2 , tehát az alternat´ıv hipotézis esetén a próba statisztika várható értéke nagyobb lesz.

2. Ezt a próbát tetsz˝oleges valósz´ın˝ uségi változó n-ismételt megfigyelése esetén u ´ gy alkalmazhatjuk, hogy a számegyenes egy R = ∪rk=1 Ik

(16.1)

(például intervallumokra) történ˝o felosztásával, a νk =

n X i=1

1{ξ i ∈Ik }

k = 1, 2, . . . .r,

gyakoriságokkal vizsgáljuk a H0 : F = F0 hipotézis helyett a H0∗ : pk = [F0 ]Ik k = 1, 2, . . . .r hipotézist. Ha ugyanis H0∗ -ot elutas´ıtjuk, H0 sem teljes¨ ulhet, továbbá H0∗ elfogadása esetén H0 -ban sincs okunk kételkedni. Tehát az ´ıgy végrehajtott próba els˝ofaj´ u hibája α, de a másodfaj´ u hiba mértéke igen nagy is lehet, hiszen két eloszlásf¨ uggvény lehet attól még k¨ ulönböz˝o, ha megváltozásaik azonosak a számegyenes véges sok intervallumán. Ez ellen u ´ gy védekezhet¨ unk, hogy a 16.1 felosztást finom´ıtjuk, aminek gátat szab az a korlát, hogy a megfigyelt gyakoriságok várható értéke legalább 10 legyen. 3. Ha a hipotetikus valósz´ın˝ uségeloszlás néhány ϑ1 , ϑ2 , . . . , ϑs meghatározó paraméter f¨ uggvényeként adott, tehát vizsgálnunk kell a H0 : pi = pi0 (ϑ1 , ϑ2 , . . . , ϑs ) i = 1, 2, . . . .r hipotézist, a valósz´ın˝ uséghányados próba alkalmazásával kapjuk a következ˝o becsléses illeszkedési próbát. Vezess¨ uk be a ϑs+1 , ϑs+2 , . . . , ϑr−1 (r −1−s)-szám´ u paramétert, melyekkel ps+i = ps+i 0 (ϑ1 , ϑ2 , . . . , ϑs ) + ϑs+i

i = 1, 2, . . . .r − 1 − s,

´ VIZSGALAT ´ 16.1. ILLESZKEDES

201

tehát az ´ıgy nyert ugyancsak meghatározó (r − 1)-szám´ u paraméterrel hipotézis¨ unk H0 : ϑs+i = 0 i = 1, 2, . . . .r − 1 − s alakban ´ırható. Eljárásunk tehát a következ˝o: (a) H0 esetén megadjuk a

î ϑi ∼ ϑ

i = 1, 2, . . . .s

maximum likelihood becsléseket, amivel ˆ1, ϑ ˆ2, . . . , ϑ ˆ s ) i = 1, 2, . . . .r , pi0 ∼ pî0 = pî0 (ϑ és a likelihood f¨ uggvény logaritmusának maximuma ekkor r

X n! sup ln L = ln + ν i · ln pî0 , ν1 · ν2 · . . . · νr H0 i=1 egyébként pedig r

X n! νi . sup ln L = ln + ν i · ln ν1 · ν2 · . . . · νr n i=1 A 13.3 a´ll´ıtás szerint −2 ln λ = 2

r X i=1

ν i · ln

νi nˆ pi0

(16.2)

eloszlása közel´ıt˝oen χ2r−1−s . Használjuk továbbá az x ln

x 1 ≈ (x − a) + (x − a)2 a 2a

másodfok´ u Taylor polinommal nyerhet˝o közel´ıtést, akkor a próba statisztika −2 ln λ ≈

r X (ν i − nˆ pi0 )2 i=1

nˆ pi0

(16.3)

alakra hozható. (b) Használjuk a r X (ν i − nˆ pi0 )2 i=1

nˆ pi0

próba statisztikát, melynek eloszlása H0 esetén most χ2r−1−s . 2. Kolmogorov pr´ oba Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


202

Legyen a s.m. egy folytonos eloszlásf¨ uggvény˝ u v.v. n-ismételt megfigyelésével kapcsolatos. Jelölje a minta statisztikát ξ = (ξ 1 , ξ 2 , . . . , ξ n ) , az ismeretlen eloszlásf¨ uggványt F , és vizsgáljuk a H0 : F = F0 hipotézist, ahol F0 adott hipotetikus (folytonos) eloszlásf¨ uggvény. Jelölje továbbá az empirikus eloszlásf¨ uggvényt (lásd 11.2) a minta f¨ uggvényeként n

Fξn (z) és vizsgáljuk a

1X = 1{ξ
z∈R,

∆ = sup Fξn (z) − F0 (z) z∈R

statisztikát. Mivel

{ξ k < z} = {F0 (ξ k ) < F0 (z)} \ {F0 (ξ k ) = F0 (z)}

z∈R,

és F0 folytonossága miatt {F0 (ξ k ) = F0 (z)} = {a ≤ ξ k ≤ b} ahol a = inf {y | F0 (y) = F0 (z)} y∈R

b = sup {y | F0 (y) = F0 (z)} , y∈R

továbbá H0 esetén 3.3 szerint τ k = F0 (ξ k ) ∈ U (0; 1) k = 1, 2, . . . .r . Tehát P H0

! n 1 X 1{τ k
vagyis H0 esetén ∆ eloszlása olyan, mint egy U (0; 1) eloszlásból vett mintából származó empirikus eloszlásf¨ uggvény é√s az ”igazi” eloszlásf¨ uggvény eltérésének suprémumáé. Kolmogorov megmutatta, hogy n·∆ eloszlásf¨ uggvénye megadható (n értékét˝ol f¨ uggetlen¨ ul), ez az un. Kolmogorov féle K f¨ uggvény (lásd: Táblázatok melléklet). Válasszunk tehát egy 0 < α << 1 értéket, akkor kapjuk az √ n n x∈R |K n · sup |Fx (z) − F0 (z)| > 1 − α z∈R

α terjedelm˝ u kritikus tartományt H0 eldöntésére.

16.2.

F¨ uggetlens´ eg vizsg´ alat

Legyen a s.m. két teljes eseményrendszer n ismételt megfigyelésével kapcsolatos, jelölje ν kl

k = 1, 2, . . . r

l = 1, 2, . . . , s

¨ ´ VIZSGALAT ´ 16.2. FUGGETLENS EG

203

az els˝o eseményrendszer k-adik és a másik l-edik tagja egy¨ uttes bekövetkezésének gyakoriságát, és pkl k = 1, 2, . . . r l = 1, 2, . . . , s ennek valósz´ın˝ uségét. Vizsgáljuk a H0 : pkl = pk· · p·l hipotézist, ahol pk· =

s X

pkl

l=1

p·l =

r X

pkl

k = 1, 2, . . . r

k = 1, 2, . . . r

l = 1, 2, . . . , s

l = 1, 2, . . . , s

k=1

az eseményrendszerekhez tartozó két valósz´ın˝ uségeloszlás. Tehát egy r · s tag´ u teljes eseményrendszer megfigyelése esetén egy becsléses illeszkedés vizsgálatot kell elvégezn¨ unk. Használjuk az r − 1 + s − 1 szám´ u meghatározó paraméter ν ·l ν k· p·l ∼ pˆ·l = k = 1, 2, . . . r − 1 l = 1, 2, . . . , s − 1 pk· ∼ pˆk· = n n maximum likelihood becslését, amib˝ol pr· ∼ pˆr· = ahol ν k· =

s X l=1

ν kl

ν ·l =

r X

ν r· n

ν kl

p·s ∼ pˆ·s =

ν ·s , n

k = 1, 2, . . . r

l = 1, 2, . . . , s .

k=1

A becsléses illeszkedés vizsgálat próba statisztikájának szabadsági foka r · s − 1 − (r − 1) − (s − 1) = (r − 1) · (s − 1) lesz, tehát válasszunk 0 < α << 1 értékhez χ 2α kritikus értéket u ´ gy, hogy ha η ∈ χ2(r−1)·(s−1) akkor P (η > χ2α ) = α, ekkor   ν k· · ν ·l 2 r s ν − X X kl  n P H0  > χ2α  = α, ν k· · ν ·l k=1 l=1 n tehát kaptuk a

  nk· · n·l 2   r X s   nkl − X l=1,...s 2 n K = (nkl )k=1,...,r ∈ X | > χ α nk· · n·l     k=1 l=1 n

kritikus tartományt, ahol az nkl megfigyelt gyakoriságokat az alábbi táblázatba rendezhetj¨ uk: II.es.r. 1 2 ··· s Σ I.es.r. 1 n11 n12 · · · n1s n1· 2 n21 n22 · · · n2s n2· (16.4) .. .. .. . .. .. . .. . . . . r Σ

nr1 n·1

nr2 n·2

··· ···

nrs n·s

nr· n



204 Megjegyz´ esek:

1. A próba elvégezhet˝oségének feltétele, mint a χ 2 -es illeszkedés vizsgálatnál már eml´ıtett¨ uk, hogy a várható gyakoriság a fenti tábla minden cellájában legalább 10 legyen. 2. Mint azt már korábban jelezt¨ uk, a féloldali kritikus tartományt a másodfaj´ u hiba csökkentése miatt alkalmazzuk. 3. Tetsz˝oleges valósz´ın˝ uségi változók esetén, a korábbi esethez hasonlóan, most mindkét változó értékkészlete számára kell a számegyenes egy-egy felosztását megadnunk.

16.3.

Homogenit´ as vizsg´ alat

Most két vagy több eseményrendszerhez illetve valósz´ın˝ uségi változóhoz tartozó eloszlás azonosságát vizsgáluk. 1. Homogenit´ as vizsg´ alat χ2 pr´ ob´ aval. Legyen a statisztikai modell N szám´ u, egyenként r tag´ u teljes eseményrendszer megfigyelésével kapcsolatos. Jelölje i=1,2,...,r ν = (ν ki )k=1,2,...,N

i=1,2,...,r (pki )k=1,2,...,N

a mintát illetve a megfelel˝o valósz´ın˝ uségeloszlásokat, ahol ν ki jelöli a k-adik eseményrendszer i-edik tagja gyakoriságát, illetve pki ennek valósz´ın´ uségét. Vizsgáljuk a H0 : p1i = p2i = . . . pN i i = 1, 2, . . . , r hipotézist a becsléses illeszkedés vizsgálathoz hasonlóan. Az N szám´ u mintából H0 esetén kapjuk a pki ∼

ν ·i n

k = 1, 2, . . . , N

i = 1, 2, . . . , r

maximum likelihood becsléseket, ahol ν ·i =

N X

ν ki

i = 1, 2, . . . , r és n =

k=1

N X

nk .

k=1

A valósz´ın˝ uséghányados próba, a becsléses illeszkedés vizsgálatnál látott módon, 16.2 szerint a N X r X ν ki 2 ν ki · ln ν i nk n i=1 k=1

próba statisztikát eredményezi, amib˝ol a f¨ uggetlenség vizsgálatnál már megismert próba statisztikához jutunk, azzal a k¨ ulönbséggel, hogy az ott szerepl˝o ν k· statisztika szerepét most az nk (nem véletlen) minta elemszám veszi a´t. A szabadsági fok is változatlan, mivel az N · (r − 1) szám´ u meghatározó paraméterb˝ol r − 1 szám´ u becs¨ ult paraméter

´ VIZSGALAT ´ 16.3. HOMOGENITAS

205

van, a többi pedig ezekkel azonos (H0 esetén eltérése ezekt˝ol 0), kapjuk tehát H0 esetén a 2 N X r X ν ki − nkn·ν ·i ∈ χ2(N −1)·(r−1) nk ·ν ·i k=1 i=1

n

próba statisztikát. Vlásszunk tehát 0 < α << 1 értékhez χ2α kritikus értéket u ´ gy, hogy ha η ∈ χ2(N −1)·(r−1) akkor P (η > χ2α ) = α, akkor ! 2 N X r X ν ki − nkn·ν ·i > χ2α = α , P H0 nk ·ν ·i n

k=1 i=1

vagyis kaptuk a H0 eldöntéséhez az α terjedelm˝ u (egyoldali) kritikus tartományt. Speciálisan N = 2 esetben a próba statisztika a következ˝o alakban ´ırható 2 r X 1 µi νi − n1 · n2 · · ∈ χ2r−1 , ν + µ n n 1 2 i i=1 i ahol ν i és µi jelöli a két eseményrendszerhez tartozó gyakoriságokat. Egy másik speciális eset amikor r = 2, tehát N szám´ u esemény valósz´ın˝ uségének azonosságát vizsgáljuk, ekkor a próba statisztika a következ˝o alakban ´ırható: 2 N X ν k − nk · νn· ∈ χ2N −1 ν· ν· n · · 1 − n k=1 k n

P ahol ν k jelöli az egyes események gyakoriságát, és ν · = N k=1 ν k . 2 Megjegyz´ es: A korábbi, χ próbákhoz f˝ uzött, alkalmazhatósággal illetve folytonos eloszlás esetével kapcsolatos megjegyzéseink most is érvényesek. A f¨ uggetlenség vizsgálat kapcsán megismert (16.4) gyakorisági táblázat változatlan formában használható a próba statisztika szám´ıtásához, csupán a H0 hipotézis értelmezése jelent itt mást, nevezetesen nem két változó f¨ uggetlenségét, hanem a minták azonos eloszlásból származását jelenti. 2. Wilcoxon pr´ oba. Legyen a statisztikai modell két folytonos eloszlásf¨ uggvény˝ u valósz´ın˝ uségi változó n 1 illetve n2 ismételt megfigyelésével kapcsolatos, jelölje (16.5) (ξ, η) = ξ 1 , ξ 2 , . . . , ξ n1 , η 1 , η 2 , . . . , η n2

a minta statisztikát, és vizsgáljuk a H0 : F = G hipotézist, ahol F az els˝o n1 , G pedig a további n2 szám´ u minta elem ismeretlen (folytonos) eloszlásf¨ uggvénye. Rendezz¨ uk a 16.5 minta elemeit növekv˝o sorba, amit 1-valósz´ın˝ uséggel egyértelm˝ uen megtehet¨ unk (lásd: 36. oldal 11. feladat). Jelölje a ξ 1 , ξ 2 , . . . , ξ n1 minta elemek helyét, azaz rangját ebben az n1 + n2 elem˝ u rendezett mintában r1 , r2 , . . . , rn1 , és vizsgáljuk a W n1 n2 =

n1 X k=1

rk −

n1 (n1 + 1) 2 Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


206

statisztikát. Ha r1∗ < r2∗ < . . . < rn∗ 1 a rendezett rangokat jelöli, ´ırhatjuk W n1 n2 =

n1 X k=1

(rk∗ − k) ,

tehát Wn1 n2 a ξ k > η l feltételt teljes´ıt˝o párok száma, vagyis a {Wn1 n2 = k} esemény annak valósz´ın˝ usége, hogy az egyes´ıtett rendezett mintában, melyben minden sorrend egyformán valósz´ın˝ u H0 esetén, a ξ · minta elemeket o¨sszesen k szám´ u η · minta elem el˝ozi meg. Tehát Wn1 n2 eloszlása H0 esetén megadható (lásd: 12. oldal 9. feladat), továbbá megmutatható, hogy elég nagy n1 és n2 mellett Wn1 n2 eloszlása közel normális. Írjuk ehhez például n1 ≤ n2 esetben W n1 n2 = + .. . + .. . +

1{ξ 1 >η1 } 1{ξ 1 >η2 } .. . 1{ξ1 >η n −n +1 } 2 1 .. . 1{ξ1 >η n }

+ + .. . + .. . +

1{ξ2 >η 2 } 1{ξ2 >η 3 } .. . 1{ξ 2 >η n −n +2 } 2 1 .. . 1{ξ 2 >η n −1 }

2

+ + .. . + .. . +

2

··· ··· .. . ··· .. . ···

+ + .. . + .. . +

+ 1{ξ n >η n } 1 1 + 1{ξ >η n1 n1 +1 } .. .. . . + 1{ξ n >η n } 1 2 .. .. . . 1{ξ n >η 1 } 1

ahol soronként f¨ uggetlen, H0 esetén 12 valósz´ın˝ uség˝ u események indikátorainak o¨sszege szerepel, ami a C.H.T. szerint közel normális eloszlás´ u lesz elég nagy n1 (≤ n2 ) esetén, és ´ıgy ezek o¨sszege Wn1 n2 is közel normális eloszlás´ u. Határozzuk most meg Wn1 n2 várható értékét és szórását H0 esetén. Írjuk ehhez most + · · · + 1{ξ 1 >η n } + 2 + 1{ξ 2 >η 1 } + 1{ξ2 >η2 } + · · · + 1{ξ 2 >η n } + 2 .. .. .. .. .. . . .. .. .. . . . . . . . . . + 1{ξ >η } + 1{ξ >η } + · · · + 1{ξ >η } , n1 1 n1 2 n1 n2

Wn1 n2 = 1{ξ 1 >η 1 }

+ 1{ξ1 >η2 }

akkor Wn1 n2 pontosan n1 · n2 szám´ u

1 2

(16.6)

valósz´ın˝ uség˝ u esemény indikátorának o¨sszege, ezért

EH0 (Wn1 n2 ) =

n1 · n 2 . 2

A szórás megadásához vegy¨ uk észre, hogy 16.6 o¨sszeg sorösszegei azonos eloszlás´ uak, és egy sorösszeg szórásnégyzete n2 ·

1 n2 (n2 + 2) 1 + n2 (n2 − 1) · = , 4 12 12

két sorösszeg kovarianciája pedig n2 ·

1 n2 2 n2 1 + n2 (n2 − 1) · − = , 3 4 2 12

207

16.4. FELADATOK

amib˝ol kapjuk D2H0 (Wn1 n2 ) = n1 ·

n2 n1 n2 (n1 + n2 + 1) n2 (n2 + 2) + n1 (n1 − 1) · = . 12 12 12

Tehát nagy n1 , n2 estén válasszuk az 0 < α << 1 értékhez az uα táblázati értéket u ´ gy, hogy u ∈ N (0; 1) esetén P (|u| > uα ) = α, akkor   n ·n 1 2 Wn n − 2 > uα  = α , PH0  q 1 2 n1 n2 (n1 +n2 +1) 12

vagyis kaptuk a H0 eldöntéséhez az α terjedelm˝ u (kétoldali) kritikus tartományt. Megjegyz´ esek:

1. Figyelemre méltó kör¨ ulmény, hogy a Wn1 n2 statisztika megadásához a minta pontos ismerete sem sz¨ ukséges, csupán az egyes´ıtett minta elemeinek rangsorára van sz¨ ukség. 2. Ha a minta elemek pontatlan ismerete miatt a rangsor nem egyértelm˝ uen adható meg, az egyes ξ · minta elemek lehetséges rangjaiból számolt a ´tlagos ranggal szokás számolni. Ennek csak akkor van jelent˝osége, ha vannak azonos ξ · és η · minta elemek.

16.4.

Feladatok

1. Kész´ıts¨ unk próbát egy r tag´ u teljes eseményrendszer s < r−1 szám´ u tagja valósz´ın˝ uségével kapcsolatos H0 : p1 = p10 , p2 = p20 , . . . , ps = ps0 hipotézis vizsgálatára!


208


A. F¨ uggel´ ek M´ ert´ ek ´ es integr´ al A.1.

M´ ert´ ek

A.1. Defin´ıci´ o. Az Ω halmaz részhalmazainak nem u ¨ res H rendszere i) félgy˝ ur˝ u, ha A, B ∈ H ⇒ A ∩ B ∈ H, A \ B =

r S

Hi

i=1

Hi ∈ H H i ∩ H j = ∅ i 6= j = 1, 2, . . . r ;

ii) gy˝ ur˝ u, ha A, B ∈ H ⇒ A ∪ B, A \ B ∈ H ; iii) σ-gy˝ ur˝ u, ha gy˝ ur˝ u és A1 , A2 , . . . , An , . . . ∈ H ⇒

∞ S

n=1

An ∈ H ;

iv) algebra (σ-algebra), ha gy˝ ur˝ u (σ-gy˝ ur˝ u) és Ω∈H. v) Az (Ω, H) párt mérhet˝o térnek nevezz¨ uk, ha H σ-algebra. ´ ıt´ All´ asok: 1. Az Ω részeinek H halmazrendszere pontosan akkor algebra illetve σ-algebra, ha (a) Ω ∈ H

(b) A ∈ H ⇒A = Ω \ A ∈ H 209

¨ ´ MERT ´ EK ´ ES ´ INTEGRAL ´ A. FUGGEL EK.

210 (c) A1 , A2 ∈ H ⇒ A1 ∪ A2 ∈ H illetve

A 1 , A2 , . . . , An , . . . ∈ H ⇒

∞ S

n=1

An ∈ H .

2. Ha H gy˝ ur˝ u, akkor A1 , A2 , . . . , An ∈ H ⇒ A 1 ∪ A 2 ∪ . . . ∪ A n ,

A1 ∩ A 2 ∩ . . . ∩ A n ∈ H .

3. Az Ω részeinek legegyszer˝ ubb halmazai {∅} illetve

{∅, Ω}

gy˝ ur˝ u, illetve algebra, a 2Ω = {A | A ⊂ Ω} hatványhalmaz pedig σ-algebra. 4. Ω részeib˝ol a´lló, tetsz˝olegesen sok gy˝ ur˝ u, σ-gy˝ ur˝ u, algebra, σ-algebra közös része szintén gy˝ ur˝ u, σ-gy˝ ur˝ u, stb. Speciálisan az A ⊂ 2Ω halmazrendszer a´ltal generált legsz˝ ukebb σ-algebrát a továbbiakban σ (A) =

T

A⊂H⊂2Ω H σ-algebra

H

jelöli. 5. Ha H félgy˝ ur˝ u, akkor 0

H =

r S

i=1

+

Hi | r ∈ N ,

Hi ∈ H i = 1, 2, . . . r

(A.1)

a legsz˝ ukebb gy˝ ur˝ u, amely tartalmazza H-t, és ekkor σ (H) = σ (H 0 ). 6. Legyen Ω = Rn , ekkor (a) Rn korlátos (esetleg elfajult, pl. {x} x ∈ Rn , ∅) intervallumainak In halmaza félgy˝ ur˝ u, és a legsz˝ ukebb In -t tartalmazó gy˝ ur˝ u Hn = I 1 ∪ I 2 ∪ . . . ∪ I r | r ∈ N + ,

ami még mind´ıg nem algebra és nem σ-gy˝ ur˝ u.

I1 , I2 , . . . , I r ∈ In ,

(b) Rn intervallumait tartalmazó legsz˝ ukebb σ-algebra (Borel halmazok): Bn = σ (In ) = σ (Hn ) . (B1 helyett egyszer˝ uen B-t ´ırunk a továbbiakban.)

´ EK ´ A.1. MERT

211

7. Legyenek (Ω1 , A1 ) , (Ω2 , A2 ) , . . . , (Ωn , An ) mérhet˝o terek, akkor H = A1 × A2 × . . . × A n félgy˝ ur˝ u, és H 0 = A1 ∪ A 2 ∪ . . . ∪ A r | r ∈ N + ,

A1 , A2 , . . . , Ar ∈ H

(A.2)

algebra. Jelölje Ω = Ω1 × Ω2 × . . . × Ωn és A = σ (H) = σ (H0 ), ekkor az (Ω, A) mérhet˝o teret a fenti mérhet˝o terek szorzatának nevezz¨ uk. Jelölése: (Ω, A) = (Ω1 , A1 ) × (Ω2 , A2 ) × . . . × (Ωn , An ) . A.2. Defin´ıci´ o. A µ ∈ 2Ω → Rb = R ∪ {−∞, +∞} halmazf¨ uggvényt, melyre ∅ ∈ dom(µ), és µ(∅) = 0, i) addit´ıvnak nevezz¨ uk, ha A1 , A2 , . . . An , A1 ∪ A2 ∪ . . . ∪ An ∈ dom(µ)

∧ A i ∩ Aj = ∅ i 6= j = 1, 2, . . . n

esetén teljes¨ ul µ (A1 ∪ A2 ∪ . . . ∪ An ) = µ (A1 ) + µ (A2 ) + . . . µ (An ) ; ii) σ-addit´ıvnak nevezz¨ uk, ha A1 , A2 , . . . An , . . .

∞ S

n=1

An ∈ dom(µ)

⇒µ

∞ S

n=1

An

∧ =

∞ X

Ai ∩ Aj = ∅ i 6= j = 1, 2, . . . µ (An ) ;

n=1

iii) folytonosnak nevezz¨ uk, ha dom(µ) 3 ⇒

A1 ⊂ A2 ⊂ . . . ⊂ An ⊂ . . . , és lim µ(An ) = µ(A) ;

n→∞

∞ S

n=1

An = A ∈ dom(µ) (A.3)

iv) elemi mértéknek nevezz¨ uk, ha dom(µ) gy˝ ur˝ u, µ addit´ıv, és A ∈ dom(µ) ⇒ 0 ≤ µ(A) < +∞ ∞ S ∃B1 , B2 , . . . ∈ dom(µ) : Ω = Bn ; n=1

v) A µ ∈ 2Ω → Rb σ-addit´ıv, és

halmazf¨ uggvényt mértéknek nevezz¨ uk, ha dom(µ) σ-algebra, µ A ∈ dom(µ) ⇒ 0 ≤ µ(A) Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


212 A µ mértéket végesnek nevezz¨ uk ha

µ(Ω) < +∞, σ-végesnek nevezz¨ uk, ha ∃B1 , B2 , . . . ∈ dom(µ) : Ω =

∞ S

Bn

µ(Bn ) < +∞ n = 1, 2, . . . .

n=1

vi) Ha µ mérték és A = dom(µ), az (Ω, A, µ) hármast mértéktérnek nevezz¨ uk. ´ ıt´ All´ asok: 1. Ha µ elemi mérték, teljes¨ ulnek az alábbi ”számolási szabályok”: (a) µ(∅) = 0 ; (b) A, B ∈ dom(µ) ⇒ µ(A ∪ B) + µ(A ∩ B) = µ(A) + µ(B) ; (c) A ⊃ B ∈ dom(µ) ⇒ µ(A \ B) = µ(A) − µ(B) ;

2. σ-addit´ıv elemi mérték ”végesen addit´ıv”, azaz A1 , A2 , . . . An

∈

dom(µ) ∧ Ai ∩ Aj = ∅ i 6= j = 1, 2, . . . n n X n S µ (Ai ) . Ai = ⇒ µ i=1

i=1

3. A µ elemi mérték pontosan akkor σ-addit´ıv, ha folytonos. 4. Ω részeinek egy H félgy˝ ur˝ ujén értelmezett nemnegat´ıv és addit´ıv µ halmazf¨ uggvény egyértelm˝ uen kiterjeszthet˝o (A.1) szerinti H0 -re. Ha megadhatók B1 , B2 , . . . ∈ H , hogy ∞ S µ(Bi ) < +∞ i = 1, 2, . . . és Ω = Bn n=1

akkor a µ kiterjesztése elemi mérték. Ha µ folytonos, akkor a kiterjesztése is az, vagyis σ-addit´ıv.

5. Rn korlátos intervallumainak In halmazán értelmezett m n : In → R + 0

I 7→ az I intervallum hossza, ter¨ ulete, . . .

halmazf¨ uggvény folytonos és addit´ıv. Ekkor mn egyértelm˝ uen kiterjeszhet˝o Hn -re az I1 ∪ I2 ∪ . . . ∪ IN 7→ mn (I1 ) + mn (I2 ) + . . . + mn (IN ) (A.4) hozzárendeléssel, ha I1 , I2 , . . . , IN ∈ In és Ii ∩ Ij = ∅ i 6= j. ´ıgy mn σ-addit´ıv elemi mérték Hn -en.

´ EK ´ A.1. MERT

213

6. Legyen f : Rn → R+ alható (esetleg impropriusan) minden korlátos 0 (Rieman-) integr´ intervallumon, akkor Z mf (I) =

I ∈ In

f

(A.5)

I

halmazf¨ uggvény folytonos és addit´ıv. Ekkor mf egyértelm˝ uen kiterjeszhet˝o Hn -re az I1 ∪ I2 ∪ . . . ∪ IN 7→ mf (I1 ) + mf (I2 ) + . . . + mf (IN ) hozzárendeléssel, ha I1 , I2 , . . . , IN ∈ In és Ii ∩ Ij = ∅ i 6= j. ´ıgy mf σ-addit´ıv elemi mérték Hn -en.

A.3. T´ etel (Kiterjeszt´ esi t´ etel). Legyen H ⊂ 2Ω gy˝ ur˝ u, µ σ-addit´ıv elemi mérték H-n, akkor µ egyértelm˝ uen kiterjeszthet˝o A =σ (H)-ra, azaz ha (Ω, A, µ1 )

(Ω, A, µ2 )

mértékterek, és µ(A) = µ1 (A) = µ2 (A) akkor µ1 (A) = µ2 (A)

A∈H

(A.6)

A∈A.

(A.7)

Ekkor az egyértelm˝ u kiterjesztést is µ-vel jelölve, (Ω, A, µ) egy σ-véges mértéktér. A.4. Megjegyz´ es. Az (A.6) feltétel enyh´ıthet˝o a µ(A) = µ1 (A) = µ2 (A)

A ∈ H0

feltétellel, ha H a legsz˝ ukebb H0 félgy˝ ur˝ ut tartalmazó gy˝ ur˝ u. A.5. K¨ ovetkezm´ eny. Legyenek (Ω1 , A1 , µ1 ) , (Ω2 , A2 , µ2 ) , . . . , (Ωn , An , µn ) véges mértékterek, akkor a H0 = A 1 × A 2 × . . . × A n félgy˝ ur˝ un definiált addit´ıv és folytonos

µ (A1 × A2 × . . . × An ) = µ1 (A1 ) · µ2 (A2 ) · . . . · µn (An ) Ai ∈ Ai

i = 1, 2, . . . n

halmazf¨ uggvény egyértelm˝ uen kiterjeszthet˝o az A = σ (H0 ) σ-algebrára, mint az ugyancsak µ-vel jelölt un. szorzatmérték, mellyel (Ω, A, µ) egy véges illetve σ-véges mértéktér, ahol Ω = Ω1 × Ω2 × . . . × Ωn . Ezt a fenti mértékterek szorzatának nevezz¨ uk, és (Ω, A, µ) = (Ω1 , A1 , µ1 ) × (Ω2 , A2 , µ2 ) × . . . × (Ωn , An , µn ) jelölést használjuk. A.6. K¨ ovetkezm´ eny. A korábbi (A.4) kiterjesztése Bn -re az un. Lebesgue mérték, mely egyben az (R, B, m) mértéktér n-tényez˝os szorzat mértéktere, ahol m jelöli az egydimenziós Lebesgue mértéket. A.7. K¨ ovetkezm´ eny. Ha mf az (A.5) szerinti halmazf¨ uggvény In -en, akkor mf egyértelm˝ uen meghatároz egy véges vagy σ-véges mértéket Bn -en. Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


214

A.2.

M´ erhet˝ o f¨ uggv´ eny

A.8. Defin´ıci´ o. Legyen (Ω, A) mérhet˝o tér, az f : Ω → Rnb f¨ uggvényt Borel-mérhet˝onek, vagy egyszer˝ uen mérhet˝onek nevezz¨ uk az (Ω, A) mérhet˝o térre vonatkozóan, ha f −1 (B) ∈ A B ∈ Bn .

Egy h : Rq → Rn f¨ uggvényt az (Rq , Bq ) mérhet˝o térre vonatkozóan nevez¨ unk mérhet˝onek. ´ ıt´ All´ asok (Borel-m´ erhet˝ o f¨ uggv´ enyek strukt´ ur´ aja):

1. Vektor érték˝ u f¨ uggvény pontosan akkor mérhet˝o, ha komponensf¨ uggvényei mérhet˝ok. n

2. Legyen (Ω, A) mérhet˝o tér, az f : Ω → Rn egy f¨ ugvény és H ⊂ 2R , akkor σ f −1 (H) = f −1 (σ (H)) , amib˝ol következik, hogy f pontosan akkor mérhet˝o, ha f −1 (I) ∈ A I ∈ In . Tehát egy h : Rq → Rq folytonos f¨ uggvény mérhet˝o. 3. Legyen (Ω, A) mérhet˝o tér, az f : Ω → Rn mérhet˝o f¨ uggvények halmazát jelölje M. Ekkor M vektorháló, mely zárt a pontonkénti határértékre, azaz ha c ∈ R, f, g ∈ M, akkor c · f, f + g, min {f, g} , max {f, g} , |f | ∈ M továbbá fn ∈ M n = 1, 2, . . . és limn→∞ fn = f : Ω → Rn esetén f ∈ M.

4. Legyen (Ω, A) mérhet˝o tér, az A ∈ A halmaz 1 ha $ ∈ A 1A ($) = 0 ha $ ∈ /A

indikátora mérhet˝o, amib˝ol következik, hogy xk ∈ Rn esetén r X f= xk · 1 A k

Ak ∈ A k = 1, 2, . . . r

k=1

szintén mérhet˝o f¨ uggvény.

5. Legyen (Ω, A) mérhet˝o tér, az f : Ω → Rn véges

im(f ) = {x1 , x2 , . . . , xr } ⊂ Rn

értékkészlet˝ u f¨ uggvény pontosan akkor mérhet˝o, ha {f = xk } = f −1 ({xk }) ∈ A k = 1, 2, . . . r . Ekkor az f=

r X k=1

xk · 1{f =xk }

mérhet˝o f¨ uggvényt egyszer˝ u nek nevezz¨ uk.

(A.8)

´ A.3. INTEGRAL

215

6. Legyen (Ω, A) mérhet˝o tér, f : Ω → R+ ıv mérhet˝o f¨ uggvény, akkor 0 nemnegat´ megadható nemnegat´ıv egyszer˝ u f¨ uggvények Ω-n konvergens monoton növekv˝o (f n )∞ n=1 sorozata, hogy f = lim fn . n→∞

7. Legyen (Ω, A) mérhet˝o tér, az f : Ω → Rn és h : Rn → R mérhet˝o f¨ uggvények, akkor h◦f :Ω→R mérhet˝o f¨ uggvény. A.9. Megjegyz´ es (Gener´ alt m´ ert´ ekt´ er). Legyen (Ω, A, µ) egy mértéktér, és f : Ω → n n R mérhet˝o f¨ uggvény, akkor R , Bn , µf mértéktér, ahol a µf (B) = µ f −1 (B))

B ∈ Bn .

A.10. Megjegyz´ es (Gener´ alt m´ erhet˝ o t´ er). Legyen (Ω, A) egy mérhet˝o tér, és f : n Ω → R mérhet˝o f¨ uggvény, akkor (Ω, Af ) mérhet˝o tér, ahol Af = f −1 (Bn ) = σ f −1 (In ) ⊂ A .

A.3.

Integr´ al

A.11. Defin´ıci´ o. Legyen (Ω, A, µ) egy mértéktér, és M a skalár érték˝ u mérhet˝o f¨ uggvények halmaza, értelmezz¨ uk az I ∈ M →Rb (integrál-) f¨ uggvényt a következ˝ok szerint: i) ha f ∈ M nemnegat´ıv egyszer˝ u f¨ uggvény, legyen I(f ) =

X

x∈im(f )

x · µ ({f = x}) ;

ii) ha f ∈ M nemnegat´ıv mérhet˝o f¨ uggvény, és (fn )∞ u f¨ ugvények monoton n=1 egyszer˝ növekv˝o sorozata, melyre limn→∞ fn = f , akkor legyen I(f ) = lim I(fn ) ; n→∞

iii) ha f ∈ M mérhet˝o f¨ uggvény, és f + = max{0; f } f − = max{0; −f } esetén I(f + ) és − I(f ) köz¨ ul legalább az egyik véges, akkor legyen I(f ) = I(f + ) − I(f − ) ; A.12. Megjegyz´ es. Kézirat, m´ odos´ıtva: 2006. okt´ ober 24.


216

1. A fenti defin´ıcióval egyértelm˝ uen definiált az integrálnak nevezett f¨ uggvény, jel˝olése Z Z I(f ) = f dµ = f ($)dµ($) , Ω

Ω

értelmezési tartománya pedig LΩ (µ) = dom(I) , vagy egyszer˝ uen L. 2. Ha A ∈ A, az 1A indikátor integrálja Z 1A dµ = µ(A) . Ω

3. Ha E ∈ A egy mérhet˝o halmaz, és f ∈ M egy mérhet˝o f¨ uggvény, akkor az (E, AE , µE ) mértéktérre nézve f|E egy mérhet˝o f¨ uggvény, melynek integrálját jelölje: Z f dµ , E

ahol AE = {A ∩ E | A ∈ A} ,

µE (B) = µ(B) B ∈ AE .

4. Ha az I(f ) integrál véges, f -et integrálhatónak nevezz¨ uk, és jelölje L1Ω (µ) = {f ∈ LΩ (µ) | I(f ) 6= +∞, −∞} , vagy egyszer˝ uen L1 . A továbbiakban mind´ıg az (Ω, A, µ) mértéktéren értelmezett skalár érték˝ u mérhet˝o f¨ uggvényeket vizsgálunk, ha nem jelezz¨ uk az ett˝ol való eltérést. Az integr´ al tulajdons´ agai: 1. Legyen f ≥ 0, akkor I(f ) ≥ 0, és I(f ) = 0 pontosan akkor teljes˝ ul, ha µ(f 6= 0) = 0 . 2. Legyen f ∈ L és c ∈ R, akkor c · f ∈ L és I(c · f ) = c · I(f ) . 3. Legyenek f, g ∈ L1 , akkor f + g ∈ L1 és I(f + g) = I(f ) + I(g) .

´ A.3. INTEGRAL

217

4. Legyenek f ≤ g ∈ L1 , akkor I(f ) ≤ I(g), és I(f ) = I(g) pontosan akkor, ha µ(f 6= g) = 0 . 5. Legyen f ∈ L, akkor |f | ∈ L és |I(f )| ≤ I (|f |) . 6. Legyenek f1 ≤ f2 ≤ . . . ≤ fn ≤ . . . ∈ L és f1 ∈ L1 , akkor limn→∞ fn = f ∈ L és lim I(fn ) = I(f ) .

n→∞

7. Legyen az (fn )∞ esz Ω halmazon, és g ∈ L1 olyan, hogy n=1 sorozat konvergens az eg´ |fn | ≤ g, akkor limn→∞ fn = f ∈ L1 és lim I(fn ) = I(f ) .

n→∞

K¨ ovetkezm´ eny: Legyen az f : Ω × Rp → R f¨ uggvény f (·, x) parciális f¨ uggvénye mérhet˝o minden x ∈ Rp esetén, és az f (ω, ·) parciális f¨ uggvény folytonos az a ∈ Rp pontban majdnem minden ω ∈ Ω esetén. Ha van egy olyan h ∈ L1 f¨ uggvény, és az a pont olyan K ⊂ Rp környezete, mellyel |f (ω, x)| ≤ h(ω) ω ∈ Ω x ∈ K, akkor lim I (f (·, x)) = I (f (·, a)) .

x→a

(A.9)

Megjegyz´ es: A következmény szerint, ha az integrandusnak van (a paramétert˝ol nem f¨ ugg˝o) integrálható majoránsa, akkor a paraméter szerinti határérték képzés és az integrálás sorrendje felcserélhet˝o. Kisz´ am´ıt´ asi formul´ ak: 1. A Lebesgue m´ ert´ ek szerinti integr´ al kisz´ am´ıt´ asa Riemann integr´ allal. Legyen a mértéktér (Rn , Bn , mn ) , f : Rn → R egy mérhet˝o f¨ uggvény, és E ∈ Bn . Ha az f f¨ uggvény Riemann-integrálható az E halmazon, vagy |f | impropriusan integrálható az E-n, akkor f ∈ L1E (mn ) és Z Z I(f ) = · · · f (x)dx . E

2. Abszolut folytonos m´ ert´ ek szerinti integr´ al. Ha a mértéktér (Rn , Bn , mf ) ahol mf az (A.5)-szerint meghatározott mérték, és h : Rn → R mérhet˝o, akkor h ∈ L1 (mf ) ⇔ h · f ∈ L1 (mn ) és ekkor Z Z hdmf = h · f dmn . Rn

Rn



218

¨ 3. Osszetett f¨ uggv´ eny integr´ alj´ anak kisz´ am´ıt´ asa a bels˝ o f¨ uggv´ eny ´ altal gener´ alt m´ ert´ ekt´ erben. Legyen (Ω, A, µ) egy mértéktér, f : Ω → Rn és h : Rn → R mérhet˝o f¨ uggvények, akkor h ◦ f ∈ L1Ω (µ) ⇔ h ∈ L1Rn (µf ) és ekkor Z Z h ◦ f dµ = hdµf . Rn

Ω

4. Integr´ al kisz´ am´ıt´ asa a szorzat m´ ert´ ekt´ erben ism´ etelt integr´ al´ assal. Legyenek (Ω1 , A1 , µ1 ) , (Ω2 , A2 , µ2 ) véges illetve σ-véges mértékterek, f : Ω1 ×Ω2 → R+ erhet˝o a szorzat mértéktérben, és jelölje µ = µ1 × µ2 szorzatmértéket, akkor 0 m´ Z Z f1 (ω) = f (ω, ·)dµ2 és f2 (ω) = f (·, ω)dµ1 Ω2

Ω1

mérhet˝o f¨ uggvények, és ZZ

Ω1 ×Ω2

f dµ =

Z

f1 dµ1 =

Ω1

Z

f2 dµ2 .

Ω2

N´ egyzetesen integr´ alhat´ o f¨ uggv´ enyek Hilbert tere: Jelölje a négyzetesen integrálható mérhet˝o f¨ uggvények halmazát L2 = f ∈ L | f 2 ∈ L 1 ,

akkor min´ıg teljes¨ ul

f, g ∈ L2 ⇒ f · g ∈ L1 , ezért bevezethetj¨ uk a következ˝o ”majdnem” skaláris szorzatot < f, g >= I(f · g). Ez teljes´ıti a szokásos tulajdonságokat egyetlen kivétellel, nevezetesen < f, f >= 0 ⇔ µ(f 6= 0) = 0 teljes¨ ul. Ezért ebb˝ol csak egy kf k =< f, f > un. félnorma származtatható, mely pontosan akkor zérus, ha f = 0 teljes¨ ul µ-majdem minden¨ utt. Ha nem tesz¨ unk k¨ ulönbséget a µ-majdem minden¨ utt egyenl˝o f¨ uggvények között, egy skaláris szorzattal ellátott lineáris teret kapunk, amely teljes.

B. F¨ uggel´ ek T´ abl´ azatok Kolmogorov-féle K-függvény

P z 0.4 0.5 0.6 0.7 0.8 0.9 1.0 1.1 1.2 1.3 1.4 1.5 1.6 1.7 1.8 1.9

.00 .003 .036 .136 .289 .456 .607 .730 .822 .888 .932 .960 .978 .988 .994 .997 .999

.01 .004 .043 .149 .305 .472 .621 .741 .830 .893 .935 .962 .979 .989 .994 .997 .999

√

n · sup F n (x) − F (x) < z x∈R

.02 .005 .050 .163 .322 .488 .634 .751 .837 .898 .939 .965 .980 .989 .995 .997 .999

ξ

.03 .007 .059 .178 .339 .504 .647 .761 .845 .903 .942 .967 .981 .990 .995 .998 .999

.04 .010 .068 .193 .356 .519 .660 .770 .851 .908 .945 .968 .983 .991 .995 .998 .999

219

.05 .013 .077 .208 .373 .535 .673 .780 .858 .912 .948 .970 .984 .991 .996 .998 .999

= K(z)

.06 .016 .088 .224 .390 .550 .685 .789 .864 .916 .951 .972 .985 .992 .996 .998 .999

.07 .020 .099 .240 .406 .565 .696 .798 .871 .921 .953 .973 .986 .992 .996 .998 .999

.08 .025 .110 .256 .423 .579 .708 .806 .877 .925 .956 .975 .986 .993 .996 .998 .999

.09 .030 .123 .272 .440 .593 .719 .814 .882 .928 .958 .976 .987 .993 .997 .998 .999

¨ ´ TABL ´ AZATOK ´ B. FUGGEL EK.

220

Normális eloszlás eloszlásfüggvénye x .0 .1 .2 .3 .4 .5 .6 .7 .8 .9 1.0 1.1 1.2 1.3 1.4 1.5 1.6 1.7 1.8 1.9 2.0 2.1 2.2 2.3 2.4 2.5 2.6 2.7 2.8 2.9 3.0 3.1 3.2 3.3 3.4 3.5 3.6 3.7 3.8

.00 .5000 .5398 .5793 .6179 .6554 .6915 .7257 .7580 .7881 .8159 .8413 .8643 .8849 .9032 .9192 .9332 .9452 .9554 .9641 .9713 .9772 .9821 .9861 .9893 .9918 .9938 .9953 .9965 .9974 .9981 .9987 .9990 .9993 .9995 .9997 .9998 .9998 .9999 .9999

.01 .5040 .5438 .5832 .6217 .6591 .6950 .7291 .7611 .7910 .8186 .8438 .8665 .8869 .9049 .9207 .9345 .9463 .9564 .9649 .9719 .9778 .9826 .9864 .9896 .9920 .9940 .9955 .9966 .9975 .9982 .9987 .9991 .9993 .9995 .9997 .9998 .9998 .9999 .9999

P (ξ < x) = Φ(x) .02 .03 .04 .5080 .5120 .5160 .5478 .5517 .5557 .5871 .5910 .5948 .6255 .6293 .6331 .6628 .6664 .6700 .6985 .7019 .7054 .7324 .7357 .7389 .7642 .7673 .7704 .7939 .7967 .7995 .8212 .8238 .8264 .8461 .8485 .8508 .8686 .8708 .8729 .8888 .8907 .8925 .9066 .9082 .9099 .9222 .9236 .9251 .9357 .9370 .9382 .9474 .9484 .9495 .9573 .9582 .9591 .9656 .9664 .9671 .9726 .9732 .9738 .9783 .9788 .9793 .9830 .9834 .9838 .9868 .9871 .9875 .9898 .9901 .9904 .9922 .9925 .9927 .9941 .9943 .9945 .9956 .9957 .9959 .9967 .9968 .9969 .9976 .9977 .9977 .9982 .9983 .9984 .9987 .9988 .9988 .9991 .9991 .9992 .9994 .9994 .9994 .9995 .9996 .9996 .9997 .9997 .9997 .9998 .9998 .9998 .9999 .9999 .9999 .9999 .9999 .9999 .9999 .9999 .9999

ξ ∈ N (0; 1) .05 .06 .5199 .5239 .5596 .5636 .5987 .6026 .6368 .6406 .6736 .6772 .7088 .7123 .7422 .7454 .7734 .7764 .8023 .8051 .8289 .8315 .8531 .8554 .8749 .8770 .8944 .8962 .9115 .9131 .9265 .9279 .9394 .9406 .9505 .9515 .9599 .9608 .9678 .9686 .9744 .9750 .9798 .9803 .9842 .9846 .9878 .9881 .9906 .9909 .9929 .9931 .9946 .9948 .9960 .9961 .9970 .9971 .9978 .9979 .9984 .9985 .9989 .9989 .9992 .9992 .9994 .9994 .9996 .9996 .9997 .9997 .9998 .9998 .9999 .9999 .9999 .9999 .9999 .9999

.07 .5279 .5675 .6064 .6443 .6808 .7157 .7486 .7794 .8078 .8340 .8577 .8790 .8980 .9147 .9292 .9418 .9525 .9616 .9693 .9756 .9808 .9850 .9884 .9911 .9932 .9949 .9962 .9972 .9979 .9985 .9989 .9992 .9995 .9996 .9997 .9998 .9999 .9999 .9999

.08 .5319 .5714 .6103 .6480 .6844 .7190 .7517 .7823 .8106 .8365 .8599 .8810 .8997 .9162 .9306 .9429 .9535 .9625 .9699 .9761 .9812 .9854 .9887 .9913 .9934 .9951 .9963 .9973 .9980 .9986 .9990 .9993 .9995 .9996 .9997 .9998 .9999 .9999 .9999

.09 .5359 .5753 .6141 .6517 .6879 .7224 .7549 .7852 .8133 .8389 .8621 .8830 .9015 .9177 .9319 .9441 .9545 .9633 .9706 .9767 .9817 .9857 .9890 .9916 .9936 .9952 .9964 .9974 .9981 .9986 .9990 .9993 .9995 .9997 .9998 .9998 .9999 .9999 .9999

221

T-eloszlás kritikus értékei P (|t| > tα ) = α t ∈ Tn n

α

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 25 30 35 40 50 60 70 80 90 100 ∞

0.2 3.078 1.886 1.638 1.533 1.476 1.440 1.415 1.397 1.383 1.372 1.363 1.356 1.350 1.345 1.341 1.337 1.333 1.330 1.328 1.325 1.316 1.310 1.306 1.303 1.299 1.296 1.294 1.292 1.291 1.290 1.282

0.1 0.05 0.025 0.01 0.001 6.314 12.706 25.452 63.657 636.621 2.920 4.303 6.205 9.925 31.599 2.353 3.182 4.177 5.841 12.924 2.132 2.776 3.495 4.604 8.610 2.015 2.571 3.163 4.032 6.869 1.943 2.447 2.969 3.707 5.959 1.895 2.365 2.841 3.499 5.408 1.860 2.306 2.752 3.355 5.041 1.833 2.262 2.685 3.250 4.781 1.812 2.228 2.634 3.169 4.587 1.796 2.201 2.593 3.106 4.437 1.782 2.179 2.560 3.055 4.318 1.771 2.160 2.533 3.012 4.221 1.761 2.145 2.510 2.977 4.140 1.753 2.131 2.490 2.947 4.073 1.746 2.120 2.473 2.921 4.015 1.740 2.110 2.458 2.898 3.965 1.734 2.101 2.445 2.878 3.922 1.729 2.093 2.433 2.861 3.883 1.725 2.086 2.423 2.845 3.850 1.708 2.060 2.385 2.787 3.725 1.697 2.042 2.360 2.750 3.646 1.690 2.030 2.342 2.724 3.591 1.684 2.021 2.329 2.704 3.551 1.676 2.009 2.311 2.678 3.496 1.671 2.000 2.299 2.660 3.460 1.667 1.994 2.291 2.648 3.435 1.664 1.990 2.284 2.639 3.416 1.662 1.987 2.280 2.632 3.402 1.660 1.984 2.276 2.626 3.390 1.645 1.960 2.241 2.576 3.291



222

χ2 -eloszlás kritikus értékei

n

α

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 25 30 35 40 50 60 70 80 90 100

0.999 .00 .00 .02 .09 .21 .38 .60 .86 1.15 1.48 1.83 2.21 2.62 3.04 3.48 3.94 4.42 4.90 5.41 5.92 8.65 11.59 14.69 17.92 24.67 31.74 39.04 46.52 54.16 61.92

0.99 .00 .02 .11 .30 .55 .87 1.24 1.65 2.09 2.56 3.05 3.57 4.11 4.66 5.23 5.81 6.41 7.01 7.63 8.26 11.52 14.95 18.51 22.16 29.71 37.48 45.44 53.54 61.75 70.06

0.975 .00 .05 .22 .48 .83 1.24 1.69 2.18 2.70 3.25 3.82 4.40 5.01 5.63 6.26 6.91 7.56 8.23 8.91 9.59 13.12 16.79 20.57 24.43 32.36 40.48 48.76 57.15 65.65 74.22

P χ2 > χ2α = α χ2 ∈ χ2n 0.95 .00 .10 .35 .71 1.15 1.64 2.17 2.73 3.33 3.94 4.57 5.23 5.89 6.57 7.26 7.96 8.67 9.39 10.12 10.85 14.61 18.49 22.47 26.51 34.76 43.19 51.74 60.39 69.13 77.93

0.90 0.10 0.05 0.025 0.01 0.001 .02 2.71 3.84 5.02 6.63 10.83 .21 4.61 5.99 7.38 9.21 13.82 .58 6.25 7.81 9.35 11.34 16.27 1.06 7.78 9.49 11.14 13.28 18.47 1.61 9.24 11.07 12.83 15.09 20.52 2.20 10.64 12.59 14.45 16.81 22.46 2.83 12.02 14.07 16.01 18.48 24.32 3.49 13.36 15.51 17.53 20.09 26.12 4.17 14.68 16.92 19.02 21.67 27.88 4.87 15.99 18.31 20.48 23.21 29.59 5.58 17.28 19.68 21.92 24.72 31.26 6.30 18.55 21.03 23.34 26.22 32.91 7.04 19.81 22.36 24.74 27.69 34.53 7.79 21.06 23.68 26.12 29.14 36.12 8.55 22.31 25.00 27.49 30.58 37.70 9.31 23.54 26.30 28.85 32.00 39.25 10.09 24.77 27.59 30.19 33.41 40.79 10.86 25.99 28.87 31.53 34.81 42.31 11.65 27.20 30.14 32.85 36.19 43.82 12.44 28.41 31.41 34.17 37.57 45.31 16.47 34.38 37.65 40.65 44.31 52.62 20.60 40.26 43.77 46.98 50.89 59.70 24.80 46.06 49.80 53.20 57.34 66.62 29.05 51.81 55.76 59.34 63.69 73.40 37.69 63.17 67.50 71.42 76.15 86.66 46.46 74.40 79.08 83.30 88.38 99.61 55.33 85.53 90.53 95.02 100.43 112.32 64.28 96.58 101.88 106.63 112.33 124.84 73.29 107.57 113.15 118.14 124.12 137.21 82.36 118.50 124.34 129.56 135.81 149.45

223

F -eloszl´ as

kritikus értékei

P (f > f0.1 ) = 0.1 f ∈ F(n1 ;n2 )

n2

n1

1 2 3 4 5 6 7 8 9 10 12 15 20 25 30 35 40 60 120 ∞

1 2 3 4 5 6 7 8 9 10 39.86 49.50 53.59 55.83 57.24 58.20 58.91 59.44 59.86 60.19 8.53 9.00 9.16 9.24 9.29 9.33 9.35 9.37 9.38 9.39 5.54 5.46 5.39 5.34 5.31 5.28 5.27 5.25 5.24 5.23 4.54 4.32 4.19 4.11 4.05 4.01 3.98 3.95 3.94 3.92 4.06 3.78 3.62 3.52 3.45 3.40 3.37 3.34 3.32 3.30 3.78 3.46 3.29 3.18 3.11 3.05 3.01 2.98 2.96 2.94 3.59 3.26 3.07 2.96 2.88 2.83 2.78 2.75 2.72 2.70 3.46 3.11 2.92 2.81 2.73 2.67 2.62 2.59 2.56 2.54 3.36 3.01 2.81 2.69 2.61 2.55 2.51 2.47 2.44 2.42 3.29 2.92 2.73 2.61 2.52 2.46 2.41 2.38 2.35 2.32 3.18 2.81 2.61 2.48 2.39 2.33 2.28 2.24 2.21 2.19 3.07 2.70 2.49 2.36 2.27 2.21 2.16 2.12 2.09 2.06 2.97 2.59 2.38 2.25 2.16 2.09 2.04 2.00 1.96 1.94 2.92 2.53 2.32 2.18 2.09 2.02 1.97 1.93 1.89 1.87 2.88 2.49 2.28 2.14 2.05 1.98 1.93 1.88 1.85 1.82 2.85 2.46 2.25 2.11 2.02 1.95 1.90 1.85 1.82 1.79 2.84 2.44 2.23 2.09 2.00 1.93 1.87 1.83 1.79 1.76 2.79 2.39 2.18 2.04 1.95 1.87 1.82 1.77 1.74 1.71 2.75 2.35 2.13 1.99 1.90 1.82 1.77 1.72 1.68 1.65 2.71 2.30 2.08 1.94 1.85 1.77 1.72 1.67 1.63 1.60



224

F -eloszl´ as


P (f > f0.1 ) = 0.1 f ∈ F(n1 ;n2 )

n2

n1

1 2 3 4 5 6 7 8 9 10 12 15 20 25 30 35 40 60 120 ∞

12 15 20 25 30 35 40 60 120 ∞ 60.71 61.22 61.74 62.05 62.26 62.42 62.53 62.79 63.06 63.33 9.41 9.42 9.44 9.45 9.46 9.46 9.47 9.47 9.48 9.49 5.22 5.20 5.18 5.17 5.17 5.16 5.16 5.15 5.14 5.13 3.90 3.87 3.84 3.83 3.82 3.81 3.80 3.79 3.78 3.76 3.27 3.24 3.21 3.19 3.17 3.16 3.16 3.14 3.12 3.11 2.90 2.87 2.84 2.81 2.80 2.79 2.78 2.76 2.74 2.72 2.67 2.63 2.59 2.57 2.56 2.54 2.54 2.51 2.49 2.47 2.50 2.46 2.42 2.40 2.38 2.37 2.36 2.34 2.32 2.29 2.38 2.34 2.30 2.27 2.25 2.24 2.23 2.21 2.18 2.16 2.28 2.24 2.20 2.17 2.16 2.14 2.13 2.11 2.08 2.06 2.15 2.10 2.06 2.03 2.01 2.00 1.99 1.96 1.93 1.90 2.02 1.97 1.92 1.89 1.87 1.86 1.85 1.82 1.79 1.76 1.89 1.84 1.79 1.76 1.74 1.72 1.71 1.68 1.64 1.61 1.82 1.77 1.72 1.68 1.66 1.64 1.63 1.59 1.56 1.52 1.77 1.72 1.67 1.63 1.61 1.59 1.57 1.54 1.50 1.46 1.74 1.69 1.63 1.60 1.57 1.55 1.53 1.50 1.46 1.41 1.71 1.66 1.61 1.57 1.54 1.52 1.51 1.47 1.42 1.38 1.66 1.60 1.54 1.50 1.48 1.45 1.44 1.40 1.35 1.29 1.60 1.55 1.48 1.44 1.41 1.39 1.37 1.32 1.26 1.19 1.55 1.49 1.42 1.38 1.34 1.32 1.30 1.24 1.17 1.00

225

F -eloszl´ as


P (f > f0.05 ) = 0.05 f ∈ F(n1 ;n2 )

n2

n1

1 2 3 4 5 6 7 8 9 10 12 15 20 25 30 35 40 60 120 ∞

1 2 3 4 5 6 7 8 9 10 161.5 199.5 215.7 224.6 230.2 234.0 236.8 238.9 240.5 241.9 18.51 19.00 19.16 19.25 19.30 19.33 19.35 19.37 19.38 19.40 10.13 9.55 9.28 9.12 9.01 8.94 8.89 8.85 8.81 8.79 7.71 6.94 6.59 6.39 6.26 6.16 6.09 6.04 6.00 5.96 6.61 5.79 5.41 5.19 5.05 4.95 4.88 4.82 4.77 4.74 5.99 5.14 4.76 4.53 4.39 4.28 4.21 4.15 4.10 4.06 5.59 4.74 4.35 4.12 3.97 3.87 3.79 3.73 3.68 3.64 5.32 4.46 4.07 3.84 3.69 3.58 3.50 3.44 3.39 3.35 5.12 4.26 3.86 3.63 3.48 3.37 3.29 3.23 3.18 3.14 4.96 4.10 3.71 3.48 3.33 3.22 3.14 3.07 3.02 2.98 4.75 3.89 3.49 3.26 3.11 3.00 2.91 2.85 2.80 2.75 4.54 3.68 3.29 3.06 2.90 2.79 2.71 2.64 2.59 2.54 4.35 3.49 3.10 2.87 2.71 2.60 2.51 2.45 2.39 2.35 4.24 3.39 2.99 2.76 2.60 2.49 2.40 2.34 2.28 2.24 4.17 3.32 2.92 2.69 2.53 2.42 2.33 2.27 2.21 2.16 4.12 3.27 2.87 2.64 2.49 2.37 2.29 2.22 2.16 2.11 4.08 3.23 2.84 2.61 2.45 2.34 2.25 2.18 2.12 2.08 4.00 3.15 2.76 2.53 2.37 2.25 2.17 2.10 2.04 1.99 3.92 3.07 2.68 2.45 2.29 2.18 2.09 2.02 1.96 1.91 3.84 3.00 2.61 2.37 2.21 2.10 2.01 1.94 1.88 1.83



226

F -eloszl´ as


P (f > f0.05 ) = 0.05 f ∈ F(n1 ;n2 )

n2

n1

1 2 3 4 5 6 7 8 9 10 12 15 20 25 30 35 40 60 120 ∞

12 15 20 25 30 35 40 60 120 ∞ 243.9 246.0 248.0 249.3 250.1 250.7 251.1 252.2 253.3 254.7 19.41 19.43 19.45 19.46 19.46 19.47 19.47 19.48 19.49 19.50 8.74 8.70 8.66 8.63 8.62 8.60 8.59 8.57 8.55 8.53 5.91 5.86 5.80 5.77 5.75 5.73 5.72 5.69 5.66 5.63 4.68 4.62 4.56 4.52 4.50 4.48 4.46 4.43 4.40 4.37 4.00 3.94 3.87 3.83 3.81 3.79 3.77 3.74 3.70 3.67 3.57 3.51 3.44 3.40 3.38 3.36 3.34 3.30 3.27 3.23 3.28 3.22 3.15 3.11 3.08 3.06 3.04 3.01 2.97 2.93 3.07 3.01 2.94 2.89 2.86 2.84 2.83 2.79 2.75 2.71 2.91 2.85 2.77 2.73 2.70 2.68 2.66 2.62 2.58 2.54 2.69 2.62 2.54 2.50 2.47 2.44 2.43 2.38 2.34 2.30 2.48 2.40 2.33 2.28 2.25 2.22 2.20 2.16 2.11 2.07 2.28 2.20 2.12 2.07 2.04 2.01 1.99 1.95 1.90 1.84 2.16 2.09 2.01 1.96 1.92 1.89 1.87 1.82 1.77 1.71 2.09 2.01 1.93 1.88 1.84 1.81 1.79 1.74 1.68 1.62 2.04 1.96 1.88 1.82 1.79 1.76 1.74 1.68 1.62 1.56 2.00 1.92 1.84 1.78 1.74 1.72 1.69 1.64 1.58 1.51 1.92 1.84 1.75 1.69 1.65 1.62 1.59 1.53 1.47 1.39 1.83 1.75 1.66 1.60 1.55 1.52 1.50 1.43 1.35 1.25 1.75 1.67 1.57 1.51 1.46 1.42 1.39 1.32 1.22 1.00

227

F -eloszl´ as


P (f > f0.025 ) = 0.025 f ∈ F(n1 ;n2 )

n2

n1

1 2 3 4 5 6 7 8 9 10 12 15 20 25 30 35 40 60 120 ∞

1 647.8 38.51 17.44 12.22 10.01 8.81 8.07 7.57 7.21 6.94 6.55 6.20 5.87 5.69 5.57 5.48 5.42 5.29 5.15 5.02

2 3 4 5 6 7 8 9 10 799.5 864.2 899.6 921.8 937.1 948.2 956.7 963.3 968.6 39.00 39.17 39.25 39.30 39.33 39.36 39.37 39.39 39.40 16.04 15.44 15.10 14.88 14.73 14.62 14.54 14.47 14.42 10.65 9.98 9.60 9.36 9.20 9.07 8.98 8.90 8.84 8.43 7.76 7.39 7.15 6.98 6.85 6.76 6.68 6.62 7.26 6.60 6.23 5.99 5.82 5.70 5.60 5.52 5.46 6.54 5.89 5.52 5.29 5.12 4.99 4.90 4.82 4.76 6.06 5.42 5.05 4.82 4.65 4.53 4.43 4.36 4.30 5.71 5.08 4.72 4.48 4.32 4.20 4.10 4.03 3.96 5.46 4.83 4.47 4.24 4.07 3.95 3.85 3.78 3.72 5.10 4.47 4.12 3.89 3.73 3.61 3.51 3.44 3.37 4.77 4.15 3.80 3.58 3.41 3.29 3.20 3.12 3.06 4.46 3.86 3.51 3.29 3.13 3.01 2.91 2.84 2.77 4.29 3.69 3.35 3.13 2.97 2.85 2.75 2.68 2.61 4.18 3.59 3.25 3.03 2.87 2.75 2.65 2.57 2.51 4.11 3.52 3.18 2.96 2.80 2.68 2.58 2.50 2.44 4.05 3.46 3.13 2.90 2.74 2.62 2.53 2.45 2.39 3.93 3.34 3.01 2.79 2.63 2.51 2.41 2.33 2.27 3.80 3.23 2.89 2.67 2.52 2.39 2.30 2.22 2.16 3.69 3.12 2.79 2.57 2.41 2.29 2.19 2.11 2.05



228

F -eloszl´ as


P (f > f0.025 ) = 0.025 f ∈ F(n1 ;n2 )

n2

n1

1 2 3 4 5 6 7 8 9 10 12 15 20 25 30 35 40 60 120 ∞

12 15 20 25 30 35 40 60 120 ∞ 976.7 984.9 993.1 998.1 1001 1003 1006 1010 1014 1018 39.41 39.43 39.45 39.46 39.46 39.47 39.47 39.48 39.49 39.50 14.34 14.25 14.17 14.12 14.08 14.06 14.04 13.99 13.95 13.90 8.75 8.66 8.56 8.50 8.46 8.43 8.41 8.36 8.31 8.26 6.52 6.43 6.33 6.27 6.23 6.20 6.18 6.12 6.07 6.02 5.37 5.27 5.17 5.11 5.07 5.04 5.01 4.96 4.90 4.85 4.67 4.57 4.47 4.40 4.36 4.33 4.31 4.25 4.20 4.14 4.20 4.10 4.00 3.94 3.89 3.86 3.84 3.78 3.73 3.67 3.87 3.77 3.67 3.60 3.56 3.53 3.51 3.45 3.39 3.33 3.62 3.52 3.42 3.35 3.31 3.28 3.26 3.20 3.14 3.08 3.28 3.18 3.07 3.01 2.96 2.93 2.91 2.85 2.79 2.73 2.96 2.86 2.76 2.69 2.64 2.61 2.59 2.52 2.46 2.40 2.68 2.57 2.46 2.40 2.35 2.31 2.29 2.22 2.16 2.09 2.51 2.41 2.30 2.23 2.18 2.15 2.12 2.05 1.98 1.91 2.41 2.31 2.20 2.12 2.07 2.04 2.01 1.94 1.87 1.79 2.34 2.23 2.12 2.05 2.00 1.96 1.93 1.86 1.79 1.70 2.29 2.18 2.07 1.99 1.94 1.90 1.88 1.80 1.72 1.64 2.17 2.06 1.94 1.87 1.82 1.78 1.74 1.67 1.58 1.48 2.05 1.94 1.82 1.75 1.69 1.65 1.61 1.53 1.43 1.31 1.94 1.83 1.71 1.63 1.57 1.52 1.48 1.39 1.27 1.00

C. F¨ uggel´ ek K´ epletek 1. Valósz´ın˝ uség becslése (a) Visszatevéses mintavétel p ∼ pˆ =

ν n

1 p 1 p D (ˆ p) = √ p · (1 − p) ∼ √ pˆ · (1 − pˆ) n n

(b) Visszatevés nélk¨ uli mintavétel

p= 1 D (ˆ p) = √ n

s

ν M ∼ pˆ = N n

n−1 p · (1 − p) · 1 − N −1

1 ∼√ n

s

n−1 pˆ · (1 − pˆ) 1 − N −1

2. Várható érték és szórás becslése (a) Visszatevéses, f¨ uggetlen mintavétel 1 Pn m ∼ ¯ξ = ξ σ ∼ s∗ = n i=1 ı

r

1 Pn ¯ 2 i=1 ξ ı − ξ n−1

σ s∗ D ¯ξ = √ ∼ √ n n

(b) Visszatevés nélk¨ uli mintavétel véges sokaságból r 1 Pn 1 Pn ∗ ¯ ¯ξ 2 m∼ξ= ξ σ ∼ s = ξ − n i=1 ı n − 1 i=1 ı r r ∗ s σ n − 1 n−1 ∼ √ · 1− D ¯ξ = √ · 1 − N −1 N −1 n n 229

¨ ´ KEPLETEK ´ C. FUGGEL EK.

230 3. Konfidencia intervallumok s∗ m ∼ ¯ξ ± tα · √ n

r

1 1 + n k r σ 1 1 0 m ∼ ¯ξ ± uα · √ η¯ ∼ ¯ξ ± uα · σ 0 · + n n k ! n − 1 n − 1 σ 2 ∼ s∗2 · 2 ; s∗2 · 2 χα χ1− α η¯ ∼ ¯ξ ± tα · s∗ ·

2

2

4. Próbák (a) Paraméterek próbái (n − 1) · s∗2 s∗2 ∈ χ2n−1 H0 : σ 1 = σ 2 ⇒ s1∗2 ∈ F(n1−1 ;n2 −1) 2 2 σ0 ¯ξ − m0 √ ¯ξ − m0 √ H0 : m = m 0 ⇒ t = · · n ∈ N (0; 1) n ∈ T u = n−1 s∗ σ r ¯ξ − η¯ n1 n2 · ∈ Tn1 +n2 −2 H0 : m 1 = m 2 ⇒ t = S n1 + n 2 r ∗2 (n1 − 1)s∗2 1 + (n2 − 1)s2 ahol σ ∼ S = n1 + n 2 − 2 (b) Az u-próba er˝of¨ uggvénye √ m0 − m √ m0 − m E = 1−Φ n· + uα + Φ n· − uα σ0 σ0 H0 : σ = σ 0 ⇒ χ 2 =

(c) Illeszkedési próbák r (ν − n · p )2 P i i0 ∈ χ2r−1 n · p i0 i=1 √ n · supx∈R Fξn (x) − F0 (x) < z = K(z) H0 : F = F 0 ⇒ P

H0 : pi = pi0 ⇒

(d) F¨ uggetlenség vizsgálat

H0 : pij = pi. · p.j ⇒ n ·

r X s X i=1 j=1

ν i. · ν .j 2 n ∈ χ2(r−1)·(s−1) ν i. · ν .j

ν ij −

(e) Szórásanal´ızis ¯ξ i. − ¯ξ .. 2 n − r n ı HA : a1 = a2 = . . . = ar = 0 ⇒ f = Pr i=1 ∈ F(r−1,n−r) · P nı ¯ξ 2 r − 1 ξ − ij i. j=1 i=1 2 Pr ¯ t · i=1 ξ i. − ¯ξ .. r(t − 1) ∈ F(r−1,rt−r) HA : σ A = 0 ⇒ f = P r P t 2 · r−1 ξ ij − ¯ξ i. Pr

i=1

j=1

matematikai statisztika október 24

Recommend Documents