Dr. Karácsony Zsolt. Miskolci Egyetem november

Valósz´ın˝uségszám´ıtás és Matematikai statisztika Dr. Karácsony Zsolt Miskolci Egyetem, Alkalmazott Matematikai Tansz´ ek

2013-2014 tanév 1. félév Miskolci Egyetem 2013. november 11 - 18 - 25.

Dr. Kar´ acsony Zsolt — Val´ osz´ın˝ us´ egsz´ am´ıt´ as ´ es Matematikai statisztika

1/62

Tartalom

1 10. el˝ oadás 2 11. el˝ oadás 3 12. el˝ oadás


2/62

Tartalom



3/62

10. el˝oadás Statisztika

Alapfeladat ”Következtetés tapasztalati adatokb´ ol események ismeretlen valósz´ın˝ uségére vagy val´ osz´ın˝ uségi változ´ ok ismeretlen eloszlásf¨ uggvényére és ezek paramétereire.” (Vincze, 1975)


4/62

10. el˝oadás Minta, mintavétel

Bevezetés A valósz´ın˝ uség-szám´ıtás tárgyalása során feltételezt¨ uk, hogy a háttérben egy (Ω, A, P) val´ osz´ın˝ uségi mez˝ o áll, az X vagy ξ valósz´ın˝ uségi változó Ω-n értelmezett, X eloszlásf¨ uggvénye F és F ismert. A statisztikai megfigyeléseket éppen azért végezz¨ uk, hogy az F eloszlásf¨ uggvényt megismerj¨ uk. Defin´ıció Legyen Θ egy nem¨ ures halmaz, minden θ ∈ Θ legyen (Ω, A, Pθ ) valósz´ın˝ uségi mez˝o. Az (Ω, A, Pθ ), θ ∈ Θ ¨ osszeséget statisztikai mintának nevezz¨ uk. Θ-t paramétertérnek, elemeit pedig paramétereknek nevezz¨ uk.


5/62

10. el˝oadás Minta, mintavétel

Defin´ıció Az X1 , X2 , . . . , Xn f¨ uggetlen, azonos eloszlás´ u val´ osz´ın˝ uségi változókat mintának nevezz¨ uk. R¨ ogz´ıtett ω ∈ Ω esetén az x1 = X1 (ω), x2 = X2 (ω), . . . , xn = Xn (ω) szám n-est minta realizációjának nevezz¨ uk. Emp´ırikus eloszlásf¨ uggvény Próbáljuk meg rekonstruálni a minta alapján az F eloszlásf¨ uggvényt! Defin´ıció Legyen ω ∈ Ω rögz´ıtett, jel¨ olje X1∗ (ω) ≤ X2∗ (ω) ≤ . . . ≤ Xn∗ (ω) az X1 (ω), X2 (ω), . . . , Xn (ω) minta realizáci´ o elemeinek nagyság szerint növekv˝o permutáci´ oja. Az X1∗ ≤ X2∗ ≤ . . . ≤ Xn∗ valósz´ın˝ uségi változókat rendezett mintának nevezz¨ uk. Dr. Kar´ acsony Zsolt — Val´ osz´ın˝ us´ egsz´ am´ıt´ as ´ es Matematikai statisztika

6/62

10. el˝oadás Emp´ırikus eloszlásf¨ uggvény

Defin´ıció Legyen X1∗ , X2∗ , . . . , Xn∗ rendezett minta. Az  ∗   0, ha x ≤ X1 , k ∗ ∗ Fn∗ (x) = n , ha Xk ≤ x ≤ Xk+1 , k = 1, 2, . . . , n − 1   1, ha x > Xn∗ . f¨ uggvényt emp´ırikus eloszlásf¨ uggvénynek nevezz¨ uk.


7/62

10. el˝oadás Emp´ırikus eloszlásf¨ uggvénynekk

Tétel Rögz´ıtett x ∈ R esetén az alábbiak teljes¨ ulnek: a.) nFn∗ (x) binomiális eloszlás´ u; b.) Fn∗ (x) várható értéke F (x); c.) Fn∗ (x) szórása 0-hoz tart, ha n → ∞; d.) Fn∗ (x) → F (x) sztochasztikusan, ha n → ∞. Tétel Bármely rögz´ıtett x ∈ R esetén lim Fn∗ (x) = F (x) majdnem biztosan;

n→∞

lim Fn∗ (x + 0) = F (x + 0) majdnem biztosan.

n→∞


8/62

10. el˝oadás A matematikai statisztika alaptétele

Glivenko-tétele Ha az X1 , X2 , . . . , Xn f¨ uggetlen minta, akkor sup |Fn∗ (x) − F (x)| → 0,

x∈R

ha n → ∞ teljes¨ ul 1 val´ osz´ın˝ uséggel.


9/62

10. el˝oadás Statisztikák

Sokféle statisztika használatos, ki kell emelni ezek köz¨ ul is a hisztogramokat. Tekints¨ unk egy X1 , X2 , . . . , Xn mintát! Osszuk fel a számegyenest y0 < y1 < . . . < yr oszt´ opontokkal. Tegy¨ uk fel, hogy minden mintaelem beleesik az (y0 , yr ) intervallumba. Jel¨ olje νi az [yi−1 , yi ) intervallumba es˝o elemek számát. (i = 1, 2, . . . , r ) Rajzoljunk az [yi−1 , yi ) intervallum felé νi -vel arányos ter¨ ulet˝ u téglalapot.(i = 1, 2, . . . , r ) Így megkapjuk a hisztogramot. Ha a téglalapok összter¨ ulete n, akkor a gyakoris´ agi-hisztogramhoz jutunk. Ha a téglalapok öszter¨ ulete 1, akkor a s˝ ur˝ us´ eg-hisztogramhoz jutunk.


10/62


Defin´ıció A gyakorisági-hisztogram az az fn val´ os f¨ uggvény, melyre ( νi yi −yi−1 , ha x ∈ [yi−1 , yi ], i = 1, 2, . . . , n fn (x) = 0, ha x ∈ / [y0 , yr ].

Megjegyzés S˝ ur˝ uség-hisztogram esetén az i-dik téglalap magassága: νi . n(yi − yi−1 )


11/62


Defin´ıció Legyen x1 , x2 , . . . , xn minta X -re. Az X =

1 (x1 + x2 + . . . + xn ) n

valósz´ın˝ uségi változót emp´ırikus k¨ ozépnek nevezz¨ uk. Defin´ıció Legyen x1 , x2 , . . . , xn minta X -re. Az n

sn2

1X = (xi − X )2 n i=1

mennyiséget emp´ırikus sz´ orásnégyzetnek nevezz¨ uk. Dr. Kar´ acsony Zsolt — Val´ osz´ın˝ us´ egsz´ am´ıt´ as ´ es Matematikai statisztika

12/62


Defin´ıció Legyen x1 , x2 , . . . , xn minta X -re. Az n

sn∗2 =

1 X (xi − X )2 n−1 i=1

mennyiséget korrigált emp´ırikus sz´ orásnégyzetnek nevezz¨ uk. Megjegyzés Az emp´ırikus szórásnégyzet seg´ıtségével k¨ ovetkeztethet¨ unk az X ismeretlen szórásnégyzetére.


13/62

10. el˝oadás Steiner-formula

Tétel (Steiner-formula) Tetsz˝oleges a ∈ R esetén nsn2 =

n X

(xi − a)2 − n(X − a)2 .

i=1

Bizony´ıtás nsn2 n X i=1

n X

n X = [(xi − a) − (X − a)]2 = i=1

(xi − a)2 − 2

n n X X (xi − a)(X − a) + (X − a)2 = i=1

i=1

(xi − a)2 − n(X − a)2 .

i=1 Dr. Kar´ acsony Zsolt — Val´ osz´ın˝ us´ egsz´ am´ıt´ as ´ es Matematikai statisztika

14/62


Megjegyzés Számolhatjuk ki az sn∗2 várhat´ o értékét, ha a Steiner formulába a = m-et ´ırunk. Tétel Legyen E (X ) = m, D 2 (X ) = σ 2 . Ekkor E (sn∗2 ) = σ 2 . Bizony´ıtás # n 1 X n 2 2 =E (xi − m) − (X − m) = n−1 n−1 i=1 n 1 X n E (xi − m)2 − E (X − m)2 . n−1 n−1 "

E (sn∗2 )

i=1


15/62


Bizony´ıtás Mivel E (xi − m)2 = σ 2 , illetve n −nm 2 = E (X − m)2 = E x1 +...+x n E (sn∗2 ) =

1 nσ 2 , n2

ezért

n σ2 n σ2 − = σ2, n−1 n−1 n

tehát a korrigált emp´ırikus sz´ orásnégyzet várhat´ o értéke éppen az elméleti szórásnégyzet.


16/62


Defin´ıció Legyen x1 , x2 , . . . , xn minta X -re. A k-dik tapasztalati momentum n 1X k alatt a következ˝o kifejezést értj¨ uk: xi . n i=1

Defin´ıció Legyen x1 , x2 , . . . , xn minta X -re. A minta terjedelme alatt a xn∗ − x1∗ mennyiséget értj¨ uk. Defin´ıció Legyen x1 , x2 , . . . , xn minta X -re. A sz´ orási egy¨ uttható alatt a mennyiséget értj¨ uk.


sn X

17/62


Defin´ıció Legyen x1 , x2 , . . . , xn minta X -re. A minta mediánja alatt a ( ∗ xm+1 , ha n = 2m + 1, med(x) = ∗ +x ∗ xm m+1 , ha n = 2m 2 mennyiséget értj¨ uk. Defin´ıció Legyen x1 , x2 , . . . , xn minta X -re. A minta medián abszol´ ut eltérése alatt a MAD(x) = med(|xi − med(x)|) mennyiséget értj¨ uk. Dr. Kar´ acsony Zsolt — Val´ osz´ın˝ us´ egsz´ am´ıt´ as ´ es Matematikai statisztika

18/62

10. el˝oadás Kvantilis

Defin´ıció Adott az F eloszlásf¨ uggvény és a p val´ osz´ın˝ uség. Az xp p-kvantilis, ha p = F (xp ). Ha p = 0.5, akkor mediánnak, még p = 0.25 és 0.75 esetén alsó illetve fels˝o kvartilisnek nevezz¨ uk. Egy sokaság p tapasztalati kvartilise xp = (1 − q)xA∗ + qxB∗ , A = [np]; B = [np] + 1; q = {np}.

Példa Ha p = 0.21, n = 40, akkor xp = (1 − 0.4)x8∗ + 0.4x9∗ .


19/62

10. el˝oadás Becslési m´ odszerek

Bevezetés A becsléselméletben gyakran feltételezz¨ uk, hogy a megfigyelt mennyiségek f¨ uggetlen val´ osz´ın˝ uségi változ´ ok, k¨ oz¨ os Fθ0 eloszlással, amely egy meghatározott {Fθ |θ ∈ Θ} eloszláshalmazba tartozik. Θ általában Rk egy részhalmaza. Megpróbáljuk θ0 értékét a megfigyelések alapján meghatározni. Legyen adott az X1 , X2 , . . . , Xn minta, melynek s˝ ur˝ uségf¨ uggvénye f és ez a Θ paramétert˝ol f¨ ugg. Tehát adott a {f (., θ)|θ ∈ Θ ⊂ Rk }.


20/62

10. el˝oadás Becslési m´ odszerek

Defin´ıció Pontbecslésnek nevezz¨ uk a mintaelemek mérhet˝ o f¨ uggvényét, ahol a becslés és a paraméter koordinátáinak a száma megegyezik, azaz cn (X1 , X2 , . . . , Xn ) ∈ Θ. Θ Defin´ıció Intervallumbecslésnek nevezz¨ uk a Γ tartományt 1 − α megb´ızhatósági szinttel, ha Γ ∈ Θ és P(θ ∈ Γ) = 1 − α.


21/62

10. el˝oadás Pontbecslés

Defin´ıció Legyen adott az x1 , x2 , . . . , xn minta f (x1 , x2 , . . . , xn ; Θ) s˝ ur˝ uségf¨ uggvénnyel. c cn ) a Θ paraméter torz´ıtatlan A Θn (x1 , x2 , . . . , xn ) (r¨ oviden Θ cn ) = Θ. becslése, ha E (Θ cn a Θ paraméter aszimptotikusan torz´ıtatlan becslése, ha Θ cn ) = Θ. lim E (Θ

n→∞

Megjegyzés Az átlag a várható érték torz´ıtatlan becslése. A korrigált tapasztalati sz´ orásnégyzet torz´ıtatlan becslése a szórásnégyzetnek. Dr. Kar´ acsony Zsolt — Val´ osz´ın˝ us´ egsz´ am´ıt´ as ´ es Matematikai statisztika

22/62

10. el˝oadás Pontbecslés

Defin´ıció cn és a Θ fn torz´ıtatlan becslés. A Θ cn hatásosabb a Θ fn Adott a Θ 2 2 c f becslésnél, ha D (Θn ) ≤ D (Θn ). Defin´ıció cn (x1 , x2, . . . , xn ) sorozat konzisztens becsléssorozata a Θ AΘ paraméterre, ha cn − Θ| > ε = 0, lim P |Θ

n→∞

minden ε > 0 esetén. cn (x1 , x2, . . . , xn ) sorozat er˝ AΘ osen konzisztens becsléssorozata a Θ paraméterre, ha ∀n esetén cn ) = Θ, és lim D 2 (Θ cn ) = 0. E (Θ n→∞


23/62

10. el˝oadás Likelihood-becslés

Defin´ıció Tekints¨ unk egy X -re adott x1 , x2 , . . . , xn mintát. Az L(x1 , x2 , . . . , xn ; θ) =

n Y

f (xi , θ)

i=1

f¨ uggvényt az x1 , x2 , . . . , xn mintához tartoz´ o likelihood-f¨ uggvénynek nevezz¨ uk. Defin´ıció b statisztikát a Θ paraméter maximum likelihood-becslésének AΘ b globális maximumhelye a likelihood-f¨ nevezz¨ uk, ha Θ uggvénynek, azaz b 1 , x2 , . . . , xn )) ≥ L(x1 , x2 , . . . , xn , θ) L(x1 , x2 , . . . , xn ; Θ(x

minden θ ∈ Θ esetén. Dr. Kar´ acsony Zsolt — Val´ osz´ın˝ us´ egsz´ am´ıt´ as ´ es Matematikai statisztika

24/62


Példa: λ paraméter˝ u Poisson-eloszlás Legyen adott az x1 , x2 , . . . , xn minta. Az általános´ıtott s˝ ur˝ uségf¨ uggvényhez használjuk az λk −λ f (k, λ) = e . k! n n X X logL(x1 , x2 , . . . , xn ; λ) = log λ · xi − logxi ! − nλ, ennek kell i=1

i=1

meghatározni a maximumát. n

1X A szám´ıtások elvégzése után kapjuk, hogy xi − n = 0, λ i=1 cn = x. Még ellen˝ ahonnan λ orizni kell, hogy ∂2 logL(x1 , x2 , . . . , xn , λ) ∂xi2

= − λ12

Pn

i=1 xi


< 0.

25/62


Példa: λ paraméter˝ u exponenciális-eloszlás f (x, λ) = λe −λx logL(x1 , x2 , . . . , xn , λ) = nlog λ − λ

n X

xi

i=1 n

n X b = 1. − xi = 0 ⇒ λ λ x i=1


26/62

10. el˝oadás Momentumok m´ odszere

Ha egy valósz´ın˝ uségi változ´ onak létezik a várhat´ o értéke, akkor a nagy számok törvénye alapján, ha x1 , x2 , . . . f¨ uggetlen, vele azonos eloszlás´ u valósz´ın˝ uségi változ´ ok sorozata, akkor a részletösszegek átlaga tart a várható értékhez. Továbbá tudjuk, hogy ha általában nem is, de elég gyenge feltételek mellett a momentumok x k +x k +...+xnk meghatározzák az eloszlást. µk = E (x k ) és mk = 1 2 n és µ k = mk .


27/62

Köszönöm a figyelmet!


28/62

Tartalom



29/62

11. el˝oadás Intervallum becslés

Bevezetés Az eddigiek során arra t¨ orekedt¨ unk, hogy megfigyeléseink alapján egyetlen értékkel becs¨ ulj¨ uk az ismeretlen paramétert. Ebben a szakaszban a feladat megadni egy Γ ⊂ Θ tartományt, amelyre P(θ ∈ Γ) = 1 − α. Defin´ıció Legyen a Θ ∈ R, az x1 , x2 , . . . , xn minta. A cn (x1 , x2 , . . . , xn ) ≤ Θ ≤ Θ fn (x1 , x2 , . . . , xn ) Θ 1 − α megb´ızhatóság´ u konfidencia intervallum a Θ paraméterre, ha cn ≤ Θ ≤ Θ fn ) = 1 − α. PΘ (Θ


30/62


1. Tekints¨ unk egy x1 , x2 , . . . , xn mintát az m ismeretlen v´ arhat´ o ´ ert´ ek˝ u és σ 2 ismert sz´ orásnégyzet˝ u normális eloszlásra. (X ∼ N (m, σ 2 )) √

Tudjuk, hogy X ∼ N (m, σn ), ´ıgy n(Xσ−m) standard normális eloszlás´ u. Ezért egy adott 1 − ε megb´ızhat´ osági szinthez válasszunk √olyan u ∈ R-t, hogy Pm (−u ≤ n(Xσ−m) ≤ u) = 1 − ε, Φ(u) = 1 − 2ε , ahonnan Pm (X − u ε2 √σn < m < X + u ε2 √σn ) = 1 − ε. Tehát az m-re kapott 1 − ε megb´ızhatósági szint˝ u konfidencia intervallum: σ σ X − u ε2 √ ; X + u ε2 √ n n 2


31/62


2. Szerkessz¨ unk konfidencia intervallumot a σ 2 sz´ or´ asn´ egyzetre, ha az m várható érték ismert. Felhasználjuk, hogy n X (xi − m)2 σ2 i=1

statisztika χ2 eloszlás´ u n szabadsági fokkal, ´ıgy n 1 X

χ2ε

i=1

n 1 X (xi − m) ; 2 (xi − m)2 χε 2

! .

i=1


32/62


3. Adjunk meg konfidencia intervallumot m-re, ha σ 2 is ismeretlen! Mivel √ n(X − m) sn∗ t-eloszlás´ u n − 1 szabadsági fokkal, ´ıgy √ n(X − m) P(−t ε2 < < t ε2 ) = 1 − ε, sn∗ ahonnan a konfidencia intervallum: sn∗ sn∗ X − t ε2 √ ; X + t ε2 √ n n


33/62


4. Szerkessz¨ unk konfidencia intervallumot egy A esemény ismeretlen P(A) = p val´ osz´ın˝ us´ eg´ ere az A eseményre végzett n szám´ u f¨ uggetlen k´ısérlet alapján. A Csebisev-egyenl˝ otlenségb˝ol kapjuk, hogy ! r P

X − p < ε

p(1 − p) n

valamint felhasználva, hogy p(1 − p) ≤ P

>1− 1 4

1 , ε2

kapjuk, hogy

r ! X − p < ε 1 > 1 − 1 . 4n ε2

Így a kapott intervallum

1 1 X − ε √ ;X + ε √ 2 n 2 n


34/62

11. el˝oadás Hipotézisvizsgálat

Defin´ıció A vizsgálandó feltételezést nullhipotézisnek nevezz¨ uk (jele: H0 ), ezzel ellentétes áll´ıtás az alternat´ıv hipotézis (jele: H1 ). Defin´ıció Azt az eljárást, amelynek során a minta seg´ıtségével dönt¨ unk a hipotézisr˝ol, statisztikai pr´ obának nevezz¨ uk. Ha az eloszlás jellege ismert és a nullhipotézis¨ unk az eloszlás valamely paraméterére vonatkozik, akkor paraméteres próbáról beszél¨ unk.


35/62


Defin´ıció Ha Θ0 egy pontból áll´ o halmaz, a nullhipotézis egyszer˝ u, ellenkedz˝o esetben összetett. Defin´ıció A H0 : Θ = Θ0 nullhipotézis és H1 : Θ > Θ0 (H1 : Θ < Θ0 ) ellenhipotézis esetén egyoldali nullhipot´ ezisr˝ ol illetve egyoldali pr´ ob´ ar´ ol beszél¨ unk. A H0 : Θ = Θ0 nullhipotézis és H1 : Θ 6= Θ0 alak´ u hipotézis esetén k´ etoldali pr´ ob´ ar´ ol beszél¨ unk.


36/62


Defin´ıció Bontsuk fel a teret C0 és C1 diszjunkt halmazokra. Ha a minta x1 , x2 , . . . , xn realizációja a C0 halmaz eleme, akkor elfogadjuk a nullhipotézist, ha x1 , x2 , . . . , xn a C1 eleme, akkor H1 alternat´ıv hipotézist fogadjuk el. Defin´ıció A C0 halmazt elfogadási tartománynak, a C1 halmazt kritikus tartománynak nevezz¨ uk. Defin´ıció A Pθ (C1 ) ≤ α, θ ∈ Θ0 realizáci´ ot teljes´ıt˝ o α számot a próba terjedelmének (kritikus tartomány) nevezz¨ uk.


37/62


Defin´ıció Ha adott C1 tartomány esetén elfogadjuk vagy elvetj¨ uk a hipotézist a paraméterre vagy az F alakjára, akkor azt statisztikai próbának nevezz¨ uk. Defin´ıció Egy próbát α-szint˝ unek nevez¨ unk, ha P((x1 , x2 , . . . , xn ) ∈ C1 |H0 ) ≤ α.


38/62


Defin´ıció Ha H0 igaz és ennek ellenére elvetj¨ uk, akkor azt mondjuk, hogy els˝ofaj´ u hibát követ¨ unk el. Megjegyzés Az els˝ofaj´ u hiba elkövetésének val´ osz´ın˝ usége P((x1 , x2 , . . . , xn ) ∈ C1 |H0 ) = α. Tehát a próba szintjével egy¨ utt az els˝ ofaj´ u hiba elkövetésének a valósz´ın˝ uségét is rögz´ıtj¨ uk. Defin´ıció Ha a H1 hipotézis az igaz és mégis elfogadjuk H0 -t, akkor azt mondjuk, hogy másodfaj´ u hibát k¨ ovet¨ unk el. Dr. Kar´ acsony Zsolt — Val´ osz´ın˝ us´ egsz´ am´ıt´ as ´ es Matematikai statisztika

39/62


Defin´ıció Jelölje H0 azt, hogy Θ a val´ odi paraméter. R¨ ogz´ıtett C1 kritikus tartomány esetén a γ(Hθ ) = P((x1 , x2 , . . . , xn ) ∈ C1 |H0 ), θ ∈ Θ valósz´ın˝ uséget a próba er˝ of¨ uggvényének nevezz¨ uk.


40/62

11. el˝oadás Pr´ obák

U-próba (1 mintás eset) Az U-próba seg´ıtségével ismert sz´ orás´ u, normális eloszlás´ u valósz´ın˝ uségi változó várhat´ o értékére vonatkoz´ o hipotézisr˝ol dönthet¨ unk. E (X ) = m ismeretlen D(X ) = σ0 ismert paraméter. Hipotézis: H0 : E (X ) = m0 H1 : E (X ) = m1 6= m0 .


41/62


U-próba (1 mintás eset) Ha a nullhipotézis¨ unk igaz, akkor a pr´ obastatisztika U=

X − m0 √ n σ0

standard normális eloszlás´ u val´ osz´ın˝ uségi változ´ o. Ha tehát igaz a nullhipotézis, akkor az U statisztika konkrét értéke 1 − α valósz´ın˝ uséggel (−u α2 , u α2 ) intervallumba esik.


42/62


U-próba (1 mintás eset) Így az elfogadási tartomány: X − m0 √ α C0 = (x1 , x2 , . . . , xn ) : n < u 2 σ0 Kritikus tartomány: X − m0 √ α C1 = (x1 , x2 , . . . , xn ) : n ≥ u 2 σ0


43/62


U-próba (2 mintás eset) Két f¨ uggetlen, ismert sz´ orás´ u, normális eloszlás´ u valósz´ın˝ uségi változó várható értékeinek azonosságár´ ol d¨ onthet¨ unk. (X ∼ N (m1 , σ12 ); Y ∼ N (m2 , σ22 ); n1 illetve n2 elem˝ u mintát tekintve.) Hipotézis: H0 : m1 = m2 ; H1 := m1 6= m2 . U-próbastatisztika: X −Y . U=q 2 σ1 σ22 + n1 n2


44/62


t-próba (1 mintás eset) Legyen X ∼ N (m, σ 2 ), ahol m és σ 2 is ismeretlenek. Tekints¨ unk egy x1 , x2 , . . . , xn n elem˝ u mintát. A hipotézis¨ unk a várható értékre vonatkozik: H 0 : m = m0 ; H1 := m 6= m0 . X −m √

n val´ osz´ın˝ uségi változ´ o (n − 1) Ismert, hogy az s ∗ n szabadságfok´ u t- eloszlás´ u.


45/62


t-próba (1 mintás eset) √ Tehát, ha a nullhipotézis igaz, akkor a t = X s−m n ∗ n próbastatisztika (n − 1) paraméter˝ u t eloszlás´ u. A kritikus tartomány: n α o C1 = (x1 , x2 , . . . , xn ) : |t| ≥ tn−1 2 Az elfogadási tartomány: n α o C0 = (x1 , x2 , . . . , xn ) : |t| < tn−1 2


46/62


t-próba (2 mintás eset) Legyen X és Y f¨ uggetlen, normális eloszlás´ u val´ osz´ın˝ uségi változó. (E (x) = m1 ; D(X ) = σ1 ; E (Y ) = m2 ; D(Y ) = σ2 ahol m1 , m2 , σ1 , σ2 ismeretlenek.) Az X val´ osz´ın˝ uségi változó n1 , még az Y n2 elem˝ u egymást´ ol f¨ uggetlen minták. A hipotézis a várható értékek azonosságára vonatkozik: H0 : m1 = m2 ; H1 := m1 6= m2 . A próba szintje 1 − α.


47/62


t-próba (2 mintás eset) A nullhipotézisr˝ol fennál, hogy X −Y

t=q (n1 − 1)sn∗21 + (n2 − 1)sn∗22

s

n1 n2 (n1 + n2 − 2) n1 + n2

statisztika n1 + n2 − 2 paraméter˝ u t-eloszlás´ u. A n α o C1 = (x1 , x2 , . . . , xn1 , y1 , y2 , . . . , yn2 ) : |t| ≥ tn1 +n2 −2 2


48/62


F-próba Két f¨ uggetlen, normális eloszlás´ u val´ osz´ın˝ uségi változó szórásainak egyenl˝oségét ellen˝orzi az F -pr´ oba. X ∼ N (m1 , σ12 ), n1 elem˝ u minta; Y ∼ N (m2 , σ22 ), n2 elem˝ u minta; A próba szintje: 1 − α. H0 : σ12 = σ22 ; H1 := σ12 6= σ22 .


49/62


F-próba Felhasználva, hogy

n1 −1 ∗2 s σ12 1

és

n2 −1 ∗2 s σ22 2

χ2 eloszlás´ uak (n1 − 1)

illetve (n2 − 1) paraméterekkel és f¨ uggetlenek, kapjuk, hogy a nullhipotézisre fennáll az F =

s1∗2 s2∗2

próbastatisztika F -eloszlás´ u (n1 − 1, n2 − 1) paraméterekkel.


50/62


χ2 -próba A χ2 -próba seg´ıtségével normális eloszlás´ u val´ osz´ın˝ uségi változók ismeretlen szórásnégyzetér˝ ol d¨ onthet¨ unk. Legyen X ∼ N (m, σ 2 ) eloszlás´ u, ahol m és σ is ismeretlen paraméterek. A hipotézis: H0 : σ = σ0 ; H1 := σ 6= σ0 . A próba szintje: 1 − α.


51/62


χ2 -próba Tudjuk, hogy

(n−1)s ∗2 σ2

χ2 -eloszlás´ u (n − 1) paraméterrel. Ha a

nullhipotézis igaz, akkor h =

(n−1)s ∗2 σ2

pr´ obastatisztika χ2 eloszlás´ u.


52/62



53/62

Tartalom



54/62

12. el˝oadás Regresszi´ os egyenesek

Beveztés Adott 2 mérési adatsor, amelyek alapján elkész´ıthet˝o a regressziós egyenes. Adott (x1 , y1 ), (x2 , y2 ), . . . , (xn , yn ). Keress¨ uk az y = bx + a egyenest, melyre Q(a, b) =

n X (yi − bxi − a)2 → min . i=1


55/62


Vezess¨ uk be a következ˝ o jel¨ oléseket: Pn Pn xi yi X = i=1 ; Y = i=1 n n Qx =

n X

xi2

2

− nX ; Qy =

i=1

n X

yi2 − nY

2

i=1

Qxy =

n X

xi yi − nX Y .

i=1

Ekkor a regressziós egyenes egyenlete: b=

Qxy ; a = Y − bX . Qx


56/62


´ anosan Altal´ y = b0 + b1 x1 + . . . + bn xn . Vezess¨ uk be a β > = (b0 , b1 , . . . , bn ) jel¨ olést. b A β becslését szeretnénk meghatározni. Ez az X > X βb = X > y egyenletrendszer megoldásával adódik.


57/62


Defin´ıció Az X > X βb = X > y egyenletrendszert normál-egyenletrendszernek nevezz¨ uk. Megjegyzés X > X egy pozit´ıv definit mátrix, ezért βb = (X > X )−1 X > y .


58/62


Példa Adottak a következ˝o (1,2); (2,4); (3,5); (4,8) pontok. Határozzuk meg az y = a + bx alak´ u regresszi´ os egyenest! (Megoldás: y=0+1.9x) Példa Tekints¨ uk a ξ valósz´ın˝ uségi változ´ ot, melyr˝ ol tudjuk a következ˝oket: 1 → 38; 2 → 53; 3 → 61; 4 → 48. 95%-os szinten ellen˝orizz¨ uk, hogy a minta egyenletes eloszlás´ u-e?


59/62

12. el˝oadás Cramer-Rao egyenl˝ otlenség

Tétel Legyen az (Ω, A, Pθ ), θ ∈ Θ statisztikai mez˝ on a T statisztika g (θ) torz´ıtatlan becslése, ahol g egy adott f¨ uggvény Θ-n és legyen E (T )2 lokálisan korlátos f¨ uggvény Θ-n. Ekkor g folytonosan differenciálható Θ-n, I (θ) 6= 0 minden θ ∈ Θ esetén és D 2 (T ) ≥

(g 0 (θ))2 I (θ),

ahol I (θ) a Fisher-féle informáci´ omennyiség.


60/62

12. el˝oadás Rao-Blackwell tétel

Defin´ıció Legyen (Ω, A, Pθ ), θ ∈ Θ statisztikai mez˝ o. A T : Ω → Rk statisztikát elégségesnek nevezz¨ uk, ha a Pθ (A|T = t), A ∈ A, t ∈ Rk feltételes val´ osz´ın˝ uségeknek megadható θ-tól f¨ uggetlen k¨ oz¨ os értéke. Rao-Blackwell tétel Legyen T elégséges statisztika az (Ω, A, Pθ ) statisztikai mez˝on és legyen gb(θ) a g (θ) véges sz´ orás´ u, torz´ıtatlan becslése. Ekkor a h(t) = E (b g (θ)|T = t) f¨ uggvényre fennállnak az alábbiak h csak t-t˝ol f¨ ugg és nem f¨ ugg θ-t´ ol; h(T ) torz´ıtatlan becslése g (θ)-nak; D 2 (h(T )) ≤ D 2 (b g (θ)).


61/62



62/62

Dr. Karácsony Zsolt. Miskolci Egyetem november

Recommend Documents