Statisztikai programcsomagok

Statisztikai programcsomagok Sz¶cs Gábor Szegedi Tudományegyetem, Bolyai Intézet

Szeged, 2012. tavaszi félév

Sz¶cs Gábor (SZTE, Bolyai Intézet)

Statisztikai programcsomagok

2012. tavaszi félév

1 / 26

Bevezetés

Statisztikai alapfogalmak

Statisztikai alapfogalmak Valószín¶ségelmélet: Ismert eloszlású véletlen változók tulajdonságai. Matematikai statisztika: A változók eloszlása ismeretlen, a vizsgálatot empirikus adatok (meggyelések) alapján végezzük. Leíró statisztika: Az empirikus adatok összegy¶jtése és feldolgozása.

Statisztikai minta:

Meggyelések egy véletlen (vektor-)változó értékeire.

Statisztikaelmélet:

X

1

, . . . , Xn

FAE véletlen (vektor-)változók.

Gyakorlat: A változók egy realizációja, Az

n

értéket a

minta méretének

x

1

, . . . , xn

meggyelések.

nevezzük.

Kérdés: Mit állíthatunk a változók közös eloszlásáról a minta alapján.

GlivenloCantelli-tétel:

A háttéreloszlás 1 valószín¶séggel tetsz®leges

pontosággal meghatározható, amint az


n

mintaméret tart a végtelenbe.



2 / 26

Bevezetés


Néhány fontosabb alapprobléma: Becsléselmélet: ismeretlen mennyiségek becslése. Alapstatisztikák: várható érték, szórás, kovariancia, stb. Eloszlások ismeretlen paraméterei. Kondencia-intervallumok: intervallumbecslés. Hipotézisvizsgálat: állítások valóságtartalmának tesztelése. Alapstatisztikák becslésének tesztelése. Eloszlástesztek. Ha a meggyelések egy

X = (X ( ) , . . . , X (d ) ) 1

vektorváltozóra

vonatkoznak, akkor milyen kapcsolat van a komponensek között? Függetlenségvizsgálat. Regresszióanalízis: függvénykapcsolat a komponensek között. F®komponens-analízis, faktoranalízis: a komponensek számának csökkentése kis információveszteséggel. Klaszteranalízis: a meggyelések típuscsoportokba rendezése.




3 / 26

Bevezetés


Fontosabb alkalmazási területek: Gyógyászat: betegségtesztek, gyógyszerkísérletek. Közvéleménykutatások: politika és marketing. Pénzügyi matematika, biztosításmatematika. Egyéb: min®ségellen®rzés, meteorológia, adatbányászat, stb.

Nehézség: A statisztikai módszerek számításigényesek. Néhány számítógépes szoftver: Egyszer¶bb alkalmazások: Excel, Mathematica, Matlab. Statisztikai programcsomagok: SPSS, SAS, R. SPSS (Statistical Package for the Social Sciences), version 19. 1968-2010: Stanford University, SPSS Inc., v1-v18. 2010-: IBM, v19-v20. Az SPSS v20 angol nyelv¶ leírása az interneten: http://publib.boulder.ibm.com/infocenter/spssstat/v20r0m0/index.jsp




4 / 26

Bevezetés

Az SPSS programcsomag

Az SPSS programcsomag Input Window: Data View: bemeneti adatok, Variables and Cases. Variable View: a változók tulajdonságai. Properties

Variables Var1

Var2

Name Var1 Variables

Cases

1

Type

2 3 4

Var2 Var3 Var4

Data View

Variable View

Output Window: a statisztikai vizsgálatok eredményei. Másolás Microsoft Oce termékekbe, exportálás több formátumban.




5 / 26

Bevezetés

Az SPSS programcsomag

Beállítások a Variable View lapon: Name: a változó neve. Max. 8 karakter, tiltott:

, , %, . . .

Type: a változó típusa. Szám, szöveg, dátum, valuta, stb. Width: mez®szélesség, a megjelenített karakterek maximális száma. Decimals: az ábrázolt tizedesjegyek száma. Labels: cimkék, hosszabb magyarázat a változónevekhez. Values: a változó értékeinek kódolása, cimkézése. Missing: a hiányzó meggyelések kezelése, pl. többféle hiányok. Columns: a táblázat oszlopainak szélessége. Align: szövegigazítás jobbra, balra, középre. Measure: a változó mértéke. Meghatározza, hogy milyen statisztikai m¶veleteket hajthatunk végre a változó értékein. Scale: értelmezhet®ek a matematikai m¶veletek az értékeken. Ordinal: nincsenek matematikai m¶veletek, de van rendezés. Nominal: a változó értékei között nincs rendezés. Role: a változó szerepe a vizsgálatban, id®nként van jelent®sége.




6 / 26

Becsléselmélet és adatok ábrázolása

Alapfogalmak

Becsléselmélet és adatok ábrázolása Statisztikai minta:

X

1

, . . . , Xn ∼ F

F (x ), x ∈ R, ismeretlen. F eloszlás valamely θ = θ(F ) függvényére.

Feladat: Adjunk becslést az

FAE,

Alapstatisztikák: várható érték, szórás, kovariancia. Paraméteres eloszláscsaládokban a paraméter becslése. Kétfajta becsléssel fogunk dolgozni: Pontbecslések: A

θ

értéket a változóknak egy

θˆn = θˆn (X1 , . . . , Xn )

statisztikával becsüljük. Intervallumbecslések: A minta függvényében megadunk egy intervallumot, mely nagy valószín¶séggel tartalmazza a Legyen

θˆn = θˆn (X1 , . . . , Xn )

A becslés A becslés A becslés

θ

[an , bn ] értéket.

θ pontbecslése a minta alapján. torzítatlan, ha E (θˆn ) = θ. P gyengén konzisztens, ha θˆn −→ θ, n → ∞. er®sen konzisztens, ha θˆn → θ m.b.


a



7 / 26


Alapstatisztikák

Alapstatisztikák Várható érték:

E (X ) =

R R

x dF (x ).

Empirikus várható érték, mintaátlag, mean:

En (X ) = X := X

1

+ · · · + Xn

n

.

Tulajdonságai: torzítatlan és er®sen konzisztens. Variancia: Var(

X ) = E X − E (X )

2

=E

X

2

− E 2 (X ) .

(Korrigálatlan) empirikus variancia: Varn (

X ) := X

2 1

+ · · · + Xn2

n

−

X

2

.

Tulajdonságai: er®sen konzisztens, de torzított, ugyanis

E Sz¶cs Gábor (SZTE, Bolyai Intézet)

X)

Varn (

=

n − 1 Var(X ) . n



8 / 26


Alapstatisztikák

Variancia (folytatás):

Korrigált empirikus variancia, variance: ∗

X ) := n −n 1 Varn (X ) .

Varn (

Tulajdonságai: torzítatlan és er®sen konzisztens. Szórás:

D (X ) =

p

Var(

X ).

(Korrigálatlan) és korrigált empirikus szórás, standard deviation:

Dn (X ) :=

X),

p

Dn (X ) := ∗

Varn (

∗

p

X ) = n −n 1 Varn (X ) . r

Varn (

Tulajdonságaik: mindkett® er®sen konzisztens, a korrigált torzítatlan. A mintaátlag szórása: Var

X

= Var

X

1

+ · · · + Xn

n

=

Var(

n

X) ,

DX

D (X ) = √ . n

A mintaátlag szórásának becslése, standard error of the mean: ∗ n (X ) . SEn (X ) := D√ n




9 / 26


Alapstatisztikák

Ferdeség, skewness:

X − E (X ) := E D (X )

γ1

3

E X − E (X ) = / E X − E (X )

3

2

3 2

.

Jelentése: Ha

γ1 = 0,

akkor az eloszlás szimmetrikus a várható értékre.

Példa: normális eloszlás, fekete s¶r¶ségfüggvény. Ha Ha

γ1 > 0, γ1 < 0,

akkor az eloszlás balra d®l, kék görbe. akkor az eloszlás jobbra d®l, piros görbe.

Empirikus ferdeség:

g

1

3 Pn n i =1 Xi − X := 2 3/2 . Pn n i =1 Xi − X




10 / 26


Alapstatisztikák

Lapultság, kurtosis:

E X − E (X ) := E X − E (X )

4

γ2

2

2 − 3 .

Jelentése: Ha

γ2 = 0,

akkor az eloszlás olyan mértékben lapult, mint a

normális eloszlás; fekete s¶r¶ségfüggvény. Ha Ha

γ2 > 0, γ2 < 0,

akkor az eloszlás csúcsosabb, mint a normális; kék görbe. akkor az eloszlás lapultabb, mint a normális; piros görbe.

Empirikus lapultság:

g

2

Pn := P i =1 n i =1

Xi − X n Xi − X n


4 2

2

−3 .



11 / 26

Becsléselmélet és adatok ábrázolása A

qα

X

érték az

változó

Alapstatisztikák

α-kvantilise,

(0

< α < 1,)

ha

P (X < qα ) ≤ α ≤ P (X ≤ qα ) . Az

α-kvantilis

nem mindig egyértelm¶.

y α

qα

qα

Kvantilisfüggvény:

qα

qα

x

Q (α) = inf {x ∈ R : F (x ) ≥ α}.

Speciális kvantilisek: Medián:

α = 0, 5.

Alsó és fels® kvartilis: Decilisek:

α = 0, 25

és

α = 0, 75.

α = 0, 1, . . . , 0, 9.




12 / 26


Alapstatisztikák

Empirikus kvantilisfüggvény:

Kvantilisek (folytatás):

1

n

k +1 n+1

n+1 3

k = bα(n + 1)c

α

n+1

k n+1

1

n+1

X ∗ X ∗ X ∗, X ∗ 1

2

3

Xn∗

4

Xk∗

qα Xk∗+

1

A minta empirikus kvantilisei, percentiles:

qα = X ∗ , 1

∗ qα = Xbα( n+ )c +

α≤

1


1

n+1,

qα = Xn∗ ,

α≥

∗ α(n + 1)− α(n + 1) Xbα( n+1)c+1 , Statisztikai programcsomagok

n n+1, egyébként.


13 / 26


Alapstatisztikák

Medián becslése:

mn =

Xk∗+ , (Xk∗ + Xk∗+

1

)/2 , 1

n = 2k + 1 , n = 2k .

X ∗ , Xn∗ . A minta terjedelme, range: Xn∗ − X ∗ . Minimum, maximum:

1

1

Interkvartilis távolság, Interquartile range: Empirikus relatív szórás: Módusz:

Dn∗ (X )/X .

q,

0 75

− q0,25 .

A minta legnagyobb gyakoriságú eleme.

Diszkrét eloszlás esetén a legnagyobb valószín¶ség¶ érték becslése. Abszolút folytonos eloszlás esetén a s¶r¶ségfüggvény maximumának becslése.




14 / 26


Grakonok

Grakonok Grakonok az empirikus eloszlás ábrázolására:

Oszlopdiagramm, Bar:

Diszkrét (kevés érték¶) változó eloszlása.

Például: 100 kockadobás után az eredmények gyakorisága.

Hisztogramm, Histogram:

Folytonos (sok érték¶) változó eloszlása.

Például: 100 elem¶ minta standard normális eloszlásból.

25 15 15

14

32

28

20 17

11

16

4 1

Boxplot:

2

3

4

5

6

-3 -2 -1

3 0

1

2

3

Kvartilisek, ferdeség és extremális elemek ábrázolása.

Ábra a honlapomon.




15 / 26


Intervallumbecslések

Intervallumbecslések Legyen

θ = θ(F )

a háttéreloszlés egy függvénye,

Cél: Adjunk meg egy tartalmazza a Statisztikák:

θ

[a, b]

értéket.

an = an (X

1

0

< α < 1.

intervallumot, mely nagy valószín¶séggel

, . . . , Xn ),

bn = bn (X

1

, . . . , Xn ) .

1 − α megbízhatósági szint¶ kondencia-intervallum:

P

θ ∈ [an , bn ] = 1 − α .

Megjegyzések:

α = 0, 1, 0, 05, 0, 01. A minta egy x1 , . . . , xn realizációja esetén az [an , bn ] intervallum vagy tartalmazza a θ paramétert, vagy nem. A minták 1 − α hányada a jó minta, amikor θ ∈ [an , bn ]. Sok esetben csak közelít®leg 1 − α megbízhatóságú kondencia Jellemz®en

intervallumot tudunk konstruálni.




16 / 26



Példák: Kondencia intervallumot egy

xα = Φ(− ) 1

P X ∈ [−xα , xα ]

1

− α/2 ,

változó értékére

a = −xα ,

b = xα ,

= P − xα ≤ X ≤ xα = 2Φ(xα ) − 1 = 1 − α .

Kondencia intervallumot egy

) xα = Φ(− n

X ∼ Student(n)

változó értékére

a = −xα , b = xα , ∈ [−xα , xα ] = P − xα ≤ X ≤ xα = 2Φ(xα ) − 1 = 1 − α . 1

PX

X ∼ N(0, 1)


1

− α/2 ,



17 / 26



Példa: Kondencia intervallum egy véges szórású

σ = D (X ) X1 , . . . , Xn ∼ N(µ, σ2 )

várható értékre, ha a Ha

X ∼N

szórás ismert,

P

Ha

1

FAE, akkor

µ, σ 2 /n ,

X −√µ ∼ N(0, 1) , σ/ n

− α: X −µ σ σ √ ≤ xα + µ = P X − xα √ ≤ µ ≤ X + xα √ − xα + µ ≤ σ/ n n n

és így az alábbi valószín¶ség

X változó µ = E(X ) xα = Φ− 1 − α/2 .

X

1

általános, akkor a centrális határeloszlás-tételb®l

X − µ −→ D N (0 , 1 ) , σ

és így

X −√µ ≤ x + µ 1−α ← P − xα + µ ≤ α σ/ n σ σ = P X − xα √ ≤ µ ≤ X + xα √ n n .




18 / 26

Hipotézisvizsgálat

Alapfogalmak

Hipotézisvizsgálat Adott egy

X

1

, . . . , Xn

Nullhipotézis: Ellenhipotézis:

minta és két egymást kizáró állítás:

H0 . H1 . H0

Feltesszük, hogy vagy

vagy

H1

igaz.

Feladat: Döntsük el, hogy elfogadjuk vagy elvetjük

H0 -t.

Nehézség: A véletlen minta alapján nem állíthatunk biztosat.

P (elvetjük H -t | H igaz). Másodfajú hiba: P (elfogadjuk H -t | H nem igaz). Els®fajú hiba:

0

0

0

Legyen

0

<α<1

szignikancia szint, Megbízhatóság: Er®: Rögzített

rögzített érték, (általában

P (elvetjük

α

0

0, 1,

0, 05,

0, 01,)

ez a

a próba szigora. Célok:

P (elfogadjuk H0 -t | H0

H0 -t | H0 igaz) = 1 − α. nem igaz) → max.

mellett, ha a mintaméret


n → ∞,


akkor

er®

→ 1.


19 / 26


Alapfogalmak

Θ0 ∪ Θ1 = Rn , Θ0 ∩ Θ0 = ∅, olyan módon, hogy P (X1 , . . . , Xn ) ∈ Θ0 | H0 = 1 − α .

Legyen

Ekkor elfogadjuk

Elfogadási

vagy

H0 -t ⇐⇒ (X1 , . . . , Xn ) ∈ Θ0 . kritikus tartomány: Θ0 .

Lehetne ezt esetlen egyszer¶bben? Tekintsünk

próbastatisztikát: Sn = Sn (X , . . . , Xn ), egy kritikus értéket: xα , (ez α monoton

egy és

1

úgy, hogy

|Sn | ≤ xα ⇐⇒ (X1 , . . . , Xn ) ∈ Θ0 ⇐⇒

Kérdés: Hogyan teszteljünk egyszerre több

α

növekv® függvénye.) elfogadjuk

H0 -t.

szignikancia szinten?

Vegyük észre, hogy tetsz®leges minta esetén, ha ha

α α

elég kicsi,

(tehát

elég nagy,

(tehát

Θ0 Θ0

elég b®,)

akkor elfogadjuk

elég sz¶k,)

akkor elvetjük

H0 -t; H0 -t.

Adjuk meg azt a kritikus szignikancia szintet, mely alatt elfogadjuk, és mely fölött elvetjük a nullhipotézist. Ez az az



α,

melyre

|Sn | = xα .


20 / 26


Az u-próba

Az u-próba σ = D (X )

Tegyük fel, hogy

ismert, és legyen

H0 : E ( X ) = µ0 ,

H1 : E (X ) 6= µ0 .

Próbastatisztika, kritikus érték:

u = Xσ/−√µn

0

H0

Tegyük fel, hogy

P |u | ≤ xα Ha

H0

,

xα = Φ−

1

1

− α/2 .

igaz. Ha a háttéreloszlás normális, akkor

=P

X − xα √σn ≤ µ

0

σ ≤ X + xα √

= 1 − α.

n

igaz, de a háttéreloszlás nem normális, akkor

P |u | ≤ xα

=P


X − xα √σn ≤ µ

0

σ ≤ X + xα √


n

→ 1 − α.


21 / 26


További paraméteres próbák

További paraméteres próbák Legyen

X

1

, . . . , Xn

FAE minta,

H0 : E ( X ) = µ0 ,

Egymintás t-próba:

H1 : E (X ) 6= µ0 .

D (X )

A

szórás nem ismert.

Próbastatisztika, illetve az eloszlása normális eloszlású minta esetén

tn = D ∗X(X−)/µ√n ∼ Student(n − 1) . 0

n

Kritikus érték:

xα = Φn−

1

(1 − α/2).

Emlékeztet®ül, a kondencia intervallum a várható értékre:

[an , bn ] = Ekkor

E (X ) ∈ [an , bn ]


∗ ∗ n (X ) , X + x D√ n (X ) X − xα D√ α n n ⇐⇒ −xα ≤ tn ≤ xα .


.


22 / 26

Hipotézisvizsgálat Legyen

X

1

, . . . , Xn

és

Y

1


, . . . , Ym

két egymástól független minta,

H0 : E (X ) − E (Y ) = µ0 ,

Kétmintás t-próba:

Feltétel:

H1 : E (X ) − E (Y ) 6= µ0 .

D (X ) = D (Y ).

Próbastatisztika, illetve az eloszlása normális esetben:

tn,m =

Xp− Y − µ ∼ Student(n + m − 2) , D (n + m)/nm 0

∗ n ,m

ahol

D

r ∗ n ,m

=

(n − 1)Var∗n (X ) + (m − 1)Var∗m (Y ) ≈ D (X ) = D (Y ) . n+m−2

Ennek segítségével kondencia intervallum is adható az

E (X ) − E (Y )

különbségre.




23 / 26


Legyen

X

1

, . . . , Xn

és

Y

1

, . . . , Ym

H0 : E (X ) − E (Y ) = µ0 ,

Welch-próba:


két egymástól független minta,

H1 : E (X ) − E (Y ) 6= µ0 .

Nincs feltétel.


−µ tn0 ,m = Var∗ (X )/Xn−+YVar ∼ Student(ν) , ∗ (Y )/m 0

m

n

ahol

ν=

∗

X )/n

Varn (


∗

X )/n + Var∗m (Y )/m

Varn (

2

/(n − 1) +

∗

Varm (


2

Y )/m

2

/(m − 1)


.

24 / 26


(X1 , Y1 ), . . . , (Xn , Yn )

Legyenek


FAE mintaelemek,

H0 : E (X ) − E (Y ) = µ0 ,

Páros t-próba:

H1 : E (X ) − E (Y ) 6= µ0 .

Nincs feltétel.


µ √ ∼ Student(n − 1) . tn = VarX∗ (−X Y− −Y )/ n 0

n

Tegyük fel, hogy az teszteljük

H0 -t,

(X , Y )

vektor komponensei függetlenek. Mivel

kétmintás

t -próbával, (szükség esetén Welch-próbával,)

vagy páros t-próbával? Válasz: A kétmintás t-próbánál nagyobb a szabadsági fok, azért nagyobb a próba ereje, azt érdemes választani.




25 / 26


F-próba:

X , . . . , Xn és Y , . . . , Ym egymástól független minták, : D (X )/D (Y ) = σ , H : D (X )/D (Y ) 6= σ . 1

H0


1

0

1

0


∗

f Kritikus értékek:

x

1

=

X) Y )σ

Varn (

∗

Varm (

2 0

∼ Fn−1,m−1 .

= Fn−1,m−1 (α/2),

Akkor fogadjuk el a null-hipotézist, ha

F-próba

egy minta esetén:

X

1

, . . . , Xn

H0 : D (X ) = σ0 ,

x

x

= Fn−1,m−1 (1 − α/2). ≤ f ≤ x2 . 2

1

FAE,

H1 : D (X ) 6= σ0 .


f

= Var∗n (X )/σ02 ∼ Fn−1,∞ .

Kritikus értékek, elfogadás: mint a kétmintás esetben.




26 / 26

Statisztikai programcsomagok

Recommend Documents