Teorema Newman Pearson

Review Uji dua sisi untuk mean Teorema Neyman-Pearson

Teorema Newman Pearson pengujian terbaik

Andi Kresna Jaya [email protected] Jurusan Matematika

October 6, 2014 Andi Kresna Jaya [email protected]

Teorema Newman Pearson


Outline

1

Review

2

Uji dua sisi untuk mean

3

Teorema Neyman-Pearson

Back

Andi Kresna Jaya [email protected]



Outline

1

Review

2


3


Back




Outline

1

Review

2


3


Back




Sasaran pembelajaran: Mampu memahami teorema Neyman Pearson dan konsep pengujian hipotesis 1 2

Kemampuan melakukan pengujian hipotesis dua sisi Kemampuan menjelaskan daerah kritis terbaik

Metode: Kuliah dan Diskusi Text book: Hogg dan Craig, Introduction to Mathematical Statistics; Casella dan Berger, Statistical Inference




opening

If your experiment needs a statistician, you need a better experiment. Ernest Rutherford Andi Kresna Jaya [email protected]



Pada materi sebelumnya, telah dipelajari uji statistik yang hanya satu sisi. Misalkan akan dilakukan uji terhadap H0 : µ = 30.000 terhadap H1 : µ > 30.000, dengan µ adalah mean distribusi normal dan standar deviasinya σ = 5.000. Ini adalah satu sisi saja. Jika H1 : µ 6= 30, 000, maka pengujian yang dilakukan disebut uji dua sisi. Materi ini akan didahului tentang uji statistik dua sisi ini.
















large sample two-sided test for mean Misalkan X adalah peubah acak dengan mean µ dan variansi σ2. Akan diuji hipotesi null H0 : µ = µ0 terhadap hipotesis alternatif H1 : µ 6= µ0 . Misalkan X1 , X2 , · · · , Xn sampel acak sehingga diperoleh X¯ dan S 2 sebagai mean sampel dan variansi sampel. Jika terdapat suatu nilai h dan k sehingga X¯ ≤ h atau X¯ ≥ k, maka H0 ditolak. Ini berarti untuk suatu nilai α α = PH0 (X¯ ≤ h atau X¯ ≥ k) Karena ukuran sampel cukup besar, distribusi X¯ berdistribusi secara simetri terhadap µ0 dipengaruhi oleh H0 , sehingga secara intuisi α dibagi dua di sisi kiri dan kanan, yaitu PH0 (X¯ ≤ h) = α/2 dan PH0 (X¯ ≥ k) = α/2 Andi Kresna Jaya [email protected]















Karena kekonsistenan dari S 2 ke σ 2 , maka dibawah pengaruh H0 diperoleh (X¯ − µ0 ) D √ → N(0, 1). S/ n Maka bentuk itu akan memutuskan apakah H0 ditolak atau tidak. H0 ditolak (atau menerima H1 ) jika (X¯ − µ0 ) S/√n ≥ zα/2 .

Aproksimasi fungsi kuasanya dinyatakan dalam bentuk √ √ K (µ) = Pµ X¯ ≤ µ0 − zα/2 σ/ n + Pµ X¯ ≥ µ0 − zα/2 σ/ n √ √ n(µ0 − µ) n(µ0 − µ) − zα/2 + 1 − Φ + zα/2 = Φ σ σ














contoh 1 Misalkan X adalah lama pemakaian ban dalam 1000 mil berdistribusi normal dengan mean θ dan standar deviasi σ = 5. Pabrikan ban kemudian mengklaim bahwa produk ban milik mereka telah diproduksi menggunakan proses yang baru. Ujilah hipotesis H0 : µ = 30 terhadap H1 : µ 6= 30 jika sampel ban yang diambil n = 20 dan taraf keberartiannya α = 0, 05. Tentukan aproksimasi fungsi kuasanya. Bandingkan jika taraf keberartiannya α = 0, 01. Aturan penolakan untuk kasus ini untuk α = 0, 05 adalah (X¯ − 30) ≥ 1, 96. √ tolak H0 jika S/ 20 Nilai 1, 96 adalah nilai z0,05/2 pada distribusi Normal standar sehingga 0, 975 = Φ(z0,05/2 ) Andi Kresna Jaya [email protected]









Aproksimasi fungsi kuasa untuk uji hipotesis ini adalah (30 − µ) (30 − µ) − 1, 96 +1−Φ + 1, 96 . K0,05 (µ) = Φ 1, 118 1, 118 Sedangkan untuk α = 0, 01,aturan penolakan untuk kasus ini adalah (X¯ − 30) ≥ 2, 575. √ tolak H0 jika S/ 20 Nilai 2, 575 adalah nilai z0,01/2 pada distribusi Normal standar sehingga 0, 975 = Φ(z0,05/2 ) Aproksimasi fungsi kuasa untuk uji hipotesis ini adalah (30 − µ) (30 − µ) K0,01 (µ) = Φ − 2, 575 +1−Φ + 2, 575 . 1, 118 1, 118 Andi Kresna Jaya [email protected]












Perhatikan bahwa kurva fungsi kuasa di atas didasarkan pada distribusi Normal dengan variansi yang diberikan (σ = 5). Fungsi kuasa (aproksimasi) berdasar pada aturan penolakan H0 adalah (X¯ − µ0 ) ≥ zα/2 . √ tolak H0 jika S/ 20 Andi Kresna Jaya [email protected]



Sejatinya, jika X berdistribusi normal, maka aturan penolakan H0 : µ = µ0 terhadap H1 : µ 6= µ0 adalah (X¯ − µ0 ) ≥ tα/2,n−1 . √ tolak H0 jika S/ 20 Maka fungsi kuasa untuk kasus di atas harusnya didasarkan pada distribusi T. Untuk α = 0, 05 (X¯ − 30) ≥ t0,025,19 √ tolak H0 jika 5/ 20 (X¯ − 30) ≥ 2, 093. √ jika S/ 20




Sejatinya, jika X berdistribusi normal, maka aturan penolakan H0 : µ = µ0 terhadap H1 : µ 6= µ0 adalah (X¯ − µ0 ) ≥ tα/2,n−1 . √ tolak H0 jika S/ 20 Maka fungsi kuasa untuk kasus di atas harusnya didasarkan pada distribusi T. Untuk α = 0, 05 (X¯ − 30) ≥ t0,025,19 √ tolak H0 jika 5/ 20 (X¯ − 30) ≥ 2, 093. √ jika S/ 20




Misalkan sampel acak diambil dari distribusi N(µ1 , σ 2 ) dan N(µ2 , σ 2 ). Jika ukuran sampel dari kedua distribusi adalah n1 dan n2 . Mean dan variansi sampel pertama adalah X¯1 dan S12 . Mean dan variansi sampel kedua adalah X¯2 dan S22 . Perhatikan bahwa n = n1 + n2 adalah kombinasi ukuran sampel dan Sp2 =

(n1 − 1)S12 + (n2 − 1)S22 n1 + n2 − 2

adalah bobot rata-rata variansi sampel S12 dengan S22 , yang merupakan penaksir tak bias untuk σ 2 Aturan penolakan H0 : µ1 = µ2 terhadap H1 : µ1 6= µ2 untuk taraf keberartian α, jika dan hanya jika (X¯ − µ0 ) S/√20 ≥ tα/2,n−2 . Andi Kresna Jaya [email protected]




(n1 − 1)S12 + (n2 − 1)S22 n1 + n2 − 2





(n1 − 1)S12 + (n2 − 1)S22 n1 + n2 − 2




Neyman-Pearson Pada materi ini akan dibahas pengujian hipotesis dengan daerah kritis terbaik. Misalkan X adalah peubah acak dengan fkp f (x; θ) di mana θ ∈ Ω. Jika Ω dapat dipartisi dalam 2 himpunan bagian ω0 dan ω1 , sehingga nilai-nilai yang mungkin dari θ dapat terletak di salah satu himpunan bagian tersebut. Misalkan hipotesis H0 : θ ∈ ω0 dan H1 : θ ∈ ω1 , pengujian hipotesis didasarkan pada sampel X1 , X2 , · · · , Xn yang diambil dari distribusi X . sebuah uji untuk hipotesis didasarkan pada sebuah daerah kritis, C sehingga aturan ujinya adalah Tolak H0 jika (X1 , X2 , · · · , Xn ) ∈ C Terima H0 jika (X1 , X2 , · · · , Xn ) ∈ C 0 Andi Kresna Jaya [email protected]












Peluang terjadinya kesalahan tipe 1 adalah ukuran atau taraf keberartian untuk uji, α = max Pθ ((X1 , · · · , Xn ) ∈ C ). θ∈ω0

Peluang ini menyatakan bahwa peluang bahwa (X1 , · · · , Xn ) ∈ C ketika θ ∈ ω0 adalah parameter yang sebenarnya untuk distribusi. Peluang terjadinya kesalahan tipe 2 adalah peluang maksimum bahwa H1 ditolak ketika θ ∈ C 0 , KC (θ) = Pθ ((X1 , · · · , Xn ) ∈ C ) , θ ∈ ω1 .




Peluang terjadinya kesalahan tipe 1 adalah ukuran atau taraf keberartian untuk uji, α = max Pθ ((X1 , · · · , Xn ) ∈ C ). θ∈ω0

Peluang ini menyatakan bahwa peluang bahwa (X1 , · · · , Xn ) ∈ C ketika θ ∈ ω0 adalah parameter yang sebenarnya untuk distribusi. Peluang terjadinya kesalahan tipe 2 adalah peluang maksimum bahwa H1 ditolak ketika θ ∈ C 0 , KC (θ) = Pθ ((X1 , · · · , Xn ) ∈ C ) , θ ∈ ω1 .




contoh 1 Misalkan X adalah peubah acak distribusi binomial dengan n = 5 dan p = θ. Jika hipotesis untuk nilai θ adalah H0 : θ = 12 dan H1 : θ = 43 . Tentukan daerah kritis untuk α = 1/32. Untuk menjawab ini, pertama akan ditampilan tabel nilai 1 3 1 3 f x; 2 , f x; 4 dan rasio f x; 2 /f x; 4 untuk semua nilai x yang mungkin dari distribusi. x f x; 12 f x; 34

f (x; 12 ) f (x; 34 )

0

1

2

3

4

5

1 32

5 32

10 32

10 32

5 32

1 32

1 1024

15 1024

90 1024

270 1024

405 1024

243 1024

32

32 3

32 9

32 27

32 81

32 243




contoh 1 Misalkan X adalah peubah acak distribusi binomial dengan n = 5 dan p = θ. Jika hipotesis untuk nilai θ adalah H0 : θ = 12 dan H1 : θ = 43 . Tentukan daerah kritis untuk α = 1/32. Untuk menjawab ini, pertama akan ditampilan tabel nilai 1 3 1 3 f x; 2 , f x; 4 dan rasio f x; 2 /f x; 4 untuk semua nilai x yang mungkin dari distribusi. x f x; 12 f x; 34

f (x; 12 ) f (x; 34 )

0

1

2

3

4

5

1 32

5 32

10 32

10 32

5 32

1 32

1 1024

15 1024

90 1024

270 1024

405 1024

243 1024

32

32 3

32 9

32 27

32 81

32 243




Dari tabel,dapat dilihat bahwa untuk nilai α = 1/32 himpunan bagian dari nilai-nilai x yang mungkin hanya ada ada 2, yaitu A1 = {x : x = 0} dan A2 = {x : x = 5} sehingga P(A1 ) = 1/32 dan P(A2 ) = 1/32. Ini berarti hanya satu dari A1 dari A2 yang merupakan daerah kritis terbaik. Jika P(A1 ; θ = 1/2) =

1 32

dan P(A1 : θ = 3/4) =

1 1024 .

Sehingga dengan kondisi demikian, ketika A1 dijadikan daerah kritis, maka peluang menolak H0 ketika H1 benar lebih kecil daripada peluang menolak H0 ketika seharusnya H0 benar. Jika P(A2 ; θ = 1/2) =

1 32

dan P(A2 : θ = 3/4) =

243 1024 .

Sehingga dengan kondisi demikian, ketika A1 dijadikan daerah kritis, maka peluang menolak H0 ketika H1 benar lebih besar daripada peluang menolak H0 ketika seharusnya H0 benar. Maka daerah kritis terbaik adalah A2 . Andi Kresna Jaya [email protected]




1 32

dan P(A1 : θ = 3/4) =

1 1024 .


1 32

dan P(A2 : θ = 3/4) =

243 1024 .





1 32

dan P(A1 : θ = 3/4) =

1 1024 .


1 32

dan P(A2 : θ = 3/4) =

243 1024 .





1 32

dan P(A1 : θ = 3/4) =

1 1024 .


1 32

dan P(A2 : θ = 3/4) =

243 1024 .





1 32

dan P(A1 : θ = 3/4) =

1 1024 .


1 32

dan P(A2 : θ = 3/4) =

243 1024 .





1 32

dan P(A1 : θ = 3/4) =

1 1024 .


1 32

dan P(A2 : θ = 3/4) =

243 1024 .





1 32

dan P(A1 : θ = 3/4) =

1 1024 .


1 32

dan P(A2 : θ = 3/4) =

243 1024 .




contoh 2 Kasus yang sama di contoh 1, tentukan daerah kritisnya untuk α = 6/32. Misalkan bahwa H0 benar, maka terdapat 4 himpunan bagian dari ruang sampel, yaitu B1 = {x : x = 0, 1}, B2 = {x : x = 0, 4}, B3 = {x : x = 1, 5} dan 6 B4 = {x : x = 4, 5}, sehingga ukuran peluangnya 32 . Jika H1 benar, maka peluang untuk masing-masing himpunan 648 tersebut adalah P(B1 ) < P(B2 ) < P(B3 ) < P(B4 ) = 1024 . Maka daerah kritis yang dipilih adalah B4 = {x : x = 4, 5}. Dari contoh 1 dan 2, dapat diberikan kriteria sebuah daerah kritis terbaik.




















Definisi 1 Misalkan C adalah himpunan bagian dari ruang sampel A. C adalah daerah kritis terbaik dari ukuran α untuk uji hipotesis sederhana, H0 : θ = θ0 terhadap hipotesis alternatif (sederhana), H1 : θ = θ1 , jika berlaku Pθ0 ((X1 , X2 , · · · , Xn ) ∈ C ) = α ∀A ⊂ A berlaku Pθ0 ((X1 , X2 , · · · , Xn ) ∈ A) = α maka Pθ1 ((X1 , X2 , · · · , Xn ) ∈ C ) ≥ Pθ1 ((X1 , X2 , · · · , Xn ) ∈ A) . Misalkan X1 , X2 , · · · , Xn sampel acak berukuran n ∈ Z+ dari distribusi peluang yang fkp-nya f (x; θ). Fungsi likelihood untuk X1 , X2 , · · · , Xn adalah L(θ; x1 , · · · , xn ) =

n Y

f (xi ; θ)

i=1 Andi Kresna Jaya [email protected]



teorema Neyman-Pearson Teorema 1 Jika Ω = {θ0 , θ1 }, k bilangan positif, dan C himpunan bagian dari ruang sampel sehingga L(θ0 ;x1 ,··· ,xn ) L(θ1 ;x1 ,··· ,xn ) L(θ0 ;x1 ,··· ,xn ) L(θ1 ;x1 ,··· ,xn )

≤ k, ∀(x1 , · · · , xn ) ∈ C ≥ k, ∀(x1 , · · · , xn ) ∈ C 0

α = P ((X1 , X2 , · · · , Xn ) ∈ C ) . Maka C adalah daerah kritis terbaik untuk taraf keberartian α dari uji hipotesis sederhana H0 : θ = θ0 dan H1 : θ = θ1 .




contoh 3 Misalkan X1 , X − 2, · · · , Xn sampel acak dari distribusi N(θ, 1). Jika hipotesis sederhana yang akan diuji adalah H0 : θ = 0 vs H1 : θ = 1. Tentukan daerah kritis terbaik untuk taraf keberartian α. Karena distribusinya normal dengan mean θ dan variansi σ 2 = 1, maka fkp-nya adalah (x − θ)2 1 , −∞ < x < ∞. f (x; θ) = √ exp − 2 2π Bentuk fungsi likelihoodnya adalah n Pn (xi − θ)2 1 i=1 L(θ; x1 , x2 , · · · , xn ) = √ exp − , 2 2π untuk −∞ < xi < ∞, i = 1, 2, · · · , n. Andi Kresna Jaya [email protected]









Maka Pn 2 xi exp − i=1 2 L(0; x1 , x2 , · · · , xn ) Pn = 2 L(1; x1 , x2 , · · · , xn ) i=1 (xi −1) exp − 2 atau dapat ditulis menjadi L(0; x1 , x2 , · · · , xn ) = exp L(1; x1 , x2 , · · · , xn )

−

Pn

2 i=1 xi

+

Pn

i=1 (xi

− 1)2

2

.

Jika k > 0, sehingga untuk semua titik (x1 , x2 , · · · , xn ) berlaku ! n X n exp − xi + ≤ k, 2 i=1

maka himpunan semua titik (x1 , x2 , · · · , xn ) yang memenuhi bentuk tersebut adalah daerah kritis terbaik. Andi Kresna Jaya [email protected]




−

Pn

2 i=1 xi

+

Pn

i=1 (xi

− 1)2

2

.






−

Pn

2 i=1 xi

+

Pn

i=1 (xi

− 1)2

2

.






−

Pn

2 i=1 xi

+

Pn

i=1 (xi

− 1)2

2

.





Bentuk exp −

P

xi +

n 2

x¯ ≥ dengan x¯ =

P

≤ k ekuivalen dengan 1 ln k − = c, 2 n

xi /n.

Jadi daerah kritis terbaik untuk kasus ini dapat dinyatakan sebagai C = {(x1 , x2 , · · · , xn ) : x¯ ≥ c} . Uji hipotesisnya dapat didasarkan pada statistik X¯ . Jika x¯ > c, H0 ditolak untuk taraf keberartian α. Peluang penolakan H0 , ketika H0 benar adalah α. Jika x¯ < c, H0 diterima. Peluang menolak H0 ketika H0 salah adalah nilai kuasa untuk uji ketika θ = 1.




Bentuk exp −

P

xi +

n 2


P


xi /n.





Bentuk exp −

P

xi +

n 2


P


xi /n.





Bentuk exp −

P

xi +

n 2


P


xi /n.





Bentuk exp −

P

xi +

n 2


P


xi /n.





Bentuk exp −

P

xi +

n 2


P


xi /n.





Peluang/nilai kuasa-nya dinyatakan P(X¯ ≥ c; H1 ) =

Z c

∞

1 n(¯ x − 1)2 p exp − d x¯. 2 2π/n

Sebagai contoh, p jika n = 25 dan α = 0.05, maka diperoleh nilai c = z0,05 1/25 = 1, 645/5 = 0, 329. Sehingga nilai kuasa untuk H1 benar adalah Z ∞ 1 25(¯ x − 1)2 ¯ p P(X ≥ 0, 329; H1 ) = exp − d x¯ 2 2π/25 0,329 0, 329 − 1 = 1−Φ 1/5 = 1 − 0, 000397 = 0, 999603.





Z c

∞

1 n(¯ x − 1)2 p exp − d x¯. 2 2π/n






Z c

∞

1 n(¯ x − 1)2 p exp − d x¯. 2 2π/n





Teorema Neyman-Pearson ini juga dapat diterapkan pada pengujian bentuk distribusi. Jika H0 adalah hipotesis sederhana bahwa fkp bersama adalah g (x1 , x2 , · · · , xn ) dan H1 adalah fkp bersama h(x1 , x2 , · · · , xn ), maka daerah kritis terbaik C untuk taraf keberartian α pada uji hipotesis H0 dengan H1 memenuhi syarat: g (x1 ,x2 ,··· ,xn ) h(x1 ,x2 ,··· ,xn ) g (x1 ,x2 ,··· ,xn ) h(x1 ,x2 ,··· ,xn )

≤ k, ∀(x1 , · · · , xn ) ∈ C

≥ k, ∀(x1 , · · · , xn ) ∈ C 0 α = P ((X1 , X2 , · · · , Xn ) ∈ C ) .

Berikut adalah sebuah contoh.





≤ k, ∀(x1 , · · · , xn ) ∈ C

≥ k, ∀(x1 , · · · , xn ) ∈ C 0 α = P ((X1 , X2 , · · · , Xn ) ∈ C ) .






≤ k, ∀(x1 , · · · , xn ) ∈ C

≥ k, ∀(x1 , · · · , xn ) ∈ C 0 α = P ((X1 , X2 , · · · , Xn ) ∈ C ) .





contoh 4 Misalkan X1 , X − 2, · · · , Xn sampel acak dari sebuah fkp f(x) yang positif untuk nilai-nilai x adalah bilangan bulat tak negatif. Jika hipotesis sederhana yang akan diuji adalah H0 : f (x) =

e −1 , x = 0, 1, 2, · · · , x!

melawan hipotesis sederhana x+1 1 , x = 0, 1, 2, · · · . H1 : f (x) = 2 Tentukan daerah kritis terbaik untuk taraf keberartian α.




contoh 4 Misalkan X1 , X − 2, · · · , Xn sampel acak dari sebuah fkp f(x) yang positif untuk nilai-nilai x adalah bilangan bulat tak negatif. Jika hipotesis sederhana yang akan diuji adalah H0 : f (x) =

e −1 , x = 0, 1, 2, · · · , x!

melawan hipotesis sederhana x+1 1 , x = 0, 1, 2, · · · . H1 : f (x) = 2 Tentukan daerah kritis terbaik untuk taraf keberartian α.




Misalkan kondisi H0 benar, maka fkp bersama X1 , X2 , · · · , Xn adalah g (x1 , · · · , xn ) =

e −n , xi = 0, 1, 2, · · · , i = 1, 2, · · · , n x1 !x2 ! · · · xn !

Misalkan kondisi H1 benar, maka fkp bersama X1 , X2 , · · · , Xn adalah n+P xi 1 , xi = 0, 1, 2, · · · , i = 1, 2, · · · , n. h(x1 , · · · , xn ) = 2 Maka rasio fkp bersama dari dua kondisi adalah n P 2e −1 2 xi g = h x1 !x2 ! · · · xn ! untuk xi = 0, 1, 2, · · · , i = 1, 2, · · · , n. Andi Kresna Jaya [email protected]




e −n , xi = 0, 1, 2, · · · , i = 1, 2, · · · , n x1 !x2 ! · · · xn !





e −n , xi = 0, 1, 2, · · · , i = 1, 2, · · · , n x1 !x2 ! · · · xn !




Jika k > 0, dan g /h ≤ k untuk (x1 , x2 , · · · , xn ) ∈ C , maka ! ! n n X Y xi log 2 − log (xi )! ≤ log k − n log 2e −1 = c. i=1

i=1

Maka daerah kritis terbaik C dapat dinyatakan ( ! ! ) n n X Y C = (x1 , x2 , · · · , xn ) : xi log 2 − log (xi )! ≤ c . i=1

i=1

Jadi, misalkan untuk n = 1 dan k = 1, maka daerah kritis terbaiknya adalah C = {x : x = 0, 3, 4, 5, · · · } Kuasa untuk uji ketika H0 benar adalah P(X ∈ C : H0 ) = 1 − P(X = 1, 2 : H0 ) = 1 − (0, 368 + 0, 184) = 0, 448 Andi Kresna Jaya [email protected]




i=1


i=1





i=1


i=1





i=1


i=1




Kuasa untuk uji ketika H1 benar adalah P(X ∈ C : H1 ) = 1 −P(X = 1, 2 : H1 ) = 1−



1 4

+

1 8

= 0, 625


Closing

If your experiment needs a statistician, you need a better experiment. Ernest Rutherford



Teorema Newman Pearson

Recommend Documents