Statistik Cukup
611.01.010 Pengantar Statistika Matematika II Bab 2: Sifat-Sifat Estimator Atina Ahdika, S.Si, M.Si
Statistika FMIPA Universitas Islam Indonesia
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Statistik Cukup
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Asas Reduksi Data Dalam kondisi real, kita tidak mengetahui parameter dari populasi data yang akan kita teliti Informasi dalam sampel X1 , X2 , . . . , Xn akan digunakan untuk melakukan inferensi tentang parameter θ Bila ukuran sampel n besar, kita perlu meringkas daftar nilai sampel x1 , x2 , . . . , xn atau mencari sifat-sifat kuncinya agar data tersebut bisa lebih bermakna Hal ini biasanya dikerjakan dengan menghitung statistiknya, misalkan mean sampel, variansi sampel, nilai observasi terbesar, dan nilai observasi terkecil.
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Statistik Cukup
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Untuk keperluan notasi, X = (X1 , X2 , . . . , Xn ) menyatakan sampel random, sedangkan x = (x1 , x2 , . . . , xn ) menyatakan nilai sampelnya Setiap statistik T = t(X ) selalu menghasilkan reduksi data Dalam melakukan inferensi, kita selalu menggunakan nilai terobservasi dari statistik yaitu T = t(X ) bukan keseluruhan sampel terobservasi x dan memperlakukan dua sampel x dan y sama asalkan t(x) = t(y ) meskipun nilai x dan y tidak sama
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Statistik Cukup
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Terdapat tiga asas reduksi data, 1
Asas Kecukupan (Sufficiency ) Asas kecukupan mengembangkan metode reduksi data yang tidak menghilangkan informasi tentang θ dengan meringkas data
2
Asas Likelihood Asas likelihood menggambarkan fungsi parameter yang ditentukan oleh sampel terobservasi yang memuat semua informasi tentang θ yang tersedia dari sampel
3
Asas Invarian Asas invarian adalah metode lain reduksi data yang mengawetkan beberapa sifat utama dari model
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Statistik Cukup
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Asas Kecukupan
Statistik cukup (sufficient statistics) untuk parameter θ adalah statistik yang dalam arti tertentu bisa menyerap semua informasi tentang θ yang termuat dalam sampel. Setiap informasi tambahan dalam sampel di samping harga statistik cukup, tidak memuat informasi tambahan tentang θ.
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Statistik Cukup
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Bila T = t(X ) adalah statistik cukup untuk θ, maka setiap inferensi tentang θ harus bergantung pada sampel X hanya melalui harga T = t(X ). Bila x dan y adalah dua titik sampel sedemikian hingga t(x) = t(y ), maka inferensi tentang θ harus sama, tidak tergantung apakah X = x atau Y = y yang terobservasi.
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Statistik Cukup
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Definisi 1 Statistik T = t(X ) disebut statistik cukup untuk suatu keluarga distribusi fX (x|θ) jika dan hanya jika distribusi bersyarat dari X diberikan harga T tidak bergantung pada θ: fX|T (x|t, θ) = h(x)
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Statistik Cukup
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Contoh 1
Misalkan X1 , X2 , . . . , Xn adalah i.i.d sampel acak berdistribusi Bernoulli dengan parameter θ, 0 < θ < 1. Akan ditunjukkan bahwa n P Xi adalah statistik cukup untuk θ. Perhatikan bahwa T T = i=1
menjumlah harga-harga Xi yang sama dengan 1 sehingga T berdistribusi Binomial(n, θ).
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Statistik Cukup
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Bukti: fX ,X ,...,Xn ,T (x1 , x2 , . . . , xn , t) fX,T (x, t) = 1 2 fT (t) fT (t) n n n Q x P P xi (1−xi ) θ i (1 − θ)1−xi θi=1 (1 − θ)i=1 i=1 = = n t n t n−t θ (1 − θ) θ (1 − θ)n−t t t
fX|T (x|t, θ) =
θt (1 − θ)n−t 1 1 = = = n t n n n−t θ (1 − θ) n P t t xi i=1
Karena fX|T (x|t, θ) tidak bergantung pada θ, maka T =
n P
Xi
i=1
adalah statistik cukup dari θ. Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Statistik Cukup
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Contoh 2
Misalkan X1 , X2 , . . . , Xn adalah i.i.d N(µ, σ 2 ) dengan σ 2 diketahui. ¯ = X1 +X2 +...+Xn Akan ditunjukkan bahwa mean sampel T = X n adalah statistik cukup untuk µ.
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Statistik Cukup
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Bukti:
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Statistik Cukup
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Definisi 2 Suatu statistik T = t(X ) adalah cukup untuk suatu keluarga distribusi fX (x|θ) jika dan hanya jika fungsi peluangnya dapat difaktorkan sebagai: fX (x|θ) = g (t(x)|θ) h(x)
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Statistik Cukup
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Contoh 3
Misalkan X1 , X2 , . . . , Xn adalah i.i.d berdistribusi Bernoulli dengan parameter θ, maka
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Statistik Cukup
fX (x|θ) =
n Y i=1 n P
θxi (1 − θ)1−xi xi
n−
n P
xi
= θi=1 (1 − θ) i=1 ! n X =g xi |θ h(x) i=1
dengan h(x) = 1. n P Jadi, T = Xi merupakan statistik cukup untuk θ. i=1
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Statistik Cukup
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Contoh 4
Misalkan X1 , X2 , . . . , Xn adalah i.i.d berdistribusi Normal dengan parameter (µ, σ 2 ) dengan σ 2 diketahui, maka
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Statistik Cukup
fX (x|θ) =
n Y
√
i=1
=
1
2 1 (xi −µ) 1 e − 2 σ2 2π σ
n ne σ
− 12
n P i=1
(xi −¯ x )2 σ2
(2π) 2 = h(x) g (¯ x |µ)
x −µ)2 1 (¯ σ2
e− 2
¯ adalah statistik cukup untuk µ. Jadi, T = X
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Statistik Cukup
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Bila T = t(X ) statistik cukup dan g (·) fungsi 1-1 maka g (t(X )) juga merupakan statistik cukup.
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Statistik Cukup
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Contoh 5
Misalkan X1 , X2 , . . . , Xn adalah peubah acak dengan fungsi peluang fXi (xi |θ) = θ x θ−1 , 0 < x < 1, θ > 0 Tunjukkan bahwa T =
n Q
Xi adalah statistik cukup untuk θ
i=1
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Statistik Cukup
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Bukti: fX (x|θ) =
n Y
θ xiθ−1
i=1
=θ
n
n Y
!θ−1 xi
i=1
=g
n Y
! xi |θ
h(x)
i=1
dengan h(x) = 1. n Q Jadi, T = Xi adalah statistik cukup untuk θ. i=1
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Statistik Cukup
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Contoh 6
Misalkan X1 , X2 , . . . , Xn adalah peubah acak i.i.d berdistribusi Uniform dengan parameter (0, θ), 0 < x < θ, akan ditunjukkan bahwa T = Max Xi adalah statistik cukup untuk θ.
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Statistik Cukup
Bukti: fX (x|θ) =
n Y 1 i=1
θ
,
0 < xi < θ
1 , 0 < max xi < θ θn 1 = n , I(0,θ) (max xi ) θ = g (max xi |θ) h(x) =
dengan h(x) = 1. Jadi, T = Max Xi adalah statistik cukup untuk θ.
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Statistik Cukup
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Definisi fX (x|θ) disebut keluarga eksponensial jika fX (x|θ) bisa ditulis sebagai " k # X fX (x|θ) = h(x) c(θ) exp wi (θ) ti (x) i=1
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Statistik Cukup
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Contoh 7 Misalkan X ∼ Binomial(n, θ), maka n x fX (x|θ) = θ (1 − θ)n−x x x θ n n = (1 − θ) x 1−θ x θ n n (1 − θ) exp log = x 1−θ θ n n (1 − θ) exp x log = x 1−θ n dengan h(x) = , c(θ) = (1 − θ)n , t(x) = x, dan x θ w (θ) = log 1−θ . Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Statistik Cukup
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Contoh 8
Misalkan X ∼ Eksp(λ) dengan λ = 1θ , maka 1 1 fX (x|θ) = e − θ x θ 1 1 = exp x · − θ θ dengan h(x) = 1, c(θ) = 1θ , t(x) = x, dan w (θ) = − 1θ .
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Statistik Cukup
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Contoh 9
Misalkan X ∼ N(µ, σ 2 ), maka
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Statistik Cukup
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Keluarga Lengkap
Jika T = t(X ) adalah statistik cukup dan keluarga eksponensial, maka statistik tersebut masuk ke dalam keluarga lengkap.
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Statistik Cukup
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Sifat Kelengkapan
Sifat Suatu statistik T = t(X ) memiliki sifat lengkap jika E (g (t)) = 0 ⇒ g (t) = 0
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Statistik Cukup
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Keluarga Eksponensial adalah keluarga lengkap tetapi keluarga lengkap tidak identik dengan keluarga Eksponensial. Contoh: X ∼ U(0, θ)
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Statistik Cukup
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Contoh 10
Misalkan Xi ∼ U(0, θ). Akan dibuktikan bahwa T = Max Xi adalah statistik lengkap.
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Statistik Cukup
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Bukti: Pertama kali yang harus dilakukan adalah mencari fungsi peluang T = t(X ). FT (t) = P(T ≤ t) = P(Max Xi ≤ t) = P(X1 ≤ t, X2 ≤ t, . . . , Xn ≤ t) n Y = P(Xi ≤ t)
(1)
i=1
Diketahui Xi ∼ U(0, θ), maka 1 fXi (xi ) = , 0 ≤ xi ≤ θ θ
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Statistik Cukup
Sehingga Zt P(Xi ≤ t) =
1 t dxi = θ θ
0
Kembali ke persamaan (1), maka FT (t) =
n Y
P(Xi ≤ t) =
i=1
fT (t) =
t n θ
=
tn θn
d n t n−1 FT (t) = , 0
Selanjutnya akan ditunjukkan bahwa E (g (t)) = 0 ⇒ g (t) = 0
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Statistik Cukup
Zθ g (t) fT (t) dt = 0
E (g (t)) = 0 θ Z
g (t)
n t n−1 dt = 0 θn
0
n θn
Zθ
g (t) t n−1 dt = 0
0
Kemudian kedua ruas diturunkan terhadap θ, sehingga diperoleh
Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Statistik Cukup
Zθ
d n g (t) t n−1 dt = 0 dθ θn 0 θ Zθ Z n(−n) n d g (t) t n−1 dt + n g (t) t n−1 dt = 0 n+1 θ θ dθ 0
0
−
Zθ
n2
n g (θ) θn−1 = 0 θn 0 Zθ n n g (θ) − n g (t) t n−1 dt + n =0 θ θ θ
θn+1
g (t) t n−1 dt +
0
0+n Atina Ahdika, S.Si, M.Si
g (θ) = 0 ⇒ g (θ) = 0 θ
611.01.010 Pengantar Statistika Matematika II
Statistik Cukup
Asas Reduksi Data Keluarga Eksponensial Keluarga Lengkap Sifat Kelengkapan Latihan
Latihan 1
Misalkan X1 , X2 , . . . , Xn adalah peubah acak-peubah acak berdistribusi Gamma dengan α = 2 dan β = θ > 0. Buktikan n P Xi adalah statistik cukup untuk θ definisi bahwa T = i=1
2
3
menggunakan definisi 1 dan 2. Buktikan bahwa keluarga distribusi Poisson dengan parameter θ termasuk dalam keluarga Eksponensial. Diketahui X1 , X2 , . . . , Xn adalah peubah acak dari distribusi dengan fXi (xi |θ) = θ2 x e −θx , 0 < x < ∞, θ > 0 Buktikan T =
n P
Xi adalah statistik cukup lengkap untuk θ.
i=1 Atina Ahdika, S.Si, M.Si
611.01.010 Pengantar Statistika Matematika II